Upload dsw/configs/train_xiaosen_style/train_xiaosen_dsw.toml with huggingface_hub

dsw/configs/train_xiaosen_style/train_xiaosen_dsw.toml

@@ -0,0 +1,202 @@
+# ============================================================
+#  PAI-DSW 配置 —— 「晓森」/ One obsession v20 (Illustrious)
+#  ----------------------------------------------------------
+#  与 config/train_xiaosen.toml 的差异【只有 4 处】，其余配方完全一致：
+#    1. 路径根目录  /kaggle/working  ->  /mnt/workspace/lora
+#    2. 单卡        multi_gpu.enabled = false（DSW 试用是一台单卡实例）
+#    3. 等效BS      5 x 12 x 1 = 60（原来是 5 x 12 x 2 = 120，双卡）
+#    4. 安全存档    改成周期性（DSW 无 12h 硬上限，但试用实例可能被回收）
+#
+#  ⚠️ 跑之前先读 docs/PAI-DSW-训练手册.md 第 6 节：
+#     先用 config/train_xiaosen_dsw_smoke.toml 验证「权重真的会更新」，
+#     再切本配置放开 800 epoch。
+# ============================================================
+
+[project]
+run_name = "xiaosen_dsw_20261002-1200"
+dataset_name = "xiaosen"
+name = "obv20_xiaosen"
+
+# ⚠️ DSW 的工作根目录 = $LORA_WORK = /mnt/workspace/lora
+#    （系统盘，实例【停止】后保留；但 15 天不启动会被清空，重要产物必须传 HF）
+output_dir = "/mnt/workspace/lora/output"
+logging_dir = "/mnt/workspace/lora/logs"
+
+use_run_folder = true
+
+[dataset]
+dataset_hf_repo = "BeiWay/lora_test"
+# ⚠️ TODO 2026-10-02：旧的 xiaosen 目录已从 HF 删除（用户要重做训练集）。
+# 这里填【新建的画风训练集】在 HF 上的路径，例如：
+#   dataset_hf_file = "xiaosen_style_261002-XXXX/dataset/xiaosen_style.zip"
+dataset_hf_file = "xiaosen_style_PLACEHOLDER/dataset/xiaosen_style.zip"
+hf_endpoint = "https://hf-mirror.com"
+hf_token_env = "HF_TOKEN"
+# Kaggle Dataset 路径在 DSW 上没有意义，留空即可（HF 拉取失败不会回退到这里）
+train_data_dirs = []
+reg_data_dir = ""
+
+auto_caption = true
+trigger_word = "xiaosen"
+caption_threshold = 0.35
+caption_overwrite = false
+
+repeat = 1
+# ⚠️ 与 config/train_xiaosen.toml 保持一致：2026-10-01 修正回 1280
+#    1280 基准下的分桶（本机 derive_params.py 实测 120 张）:
+#      (1024,1536)x55, (1280,1280)x25, (576,1024)x15, (1536,1024)x15, (1024,576)x10
+#      最大公因数 = 5 → tbs=5 整除每个桶 ✓
+resolution = "1280,1280"
+
+[model]
+model_path = ""
+# 首选：Civitai 直链（与本机 / Kaggle 实测成功的一致）
+model_url = "https://civitai.com/api/download/models/2657925?fileId=2545032"
+# ⚠️ 备用（推荐在阿里云上用这条）：Civitai 从中国大陆云出口可能不可达。
+#    先在本机把底模传一份到 HF，然后把下面这条取消注释：
+# model_url = "https://hf-mirror.com/BeiWay/lora_test/resolve/main/models/oneObsession_v20Bold.safetensors"
+model_filename = "oneObsession_v20Bold.safetensors"
+model_sha256 = "7CE890BD4225CAE66B73F5291D47DFC07C60012630DBA21CD0536D041254CD8B"
+auth_token_env = "CIVITAI_TOKEN"
+token_query_param = "token"
+
+download_vae = false
+vae_url = "https://huggingface.co/madebyollin/sdxl-vae-fp16-fix/resolve/main/sdxl_vae.safetensors"
+
+[training]
+# ===== 底模是 Illustrious（epsilon 预测）=> v-pred 四参数必须全关 =====
+v2 = false
+v_parameterization = false
+scale_v_pred_loss_like_noise_pred = false
+zero_terminal_snr = false
+
+network_module = "networks.lora"
+network_dim = 32
+network_alpha = 1
+
+optimizer_type = "Prodigy"
+learning_rate = 1
+unet_lr = 1
+text_encoder_lr = 1
+optimizer_args = ["decouple=True", "weight_decay=0.01", "use_bias_correction=True", "d_coef=2.0"]
+
+scale_weight_norms = 1
+
+lr_scheduler = "constant"
+lr_warmup_steps = 0
+
+max_train_epochs = 800
+
+# ===== 等效BS（单卡！）=====
+#   等效BS = tbs x gas x GPU数 = 5 x 12 x 1 = 60 = 120 / 2  ✓
+#   tbs 必须整除每一个桶：2:3->55, 1:1->25, 9:16->15, 3:2->15, 16:9->10
+#   55/5=11, 25/5=5, 15/5=3, 15/5=3, 10/5=2 —— 全部整除 ✓
+#   每 epoch = 120 / 60 = 2 steps
+train_batch_size = 5
+gradient_accumulation_steps = 12
+gradient_checkpointing = true
+lowram = false
+
+enable_bucket = true
+min_bucket_reso = 512
+max_bucket_reso = 2048
+bucket_reso_steps = 64
+
+# A10(SM86) 支持原生 bf16，理论上可换 full_bf16 + sdpa 提速；
+# 但本配置以【已在 Kaggle 实测跑通的 fp16 + xformers】为准，先保证能跑。
+# 冒烟通过后再考虑：mixed_precision="bf16" + full_bf16=true + xformers=false + sdpa=true
+mixed_precision = "fp16"
+save_precision = "fp16"
+save_model_as = "safetensors"
+save_every_n_epochs = 1
+seed = 1337
+
+max_token_length = 225
+keep_tokens = 0
+
+cache_latents = true
+cache_latents_to_disk = true
+
+# ===== 2026-10-02 必带修复（Kaggle 上实测过，不加会原样复现"权重不更新"）=====
+# fp32 VAE 缓存：fp16 VAE 会溢出 → latent 变 inf/nan → avr_loss=nan →
+#   GradScaler 每步静默跳过 optimizer.step() → lora_up 恒 0 = 训练空转。
+no_half_vae = true
+# 只训 unet：SDXL 的 TE LoRA 极易过热（实测中位 ‖ΔW‖ 顶到上限、clip 强度 1.0 时出纯噪点），
+#   而画风/角色 LoRA 的信息主要在 UNet；kohya 官方也建议 SDXL 用 --network_train_unet_only。
+network_train_unet_only = true
+persistent_data_loader_workers = true
+
+xformers = true
+sdpa = false
+
+# ===== 续训支持 =====
+# 2026-10-02 已开启：Arm 1 当初怀疑这三个 flag 导致权重不更新 → 已排除（真因是 fp16 VAE 溢出
+#   → avr_loss=nan → GradScaler 每步跳过；修法是 --no_half_vae=true）。开启后每 3h 落一份可续训存档。
+save_state = true
+save_state_on_train_end = true
+save_last_n_epochs_state = 2
+
+[multi_gpu]
+# DSW 免费试用是一台【单卡】实例（A10 24G / V100 16G / 纯 CPU）
+enabled = false
+num_processes = 1
+
+[monitor]
+enable_tensorboard = true
+
+auto_stop_on_overfit = true
+overfit_plateau_n = 8
+overfit_plateau_eps = 0.0005
+
+# 双门槛（v19 误停事故后新增，务必保留）
+overfit_min_key_norm = 0.1
+# 30 太大：本数据量下 plateau 常在 epoch 10~25 就出现；漏停会白烧额度。
+overfit_min_epoch = 10
+
+# ===== 死训练看门狗（与 key_norm 判据独立）=====
+nan_stop_n = 3
+no_update_stop_n = 5
+no_update_min_epoch = 3
+keys_scaled_drop_from = 50
+kill_on_keys_scaled_zero = false
+status_interval_steps = 10
+log_to_file = true
+
+[session]
+resume = true
+keep_alive = true
+keep_alive_interval = 60
+warn_hours = 10
+
+# ===== 自动续训（DSW 无 12h 硬上限，但会被闲置/超时关机）=====
+resume_from_hf = true
+# 保活循环上限：0 = 不设限（DSW 无 12h 硬上限，训练结束即退出）
+keepalive_max_hours = 0
+
+# ===== 安全存档（DSW 版）=====
+# Kaggle 有 12h 硬上限，所以那里是「满 11h 传一次」；
+# DSW 没有硬上限，但试用实例可能被闲置关机/回收，所以改成【每 3h 传一次】
+# （恢复点最多丢 3 小时；1280/等效BS60 下 3h ≈ 20~25 epoch，代价可接受）。
+# 任何时刻挂掉都能用 --resume 接上。设为 0 = 关闭该功能。
+state_upload_at_hours = 3.0
+state_upload_repeat_hours = 3.0
+
+[tunnel]
+provider = "cloudflared"
+local_port = 6006
+
+[upload]
+enabled = true
+backend = "huggingface"
+repo_id = "BeiWay/lora_test"
+repo_type = "dataset"
+private = false
+# ⚠️ 800 epoch x 228MB ≈ 178GB，本地盘必爆 —— 必须靠「边传边删」扛住。
+#    上传一旦失败，磁盘会在几十个 epoch 内被填满，训练报
+#    OSError: [Errno 28] No space left on device。
+watch = true
+delete_after_upload = true
+keep_pattern = ""
+token_env_var = "HF_TOKEN"
+# 中国大陆云出口直连 huggingface.co 不通，显式锁死镜像
+endpoint = "https://hf-mirror.com"