File size: 9,953 Bytes
422dc3b
 
 
42cd39c
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
e32c2bd
42cd39c
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
e32c2bd
 
42cd39c
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105

> **2026-10-30 人类最新要求:671 组全部参与训练,后续新增数据也须接入。** 原 490 组清单仅用于安全恢复当前 epoch;不能把它当成最终训练全集。旧验证切分只保留历史记录,原 validation 组也须进入训练;独立验证需使用不重叠的新数据。具体下载、续训、覆盖与后续数据接收要求见 [671 组全覆盖与增量训练交接](https://huggingface.co/datasets/FrontRear/VideoObjectMover/blob/main/code/docs/TRAIN_ALL_671_AND_FUTURE.md)。本文与旧说明冲突处以新交接为准;它要求接收方实际实现并验证,不表示改动已完成。

# LampEdit 训练迁移交接(准备中)

> **状态:迁移包尚未完成、尚未完成新机器恢复测试。** 本目录是 6000D 正在运行的训练代码快照;下载、数据清单、发布地址及新机器运行验证完成前,请勿当作可直接启动的最终版。

## 给接手者及其 AI 的任务

将当前 LampEdit 训练从 6000D 迁移到新的 Linux GPU 机器,**从完整 checkpoint 继续训练**,而不是重新初始化。首先检查数据和依赖齐全、机器实际显存与驱动,再在隔离目录恢复并做一次小步测试;确认无误后再执行正式训练。原机器的训练、数据和结果不因此被修改。

## 本次快照的事实

- 当前训练:`joint_current_v003_20261022_fix003_quality_hold`;原运行进程使用单张 RTX 6000D(约 85,651 MiB 显存),新 GPU 的型号、数量、显存和驱动待师兄确认。
- 目标 checkpoint:`update_00001405.pt`,完整快照含可训练任务参数、优化器、随机数状态、epoch、抽样顺序及游标;原始文件仍在 6000D。当前本地副本和远端存储状态见迁移目录,未上传的文件不得标为已交付。
- checkpoint 的 epoch 编号为 `1`,update 为 `1405`,cursor 为 `43232`,累计样本读取次数为 `44960`;冻结清单包含 490 组、每组 256 对(125,440 条基础配对),不代表已经训练过整轮。
- 该 checkpoint 对应**256 对版本**,不是后来扩展的 512 对。不能把 512 配对索引当作已生成齐位置框、颜色、强度条件的训练数据;新版本须另行完成接收及独立验证,再在安全的 epoch 边界接入。
- 全量可用组、验证集、暂缓数据和本 epoch 的 490 组不是同一概念。保留 `split_v1.json`;验证集不得混入训练。原数据质量记录不应被改写。

## 交接位置

1. 代码及交接文档:按用户最新要求放在现有 Hugging Face 数据集的 `code/` 和 `docs/` 目录,不再使用 GitHub。
2. Hugging Face 模型仓库:<https://huggingface.co/FrontRear/VideoObjectMover-checkpoint>,用户要求公开;第 1405 次检查点已上传。Wan2.2 官方基座可以从其原仓库获取,不应误认为 checkpoint 自带完整基座。
3. Hugging Face 数据仓库:<https://huggingface.co/datasets/FrontRear/VideoObjectMover>,用户已创建,公开。用户要求上传**旧版 256 对数据**,包含可读取的原始 RGB/视频帧、逐帧位置框、颜色、强度、reference、相机与所需数据清单;当前 490 组冻结清单优先,其他符合条件的旧版 256 数据也应单独清点,不混入 512 对。当前准备工作尚未完成对所有嵌套引用的清点及打包,不能假设已有目录已经完整。

具体提交版本和下载命令将在上传并验证成功后填写。公开数据可能包含原始场景资源;发布前须按项目已有授权核对可公开的资源范围和许可证,按实际情况填写 dataset card。

## 软件和硬件

原机实测:Linux、Python 3.10.8、PyTorch 2.8.0+cu128、CUDA 12.8、NVIDIA 驱动 595.71.05。Python 依赖参考 `training_admin/requirements-training.txt` 和 `handoff/configs/requirements-extra.txt`。新机器先检查:

```bash
nvidia-smi
python3 --version
df -h
```

建议新建独立 Python 环境,先根据 GPU 和驱动安装兼容的 PyTorch,再安装依赖。原代码使用 BF16、激活重算、全局批量 32、微批 1 和有界缓存;新 GPU 不能仅凭“更新”推断显存一定足够。多卡分布式训练未在本迁移包中验证,不能直接改成多卡并声称与原训练等价。

## 基座模型

原训练使用 `Wan-AI/Wan2.2-TI2V-5B` 官方基座,原路径为 `models/Wan2.2-TI2V-5B`。主要包括 3 个 diffusion safetensors 分片、`Wan2.2_VAE.pth`、`models_t5_umt5-xxl-enc-bf16.pth` 和 tokenizer;原机主要文件合计约 33 GiB。`training_admin/MODEL_EXPECTED_FILES.json`、`MODEL_SHA256SUMS` 和 `download_weights.py` 是原快照,可用于核对实际文件,注意该下载脚本原本为 6000D 固定路径设计,不能直接假定适配新机器。

模型程序:`training_admin/reference_prefix_joint_current_v003_fix003_quality_hold/model.py`。冻结 Wan 主体;可训练部分包含 LoRA、空间条件模块、环境光注入模块和 reference/null 标记。checkpoint 中保存的是任务参数及训练状态,不能单独替代官方基座。

## 原始目录结构与恢复时的关键约束

运行时代码按文件位置推导项目根目录,原始布局如下:

```text
/root/autodl-tmp/LampEditTraining/
  handoff/code/LumiLens/                 # 原始依赖代码
  training_admin/
    MODEL_EXPECTED_FILES.json
    vae_float_entry.py
    reference_prefix_bbox_v1/           # 锁文件与资格快照等
    reference_prefix_joint_current_v003_fix003_quality_hold/
  models/Wan2.2-TI2V-5B/                # 官方模型
  data_v2/                               # 视频、条件、索引及 loader
  runs/reference_prefix_joint_current_v003/
    joint_current_v003_20261022_fix003_quality_hold/
      config.json
      EPOCH_0001_MANIFEST.json
      EPOCH_0001_MANIFEST_RECEIPT.json
      EPOCH_0001_VALIDATION_PREVIEW.json
      latest.pt -> update_00001405.pt
  cache/reference_prefix_joint_current_v003/
```

原 checkpoint 的 `manifest_path` 是**绝对路径**,并且代码在 `--resume` 时检查配置及各训练脚本内容;`data_v2/bbox_conditions_v003_20261021/INDEX.json` 等也可能包含绝对路径。把文件随意解压到另一目录后直接执行会失败。接手 AI 应先查清所有路径,选择在隔离容器中重建原目录,或在副本上完成明确的路径迁移、同步更新相应记录并测试;不可改写正在训练的原版文件。新路径方案还未经过端到端验证。

恢复的原则是同时保留 checkpoint、它记录的**原始冻结清单**、对应 `config.json`、epoch 收据、固定验证切分和完全匹配的训练代码。不得只传 `model.py` 和权重后宣称可以无损续训,也不得用新的 512 清单覆盖正在恢复的旧清单。`torch.load(..., weights_only=False)` 应只用于信任来源的 checkpoint。

上述材料完整、路径确认、环境就绪且显存足够后,原入口的命令形式为:

```bash
cd /root/autodl-tmp/LampEditTraining
python training_admin/reference_prefix_joint_current_v003_fix003_quality_hold/train_current.py \
  --run joint_current_v003_20261022_fix003_quality_hold --resume --max-updates 1406
```

这是**单个新 update 的验证上限示例**,要求提供的 checkpoint 确为 update 1405;不要在数据及路径未准备好时运行。该代码会写本地 run 状态和 checkpoint,并按原规则管理该 run 的旧 checkpoint,故必须先在隔离副本操作。完成后核对 update、loss 为有限数、恢复前后的数据游标、产出的新 checkpoint,以及清单和验证切分未被覆盖。若使用更新的 checkpoint,上限须相应调整。

## 数据内容和格式

旧配对以一个 49 帧视频为基础;每条训练配对需要源/目标帧、位置框及其坐标系和相机、颜色、强度、reference(适用时)及文本/环境条件。`data_v2/...` 与 `bbox_v3/...` 是便携引用前缀,由版本固定的 `bbox_dataset.py` 解释。部分条件以 `RENDER.json` 引用背景、label 和 wire 组合重建,**仅根据清单直观出现的目录打包并不足以证明数据齐全**。

原机整个 `data_v2/assets` 约 1.00 TiB,旧版 bbox assets 约 76.5 GiB;这包含历史和共享内容,并非本次训练闭包的最终大小。用户要求公开数据与模型;文件较多时应先完成完整依赖闭包并分片,避免把几十万个小文件原样上传到单目录。检查每个配对真实需要的帧及条件,不能把缺少位置框、颜色、强度的 512 配对计为完整。

## 排查与验收

1. 检查下载仓库版本、文件大小及 checkpoint 与冻结清单的身份;需要时核对 SHA,传输校验用于确保文件没坏。
2. 对应 490 组清单执行实际 loader 抽样,核对 49 帧、源/目标、位置框、颜色、强度、reference;验证集单独确认。大规模完整清点结果以正式接收记录为准。
3. 检查 GPU 架构、显存、CPU 内存、磁盘余量、CUDA 和 Python 包;先做一次不覆盖正式结果的单 update 续训测试。
4. 查看 `STATUS.json`、`metrics.jsonl`、新 checkpoint 及 loss;检查续训确实从指定 update 而不是从头开始。
5. 完成数据集版本化后再讨论 512 对切换;固定保留原 256 对并新增 256 对的版本,只有条件齐全、实际可读取并接收后才可训练。

## 移交状态与未完成事项

- [x] 代码、文档、checkpoint 和本轮冻结清单已上传;checkpoint 与源文件、冻结清单与 checkpoint 的校验值已核对。
- [ ] 完成视频和条件上传,核对目标机实际下载和读取。
- [ ] 构建包含嵌套条件及验证集的数据闭包,测量体积并上传;保留数据来源与可公开范围。
- [ ] 新 GPU 上验证环境、加载 checkpoint、实际训练至少一个 update。
- [ ] 保持旧 256 对训练的恢复与 512 对新增配对分开记录。