VideoObjectMover / code /README.md
FrontRear's picture
Record successful code and checkpoint transfer
e32c2bd verified
|
Raw History Blame
9.31 kB

LampEdit 训练迁移交接(准备中)

状态:迁移包尚未完成、尚未完成新机器恢复测试。 本目录是 6000D 正在运行的训练代码快照;下载、数据清单、发布地址及新机器运行验证完成前,请勿当作可直接启动的最终版。

给接手者及其 AI 的任务

将当前 LampEdit 训练从 6000D 迁移到新的 Linux GPU 机器,从完整 checkpoint 继续训练,而不是重新初始化。首先检查数据和依赖齐全、机器实际显存与驱动,再在隔离目录恢复并做一次小步测试;确认无误后再执行正式训练。原机器的训练、数据和结果不因此被修改。

本次快照的事实

  • 当前训练:joint_current_v003_20261022_fix003_quality_hold;原运行进程使用单张 RTX 6000D(约 85,651 MiB 显存),新 GPU 的型号、数量、显存和驱动待师兄确认。
  • 目标 checkpoint:update_00001405.pt,完整快照含可训练任务参数、优化器、随机数状态、epoch、抽样顺序及游标;原始文件仍在 6000D。当前本地副本和远端存储状态见迁移目录,未上传的文件不得标为已交付。
  • checkpoint 的 epoch 编号为 1,update 为 1405,cursor 为 43232,累计样本读取次数为 44960;冻结清单包含 490 组、每组 256 对(125,440 条基础配对),不代表已经训练过整轮。
  • 该 checkpoint 对应256 对版本,不是后来扩展的 512 对。不能把 512 配对索引当作已生成齐位置框、颜色、强度条件的训练数据;新版本须另行完成接收及独立验证,再在安全的 epoch 边界接入。
  • 全量可用组、验证集、暂缓数据和本 epoch 的 490 组不是同一概念。保留 split_v1.json;验证集不得混入训练。原数据质量记录不应被改写。

交接位置

  1. 代码及交接文档:按用户最新要求放在现有 Hugging Face 数据集的 code/ 和 docs/ 目录,不再使用 GitHub。
  2. Hugging Face 模型仓库:https://huggingface.co/FrontRear/VideoObjectMover-checkpoint,用户要求公开;第 1405 次检查点已上传。Wan2.2 官方基座可以从其原仓库获取,不应误认为 checkpoint 自带完整基座。
  3. Hugging Face 数据仓库:https://huggingface.co/datasets/FrontRear/VideoObjectMover,用户已创建,公开。用户要求上传旧版 256 对数据,包含可读取的原始 RGB/视频帧、逐帧位置框、颜色、强度、reference、相机与所需数据清单;当前 490 组冻结清单优先,其他符合条件的旧版 256 数据也应单独清点,不混入 512 对。当前准备工作尚未完成对所有嵌套引用的清点及打包,不能假设已有目录已经完整。

具体提交版本和下载命令将在上传并验证成功后填写。公开数据可能包含原始场景资源;发布前须按项目已有授权核对可公开的资源范围和许可证,按实际情况填写 dataset card。

软件和硬件

原机实测:Linux、Python 3.10.8、PyTorch 2.8.0+cu128、CUDA 12.8、NVIDIA 驱动 595.71.05。Python 依赖参考 training_admin/requirements-training.txt 和 handoff/configs/requirements-extra.txt。新机器先检查:

nvidia-smi
python3 --version
df -h

建议新建独立 Python 环境,先根据 GPU 和驱动安装兼容的 PyTorch,再安装依赖。原代码使用 BF16、激活重算、全局批量 32、微批 1 和有界缓存;新 GPU 不能仅凭“更新”推断显存一定足够。多卡分布式训练未在本迁移包中验证,不能直接改成多卡并声称与原训练等价。

基座模型

原训练使用 Wan-AI/Wan2.2-TI2V-5B 官方基座,原路径为 models/Wan2.2-TI2V-5B。主要包括 3 个 diffusion safetensors 分片、Wan2.2_VAE.pth、models_t5_umt5-xxl-enc-bf16.pth 和 tokenizer;原机主要文件合计约 33 GiB。training_admin/MODEL_EXPECTED_FILES.json、MODEL_SHA256SUMS 和 download_weights.py 是原快照,可用于核对实际文件,注意该下载脚本原本为 6000D 固定路径设计,不能直接假定适配新机器。

模型程序:training_admin/reference_prefix_joint_current_v003_fix003_quality_hold/model.py。冻结 Wan 主体;可训练部分包含 LoRA、空间条件模块、环境光注入模块和 reference/null 标记。checkpoint 中保存的是任务参数及训练状态,不能单独替代官方基座。

原始目录结构与恢复时的关键约束

运行时代码按文件位置推导项目根目录,原始布局如下:

/root/autodl-tmp/LampEditTraining/
  handoff/code/LumiLens/                 # 原始依赖代码
  training_admin/
    MODEL_EXPECTED_FILES.json
    vae_float_entry.py
    reference_prefix_bbox_v1/           # 锁文件与资格快照等
    reference_prefix_joint_current_v003_fix003_quality_hold/
  models/Wan2.2-TI2V-5B/                # 官方模型
  data_v2/                               # 视频、条件、索引及 loader
  runs/reference_prefix_joint_current_v003/
    joint_current_v003_20261022_fix003_quality_hold/
      config.json
      EPOCH_0001_MANIFEST.json
      EPOCH_0001_MANIFEST_RECEIPT.json
      EPOCH_0001_VALIDATION_PREVIEW.json
      latest.pt -> update_00001405.pt
  cache/reference_prefix_joint_current_v003/

原 checkpoint 的 manifest_path 是绝对路径,并且代码在 --resume 时检查配置及各训练脚本内容;data_v2/bbox_conditions_v003_20261021/INDEX.json 等也可能包含绝对路径。把文件随意解压到另一目录后直接执行会失败。接手 AI 应先查清所有路径,选择在隔离容器中重建原目录,或在副本上完成明确的路径迁移、同步更新相应记录并测试;不可改写正在训练的原版文件。新路径方案还未经过端到端验证。

恢复的原则是同时保留 checkpoint、它记录的原始冻结清单、对应 config.json、epoch 收据、固定验证切分和完全匹配的训练代码。不得只传 model.py 和权重后宣称可以无损续训,也不得用新的 512 清单覆盖正在恢复的旧清单。torch.load(..., weights_only=False) 应只用于信任来源的 checkpoint。

上述材料完整、路径确认、环境就绪且显存足够后,原入口的命令形式为:

cd /root/autodl-tmp/LampEditTraining
python training_admin/reference_prefix_joint_current_v003_fix003_quality_hold/train_current.py \
  --run joint_current_v003_20261022_fix003_quality_hold --resume --max-updates 1406

这是单个新 update 的验证上限示例,要求提供的 checkpoint 确为 update 1405;不要在数据及路径未准备好时运行。该代码会写本地 run 状态和 checkpoint,并按原规则管理该 run 的旧 checkpoint,故必须先在隔离副本操作。完成后核对 update、loss 为有限数、恢复前后的数据游标、产出的新 checkpoint,以及清单和验证切分未被覆盖。若使用更新的 checkpoint,上限须相应调整。

数据内容和格式

旧配对以一个 49 帧视频为基础;每条训练配对需要源/目标帧、位置框及其坐标系和相机、颜色、强度、reference(适用时)及文本/环境条件。data_v2/... 与 bbox_v3/... 是便携引用前缀,由版本固定的 bbox_dataset.py 解释。部分条件以 RENDER.json 引用背景、label 和 wire 组合重建,仅根据清单直观出现的目录打包并不足以证明数据齐全。

原机整个 data_v2/assets 约 1.00 TiB,旧版 bbox assets 约 76.5 GiB;这包含历史和共享内容,并非本次训练闭包的最终大小。用户要求公开数据与模型;文件较多时应先完成完整依赖闭包并分片,避免把几十万个小文件原样上传到单目录。检查每个配对真实需要的帧及条件,不能把缺少位置框、颜色、强度的 512 配对计为完整。

排查与验收

  1. 检查下载仓库版本、文件大小及 checkpoint 与冻结清单的身份;需要时核对 SHA,传输校验用于确保文件没坏。
  2. 对应 490 组清单执行实际 loader 抽样,核对 49 帧、源/目标、位置框、颜色、强度、reference;验证集单独确认。大规模完整清点结果以正式接收记录为准。
  3. 检查 GPU 架构、显存、CPU 内存、磁盘余量、CUDA 和 Python 包;先做一次不覆盖正式结果的单 update 续训测试。
  4. 查看 STATUS.json、metrics.jsonl、新 checkpoint 及 loss;检查续训确实从指定 update 而不是从头开始。
  5. 完成数据集版本化后再讨论 512 对切换;固定保留原 256 对并新增 256 对的版本,只有条件齐全、实际可读取并接收后才可训练。

移交状态与未完成事项

  • 代码、文档、checkpoint 和本轮冻结清单已上传;checkpoint 与源文件、冻结清单与 checkpoint 的校验值已核对。
  • 完成视频和条件上传,核对目标机实际下载和读取。
  • 构建包含嵌套条件及验证集的数据闭包,测量体积并上传;保留数据来源与可公开范围。
  • 新 GPU 上验证环境、加载 checkpoint、实际训练至少一个 update。
  • 保持旧 256 对训练的恢复与 512 对新增配对分开记录。