|
Download code/README.md from FrontRear/VideoObjectMover: direct link, hf CLI and curl.
- Browser
- Download file 9.31 kB
-
https://huggingface.co/datasets/FrontRear/VideoObjectMover/resolve/dec6edfa4c332acbb27a0ea0ef6911660ffe54ee/code/README.md
- Command line
-
hf download hf://datasets/FrontRear/VideoObjectMover@dec6edfa4c332acbb27a0ea0ef6911660ffe54ee/code/README.md
-
curl -L -o README.md https://huggingface.co/datasets/FrontRear/VideoObjectMover/resolve/dec6edfa4c332acbb27a0ea0ef6911660ffe54ee/code/README.md
9.31 kB
| # LampEdit 训练迁移交接(准备中) | |
| > **状态:迁移包尚未完成、尚未完成新机器恢复测试。** 本目录是 6000D 正在运行的训练代码快照;下载、数据清单、发布地址及新机器运行验证完成前,请勿当作可直接启动的最终版。 | |
| ## 给接手者及其 AI 的任务 | |
| 将当前 LampEdit 训练从 6000D 迁移到新的 Linux GPU 机器,**从完整 checkpoint 继续训练**,而不是重新初始化。首先检查数据和依赖齐全、机器实际显存与驱动,再在隔离目录恢复并做一次小步测试;确认无误后再执行正式训练。原机器的训练、数据和结果不因此被修改。 | |
| ## 本次快照的事实 | |
| - 当前训练:`joint_current_v003_20261022_fix003_quality_hold`;原运行进程使用单张 RTX 6000D(约 85,651 MiB 显存),新 GPU 的型号、数量、显存和驱动待师兄确认。 | |
| - 目标 checkpoint:`update_00001405.pt`,完整快照含可训练任务参数、优化器、随机数状态、epoch、抽样顺序及游标;原始文件仍在 6000D。当前本地副本和远端存储状态见迁移目录,未上传的文件不得标为已交付。 | |
| - checkpoint 的 epoch 编号为 `1`,update 为 `1405`,cursor 为 `43232`,累计样本读取次数为 `44960`;冻结清单包含 490 组、每组 256 对(125,440 条基础配对),不代表已经训练过整轮。 | |
| - 该 checkpoint 对应**256 对版本**,不是后来扩展的 512 对。不能把 512 配对索引当作已生成齐位置框、颜色、强度条件的训练数据;新版本须另行完成接收及独立验证,再在安全的 epoch 边界接入。 | |
| - 全量可用组、验证集、暂缓数据和本 epoch 的 490 组不是同一概念。保留 `split_v1.json`;验证集不得混入训练。原数据质量记录不应被改写。 | |
| ## 交接位置 | |
| 1. 代码及交接文档:按用户最新要求放在现有 Hugging Face 数据集的 `code/` 和 `docs/` 目录,不再使用 GitHub。 | |
| 2. Hugging Face 模型仓库:<https://huggingface.co/FrontRear/VideoObjectMover-checkpoint>,用户要求公开;第 1405 次检查点已上传。Wan2.2 官方基座可以从其原仓库获取,不应误认为 checkpoint 自带完整基座。 | |
| 3. Hugging Face 数据仓库:<https://huggingface.co/datasets/FrontRear/VideoObjectMover>,用户已创建,公开。用户要求上传**旧版 256 对数据**,包含可读取的原始 RGB/视频帧、逐帧位置框、颜色、强度、reference、相机与所需数据清单;当前 490 组冻结清单优先,其他符合条件的旧版 256 数据也应单独清点,不混入 512 对。当前准备工作尚未完成对所有嵌套引用的清点及打包,不能假设已有目录已经完整。 | |
| 具体提交版本和下载命令将在上传并验证成功后填写。公开数据可能包含原始场景资源;发布前须按项目已有授权核对可公开的资源范围和许可证,按实际情况填写 dataset card。 | |
| ## 软件和硬件 | |
| 原机实测:Linux、Python 3.10.8、PyTorch 2.8.0+cu128、CUDA 12.8、NVIDIA 驱动 595.71.05。Python 依赖参考 `training_admin/requirements-training.txt` 和 `handoff/configs/requirements-extra.txt`。新机器先检查: | |
| ```bash | |
| nvidia-smi | |
| python3 --version | |
| df -h | |
| ``` | |
| 建议新建独立 Python 环境,先根据 GPU 和驱动安装兼容的 PyTorch,再安装依赖。原代码使用 BF16、激活重算、全局批量 32、微批 1 和有界缓存;新 GPU 不能仅凭“更新”推断显存一定足够。多卡分布式训练未在本迁移包中验证,不能直接改成多卡并声称与原训练等价。 | |
| ## 基座模型 | |
| 原训练使用 `Wan-AI/Wan2.2-TI2V-5B` 官方基座,原路径为 `models/Wan2.2-TI2V-5B`。主要包括 3 个 diffusion safetensors 分片、`Wan2.2_VAE.pth`、`models_t5_umt5-xxl-enc-bf16.pth` 和 tokenizer;原机主要文件合计约 33 GiB。`training_admin/MODEL_EXPECTED_FILES.json`、`MODEL_SHA256SUMS` 和 `download_weights.py` 是原快照,可用于核对实际文件,注意该下载脚本原本为 6000D 固定路径设计,不能直接假定适配新机器。 | |
| 模型程序:`training_admin/reference_prefix_joint_current_v003_fix003_quality_hold/model.py`。冻结 Wan 主体;可训练部分包含 LoRA、空间条件模块、环境光注入模块和 reference/null 标记。checkpoint 中保存的是任务参数及训练状态,不能单独替代官方基座。 | |
| ## 原始目录结构与恢复时的关键约束 | |
| 运行时代码按文件位置推导项目根目录,原始布局如下: | |
| ```text | |
| /root/autodl-tmp/LampEditTraining/ | |
| handoff/code/LumiLens/ # 原始依赖代码 | |
| training_admin/ | |
| MODEL_EXPECTED_FILES.json | |
| vae_float_entry.py | |
| reference_prefix_bbox_v1/ # 锁文件与资格快照等 | |
| reference_prefix_joint_current_v003_fix003_quality_hold/ | |
| models/Wan2.2-TI2V-5B/ # 官方模型 | |
| data_v2/ # 视频、条件、索引及 loader | |
| runs/reference_prefix_joint_current_v003/ | |
| joint_current_v003_20261022_fix003_quality_hold/ | |
| config.json | |
| EPOCH_0001_MANIFEST.json | |
| EPOCH_0001_MANIFEST_RECEIPT.json | |
| EPOCH_0001_VALIDATION_PREVIEW.json | |
| latest.pt -> update_00001405.pt | |
| cache/reference_prefix_joint_current_v003/ | |
| ``` | |
| 原 checkpoint 的 `manifest_path` 是**绝对路径**,并且代码在 `--resume` 时检查配置及各训练脚本内容;`data_v2/bbox_conditions_v003_20261021/INDEX.json` 等也可能包含绝对路径。把文件随意解压到另一目录后直接执行会失败。接手 AI 应先查清所有路径,选择在隔离容器中重建原目录,或在副本上完成明确的路径迁移、同步更新相应记录并测试;不可改写正在训练的原版文件。新路径方案还未经过端到端验证。 | |
| 恢复的原则是同时保留 checkpoint、它记录的**原始冻结清单**、对应 `config.json`、epoch 收据、固定验证切分和完全匹配的训练代码。不得只传 `model.py` 和权重后宣称可以无损续训,也不得用新的 512 清单覆盖正在恢复的旧清单。`torch.load(..., weights_only=False)` 应只用于信任来源的 checkpoint。 | |
| 上述材料完整、路径确认、环境就绪且显存足够后,原入口的命令形式为: | |
| ```bash | |
| cd /root/autodl-tmp/LampEditTraining | |
| python training_admin/reference_prefix_joint_current_v003_fix003_quality_hold/train_current.py \ | |
| --run joint_current_v003_20261022_fix003_quality_hold --resume --max-updates 1406 | |
| ``` | |
| 这是**单个新 update 的验证上限示例**,要求提供的 checkpoint 确为 update 1405;不要在数据及路径未准备好时运行。该代码会写本地 run 状态和 checkpoint,并按原规则管理该 run 的旧 checkpoint,故必须先在隔离副本操作。完成后核对 update、loss 为有限数、恢复前后的数据游标、产出的新 checkpoint,以及清单和验证切分未被覆盖。若使用更新的 checkpoint,上限须相应调整。 | |
| ## 数据内容和格式 | |
| 旧配对以一个 49 帧视频为基础;每条训练配对需要源/目标帧、位置框及其坐标系和相机、颜色、强度、reference(适用时)及文本/环境条件。`data_v2/...` 与 `bbox_v3/...` 是便携引用前缀,由版本固定的 `bbox_dataset.py` 解释。部分条件以 `RENDER.json` 引用背景、label 和 wire 组合重建,**仅根据清单直观出现的目录打包并不足以证明数据齐全**。 | |
| 原机整个 `data_v2/assets` 约 1.00 TiB,旧版 bbox assets 约 76.5 GiB;这包含历史和共享内容,并非本次训练闭包的最终大小。用户要求公开数据与模型;文件较多时应先完成完整依赖闭包并分片,避免把几十万个小文件原样上传到单目录。检查每个配对真实需要的帧及条件,不能把缺少位置框、颜色、强度的 512 配对计为完整。 | |
| ## 排查与验收 | |
| 1. 检查下载仓库版本、文件大小及 checkpoint 与冻结清单的身份;需要时核对 SHA,传输校验用于确保文件没坏。 | |
| 2. 对应 490 组清单执行实际 loader 抽样,核对 49 帧、源/目标、位置框、颜色、强度、reference;验证集单独确认。大规模完整清点结果以正式接收记录为准。 | |
| 3. 检查 GPU 架构、显存、CPU 内存、磁盘余量、CUDA 和 Python 包;先做一次不覆盖正式结果的单 update 续训测试。 | |
| 4. 查看 `STATUS.json`、`metrics.jsonl`、新 checkpoint 及 loss;检查续训确实从指定 update 而不是从头开始。 | |
| 5. 完成数据集版本化后再讨论 512 对切换;固定保留原 256 对并新增 256 对的版本,只有条件齐全、实际可读取并接收后才可训练。 | |
| ## 移交状态与未完成事项 | |
| - [x] 代码、文档、checkpoint 和本轮冻结清单已上传;checkpoint 与源文件、冻结清单与 checkpoint 的校验值已核对。 | |
| - [ ] 完成视频和条件上传,核对目标机实际下载和读取。 | |
| - [ ] 构建包含嵌套条件及验证集的数据闭包,测量体积并上传;保留数据来源与可公开范围。 | |
| - [ ] 新 GPU 上验证环境、加载 checkpoint、实际训练至少一个 update。 | |
| - [ ] 保持旧 256 对训练的恢复与 512 对新增配对分开记录。 | |