File size: 9,210 Bytes
422dc3b | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 | # 师兄侧 AI 训练交接:671 组全部参与训练,并持续接入新数据
**人类最新要求(2026-10-30):把已上传的 671 个不同组全部用于模型训练;后续新生产并交付的数据也要接入训练。不能停留在原来的 490 组,也不能仅下载 671 组而实际只训练一部分。** 本文是执行这一要求的入口;旧文档中只交付或只训练 490 组、把现有固定验证组永久排除在训练之外的内容,涉及本次数据使用目标时以本文为准。保留旧文档和原始训练记录作为历史依据。
## 1. 先认清交付范围
- 数据仓库:<https://huggingface.co/datasets/FrontRear/VideoObjectMover>;本次权威组清单:`releases/SELECTION_671.json`,以其中 `groups` 的 671 个唯一 `group` ID 为全集。先核对唯一 ID 数为 671,不把分片数、视频数或配对数当组数。
- 组成:原有 637 组(490 + 147)及补齐的 34 组。三个上传队列的 1,442 个分片及其约 923.0 GB,已按成功回执核对远端路径和大小。**上传完成不等于接收机下载、解包、依赖读取或训练通过。** 旧历史分片与共享资产同样必需,不要只下载 147 组或 34 组目录。
- 已知每组有 256 条配对;671 × 256 = **171,776 条基础配对**。这是应核对的清单数量,不是已实际训练完成的数量。
- 新补齐的 34 组中,33 组只有真实 A 机位,256 条配对可用作单机位数据;不要把重复帧或同一机位伪称跨机位。另 1 组 Garage03 沿用旧的双机位数据。后续新数据按其真实相机关系记录。
- 独立 checkpoint 仓库:<https://huggingface.co/FrontRear/VideoObjectMover-checkpoint>。可选最新完整 `update_00001453.pt`;其原始完整冻结清单、配置、代码、优化器和 RNG 状态必须与 checkpoint 配套。旧 README 的 `update_00001405.pt` / `--max-updates 1406` 只是旧示例;如果恢复 1453,最大步数必须大于 1453,不能照搬 1406。
- Wan 基座 `Wan-AI/Wan2.2-TI2V-5B` 需另行准备;任务 checkpoint 不包含完整基座。新机器依赖、路径、显存和恢复尚未做端到端验证,不要把本交接写成“已经在师兄机器跑通”。
## 2. 取得数据与代码
下载 `code/`、`metadata/`、`releases/SELECTION_671.json`、`releases/HANDOFF_671.md`、以及下列四套分片:
1. `releases/old256-v001/shards/`:原 490 组依赖的历史分片;
2. `releases/epoch490-direct-v1/shards/`:原 490 组其余分片;
3. `releases/remaining147-v1/`:另外 147 组的 PLAN 与分片,依赖前两套的共享资产;
4. `releases/recovered34-v1/`:补齐 34 组,按每个组 ID 下载所有分片及 metadata。
保持四套分片与依赖一起接收。每个 tar 使用 `data_v2` 相对根,按记录解压到同一个接收副本的 `data_v2/`,保留 `assets/` 和 `bbox_conditions_v003_20261021/`,以及每组 manifest 指向的条件、reference、视频/帧和其他间接依赖。处理路径重叠时以完整性和内容一致为准,不覆盖另一份不同内容。为归档、解包、基座和训练缓存预留实际空间;923.0 GB 是这三个新上传队列的分片字节数,不是含历史分片、解包、基座和训练缓存的总磁盘需求。
可使用师兄机器上已配置的 Hugging Face 访问方式或 `huggingface_hub.snapshot_download` 按以上路径下载。不要把 access token 写入文档、日志或仓库。数据以仓库实际文件为准:归档完成后,由接收端逐组核对 671 个 ID、各自的 256 条配对及依赖能被原 loader 实际打开;缺失的组或配对记入待修清单并反馈,**不能悄悄跳过后宣称覆盖 671 组**。原上传侧只核对了部分 49 帧加载,不能把它写成师兄端已逐对完整读取或逐帧人工验收。
## 3. 先正确恢复,再扩展到全部 671 组
1. 在师兄机器的独立目录恢复原模型基座、`update_00001453.pt` 及其对应的代码、配置、原始 epoch 清单/收据和运行状态。原训练使用绝对路径和代码/配置一致性检查;在副本上修复路径或提供兼容的目录映射,保留原始文件,不覆盖 6000D 原 checkpoint 和原冻结 manifest。先用一次小步实际恢复确认 update、有限 loss 和新 checkpoint,再扩大训练;不要从头训练或丢掉优化器状态来冒充续训。
2. 原 checkpoint 对应进行中的 490 组冻结清单。先保留其顺序和游标,在原有边界完成或使用经验证的安全迁移方案;**不要热改该 epoch 的 manifest、样本顺序或缓存。** 原快照的 `train_current.py` 在 resume 时从 checkpoint 恢复该 manifest;仅把新数据文件放到磁盘不会自动让 181 个额外组立即加入当前训练。
3. 在师兄侧代码副本中,把 `SELECTION_671.json` 的全部唯一 ID 映射到其实际解压后的 `train_manifest.json`、256 对及所有依赖,建立版本化、可被 loader 识别的训练索引。额外 147 与 34 组可能需要合并 `INDEX.json`、资格/路径配置和多样性元数据;旧代码的 `prepare.py` / `select_groups.py` 不保证自动识别它们。只在副本中做必要适配并验证,记录变更及新版本,不伪造旧代码的身份或修改原 checkpoint。
4. 人类要求是 **671 组全部用于训练**。因此新训练版本应把清单中所有 671 个组纳入训练候选,包括旧 `fixed_split` 中原划为 validation 的组;`remaining147-v1/PLAN.json` 中有 38 个这样的组。不要因沿用旧验证切分把它们永久排除。保留旧切分作为历史记录;这些组参与梯度更新后,**不得再把它们当作未见过的独立验证集**。若需要无偏验证,请使用与这 671 组不重叠的独立数据,并标明来源;在没有这样的数据时如实报告“暂无独立验证集”。
5. 原选组器每个 epoch 最多 500 组,以多样性为主;即使跨 epoch 运行,也没有保证全部组会被抽到。由接收端在训练代码副本中加入**覆盖队列**:以 671 个 ID 为全集,优先安排尚未训练的组,可在多个 epoch 分批完成;每组内 256 条基础配对都要实际经过训练采样。为每个 group ID / sample ID 记录 checkpoint、epoch、实际训练步骤和是否完成,不能把“加入索引”“选中一轮”或“开始训练”当作已经训练过。新 epoch 的 manifest 在边界生成后保持冻结。
6. 以实际训练覆盖记录核对:671 个组全部出现且每组 256 条基础配对全部实际使用,才报告“671 组全部训练过”。对于坏文件、缺依赖或加载失败,列出具体 ID 和原因并修复后接回队列;若还未修复,报告完成数与剩余数,不将它们算作完成。记录训练 loss、更新步数、checkpoint 和运行日志。检查点状态恢复和覆盖逻辑应先小规模实际测试,再扩大。
旧的训练/验证分离与 500 组上限在原代码里有显式检查;要实现上述最新要求,师兄侧需要**真实修改并验证副本中的索引、切分与选组/覆盖逻辑**,不能仅修改文档、改个计数或让断言失效后宣称全部接入。具体机器与代码依赖以真实运行结果为准。
## 4. 后续新数据也要使用
用户会继续生产新的场景/灯具/人物动作数据并通过同一 Hugging Face 仓库或另行明确的交付位置提供。不要把 671 视为永久固定上限。
- 定期检查数据仓库最新 release、组清单和用户提供的交付说明;每个批次记录 release ID、来源、实际文件、真实组 ID、配对数和相机关系。只把已实际交付且读取成功的新数据接入;不能把进行中的部分上传、纯索引或重复组当成完整新组。
- 下载并在独立接收目录解包,解决与已有组的共享依赖;组 ID 或 manifest 相同时先去重、核对版本。缺失或冲突具体列出,修复后加入,不要永久丢弃。
- 在当前 epoch 的安全边界建立新的版本化索引和冻结 manifest,加入新增数据到**训练覆盖队列**;优先使用尚未训练的新组,兼顾已有组复用与场景/灯具多样性。将新批次与 671 组的实际训练覆盖分别统计,持续推进直至每个已交付且可读取的新组都被使用。
- 如果后续批次采用与旧版不同的配对数、条件或文件结构,应在接收侧做实际适配和 loader 测试,不能只改一个数字或把原来 256 对误说成 512 对;数据保真与模型的真实输入一致后再接入训练。
- 若未来新数据被用作独立验证,则必须明确哪些数据被留作验证,不能既声称它们参与梯度训练又称其为未见验证集。
## 5. 给用户的进度汇报
每次汇报至少写清:接收的唯一组数、已实际可读组数、**已训练覆盖的唯一组数及配对数**、尚未训练或失败的具体组 ID、所用 checkpoint/训练步数、是否有独立验证集、后续新数据的接入情况。明确区分已上传、已下载、已读取、已排队和已真实训练;不要使用“组已上传”代替“组已训练”。
|