Clarify full 671-group training and future data handoff
Browse files- README.md +4 -1
- code/README.md +3 -0
- code/docs/TRAIN_ALL_671_AND_FUTURE.md +50 -0
- code/docs/后续增量数据交接.md +3 -0
- releases/HANDOFF_671.md +6 -3
README.md
CHANGED
|
@@ -5,11 +5,14 @@ language:
|
|
| 5 |
task_categories:
|
| 6 |
- video-to-video
|
| 7 |
---
|
|
|
|
|
|
|
|
|
|
| 8 |
# VideoObjectMover:训练迁移与旧版 256 对数据
|
| 9 |
|
| 10 |
本数据集用于交接 LampEdit 视频灯具编辑任务的旧版 256 对训练数据、代码及训练说明。公开仓库:<https://huggingface.co/datasets/FrontRear/VideoObjectMover>。
|
| 11 |
|
| 12 |
-
**
|
| 13 |
|
| 14 |
## 已规划的内容
|
| 15 |
|
|
|
|
| 5 |
task_categories:
|
| 6 |
- video-to-video
|
| 7 |
---
|
| 8 |
+
|
| 9 |
+
> **2026-10-30 人类最新要求:671 组全部参与训练,后续新增数据也须接入。** 原 490 组清单仅用于安全恢复当前 epoch;不能把它当成最终训练全集。旧验证切分只保留历史记录,原 validation 组也须进入训练;独立验证需使用不重叠的新数据。具体下载、续训、覆盖与后续数据接收要求见 [671 组全覆盖与增量训练交接](https://huggingface.co/datasets/FrontRear/VideoObjectMover/blob/main/code/docs/TRAIN_ALL_671_AND_FUTURE.md)。本文与旧说明冲突处以新交接为准;它要求接收方实际实现并验证,不表示改动已完成。
|
| 10 |
+
|
| 11 |
# VideoObjectMover:训练迁移与旧版 256 对数据
|
| 12 |
|
| 13 |
本数据集用于交接 LampEdit 视频灯具编辑任务的旧版 256 对训练数据、代码及训练说明。公开仓库:<https://huggingface.co/datasets/FrontRear/VideoObjectMover>。
|
| 14 |
|
| 15 |
+
**671 组对应的上传队列已完成;远端分片路径和大小已核对。接收方仍需实际下载、解包和验证训练读取。** 已提交和可下载的文件以 `Files and versions` 为准;只有清单或代码时,不能据此判断完整数据已发布。训练数据按真实完成的批次逐步追加。
|
| 16 |
|
| 17 |
## 已规划的内容
|
| 18 |
|
code/README.md
CHANGED
|
@@ -1,3 +1,6 @@
|
|
|
|
|
|
|
|
|
|
|
| 1 |
# LampEdit 训练迁移交接(准备中)
|
| 2 |
|
| 3 |
> **状态:迁移包尚未完成、尚未完成新机器恢复测试。** 本目录是 6000D 正在运行的训练代码快照;下载、数据清单、发布地址及新机器运行验证完成前,请勿当作可直接启动的最终版。
|
|
|
|
| 1 |
+
|
| 2 |
+
> **2026-10-30 人类最新要求:671 组全部参与训练,后续新增数据也须接入。** 原 490 组清单仅用于安全恢复当前 epoch;不能把它当成最终训练全集。旧验证切分只保留历史记录,原 validation 组也须进入训练;独立验证需使用不重叠的新数据。具体下载、续训、覆盖与后续数据接收要求见 [671 组全覆盖与增量训练交接](https://huggingface.co/datasets/FrontRear/VideoObjectMover/blob/main/code/docs/TRAIN_ALL_671_AND_FUTURE.md)。本文与旧说明冲突处以新交接为准;它要求接收方实际实现并验证,不表示改动已完成。
|
| 3 |
+
|
| 4 |
# LampEdit 训练迁移交接(准备中)
|
| 5 |
|
| 6 |
> **状态:迁移包尚未完成、尚未完成新机器恢复测试。** 本目录是 6000D 正在运行的训练代码快照;下载、数据清单、发布地址及新机器运行验证完成前,请勿当作可直接启动的最终版。
|
code/docs/TRAIN_ALL_671_AND_FUTURE.md
ADDED
|
@@ -0,0 +1,50 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# 师兄侧 AI 训练交接:671 组全部参与训练,并持续接入新数据
|
| 2 |
+
|
| 3 |
+
**人类最新要求(2026-10-30):把已上传的 671 个不同组全部用于模型训练;后续新生产并交付的数据也要接入训练。不能停留在原来的 490 组,也不能仅下载 671 组而实际只训练一部分。** 本文是执行这一要求的入口;旧文档中只交付或只训练 490 组、把现有固定验证组永久排除在训练之外的内容,涉及本次数据使用目标时以本文为准。保留旧文档和原始训练记录作为历史依据。
|
| 4 |
+
|
| 5 |
+
## 1. 先认清交付范围
|
| 6 |
+
|
| 7 |
+
- 数据仓库:<https://huggingface.co/datasets/FrontRear/VideoObjectMover>;本次权威组清单:`releases/SELECTION_671.json`,以其中 `groups` 的 671 个唯一 `group` ID 为全集。先核对唯一 ID 数为 671,不把分片数、视频数或配对数当组数。
|
| 8 |
+
- 组成:原有 637 组(490 + 147)及补齐的 34 组。三个上传队列的 1,442 个分片及其约 923.0 GB,已按成功回执核对远端路径和大小。**上传完成不等于接收机下载、解包、依赖读取或训练通过。** 旧历史分片与共享资产同样必需,不要只下载 147 组或 34 组目录。
|
| 9 |
+
- 已知每组有 256 条配对;671 × 256 = **171,776 条基础配对**。这是应核对的清单数量,不是已实际训练完成的数量。
|
| 10 |
+
- 新补齐的 34 组中,33 组只有真实 A 机位,256 条配对可用作单机位数据;不要把重复帧或同一机位伪称跨机位。另 1 组 Garage03 沿用旧的双机位数据。后续新数据按其真实相机关系记录。
|
| 11 |
+
- 独立 checkpoint 仓库:<https://huggingface.co/FrontRear/VideoObjectMover-checkpoint>。可选最新完整 `update_00001453.pt`;其原始完整冻结清单、配置、代码、优化器和 RNG 状态必须与 checkpoint 配套。旧 README 的 `update_00001405.pt` / `--max-updates 1406` 只是旧示例;如果恢复 1453,最大步数必须大于 1453,不能照搬 1406。
|
| 12 |
+
- Wan 基座 `Wan-AI/Wan2.2-TI2V-5B` 需另行准备;任务 checkpoint 不包含完整基座。新机器依赖、路径、显存和恢复尚未做端到端验证,不要把本交接写成“已经在师兄机器跑通”。
|
| 13 |
+
|
| 14 |
+
## 2. 取得数据与代码
|
| 15 |
+
|
| 16 |
+
下载 `code/`、`metadata/`、`releases/SELECTION_671.json`、`releases/HANDOFF_671.md`、以及下列四套分片:
|
| 17 |
+
|
| 18 |
+
1. `releases/old256-v001/shards/`:原 490 组依赖的历史分片;
|
| 19 |
+
2. `releases/epoch490-direct-v1/shards/`:原 490 组其余分片;
|
| 20 |
+
3. `releases/remaining147-v1/`:另外 147 组的 PLAN 与分片,依赖前两套的共享资产;
|
| 21 |
+
4. `releases/recovered34-v1/`:补齐 34 组,按每个组 ID 下载所有分片及 metadata。
|
| 22 |
+
|
| 23 |
+
保持四套分片与依赖一起接收。每个 tar 使用 `data_v2` 相对根,按记录解压到同一个接收副本的 `data_v2/`,保留 `assets/` 和 `bbox_conditions_v003_20261021/`,以及每组 manifest 指向的条件、reference、视频/帧和其他间接依赖。处理路径重叠时以完整性和内容一致为准,不覆盖另一份不同内容。为归档、解包、基座和训练缓存预留实际空间;923.0 GB 是这三个新上传队列的分片字节数,不是含历史分片、解包、基座和训练缓存的总磁盘需求。
|
| 24 |
+
|
| 25 |
+
可使用师兄机器上已配置的 Hugging Face 访问方式或 `huggingface_hub.snapshot_download` 按以上路径下载。不要把 access token 写入文档、日志或仓库。数据以仓库实际文件为准:归档完成后,由接收端逐组核对 671 个 ID、各自的 256 条配对及依赖能被原 loader 实际打开;缺失的组或配对记入待修清单并反馈,**不能悄悄跳过后宣称覆盖 671 组**。原上传侧只核对了部分 49 帧加载,不能把它写成师兄端已逐对完整读取或逐帧人工验收。
|
| 26 |
+
|
| 27 |
+
## 3. 先正确恢复,再扩展到全部 671 组
|
| 28 |
+
|
| 29 |
+
1. 在师兄机器的独立目录恢复原模型基座、`update_00001453.pt` 及其对应的代码、配置、原始 epoch 清单/收据和运行状态。原训练使用绝对路径和代码/配置一致性检查;在副本上修复路径或提供兼容的目录映射,保留原始文件,不覆盖 6000D 原 checkpoint 和原冻结 manifest。先用一次小步实际恢复确认 update、有限 loss 和新 checkpoint,再扩大训练;不要从头训练或丢掉优化器状态来冒充续训。
|
| 30 |
+
2. 原 checkpoint 对应进行中的 490 组冻结清单。先保留其顺序和游标,在原有边界完成或使用经验证的安全迁移方案;**不要热改该 epoch 的 manifest、样本顺序或缓存。** 原快照的 `train_current.py` 在 resume 时从 checkpoint 恢复该 manifest;仅把新数据文件放到磁盘不会自动让 181 个额外组立即加入当前训练。
|
| 31 |
+
3. 在师兄侧代码副本中,把 `SELECTION_671.json` 的全部唯一 ID 映射到其实际解压后的 `train_manifest.json`、256 对及所有依赖,建立版本化、可被 loader 识别的训练索引。额外 147 与 34 组可能需要合并 `INDEX.json`、资格/路径配置和多样性元数据;旧代码的 `prepare.py` / `select_groups.py` 不保证自动识别它们。只在副本中做必要适配并验证,记录变更及新版本,不伪造旧代码的身份或修改原 checkpoint。
|
| 32 |
+
4. 人类要求是 **671 组全部用于训练**。因此新训练版本应把清单中所有 671 个组纳入训练候选,包括旧 `fixed_split` 中原划为 validation 的组;`remaining147-v1/PLAN.json` 中有 38 个这样的组。不要因沿用旧验证切分把它们永久排除。保留旧切分作为历史记录;这些组参与梯度更新后,**不得再把它们当作未见过的独立验证集**。若需要无偏验证,请使用与这 671 组不重叠的独立数据,并标明来源;在没有这样的数据时如实报告“暂无独立验证集”。
|
| 33 |
+
5. 原选组器每个 epoch 最多 500 组,以多样性为主;即使跨 epoch 运行,也没有保证全部组会被抽到。由接收端在训练代码副本中加入**覆盖队列**:以 671 个 ID 为全集,优先安排尚未训练的组,可在多个 epoch 分批完成;每组内 256 条基础配对都要实际经过训练采样。为每个 group ID / sample ID 记录 checkpoint、epoch、实际训练步骤和是否完成,不能把“加入索引”“选中一轮”或“开始训练”当作已经训练过。新 epoch 的 manifest 在边界生成后保持冻结。
|
| 34 |
+
6. 以实际训练覆盖记录核对:671 个组全部出现且每组 256 条基础配对全部实际使用,才报告“671 组全部训练过”。对于坏文件、缺依赖或加载失败,列出具体 ID 和原因并修复后接回队列;若还未修复,报告完成数与剩余数,不将它们算作完成。记录训练 loss、更新步数、checkpoint 和运行日志。检查点状态恢复和覆盖逻辑应先小规模实际测试,再扩大。
|
| 35 |
+
|
| 36 |
+
旧的训练/验证分离与 500 组上限在原代码里有显式检查;要实现上述最新要求,师兄侧需要**真实修改并验证副本中的索引、切分与选组/覆盖逻辑**,不能仅修改文档、改个计数或让断言失效后宣称全部接入。具体机器与代码依赖以真实运行结果为准。
|
| 37 |
+
|
| 38 |
+
## 4. 后续新数据也要使用
|
| 39 |
+
|
| 40 |
+
用户会继续生产新的场景/灯具/人物动作数据并通过同一 Hugging Face 仓库或另行明确的交付位置提供。不要把 671 视为永久固定上限。
|
| 41 |
+
|
| 42 |
+
- 定期检查数据仓库最新 release、组清单和用户提供的交付说明;每个批次记录 release ID、来源、实际文件、真实组 ID、配对数和相机关系。只把已实际交付且读取成功的新数据接入;不能把进行中的部分上传、纯索引或重复组当成完整新组。
|
| 43 |
+
- 下载并在独立接收目录解包,解决与已有组的共享依赖;组 ID 或 manifest 相同时先去重、核对版本。缺失或冲突具体列出,修复后加入,不要永久丢弃。
|
| 44 |
+
- 在当前 epoch 的安全边界建立新的版本化索引和冻结 manifest,加入新增数据到**训练覆盖队列**;优先使用尚未训练的新组,兼顾已有组复用与场景/灯具多样性。将新批次与 671 组的实际训练覆盖分别统计,持续推进直至每个已交付且可读取的新组都被使用。
|
| 45 |
+
- 如果后续批次采用与旧版不同的配对数、条件或文件结构,应在接收侧做实际适配和 loader 测试,不能只改一个数字或把原来 256 对误说成 512 对;数据保真与模型的真实输入一致后再接入训练。
|
| 46 |
+
- 若未来新数据被用作独立验证,则必须明确哪些数据被留作验证,不能既声称它们参与梯度训练又称其为未见验证集。
|
| 47 |
+
|
| 48 |
+
## 5. 给用户的进度汇报
|
| 49 |
+
|
| 50 |
+
每次汇报至少写清:接收的唯一组数、已实际可读组数、**已训练覆盖的唯一组数及配对数**、尚未训练或失败的具体组 ID、所用 checkpoint/训练步数、是否有独立验证集、后续新数据的接入情况。明确区分已上传、已下载、已读取、已排队和已真实训练;不要使用“组已上传”代替“组已训练”。
|
code/docs/后续增量数据交接.md
CHANGED
|
@@ -1,3 +1,6 @@
|
|
|
|
|
|
|
|
|
|
|
| 1 |
# 训练迁移后,新增数据怎么交给师兄
|
| 2 |
|
| 3 |
## 分工与范围
|
|
|
|
| 1 |
+
|
| 2 |
+
> **2026-10-30 人类最新要求:671 组全部参与训练,后续新增数据也须接入。** 原 490 组清单仅用于安全恢复当前 epoch;不能把它当成最终训练全集。旧验证切分只保留历史记录,原 validation 组也须进入训练;独立验证需使用不重叠的新数据。具体下载、续训、覆盖与后续数据接收要求见 [671 组全覆盖与增量训练交接](https://huggingface.co/datasets/FrontRear/VideoObjectMover/blob/main/code/docs/TRAIN_ALL_671_AND_FUTURE.md)。本文与旧说明冲突处以新交接为准;它要求接收方实际实现并验证,不表示改动已完成。
|
| 3 |
+
|
| 4 |
# 训练迁移后,新增数据怎么交给师兄
|
| 5 |
|
| 6 |
## 分工与范围
|
releases/HANDOFF_671.md
CHANGED
|
@@ -1,3 +1,6 @@
|
|
|
|
|
|
|
|
|
|
|
| 1 |
# 671组训练数据:上传与恢复交接
|
| 2 |
|
| 3 |
2026-10-29。数据集仓库: https://huggingface.co/datasets/FrontRear/VideoObjectMover 。
|
|
@@ -6,13 +9,13 @@
|
|
| 6 |
|
| 7 |
青海原始交付清单为671组:其中637组属于之前核对过的旧256对条件数据;其余34组包含1组已具备旧条件的Garage03和33组需要补齐条件的数据。旧条件索引另含6组不在这份671组清单中的留置组,不能按旧索引644直接当成671的子集。
|
| 8 |
|
| 9 |
-
## 上传布局(
|
| 10 |
|
| 11 |
- 637组中,490组由原有队列继续上传到 `releases/epoch490-direct-v1/shards/`;其已上传历史分片位于 `releases/old256-v001/shards/`。此490组包括历史分片已含的组,必须保留历史分片。
|
| 12 |
- 剩余147组由新队列上传到 `releases/remaining147-v1/shards/`;`releases/remaining147-v1/PLAN.json` 列出147组、拆分及新增数据资产。为避免重复上传,此队列复用上述490组队列及历史分片中的共同资产,不能只下载147目录。
|
| 13 |
- 34组按实际完成情况逐组上传到 `releases/recovered34-v1/<组ID>/`。各组分片包括条件清单及所需资产;新批次的 `PLAN.json` 随该组 metadata 压缩包一并交付。仅有该组全部分片上传完成,才能把它算作该组已交付。Garage03沿用真实双机位旧256对;新转换的33组使用一个真实机位A,每组有256条真实配对,但不包含跨机位配对。不要把复制帧当成第二机位,也不要将它们描述为覆盖了跨机位数据。
|
| 14 |
- checkpoint独立仓库: https://huggingface.co/FrontRear/VideoObjectMover-checkpoint ,包括 `update_00001453.pt`。
|
| 15 |
|
| 16 |
-
各分片都是以 `data_v2` 为相对根目录创建的tar。下载完整需要的分片后,解压到同一个 `data_v2` 目录,保留其中 `assets/` 和 `bbox_conditions_v003_20261021/` 路径结构。各组的 `groups/<组ID>/<签名>/train_manifest.json` 是该组的256对;条件资产在同目录的 `assets/<签名>/`。
|
| 17 |
|
| 18 |
-
|
|
|
|
| 1 |
+
|
| 2 |
+
> **2026-10-30 人类最新要求:671 组全部参与训练,后续新增数据也须接入。** 原 490 组清单仅用于安全恢复当前 epoch;不能把它当成最终训练全集。旧验证切分只保留历史记录,原 validation 组也须进入训练;独立验证需使用不重叠的新数据。具体下载、续训、覆盖与后续数据接收要求见 [671 组全覆盖与增量训练交接](https://huggingface.co/datasets/FrontRear/VideoObjectMover/blob/main/code/docs/TRAIN_ALL_671_AND_FUTURE.md)。本文与旧说明冲突处以新交接为准;它要求接收方实际实现并验证,不表示改动已完成。
|
| 3 |
+
|
| 4 |
# 671组训练数据:上传与恢复交接
|
| 5 |
|
| 6 |
2026-10-29。数据集仓库: https://huggingface.co/datasets/FrontRear/VideoObjectMover 。
|
|
|
|
| 9 |
|
| 10 |
青海原始交付清单为671组:其中637组属于之前核对过的旧256对条件数据;其余34组包含1组已具备旧条件的Garage03和33组需要补齐条件的数据。旧条件索引另含6组不在这份671组清单中的留置组,不能按旧索引644直接当成671的子集。
|
| 11 |
|
| 12 |
+
## 上传布局(已完成;接收端仍需实际验证)
|
| 13 |
|
| 14 |
- 637组中,490组由原有队列继续上传到 `releases/epoch490-direct-v1/shards/`;其已上传历史分片位于 `releases/old256-v001/shards/`。此490组包括历史分片已含的组,必须保留历史分片。
|
| 15 |
- 剩余147组由新队列上传到 `releases/remaining147-v1/shards/`;`releases/remaining147-v1/PLAN.json` 列出147组、拆分及新增数据资产。为避免重复上传,此队列复用上述490组队列及历史分片中的共同资产,不能只下载147目录。
|
| 16 |
- 34组按实际完成情况逐组上传到 `releases/recovered34-v1/<组ID>/`。各组分片包括条件清单及所需资产;新批次的 `PLAN.json` 随该组 metadata 压缩包一并交付。仅有该组全部分片上传完成,才能把它算作该组已交付。Garage03沿用真实双机位旧256对;新转换的33组使用一个真实机位A,每组有256条真实配对,但不包含跨机位配对。不要把复制帧当成第二机位,也不要将它们描述为覆盖了跨机位数据。
|
| 17 |
- checkpoint独立仓库: https://huggingface.co/FrontRear/VideoObjectMover-checkpoint ,包括 `update_00001453.pt`。
|
| 18 |
|
| 19 |
+
各分片都是以 `data_v2` 为相对根目录创建的tar。下载完整需要的分片后,解压到同一个 `data_v2` 目录,保留其中 `assets/` 和 `bbox_conditions_v003_20261021/` 路径结构。各组的 `groups/<组ID>/<签名>/train_manifest.json` 是该组的256对;条件资产在同目录的 `assets/<签名>/`。人类要求 671 组全部加入训练;旧验证标记作为历史保留,新增训练版本按新交接实现全覆盖,不修改正在运行的旧冻结训练清单。
|
| 20 |
|
| 21 |
+
三个上传队列已完成并核对远端分片路径及大小;上传完成不等于接收端已下载或所有数据已成功读取、训练。每组转换检查了256条配对及原始资产路径,并对各类操作抽样进行49帧读取;抽样读取不等于所有256对逐帧人工审图。
|