| # ReInterHand shared-v1.1 发布计划 |
|
|
| 本文件记录发布**前**的计划，不伪称已上传完成。本地 `shared-v1.1` 已做全量迁移与自动验收；人工复查与上传都还没有进行。本 release 的 metainfo 里**有** `upload_authorized` 这类状态位（与 RHD 不同，RHD 的 schema 里没有这些键），本地 6,750 个视图全部是 `upload_authorized: false`、`full_output_human_review: "pending"`，v1.0 原样搬过来、迁移没有翻过任何一个；授权状态另外也由汇总 `doc/FULL_MIGRATION_SUMMARY.json` 的 `publication_authorized: false` 表示，两者一致。 |
|
|
| - 固定源提交：`d4e2bb40cd30071e4f6483877889c1857b41b707`，路径 `ReInterHand/shared-v1.0`；该提交下的文件逐一按内容校验（LFS 比对 sha256、普通文件比对 git blob sha1），记录在发布树外的 `tmp/reinterhand-tools/source_registration.json`（`migrate.py` 不带 `--source-revision`，故这一环在树外单独登记）。媒体中有 13,500 个流按设计不在本机，作为独立的一类具名报告，不算失败。 |
| - **本地 v1.0 的 `doc/` 与 `script/` 与 Hub 上发布的不是同一版，而且有两类原因**，`source_registration.json` 把它们作为两个独立的声明类分别记录，不合并。 |
| - **第一类：2026-09-29 的一次本地修复，从未上传。** `tmp/doc-script-repair-v1/receipt.json`：`stage "repaired_not_uploaded"`、`host iipl_126`、`modified_scope ["doc","script"]`、`data_changed: false`、`upload_authorized: false`；Hub 上 `ReInterHand/shared-v1.0` 仍是修复前的副本。差异是 3 个 `script/` 文件（`config.json` 的本地分区标识 `partition: local → iipl_126` 与 `captures_file: null → captures-iipl126.txt`；`README.md` 里说明这次修复没有上传命令、也没有上传授权的那段；`checksums.json` 增列 `README.md` 与 `script/history/*` 并重算 `config.json` 的哈希）。 |
| - **第二类：`doc/validation/` 是 iipl_126 一个分区的复核记录，Hub 上那份覆盖两个分区。** 这一类和修复无关，是「本机只并了 iipl_100 的 `data/`、没有并它的 `doc/`」的直接结果：本机 `doc/validation/full/sequences/` 有 272 个文件、Hub 上有 500 个，`full/production-checkpoints/` 是 137 对 251；`full_random/iipl_126/` 两边都是 62 个**完全相同**，而 `full_random/iipl_100/` 本机一个都没有（Hub 33 个）。这一类里 **Hub 有、本机没有的共 376 个文件**，逐条核对下来**全部属于 iipl_100**：228 个在 `full/sequences/`（正是 iipl_100 的 228 个序列，一个不多一个不少）、114 个在 `full/production-checkpoints/`、33 个在 `full_random/iipl_100/`、1 个是 `full/historical-fingerprint-iipl_100.json`（按文件名里的采集场次归属，371 条可直接判定，其余几条同样以 `iipl_100` 命名）。另有 **5 个两边都有但内容不同**，且这 5 个**全是聚合文件**（`full/summary.json`、`full/production-checkpoints/index.json`、`full_random/{report.json,human-review.json,index.html}`）——内容取决于「这份副本里有哪几个序列」。证据就在本机：`full/summary.json` 自己写着 `sequences: 272, views: 3672`，本机独有的 `full_random/partition-scope.json` 写着 `host: iipl_126`。 |
| - 两个类**都按规模逐次断言**：3 个具名路径每条都要「确实不同」（若某天变得相同，那条声明会自己报错），`doc/validation/` 那一类则把 376 与 5 两个数钉死，多一个少一个都会让 `source_registration.py` 直接停下——所以前缀匹配不会把**新的**缺口悄悄吸收，也不会因为某天缺口被补齐而变成免检。两个类都到不了 `data/`：一个是具名路径、一个是 `doc/validation/` 前缀，`data/` 里任何缺口都仍是硬失败。 |
| - **后果**：`doc/V1_0_SEMANTICS.md`、`doc/history-v1.0/`、`script/v1_0_snapshot/` 复现的是**本机的 v1.0**——既带着那 3 个修复后的脚本，`doc/validation/` 下又只有 iipl_126 的那一份记录，`history-v1.0/` 因此**不含** iipl_100 的 376 个序列与 checkpoint 明细，其中 5 个聚合文件说的是 272 个序列而不是发布版的 500 个。**`data/` 不受任何一类影响**：它的 68,554 个文件对着 Hub 逐个比对全部相同（全树 69,104 个文件通过内容校验：55,168 个按 LFS 内容 sha256、13,936 个按 git blob sha1，两者合计即 69,104），所以「与已发布的 v1.0 逐字节一致」只对 `data/` 成立，**不能说成「全树逐文件比对通过」**。 |
| - 上传时若要连 v1.0 的 `doc/`/`script/` 一起更新（含补齐 iipl_100 的那部分复核记录），那是一次**独立于本迁移**的改动，需要单独授权。 |
| - 上传内容：新的数值 bundle（`camera/camera.pt` 6,750 个、`annotation/mano/mano.pt` 6,750 个）、改过的 `metainfo.json`（6,750 个，除 `schema_version`、`release_id` 与 `components` 里指向数值 bundle 的引用外，还多改一处 `storage_revision`——见下「本次收尾的两处对齐」）与新文档。`frames.jsonl`、13,500 个 `*_valid.pt`、`doc/history-v1.0/` 里与已发布 v1.0 逐字节相同的那部分，以及全部 13,500 个媒体流，都按**服务端复制**上传，字节不重传：哪些算复制、哪些算上传，由发布树外的 `tmp/reinterhand-tools/publish.py` 从 `PUBLISH_MANIFEST.json`（本机有什么）加上发布树**自己声明的**媒体（13,500 个流）再对着远端 v1.0 的内容索引算出来，不由人手写。发布清单**不是**发布内容——它按 H2O、dex-ycb 的约定保存在发布树外的 `tmp/reinterhand-tools/PUBLISH_MANIFEST.json`（树内的副本无法描述自己的最终字节，见 `script/reinterhand_v1_1/README.md` 的「收尾验收顺序」）。 |
| - **媒体必须由服务端复用，不能重新上传。** 全发布 13,500 个媒体流（每视图一个 `rgb.mkv` 加一个 `mask.mkv`，约 1.08 TB）中，本机只拉了 2 个样本序列的 54 个流；其余 13,446 个在本机**故意缺失**（`MIGRATION.md` §3/§6：未变化的媒体留在原处）。媒体不重新编码、组件元数据逐字节未变，所以 LFS 侧应复用服务端已有 blob。缺失这件事由树外的 `tmp/reinterhand-tools/media-presence.json` 申报，而**申报不随发布上传**，因此发布树里默认是严格模式：没有声明时，每个被声明的媒体文件都必须存在。上传后应当用 `validate.py --expect-views 6750`（不带 `--media-declaration`）在完整的树上再跑一遍，那时 13,500 个流必须全部在场——本机这一趟**无法**替它做。 |
| - 逐个核过远端 v1.0 的索引（`tmp/reinterhand-tools/REMOTE_V10_INDEX.json`，82,934 个文件）后：13,500 个流**全都在**已发布的 v1.0 里，其中 13,499 个是 LFS 对象（有内容 sha256，可作复制源），**1 个是普通 git 对象**——`.../204777__205353/400460/annotation/segment/mask.mkv`，89,668 B，没有 LFS 摘要，因此没有复制源。这一个由发布工具从已发布的 v1.0 取回字节、按索引里的 size 与 git blob id 核对后**上传**；它是本次唯一会传输的媒体字节。发布工具会因为「声明的媒体在远端索引里找不到」而硬失败，所以发布不可能悄悄缺流。 |
| - 只调整 `ReInterHand/shared-v1.1` 下的路径及对应的 LFS 跟踪行；仓库里 ReInterHand 的其他内容与其他数据集不变。 |
| |
| ## 本次收尾的两处对齐（与规范和已上传的 v1.1 对齐） |
| |
| 全量迁移跑完之后、发布之前，按「与要求一致、与其它已上传的 v1.1 对齐」又做了两处改动。两处都不是新语义，也都不改任何数值、媒体或有效性判定；一处补的是一个**只查存在、不查取值**的检查器缺口，另一处归一的是一个 v1.0 生产端写进每个视图、而 `doc/schema.json` 从未声明过的标签。 |
| |
| **一、`visibility_type` 的枚举校验（RHD 复核意见 1 的同款缺口，本 release 是潜在而非现行）。** RHD 复核时发现 `check_attributes` 只断言了 `visibility_type` 这个键**存在**、以及张量是 bool，从没拿它去比 `schema.json` 的取值枚举，于是把 dtype 的词 `"bool"` 写进那个字段也能通过（合法值是 `"boolean"` 与 `"ratio"`）。ReInterHand 的检查器是同一份写法的改写，缺口一样；差别在于**本 release 的 6,750 个视图里一个属性都没声明**（`components[*].attributes` 全空，`doc/schema.json` 也不要求必须有），所以这个洞在这里是潜在的，不是现行的——不存在一批错值可以修，存在的是「将来某次重渲染写错也照样通过」。做法与 RHD 一致，且**不写死第二张表**：`reinterhand_common.schema_visibility_types()` 从 `doc/schema.json` 的 `allowed_dtypes` 与 `visibility_types` 按位推出 `{dtype: visibility_type}` 配对，`check_attributes` 据此拒绝枚举外的值、拒绝错配的 dtype/词组合、拒绝超出 `ratio_range` 的 ratio、拒绝「无效位置不是 NaN」的 ratio。反例对照在发布树外的 `tmp/reinterhand-tools/visibility_enum_gap.py`（三个沙箱变体：旧检查器接受 `"bool"`、也**误杀**合法的 ratio/float32；新检查器两件都做对），回归测试在同目录的 `test_v1_1_review_fixes.py`。RHD 复核意见 2（`validate.py` 的子集模式会踩全库计数断言）在本 release 里**早已实现**，证据在同一份回归测试里。 |
| |
| **二、`storage_revision` 归一为注册表声明的值。** v1.0 的生产端 `preprocess_reinterhand.py` 往每个视图的 metainfo 里写死了 `storage_revision: "lossless-video-2026-09-25"`；而注册表 `doc/schema.json` 声明的是 `"lossless-video-2026-09-18"`，全文件里 `-09-25` 一次都没出现。这个键**不在** `view_metadata.required_fields` 里，也没有任何工具读它，所以是个静默的不一致，不是加载失败。已上传的 v1.1 里，RHD 与 ARCTIC 的每个视图都是注册表那个值，H2O 直接省略。本次对齐：`migrate.py` 的 `normalize_storage_revision()` 把该键指回注册表值（**只在该键本来就存在时**改——源里没声明这个键的视图，迁移后也不声明，H2O 那种省略写法因此仍然合法），`verify.py` **只接受**这一种改写、且目标值只允许是注册表值，`reinterhand_common.check_view()` 在发布树上拒绝任何别的值。全树 6,750/6,750 现为该值。 |
| |
| 两处都没有动的东西：媒体组件的 `storage.profile` id `mkv/ffv1_rgb24/v1`（仍未注册，仍在下面「已登记的媒体元数据缺口」那张表里）、13,500 个媒体流本身、任何数值/valid/状态位。改 `migrate.py` 会换掉工具摘要，所以这两处落地后**重跑了整条迁移与验收链**（`script/reinterhand_v1_1/README.md` 的「收尾验收顺序」第 1→8 步），发布清单也在最后重建。 |
| |
| 重跑的结果逐字记在 `doc/FULL_MIGRATION_SUMMARY.json` 的 `migration_runs` 里：最终这一趟重写了 6,729 个视图，另外 21 个因为**此前已用同一版工具（同一工具摘要）试迁过同一条序列**、checkpoint 逐项复核通过而被 `--resume` 跳过。被跳过不等于没验过：汇总工具不把日志里的 skip 行当声明，而是对每一个被跳过的视图**重算一遍** `migrate.py:checkpoint_ok` 的那套判据（工具摘要、源 metainfo 摘要、两个 bundle 与输出 metainfo 的 sha256），全中才写进汇总，任何一条对不上就拒绝出汇总。pilot 那一趟（54 个视图）的字节已全部被最终这趟重写，它作为 `superseded_pilot_era_run` 连同自己的日志一起登记，不并入最终这趟的账。 |
| |
| ## 人工复核页（验收证据，不是训练输入） |
| |
| `doc/validation/` 里有 27 个视图的逐视图目视页（入口 `doc/validation/index.html`），与 H2O、dex-ycb、ARCTIC、RHD 各套 v1.1 的做法一致，由 `script/reinterhand_v1_1/render.py` 生成（`script/reinterhand_v1_1/README.md` 的「收尾验收顺序」第 5 步）。它们**只读** v1.1 的 bundle，不引入 v1.0 时代的渲染栈或外部模型资产。 |
| |
| - **抽样可复现，且样本量受一个硬约束限制**：种子 `20261015`，规则是「在**本机带着媒体的序列**里按渲染策略各抽 1 个」。本机只有 2 个序列带媒体（见上），所以实际渲染的是这 2 个序列的**全部** 27 个视图，而不是 500 个序列里的 2 个。规则、种子、入选序列与逐视图帧数都写进随发布保留的 `doc/validation/V1_1_VALIDATION.json`，页面上也照实写明。 |
| - **用途**：这是 CONTRACT §6.5 里「人工目视验收」要看的东西，**不是训练输入**，也不是自动判据。渲出页面不等于有人看过：树里的 `full_output_human_review` 与汇总里的 `human_full_review` 都仍为 `"pending"`，本文件第 3 行说的「人工复查还没有进行」照旧成立。 |
| - **页面画什么、不画什么**：抽样帧每帧给出原生 RGB（MKV 解出、未重编码）、发布的 mask 前景、以及把发布的 MANO 参数按该视图自己声明的相机模型（exo `pinhole`、ego `opencv_fisheye4`）展开并投影后的手部几何，逐帧数值明细、整份 metainfo 与该视图的 QC 报告放在 `<details>` 里。**不画**物体与接触（release 里没有这些组件），源缺的字段一律不补造；没画的东西逐条记进该视图报告的 `hands_not_drawn` 并写在页面上。 |
| - **MANO-on-mask 自检（本 release 独有）**：ReInterHand 是各发布里唯一同时发布逐帧 MANO 参数与前景强度图的，所以页面能把发布的 MANO 展开、投影、与发布的 mask 逐帧比对——这是这套数据自己就能做的核验，不需要任何外部资产（RHD 做的是它的 `xyz`↔`uv` 投影对照，ReInterHand 没有发布的 `uv`，有的是 MANO）。全量扫描覆盖入选视图的**每一帧**：27 个视图、1,887 帧逐帧投影关节与顶点，其中 1,692 帧的 mask 非空可用于覆盖统计（另 138 帧 mask 全空，全部落在两个 ego 视图里：11 + 127）。命中率逐视图中位数 0.973008，最差 0.950514（exo `400483`），最好 0.991003（exo `400460`）；左手 26,273/26,597 个画内关节、1,233,482/1,293,446 个顶点落在前景上，右手 26,742/26,742 与 1,260,837/1,298,643。mask 实测取值域恰好 `[0,255]`，与声明一致。全量聚合写进 `V1_1_VALIDATION.json` 的 `mano_on_mask`。 |
| - **画外与空 mask 照实披露。** `envmap_per_segment` 的 ego 视图每只手只有 5/181 帧有效（源本身就是稀疏的），且它的左手整块落在画面外；这两件事写在页面上（该视图报告的 `hands_geometry_entirely_off_frame` 与 `hands_not_drawn`，27 个视图里分别记名 1 处与 8 处），不是被藏起来。**偏差与覆盖只被记录，不用来「修正」发布值，也不丢任何帧。** |
| - 这些是 v1.0 没有的新文件（HTML 与 JSON，不是 LFS 媒体），上传时随 `shared-v1.1` 一起新增。 |
| |
| ## 发布时移除 Hub 上的 `shared-v1.0`（对齐 release_layout） |
| |
| 注册表 `release_layout` 要求「在 `shared-v1.0` 下原地升级、完整校验后再改名为 `shared-v1.1`，**不得保留重复的发布树**」。迁移期间本树曾同时存在 `ReInterHand/shared-v1.0` 与 `ReInterHand/shared-v1.1`，那是当时登记的偏离（用户要求 `先暂时保留着`，好让两棵树并存着先完成核对）；2026-10-15 用户指示 `sharedv1.0 可以删掉，和其他数据集一样`，**Hub 上那份随本次发布移除**，偏离就此收口。 |
| |
| 因此： |
| |
| - **本机的 `shared-v1.0` 继续保留。** 它是本次迁移的**输入与逐字节比对基准**（`verify.py` 的验收正是对着它做的），不是要发布的第二份数据；而且它另有一层特殊：它的 `doc/`/`script/` 是那份未上传的 2026-09-29 修复，删掉本机这一份等于丢掉那份修复的唯一副本。 |
| - **Hub 上的 `ReInterHand/shared-v1.0` 由本次候选 PR 移除，而且必须移除。** 仓库已在 Hub 的 100 万文件上限上，ARCTIC 的推送正是被这个上限拒掉（`Your git repo would contain 1000002 files after this push, over the limit of 1000000 files. Offending reference: refs/pr/5`），而本 release 要新增 54,641 个路径——旧树不让位就放不下。发布工具因此按 `--remove-old` 运行：v1.1 的全部路径、大小与内容摘要先核验通过，再用**单独一次提交**删除旧树、同时修剪 `.gitattributes`；若 Hub 在更早的暂存提交上就以文件数拒绝，旧树在**那一次提交**里一并移除（ARCTIC 的路径，工具记为 `file_count_error` / `old_removed_early`）。媒体复制以 `main` 为源（`src_revision`），所以旧树先删也不会让后续的复制失去来源。 |
| - **这不销毁任何独有证据。** 上文「第二类」说的 376 个文件与 5 个聚合文件，其唯一副本本来就在 iipl_100（192.168.1.100）自己的 `shared-v1.0/` 下，本机从来没有过；发布树在合并前的修订（`base_commit`）上也仍然可以取回。本机两棵树并存的事与 Hub 无关。 |
| - 发布之后 Hub 上只剩 `ReInterHand/shared-v1.1`；本机仍是两棵树（本机 v1.0 是证据，不随发布删除）。按 `MIGRATION.md` §6「发布记录保留旧版本的固定提交以便追溯」，被移除的那棵 Hub v1.0 的固定修订记在发布树外——发布工具写进 `tmp/reinterhand-tools/HF_PUBLICATION.json` 的 `base_commit`（树内记不了：这个值要到发布时才存在，而树在发布前就已定稿并哈希）。 |
| |
| ## 已登记的媒体元数据缺口（v1.0 原样带来，本次不修） |
| |
| 发布的 6,750 个视图里，媒体组件的元数据**不满足** v1.1 `schema.json` 的 9 项要求，且**逐视图一致**（每项 6,750 次）： |
| |
| | 组件 | 缺口 | |
| |---|---| |
| | `rgb/uint8/v1` | 缺 `storage.encoded_size`、`storage.decoder`、`storage.encoder_parameters`；`storage.profile` 写的 `mkv/ffv1_rgb24/v1` 既未在 `storage_profiles` 注册，也不在 `rgb/uint8/v1.allowed_storage_profiles` 里 | |
| | `segment/foreground_intensity/v1` | 整个 `storage` 块缺失；并缺 `segmentation_type`、`coverage`、`entity_id` | |
| |
| 成因是 v1.0 的媒体组件是**手写**的，没走 schema 驱动的写入器；而 v1.1 的合同是「合并每组数值张量，媒体、JSONL 与其余元数据一律不动」（`spec/CONTRACT.md` §1/§6.3），所以**纯存储迁移不允许顺手修它**。本次迁移也确实没改：`rgb` 与 `segment` 两个组件在 v1.0 与 v1.1 之间**逐字节相同**（迁移只改 `schema_version`、`release_id` 与 `components` 里指向数值 bundle 的那几项引用，另加一处顶层键 `storage_revision`），因此这个缺口是 v1.0 原样带来的，**v1.1 既没有引入它，也没有修掉它**。 |
| |
| 处理方式：在 `script/reinterhand_v1_1/reinterhand_common.py` 的 `DECLARED_MEDIA_SCHEMA_GAPS` 里**声明**这 9 项，并把它**对着全树计数断言**（每项恰好 6,750 次）。这样既不会把已知缺口报成失败，也不会让**新的**缺口或**悄悄的**修复溜过去：任何一项的计数变化都会直接失败。要修这 9 项，必须同时更新那张表、发布说明与本文件——这是一次**有意的**改动，不是迁移的副产物。 |
| |
| 一处无法在本机补齐的细节：`encoder_parameters` 这类编码事实要靠媒体文件本身才能确认，而本机没有那 13,446 个流，所以即便将来决定补这些字段，也得在**完整**的树上做。 |
| |
| ## 文档命名：保留 ReInterHand v1.0 的历史名字 |
| |
| H2O、dex-ycb、ARCTIC 的 `doc/` 用 `RAW_TO_SHARED.md`。ReInterHand v1.0 当年的对应文件叫 `RAW_MAPPING.md`，本 release 保留这个名字（RHD 同样保留了它的历史名），其余（`CONTRACT.md`、`MIGRATION.md`、`schema.json`、`V1_0_SEMANTICS.md`、`history-v1.0/`、`validation/`）与其余各套对齐。v1.0 时期的那份文件本身逐字节保留在 `doc/history-v1.0/`。 |
| |
| ## 上传与核验（由师兄执行，本工具链不做上传） |
| |
| - 最终 HF 提交号、树摘要与发布核验结果保存在**发布树之外**的 `HF_PUBLICATION.json`，避免文件自引用自己的提交号或清单摘要。 |
| - 在一个独立 PR 内新增 `ReInterHand/shared-v1.1`（含全部 13,500 个媒体流的服务端复制）**并移除** `ReInterHand/shared-v1.0`，`ReInterHand/raw` 逐字节不变；候选分支上先按全部路径、大小和内容摘要核验通过，再由人来决定合并，工具不自动合并、不自动 squash。媒体复制以 `main` 为源，旧树的移除不影响复制；旧树在合并前的修订上仍可取回。 |
| - `.gitattributes` 必须与这次上传同一趟改：主分支上那份是 9,535,585 B（2026-10-15 实测；上传时工具会对着当时的 `main` 重量一次，超限即停），距 Hub 对非 LFS 文件的 10 MiB 上限只剩 950,175 B，而 `.mkv` 没有全局模式、Hub 会为新路径逐条追加——本 release 新增的 13,446 个流约需 2.7 MB，放不进去。ReInterHand 自己在那份文件里的 13,007 行正好就是 v1.0 的 `.mkv` 路径（2,636,472 B），换成两条 glob（`ReInterHand/shared-v1.0/**/*.mkv`、`ReInterHand/shared-v1.1/**/*.mkv`）后是 6,899,251 B、余量 3,586,509 B；这与仓库里 `dex-ycb/shared-v1.1/**/*.obj`、PR #4 的各家、以及 ARCTIC/RHD 的做法一致，且 glob 行必须在 PR 的**第一个提交**里落地（否则 Hub 会先逐条追加）。Non-ReInterHand 的行逐字节不变，合并前会再比一次；旧树移除时一并去掉它自己那条 glob 行（6,899,182 B）。 |
| - 上传后必须在完整树上重跑一次全量校验（`--expect-views 6750`，**不带** `--media-declaration`），确认 13,500 个媒体流全部在场；本机做不到这一趟。 |
| - 不自动 squash、不删除仓库历史：文件数限制类错误需要按实际错误调查，而全仓库历史清除会同时影响其他数据集与固定提交的可回溯性。 |
| - 上传及核验成功后，再清理本次的私有暂存与试点产物；正式 `shared-v1.1`、`raw`、以及本机保留的 `shared-v1.0`（那份未上传修复的唯一副本在这里）与其他任务产物保留。 |
| |
| ## 工具链不做的事 |
| |
| 本目录不含上传脚本。`script/reinterhand_v1_1/` 只负责迁移、验收与结构校验，`script/provenance/operations/build_reinterhand_docs.py` 只负责生成本目录的文档；发布树外的 `tmp/reinterhand-tools/` 负责源提交登记、媒体声明、反例对照与汇总生成。上传需要单独的书面授权，授权与执行都不在这里。 |
