Hugging Face's logo

Datasets:
ParityLab
/
Hand-Datasets-Raw

Dataset card Files
xet
 Community
9
Hand-Datasets-Raw / ReInterHand /shared-v1.1 /doc /PUBLICATION_PLAN.md
orz2333's picture
orz2333
yhl826459's picture
yhl826459
Replace ReInterHand shared-v1.0 with the verified shared-v1.1 release (candidate PR) (#8)
8f94cdb
preview code
|
Raw History Blame Contribute Delete
22.8 kB

ReInterHand shared-v1.1 发布计划

本文件记录发布前的计划，不伪称已上传完成。本地 shared-v1.1 已做全量迁移与自动验收；人工复查与上传都还没有进行。本 release 的 metainfo 里有 upload_authorized 这类状态位（与 RHD 不同，RHD 的 schema 里没有这些键），本地 6,750 个视图全部是 upload_authorized: false、full_output_human_review: "pending"，v1.0 原样搬过来、迁移没有翻过任何一个；授权状态另外也由汇总 doc/FULL_MIGRATION_SUMMARY.json 的 publication_authorized: false 表示，两者一致。

  • 固定源提交：d4e2bb40cd30071e4f6483877889c1857b41b707，路径 ReInterHand/shared-v1.0；该提交下的文件逐一按内容校验（LFS 比对 sha256、普通文件比对 git blob sha1），记录在发布树外的 tmp/reinterhand-tools/source_registration.json（migrate.py 不带 --source-revision，故这一环在树外单独登记）。媒体中有 13,500 个流按设计不在本机，作为独立的一类具名报告，不算失败。
  • 本地 v1.0 的 doc/ 与 script/ 与 Hub 上发布的不是同一版，而且有两类原因，source_registration.json 把它们作为两个独立的声明类分别记录，不合并。
    • 第一类：2026-09-29 的一次本地修复，从未上传。 tmp/doc-script-repair-v1/receipt.json：stage "repaired_not_uploaded"、host iipl_126、modified_scope ["doc","script"]、data_changed: false、upload_authorized: false；Hub 上 ReInterHand/shared-v1.0 仍是修复前的副本。差异是 3 个 script/ 文件（config.json 的本地分区标识 partition: local → iipl_126 与 captures_file: null → captures-iipl126.txt；README.md 里说明这次修复没有上传命令、也没有上传授权的那段；checksums.json 增列 README.md 与 script/history/* 并重算 config.json 的哈希）。
    • 第二类：doc/validation/ 是 iipl_126 一个分区的复核记录，Hub 上那份覆盖两个分区。 这一类和修复无关，是「本机只并了 iipl_100 的 data/、没有并它的 doc/」的直接结果：本机 doc/validation/full/sequences/ 有 272 个文件、Hub 上有 500 个，full/production-checkpoints/ 是 137 对 251；full_random/iipl_126/ 两边都是 62 个完全相同，而 full_random/iipl_100/ 本机一个都没有（Hub 33 个）。这一类里 Hub 有、本机没有的共 376 个文件，逐条核对下来全部属于 iipl_100：228 个在 full/sequences/（正是 iipl_100 的 228 个序列，一个不多一个不少）、114 个在 full/production-checkpoints/、33 个在 full_random/iipl_100/、1 个是 full/historical-fingerprint-iipl_100.json（按文件名里的采集场次归属，371 条可直接判定，其余几条同样以 iipl_100 命名）。另有 5 个两边都有但内容不同，且这 5 个全是聚合文件（full/summary.json、full/production-checkpoints/index.json、full_random/{report.json,human-review.json,index.html}）——内容取决于「这份副本里有哪几个序列」。证据就在本机：full/summary.json 自己写着 sequences: 272, views: 3672，本机独有的 full_random/partition-scope.json 写着 host: iipl_126。
    • 两个类都按规模逐次断言：3 个具名路径每条都要「确实不同」（若某天变得相同，那条声明会自己报错），doc/validation/ 那一类则把 376 与 5 两个数钉死，多一个少一个都会让 source_registration.py 直接停下——所以前缀匹配不会把新的缺口悄悄吸收，也不会因为某天缺口被补齐而变成免检。两个类都到不了 data/：一个是具名路径、一个是 doc/validation/ 前缀，data/ 里任何缺口都仍是硬失败。
    • 后果：doc/V1_0_SEMANTICS.md、doc/history-v1.0/、script/v1_0_snapshot/ 复现的是本机的 v1.0——既带着那 3 个修复后的脚本，doc/validation/ 下又只有 iipl_126 的那一份记录，history-v1.0/ 因此不含 iipl_100 的 376 个序列与 checkpoint 明细，其中 5 个聚合文件说的是 272 个序列而不是发布版的 500 个。**data/ 不受任何一类影响：它的 68,554 个文件对着 Hub 逐个比对全部相同（全树 69,104 个文件通过内容校验：55,168 个按 LFS 内容 sha256、13,936 个按 git blob sha1，两者合计即 69,104），所以「与已发布的 v1.0 逐字节一致」只对 data/ 成立，不能说成「全树逐文件比对通过」**。
    • 上传时若要连 v1.0 的 doc//script/ 一起更新（含补齐 iipl_100 的那部分复核记录），那是一次独立于本迁移的改动，需要单独授权。
  • 上传内容：新的数值 bundle（camera/camera.pt 6,750 个、annotation/mano/mano.pt 6,750 个）、改过的 metainfo.json（6,750 个，除 schema_version、release_id 与 components 里指向数值 bundle 的引用外，还多改一处 storage_revision——见下「本次收尾的两处对齐」）与新文档。frames.jsonl、13,500 个 *_valid.pt、doc/history-v1.0/ 里与已发布 v1.0 逐字节相同的那部分，以及全部 13,500 个媒体流，都按服务端复制上传，字节不重传：哪些算复制、哪些算上传，由发布树外的 tmp/reinterhand-tools/publish.py 从 PUBLISH_MANIFEST.json（本机有什么）加上发布树自己声明的媒体（13,500 个流）再对着远端 v1.0 的内容索引算出来，不由人手写。发布清单不是发布内容——它按 H2O、dex-ycb 的约定保存在发布树外的 tmp/reinterhand-tools/PUBLISH_MANIFEST.json（树内的副本无法描述自己的最终字节，见 script/reinterhand_v1_1/README.md 的「收尾验收顺序」）。
  • 媒体必须由服务端复用，不能重新上传。 全发布 13,500 个媒体流（每视图一个 rgb.mkv 加一个 mask.mkv，约 1.08 TB）中，本机只拉了 2 个样本序列的 54 个流；其余 13,446 个在本机故意缺失（MIGRATION.md §3/§6：未变化的媒体留在原处）。媒体不重新编码、组件元数据逐字节未变，所以 LFS 侧应复用服务端已有 blob。缺失这件事由树外的 tmp/reinterhand-tools/media-presence.json 申报，而申报不随发布上传，因此发布树里默认是严格模式：没有声明时，每个被声明的媒体文件都必须存在。上传后应当用 validate.py --expect-views 6750（不带 --media-declaration）在完整的树上再跑一遍，那时 13,500 个流必须全部在场——本机这一趟无法替它做。
    • 逐个核过远端 v1.0 的索引（tmp/reinterhand-tools/REMOTE_V10_INDEX.json，82,934 个文件）后：13,500 个流全都在已发布的 v1.0 里，其中 13,499 个是 LFS 对象（有内容 sha256，可作复制源），1 个是普通 git 对象——.../204777__205353/400460/annotation/segment/mask.mkv，89,668 B，没有 LFS 摘要，因此没有复制源。这一个由发布工具从已发布的 v1.0 取回字节、按索引里的 size 与 git blob id 核对后上传；它是本次唯一会传输的媒体字节。发布工具会因为「声明的媒体在远端索引里找不到」而硬失败，所以发布不可能悄悄缺流。
  • 只调整 ReInterHand/shared-v1.1 下的路径及对应的 LFS 跟踪行；仓库里 ReInterHand 的其他内容与其他数据集不变。

本次收尾的两处对齐（与规范和已上传的 v1.1 对齐）

全量迁移跑完之后、发布之前，按「与要求一致、与其它已上传的 v1.1 对齐」又做了两处改动。两处都不是新语义，也都不改任何数值、媒体或有效性判定；一处补的是一个只查存在、不查取值的检查器缺口，另一处归一的是一个 v1.0 生产端写进每个视图、而 doc/schema.json 从未声明过的标签。

一、visibility_type 的枚举校验（RHD 复核意见 1 的同款缺口，本 release 是潜在而非现行）。 RHD 复核时发现 check_attributes 只断言了 visibility_type 这个键存在、以及张量是 bool，从没拿它去比 schema.json 的取值枚举，于是把 dtype 的词 "bool" 写进那个字段也能通过（合法值是 "boolean" 与 "ratio"）。ReInterHand 的检查器是同一份写法的改写，缺口一样；差别在于本 release 的 6,750 个视图里一个属性都没声明（components[*].attributes 全空，doc/schema.json 也不要求必须有），所以这个洞在这里是潜在的，不是现行的——不存在一批错值可以修，存在的是「将来某次重渲染写错也照样通过」。做法与 RHD 一致，且不写死第二张表：reinterhand_common.schema_visibility_types() 从 doc/schema.json 的 allowed_dtypes 与 visibility_types 按位推出 {dtype: visibility_type} 配对，check_attributes 据此拒绝枚举外的值、拒绝错配的 dtype/词组合、拒绝超出 ratio_range 的 ratio、拒绝「无效位置不是 NaN」的 ratio。反例对照在发布树外的 tmp/reinterhand-tools/visibility_enum_gap.py（三个沙箱变体：旧检查器接受 "bool"、也误杀合法的 ratio/float32；新检查器两件都做对），回归测试在同目录的 test_v1_1_review_fixes.py。RHD 复核意见 2（validate.py 的子集模式会踩全库计数断言）在本 release 里早已实现，证据在同一份回归测试里。

二、storage_revision 归一为注册表声明的值。 v1.0 的生产端 preprocess_reinterhand.py 往每个视图的 metainfo 里写死了 storage_revision: "lossless-video-2026-09-25"；而注册表 doc/schema.json 声明的是 "lossless-video-2026-09-18"，全文件里 -09-25 一次都没出现。这个键不在 view_metadata.required_fields 里，也没有任何工具读它，所以是个静默的不一致，不是加载失败。已上传的 v1.1 里，RHD 与 ARCTIC 的每个视图都是注册表那个值，H2O 直接省略。本次对齐：migrate.py 的 normalize_storage_revision() 把该键指回注册表值（只在该键本来就存在时改——源里没声明这个键的视图，迁移后也不声明，H2O 那种省略写法因此仍然合法），verify.py 只接受这一种改写、且目标值只允许是注册表值，reinterhand_common.check_view() 在发布树上拒绝任何别的值。全树 6,750/6,750 现为该值。

两处都没有动的东西：媒体组件的 storage.profile id mkv/ffv1_rgb24/v1（仍未注册，仍在下面「已登记的媒体元数据缺口」那张表里）、13,500 个媒体流本身、任何数值/valid/状态位。改 migrate.py 会换掉工具摘要，所以这两处落地后重跑了整条迁移与验收链（script/reinterhand_v1_1/README.md 的「收尾验收顺序」第 1→8 步），发布清单也在最后重建。

重跑的结果逐字记在 doc/FULL_MIGRATION_SUMMARY.json 的 migration_runs 里：最终这一趟重写了 6,729 个视图，另外 21 个因为此前已用同一版工具（同一工具摘要）试迁过同一条序列、checkpoint 逐项复核通过而被 --resume 跳过。被跳过不等于没验过：汇总工具不把日志里的 skip 行当声明，而是对每一个被跳过的视图重算一遍 migrate.py:checkpoint_ok 的那套判据（工具摘要、源 metainfo 摘要、两个 bundle 与输出 metainfo 的 sha256），全中才写进汇总，任何一条对不上就拒绝出汇总。pilot 那一趟（54 个视图）的字节已全部被最终这趟重写，它作为 superseded_pilot_era_run 连同自己的日志一起登记，不并入最终这趟的账。

人工复核页（验收证据，不是训练输入）

doc/validation/ 里有 27 个视图的逐视图目视页（入口 doc/validation/index.html），与 H2O、dex-ycb、ARCTIC、RHD 各套 v1.1 的做法一致，由 script/reinterhand_v1_1/render.py 生成（script/reinterhand_v1_1/README.md 的「收尾验收顺序」第 5 步）。它们只读 v1.1 的 bundle，不引入 v1.0 时代的渲染栈或外部模型资产。

  • 抽样可复现，且样本量受一个硬约束限制：种子 20261015，规则是「在本机带着媒体的序列里按渲染策略各抽 1 个」。本机只有 2 个序列带媒体（见上），所以实际渲染的是这 2 个序列的全部 27 个视图，而不是 500 个序列里的 2 个。规则、种子、入选序列与逐视图帧数都写进随发布保留的 doc/validation/V1_1_VALIDATION.json，页面上也照实写明。
  • 用途：这是 CONTRACT §6.5 里「人工目视验收」要看的东西，不是训练输入，也不是自动判据。渲出页面不等于有人看过：树里的 full_output_human_review 与汇总里的 human_full_review 都仍为 "pending"，本文件第 3 行说的「人工复查还没有进行」照旧成立。
  • 页面画什么、不画什么：抽样帧每帧给出原生 RGB（MKV 解出、未重编码）、发布的 mask 前景、以及把发布的 MANO 参数按该视图自己声明的相机模型（exo pinhole、ego opencv_fisheye4）展开并投影后的手部几何，逐帧数值明细、整份 metainfo 与该视图的 QC 报告放在 <details> 里。不画物体与接触（release 里没有这些组件），源缺的字段一律不补造；没画的东西逐条记进该视图报告的 hands_not_drawn 并写在页面上。
  • MANO-on-mask 自检（本 release 独有）：ReInterHand 是各发布里唯一同时发布逐帧 MANO 参数与前景强度图的，所以页面能把发布的 MANO 展开、投影、与发布的 mask 逐帧比对——这是这套数据自己就能做的核验，不需要任何外部资产（RHD 做的是它的 xyz↔uv 投影对照，ReInterHand 没有发布的 uv，有的是 MANO）。全量扫描覆盖入选视图的每一帧：27 个视图、1,887 帧逐帧投影关节与顶点，其中 1,692 帧的 mask 非空可用于覆盖统计（另 138 帧 mask 全空，全部落在两个 ego 视图里：11 + 127）。命中率逐视图中位数 0.973008，最差 0.950514（exo 400483），最好 0.991003（exo 400460）；左手 26,273/26,597 个画内关节、1,233,482/1,293,446 个顶点落在前景上，右手 26,742/26,742 与 1,260,837/1,298,643。mask 实测取值域恰好 [0,255]，与声明一致。全量聚合写进 V1_1_VALIDATION.json 的 mano_on_mask。
  • 画外与空 mask 照实披露。 envmap_per_segment 的 ego 视图每只手只有 5/181 帧有效（源本身就是稀疏的），且它的左手整块落在画面外；这两件事写在页面上（该视图报告的 hands_geometry_entirely_off_frame 与 hands_not_drawn，27 个视图里分别记名 1 处与 8 处），不是被藏起来。偏差与覆盖只被记录，不用来「修正」发布值，也不丢任何帧。
  • 这些是 v1.0 没有的新文件（HTML 与 JSON，不是 LFS 媒体），上传时随 shared-v1.1 一起新增。

发布时移除 Hub 上的 shared-v1.0（对齐 release_layout）

注册表 release_layout 要求「在 shared-v1.0 下原地升级、完整校验后再改名为 shared-v1.1，不得保留重复的发布树」。迁移期间本树曾同时存在 ReInterHand/shared-v1.0 与 ReInterHand/shared-v1.1，那是当时登记的偏离（用户要求 先暂时保留着，好让两棵树并存着先完成核对）；2026-10-15 用户指示 sharedv1.0 可以删掉，和其他数据集一样，Hub 上那份随本次发布移除，偏离就此收口。

因此：

  • 本机的 shared-v1.0 继续保留。 它是本次迁移的输入与逐字节比对基准（verify.py 的验收正是对着它做的），不是要发布的第二份数据；而且它另有一层特殊：它的 doc//script/ 是那份未上传的 2026-09-29 修复，删掉本机这一份等于丢掉那份修复的唯一副本。
  • Hub 上的 ReInterHand/shared-v1.0 由本次候选 PR 移除，而且必须移除。 仓库已在 Hub 的 100 万文件上限上，ARCTIC 的推送正是被这个上限拒掉（Your git repo would contain 1000002 files after this push, over the limit of 1000000 files. Offending reference: refs/pr/5），而本 release 要新增 54,641 个路径——旧树不让位就放不下。发布工具因此按 --remove-old 运行：v1.1 的全部路径、大小与内容摘要先核验通过，再用单独一次提交删除旧树、同时修剪 .gitattributes；若 Hub 在更早的暂存提交上就以文件数拒绝，旧树在那一次提交里一并移除（ARCTIC 的路径，工具记为 file_count_error / old_removed_early）。媒体复制以 main 为源（src_revision），所以旧树先删也不会让后续的复制失去来源。
  • 这不销毁任何独有证据。 上文「第二类」说的 376 个文件与 5 个聚合文件，其唯一副本本来就在 iipl_100（192.168.1.100）自己的 shared-v1.0/ 下，本机从来没有过；发布树在合并前的修订（base_commit）上也仍然可以取回。本机两棵树并存的事与 Hub 无关。
  • 发布之后 Hub 上只剩 ReInterHand/shared-v1.1；本机仍是两棵树（本机 v1.0 是证据，不随发布删除）。按 MIGRATION.md §6「发布记录保留旧版本的固定提交以便追溯」，被移除的那棵 Hub v1.0 的固定修订记在发布树外——发布工具写进 tmp/reinterhand-tools/HF_PUBLICATION.json 的 base_commit（树内记不了：这个值要到发布时才存在，而树在发布前就已定稿并哈希）。

已登记的媒体元数据缺口（v1.0 原样带来，本次不修）

发布的 6,750 个视图里，媒体组件的元数据不满足 v1.1 schema.json 的 9 项要求，且逐视图一致（每项 6,750 次）：

组件 缺口
rgb/uint8/v1 缺 storage.encoded_size、storage.decoder、storage.encoder_parameters；storage.profile 写的 mkv/ffv1_rgb24/v1 既未在 storage_profiles 注册，也不在 rgb/uint8/v1.allowed_storage_profiles 里
segment/foreground_intensity/v1 整个 storage 块缺失；并缺 segmentation_type、coverage、entity_id

成因是 v1.0 的媒体组件是手写的，没走 schema 驱动的写入器；而 v1.1 的合同是「合并每组数值张量，媒体、JSONL 与其余元数据一律不动」（spec/CONTRACT.md §1/§6.3），所以纯存储迁移不允许顺手修它。本次迁移也确实没改：rgb 与 segment 两个组件在 v1.0 与 v1.1 之间逐字节相同（迁移只改 schema_version、release_id 与 components 里指向数值 bundle 的那几项引用，另加一处顶层键 storage_revision），因此这个缺口是 v1.0 原样带来的，v1.1 既没有引入它，也没有修掉它。

处理方式：在 script/reinterhand_v1_1/reinterhand_common.py 的 DECLARED_MEDIA_SCHEMA_GAPS 里声明这 9 项，并把它对着全树计数断言（每项恰好 6,750 次）。这样既不会把已知缺口报成失败，也不会让新的缺口或悄悄的修复溜过去：任何一项的计数变化都会直接失败。要修这 9 项，必须同时更新那张表、发布说明与本文件——这是一次有意的改动，不是迁移的副产物。

一处无法在本机补齐的细节：encoder_parameters 这类编码事实要靠媒体文件本身才能确认，而本机没有那 13,446 个流，所以即便将来决定补这些字段，也得在完整的树上做。

文档命名：保留 ReInterHand v1.0 的历史名字

H2O、dex-ycb、ARCTIC 的 doc/ 用 RAW_TO_SHARED.md。ReInterHand v1.0 当年的对应文件叫 RAW_MAPPING.md，本 release 保留这个名字（RHD 同样保留了它的历史名），其余（CONTRACT.md、MIGRATION.md、schema.json、V1_0_SEMANTICS.md、history-v1.0/、validation/）与其余各套对齐。v1.0 时期的那份文件本身逐字节保留在 doc/history-v1.0/。

上传与核验（由师兄执行，本工具链不做上传）

  • 最终 HF 提交号、树摘要与发布核验结果保存在发布树之外的 HF_PUBLICATION.json，避免文件自引用自己的提交号或清单摘要。
  • 在一个独立 PR 内新增 ReInterHand/shared-v1.1（含全部 13,500 个媒体流的服务端复制）并移除 ReInterHand/shared-v1.0，ReInterHand/raw 逐字节不变；候选分支上先按全部路径、大小和内容摘要核验通过，再由人来决定合并，工具不自动合并、不自动 squash。媒体复制以 main 为源，旧树的移除不影响复制；旧树在合并前的修订上仍可取回。
  • .gitattributes 必须与这次上传同一趟改：主分支上那份是 9,535,585 B（2026-10-15 实测；上传时工具会对着当时的 main 重量一次，超限即停），距 Hub 对非 LFS 文件的 10 MiB 上限只剩 950,175 B，而 .mkv 没有全局模式、Hub 会为新路径逐条追加——本 release 新增的 13,446 个流约需 2.7 MB，放不进去。ReInterHand 自己在那份文件里的 13,007 行正好就是 v1.0 的 .mkv 路径（2,636,472 B），换成两条 glob（ReInterHand/shared-v1.0/**/*.mkv、ReInterHand/shared-v1.1/**/*.mkv）后是 6,899,251 B、余量 3,586,509 B；这与仓库里 dex-ycb/shared-v1.1/**/*.obj、PR #4 的各家、以及 ARCTIC/RHD 的做法一致，且 glob 行必须在 PR 的第一个提交里落地（否则 Hub 会先逐条追加）。Non-ReInterHand 的行逐字节不变，合并前会再比一次；旧树移除时一并去掉它自己那条 glob 行（6,899,182 B）。
  • 上传后必须在完整树上重跑一次全量校验（--expect-views 6750，不带 --media-declaration），确认 13,500 个媒体流全部在场；本机做不到这一趟。
  • 不自动 squash、不删除仓库历史：文件数限制类错误需要按实际错误调查，而全仓库历史清除会同时影响其他数据集与固定提交的可回溯性。
  • 上传及核验成功后，再清理本次的私有暂存与试点产物；正式 shared-v1.1、raw、以及本机保留的 shared-v1.0（那份未上传修复的唯一副本在这里）与其他任务产物保留。

工具链不做的事

本目录不含上传脚本。script/reinterhand_v1_1/ 只负责迁移、验收与结构校验，script/provenance/operations/build_reinterhand_docs.py 只负责生成本目录的文档；发布树外的 tmp/reinterhand-tools/ 负责源提交登记、媒体声明、反例对照与汇总生成。上传需要单独的书面授权，授权与执行都不在这里。