Hugging Face's logo

Datasets:
ParityLab
/
Hand-Datasets-Raw

Dataset card Files
xet
 Community
9
Hand-Datasets-Raw / ReInterHand /shared-v1.1 /doc /RAW_MAPPING.md
orz2333's picture
orz2333
yhl826459's picture
yhl826459
Replace ReInterHand shared-v1.0 with the verified shared-v1.1 release (candidate PR) (#8)
8f94cdb
preview code
|
Raw History Blame Contribute Delete
10.7 kB

ReInterHand raw → share 映射

本文记录 ReInterHand shared-v1.1 的转换范围与数值布局。文件名沿用 v1.0 时代的 RAW_MAPPING.md（其余发布的对应文档叫 RAW_TO_SHARED.md），v1.0 那一份逐字节保留在 doc/history-v1.0/。共享层只提取统一规范需要的字段；raw 中的辅助拟合文件与未选用字段仍留在 raw，不因其存在而全部复制。

发布范围与布局

  • 原始范围：10 个官方 capture，raw 固定清单共 879 个文件、1,557,547,443,822 字节。
  • 共享范围：500 个一级序列目录、6,750 个相机视图（6,250 exo + 500 ego）、1,526,795 条视图帧记录（本次迁移后重新逐视图求和，与 v1.0 记录一致）。
  • 一级目录：<capture>__<render_type>__<start_source_frame_id>__<end_source_frame_id>/。
  • 二级目录：<camera_id>/；同一短序列的全部相机位于同一个一级目录下。
  • camera_id=ego 为第一视角；数字相机 ID 为外部 Mugsy 相机。
  • view_type 是逐视图从源取的值，不是本发布另加的分类：6,250 个 exo 视图的相机模型是 pinhole，500 个 ego 视图是 opencv_fisheye4。这与 RHD 相反（RHD 每视图恒为 exo，其 view_type 是该发布自己选的发布级分类，故 RHD 的映射文档里带一段专门的说明）。
  • 官方 InterWild capture 划分：train 7 个 capture / 368 个一级序列，test 3 个 capture / 132 个一级序列；官方没有独立 val capture，本发布不自造 val。

样本与时间语义

raw 渲染设置 shared 语义 帧率字段 说明
envmap_per_frame sample_type=image、sampling.type=independent source_fps=null 每帧可独立改变背景；ego 还可逐图改变相机。MKV 仅为无损批容器，顺序不可作为时间监督。
envmap_per_segment sample_type=video、sampling.type=dense source_fps=30 同一动作段内具有官方视频顺序。

所有视图都用 camera/frames.jsonl 保存本地 frame_index 到官方 source_frame_id 的显式映射。没有源时间戳时，timestamp_ns 与 clock_domain 保持空值，不用未知 FPS 推断时间戳。

字段映射

raw 来源 v1.1 位置（文件 → 字典键） 转换与校验
capture 根目录 frame_list.txt 一级序列边界、source_segment_id、source_frame_span、camera/frames.jsonl（保留） 只处理官方 frame list 中列出的帧；源帧 ID 原样登记，不改成局部零基帧号。
Ego_cameras/<render_type>.tar.gz* 中 images/{frame}.png ego/observation/rgb.mkv（保留） PNG 解码为 RGB 后用 FFV1 rgb24 无损封装；逐帧数量和像素往返校验。
Mugsy_cameras/<render_type>.tar.gz* 中 images/<camera_id>/{frame}.png <camera_id>/observation/rgb.mkv（保留） 同上。
Ego 归档中的逐帧 cam_params/{frame}.json camera/camera.pt → intrinsic / extrinsic / distortion OpenCV fisheye4；R 保留，t 从毫米转换为米；外参语义为 T_camera_from_world。
Mugsy_cameras/cam_params.json camera/camera.pt → intrinsic / extrinsic pinhole；静态标定扩展到 T，R 保留，t 从毫米转换为米。
mano_fits/mano_fits.tar.gz* 中 params/{frame}_{left|right}.json annotation/mano/mano.pt → motion 输出 [T,2,61]，手槽顺序为 left/right；MANO v1.2、flat-hand mean、左手 shapedirs 修复；根姿态和位移转到相机坐标，米/弧度。源 PLY/OBJ 仅用于独立几何复核，不重复发布。
Ego truncation_ratio.json annotation/mano/mano.pt → motion 的 valid truncation_ratio < 0.2 表示可见比例不足 20%，该帧两手监督标为不可用；数值本身不伪造或改写。
各渲染归档中的 masks/.../{frame}.png annotation/segment/mask.mkv、mask_valid.pt（保留） 原生 uint8 0–255 灰度前景强度无损保存为 FFV1；左右手合并、无实例身份。它不是左右手类别图，也不在共享层阈值化。
官方 InterWild loader 的 capture 列表（修订 7c01e4ad4909652056a68af93b4c16ceabbce8fe） 每个 metainfo.json 的 split、split_scheme、split_source_locator 7 个 train capture、3 个 test capture；无官方 val。

v1.0 → v1.1 数值布局

v1.1 相对 v1.0 只改物理布局，不改语义（spec/CONTRACT.md §1、§6.3）：每个数值张量与其 valid 合入同一组文件的一个 {"data": Tensor, "valid": BoolTensor} 叶。

v1.0 文件 v1.1 文件 字典键
camera/intrinsic.pt + camera/intrinsic_valid.pt camera/camera.pt intrinsic
camera/extrinsic.pt + camera/extrinsic_valid.pt camera/camera.pt extrinsic
camera/distortion.pt + camera/distortion_valid.pt（仅 500 个 ego 视图） camera/camera.pt distortion
annotation/mano/motion.pt + annotation/mano/motion_valid.pt annotation/mano/mano.pt motion

键名由 v1.0 的 data_ref 决定：去掉该 bundle 声明的目录前缀、去掉末段的 .pt，其余段按 / 作为嵌套键。

每视图文件数与全树账目（acceptance.json 逐视图求和，与树上实测一致）：

v1.0 v1.1 变化
每视图文件数（含 2 个媒体流） exo 12 / ego 14 exo 8 / ego 8 −4 / −6
每视图文件数（不含媒体） exo 10 / ego 12 6 / 6 −4 / −6
data/ 全树文件数 68,554 40,554 −28,000
data/ 全树文件数（不含媒体） 68,500 40,500 −28,000

全树减少的 28,000 个文件 = 6,250 个 exo × 4 + 500 个 ego × 6。逐类：并入 bundle 而消失的源文件共 41,500 个（motion 13,500、intrinsic 13,500、extrinsic 13,500、distortion 1,000），新增 bundle 文件 13,500 个（camera/camera.pt 与 annotation/mano/mano.pt 各 6,750）。

媒体与 JSONL 不并入 bundle。 observation/rgb.mkv、annotation/segment/mask.mkv 保留 data_ref/valid_ref（rgb_valid.pt、mask_valid.pt 仍是独立 bool 张量文件），camera/frames.jsonl 与 metainfo.json 保留，且不带 data_key/valid_key。这是有意的：媒体不重新编码（MIGRATION.md §3/§6 要求未变化的媒体留在原处），所以它们的组件元数据在 v1.0 与 v1.1 之间逐字节相同，本次迁移只改 schema_version、release_id 与 components 里指向数值 bundle 的那几项引用。

顶层键里还有一处例外：storage_revision。 v1.0 的生产端把它写死成 lossless-video-2026-09-25，而 doc/schema.json 声明的是 lossless-video-2026-09-18（已上传的 RHD、ARCTIC 每个视图都是后者，H2O 干脆省略这个键）。迁移把这个键指回注册表声明的值，源里没有这个键的视图也仍然不写；verify.py 只接受这一种改写。理由、范围与证据见 PUBLICATION_PLAN.md 的「本次收尾的两处对齐」。

ego 的 distortion 有效性取 CONTRACT §3 的共享分支。 v1.0 的 intrinsic 组件声明了 distortion_ref 与 distortion_key，但没有独立的 distortion_valid_ref，所以 CONTRACT §3 要求该向量的有效性要么与所属相机组件的有效性共享、要么展开为已声明的全真标量。本次迁移取的是共享分支：verify.py 对全部 500 个 ego 视图把 bundle 里的 distortion/valid 与源 intrinsic_valid.pt 的字节相比，500/500 相同（acceptance.json 里这 500 条的 valid_origin 记作 shared with intrinsic validity (CONTRACT 3)），并把结果作为独立字段 camera/camera.pt:distortion 与 camera/camera.pt:distortion（经 intrinsic.distortion 这一组件路径）各记一次。reinterhand_common.py 另外断言「有 distortion 组件」等价于「该视图是 opencv_fisheye4 的 ego」，所以将来 exo 侧冒出畸变向量会被当成未登记字段抓住。

数值层逐字段字节级验收。 6,750 个视图、21,250 个合并字段（mano/intrinsic/extrinsic 各 6,750，distortion 500 + 经 intrinsic.distortion 500），dtype 全为 torch.float32，形状 extrinsic (T,4,4)、intrinsic (T,3,3)、distortion (T,4)、motion (T,2,61)，无 tolerance、含 NaN 位串的比较全部逐字节相同（byte_exact: true 21,250/21,250，NaN 计数 0）；有效位合计 true 6,654,940 / false 43,220。逐视图逐字段明细见发布树外的 tmp/reinterhand-tools/acceptance.json（由 script/reinterhand_v1_1/verify.py 产出；清单与验收报告按 MIGRATION.md §3 存放于发布树之外），摘要见 FULL_MIGRATION_SUMMARY.json。

采样、帧数、dtype、数值、NaN 位置、有效性判据、单位、坐标系、手槽、split 与 valid_policy 一律不变（spec/CONTRACT.md §6.3）。

未发布为共享组件的 raw 字段

  • orig_fits 关键点和其他中间拟合字段不进入 shared；本版本选择 MANO 作为统一几何监督。
  • 源中没有本发布可用的 depth、contact、物体姿态或物体模型，因此不虚构这些模态。
  • 源 PLY/OBJ 手网格仅用于核对 MANO 参数复现与投影链路，不作为平行共享组件重复存储。

每个视图的精确来源模板、坐标系、单位、valid 规则和省略项均以该视图的 metainfo.json 为准；通用组件定义见 spec/CONTRACT.md 与 spec/schema.json。

正式入口

正式入口为 script/reinterhand_v1_1/migrate.py、script/reinterhand_v1_1/verify.py、script/reinterhand_v1_1/validate.py、script/reinterhand_v1_1/read_sequence.py 与 script/reinterhand_v1_1/render.py。它们均无必填命令行参数，并从自身位置定位本数据集的 shared-v1.0/、shared-v1.1/ 与 tmp/；公共实现位于 script/reinterhand_v1_1/reinterhand_common.py，registry 驱动的读写器位于 script/reinterhand_v1_1/warehouse.py（与其余 v1.1 发布所用的同一份实现逐字节相同，sha256 fe62f79f9228475e23764d57c923e781422951ad5ed6680337bf67e120a63db2）。复核页用的 MANO 展开与投影在 script/reinterhand_v1_1/mano_review.py，其模型资产是 v1.0 自己的运行时快照（tmp/runtime-v1.0/），不随发布上传。v1.0 的 script/ 原样保存在 script/v1_0_snapshot/script/，v1.0 的合同与 schema 保存在 script/v1_0_snapshot/doc/。完整运行方式、收尾验收顺序与依赖见 script/reinterhand_v1_1/README.md。

脚本不会删除或改写 raw，也不会自动上传或把自动检查写成人工通过。