# ReInterHand raw → share 映射

本文记录 ReInterHand `shared-v1.1` 的转换范围与数值布局。文件名沿用 v1.0 时代的 `RAW_MAPPING.md`（其余发布的对应文档叫 `RAW_TO_SHARED.md`），v1.0 那一份逐字节保留在 `doc/history-v1.0/`。共享层只提取统一规范需要的字段；raw 中的辅助拟合文件与未选用字段仍留在 raw，不因其存在而全部复制。

## 发布范围与布局

- 原始范围：10 个官方 capture，raw 固定清单共 879 个文件、1,557,547,443,822 字节。
- 共享范围：500 个一级序列目录、6,750 个相机视图（6,250 `exo` + 500 `ego`）、1,526,795 条视图帧记录（本次迁移后重新逐视图求和，与 v1.0 记录一致）。
- 一级目录：`<capture>__<render_type>__<start_source_frame_id>__<end_source_frame_id>/`。
- 二级目录：`<camera_id>/`；同一短序列的全部相机位于同一个一级目录下。
- `camera_id=ego` 为第一视角；数字相机 ID 为外部 Mugsy 相机。
- `view_type` 是**逐视图从源取的值，不是本发布另加的分类**：6,250 个 `exo` 视图的相机模型是 `pinhole`，500 个 `ego` 视图是 `opencv_fisheye4`。这与 RHD 相反（RHD 每视图恒为 `exo`，其 `view_type` 是该发布自己选的发布级分类，故 RHD 的映射文档里带一段专门的说明）。
- 官方 InterWild capture 划分：train 7 个 capture / 368 个一级序列，test 3 个 capture / 132 个一级序列；官方没有独立 val capture，本发布不自造 val。

## 样本与时间语义

| raw 渲染设置 | shared 语义 | 帧率字段 | 说明 |
|---|---|---|---|
| `envmap_per_frame` | `sample_type=image`、`sampling.type=independent` | `source_fps=null` | 每帧可独立改变背景；ego 还可逐图改变相机。MKV 仅为无损批容器，顺序不可作为时间监督。 |
| `envmap_per_segment` | `sample_type=video`、`sampling.type=dense` | `source_fps=30` | 同一动作段内具有官方视频顺序。 |

所有视图都用 `camera/frames.jsonl` 保存本地 `frame_index` 到官方 `source_frame_id` 的显式映射。没有源时间戳时，`timestamp_ns` 与 `clock_domain` 保持空值，不用未知 FPS 推断时间戳。

## 字段映射

| raw 来源 | v1.1 位置（文件 → 字典键） | 转换与校验 |
|---|---|---|
| capture 根目录 `frame_list.txt` | 一级序列边界、`source_segment_id`、`source_frame_span`、`camera/frames.jsonl`（保留） | 只处理官方 frame list 中列出的帧；源帧 ID 原样登记，不改成局部零基帧号。 |
| `Ego_cameras/<render_type>.tar.gz*` 中 `images/{frame}.png` | `ego/observation/rgb.mkv`（保留） | PNG 解码为 RGB 后用 FFV1 `rgb24` 无损封装；逐帧数量和像素往返校验。 |
| `Mugsy_cameras/<render_type>.tar.gz*` 中 `images/<camera_id>/{frame}.png` | `<camera_id>/observation/rgb.mkv`（保留） | 同上。 |
| Ego 归档中的逐帧 `cam_params/{frame}.json` | `camera/camera.pt` → `intrinsic` / `extrinsic` / `distortion` | OpenCV fisheye4；R 保留，t 从毫米转换为米；外参语义为 `T_camera_from_world`。 |
| `Mugsy_cameras/cam_params.json` | `camera/camera.pt` → `intrinsic` / `extrinsic` | pinhole；静态标定扩展到 T，R 保留，t 从毫米转换为米。 |
| `mano_fits/mano_fits.tar.gz*` 中 `params/{frame}_{left\|right}.json` | `annotation/mano/mano.pt` → `motion` | 输出 `[T,2,61]`，手槽顺序为 left/right；MANO v1.2、flat-hand mean、左手 shapedirs 修复；根姿态和位移转到相机坐标，米/弧度。源 PLY/OBJ 仅用于独立几何复核，不重复发布。 |
| Ego `truncation_ratio.json` | `annotation/mano/mano.pt` → `motion` 的 `valid` | `truncation_ratio < 0.2` 表示可见比例不足 20%，该帧两手监督标为不可用；数值本身不伪造或改写。 |
| 各渲染归档中的 `masks/.../{frame}.png` | `annotation/segment/mask.mkv`、`mask_valid.pt`（保留） | 原生 uint8 0–255 灰度前景强度无损保存为 FFV1；左右手合并、无实例身份。它不是左右手类别图，也不在共享层阈值化。 |
| 官方 InterWild loader 的 capture 列表（修订 `7c01e4ad4909652056a68af93b4c16ceabbce8fe`） | 每个 `metainfo.json` 的 `split`、`split_scheme`、`split_source_locator` | 7 个 train capture、3 个 test capture；无官方 val。 |

## v1.0 → v1.1 数值布局

v1.1 相对 v1.0 **只改物理布局，不改语义**（`spec/CONTRACT.md` §1、§6.3）：每个数值张量与其 `valid` 合入同一组文件的一个 `{"data": Tensor, "valid": BoolTensor}` 叶。

| v1.0 文件 | v1.1 文件 | 字典键 |
|---|---|---|
| `camera/intrinsic.pt` + `camera/intrinsic_valid.pt` | `camera/camera.pt` | `intrinsic` |
| `camera/extrinsic.pt` + `camera/extrinsic_valid.pt` | `camera/camera.pt` | `extrinsic` |
| `camera/distortion.pt` + `camera/distortion_valid.pt`（仅 500 个 ego 视图） | `camera/camera.pt` | `distortion` |
| `annotation/mano/motion.pt` + `annotation/mano/motion_valid.pt` | `annotation/mano/mano.pt` | `motion` |

键名由 v1.0 的 `data_ref` 决定：去掉该 bundle 声明的目录前缀、去掉末段的 `.pt`，其余段按 `/` 作为嵌套键。

**每视图文件数与全树账目**（`acceptance.json` 逐视图求和，与树上实测一致）：

| | v1.0 | v1.1 | 变化 |
|---|---|---|---|
| 每视图文件数（含 2 个媒体流） | exo 12 / ego 14 | exo 8 / ego 8 | −4 / −6 |
| 每视图文件数（不含媒体） | exo 10 / ego 12 | 6 / 6 | −4 / −6 |
| `data/` 全树文件数 | 68,554 | 40,554 | −28,000 |
| `data/` 全树文件数（不含媒体） | 68,500 | 40,500 | −28,000 |

全树减少的 28,000 个文件 = 6,250 个 exo × 4 + 500 个 ego × 6。逐类：并入 bundle 而消失的源文件共 41,500 个（`motion` 13,500、`intrinsic` 13,500、`extrinsic` 13,500、`distortion` 1,000），新增 bundle 文件 13,500 个（`camera/camera.pt` 与 `annotation/mano/mano.pt` 各 6,750）。

**媒体与 JSONL 不并入 bundle。** `observation/rgb.mkv`、`annotation/segment/mask.mkv` 保留 `data_ref`/`valid_ref`（`rgb_valid.pt`、`mask_valid.pt` 仍是独立 bool 张量文件），`camera/frames.jsonl` 与 `metainfo.json` 保留，且**不带** `data_key`/`valid_key`。这是有意的：媒体不重新编码（`MIGRATION.md` §3/§6 要求未变化的媒体留在原处），所以它们的组件元数据在 v1.0 与 v1.1 之间**逐字节相同**，本次迁移只改 `schema_version`、`release_id` 与 `components` 里指向数值 bundle 的那几项引用。

**顶层键里还有一处例外：`storage_revision`。** v1.0 的生产端把它写死成 `lossless-video-2026-09-25`，而 `doc/schema.json` 声明的是 `lossless-video-2026-09-18`（已上传的 RHD、ARCTIC 每个视图都是后者，H2O 干脆省略这个键）。迁移把这个键**指回注册表声明的值**，源里没有这个键的视图也仍然不写；`verify.py` 只接受这一种改写。理由、范围与证据见 `PUBLICATION_PLAN.md` 的「本次收尾的两处对齐」。

**ego 的 `distortion` 有效性取 CONTRACT §3 的共享分支。** v1.0 的 `intrinsic` 组件声明了 `distortion_ref` 与 `distortion_key`，但没有独立的 `distortion_valid_ref`，所以 CONTRACT §3 要求该向量的有效性要么与所属相机组件的有效性共享、要么展开为已声明的全真标量。本次迁移取的是**共享**分支：`verify.py` 对全部 500 个 ego 视图把 bundle 里的 `distortion/valid` 与源 `intrinsic_valid.pt` 的字节相比，500/500 相同（`acceptance.json` 里这 500 条的 `valid_origin` 记作 `shared with intrinsic validity (CONTRACT 3)`），并把结果作为独立字段 `camera/camera.pt:distortion` 与 `camera/camera.pt:distortion`（经 `intrinsic.distortion` 这一组件路径）各记一次。`reinterhand_common.py` 另外断言「有 `distortion` 组件」等价于「该视图是 `opencv_fisheye4` 的 ego」，所以将来 exo 侧冒出畸变向量会被当成未登记字段抓住。

**数值层逐字段字节级验收。** 6,750 个视图、21,250 个合并字段（`mano`/`intrinsic`/`extrinsic` 各 6,750，`distortion` 500 + 经 `intrinsic.distortion` 500），dtype 全为 `torch.float32`，形状 `extrinsic (T,4,4)`、`intrinsic (T,3,3)`、`distortion (T,4)`、`motion (T,2,61)`，**无 tolerance、含 NaN 位串的比较全部逐字节相同**（`byte_exact: true` 21,250/21,250，NaN 计数 0）；有效位合计 true 6,654,940 / false 43,220。逐视图逐字段明细见发布树外的 `tmp/reinterhand-tools/acceptance.json`（由 `script/reinterhand_v1_1/verify.py` 产出；清单与验收报告按 `MIGRATION.md` §3 存放于发布树之外），摘要见 [FULL_MIGRATION_SUMMARY.json](FULL_MIGRATION_SUMMARY.json)。

采样、帧数、dtype、数值、NaN 位置、有效性判据、单位、坐标系、手槽、split 与 `valid_policy` 一律不变（`spec/CONTRACT.md` §6.3）。

## 未发布为共享组件的 raw 字段

- `orig_fits` 关键点和其他中间拟合字段不进入 shared；本版本选择 MANO 作为统一几何监督。
- 源中没有本发布可用的 depth、contact、物体姿态或物体模型，因此不虚构这些模态。
- 源 PLY/OBJ 手网格仅用于核对 MANO 参数复现与投影链路，不作为平行共享组件重复存储。

每个视图的精确来源模板、坐标系、单位、valid 规则和省略项均以该视图的 `metainfo.json` 为准；通用组件定义见 `spec/CONTRACT.md` 与 `spec/schema.json`。

## 正式入口

正式入口为 `script/reinterhand_v1_1/migrate.py`、`script/reinterhand_v1_1/verify.py`、`script/reinterhand_v1_1/validate.py`、`script/reinterhand_v1_1/read_sequence.py` 与 `script/reinterhand_v1_1/render.py`。它们均无必填命令行参数，并从自身位置定位本数据集的 `shared-v1.0/`、`shared-v1.1/` 与 `tmp/`；公共实现位于 `script/reinterhand_v1_1/reinterhand_common.py`，registry 驱动的读写器位于 `script/reinterhand_v1_1/warehouse.py`（与其余 v1.1 发布所用的同一份实现逐字节相同，sha256 `fe62f79f9228475e23764d57c923e781422951ad5ed6680337bf67e120a63db2`）。复核页用的 MANO 展开与投影在 `script/reinterhand_v1_1/mano_review.py`，其模型资产是 v1.0 自己的运行时快照（`tmp/runtime-v1.0/`），不随发布上传。v1.0 的 `script/` 原样保存在 `script/v1_0_snapshot/script/`，v1.0 的合同与 schema 保存在 `script/v1_0_snapshot/doc/`。完整运行方式、收尾验收顺序与依赖见 `script/reinterhand_v1_1/README.md`。

脚本不会删除或改写 raw，也不会自动上传或把自动检查写成人工通过。