# Raw data → Stage1：本地冻结约定 v1

冻结日期：2026-10-08。范围：12 条 marker、14 条 scissors，共 **26 条**。
这是本地采集资料与转换入口，不是 GitHub 发布的数据包；本次不 commit、push 或上传。
旧目录、原始文件、旧标定和旧生成结果全部保留。此前 README 保存在
`manifests/history/README.before_raw_to_stage1_v1.md`。

## 1. 唯一默认标定

入口只读取 `calibration/raw_to_stage1_v1/defaults.json` 指定并校验哈希的清单，
**不访问 viewer，不读取其他 worktree 或当前 main/sharpa 的可变代码**。

| 冻结项 | raw_data 内相对路径 / 约定 |
|---|---|
| 安装 offset | `calibration/raw_to_stage1_v1/fixed_offset.json` |
| offset SHA256 | `af948e4cdd200dfe52f14afa8d91b913b33b4a95d9ffc4079b113aed497734bd` |
| 唯一数值依据 | 上述文件的 `T_HandRigid_from_MANUSLocalCanonical` 4×4 矩阵；不要用其历史 UI `parameters` 字段重新构造矩阵 |
| 固定手型与骨长 | `calibration/raw_to_stage1_v1/hand_shape/hand_shape_calibration.npz` 及同目录 `manifest.json` |
| 手型 NPZ SHA256 | `f53241ff628ec9d263466059acde3cc58cc37a480d670e6315b72b9a7315b368` |
| 手型表示 | MANO 的 778 顶点拓扑 + MANUS 标定的 25 节点骨架与双四元数蒙皮；不是标准 MANO beta/pose 参数模型 |
| 厚度 | 裸手蒙皮后，沿逐帧面积加权顶点法线额外扩张 **0.001 m**，只加一次；不移动关节 |
| 物体外参及几何 | `calibration/raw_to_stage1_v1/objects/{marker,scissors}/`；原 `object.candidate.json` 数值不变 |
| 时间同步 | 固定算法与配置，**每条录制单独的时间差**；本批结果见 manifest 的 `episodes[].sync` |
| 原始动作 | 直接使用原 MANUS CSV 的关节全局旋转；不做接触驱动的动作修改或重新拟合骨长 |
| 状态 | **FROZEN_PROVISIONAL**：冻结的暂用版本，不代表物理标定或训练准入通过 |

offset 文件与本次已生成 26 条 Stage1 实际使用的文件逐字节相同。
其原始来源文件作为历史证据保存在 `calibration/raw_to_stage1_v1/provenance/`；
历史 JSON 内的旧绝对路径只是来源标签，运行时不解析它们。
固定参数、运行代码或原始输入哈希不匹配时，入口报错，不静默选取其他版本。

## 2. 冻结后的 layout

```text
raw_data/
├── README.md
├── calibration/raw_to_stage1_v1/
│   ├── defaults.json                 # 唯一默认清单及其 SHA256
│   ├── fixed_offset.json             # 本批实际使用的 SE(3)，原字节保留
│   ├── hand_shape/                   # 固定骨长、参考网格、蒙皮权重、许可
│   ├── objects/{marker,scissors}/    # 固定 mesh、物体外参、VSK、marker 编号
│   ├── sync/<take>/                  # 本批同步报告、全帧有效性与时间轴
│   └── provenance/                  # 原始来源记录，非运行时路径配置
├── marker/
│   ├── takes/marker_001 ... marker_012/
│   │   ├── manus/                    # None、IMU、Tracker CSV；保留 mrec 等
│   │   └── vicon/                    # 对应动态 CSV；保留 xcp/system 等
│   ├── calibration/                 # 旧标定保留，不作为默认自动搜索目标
│   └── marker_layout/               # 原 mesh、layout、照片等
├── scissors/
│   ├── takes/scissors_001, scissors_002/
│   ├── takes/scissors_new_001 ... 013/ # new_005 未配齐，未加入有效批次
│   │   ├── manus/
│   │   └── vicon/
│   ├── sources/                     # 下载原件，全部保留
│   ├── archive/                     # 历史整理版本，全部保留
│   ├── calibration/
│   ├── marker_layout/
│   └── object/
├── manus_hand_shape_1007_v1/         # 原手型版本保留
├── mano_v1_2.zip                    # 原模型压缩包，受限资源，不自动分发
├── *.jpg                           # 原手套参考照片保留
├── pipeline/stage1_v1/
│   ├── run.py                      # verify / sync / build 统一入口
│   ├── contract.py                 # 哈希、路径、同步绑定、防覆盖检查
│   ├── vendor/                     # 本次所用解析器、蒙皮、同步和原生 exporter
│   ├── provenance/                 # 原始批处理脚本快照
│   ├── source_provenance.json
│   ├── environment.json
│   ├── requirements.txt
│   └── tests/
├── manifests/
│   ├── raw_to_stage1_v1.json        # 文件相对路径、来源、SHA256、26 条录制
│   ├── reference_arrays/<take>.json # 原 Stage1 各数组形状、dtype、内容哈希
│   ├── freeze_validation_v1.json   # 代表录制复跑及换目录验证结果
│   └── history/
└── runs/<new_run_id>/               # 每次新目录；禁止覆盖既有运行
    ├── run_receipt.json
    └── episodes/<take>/
        ├── raw_aligned_full.npz     # 全原始时间轴，含无效帧掩码
        ├── export_inputs/
        └── stage1/
            ├── stage1.npz
            ├── stage1.manifest.json
            ├── stage1_handoff.json
            ├── receipt.json
            └── qa.json
```

历史 CSV 原文件名大小写保留，不靠改名猜测配对。例如 `new_002` 的小写前缀保留。
`episodes[].inputs` 是运行时配对的唯一依据；新增 scissors 的 Vicon 原件仍可由
`sources/batch_2_update_20261008/Vicon/` 引用，`takes/` 中另有同字节配套副本。
部分旧 scissors `takes/` 文件是指向同一 `raw_data` 内 `sources/` 的相对符号链接；
清单同时记录目标路径与内容哈希，禁止链接逃逸到 raw_data 外。

## 3. 每条录制需要什么

| 文件 | 要求 |
|---|---|
| MANUS `*_None_*_R.csv` | 必需：原始局部关节位置、全局关节旋转、时间戳、帧号 |
| MANUS `*_IMU_*_R.csv` | 必需：与 None 同次导出，用于本批默认时间同步 |
| MANUS `*_Tracker_*_R.csv` | 建议保留；显式选择 Tracker 同步时必需，不自动替换 IMU |
| Vicon 动态 `.csv` | 必需：同次录制的 manus 刚体与对应物体刚体；VSK/xcp/system/x2d 不能代替动态 CSV |
| 手套 VSK / marker 编号 | 作为固定安装约定的证据；marker 被移动或刚体定义变更时不能继续套用本版本 |
| 物体 mesh、layout、VSK、外参 | 必需配齐并冻结；物体刚体定义或 mesh 坐标变化需要新版本 |
| 固定手型 NPZ | 运行时必需；本入口不重新拟合 MANO，不需加载 `MANO_RIGHT.pkl` |
| `.mrec`、照片、质量/惯量资料 | 原件保留；不是此纯运动学 Stage1 转换的替代输入或物理验证证据 |

当前缺失：`scissors_new_005` 的对应 Vicon CSV。已按用户要求跳过，
其已有 MANUS 文件保留在 `scissors/sources/batch_2/Manus/`，不得拿其他录制填补。

## 4. 坐标、时间和帧约定

使用列向量齐次变换：`T_A_from_B` 把 B 坐标中的点变成 A 坐标中的点。

```text
F = diag(-1, 1, 1)                         # MANUS 轴反射，不能当成 SE(3) 旋转
p_canonical = F @ p_manus                  # MANUS 位置 cm → m（× 0.01）
R_canonical = F @ R_manus @ F              # 原始旋转：global extrinsic xyz Euler，degree
T_W_from_hand = T_W_from_HandRigid @ T_HandRigid_from_MANUSLocalCanonical
T_W_from_mesh = T_W_from_ObjectRigid @ T_ObjectRigid_from_ObjectMesh
t_vicon = t_manus + dt_recording
A = 第一个被保留的有效帧的物体 mesh 坐标系
T_A_from_X(t) = inverse(T_W_from_mesh(t0)) @ T_W_from_X(t)
```

Vicon 平移 mm → m（× 0.001），姿态由其原生旋转向量解析。
Stage1 平移单位为 m，四元数顺序为 **wxyz**，导出器维护逐帧符号连续性。
不要把“Vicon→MANUS offset”的口头叫法当作矩阵方向；以上矩阵名与公式为准。

本批 16 条同步 PASS、10 条 HOLD；PASS 仅表示估计器一致性，不是硬件 ground truth。
new_008/new_010 采用记录在案的 Tracker 候选，仍为 HOLD，没有放松同步门槛。
算法固定：±8 s 网格搜索，步长 `1/max(Vicon Hz,120)`，5 个间距至少 0.25 s 的峰，
各峰 ±0.15 s 精修，线速度权重 0.15，并检查角速度单独评分、0.30 线速度权重及 5%/10% 裁剪稳定性。
新录制必须重新计算自己的时间差；**空间 offset 通用不等于时间差通用**。

在 MANUS 原始时间戳上采样 Vicon，线性插值平移、SLERP 旋转；仅接受相邻有效采样间隔 ≤50 ms。
这允许短缺口插值，不代表每个有效输出帧都有直接观测。采用手和物体同时有效的最长连续区间，
不拼接不连续片段；manifest 的 `selected_zero_based_inclusive` 是原始数组行索引，
不是 Vicon 帧号。原始 MANUS 帧号、时间戳、有效掩码保存在 `sync/<take>/frame_validity.npz`；
运行产物 `raw_aligned_full.npz` 另外保留全部帧的几何及 NaN/无效状态。

## 5. 实际转换入口与环境

纯 CPU，无 Isaac Sim、GPU、viewer、网络或在线 MANO 下载依赖。
本批验证环境为 Python 3.11.15、NumPy 1.26.0、SciPy 1.15.3。
首次在新机器准备环境（此命令会下载 Python 依赖，不上传数据）：

```bash
cd /path/to/reorientation
python3.11 -m venv raw_data/.venv_stage1
raw_data/.venv_stage1/bin/python -m pip install -r raw_data/pipeline/stage1_v1/requirements.txt
```

以下命令在当前机器使用已验证的环境；迁移后将 `STAGE1_PY` 改为自己的上述 Python：

```bash
cd /local_data/sy3535/code/reorientation
STAGE1_PY=/local_data/sy3535/sharpa-cold-25323c4-agCPbJLt/.venv/bin/python

# 校验代码、标定、26 条输入及清单内所有文件
"$STAGE1_PY" raw_data/pipeline/stage1_v1/run.py verify --all-files

# 单条；每次更换输出目录名，已有目录会报错
"$STAGE1_PY" raw_data/pipeline/stage1_v1/run.py build \
  --take marker_004 --output runs/marker004_run01

# 指定多条
"$STAGE1_PY" raw_data/pipeline/stage1_v1/run.py build \
  --take marker_004 --take scissors_new_006 --output runs/pair_run01

# 本批全部 26 条：HOLD 仅在显式确认后生成诊断数据，不升级状态
"$STAGE1_PY" raw_data/pipeline/stage1_v1/run.py build \
  --all --allow-sync-hold --output runs/batch26_run01

# 本入口的完整单元测试
"$STAGE1_PY" -m unittest discover -s raw_data/pipeline/stage1_v1/tests -v
```

流水线：原始 CSV → 冻结的轴映射与固定骨架 FK → 双四元数蒙皮 → 额外 1 mm 外壳
→ 使用该条时间差采样 Vicon → 组合手部/物体固定变换 → 选连续有效区间
→ 原生 Sharpa objectMeshA Stage1 exporter → manifest/handoff/QA。
`stage1_handoff.json` 的结构验收不表示物理标定或后续 Stage3 训练准入。

### 新录制：先同步，再转换

在新录制目录保存 `record.json`，所有路径相对于 `raw_data`，例如：

```json
{
  "take": "marker_013",
  "object": "marker",
  "inputs": {
    "none": "marker/takes/marker_013/manus/Marker_013_None_harry_R.csv",
    "imu": "marker/takes/marker_013/manus/Marker_013_IMU_harry_R.csv",
    "tracker": "marker/takes/marker_013/manus/Marker_013_Tracker_harry_R.csv",
    "vicon": "marker/takes/marker_013/vicon/1007_Marker_013.csv"
  }
}
```

示例只是命名示范，**marker_013 并未包含在当前 26 条中**。物体值只接受已冻结的 marker/scissors；
新物体需先建立对应 geometry/layout/外参版本，不能默默借用现有物体参数。

```bash
"$STAGE1_PY" raw_data/pipeline/stage1_v1/run.py sync \
  --record marker/takes/marker_013/record.json \
  --output runs/marker013_sync01/time_sync.json

"$STAGE1_PY" raw_data/pipeline/stage1_v1/run.py build \
  --record marker/takes/marker_013/record.json \
  --sync-json runs/marker013_sync01/time_sync.json \
  --output runs/marker013_run01
```

若同步为 HOLD，第二条默认停止；应先排查，不要照抄别的 dt。
仅在明确希望看诊断结果时加 `--allow-sync-hold`。`sync --mode Tracker` 是显式备选，
不会自动替换 IMU 或把 HOLD 改成 PASS。同步结果绑定录制 ID 及 CSV 哈希，换文件必须重新同步。
重复使用已冻结的 take ID 会报错；更改源文件应分配新 ID，不修改历史 manifest。

## 6. Stage1 NPZ schema

T 为选中连续区间的帧数；数值坐标均以第一有效物体 mesh 的 A 坐标系表示，除非字段注明世界变换。

| 字段 | shape / dtype | 含义 |
|---|---|---|
| `frames` | T / int64 | 原 MANUS 帧号 |
| `timestamps_s`, `timestamps_manus_s`, `phase` | T / float64 | 原 MANUS 秒时间戳；phase 为该段 0…1 |
| `mano_vertices_objectMeshA_m` | T×778×3 / float32 | 固定手型表面，已包含 +1 mm |
| `mano_joints_objectMeshA_m` | T×21×3 / float32 | Hand + Thumb/Index/Middle/Ring/Pinky，各指四关节；顺序见 `mano_joint_names` |
| `mano_faces` | 1538×3 / int32 | 固定网格三角面 |
| `mano_joint_names` | 21 / string | 拇指 CMC/MCP/DIP/TIP；其余 MCP/PIP/DIP/TIP |
| `T_ViconWorld_from_objectMeshA` | 4×4 / float64 | A 到 Vicon world 的固定变换 |
| `objectMeshA_from_objectMesh_matrices` | T×4×4 / float64 | 物体 mesh 逐帧位姿 |
| `objectMeshA_from_{hand,objectMesh}_position_m` | T×3 / float64 | 手根/物体平移 |
| `objectMeshA_from_{hand,objectMesh}_quaternion_wxyz` | T×4 / float64 | 手根/物体旋转 |
| `hand_valid`, `mano_valid`, `object_valid` | T / bool | 选中区间结构有效；不是同步或接触正确性标签 |
| `schema`, `episode_id`, `object_name`, `units`, `quaternion_convention`, `canonical_world_frame` | scalar string | 格式与坐标约定 |
| `provenance_json` | scalar string | 输入哈希、同步状态、选择范围、生产者身份及声明边界 |

冻结前后比较以所有数组为准；`provenance_json` 必须反映新的输入位置及生产者版本，
所以不要求新旧整个 NPZ 文件哈希相同。代表录制验证的其他 23 个数组要求逐字节一致；
结果见 `manifests/freeze_validation_v1.json`。

## 7. Git、未来 HF 和不可变版本

- 当前 `.gitignore` 忽略 `/raw_data/*`，只放行本 README；当前 Git index 中没有本目录的原始数据或模型。
- 不执行 `git add -f raw_data`；本次不 stage、commit、push，也不改写历史。
- 旧仓库历史已含过 phone 示例；忽略规则不会清除历史，本次不宣称已清除历史数据。
- 活跃 manifest、默认配置和 record 路径使用 raw_data 相对路径；保留原文件名和 SHA256。
- 未来复制到 HF 前处理相对 symlink：应上传其实际内容并核对内容哈希，不能只上传链接文本。
- `mano_v1_2.zip`、固定手型及派生网格标注为受限/需许可复核；原许可在
  `calibration/raw_to_stage1_v1/hand_shape/MANO_LICENSE.txt`。本次不授予任何再分发许可。
- 运行本固定手型转换不需要原 `MANO_RIGHT.pkl`；重新标定手型是另一流程，不能静默替换本版本。
- 其他 raw CSV、照片、物体模型及派生产物同样须先确认拥有者授权；不要将整个 raw_data 默认公开上传。
- 本批清单不自动吸收新增录制。新增数据先用独立 record + sync；正式纳入时生成新的 manifest 版本并保留旧版本。
- 手套 marker 位置、Vicon 刚体定义、手套穿戴/骨长适用性或物体 mesh/外参变化时，停止沿用旧标定，显式建新版本。

## 8. 当前边界

空间 offset 仍是用户认可用于检查的暂用版本；10 条时间同步 HOLD、剪刀刚性 mesh 无开合关节、
手表面无真实皮肤扫描校验，这些问题不会因目录整理而消失。
冻结和复现只证明相同输入可重复生成相同 Stage1，不证明穿透消失、接触正确或策略可训练。