raw_data/README.md

Raw data → Stage1：本地冻结约定 v1

冻结日期：2026-10-08。范围：12 条 marker、14 条 scissors，共 26 条。 这是本地采集资料与转换入口，不是 GitHub 发布的数据包；本次不 commit、push 或上传。 旧目录、原始文件、旧标定和旧生成结果全部保留。此前 README 保存在 manifests/history/README.before_raw_to_stage1_v1.md。

1. 唯一默认标定

入口只读取 calibration/raw_to_stage1_v1/defaults.json 指定并校验哈希的清单， 不访问 viewer，不读取其他 worktree 或当前 main/sharpa 的可变代码。

冻结项	raw_data 内相对路径 / 约定
安装 offset	calibration/raw_to_stage1_v1/fixed_offset.json
offset SHA256	af948e4cdd200dfe52f14afa8d91b913b33b4a95d9ffc4079b113aed497734bd
唯一数值依据	上述文件的 T_HandRigid_from_MANUSLocalCanonical 4×4 矩阵；不要用其历史 UI parameters 字段重新构造矩阵
固定手型与骨长	calibration/raw_to_stage1_v1/hand_shape/hand_shape_calibration.npz 及同目录 manifest.json
手型 NPZ SHA256	f53241ff628ec9d263466059acde3cc58cc37a480d670e6315b72b9a7315b368
手型表示	MANO 的 778 顶点拓扑 + MANUS 标定的 25 节点骨架与双四元数蒙皮；不是标准 MANO beta/pose 参数模型
厚度	裸手蒙皮后，沿逐帧面积加权顶点法线额外扩张 0.001 m，只加一次；不移动关节
物体外参及几何	calibration/raw_to_stage1_v1/objects/{marker,scissors}/；原 object.candidate.json 数值不变
时间同步	固定算法与配置，每条录制单独的时间差；本批结果见 manifest 的 episodes[].sync
原始动作	直接使用原 MANUS CSV 的关节全局旋转；不做接触驱动的动作修改或重新拟合骨长
状态	FROZEN_PROVISIONAL：冻结的暂用版本，不代表物理标定或训练准入通过

offset 文件与本次已生成 26 条 Stage1 实际使用的文件逐字节相同。 其原始来源文件作为历史证据保存在 calibration/raw_to_stage1_v1/provenance/； 历史 JSON 内的旧绝对路径只是来源标签，运行时不解析它们。 固定参数、运行代码或原始输入哈希不匹配时，入口报错，不静默选取其他版本。

2. 冻结后的 layout

raw_data/
├── README.md
├── calibration/raw_to_stage1_v1/
│   ├── defaults.json                 # 唯一默认清单及其 SHA256
│   ├── fixed_offset.json             # 本批实际使用的 SE(3)，原字节保留
│   ├── hand_shape/                   # 固定骨长、参考网格、蒙皮权重、许可
│   ├── objects/{marker,scissors}/    # 固定 mesh、物体外参、VSK、marker 编号
│   ├── sync/<take>/                  # 本批同步报告、全帧有效性与时间轴
│   └── provenance/                  # 原始来源记录，非运行时路径配置
├── marker/
│   ├── takes/marker_001 ... marker_012/
│   │   ├── manus/                    # None、IMU、Tracker CSV；保留 mrec 等
│   │   └── vicon/                    # 对应动态 CSV；保留 xcp/system 等
│   ├── calibration/                 # 旧标定保留，不作为默认自动搜索目标
│   └── marker_layout/               # 原 mesh、layout、照片等
├── scissors/
│   ├── takes/scissors_001, scissors_002/
│   ├── takes/scissors_new_001 ... 013/ # new_005 未配齐，未加入有效批次
│   │   ├── manus/
│   │   └── vicon/
│   ├── sources/                     # 下载原件，全部保留
│   ├── archive/                     # 历史整理版本，全部保留
│   ├── calibration/
│   ├── marker_layout/
│   └── object/
├── manus_hand_shape_1007_v1/         # 原手型版本保留
├── mano_v1_2.zip                    # 原模型压缩包，受限资源，不自动分发
├── *.jpg                           # 原手套参考照片保留
├── pipeline/stage1_v1/
│   ├── run.py                      # verify / sync / build 统一入口
│   ├── contract.py                 # 哈希、路径、同步绑定、防覆盖检查
│   ├── vendor/                     # 本次所用解析器、蒙皮、同步和原生 exporter
│   ├── provenance/                 # 原始批处理脚本快照
│   ├── source_provenance.json
│   ├── environment.json
│   ├── requirements.txt
│   └── tests/
├── manifests/
│   ├── raw_to_stage1_v1.json        # 文件相对路径、来源、SHA256、26 条录制
│   ├── reference_arrays/<take>.json # 原 Stage1 各数组形状、dtype、内容哈希
│   ├── freeze_validation_v1.json   # 代表录制复跑及换目录验证结果
│   └── history/
└── runs/<new_run_id>/               # 每次新目录；禁止覆盖既有运行
    ├── run_receipt.json
    └── episodes/<take>/
        ├── raw_aligned_full.npz     # 全原始时间轴，含无效帧掩码
        ├── export_inputs/
        └── stage1/
            ├── stage1.npz
            ├── stage1.manifest.json
            ├── stage1_handoff.json
            ├── receipt.json
            └── qa.json

历史 CSV 原文件名大小写保留，不靠改名猜测配对。例如 new_002 的小写前缀保留。 episodes[].inputs 是运行时配对的唯一依据；新增 scissors 的 Vicon 原件仍可由 sources/batch_2_update_20261008/Vicon/ 引用，takes/ 中另有同字节配套副本。 部分旧 scissors takes/ 文件是指向同一 raw_data 内 sources/ 的相对符号链接； 清单同时记录目标路径与内容哈希，禁止链接逃逸到 raw_data 外。

3. 每条录制需要什么

文件	要求
MANUS *_None_*_R.csv	必需：原始局部关节位置、全局关节旋转、时间戳、帧号
MANUS *_IMU_*_R.csv	必需：与 None 同次导出，用于本批默认时间同步
MANUS *_Tracker_*_R.csv	建议保留；显式选择 Tracker 同步时必需，不自动替换 IMU
Vicon 动态 .csv	必需：同次录制的 manus 刚体与对应物体刚体；VSK/xcp/system/x2d 不能代替动态 CSV
手套 VSK / marker 编号	作为固定安装约定的证据；marker 被移动或刚体定义变更时不能继续套用本版本
物体 mesh、layout、VSK、外参	必需配齐并冻结；物体刚体定义或 mesh 坐标变化需要新版本
固定手型 NPZ	运行时必需；本入口不重新拟合 MANO，不需加载 MANO_RIGHT.pkl
.mrec、照片、质量/惯量资料	原件保留；不是此纯运动学 Stage1 转换的替代输入或物理验证证据

当前缺失：scissors_new_005 的对应 Vicon CSV。已按用户要求跳过， 其已有 MANUS 文件保留在 scissors/sources/batch_2/Manus/，不得拿其他录制填补。

4. 坐标、时间和帧约定

使用列向量齐次变换：T_A_from_B 把 B 坐标中的点变成 A 坐标中的点。

F = diag(-1, 1, 1)                         # MANUS 轴反射，不能当成 SE(3) 旋转
p_canonical = F @ p_manus                  # MANUS 位置 cm → m（× 0.01）
R_canonical = F @ R_manus @ F              # 原始旋转：global extrinsic xyz Euler，degree
T_W_from_hand = T_W_from_HandRigid @ T_HandRigid_from_MANUSLocalCanonical
T_W_from_mesh = T_W_from_ObjectRigid @ T_ObjectRigid_from_ObjectMesh
t_vicon = t_manus + dt_recording
A = 第一个被保留的有效帧的物体 mesh 坐标系
T_A_from_X(t) = inverse(T_W_from_mesh(t0)) @ T_W_from_X(t)

Vicon 平移 mm → m（× 0.001），姿态由其原生旋转向量解析。 Stage1 平移单位为 m，四元数顺序为 wxyz，导出器维护逐帧符号连续性。 不要把“Vicon→MANUS offset”的口头叫法当作矩阵方向；以上矩阵名与公式为准。

本批 16 条同步 PASS、10 条 HOLD；PASS 仅表示估计器一致性，不是硬件 ground truth。 new_008/new_010 采用记录在案的 Tracker 候选，仍为 HOLD，没有放松同步门槛。 算法固定：±8 s 网格搜索，步长 1/max(Vicon Hz,120)，5 个间距至少 0.25 s 的峰， 各峰 ±0.15 s 精修，线速度权重 0.15，并检查角速度单独评分、0.30 线速度权重及 5%/10% 裁剪稳定性。 新录制必须重新计算自己的时间差；空间 offset 通用不等于时间差通用。

在 MANUS 原始时间戳上采样 Vicon，线性插值平移、SLERP 旋转；仅接受相邻有效采样间隔 ≤50 ms。 这允许短缺口插值，不代表每个有效输出帧都有直接观测。采用手和物体同时有效的最长连续区间， 不拼接不连续片段；manifest 的 selected_zero_based_inclusive 是原始数组行索引， 不是 Vicon 帧号。原始 MANUS 帧号、时间戳、有效掩码保存在 sync/<take>/frame_validity.npz； 运行产物 raw_aligned_full.npz 另外保留全部帧的几何及 NaN/无效状态。

5. 实际转换入口与环境

纯 CPU，无 Isaac Sim、GPU、viewer、网络或在线 MANO 下载依赖。 本批验证环境为 Python 3.11.15、NumPy 1.26.0、SciPy 1.15.3。 首次在新机器准备环境（此命令会下载 Python 依赖，不上传数据）：

cd /path/to/reorientation
python3.11 -m venv raw_data/.venv_stage1
raw_data/.venv_stage1/bin/python -m pip install -r raw_data/pipeline/stage1_v1/requirements.txt

以下命令在当前机器使用已验证的环境；迁移后将 STAGE1_PY 改为自己的上述 Python：

cd /local_data/sy3535/code/reorientation
STAGE1_PY=/local_data/sy3535/sharpa-cold-25323c4-agCPbJLt/.venv/bin/python

# 校验代码、标定、26 条输入及清单内所有文件
"$STAGE1_PY" raw_data/pipeline/stage1_v1/run.py verify --all-files

# 单条；每次更换输出目录名，已有目录会报错
"$STAGE1_PY" raw_data/pipeline/stage1_v1/run.py build \
  --take marker_004 --output runs/marker004_run01

# 指定多条
"$STAGE1_PY" raw_data/pipeline/stage1_v1/run.py build \
  --take marker_004 --take scissors_new_006 --output runs/pair_run01

# 本批全部 26 条：HOLD 仅在显式确认后生成诊断数据，不升级状态
"$STAGE1_PY" raw_data/pipeline/stage1_v1/run.py build \
  --all --allow-sync-hold --output runs/batch26_run01

# 本入口的完整单元测试
"$STAGE1_PY" -m unittest discover -s raw_data/pipeline/stage1_v1/tests -v

流水线：原始 CSV → 冻结的轴映射与固定骨架 FK → 双四元数蒙皮 → 额外 1 mm 外壳 → 使用该条时间差采样 Vicon → 组合手部/物体固定变换 → 选连续有效区间 → 原生 Sharpa objectMeshA Stage1 exporter → manifest/handoff/QA。 stage1_handoff.json 的结构验收不表示物理标定或后续 Stage3 训练准入。

新录制：先同步，再转换

在新录制目录保存 record.json，所有路径相对于 raw_data，例如：

{
  "take": "marker_013",
  "object": "marker",
  "inputs": {
    "none": "marker/takes/marker_013/manus/Marker_013_None_harry_R.csv",
    "imu": "marker/takes/marker_013/manus/Marker_013_IMU_harry_R.csv",
    "tracker": "marker/takes/marker_013/manus/Marker_013_Tracker_harry_R.csv",
    "vicon": "marker/takes/marker_013/vicon/1007_Marker_013.csv"
  }
}

示例只是命名示范，marker_013 并未包含在当前 26 条中。物体值只接受已冻结的 marker/scissors； 新物体需先建立对应 geometry/layout/外参版本，不能默默借用现有物体参数。

"$STAGE1_PY" raw_data/pipeline/stage1_v1/run.py sync \
  --record marker/takes/marker_013/record.json \
  --output runs/marker013_sync01/time_sync.json

"$STAGE1_PY" raw_data/pipeline/stage1_v1/run.py build \
  --record marker/takes/marker_013/record.json \
  --sync-json runs/marker013_sync01/time_sync.json \
  --output runs/marker013_run01

若同步为 HOLD，第二条默认停止；应先排查，不要照抄别的 dt。 仅在明确希望看诊断结果时加 --allow-sync-hold。sync --mode Tracker 是显式备选， 不会自动替换 IMU 或把 HOLD 改成 PASS。同步结果绑定录制 ID 及 CSV 哈希，换文件必须重新同步。 重复使用已冻结的 take ID 会报错；更改源文件应分配新 ID，不修改历史 manifest。

6. Stage1 NPZ schema

T 为选中连续区间的帧数；数值坐标均以第一有效物体 mesh 的 A 坐标系表示，除非字段注明世界变换。

字段	shape / dtype	含义
frames	T / int64	原 MANUS 帧号
timestamps_s, timestamps_manus_s, phase	T / float64	原 MANUS 秒时间戳；phase 为该段 0…1
mano_vertices_objectMeshA_m	T×778×3 / float32	固定手型表面，已包含 +1 mm
mano_joints_objectMeshA_m	T×21×3 / float32	Hand + Thumb/Index/Middle/Ring/Pinky，各指四关节；顺序见 mano_joint_names
mano_faces	1538×3 / int32	固定网格三角面
mano_joint_names	21 / string	拇指 CMC/MCP/DIP/TIP；其余 MCP/PIP/DIP/TIP
T_ViconWorld_from_objectMeshA	4×4 / float64	A 到 Vicon world 的固定变换
objectMeshA_from_objectMesh_matrices	T×4×4 / float64	物体 mesh 逐帧位姿
objectMeshA_from_{hand,objectMesh}_position_m	T×3 / float64	手根/物体平移
objectMeshA_from_{hand,objectMesh}_quaternion_wxyz	T×4 / float64	手根/物体旋转
hand_valid, mano_valid, object_valid	T / bool	选中区间结构有效；不是同步或接触正确性标签
schema, episode_id, object_name, units, quaternion_convention, canonical_world_frame	scalar string	格式与坐标约定
provenance_json	scalar string	输入哈希、同步状态、选择范围、生产者身份及声明边界

冻结前后比较以所有数组为准；provenance_json 必须反映新的输入位置及生产者版本， 所以不要求新旧整个 NPZ 文件哈希相同。代表录制验证的其他 23 个数组要求逐字节一致； 结果见 manifests/freeze_validation_v1.json。

7. Git、未来 HF 和不可变版本

• 当前 .gitignore 忽略 /raw_data/*，只放行本 README；当前 Git index 中没有本目录的原始数据或模型。
• 不执行 git add -f raw_data；本次不 stage、commit、push，也不改写历史。
• 旧仓库历史已含过 phone 示例；忽略规则不会清除历史，本次不宣称已清除历史数据。
• 活跃 manifest、默认配置和 record 路径使用 raw_data 相对路径；保留原文件名和 SHA256。
• 未来复制到 HF 前处理相对 symlink：应上传其实际内容并核对内容哈希，不能只上传链接文本。
• mano_v1_2.zip、固定手型及派生网格标注为受限/需许可复核；原许可在 calibration/raw_to_stage1_v1/hand_shape/MANO_LICENSE.txt。本次不授予任何再分发许可。
• 运行本固定手型转换不需要原 MANO_RIGHT.pkl；重新标定手型是另一流程，不能静默替换本版本。
• 其他 raw CSV、照片、物体模型及派生产物同样须先确认拥有者授权；不要将整个 raw_data 默认公开上传。
• 本批清单不自动吸收新增录制。新增数据先用独立 record + sync；正式纳入时生成新的 manifest 版本并保留旧版本。
• 手套 marker 位置、Vicon 刚体定义、手套穿戴/骨长适用性或物体 mesh/外参变化时，停止沿用旧标定，显式建新版本。

8. 当前边界

空间 offset 仍是用户认可用于检查的暂用版本；10 条时间同步 HOLD、剪刀刚性 mesh 无开合关节、 手表面无真实皮肤扫描校验，这些问题不会因目录整理而消失。 冻结和复现只证明相同输入可重复生成相同 Stage1，不证明穿透消失、接触正确或策略可训练。