README.md

metadata

license: mit
task_categories:
  - robotics
tags:
  - articulated-object-manipulation
  - sapien
  - partnet-mobility
  - ablation-study

active_perception — 仿真数据 (VLM_PLAN)

SAPIEN 仿真中铰接物体操作（开门 / 拉抽屉）的实验数据。管线： VLM 解析指令 → 开放词检测 → GraspGen 抓取 → 交互探测判型 → 门绕轴弧开 / 抽屉直拉。

代码：https://github.com/lauyihong/active_perception （VLM_PLAN/）

文件

tar	解开后	内容
ablation_study.tar	12G	正式消融主结果：18 个柜子 id / 33 个 case / 5 种 mode
ablation_study_door_rerun.tar	4.6G	11 扇门 normal 重跑 —— 带 CoTracker、可忠实回放，质量最高
runtime_per_id.tar	8.9G	26 个 id 的早期单次运行（多与上面重叠）
runtime_old.tar	16G	旧归档，含 REAL_WORLD 真机数据 3.9G

解压：tar -xf <name>.tar（未压缩，内容本身已是 png/npy/mp4）

目录布局 —— 注意两套顺序是反的

ablation_study/<柜子id>/<部件>/<mode>/        ← 正式消融
<柜子id>/<mode>/<部件>[_时间戳]/               ← 早期单跑 (runtime_per_id)

<mode> 五种：baseline · baseline_minus · normal · normal_w_axis · normal_w_gt_axis

单个 case 里有什么

step1_out/   VLM 任务决策（部件 / 把手短语）
step2_out/   开放词检测：part bbox + handle bbox
step3_out/   SAM mask · GraspGen 抓取位姿 · grasp/advance_trajectory.json
step4_out/   probe + 关节判型 + CoTracker（joint_from_tcp 与 track 两套估计）
step5_out/   抽屉：长拉        step6_out/  门：reopen-arc
cotracker_runs/   v1_probe · v2_arc · …（tracks.npy · visibility.npy · 可视化）
dashboard/   实时可视化落盘 · status.json · arm_log.txt
trajectory/  逐帧 panda_qpos(9 关节) + cabinet_qpos
recording_*.mp4 · replay_video.mp4
<mode>_result.json    ← 注意：normal 模式没有这个文件

成败统计

mode	成功	失败	合计
baseline	18	14	32
baseline_minus	11	21	32
normal_w_axis	15	7	22
normal_w_gt_axis	19	3	22
normal	无 result.json		27

normal 的成败需从 step6_out/step6_out.json 的 door_open_deg_gt（门 ≥45° 为成）判定。

⚠️ 三个已知的坑（用前必读）

1. ablation_study_door_rerun/ 里每个 case 的 setup.json 是错的（默认场景拷贝）。 真实场景在 ablation_study/<id>/<门>/normal/setup.json。拿错的那份重建， 机械臂底座和相机会摆到默认位置 → 虚空抓。

2. dashboard/gt_axis.json 对多门柜是错的 —— GT 轴写死读 joint_0， 同一柜子的多扇门会拿到同一根轴（44781 的 left/right、45194 的 bl/br 已核实相同）。 别拿它算轴误差。

3. CoTracker 的 joint_estimate.joint_type 不可靠 —— 11 扇门里 8 扇误判成 prismatic。 数值请直接取 track.joint_estimate.revolute.*，别信它的类型决策。 方法自身的 joint_from_tcp 判型 11/11 全对。

门重跑 11 扇结果

门	开门角(GT)	≥45°
40147/left_door	58.4°	✅
44781/left_door	1.8°	❌
44781/right_door	5.8°	❌
45162/lower_door	45.8°	✅
45194/bottom_left_door	49.8°	✅
45194/bottom_right_door	55.1°	✅
45213/door	39.1°	❌
45244/lower_door	50.7°	✅
45249/door	47.0°	✅
45423/upper_door	50.8°	✅
45961/top_door	39.5°	❌

开成 7/11。开门角是 sim 的 GT 门角，仅作事后评估，不进决策。

*_wo_cotracker/ 是 45162 / 45244 / 45249 最早没开 CoTracker 的成功版备份，不计入 11 扇。