README.md

---
license: mit
task_categories:
- robotics
tags:
- articulated-object-manipulation
- sapien
- partnet-mobility
- ablation-study
---

# active_perception — 仿真数据 (VLM_PLAN)

SAPIEN 仿真中铰接物体操作（开门 / 拉抽屉）的实验数据。管线：
VLM 解析指令 → 开放词检测 → GraspGen 抓取 → 交互探测判型 → 门绕轴弧开 / 抽屉直拉。

代码：https://github.com/lauyihong/active_perception （`VLM_PLAN/`）

## 文件

| tar | 解开后 | 内容 |
|---|---|---|
| `ablation_study.tar` | 12G | **正式消融主结果**：18 个柜子 id / 33 个 case / 5 种 mode |
| `ablation_study_door_rerun.tar` | 4.6G | **11 扇门 normal 重跑** —— 带 CoTracker、可忠实回放，质量最高 |
| `runtime_per_id.tar` | 8.9G | 26 个 id 的早期单次运行（多与上面重叠） |
| `runtime_old.tar` | 16G | 旧归档，含 **REAL_WORLD 真机数据 3.9G** |

解压：`tar -xf <name>.tar`（未压缩，内容本身已是 png/npy/mp4）

## 目录布局 —— 注意两套顺序是反的

```
ablation_study/<柜子id>/<部件>/<mode>/        ← 正式消融
<柜子id>/<mode>/<部件>[_时间戳]/               ← 早期单跑 (runtime_per_id)
```

`<mode>` 五种：`baseline` · `baseline_minus` · `normal` · `normal_w_axis` · `normal_w_gt_axis`

## 单个 case 里有什么

```
step1_out/   VLM 任务决策（部件 / 把手短语）
step2_out/   开放词检测：part bbox + handle bbox
step3_out/   SAM mask · GraspGen 抓取位姿 · grasp/advance_trajectory.json
step4_out/   probe + 关节判型 + CoTracker（joint_from_tcp 与 track 两套估计）
step5_out/   抽屉：长拉        step6_out/  门：reopen-arc
cotracker_runs/   v1_probe · v2_arc · …（tracks.npy · visibility.npy · 可视化）
dashboard/   实时可视化落盘 · status.json · arm_log.txt
trajectory/  逐帧 panda_qpos(9 关节) + cabinet_qpos
recording_*.mp4 · replay_video.mp4
<mode>_result.json    ← 注意：normal 模式没有这个文件
```

## 成败统计

| mode | 成功 | 失败 | 合计 |
|---|---|---|---|
| `baseline` | 18 | 14 | 32 |
| `baseline_minus` | 11 | 21 | 32 |
| `normal_w_axis` | 15 | 7 | 22 |
| `normal_w_gt_axis` | 19 | 3 | 22 |
| `normal` | 无 result.json | | 27 |

`normal` 的成败需从 `step6_out/step6_out.json` 的 `door_open_deg_gt`（门 ≥45° 为成）判定。

## ⚠️ 三个已知的坑（用前必读）

1. **`ablation_study_door_rerun/` 里每个 case 的 `setup.json` 是错的**（默认场景拷贝）。
   真实场景在 `ablation_study/<id>/<门>/normal/setup.json`。拿错的那份重建，
   机械臂底座和相机会摆到默认位置 → 虚空抓。

2. **`dashboard/gt_axis.json` 对多门柜是错的** —— GT 轴写死读 `joint_0`，
   同一柜子的多扇门会拿到同一根轴（44781 的 left/right、45194 的 bl/br 已核实相同）。
   别拿它算轴误差。

3. **CoTracker 的 `joint_estimate.joint_type` 不可靠** —— 11 扇门里 8 扇误判成 prismatic。
   数值请直接取 `track.joint_estimate.revolute.*`，别信它的类型决策。
   方法自身的 `joint_from_tcp` 判型 11/11 全对。

## 门重跑 11 扇结果

| 门 | 开门角(GT) | ≥45° |
|---|---|---|
| 40147/left_door | 58.4° | ✅ |
| 44781/left_door | 1.8° | ❌ |
| 44781/right_door | 5.8° | ❌ |
| 45162/lower_door | 45.8° | ✅ |
| 45194/bottom_left_door | 49.8° | ✅ |
| 45194/bottom_right_door | 55.1° | ✅ |
| 45213/door | 39.1° | ❌ |
| 45244/lower_door | 50.7° | ✅ |
| 45249/door | 47.0° | ✅ |
| 45423/upper_door | 50.8° | ✅ |
| 45961/top_door | 39.5° | ❌ |

开成 7/11。开门角是 sim 的 GT 门角，仅作事后评估，不进决策。

`*_wo_cotracker/` 是 45162 / 45244 / 45249 最早没开 CoTracker 的成功版备份，不计入 11 扇。