| --- |
| license: mit |
| task_categories: |
| - robotics |
| tags: |
| - articulated-object-manipulation |
| - sapien |
| - partnet-mobility |
| - ablation-study |
| --- |
| |
| # active_perception — 仿真数据 (VLM_PLAN) |
|
|
| SAPIEN 仿真中铰接物体操作（开门 / 拉抽屉）的实验数据。管线： |
| VLM 解析指令 → 开放词检测 → GraspGen 抓取 → 交互探测判型 → 门绕轴弧开 / 抽屉直拉。 |
|
|
| 代码：https://github.com/lauyihong/active_perception （`VLM_PLAN/`） |
|
|
| ## 文件 |
|
|
| | tar | 解开后 | 内容 | |
| |---|---|---| |
| | `ablation_study.tar` | 12G | **正式消融主结果**：18 个柜子 id / 33 个 case / 5 种 mode | |
| | `ablation_study_door_rerun.tar` | 4.6G | **11 扇门 normal 重跑** —— 带 CoTracker、可忠实回放，质量最高 | |
| | `runtime_per_id.tar` | 8.9G | 26 个 id 的早期单次运行（多与上面重叠） | |
| | `runtime_old.tar` | 16G | 旧归档，含 **REAL_WORLD 真机数据 3.9G** | |
| |
| 解压：`tar -xf <name>.tar`（未压缩，内容本身已是 png/npy/mp4） |
| |
| ## 目录布局 —— 注意两套顺序是反的 |
| |
| ``` |
| ablation_study/<柜子id>/<部件>/<mode>/ ← 正式消融 |
| <柜子id>/<mode>/<部件>[_时间戳]/ ← 早期单跑 (runtime_per_id) |
| ``` |
| |
| `<mode>` 五种：`baseline` · `baseline_minus` · `normal` · `normal_w_axis` · `normal_w_gt_axis` |
| |
| ## 单个 case 里有什么 |
| |
| ``` |
| step1_out/ VLM 任务决策（部件 / 把手短语） |
| step2_out/ 开放词检测：part bbox + handle bbox |
| step3_out/ SAM mask · GraspGen 抓取位姿 · grasp/advance_trajectory.json |
| step4_out/ probe + 关节判型 + CoTracker（joint_from_tcp 与 track 两套估计） |
| step5_out/ 抽屉：长拉 step6_out/ 门：reopen-arc |
| cotracker_runs/ v1_probe · v2_arc · …（tracks.npy · visibility.npy · 可视化） |
| dashboard/ 实时可视化落盘 · status.json · arm_log.txt |
| trajectory/ 逐帧 panda_qpos(9 关节) + cabinet_qpos |
| recording_*.mp4 · replay_video.mp4 |
| <mode>_result.json ← 注意：normal 模式没有这个文件 |
| ``` |
| |
| ## 成败统计 |
| |
| | mode | 成功 | 失败 | 合计 | |
| |---|---|---|---| |
| | `baseline` | 18 | 14 | 32 | |
| | `baseline_minus` | 11 | 21 | 32 | |
| | `normal_w_axis` | 15 | 7 | 22 | |
| | `normal_w_gt_axis` | 19 | 3 | 22 | |
| | `normal` | 无 result.json | | 27 | |
| |
| `normal` 的成败需从 `step6_out/step6_out.json` 的 `door_open_deg_gt`（门 ≥45° 为成）判定。 |
| |
| ## ⚠️ 三个已知的坑（用前必读） |
| |
| 1. **`ablation_study_door_rerun/` 里每个 case 的 `setup.json` 是错的**（默认场景拷贝）。 |
| 真实场景在 `ablation_study/<id>/<门>/normal/setup.json`。拿错的那份重建， |
| 机械臂底座和相机会摆到默认位置 → 虚空抓。 |
| |
| 2. **`dashboard/gt_axis.json` 对多门柜是错的** —— GT 轴写死读 `joint_0`， |
| 同一柜子的多扇门会拿到同一根轴（44781 的 left/right、45194 的 bl/br 已核实相同）。 |
| 别拿它算轴误差。 |
|
|
| 3. **CoTracker 的 `joint_estimate.joint_type` 不可靠** —— 11 扇门里 8 扇误判成 prismatic。 |
| 数值请直接取 `track.joint_estimate.revolute.*`，别信它的类型决策。 |
| 方法自身的 `joint_from_tcp` 判型 11/11 全对。 |
|
|
| ## 门重跑 11 扇结果 |
|
|
| | 门 | 开门角(GT) | ≥45° | |
| |---|---|---| |
| | 40147/left_door | 58.4° | ✅ | |
| | 44781/left_door | 1.8° | ❌ | |
| | 44781/right_door | 5.8° | ❌ | |
| | 45162/lower_door | 45.8° | ✅ | |
| | 45194/bottom_left_door | 49.8° | ✅ | |
| | 45194/bottom_right_door | 55.1° | ✅ | |
| | 45213/door | 39.1° | ❌ | |
| | 45244/lower_door | 50.7° | ✅ | |
| | 45249/door | 47.0° | ✅ | |
| | 45423/upper_door | 50.8° | ✅ | |
| | 45961/top_door | 39.5° | ❌ | |
| |
| 开成 7/11。开门角是 sim 的 GT 门角，仅作事后评估，不进决策。 |
| |
| `*_wo_cotracker/` 是 45162 / 45244 / 45249 最早没开 CoTracker 的成功版备份，不计入 11 扇。 |
| |
