File size: 5,575 Bytes
d8d1dd1 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 | # 建议先跑的 8 个 Case(给学长的执行清单)
原则:**不挑最容易的,也不挑纯失败的**。
挑「教师成功率 0.25–0.65」的中等难度任务——这类任务才能区分"模型是否真的学会了",
太简单(SR≈1.0)谁都过、太难(SR≈0)谁都不过,都测不出差异。
每个 case 跑 3 trials(按你的额度),共 **24 次 rollout**。
---
## 一、8 个 Case 清单
全部来自 **Part B 留出集**(从未参与训练)。`layout_id` 已嵌入 episode_id。
| # | episode_id | 任务 | 维度 | 教师结果 | 步数 | 建议理由 |
|---|---|---|---|---:|---:|---|
| 1 | `s0_l042_organize_table` | 整理桌面 | **Long-Horizon** | fail | 73 | 最长、失败步最多(34/73),最能暴露"卡住就抽搐" |
| 2 | `s0_l013_pack_objects_into_box` | 装盒 | **Generalization** | fail | 61 | 该任务教师 SR 仅 0.25,最难泛化 |
| 3 | `s0_l001_pour_balls_into_vase` | 倒球入瓶 | **Precision** | fail | 32 | 精细操作,失败密度 44%(14/32) |
| 4 | `s0_l032_insert_tubes` | 插管 | **Precision** | fail | 33 | 对齐类任务,适合看"重试 vs 换策略" |
| 5 | `s0_l034_classify_objects_by_language` | 按语言分类 | **Open** | fail | 64 | 开放词汇 + 长程,失败步 22/64 |
| 6 | `s0_l018_put_bottles_into_dustbin` | 瓶子入桶 | **Long-Horizon** | fail | 52 | 教师 SR 0.36 |
| 7 | `s0_l035_pick_from_conveyor_by_image` | 按图抓取 | **Open** | fail | 77 | 最长轨迹,检验长程稳定性 |
| 8 | `s0_l016_classify_objects_by_language` | 按语言分类 | **Open** | **success** | 35 | **唯一的成功样本**,用于对照"模型是否会破坏原本能做对的任务" |
### 为什么第 8 个是成功样本
前 7 个教师都失败了。如果模型全失败,你无法区分:
- 是模型不行
- 还是这个 case 本来就做不出来
第 8 个教师成功、且失败步较多(16/35,说明过程中有波折),
**模型如果也能成功,就证明它至少保住了基础能力**;如果失败,说明蒸馏损害了原能力。
这个对照很关键。
---
## 二、五个维度的覆盖
| 维度 | 本批 case 数 |
|---|---:|
| Long-Horizon | 3(#1, #6, #5 的部分) |
| Generalization | 1(#2) |
| Precision | 2(#3, #4) |
| Open | 3(#5, #7, #8) |
| Memory | **0** |
**Memory 我没有选**,原因是数据事实:
```
Memory 维度 Part B 教师成功率 = 93%(137/148)
swap_T / match_and_pick_from_conveyor 等任务教师 SR = 1.00
```
这类任务教师几乎全过,测不出学生差异,**浪费你的额度**。
如果你的额度还有余,想补一个 Memory,建议 `s0_l000_swap_blocks`
(教师 SR 0.96 但失败密度 35%,是全 Part B 失败密度最高的 Memory 任务)。
---
## 三、执行时怎么配模型
三组对照,建议**至少跑 A 和 B 两组**(Zero-shot 可省,它本来就做不了):
| 组 | adapter 路径 | mode |
|---|---|---|
| **A** | `checkpoints/action_shard0` | `action` |
| **B** | `checkpoints/cog_shard4` | `cognitive` |
| (可选)Zero | `none` | `action` |
**如果额度只能跑一组,跑 B**(认知蒸馏组,这是本实验的核心假设)。
---
## 四、每次 rollout 要记录什么
| 字段 | 说明 |
|---|---|
| `episode_id` | 上面 8 个之一 |
| `model` | zero / A / B |
| `trial` | 1/2/3 |
| `outcome` | success / fail(官方 evaluator 判定) |
| `score` | 0–1 部分分 |
| `take_action_cnt` | 实际执行动作数 |
| **`n_failed_calls`** | 工具返回 `ok=false` 的次数 |
| **`repeated_action_streak`** | 连续输出相同 `command` 的最长步数 |
后两个是我**特别想看**的,因为它们直接对应研究假设:
- **失败的调用次数**:模型是否"更早意识到出错"
- **重复动作连击**:是否"卡在原地抽搐"(这是本研究的原始动机)
如果只能记两个额外字段,记这两个。
---
## 五、对比基准(教师实绩,用于判断跑得好不好)
| 任务 | 教师 SR | 教师平均步数 |
|---|---:|---:|
| organize_table | 0.32 | 51 |
| pack_objects_into_box | 0.25 | 50 |
| pour_balls_into_vase | 0.36 | 25 |
| insert_tubes | 0.46 | 28 |
| classify_objects_by_language | 0.60 | 41 |
| put_bottles_into_dustbin | 0.36 | 37 |
| pick_from_conveyor_by_image | 0.56 | 49 |
| **全部 Part B** | **0.5434** | — |
> 这些是 GPT-6 Astra 的真实实绩,来自官方表。
> **我们的学生模型不可能超过教师**(离线蒸馏的上限就是教师),
> 合理的期望是 **0.2–0.4**(学生通常比教师低 20–30 个百分点)。
---
## 六、如果时间/额度紧,优先跑这 3 个
按"信息量 / 成本"排序:
1. **`s0_l042_organize_table`** — 最长、失败最多,最能看出"卡住"行为
2. **`s0_l001_pour_balls_into_vase`** — 步数少(32)、失败密度高(44%),性价比最高
3. **`s0_l016_classify_objects_by_language`** — 教师成功的对照样本,验证"没搞坏"
这 3 个各 3 trials = 9 次 rollout,就能给出初步判断。
---
## 七、重要提醒
1. **所有 case 都是 Part B**,我们的模型**从未见过**这些场景和布局。
2. **不要用 Part A 的 episode**(那些是训练集,结果无效)。
3. **留出集结果属内部对照**,不能宣称是官方 RoboDojo 成绩。
4. 如果某个 case 跑出来 **SR=0 但步数很多**(比如 100+ 步),说明模型在无效循环,
这本身就是有价值的负面结果,**请如实记录**,不要重跑到"看起来正常"。
|