astra900 / EVAL_CASES_FOR_GPU.md
Ajjsnsn's picture
Upload EVAL_CASES_FOR_GPU.md with huggingface_hub
d8d1dd1 verified
|
Raw History Blame Contribute Delete
5.58 kB
# 建议先跑的 8 个 Case(给学长的执行清单)
原则:**不挑最容易的,也不挑纯失败的**。
挑「教师成功率 0.25–0.65」的中等难度任务——这类任务才能区分"模型是否真的学会了",
太简单(SR≈1.0)谁都过、太难(SR≈0)谁都不过,都测不出差异。
每个 case 跑 3 trials(按你的额度),共 **24 次 rollout**。
---
## 一、8 个 Case 清单
全部来自 **Part B 留出集**(从未参与训练)。`layout_id` 已嵌入 episode_id。
| # | episode_id | 任务 | 维度 | 教师结果 | 步数 | 建议理由 |
|---|---|---|---|---:|---:|---|
| 1 | `s0_l042_organize_table` | 整理桌面 | **Long-Horizon** | fail | 73 | 最长、失败步最多(34/73),最能暴露"卡住就抽搐" |
| 2 | `s0_l013_pack_objects_into_box` | 装盒 | **Generalization** | fail | 61 | 该任务教师 SR 仅 0.25,最难泛化 |
| 3 | `s0_l001_pour_balls_into_vase` | 倒球入瓶 | **Precision** | fail | 32 | 精细操作,失败密度 44%(14/32) |
| 4 | `s0_l032_insert_tubes` | 插管 | **Precision** | fail | 33 | 对齐类任务,适合看"重试 vs 换策略" |
| 5 | `s0_l034_classify_objects_by_language` | 按语言分类 | **Open** | fail | 64 | 开放词汇 + 长程,失败步 22/64 |
| 6 | `s0_l018_put_bottles_into_dustbin` | 瓶子入桶 | **Long-Horizon** | fail | 52 | 教师 SR 0.36 |
| 7 | `s0_l035_pick_from_conveyor_by_image` | 按图抓取 | **Open** | fail | 77 | 最长轨迹,检验长程稳定性 |
| 8 | `s0_l016_classify_objects_by_language` | 按语言分类 | **Open** | **success** | 35 | **唯一的成功样本**,用于对照"模型是否会破坏原本能做对的任务" |
### 为什么第 8 个是成功样本
前 7 个教师都失败了。如果模型全失败,你无法区分:
- 是模型不行
- 还是这个 case 本来就做不出来
第 8 个教师成功、且失败步较多(16/35,说明过程中有波折),
**模型如果也能成功,就证明它至少保住了基础能力**;如果失败,说明蒸馏损害了原能力。
这个对照很关键。
---
## 二、五个维度的覆盖
| 维度 | 本批 case 数 |
|---|---:|
| Long-Horizon | 3(#1, #6, #5 的部分) |
| Generalization | 1(#2) |
| Precision | 2(#3, #4) |
| Open | 3(#5, #7, #8) |
| Memory | **0** |
**Memory 我没有选**,原因是数据事实:
```
Memory 维度 Part B 教师成功率 = 93%(137/148)
swap_T / match_and_pick_from_conveyor 等任务教师 SR = 1.00
```
这类任务教师几乎全过,测不出学生差异,**浪费你的额度**。
如果你的额度还有余,想补一个 Memory,建议 `s0_l000_swap_blocks`
(教师 SR 0.96 但失败密度 35%,是全 Part B 失败密度最高的 Memory 任务)。
---
## 三、执行时怎么配模型
三组对照,建议**至少跑 A 和 B 两组**(Zero-shot 可省,它本来就做不了):
| 组 | adapter 路径 | mode |
|---|---|---|
| **A** | `checkpoints/action_shard0` | `action` |
| **B** | `checkpoints/cog_shard4` | `cognitive` |
| (可选)Zero | `none` | `action` |
**如果额度只能跑一组,跑 B**(认知蒸馏组,这是本实验的核心假设)。
---
## 四、每次 rollout 要记录什么
| 字段 | 说明 |
|---|---|
| `episode_id` | 上面 8 个之一 |
| `model` | zero / A / B |
| `trial` | 1/2/3 |
| `outcome` | success / fail(官方 evaluator 判定) |
| `score` | 0–1 部分分 |
| `take_action_cnt` | 实际执行动作数 |
| **`n_failed_calls`** | 工具返回 `ok=false` 的次数 |
| **`repeated_action_streak`** | 连续输出相同 `command` 的最长步数 |
后两个是我**特别想看**的,因为它们直接对应研究假设:
- **失败的调用次数**:模型是否"更早意识到出错"
- **重复动作连击**:是否"卡在原地抽搐"(这是本研究的原始动机)
如果只能记两个额外字段,记这两个。
---
## 五、对比基准(教师实绩,用于判断跑得好不好)
| 任务 | 教师 SR | 教师平均步数 |
|---|---:|---:|
| organize_table | 0.32 | 51 |
| pack_objects_into_box | 0.25 | 50 |
| pour_balls_into_vase | 0.36 | 25 |
| insert_tubes | 0.46 | 28 |
| classify_objects_by_language | 0.60 | 41 |
| put_bottles_into_dustbin | 0.36 | 37 |
| pick_from_conveyor_by_image | 0.56 | 49 |
| **全部 Part B** | **0.5434** | — |
> 这些是 GPT-6 Astra 的真实实绩,来自官方表。
> **我们的学生模型不可能超过教师**(离线蒸馏的上限就是教师),
> 合理的期望是 **0.2–0.4**(学生通常比教师低 20–30 个百分点)。
---
## 六、如果时间/额度紧,优先跑这 3 个
按"信息量 / 成本"排序:
1. **`s0_l042_organize_table`** — 最长、失败最多,最能看出"卡住"行为
2. **`s0_l001_pour_balls_into_vase`** — 步数少(32)、失败密度高(44%),性价比最高
3. **`s0_l016_classify_objects_by_language`** — 教师成功的对照样本,验证"没搞坏"
这 3 个各 3 trials = 9 次 rollout,就能给出初步判断。
---
## 七、重要提醒
1. **所有 case 都是 Part B**,我们的模型**从未见过**这些场景和布局。
2. **不要用 Part A 的 episode**(那些是训练集,结果无效)。
3. **留出集结果属内部对照**,不能宣称是官方 RoboDojo 成绩。
4. 如果某个 case 跑出来 **SR=0 但步数很多**(比如 100+ 步),说明模型在无效循环,
这本身就是有价值的负面结果,**请如实记录**,不要重跑到"看起来正常"。