# 建议先跑的 8 个 Case(给学长的执行清单) 原则:**不挑最容易的,也不挑纯失败的**。 挑「教师成功率 0.25–0.65」的中等难度任务——这类任务才能区分"模型是否真的学会了", 太简单(SR≈1.0)谁都过、太难(SR≈0)谁都不过,都测不出差异。 每个 case 跑 3 trials(按你的额度),共 **24 次 rollout**。 --- ## 一、8 个 Case 清单 全部来自 **Part B 留出集**(从未参与训练)。`layout_id` 已嵌入 episode_id。 | # | episode_id | 任务 | 维度 | 教师结果 | 步数 | 建议理由 | |---|---|---|---|---:|---:|---| | 1 | `s0_l042_organize_table` | 整理桌面 | **Long-Horizon** | fail | 73 | 最长、失败步最多(34/73),最能暴露"卡住就抽搐" | | 2 | `s0_l013_pack_objects_into_box` | 装盒 | **Generalization** | fail | 61 | 该任务教师 SR 仅 0.25,最难泛化 | | 3 | `s0_l001_pour_balls_into_vase` | 倒球入瓶 | **Precision** | fail | 32 | 精细操作,失败密度 44%(14/32) | | 4 | `s0_l032_insert_tubes` | 插管 | **Precision** | fail | 33 | 对齐类任务,适合看"重试 vs 换策略" | | 5 | `s0_l034_classify_objects_by_language` | 按语言分类 | **Open** | fail | 64 | 开放词汇 + 长程,失败步 22/64 | | 6 | `s0_l018_put_bottles_into_dustbin` | 瓶子入桶 | **Long-Horizon** | fail | 52 | 教师 SR 0.36 | | 7 | `s0_l035_pick_from_conveyor_by_image` | 按图抓取 | **Open** | fail | 77 | 最长轨迹,检验长程稳定性 | | 8 | `s0_l016_classify_objects_by_language` | 按语言分类 | **Open** | **success** | 35 | **唯一的成功样本**,用于对照"模型是否会破坏原本能做对的任务" | ### 为什么第 8 个是成功样本 前 7 个教师都失败了。如果模型全失败,你无法区分: - 是模型不行 - 还是这个 case 本来就做不出来 第 8 个教师成功、且失败步较多(16/35,说明过程中有波折), **模型如果也能成功,就证明它至少保住了基础能力**;如果失败,说明蒸馏损害了原能力。 这个对照很关键。 --- ## 二、五个维度的覆盖 | 维度 | 本批 case 数 | |---|---:| | Long-Horizon | 3(#1, #6, #5 的部分) | | Generalization | 1(#2) | | Precision | 2(#3, #4) | | Open | 3(#5, #7, #8) | | Memory | **0** | **Memory 我没有选**,原因是数据事实: ``` Memory 维度 Part B 教师成功率 = 93%(137/148) swap_T / match_and_pick_from_conveyor 等任务教师 SR = 1.00 ``` 这类任务教师几乎全过,测不出学生差异,**浪费你的额度**。 如果你的额度还有余,想补一个 Memory,建议 `s0_l000_swap_blocks` (教师 SR 0.96 但失败密度 35%,是全 Part B 失败密度最高的 Memory 任务)。 --- ## 三、执行时怎么配模型 三组对照,建议**至少跑 A 和 B 两组**(Zero-shot 可省,它本来就做不了): | 组 | adapter 路径 | mode | |---|---|---| | **A** | `checkpoints/action_shard0` | `action` | | **B** | `checkpoints/cog_shard4` | `cognitive` | | (可选)Zero | `none` | `action` | **如果额度只能跑一组,跑 B**(认知蒸馏组,这是本实验的核心假设)。 --- ## 四、每次 rollout 要记录什么 | 字段 | 说明 | |---|---| | `episode_id` | 上面 8 个之一 | | `model` | zero / A / B | | `trial` | 1/2/3 | | `outcome` | success / fail(官方 evaluator 判定) | | `score` | 0–1 部分分 | | `take_action_cnt` | 实际执行动作数 | | **`n_failed_calls`** | 工具返回 `ok=false` 的次数 | | **`repeated_action_streak`** | 连续输出相同 `command` 的最长步数 | 后两个是我**特别想看**的,因为它们直接对应研究假设: - **失败的调用次数**:模型是否"更早意识到出错" - **重复动作连击**:是否"卡在原地抽搐"(这是本研究的原始动机) 如果只能记两个额外字段,记这两个。 --- ## 五、对比基准(教师实绩,用于判断跑得好不好) | 任务 | 教师 SR | 教师平均步数 | |---|---:|---:| | organize_table | 0.32 | 51 | | pack_objects_into_box | 0.25 | 50 | | pour_balls_into_vase | 0.36 | 25 | | insert_tubes | 0.46 | 28 | | classify_objects_by_language | 0.60 | 41 | | put_bottles_into_dustbin | 0.36 | 37 | | pick_from_conveyor_by_image | 0.56 | 49 | | **全部 Part B** | **0.5434** | — | > 这些是 GPT-6 Astra 的真实实绩,来自官方表。 > **我们的学生模型不可能超过教师**(离线蒸馏的上限就是教师), > 合理的期望是 **0.2–0.4**(学生通常比教师低 20–30 个百分点)。 --- ## 六、如果时间/额度紧,优先跑这 3 个 按"信息量 / 成本"排序: 1. **`s0_l042_organize_table`** — 最长、失败最多,最能看出"卡住"行为 2. **`s0_l001_pour_balls_into_vase`** — 步数少(32)、失败密度高(44%),性价比最高 3. **`s0_l016_classify_objects_by_language`** — 教师成功的对照样本,验证"没搞坏" 这 3 个各 3 trials = 9 次 rollout,就能给出初步判断。 --- ## 七、重要提醒 1. **所有 case 都是 Part B**,我们的模型**从未见过**这些场景和布局。 2. **不要用 Part A 的 episode**(那些是训练集,结果无效)。 3. **留出集结果属内部对照**,不能宣称是官方 RoboDojo 成绩。 4. 如果某个 case 跑出来 **SR=0 但步数很多**(比如 100+ 步),说明模型在无效循环, 这本身就是有价值的负面结果,**请如实记录**,不要重跑到"看起来正常"。