|
Download EVAL_CASES_FOR_GPU.md from Ajjsnsn/astra900: direct link, hf CLI and curl.
- Browser
- Download file 5.58 kB
-
https://huggingface.co/datasets/Ajjsnsn/astra900/resolve/main/EVAL_CASES_FOR_GPU.md
- Command line
-
hf download hf://datasets/Ajjsnsn/astra900/EVAL_CASES_FOR_GPU.md
-
curl -L -o EVAL_CASES_FOR_GPU.md https://huggingface.co/datasets/Ajjsnsn/astra900/resolve/main/EVAL_CASES_FOR_GPU.md
5.58 kB
| # 建议先跑的 8 个 Case(给学长的执行清单) | |
| 原则:**不挑最容易的,也不挑纯失败的**。 | |
| 挑「教师成功率 0.25–0.65」的中等难度任务——这类任务才能区分"模型是否真的学会了", | |
| 太简单(SR≈1.0)谁都过、太难(SR≈0)谁都不过,都测不出差异。 | |
| 每个 case 跑 3 trials(按你的额度),共 **24 次 rollout**。 | |
| --- | |
| ## 一、8 个 Case 清单 | |
| 全部来自 **Part B 留出集**(从未参与训练)。`layout_id` 已嵌入 episode_id。 | |
| | # | episode_id | 任务 | 维度 | 教师结果 | 步数 | 建议理由 | | |
| |---|---|---|---|---:|---:|---| | |
| | 1 | `s0_l042_organize_table` | 整理桌面 | **Long-Horizon** | fail | 73 | 最长、失败步最多(34/73),最能暴露"卡住就抽搐" | | |
| | 2 | `s0_l013_pack_objects_into_box` | 装盒 | **Generalization** | fail | 61 | 该任务教师 SR 仅 0.25,最难泛化 | | |
| | 3 | `s0_l001_pour_balls_into_vase` | 倒球入瓶 | **Precision** | fail | 32 | 精细操作,失败密度 44%(14/32) | | |
| | 4 | `s0_l032_insert_tubes` | 插管 | **Precision** | fail | 33 | 对齐类任务,适合看"重试 vs 换策略" | | |
| | 5 | `s0_l034_classify_objects_by_language` | 按语言分类 | **Open** | fail | 64 | 开放词汇 + 长程,失败步 22/64 | | |
| | 6 | `s0_l018_put_bottles_into_dustbin` | 瓶子入桶 | **Long-Horizon** | fail | 52 | 教师 SR 0.36 | | |
| | 7 | `s0_l035_pick_from_conveyor_by_image` | 按图抓取 | **Open** | fail | 77 | 最长轨迹,检验长程稳定性 | | |
| | 8 | `s0_l016_classify_objects_by_language` | 按语言分类 | **Open** | **success** | 35 | **唯一的成功样本**,用于对照"模型是否会破坏原本能做对的任务" | | |
| ### 为什么第 8 个是成功样本 | |
| 前 7 个教师都失败了。如果模型全失败,你无法区分: | |
| - 是模型不行 | |
| - 还是这个 case 本来就做不出来 | |
| 第 8 个教师成功、且失败步较多(16/35,说明过程中有波折), | |
| **模型如果也能成功,就证明它至少保住了基础能力**;如果失败,说明蒸馏损害了原能力。 | |
| 这个对照很关键。 | |
| --- | |
| ## 二、五个维度的覆盖 | |
| | 维度 | 本批 case 数 | | |
| |---|---:| | |
| | Long-Horizon | 3(#1, #6, #5 的部分) | | |
| | Generalization | 1(#2) | | |
| | Precision | 2(#3, #4) | | |
| | Open | 3(#5, #7, #8) | | |
| | Memory | **0** | | |
| **Memory 我没有选**,原因是数据事实: | |
| ``` | |
| Memory 维度 Part B 教师成功率 = 93%(137/148) | |
| swap_T / match_and_pick_from_conveyor 等任务教师 SR = 1.00 | |
| ``` | |
| 这类任务教师几乎全过,测不出学生差异,**浪费你的额度**。 | |
| 如果你的额度还有余,想补一个 Memory,建议 `s0_l000_swap_blocks` | |
| (教师 SR 0.96 但失败密度 35%,是全 Part B 失败密度最高的 Memory 任务)。 | |
| --- | |
| ## 三、执行时怎么配模型 | |
| 三组对照,建议**至少跑 A 和 B 两组**(Zero-shot 可省,它本来就做不了): | |
| | 组 | adapter 路径 | mode | | |
| |---|---|---| | |
| | **A** | `checkpoints/action_shard0` | `action` | | |
| | **B** | `checkpoints/cog_shard4` | `cognitive` | | |
| | (可选)Zero | `none` | `action` | | |
| **如果额度只能跑一组,跑 B**(认知蒸馏组,这是本实验的核心假设)。 | |
| --- | |
| ## 四、每次 rollout 要记录什么 | |
| | 字段 | 说明 | | |
| |---|---| | |
| | `episode_id` | 上面 8 个之一 | | |
| | `model` | zero / A / B | | |
| | `trial` | 1/2/3 | | |
| | `outcome` | success / fail(官方 evaluator 判定) | | |
| | `score` | 0–1 部分分 | | |
| | `take_action_cnt` | 实际执行动作数 | | |
| | **`n_failed_calls`** | 工具返回 `ok=false` 的次数 | | |
| | **`repeated_action_streak`** | 连续输出相同 `command` 的最长步数 | | |
| 后两个是我**特别想看**的,因为它们直接对应研究假设: | |
| - **失败的调用次数**:模型是否"更早意识到出错" | |
| - **重复动作连击**:是否"卡在原地抽搐"(这是本研究的原始动机) | |
| 如果只能记两个额外字段,记这两个。 | |
| --- | |
| ## 五、对比基准(教师实绩,用于判断跑得好不好) | |
| | 任务 | 教师 SR | 教师平均步数 | | |
| |---|---:|---:| | |
| | organize_table | 0.32 | 51 | | |
| | pack_objects_into_box | 0.25 | 50 | | |
| | pour_balls_into_vase | 0.36 | 25 | | |
| | insert_tubes | 0.46 | 28 | | |
| | classify_objects_by_language | 0.60 | 41 | | |
| | put_bottles_into_dustbin | 0.36 | 37 | | |
| | pick_from_conveyor_by_image | 0.56 | 49 | | |
| | **全部 Part B** | **0.5434** | — | | |
| > 这些是 GPT-6 Astra 的真实实绩,来自官方表。 | |
| > **我们的学生模型不可能超过教师**(离线蒸馏的上限就是教师), | |
| > 合理的期望是 **0.2–0.4**(学生通常比教师低 20–30 个百分点)。 | |
| --- | |
| ## 六、如果时间/额度紧,优先跑这 3 个 | |
| 按"信息量 / 成本"排序: | |
| 1. **`s0_l042_organize_table`** — 最长、失败最多,最能看出"卡住"行为 | |
| 2. **`s0_l001_pour_balls_into_vase`** — 步数少(32)、失败密度高(44%),性价比最高 | |
| 3. **`s0_l016_classify_objects_by_language`** — 教师成功的对照样本,验证"没搞坏" | |
| 这 3 个各 3 trials = 9 次 rollout,就能给出初步判断。 | |
| --- | |
| ## 七、重要提醒 | |
| 1. **所有 case 都是 Part B**,我们的模型**从未见过**这些场景和布局。 | |
| 2. **不要用 Part A 的 episode**(那些是训练集,结果无效)。 | |
| 3. **留出集结果属内部对照**,不能宣称是官方 RoboDojo 成绩。 | |
| 4. 如果某个 case 跑出来 **SR=0 但步数很多**(比如 100+ 步),说明模型在无效循环, | |
| 这本身就是有价值的负面结果,**请如实记录**,不要重跑到"看起来正常"。 | |