|
Download EVAL_CASES_FOR_GPU.md from Ajjsnsn/astra900: direct link, hf CLI and curl.
- Browser
- Download file 5.58 kB
-
https://huggingface.co/datasets/Ajjsnsn/astra900/resolve/main/EVAL_CASES_FOR_GPU.md
- Command line
-
hf download hf://datasets/Ajjsnsn/astra900/EVAL_CASES_FOR_GPU.md
-
curl -L -o EVAL_CASES_FOR_GPU.md https://huggingface.co/datasets/Ajjsnsn/astra900/resolve/main/EVAL_CASES_FOR_GPU.md
5.58 kB
建议先跑的 8 个 Case(给学长的执行清单)
原则:不挑最容易的,也不挑纯失败的。 挑「教师成功率 0.25–0.65」的中等难度任务——这类任务才能区分"模型是否真的学会了", 太简单(SR≈1.0)谁都过、太难(SR≈0)谁都不过,都测不出差异。
每个 case 跑 3 trials(按你的额度),共 24 次 rollout。
一、8 个 Case 清单
全部来自 Part B 留出集(从未参与训练)。layout_id 已嵌入 episode_id。
| # | episode_id | 任务 | 维度 | 教师结果 | 步数 | 建议理由 |
|---|---|---|---|---|---|---|
| 1 | s0_l042_organize_table |
整理桌面 | Long-Horizon | fail | 73 | 最长、失败步最多(34/73),最能暴露"卡住就抽搐" |
| 2 | s0_l013_pack_objects_into_box |
装盒 | Generalization | fail | 61 | 该任务教师 SR 仅 0.25,最难泛化 |
| 3 | s0_l001_pour_balls_into_vase |
倒球入瓶 | Precision | fail | 32 | 精细操作,失败密度 44%(14/32) |
| 4 | s0_l032_insert_tubes |
插管 | Precision | fail | 33 | 对齐类任务,适合看"重试 vs 换策略" |
| 5 | s0_l034_classify_objects_by_language |
按语言分类 | Open | fail | 64 | 开放词汇 + 长程,失败步 22/64 |
| 6 | s0_l018_put_bottles_into_dustbin |
瓶子入桶 | Long-Horizon | fail | 52 | 教师 SR 0.36 |
| 7 | s0_l035_pick_from_conveyor_by_image |
按图抓取 | Open | fail | 77 | 最长轨迹,检验长程稳定性 |
| 8 | s0_l016_classify_objects_by_language |
按语言分类 | Open | success | 35 | 唯一的成功样本,用于对照"模型是否会破坏原本能做对的任务" |
为什么第 8 个是成功样本
前 7 个教师都失败了。如果模型全失败,你无法区分:
- 是模型不行
- 还是这个 case 本来就做不出来
第 8 个教师成功、且失败步较多(16/35,说明过程中有波折), 模型如果也能成功,就证明它至少保住了基础能力;如果失败,说明蒸馏损害了原能力。 这个对照很关键。
二、五个维度的覆盖
| 维度 | 本批 case 数 |
|---|---|
| Long-Horizon | 3(#1, #6, #5 的部分) |
| Generalization | 1(#2) |
| Precision | 2(#3, #4) |
| Open | 3(#5, #7, #8) |
| Memory | 0 |
Memory 我没有选,原因是数据事实:
Memory 维度 Part B 教师成功率 = 93%(137/148)
swap_T / match_and_pick_from_conveyor 等任务教师 SR = 1.00
这类任务教师几乎全过,测不出学生差异,浪费你的额度。
如果你的额度还有余,想补一个 Memory,建议 s0_l000_swap_blocks
(教师 SR 0.96 但失败密度 35%,是全 Part B 失败密度最高的 Memory 任务)。
三、执行时怎么配模型
三组对照,建议至少跑 A 和 B 两组(Zero-shot 可省,它本来就做不了):
| 组 | adapter 路径 | mode |
|---|---|---|
| A | checkpoints/action_shard0 |
action |
| B | checkpoints/cog_shard4 |
cognitive |
| (可选)Zero | none |
action |
如果额度只能跑一组,跑 B(认知蒸馏组,这是本实验的核心假设)。
四、每次 rollout 要记录什么
| 字段 | 说明 |
|---|---|
episode_id |
上面 8 个之一 |
model |
zero / A / B |
trial |
1/2/3 |
outcome |
success / fail(官方 evaluator 判定) |
score |
0–1 部分分 |
take_action_cnt |
实际执行动作数 |
n_failed_calls |
工具返回 ok=false 的次数 |
repeated_action_streak |
连续输出相同 command 的最长步数 |
后两个是我特别想看的,因为它们直接对应研究假设:
- 失败的调用次数:模型是否"更早意识到出错"
- 重复动作连击:是否"卡在原地抽搐"(这是本研究的原始动机)
如果只能记两个额外字段,记这两个。
五、对比基准(教师实绩,用于判断跑得好不好)
| 任务 | 教师 SR | 教师平均步数 |
|---|---|---|
| organize_table | 0.32 | 51 |
| pack_objects_into_box | 0.25 | 50 |
| pour_balls_into_vase | 0.36 | 25 |
| insert_tubes | 0.46 | 28 |
| classify_objects_by_language | 0.60 | 41 |
| put_bottles_into_dustbin | 0.36 | 37 |
| pick_from_conveyor_by_image | 0.56 | 49 |
| 全部 Part B | 0.5434 | — |
这些是 GPT-6 Astra 的真实实绩,来自官方表。 我们的学生模型不可能超过教师(离线蒸馏的上限就是教师), 合理的期望是 0.2–0.4(学生通常比教师低 20–30 个百分点)。
六、如果时间/额度紧,优先跑这 3 个
按"信息量 / 成本"排序:
s0_l042_organize_table— 最长、失败最多,最能看出"卡住"行为s0_l001_pour_balls_into_vase— 步数少(32)、失败密度高(44%),性价比最高s0_l016_classify_objects_by_language— 教师成功的对照样本,验证"没搞坏"
这 3 个各 3 trials = 9 次 rollout,就能给出初步判断。
七、重要提醒
- 所有 case 都是 Part B,我们的模型从未见过这些场景和布局。
- 不要用 Part A 的 episode(那些是训练集,结果无效)。
- 留出集结果属内部对照,不能宣称是官方 RoboDojo 成绩。
- 如果某个 case 跑出来 SR=0 但步数很多(比如 100+ 步),说明模型在无效循环, 这本身就是有价值的负面结果,请如实记录,不要重跑到"看起来正常"。