astra900 / EVAL_CASES_FOR_GPU.md
Ajjsnsn's picture
Upload EVAL_CASES_FOR_GPU.md with huggingface_hub
d8d1dd1 verified
|
Raw History Blame Contribute Delete
5.58 kB

建议先跑的 8 个 Case(给学长的执行清单)

原则:不挑最容易的,也不挑纯失败的。 挑「教师成功率 0.25–0.65」的中等难度任务——这类任务才能区分"模型是否真的学会了", 太简单(SR≈1.0)谁都过、太难(SR≈0)谁都不过,都测不出差异。

每个 case 跑 3 trials(按你的额度),共 24 次 rollout。


一、8 个 Case 清单

全部来自 Part B 留出集(从未参与训练)。layout_id 已嵌入 episode_id。

# episode_id 任务 维度 教师结果 步数 建议理由
1 s0_l042_organize_table 整理桌面 Long-Horizon fail 73 最长、失败步最多(34/73),最能暴露"卡住就抽搐"
2 s0_l013_pack_objects_into_box 装盒 Generalization fail 61 该任务教师 SR 仅 0.25,最难泛化
3 s0_l001_pour_balls_into_vase 倒球入瓶 Precision fail 32 精细操作,失败密度 44%(14/32)
4 s0_l032_insert_tubes 插管 Precision fail 33 对齐类任务,适合看"重试 vs 换策略"
5 s0_l034_classify_objects_by_language 按语言分类 Open fail 64 开放词汇 + 长程,失败步 22/64
6 s0_l018_put_bottles_into_dustbin 瓶子入桶 Long-Horizon fail 52 教师 SR 0.36
7 s0_l035_pick_from_conveyor_by_image 按图抓取 Open fail 77 最长轨迹,检验长程稳定性
8 s0_l016_classify_objects_by_language 按语言分类 Open success 35 唯一的成功样本,用于对照"模型是否会破坏原本能做对的任务"

为什么第 8 个是成功样本

前 7 个教师都失败了。如果模型全失败,你无法区分:

  • 是模型不行
  • 还是这个 case 本来就做不出来

第 8 个教师成功、且失败步较多(16/35,说明过程中有波折), 模型如果也能成功,就证明它至少保住了基础能力;如果失败,说明蒸馏损害了原能力。 这个对照很关键。


二、五个维度的覆盖

维度 本批 case 数
Long-Horizon 3(#1, #6, #5 的部分)
Generalization 1(#2)
Precision 2(#3, #4)
Open 3(#5, #7, #8)
Memory 0

Memory 我没有选,原因是数据事实:

Memory 维度 Part B 教师成功率 = 93%(137/148)
swap_T / match_and_pick_from_conveyor 等任务教师 SR = 1.00

这类任务教师几乎全过,测不出学生差异,浪费你的额度。 如果你的额度还有余,想补一个 Memory,建议 s0_l000_swap_blocks (教师 SR 0.96 但失败密度 35%,是全 Part B 失败密度最高的 Memory 任务)。


三、执行时怎么配模型

三组对照,建议至少跑 A 和 B 两组(Zero-shot 可省,它本来就做不了):

组 adapter 路径 mode
A checkpoints/action_shard0 action
B checkpoints/cog_shard4 cognitive
(可选)Zero none action

如果额度只能跑一组,跑 B(认知蒸馏组,这是本实验的核心假设)。


四、每次 rollout 要记录什么

字段 说明
episode_id 上面 8 个之一
model zero / A / B
trial 1/2/3
outcome success / fail(官方 evaluator 判定)
score 0–1 部分分
take_action_cnt 实际执行动作数
n_failed_calls 工具返回 ok=false 的次数
repeated_action_streak 连续输出相同 command 的最长步数

后两个是我特别想看的,因为它们直接对应研究假设:

  • 失败的调用次数:模型是否"更早意识到出错"
  • 重复动作连击:是否"卡在原地抽搐"(这是本研究的原始动机)

如果只能记两个额外字段,记这两个。


五、对比基准(教师实绩,用于判断跑得好不好)

任务 教师 SR 教师平均步数
organize_table 0.32 51
pack_objects_into_box 0.25 50
pour_balls_into_vase 0.36 25
insert_tubes 0.46 28
classify_objects_by_language 0.60 41
put_bottles_into_dustbin 0.36 37
pick_from_conveyor_by_image 0.56 49
全部 Part B 0.5434 —

这些是 GPT-6 Astra 的真实实绩,来自官方表。 我们的学生模型不可能超过教师(离线蒸馏的上限就是教师), 合理的期望是 0.2–0.4(学生通常比教师低 20–30 个百分点)。


六、如果时间/额度紧,优先跑这 3 个

按"信息量 / 成本"排序:

  1. s0_l042_organize_table — 最长、失败最多,最能看出"卡住"行为
  2. s0_l001_pour_balls_into_vase — 步数少(32)、失败密度高(44%),性价比最高
  3. s0_l016_classify_objects_by_language — 教师成功的对照样本,验证"没搞坏"

这 3 个各 3 trials = 9 次 rollout,就能给出初步判断。


七、重要提醒

  1. 所有 case 都是 Part B,我们的模型从未见过这些场景和布局。
  2. 不要用 Part A 的 episode(那些是训练集,结果无效)。
  3. 留出集结果属内部对照,不能宣称是官方 RoboDojo 成绩。
  4. 如果某个 case 跑出来 SR=0 但步数很多(比如 100+ 步),说明模型在无效循环, 这本身就是有价值的负面结果,请如实记录,不要重跑到"看起来正常"。