The dataset could not be loaded because the splits use different data file formats, which is not supported. Read more about the splits configuration. Click for more details.
Error code: FileFormatMismatchBetweenSplitsError
Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
YAML Metadata Warning:empty or missing yaml metadata in repo card
Check out the documentation for more information.
Astra-CogDistill-VLA → RoboDojo 评测包
本包用于在 NVIDIA GPU(4090 即可) 上完成两件事:
- 离线槽位评测(约 10 分钟):JSON 合法率、command 准确率、phase 准确率、failure F1、五维度分项
- RoboDojo 闭环 success rate(需要 Isaac Sim,约数小时):在真实仿真里跑 episode,得到 Success Rate
训练已经在 Ascend 910B3 上完成,本包只做评测,不需要再训练。
0. 一分钟总览
| 项目 | 值 |
|---|---|
| 基座模型 | Qwen/Qwen3-VL-4B-Instruct(8.9 GB,脚本会自动从 HF 下载) |
| 微调方式 | LoRA r=32 / α=64 / 252 模块 / 66.06M 可训练参数 |
| 训练数据 | Part A 共 20,600 step 样本(Part B 从未参与训练) |
| 评测数据 | Part B 共 21,305 step 样本 / 1,044 episodes |
| 三组实验 | reasoning(第3组,本次)、cognitive(Model B)、action(Model A) |
| 每个 adapter | 264 MB(adapter_model.safetensors) |
| 显存需求 | 离线评测:≥ 12 GB 可用(4090 24 GB 充裕);闭环:另需 Isaac Sim |
1. 目录结构
astra_reasoning900/
├── README.md ← 你在读的这个
├── requirements.txt
├── src/ ← 评测代码(已修好 Part B 隔离等 4 个 bug)
│ ├── evaluate.py ← 离线评测入口(硬编码 split_partition=["B"])
│ ├── dataset.py ← 数据加载 / prompt 构造
│ ├── adapter_loader.py ← 加载 LoRA(含 assert_effective 断言)
│ ├── verify_ckpt.py ← checkpoint 可加载性验证
│ └── ...
├── data/
│ ├── manifests/
│ │ ├── steps_enriched.jsonl ← 68,728 行,含 split A/B 字段(拆分依据)
│ │ └── reasoning.jsonl ← 8,778 行 reasoning 标签
│ ├── frame_cache_partB.tar ← Part B 的预抽帧(0.88 GB,1,044 episodes / 35,934 张)
│ └── raw/videos/ ← 可选:原视频(本包不含,见 §3.2)
├── checkpoints/
│ ├── astra_reasoning/ ← 本次要评测的主模型
│ ├── astra_cognitive/ ← 对照:Model B
│ └── astra_action/ ← 对照:Model A
├── closed_loop/ ← RoboDojo 闭环评测接入
│ ├── astra_policy/
│ │ ├── model.py ← 我们写的 XPolicyLab 策略实现
│ │ ├── deploy.yml ← 策略配置
│ │ └── eval.sh ← 一键起 server + client
│ └── CLOSED_LOOP.md ← 闭环怎么跑、结果怎么读、已知限制
└── reports/ ← 我们已跑出的参考结果(可覆盖重跑)
├── reasoning.json ← n=50 参考结果
├── cognitive.json
├── action.json
└── eval_reasoning_partB_n30_snapshot.json
2. 环境准备
2.1 Python 依赖
# 建议 Python 3.10–3.12;需要 PyTorch(CUDA 版)+ transformers + peft
conda create -n astra python=3.11 -y
conda activate astra
# 关键版本:transformers 需支持 qwen3_vl(4.57 及以上)
pip install torch --index-url https://download.pytorch.org/whl/cu124
pip install "transformers>=4.57" peft accelerate safetensors pillow numpy
requirements.txt 已列出同样的包,可 pip install -r requirements.txt。
2.2 基座模型
不需要手动准备——脚本用 --base Qwen/Qwen3-VL-4B-Instruct,
首次运行会自动从 Hugging Face 下载(约 8.9 GB)。
如果机器不能联网,或想离线:
# 另一台能联网的机器上
huggingface-cli download Qwen/Qwen3-VL-4B-Instruct --local-dir ./Qwen3-VL-4B-Instruct
# 拷到目标机器后
BASE_MODEL=/absolute/path/to/Qwen3-VL-4B-Instruct bash run_offline_eval.sh
⚠️ 注意:我们训练时用的是本地一份同名副本。它和 HF 上的
Qwen/Qwen3-VL-4B-Instruct是同一模型,但强烈建议用上面命令下载的官方版本; 若结果与reports/中的参考值明显不同,请先怀疑基座模型不一致。
2.3 解压帧缓存
# Part B 的预抽帧(必须解压,否则会回退到读 mp4 → 很慢甚至失败)
# 注意:tar 内部已经是 data/frame_cache/ 结构,所以在【包根目录】执行 -C .
tar -xf data/frame_cache_partB.tar -C .
# 校验:应当输出 1044
ls data/frame_cache | wc -l
解压后得到 data/frame_cache/<episode_id>/<step>_{head,left_wrist,right_wrist}.jpg
(1,044 episodes / 35,934 张 / 约 0.86 GB)。
2.4 解压 checkpoint
for m in reasoning cognitive action; do
tar -xzf checkpoints/astra_${m}.tar.gz -C checkpoints/
done
# 校验:每个目录应有 264,320,456 字节的 adapter
ls -l checkpoints/astra_reasoning/adapter_model.safetensors
每个目录含:adapter_model.safetensors (264 MB) + adapter_config.json + tokenizer 文件。
注意执行位:HF 上传不保留 Unix 权限,
run_offline_eval.sh/eval.sh下载后可能没有可执行位。一律用bash xxx.sh调用,不要用./xxx.sh。
3. 跑离线评测(先跑这个,10 分钟出结果)
3.1 一条命令跑三组
cd astra_reasoning900
# 快速版:每组 50 条(5 维度各 10 条),4090 上约 10 分钟
bash run_offline_eval.sh # 默认 N=50
# 更稳版:每组 300 条,约 1 小时
N=300 bash run_offline_eval.sh
# 指定基座 / 指定卡
BASE_MODEL=/path/to/Qwen3-VL-4B-Instruct DEVICE=0 N=50 bash run_offline_eval.sh
用
bash script.sh而不是./script.sh(见 §2.4 关于执行位的说明)。
脚本会依次评测 reasoning → cognitive → action,最后打印对比表:
experiment n json_valid cmd_acc phase_acc failure_F1
action 50 1.000 0.560 0.000 0.000
cognitive 50 1.000 0.700 0.620 0.850
reasoning 50 1.000 0.620 0.560 0.820
上面的数字只是示例格式,真实值以你跑出来的为准。
3.2 如果帧缓存不够用
data/frame_cache_partB.tar 已含 Part B 全部 1,044 episodes 的抽帧,
正常情况下不需要原视频。只有在帧缓存缺失时,代码才会回退去读
data/raw/videos/<episode_id>/{head,left_wrist,right_wrist}.mp4。
若确实需要原视频(11 GB,含 A+B),从原始数据集重新获取,或联系我单独传。
3.3 单独跑某一组
python -u src/evaluate.py \
--adapter checkpoints/astra_reasoning \
--base Qwen/Qwen3-VL-4B-Instruct \
--mode reasoning \
--n 50 \
--out reports/reasoning.json
关键:--mode 必须与 adapter 的训练模式一致
(reasoning / cognitive / action),否则 prompt 与训练时不符,指标会虚低。
3.4 验证 checkpoint 真的生效
python -u src/verify_ckpt.py \
--adapter checkpoints/astra_reasoning \
--base Qwen/Qwen3-VL-4B-Instruct \
--mode reasoning --n 5 \
--out reports/verify_reasoning.json
必须看到:
[adapter] applied 504 tensors, missing 0
[adapter] logit max|diff| = 13.218750 ← 必须 > 1e-4
"assert_effective": "PASS"
如果 logit max|diff| = 0.000000 或抛
adapter produced no change in logits,说明 adapter 没加载上
(常见原因:adapter_config.json 缺失,或 adapter 目录里混进了基座权重)。
4. 各指标含义(别混淆)
| 指标 | 含义 | 依赖仿真? |
|---|---|---|
json_valid_rate |
输出能被解析成合法 action JSON 的比例 | 否 |
action_command_acc |
command 字段(move_ee/move_delta/…)预测对的比例 |
否 |
phase_acc |
认知块 phase 字段预测对的比例 |
否 |
failure_detection.f1 |
失败检测的 F1(precision/recall 见 JSON) | 否 |
per_category |
上述指标按五个官方维度拆分 | 否 |
success_rate |
机器人真的完成任务的比例 | 是(Isaac Sim) |
上面 4 个都是 step 级离线指标,不等于任务成功率。
success rate 只能靠闭环仿真,见 closed_loop/CLOSED_LOOP.md。
5. 我们已跑出的参考结果
reports/ 下是我们在这台 Ascend 910B3 上跑出的实测值(Part B,n=50,5 维度各 10 条),
可作为"你环境是否正确"的对照:
5.1 总表
| experiment | n | json_valid | cmd_acc | phase_acc | failure_F1 | P | R |
|---|---|---|---|---|---|---|---|
| reasoning(第3组,本次) | 50 | 1.000 | 0.660 | 0.560 | 0.7879 | 0.812 | 0.765 |
| cognitive(Model B) | 50 | 1.000 | 0.700 | 0.580 | 0.8387 | 0.929 | 0.765 |
| action(Model A) | 50 | 0.960 | 0.600 | 0.000 | 0.0000 | 0.000 | 0.000 |
action组 phase/F1 恒为 0 是设计使然——该模式训练目标里没有认知字段。
5.2 五维度 command 准确率
| 维度 | reasoning | cognitive | action |
|---|---|---|---|
| Generalization | 0.6 | 0.8 | 0.6 |
| Long-Horizon | 0.6 | 0.7 | 0.7 |
| Memory | 0.6 | 0.5 | 0.4 |
| Open | 0.9 | 0.9 | 0.6 |
| Precision | 0.6 | 0.6 | 0.7 |
5.3 五维度 JSON 合法率
| 维度 | reasoning | cognitive | action |
|---|---|---|---|
| Generalization | 1.0 | 1.0 | 1.0 |
| Long-Horizon | 1.0 | 1.0 | 1.0 |
| Memory | 1.0 | 1.0 | 1.0 |
| Open | 1.0 | 1.0 | 0.8 |
| Precision | 1.0 | 1.0 | 1.0 |
5.4 结论要点
- reasoning(第3组)相对 action 基线:cmd_acc 0.660 > 0.600(+0.06), failure F1 0.788 > 0.000,且 Memory 维度 0.6 > 0.4。
- cognitive(Model B)仍是最强:cmd_acc 0.700 与 F1 0.839 均最高。
reasoning 组的增益幅度小于 cognitive 组,原因见 §7.4——
Part A 训练集里真正含
observed/why的只有 354 条,监督信号很稀疏。 - n=50 的置信区间较宽(每条 0.1 的粒度),要下确定性结论请跑
N=300。
Ascend 与 4090 都是 bf16 推理,数值差异应很小;但
do_sample=False的贪心解码 对 bf16 舍入敏感,±1 条样本的波动属正常。
6. 硬性注意(会直接影响结论有效性)
- 只能评测 Part B。
evaluate.py里已硬编码split_partition=["B"]并有断言; 不要为了"样本更多"改成 A——A 是训练集,在 A 上跑出来的数字无意义。 --mode必须与 adapter 匹配。用reasoning的 adapter 跑--mode action, prompt 会变,指标不可比。- 不要用测试集调参。选超参只能看 Part A 内部验证集。
n=50是 5 维度各 10 条。想要更稳的数字就N=300。- 不要把离线指标写成任务成功率。这是两回事。
7. 已知限制(如实说明,请一起转述)
- success rate 需要在 Isaac Sim 5.1 + Isaac Lab 2.3 下跑闭环,
我们原机器是 Ascend 910B3,没有 NVIDIA GPU,无法验证。
closed_loop/里的接入代码是按 RoboDojo 官方 ws 协议写的, 但从未在真实仿真里跑过——请按CLOSED_LOOP.md里的一步步调。 - 动作表示是"离散工具调用",不是连续控制。
模型输出
{"command":"move_delta","args":{"dpos":[0,0,0.09]}}这类 JSON, 而 RoboDojo 要的是每臂 7 维ee_pose。中间的转换 (closed_loop/astra_policy/model.py里的状态积分器)是我们写的工程桥接, 不是模型学出来的能力。这是 sim 与 offline 指标差异的最大来源。 - reasoning 是"可观察的自我解释",不是隐藏 CoT。
教师是闭源 GPT-6 Astra,官方明确其内部推理加密未发布;
我们能拿到的是它对外发的消息(
agent_message), 每条带evidence_source="teacher_public_message"审计字段。 - reasoning 标签是稀疏的。 Part A 的 20,600 个训练 step 里,
只有 1,957 条带 reasoning 记录,其中真正含
observed/why的只有 354 条;其余只有plan。 没有 message 的 step 只监督认知+动作,不编造理由。 phase_acc在 action 组恒为 0 属正常——action模式的训练目标里 根本没有认知字段,模型不会输出phase。
8. 产出回传
跑完请把这两样发回:
# 1) 三个 JSON
tar -czf astra_results_$(date +%Y%m%d).tar.gz reports/*.json
# 2) 一行日志摘要
grep -h "logit max|diff|" logs/*.log 2>/dev/null
如果是闭环 success_rate,另外附 RoboDojo 的 eval_result 目录。
9. 出问题先看这里
| 现象 | 原因 / 处理 |
|---|---|
adapter produced no change in logits |
adapter 没加载上。查目录里 adapter_config.json 是否存在 |
applied 0 tensors, missing 504 |
adapter 与基座不匹配,或用了别的 base |
输出全是 {} 或空 |
--mode 与 adapter 不符,或 max_new_tokens 太小 |
OOM |
4090 上 --n 不影响显存;降 --img-size 224 或换更大显存卡 |
| 评测很慢(>1 小时) | 帧缓存没解压,回退在读 mp4。先做 §2.3 |
结果与 reports/ 差距很大 |
先确认基座模型是官方 Qwen/Qwen3-VL-4B-Instruct |
KeyError: 'Qwen3VLForConditionalGeneration' |
transformers 版本太老,需 ≥ 4.57 |
10. 本包与原始交付的差异(诚实记录)
这个包里的 src/ 是修复后的版本(部署在 src_r3/),修了 4 个会导致结论作废的缺陷:
| # | 缺陷 | 后果 | 状态 |
|---|---|---|---|
| 1 | cognitive_to_json() 只序列化 4 个固定字段,把 observed/why/plan 全丢了 |
**reasoning target 全库 20,600 条中 0 条含 observed/why**,第3组等于空转 |
已修(实测修复后 354 条命中) |
| 2 | __getitem__ 末尾把 prompt 重建为 action-only 文案 |
reasoning 模式训练 prompt 与实际推理 prompt 不一致,模型学错分布 | 已修(改调用 build_prompt) |
| 3 | evaluate.py 未传 split_partition=["B"] |
评测集是 A+B 混合的 5% 切片,部分指标是在训练数据上测的 | 已修(硬编码 B + 断言) |
| 4 | verify_ckpt.py 无 assert_effective |
§5.2 验收条件不可能满足;坏 adapter 会被当好的报 | 已修(并修了 assert_effective 自身把 base 与 adapter 比成同一对象的 bug) |
因此:本包 reports/ 里的数字,与更早那份 DELIVERY.md 里的数字不可直接比较,
原因不是模型变了,而是旧代码在污染的数据/错误的 prompt 上评测。
- Downloads last month
- 98