Dataset Viewer
The dataset could not be loaded because the splits use different data file formats, which is not supported. Read more about the splits configuration. Click for more details.
Couldn't infer the same data file format for all splits. Got {NamedSplit('train'): (None, {}), NamedSplit('test'): ('json', {})}
Error code:   FileFormatMismatchBetweenSplitsError

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

YAML Metadata Warning:empty or missing yaml metadata in repo card

Check out the documentation for more information.

Astra-CogDistill-VLA → RoboDojo 评测包

本包用于在 NVIDIA GPU(4090 即可) 上完成两件事:

  1. 离线槽位评测(约 10 分钟):JSON 合法率、command 准确率、phase 准确率、failure F1、五维度分项
  2. RoboDojo 闭环 success rate(需要 Isaac Sim,约数小时):在真实仿真里跑 episode,得到 Success Rate

训练已经在 Ascend 910B3 上完成,本包只做评测,不需要再训练。


0. 一分钟总览

项目 值
基座模型 Qwen/Qwen3-VL-4B-Instruct(8.9 GB,脚本会自动从 HF 下载)
微调方式 LoRA r=32 / α=64 / 252 模块 / 66.06M 可训练参数
训练数据 Part A 共 20,600 step 样本(Part B 从未参与训练)
评测数据 Part B 共 21,305 step 样本 / 1,044 episodes
三组实验 reasoning(第3组,本次)、cognitive(Model B)、action(Model A)
每个 adapter 264 MB(adapter_model.safetensors)
显存需求 离线评测:≥ 12 GB 可用(4090 24 GB 充裕);闭环:另需 Isaac Sim

1. 目录结构

astra_reasoning900/
├── README.md                     ← 你在读的这个
├── requirements.txt
├── src/                          ← 评测代码(已修好 Part B 隔离等 4 个 bug)
│   ├── evaluate.py               ← 离线评测入口(硬编码 split_partition=["B"])
│   ├── dataset.py                ← 数据加载 / prompt 构造
│   ├── adapter_loader.py         ← 加载 LoRA(含 assert_effective 断言)
│   ├── verify_ckpt.py            ← checkpoint 可加载性验证
│   └── ...
├── data/
│   ├── manifests/
│   │   ├── steps_enriched.jsonl  ← 68,728 行,含 split A/B 字段(拆分依据)
│   │   └── reasoning.jsonl       ← 8,778 行 reasoning 标签
│   ├── frame_cache_partB.tar     ← Part B 的预抽帧(0.88 GB,1,044 episodes / 35,934 张)
│   └── raw/videos/               ← 可选:原视频(本包不含,见 §3.2)
├── checkpoints/
│   ├── astra_reasoning/          ← 本次要评测的主模型
│   ├── astra_cognitive/          ← 对照:Model B
│   └── astra_action/             ← 对照:Model A
├── closed_loop/                  ← RoboDojo 闭环评测接入
│   ├── astra_policy/
│   │   ├── model.py              ← 我们写的 XPolicyLab 策略实现
│   │   ├── deploy.yml            ← 策略配置
│   │   └── eval.sh               ← 一键起 server + client
│   └── CLOSED_LOOP.md            ← 闭环怎么跑、结果怎么读、已知限制
└── reports/                      ← 我们已跑出的参考结果(可覆盖重跑)
    ├── reasoning.json            ← n=50 参考结果
    ├── cognitive.json
    ├── action.json
    └── eval_reasoning_partB_n30_snapshot.json

2. 环境准备

2.1 Python 依赖

# 建议 Python 3.10–3.12;需要 PyTorch(CUDA 版)+ transformers + peft
conda create -n astra python=3.11 -y
conda activate astra

# 关键版本:transformers 需支持 qwen3_vl(4.57 及以上)
pip install torch --index-url https://download.pytorch.org/whl/cu124
pip install "transformers>=4.57" peft accelerate safetensors pillow numpy

requirements.txt 已列出同样的包,可 pip install -r requirements.txt。

2.2 基座模型

不需要手动准备——脚本用 --base Qwen/Qwen3-VL-4B-Instruct, 首次运行会自动从 Hugging Face 下载(约 8.9 GB)。

如果机器不能联网,或想离线:

# 另一台能联网的机器上
huggingface-cli download Qwen/Qwen3-VL-4B-Instruct --local-dir ./Qwen3-VL-4B-Instruct

# 拷到目标机器后
BASE_MODEL=/absolute/path/to/Qwen3-VL-4B-Instruct bash run_offline_eval.sh

⚠️ 注意:我们训练时用的是本地一份同名副本。它和 HF 上的 Qwen/Qwen3-VL-4B-Instruct 是同一模型,但强烈建议用上面命令下载的官方版本; 若结果与 reports/ 中的参考值明显不同,请先怀疑基座模型不一致。

2.3 解压帧缓存

# Part B 的预抽帧(必须解压,否则会回退到读 mp4 → 很慢甚至失败)
# 注意:tar 内部已经是 data/frame_cache/ 结构,所以在【包根目录】执行 -C .
tar -xf data/frame_cache_partB.tar -C .

# 校验:应当输出 1044
ls data/frame_cache | wc -l

解压后得到 data/frame_cache/<episode_id>/<step>_{head,left_wrist,right_wrist}.jpg (1,044 episodes / 35,934 张 / 约 0.86 GB)。

2.4 解压 checkpoint

for m in reasoning cognitive action; do
  tar -xzf checkpoints/astra_${m}.tar.gz -C checkpoints/
done

# 校验:每个目录应有 264,320,456 字节的 adapter
ls -l checkpoints/astra_reasoning/adapter_model.safetensors

每个目录含:adapter_model.safetensors (264 MB) + adapter_config.json + tokenizer 文件。

注意执行位:HF 上传不保留 Unix 权限,run_offline_eval.sh / eval.sh 下载后可能没有可执行位。一律用 bash xxx.sh 调用,不要用 ./xxx.sh。


3. 跑离线评测(先跑这个,10 分钟出结果)

3.1 一条命令跑三组

cd astra_reasoning900

# 快速版:每组 50 条(5 维度各 10 条),4090 上约 10 分钟
bash run_offline_eval.sh          # 默认 N=50

# 更稳版:每组 300 条,约 1 小时
N=300 bash run_offline_eval.sh

# 指定基座 / 指定卡
BASE_MODEL=/path/to/Qwen3-VL-4B-Instruct DEVICE=0 N=50 bash run_offline_eval.sh

用 bash script.sh 而不是 ./script.sh(见 §2.4 关于执行位的说明)。

脚本会依次评测 reasoning → cognitive → action,最后打印对比表:

experiment         n  json_valid    cmd_acc   phase_acc  failure_F1
action            50       1.000      0.560       0.000       0.000
cognitive         50       1.000      0.700       0.620       0.850
reasoning         50       1.000      0.620       0.560       0.820

上面的数字只是示例格式,真实值以你跑出来的为准。

3.2 如果帧缓存不够用

data/frame_cache_partB.tar 已含 Part B 全部 1,044 episodes 的抽帧, 正常情况下不需要原视频。只有在帧缓存缺失时,代码才会回退去读 data/raw/videos/<episode_id>/{head,left_wrist,right_wrist}.mp4。

若确实需要原视频(11 GB,含 A+B),从原始数据集重新获取,或联系我单独传。

3.3 单独跑某一组

python -u src/evaluate.py \
  --adapter checkpoints/astra_reasoning \
  --base Qwen/Qwen3-VL-4B-Instruct \
  --mode reasoning \
  --n 50 \
  --out reports/reasoning.json

关键:--mode 必须与 adapter 的训练模式一致 (reasoning / cognitive / action),否则 prompt 与训练时不符,指标会虚低。

3.4 验证 checkpoint 真的生效

python -u src/verify_ckpt.py \
  --adapter checkpoints/astra_reasoning \
  --base Qwen/Qwen3-VL-4B-Instruct \
  --mode reasoning --n 5 \
  --out reports/verify_reasoning.json

必须看到:

[adapter] applied 504 tensors, missing 0
[adapter] logit max|diff| = 13.218750        ← 必须 > 1e-4
"assert_effective": "PASS"

如果 logit max|diff| = 0.000000 或抛 adapter produced no change in logits,说明 adapter 没加载上 (常见原因:adapter_config.json 缺失,或 adapter 目录里混进了基座权重)。


4. 各指标含义(别混淆)

指标 含义 依赖仿真?
json_valid_rate 输出能被解析成合法 action JSON 的比例 否
action_command_acc command 字段(move_ee/move_delta/…)预测对的比例 否
phase_acc 认知块 phase 字段预测对的比例 否
failure_detection.f1 失败检测的 F1(precision/recall 见 JSON) 否
per_category 上述指标按五个官方维度拆分 否
success_rate 机器人真的完成任务的比例 是(Isaac Sim)

上面 4 个都是 step 级离线指标,不等于任务成功率。 success rate 只能靠闭环仿真,见 closed_loop/CLOSED_LOOP.md。


5. 我们已跑出的参考结果

reports/ 下是我们在这台 Ascend 910B3 上跑出的实测值(Part B,n=50,5 维度各 10 条), 可作为"你环境是否正确"的对照:

5.1 总表

experiment n json_valid cmd_acc phase_acc failure_F1 P R
reasoning(第3组,本次) 50 1.000 0.660 0.560 0.7879 0.812 0.765
cognitive(Model B) 50 1.000 0.700 0.580 0.8387 0.929 0.765
action(Model A) 50 0.960 0.600 0.000 0.0000 0.000 0.000

action 组 phase/F1 恒为 0 是设计使然——该模式训练目标里没有认知字段。

5.2 五维度 command 准确率

维度 reasoning cognitive action
Generalization 0.6 0.8 0.6
Long-Horizon 0.6 0.7 0.7
Memory 0.6 0.5 0.4
Open 0.9 0.9 0.6
Precision 0.6 0.6 0.7

5.3 五维度 JSON 合法率

维度 reasoning cognitive action
Generalization 1.0 1.0 1.0
Long-Horizon 1.0 1.0 1.0
Memory 1.0 1.0 1.0
Open 1.0 1.0 0.8
Precision 1.0 1.0 1.0

5.4 结论要点

  • reasoning(第3组)相对 action 基线:cmd_acc 0.660 > 0.600(+0.06), failure F1 0.788 > 0.000,且 Memory 维度 0.6 > 0.4。
  • cognitive(Model B)仍是最强:cmd_acc 0.700 与 F1 0.839 均最高。 reasoning 组的增益幅度小于 cognitive 组,原因见 §7.4—— Part A 训练集里真正含 observed/why 的只有 354 条,监督信号很稀疏。
  • n=50 的置信区间较宽(每条 0.1 的粒度),要下确定性结论请跑 N=300。

Ascend 与 4090 都是 bf16 推理,数值差异应很小;但 do_sample=False 的贪心解码 对 bf16 舍入敏感,±1 条样本的波动属正常。


6. 硬性注意(会直接影响结论有效性)

  1. 只能评测 Part B。 evaluate.py 里已硬编码 split_partition=["B"] 并有断言; 不要为了"样本更多"改成 A——A 是训练集,在 A 上跑出来的数字无意义。
  2. --mode 必须与 adapter 匹配。用 reasoning 的 adapter 跑 --mode action, prompt 会变,指标不可比。
  3. 不要用测试集调参。选超参只能看 Part A 内部验证集。
  4. n=50 是 5 维度各 10 条。想要更稳的数字就 N=300。
  5. 不要把离线指标写成任务成功率。这是两回事。

7. 已知限制(如实说明,请一起转述)

  1. success rate 需要在 Isaac Sim 5.1 + Isaac Lab 2.3 下跑闭环, 我们原机器是 Ascend 910B3,没有 NVIDIA GPU,无法验证。 closed_loop/ 里的接入代码是按 RoboDojo 官方 ws 协议写的, 但从未在真实仿真里跑过——请按 CLOSED_LOOP.md 里的一步步调。
  2. 动作表示是"离散工具调用",不是连续控制。 模型输出 {"command":"move_delta","args":{"dpos":[0,0,0.09]}} 这类 JSON, 而 RoboDojo 要的是每臂 7 维 ee_pose。中间的转换 (closed_loop/astra_policy/model.py 里的状态积分器)是我们写的工程桥接, 不是模型学出来的能力。这是 sim 与 offline 指标差异的最大来源。
  3. reasoning 是"可观察的自我解释",不是隐藏 CoT。 教师是闭源 GPT-6 Astra,官方明确其内部推理加密未发布; 我们能拿到的是它对外发的消息(agent_message), 每条带 evidence_source="teacher_public_message" 审计字段。
  4. reasoning 标签是稀疏的。 Part A 的 20,600 个训练 step 里, 只有 1,957 条带 reasoning 记录,其中真正含 observed/why 的只有 354 条;其余只有 plan。 没有 message 的 step 只监督认知+动作,不编造理由。
  5. phase_acc 在 action 组恒为 0 属正常——action 模式的训练目标里 根本没有认知字段,模型不会输出 phase。

8. 产出回传

跑完请把这两样发回:

# 1) 三个 JSON
tar -czf astra_results_$(date +%Y%m%d).tar.gz reports/*.json

# 2) 一行日志摘要
grep -h "logit max|diff|" logs/*.log 2>/dev/null

如果是闭环 success_rate,另外附 RoboDojo 的 eval_result 目录。


9. 出问题先看这里

现象 原因 / 处理
adapter produced no change in logits adapter 没加载上。查目录里 adapter_config.json 是否存在
applied 0 tensors, missing 504 adapter 与基座不匹配,或用了别的 base
输出全是 {} 或空 --mode 与 adapter 不符,或 max_new_tokens 太小
OOM 4090 上 --n 不影响显存;降 --img-size 224 或换更大显存卡
评测很慢(>1 小时) 帧缓存没解压,回退在读 mp4。先做 §2.3
结果与 reports/ 差距很大 先确认基座模型是官方 Qwen/Qwen3-VL-4B-Instruct
KeyError: 'Qwen3VLForConditionalGeneration' transformers 版本太老,需 ≥ 4.57

10. 本包与原始交付的差异(诚实记录)

这个包里的 src/ 是修复后的版本(部署在 src_r3/),修了 4 个会导致结论作废的缺陷:

# 缺陷 后果 状态
1 cognitive_to_json() 只序列化 4 个固定字段,把 observed/why/plan 全丢了 **reasoning target 全库 20,600 条中 0 条含 observed/why**,第3组等于空转 已修(实测修复后 354 条命中)
2 __getitem__ 末尾把 prompt 重建为 action-only 文案 reasoning 模式训练 prompt 与实际推理 prompt 不一致,模型学错分布 已修(改调用 build_prompt)
3 evaluate.py 未传 split_partition=["B"] 评测集是 A+B 混合的 5% 切片,部分指标是在训练数据上测的 已修(硬编码 B + 断言)
4 verify_ckpt.py 无 assert_effective §5.2 验收条件不可能满足;坏 adapter 会被当好的报 已修(并修了 assert_effective 自身把 base 与 adapter 比成同一对象的 bug)

因此:本包 reports/ 里的数字,与更早那份 DELIVERY.md 里的数字不可直接比较, 原因不是模型变了,而是旧代码在污染的数据/错误的 prompt 上评测。

Downloads last month
98