The dataset viewer is not available for this subset.
Exception: SplitsNotFoundError
Message: The split names could not be parsed from the dataset config.
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 286, in get_dataset_config_info
for split_generator in builder._split_generators(
~~~~~~~~~~~~~~~~~~~~~~~~~^
StreamingDownloadManager(base_path=builder.base_path, download_config=download_config)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/webdataset/webdataset.py", line 84, in _split_generators
raise ValueError(
...<2 lines>...
)
ValueError: The TAR archives of the dataset should be in WebDataset format, but the files in the archive don't share the same prefix or the same types.
The above exception was the direct cause of the following exception:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/split_names.py", line 68, in compute_split_names_from_streaming_response
for split in get_dataset_split_names(
~~~~~~~~~~~~~~~~~~~~~~~^
path=dataset,
^^^^^^^^^^^^^
config_name=config,
^^^^^^^^^^^^^^^^^^^
token=hf_token,
^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 340, in get_dataset_split_names
info = get_dataset_config_info(
path,
...<6 lines>...
**config_kwargs,
)
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 291, in get_dataset_config_info
raise SplitsNotFoundError("The split names could not be parsed from the dataset config.") from err
datasets.inspect.SplitsNotFoundError: The split names could not be parsed from the dataset config.Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
Astra-CogDistill-VLA — 4090 评测包
把 GPT-6 Astra 的决策能力蒸馏到 VLA 的评测包。包含 Part B 测试集、7 个 LoRA checkpoint、 评测代码,用于在 NVIDIA GPU 上复现离线指标并跑 RoboDojo 闭环 Success Rate。
文件
| 文件 | 大小 | 内容 |
|---|---|---|
astra900_pkg.tar |
1.9 GB | README + src/ + adapters/ + scripts/ + checkpoints/(7 个) + 两个 manifest |
frame_cache.tar |
897 MB | Part B 的 35,934 张 RGB 帧(3 视角,336×336) |
cog_shard7.tar |
268 MB | Model B 的第 4 个 shard(补充,解压到 checkpoints/) |
快速开始
# 1) 下载
huggingface-cli download Ajjsnsn/astra900 --repo-type dataset --local-dir ./astra900
# 2) 解包(两个包都解到同一目录)
cd astra900
tar -xf astra900_pkg.tar
tar -xf frame_cache.tar # 解出 frame_cache/
tar -xf cog_shard7.tar -C checkpoints/ # 解出 checkpoints/cog_shard7/
# 3) 基座模型(不在包内,需单独下载,8.3 GB)
huggingface-cli download Qwen/Qwen3-VL-4B-Instruct \
--local-dir ./models/Qwen3-VL-4B-Instruct
# 4) 环境
conda create -n astra python=3.11 -y && conda activate astra
pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121
pip install -r requirements.txt
# 5) 一键评测(约 40 分钟)
bash scripts/run_all_eval.sh
关键依赖版本:transformers==4.57.6(低版本不认 qwen3_vl)、peft==0.14.0。
要跑什么
五组对照,全部在 Part B(1,044 episodes / 21,325 样本) 上:
| 组 | adapter | mode |
|---|---|---|
| Zero-shot | none |
action |
| Model A 单模型 | checkpoints/action_shard0 |
action |
| Model A 集成 | 4 shard logit 平均 | action |
| Model B 单模型 | checkpoints/cog_shard4 |
cognitive |
| Model B 集成 | 4 shard logit 平均 | cognitive |
脚本会自动按五个官方维度分层采样(每类 10 条,共 50 条): Generalization / Long-Horizon / Memory / Open / Precision。
产出指标
离线(本包直接可跑)
| 指标 | 含义 |
|---|---|
| JSON 合法率 | 输出可解析为合法动作 JSON |
| Command 准确率 | command 字段与教师一致 |
| Phase 准确率 | 阶段判断正确 |
| Failure F1 | 失败检测综合 |
闭环(需另装 Isaac Sim)
Success Rate / Partial Score / 五维度独立 SR。
对比基准:GPT-6 Astra Teacher 在 Part B 的 SR = 0.5434(570/1049,官方实绩)。
闭环 Success Rate 怎么跑
RoboDojo 评测客户端依赖 isaaclab:
# third_party/RoboDojo/src/eval_client/main.py 第 8 行
from isaaclab.app import AppLauncher
Isaac Sim 5.1 是 NVIDIA CUDA 专属,所以这部分必须在你那边跑(我们机器是 Ascend NPU,没有 CUDA)。
安装参考:https://robodojo-benchmark.com/doc/usage/install-and-download/
接入方式:只换一个对象,推理代码不改
from adapters.robodojo_adapter import ActionAdapter
from eval_client import make_mcp_client
harness = make_mcp_client(...)
adapter = ActionAdapter(harness=harness)
obs_id = "o1"; history = []
for t in range(action_budget):
pred = model_generate(observation, history, mode="cognitive")
res = adapter.execute(pred, observation_id=obs_id, harness=harness)
if res["ok"] is False:
history.append(pred); continue # 失败不推进观测
obs_id = res["observation_id"]; history.append(pred)
动作格式已对齐官方 step 工具的 ArmAction schema:
{"command":"move_ee","arm":"L",
"args":{"position":[0.19,-0.086,0.045],"rotation":{"down_deg":13.4}},
"intent":"observe"}
两个必做自检
① adapter 是否真的生效
评测脚本内置断言:挂 adapter 后 logits 必须变化,差异 < 1e-4 直接报错。
[adapter] applied 504 tensors, missing 0
[adapter] logit max|diff| = 12.03 ← 应 > 1
原因:PEFT 在 transformers 4.57 上会静默把 lora_b 置零,
模型实际等于未训练但 loss 曲线正常。这个断言就是防这个的。
② KV-cache 正确性
python scripts/test_kvcache.py
# 期望:PASS manual KV-cache decoding reproduces generate() exactly
已知边界(请如实转述)
- 所有离线指标是 step 级:
command 准确率衡量"猜对教师下一步用哪个命令", 不等于"机器人完成任务"。只有闭环 SR 才是真任务成功率。 - 样本量 50:五维度各 10 条,±0.1 相当于 1 个样本差异,维度级结论仅作方向性参考。
- Model B 有 4 个 shard:
cog_shard7.tar需单独解压到checkpoints/。 - Teacher 的 reasoning 未公开:官方明确
reasoning encrypted, 我们蒸馏的是它对外的消息,不是内部 CoT。 - 留出集是内部对照:RoboDojo seed 0 是已公开评测集,我们的数字 不能宣称是"未污染的官方 RoboDojo 测试成绩"。
数据构成
| 项 | 数量 |
|---|---|
| Part B episodes | 1,044 |
| Part B step 样本 | 21,325 |
| Part B reasoning 标签 | 4,393 |
| Part B RGB 帧(3 视角) | 35,934 |
| Part A / Part B 成功率 | 0.5434 / 0.5434(平衡划分) |
| Part A / Part B episode 交集 | 0(严格隔离) |
模型
- Backbone:Qwen3-VL-4B-Instruct(4.44B,36 层,hidden 2560)
- 微调:LoRA r=32 / α=64 / dropout=0.05,只挂语言塔(252 模块)
- 可训练参数:66.06M / 4.50B = 1.47%
- 三个变体:
action(只学动作)/cognitive(+认知)/reasoning(+推理,本包未含)
- Downloads last month
- 145