Dataset Viewer
The dataset viewer is not available for this subset.
Cannot get the split names for the config 'default' of the dataset.
Exception:    SplitsNotFoundError
Message:      The split names could not be parsed from the dataset config.
Traceback:    Traceback (most recent call last):
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 286, in get_dataset_config_info
                  for split_generator in builder._split_generators(
                                         ~~~~~~~~~~~~~~~~~~~~~~~~~^
                      StreamingDownloadManager(base_path=builder.base_path, download_config=download_config)
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  )
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/webdataset/webdataset.py", line 84, in _split_generators
                  raise ValueError(
                  ...<2 lines>...
                  )
              ValueError: The TAR archives of the dataset should be in WebDataset format, but the files in the archive don't share the same prefix or the same types.
              
              The above exception was the direct cause of the following exception:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/split_names.py", line 68, in compute_split_names_from_streaming_response
                  for split in get_dataset_split_names(
                               ~~~~~~~~~~~~~~~~~~~~~~~^
                      path=dataset,
                      ^^^^^^^^^^^^^
                      config_name=config,
                      ^^^^^^^^^^^^^^^^^^^
                      token=hf_token,
                      ^^^^^^^^^^^^^^^
                  )
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 340, in get_dataset_split_names
                  info = get_dataset_config_info(
                      path,
                  ...<6 lines>...
                      **config_kwargs,
                  )
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 291, in get_dataset_config_info
                  raise SplitsNotFoundError("The split names could not be parsed from the dataset config.") from err
              datasets.inspect.SplitsNotFoundError: The split names could not be parsed from the dataset config.

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

Astra-CogDistill-VLA — 4090 评测包

把 GPT-6 Astra 的决策能力蒸馏到 VLA 的评测包。包含 Part B 测试集、7 个 LoRA checkpoint、 评测代码,用于在 NVIDIA GPU 上复现离线指标并跑 RoboDojo 闭环 Success Rate。

文件

文件 大小 内容
astra900_pkg.tar 1.9 GB README + src/ + adapters/ + scripts/ + checkpoints/(7 个) + 两个 manifest
frame_cache.tar 897 MB Part B 的 35,934 张 RGB 帧(3 视角,336×336)
cog_shard7.tar 268 MB Model B 的第 4 个 shard(补充,解压到 checkpoints/)

快速开始

# 1) 下载
huggingface-cli download Ajjsnsn/astra900 --repo-type dataset --local-dir ./astra900

# 2) 解包(两个包都解到同一目录)
cd astra900
tar -xf astra900_pkg.tar
tar -xf frame_cache.tar          # 解出 frame_cache/
tar -xf cog_shard7.tar -C checkpoints/   # 解出 checkpoints/cog_shard7/

# 3) 基座模型(不在包内,需单独下载,8.3 GB)
huggingface-cli download Qwen/Qwen3-VL-4B-Instruct \
  --local-dir ./models/Qwen3-VL-4B-Instruct

# 4) 环境
conda create -n astra python=3.11 -y && conda activate astra
pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121
pip install -r requirements.txt

# 5) 一键评测(约 40 分钟)
bash scripts/run_all_eval.sh

关键依赖版本:transformers==4.57.6(低版本不认 qwen3_vl)、peft==0.14.0。

要跑什么

五组对照,全部在 Part B(1,044 episodes / 21,325 样本) 上:

组 adapter mode
Zero-shot none action
Model A 单模型 checkpoints/action_shard0 action
Model A 集成 4 shard logit 平均 action
Model B 单模型 checkpoints/cog_shard4 cognitive
Model B 集成 4 shard logit 平均 cognitive

脚本会自动按五个官方维度分层采样(每类 10 条,共 50 条): Generalization / Long-Horizon / Memory / Open / Precision。

产出指标

离线(本包直接可跑)

指标 含义
JSON 合法率 输出可解析为合法动作 JSON
Command 准确率 command 字段与教师一致
Phase 准确率 阶段判断正确
Failure F1 失败检测综合

闭环(需另装 Isaac Sim)

Success Rate / Partial Score / 五维度独立 SR。

对比基准:GPT-6 Astra Teacher 在 Part B 的 SR = 0.5434(570/1049,官方实绩)。

闭环 Success Rate 怎么跑

RoboDojo 评测客户端依赖 isaaclab:

# third_party/RoboDojo/src/eval_client/main.py 第 8 行
from isaaclab.app import AppLauncher

Isaac Sim 5.1 是 NVIDIA CUDA 专属,所以这部分必须在你那边跑(我们机器是 Ascend NPU,没有 CUDA)。

安装参考:https://robodojo-benchmark.com/doc/usage/install-and-download/

接入方式:只换一个对象,推理代码不改

from adapters.robodojo_adapter import ActionAdapter
from eval_client import make_mcp_client

harness = make_mcp_client(...)
adapter = ActionAdapter(harness=harness)

obs_id = "o1"; history = []
for t in range(action_budget):
    pred = model_generate(observation, history, mode="cognitive")
    res  = adapter.execute(pred, observation_id=obs_id, harness=harness)
    if res["ok"] is False:
        history.append(pred); continue     # 失败不推进观测
    obs_id = res["observation_id"]; history.append(pred)

动作格式已对齐官方 step 工具的 ArmAction schema:

{"command":"move_ee","arm":"L",
 "args":{"position":[0.19,-0.086,0.045],"rotation":{"down_deg":13.4}},
 "intent":"observe"}

两个必做自检

① adapter 是否真的生效

评测脚本内置断言:挂 adapter 后 logits 必须变化,差异 < 1e-4 直接报错。

[adapter] applied 504 tensors, missing 0
[adapter] logit max|diff| = 12.03      ← 应 > 1

原因:PEFT 在 transformers 4.57 上会静默把 lora_b 置零, 模型实际等于未训练但 loss 曲线正常。这个断言就是防这个的。

② KV-cache 正确性

python scripts/test_kvcache.py
# 期望:PASS  manual KV-cache decoding reproduces generate() exactly

已知边界(请如实转述)

  1. 所有离线指标是 step 级:command 准确率 衡量"猜对教师下一步用哪个命令", 不等于"机器人完成任务"。只有闭环 SR 才是真任务成功率。
  2. 样本量 50:五维度各 10 条,±0.1 相当于 1 个样本差异,维度级结论仅作方向性参考。
  3. Model B 有 4 个 shard:cog_shard7.tar 需单独解压到 checkpoints/。
  4. Teacher 的 reasoning 未公开:官方明确 reasoning encrypted, 我们蒸馏的是它对外的消息,不是内部 CoT。
  5. 留出集是内部对照:RoboDojo seed 0 是已公开评测集,我们的数字 不能宣称是"未污染的官方 RoboDojo 测试成绩"。

数据构成

项 数量
Part B episodes 1,044
Part B step 样本 21,325
Part B reasoning 标签 4,393
Part B RGB 帧(3 视角) 35,934
Part A / Part B 成功率 0.5434 / 0.5434(平衡划分)
Part A / Part B episode 交集 0(严格隔离)

模型

  • Backbone:Qwen3-VL-4B-Instruct(4.44B,36 层,hidden 2560)
  • 微调:LoRA r=32 / α=64 / dropout=0.05,只挂语言塔(252 模块)
  • 可训练参数:66.06M / 4.50B = 1.47%
  • 三个变体:action(只学动作)/ cognitive(+认知)/ reasoning(+推理,本包未含)
Downloads last month
145