Dataset Viewer
The dataset viewer is not available for this subset.
Cannot get the split names for the config 'default' of the dataset.
Exception:    SplitsNotFoundError
Message:      The split names could not be parsed from the dataset config.
Traceback:    Traceback (most recent call last):
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 286, in get_dataset_config_info
                  for split_generator in builder._split_generators(
                                         ~~~~~~~~~~~~~~~~~~~~~~~~~^
                      StreamingDownloadManager(base_path=builder.base_path, download_config=download_config)
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  )
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/webdataset/webdataset.py", line 84, in _split_generators
                  raise ValueError(
                  ...<2 lines>...
                  )
              ValueError: The TAR archives of the dataset should be in WebDataset format, but the files in the archive don't share the same prefix or the same types.
              
              The above exception was the direct cause of the following exception:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/split_names.py", line 68, in compute_split_names_from_streaming_response
                  for split in get_dataset_split_names(
                               ~~~~~~~~~~~~~~~~~~~~~~~^
                      path=dataset,
                      ^^^^^^^^^^^^^
                      config_name=config,
                      ^^^^^^^^^^^^^^^^^^^
                      token=hf_token,
                      ^^^^^^^^^^^^^^^
                  )
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 340, in get_dataset_split_names
                  info = get_dataset_config_info(
                      path,
                  ...<6 lines>...
                      **config_kwargs,
                  )
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 291, in get_dataset_config_info
                  raise SplitsNotFoundError("The split names could not be parsed from the dataset config.") from err
              datasets.inspect.SplitsNotFoundError: The split names could not be parsed from the dataset config.

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

YAML Metadata Warning:empty or missing yaml metadata in repo card

Check out the documentation for more information.

V11 存档清单(RoboTwin 2.0 place_cans 单任务轮,EgoDex 打分线)

打包日期:2026-10-02,在 NSCC ASPIRE2A 上打包,原目录为 /scratch/users/ntu/shuweish/robotwin。 本存档中的 V11-n 编号均指 v11_records/PROVENANCE.md 里 === V11-n ... === 那一条。

存档由 3 个 tar 包组成,都没有再压缩(hdf5、zarr 本身已经压缩过):

包 内容
v11_data.tar 数据
v11_code.tar 代码
v11_records.tar 记录

每个包都附带以下文件:

  • <包名>.sha256:整个 tar 包的 sha256,用 sha256sum -c 校验。
  • <包名>.files.tsv:包内每个文件的路径、字节数和 sha256。

打包时已经逐个文件核对过:tar 包里每个文件的 sha256 都与原文件一致。核对结果见文末“校验值”。

1. v11_data.tar

egodex/ — EgoDex 部分

路径 内容 provenance
egodex/ego_v11_36x25_15hz.zarr EgoDex 36 个任务 × 每任务 25 条,共 900 条片段。
由 70_ego_zarr.py 生成:15 Hz,用 v9 的动作定义,画面居中裁成 4:3 再缩到 320×240。
data/action、data/state、data/head_camera 是原始动作,没有缩放;缩放到仿真任务的尺度是在共训数据加载器里做的。
meta/episode_ends 记录每条片段的结束位置。
V11-1
egodex/ego_v11_36x25_15hz.meta.json 动作统计量文件:action_mean、action_std、state_mean、state_std,另有每个任务的帧数和被跳过的片段。
共训时 EgoDex 动作就按这里的统计量缩放(dpd_dataset.py 的 ego_scale)。
V11-1、V11-2
egodex/v11_ego_list.csv 片段清单,900 行,列为 task、path(EgoDex 原始 hdf5 路径)、n_frames、seconds、description、cls、rank。
行号就是 zarr 里的片段编号,也是打分和选择列表里用的 ego 片段编号。
V11-1
egodex/v11_egodex_tasks.json A/B/C 三类名单,每类 12 个任务。
A 是 v9 沿用的任务;B 按 v21 规则选出;C 用 default_rng(12345) 从 90 个任务的池子里抽出 12 个。
V11-1、V11-3(C 保持原抽样,有两个任务名里含 B 类关键词,结果单独报告)

sim_raw/ — RoboTwin 原始演示

都是 aloha_agilex 本体,目录结构与 RoboTwin/data/<配置>/<任务>/aloha_agilex/ 相同:

  • data/*.hdf5:演示数据
  • video/*.mp4:视频
  • instruction/*.json:语言指令
  • _traj_data/*.pkl:专家轨迹,只有自己生成的数据有
  • scene_info.json、seed.txt
路径 内容 provenance
sim_raw/heldout/place_cans_plasticbox 留出集 50 条,取 seed 1000 起前 50 个专家成功的种子,配置 heldout V11-0、V11-12(场景哈希)
sim_raw/heldout/stack_bowls_two 留出集 50 条,seed 1000 起 V11-0
sim_raw/planted/place_cans_plasticbox 同任务栽种单位 50 条,seed 2000 起,配置 planted V11-0、V11-3
sim_raw/planted/stack_bowls_two 同任务栽种单位 50 条,seed 2000 起 V11-0、V11-3
sim_raw/demo_clean/blocks_ranking_rgb 官方 demo_clean 50 条(无关任务的栽种单位) V11-0、V11-1、V11-3
sim_raw/demo_clean/place_cans_plasticbox 官方 demo_clean 前 30 条(episode 0–29,种子 0,2,…),也就是 30 条演示训练用的全部 demo。
scene_info.json 和 seed.txt 是官方原文件,里面列了全部 50 条。
V11-12、V11-13
sim_raw/demo_clean/stack_bowls_two 官方 demo_clean 50 条,即 L1 / L1' 的其他任务数据池 V11-2、V11-17

sim_zarr/ — 训练和打分实际读的加工数据

由 DPdelta process_data.py 在 delta 模式下生成,每个 zarr 旁边有对应的 .meta.json。

路径 内容 provenance
sim_zarr/v11_place_cans_plasticbox_n30.zarr place_cans 30 条演示,L0、L0h、L1、L2、L1'、L2' 的仿真部分都用它 V11-13
sim_zarr/v11_stack_bowls_two_n50.zarr stack_bowls 官方 50 条,L1 / L1' 的数据池 V11-12 第 6 项、V11-17
sim_zarr/v11_heldout_place_cans.zarr 留出集 50 条(g_val 用),朝向轴强制为 1 V11-18
sim_zarr/v11_planted_place_cans.zarr 同任务栽种单位 50 条,朝向轴 1 V11-18
sim_zarr/v11_planted_brrgb.zarr blocks_ranking_rgb 栽种单位 50 条,朝向轴 1 V11-18

stack_bowls 的留出集和栽种单位没有加工版(stack_bowls 移到了第二轮,见 V11-12 第 1 项)。

2. v11_code.tar

patches/

路径 内容
patches/robotwin_tracked.diff RoboTwin 已跟踪文件的 git diff,第一行是基线 commit
patches/xpolicylab_tracked.diff XPolicyLab policy/DP 的 git diff,第一行是基线 commit
patches/repo_commits.txt 两个仓库的基线 commit

RoboTwin/ — 改动过的文件

以原文件形式存放。同目录下的 .v1、.v10、.orig 是改动前的备份。

文件 改动 provenance
envs/camera/camera.py front_camera 修复:front_camera 照常创建,保证随机数消耗不变;collect_other_static_cameras 为 false 时只是不渲染它 V11-11(结果 1、2)、V11-12 第 5 项
env_cfg/task_config/eval_headonly.yml 评测配置,只渲染头部相机 V11-11
env_cfg/task_config/eval_head.yml 旧版评测配置,渲染头部和前方相机 V11-10
env_cfg/task_config/heldout.yml、planted.yml 生成留出集和栽种单位用的配置,内容同 demo_clean V11-0
env_cfg/task_config/_eval_step_limit.yml 各任务的评测步数上限 V11-7、V11-12 第 4 项
envs/_base_task.py 环境变量 ROBOTWIN_STEP_LIM,默认关闭 V11-12 第 4 项
scripts/collect_data.py 环境变量 ROBOTWIN_COLLECT_ST_SEED,用来指定留出集和栽种单位的起始种子 V11-0
scripts/eval_policy_xpolicylab.py 评测时调用 rt_profile 计时;每集打印 [SCENEHASH] 场景哈希 V11-12 第 4、7 项
scripts/scene_hash.py 场景哈希:所有物体的位姿取到 1e-4,排序后算 sha1 V11-12 第 7 项
scripts/rt_profile.py 计时,只在 RT_PROFILE=1 时启用 V11-12 第 4 项

RoboTwin/XPolicyLab/policy/

文件 内容 provenance
DP/diffusion_policy/policy/diffusion_unet_image_policy.py 损失加权:loss = mean(sim) + V11_AUX_W × mean(aux);第一次生效时写一个标记文件 aux_loss_active.txt V11-17
DP/diffusion_policy/workspace/robotworkspace.py 按 V11_STEPS 在指定步数存 checkpoint;cosine 学习率的周期固定为 28k 步;训练到 V11_STOP_STEPS 停止 V11-2
DP/train.py 训练入口的改动 V11-2
DPdelta/dpd_dataset.py 按片段采样的数据加载器,各开关如下:
• unit_uniform:先均匀抽一个片段,再在片段内抽窗口
• ego_scale:EgoDex 动作缩放
• mask_state:proprio 清零
• ego_frac
• ego_episodes_file / ego_episodes_key:只用选中的片段子集
V11-2、V11-15、V11-17、V11-18
DPdelta/model.py 采样器开关 sampler;噪声种子(prepare_case 每集用场景种子设定采样噪声);评测时 proprio 清零;rollout_dir 记录 rollout V11-4、V11-9、V11-12 第 4 项、V11-17
DPdelta/process_data.py hdf5 转 zarr(delta 模式);DPD_FORCE_AXIS 强制朝向轴 V11-18
DPdelta/ 其余文件 公共代码,以及每次评测生成的 deploy_*.yml、eval_*.sh、setup_eval_*.sh —

scripts/ — 项目全部脚本

脚本 内容 provenance
92_egodex_pick.py/.sh、70_ego_zarr.py/.sh ego 预处理:从 EgoDex 挑片段,再生成 zarr V11-1
91_gen_demos.sh 生成留出集和栽种单位 V11-0
95_v11_sim_zarrs.sh、103_score_zarrs.sh 生成仿真 zarr V11-2、V11-18
94_v11_train.sh V11 训练:L0/L0h/L1/L2 四组,BATCH、EGO_FRAC、AUX_W、EGO_SEL_* 等开关 V11-2、V11-15、V11-17、V11-18
97_v11_eval.sh 评测块种子:第 b 块取从 100000 + 500·b 起的前 5 个专家可解种子;一个作业可跑多块,余下的块由其他作业认领;动态超时 V11-4(修订)、V11-13
100_scene_hashes.py/.sh 生成场景哈希表 V11-12 第 7 项、V11-13
110_trak_score.py/.sh CUPID / TRAK 打分:投影到 8192 维;用 g_perf 和 g_val;栽种单位按 add-one-in 计算 V11-18
111_score_report.py 汇总:打分报告和第 4 节用的选择列表 V11-18
112_submit_validation.sh 提交第 4 节验证组 V11-18
101_memtest.sh、102_smoke_aux.sh、96_v11_smoke.sh 显存测试和冒烟测试 V11-15、V11-17
120_vla_install.sh、121_pi0_probe.* VLA 可行性检查(安装失败) V11-19 之后
130_archive.sh、132_tar_check.py 本次打包和核对 V11-21
_env.sh 公共环境 —

jobs/

PBS 作业模板。

3. v11_records.tar

路径 内容 provenance
PROVENANCE.md out/provenance.txt 原样复制,只追加不改,从 V10 到 V11-21 —
results.csv out/v11_eval.csv,每个评测块一行。
列:run、seed、step、epoch、block、sampler、n(集数)、succ(成功集数)、secs、complete、task_config、step_lim
V11-5、V11-13、V11-14、V11-16、V11-19
scene_hashes.csv 场景哈希表,列:segment、block、seed、hash、bodies。250 行,没有重复 V11-12 第 7 项、V11-13
taskbooks/TASKBOOK_V11_v19/v21/v22/v23/v23_orig.md 任务书存档 V11-0、V11-1、V11-3、V11-9、V11-11
jobs.txt 全部作业编号记录 —
stage_logs/ 各阶段的 say 日志、EgoDex 挑片段日志和 zarr 日志、渲染一致性检查的 json 各条
scores_test/ 打分代码小规模测试(TEST=1)的输出。正式打分没有跑,原因见 V11-19 V11-18、V11-19

4. 不在存档里、另外保存的内容

以下内容复制到了 /home/users/ntu/shuweish/v11_keep/,scratch 上的原件在确认删除前保留:

  • checkpoints/v11_place_cans_plasticbox_n30-{0,1}/:L0 checkpoint,154.ckpt 对应 10k 步,308.ckpt 对应 20k 步
  • checkpoints/v11_place_cans_plasticbox_n30_L2_eq-{0,1}/:L2' checkpoint,233.ckpt 对应 10k 步
  • rollouts/v11_place_cans_plasticbox_n30_L2_eq_s{0,1}_st10000/:L2' 的 rollout,每个种子 100 集,每集一个 npz,含 head (N,3,3,240,320) 和 action_pred (N,8,14)

校验值

由 job 25655795 生成,时间 2026-10-02T09:09Z。“文件数”和“文件总字节数”指包内的普通文件。

包 tar 字节数 文件数 文件总字节数 sha256
v11_data.tar 31,346,933,760 5,160 31,342,928,772 255b050234344a558a8703f443fc2a007618c6481ecb894acff578ca1bccd4ee
v11_code.tar 3,614,720 1,139 1,863,479 6c365c9994cf8f8930f968dab239f25817abc0e4f9d79ee33e408cc72cd77fe0
v11_records.tar 3,082,240 42 3,042,792 5430627fc5d9d2f6c2b909e8a64813a7e61e0aea5896ed21728aefbbcbc20128

逐个文件核对的结果:三个包里每个文件的 sha256 都与原文件一致,既没有缺文件,也没有多文件;打包后重新读一遍整个包,sha256sum -c 也通过。

有一个路径被排除在外:sim_zarr/v11_place_cans_plasticbox_n30.zarr/v11_place_cans_plasticbox_n30.zarr。它是原 zarr 里一个指向自己的符号链接,2026-09-30 误建,不是数据。

v11_records.tar 里的 PROVENANCE.md 截止到 “V11-21 RUN 1” 那一条。

Downloads last month
101