The dataset viewer is not available for this subset.
Exception: SplitsNotFoundError
Message: The split names could not be parsed from the dataset config.
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 286, in get_dataset_config_info
for split_generator in builder._split_generators(
~~~~~~~~~~~~~~~~~~~~~~~~~^
StreamingDownloadManager(base_path=builder.base_path, download_config=download_config)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/webdataset/webdataset.py", line 84, in _split_generators
raise ValueError(
...<2 lines>...
)
ValueError: The TAR archives of the dataset should be in WebDataset format, but the files in the archive don't share the same prefix or the same types.
The above exception was the direct cause of the following exception:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/split_names.py", line 68, in compute_split_names_from_streaming_response
for split in get_dataset_split_names(
~~~~~~~~~~~~~~~~~~~~~~~^
path=dataset,
^^^^^^^^^^^^^
config_name=config,
^^^^^^^^^^^^^^^^^^^
token=hf_token,
^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 340, in get_dataset_split_names
info = get_dataset_config_info(
path,
...<6 lines>...
**config_kwargs,
)
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 291, in get_dataset_config_info
raise SplitsNotFoundError("The split names could not be parsed from the dataset config.") from err
datasets.inspect.SplitsNotFoundError: The split names could not be parsed from the dataset config.Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
YAML Metadata Warning:empty or missing yaml metadata in repo card
Check out the documentation for more information.
V11 存档清单(RoboTwin 2.0 place_cans 单任务轮,EgoDex 打分线)
打包日期:2026-10-02,在 NSCC ASPIRE2A 上打包,原目录为 /scratch/users/ntu/shuweish/robotwin。
本存档中的 V11-n 编号均指 v11_records/PROVENANCE.md 里 === V11-n ... === 那一条。
存档由 3 个 tar 包组成,都没有再压缩(hdf5、zarr 本身已经压缩过):
| 包 | 内容 |
|---|---|
v11_data.tar |
数据 |
v11_code.tar |
代码 |
v11_records.tar |
记录 |
每个包都附带以下文件:
<包名>.sha256:整个 tar 包的 sha256,用sha256sum -c校验。<包名>.files.tsv:包内每个文件的路径、字节数和 sha256。
打包时已经逐个文件核对过:tar 包里每个文件的 sha256 都与原文件一致。核对结果见文末“校验值”。
1. v11_data.tar
egodex/ — EgoDex 部分
| 路径 | 内容 | provenance |
|---|---|---|
egodex/ego_v11_36x25_15hz.zarr |
EgoDex 36 个任务 × 每任务 25 条,共 900 条片段。 由 70_ego_zarr.py 生成:15 Hz,用 v9 的动作定义,画面居中裁成 4:3 再缩到 320×240。 data/action、data/state、data/head_camera 是原始动作,没有缩放;缩放到仿真任务的尺度是在共训数据加载器里做的。meta/episode_ends 记录每条片段的结束位置。 |
V11-1 |
egodex/ego_v11_36x25_15hz.meta.json |
动作统计量文件:action_mean、action_std、state_mean、state_std,另有每个任务的帧数和被跳过的片段。共训时 EgoDex 动作就按这里的统计量缩放( dpd_dataset.py 的 ego_scale)。 |
V11-1、V11-2 |
egodex/v11_ego_list.csv |
片段清单,900 行,列为 task、path(EgoDex 原始 hdf5 路径)、n_frames、seconds、description、cls、rank。 行号就是 zarr 里的片段编号,也是打分和选择列表里用的 ego 片段编号。 |
V11-1 |
egodex/v11_egodex_tasks.json |
A/B/C 三类名单,每类 12 个任务。 A 是 v9 沿用的任务;B 按 v21 规则选出;C 用 default_rng(12345) 从 90 个任务的池子里抽出 12 个。 |
V11-1、V11-3(C 保持原抽样,有两个任务名里含 B 类关键词,结果单独报告) |
sim_raw/ — RoboTwin 原始演示
都是 aloha_agilex 本体,目录结构与 RoboTwin/data/<配置>/<任务>/aloha_agilex/ 相同:
data/*.hdf5:演示数据video/*.mp4:视频instruction/*.json:语言指令_traj_data/*.pkl:专家轨迹,只有自己生成的数据有scene_info.json、seed.txt
| 路径 | 内容 | provenance |
|---|---|---|
sim_raw/heldout/place_cans_plasticbox |
留出集 50 条,取 seed 1000 起前 50 个专家成功的种子,配置 heldout | V11-0、V11-12(场景哈希) |
sim_raw/heldout/stack_bowls_two |
留出集 50 条,seed 1000 起 | V11-0 |
sim_raw/planted/place_cans_plasticbox |
同任务栽种单位 50 条,seed 2000 起,配置 planted | V11-0、V11-3 |
sim_raw/planted/stack_bowls_two |
同任务栽种单位 50 条,seed 2000 起 | V11-0、V11-3 |
sim_raw/demo_clean/blocks_ranking_rgb |
官方 demo_clean 50 条(无关任务的栽种单位) | V11-0、V11-1、V11-3 |
sim_raw/demo_clean/place_cans_plasticbox |
官方 demo_clean 前 30 条(episode 0–29,种子 0,2,…),也就是 30 条演示训练用的全部 demo。scene_info.json 和 seed.txt 是官方原文件,里面列了全部 50 条。 |
V11-12、V11-13 |
sim_raw/demo_clean/stack_bowls_two |
官方 demo_clean 50 条,即 L1 / L1' 的其他任务数据池 | V11-2、V11-17 |
sim_zarr/ — 训练和打分实际读的加工数据
由 DPdelta process_data.py 在 delta 模式下生成,每个 zarr 旁边有对应的 .meta.json。
| 路径 | 内容 | provenance |
|---|---|---|
sim_zarr/v11_place_cans_plasticbox_n30.zarr |
place_cans 30 条演示,L0、L0h、L1、L2、L1'、L2' 的仿真部分都用它 | V11-13 |
sim_zarr/v11_stack_bowls_two_n50.zarr |
stack_bowls 官方 50 条,L1 / L1' 的数据池 | V11-12 第 6 项、V11-17 |
sim_zarr/v11_heldout_place_cans.zarr |
留出集 50 条(g_val 用),朝向轴强制为 1 | V11-18 |
sim_zarr/v11_planted_place_cans.zarr |
同任务栽种单位 50 条,朝向轴 1 | V11-18 |
sim_zarr/v11_planted_brrgb.zarr |
blocks_ranking_rgb 栽种单位 50 条,朝向轴 1 | V11-18 |
stack_bowls 的留出集和栽种单位没有加工版(stack_bowls 移到了第二轮,见 V11-12 第 1 项)。
2. v11_code.tar
patches/
| 路径 | 内容 |
|---|---|
patches/robotwin_tracked.diff |
RoboTwin 已跟踪文件的 git diff,第一行是基线 commit |
patches/xpolicylab_tracked.diff |
XPolicyLab policy/DP 的 git diff,第一行是基线 commit |
patches/repo_commits.txt |
两个仓库的基线 commit |
RoboTwin/ — 改动过的文件
以原文件形式存放。同目录下的 .v1、.v10、.orig 是改动前的备份。
| 文件 | 改动 | provenance |
|---|---|---|
envs/camera/camera.py |
front_camera 修复:front_camera 照常创建,保证随机数消耗不变;collect_other_static_cameras 为 false 时只是不渲染它 |
V11-11(结果 1、2)、V11-12 第 5 项 |
env_cfg/task_config/eval_headonly.yml |
评测配置,只渲染头部相机 | V11-11 |
env_cfg/task_config/eval_head.yml |
旧版评测配置,渲染头部和前方相机 | V11-10 |
env_cfg/task_config/heldout.yml、planted.yml |
生成留出集和栽种单位用的配置,内容同 demo_clean | V11-0 |
env_cfg/task_config/_eval_step_limit.yml |
各任务的评测步数上限 | V11-7、V11-12 第 4 项 |
envs/_base_task.py |
环境变量 ROBOTWIN_STEP_LIM,默认关闭 |
V11-12 第 4 项 |
scripts/collect_data.py |
环境变量 ROBOTWIN_COLLECT_ST_SEED,用来指定留出集和栽种单位的起始种子 |
V11-0 |
scripts/eval_policy_xpolicylab.py |
评测时调用 rt_profile 计时;每集打印 [SCENEHASH] 场景哈希 |
V11-12 第 4、7 项 |
scripts/scene_hash.py |
场景哈希:所有物体的位姿取到 1e-4,排序后算 sha1 | V11-12 第 7 项 |
scripts/rt_profile.py |
计时,只在 RT_PROFILE=1 时启用 |
V11-12 第 4 项 |
RoboTwin/XPolicyLab/policy/
| 文件 | 内容 | provenance |
|---|---|---|
DP/diffusion_policy/policy/diffusion_unet_image_policy.py |
损失加权:loss = mean(sim) + V11_AUX_W × mean(aux);第一次生效时写一个标记文件 aux_loss_active.txt |
V11-17 |
DP/diffusion_policy/workspace/robotworkspace.py |
按 V11_STEPS 在指定步数存 checkpoint;cosine 学习率的周期固定为 28k 步;训练到 V11_STOP_STEPS 停止 |
V11-2 |
DP/train.py |
训练入口的改动 | V11-2 |
DPdelta/dpd_dataset.py |
按片段采样的数据加载器,各开关如下: • unit_uniform:先均匀抽一个片段,再在片段内抽窗口• ego_scale:EgoDex 动作缩放• mask_state:proprio 清零• ego_frac• ego_episodes_file / ego_episodes_key:只用选中的片段子集 |
V11-2、V11-15、V11-17、V11-18 |
DPdelta/model.py |
采样器开关 sampler;噪声种子(prepare_case 每集用场景种子设定采样噪声);评测时 proprio 清零;rollout_dir 记录 rollout |
V11-4、V11-9、V11-12 第 4 项、V11-17 |
DPdelta/process_data.py |
hdf5 转 zarr(delta 模式);DPD_FORCE_AXIS 强制朝向轴 |
V11-18 |
DPdelta/ 其余文件 |
公共代码,以及每次评测生成的 deploy_*.yml、eval_*.sh、setup_eval_*.sh |
— |
scripts/ — 项目全部脚本
| 脚本 | 内容 | provenance |
|---|---|---|
92_egodex_pick.py/.sh、70_ego_zarr.py/.sh |
ego 预处理:从 EgoDex 挑片段,再生成 zarr | V11-1 |
91_gen_demos.sh |
生成留出集和栽种单位 | V11-0 |
95_v11_sim_zarrs.sh、103_score_zarrs.sh |
生成仿真 zarr | V11-2、V11-18 |
94_v11_train.sh |
V11 训练:L0/L0h/L1/L2 四组,BATCH、EGO_FRAC、AUX_W、EGO_SEL_* 等开关 |
V11-2、V11-15、V11-17、V11-18 |
97_v11_eval.sh |
评测块种子:第 b 块取从 100000 + 500·b 起的前 5 个专家可解种子;一个作业可跑多块,余下的块由其他作业认领;动态超时 | V11-4(修订)、V11-13 |
100_scene_hashes.py/.sh |
生成场景哈希表 | V11-12 第 7 项、V11-13 |
110_trak_score.py/.sh |
CUPID / TRAK 打分:投影到 8192 维;用 g_perf 和 g_val;栽种单位按 add-one-in 计算 | V11-18 |
111_score_report.py |
汇总:打分报告和第 4 节用的选择列表 | V11-18 |
112_submit_validation.sh |
提交第 4 节验证组 | V11-18 |
101_memtest.sh、102_smoke_aux.sh、96_v11_smoke.sh |
显存测试和冒烟测试 | V11-15、V11-17 |
120_vla_install.sh、121_pi0_probe.* |
VLA 可行性检查(安装失败) | V11-19 之后 |
130_archive.sh、132_tar_check.py |
本次打包和核对 | V11-21 |
_env.sh |
公共环境 | — |
jobs/
PBS 作业模板。
3. v11_records.tar
| 路径 | 内容 | provenance |
|---|---|---|
PROVENANCE.md |
out/provenance.txt 原样复制,只追加不改,从 V10 到 V11-21 |
— |
results.csv |
out/v11_eval.csv,每个评测块一行。列:run、seed、step、epoch、block、sampler、n(集数)、succ(成功集数)、secs、complete、task_config、step_lim |
V11-5、V11-13、V11-14、V11-16、V11-19 |
scene_hashes.csv |
场景哈希表,列:segment、block、seed、hash、bodies。250 行,没有重复 | V11-12 第 7 项、V11-13 |
taskbooks/TASKBOOK_V11_v19/v21/v22/v23/v23_orig.md |
任务书存档 | V11-0、V11-1、V11-3、V11-9、V11-11 |
jobs.txt |
全部作业编号记录 | — |
stage_logs/ |
各阶段的 say 日志、EgoDex 挑片段日志和 zarr 日志、渲染一致性检查的 json |
各条 |
scores_test/ |
打分代码小规模测试(TEST=1)的输出。正式打分没有跑,原因见 V11-19 | V11-18、V11-19 |
4. 不在存档里、另外保存的内容
以下内容复制到了 /home/users/ntu/shuweish/v11_keep/,scratch 上的原件在确认删除前保留:
checkpoints/v11_place_cans_plasticbox_n30-{0,1}/:L0 checkpoint,154.ckpt对应 10k 步,308.ckpt对应 20k 步checkpoints/v11_place_cans_plasticbox_n30_L2_eq-{0,1}/:L2' checkpoint,233.ckpt对应 10k 步rollouts/v11_place_cans_plasticbox_n30_L2_eq_s{0,1}_st10000/:L2' 的 rollout,每个种子 100 集,每集一个 npz,含 head (N,3,3,240,320) 和 action_pred (N,8,14)
校验值
由 job 25655795 生成,时间 2026-10-02T09:09Z。“文件数”和“文件总字节数”指包内的普通文件。
| 包 | tar 字节数 | 文件数 | 文件总字节数 | sha256 |
|---|---|---|---|---|
| v11_data.tar | 31,346,933,760 | 5,160 | 31,342,928,772 | 255b050234344a558a8703f443fc2a007618c6481ecb894acff578ca1bccd4ee |
| v11_code.tar | 3,614,720 | 1,139 | 1,863,479 | 6c365c9994cf8f8930f968dab239f25817abc0e4f9d79ee33e408cc72cd77fe0 |
| v11_records.tar | 3,082,240 | 42 | 3,042,792 | 5430627fc5d9d2f6c2b909e8a64813a7e61e0aea5896ed21728aefbbcbc20128 |
逐个文件核对的结果:三个包里每个文件的 sha256 都与原文件一致,既没有缺文件,也没有多文件;打包后重新读一遍整个包,sha256sum -c 也通过。
有一个路径被排除在外:sim_zarr/v11_place_cans_plasticbox_n30.zarr/v11_place_cans_plasticbox_n30.zarr。它是原 zarr 里一个指向自己的符号链接,2026-09-30 误建,不是数据。
v11_records.tar 里的 PROVENANCE.md 截止到 “V11-21 RUN 1” 那一条。
- Downloads last month
- 101