| --- |
| license: |
| - apache-2.0 |
| - mit |
| language: |
| - en |
| - zh |
| task_categories: |
| - robotics |
| size_categories: |
| - n<1K |
| tags: |
| - robotics |
| - reward-model |
| - video |
| - evaluation |
| pretty_name: RoboMeter evaluated subset — 8 selected ArmNet and ViFailBack tasks |
| configs: |
| - config_name: all |
| data_files: |
| - split: test |
| path: metadata/all.csv |
| - config_name: armnet__cable_unclip |
| data_files: |
| - split: test |
| path: metadata/armnet__cable_unclip.csv |
| - config_name: armnet__tool_insert |
| data_files: |
| - split: test |
| path: metadata/armnet__tool_insert.csv |
| - config_name: vifailback__cube_transfer |
| data_files: |
| - split: test |
| path: metadata/vifailback__cube_transfer.csv |
| - config_name: vifailback__pepsi_transfer |
| data_files: |
| - split: test |
| path: metadata/vifailback__pepsi_transfer.csv |
| - config_name: vifailback__three_blocks |
| data_files: |
| - split: test |
| path: metadata/vifailback__three_blocks.csv |
| - config_name: vifailback__pot_cube_lid |
| data_files: |
| - split: test |
| path: metadata/vifailback__pot_cube_lid.csv |
| - config_name: vifailback__coke_plate |
| data_files: |
| - split: test |
| path: metadata/vifailback__coke_plate.csv |
| - config_name: vifailback__drag_basket_cube |
| data_files: |
| - split: test |
| path: metadata/vifailback__drag_basket_cube.csv |
| --- |
| |
| # RoboMeter 评测用八任务数据子集 / Selected evaluation videos |
|
|
| 从实际 RoboMeter 八帧逐前缀评测清单中完整导出指定的八个任务：**598 条原始视频，299 条成功、299 条失败**。ArmNet 为 front，ViFailBack 为 cam_high；一条执行仅计一次。MP4 原样保存，未转码、未重新抽样、未改标签。 |
| |
| ## 任务与下载包 |
| |
| | 数据集 | 任务 | 成功 | 失败 | 总数 | 下载 | |
| |---|---|---:|---:|---:|---| |
| | armnet | 电源线从线夹取出 | 93 | 93 | 186 | [ZIP](archives/armnet__cable_unclip.zip) | |
| | armnet | 工具插入工具箱空槽 | 54 | 54 | 108 | [ZIP](archives/armnet__tool_insert.zip) | |
| | vifailback | 右臂传蓝块给左臂放篮 | 25 | 25 | 50 | [ZIP](archives/vifailback__cube_transfer.zip) | |
| | vifailback | 传递百事罐并直立放绿盘 | 25 | 25 | 50 | [ZIP](archives/vifailback__pepsi_transfer.zip) | |
| | vifailback | 叠蓝底绿中红顶三层积木 | 25 | 25 | 50 | [ZIP](archives/vifailback__three_blocks.zip) | |
| | vifailback | 开锅盖放红块再盖锅 | 25 | 25 | 50 | [ZIP](archives/vifailback__pot_cube_lid.zip) | |
| | vifailback | 左臂将可乐瓶直立放蓝盘 | 25 | 25 | 50 | [ZIP](archives/vifailback__coke_plate.zip) | |
| | vifailback | 拖篮至桌中再放蓝块入篮 | 27 | 27 | 54 | [ZIP](archives/vifailback__drag_basket_cube.zip) | |
| |
| ## 下载和使用 |
| |
| 可直接点击上表 ZIP 按任务下载。下载全部并解压到同一目录： |
| |
| ```python |
| from huggingface_hub import snapshot_download |
| from pathlib import Path |
| from zipfile import ZipFile |
| root = Path(snapshot_download("Canaryyk/robometer-eval-selected-tasks", repo_type="dataset", local_dir="robometer_subset")) |
| for archive in (root / "archives").glob("*.zip"): |
| with ZipFile(archive) as z: |
| z.extractall(root / "extracted") |
| ``` |
| |
| 解压后目录为 `extracted/armnet/<task_id>/videos/{success,failure}/*.mp4` 或 `extracted/vifailback/<task_id>/...`。所有 metadata 中的 `video_path`、`annotation_path` 都相对于这个 `extracted/` 根目录。每个任务目录内亦有独立 metadata.csv / metadata.jsonl。 |
| |
| 只读取元数据也可使用 Hugging Face Datasets： |
| |
| ```python |
| from datasets import load_dataset |
| metadata = load_dataset("Canaryyk/robometer-eval-selected-tasks", "all", split="test") |
| # 或将 all 替换为 armnet__cable_unclip 等任务配置名。 |
| ``` |
| |
| 这里的 CSV 配置提供元数据；视频位于 ZIP 中，须先下载解压。`video_path` 是相对路径字符串，不是自动解码的视频列。 |
| |
| ## 标签、标注和来源 |
| |
| `label=1` / `success` 为原数据集成功，`label=0` / `failure` 为失败。ArmNet 原标签 successful/failure，已排除人工示范和 suboptimal；ViFailBack 原 failure_detection=no 对应成功、yes 对应失败。ViFailBack 同时附带对应轨迹的原始标注 JSON，failure_type 也列在清单中。标注中的图片引用指向原始仓库；本子集不包含这些标注图片。 |
| |
| `instruction` 保留原始英文任务指令，`task_name_zh` 供阅读；`sample_id/source_repo/source_revision/source_path` 支持追溯，`sha256` 校验原 MP4。`first_timestamp/last_timestamp` 是首末解码帧的时间戳；最后时间戳不等于容器包含终帧时长的总时长。 |
| |
| 这是既有评测集的共享子集，split=test。不使用本子集训练或调参后再宣称在同一数据上独立测评。模型输入应为任务指令与视频画面；标签及失败说明用于核对真值。 |
| |
| ## 上游数据和许可 |
| |
| - ArmNet: https://huggingface.co/datasets/armnet/armnetbench_v01_robometer （Apache-2.0） |
| - ViFailBack: https://huggingface.co/datasets/sii-rhos-ai/ViFailback-Dataset （MIT） |
| |
| 固定提交号、原数据卡与原始清单校验值见 sources/；许可全文见 licenses/ 和 LICENSES.md。版权及贡献归原作者。文件级校验值见 checksums.sha256。 |
| |
