Datasets:

Canaryyk
/

robometer-eval-selected-tasks

license:
  - apache-2.0
  - mit
language:
  - en
  - zh
task_categories:
  - robotics
size_categories:
  - n<1K
tags:
  - robotics
  - reward-model
  - video
  - evaluation
pretty_name: RoboMeter evaluated subset — 8 selected ArmNet and ViFailBack tasks
configs:
  - config_name: all
    data_files:
      - split: test
        path: metadata/all.csv
  - config_name: armnet__cable_unclip
    data_files:
      - split: test
        path: metadata/armnet__cable_unclip.csv
  - config_name: armnet__tool_insert
    data_files:
      - split: test
        path: metadata/armnet__tool_insert.csv
  - config_name: vifailback__cube_transfer
    data_files:
      - split: test
        path: metadata/vifailback__cube_transfer.csv
  - config_name: vifailback__pepsi_transfer
    data_files:
      - split: test
        path: metadata/vifailback__pepsi_transfer.csv
  - config_name: vifailback__three_blocks
    data_files:
      - split: test
        path: metadata/vifailback__three_blocks.csv
  - config_name: vifailback__pot_cube_lid
    data_files:
      - split: test
        path: metadata/vifailback__pot_cube_lid.csv
  - config_name: vifailback__coke_plate
    data_files:
      - split: test
        path: metadata/vifailback__coke_plate.csv
  - config_name: vifailback__drag_basket_cube
    data_files:
      - split: test
        path: metadata/vifailback__drag_basket_cube.csv

RoboMeter 评测用八任务数据子集 / Selected evaluation videos

从实际 RoboMeter 八帧逐前缀评测清单中完整导出指定的八个任务：598 条原始视频，299 条成功、299 条失败。ArmNet 为 front，ViFailBack 为 cam_high；一条执行仅计一次。MP4 原样保存，未转码、未重新抽样、未改标签。

任务与下载包

数据集	任务	成功	失败	总数	下载
armnet	电源线从线夹取出	93	93	186	ZIP
armnet	工具插入工具箱空槽	54	54	108	ZIP
vifailback	右臂传蓝块给左臂放篮	25	25	50	ZIP
vifailback	传递百事罐并直立放绿盘	25	25	50	ZIP
vifailback	叠蓝底绿中红顶三层积木	25	25	50	ZIP
vifailback	开锅盖放红块再盖锅	25	25	50	ZIP
vifailback	左臂将可乐瓶直立放蓝盘	25	25	50	ZIP
vifailback	拖篮至桌中再放蓝块入篮	27	27	54	ZIP

下载和使用

可直接点击上表 ZIP 按任务下载。下载全部并解压到同一目录：

from huggingface_hub import snapshot_download
from pathlib import Path
from zipfile import ZipFile
root = Path(snapshot_download("Canaryyk/robometer-eval-selected-tasks", repo_type="dataset", local_dir="robometer_subset"))
for archive in (root / "archives").glob("*.zip"):
    with ZipFile(archive) as z:
        z.extractall(root / "extracted")

解压后目录为 extracted/armnet/<task_id>/videos/{success,failure}/*.mp4 或 extracted/vifailback/<task_id>/...。所有 metadata 中的 video_path、annotation_path 都相对于这个 extracted/ 根目录。每个任务目录内亦有独立 metadata.csv / metadata.jsonl。

只读取元数据也可使用 Hugging Face Datasets：

from datasets import load_dataset
metadata = load_dataset("Canaryyk/robometer-eval-selected-tasks", "all", split="test")
# 或将 all 替换为 armnet__cable_unclip 等任务配置名。

这里的 CSV 配置提供元数据；视频位于 ZIP 中，须先下载解压。video_path 是相对路径字符串，不是自动解码的视频列。

标签、标注和来源

label=1 / success 为原数据集成功，label=0 / failure 为失败。ArmNet 原标签 successful/failure，已排除人工示范和 suboptimal；ViFailBack 原 failure_detection=no 对应成功、yes 对应失败。ViFailBack 同时附带对应轨迹的原始标注 JSON，failure_type 也列在清单中。标注中的图片引用指向原始仓库；本子集不包含这些标注图片。

instruction 保留原始英文任务指令，task_name_zh 供阅读；sample_id/source_repo/source_revision/source_path 支持追溯，sha256 校验原 MP4。first_timestamp/last_timestamp 是首末解码帧的时间戳；最后时间戳不等于容器包含终帧时长的总时长。

这是既有评测集的共享子集，split=test。不使用本子集训练或调参后再宣称在同一数据上独立测评。模型输入应为任务指令与视频画面；标签及失败说明用于核对真值。

上游数据和许可

ArmNet: https://huggingface.co/datasets/armnet/armnetbench_v01_robometer （Apache-2.0）
ViFailBack: https://huggingface.co/datasets/sii-rhos-ai/ViFailback-Dataset （MIT）

固定提交号、原数据卡与原始清单校验值见 sources/；许可全文见 licenses/ 和 LICENSES.md。版权及贡献归原作者。文件级校验值见 checksums.sha256。