Datasets:

Canaryyk
/

robometer-eval-selected-tasks

---
license:
- apache-2.0
- mit
language:
- en
- zh
task_categories:
- robotics
size_categories:
- n<1K
tags:
- robotics
- reward-model
- video
- evaluation
pretty_name: RoboMeter evaluated subset — 8 selected ArmNet and ViFailBack tasks
configs:
- config_name: all
  data_files:
  - split: test
    path: metadata/all.csv
- config_name: armnet__cable_unclip
  data_files:
  - split: test
    path: metadata/armnet__cable_unclip.csv
- config_name: armnet__tool_insert
  data_files:
  - split: test
    path: metadata/armnet__tool_insert.csv
- config_name: vifailback__cube_transfer
  data_files:
  - split: test
    path: metadata/vifailback__cube_transfer.csv
- config_name: vifailback__pepsi_transfer
  data_files:
  - split: test
    path: metadata/vifailback__pepsi_transfer.csv
- config_name: vifailback__three_blocks
  data_files:
  - split: test
    path: metadata/vifailback__three_blocks.csv
- config_name: vifailback__pot_cube_lid
  data_files:
  - split: test
    path: metadata/vifailback__pot_cube_lid.csv
- config_name: vifailback__coke_plate
  data_files:
  - split: test
    path: metadata/vifailback__coke_plate.csv
- config_name: vifailback__drag_basket_cube
  data_files:
  - split: test
    path: metadata/vifailback__drag_basket_cube.csv
---

# RoboMeter 评测用八任务数据子集 / Selected evaluation videos

从实际 RoboMeter 八帧逐前缀评测清单中完整导出指定的八个任务：**598 条原始视频，299 条成功、299 条失败**。ArmNet 为 front，ViFailBack 为 cam_high；一条执行仅计一次。MP4 原样保存，未转码、未重新抽样、未改标签。

## 任务与下载包

| 数据集 | 任务 | 成功 | 失败 | 总数 | 下载 |
|---|---|---:|---:|---:|---|
| armnet | 电源线从线夹取出 | 93 | 93 | 186 | [ZIP](archives/armnet__cable_unclip.zip) |
| armnet | 工具插入工具箱空槽 | 54 | 54 | 108 | [ZIP](archives/armnet__tool_insert.zip) |
| vifailback | 右臂传蓝块给左臂放篮 | 25 | 25 | 50 | [ZIP](archives/vifailback__cube_transfer.zip) |
| vifailback | 传递百事罐并直立放绿盘 | 25 | 25 | 50 | [ZIP](archives/vifailback__pepsi_transfer.zip) |
| vifailback | 叠蓝底绿中红顶三层积木 | 25 | 25 | 50 | [ZIP](archives/vifailback__three_blocks.zip) |
| vifailback | 开锅盖放红块再盖锅 | 25 | 25 | 50 | [ZIP](archives/vifailback__pot_cube_lid.zip) |
| vifailback | 左臂将可乐瓶直立放蓝盘 | 25 | 25 | 50 | [ZIP](archives/vifailback__coke_plate.zip) |
| vifailback | 拖篮至桌中再放蓝块入篮 | 27 | 27 | 54 | [ZIP](archives/vifailback__drag_basket_cube.zip) |

## 下载和使用

可直接点击上表 ZIP 按任务下载。下载全部并解压到同一目录：

```python
from huggingface_hub import snapshot_download
from pathlib import Path
from zipfile import ZipFile
root = Path(snapshot_download("Canaryyk/robometer-eval-selected-tasks", repo_type="dataset", local_dir="robometer_subset"))
for archive in (root / "archives").glob("*.zip"):
    with ZipFile(archive) as z:
        z.extractall(root / "extracted")
```

解压后目录为 `extracted/armnet/<task_id>/videos/{success,failure}/*.mp4` 或 `extracted/vifailback/<task_id>/...`。所有 metadata 中的 `video_path`、`annotation_path` 都相对于这个 `extracted/` 根目录。每个任务目录内亦有独立 metadata.csv / metadata.jsonl。

只读取元数据也可使用 Hugging Face Datasets：

```python
from datasets import load_dataset
metadata = load_dataset("Canaryyk/robometer-eval-selected-tasks", "all", split="test")
# 或将 all 替换为 armnet__cable_unclip 等任务配置名。
```

这里的 CSV 配置提供元数据；视频位于 ZIP 中，须先下载解压。`video_path` 是相对路径字符串，不是自动解码的视频列。

## 标签、标注和来源

`label=1` / `success` 为原数据集成功，`label=0` / `failure` 为失败。ArmNet 原标签 successful/failure，已排除人工示范和 suboptimal；ViFailBack 原 failure_detection=no 对应成功、yes 对应失败。ViFailBack 同时附带对应轨迹的原始标注 JSON，failure_type 也列在清单中。标注中的图片引用指向原始仓库；本子集不包含这些标注图片。

`instruction` 保留原始英文任务指令，`task_name_zh` 供阅读；`sample_id/source_repo/source_revision/source_path` 支持追溯，`sha256` 校验原 MP4。`first_timestamp/last_timestamp` 是首末解码帧的时间戳；最后时间戳不等于容器包含终帧时长的总时长。

这是既有评测集的共享子集，split=test。不使用本子集训练或调参后再宣称在同一数据上独立测评。模型输入应为任务指令与视频画面；标签及失败说明用于核对真值。

## 上游数据和许可

- ArmNet: https://huggingface.co/datasets/armnet/armnetbench_v01_robometer （Apache-2.0）
- ViFailBack: https://huggingface.co/datasets/sii-rhos-ai/ViFailback-Dataset （MIT）

固定提交号、原数据卡与原始清单校验值见 sources/；许可全文见 licenses/ 和 LICENSES.md。版权及贡献归原作者。文件级校验值见 checksums.sha256。