FAKUN/so101-pick-all-objects

SO-101 · 桌面物品整理

用 SO-101 六轴机械臂遥操作采集的桌面整理演示数据集，任务是把桌上的多件物品逐个抓起来放进盒子。

这是 SO101-GR00T 项目第二阶段（v3）使用的数据： 第一阶段（v1）用单支笔验证了整条链路，这一阶段换成真实任务、扩大规模。

配套模型：FAKUN/groot-so101-all-objects-v3

数据概况

项	值
格式	LeRobot v3.0
集数	102
总帧数	59,314
帧率	15 fps
机器人	SO-101 follower（6 自由度）
相机	前视 640×360 + 腕部 1280×720（双相机同步）
语言指令	Put all the objects on the table into the box
大小	1.4 GB

每条演示包含 2~9 次抓取（中位 5 次），即在一集里完成多次"接近物体 → 合爪 → 搬运 → 放入盒子"。

状态与动作空间

observation.state 与 action 均为 6 维（float32），顺序：

shoulder_pan, shoulder_lift, elbow_flex, wrist_flex, wrist_roll, gripper

单位为度；gripper 为 0~100 的开合百分比，0 表示完全闭合。

采集方式

• 主从臂遥操作（leader 手动示教，follower 跟随并记录）
• 每条演示从同一个 home 位姿开始
• 物体在桌面上的位置与朝向每集随机
• 录制时第一帧即在运动，不留静止段

注意：训练时还需要两步处理

这份是原始采集数据。直接拿去训练 GR00T 之前，需要：

1. 裁掉每集开头的静止段——原始录像开头有 38 秒手还没动的部分（约 46124 帧）
2. 转成 Isaac-GR00T 的逐 episode 格式，并统一两路相机到 640×360

⚠️ 裁剪时务必同步重写 timestamp 列（timestamp = i / fps、frame_index = i）。 GR00T 取帧是按 argmin|视频帧时间 − timestamp[i]| 查表的，如果只裁视频和 parquet 行、 不重写时间戳，训练时每帧图像都会比对应的关节状态超前数秒，而且每集超前的量不同。 这个错误在 loss、回放、单步误差上都看不出来，只在真机上崩。

完整流程（含修正后的裁剪脚本）见仓库 docs/03_DATA_PIPELINE.md。

目录结构

meta/
  info.json          数据集元信息（帧数、fps、相机键、特征维度）
  tasks.parquet      任务文本
  episodes/          每集的长度与元数据
  stats.json         归一化统计量
data/                parquet（逐帧状态与动作）
videos/              两路相机的 mp4

怎么用

from lerobot.datasets.lerobot_dataset import LeRobotDataset

ds = LeRobotDataset("FAKUN/so101-pick-all-objects")
print(len(ds), ds.meta.fps)

已知问题

• 演示里没有失败恢复样本（439 次合爪中 0 次重试），模型抓空之后不会自己重来。
• 单目 640×360 对毫米级对位精度不够，细长物体（笔）的落点误差较明显。
• 只在实验室桌面场景采集，未覆盖不同光照与背景。

许可

MIT。数据由作者本人采集，可自由使用。