---
license: mit
task_categories:
  - robotics
language:
  - en
library_name: lerobot
tags:
  - lerobot
  - so-101
  - so101
  - gr00t
  - imitation-learning
  - manipulation
  - pick-and-place
  - multi-object
pretty_name: SO-101 Pick All Objects
---

# SO-101 · 桌面物品整理

用 SO-101 六轴机械臂遥操作采集的桌面整理演示数据集，任务是**把桌上的多件物品逐个抓起来放进盒子**。

这是 [SO101-GR00T](https://github.com/Morantkk/SO101-GR00T) 项目第二阶段（v3）使用的数据：
第一阶段（v1）用单支笔验证了整条链路，这一阶段换成真实任务、扩大规模。

配套模型：[FAKUN/groot-so101-all-objects-v3](https://huggingface.co/FAKUN/groot-so101-all-objects-v3)

## 数据概况

| 项 | 值 |
|---|---|
| 格式 | LeRobot v3.0 |
| 集数 | 102 |
| 总帧数 | 59,314 |
| 帧率 | 15 fps |
| 机器人 | SO-101 follower（6 自由度） |
| 相机 | 前视 640×360 + 腕部 1280×720（双相机同步） |
| 语言指令 | `Put all the objects on the table into the box` |
| 大小 | 1.4 GB |

每条演示包含 **2~9 次抓取**（中位 5 次），即在一集里完成多次"接近物体 → 合爪 → 搬运 → 放入盒子"。

## 状态与动作空间

`observation.state` 与 `action` 均为 6 维（float32），顺序：

```
shoulder_pan, shoulder_lift, elbow_flex, wrist_flex, wrist_roll, gripper
```

单位为度；`gripper` 为 0~100 的开合百分比，0 表示完全闭合。

## 采集方式

- 主从臂遥操作（leader 手动示教，follower 跟随并记录）
- 每条演示从同一个 home 位姿开始
- 物体在桌面上的位置与朝向每集随机
- 录制时第一帧即在运动，不留静止段

## 注意：训练时还需要两步处理

这份是**原始采集数据**。直接拿去训练 GR00T 之前，需要：

1. **裁掉每集开头的静止段**——原始录像开头有 3~8 秒手还没动的部分（约 46~124 帧）
2. **转成 Isaac-GR00T 的逐 episode 格式**，并统一两路相机到 640×360

> ⚠️ **裁剪时务必同步重写 `timestamp` 列**（`timestamp = i / fps`、`frame_index = i`）。
> GR00T 取帧是按 `argmin|视频帧时间 − timestamp[i]|` 查表的，如果只裁视频和 parquet 行、
> 不重写时间戳，训练时每帧图像都会比对应的关节状态超前数秒，而且每集超前的量不同。
> 这个错误在 loss、回放、单步误差上都看不出来，只在真机上崩。

完整流程（含修正后的裁剪脚本）见仓库
[docs/03_DATA_PIPELINE.md](https://github.com/Morantkk/SO101-GR00T/blob/main/docs/03_DATA_PIPELINE.md)。

## 目录结构

```
meta/
  info.json          数据集元信息（帧数、fps、相机键、特征维度）
  tasks.parquet      任务文本
  episodes/          每集的长度与元数据
  stats.json         归一化统计量
data/                parquet（逐帧状态与动作）
videos/              两路相机的 mp4
```

## 怎么用

```python
from lerobot.datasets.lerobot_dataset import LeRobotDataset

ds = LeRobotDataset("FAKUN/so101-pick-all-objects")
print(len(ds), ds.meta.fps)
```

## 已知问题

- 演示里**没有失败恢复样本**（439 次合爪中 0 次重试），模型抓空之后不会自己重来。
- 单目 640×360 对毫米级对位精度不够，细长物体（笔）的落点误差较明显。
- 只在实验室桌面场景采集，未覆盖不同光照与背景。

## 许可

MIT。数据由作者本人采集，可自由使用。