Datasets:

FAKUN
/

so101-pick-all-objects

---
license: mit
task_categories:
  - robotics
language:
  - en
library_name: lerobot
tags:
  - lerobot
  - so-101
  - so101
  - gr00t
  - imitation-learning
  - manipulation
  - pick-and-place
  - multi-object
pretty_name: SO-101 Pick All Objects
---
# SO-101 · 桌面物品整理

用 SO-101 六轴机械臂遥操作采集的桌面整理演示数据集，任务是**把桌上的多件物品逐个抓起来放进盒子**。

这是 [SO101-GR00T](https://github.com/Morantkk/SO101-GR00T) 项目第二阶段（v3）使用的数据：
第一阶段（v1）用单支笔验证了整条链路，这一阶段换成真实任务、扩大规模。

配套模型：[FAKUN/groot-so101-all-objects-v3](https://huggingface.co/FAKUN/groot-so101-all-objects-v3)

## 数据概况

| 项 | 值 |
|---|---|
| 格式 | LeRobot v3.0 |
| 集数 | 102 |
| 总帧数 | 59,314 |
| 帧率 | 15 fps |
| 机器人 | SO-101 follower（6 自由度） |
| 相机 | 前视 640×360 + 腕部 1280×720（双相机同步） |
| 语言指令 | `Put all the objects on the table into the box` |
| 大小 | 1.4 GB |

每条演示包含 **2~9 次抓取**（中位 5 次），即在一集里完成多次"接近物体 → 合爪 → 搬运 → 放入盒子"。

## 状态与动作空间

`observation.state` 与 `action` 均为 6 维（float32），顺序：

```
shoulder_pan, shoulder_lift, elbow_flex, wrist_flex, wrist_roll, gripper
```

单位为度；`gripper` 为 0~100 的开合百分比，0 表示完全闭合。

## 采集方式

- 主从臂遥操作（leader 手动示教，follower 跟随并记录）
- 每条演示从同一个 home 位姿开始
- 物体在桌面上的位置与朝向每集随机
- 录制时第一帧即在运动，不留静止段

## 注意：训练时还需要两步处理

这份是**原始采集数据**。直接拿去训练 GR00T 之前，需要：

1. **裁掉每集开头的静止段**——原始录像开头有 3~8 秒手还没动的部分（约 46~124 帧）
2. **转成 Isaac-GR00T 的逐 episode 格式**，并统一两路相机到 640×360

> ⚠️ **裁剪时务必同步重写 `timestamp` 列**（`timestamp = i / fps`、`frame_index = i`）。
> GR00T 取帧是按 `argmin|视频帧时间 − timestamp[i]|` 查表的，如果只裁视频和 parquet 行、
> 不重写时间戳，训练时每帧图像都会比对应的关节状态超前数秒，而且每集超前的量不同。
> 这个错误在 loss、回放、单步误差上都看不出来，只在真机上崩。
完整流程（含修正后的裁剪脚本）见仓库
[docs/03_DATA_PIPELINE.md](https://github.com/Morantkk/SO101-GR00T/blob/main/docs/03_DATA_PIPELINE.md)。
## 目录结构
```
meta/
  info.json          数据集元信息（帧数、fps、相机键、特征维度）
  tasks.parquet      任务文本
  episodes/          每集的长度与元数据
  stats.json         归一化统计量
data/                parquet（逐帧状态与动作）
videos/              两路相机的 mp4
```
## 怎么用
```python
from lerobot.datasets.lerobot_dataset import LeRobotDataset

ds = LeRobotDataset("FAKUN/so101-pick-all-objects")
print(len(ds), ds.meta.fps)
```
## 已知问题
- 演示里**没有失败恢复样本**（439 次合爪中 0 次重试），模型抓空之后不会自己重来。
- 单目 640×360 对毫米级对位精度不够，细长物体（笔）的落点误差较明显。
- 只在实验室桌面场景采集，未覆盖不同光照与背景。
## 许可
MIT。数据由作者本人采集，可自由使用。

	---
	license: mit
	task_categories:
	- robotics
	language:
	- en
	library_name: lerobot
	tags:
	- lerobot
	- so-101
	- so101
	- gr00t
	- imitation-learning
	- manipulation
	- pick-and-place
	- multi-object
	pretty_name: SO-101 Pick All Objects
	---

	# SO-101 · 桌面物品整理

	用 SO-101 六轴机械臂遥操作采集的桌面整理演示数据集，任务是把桌上的多件物品逐个抓起来放进盒子。

	这是 [SO101-GR00T](https://github.com/Morantkk/SO101-GR00T) 项目第二阶段（v3）使用的数据：
	第一阶段（v1）用单支笔验证了整条链路，这一阶段换成真实任务、扩大规模。

	配套模型：[FAKUN/groot-so101-all-objects-v3](https://huggingface.co/FAKUN/groot-so101-all-objects-v3)

	## 数据概况

	\| 项 \| 值 \|
	\|---\|---\|
	\| 格式 \| LeRobot v3.0 \|
	\| 集数 \| 102 \|
	\| 总帧数 \| 59,314 \|
	\| 帧率 \| 15 fps \|
	\| 机器人 \| SO-101 follower（6 自由度） \|
	\| 相机 \| 前视 640×360 + 腕部 1280×720（双相机同步） \|
	\| 语言指令 \| `Put all the objects on the table into the box` \|
	\| 大小 \| 1.4 GB \|

	每条演示包含 2~9 次抓取（中位 5 次），即在一集里完成多次"接近物体 → 合爪 → 搬运 → 放入盒子"。

	## 状态与动作空间

	`observation.state` 与 `action` 均为 6 维（float32），顺序：

	```
	shoulder_pan, shoulder_lift, elbow_flex, wrist_flex, wrist_roll, gripper
	```

	单位为度；`gripper` 为 0~100 的开合百分比，0 表示完全闭合。

	## 采集方式

	- 主从臂遥操作（leader 手动示教，follower 跟随并记录）
	- 每条演示从同一个 home 位姿开始
	- 物体在桌面上的位置与朝向每集随机
	- 录制时第一帧即在运动，不留静止段

	## 注意：训练时还需要两步处理

	这份是原始采集数据。直接拿去训练 GR00T 之前，需要：

	1. 裁掉每集开头的静止段——原始录像开头有 3~8 秒手还没动的部分（约 46~124 帧）
	2. 转成 Isaac-GR00T 的逐 episode 格式，并统一两路相机到 640×360

	> ⚠️ 裁剪时务必同步重写 `timestamp` 列（`timestamp = i / fps`、`frame_index = i`）。
	> GR00T 取帧是按 `argmin\|视频帧时间 − timestamp[i]\|` 查表的，如果只裁视频和 parquet 行、
	> 不重写时间戳，训练时每帧图像都会比对应的关节状态超前数秒，而且每集超前的量不同。
	> 这个错误在 loss、回放、单步误差上都看不出来，只在真机上崩。

	完整流程（含修正后的裁剪脚本）见仓库
	[docs/03_DATA_PIPELINE.md](https://github.com/Morantkk/SO101-GR00T/blob/main/docs/03_DATA_PIPELINE.md)。

	## 目录结构

	```
	meta/
	info.json 数据集元信息（帧数、fps、相机键、特征维度）
	tasks.parquet 任务文本
	episodes/ 每集的长度与元数据
	stats.json 归一化统计量
	data/ parquet（逐帧状态与动作）
	videos/ 两路相机的 mp4
	```

	## 怎么用

	```python
	from lerobot.datasets.lerobot_dataset import LeRobotDataset

	ds = LeRobotDataset("FAKUN/so101-pick-all-objects")
	print(len(ds), ds.meta.fps)
	```

	## 已知问题

	- 演示里没有失败恢复样本（439 次合爪中 0 次重试），模型抓空之后不会自己重来。
	- 单目 640×360 对毫米级对位精度不够，细长物体（笔）的落点误差较明显。
	- 只在实验室桌面场景采集，未覆盖不同光照与背景。

	## 许可

	MIT。数据由作者本人采集，可自由使用。