FAKUN/so101-pick-one-pen

SO-101 · 抓单支笔放进盒子

用 SO-101 六轴机械臂遥操作采集的抓取演示数据集，任务是把桌上的一支笔抓起来放进盒子。

这是 SO101-GR00T 项目第一阶段（v1）使用的数据： 用最简单的单物体任务，先验证"采集 → 训练 → 部署"整条链路能跑通。

配套模型：FAKUN/groot-so101-pick-one-pen-v1

数据概况

项	值
格式	LeRobot v3.0
集数	50
总帧数	17,789
帧率	15 fps
机器人	SO-101 follower（6 自由度）
相机	前视 640×360 + 腕部 1280×720（双相机同步）
语言指令	Pick up a pen and put it into the box
大小	375 MB

状态与动作空间

observation.state 与 action 均为 6 维（float32），顺序：

shoulder_pan, shoulder_lift, elbow_flex, wrist_flex, wrist_roll, gripper

单位为度；gripper 为 0~100 的开合百分比，0 表示完全闭合。

采集方式

• 主从臂遥操作（leader 手动示教，follower 跟随并记录）
• 每条演示从同一个 home 位姿开始（起始关节角离散度很小）
• 笔的位置与朝向每集随机
• 录制时第一帧即在运动，不留静止段

目录结构

meta/
  info.json          数据集元信息（帧数、fps、相机键、特征维度）
  tasks.parquet      任务文本
  episodes/          每集的长度与元数据
  stats.json         归一化统计量
data/                parquet（逐帧状态与动作）
videos/              两路相机的 mp4

怎么用

from lerobot.datasets.lerobot_dataset import LeRobotDataset

ds = LeRobotDataset("FAKUN/so101-pick-one-pen")
print(len(ds), ds.meta.fps)

要用 GR00T N1.5 训练，需要先转成 Isaac-GR00T 的逐 episode 格式， 转换脚本与完整流程见仓库 docs/03_DATA_PIPELINE.md。

已知问题

• 单支笔在 640×360 画面里约 25 像素宽，缩到模型输入的 224×224 后只占约一个视觉 token， 因此模型对落点位置的精度有限（实测合爪位置系统性偏外）。
• 演示里没有"抓失败再重试"的样本，模型不具备失败恢复能力。
• 只在固定的桌面区域与同类笔上采集过。

许可

MIT。数据由作者本人采集，可自由使用。