LeIsaac SO101 PickOrange 专家演示
本数据集用于桌面仿真任务 PickOrange 的模仿学习。机械臂将三个橙子放入盘中,并达到环境的成功判定。每条记录包含前视相机、腕部相机、六维关节状态及对应的动作目标。
数据来源与控制模式
| 来源 | 控制模式 | 轨迹 | 观测记录 | 记录与动作频率 | 清单 |
|---|---|---|---|---|---|
| GR00T N1.5 PickOrange 任务模型 | qpos(绝对关节位置) | 100 | 59,380 | 60 Hz | vla-gr00t-qpos/dataset.json |
| 特权 state 控制脚本 | qpos(绝对关节位置) | 100 | 131,741 | 30 Hz | privileged-state-script/dataset.json |
| GR00T N1.5 PickOrange 任务模型 | EE(绝对末端位姿) | 100 | 26,563 | 30 Hz | vla-gr00t-ee/dataset.json |
三组均使用 60 Hz 物理仿真和 30 Hz 相机刷新。GR00T 的 qpos 演示每个物理步记录一次,相邻记录可能共享图像。脚本 qpos 演示和 EE 演示每两个物理步记录并下发一次目标。三组的策略观测均为双相机 RGB 和六维关节状态。
每条轨迹均通过动作轨迹独立回放检验(简称“回放检验”)。在独立启动的仿真环境中恢复初始场景,按记录的动作轨迹执行,验证用于 BC 的动作能否完成任务。GR00T 的 qpos 演示按 1,200 个物理步上限筛选,脚本 qpos 演示按 55 秒上限筛选。
绝对末端控制专家演示
EE 组按最终执行的控制模式归类。27 条由原任务模型的 qpos 轨迹转换,51 条由该任务模型经残差强化学习后的策略采集 qpos 轨迹再转换,另有 22 条由残差策略在线采用 EE 控制采集。
100 条轨迹已通过独立回放检验,提供 26,563 个动作前观测和 300 个单颗片段。每个片段沿用所属整轨的双相机视频。动作采用基座坐标系下的绝对末端目标。原始文件说明见末端演示说明,回合索引见清单。
回合预览
原生 Episodes Preview 收录全部 300 个回合。首页列出前 10 个,点击 Show all 300 episodes 可打开完整列表。
| 采集来源 | 控制模式 | 预览回合编号 | 原始记录频率 | 浏览回合 |
|---|---|---|---|---|
| GR00T N1.5 PickOrange 任务模型 | qpos(绝对关节位置) | 0–99 | 60 Hz | 打开播放器 |
| 特权 state 控制脚本 | qpos(绝对关节位置) | 100–199 | 30 Hz | 打开播放器 |
| GR00T N1.5 PickOrange 任务模型 | EE(绝对末端位姿) | 200–299 | 30 Hz | 打开播放器 |
预览编号按组连续排列,每组在原始清单内的编号均为 0–99。以下样例可展开查看前视和腕部视频。
GR00T N1.5 · qpos · 预览回合 1
前视相机
腕部相机
特权 state 控制脚本 · qpos · 预览回合 100
前视相机
腕部相机
GR00T N1.5 · EE · 预览回合 200
前视相机
腕部相机
播放器以 60 Hz 同步显示双相机视频和六个关节的曲线。qpos 组显示观测值与记录的关节目标。EE 组显示观测值与按执行时的逆运动学从七维末端动作重建的关节目标。EE 训练使用原始清单中的七维动作。
30 Hz 演示的每条记录覆盖两个预览帧,EE 回合成功时按实际物理步结束。
目录结构
README.md
meta/ # LeRobot 回合、任务和特征元数据
data/ # 回合预览的关节状态与关节目标
videos/ # 回合预览的双相机 MP4
vla-gr00t-qpos/
dataset.json
episodes/episode-000000/{demonstration.npz, front.mkv, wrist.mkv}
vla-gr00t-ee/
README.md
dataset.json
episodes/episode-000000/{demonstration.npz, initial-state.npz, front.mkv, wrist.mkv}
privileged-state-script/
dataset.json
episodes/episode-000000/{demonstration.npz, front.mkv, wrist.mkv}
preview/
front.mp4
wrist.mp4
viewer/
vla_gr00t_qpos.parquet
privileged_state_script.parquet
vla_gr00t_ee.parquet
vla_gr00t_ee.jsonl
Dataset Viewer 按来源提供三个配置:GR00T qpos 演示 vla_gr00t_qpos、脚本 qpos 演示 privileged_state_script、GR00T EE 演示 vla_gr00t_ee。每行是一条轨迹,列出控制模式、场景种子、记录数、频率、时长及原始文件的链接。LeRobot 回合预览读取 meta/、data/ 与 videos/。
三份清单内的轨迹路径均以各自清单所在目录为基准。每条演示包含动作与本体 NPZ 和两路无损 RGB 视频,EE 组另附数值初始场景,每帧与同一索引的数值记录对应。
MKV 与 MP4
原始 MKV 使用 libx264rgb 无损编码,保留 RGB 像素。预览 MP4 由原 MKV 重新编码为 H.264、yuv420p,显式标记 BT.709 色彩和有限范围。转换保留原生 640×480 和帧顺序,30 Hz 演示按预览时间轴重复帧。色度采样和压缩会引入少量像素差异。浏览器预览使用 MP4,读取训练图像使用原始 MKV 解码为 rgb24。
以下命令转换前视视频。转换腕部视频时,将输入和输出分别改为 wrist.mkv 与 wrist.mp4。
ffmpeg -i front.mkv -map 0:v:0 \
-vf "fps=60,scale=out_color_matrix=bt709:out_range=tv,format=yuv420p" \
-c:v libx264 -profile:v high -preset fast -crf 17 \
-colorspace bt709 -color_primaries bt709 -color_trc bt709 -color_range tv \
-movflags +faststart front.mp4
关节控制的数值字段
| 字段 | 形状 | 含义 |
|---|---|---|
joints |
(T, 6) |
观测时刻的关节状态 |
action |
(T, 6) |
对应的绝对关节目标 |
timestamp |
(T,) |
相对时间,单位为秒 |
关节顺序为 shoulder_pan, shoulder_lift, elbow_flex, wrist_flex, wrist_roll, gripper。关节和目标均用校准后的 motor 坐标。前五维的名义范围为 [-100, 100],夹爪为 [0, 100],逐维线性映射到以下角度范围:
| 关节 | 仿真角度 |
|---|---|
| shoulder_pan | −110° 至 110° |
| shoulder_lift | −100° 至 100° |
| elbow_flex | −100° 至 90° |
| wrist_flex | −95° 至 95° |
| wrist_roll | −160° 至 160° |
| gripper | −10° 至 100° |
读取一条关节控制演示
下面的例子只下载指定轨迹。将 prefix 改为 "vla-gr00t-qpos/" 可读取 GR00T 演示。
import json
import av
import numpy as np
from huggingface_hub import hf_hub_download
prefix = "privileged-state-script/"
repo = "Nole326/LeIsaac-SO101-PickOrange"
def download(path):
return hf_hub_download(repo, prefix + path, repo_type="dataset")
with open(download("dataset.json"), encoding="utf-8") as f:
episode = json.load(f)["episodes"][0]
files = {row["path"].rsplit("/", 1)[-1]: row["path"] for row in episode["files"]}
with np.load(download(files["demonstration.npz"]), allow_pickle=False) as data:
joints, actions, timestamps = (data[key] for key in ("joints", "action", "timestamp"))
with av.open(download(files["front.mkv"])) as front, av.open(download(files["wrist.mkv"])) as wrist:
for index, (a, b) in enumerate(zip(front.decode(video=0), wrist.decode(video=0), strict=True)):
front_rgb = a.to_ndarray(format="rgb24")
wrist_rgb = b.to_ndarray(format="rgb24")
# Pair these two frames with joints[index], actions[index], and timestamps[index].
训练时按所用框架读取或转换此原始归档。混合两种来源前,先统一标签采样和目标保持时长,并保留双相机、关节、动作和时间戳的对应关系。回放检验只验证该轨迹在对应初始场景中的可执行性。训练后策略应在独立场景上评测。
ACT 权重和运行配置见 配套模型仓库。
适用范围与许可
本数据集来自单一仿真任务,按成功和时长筛选,缺少系统性的失败恢复示范。部署到其他初始分布、机器人或控制模式时需另行验证。
GR00T 采集策略来自 LightwheelAI/leisaac-pick-orange-v0。本数据集暂未指定独立数据许可证,上游模型和仿真资产按其各自条款使用。
- Downloads last month
- 2,183