hf_rssr_fr3_data / README.md
Zyrobotics's picture
README: gated access prompt
c7f0635 verified
|
Raw History Blame Contribute Delete
6.01 kB
metadata
license: other
license_name: academic-only
license_link: LICENSE
extra_gated_prompt: >-
  本数据集仅限学术研究使用,禁止商用。访问需要仓库所有者人工审批。This dataset is for academic research only;
  access is approved manually.
pretty_name: RSSR FR3 Duo sim demos (15-episode samples)
task_categories:
  - robotics
tags:
  - lerobot
  - franka
  - fr3
  - bimanual
  - robotiq
  - simulation
configs:
  - config_name: cup_r10_diverse2
    data_files: cup/r10_diverse2/data/*/*.parquet
  - config_name: cup_r10_diverse3
    data_files: cup/r10_diverse3/data/*/*.parquet
  - config_name: block_r10_diverse2
    data_files: block/r10_diverse2/data/*/*.parquet
  - config_name: block_v2_diverse
    data_files: block/v2_diverse/data/*/*.parquet
  - config_name: drawer_v2_draw_new
    data_files: drawer/v2_draw_new/data/*/*.parquet

RSSR FR3 Duo 仿真示教样本

双臂 Franka FR3 + Robotiq 2F-85(FR3 Duo)的仿真示教数据,用于 π0.5 末端位姿(EEF)监督训练。每个版本从完整训练集中挑出 15 条有代表性的示教,这里只放这些样本,完整数据集不在本仓库。

仅限学术研究使用,禁止商用。

目录

子文件夹 来源数据集 完整集条数(训练 + 验证) 本样本 15 条的构成 仿真成功率
cup/r10_diverse2 rssr_fr3r10_cup_diverse2_eef 553 + 10 普通 7、DART 4、DART2 4 10 cm 集 80%(已上真机)
cup/r10_diverse3 rssr_fr3r10_cup_diverse3_eef 715 + 10 普通 5、DART 3、DART2 2、抓取段 DART 5 训练中,暂无结果
block/r10_diverse2 rssr_fr3r10_block_diverse2_eef 507 + 10 普通 7、DART 4、DART2 4 yichen 4 cm 集 66%,10 cm 集 50%
block/v2_diverse rssr_fr3v2_block_diverse_eef 745 + 10 普通 7(yichen 发布的精修示教 3、yichen 未发布的精修示教 2、新摆放 2)、DART 4、DART2 4 4 cm 集 58%
drawer/v2_draw_new rssr_fr3v2_drawer_eef 90 + 10 普通 15 30%

每个子文件夹都是一个完整的 LeRobot v2.1 数据集(meta/、data/、videos/),可以单独加载。成功率为仿真闭环评测(每组 50 次,RTC 推理)。杯子和方块:叠好、松手、底下的物体留在桌上就算成功;抽屉:方块进抽屉、松手,结束时抽屉已关上。

各版本配方

cup/r10_diverse2(杯子 Diverse2):杯子在半径 10 cm 范围内随机摆放;杯壁抓取点固定(左手方位 135°,右手镜像);两臂交接处不停顿,末尾 2 s 静止;包含 DART / DART2 扰动示教(在示教轨迹上加脉冲扰动,标签拉回原轨迹)。共约 500 条,已在真机上部署。

cup/r10_diverse3(杯子 Diverse3):Diverse2 加上抓取段 DART(为 166 个 DART 源各生成 1 条,训练集中有 161 条,文件名带 __gdart):在闭合前的最后一段下降中加 1.5–3 cm 的偏移,偏移在闭合前 0.15 s 内消失,标签拉回正确的抓取点,用来教策略在没对准时主动修正。

block/r10_diverse2(方块 Diverse2):抓取面固定(选离安装座 −y 方向最近的那对面和手指顺序),方块在 10 cm 范围内摆放,yaw ±30°,包含 DART / DART2,共约 517 条。

block/v2_diverse(方块 v2 Diverse):上一代最好的方块版本,4 cm 摆放范围。由 yichen 发布的 v2 精修示教、yichen 未发布的精修示教、新摆放位置的示教,加上 DART / DART2 组成,末尾补 2 s 静止。

drawer/v2_draw_new(抽屉):yichen 的 v2_draw_new(100 条)通过 FK 换算成 EEF,末尾补 2 s 静止。

共同格式

  • 30 fps;三路相机:observation.images.cam_high(头部)、cam_left_wrist、cam_right_wrist;224×224 h264。原始画面是 4:3(224×168),上下各补 28 px 黑边。
  • action 和 observation.state 都是 22 维:[左臂 10 | 右臂 10 | left_fr3v2_joint3, right_fr3v2_joint3],每臂 10 维 = TCP 位置 3(m)+ 旋转 6D 3(旋转矩阵的前两列,列优先)+ 夹爪开口 1(m)。位姿都在 fr3_duo_mount_body 坐标系下(两个臂座中间);joint3 是绝对关节角(rad)。
  • action 是指令值(对指令关节角做 FK,再加上指令开口),state 是测量值;action[t] 从第 t 帧执行到第 t+1 帧。完整定义见 meta/info.json 的 action_contract。
  • 提示词:杯子 Stack_the_cups_together.,方块 Stack the red cube on top of the green cube.,抽屉 Put_the_block_in_the_drawer.

训练用的动作表示与归一化

parquet 里存的是绝对动作。训练时用的是 rel_chunk0 表示:对每个 chunk,位置相对当前测量末端位置(p − p_state[t]),旋转为 R · R_state[t]^T,夹爪和 joint3 保持绝对值。

  • meta/stats.json:完整数据集的统计量(绝对动作)。
  • meta/stats_rel_chunk0.json:完整数据集上 rel_chunk0 动作的统计量,即训练实际用的归一化。
  • meta/episodes_stats.jsonl:只统计这 15 条。LeRobot v2.1 加载时默认用它汇总,所以要复现训练归一化,请改用上面两个文件。

样本是怎么挑的

先按示教类型(普通 / DART / DART2 / 抓取段 DART)分配名额,然后在每类内部按抓取瞬间两手的末端位置(方块再加抓取 yaw)做 k-means,取离每个聚类中心最近的那条,并且 15 条的摆放位置互不重复。每条样本对应完整集里的哪一条、属于哪个类型、原始 run 名,都记在 meta/subset.json。

加载示例

from huggingface_hub import snapshot_download
from lerobot.common.datasets.lerobot_dataset import LeRobotDataset

path = snapshot_download("Zyrobotics/hf_rssr_fr3_data", repo_type="dataset",
                         allow_patterns="cup/r10_diverse2/*")
ds = LeRobotDataset("local/cup_r10_diverse2", root=f"{path}/cup/r10_diverse2")
frame = ds[0]   # observation.images.*: (3, 224, 224),action: (22,)