--- license: cc-by-nc-4.0 tags: - robotics - lerobot - manipulation configs: - config_name: train data_files: train/data/*/*.parquet - config_name: val_old data_files: val_old/data/*/*.parquet - config_name: val_1013 data_files: val_1013/data/*/*.parquet --- # 天机双臂折纸盒:按阶段提示词的 SFT 数据(v4) 天机双臂机器人把平铺的纸板折成盒子的示教数据。每条录像按人工标注切成 4 段,每段配一句阶段提示词,用于训练能按提示词逐段执行的 pi0.5 策略(subtask 模型)。 数据为 LeRobot v3.0 格式,三个子目录各是一个独立的数据集根目录。 | 目录 | 来源录像 | episode 数 | 其中“保持”样本 | 帧数 | |---|---|---|---|---| | `train/` | 155 条(10-10 至 10-13) | 8,342 | 7,530 | 489,456 | | `val_old/` | 4 条(10-10 至 10-12 留出) | 136 | 120 | 8,280 | | `val_1013/` | 8 条(10-13 按会话留出) | 392 | 360 | 20,273 | ## 阶段与提示词 | 段 | 内容 | 提示词(`task`) | |---|---|---| | 1 | 起后壁、压顶盖 | `Raise the back wall and press down the top lid.` | | 2 | 第一侧 | `Fold the right side.` 或 `Fold the left side.`(按实际先做的一侧) | | 3 | 第二侧 | 另一侧的提示词 | | 4 | 推盒回位 | `Push the box back into place.` | ## 特征 - `observation.state`(20 维):两臂各 10 维,依次为末端位置 xyz、旋转 6D(旋转矩阵前两列 r00 r10 r20 r01 r11 r21)、夹爪命令开合度。A 臂在前,B 臂在后。位姿为拍照时刻的实测末端。 - `action`(600 维):从当前帧起按真实时间 15Hz 取 30 步(2 秒)的动作块,每步 20 维,排列同状态,按步展平(第 k 步在 `[20k, 20k+20)`)。动作语义是控制器参考的末端位姿;夹爪是命令值。 - 图像:`observation.images.cam_high`(头部,360×640)、`cam_left_wrist`、`cam_right_wrist`(腕部,480×640)。 - 数据集 `fps` 写的是名义值 10。观测帧保留原始采样:10-10 至 10-12 的录像是 10Hz,10-13 的是 15Hz。时间戳和视频都按名义 10fps 编号;动作块已按真实时间预先算好,不依赖 fps。 ## 构造方式 由 v3 数据(每条整段录像、单一提示词)加人工切段标注生成,规则参照 A1 机器人上验证过的做法,脚本见 `scripts/build_v4.py`: 1. **按段拆条**:每段单独成一条 episode,每帧配该段提示词。 2. **段尾截断**:动作块中超出本段最后一帧时刻的步,替换为本段最后一帧的第 0 步动作,表示“做完本段、没有收到下一段提示词就停住”。 3. **切点前移抖动**(仅训练集):每个切点随机往前挪 0 到 0.33 秒,挪出的帧配下一段提示词、动作为录像真实动作。 4. **保持样本**:每个人工切点之后 1 秒内的每一帧,单独成一条 1 帧的 episode。画面和状态取自该帧,提示词是上一段的,动作块 30 步全是“两臂保持当前实测位姿、夹爪保持上一段最后的命令”。在 `build_report.json` 里标为 `cf_hold`。 5. **新数据加权**:10-13 的 15Hz 录像复制两份,每份抖动独立。 6. **标注修正**:剔除未完成的 4 条(训练集序号 41、49、55、141);按标注员备注改正先做哪侧:训练集 19 改为先左、51 改为先右,`val_1013` 的 7 改为先左。 每个子目录的 `build_report.json` 记录了每条 episode 来自哪条源录像的哪几帧、第几段、是正常分段还是保持样本。 ## 归一化统计 `norm_stats.json` 是训练 subtask 模型时用的归一化统计(与 v3 相同,状态和动作格式一致)。部署时须与模型一起使用。 ## 使用 ```python from huggingface_hub import snapshot_download from lerobot.datasets.lerobot_dataset import LeRobotDataset root = snapshot_download("loopeva/tianji-box-subtask-v4", repo_type="dataset") train = LeRobotDataset("tianji_v4", root=f"{root}/train") ``` ## 许可证 [CC BY-NC 4.0](https://creativecommons.org/licenses/by-nc/4.0/):可自由使用、修改和再分发,须署名,不得用于商业目的。