--- license: other task_categories: - robotics tags: - robotics - dexterous-manipulation - teleoperation - motion-capture - human-hand - imitation-learning - hdf5 size_categories: - 10GB --- # CAP —— 杯序整理任务（右手）灵巧操作数据集 CAP（Capture Dataset）是一套**人类手部动作采集 + 灵巧操作演示**数据集，记录了操作者用右手完成「**按序摆放杯子（cups_order）**」任务的全过程。数据以 DexCap 风格的采集管线记录，包含**压缩后的轨迹 HDF5** 与**多视角相机的原始图像帧**，可直接用于动作复现、模仿学习与手部姿态分析。 - 仓库：`dex-robot/cap` - 主文件：`cap.zip`（10,697,737,890 字节 ≈ 9.96 GiB） - 收录内容：18,939 个文件 + 24 个目录条目 - SHA256：`f91c11ee1761822fa875d4783c1fd9388f6fa3f0fa3feeef6cd5c20775220c10` - 采集日期：2026-07-07 - 任务：cups_order（按序摆放杯子） - 手别：右手（right hand） --- ## 1. 数据总览 | 项目 | 内容 | | --- | --- | | 任务 | cups_order（按序摆放杯子） | | 采集手别 | 右手 | | 采集日期 | 2026-07-07 | | 有效采集次数 | 5 次（16:46:34 / 16:54:35 / 16:56:54 / 16:59:04 / 17:01:24） | | 轨迹文件 | 5 个 `.hdf5`（每次采集一个） | | 相机视角 | 6 路（左手 / 右手 / 头部双目 / 头部全局 RGB / 头部全局深度） | | 图像帧 | 18,914 张 `.png` + 5 段 `.mp4` | | 其他 | 3 个 `.json`、6 个 `.txt`、5 个 `.npy`、1 个 `.raw` | | 压缩包大小 | 10.7 GB（10,697,737,890 字节） | --- ## 2. 目录结构 ``` cap/ ├── hdf5/ # 每次采集一条压缩轨迹 │ ├── cups_order_right_hand_20260707_164634/ │ │ └── cups_order_right_hand_20260707_164634.hdf5 │ ├── cups_order_right_hand_20260707_165435/ │ │ └── cups_order_right_hand_20260707_165435.hdf5 │ ├── cups_order_right_hand_20260707_165654/ │ │ └── cups_order_right_hand_20260707_165654.hdf5 │ ├── cups_order_right_hand_20260707_165904/ │ │ └── cups_order_right_hand_20260707_165904.hdf5 │ └── cups_order_right_hand_20260707_170124/ │ └── cups_order_right_hand_20260707_170124.hdf5 └── raw_data/ # 原始多模态记录（图像 + 视频 + 标定） └── cups_order_right_hand_20260707_164634/ └── cups_order_right_hand_20260707_164634_extracted/ └── observe/ └── vision/ ├── left_hand_rgb/ # 左手腕视角（video + metadata） ├── right_hand_rgb/ # 右手腕视角 ├── head_zed_left/ # 头部 ZED 左目 ├── head_zed_right/ # 头部 ZED 右目 ├── head_global_rgb/ # 头部全局 RGB ├── head_global_depth/ # 头部全局深度 └── *_frames/ # 各视角抽帧后的 PNG 序列 ``` --- ## 3. 采集会话清单 | 会话 ID | 起始时间 | HDF5 轨迹 | 原始帧 | | --- | --- | --- | --- | | `cups_order_right_hand_20260707_164634` | 16:46:34 | ✅ | ✅ | | `cups_order_right_hand_20260707_165435` | 16:54:35 | ✅ | — | | `cups_order_right_hand_20260707_165654` | 16:56:54 | ✅ | — | | `cups_order_right_hand_20260707_165904` | 16:59:04 | ✅ | — | | `cups_order_right_hand_20260707_170124` | 17:01:24 | ✅ | — | > 说明：完整的多视角原始帧（18,915 张 PNG + 5 段 MP4）随**首个会话** `164634` 一同发布；其余 4 次采集提供压缩后的 HDF5 轨迹。 ## 4. 相机视角与帧数 | 视角目录 | 帧数（PNG） | 视频 | | --- | --- | --- | | `head_global_depth_frames` | 5,565 | ✅ | | `right_hand_rgb_frames` | 3,089 | ✅ | | `head_zed_right_frames` | 2,629 | ✅ | | `left_hand_rgb_frames` | 2,563 | ✅ | | `head_zed_left_frames` | 2,546 | ✅ | | `head_global_rgb_frames` | 2,522 | ✅ | 帧文件命名规则：`frame_%06d.png`。**编号并非严格连续**（采集过程中存在丢帧），使用时请按文件名排序取序列，不要假设 `i` 与 `i+1` 相邻。 ### 数据预览 ![六视角总览](preview_overview.png) ![六视角同步动图](preview_grid.gif) | 预览文件 | 内容 | | --- | --- | | `preview_overview.png` | 6 路视角单帧总览 | | `preview_grid.gif` | 6 路视角同步动图（24 帧） | | `preview_right_hand_rgb.gif` | 右手腕视角动态预览 | | `preview_head_global_rgb.gif` | 头部全局 RGB 动态预览 | | `preview_head_global_depth.gif` | 头部全局深度动态预览 | --- ## 5. 下载 ### 5.1 huggingface-cli（推荐，支持断点续传） ```bash pip install -U "huggingface_hub[cli]" export HF_ENDPOINT=https://hf-mirror.com # 国内网络可加，境外可省略 huggingface-cli download dex-robot/cap cap.zip --repo-type dataset --local-dir ./cap_data ``` ### 5.2 Python ```python from huggingface_hub import hf_hub_download p = hf_hub_download("dex-robot/cap", "cap.zip", repo_type="dataset") print(p) ``` ### 5.3 直链 ``` https://huggingface.co/datasets/dex-robot/cap/resolve/main/cap.zip ``` --- ## 6. 解压与校验 ```bash # 1) 大小核对 stat -c %s cap.zip # 应为 10697737890 # 2) SHA256 核对 sha256sum cap.zip # f91c11ee1761822fa875d4783c1fd9388f6fa3f0fa3feeef6cd5c20775220c10 # 3) 逐文件 CRC 校验（18963 项全部 OK 即为通过） unzip -t cap.zip # 4) 解压到当前目录，得到 cap/ unzip -q cap.zip du -sh cap ``` 预期结果： ``` cap/ ├── hdf5/ (5 个 .hdf5) └── raw_data/ (18,934 个文件) ``` --- ## 7. 读取示例 ### 7.1 读取 HDF5 轨迹 ```python import h5py path = "cap/hdf5/cups_order_right_hand_20260707_164634/cups_order_right_hand_20260707_164634.hdf5" with h5py.File(path, "r") as f: def show(name, obj): if isinstance(obj, h5py.Dataset): print(f"D {name:50s} shape={obj.shape} dtype={obj.dtype}") else: print(f"G {name}") f.visititems(show) ``` ### 7.2 读取图像帧 ```python import cv2, glob frames = sorted(glob.glob( "cap/raw_data/cups_order_right_hand_20260707_164634/" "cups_order_right_hand_20260707_164634_extracted/observe/vision/" "head_global_rgb_frames/frame_*.png")) print("帧数:", len(frames)) img = cv2.imread(frames[0]) print(img.shape) # (H, W, 3) ``` --- ## 8. 推荐环境 ```bash pip install h5py opencv-python numpy ``` - Python ≥ 3.8 - 解压后约需 15 GB 可用磁盘（原始 PNG 序列体积较大） - 读取深度数据时注意 `head_global_depth` 可能为 16-bit PNG 或伴随 `.npy` / `.raw` 原始深度 --- ## 9. 许可与引用 - 许可：见仓库 `LICENSE`（未单独指定时请联系数据发布方） - 引用本数据集时请注明来源： ```bibtex @misc{cap_dataset_2026, title = {CAP: Cups Ordering Dexterous Manipulation Capture Dataset (Right Hand)}, author = {dex-robot}, year = {2026}, howpublished = {\url{https://huggingface.co/datasets/dex-robot/cap}} } ``` --- ## 10. 常见问题 **Q：下载中断怎么办？** `huggingface-cli download` 支持断点续传，重新执行同一条命令即可继续；也可加 `--max-workers 1` 降低并发提升稳定性。 **Q：`unzip` 报 "End-of-central-directory signature not found"？** 说明下载不完整、文件被截断，请校验文件大小是否为 **10,697,737,890 字节**、SHA256 是否匹配，不一致请重新下载。 **Q：只想用轨迹，不想下 10 GB 图像？** 目前仅提供整包发布；有细分需求请在仓库 Discussion 中提出。 **Q：深度图和 RGB 怎么对齐？** 同视角的 `*_frames` 与 MP4 按帧序号（`frame_%06d`）一一对应；跨视角对齐请使用 `raw_data/.../observe/vision/` 下的标定 JSON。 --- ## 11. 已知限制 1. **帧编号不连续**：各视角 `frame_%06d.png` 的编号存在跳号（采集过程中的丢帧），例如 `right_hand_rgb_frames` 实际 3,089 帧、最大编号 3,746。请按文件名排序后的顺序使用，不要通过 `i+1` 推断下一帧。 2. **原始帧仅覆盖首个会话**：5 次采集中，只有 `164634` 附带完整的多视角 PNG / MP4；其余 4 次仅有 HDF5 轨迹。 3. **HDF5 内部结构随版本演进**：不同采集时间生成的 HDF5 其 group / dataset 名称可能有差异，读取时请先 `visititems` 打印结构再取数。 4. 本数据集由一次中断的打包过程抢救重建而来（已通过全部 18,963 项 CRC 校验），末尾 1 个不完整的 PNG 帧已被剔除。