Datasets:

dex-robot
/

cap

---
license: other
task_categories:
  - robotics
tags:
  - robotics
  - dexterous-manipulation
  - teleoperation
  - motion-capture
  - human-hand
  - imitation-learning
  - hdf5
size_categories:
  - 10GB
---
# CAP —— 杯序整理任务（右手）灵巧操作数据集

CAP（Capture Dataset）是一套**人类手部动作采集 + 灵巧操作演示**数据集，记录了操作者用右手完成「**按序摆放杯子（cups_order）**」任务的全过程。数据以 DexCap 风格的采集管线记录，包含**压缩后的轨迹 HDF5** 与**多视角相机的原始图像帧**，可直接用于动作复现、模仿学习与手部姿态分析。
- 仓库：`dex-robot/cap`
- 主文件：`cap.zip`（10,697,737,890 字节 ≈ 9.96 GiB）
- 收录内容：18,939 个文件 + 24 个目录条目
- SHA256：`f91c11ee1761822fa875d4783c1fd9388f6fa3f0fa3feeef6cd5c20775220c10`
- 采集日期：2026-07-07
- 任务：cups_order（按序摆放杯子）
- 手别：右手（right hand）
---
## 1. 数据总览
| 项目 | 内容 |
| --- | --- |
| 任务 | cups_order（按序摆放杯子） |
| 采集手别 | 右手 |
| 采集日期 | 2026-07-07 |
| 有效采集次数 | 5 次（16:46:34 / 16:54:35 / 16:56:54 / 16:59:04 / 17:01:24） |
| 轨迹文件 | 5 个 `.hdf5`（每次采集一个） |
| 相机视角 | 6 路（左手 / 右手 / 头部双目 / 头部全局 RGB / 头部全局深度） |
| 图像帧 | 18,914 张 `.png` + 5 段 `.mp4` |
| 其他 | 3 个 `.json`、6 个 `.txt`、5 个 `.npy`、1 个 `.raw` |
| 压缩包大小 | 10.7 GB（10,697,737,890 字节） |
---
## 2. 目录结构
```
cap/
├── hdf5/                                   # 每次采集一条压缩轨迹
│   ├── cups_order_right_hand_20260707_164634/
│   │   └── cups_order_right_hand_20260707_164634.hdf5
│   ├── cups_order_right_hand_20260707_165435/
│   │   └── cups_order_right_hand_20260707_165435.hdf5
│   ├── cups_order_right_hand_20260707_165654/
│   │   └── cups_order_right_hand_20260707_165654.hdf5
│   ├── cups_order_right_hand_20260707_165904/
│   │   └── cups_order_right_hand_20260707_165904.hdf5
│   └── cups_order_right_hand_20260707_170124/
│       └── cups_order_right_hand_20260707_170124.hdf5
└── raw_data/                               # 原始多模态记录（图像 + 视频 + 标定）
    └── cups_order_right_hand_20260707_164634/
        └── cups_order_right_hand_20260707_164634_extracted/
            └── observe/
                └── vision/
                    ├── left_hand_rgb/            # 左手腕视角（video + metadata）
                    ├── right_hand_rgb/           # 右手腕视角
                    ├── head_zed_left/            # 头部 ZED 左目
                    ├── head_zed_right/           # 头部 ZED 右目
                    ├── head_global_rgb/          # 头部全局 RGB
                    ├── head_global_depth/        # 头部全局深度
                    └── *_frames/                 # 各视角抽帧后的 PNG 序列
```
---
## 3. 采集会话清单
| 会话 ID | 起始时间 | HDF5 轨迹 | 原始帧 |
| --- | --- | --- | --- |
| `cups_order_right_hand_20260707_164634` | 16:46:34 | ✅ | ✅ |
| `cups_order_right_hand_20260707_165435` | 16:54:35 | ✅ | — |
| `cups_order_right_hand_20260707_165654` | 16:56:54 | ✅ | — |
| `cups_order_right_hand_20260707_165904` | 16:59:04 | ✅ | — |
| `cups_order_right_hand_20260707_170124` | 17:01:24 | ✅ | — |
> 说明：完整的多视角原始帧（18,915 张 PNG + 5 段 MP4）随**首个会话** `164634` 一同发布；其余 4 次采集提供压缩后的 HDF5 轨迹。
## 4. 相机视角与帧数
| 视角目录 | 帧数（PNG） | 视频 |
| --- | --- | --- |
| `head_global_depth_frames` | 5,565 | ✅ |
| `right_hand_rgb_frames` | 3,089 | ✅ |
| `head_zed_right_frames` | 2,629 | ✅ |
| `left_hand_rgb_frames` | 2,563 | ✅ |
| `head_zed_left_frames` | 2,546 | ✅ |
| `head_global_rgb_frames` | 2,522 | ✅ |
帧文件命名规则：`frame_%06d.png`。**编号并非严格连续**（采集过程中存在丢帧），使用时请按文件名排序取序列，不要假设 `i` 与 `i+1` 相邻。
### 数据预览
![六视角总览](preview_overview.png)
![六视角同步动图](preview_grid.gif)
| 预览文件 | 内容 |
| --- | --- |
| `preview_overview.png` | 6 路视角单帧总览 |
| `preview_grid.gif` | 6 路视角同步动图（24 帧） |
| `preview_right_hand_rgb.gif` | 右手腕视角动态预览 |
| `preview_head_global_rgb.gif` | 头部全局 RGB 动态预览 |
| `preview_head_global_depth.gif` | 头部全局深度动态预览 |
---
## 5. 下载
### 5.1 huggingface-cli（推荐，支持断点续传）
```bash
pip install -U "huggingface_hub[cli]"
export HF_ENDPOINT=https://hf-mirror.com        # 国内网络可加，境外可省略
huggingface-cli download dex-robot/cap cap.zip --repo-type dataset --local-dir ./cap_data
```
### 5.2 Python
```python
from huggingface_hub import hf_hub_download
p = hf_hub_download("dex-robot/cap", "cap.zip", repo_type="dataset")
print(p)
```
### 5.3 直链
```
https://huggingface.co/datasets/dex-robot/cap/resolve/main/cap.zip
```
---
## 6. 解压与校验
```bash
# 1) 大小核对
stat -c %s cap.zip        # 应为 10697737890
# 2) SHA256 核对
sha256sum cap.zip
# f91c11ee1761822fa875d4783c1fd9388f6fa3f0fa3feeef6cd5c20775220c10
# 3) 逐文件 CRC 校验（18963 项全部 OK 即为通过）
unzip -t cap.zip
# 4) 解压到当前目录，得到 cap/
unzip -q cap.zip
du -sh cap
```
预期结果：
```
cap/
├── hdf5/      (5 个 .hdf5)
└── raw_data/  (18,934 个文件)
```
---
## 7. 读取示例
### 7.1 读取 HDF5 轨迹
```python
import h5py
path = "cap/hdf5/cups_order_right_hand_20260707_164634/cups_order_right_hand_20260707_164634.hdf5"
with h5py.File(path, "r") as f:
    def show(name, obj):
        if isinstance(obj, h5py.Dataset):
            print(f"D {name:50s} shape={obj.shape} dtype={obj.dtype}")
        else:
            print(f"G {name}")
    f.visititems(show)
```
### 7.2 读取图像帧
```python
import cv2, glob
frames = sorted(glob.glob(
    "cap/raw_data/cups_order_right_hand_20260707_164634/"
    "cups_order_right_hand_20260707_164634_extracted/observe/vision/"
    "head_global_rgb_frames/frame_*.png"))
print("帧数:", len(frames))
img = cv2.imread(frames[0])
print(img.shape)  # (H, W, 3)
```
---
## 8. 推荐环境
```bash
pip install h5py opencv-python numpy
```
- Python ≥ 3.8
- 解压后约需 15 GB 可用磁盘（原始 PNG 序列体积较大）
- 读取深度数据时注意 `head_global_depth` 可能为 16-bit PNG 或伴随 `.npy` / `.raw` 原始深度
---
## 9. 许可与引用
- 许可：见仓库 `LICENSE`（未单独指定时请联系数据发布方）
- 引用本数据集时请注明来源：
```bibtex
@misc{cap_dataset_2026,
  title  = {CAP: Cups Ordering Dexterous Manipulation Capture Dataset (Right Hand)},
  author = {dex-robot},
  year   = {2026},
  howpublished = {\url{https://huggingface.co/datasets/dex-robot/cap}}
}
```
---
## 10. 常见问题
**Q：下载中断怎么办？**
`huggingface-cli download` 支持断点续传，重新执行同一条命令即可继续；也可加 `--max-workers 1` 降低并发提升稳定性。
**Q：`unzip` 报 "End-of-central-directory signature not found"？**
说明下载不完整、文件被截断，请校验文件大小是否为 **10,697,737,890 字节**、SHA256 是否匹配，不一致请重新下载。
**Q：只想用轨迹，不想下 10 GB 图像？**
目前仅提供整包发布；有细分需求请在仓库 Discussion 中提出。
**Q：深度图和 RGB 怎么对齐？**
同视角的 `*_frames` 与 MP4 按帧序号（`frame_%06d`）一一对应；跨视角对齐请使用 `raw_data/.../observe/vision/` 下的标定 JSON。
---
## 11. 已知限制
1. **帧编号不连续**：各视角 `frame_%06d.png` 的编号存在跳号（采集过程中的丢帧），例如 `right_hand_rgb_frames` 实际 3,089 帧、最大编号 3,746。请按文件名排序后的顺序使用，不要通过 `i+1` 推断下一帧。
2. **原始帧仅覆盖首个会话**：5 次采集中，只有 `164634` 附带完整的多视角 PNG / MP4；其余 4 次仅有 HDF5 轨迹。
3. **HDF5 内部结构随版本演进**：不同采集时间生成的 HDF5 其 group / dataset 名称可能有差异，读取时请先 `visititems` 打印结构再取数。
4. 本数据集由一次中断的打包过程抢救重建而来（已通过全部 18,963 项 CRC 校验），末尾 1 个不完整的 PNG 帧已被剔除。

	---
	license: other
	task_categories:
	- robotics
	tags:
	- robotics
	- dexterous-manipulation
	- teleoperation
	- motion-capture
	- human-hand
	- imitation-learning
	- hdf5
	size_categories:
	- 10GB
	---

	# CAP —— 杯序整理任务（右手）灵巧操作数据集

	CAP（Capture Dataset）是一套人类手部动作采集 + 灵巧操作演示数据集，记录了操作者用右手完成「按序摆放杯子（cups_order）」任务的全过程。数据以 DexCap 风格的采集管线记录，包含压缩后的轨迹 HDF5 与多视角相机的原始图像帧，可直接用于动作复现、模仿学习与手部姿态分析。

	- 仓库：`dex-robot/cap`
	- 主文件：`cap.zip`（10,697,737,890 字节 ≈ 9.96 GiB）
	- 收录内容：18,939 个文件 + 24 个目录条目
	- SHA256：`f91c11ee1761822fa875d4783c1fd9388f6fa3f0fa3feeef6cd5c20775220c10`
	- 采集日期：2026-07-07
	- 任务：cups_order（按序摆放杯子）
	- 手别：右手（right hand）

	---

	## 1. 数据总览

	\| 项目 \| 内容 \|
	\| --- \| --- \|
	\| 任务 \| cups_order（按序摆放杯子） \|
	\| 采集手别 \| 右手 \|
	\| 采集日期 \| 2026-07-07 \|
	\| 有效采集次数 \| 5 次（16:46:34 / 16:54:35 / 16:56:54 / 16:59:04 / 17:01:24） \|
	\| 轨迹文件 \| 5 个 `.hdf5`（每次采集一个） \|
	\| 相机视角 \| 6 路（左手 / 右手 / 头部双目 / 头部全局 RGB / 头部全局深度） \|
	\| 图像帧 \| 18,914 张 `.png` + 5 段 `.mp4` \|
	\| 其他 \| 3 个 `.json`、6 个 `.txt`、5 个 `.npy`、1 个 `.raw` \|
	\| 压缩包大小 \| 10.7 GB（10,697,737,890 字节） \|

	---

	## 2. 目录结构

	```
	cap/
	├── hdf5/ # 每次采集一条压缩轨迹
	│ ├── cups_order_right_hand_20260707_164634/
	│ │ └── cups_order_right_hand_20260707_164634.hdf5
	│ ├── cups_order_right_hand_20260707_165435/
	│ │ └── cups_order_right_hand_20260707_165435.hdf5
	│ ├── cups_order_right_hand_20260707_165654/
	│ │ └── cups_order_right_hand_20260707_165654.hdf5
	│ ├── cups_order_right_hand_20260707_165904/
	│ │ └── cups_order_right_hand_20260707_165904.hdf5
	│ └── cups_order_right_hand_20260707_170124/
	│ └── cups_order_right_hand_20260707_170124.hdf5
	└── raw_data/ # 原始多模态记录（图像 + 视频 + 标定）
	└── cups_order_right_hand_20260707_164634/
	└── cups_order_right_hand_20260707_164634_extracted/
	└── observe/
	└── vision/
	├── left_hand_rgb/ # 左手腕视角（video + metadata）
	├── right_hand_rgb/ # 右手腕视角
	├── head_zed_left/ # 头部 ZED 左目
	├── head_zed_right/ # 头部 ZED 右目
	├── head_global_rgb/ # 头部全局 RGB
	├── head_global_depth/ # 头部全局深度
	└── *_frames/ # 各视角抽帧后的 PNG 序列
	```

	---

	## 3. 采集会话清单

	\| 会话 ID \| 起始时间 \| HDF5 轨迹 \| 原始帧 \|
	\| --- \| --- \| --- \| --- \|
	\| `cups_order_right_hand_20260707_164634` \| 16:46:34 \| ✅ \| ✅ \|
	\| `cups_order_right_hand_20260707_165435` \| 16:54:35 \| ✅ \| — \|
	\| `cups_order_right_hand_20260707_165654` \| 16:56:54 \| ✅ \| — \|
	\| `cups_order_right_hand_20260707_165904` \| 16:59:04 \| ✅ \| — \|
	\| `cups_order_right_hand_20260707_170124` \| 17:01:24 \| ✅ \| — \|

	> 说明：完整的多视角原始帧（18,915 张 PNG + 5 段 MP4）随首个会话 `164634` 一同发布；其余 4 次采集提供压缩后的 HDF5 轨迹。

	## 4. 相机视角与帧数

	\| 视角目录 \| 帧数（PNG） \| 视频 \|
	\| --- \| --- \| --- \|
	\| `head_global_depth_frames` \| 5,565 \| ✅ \|
	\| `right_hand_rgb_frames` \| 3,089 \| ✅ \|
	\| `head_zed_right_frames` \| 2,629 \| ✅ \|
	\| `left_hand_rgb_frames` \| 2,563 \| ✅ \|
	\| `head_zed_left_frames` \| 2,546 \| ✅ \|
	\| `head_global_rgb_frames` \| 2,522 \| ✅ \|

	帧文件命名规则：`frame_%06d.png`。编号并非严格连续（采集过程中存在丢帧），使用时请按文件名排序取序列，不要假设 `i` 与 `i+1` 相邻。

	### 数据预览

	![六视角总览](preview_overview.png)

	![六视角同步动图](preview_grid.gif)

	\| 预览文件 \| 内容 \|
	\| --- \| --- \|
	\| `preview_overview.png` \| 6 路视角单帧总览 \|
	\| `preview_grid.gif` \| 6 路视角同步动图（24 帧） \|
	\| `preview_right_hand_rgb.gif` \| 右手腕视角动态预览 \|
	\| `preview_head_global_rgb.gif` \| 头部全局 RGB 动态预览 \|
	\| `preview_head_global_depth.gif` \| 头部全局深度动态预览 \|

	---

	## 5. 下载

	### 5.1 huggingface-cli（推荐，支持断点续传）

	```bash
	pip install -U "huggingface_hub[cli]"
	export HF_ENDPOINT=https://hf-mirror.com # 国内网络可加，境外可省略
	huggingface-cli download dex-robot/cap cap.zip --repo-type dataset --local-dir ./cap_data
	```

	### 5.2 Python

	```python
	from huggingface_hub import hf_hub_download
	p = hf_hub_download("dex-robot/cap", "cap.zip", repo_type="dataset")
	print(p)
	```

	### 5.3 直链

	```
	https://huggingface.co/datasets/dex-robot/cap/resolve/main/cap.zip
	```

	---

	## 6. 解压与校验

	```bash
	# 1) 大小核对
	stat -c %s cap.zip # 应为 10697737890

	# 2) SHA256 核对
	sha256sum cap.zip
	# f91c11ee1761822fa875d4783c1fd9388f6fa3f0fa3feeef6cd5c20775220c10

	# 3) 逐文件 CRC 校验（18963 项全部 OK 即为通过）
	unzip -t cap.zip

	# 4) 解压到当前目录，得到 cap/
	unzip -q cap.zip

	du -sh cap
	```

	预期结果：

	```
	cap/
	├── hdf5/ (5 个 .hdf5)
	└── raw_data/ (18,934 个文件)
	```

	---

	## 7. 读取示例

	### 7.1 读取 HDF5 轨迹

	```python
	import h5py

	path = "cap/hdf5/cups_order_right_hand_20260707_164634/cups_order_right_hand_20260707_164634.hdf5"
	with h5py.File(path, "r") as f:
	def show(name, obj):
	if isinstance(obj, h5py.Dataset):
	print(f"D {name:50s} shape={obj.shape} dtype={obj.dtype}")
	else:
	print(f"G {name}")
	f.visititems(show)
	```

	### 7.2 读取图像帧

	```python
	import cv2, glob

	frames = sorted(glob.glob(
	"cap/raw_data/cups_order_right_hand_20260707_164634/"
	"cups_order_right_hand_20260707_164634_extracted/observe/vision/"
	"head_global_rgb_frames/frame_*.png"))
	print("帧数:", len(frames))
	img = cv2.imread(frames[0])
	print(img.shape) # (H, W, 3)
	```

	---

	## 8. 推荐环境

	```bash
	pip install h5py opencv-python numpy
	```

	- Python ≥ 3.8
	- 解压后约需 15 GB 可用磁盘（原始 PNG 序列体积较大）
	- 读取深度数据时注意 `head_global_depth` 可能为 16-bit PNG 或伴随 `.npy` / `.raw` 原始深度

	---

	## 9. 许可与引用

	- 许可：见仓库 `LICENSE`（未单独指定时请联系数据发布方）
	- 引用本数据集时请注明来源：

	```bibtex
	@misc{cap_dataset_2026,
	title = {CAP: Cups Ordering Dexterous Manipulation Capture Dataset (Right Hand)},
	author = {dex-robot},
	year = {2026},
	howpublished = {\url{https://huggingface.co/datasets/dex-robot/cap}}
	}
	```

	---

	## 10. 常见问题

	Q：下载中断怎么办？
	`huggingface-cli download` 支持断点续传，重新执行同一条命令即可继续；也可加 `--max-workers 1` 降低并发提升稳定性。

	Q：`unzip` 报 "End-of-central-directory signature not found"？
	说明下载不完整、文件被截断，请校验文件大小是否为 10,697,737,890 字节、SHA256 是否匹配，不一致请重新下载。

	Q：只想用轨迹，不想下 10 GB 图像？
	目前仅提供整包发布；有细分需求请在仓库 Discussion 中提出。

	Q：深度图和 RGB 怎么对齐？
	同视角的 `*_frames` 与 MP4 按帧序号（`frame_%06d`）一一对应；跨视角对齐请使用 `raw_data/.../observe/vision/` 下的标定 JSON。

	---

	## 11. 已知限制

	1. 帧编号不连续：各视角 `frame_%06d.png` 的编号存在跳号（采集过程中的丢帧），例如 `right_hand_rgb_frames` 实际 3,089 帧、最大编号 3,746。请按文件名排序后的顺序使用，不要通过 `i+1` 推断下一帧。
	2. 原始帧仅覆盖首个会话：5 次采集中，只有 `164634` 附带完整的多视角 PNG / MP4；其余 4 次仅有 HDF5 轨迹。
	3. HDF5 内部结构随版本演进：不同采集时间生成的 HDF5 其 group / dataset 名称可能有差异，读取时请先 `visititems` 打印结构再取数。
	4. 本数据集由一次中断的打包过程抢救重建而来（已通过全部 18,963 项 CRC 校验），末尾 1 个不完整的 PNG 帧已被剔除。