README_CN.md

---
license: cc-by-nc-sa-4.0
---

<div align=" center">
  <h1 style="margin: 0;">Daimon-Infinity</h1>
</div>

<div align=" center">
全球最大规模含触觉全模态物理世界数据集
</div>

<div align="center">
  <img src="https://modelscope.cn/datasets/daimonrobotics/images/resolve/master/images/front_cn.png" alt="TACEXO Cover" width="100%">
</div>

<div style="display: flex; justify-content: space-between; align-items: center; width: 100%;">
  <div>
    <a href="https://modelscope.cn/datasets/daimonrobotics/TacExo">
      <img src="https://img.shields.io/badge/Modelscope-1890FF?style=for-the-badge&logo=alibabacloud" alt="Modelscope">
    </a>
  </div>
</div>

🌐 语言： 中文 | [English](README_en.md)

<div style="font-size:1.1em; margin: 0 0 16px 0; text-align: left;">
  针对当前具身智能领域在精细操作数据上的关键瓶颈，戴盟提出了<span style="color:#00008B">D</span><span style="color:#0000CD">a</span><span style="color:#1E90FF">i</span><span style="color:#00BFFF">m</span><span style="color:#87CEFA">o</span><span style="color:#ADD8E6">n</span><span style="color:#B0E0E6">-</span><span style="color:#0000CD">I</span><span style="color:#1E90FF">n</span><span style="color:#00BFFF">f</span><span style="color:#87CEFA">i</span><span style="color:#ADD8E6">n</span><span style="color:#B0E0E6">i</span><span style="color:#87CEFA">t</span><span style="color:#00BFFF">y</span>数据集。该项目将向全行业开源超过 10,000 小时的视觉-触觉-语言-动作（VTLA）多模态数据，旨在构建以触觉为核心的具身智能数据生态，推动机器人精细操作能力的突破与规模化发展。我们相信，大规模高质量的触觉数据将成为下一代具身智能系统发展的关键驱动力。
</div>

<a id="更新"></a>
## 📢 更新

- [2026年4月15日] 🆕 Daimon-Infinity 数据集已经发布！🔥

## 📋 目录

- [Daimon-Infinity 触觉操作数据集](#tacexo-触觉操作数据集)
  - [📢 更新](#-更新)
  - [📋 目录](#-目录)
  - [✨ 概述](#-概述)
  - [🤖 硬件平台](#-硬件平台)
    - [DM-DataClaw & DM-TacClaw](#dm-dataclaw--dm-tacclaw)
    - [DM-DataDex](#dm-datadex)
  - [🚀 数据模态](#-数据模态)
    - [DM-DataClaw](#DM-DataClaw)
  - [🛠️ 工具仓库](#️-工具仓库)
  - [🎬 任务与数据内容简介](#-任务与数据内容简介)
    - [语义标签](#语义标签)
    - [数据统计](#数据统计)
  - [📦 数据集](#-数据集)
    - [数据集目录结构](#数据集目录结构)
    - [数据格式](#数据格式)
      - [主数据文件](#主数据文件)
      - [数据字段说明](#数据字段说明)
      - [Observation.state 维度说明（114维）](#observationstate-维度说明114维)
      - [Action 维度说明（111维）](#action-维度说明111维)
      - [占位值说明](#占位值说明)
      - [视频说明](#视频说明)
      - [触觉视频说明](#触觉视频说明)
      - [音频说明](#音频说明)
    - [元数据说明episodes\_metadata.json](#元数据说明episodes_metadatajson)
  - [💡 训练使用建议](#-训练使用建议)
  - [📥数据资源获取](#数据资源获取)
    - [样例数据](#样例数据)
  - [📋 数据交流群](#-数据交流群)
  - [📝 引用](#-引用)
  - [📄 许可证](#-许可证)

<a id="概述"></a>
## ✨ 概述

我们现正式开源 **Daimon-Infinity 数据集** 的首批 **1000 小时**数据。其中，大部分数据由 **DM-DataClaw** 设备采集，少部分由 **DM-DataDex** 获取。两种设备均支持在真实环境中的**去本体化数据采集**，以提升数据的泛化能力与规模化采集效率。

<a id="硬件平台"></a>
## 🤖 硬件平台

<a id="DM-DataClaw&DM-TacClaw"></a>
### DM-DataClaw & DM-TacClaw

<div align="center">
  <img src="https://modelscope.cn/datasets/daimonrobotics/images/resolve/master/images/tac&dataclaw.png" alt="相机配置" width="100%" style="display:inline-block; margin-right: 10px;">
</div>


**DM-DataClaw** 是一款新一代触觉 UMI 数据采集设备，在硬件设计与用户体验方面均进行了系统性升级：

- **结构设计** —— 采用轻量化机身与优化的人机工学设计，使操作更加便捷，同时在数据采集过程中为操作者提供更直接、稳定的触觉反馈。
- **交互系统** —— 集成耳机与麦克风、手机端小程序、双物理控制按钮以及状态指示灯，构建低延迟、直观且高效的人机交互流程。
- **多模态传感集成** —— 配备紧凑型广角鱼眼相机用于视觉感知，双目相机 + IMU 模块实现高精度空间轨迹跟踪，同时集成指尖高分辨率触觉传感器与夹爪位置编码器，实现完整的视觉-触觉-运动信息采集。


**DM-TacClaw** 是一款与 **DM-DataClaw** 同构设计的电动执行夹爪，可用于对基于 **DM-DataClaw** 数据训练的模型进行零样本或少样本部署验证与执行：
- **多模态感知一体化** —— 内置广角鱼眼相机覆盖操作视野，二指集成高分辨率视触觉传感器，实现视觉与触觉的深度融合感知，精准捕捉环境信息与接触细节。

- **性能与适用性兼顾** —— 具备100mm大行程与0.1mm定位精度，兼顾大范围抓取与精细操作需求，适用于多类型物体的稳定夹持与复杂任务执行。

- **系统同构与灵活控制** —— 鱼眼视角下的空间构型与无本体数采夹爪保持一致，支持模型快速迁移与验证；同时开放位置、速度、力矩等参数配置，实现高灵活度的运动控制与策略适配。

<a id="DM-DataDex"></a>
### DM-DataDex
<!-- TODO -->
<div align="center">
  <img src="https://modelscope.cn/datasets/daimonrobotics/images/resolve/master/images/DataDex_CN_bold.png" alt="相机配置" width="100%" style="display:inline-block; margin-right: 10px;">
</div>

**DM-DataDex** 是一套基于外骨骼的多模态数据采集系统，专为高保真 VTLA（视觉-触觉-语言-动作）数据采集与灵巧操作任务而设计。不同于夹爪式方案，**DM-DataDex** 通过可穿戴外骨骼设备直接捕捉人手的运动与接触交互，并结合高密度多模态传感，实现面向具身智能的大规模、高精度数据采集。

- **形态结构** —— 采用可穿戴外骨骼设计，在数据采集过程中最大程度保留人手的自然运动学特性与操作自由度。
- **触觉感知** —— 指尖集成高分辨率触觉传感器，可捕捉形变（deformation）、剪切（shear）及接触几何等关键接触信息。
- **手部追踪** —— 基于外骨骼关节编码器获取高精度手指姿态，并结合手腕追踪器实现完整手部位姿重建。
- **视线与头部追踪** —— 通过 VR 头显提供第一人称视角图像、眼动信息以及 6 自由度头部位姿，实现人类感知对齐的数据采集。
- **第三视角采集** —— 外部相机结合空间追踪器，实现带位姿标定的场景级观测与多视角融合。

<a id="数据模态"></a>
## 🚀 数据模态

### DM-DataClaw
| 模态 | 传感器 |
|---|---|
| RGB | 手腕安装的广角鱼眼相机 |
| 触觉 | 指尖高分辨率触觉传感器 |
| 位姿 | 双目视觉 + IMU 空间追踪系统 |
| 夹爪状态 | 夹爪位置编码器 |
| 语言 | 自然语言任务标注 |

### DM-DataDex
| 模态 | 传感器 |
|---|---|
| RGB（第一视角） | VR 头显第一人称相机 |
| RGB-D（第三视角） | 外部相机（带空间追踪器） |
| 触觉 | 指尖高分辨率触觉传感器 |
| 手部位姿 | 外骨骼关节编码器 |
| 手腕位姿 | 手腕安装的空间追踪器 |
| 视线与头部位姿 | VR 头显（眼动追踪 + 6 自由度头部位姿） |
| 第三视角位姿 | 外部相机搭载的空间追踪器 |
| 语言 | 自然语言任务标注 |

> 所有位姿追踪器（手腕、第三视角相机、VR 头显）均基于同一套空间追踪系统，实现跨模态的统一坐标系对齐与高精度时空同步。

<a id="工具仓库"></a>
## 🛠️ 工具仓库
我们提供了数据可视化，可视化所需的urdf请于assets文件夹获取
详细内容请见开源仓库：**[Daimon-Infinity-Lite](https://modelscope.cn/datasets/daimonrobotics/Daimon-Infinity-Lite)** 🔥

<a id="任务与数据内容简介"></a>
## 🎬 任务与数据内容简介

本数据集覆盖分拣、装配操作、抓取放置等多种场景，包含多模态观测（RGB、触觉形变/剪切/深度、关节状态等）与丰富的原子技能（如抓取、双手操作、工具使用等）。


<a id="语义标签"></a>
### 语义标签

数据集采用规范标注方法，为每个任务提供子任务级别的时间轴与自然语言标注。
<!-- TODO -->
<div style="text-align: center;">
<img src="https://modelscope.cn/datasets/daimonrobotics/images/resolve/master/images/DataClawSample.png" width="100%">
</div>
上图为样例任务，该样例展示了如何把一段完整的机器人操作视频，按照操作状态和阶段变化拆分成多个子任务。在这个例子里，机器人已经完成抓取，当前片段对应的是 transport 阶段，也就是在保持稳定抓持的前提下，将目标物体移动到新的位置。

通过该标注方法，一段原本较长且连续的操作过程，可以被组织成更清晰的阶段序列，便于浏览、标注、检索，以及用于后续的动作理解、阶段识别和操作学习。

每条数据配套多维度语义标签信息，包括：

- **物品标签**：操作对象类别（如工具、零件、日用品等）
- **技能标签**：原子操作类型（如抓取、放置、旋转、插入等）
- **任务与场景标识**：任务编码与场景分类
- **末端类型**：DataClaw夹爪
- **语言描述**：自然语言任务描述

<a id="数据统计"></a>
### 数据统计

基于累计约 1209 小时的数据，我们从操作对象、动作语义、任务层级、数据来源构成以及动作时长等多个维度对数据集进行了系统统计分析。下图依次展示了对象词云、动作词云、任务层级结构、DM-DataClaw 与 DM-DataDex 的数据来源占比，以及不同操作动作的时长分布，有助于直观理解数据集的覆盖广度、结构组成与长尾特征。

<table align="center">
  <tr>
    <td align="center" width="50%">
      <img src="https://modelscope.cn/datasets/daimonrobotics/images/resolve/master/images/object_word_cloud.png" alt="Object Word Cloud" width="100%">
      <br>
      <sub><b>对象词云</b>：展示数据集中操作对象的分布情况。</sub>
    </td>
    <td align="center" width="50%">
      <img src="https://modelscope.cn/datasets/daimonrobotics/images/resolve/master/images/action_word_cloud.png" alt="Action Word Cloud" width="100%">
      <br>
      <sub><b>动作词云</b>：展示原子技能与动作动词的分布情况。</sub>
    </td>
  </tr>
</table>

<table align="center">
  <tr>
    <td align="center" width="50%" style="text-align: center; vertical-align: top;">
      <img src="https://modelscope.cn/datasets/daimonrobotics/images/resolve/master/images/task_hierarchy.png" alt="Task Hierarchy" style="display: block; margin: 0 auto;">
      <br>
      <sub><b>任务层级结构</b>：从动作到具体实例，展示数据集的多层次组织关系。</sub>
    </td>
    <td align="center" width="50%" style="text-align: center; vertical-align: top;">
      <img src="https://modelscope.cn/datasets/daimonrobotics/images/resolve/master/images/dataset_share_pie.png" alt="Dataset Composition" style="display: block; margin: 0 auto;">
      <br>
      <sub><b>数据来源占比</b>：展示 DM-DataClaw 与 DM-DataDex 在数据集中的组成比例。</sub>
    </td>
  </tr>
</table>

<br>

<div align="center">
  <img src="https://modelscope.cn/datasets/daimonrobotics/images/resolve/master/images/action_duration.png" alt="Action Duration" width="100%">
  <br>
  <sub><b>动作时长分布</b>：展示不同操作动作在数据集中的持续时间统计。</sub>
</div>

统计结果表明，数据集同时覆盖了日常物品、工具、容器、食品等多类对象，以及 `place`、`insert`、`cover`、`press`、`secure` 等高频操作技能，适合用于多任务操作学习、技能泛化和语义条件控制等研究方向。

<a id="数据集"></a>
## 📦 数据集

<a id="数据集目录结构"></a>
### 数据集目录结构

**DM-DataTac双手配置：**

```text
.
├── episodes_metadata.json          # 剧集元数据（含左右设备信息、采集者、标定等）
├── audio/                          # 音频数据（任务描述等）
│   └── observation.audio.audio_pre/
│       └── chunk-000/
│           └── file-000.mp3
├── data/                           # 主数据文件（Parquet格式）
│   └── chunk-000/
│       └── file-000.parquet
├── meta/                           # 元信息
│   ├── info.json                   # 数据集配置信息
│   ├── stats.json                  # 数据统计信息
│   ├── tasks.parquet               # 任务标注数据
│   └── episodes/                   # 分集元数据
└── videos/                         # 视频数据
    ├── observation.images.left_cam_left/        # 左侧相机 (1920x1080)
    ├── observation.images.right_cam_right/      # 右侧相机 (1920x1080)
    ├── observation.images.left_gripper_left_tactile/   # 左夹爪左侧触觉 (640x480)
    ├── observation.images.left_gripper_right_tactile/  # 左夹爪右侧触觉 (640x480)
    ├── observation.images.right_gripper_left_tactile/  # 右夹爪左侧触觉 (640x480)
    ├── observation.images.right_gripper_right_tactile/ # 右夹爪右侧触觉 (640x480)
    ├── observation.deformation.*_tactile/        # 触觉形变数据 (384x288)
    ├── observation.shear.*_tactile/              # 触觉剪切数据 (384x288)
    └── observation.depth.*_tactile/              # 触觉深度数据 (384x288)
```

**DM-DataTac单手配置：**

```text
.
├── episodes_metadata.json          # 剧集元数据（含设备信息、采集者、标定等）
├── data/                           # 主数据文件（Parquet格式）
│   └── chunk-000/
│       └── file-000.parquet
├── meta/                           # 元信息
│   ├── info.json                   # 数据集配置信息
│   ├── stats.json                  # 数据统计信息
│   ├── tasks.parquet               # 任务标注数据
│   └── episodes/                   # 分集元数据
└── videos/                         # 视频数据
    ├── observation.images.cam_*/              # 左右侧相机 (1920x1080)
    ├── observation.images.gripper_left_tactile/   # 夹爪左侧触觉 (640x480)
    ├── observation.images.gripper_right_tactile/  # 夹爪右侧触觉 (640x480)
    ├── observation.deformation.gripper_*_tactile/ # 触觉形变数据 (384x288)
    ├── observation.shear.gripper_*_tactile/       # 触觉剪切数据 (384x288)
    └── observation.depth.gripper_*_tactile/       # 触觉深度数据 (384x288)
```
**DM-DataDex配置：**

```text
.
├── data/                           # 主数据文件（Parquet格式）
│   └── chunk-000/
│       └── file-000.parquet
├── meta/                           # 元信息
│   ├── info.json                   # 数据集配置信息
│   ├── stats.json                  # 数据统计信息
│   ├── tasks.parquet               # 任务标注数据
│   └── episodes/                   # 分集元数据
└── videos/                         # 视频数据
    ├── observation.images.cam_headset.left_frame/       # 左眼相机 (640x480)
    ├── observation.images.cam_headset.right_frame/      # 右眼相机 (640x480)
    ├── observation.images.cam_third_view/                # 第三视角相机 (640x480)
    ├── observation.deformation.*_tactile/        # 触觉形变数据 (384x288)
    ├── observation.shear.*_tactile/              # 触觉剪切数据 (384x288)
    └── observation.depth.*_tactile/              # 触觉深度数据 (384x288)
```

<a id="数据格式"></a>
### 数据格式

#### 主数据文件
- **格式：** Parquet
- **路径：** `data/chunk-xxx/file-xxx.parquet`
- **视频文件：** `videos/{video_key}/chunk-xxx/file-xxx.mp4`
- **元信息：** `meta/info.json`

#### 数据字段说明

每条 parquet 样本包含以下字段：

| 字段名 | 数据类型 | 形状 | 说明 |
|--------|----------|------|------|
| `observation.state` | float32 | [114] | 机器人状态（含位姿、关节角度、IMU等） |
| `action` | float32 | [111] | 机器人遥操作动作指令 |
| `score` | float32 | [1] | 录制回合评分 |
| `timestamp` | float32 | [1] | 时间戳 |
| `frame_index` | int64 | [1] | 帧索引 |
| `episode_index` | int64 | [1] | 回合索引 |
| `index` | int64 | [1] | 数据索引 |
| `task_index` | int64 | [1] | 任务标注索引 |

#### Observation.state 维度说明（114维）

| 索引范围 | 维度名称 | 说明 |
|----------|----------|------|
| 1-7 | left_x, left_y, left_z, left_qx, left_qy, left_qz, left_qw | 左臂末端位姿（位置+四元数） |
| 8-14 | right_x, right_y, right_z, right_qx, right_qy, right_qz, right_qw | 右臂末端位姿（位置+四元数） |
| 15-21 | head_x ~ head_qw | 头部位姿 |
| 22-28 | left_eye_x ~ left_eye_qw | 左眼位姿 |
| 29-35 | right_eye_x ~ right_eye_qw | 右眼位姿 |
| 36-42 | third_x ~ third_qw | 第三视角位姿 |
| 43-49 | arm_left_1 ~ arm_left_7 | 左臂关节角度 |
| 50-56 | arm_right_1 ~ arm_right_7 | 右臂关节角度 |
| 57-58 | head_pitch, head_yaw | 头部关节 |
| 59-63 | hip_pitch, hip_yaw, knee, left_wheel, right_wheel | 底盘状态 |
| 64 | gripper | 夹爪状态 |
| 65-66 | gripper_left, gripper_right | 左右夹爪开合角度 |
| 67-102 | finger0 ~ finger35 | 触觉/手指传感器数据（36维） |
| 103-108 | left_Acc_X/Y/Z, left_Gyro_X/Y/Z | 左侧IMU数据 |
| 109-114 | right_Acc_X/Y/Z, right_Gyro_X/Y/Z | 右侧IMU数据 |

#### Action 维度说明（111维）

| 索引范围 | 维度名称 | 说明 |
|----------|----------|------|
| 1-7 | left_x ~ left_qw | 左臂末端目标位姿 |
| 8-14 | right_x ~ right_qw | 右臂末端目标位姿 |
| 15-21 | head_x ~ head_qw | 头部目标位姿 |
| 22-28 | hip_x ~ hip_qw | 底盘目标位姿 |
| 29-30 | v, w | 底盘线速度与角速度 |
| 31-37 | left_eye_x ~ left_eye_qw | 左眼目标位姿 |
| 38-44 | right_eye_x ~ right_eye_qw | 右眼目标位姿 |
| 45-51 | third_x ~ third_qw | 第三视角目标位姿 |
| 52-58 | arm_left_1 ~ arm_left_7 | 左臂关节目标 |
| 59-65 | arm_right_1 ~ arm_right_7 | 右臂关节目标 |
| 66-67 | head_pitch, head_yaw | 头部关节目标 |
| 68-72 | hip_pitch, hip_yaw, knee, left_wheel, right_wheel | 底盘关节/轮子目标 |
| 73 | gripper | 夹爪目标状态 |
| 74-75 | gripper_left, gripper_right | 左右夹爪目标开合角度 |
| 76-111 | finger0 ~ finger35 | 触觉/手指控制目标（36维） |

#### 占位值说明

- 数值 `9930` 表示"占位/无效/未启用维度"
- 训练前建议将该值转换为 mask，不建议直接当作真实物理量参与归一化

#### 视频说明

数据集包含多路视频流，根据配置不同有所差异：

**dual_ugripper 配置：**

| 视频键名 | 分辨率 | 说明 | 序列号示例 |
|----------|--------|------|------------|
| `observation.images.left_cam_left` | 1920×1080 | 左侧相机 | - |
| `observation.images.right_cam_right` | 1920×1080 | 右侧相机 | - |
| `observation.images.left_gripper_left_tactile` | 640×480 | 左夹爪左侧触觉传感器 | X25480083 |
| `observation.images.left_gripper_right_tactile` | 640×480 | 左夹爪右侧触觉传感器 | X26040033 |
| `observation.images.right_gripper_left_tactile` | 640×480 | 右夹爪左侧触觉传感器 | X26040206 |
| `observation.images.right_gripper_right_tactile` | 640×480 | 右夹爪右侧触觉传感器 | X26040293 |

**ugripper_right / ugripper_left 配置：**

| 视频键名 | 分辨率 | 说明 | 序列号示例 |
|----------|--------|------|------------|
| `observation.images.cam_*` | 1920×1080 | 左右侧相机 | - |
| `observation.images.gripper_left_tactile` | 640×480 | 夹爪左侧触觉传感器 | X25510109 |
| `observation.images.gripper_right_tactile` | 640×480 | 夹爪右侧触觉传感器 | X25480013 |

- RGB 视频（`observation.images.*`）示例编码：H.264，像素格式：yuv420p，帧率：30 FPS
- 触觉派生视频（`observation.deformation.*` / `observation.shear.*` / `observation.depth.*`）示例格式：mov + FFV1 + gbrp16le
- 具体编码与像素格式以实际发布数据为准

#### 触觉视频说明

触觉视频包含 deformation（形变）/ shear（剪切）/ depth（深度）数据，存储为 mov 格式。
触觉数据已做 uint16 编码，解码时请还原。

#### 音频说明

audio 文件夹包含采集者对任务的描述音频。

<a id="元数据说明"></a>
### 元数据说明episodes_metadata.json
分别记录左右来源、采集者和标定信息。


<a id="使用建议"></a>
## 💡 训练使用建议

- 对 `9930` 占位维度做 mask 处理，不建议直接当作真实物理量参与归一化
- 仅对有效维度做标准化/归一化
- 按 `episode_index + frame_index` 进行时序对齐，视频与状态统一 `fps=30`
- 触觉数据已做 uint16 编码，解码时请还原为浮点数值
- dual_ugripper 配置注意左右数据同步与对齐

<a id="数据资源获取"></a>
## 📥数据资源获取
- **公开平台：** 本数据集将在 ModelScope 等主流平台公开发布，旨在为国内外开发者与研究工作提供便利。
<a id="样例数据"></a>
### 样例数据
通过以下链接可以获取**DM-DataClaw**和**DM-DataDex**的分别1回合的样例数据:
👉 [Daimon-Infinity-Lite](https://modelscope.cn/datasets/daimonrobotics/Daimon-Infinity-Lite)
- **DM-DataClaw** sample
- **DM-DataDex** sample

<a id="数据交流群"></a>
## 📋 数据交流群

<div align="left">
  <img src="https://modelscope.cn/datasets/daimonrobotics/images/resolve/master/images/qq_group.jpg" width="400" alt="数据交流群">
</div>

<a id="引用"></a>
## 📝 引用

如在研究中使用本数据集，请根据所使用的平台选择以下对应引用方式：

**DataClaw 数据集引用**
```bibtex
@misc{tacclaw_infinity_2026,
  title  = {TacClaw-Infinity: A Large-Scale VTLA Demonstration Dataset for Dexterous Manipulation},
  author = {...},
  year   = {2026},
  note   = {Preprint forthcoming}
}
```

**DataDex 数据集引用**
```bibtex
@misc{tacexogaze_2026,
  title  = {TacExoGaze: A Human-Centric Glove Interface for Multi-View Vision-Tactile Data Collection in Dexterous Manipulation},
  author = {...},
  year   = {2026},
  note   = {Preprint forthcoming}
}
```
>这些论文的终稿都将在arXiv上发布并且同步在此更新．

<a id="许可证"></a>
## 📄 许可证

本数据集中的数据和代码均遵循 [CC BY-NC-SA-4.0](https://creativecommons.org/licenses/by-nc-sa/4.0/) 许可协议。