aiwika/Excavator-Embodied-Intelligence-Dataset

挖掘机具身智能多模态数据集

面向工程机械具身智能研究的数据集，涵盖真实设备采集与仿真数据。真实设备采集数据包含多视角视频、激光雷达点云、IMU、CAN 车辆信号和 RTK 定位，部分作业样本提供动作时间段标注。

本数据集由 WIKA 提供，包含真实土方施工现场中的挖掘机作业记录，以及面向相关研究的仿真数据。真实设备采集数据记录场地平整、土方装车等工况，并以 MCAP 保存多模态传感器消息。真实采集与仿真数据可分别用于研究真实作业中的感知与决策问题，以及可控条件下的算法开发和验证。

已核验的真实设备数据格式： MCAP，消息采用 CDR 序列化
真实设备采集模态： 多路 GMSL 相机、激光雷达、IMU、CAN、RTK 和录制标记
标注形式： 部分样本提供动作类别及时间区间
项目说明中的机型范围： 10 种挖掘机机型，包括 TZ200、TZ240、XG2662 等
许可协议： CC-BY-NC-SA-4.0

全量规模、话题覆盖和标注可用性以数据集页面及各文件实际内容为准。不是所有采集文件都带有人工标注。

数据集价值

• 真实与仿真数据互补：真实设备记录反映施工现场作业，仿真数据支持可控场景下的算法开发与验证；两类数据可结合用于具身智能研究。
• 多源同步观测：相机、点云、惯性测量、车辆信号和定位信息共同描述作业场景与设备状态。
• 覆盖动作与设备状态：CAN 信号包含操纵输入、液压及机体状态，可支持视觉观测与设备动作、状态之间的关联研究。
• 部分样本带时间段标注：动作区间可用于动作阶段识别、监督学习和标注流程验证；未标注数据仍可用于自监督或预训练。
• 保留原始时序结构：MCAP 容器便于按时间读取和回放多模态消息。

适用研究方向

• 挖掘机作业理解与动作阶段识别
• 工程机械具身智能与操作策略学习
• 视觉—状态到动作的行为建模、模仿学习与行为克隆
• 多模态世界模型和视频—动作联合建模
• 相机、点云、IMU、CAN 与定位信息融合
• 工况识别、设备状态估计及作业过程分析
• 自监督预训练、数据筛选和自动标注辅助

数据组织

数据按数据来源类型和录制会话组织。真实设备采集数据位于 real-device-data/，按会话目录存放 MCAP 分片及其配套标注文件；仿真数据归入仿真数据目录：

数据集根目录/
├── real-device-data/
│   ├── 20261008-130320/
│   │   ├── 20261008-130320_0.parsed.mcap
│   │   ├── 20261008-130320_0.annotation.json
│   │   ├── 20261008-130320_1.parsed.mcap
│   │   ├── 20261008-130320_1.annotation.json
│   │   └── ...
│   ├── 20261011-085215/
│   │   └── ...
│   └── ...
└── 仿真数据目录/
    └── ...

常见命名规则：

• 会话目录：通常为 <YYYYMMDD-HHMMSS>，例如 20261008-130320。
• MCAP 分片：通常为 <会话名>_<序号>.parsed.mcap。
• 标注文件：通常为 <会话名>_<序号>.annotation.json。部分数据还可能包含模型生成的独立标注文件。

真实设备单次录制可能被切分为多个分片，已核验样例的单个 MCAP 分片约为 4 GB。分片数、时长和话题覆盖随录制而异；处理多分片会话时，应按序号检查文件，并以消息时间戳确认时间连续性。仿真数据的具体组织和格式以对应数据文件为准。

机型、作业类型、工况及原始采集路径等信息可能记录在标注 JSON 的 source_file 元数据中，例如 relative_path 和 data_source；可结合这些元数据理解会话背景，不应仅凭会话目录名推断机型或作业类型。

传感器与数据内容

以下为真实设备采集数据中列出的常见话题及频率示例。频率为近似值，实际值可能随机型、会话和采集配置变化；仿真数据的话题和格式以对应文件为准。

GMSL 相机

• 话题： /camera/gmsl_1/image/encoded 至 /camera/gmsl_5/image/encoded（共列出 5 路话题）
• 消息类型： foxglove_msgs/msg/CompressedVideo
• 参考频率： 每路约 30 Hz
• 内容： 多视角作业视频

激光雷达

• 话题： /lidar/rs_h32f70_1/points、/lidar/rs_h32f70_2/points（共列出 2 路话题）
• 消息类型： sensor_msgs/msg/PointCloud2
• 参考频率： 每个话题约 10 Hz
• 内容： 作业环境三维点云

IMU

• 话题： /imu1/data、/imu2/data（共列出 2 路话题）
• 消息类型： sensor_msgs/msg/Imu
• 参考频率： 每个话题约 100 Hz
• 内容： 加速度、角速度及姿态信息

RTK 定位

• 话题： /chcnav/devpvt
• 消息类型： msg_interfaces/msg/Hcinspvatzcb
• 参考频率： 约 85 Hz
• 内容： 经纬度、海拔及定位时间信息

录制标记

• 话题： /rec/markers
• 消息类型： da_interfaces/msg/RecMarker
• 频率： 事件触发
• 内容： 重点工况时间戳及标记信息

CAN

• 总线数量： 项目说明列出 4 路 CAN 总线
• 话题及消息类型： 依具体记录配置而异
• 内容： 操作输入、液压、发动机及机体状态

上文中的“路”表示列出的 MCAP 话题流，不直接等同于物理传感器数量。尤其是激光雷达话题名中的 _1、_2 只能确认有两个分别命名的话题；若需确认对应的设备数量，应以该会话的采集配置或设备清单为准。频率为项目说明中的近似参考值，不代表所有文件均达到该频率。

CAN 信号的常见类别包括：

• 操纵输入：行走、回转、动臂、斗杆、铲斗等手柄或踏板行程。
• 机体与关节状态：动臂、斗杆、铲斗角度及角速度。
• 液压系统：主泵压力、先导压力、主压及比例阀电流等。
• 发动机与设备状态：发动机转速、水温、机油压力、工作状态、档位等。

不同机型的 CAN 信号定义和话题配置可能不同。请先读取具体 MCAP 的 schema、channel 和消息计数，再决定解析方式；不要假设所有文件都包含表中列出的全部话题。

动作标注

部分真实作业样本提供以时间区间表示的动作分段标注。以下示例文件 20261011-090328_0.annotation.json 对应片段时长约 231.78 秒，包含 21 段人工标注：

• 靠近物料（5 段）： 接近待处理物料
• 挖掘（5 段）： 铲斗挖掘或取料
• 载料（5 段）： 携带物料并进行转移
• 放置物料（6 段）： 卸放物料

标注文件是一个 JSON 对象，顶层包含源文件信息 source_file、标注任务信息 task、片段信息 episode 和分段列表 annotations。以下为该样例的结构节选：

{
  "schema_version": 2,
  "source_file": {
    "name": "20261011-090328_0.mcap",
    "relative_path": "20261011-090328/20261011-090328_0.mcap",
    "size_bytes": 4295529268,
    "sha256": "13389d2827717584e079773460bff9abaebfa8b8d9b8cbcb0b75352395916ab5",
    "hash_mode": "sample",
    "hash_scope": "file_size_plus_first_and_last_4194304_bytes",
    "data_source": "XG2665",
    "recorded_start_time": "2026-10-11T09:03:28.584114+08:00",
    "recorded_start_epoch_sec": 1791680608.584114,
    "timezone": "Asia/Shanghai",
    "tz_offset_minutes": 480
  },
  "task": {
    "id": 55,
    "status": "completed",
    "completed_at": "2026-10-19T01:36:42.129666+00:00"
  },
  "episode": {
    "id": 49,
    "name": "20261011-090328_0.mcap",
    "duration_sec": 231.783332114,
    "start_time": "2026-10-11T09:03:28.584114+08:00"
  },
  "annotations": [
    {
      "id": 265,
      "type": "segment",
      "start_ns": 67177424,
      "end_ns": 4931685000,
      "start_sec": 0.067177424,
      "end_sec": 4.931685,
      "category_id": 18,
      "category_name": "放置物料",
      "category_color": "#22c55e",
      "label": "放置物料",
      "note": null,
      "annotator_id": 73,
      "start_epoch_sec": 1791680608.6512916,
      "end_epoch_sec": 1791680613.5157993,
      "start_time": "2026-10-11T09:03:28.651292+08:00",
      "end_time": "2026-10-11T09:03:33.515799+08:00"
    }
  ]
}

实际 annotations 数组包含该片段的所有标注区间；上例仅展示其中一项。字段含义：

• schema_version：标注 JSON 的结构版本。
• source_file：源采集文件及来源元数据；sha256 的计算范围由 hash_mode、hash_scope 描述。
• task：标注任务信息，例如任务状态、完成时间；模型生成文件还可能包含 annotated_by。
• episode：当前标注片段的信息，包括片段名、时长和起始时间。
• annotations：标注区间数组。每项的 start_sec、end_sec 和 start_ns、end_ns 分别表示相对片段起点的秒级和纳秒级时间；start_time、end_time 是对应的绝对时间。
• category_id、category_name、category_color、label：类别标识、类别名称、显示颜色和标签文本。
• id、type、note、annotator_id：区间标识、标注类型、备注及标注者标识；note 可为空。
• start_epoch_sec、end_epoch_sec：区间起止绝对时间对应的 Unix 时间戳（秒）。

标注范围说明： 上述统计仅针对该样例，不代表全量数据集的标注数量或类别分布。

加载与回放

以下示例针对采用 MCAP 格式的真实设备采集数据。

Foxglove Studio

可使用 Foxglove Studio 打开 MCAP 并按消息时间回放。根据文件中的实际话题配置视频、点云、IMU 和其他数据面板。同一会话包含多个分片时，可按序号加载，并检查分片边界处的时间戳是否连续。

Python

安装 MCAP 读取库：

pip install mcap

读取消息示例：

from mcap.reader import make_reader

path = "20261012-084223_0.parsed.mcap"

with open(path, "rb") as stream:
    reader = make_reader(stream)
    for schema, channel, message in reader.iter_messages():
        print(
            "topic:", channel.topic,
            "log_time_ns:", message.log_time,
            "payload_bytes:", len(message.data),
        )

message.data 是序列化后的消息数据。消息采用 CDR 序列化；若要解码为具体 ROS 2 消息对象，需要在解析环境中准备相匹配的消息接口定义。

使用建议与注意事项

1. 先检查文件再建立数据索引：读取 MCAP summary、schema、channel、消息数及时间范围，确认每个文件实际包含的传感器与时间跨度。
2. 按时间戳对齐模态：不同传感器的采样频率不同，跨模态分析前应明确时间基准、对齐策略和缺失数据处理方式。
3. 谨慎拼接分片：按分片序号读取后，仍应验证消息时间戳连续性，避免重复、缺失或时间回退。
4. 区分标注来源：明确区分人工标注、模型生成标注和未标注数据；训练或评估时记录所用标注来源。
5. 评估视角与机型差异：不同机型及相机视角可能造成可见性差异。开展视觉任务前，建议抽查各视角画面和目标动作的可见程度。
6. 安全边界：数据用于研究与算法开发；未经独立验证，不应直接将模型输出用于工程设备控制或安全关键决策。

许可与引用

本数据集采用 CC-BY-NC-SA-4.0 许可。使用者需遵守署名、非商业使用及相同方式共享等许可要求。使用、转载或发布衍生成果前，请阅读完整许可条款并确认符合自身用途。

如在论文、报告或公开项目中使用本数据集，请引用实际获取数据的仓库页面。

WIKA. Excavator Embodied Intelligence Dataset [数据集].
许可协议：CC-BY-NC-SA-4.0.