Datasets:
Document SpatialSemanticDataset
Browse filesDescribe the dataset layout, annotation schema, and scene loading workflow.
README.md
CHANGED
|
@@ -1,3 +1,81 @@
|
|
| 1 |
---
|
| 2 |
license: mit
|
| 3 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
---
|
| 2 |
license: mit
|
| 3 |
---
|
| 4 |
+
|
| 5 |
+
# SpatialSemanticDataset
|
| 6 |
+
|
| 7 |
+
SpatialSemanticDataset 是一个面向第一人称步行视频的空间语义数据集。它按场景组织原视频的时间区间、带时间戳的相机位姿和英文语义标注,可用于研究视觉导航、相机轨迹与语言对齐,以及场景观察和动作意图描述。
|
| 8 |
+
|
| 9 |
+
当前版本包含 **9 个来源频道、3,188 个视频和 12,079 个场景**。仓库提供索引与标注文件,原始视频可通过 `video_id` 定位,视频文件未随仓库分发。
|
| 10 |
+
|
| 11 |
+
## 文件结构
|
| 12 |
+
|
| 13 |
+
| 路径 | 内容 |
|
| 14 |
+
| --- | --- |
|
| 15 |
+
| `metadata.csv` | 场景索引,每行对应一个场景 |
|
| 16 |
+
| `poses/<channel>/<video_id>/<scene_id>.csv` | 相机位置、朝向及位姿状态 |
|
| 17 |
+
| `semantics/<channel>/<video_id>/<scene_id>.txt` | 带时间戳的英文观察、推断与动作描述 |
|
| 18 |
+
|
| 19 |
+
以 `(channel, video_id, scene_id)` 作为联合键查找同一场景的两个标注文件。`scene_id` 是视频内的场景编号,例如 `scene_0000`,在不同视频中可以重复。
|
| 20 |
+
|
| 21 |
+
## 数据字段
|
| 22 |
+
|
| 23 |
+
### 场景索引
|
| 24 |
+
|
| 25 |
+
- `channel` 和 `video_id` 分别标识来源频道与 YouTube 视频。
|
| 26 |
+
- `scene_id` 标识视频内的场景。
|
| 27 |
+
- `start_second` 和 `end_second` 记录场景在原视频中的起止秒数。
|
| 28 |
+
|
| 29 |
+
### 相机位姿
|
| 30 |
+
|
| 31 |
+
| 字段 | 含义 |
|
| 32 |
+
| --- | --- |
|
| 33 |
+
| `source_t` | 原视频时间,单位为秒 |
|
| 34 |
+
| `source_frame` | 原视频帧编号 |
|
| 35 |
+
| `status` | 位姿状态。样本中的 `valid` 表示位姿可用,`bad` 行的位姿字段可为 `NaN` |
|
| 36 |
+
| `x`, `y`, `z` | 相机位置分量 |
|
| 37 |
+
| `qx`, `qy`, `qz`, `qw` | 相机朝向的四元数分量,标量分量 `qw` 在末尾 |
|
| 38 |
+
|
| 39 |
+
仓库未说明位置单位、坐标轴约定或跨场景坐标系关系。使用位姿计算物理距离或拼接轨迹前,需要另行确认这些约定。
|
| 40 |
+
|
| 41 |
+
### 语义标注
|
| 42 |
+
|
| 43 |
+
文本按原视频时间戳 `[HH:MM:SS]` 分块。每块包含 `Observation`(可见场景描述)、`Latent Thought`(以第一人称表述的情境或意图推断)和 `Action`(动作或行动计划描述)。其中的想法和动作应按文本标注理解。位姿与语义标注的时间点可以不同,可先按场景关联,再按原视频时间对齐。
|
| 44 |
+
|
| 45 |
+
## 读取一个场景
|
| 46 |
+
|
| 47 |
+
该仓库是私有的。安装 `huggingface_hub`,通过 `hf auth login` 登录有读取权限的账户,或设置该账户的 `HF_TOKEN` 环境变量。以下示例只下载索引与首个场景的两个文件。
|
| 48 |
+
|
| 49 |
+
```python
|
| 50 |
+
import csv
|
| 51 |
+
from pathlib import Path
|
| 52 |
+
|
| 53 |
+
from huggingface_hub import hf_hub_download
|
| 54 |
+
|
| 55 |
+
REPO_ID = "MonsterDie/SpatialSemanticDataset"
|
| 56 |
+
|
| 57 |
+
|
| 58 |
+
def download(filename):
|
| 59 |
+
return Path(hf_hub_download(REPO_ID, filename, repo_type="dataset", token=True))
|
| 60 |
+
|
| 61 |
+
|
| 62 |
+
with download("metadata.csv").open(encoding="utf-8-sig", newline="") as file:
|
| 63 |
+
scene = next(csv.DictReader(file))
|
| 64 |
+
|
| 65 |
+
key = "/".join(scene[field] for field in ("channel", "video_id", "scene_id"))
|
| 66 |
+
|
| 67 |
+
with download(f"poses/{key}.csv").open(encoding="utf-8-sig", newline="") as file:
|
| 68 |
+
valid_poses = [row for row in csv.DictReader(file) if row["status"] == "valid"]
|
| 69 |
+
|
| 70 |
+
annotations = download(f"semantics/{key}.txt").read_text(encoding="utf-8-sig")
|
| 71 |
+
|
| 72 |
+
print(scene)
|
| 73 |
+
print(f"Valid poses: {len(valid_poses)}")
|
| 74 |
+
print(annotations.split("\n\n", 1)[0])
|
| 75 |
+
```
|
| 76 |
+
|
| 77 |
+
仓库未提供预定义的数据划分。如需构建训练集与评估集,可按 `(channel, video_id)` 分组,避免同一视频的不同场景跨集合。
|
| 78 |
+
|
| 79 |
+
## 许可
|
| 80 |
+
|
| 81 |
+
数据集卡沿用仓库声明的 MIT 许可。原始视频的使用条件由其来源决定。
|