MonsterDie commited on
Commit
383eafb
·
verified ·
1 Parent(s): b813f49

Document SpatialSemanticDataset

Browse files

Describe the dataset layout, annotation schema, and scene loading workflow.

Files changed (1) hide show
  1. README.md +78 -0
README.md CHANGED
@@ -1,3 +1,81 @@
1
  ---
2
  license: mit
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
  license: mit
3
  ---
4
+
5
+ # SpatialSemanticDataset
6
+
7
+ SpatialSemanticDataset 是一个面向第一人称步行视频的空间语义数据集。它按场景组织原视频的时间区间、带时间戳的相机位姿和英文语义标注,可用于研究视觉导航、相机轨迹与语言对齐,以及场景观察和动作意图描述。
8
+
9
+ 当前版本包含 **9 个来源频道、3,188 个视频和 12,079 个场景**。仓库提供索引与标注文件,原始视频可通过 `video_id` 定位,视频文件未随仓库分发。
10
+
11
+ ## 文件结构
12
+
13
+ | 路径 | 内容 |
14
+ | --- | --- |
15
+ | `metadata.csv` | 场景索引,每行对应一个场景 |
16
+ | `poses/<channel>/<video_id>/<scene_id>.csv` | 相机位置、朝向及位姿状态 |
17
+ | `semantics/<channel>/<video_id>/<scene_id>.txt` | 带时间戳的英文观察、推断与动作描述 |
18
+
19
+ 以 `(channel, video_id, scene_id)` 作为联合键查找同一场景的两个标注文件。`scene_id` 是视频内的场景编号,例如 `scene_0000`,在不同视频中可以重复。
20
+
21
+ ## 数据字段
22
+
23
+ ### 场景索引
24
+
25
+ - `channel` 和 `video_id` 分别标识来源频道与 YouTube 视频。
26
+ - `scene_id` 标识视频内的场景。
27
+ - `start_second` 和 `end_second` 记录场景在原视频中的起止秒数。
28
+
29
+ ### 相机位姿
30
+
31
+ | 字段 | 含义 |
32
+ | --- | --- |
33
+ | `source_t` | 原视频时间,单位为秒 |
34
+ | `source_frame` | 原视频帧编号 |
35
+ | `status` | 位姿状态。样本中的 `valid` 表示位姿可用,`bad` 行的位姿字段可为 `NaN` |
36
+ | `x`, `y`, `z` | 相机位置分量 |
37
+ | `qx`, `qy`, `qz`, `qw` | 相机朝向的四元数分量,标量分量 `qw` 在末尾 |
38
+
39
+ 仓库未说明位置单位、坐标轴约定或跨场景坐标系关系。使用位姿计算物理距离或拼接轨迹前,需要另行确认这些约定。
40
+
41
+ ### 语义标注
42
+
43
+ 文本按原视频时间戳 `[HH:MM:SS]` 分块。每块包含 `Observation`(可见场景描述)、`Latent Thought`(以第一人称表述的情境或意图推断)和 `Action`(动作或行动计划描述)。其中的想法和动作应按文本标注理解。位姿与语义标注的时间点可以不同,可先按场景关联,再按原视频时间对齐。
44
+
45
+ ## 读取一个场景
46
+
47
+ 该仓库是私有的。安装 `huggingface_hub`,通过 `hf auth login` 登录有读取权限的账户,或设置该账户的 `HF_TOKEN` 环境变量。以下示例只下载索引与首个场景的两个文件。
48
+
49
+ ```python
50
+ import csv
51
+ from pathlib import Path
52
+
53
+ from huggingface_hub import hf_hub_download
54
+
55
+ REPO_ID = "MonsterDie/SpatialSemanticDataset"
56
+
57
+
58
+ def download(filename):
59
+ return Path(hf_hub_download(REPO_ID, filename, repo_type="dataset", token=True))
60
+
61
+
62
+ with download("metadata.csv").open(encoding="utf-8-sig", newline="") as file:
63
+ scene = next(csv.DictReader(file))
64
+
65
+ key = "/".join(scene[field] for field in ("channel", "video_id", "scene_id"))
66
+
67
+ with download(f"poses/{key}.csv").open(encoding="utf-8-sig", newline="") as file:
68
+ valid_poses = [row for row in csv.DictReader(file) if row["status"] == "valid"]
69
+
70
+ annotations = download(f"semantics/{key}.txt").read_text(encoding="utf-8-sig")
71
+
72
+ print(scene)
73
+ print(f"Valid poses: {len(valid_poses)}")
74
+ print(annotations.split("\n\n", 1)[0])
75
+ ```
76
+
77
+ 仓库未提供预定义的数据划分。如需构建训练集与评估集,可按 `(channel, video_id)` 分组,避免同一视频的不同场景跨集合。
78
+
79
+ ## 许可
80
+
81
+ 数据集卡沿用仓库声明的 MIT 许可。原始视频的使用条件由其来源决定。