Datasets:
File size: 11,605 Bytes
fdcd0e7 a6cb554 fdcd0e7 a6cb554 fdcd0e7 a6cb554 b93f98b eb74d8d b93f98b eb74d8d b93f98b eb74d8d a6cb554 eb74d8d a6cb554 eb74d8d a6cb554 a7f0535 eb74d8d a7f0535 eb74d8d a7f0535 eb74d8d a6cb554 eb74d8d a6cb554 eb74d8d 222d958 fdcd0e7 222d958 fdcd0e7 eb74d8d a6cb554 eb74d8d fdcd0e7 eb74d8d b93f98b eb74d8d b93f98b eb74d8d fe98278 eb74d8d fe98278 eb74d8d fe98278 eb74d8d fe98278 eb74d8d fe98278 eb74d8d a6cb554 eb74d8d fe98278 eb74d8d a6cb554 eb74d8d a6cb554 eb74d8d a6cb554 eb74d8d a6cb554 eb74d8d fe98278 eb74d8d fe98278 eb74d8d fe98278 eb74d8d a6cb554 eb74d8d | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 | ---
pretty_name: Anchor Spatial Reasoning Stage-3 Training Data
language: [en]
license: other
task_categories: [visual-question-answering]
tags: [spatial-reasoning, metric-reasoning, multimodal, video]
configs:
- config_name: small
data_files:
- split: train
path: metric_v1/small/train/*.parquet
- split: validation
path: metric_v1/small/validation/*.parquet
- split: test
path: metric_v1/small/test/*.parquet
- split: video_validation
path: metric_v1/small/video_validation/*.parquet
- split: video_test
path: metric_v1/small/video_test/*.parquet
- config_name: large
data_files:
- split: train
path: metric_v1/large/train/*.parquet
- split: validation
path: metric_v1/small/validation/*.parquet
- split: test
path: metric_v1/small/test/*.parquet
- split: video_validation
path: metric_v1/small/video_validation/*.parquet
- split: video_test
path: metric_v1/small/video_test/*.parquet
- config_name: media_complete
data_files:
- split: train
path:
- annotations/vsi590k/measurement.parquet
- annotations/spacevista/media-complete.parquet
- annotations/hispatial/part-*.parquet
- annotations/cavqa/part-*.parquet
- config_name: spacevista_exhaustive
data_files:
- split: train
path: annotations/spacevista/all-measurement.parquet
---
# AnchorSR Stage3 · metric-v1.0
## 直接选择 Small / Large
| 配置 | 训练题数 | 用途 |
|---|---:|---|
| `small` | 1,000,000 | 先验证答案监督/先验恢复,按新版 Large 联合分布抽样 |
| `large` | 89,801,853 | 筛选后的完整训练集合,包含 Small 全部样本 |
```python
from datasets import load_dataset
data = load_dataset('AnchorSR/TrainingData_Stage3', 'small', # 或 large
revision='metric-v1.0', streaming=True)
```
这是对 `scaling-v1.0` 的**语义筛选与统一任务分类**,不是增加新数据源。
Large 从 89,828,269 题保留 89,801,853 题,隔离 26,416 题。
旧标签 `scaling-v1.0` / `video-v1.0` / `large-v1.0` 均不移动,原始池与旧样本不删除。
Small 重新无放回抽取 1,000,000 题,按 **source × 统一子类型 × semantic_modality** 配额,
每个非空层至少 1 题,固定种子。Small/Large 不可拼接,旧 Small 实验不能直接当作新版的数据量对照。
仅对保留样本改分类/新增审计字段:**原问题、training_question、training_answer、媒体路径、帧顺序和定位标记均逐分片核验不变**。
没有猜测修复答案,没有引入额外帧、伪造 FPS 或增加 CA-VQA 的“最后一帧为参考帧”提示。
媒体 TAR 完全复用;Large 索引保留父版本的安全超集,Small 索引按实际引用重建。
## 统一任务大类、数量与占比
| 类型 | Small 数量 | Small 占比 | Large 数量 | Large 占比 |
|---|---:|---:|---:|---:|
| 距离与深度 | 730,637 | 73.0637% | 65,612,592 | 73.0637% |
| 物体尺寸 | 215,818 | 21.5818% | 19,380,884 | 21.5818% |
| 三维包围框 | 50,244 | 5.0244% | 4,512,009 | 5.0244% |
| 角度与旋转 | 2,713 | 0.2713% | 243,725 | 0.2714% |
| 复合几何与位姿 | 404 | 0.0404% | 36,208 | 0.0403% |
| 面积与体积 | 183 | 0.0183% | 16,431 | 0.0183% |
| 物理位置与坐标 | 1 | 0.0001% | 4 | 0.0000% |
| **合计** | **1,000,000** | **100%** | **89,801,853** | **100%** |
三维框指米制三维范围,不是二维图片框;数值角度保留,粗粒度角度类别单独标记。
物理位置包括米制坐标/地面区域;“二维图像坐标+米制深度”归**复合任务**,不是纯二维定位,也不是直接的三维坐标向量。
### 统一子类型
| 类型 | Small 数量 | Small 占比 | Large 数量 | Large 占比 |
|---|---:|---:|---:|---:|
| surface_distance | 229,903 | 22.9903% | 20,645,710 | 22.9903% |
| object_distance | 137,526 | 13.7526% | 12,350,184 | 13.7527% |
| horizontal_distance | 112,435 | 11.2435% | 10,096,877 | 11.2435% |
| vertical_distance | 111,071 | 11.1071% | 9,974,343 | 11.1071% |
| height | 107,428 | 10.7428% | 9,647,211 | 10.7428% |
| width | 80,181 | 8.0181% | 7,200,485 | 8.0182% |
| depth_axis_distance | 75,031 | 7.5031% | 6,737,939 | 7.5031% |
| aabb_3d | 50,244 | 5.0244% | 4,512,009 | 5.0244% |
| camera_distance | 50,244 | 5.0244% | 4,512,009 | 5.0244% |
| length | 27,312 | 2.7312% | 2,452,606 | 2.7311% |
| camera_depth | 14,292 | 1.4292% | 1,283,468 | 1.4292% |
| relative_orientation_angle | 1,982 | 0.1982% | 177,992 | 0.1982% |
| longest_side | 897 | 0.0897% | 80,582 | 0.0897% |
| viewpoint_turn_angle | 437 | 0.0437% | 39,315 | 0.0438% |
| object_rotation_angle | 219 | 0.0219% | 19,699 | 0.0219% |
| triangle_lengths_angles | 217 | 0.0217% | 19,507 | 0.0217% |
| area | 175 | 0.0175% | 15,708 | 0.0175% |
| center_distance | 135 | 0.0135% | 12,062 | 0.0134% |
| translation_rotation | 104 | 0.0104% | 9,295 | 0.0104% |
| image_projection_with_depth | 83 | 0.0083% | 7,406 | 0.0082% |
| camera_rotation_angle | 74 | 0.0074% | 6,654 | 0.0074% |
| volume | 8 | 0.0008% | 723 | 0.0008% |
| angle | 1 | 0.0001% | 65 | 0.0001% |
| metric_position_region | 1 | 0.0001% | 4 | 0.0000% |
| **合计** | **1,000,000** | **100%** | **89,801,853** | **100%** |
### Video / Image
| 类型 | Small 数量 | Small 占比 | Large 数量 | Large 占比 |
|---|---:|---:|---:|---:|
| image | 773,312 | 77.3312% | 69,444,658 | 77.3310% |
| video | 226,688 | 22.6688% | 20,357,195 | 22.6690% |
| **合计** | **1,000,000** | **100%** | **89,801,853** | **100%** |
`video` 包括原生 MP4 和有来源依据的有序视频帧组;`image` 包括单图与真正多视角。
模态契约继承 `scaling-v1.0`:CA-VQA 保留全部原帧;SpaceVista 依契约区分视频与多视角,保留帧组、顺序和重复帧。
## 来源与筛选核算
以下“筛选前”是上一版 **Large 训练集**,不是原数据源总量或 105M 原始候选池。
| 来源 | 筛选前 | 保留 | 隔离 |
|---|---:|---:|---:|
| cavqa | 19,825,020 | 19,825,020 | 0 |
| hispatial | 69,298,561 | 69,281,332 | 17,229 |
| sims_vsi | 21,980 | 21,980 | 0 |
| spacevista | 428,623 | 419,436 | 9,187 |
| vica322k | 119,288 | 119,288 | 0 |
| vsi590k | 134,797 | 134,797 | 0 |
| 类型 | Small 数量 | Small 占比 | Large 数量 | Large 占比 |
|---|---:|---:|---:|---:|
| hispatial | 771,493 | 77.1493% | 69,281,332 | 77.1491% |
| cavqa | 220,762 | 22.0762% | 19,825,020 | 22.0764% |
| spacevista | 4,672 | 0.4672% | 419,436 | 0.4671% |
| vsi590k | 1,500 | 0.1500% | 134,797 | 0.1501% |
| vica322k | 1,328 | 0.1328% | 119,288 | 0.1328% |
| sims_vsi | 245 | 0.0245% | 21,980 | 0.0245% |
| **合计** | **1,000,000** | **100%** | **89,801,853** | **100%** |
### Large 隔离原因
| 原因 | 数量 |
|---|---:|
| 计数/排序/选择物体/定性关系等非度量任务 (`nonmetric_source_task`) | 17,162 |
| 问题要求多个尺寸,但旧训练答案未保留多值结构 (`multi_dimension_target_not_preserved_as_vector`) | 8,149 |
| 位姿分量对应关系或单位不明确 (`pose_components_or_units_unresolved`) | 900 |
| 图像投影+深度的米制依据或格式不足 (`projection_depth_unit_or_format_unresolved`) | 137 |
| 来源度量单位与现有训练目标冲突 (`source_metric_unit_conflicts_with_training_target`) | 48 |
| 距离/尺寸/面积等非负物理量出现负值 (`negative_unsigned_metric_target`) | 11 |
| 相机摆放建议被旧解析缩成含义不完整的单个数值 (`camera_advice_reduced_to_unqualified_scalar`) | 8 |
| 长度单位无法确认 (`length_unit_unresolved`) | 1 |
“隔离”不等于判定所有源答案错误。例如缺少单位/分量对应关系的原题可能仍有价值,但当前版本不猜测;
部分多尺寸原答案被旧解析器拼接成单一数字,亦不直接作为有效标量训练。
负值隔离中也可能包含旧标签将带符号的位置坐标误归为高度/距离的题,需单独恢复语义;
本版不将它们直接视作源标注错误,明确坐标/角度/位姿任务本身允许负值。
逐题记录见 `metric_v1/manifests/quarantine/`,包含原 ID、问答、单位和原因,可由旧固定版本追溯完整样本。
## 字段与边界
- `task_family`:统一大类;`task_type`:统一子类型。
- `legacy_task_family` / `legacy_task_type` / `source_task`:保留旧分类与来源任务,便于追溯。
- `metric_unit` / `metric_reference` / `metric_precision`:本次核验后的单位、参考系证据与精度类别。
- `metric_filter_reason` / `taxonomy_version`:保留依据与规则版本。
- 旧 `original_unit` / `canonical_*` 保留为历史字段,**不可当作本次已修正的权威单位字段**。
三维框中 2,054,945 条旧单位误记为 `m2` / `m3`,实际六个答案分量均为 `m`;本版 `metric_unit=m`,不修改原六坐标答案。
- `relative_orientation_angle` 包含来源以数值表达的粗粒度角度类别,`metric_precision=coarse_numeric_orientation_category`,不宣称连续角度真值精度。
三维框的米制相机空间任务依据实际六坐标答案及 [HiSpatial 原论文任务定义](https://arxiv.org/html/2603.25411v1#S3.SS1)。
来源空间标注可能来自估计而非实测;本次检查的是**任务范围、输出结构与元数据一致性**,不是逐题视觉真值审核。
## 评测与验收
评测同样应用范围筛选,各题保留在原 split,不从评测组回填训练。两版共用以下集合:
| split | 题数 |
|---|---:|
| validation | 49,739 |
| test | 49,696 |
| video_validation | 1,585 |
| video_test | 1,725 |
这些是旧评测的筛选子集,因此比较模型时必须固定本版评测,不能直接混用旧版分数。
**未重新进行全源物理场景隔离,既有 Hypersim 同场景跨集合风险仍需保留;不宣称完全场景独立。**
本版核验:父分片 SHA256、全行规则判断、保留 QA/媒体字段一致、Small 配额与子集、评测 ID 隔离、媒体引用和真实读取。
未进行本版正式模型训练,任务配比一致也不自动证明 scaling 因果关系。
## 读取与训练
安装 `huggingface_hub pyarrow requests pillow numpy av`,下载 `tools/` 中三个脚本。
```python
from load_stage3_data import Stage3Dataset
ds = Stage3Dataset('/scratch/stage3-cache', config='small', revision='metric-v1.0', max_cache_gib=4)
sample = ds.sample(next(ds.rows('train')))
# question / answer / visual_inputs;标记已渲染,帧顺序已保留。
```
正式入口见 [项目 Stage3 指南](https://github.com/GuangSTrip/Anchor-Spatial-Reasoning/blob/master/training/stage3/README.md),
须使用明确支持 `metric-v1.0` 的代码版本。300GiB 环境按需取 TAR 字节范围,不要全库下载;模型和优化器空间另算。
同一问答内部不打乱帧;训练行跨分片混洗。两版固定相同输入预算、模型初始化和优化策略,报告实际 step / token / 帧曝光。
## 来源许可与版本
仍为 CA-VQA、HiSpatial、SpaceVista、VSI-590K、SIMS-VSI、ViCA-322K 六个来源,未加入 SenseNova。
不重新授权上游素材:CA-VQA/CubifyAnything 为 CC-BY-NC-ND-4.0;SpaceVista 为 CC-BY-4.0;
VSI-590K、SIMS-VSI 为 Apache-2.0;ViCA-322K 为 CC-BY-NC-4.0;HiSpatial 为 MIT,底层素材条款另行适用。
混合集不能视作可自由商用。
完整统计与筛选证据:[metric_v1/manifests/build-audit.json](metric_v1/manifests/build-audit.json)、
[任务映射](metric_v1/manifests/task-mapping.json)、[Small 配额](metric_v1/manifests/small-allocation.json)。
|