TrainingData_Stage3 / README.md
GuangsTrip's picture
Release metric-v1.0: audited physical metrics, unified task taxonomy and matched Small/Large
eb74d8d verified
|
Raw History Blame Contribute Delete
11.6 kB
metadata
pretty_name: Anchor Spatial Reasoning Stage-3 Training Data
language:
  - en
license: other
task_categories:
  - visual-question-answering
tags:
  - spatial-reasoning
  - metric-reasoning
  - multimodal
  - video
configs:
  - config_name: small
    data_files:
      - split: train
        path: metric_v1/small/train/*.parquet
      - split: validation
        path: metric_v1/small/validation/*.parquet
      - split: test
        path: metric_v1/small/test/*.parquet
      - split: video_validation
        path: metric_v1/small/video_validation/*.parquet
      - split: video_test
        path: metric_v1/small/video_test/*.parquet
  - config_name: large
    data_files:
      - split: train
        path: metric_v1/large/train/*.parquet
      - split: validation
        path: metric_v1/small/validation/*.parquet
      - split: test
        path: metric_v1/small/test/*.parquet
      - split: video_validation
        path: metric_v1/small/video_validation/*.parquet
      - split: video_test
        path: metric_v1/small/video_test/*.parquet
  - config_name: media_complete
    data_files:
      - split: train
        path:
          - annotations/vsi590k/measurement.parquet
          - annotations/spacevista/media-complete.parquet
          - annotations/hispatial/part-*.parquet
          - annotations/cavqa/part-*.parquet
  - config_name: spacevista_exhaustive
    data_files:
      - split: train
        path: annotations/spacevista/all-measurement.parquet

AnchorSR Stage3 · metric-v1.0

直接选择 Small / Large

配置 训练题数 用途
small 1,000,000 先验证答案监督/先验恢复,按新版 Large 联合分布抽样
large 89,801,853 筛选后的完整训练集合,包含 Small 全部样本
from datasets import load_dataset
data = load_dataset('AnchorSR/TrainingData_Stage3', 'small',  # 或 large
                    revision='metric-v1.0', streaming=True)

这是对 scaling-v1.0 的语义筛选与统一任务分类,不是增加新数据源。 Large 从 89,828,269 题保留 89,801,853 题,隔离 26,416 题。 旧标签 scaling-v1.0 / video-v1.0 / large-v1.0 均不移动,原始池与旧样本不删除。 Small 重新无放回抽取 1,000,000 题,按 source × 统一子类型 × semantic_modality 配额, 每个非空层至少 1 题,固定种子。Small/Large 不可拼接,旧 Small 实验不能直接当作新版的数据量对照。

仅对保留样本改分类/新增审计字段:原问题、training_question、training_answer、媒体路径、帧顺序和定位标记均逐分片核验不变。 没有猜测修复答案,没有引入额外帧、伪造 FPS 或增加 CA-VQA 的“最后一帧为参考帧”提示。 媒体 TAR 完全复用;Large 索引保留父版本的安全超集,Small 索引按实际引用重建。

统一任务大类、数量与占比

类型 Small 数量 Small 占比 Large 数量 Large 占比
距离与深度 730,637 73.0637% 65,612,592 73.0637%
物体尺寸 215,818 21.5818% 19,380,884 21.5818%
三维包围框 50,244 5.0244% 4,512,009 5.0244%
角度与旋转 2,713 0.2713% 243,725 0.2714%
复合几何与位姿 404 0.0404% 36,208 0.0403%
面积与体积 183 0.0183% 16,431 0.0183%
物理位置与坐标 1 0.0001% 4 0.0000%
合计 1,000,000 100% 89,801,853 100%

三维框指米制三维范围,不是二维图片框;数值角度保留,粗粒度角度类别单独标记。 物理位置包括米制坐标/地面区域;“二维图像坐标+米制深度”归复合任务,不是纯二维定位,也不是直接的三维坐标向量。

统一子类型

类型 Small 数量 Small 占比 Large 数量 Large 占比
surface_distance 229,903 22.9903% 20,645,710 22.9903%
object_distance 137,526 13.7526% 12,350,184 13.7527%
horizontal_distance 112,435 11.2435% 10,096,877 11.2435%
vertical_distance 111,071 11.1071% 9,974,343 11.1071%
height 107,428 10.7428% 9,647,211 10.7428%
width 80,181 8.0181% 7,200,485 8.0182%
depth_axis_distance 75,031 7.5031% 6,737,939 7.5031%
aabb_3d 50,244 5.0244% 4,512,009 5.0244%
camera_distance 50,244 5.0244% 4,512,009 5.0244%
length 27,312 2.7312% 2,452,606 2.7311%
camera_depth 14,292 1.4292% 1,283,468 1.4292%
relative_orientation_angle 1,982 0.1982% 177,992 0.1982%
longest_side 897 0.0897% 80,582 0.0897%
viewpoint_turn_angle 437 0.0437% 39,315 0.0438%
object_rotation_angle 219 0.0219% 19,699 0.0219%
triangle_lengths_angles 217 0.0217% 19,507 0.0217%
area 175 0.0175% 15,708 0.0175%
center_distance 135 0.0135% 12,062 0.0134%
translation_rotation 104 0.0104% 9,295 0.0104%
image_projection_with_depth 83 0.0083% 7,406 0.0082%
camera_rotation_angle 74 0.0074% 6,654 0.0074%
volume 8 0.0008% 723 0.0008%
angle 1 0.0001% 65 0.0001%
metric_position_region 1 0.0001% 4 0.0000%
合计 1,000,000 100% 89,801,853 100%

Video / Image

类型 Small 数量 Small 占比 Large 数量 Large 占比
image 773,312 77.3312% 69,444,658 77.3310%
video 226,688 22.6688% 20,357,195 22.6690%
合计 1,000,000 100% 89,801,853 100%

video 包括原生 MP4 和有来源依据的有序视频帧组;image 包括单图与真正多视角。 模态契约继承 scaling-v1.0:CA-VQA 保留全部原帧;SpaceVista 依契约区分视频与多视角,保留帧组、顺序和重复帧。

来源与筛选核算

以下“筛选前”是上一版 Large 训练集,不是原数据源总量或 105M 原始候选池。

来源 筛选前 保留 隔离
cavqa 19,825,020 19,825,020 0
hispatial 69,298,561 69,281,332 17,229
sims_vsi 21,980 21,980 0
spacevista 428,623 419,436 9,187
vica322k 119,288 119,288 0
vsi590k 134,797 134,797 0
类型 Small 数量 Small 占比 Large 数量 Large 占比
hispatial 771,493 77.1493% 69,281,332 77.1491%
cavqa 220,762 22.0762% 19,825,020 22.0764%
spacevista 4,672 0.4672% 419,436 0.4671%
vsi590k 1,500 0.1500% 134,797 0.1501%
vica322k 1,328 0.1328% 119,288 0.1328%
sims_vsi 245 0.0245% 21,980 0.0245%
合计 1,000,000 100% 89,801,853 100%

Large 隔离原因

原因 数量
计数/排序/选择物体/定性关系等非度量任务 (nonmetric_source_task) 17,162
问题要求多个尺寸,但旧训练答案未保留多值结构 (multi_dimension_target_not_preserved_as_vector) 8,149
位姿分量对应关系或单位不明确 (pose_components_or_units_unresolved) 900
图像投影+深度的米制依据或格式不足 (projection_depth_unit_or_format_unresolved) 137
来源度量单位与现有训练目标冲突 (source_metric_unit_conflicts_with_training_target) 48
距离/尺寸/面积等非负物理量出现负值 (negative_unsigned_metric_target) 11
相机摆放建议被旧解析缩成含义不完整的单个数值 (camera_advice_reduced_to_unqualified_scalar) 8
长度单位无法确认 (length_unit_unresolved) 1

“隔离”不等于判定所有源答案错误。例如缺少单位/分量对应关系的原题可能仍有价值,但当前版本不猜测; 部分多尺寸原答案被旧解析器拼接成单一数字,亦不直接作为有效标量训练。 负值隔离中也可能包含旧标签将带符号的位置坐标误归为高度/距离的题,需单独恢复语义; 本版不将它们直接视作源标注错误,明确坐标/角度/位姿任务本身允许负值。 逐题记录见 metric_v1/manifests/quarantine/,包含原 ID、问答、单位和原因,可由旧固定版本追溯完整样本。

字段与边界

  • task_family:统一大类;task_type:统一子类型。
  • legacy_task_family / legacy_task_type / source_task:保留旧分类与来源任务,便于追溯。
  • metric_unit / metric_reference / metric_precision:本次核验后的单位、参考系证据与精度类别。
  • metric_filter_reason / taxonomy_version:保留依据与规则版本。
  • 旧 original_unit / canonical_* 保留为历史字段,不可当作本次已修正的权威单位字段。 三维框中 2,054,945 条旧单位误记为 m2 / m3,实际六个答案分量均为 m;本版 metric_unit=m,不修改原六坐标答案。
  • relative_orientation_angle 包含来源以数值表达的粗粒度角度类别,metric_precision=coarse_numeric_orientation_category,不宣称连续角度真值精度。

三维框的米制相机空间任务依据实际六坐标答案及 HiSpatial 原论文任务定义。 来源空间标注可能来自估计而非实测;本次检查的是任务范围、输出结构与元数据一致性,不是逐题视觉真值审核。

评测与验收

评测同样应用范围筛选,各题保留在原 split,不从评测组回填训练。两版共用以下集合:

split 题数
validation 49,739
test 49,696
video_validation 1,585
video_test 1,725

这些是旧评测的筛选子集,因此比较模型时必须固定本版评测,不能直接混用旧版分数。 未重新进行全源物理场景隔离,既有 Hypersim 同场景跨集合风险仍需保留;不宣称完全场景独立。 本版核验:父分片 SHA256、全行规则判断、保留 QA/媒体字段一致、Small 配额与子集、评测 ID 隔离、媒体引用和真实读取。 未进行本版正式模型训练,任务配比一致也不自动证明 scaling 因果关系。

读取与训练

安装 huggingface_hub pyarrow requests pillow numpy av,下载 tools/ 中三个脚本。

from load_stage3_data import Stage3Dataset
ds = Stage3Dataset('/scratch/stage3-cache', config='small', revision='metric-v1.0', max_cache_gib=4)
sample = ds.sample(next(ds.rows('train')))
# question / answer / visual_inputs;标记已渲染,帧顺序已保留。

正式入口见 项目 Stage3 指南, 须使用明确支持 metric-v1.0 的代码版本。300GiB 环境按需取 TAR 字节范围,不要全库下载;模型和优化器空间另算。 同一问答内部不打乱帧;训练行跨分片混洗。两版固定相同输入预算、模型初始化和优化策略,报告实际 step / token / 帧曝光。

来源许可与版本

仍为 CA-VQA、HiSpatial、SpaceVista、VSI-590K、SIMS-VSI、ViCA-322K 六个来源,未加入 SenseNova。 不重新授权上游素材:CA-VQA/CubifyAnything 为 CC-BY-NC-ND-4.0;SpaceVista 为 CC-BY-4.0; VSI-590K、SIMS-VSI 为 Apache-2.0;ViCA-322K 为 CC-BY-NC-4.0;HiSpatial 为 MIT,底层素材条款另行适用。 混合集不能视作可自由商用。 完整统计与筛选证据:metric_v1/manifests/build-audit.json、 任务映射、Small 配额。