Update dataset card: mask + dense trajectory variants, quality stats

README.md

@@ -20,44 +20,60 @@ pretty_name: SketchTraj InBetween Data
 # SketchTraj InBetween Data
 
 面向 **「首帧线稿 + 运动轨迹 → 生成完整线稿视频」** 任务的训练数据集集合。
-每条样本提供：RGB 源视频、XDoG 线稿视频（生成目标）、目标实例掩码、SpaTracker 密集运动轨迹、
-首/末帧图、自然语言描述，以及 Wan2.1 预处理好的 latent / 文本 / CLIP 特征。
 
-- 仓库文件：`dataset1.zip`（19.53 GB，30,150 个条目，解压后约 23 GB）
-- 样本总数：**1,129**（demo 21 + anita 90 + movebench 1,018）
+每条样本提供：RGB 源视频、XDoG 线稿视频（生成目标）、目标实例掩码（mask 版）、
+SpaTracker 运动轨迹、首/末帧图、自然语言描述。
+
+- 仓库文件：`dataset1.zip`（21.9 GB），解压后即本文档描述的 `datasets/` 目录
+  （3 个 mask 版子集 + 3 个 dense 版子集，共 2,258 条索引记录）
+- 解压：`unzip dataset1.zip -d SketchTraj/`（解压后约 25 GB）
+
+轨迹有**两个版本**，并存于 `datasets/` 下：
+
+- **mask 版**（`datasets/<subset>/`）：查询点限制在 SAM2 实例掩码内，聚焦主体运动
+- **dense 版**（`datasets/<subset>_dense/`）：全图均匀网格 1024 点，覆盖整帧运动场
 
 ## 数据规模
 
-| 子集 | 样本数 | 来源 | 说明 |
-|---|---|---|---|
-| `datasets/demo` | 21 | 场景片段 | 小规模自检集 |
-| `datasets/anita` | 90 | Anita 动画（草图域） | 人物/角色动作为主 |
-| `datasets/movebench` | 1,018 | MoveBench（RGB 域） | 大规模通用场景 |
-| **合计** | **1,129** | | |
+| 子集 | mask 版 | dense 版 | 来源 | 说明 |
+|---|---|---|---|---|
+| `demo` | 21 | 21 | 场景片段 | 小规模自检集 |
+| `anita` | 90 | 90 | Anita 动画（草图域） | 人物/角色动作为主 |
+| `movebench` | 1,018 | 1,018 | MoveBench（RGB 域） | 大规模通用场景 |
+| **合计** | **1,129** | **1,129** | | |
 
 ## 目录结构
 
-解压后每个子集遵循统一 schema：
+### mask 版（`process_dataset.sh` 产出）
 
 ```
 datasets/<subset>/
-├── raw/               # 原始素材（MoveBench 的 single_track.txt / multi_track.txt 等）
+├── raw/               # 原始素材（MoveBench 的 single_track.txt / Anita PNG 等）
 ├── source_video/      # RGB 源视频                ->  dataset.json: source_video
-├── gt_video/          # XDoG 线稿视频（监督目标）  ->  dataset.json: gt_video
-├── instance_mask/     # 目标实例掩码视频           ->  dataset.json: instance_mask
-├── first_frame/       # 首帧 jpg                  ->  dataset.json: first_frame
-├── last_frame/        # 末帧 jpg                  ->  dataset.json: last_frame
-├── trajectory/        # SpaTracker 轨迹 npz       ->  dataset.json: trajectory
-├── preprocessed/      # 训练用特征
-│   ├── latents/           # Wan2.1 VAE latent（含 y_cond 所需的首帧 latent）
-│   ├── text_embeddings/   # T5-XXL 文本特征
-│   ├── clip_embeddings/   # CLIP 图像特征
-│   ├── y_cond/            # 首帧条件
-│   └── trajectories/      # 预处理阶段产出的轨迹（已同步到 trajectory/）
-├── traj_vis/          # 轨迹可视化 mp4 + traj_report.json（人工质检用）
+├── gt_video/          # XDoG 线稿视频（监督目标）  ->  gt_video
+├── instance_mask/     # SAM2 目标实例掩码视频      ->  instance_mask
+├── first_frame/       # 首帧 jpg                  ->  first_frame
+├── last_frame/        # 末帧 jpg                  ->  last_frame
+├── trajectory/        # SpaTracker 轨迹 npz       ->  trajectory
+├── traj_vis/          # 轨迹可视化 mp4 + traj_report.json
 ├── dataset.json       # 最终训练索引
-├── metadata.json      # 预处理输入索引（video_id -> 各路径 + prompt）
-└── captions_from_metadata.json   # {video_id: prompt} 备份，防止重建 metadata 时丢失
+├── metadata.json      # 流水线输入索引
+├── validate_report.json   # 体检报告
+└── captions_from_metadata.json   # {video_id: prompt} 备份
+```
+
+### dense 版（`process_dataset_dense.sh` 产出）
+
+只做轨迹与可视化，视频 / 线稿 / 首末帧 / prompt 全部**复用 mask 版**（不复制文件，
+索引里的 `source_video` / `gt_video` 仍指向 `datasets/<subset>/`）：
+
+```
+datasets/<subset>_dense/
+├── metadata.json          # 输入索引（不含 mask）
+├── trajectory/            # 密集轨迹 npz（1024 点/条）
+├── traj_vis/              # 轨迹可视化 + traj_report.json
+├── dataset.json           # 最终索引（instance_mask = null）
+└── validate_report.json
 ```
 
 ## `dataset.json` 格式
@@ -70,8 +86,8 @@ datasets/<subset>/
   "source_video": "./datasets/movebench/source_video/Pexels_3C_product_0.mp4",
   "gt_video": "./datasets/movebench/gt_video/Pexels_3C_product_0.mp4",
   "instance_mask": "./datasets/movebench/instance_mask/Pexels_3C_product_0.mp4",
-  "first_frame": "datasets/movebench/first_frame/Pexels_3C_product_0_first.jpg",
-  "last_frame": "datasets/movebench/last_frame/Pexels_3C_product_0_last.jpg",
+  "first_frame": "./datasets/movebench/first_frame/Pexels_3C_product_0_first.jpg",
+  "last_frame": "./datasets/movebench/last_frame/Pexels_3C_product_0_last.jpg",
   "trajectory": "./datasets/movebench/trajectory/Pexels_3C_product_0_tracks.npz",
   "prompt": "A laptop is placed on a wooden table. ..."
 }
@@ -81,10 +97,10 @@ datasets/<subset>/
 |---|---|
 | `source_video` | RGB 源视频，轨迹从中提取 |
 | `gt_video` | XDoG 线稿视频，训练监督目标（草图域） |
-| `instance_mask` | 目标实例掩码视频，限定轨迹查询点落在目标物体上 |
+| `instance_mask` | 目标实例掩码视频，限定轨迹查询点落在目标物体上（**dense 版为 `null`**） |
 | `first_frame` / `last_frame` | 首帧 / 末帧图 |
 | `trajectory` | 轨迹 npz：`tracks [T=49, N, 2]` + `visibility [T=49, N]`，坐标在 **832×480** 像素空间 |
-| `prompt` | 自然语言描述（见下） |
+| `prompt` | 自然语言描述 |
 
 ## 轨迹 npz
 
@@ -94,10 +110,20 @@ tracks     = z["tracks"]      # float32 [49, N, 2]，逐帧 (x, y) 像素坐标
 visibility = z["visibility"]  # bool    [49, N]，该帧该点是否可见
 ```
 
-- 查询点由 `grid_size=22` 均匀网格生成，并用实例掩码过滤，最多 `max_object_queries=500` 个点
+两个版本的区别只在**查询点从哪来**，取帧、跟踪器与坐标空间完全一致：
+
+| | mask 版 | dense 版 |
+|---|---|---|
+| `warp_mode` | `ref_video_mask` | `ref_video` |
+| 查询点 | `grid_size=22` 网格 ∩ 实例掩码首帧，上限 500 | 全图 `grid_size=32` 网格 |
+| 点数 N | ~200–500（随掩码大小） | **1024**（= 32×32，固定） |
+| 覆盖 | 仅目标实例 | 整帧（含背景） |
+| 需要掩码 | 是（SAM2） | 否 |
+| 质检指标 | 含 `in_mask_ratio` | 无 `in_mask_ratio` |
+
 - 坐标空间与预处理一致：**49 帧 × 480(H) × 832(W)**
 - `traj_vis/<video_id>.mp4` 是轨迹叠在 RGB 源视频上的可视化（H.264 / 832×480 / 49 帧 / 12fps），
-   `traj_vis/traj_report.json` 给出每条的 `visible_ratio`、`mean_step_px`、`in_mask_ratio`
+  `traj_vis/traj_report.json` 给出每条的 `visible_ratio`、`mean_step_px`（mask 版还有 `in_mask_ratio`）
 
 ## 预处理参数
 
@@ -105,10 +131,14 @@ visibility = z["visibility"]  # bool    [49, N]，该帧该点是否可见
 |---|---|
 | `frame_num` | 49（对原始视频按 `linspace` 重采样） |
 | `resolution` | 480×832（bilinear resize） |
-| `grid_size` | 22 |
-| `warp_mode` | `ref_video_mask`（查询点限制在实例掩码内） |
-| `max_object_queries` | 500 |
-| VAE / 文本 / 图像编码器 | Wan2.1 VAE、UMT5-XXL、OpenCLIP |
+| `grid_size` | mask 版 22 / dense 版 32 |
+| `warp_mode` | mask 版 `ref_video_mask` / dense 版 `ref_video` |
+| `max_object_queries` | 500（仅 mask 版） |
+| 线稿（gt_video） | XDoG，`sigma=1.0 k=2.0 tau=0.98 eps=0.01 phi=20` |
+| 掩码 | SAM2.1 `sam2.1_hiera_large`，自动提示，`max_objects=1` |
+
+训练特征（`preprocessed/`：Wan2.1 VAE latent / UMT5-XXL / OpenCLIP / y_cond）**当前未产出**，
+数据集定稿后由 `bash data_process/preprocess_features.sh DATASET=<subset>` 单独生成。
 
 ## Prompt 来源
 
@@ -118,25 +148,43 @@ visibility = z["visibility"]  # bool    [49, N]，该帧该点是否可见
 | `demo`（21） | 同上，词数中位数 226 |
 | `movebench`（1,018） | 沿用 MoveBench 原始 caption（`raw/single_track.txt`） |
 
+重建索引时 `prepare_metadata.py --inherit_prompt` 会自动继承旧索引里的 prompt，不会被默认模板冲掉。
+
 ## 构建流程
 
-1. **实例掩码**：SAM2.1（`sam2.1_hiera_large`）+ 自动提示，逐视频生成目标实例掩码
-2. **轨迹提取**：SpaTrackerV2（`warp_mode=ref_video_mask`，查询点限制在掩码内）
-3. **线稿生成**：XDoG
-4. **特征预处理**：Wan2.1 VAE latent / UMT5-XXL / OpenCLIP / 首帧 y_cond
-5. **Prompt**：movebench 用原始 caption；anita / demo 用 Qwen3-VL 生成
-6. **质检可视化**：`data_process/visualize_trajectory.py` 渲染 `traj_vis/` 并输出质量报告
+1. **实例掩码**（mask 版）：SAM2.1 + 自动提示，逐视频生成目标实例掩码
+2. **线稿生成**：XDoG（RGB → 白底黑线）
+3. **轨迹提取**：SpaTrackerV2；mask 版 `ref_video_mask`，dense 版 `ref_video`（1024 点）
+4. **质检可视化**：`visualize_trajectory.py` 渲染 `traj_vis/` 并输出质量报告
+5. **体检**：`validate_dataset.py` 输出 `validate_report.json`
+6. **训练特征**（可选）：`preprocess_features.sh` 生成 `preprocessed/`
+
+```bash
+# mask 版
+DATASET=movebench GPU=7 bash data_process/process_dataset.sh
+# dense 版（只跑轨迹 + 可视化，输出到新文件夹）
+DATASET=movebench GPU=7 bash data_process/process_dataset_dense.sh
+# 训练特征
+DATASET=movebench GPU=7 bash data_process/preprocess_features.sh
+```
 
-## 质量统���（来自 `traj_vis/traj_report.json`）
+## 质量统计（`validate_report.json`，中位数）
 
-| 子集 | 可见率 p50 | 平均帧位移 p50 | 首帧点落在掩码内 p50 | 轨迹点数 p50 |
-|---|---|---|---|---|
-| demo | 0.599 | 2.97 px | 1.000 | 424 |
-| anita | 0.579 | 1.69 px | 0.998 | 500 |
-| movebench | 0.888 | 3.55 px | 1.000 | 500 |
+| 子集 | 版本 | 点数 | 可见率 p50 | 平均帧位移 p50 | 静止轨迹 | 低可见率 |
+|---|---|---|---|---|---|---|
+| demo | mask | 424 | 0.599 | 2.97 px | 6 | 5 |
+| demo | dense | 1024 | 0.719 | 2.31 px | 7 | 6 |
+| anita | mask | 500 | 0.586 | 1.85 px | 30 | 16 |
+| anita | dense | 1024 | 0.592 | 1.05 px | 32 | 7 |
+| movebench | mask | 500 | 0.888 | 3.55 px | 23 | 10 |
+| movebench | dense | 1024 | 0.846 | 1.99 px | 137 | 6 |
 
-`in_mask_ratio` 普遍接近 1.0，说明轨迹基本都落在目标实例上。
-`traj_report.json` 按 `visible_ratio` 升序排列，可见率最低的样本排在前面，可直接用于剔除低质样本。
+判据：可见率 < 0.2 记 `low_visible`；平均帧位移 < 0.5 px 记 `static_traj`。
+
+**dense 版的读数要注意**：全图网格包含大量静止背景点，因此平均位移被拉低、
+`static_traj` 计数上升（movebench 23 → 137）属于**预期现象**，不是跟踪失败；
+同时低可见率样本反而减少（背景点比目标实例上的点更容易保持可见）。
+报告按 `visible_ratio` 升序排列，可直接用于剔除低质样本。
 
 ## 快速使用
 
@@ -144,15 +192,13 @@ visibility = z["visibility"]  # bool    [49, N]，该帧该点是否可见
 import json, numpy as np
 from PIL import Image
 
-records = json.load(open("datasets/movebench/dataset.json"))
+records = json.load(open("datasets/movebench/dataset.json"))     # 或 movebench_dense
 r = records[0]
 
 first_frame = Image.open(r["first_frame"])                 # 条件首帧（线稿）
 z = np.load(r["trajectory"])
 tracks, vis = z["tracks"], z["visibility"]                 # [49, N, 2] / [49, N]
 prompt = r["prompt"]
-
-latent = np.load(f"datasets/movebench/preprocessed/latents/{r['video_id']}.npy")
 ```
 
 训练时的监督目标是 `gt_video`（线稿视频），输入条件为首帧线稿 + 轨迹 + prompt。
@@ -160,6 +206,9 @@ latent = np.load(f"datasets/movebench/preprocessed/latents/{r['video_id']}.npy")
 ## 注意事项
 
 - 轨迹坐标在 **832×480** 空间；若要可视化到原分辨率视频，需复现预处理的
-  `linspace` 取帧 + `resize` 流程，否则点位会错位
-- `gt_video` 是线稿（低饱和、颜色数少），不要当 RGB 真值使用
+  `linspace` 取帧 + `resize` 流程（取帧逻辑统一在 `data_process/common.py`），否则点位会错位
+- `gt_video` 是线稿（低饱和、颜色数少），不要当 RGB 真值用
+- dense 版的 `instance_mask` 为 `null`，读索引时要做空值处理
+- dense 目录不含视频文件，其 `source_video` / `gt_video` / 首末帧均指向对应的 mask 版目录，
+  两者必须一起保留
 - 各子集的原始素材版权遵循其来源数据集（MoveBench / Anita）的规定