Add dataset card (README.md)

README.md

@@ -0,0 +1,166 @@
+---
+license: other
+task_categories:
+  - video-to-video
+  - image-to-video
+  - video-generation
+tags:
+  - video
+  - sketch
+  - line-art
+  - trajectory
+  - point-tracking
+  - motion
+  - wan-move
+  - sketchtraj
+size_categories:
+  - 1K<n<10K
+pretty_name: SketchTraj InBetween Data
+---
+
+# SketchTraj InBetween Data
+
+面向 **「首帧线稿 + 运动轨迹 → 生成完整线稿视频」** 任务的训练数据集集合。
+每条样本提供：RGB 源视频、XDoG 线稿视频（生成目标）、目标实例掩码、SpaTracker 密集运动轨迹、
+首/末帧图、自然语言描述，以及 Wan2.1 预处理好的 latent / 文本 / CLIP 特征。
+
+- 仓库文件：`dataset1.zip`（19.53 GB，30,150 个条目，解压后约 23 GB）
+- 样本总数：**1,129**（demo 21 + anita 90 + movebench 1,018）
+
+## 数据规模
+
+| 子集 | 样本数 | 来源 | 说明 |
+|---|---|---|---|
+| `datasets/demo` | 21 | 场景片段 | 小规模自检集 |
+| `datasets/anita` | 90 | Anita 动画（草图域） | 人物/角色动作为主 |
+| `datasets/movebench` | 1,018 | MoveBench（RGB 域） | 大规模通用场景 |
+| **合计** | **1,129** | | |
+
+## 目录结构
+
+解压后每个子集遵循统一 schema：
+
+```
+datasets/<subset>/
+├── raw/               # 原始素材（MoveBench 的 single_track.txt / multi_track.txt 等）
+├── source_video/      # RGB 源视频                ->  dataset.json: source_video
+├── gt_video/          # XDoG 线稿视频（监督目标）  ->  dataset.json: gt_video
+├── instance_mask/     # 目标实例掩码视频           ->  dataset.json: instance_mask
+├── first_frame/       # 首帧 jpg                  ->  dataset.json: first_frame
+├── last_frame/        # 末帧 jpg                  ->  dataset.json: last_frame
+├── trajectory/        # SpaTracker 轨迹 npz       ->  dataset.json: trajectory
+├── preprocessed/      # 训练用特征
+│   ├── latents/           # Wan2.1 VAE latent（含 y_cond 所需的首帧 latent）
+│   ├── text_embeddings/   # T5-XXL 文本特征
+│   ├── clip_embeddings/   # CLIP 图像特征
+│   ├── y_cond/            # 首帧条件
+│   └── trajectories/      # 预处理阶段产出的轨迹（已同步到 trajectory/）
+├── traj_vis/          # 轨迹可视化 mp4 + traj_report.json（人工质检用）
+├── dataset.json       # 最终训练索引
+├── metadata.json      # 预处理输入索引（video_id -> 各路径 + prompt）
+└── captions_from_metadata.json   # {video_id: prompt} 备份，防止重建 metadata 时丢失
+```
+
+## `dataset.json` 格式
+
+数组，每条一个样本：
+
+```json
+{
+  "video_id": "Pexels_3C_product_0",
+  "source_video": "./datasets/movebench/source_video/Pexels_3C_product_0.mp4",
+  "gt_video": "./datasets/movebench/gt_video/Pexels_3C_product_0.mp4",
+  "instance_mask": "./datasets/movebench/instance_mask/Pexels_3C_product_0.mp4",
+  "first_frame": "datasets/movebench/first_frame/Pexels_3C_product_0_first.jpg",
+  "last_frame": "datasets/movebench/last_frame/Pexels_3C_product_0_last.jpg",
+  "trajectory": "./datasets/movebench/trajectory/Pexels_3C_product_0_tracks.npz",
+  "prompt": "A laptop is placed on a wooden table. ..."
+}
+```
+
+| 字段 | 含义 |
+|---|---|
+| `source_video` | RGB 源视频，轨迹从中提取 |
+| `gt_video` | XDoG 线稿视频，训练监督目标（草图域） |
+| `instance_mask` | 目标实例掩码视频，限定轨迹查询点落在目标物体上 |
+| `first_frame` / `last_frame` | 首帧 / 末帧图 |
+| `trajectory` | 轨迹 npz：`tracks [T=49, N, 2]` + `visibility [T=49, N]`，坐标在 **832×480** 像素空间 |
+| `prompt` | 自然语言描述（见下） |
+
+## 轨迹 npz
+
+```python
+z = np.load("..._tracks.npz")
+tracks     = z["tracks"]      # float32 [49, N, 2]，逐帧 (x, y) 像素坐标
+visibility = z["visibility"]  # bool    [49, N]，该帧该点是否可见
+```
+
+- 查询点由 `grid_size=22` 均匀网格生成，并用实例掩码过滤，最多 `max_object_queries=500` 个点
+- 坐标空间与预处理一致：**49 帧 × 480(H) × 832(W)**
+- `traj_vis/<video_id>.mp4` 是轨迹叠在 RGB 源视频上的可视化（H.264 / 832×480 / 49 帧 / 12fps），
+   `traj_vis/traj_report.json` 给出每条的 `visible_ratio`、`mean_step_px`、`in_mask_ratio`
+
+## 预处理参数
+
+| 参数 | 值 |
+|---|---|
+| `frame_num` | 49（对原始视频按 `linspace` 重采样） |
+| `resolution` | 480×832（bilinear resize） |
+| `grid_size` | 22 |
+| `warp_mode` | `ref_video_mask`（查询点限制在实例掩码内） |
+| `max_object_queries` | 500 |
+| VAE / 文本 / 图像编码器 | Wan2.1 VAE、UMT5-XXL、OpenCLIP |
+
+## Prompt 来源
+
+| 子集 | 生成方式 |
+|---|---|
+| `anita`（90） | Qwen3-VL-30B-A3B-Instruct 逐条描述视频内容与运动，词数中位数 112 |
+| `demo`（21） | 同上，词数中位数 226 |
+| `movebench`（1,018） | 沿用 MoveBench 原始 caption（`raw/single_track.txt`） |
+
+## 构建流程
+
+1. **实例掩码**：SAM2.1（`sam2.1_hiera_large`）+ 自动提示，逐视频生成目标实例掩码
+2. **轨迹提取**：SpaTrackerV2（`warp_mode=ref_video_mask`，查询点限制在掩码内）
+3. **线稿生成**：XDoG
+4. **特征预处理**：Wan2.1 VAE latent / UMT5-XXL / OpenCLIP / 首帧 y_cond
+5. **Prompt**：movebench 用原始 caption；anita / demo 用 Qwen3-VL 生成
+6. **质检可视化**：`data_process/visualize_trajectory.py` 渲染 `traj_vis/` 并输出质量报告
+
+## 质量统计（来自 `traj_vis/traj_report.json`）
+
+| 子集 | 可见率 p50 | 平均帧位移 p50 | 首帧点落在掩码内 p50 | 轨迹点数 p50 |
+|---|---|---|---|---|
+| demo | 0.599 | 2.97 px | 1.000 | 424 |
+| anita | 0.579 | 1.69 px | 0.998 | 500 |
+| movebench | 0.888 | 3.55 px | 1.000 | 500 |
+
+`in_mask_ratio` 普遍接近 1.0，说明轨迹基本都落在目标实例上。
+`traj_report.json` 按 `visible_ratio` 升序排列，可见率最低的样本排在前面，可直接用于剔除低质样本。
+
+## 快速使用
+
+```python
+import json, numpy as np
+from PIL import Image
+
+records = json.load(open("datasets/movebench/dataset.json"))
+r = records[0]
+
+first_frame = Image.open(r["first_frame"])                 # 条件首帧（线稿）
+z = np.load(r["trajectory"])
+tracks, vis = z["tracks"], z["visibility"]                 # [49, N, 2] / [49, N]
+prompt = r["prompt"]
+
+latent = np.load(f"datasets/movebench/preprocessed/latents/{r['video_id']}.npy")
+```
+
+训练时的监督目标是 `gt_video`（线稿视频），输入条件为首帧线稿 + 轨迹 + prompt。
+
+## 注意事项
+
+- 轨迹坐标在 **832×480** 空间；若要可视化到原分辨率视频，需复现预处理的
+  `linspace` 取帧 + `resize` 流程，否则点位会错位
+- `gt_video` 是线稿（低饱和、颜色数少），不要当 RGB 真值使用
+- 各子集的原始素材版权遵循其来源数据集（MoveBench / Anita）的规定