Datasets:
metadata
license: other
task_categories:
- video-to-video
- image-to-video
tags:
- video
- sketch
- line-art
- trajectory
- point-tracking
- motion
- wan-move
- sketchtraj
size_categories:
- 1K<n<10K
pretty_name: SketchTraj InBetween Data
SketchTraj InBetween Data
面向 「首帧线稿 + 运动轨迹 → 生成完整线稿视频」 任务的训练数据集集合。
每条样本提供：RGB 源视频、XDoG 线稿视频（生成目标）、目标实例掩码（mask 版）、 SpaTracker 运动轨迹、首/末帧图、自然语言描述。
- 仓库文件：
dataset1.zip（21.9 GB），解压后即本文档描述的datasets/目录 （3 个 mask 版子集 + 3 个 dense 版子集，共 2,258 条索引记录） - 解压：
unzip dataset1.zip -d SketchTraj/（解压后约 25 GB）
轨迹有两个版本，并存于 datasets/ 下：
- mask 版（
datasets/<subset>/）：查询点限制在 SAM2 实例掩码内，聚焦主体运动 - dense 版（
datasets/<subset>_dense/）：全图均匀网格 1024 点，覆盖整帧运动场
数据规模
| 子集 | mask 版 | dense 版 | 来源 | 说明 |
|---|---|---|---|---|
demo |
21 | 21 | 场景片段 | 小规模自检集 |
anita |
90 | 90 | Anita 动画（草图域） | 人物/角色动作为主 |
movebench |
1,018 | 1,018 | MoveBench（RGB 域） | 大规模通用场景 |
| 合计 | 1,129 | 1,129 |
目录结构
mask 版（process_dataset.sh 产出）
datasets/<subset>/
├── raw/ # 原始素材（MoveBench 的 single_track.txt / Anita PNG 等）
├── source_video/ # RGB 源视频 -> dataset.json: source_video
├── gt_video/ # XDoG 线稿视频（监督目标） -> gt_video
├── instance_mask/ # SAM2 目标实例掩码视频 -> instance_mask
├── first_frame/ # 首帧 jpg -> first_frame
├── last_frame/ # 末帧 jpg -> last_frame
├── trajectory/ # SpaTracker 轨迹 npz -> trajectory
├── traj_vis/ # 轨迹可视化 mp4 + traj_report.json
├── dataset.json # 最终训练索引
├── metadata.json # 流水线输入索引
├── validate_report.json # 体检报告
└── captions_from_metadata.json # {video_id: prompt} 备份
dense 版（process_dataset_dense.sh 产出）
只做轨迹与可视化，视频 / 线稿 / 首末帧 / prompt 全部复用 mask 版（不复制文件，
索引里的 source_video / gt_video 仍指向 datasets/<subset>/）：
datasets/<subset>_dense/
├── metadata.json # 输入索引（不含 mask）
├── trajectory/ # 密集轨迹 npz（1024 点/条）
├── traj_vis/ # 轨迹可视化 + traj_report.json
├── dataset.json # 最终索引（instance_mask = null）
└── validate_report.json
dataset.json 格式
数组，每条一个样本：
{
"video_id": "Pexels_3C_product_0",
"source_video": "./datasets/movebench/source_video/Pexels_3C_product_0.mp4",
"gt_video": "./datasets/movebench/gt_video/Pexels_3C_product_0.mp4",
"instance_mask": "./datasets/movebench/instance_mask/Pexels_3C_product_0.mp4",
"first_frame": "./datasets/movebench/first_frame/Pexels_3C_product_0_first.jpg",
"last_frame": "./datasets/movebench/last_frame/Pexels_3C_product_0_last.jpg",
"trajectory": "./datasets/movebench/trajectory/Pexels_3C_product_0_tracks.npz",
"prompt": "A laptop is placed on a wooden table. ..."
}
| 字段 | 含义 |
|---|---|
source_video |
RGB 源视频，轨迹从中提取 |
gt_video |
XDoG 线稿视频，训练监督目标（草图域） |
instance_mask |
目标实例掩码视频，限定轨迹查询点落在目标物体上（**dense 版为 null**） |
first_frame / last_frame |
首帧 / 末帧图 |
trajectory |
轨迹 npz：tracks [T=49, N, 2] + visibility [T=49, N]，坐标在 832×480 像素空间 |
prompt |
自然语言描述 |
轨迹 npz
z = np.load("..._tracks.npz")
tracks = z["tracks"] # float32 [49, N, 2]，逐帧 (x, y) 像素坐标
visibility = z["visibility"] # bool [49, N]，该帧该点是否可见
两个版本的区别只在查询点从哪来，取帧、跟踪器与坐标空间完全一致：
| mask 版 | dense 版 | |
|---|---|---|
warp_mode |
ref_video_mask |
ref_video |
| 查询点 | grid_size=22 网格 ∩ 实例掩码首帧，上限 500 |
全图 grid_size=32 网格 |
| 点数 N | ~200–500（随掩码大小） | 1024（= 32×32，固定） |
| 覆盖 | 仅目标实例 | 整帧（含背景） |
| 需要掩码 | 是（SAM2） | 否 |
| 质检指标 | 含 in_mask_ratio |
无 in_mask_ratio |
- 坐标空间与预处理一致：49 帧 × 480(H) × 832(W)
traj_vis/<video_id>.mp4是轨迹叠在 RGB 源视频上的可视化（H.264 / 832×480 / 49 帧 / 12fps），traj_vis/traj_report.json给出每条的visible_ratio、mean_step_px（mask 版还有in_mask_ratio）
预处理参数
| 参数 | 值 |
|---|---|
frame_num |
49（对原始视频按 linspace 重采样） |
resolution |
480×832（bilinear resize） |
grid_size |
mask 版 22 / dense 版 32 |
warp_mode |
mask 版 ref_video_mask / dense 版 ref_video |
max_object_queries |
500（仅 mask 版） |
| 线稿（gt_video） | XDoG，sigma=1.0 k=2.0 tau=0.98 eps=0.01 phi=20 |
| 掩码 | SAM2.1 sam2.1_hiera_large，自动提示，max_objects=1 |
训练特征（preprocessed/：Wan2.1 VAE latent / UMT5-XXL / OpenCLIP / y_cond）当前未产出，
数据集定稿后由 bash data_process/preprocess_features.sh DATASET=<subset> 单独生成。
Prompt 来源
| 子集 | 生成方式 |
|---|---|
anita（90） |
Qwen3-VL-30B-A3B-Instruct 逐条描述视频内容与运动，词数中位数 112 |
demo（21） |
同上，词数中位数 226 |
movebench（1,018） |
沿用 MoveBench 原始 caption（raw/single_track.txt） |
重建索引时 prepare_metadata.py --inherit_prompt 会自动继承旧索引里的 prompt，不会被默认模板冲掉。
构建流程
- 实例掩码（mask 版）：SAM2.1 + 自动提示，逐视频生成目标实例掩码
- 线稿生成：XDoG（RGB → 白底黑线）
- 轨迹提取：SpaTrackerV2；mask 版
ref_video_mask，dense 版ref_video（1024 点） - 质检可视化：
visualize_trajectory.py渲染traj_vis/并输出质量报告 - 体检：
validate_dataset.py输出validate_report.json - 训练特征（可选）：
preprocess_features.sh生成preprocessed/
# mask 版
DATASET=movebench GPU=7 bash data_process/process_dataset.sh
# dense 版（只跑轨迹 + 可视化，输出到新文件夹）
DATASET=movebench GPU=7 bash data_process/process_dataset_dense.sh
# 训练特征
DATASET=movebench GPU=7 bash data_process/preprocess_features.sh
质量统计（validate_report.json，中位数）
| 子集 | 版本 | 点数 | 可见率 p50 | 平均帧位移 p50 | 静止轨迹 | 低可见率 |
|---|---|---|---|---|---|---|
| demo | mask | 424 | 0.599 | 2.97 px | 6 | 5 |
| demo | dense | 1024 | 0.719 | 2.31 px | 7 | 6 |
| anita | mask | 500 | 0.586 | 1.85 px | 30 | 16 |
| anita | dense | 1024 | 0.592 | 1.05 px | 32 | 7 |
| movebench | mask | 500 | 0.888 | 3.55 px | 23 | 10 |
| movebench | dense | 1024 | 0.846 | 1.99 px | 137 | 6 |
判据：可见率 < 0.2 记 low_visible；平均帧位移 < 0.5 px 记 static_traj。
dense 版的读数要注意：全图网格包含大量静止背景点，因此平均位移被拉低、
static_traj 计数上升（movebench 23 → 137）属于预期现象，不是跟踪失败；
同时低可见率样本反而减少（背景点比目标实例上的点更容易保持可见）。
报告按 visible_ratio 升序排列，可直接用于剔除低质样本。
快速使用
import json, numpy as np
from PIL import Image
records = json.load(open("datasets/movebench/dataset.json")) # 或 movebench_dense
r = records[0]
first_frame = Image.open(r["first_frame"]) # 条件首帧（线稿）
z = np.load(r["trajectory"])
tracks, vis = z["tracks"], z["visibility"] # [49, N, 2] / [49, N]
prompt = r["prompt"]
训练时的监督目标是 gt_video（线稿视频），输入条件为首帧线稿 + 轨迹 + prompt。
注意事项
- 轨迹坐标在 832×480 空间；若要可视化到原分辨率视频，需复现预处理的
linspace取帧 +resize流程（取帧逻辑统一在data_process/common.py），否则点位会错位 gt_video是线稿（低饱和、颜色数少），不要当 RGB 真值用- dense 版的
instance_mask为null，读索引时要做空值处理 - dense 目录不含视频文件，其
source_video/gt_video/ 首末帧均指向对应的 mask 版目录， 两者必须一起保留 - 各子集的原始素材版权遵循其来源数据集（MoveBench / Anita）的规定