Datasets:

YujiWang132
/

VicEdit-Data

license: other
license_name: research-only
language:
  - en
tags:
  - video-editing
  - in-context-learning
  - video-generation
  - instruction-guided-editing
task_categories:
  - image-to-video
  - text-to-video
pretty_name: VicEdit Data (Instruction + ICL Video Editing)

VicEdit Data

VicEdit 的训练与评测数据（元数据 + ICL 示例图 + benchmark）。视觉 ICL 视频编辑：用「编辑前/后」示例对（图片对或视频对）表达编辑意图，配合文本指令驱动 Wan2.2-TI2V-5B 完成视频编辑。

模型权重在配套仓库 <your-name>/vicedit-5b，数据与模型分开发布，本仓库只含数据。

1. 仓库结构

.
├── metadata/                       # 训练元数据（必需，体积极小）
│   ├── train_stage1_10types.csv    # Stage 1：70,000 条
│   ├── train_final_200k.csv        # Stage 1 均衡版：200,000 条（可选）
│   ├── icl_train_stage2.json       # Stage 2/3：199,976 条
│   ├── dropped_samples.json        # 被剔除的坏样本清单（94 条）
│   ├── path_mapping.json           # 视频根目录映射说明
│   └── stats.json                  # 各子集 / 类别统计
├── icl_examples/                   # Stage 2/3 的 ICL 示例图（512×512 WebP，约 8.5GB）
│   ├── ICL_pairs/{idx}.webp, {idx}_edit.webp
│   └── ICL_single_image/{idx}.webp
├── shards/                         # 上传用的分片 tar（内容与 icl_examples 完全等价）
│   ├── ICL_pairs_000.tar ...       # 每个约 1GB
│   ├── ICL_single_image_000.tar
│   ├── SHA256SUMS
│   └── UNPACK.md
└── benchmark/                      # 评测集
    ├── icl_bench_full.csv          # ICL-Bench，180 条（自包含相对路径）
    ├── openve_bench_431.csv        # OpenVE-Bench，431 条
    ├── openve_ext_60.csv           # 补充集，60 条
    ├── senorita_bench_v2_80.csv    # 补充集，80 条
    ├── videos/  icl/  other/       # ICL-Bench 媒体（712MB）
    └── openve_bench_videos/        # OpenVE-Bench 的 431 个测试视频（487MB）

**为什么有 shards/**：HuggingFace 有两条硬限制——单个目录条目数超过 10,000 会返回 400 Bad Request，仓库文件总数超过 100,000 也会被拒。本数据集有 259,873 张图片，ICL_pairs/ 单目录 199,874 条，直传必然失败。打成 tar 分片后文件数降到个位数，下载后解包即可得到与 icl_examples/ 完全一致的目录。

2. 阶段与数据的对应关系

训练阶段	脚本	使用的数据	规模
Stage 1 指令微调	`train.py` / `train_stage1.py`	`metadata/train_stage1_10types.csv`	70,000 条
Stage 2 ICL 训练（DiT 冻结）	`train_icl.py` / `train_icl_v2.py` / `train_icl_try.py`	`metadata/icl_train_stage2.json` + `icl_examples/`	199,976 条
Stage 3 ICL + DiT LoRA	`train_icl_try_v2.sh`	同 Stage 2	199,976 条
评测	`infer_icl_v2.py` / `test_openve.py`	`benchmark/`	180 / 431 / 60 / 80

Stage 1：指令微调（10 类编辑）

编辑类型	条数
background_change	5,000
global_style	5,000
local_add	5,000
local_change	5,000
local_remove	5,000
subtitles_edit	5,000
creative_edit	10,000
local_style_transfer	10,000
inpainting	10,000
outpainting	10,000
合计	70,000

CSV 字段：category, prompt, src_video, tgt_video, source（来源：openve 30,000 / senorita 30,000 / openve-ext 10,000）。

metadata/train_final_200k.csv 是每类 20,000 条的均衡版，字段相同，换成它即可获得更大规模。

Stage 2 / 3：ICL 训练（三块，示例形式不同）

子集	条数	ICL 示例形态	类别分布
`icl_single`	59,999	单张目标图 + 文字描述	local_add 14,999、global_style 15,000、local_style_transfer 15,000、background_change 15,000
`icl_pairs`	99,907	编辑前/后图片对	local_add 19,994、global_style 19,996、background_change 19,995、local_remove 19,986、local_change 19,936
`openve_icl`	40,070	完整视频对（帧序列）	background_change 10,000、local_change 10,000、local_remove 10,000、local_add 7,004、global_style 2,624、subtitles_edit 442

JSON 顶层就是这三个 key，每条记录字段如下：

子集	关键字段
`icl_single`	`src_video`、`tgt_video`、`icl_image_path`、`icl_prompt`、`edit_prompt`、`source`
`icl_pairs`	`original_video`、`video`、`icl_src_image_path`、`icl_tgt_image_path`、`edit_instruction`、`video_prompt`、`image_prompt`
`openve_icl`	`src_video`、`tgt_video`、`icl_src_video_path`、`icl_tgt_video_path`、`prompt`、`source`

其中图片路径已改写为相对路径（icl_examples/...）；视频路径已改写为 openve3m/...、senorita/... 前缀。

示例图为 512×512 WebP（quality 75）：原始素材是 1024×1024 无损 PNG（390GB），而训练时 max_pixels=360000 会把图缩到约 600×600，因此重编码到 512px 几乎不损失可用信息，体积压到约 1/42（约 8.5GB）。需要原始 PNG 版本可以按 prepare_data.py --image-format png 自行生成。

3. 视频不在本仓库内

受体积限制（数十万条视频对，TB 级），视频不随数据发布。请自行准备原始数据集，并按 metadata/path_mapping.json 挂载：

{
  "video_roots": {
    "openve3m": "/path/to/OpenVE-3M",
    "senorita": "/path/to/Senorita"
  },
  "relative_video_prefix": "openve3m"
}

即 openve3m/background_change/xxx.mp4 → <OpenVE-3M 根目录>/background_change/xxx.mp4； senorita/obj_removal_videos/126/xxx.mp4 → <Senorita 根目录>/obj_removal_videos/126/xxx.mp4。

icl_pairs 的 original_video / video 在原始数据里就是相对路径，默认相对 openve3m（已验证 300 条抽样全部命中 OpenVE-3M）。

4. 训练用法

4.0 先还原示例图（用 shards 下载时）

# 下载分片（约 8.6GB）
hf download YujiWang132/VicEdit-Data --repo-type dataset --include "shards/*" --local-dir ./vic-data

# 校验 + 解包，产物结构与 icl_examples/ 完全一致
cd vic-data/shards && sha256sum -c SHA256SUMS
mkdir -p ../icl_examples && for f in *.tar; do tar -xf "$f" -C ../icl_examples; done

4.1 Stage 1

Stage 1：

python train.py \
  --dataset_base_path ./ \
  --vid_dataset_metadata_path /path/to/metadata/train_stage1_10types.csv \
  --data_file_keys "src_video,tgt_video" \
  --num_frames 81 --max_pixels 360000 \
  --checkpoint ./ckpt/kiwi_edit_instruct_only_merged.safetensors

Stage 2 / 3（ICL）：

python train_icl_try.py \
  --icl_metadata_path /path/to/metadata/icl_train_stage2.json \
  --dataset_base_path /path/to/data_root \
  --num_frames 81 --max_pixels 360000

ICLDataset._resolve_path() 的规则是：绝对路径原样使用，相对路径拼到 --dataset_base_path 上。因此把 openve3m/、senorita/、icl_examples/ 三个目录放在同一个 data_root 下最方便：

data_root/
├── openve3m/       -> OpenVE-3M 根目录（软链即可）
├── senorita/       -> Senorita 根目录（软链即可）
└── icl_examples/   -> 本仓库 icl_examples/

5. 评测集

CSV	条数	说明
`icl_bench_full.csv`	180	ICL-Bench：10 类 × 18，含三种 ICL 模态（video_pair 90 / image_pair 50 / single_image 40），路径全部相对，配合 `videos/`、`icl/`、`other/` 使用
`openve_bench_431.csv`	431	OpenVE-Bench：local_add 67、local_change 65、background_change 59、local_remove 59、global_style 58、subtitle_edit 50、camera_edit 43、creative_edit 30，视频在 `openve_bench_videos/`
`openve_ext_60.csv`	60	inpainting / local_style_transfer / outpainting 各 20，引用 `senorita/`
`senorita_bench_v2_80.csv`	80	local_style_transfer 40、outpainting 40，引用 `senorita/`

benchmark/videos、benchmark/icl、benchmark/other 共 680 个文件，覆盖 icl_bench_full.csv 的全部引用；benchmark/openve_bench_videos 存放 OpenVE-Bench 的 431 个视频。

6. 已知问题与统计

相对原始 icl_tasks_final.json（200,070 条），本版本剔除了 94 条坏样本（icl_pairs 93 条、icl_single 1 条）：原图或编辑图文件缺失、或路径为空。明细见 metadata/dropped_samples.json，idx 保持原始编号不变。
icl_examples/ICL_pairs 共 199,875 个文件（99,968 张原图 + 99,907 张编辑图），ICL_single_image 共 59,999 个文件。
示例图经过有损重编码（1024² PNG → 512² WebP q75），单张约 33KB。若需要无损版本，用同一脚本加 --image-format png 重新生成。
原始元数据里的图片路径曾指向一个已废弃的机器路径（_NEW_WORKSPACE），本版本已全部改写为相对路径，可直接使用。
所有 prompt 字段为英文。

7. 许可

本仓库只发布元数据与 ICL 编辑示例图；
视频内容来自 OpenVE-3M 与 Senorita，使用前请遵守各自原始许可；
本数据集仅限研究用途（research only），不得用于商业分发。

8. 引用

@misc{vicedit2026,
  title  = {VicEdit: Visual In-Context Learning for Video Editing},
  author = {VicEdit Contributors},
  year   = {2026}
}