---
license: other
license_name: research-only
language:
  - en
tags:
  - video-editing
  - in-context-learning
  - video-generation
  - instruction-guided-editing
task_categories:
  - image-to-video
  - text-to-video
pretty_name: VicEdit Data (Instruction + ICL Video Editing)
---

# VicEdit Data

VicEdit 的训练与评测数据（元数据 + ICL 示例图 + benchmark）。视觉 ICL 视频编辑：用「编辑前/后」示例对（图片对或视频对）表达编辑意图，配合文本指令驱动 Wan2.2-TI2V-5B 完成视频编辑。

模型权重在配套仓库 **`<your-name>/vicedit-5b`**，数据与模型分开发布，本仓库**只含数据**。

## 1. 仓库结构

```
.
├── metadata/                       # 训练元数据（必需，体积极小）
│   ├── train_stage1_10types.csv    # Stage 1：70,000 条
│   ├── train_final_200k.csv        # Stage 1 均衡版：200,000 条（可选）
│   ├── icl_train_stage2.json       # Stage 2/3：199,976 条
│   ├── dropped_samples.json        # 被剔除的坏样本清单（94 条）
│   ├── path_mapping.json           # 视频根目录映射说明
│   └── stats.json                  # 各子集 / 类别统计
├── icl_examples/                   # Stage 2/3 的 ICL 示例图（512×512 WebP，约 8.5GB）
│   ├── ICL_pairs/{idx}.webp, {idx}_edit.webp
│   └── ICL_single_image/{idx}.webp
├── shards/                         # 上传用的分片 tar（内容与 icl_examples 完全等价）
│   ├── ICL_pairs_000.tar ...       # 每个约 1GB
│   ├── ICL_single_image_000.tar
│   ├── SHA256SUMS
│   └── UNPACK.md
└── benchmark/                      # 评测集
    ├── icl_bench_full.csv          # ICL-Bench，180 条（自包含相对路径）
    ├── openve_bench_431.csv        # OpenVE-Bench，431 条
    ├── openve_ext_60.csv           # 补充集，60 条
    ├── senorita_bench_v2_80.csv    # 补充集，80 条
    ├── videos/  icl/  other/       # ICL-Bench 媒体（712MB）
    └── openve_bench_videos/        # OpenVE-Bench 的 431 个测试视频（487MB）
```

> **为什么有 `shards/`**：HuggingFace 有两条硬限制——单个目录条目数超过 **10,000** 会返回 `400 Bad Request`，仓库文件总数超过 **100,000** 也会被拒。本数据集有 259,873 张图片，`ICL_pairs/` 单目录 199,874 条，直传必然失败。打成 tar 分片后文件数降到个位数，下载后解包即可得到与 `icl_examples/` 完全一致的目录。

## 2. 阶段与数据的对应关系

| 训练阶段 | 脚本 | 使用的数据 | 规模 |
|---|---|---|---|
| Stage 1 指令微调 | `train.py` / `train_stage1.py` | `metadata/train_stage1_10types.csv` | 70,000 条 |
| Stage 2 ICL 训练（DiT 冻结） | `train_icl.py` / `train_icl_v2.py` / `train_icl_try.py` | `metadata/icl_train_stage2.json` + `icl_examples/` | 199,976 条 |
| Stage 3 ICL + DiT LoRA | `train_icl_try_v2.sh` | 同 Stage 2 | 199,976 条 |
| 评测 | `infer_icl_v2.py` / `test_openve.py` | `benchmark/` | 180 / 431 / 60 / 80 |

### Stage 1：指令微调（10 类编辑）

| 编辑类型 | 条数 |
|---|---:|
| background_change | 5,000 |
| global_style | 5,000 |
| local_add | 5,000 |
| local_change | 5,000 |
| local_remove | 5,000 |
| subtitles_edit | 5,000 |
| creative_edit | 10,000 |
| local_style_transfer | 10,000 |
| inpainting | 10,000 |
| outpainting | 10,000 |
| **合计** | **70,000** |

CSV 字段：`category, prompt, src_video, tgt_video, source`（来源：openve 30,000 / senorita 30,000 / openve-ext 10,000）。

`metadata/train_final_200k.csv` 是每类 20,000 条的均衡版，字段相同，换成它即可获得更大规模。

### Stage 2 / 3：ICL 训练（三块，示例形式不同）

| 子集 | 条数 | ICL 示例形态 | 类别分布 |
|---|---:|---|---|
| `icl_single` | 59,999 | 单张目标图 + 文字描述 | local_add 14,999、global_style 15,000、local_style_transfer 15,000、background_change 15,000 |
| `icl_pairs` | 99,907 | 编辑前/后图片对 | local_add 19,994、global_style 19,996、background_change 19,995、local_remove 19,986、local_change 19,936 |
| `openve_icl` | 40,070 | 完整视频对（帧序列） | background_change 10,000、local_change 10,000、local_remove 10,000、local_add 7,004、global_style 2,624、subtitles_edit 442 |

JSON 顶层就是这三个 key，每条记录字段如下：

| 子集 | 关键字段 |
|---|---|
| `icl_single` | `src_video`、`tgt_video`、`icl_image_path`、`icl_prompt`、`edit_prompt`、`source` |
| `icl_pairs` | `original_video`、`video`、`icl_src_image_path`、`icl_tgt_image_path`、`edit_instruction`、`video_prompt`、`image_prompt` |
| `openve_icl` | `src_video`、`tgt_video`、`icl_src_video_path`、`icl_tgt_video_path`、`prompt`、`source` |

其中图片路径已改写为相对路径（`icl_examples/...`）；视频路径已改写为 `openve3m/...`、`senorita/...` 前缀。

示例图为 **512×512 WebP（quality 75）**：原始素材是 1024×1024 无损 PNG（390GB），而训练时 `max_pixels=360000` 会把图缩到约 600×600，因此重编码到 512px 几乎不损失可用信息，体积压到约 1/42（约 8.5GB）。需要原始 PNG 版本可以按 `prepare_data.py --image-format png` 自行生成。

## 3. 视频不在本仓库内

受体积限制（数十万条视频对，TB 级），视频不随数据发布。请自行准备原始数据集，并按 `metadata/path_mapping.json` 挂载：

```json
{
  "video_roots": {
    "openve3m": "/path/to/OpenVE-3M",
    "senorita": "/path/to/Senorita"
  },
  "relative_video_prefix": "openve3m"
}
```

即 `openve3m/background_change/xxx.mp4` → `<OpenVE-3M 根目录>/background_change/xxx.mp4`；
`senorita/obj_removal_videos/126/xxx.mp4` → `<Senorita 根目录>/obj_removal_videos/126/xxx.mp4`。

`icl_pairs` 的 `original_video` / `video` 在原始数据里就是相对路径，默认相对 **openve3m**（已验证 300 条抽样全部命中 OpenVE-3M）。

## 4. 训练用法

### 4.0 先还原示例图（用 shards 下载时）

```bash
# 下载分片（约 8.6GB）
hf download YujiWang132/VicEdit-Data --repo-type dataset --include "shards/*" --local-dir ./vic-data

# 校验 + 解包，产物结构与 icl_examples/ 完全一致
cd vic-data/shards && sha256sum -c SHA256SUMS
mkdir -p ../icl_examples && for f in *.tar; do tar -xf "$f" -C ../icl_examples; done
```

### 4.1 Stage 1

Stage 1：

```bash
python train.py \
  --dataset_base_path ./ \
  --vid_dataset_metadata_path /path/to/metadata/train_stage1_10types.csv \
  --data_file_keys "src_video,tgt_video" \
  --num_frames 81 --max_pixels 360000 \
  --checkpoint ./ckpt/kiwi_edit_instruct_only_merged.safetensors
```

Stage 2 / 3（ICL）：

```bash
python train_icl_try.py \
  --icl_metadata_path /path/to/metadata/icl_train_stage2.json \
  --dataset_base_path /path/to/data_root \
  --num_frames 81 --max_pixels 360000
```

`ICLDataset._resolve_path()` 的规则是：绝对路径原样使用，相对路径拼到 `--dataset_base_path` 上。因此把 `openve3m/`、`senorita/`、`icl_examples/` 三个目录放在同一个 `data_root` 下最方便：

```
data_root/
├── openve3m/       -> OpenVE-3M 根目录（软链即可）
├── senorita/       -> Senorita 根目录（软链即可）
└── icl_examples/   -> 本仓库 icl_examples/
```

## 5. 评测集

| CSV | 条数 | 说明 |
|---|---:|---|
| `icl_bench_full.csv` | 180 | ICL-Bench：10 类 × 18，含三种 ICL 模态（video_pair 90 / image_pair 50 / single_image 40），路径全部相对，配合 `videos/`、`icl/`、`other/` 使用 |
| `openve_bench_431.csv` | 431 | OpenVE-Bench：local_add 67、local_change 65、background_change 59、local_remove 59、global_style 58、subtitle_edit 50、camera_edit 43、creative_edit 30，视频在 `openve_bench_videos/` |
| `openve_ext_60.csv` | 60 | inpainting / local_style_transfer / outpainting 各 20，引用 `senorita/` |
| `senorita_bench_v2_80.csv` | 80 | local_style_transfer 40、outpainting 40，引用 `senorita/` |

`benchmark/videos`、`benchmark/icl`、`benchmark/other` 共 680 个文件，覆盖 `icl_bench_full.csv` 的全部引用；`benchmark/openve_bench_videos` 存放 OpenVE-Bench 的 431 个视频。

## 6. 已知问题与统计

* 相对原始 `icl_tasks_final.json`（200,070 条），本版本剔除了 **94 条**坏样本（`icl_pairs` 93 条、`icl_single` 1 条）：原图或编辑图文件缺失、或路径为空。明细见 `metadata/dropped_samples.json`，`idx` 保持原始编号不变。
* `icl_examples/ICL_pairs` 共 199,875 个文件（99,968 张原图 + 99,907 张编辑图），`ICL_single_image` 共 59,999 个文件。
* 示例图经过**有损重编码**（1024² PNG → 512² WebP q75），单张约 33KB。若需要无损版本，用同一脚本加 `--image-format png` 重新生成。
* 原始元数据里的图片路径曾指向一个已废弃的机器路径（`_NEW_WORKSPACE`），本版本已全部改写为相对路径，可直接使用。
* 所有 `prompt` 字段为英文。

## 7. 许可

* 本仓库只发布**元数据与 ICL 编辑示例图**；
* 视频内容来自 OpenVE-3M 与 Senorita，使用前请遵守各自原始许可；
* 本数据集仅限研究用途（research only），不得用于商业分发。

## 8. 引用

```bibtex
@misc{vicedit2026,
  title  = {VicEdit: Visual In-Context Learning for Video Editing},
  author = {VicEdit Contributors},
  year   = {2026}
}
```