---
license: other
task_categories:
  - visual-question-answering
  - video-text-to-text
language:
  - en
size_categories:
  - 1M<n<10M
---

# Video-XL / Video-XL-Pro 訓練資料（聯集整理版）

依據以下兩篇論文整理的 SFT 訓練資料，兩者取聯集；兩者重疊的資料集一律採用 Video-XL-Pro 版本的標註。

- Video-XL-Pro: [arXiv 2503.18478](https://arxiv.org/abs/2503.18478)
- Video-XL: [arXiv 2409.14485](https://arxiv.org/abs/2409.14485)

標註只收錄兩個官方 repo（`MINT-SJTU/Video-XL-Pro-Training`、`sy1998/Video_XL_Training`）中有的檔案，且只保留標註實際引用到的媒體。論文或 repo 中沒有的資料集都已移除。Video-XL 的 pretraining 資料（LAION-2M 子集）因品質不佳不收錄。

## 目錄結構

```
annotations/
  sft/                 # SFT 標註（LLaVA 格式：id / image|video / conversations）
media/                 # 標註引用到的所有圖片與影片；標註中的路徑皆相對於此資料夾
tools/                 # 整理、驗證、上傳用的腳本
```

訓練時把 image folder / video folder 設為 `media/` 即可。所有標註路徑都已用 `tools/verify_paths.py` 驗證過，缺檔數為 0。

## SFT 資料

| 標註檔 | 樣本數 | 媒體數 | 類型 | 出處 | 媒體來源 |
|---|---:|---:|---|---|---|
| bunny_390k.json | 390,381 | 228,598 | 圖片 | 兩篇皆有 (Bunny) | Video-XL repo 的 Bunny 圖片 |
| ocrvqa_19k.json | 19,458 | 19,458 | 圖片 | Pro (OCR-VQA) | Bunny 圖片 + `BAAI/DataOptim` 的 OCR-VQA 補齊 |
| gpt4o_image_21k.json | 21,483 | 21,483 | 圖片 | 兩篇皆有 (ShareGPT-4o) | `OpenGVLab/ShareGPT-4o` |
| scienceqa_3k.json | 3,873 | 3,873 | 圖片 | Pro (ScienceQA) | `derek-thomas/ScienceQA` |
| llava178k_281k.json | 281,481 | 35,486 | 影片 | Pro (LLaVA-Video-178K) | `lmms-lab/LLaVA-Video-178K` |
| vcg_107k.json | 107,080 | 6,262 | 影片 | 兩篇皆有 (VCG / VCG+) | Video-XL repo + `MBZUAI/VideoGPT-plus_Training_Dataset` |
| finevideo_43k.json | 43,716 | 43,716 | 影片 | Pro (FineVideo) | `HuggingFaceFV/finevideo` |
| sharegpt4v_38k.json | 38,169 | 38,169 | 影片 | Pro (ShareGPT4Video) | Video-XL repo |
| nextqa_32k.json | 32,425 | 3,870 | 影片 | 兩篇皆有 (NExT-QA) | Video-XL repo |
| cinepine_28k.json | 28,500 | 8,206 | 影片 | 兩篇皆有 (CinePile) | Video-XL repo |
| activitynetqa_15k.json | 15,266 | 1,607 | 影片 | Pro (ActivityNet-QA) | LLaVA-Video-178K |
| baaicaption_10k.json | 10,555 | 10,555 | 影片 | Video-XL（內部 GPT-4V caption） | Video-XL repo |
| VICO.json | 8,129 | 8,129 | 影片 | Video-XL (VICO) | Video-XL repo（CinePile 影片） |
| gpt4o_video_2k.json | 2,006 | 2,006 | 影片 | 兩篇皆有 (ShareGPT-4o) | Video-XL repo |
| VDC_1k.json | 975 | 975 | 影片 | Pro (VDC) | `wchai/Video-Detailed-Caption` |
| ego_4d_0.7k.json | 707 | 707 | 影片 | Pro (Ego4D) | Video-XL repo |

## 相對於原始標註的修改

- `activitynetqa_15k.json` 改指向 `LLaVA178k/ActivityNet-QA/...`（與 LLaVA-Video-178K 為同一批影片）。
- `finevideo_43k.json`：移除原始檔中 35 筆 `conversations` 為空的樣本（43,751 → 43,716）。
- `vcg_107k.json`：359 部影片實際為 `.mkv` / `.webm`，路徑副檔名已改成實際檔名（影響 6,122 筆樣本）。
- FineVideo、ScienceQA 的原始檔名被作者改成 uuid：FineVideo 用 QA 內容完整比對對回原影片；ScienceQA 用題目、答案文字加上 uuid1 時間順序對回原圖（順序為 test → train → validation，對齊無歧義）。對應方式見 `tools/finevideo_map.py`。

## 注意事項

- `scienceqa_3k` 有一部分來自 ScienceQA 的 **test split**；`VDC_1k` 是 VDC benchmark 本身。如果要在這兩個 benchmark 上評測，需先排除。
- 部分影片來源（Ego4D、ActivityNet）與 MLVU 等長影片 benchmark 的來源資料集相同，但標註不同。
- 未收錄：Video-XL 論文提到的 MMDU（20k），兩個 repo 都沒有釋出其標註；Video-XL-Pro ReCoT 階段使用的 LLaVA-Video 750k 影片也沒有對應標註。
- 未收錄：Video-XL-Pro 的 pretraining 資料（LLaVA-OneVision、LAION-2M、Charades、OpenViD 的子集）。論文沒有說明是哪些子集，標註也沒有釋出。
- 各子資料集沿用其原始授權，使用前請確認。

## 上傳到 Hugging Face

```bash
python tools/pack_and_upload.py <user>/<repo> --dry-run   # 先看分片規劃
python tools/pack_and_upload.py <user>/<repo>             # 上傳（預設 private）
```

`media/` 會被打包成每片約 10GB 的 tar（`media_shards/<資料夾>/<資料夾>-00000.tar`），一次只打包一片，上傳完立刻刪除，中斷後重跑會跳過已上傳的分片。下載後用 `bash tools/unpack_shards.sh` 還原成 `media/`。