| --- |
| license: other |
| task_categories: |
| - visual-question-answering |
| - video-text-to-text |
| language: |
| - en |
| size_categories: |
| - 1M<n<10M |
| --- |
| |
| # Video-XL / Video-XL-Pro 訓練資料（聯集整理版） |
|
|
| 依據以下兩篇論文整理的 SFT 訓練資料，兩者取聯集；兩者重疊的資料集一律採用 Video-XL-Pro 版本的標註。 |
|
|
| - Video-XL-Pro: [arXiv 2503.18478](https://arxiv.org/abs/2503.18478) |
| - Video-XL: [arXiv 2409.14485](https://arxiv.org/abs/2409.14485) |
|
|
| 標註只收錄兩個官方 repo（`MINT-SJTU/Video-XL-Pro-Training`、`sy1998/Video_XL_Training`）中有的檔案，且只保留標註實際引用到的媒體。論文或 repo 中沒有的資料集都已移除。Video-XL 的 pretraining 資料（LAION-2M 子集）因品質不佳不收錄。 |
|
|
| ## 目錄結構 |
|
|
| ``` |
| annotations/ |
| sft/ # SFT 標註（LLaVA 格式：id / image|video / conversations） |
| media/ # 標註引用到的所有圖片與影片；標註中的路徑皆相對於此資料夾 |
| tools/ # 整理、驗證、上傳用的腳本 |
| ``` |
|
|
| 訓練時把 image folder / video folder 設為 `media/` 即可。所有標註路徑都已用 `tools/verify_paths.py` 驗證過，缺檔數為 0。 |
|
|
| ## SFT 資料 |
|
|
| | 標註檔 | 樣本數 | 媒體數 | 類型 | 出處 | 媒體來源 | |
| |---|---:|---:|---|---|---| |
| | bunny_390k.json | 390,381 | 228,598 | 圖片 | 兩篇皆有 (Bunny) | Video-XL repo 的 Bunny 圖片 | |
| | ocrvqa_19k.json | 19,458 | 19,458 | 圖片 | Pro (OCR-VQA) | Bunny 圖片 + `BAAI/DataOptim` 的 OCR-VQA 補齊 | |
| | gpt4o_image_21k.json | 21,483 | 21,483 | 圖片 | 兩篇皆有 (ShareGPT-4o) | `OpenGVLab/ShareGPT-4o` | |
| | scienceqa_3k.json | 3,873 | 3,873 | 圖片 | Pro (ScienceQA) | `derek-thomas/ScienceQA` | |
| | llava178k_281k.json | 281,481 | 35,486 | 影片 | Pro (LLaVA-Video-178K) | `lmms-lab/LLaVA-Video-178K` | |
| | vcg_107k.json | 107,080 | 6,262 | 影片 | 兩篇皆有 (VCG / VCG+) | Video-XL repo + `MBZUAI/VideoGPT-plus_Training_Dataset` | |
| | finevideo_43k.json | 43,716 | 43,716 | 影片 | Pro (FineVideo) | `HuggingFaceFV/finevideo` | |
| | sharegpt4v_38k.json | 38,169 | 38,169 | 影片 | Pro (ShareGPT4Video) | Video-XL repo | |
| | nextqa_32k.json | 32,425 | 3,870 | 影片 | 兩篇皆有 (NExT-QA) | Video-XL repo | |
| | cinepine_28k.json | 28,500 | 8,206 | 影片 | 兩篇皆有 (CinePile) | Video-XL repo | |
| | activitynetqa_15k.json | 15,266 | 1,607 | 影片 | Pro (ActivityNet-QA) | LLaVA-Video-178K | |
| | baaicaption_10k.json | 10,555 | 10,555 | 影片 | Video-XL（內部 GPT-4V caption） | Video-XL repo | |
| | VICO.json | 8,129 | 8,129 | 影片 | Video-XL (VICO) | Video-XL repo（CinePile 影片） | |
| | gpt4o_video_2k.json | 2,006 | 2,006 | 影片 | 兩篇皆有 (ShareGPT-4o) | Video-XL repo | |
| | VDC_1k.json | 975 | 975 | 影片 | Pro (VDC) | `wchai/Video-Detailed-Caption` | |
| | ego_4d_0.7k.json | 707 | 707 | 影片 | Pro (Ego4D) | Video-XL repo | |
|
|
| ## 相對於原始標註的修改 |
|
|
| - `activitynetqa_15k.json` 改指向 `LLaVA178k/ActivityNet-QA/...`（與 LLaVA-Video-178K 為同一批影片）。 |
| - `finevideo_43k.json`：移除原始檔中 35 筆 `conversations` 為空的樣本（43,751 → 43,716）。 |
| - `vcg_107k.json`：359 部影片實際為 `.mkv` / `.webm`，路徑副檔名已改成實際檔名（影響 6,122 筆樣本）。 |
| - FineVideo、ScienceQA 的原始檔名被作者改成 uuid：FineVideo 用 QA 內容完整比對對回原影片；ScienceQA 用題目、答案文字加上 uuid1 時間順序對回原圖（順序為 test → train → validation，對齊無歧義）。對應方式見 `tools/finevideo_map.py`。 |
|
|
| ## 注意事項 |
|
|
| - `scienceqa_3k` 有一部分來自 ScienceQA 的 **test split**；`VDC_1k` 是 VDC benchmark 本身。如果要在這兩個 benchmark 上評測，需先排除。 |
| - 部分影片來源（Ego4D、ActivityNet）與 MLVU 等長影片 benchmark 的來源資料集相同，但標註不同。 |
| - 未收錄：Video-XL 論文提到的 MMDU（20k），兩個 repo 都沒有釋出其標註；Video-XL-Pro ReCoT 階段使用的 LLaVA-Video 750k 影片也沒有對應標註。 |
| - 未收錄：Video-XL-Pro 的 pretraining 資料（LLaVA-OneVision、LAION-2M、Charades、OpenViD 的子集）。論文沒有說明是哪些子集，標註也沒有釋出。 |
| - 各子資料集沿用其原始授權，使用前請確認。 |
|
|
| ## 上傳到 Hugging Face |
|
|
| ```bash |
| python tools/pack_and_upload.py <user>/<repo> --dry-run # 先看分片規劃 |
| python tools/pack_and_upload.py <user>/<repo> # 上傳（預設 private） |
| ``` |
|
|
| `media/` 會被打包成每片約 10GB 的 tar（`media_shards/<資料夾>/<資料夾>-00000.tar`），一次只打包一片，上傳完立刻刪除，中斷後重跑會跳過已上傳的分片。下載後用 `bash tools/unpack_shards.sh` 還原成 `media/`。 |
|
|
