metadata
license: other
task_categories:
- visual-question-answering
- video-text-to-text
language:
- en
size_categories:
- 1M<n<10M
Video-XL / Video-XL-Pro 訓練資料（聯集整理版）
依據以下兩篇論文整理的 SFT 訓練資料，兩者取聯集；兩者重疊的資料集一律採用 Video-XL-Pro 版本的標註。
- Video-XL-Pro: arXiv 2503.18478
- Video-XL: arXiv 2409.14485
標註只收錄兩個官方 repo（MINT-SJTU/Video-XL-Pro-Training、sy1998/Video_XL_Training）中有的檔案，且只保留標註實際引用到的媒體。論文或 repo 中沒有的資料集都已移除。Video-XL 的 pretraining 資料（LAION-2M 子集）因品質不佳不收錄。
目錄結構
annotations/
sft/ # SFT 標註（LLaVA 格式：id / image|video / conversations）
media/ # 標註引用到的所有圖片與影片；標註中的路徑皆相對於此資料夾
tools/ # 整理、驗證、上傳用的腳本
訓練時把 image folder / video folder 設為 media/ 即可。所有標註路徑都已用 tools/verify_paths.py 驗證過，缺檔數為 0。
SFT 資料
| 標註檔 | 樣本數 | 媒體數 | 類型 | 出處 | 媒體來源 |
|---|---|---|---|---|---|
| bunny_390k.json | 390,381 | 228,598 | 圖片 | 兩篇皆有 (Bunny) | Video-XL repo 的 Bunny 圖片 |
| ocrvqa_19k.json | 19,458 | 19,458 | 圖片 | Pro (OCR-VQA) | Bunny 圖片 + BAAI/DataOptim 的 OCR-VQA 補齊 |
| gpt4o_image_21k.json | 21,483 | 21,483 | 圖片 | 兩篇皆有 (ShareGPT-4o) | OpenGVLab/ShareGPT-4o |
| scienceqa_3k.json | 3,873 | 3,873 | 圖片 | Pro (ScienceQA) | derek-thomas/ScienceQA |
| llava178k_281k.json | 281,481 | 35,486 | 影片 | Pro (LLaVA-Video-178K) | lmms-lab/LLaVA-Video-178K |
| vcg_107k.json | 107,080 | 6,262 | 影片 | 兩篇皆有 (VCG / VCG+) | Video-XL repo + MBZUAI/VideoGPT-plus_Training_Dataset |
| finevideo_43k.json | 43,716 | 43,716 | 影片 | Pro (FineVideo) | HuggingFaceFV/finevideo |
| sharegpt4v_38k.json | 38,169 | 38,169 | 影片 | Pro (ShareGPT4Video) | Video-XL repo |
| nextqa_32k.json | 32,425 | 3,870 | 影片 | 兩篇皆有 (NExT-QA) | Video-XL repo |
| cinepine_28k.json | 28,500 | 8,206 | 影片 | 兩篇皆有 (CinePile) | Video-XL repo |
| activitynetqa_15k.json | 15,266 | 1,607 | 影片 | Pro (ActivityNet-QA) | LLaVA-Video-178K |
| baaicaption_10k.json | 10,555 | 10,555 | 影片 | Video-XL（內部 GPT-4V caption） | Video-XL repo |
| VICO.json | 8,129 | 8,129 | 影片 | Video-XL (VICO) | Video-XL repo（CinePile 影片） |
| gpt4o_video_2k.json | 2,006 | 2,006 | 影片 | 兩篇皆有 (ShareGPT-4o) | Video-XL repo |
| VDC_1k.json | 975 | 975 | 影片 | Pro (VDC) | wchai/Video-Detailed-Caption |
| ego_4d_0.7k.json | 707 | 707 | 影片 | Pro (Ego4D) | Video-XL repo |
相對於原始標註的修改
activitynetqa_15k.json改指向LLaVA178k/ActivityNet-QA/...（與 LLaVA-Video-178K 為同一批影片）。finevideo_43k.json：移除原始檔中 35 筆conversations為空的樣本（43,751 → 43,716）。vcg_107k.json：359 部影片實際為.mkv/.webm，路徑副檔名已改成實際檔名（影響 6,122 筆樣本）。- FineVideo、ScienceQA 的原始檔名被作者改成 uuid：FineVideo 用 QA 內容完整比對對回原影片；ScienceQA 用題目、答案文字加上 uuid1 時間順序對回原圖（順序為 test → train → validation，對齊無歧義）。對應方式見
tools/finevideo_map.py。
注意事項
scienceqa_3k有一部分來自 ScienceQA 的 test split；VDC_1k是 VDC benchmark 本身。如果要在這兩個 benchmark 上評測，需先排除。- 部分影片來源（Ego4D、ActivityNet）與 MLVU 等長影片 benchmark 的來源資料集相同，但標註不同。
- 未收錄：Video-XL 論文提到的 MMDU（20k），兩個 repo 都沒有釋出其標註；Video-XL-Pro ReCoT 階段使用的 LLaVA-Video 750k 影片也沒有對應標註。
- 未收錄：Video-XL-Pro 的 pretraining 資料（LLaVA-OneVision、LAION-2M、Charades、OpenViD 的子集）。論文沒有說明是哪些子集，標註也沒有釋出。
- 各子資料集沿用其原始授權，使用前請確認。
上傳到 Hugging Face
python tools/pack_and_upload.py <user>/<repo> --dry-run # 先看分片規劃
python tools/pack_and_upload.py <user>/<repo> # 上傳（預設 private）
media/ 會被打包成每片約 10GB 的 tar（media_shards/<資料夾>/<資料夾>-00000.tar），一次只打包一片，上傳完立刻刪除，中斷後重跑會跳過已上傳的分片。下載後用 bash tools/unpack_shards.sh 還原成 media/。