--- pretty_name: VQA train clean extended (interne, temporaire) license: other language: - en - fr - de - es - it tags: - internal - temporary - not-an-official-release - visual-document-retrieval configs: - config_name: all default: true data_files: - split: train path: merged_v1/*/*.parquet - config_name: ArxivQA data_files: - split: train path: merged_v1/ArxivQA/*.parquet - config_name: ChartQA data_files: - split: train path: merged_v1/ChartQA/*.parquet - config_name: CMarkea data_files: - split: train path: merged_v1/CMarkea/*.parquet - config_name: DocVQA data_files: - split: train path: merged_v1/DocVQA/*.parquet - config_name: DUDE data_files: - split: train path: merged_v1/DUDE/*.parquet - config_name: FinHNQue data_files: - split: train path: merged_v1/FinHNQue/*.parquet - config_name: FinTab data_files: - split: train path: merged_v1/FinTab/*.parquet - config_name: Geotechnie data_files: - split: train path: merged_v1/Geotechnie/*.parquet - config_name: Hydrogen data_files: - split: train path: merged_v1/Hydrogen/*.parquet - config_name: InfoVQA data_files: - split: train path: merged_v1/InfoVQA/*.parquet - config_name: Manuals data_files: - split: train path: merged_v1/Manuals/*.parquet - config_name: Marsouuu data_files: - split: train path: merged_v1/Marsouuu/*.parquet - config_name: MLPapers data_files: - split: train path: merged_v1/MLPapers/*.parquet - config_name: MPDocVQA data_files: - split: train path: merged_v1/MPDocVQA/*.parquet - config_name: Nato data_files: - split: train path: merged_v1/Nato/*.parquet - config_name: Nuclear data_files: - split: train path: merged_v1/Nuclear/*.parquet - config_name: OpenDocVQA data_files: - split: train path: merged_v1/OpenDocVQA/*.parquet - config_name: PlotQA data_files: - split: train path: merged_v1/PlotQA/*.parquet - config_name: Renewable data_files: - split: train path: merged_v1/Renewable/*.parquet - config_name: SlideVQA data_files: - split: train path: merged_v1/SlideVQA/*.parquet - config_name: TabFQuAD-train data_files: - split: train path: merged_v1/TabFQuAD-train/*.parquet - config_name: TatDQA data_files: - split: train path: merged_v1/TatDQA/*.parquet - config_name: Textbooks data_files: - split: train path: merged_v1/Textbooks/*.parquet - config_name: VDR-de data_files: - split: train path: merged_v1/VDR-de/*.parquet - config_name: VDR-en data_files: - split: train path: merged_v1/VDR-en/*.parquet - config_name: VDR-es data_files: - split: train path: merged_v1/VDR-es/*.parquet - config_name: VDR-fr data_files: - split: train path: merged_v1/VDR-fr/*.parquet - config_name: VDR-it data_files: - split: train path: merged_v1/VDR-it/*.parquet - config_name: VDSID-fr data_files: - split: train path: merged_v1/VDSID-fr/*.parquet - config_name: WebPDF data_files: - split: train path: merged_v1/WebPDF/*.parquet - config_name: pairs data_files: - split: train path: merged_v1/pairs.parquet - config_name: neg_sets data_files: - split: train path: negatives_v1/negsets.parquet - config_name: neg_rows data_files: - split: train path: negatives_v1/rows.parquet - config_name: neg_pages_reserve data_files: - split: train path: negatives_v1/pages_reserve/*.parquet - config_name: neg_questions data_files: - split: train path: negatives_v1/negqueries.parquet - config_name: rephrased data_files: - split: train path: negatives_v1/rephrased.parquet --- # VQA train clean extended — jeu de données INTERNE et TEMPORAIRE > ⚠️ **Ceci n'est PAS une publication et PAS une release officielle.** > C'est un jeu de données **temporaire**, déposé ici uniquement pour un **usage interne** (entraînement de modèles de recherche > de documents chez Omundu). Son contenu peut changer ou être supprimé à tout moment, sans préavis ni versionnage. > Il n'est ni documenté, ni maintenu, ni supporté pour un usage externe. Les données proviennent de jeux publics existants > et restent soumises à leurs **licences d'origine respectives** ; ce dépôt n'accorde aucun droit supplémentaire. ## Contenu - **`merged_v1/`** : 2 108 763 paires (question, page) réparties en 30 domaines, une page = une image. Chaque domaine est un sous-dossier de fichiers parquet (colonne `image` au format HF Image), lignes triées par `page_id`. `merged_v1/pairs.parquet` contient les mêmes lignes **sans les images** (pour analyse rapide). - **`negatives_v1/`** : les données de négatifs associées (listes de pages négatives, pages de réserve, fausses questions, reformulations), décrites plus bas. Construction (résumé) : - fusion de nos 16 domaines d'origine (`vqa_train_clean`) avec 19 jeux supplémentaires convertis au même schéma ; - les traductions sont rattachées aux `page_id` de la page d'origine ; doublons exacts (question, page) supprimés ; - **décontamination** : les paires dont la page apparaît dans les jeux de test ViDoRe ont été retirées (doublons exacts par md5, puis vérification géométrique SuperPoint + LightGlue). ## Domaines (`merged_v1`) | Domaine | Paires | Originales | Traductions / reformulations | Langues | Sources | |---|---:|---:|---:|---|---| | ArxivQA | 50 404 | 31 564 | 18 840 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean | | ChartQA | 4 223 | 4 223 | 0 | en | vqa_train_clean | | CMarkea | 97 480 | 97 480 | 0 | en, fr | NEW-cmarkea | | DocVQA | 96 391 | 39 379 | 57 012 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean | | DUDE | 17 652 | 17 652 | 0 | en | NEW-dude | | FinHNQue | 107 925 | 107 925 | 0 | en | NEW-FinHNQue | | FinTab | 84 258 | 48 175 | 36 083 | en | NEW-FinTab, NEW-FinTab-reph | | Geotechnie | 50 842 | 50 842 | 0 | en, fr, nl | NEW-Geotechnie | | Hydrogen | 28 709 | 28 709 | 0 | da, de, en, fr | NEW-Hydrogen | | InfoVQA | 39 991 | 20 349 | 19 642 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean | | Manuals | 119 895 | 119 895 | 0 | en | vqa_train_clean | | Marsouuu | 2 884 | 2 884 | 0 | fr | NEW-Marsouuu | | MLPapers | 59 679 | 59 679 | 0 | en | vqa_train_clean | | MPDocVQA | 34 464 | 34 464 | 0 | en | NEW-mpdocvqa | | Nato | 53 030 | 53 030 | 0 | en, fr | NEW-Nato | | Nuclear | 38 581 | 38 581 | 0 | de, en, es, fr, it | NEW-Nuclear | | OpenDocVQA | 41 067 | 41 067 | 0 | en | NEW-opendocvqa | | PlotQA | 56 192 | 56 192 | 0 | en | vqa_train_clean | | Renewable | 42 661 | 42 661 | 0 | 24 langues UE | NEW-Renewable | | SlideVQA | 11 390 | 11 390 | 0 | en | NEW-slidevqa, vqa_train_clean | | TabFQuAD-train | 1 540 | 1 540 | 0 | fr | NEW-tabfquad-train | | TatDQA | 32 340 | 12 857 | 19 483 | de, en, es, fr, it | NEW-colpali-transl, NEW-tatdqa-train, vqa_train_clean | | Textbooks | 59 515 | 59 515 | 0 | en | vqa_train_clean | | VDR-de | 173 935 | 58 208 | 115 727 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean | | VDR-en | 159 865 | 53 487 | 106 378 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean | | VDR-es | 175 622 | 58 724 | 116 898 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean | | VDR-fr | 165 062 | 55 227 | 109 835 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean | | VDR-it | 164 290 | 54 934 | 109 356 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean | | VDSID-fr | 4 613 | 4 613 | 0 | en, fr | NEW-vdsid-fr | | WebPDF | 134 263 | 45 681 | 88 582 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean | | **Total** | **2 108 763** | | | | | ## Schéma de `merged_v1` | Colonne | Description | |---|---| | `query` | la question | | `image` | la page (HF Image : `bytes` PNG/JPEG + `path`) | | `page_id` | identifiant entier unique de la page (partagé entre une question originale et ses traductions) | | `domain` | domaine (= sous-dossier) | | `variant` | `original`, `translation` ou `rephrase` | | `lang` | langue de la question | | `doc_id` | identifiant du document d'origine (quand il existe) | | `source` | jeu source (`vqa_train_clean` = nos 16 domaines d'origine, `NEW-*` = jeux ajoutés) | | `origin_dataset`, `origin_label`, `origin_file`, `origin_row` | traçabilité vers la ligne d'origine | | `neg_queries` | fausses questions associées (JSON, quand elles existent) | | `note` | remarque éventuelle de construction | ## `negatives_v1` | Config | Fichier | Contenu | |---|---|---| | `neg_sets` | `negsets.parquet` | une ligne par (question originale, page) : listes de `page_id` négatifs par origine (`neg_vdr`, `neg_nomic`, `neg_manu`, `neg_samedoc`) | | `neg_rows` | `rows.parquet` | rattache chaque ligne de `merged_v1` à son `set_id` (les traductions réutilisent la liste de leur question originale) | | `neg_pages_reserve` | `pages_reserve/*.parquet` | images des pages négatives absentes de `merged_v1` (`page_id`, `image`, `source`, `source_id`) | | `neg_questions` | `negqueries.parquet` | fausses questions par page (`positive_query`, `negative_queries`) | | `rephrased` | `rephrased.parquet` | reformulations de questions (`original_query`, `rephrased_query`) | ## Chargement ```python from datasets import load_dataset docvqa = load_dataset("Omundu-Riad/vqa_train_clean_extended", "DocVQA", split="train") tout = load_dataset("Omundu-Riad/vqa_train_clean_extended", "all", split="train") # ~148 Go negs = load_dataset("Omundu-Riad/vqa_train_clean_extended", "neg_sets", split="train") ```