|
Download README.md from Omundu-Riad/vqa_train_clean_extended: direct link, hf CLI and curl.
- Browser
- Download file 9.54 kB
-
https://huggingface.co/datasets/Omundu-Riad/vqa_train_clean_extended/resolve/main/README.md
- Command line
-
hf download hf://datasets/Omundu-Riad/vqa_train_clean_extended/README.md
-
curl -L -o README.md https://huggingface.co/datasets/Omundu-Riad/vqa_train_clean_extended/resolve/main/README.md
9.54 kB
| pretty_name: VQA train clean extended (interne, temporaire) | |
| license: other | |
| language: | |
| - en | |
| - fr | |
| - de | |
| - es | |
| - it | |
| tags: | |
| - internal | |
| - temporary | |
| - not-an-official-release | |
| - visual-document-retrieval | |
| configs: | |
| - config_name: all | |
| default: true | |
| data_files: | |
| - split: train | |
| path: merged_v1/*/*.parquet | |
| - config_name: ArxivQA | |
| data_files: | |
| - split: train | |
| path: merged_v1/ArxivQA/*.parquet | |
| - config_name: ChartQA | |
| data_files: | |
| - split: train | |
| path: merged_v1/ChartQA/*.parquet | |
| - config_name: CMarkea | |
| data_files: | |
| - split: train | |
| path: merged_v1/CMarkea/*.parquet | |
| - config_name: DocVQA | |
| data_files: | |
| - split: train | |
| path: merged_v1/DocVQA/*.parquet | |
| - config_name: DUDE | |
| data_files: | |
| - split: train | |
| path: merged_v1/DUDE/*.parquet | |
| - config_name: FinHNQue | |
| data_files: | |
| - split: train | |
| path: merged_v1/FinHNQue/*.parquet | |
| - config_name: FinTab | |
| data_files: | |
| - split: train | |
| path: merged_v1/FinTab/*.parquet | |
| - config_name: Geotechnie | |
| data_files: | |
| - split: train | |
| path: merged_v1/Geotechnie/*.parquet | |
| - config_name: Hydrogen | |
| data_files: | |
| - split: train | |
| path: merged_v1/Hydrogen/*.parquet | |
| - config_name: InfoVQA | |
| data_files: | |
| - split: train | |
| path: merged_v1/InfoVQA/*.parquet | |
| - config_name: Manuals | |
| data_files: | |
| - split: train | |
| path: merged_v1/Manuals/*.parquet | |
| - config_name: Marsouuu | |
| data_files: | |
| - split: train | |
| path: merged_v1/Marsouuu/*.parquet | |
| - config_name: MLPapers | |
| data_files: | |
| - split: train | |
| path: merged_v1/MLPapers/*.parquet | |
| - config_name: MPDocVQA | |
| data_files: | |
| - split: train | |
| path: merged_v1/MPDocVQA/*.parquet | |
| - config_name: Nato | |
| data_files: | |
| - split: train | |
| path: merged_v1/Nato/*.parquet | |
| - config_name: Nuclear | |
| data_files: | |
| - split: train | |
| path: merged_v1/Nuclear/*.parquet | |
| - config_name: OpenDocVQA | |
| data_files: | |
| - split: train | |
| path: merged_v1/OpenDocVQA/*.parquet | |
| - config_name: PlotQA | |
| data_files: | |
| - split: train | |
| path: merged_v1/PlotQA/*.parquet | |
| - config_name: Renewable | |
| data_files: | |
| - split: train | |
| path: merged_v1/Renewable/*.parquet | |
| - config_name: SlideVQA | |
| data_files: | |
| - split: train | |
| path: merged_v1/SlideVQA/*.parquet | |
| - config_name: TabFQuAD-train | |
| data_files: | |
| - split: train | |
| path: merged_v1/TabFQuAD-train/*.parquet | |
| - config_name: TatDQA | |
| data_files: | |
| - split: train | |
| path: merged_v1/TatDQA/*.parquet | |
| - config_name: Textbooks | |
| data_files: | |
| - split: train | |
| path: merged_v1/Textbooks/*.parquet | |
| - config_name: VDR-de | |
| data_files: | |
| - split: train | |
| path: merged_v1/VDR-de/*.parquet | |
| - config_name: VDR-en | |
| data_files: | |
| - split: train | |
| path: merged_v1/VDR-en/*.parquet | |
| - config_name: VDR-es | |
| data_files: | |
| - split: train | |
| path: merged_v1/VDR-es/*.parquet | |
| - config_name: VDR-fr | |
| data_files: | |
| - split: train | |
| path: merged_v1/VDR-fr/*.parquet | |
| - config_name: VDR-it | |
| data_files: | |
| - split: train | |
| path: merged_v1/VDR-it/*.parquet | |
| - config_name: VDSID-fr | |
| data_files: | |
| - split: train | |
| path: merged_v1/VDSID-fr/*.parquet | |
| - config_name: WebPDF | |
| data_files: | |
| - split: train | |
| path: merged_v1/WebPDF/*.parquet | |
| - config_name: pairs | |
| data_files: | |
| - split: train | |
| path: merged_v1/pairs.parquet | |
| - config_name: neg_sets | |
| data_files: | |
| - split: train | |
| path: negatives_v1/negsets.parquet | |
| - config_name: neg_rows | |
| data_files: | |
| - split: train | |
| path: negatives_v1/rows.parquet | |
| - config_name: neg_pages_reserve | |
| data_files: | |
| - split: train | |
| path: negatives_v1/pages_reserve/*.parquet | |
| - config_name: neg_questions | |
| data_files: | |
| - split: train | |
| path: negatives_v1/negqueries.parquet | |
| - config_name: rephrased | |
| data_files: | |
| - split: train | |
| path: negatives_v1/rephrased.parquet | |
| # VQA train clean extended — jeu de données INTERNE et TEMPORAIRE | |
| > ⚠️ **Ceci n'est PAS une publication et PAS une release officielle.** | |
| > C'est un jeu de données **temporaire**, déposé ici uniquement pour un **usage interne** (entraînement de modèles de recherche | |
| > de documents chez Omundu). Son contenu peut changer ou être supprimé à tout moment, sans préavis ni versionnage. | |
| > Il n'est ni documenté, ni maintenu, ni supporté pour un usage externe. Les données proviennent de jeux publics existants | |
| > et restent soumises à leurs **licences d'origine respectives** ; ce dépôt n'accorde aucun droit supplémentaire. | |
| ## Contenu | |
| - **`merged_v1/`** : 2 108 763 paires (question, page) réparties en 30 domaines, une page = une image. Chaque domaine est un | |
| sous-dossier de fichiers parquet (colonne `image` au format HF Image), lignes triées par `page_id`. | |
| `merged_v1/pairs.parquet` contient les mêmes lignes **sans les images** (pour analyse rapide). | |
| - **`negatives_v1/`** : les données de négatifs associées (listes de pages négatives, pages de réserve, fausses questions, | |
| reformulations), décrites plus bas. | |
| Construction (résumé) : | |
| - fusion de nos 16 domaines d'origine (`vqa_train_clean`) avec 19 jeux supplémentaires convertis au même schéma ; | |
| - les traductions sont rattachées aux `page_id` de la page d'origine ; doublons exacts (question, page) supprimés ; | |
| - **décontamination** : les paires dont la page apparaît dans les jeux de test ViDoRe ont été retirées | |
| (doublons exacts par md5, puis vérification géométrique SuperPoint + LightGlue). | |
| ## Domaines (`merged_v1`) | |
| | Domaine | Paires | Originales | Traductions / reformulations | Langues | Sources | | |
| |---|---:|---:|---:|---|---| | |
| | ArxivQA | 50 404 | 31 564 | 18 840 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean | | |
| | ChartQA | 4 223 | 4 223 | 0 | en | vqa_train_clean | | |
| | CMarkea | 97 480 | 97 480 | 0 | en, fr | NEW-cmarkea | | |
| | DocVQA | 96 391 | 39 379 | 57 012 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean | | |
| | DUDE | 17 652 | 17 652 | 0 | en | NEW-dude | | |
| | FinHNQue | 107 925 | 107 925 | 0 | en | NEW-FinHNQue | | |
| | FinTab | 84 258 | 48 175 | 36 083 | en | NEW-FinTab, NEW-FinTab-reph | | |
| | Geotechnie | 50 842 | 50 842 | 0 | en, fr, nl | NEW-Geotechnie | | |
| | Hydrogen | 28 709 | 28 709 | 0 | da, de, en, fr | NEW-Hydrogen | | |
| | InfoVQA | 39 991 | 20 349 | 19 642 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean | | |
| | Manuals | 119 895 | 119 895 | 0 | en | vqa_train_clean | | |
| | Marsouuu | 2 884 | 2 884 | 0 | fr | NEW-Marsouuu | | |
| | MLPapers | 59 679 | 59 679 | 0 | en | vqa_train_clean | | |
| | MPDocVQA | 34 464 | 34 464 | 0 | en | NEW-mpdocvqa | | |
| | Nato | 53 030 | 53 030 | 0 | en, fr | NEW-Nato | | |
| | Nuclear | 38 581 | 38 581 | 0 | de, en, es, fr, it | NEW-Nuclear | | |
| | OpenDocVQA | 41 067 | 41 067 | 0 | en | NEW-opendocvqa | | |
| | PlotQA | 56 192 | 56 192 | 0 | en | vqa_train_clean | | |
| | Renewable | 42 661 | 42 661 | 0 | 24 langues UE | NEW-Renewable | | |
| | SlideVQA | 11 390 | 11 390 | 0 | en | NEW-slidevqa, vqa_train_clean | | |
| | TabFQuAD-train | 1 540 | 1 540 | 0 | fr | NEW-tabfquad-train | | |
| | TatDQA | 32 340 | 12 857 | 19 483 | de, en, es, fr, it | NEW-colpali-transl, NEW-tatdqa-train, vqa_train_clean | | |
| | Textbooks | 59 515 | 59 515 | 0 | en | vqa_train_clean | | |
| | VDR-de | 173 935 | 58 208 | 115 727 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean | | |
| | VDR-en | 159 865 | 53 487 | 106 378 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean | | |
| | VDR-es | 175 622 | 58 724 | 116 898 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean | | |
| | VDR-fr | 165 062 | 55 227 | 109 835 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean | | |
| | VDR-it | 164 290 | 54 934 | 109 356 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean | | |
| | VDSID-fr | 4 613 | 4 613 | 0 | en, fr | NEW-vdsid-fr | | |
| | WebPDF | 134 263 | 45 681 | 88 582 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean | | |
| | **Total** | **2 108 763** | | | | | | |
| ## Schéma de `merged_v1` | |
| | Colonne | Description | | |
| |---|---| | |
| | `query` | la question | | |
| | `image` | la page (HF Image : `bytes` PNG/JPEG + `path`) | | |
| | `page_id` | identifiant entier unique de la page (partagé entre une question originale et ses traductions) | | |
| | `domain` | domaine (= sous-dossier) | | |
| | `variant` | `original`, `translation` ou `rephrase` | | |
| | `lang` | langue de la question | | |
| | `doc_id` | identifiant du document d'origine (quand il existe) | | |
| | `source` | jeu source (`vqa_train_clean` = nos 16 domaines d'origine, `NEW-*` = jeux ajoutés) | | |
| | `origin_dataset`, `origin_label`, `origin_file`, `origin_row` | traçabilité vers la ligne d'origine | | |
| | `neg_queries` | fausses questions associées (JSON, quand elles existent) | | |
| | `note` | remarque éventuelle de construction | | |
| ## `negatives_v1` | |
| | Config | Fichier | Contenu | | |
| |---|---|---| | |
| | `neg_sets` | `negsets.parquet` | une ligne par (question originale, page) : listes de `page_id` négatifs par origine (`neg_vdr`, `neg_nomic`, `neg_manu`, `neg_samedoc`) | | |
| | `neg_rows` | `rows.parquet` | rattache chaque ligne de `merged_v1` à son `set_id` (les traductions réutilisent la liste de leur question originale) | | |
| | `neg_pages_reserve` | `pages_reserve/*.parquet` | images des pages négatives absentes de `merged_v1` (`page_id`, `image`, `source`, `source_id`) | | |
| | `neg_questions` | `negqueries.parquet` | fausses questions par page (`positive_query`, `negative_queries`) | | |
| | `rephrased` | `rephrased.parquet` | reformulations de questions (`original_query`, `rephrased_query`) | | |
| ## Chargement | |
| ```python | |
| from datasets import load_dataset | |
| docvqa = load_dataset("Omundu-Riad/vqa_train_clean_extended", "DocVQA", split="train") | |
| tout = load_dataset("Omundu-Riad/vqa_train_clean_extended", "all", split="train") # ~148 Go | |
| negs = load_dataset("Omundu-Riad/vqa_train_clean_extended", "neg_sets", split="train") | |
| ``` | |