|
Download README.md from Omundu-Riad/vqa_train_clean_extended: direct link, hf CLI and curl.
- Browser
- Download file 9.54 kB
-
https://huggingface.co/datasets/Omundu-Riad/vqa_train_clean_extended/resolve/main/README.md
- Command line
-
hf download hf://datasets/Omundu-Riad/vqa_train_clean_extended/README.md
-
curl -L -o README.md https://huggingface.co/datasets/Omundu-Riad/vqa_train_clean_extended/resolve/main/README.md
9.54 kB
metadata
pretty_name: VQA train clean extended (interne, temporaire)
license: other
language:
- en
- fr
- de
- es
- it
tags:
- internal
- temporary
- not-an-official-release
- visual-document-retrieval
configs:
- config_name: all
default: true
data_files:
- split: train
path: merged_v1/*/*.parquet
- config_name: ArxivQA
data_files:
- split: train
path: merged_v1/ArxivQA/*.parquet
- config_name: ChartQA
data_files:
- split: train
path: merged_v1/ChartQA/*.parquet
- config_name: CMarkea
data_files:
- split: train
path: merged_v1/CMarkea/*.parquet
- config_name: DocVQA
data_files:
- split: train
path: merged_v1/DocVQA/*.parquet
- config_name: DUDE
data_files:
- split: train
path: merged_v1/DUDE/*.parquet
- config_name: FinHNQue
data_files:
- split: train
path: merged_v1/FinHNQue/*.parquet
- config_name: FinTab
data_files:
- split: train
path: merged_v1/FinTab/*.parquet
- config_name: Geotechnie
data_files:
- split: train
path: merged_v1/Geotechnie/*.parquet
- config_name: Hydrogen
data_files:
- split: train
path: merged_v1/Hydrogen/*.parquet
- config_name: InfoVQA
data_files:
- split: train
path: merged_v1/InfoVQA/*.parquet
- config_name: Manuals
data_files:
- split: train
path: merged_v1/Manuals/*.parquet
- config_name: Marsouuu
data_files:
- split: train
path: merged_v1/Marsouuu/*.parquet
- config_name: MLPapers
data_files:
- split: train
path: merged_v1/MLPapers/*.parquet
- config_name: MPDocVQA
data_files:
- split: train
path: merged_v1/MPDocVQA/*.parquet
- config_name: Nato
data_files:
- split: train
path: merged_v1/Nato/*.parquet
- config_name: Nuclear
data_files:
- split: train
path: merged_v1/Nuclear/*.parquet
- config_name: OpenDocVQA
data_files:
- split: train
path: merged_v1/OpenDocVQA/*.parquet
- config_name: PlotQA
data_files:
- split: train
path: merged_v1/PlotQA/*.parquet
- config_name: Renewable
data_files:
- split: train
path: merged_v1/Renewable/*.parquet
- config_name: SlideVQA
data_files:
- split: train
path: merged_v1/SlideVQA/*.parquet
- config_name: TabFQuAD-train
data_files:
- split: train
path: merged_v1/TabFQuAD-train/*.parquet
- config_name: TatDQA
data_files:
- split: train
path: merged_v1/TatDQA/*.parquet
- config_name: Textbooks
data_files:
- split: train
path: merged_v1/Textbooks/*.parquet
- config_name: VDR-de
data_files:
- split: train
path: merged_v1/VDR-de/*.parquet
- config_name: VDR-en
data_files:
- split: train
path: merged_v1/VDR-en/*.parquet
- config_name: VDR-es
data_files:
- split: train
path: merged_v1/VDR-es/*.parquet
- config_name: VDR-fr
data_files:
- split: train
path: merged_v1/VDR-fr/*.parquet
- config_name: VDR-it
data_files:
- split: train
path: merged_v1/VDR-it/*.parquet
- config_name: VDSID-fr
data_files:
- split: train
path: merged_v1/VDSID-fr/*.parquet
- config_name: WebPDF
data_files:
- split: train
path: merged_v1/WebPDF/*.parquet
- config_name: pairs
data_files:
- split: train
path: merged_v1/pairs.parquet
- config_name: neg_sets
data_files:
- split: train
path: negatives_v1/negsets.parquet
- config_name: neg_rows
data_files:
- split: train
path: negatives_v1/rows.parquet
- config_name: neg_pages_reserve
data_files:
- split: train
path: negatives_v1/pages_reserve/*.parquet
- config_name: neg_questions
data_files:
- split: train
path: negatives_v1/negqueries.parquet
- config_name: rephrased
data_files:
- split: train
path: negatives_v1/rephrased.parquet
VQA train clean extended — jeu de données INTERNE et TEMPORAIRE
⚠️ Ceci n'est PAS une publication et PAS une release officielle. C'est un jeu de données temporaire, déposé ici uniquement pour un usage interne (entraînement de modèles de recherche de documents chez Omundu). Son contenu peut changer ou être supprimé à tout moment, sans préavis ni versionnage. Il n'est ni documenté, ni maintenu, ni supporté pour un usage externe. Les données proviennent de jeux publics existants et restent soumises à leurs licences d'origine respectives ; ce dépôt n'accorde aucun droit supplémentaire.
Contenu
merged_v1/: 2 108 763 paires (question, page) réparties en 30 domaines, une page = une image. Chaque domaine est un sous-dossier de fichiers parquet (colonneimageau format HF Image), lignes triées parpage_id.merged_v1/pairs.parquetcontient les mêmes lignes sans les images (pour analyse rapide).negatives_v1/: les données de négatifs associées (listes de pages négatives, pages de réserve, fausses questions, reformulations), décrites plus bas.
Construction (résumé) :
- fusion de nos 16 domaines d'origine (
vqa_train_clean) avec 19 jeux supplémentaires convertis au même schéma ; - les traductions sont rattachées aux
page_idde la page d'origine ; doublons exacts (question, page) supprimés ; - décontamination : les paires dont la page apparaît dans les jeux de test ViDoRe ont été retirées (doublons exacts par md5, puis vérification géométrique SuperPoint + LightGlue).
Domaines (merged_v1)
| Domaine | Paires | Originales | Traductions / reformulations | Langues | Sources |
|---|---|---|---|---|---|
| ArxivQA | 50 404 | 31 564 | 18 840 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean |
| ChartQA | 4 223 | 4 223 | 0 | en | vqa_train_clean |
| CMarkea | 97 480 | 97 480 | 0 | en, fr | NEW-cmarkea |
| DocVQA | 96 391 | 39 379 | 57 012 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean |
| DUDE | 17 652 | 17 652 | 0 | en | NEW-dude |
| FinHNQue | 107 925 | 107 925 | 0 | en | NEW-FinHNQue |
| FinTab | 84 258 | 48 175 | 36 083 | en | NEW-FinTab, NEW-FinTab-reph |
| Geotechnie | 50 842 | 50 842 | 0 | en, fr, nl | NEW-Geotechnie |
| Hydrogen | 28 709 | 28 709 | 0 | da, de, en, fr | NEW-Hydrogen |
| InfoVQA | 39 991 | 20 349 | 19 642 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean |
| Manuals | 119 895 | 119 895 | 0 | en | vqa_train_clean |
| Marsouuu | 2 884 | 2 884 | 0 | fr | NEW-Marsouuu |
| MLPapers | 59 679 | 59 679 | 0 | en | vqa_train_clean |
| MPDocVQA | 34 464 | 34 464 | 0 | en | NEW-mpdocvqa |
| Nato | 53 030 | 53 030 | 0 | en, fr | NEW-Nato |
| Nuclear | 38 581 | 38 581 | 0 | de, en, es, fr, it | NEW-Nuclear |
| OpenDocVQA | 41 067 | 41 067 | 0 | en | NEW-opendocvqa |
| PlotQA | 56 192 | 56 192 | 0 | en | vqa_train_clean |
| Renewable | 42 661 | 42 661 | 0 | 24 langues UE | NEW-Renewable |
| SlideVQA | 11 390 | 11 390 | 0 | en | NEW-slidevqa, vqa_train_clean |
| TabFQuAD-train | 1 540 | 1 540 | 0 | fr | NEW-tabfquad-train |
| TatDQA | 32 340 | 12 857 | 19 483 | de, en, es, fr, it | NEW-colpali-transl, NEW-tatdqa-train, vqa_train_clean |
| Textbooks | 59 515 | 59 515 | 0 | en | vqa_train_clean |
| VDR-de | 173 935 | 58 208 | 115 727 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean |
| VDR-en | 159 865 | 53 487 | 106 378 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean |
| VDR-es | 175 622 | 58 724 | 116 898 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean |
| VDR-fr | 165 062 | 55 227 | 109 835 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean |
| VDR-it | 164 290 | 54 934 | 109 356 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean |
| VDSID-fr | 4 613 | 4 613 | 0 | en, fr | NEW-vdsid-fr |
| WebPDF | 134 263 | 45 681 | 88 582 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean |
| Total | 2 108 763 |
Schéma de merged_v1
| Colonne | Description |
|---|---|
query |
la question |
image |
la page (HF Image : bytes PNG/JPEG + path) |
page_id |
identifiant entier unique de la page (partagé entre une question originale et ses traductions) |
domain |
domaine (= sous-dossier) |
variant |
original, translation ou rephrase |
lang |
langue de la question |
doc_id |
identifiant du document d'origine (quand il existe) |
source |
jeu source (vqa_train_clean = nos 16 domaines d'origine, NEW-* = jeux ajoutés) |
origin_dataset, origin_label, origin_file, origin_row |
traçabilité vers la ligne d'origine |
neg_queries |
fausses questions associées (JSON, quand elles existent) |
note |
remarque éventuelle de construction |
negatives_v1
| Config | Fichier | Contenu |
|---|---|---|
neg_sets |
negsets.parquet |
une ligne par (question originale, page) : listes de page_id négatifs par origine (neg_vdr, neg_nomic, neg_manu, neg_samedoc) |
neg_rows |
rows.parquet |
rattache chaque ligne de merged_v1 à son set_id (les traductions réutilisent la liste de leur question originale) |
neg_pages_reserve |
pages_reserve/*.parquet |
images des pages négatives absentes de merged_v1 (page_id, image, source, source_id) |
neg_questions |
negqueries.parquet |
fausses questions par page (positive_query, negative_queries) |
rephrased |
rephrased.parquet |
reformulations de questions (original_query, rephrased_query) |
Chargement
from datasets import load_dataset
docvqa = load_dataset("Omundu-Riad/vqa_train_clean_extended", "DocVQA", split="train")
tout = load_dataset("Omundu-Riad/vqa_train_clean_extended", "all", split="train") # ~148 Go
negs = load_dataset("Omundu-Riad/vqa_train_clean_extended", "neg_sets", split="train")