Omundu-Riad's picture
Add files using upload-large-folder tool
2f9035f verified
|
Raw History Blame Contribute Delete
9.54 kB
---
pretty_name: VQA train clean extended (interne, temporaire)
license: other
language:
- en
- fr
- de
- es
- it
tags:
- internal
- temporary
- not-an-official-release
- visual-document-retrieval
configs:
- config_name: all
default: true
data_files:
- split: train
path: merged_v1/*/*.parquet
- config_name: ArxivQA
data_files:
- split: train
path: merged_v1/ArxivQA/*.parquet
- config_name: ChartQA
data_files:
- split: train
path: merged_v1/ChartQA/*.parquet
- config_name: CMarkea
data_files:
- split: train
path: merged_v1/CMarkea/*.parquet
- config_name: DocVQA
data_files:
- split: train
path: merged_v1/DocVQA/*.parquet
- config_name: DUDE
data_files:
- split: train
path: merged_v1/DUDE/*.parquet
- config_name: FinHNQue
data_files:
- split: train
path: merged_v1/FinHNQue/*.parquet
- config_name: FinTab
data_files:
- split: train
path: merged_v1/FinTab/*.parquet
- config_name: Geotechnie
data_files:
- split: train
path: merged_v1/Geotechnie/*.parquet
- config_name: Hydrogen
data_files:
- split: train
path: merged_v1/Hydrogen/*.parquet
- config_name: InfoVQA
data_files:
- split: train
path: merged_v1/InfoVQA/*.parquet
- config_name: Manuals
data_files:
- split: train
path: merged_v1/Manuals/*.parquet
- config_name: Marsouuu
data_files:
- split: train
path: merged_v1/Marsouuu/*.parquet
- config_name: MLPapers
data_files:
- split: train
path: merged_v1/MLPapers/*.parquet
- config_name: MPDocVQA
data_files:
- split: train
path: merged_v1/MPDocVQA/*.parquet
- config_name: Nato
data_files:
- split: train
path: merged_v1/Nato/*.parquet
- config_name: Nuclear
data_files:
- split: train
path: merged_v1/Nuclear/*.parquet
- config_name: OpenDocVQA
data_files:
- split: train
path: merged_v1/OpenDocVQA/*.parquet
- config_name: PlotQA
data_files:
- split: train
path: merged_v1/PlotQA/*.parquet
- config_name: Renewable
data_files:
- split: train
path: merged_v1/Renewable/*.parquet
- config_name: SlideVQA
data_files:
- split: train
path: merged_v1/SlideVQA/*.parquet
- config_name: TabFQuAD-train
data_files:
- split: train
path: merged_v1/TabFQuAD-train/*.parquet
- config_name: TatDQA
data_files:
- split: train
path: merged_v1/TatDQA/*.parquet
- config_name: Textbooks
data_files:
- split: train
path: merged_v1/Textbooks/*.parquet
- config_name: VDR-de
data_files:
- split: train
path: merged_v1/VDR-de/*.parquet
- config_name: VDR-en
data_files:
- split: train
path: merged_v1/VDR-en/*.parquet
- config_name: VDR-es
data_files:
- split: train
path: merged_v1/VDR-es/*.parquet
- config_name: VDR-fr
data_files:
- split: train
path: merged_v1/VDR-fr/*.parquet
- config_name: VDR-it
data_files:
- split: train
path: merged_v1/VDR-it/*.parquet
- config_name: VDSID-fr
data_files:
- split: train
path: merged_v1/VDSID-fr/*.parquet
- config_name: WebPDF
data_files:
- split: train
path: merged_v1/WebPDF/*.parquet
- config_name: pairs
data_files:
- split: train
path: merged_v1/pairs.parquet
- config_name: neg_sets
data_files:
- split: train
path: negatives_v1/negsets.parquet
- config_name: neg_rows
data_files:
- split: train
path: negatives_v1/rows.parquet
- config_name: neg_pages_reserve
data_files:
- split: train
path: negatives_v1/pages_reserve/*.parquet
- config_name: neg_questions
data_files:
- split: train
path: negatives_v1/negqueries.parquet
- config_name: rephrased
data_files:
- split: train
path: negatives_v1/rephrased.parquet
---
# VQA train clean extended — jeu de données INTERNE et TEMPORAIRE
> ⚠️ **Ceci n'est PAS une publication et PAS une release officielle.**
> C'est un jeu de données **temporaire**, déposé ici uniquement pour un **usage interne** (entraînement de modèles de recherche
> de documents chez Omundu). Son contenu peut changer ou être supprimé à tout moment, sans préavis ni versionnage.
> Il n'est ni documenté, ni maintenu, ni supporté pour un usage externe. Les données proviennent de jeux publics existants
> et restent soumises à leurs **licences d'origine respectives** ; ce dépôt n'accorde aucun droit supplémentaire.
## Contenu
- **`merged_v1/`** : 2 108 763 paires (question, page) réparties en 30 domaines, une page = une image. Chaque domaine est un
sous-dossier de fichiers parquet (colonne `image` au format HF Image), lignes triées par `page_id`.
`merged_v1/pairs.parquet` contient les mêmes lignes **sans les images** (pour analyse rapide).
- **`negatives_v1/`** : les données de négatifs associées (listes de pages négatives, pages de réserve, fausses questions,
reformulations), décrites plus bas.
Construction (résumé) :
- fusion de nos 16 domaines d'origine (`vqa_train_clean`) avec 19 jeux supplémentaires convertis au même schéma ;
- les traductions sont rattachées aux `page_id` de la page d'origine ; doublons exacts (question, page) supprimés ;
- **décontamination** : les paires dont la page apparaît dans les jeux de test ViDoRe ont été retirées
(doublons exacts par md5, puis vérification géométrique SuperPoint + LightGlue).
## Domaines (`merged_v1`)
| Domaine | Paires | Originales | Traductions / reformulations | Langues | Sources |
|---|---:|---:|---:|---|---|
| ArxivQA | 50 404 | 31 564 | 18 840 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean |
| ChartQA | 4 223 | 4 223 | 0 | en | vqa_train_clean |
| CMarkea | 97 480 | 97 480 | 0 | en, fr | NEW-cmarkea |
| DocVQA | 96 391 | 39 379 | 57 012 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean |
| DUDE | 17 652 | 17 652 | 0 | en | NEW-dude |
| FinHNQue | 107 925 | 107 925 | 0 | en | NEW-FinHNQue |
| FinTab | 84 258 | 48 175 | 36 083 | en | NEW-FinTab, NEW-FinTab-reph |
| Geotechnie | 50 842 | 50 842 | 0 | en, fr, nl | NEW-Geotechnie |
| Hydrogen | 28 709 | 28 709 | 0 | da, de, en, fr | NEW-Hydrogen |
| InfoVQA | 39 991 | 20 349 | 19 642 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean |
| Manuals | 119 895 | 119 895 | 0 | en | vqa_train_clean |
| Marsouuu | 2 884 | 2 884 | 0 | fr | NEW-Marsouuu |
| MLPapers | 59 679 | 59 679 | 0 | en | vqa_train_clean |
| MPDocVQA | 34 464 | 34 464 | 0 | en | NEW-mpdocvqa |
| Nato | 53 030 | 53 030 | 0 | en, fr | NEW-Nato |
| Nuclear | 38 581 | 38 581 | 0 | de, en, es, fr, it | NEW-Nuclear |
| OpenDocVQA | 41 067 | 41 067 | 0 | en | NEW-opendocvqa |
| PlotQA | 56 192 | 56 192 | 0 | en | vqa_train_clean |
| Renewable | 42 661 | 42 661 | 0 | 24 langues UE | NEW-Renewable |
| SlideVQA | 11 390 | 11 390 | 0 | en | NEW-slidevqa, vqa_train_clean |
| TabFQuAD-train | 1 540 | 1 540 | 0 | fr | NEW-tabfquad-train |
| TatDQA | 32 340 | 12 857 | 19 483 | de, en, es, fr, it | NEW-colpali-transl, NEW-tatdqa-train, vqa_train_clean |
| Textbooks | 59 515 | 59 515 | 0 | en | vqa_train_clean |
| VDR-de | 173 935 | 58 208 | 115 727 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean |
| VDR-en | 159 865 | 53 487 | 106 378 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean |
| VDR-es | 175 622 | 58 724 | 116 898 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean |
| VDR-fr | 165 062 | 55 227 | 109 835 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean |
| VDR-it | 164 290 | 54 934 | 109 356 | de, en, es, fr, it | NEW-li-vdr-transl, vqa_train_clean |
| VDSID-fr | 4 613 | 4 613 | 0 | en, fr | NEW-vdsid-fr |
| WebPDF | 134 263 | 45 681 | 88 582 | de, en, es, fr, it | NEW-colpali-transl, vqa_train_clean |
| **Total** | **2 108 763** | | | | |
## Schéma de `merged_v1`
| Colonne | Description |
|---|---|
| `query` | la question |
| `image` | la page (HF Image : `bytes` PNG/JPEG + `path`) |
| `page_id` | identifiant entier unique de la page (partagé entre une question originale et ses traductions) |
| `domain` | domaine (= sous-dossier) |
| `variant` | `original`, `translation` ou `rephrase` |
| `lang` | langue de la question |
| `doc_id` | identifiant du document d'origine (quand il existe) |
| `source` | jeu source (`vqa_train_clean` = nos 16 domaines d'origine, `NEW-*` = jeux ajoutés) |
| `origin_dataset`, `origin_label`, `origin_file`, `origin_row` | traçabilité vers la ligne d'origine |
| `neg_queries` | fausses questions associées (JSON, quand elles existent) |
| `note` | remarque éventuelle de construction |
## `negatives_v1`
| Config | Fichier | Contenu |
|---|---|---|
| `neg_sets` | `negsets.parquet` | une ligne par (question originale, page) : listes de `page_id` négatifs par origine (`neg_vdr`, `neg_nomic`, `neg_manu`, `neg_samedoc`) |
| `neg_rows` | `rows.parquet` | rattache chaque ligne de `merged_v1` à son `set_id` (les traductions réutilisent la liste de leur question originale) |
| `neg_pages_reserve` | `pages_reserve/*.parquet` | images des pages négatives absentes de `merged_v1` (`page_id`, `image`, `source`, `source_id`) |
| `neg_questions` | `negqueries.parquet` | fausses questions par page (`positive_query`, `negative_queries`) |
| `rephrased` | `rephrased.parquet` | reformulations de questions (`original_query`, `rephrased_query`) |
## Chargement
```python
from datasets import load_dataset
docvqa = load_dataset("Omundu-Riad/vqa_train_clean_extended", "DocVQA", split="train")
tout = load_dataset("Omundu-Riad/vqa_train_clean_extended", "all", split="train") # ~148 Go
negs = load_dataset("Omundu-Riad/vqa_train_clean_extended", "neg_sets", split="train")
```