Omundu-Riad's picture
Add files using upload-large-folder tool
2f9035f verified
|
Raw History Blame Contribute Delete
9.54 kB
metadata
pretty_name: VQA train clean extended (interne, temporaire)
license: other
language:
  - en
  - fr
  - de
  - es
  - it
tags:
  - internal
  - temporary
  - not-an-official-release
  - visual-document-retrieval
configs:
  - config_name: all
    default: true
    data_files:
      - split: train
        path: merged_v1/*/*.parquet
  - config_name: ArxivQA
    data_files:
      - split: train
        path: merged_v1/ArxivQA/*.parquet
  - config_name: ChartQA
    data_files:
      - split: train
        path: merged_v1/ChartQA/*.parquet
  - config_name: CMarkea
    data_files:
      - split: train
        path: merged_v1/CMarkea/*.parquet
  - config_name: DocVQA
    data_files:
      - split: train
        path: merged_v1/DocVQA/*.parquet
  - config_name: DUDE
    data_files:
      - split: train
        path: merged_v1/DUDE/*.parquet
  - config_name: FinHNQue
    data_files:
      - split: train
        path: merged_v1/FinHNQue/*.parquet
  - config_name: FinTab
    data_files:
      - split: train
        path: merged_v1/FinTab/*.parquet
  - config_name: Geotechnie
    data_files:
      - split: train
        path: merged_v1/Geotechnie/*.parquet
  - config_name: Hydrogen
    data_files:
      - split: train
        path: merged_v1/Hydrogen/*.parquet
  - config_name: InfoVQA
    data_files:
      - split: train
        path: merged_v1/InfoVQA/*.parquet
  - config_name: Manuals
    data_files:
      - split: train
        path: merged_v1/Manuals/*.parquet
  - config_name: Marsouuu
    data_files:
      - split: train
        path: merged_v1/Marsouuu/*.parquet
  - config_name: MLPapers
    data_files:
      - split: train
        path: merged_v1/MLPapers/*.parquet
  - config_name: MPDocVQA
    data_files:
      - split: train
        path: merged_v1/MPDocVQA/*.parquet
  - config_name: Nato
    data_files:
      - split: train
        path: merged_v1/Nato/*.parquet
  - config_name: Nuclear
    data_files:
      - split: train
        path: merged_v1/Nuclear/*.parquet
  - config_name: OpenDocVQA
    data_files:
      - split: train
        path: merged_v1/OpenDocVQA/*.parquet
  - config_name: PlotQA
    data_files:
      - split: train
        path: merged_v1/PlotQA/*.parquet
  - config_name: Renewable
    data_files:
      - split: train
        path: merged_v1/Renewable/*.parquet
  - config_name: SlideVQA
    data_files:
      - split: train
        path: merged_v1/SlideVQA/*.parquet
  - config_name: TabFQuAD-train
    data_files:
      - split: train
        path: merged_v1/TabFQuAD-train/*.parquet
  - config_name: TatDQA
    data_files:
      - split: train
        path: merged_v1/TatDQA/*.parquet
  - config_name: Textbooks
    data_files:
      - split: train
        path: merged_v1/Textbooks/*.parquet
  - config_name: VDR-de
    data_files:
      - split: train
        path: merged_v1/VDR-de/*.parquet
  - config_name: VDR-en
    data_files:
      - split: train
        path: merged_v1/VDR-en/*.parquet
  - config_name: VDR-es
    data_files:
      - split: train
        path: merged_v1/VDR-es/*.parquet
  - config_name: VDR-fr
    data_files:
      - split: train
        path: merged_v1/VDR-fr/*.parquet
  - config_name: VDR-it
    data_files:
      - split: train
        path: merged_v1/VDR-it/*.parquet
  - config_name: VDSID-fr
    data_files:
      - split: train
        path: merged_v1/VDSID-fr/*.parquet
  - config_name: WebPDF
    data_files:
      - split: train
        path: merged_v1/WebPDF/*.parquet
  - config_name: pairs
    data_files:
      - split: train
        path: merged_v1/pairs.parquet
  - config_name: neg_sets
    data_files:
      - split: train
        path: negatives_v1/negsets.parquet
  - config_name: neg_rows
    data_files:
      - split: train
        path: negatives_v1/rows.parquet
  - config_name: neg_pages_reserve
    data_files:
      - split: train
        path: negatives_v1/pages_reserve/*.parquet
  - config_name: neg_questions
    data_files:
      - split: train
        path: negatives_v1/negqueries.parquet
  - config_name: rephrased
    data_files:
      - split: train
        path: negatives_v1/rephrased.parquet

VQA train clean extended — jeu de données INTERNE et TEMPORAIRE

⚠️ Ceci n'est PAS une publication et PAS une release officielle. C'est un jeu de données temporaire, déposé ici uniquement pour un usage interne (entraînement de modèles de recherche de documents chez Omundu). Son contenu peut changer ou être supprimé à tout moment, sans préavis ni versionnage. Il n'est ni documenté, ni maintenu, ni supporté pour un usage externe. Les données proviennent de jeux publics existants et restent soumises à leurs licences d'origine respectives ; ce dépôt n'accorde aucun droit supplémentaire.

Contenu

  • merged_v1/ : 2 108 763 paires (question, page) réparties en 30 domaines, une page = une image. Chaque domaine est un sous-dossier de fichiers parquet (colonne image au format HF Image), lignes triées par page_id. merged_v1/pairs.parquet contient les mêmes lignes sans les images (pour analyse rapide).
  • negatives_v1/ : les données de négatifs associées (listes de pages négatives, pages de réserve, fausses questions, reformulations), décrites plus bas.

Construction (résumé) :

  • fusion de nos 16 domaines d'origine (vqa_train_clean) avec 19 jeux supplémentaires convertis au même schéma ;
  • les traductions sont rattachées aux page_id de la page d'origine ; doublons exacts (question, page) supprimés ;
  • décontamination : les paires dont la page apparaît dans les jeux de test ViDoRe ont été retirées (doublons exacts par md5, puis vérification géométrique SuperPoint + LightGlue).

Domaines (merged_v1)

Domaine Paires Originales Traductions / reformulations Langues Sources
ArxivQA 50 404 31 564 18 840 de, en, es, fr, it NEW-colpali-transl, vqa_train_clean
ChartQA 4 223 4 223 0 en vqa_train_clean
CMarkea 97 480 97 480 0 en, fr NEW-cmarkea
DocVQA 96 391 39 379 57 012 de, en, es, fr, it NEW-colpali-transl, vqa_train_clean
DUDE 17 652 17 652 0 en NEW-dude
FinHNQue 107 925 107 925 0 en NEW-FinHNQue
FinTab 84 258 48 175 36 083 en NEW-FinTab, NEW-FinTab-reph
Geotechnie 50 842 50 842 0 en, fr, nl NEW-Geotechnie
Hydrogen 28 709 28 709 0 da, de, en, fr NEW-Hydrogen
InfoVQA 39 991 20 349 19 642 de, en, es, fr, it NEW-colpali-transl, vqa_train_clean
Manuals 119 895 119 895 0 en vqa_train_clean
Marsouuu 2 884 2 884 0 fr NEW-Marsouuu
MLPapers 59 679 59 679 0 en vqa_train_clean
MPDocVQA 34 464 34 464 0 en NEW-mpdocvqa
Nato 53 030 53 030 0 en, fr NEW-Nato
Nuclear 38 581 38 581 0 de, en, es, fr, it NEW-Nuclear
OpenDocVQA 41 067 41 067 0 en NEW-opendocvqa
PlotQA 56 192 56 192 0 en vqa_train_clean
Renewable 42 661 42 661 0 24 langues UE NEW-Renewable
SlideVQA 11 390 11 390 0 en NEW-slidevqa, vqa_train_clean
TabFQuAD-train 1 540 1 540 0 fr NEW-tabfquad-train
TatDQA 32 340 12 857 19 483 de, en, es, fr, it NEW-colpali-transl, NEW-tatdqa-train, vqa_train_clean
Textbooks 59 515 59 515 0 en vqa_train_clean
VDR-de 173 935 58 208 115 727 de, en, es, fr, it NEW-li-vdr-transl, vqa_train_clean
VDR-en 159 865 53 487 106 378 de, en, es, fr, it NEW-li-vdr-transl, vqa_train_clean
VDR-es 175 622 58 724 116 898 de, en, es, fr, it NEW-li-vdr-transl, vqa_train_clean
VDR-fr 165 062 55 227 109 835 de, en, es, fr, it NEW-li-vdr-transl, vqa_train_clean
VDR-it 164 290 54 934 109 356 de, en, es, fr, it NEW-li-vdr-transl, vqa_train_clean
VDSID-fr 4 613 4 613 0 en, fr NEW-vdsid-fr
WebPDF 134 263 45 681 88 582 de, en, es, fr, it NEW-colpali-transl, vqa_train_clean
Total 2 108 763

Schéma de merged_v1

Colonne Description
query la question
image la page (HF Image : bytes PNG/JPEG + path)
page_id identifiant entier unique de la page (partagé entre une question originale et ses traductions)
domain domaine (= sous-dossier)
variant original, translation ou rephrase
lang langue de la question
doc_id identifiant du document d'origine (quand il existe)
source jeu source (vqa_train_clean = nos 16 domaines d'origine, NEW-* = jeux ajoutés)
origin_dataset, origin_label, origin_file, origin_row traçabilité vers la ligne d'origine
neg_queries fausses questions associées (JSON, quand elles existent)
note remarque éventuelle de construction

negatives_v1

Config Fichier Contenu
neg_sets negsets.parquet une ligne par (question originale, page) : listes de page_id négatifs par origine (neg_vdr, neg_nomic, neg_manu, neg_samedoc)
neg_rows rows.parquet rattache chaque ligne de merged_v1 à son set_id (les traductions réutilisent la liste de leur question originale)
neg_pages_reserve pages_reserve/*.parquet images des pages négatives absentes de merged_v1 (page_id, image, source, source_id)
neg_questions negqueries.parquet fausses questions par page (positive_query, negative_queries)
rephrased rephrased.parquet reformulations de questions (original_query, rephrased_query)

Chargement

from datasets import load_dataset

docvqa = load_dataset("Omundu-Riad/vqa_train_clean_extended", "DocVQA", split="train")
tout = load_dataset("Omundu-Riad/vqa_train_clean_extended", "all", split="train")   # ~148 Go
negs = load_dataset("Omundu-Riad/vqa_train_clean_extended", "neg_sets", split="train")