Hugging Face's logo

Datasets:
MisterAI
/
WM-ENT-API-DUMP_FR_2026.07

Tasks:
Text Generation
Text Classification
Text Retrieval
Modalities:
Text
Languages:
French
French
Size:
100K - 1M
Tags:
wikipedia
wikimedia
french
License:
Dataset card Data Studio Files
xet
 Community
1
WM-ENT-API-DUMP_FR_2026.07 / README.md
MisterAI's picture
MisterAI
Update README.md
1c7b148 verified
preview code
|
Raw History Blame Contribute Delete
10.6 kB
metadata 
license: cc-by-sa-4.0
language:
  - fr
  - fra
task_categories:
  - text-generation
  - text-classification
  - text-retrieval
  - feature-extraction
  - fill-mask
tags:
  - wikipedia
  - wikimedia
  - french
size_categories:
  - 1M<n<10M
pretty_name: >-
  Jeux De Données : Dump WikiMedia Français Juillet 2026 : Extraction et
  Nettoyage Complet

Jeux De Données : Dump WikiMedia Français Juillet 2026 : Extraction et Nettoyage Complet

Description

Ce JDD contient des articles extraits du dump complet de Wikimedia d'août 2026, nettoyés et structurés pour l'entraînement de modèles d'apprentissage automatique.

Source originale : Wikimedia Enterprise

Licence : CC BY 4.0

Volume initial : 46 Go en tar.gz : ~120-150 Go décompressés

Volume final nettoyé : 14.6 Go : 144 fichiers .jsonl

Fichiers traités : 144 'Chunk' Compressés en .tar.gz

-rwxr-xr-x 1 MisterAI MisterAI 266M 19 sept. 14:21 frwiki_26.07_chunk_0.tar.gz
-rwxr-xr-x 1 MisterAI MisterAI 315M 19 sept. 15:33 frwiki_26.07_chunk_100.tar.gz
-rwxr-xr-x 1 MisterAI MisterAI 324M 19 sept. 15:34 frwiki_26.07_chunk_101.tar.gz
-rwxr-xr-x 1 MisterAI MisterAI 324M 19 sept. 15:35 frwiki_26.07_chunk_102.tar.gz
-[...]

Contenu et Structure

Chaque entrée du JDD contient les champs suivants (JSONL, une ligne = un article) :

Champ Description
id Identifiant numérique de la page MediaWiki
Nom_Article Titre exact de l'article
URL_Article Lien permanent canonique (https://fr.wikipedia.org/wiki/...)
Sujet_Article Lead (chapeau introductif avant la première section ==)
Texte_Article Texte intégral de l'article (toutes sections hors références/Annexes/liens externes)
categories Liste des catégories [[Catégorie:...]] (noms propres, dédoublonnées)
portails Liste des portails `{{Portail
revision_id ID de la révision source
timestamp Horodatage de la révision (ISO 8601)

Exemple :

  • 1 ligne unique jsonl Affichée en pretty-print ici pour lisibilité
{
  "id": "5958729",
  "Nom_Article": "Engoulevent de Temminck",
  "URL_Article": "https://fr.wikipedia.org/wiki/Engoulevent_de_Temminck",
  "Sujet_Article": "animal\nembranchement\nsous-embranchement\nclasse\nordre\nfamille\ngenre\nanimal\nEurostopodus temminckii (Gould, 1838) (protonyme)\nLyncornis temminckii area.svg\n\nPrésent à l'année.\n\nLC\n\nLEngoulevent de Temminck (Lyncornis temminckii) est une espèce d'oiseaux de la famille des Caprimulgidae.",
  "Texte_Article": "animal\nembranchement\nsous-embranchement\nclasse\nordre\nfamille\ngenre\nanimal\nEurostopodus temminckii (Gould, 1838) (protonyme)\nLyncornis temminckii area.svg\n\nPrésent à l'année.\n\nLC\n\nLEngoulevent de Temminck (Lyncornis temminckii) est une espèce d'oiseaux de la famille des Caprimulgidae.\n\n== Répartition ==\nCet oiseau vit au Brunei, en Indonésie, en Malaisie, à Singapour et en Thaïlande.\n\n== Taxinomie ==\nLa dénomination spécifique, temminckii, commémore le zoologiste néerlandais Coenraad Jacob Temminck.",
  "categories": [
    "Portail:Sciences/Articles liés",
    "Projet:Biologie/Pages liées",
    "Caprimulgidae",
    "Oiseau de Malésie",
    "Oiseau décrit en 1838",
    "Statut UICN Préoccupation mineure",
    "Portail:Biologie/Articles liés",
    "Taxobox utilisant la classification du Congrès ornithologique international",
    "Article utilisant une Infobox",
    "Portail:Ornithologie/Articles liés",
    "Portail:Zoologie/Articles liés",
    "Article avec taxobox-animal",
    "Article à illustrer Taxobox animal"
  ],
  "portails": [
    "ornithologie"
  ],
  "revision_id": "232862472",
  "timestamp": "2026-01-30T02:13:00Z"
}
  • 1 Ligne unique jsonl
{"id": "5958729", "Nom_Article": "Engoulevent de Temminck", "URL_Article": "https://fr.wikipedia.org/wiki/Engoulevent_de_Temminck", "Sujet_Article": "animal\nembranchement\nsous-embranchement\nclasse\nordre\nfamille\ngenre\nanimal\nEurostopodus temminckii (Gould, 1838) (protonyme)\nLyncornis temminckii area.svg\n\nPrésent à l'année.\n\nLC\n\nLEngoulevent de Temminck (Lyncornis temminckii) est une espèce d'oiseaux de la famille des Caprimulgidae.", "Texte_Article": "animal\nembranchement\nsous-embranchement\nclasse\nordre\nfamille\ngenre\nanimal\nEurostopodus temminckii (Gould, 1838) (protonyme)\nLyncornis temminckii area.svg\n\nPrésent à l'année.\n\nLC\n\nLEngoulevent de Temminck (Lyncornis temminckii) est une espèce d'oiseaux de la famille des Caprimulgidae.\n\n== Répartition ==\nCet oiseau vit au Brunei, en Indonésie, en Malaisie, à Singapour et en Thaïlande.\n\n== Taxinomie ==\nLa dénomination spécifique, temminckii, commémore le zoologiste néerlandais Coenraad Jacob Temminck.", "categories": ["Portail:Sciences/Articles liés", "Projet:Biologie/Pages liées", "Caprimulgidae", "Oiseau de Malésie", "Oiseau décrit en 1838", "Statut UICN Préoccupation mineure", "Portail:Biologie/Articles liés", "Taxobox utilisant la classification du Congrès ornithologique international", "Article utilisant une Infobox", "Portail:Ornithologie/Articles liés", "Portail:Zoologie/Articles liés", "Article avec taxobox-animal", "Article à illustrer Taxobox animal"], "portails": ["ornithologie"], "revision_id": "232862472", "timestamp": "2026-01-30T02:13:00Z"}

Processus de Nettoyage (Pipeline unique)

L'extraction est réalisée en un seul passage par un Script Python (mwparserfromhell) :

  1. Parsing streaming des chunk tar.gz → dernière révision de chaque page.
  2. Conversion des tableaux Wiki en Markdown (avec titre) avant parsing AST.
  3. Parsing AST complet (mwparserfromhell) → suppression sections parasites (Références, Annexes…), balises <ref>/<gallery>, liens externes.
  4. Dispatch intelligent des templates (≈ 40 patterns) : suppression totale (infobox, navbox, imdb…), conservation du contenu pour le formatage pur (gras, lang, citation…), extraction sémantique pour les cas utiles (date, lien web, ouvrage, démographie, colonne, multiple image…).
  5. Vignettes & WikiTables simples : [[Fichier:…|vignette|desc]] → [IMAGE: desc] ; {{Wikitable|…|…}} → [TABLEAU:\n|…|…|] (premier niveau seulement).
  6. Nettoyage final : liens [[…]], entités HTML, apostrophes wiki, espaces.
  7. Extraction métadonnées (catégories, portails, lead/full_text) + écriture JSONL parallèle.

mwparserfromhell : The MediaWiki Parser From Hell

Remerciements : earwig/mwparserfromhell

Sans mwparserfromhell, deux approches classiques échouent :
Approche naïve Résultat
Regex globales sur le wikitexte brut Casse l'imbrication {{template {{autre}} }}, mange du texte, laisse des artefacts, ne gère pas les tableaux `{
Troncature au lead (première section seulement) Perte de 70–85 % du texte utile (historique, description, tableaux, listes, données chiffrées). Mon premier JDD de juillet faisait cela → 6,2 Go au lieu de ~25 Go exploitables.

Voir Premier Essai limité à la section introductive : Wiki_FR_2026.07

Avec mwparserfromhell :

mwparserfromhell fournit un puissant parseur AST (Abstract Syntax Tree) qui :

  • Respecte l'imbrication des {{ }} et [[ ]].
  • Permet filter_templates(recursive=True) + traitement enfants avant parents (ordre inverse) → les paramètres des templates parents contiennent déjà du texte propre.
  • Permet filter_tags(), filter_wikilinks(), filter_external_links(), filter_comments() sur l'arbre, pas sur du texte plat.
  • Rend possible la conversion sémantique de 40+ families de templates au lieu de les jeter.

Résultat concret : chaque article garde la majorité du texte exploitable (sections, tableaux Markdown, légendes d'images, bibliographies structurées, données démographiques, citations) au lieu d'un chapeau de 3 lignes.

  • NB : Ce n'est pas un outil magique non plus, pour chaque balise a recuperer il faut forger un gestionnaire de balise...

Versions Disponibles

Nom Répertoire Taille Nombre de Fichiers Nombre de lignes Publication
WM-ENT-API-DUMP_FR_2026.07_JDD_R_EAv1 ~100 Mo 10 fichiers .jsonl + 1 validation 20,356 Lignes ✅ Disponible
WM-ENT-API-DUMP_FR_2026.07_JDD_R_EAv2 ~200 Mo 10 fichiers .jsonl + 1 validation 40,843 Lignes ✅ Disponible
WM-ENT-API-DUMP_FR_2026.07_JDD_R_EAv3 ~500 Mo 10 fichiers .jsonl + 1 validation 101,472 Lignes ✅ Disponible
WM-ENT-API-DUMP_FR_2026.07_JDD_R_EAv4 ~1 Go 10 fichiers .jsonl + 1 validation 202,718 Lignes 🕐 À Venir
WM-ENT-API-DUMP_FR_2026.07_JDD_COMPLET ~11.5Go 144 fichiers .jsonl 2,831,463 Lignes 🕐 À Venir

Utilisation Recommandée

Ce JDD est adapté à :

  • L'entraînement de modèles de traitement du langage naturel (LLM, BERT-like, etc.)
  • L'extraction d'informations et la classification de textes (catégories/portails comme labels faibles)
  • Les tâches de génération de contenu basées sur des connaissances factuelles (RAG, fine-tuning)
  • L'analyse structurelle (tables Markdown, listes, citations, données chiffrées)

Note : Le champ Sujet_Article (lead) permet un aperçu rapide ; Texte_Article contient le corps complet nettoyé. Les URLs permettent de remonter à la source pour vérification.

Licence et Attribution

Les données originales de Wikimedia-Enterprise sont distribuées sous la licence :

Sources :

Téléchargements :

curl -H "Authorization: Bearer ACCESS_TOKEN" -L https://api.enterprise.wikimedia.com/v2/snapshots/frwiki_namespace_0/download --output frwiki.tar.gz

Extraction, nettoyage et structuration réalisés par MisterAI avec :

  • L'assistance de :

    • PHASE I : Ancien JDD
      • Devstral/Codestral/Nemotron/NorthCohere/Command A+/DDG_AI_Claude4.5
    • PHASE II : Le JDD Actuel
      • Nemotron
      • Claude5-Sonnet

  • L'utilisation de

    • mwparserfromhell