--- license: cc-by-sa-4.0 language: - fr - fra task_categories: - text-generation - text-classification - text-retrieval - feature-extraction - fill-mask tags: - wikipedia - wikimedia - french size_categories: - 1M- Jeux De Données : Dump WikiMedia Français Juillet 2026 : Extraction et Nettoyage Complet --- # Jeux De Données : Dump WikiMedia Français Juillet 2026 : Extraction et Nettoyage Complet ### Description Ce JDD contient des articles extraits du dump complet de Wikimedia d'août 2026, nettoyés et structurés pour l'entraînement de modèles d'apprentissage automatique. **Source originale :** Wikimedia Enterprise **Licence :** CC BY 4.0 **Volume initial :** 46 Go en tar.gz : ~120-150 Go décompressés **Volume final nettoyé :** 14.6 Go : 144 fichiers .jsonl **Fichiers traités : 144 'Chunk' Compressés en .tar.gz** ```bash -rwxr-xr-x 1 MisterAI MisterAI 266M 19 sept. 14:21 frwiki_26.07_chunk_0.tar.gz -rwxr-xr-x 1 MisterAI MisterAI 315M 19 sept. 15:33 frwiki_26.07_chunk_100.tar.gz -rwxr-xr-x 1 MisterAI MisterAI 324M 19 sept. 15:34 frwiki_26.07_chunk_101.tar.gz -rwxr-xr-x 1 MisterAI MisterAI 324M 19 sept. 15:35 frwiki_26.07_chunk_102.tar.gz -[...] ``` --- ### Contenu et Structure Chaque entrée du JDD contient les champs suivants (JSONL, une ligne = un article) : | Champ | Description | |-------|-------------| | `id` | Identifiant numérique de la page MediaWiki | | `Nom_Article` | Titre exact de l'article | | `URL_Article` | Lien permanent canonique (`https://fr.wikipedia.org/wiki/...`) | | `Sujet_Article` | **Lead** (chapeau introductif avant la première section `==`) | | `Texte_Article` | **Texte intégral** de l'article (toutes sections hors références/Annexes/liens externes) | | `categories` | Liste des catégories `[[Catégorie:...]]` (noms propres, dédoublonnées) | | `portails` | Liste des portails `{{Portail|...}}` (noms propres, dédoublonnées) | | `revision_id` | ID de la révision source | | `timestamp` | Horodatage de la révision (ISO 8601) | ### Exemple : - 1 ligne unique jsonl Affichée en pretty-print ici pour lisibilité ```json { "id": "5958729", "Nom_Article": "Engoulevent de Temminck", "URL_Article": "https://fr.wikipedia.org/wiki/Engoulevent_de_Temminck", "Sujet_Article": "animal\nembranchement\nsous-embranchement\nclasse\nordre\nfamille\ngenre\nanimal\nEurostopodus temminckii (Gould, 1838) (protonyme)\nLyncornis temminckii area.svg\n\nPrésent à l'année.\n\nLC\n\nLEngoulevent de Temminck (Lyncornis temminckii) est une espèce d'oiseaux de la famille des Caprimulgidae.", "Texte_Article": "animal\nembranchement\nsous-embranchement\nclasse\nordre\nfamille\ngenre\nanimal\nEurostopodus temminckii (Gould, 1838) (protonyme)\nLyncornis temminckii area.svg\n\nPrésent à l'année.\n\nLC\n\nLEngoulevent de Temminck (Lyncornis temminckii) est une espèce d'oiseaux de la famille des Caprimulgidae.\n\n== Répartition ==\nCet oiseau vit au Brunei, en Indonésie, en Malaisie, à Singapour et en Thaïlande.\n\n== Taxinomie ==\nLa dénomination spécifique, temminckii, commémore le zoologiste néerlandais Coenraad Jacob Temminck.", "categories": [ "Portail:Sciences/Articles liés", "Projet:Biologie/Pages liées", "Caprimulgidae", "Oiseau de Malésie", "Oiseau décrit en 1838", "Statut UICN Préoccupation mineure", "Portail:Biologie/Articles liés", "Taxobox utilisant la classification du Congrès ornithologique international", "Article utilisant une Infobox", "Portail:Ornithologie/Articles liés", "Portail:Zoologie/Articles liés", "Article avec taxobox-animal", "Article à illustrer Taxobox animal" ], "portails": [ "ornithologie" ], "revision_id": "232862472", "timestamp": "2026-01-30T02:13:00Z" } ``` - 1 Ligne unique jsonl ```json {"id": "5958729", "Nom_Article": "Engoulevent de Temminck", "URL_Article": "https://fr.wikipedia.org/wiki/Engoulevent_de_Temminck", "Sujet_Article": "animal\nembranchement\nsous-embranchement\nclasse\nordre\nfamille\ngenre\nanimal\nEurostopodus temminckii (Gould, 1838) (protonyme)\nLyncornis temminckii area.svg\n\nPrésent à l'année.\n\nLC\n\nLEngoulevent de Temminck (Lyncornis temminckii) est une espèce d'oiseaux de la famille des Caprimulgidae.", "Texte_Article": "animal\nembranchement\nsous-embranchement\nclasse\nordre\nfamille\ngenre\nanimal\nEurostopodus temminckii (Gould, 1838) (protonyme)\nLyncornis temminckii area.svg\n\nPrésent à l'année.\n\nLC\n\nLEngoulevent de Temminck (Lyncornis temminckii) est une espèce d'oiseaux de la famille des Caprimulgidae.\n\n== Répartition ==\nCet oiseau vit au Brunei, en Indonésie, en Malaisie, à Singapour et en Thaïlande.\n\n== Taxinomie ==\nLa dénomination spécifique, temminckii, commémore le zoologiste néerlandais Coenraad Jacob Temminck.", "categories": ["Portail:Sciences/Articles liés", "Projet:Biologie/Pages liées", "Caprimulgidae", "Oiseau de Malésie", "Oiseau décrit en 1838", "Statut UICN Préoccupation mineure", "Portail:Biologie/Articles liés", "Taxobox utilisant la classification du Congrès ornithologique international", "Article utilisant une Infobox", "Portail:Ornithologie/Articles liés", "Portail:Zoologie/Articles liés", "Article avec taxobox-animal", "Article à illustrer Taxobox animal"], "portails": ["ornithologie"], "revision_id": "232862472", "timestamp": "2026-01-30T02:13:00Z"} ``` --- ### Processus de Nettoyage (Pipeline unique) L'extraction est réalisée en **un seul passage** par un Script Python (`mwparserfromhell`) : 1. **Parsing streaming** des chunk `tar.gz` → dernière révision de chaque page. 2. **Conversion des tableaux Wiki en Markdown** (avec titre) avant parsing AST. 3. **Parsing AST complet** (`mwparserfromhell`) → suppression sections parasites (Références, Annexes…), balises ``/``, liens externes. 4. **Dispatch intelligent des templates** (≈ 40 patterns) : suppression totale (`infobox`, `navbox`, `imdb`…), conservation du contenu pour le formatage pur (`gras`, `lang`, `citation`…), extraction sémantique pour les cas utiles (`date`, `lien web`, `ouvrage`, `démographie`, `colonne`, `multiple image`…). 5. **Vignettes & WikiTables simples** : `[[Fichier:…|vignette|desc]]` → `[IMAGE: desc]` ; `{{Wikitable|…|…}}` → `[TABLEAU:\n|…|…|]` (premier niveau seulement). 6. **Nettoyage final** : liens `[[…]]`, entités HTML, apostrophes wiki, espaces. 7. **Extraction métadonnées** (catégories, portails, lead/full_text) + écriture JSONL parallèle. --- ### **mwparserfromhell : The MediaWiki Parser From Hell** #### **Remerciements** : [earwig/mwparserfromhell](https://github.com/earwig/mwparserfromhell) ##### Sans `mwparserfromhell`, deux approches classiques échouent : | Approche naïve | Résultat | |----------------|----------| | **Regex globales** sur le wikitexte brut | Casse l'imbrication `{{template {{autre}} }}`, mange du texte, laisse des artefacts, ne gère pas les tableaux `{| |}`. | | **Troncature au lead** (première section seulement) | **Perte de 70–85 % du texte utile** (historique, description, tableaux, listes, données chiffrées). Mon premier JDD de juillet faisait cela → 6,2 Go au lieu de ~25 Go exploitables. | **[Voir Premier Essai limité à la section introductive : Wiki_FR_2026.07](https://huggingface.co/datasets/MisterAI/Wiki_FR_2026.07)** ##### Avec `mwparserfromhell` : `mwparserfromhell` fournit un **puissant parseur AST** (Abstract Syntax Tree) qui : - Respecte l'imbrication des `{{ }}` et `[[ ]]`. - Permet `filter_templates(recursive=True)` + traitement **enfants avant parents** (ordre inverse) → les paramètres des templates parents contiennent déjà du texte propre. - Permet `filter_tags()`, `filter_wikilinks()`, `filter_external_links()`, `filter_comments()` sur l'arbre, pas sur du texte plat. - Rend possible la conversion **sémantique** de 40+ families de templates au lieu de les jeter. **Résultat concret** : chaque article garde la majorité du **texte exploitable** (sections, tableaux Markdown, légendes d'images, bibliographies structurées, données démographiques, citations) au lieu d'un chapeau de 3 lignes. - NB : Ce n'est pas un outil magique non plus, pour chaque balise a recuperer il faut forger un gestionnaire de balise... --- ### Versions Disponibles | Nom Répertoire | Taille | Nombre de Fichiers | Nombre de lignes | Publication | |----------------|--------|---------------------|------------------|-------------| | WM-ENT-API-DUMP_FR_2026.07_JDD_R_EAv1 | ~100 Mo | 10 fichiers `.jsonl` + 1 validation | 20,356 Lignes | ✅ Disponible | | WM-ENT-API-DUMP_FR_2026.07_JDD_R_EAv2 | ~200 Mo | 10 fichiers `.jsonl` + 1 validation | 40,843 Lignes | ✅ Disponible | | WM-ENT-API-DUMP_FR_2026.07_JDD_R_EAv3 | ~500 Mo | 10 fichiers `.jsonl` + 1 validation | 101,472 Lignes | ✅ Disponible | | WM-ENT-API-DUMP_FR_2026.07_JDD_R_EAv4 | ~1 Go | 10 fichiers `.jsonl` + 1 validation | 202,718 Lignes | 🕐 À Venir | | **WM-ENT-API-DUMP_FR_2026.07_JDD_COMPLET** | ~11.5Go | 144 fichiers `.jsonl` | 2,831,463 Lignes | 🕐 À Venir | --- ### Utilisation Recommandée Ce JDD est adapté à : - L'entraînement de modèles de traitement du langage naturel (LLM, BERT-like, etc.) - L'extraction d'informations et la classification de textes (catégories/portails comme labels faibles) - Les tâches de génération de contenu basées sur des connaissances factuelles (RAG, fine-tuning) - L'analyse structurelle (tables Markdown, listes, citations, données chiffrées) **Note** : Le champ `Sujet_Article` (lead) permet un aperçu rapide ; `Texte_Article` contient le corps complet nettoyé. Les URLs permettent de remonter à la source pour vérification. --- ### Licence et Attribution Les données originales de Wikimedia-Enterprise sont distribuées sous la licence : - [**CC BY 4.0**](https://creativecommons.org/licenses/by-sa/4.0/) **Sources :** - [Wikimedia Enterprise](https://enterprise.wikimedia.com/) **Téléchargements :** ```Bash curl -H "Authorization: Bearer ACCESS_TOKEN" -L https://api.enterprise.wikimedia.com/v2/snapshots/frwiki_namespace_0/download --output frwiki.tar.gz ``` Extraction, nettoyage et structuration réalisés par [**MisterAI**](https://huggingface.co/MisterAI) avec : - L'assistance de : - PHASE I : Ancien JDD - Devstral/Codestral/Nemotron/NorthCohere/Command A+/DDG_AI_Claude4.5 - PHASE II : Le JDD Actuel - Nemotron - Claude5-Sonnet - L'utilisation de - **`mwparserfromhell`**