File size: 10,582 Bytes
2c50e1b aed3c4a 1c7b148 aed3c4a 2c50e1b aed3c4a 77592f1 aed3c4a | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 | ---
license: cc-by-sa-4.0
language:
- fr
- fra
task_categories:
- text-generation
- text-classification
- text-retrieval
- feature-extraction
- fill-mask
tags:
- wikipedia
- wikimedia
- french
size_categories:
- 1M<n<10M
pretty_name: >-
Jeux De Données : Dump WikiMedia Français Juillet 2026 : Extraction et
Nettoyage Complet
---
# Jeux De Données : Dump WikiMedia Français Juillet 2026 : Extraction et Nettoyage Complet
### Description
Ce JDD contient des articles extraits du dump complet de Wikimedia d'août 2026, nettoyés et structurés pour l'entraînement de modèles d'apprentissage automatique.
**Source originale :** Wikimedia Enterprise
**Licence :** CC BY 4.0
**Volume initial :** 46 Go en tar.gz : ~120-150 Go décompressés
**Volume final nettoyé :** 14.6 Go : 144 fichiers .jsonl
**Fichiers traités : 144 'Chunk' Compressés en .tar.gz**
```bash
-rwxr-xr-x 1 MisterAI MisterAI 266M 19 sept. 14:21 frwiki_26.07_chunk_0.tar.gz
-rwxr-xr-x 1 MisterAI MisterAI 315M 19 sept. 15:33 frwiki_26.07_chunk_100.tar.gz
-rwxr-xr-x 1 MisterAI MisterAI 324M 19 sept. 15:34 frwiki_26.07_chunk_101.tar.gz
-rwxr-xr-x 1 MisterAI MisterAI 324M 19 sept. 15:35 frwiki_26.07_chunk_102.tar.gz
-[...]
```
---
### Contenu et Structure
Chaque entrée du JDD contient les champs suivants (JSONL, une ligne = un article) :
| Champ | Description |
|-------|-------------|
| `id` | Identifiant numérique de la page MediaWiki |
| `Nom_Article` | Titre exact de l'article |
| `URL_Article` | Lien permanent canonique (`https://fr.wikipedia.org/wiki/...`) |
| `Sujet_Article` | **Lead** (chapeau introductif avant la première section `==`) |
| `Texte_Article` | **Texte intégral** de l'article (toutes sections hors références/Annexes/liens externes) |
| `categories` | Liste des catégories `[[Catégorie:...]]` (noms propres, dédoublonnées) |
| `portails` | Liste des portails `{{Portail|...}}` (noms propres, dédoublonnées) |
| `revision_id` | ID de la révision source |
| `timestamp` | Horodatage de la révision (ISO 8601) |
### Exemple :
- 1 ligne unique jsonl Affichée en pretty-print ici pour lisibilité
```json
{
"id": "5958729",
"Nom_Article": "Engoulevent de Temminck",
"URL_Article": "https://fr.wikipedia.org/wiki/Engoulevent_de_Temminck",
"Sujet_Article": "animal\nembranchement\nsous-embranchement\nclasse\nordre\nfamille\ngenre\nanimal\nEurostopodus temminckii (Gould, 1838) (protonyme)\nLyncornis temminckii area.svg\n\nPrésent à l'année.\n\nLC\n\nLEngoulevent de Temminck (Lyncornis temminckii) est une espèce d'oiseaux de la famille des Caprimulgidae.",
"Texte_Article": "animal\nembranchement\nsous-embranchement\nclasse\nordre\nfamille\ngenre\nanimal\nEurostopodus temminckii (Gould, 1838) (protonyme)\nLyncornis temminckii area.svg\n\nPrésent à l'année.\n\nLC\n\nLEngoulevent de Temminck (Lyncornis temminckii) est une espèce d'oiseaux de la famille des Caprimulgidae.\n\n== Répartition ==\nCet oiseau vit au Brunei, en Indonésie, en Malaisie, à Singapour et en Thaïlande.\n\n== Taxinomie ==\nLa dénomination spécifique, temminckii, commémore le zoologiste néerlandais Coenraad Jacob Temminck.",
"categories": [
"Portail:Sciences/Articles liés",
"Projet:Biologie/Pages liées",
"Caprimulgidae",
"Oiseau de Malésie",
"Oiseau décrit en 1838",
"Statut UICN Préoccupation mineure",
"Portail:Biologie/Articles liés",
"Taxobox utilisant la classification du Congrès ornithologique international",
"Article utilisant une Infobox",
"Portail:Ornithologie/Articles liés",
"Portail:Zoologie/Articles liés",
"Article avec taxobox-animal",
"Article à illustrer Taxobox animal"
],
"portails": [
"ornithologie"
],
"revision_id": "232862472",
"timestamp": "2026-01-30T02:13:00Z"
}
```
- 1 Ligne unique jsonl
```json
{"id": "5958729", "Nom_Article": "Engoulevent de Temminck", "URL_Article": "https://fr.wikipedia.org/wiki/Engoulevent_de_Temminck", "Sujet_Article": "animal\nembranchement\nsous-embranchement\nclasse\nordre\nfamille\ngenre\nanimal\nEurostopodus temminckii (Gould, 1838) (protonyme)\nLyncornis temminckii area.svg\n\nPrésent à l'année.\n\nLC\n\nLEngoulevent de Temminck (Lyncornis temminckii) est une espèce d'oiseaux de la famille des Caprimulgidae.", "Texte_Article": "animal\nembranchement\nsous-embranchement\nclasse\nordre\nfamille\ngenre\nanimal\nEurostopodus temminckii (Gould, 1838) (protonyme)\nLyncornis temminckii area.svg\n\nPrésent à l'année.\n\nLC\n\nLEngoulevent de Temminck (Lyncornis temminckii) est une espèce d'oiseaux de la famille des Caprimulgidae.\n\n== Répartition ==\nCet oiseau vit au Brunei, en Indonésie, en Malaisie, à Singapour et en Thaïlande.\n\n== Taxinomie ==\nLa dénomination spécifique, temminckii, commémore le zoologiste néerlandais Coenraad Jacob Temminck.", "categories": ["Portail:Sciences/Articles liés", "Projet:Biologie/Pages liées", "Caprimulgidae", "Oiseau de Malésie", "Oiseau décrit en 1838", "Statut UICN Préoccupation mineure", "Portail:Biologie/Articles liés", "Taxobox utilisant la classification du Congrès ornithologique international", "Article utilisant une Infobox", "Portail:Ornithologie/Articles liés", "Portail:Zoologie/Articles liés", "Article avec taxobox-animal", "Article à illustrer Taxobox animal"], "portails": ["ornithologie"], "revision_id": "232862472", "timestamp": "2026-01-30T02:13:00Z"}
```
---
### Processus de Nettoyage (Pipeline unique)
L'extraction est réalisée en **un seul passage** par un Script Python (`mwparserfromhell`) :
1. **Parsing streaming** des chunk `tar.gz` → dernière révision de chaque page.
2. **Conversion des tableaux Wiki en Markdown** (avec titre) avant parsing AST.
3. **Parsing AST complet** (`mwparserfromhell`) → suppression sections parasites (Références, Annexes…), balises `<ref>`/`<gallery>`, liens externes.
4. **Dispatch intelligent des templates** (≈ 40 patterns) : suppression totale (`infobox`, `navbox`, `imdb`…), conservation du contenu pour le formatage pur (`gras`, `lang`, `citation`…), extraction sémantique pour les cas utiles (`date`, `lien web`, `ouvrage`, `démographie`, `colonne`, `multiple image`…).
5. **Vignettes & WikiTables simples** : `[[Fichier:…|vignette|desc]]` → `[IMAGE: desc]` ; `{{Wikitable|…|…}}` → `[TABLEAU:\n|…|…|]` (premier niveau seulement).
6. **Nettoyage final** : liens `[[…]]`, entités HTML, apostrophes wiki, espaces.
7. **Extraction métadonnées** (catégories, portails, lead/full_text) + écriture JSONL parallèle.
---
### **mwparserfromhell : The MediaWiki Parser From Hell**
#### **Remerciements** : [earwig/mwparserfromhell](https://github.com/earwig/mwparserfromhell)
##### Sans `mwparserfromhell`, deux approches classiques échouent :
| Approche naïve | Résultat |
|----------------|----------|
| **Regex globales** sur le wikitexte brut | Casse l'imbrication `{{template {{autre}} }}`, mange du texte, laisse des artefacts, ne gère pas les tableaux `{| |}`. |
| **Troncature au lead** (première section seulement) | **Perte de 70–85 % du texte utile** (historique, description, tableaux, listes, données chiffrées). Mon premier JDD de juillet faisait cela → 6,2 Go au lieu de ~25 Go exploitables. |
**[Voir Premier Essai limité à la section introductive : Wiki_FR_2026.07](https://huggingface.co/datasets/MisterAI/Wiki_FR_2026.07)**
##### Avec `mwparserfromhell` :
`mwparserfromhell` fournit un **puissant parseur AST** (Abstract Syntax Tree) qui :
- Respecte l'imbrication des `{{ }}` et `[[ ]]`.
- Permet `filter_templates(recursive=True)` + traitement **enfants avant parents** (ordre inverse) → les paramètres des templates parents contiennent déjà du texte propre.
- Permet `filter_tags()`, `filter_wikilinks()`, `filter_external_links()`, `filter_comments()` sur l'arbre, pas sur du texte plat.
- Rend possible la conversion **sémantique** de 40+ families de templates au lieu de les jeter.
**Résultat concret** : chaque article garde la majorité du **texte exploitable** (sections, tableaux Markdown, légendes d'images, bibliographies structurées, données démographiques, citations) au lieu d'un chapeau de 3 lignes.
- NB : Ce n'est pas un outil magique non plus, pour chaque balise a recuperer il faut forger un gestionnaire de balise...
---
### Versions Disponibles
| Nom Répertoire | Taille | Nombre de Fichiers | Nombre de lignes | Publication |
|----------------|--------|---------------------|------------------|-------------|
| WM-ENT-API-DUMP_FR_2026.07_JDD_R_EAv1 | ~100 Mo | 10 fichiers `.jsonl` + 1 validation | 20,356 Lignes | ✅ Disponible |
| WM-ENT-API-DUMP_FR_2026.07_JDD_R_EAv2 | ~200 Mo | 10 fichiers `.jsonl` + 1 validation | 40,843 Lignes | ✅ Disponible |
| WM-ENT-API-DUMP_FR_2026.07_JDD_R_EAv3 | ~500 Mo | 10 fichiers `.jsonl` + 1 validation | 101,472 Lignes | ✅ Disponible |
| WM-ENT-API-DUMP_FR_2026.07_JDD_R_EAv4 | ~1 Go | 10 fichiers `.jsonl` + 1 validation | 202,718 Lignes | 🕐 À Venir |
| **WM-ENT-API-DUMP_FR_2026.07_JDD_COMPLET** | ~11.5Go | 144 fichiers `.jsonl` | 2,831,463 Lignes | 🕐 À Venir |
---
### Utilisation Recommandée
Ce JDD est adapté à :
- L'entraînement de modèles de traitement du langage naturel (LLM, BERT-like, etc.)
- L'extraction d'informations et la classification de textes (catégories/portails comme labels faibles)
- Les tâches de génération de contenu basées sur des connaissances factuelles (RAG, fine-tuning)
- L'analyse structurelle (tables Markdown, listes, citations, données chiffrées)
**Note** : Le champ `Sujet_Article` (lead) permet un aperçu rapide ; `Texte_Article` contient le corps complet nettoyé. Les URLs permettent de remonter à la source pour vérification.
---
### Licence et Attribution
Les données originales de Wikimedia-Enterprise sont distribuées sous la licence :
- [**CC BY 4.0**](https://creativecommons.org/licenses/by-sa/4.0/)
**Sources :**
- [Wikimedia Enterprise](https://enterprise.wikimedia.com/)
**Téléchargements :**
```Bash
curl -H "Authorization: Bearer ACCESS_TOKEN" -L https://api.enterprise.wikimedia.com/v2/snapshots/frwiki_namespace_0/download --output frwiki.tar.gz
```
Extraction, nettoyage et structuration réalisés par [**MisterAI**](https://huggingface.co/MisterAI) avec :
- L'assistance de :
- PHASE I : Ancien JDD
- Devstral/Codestral/Nemotron/NorthCohere/Command A+/DDG_AI_Claude4.5
- PHASE II : Le JDD Actuel
- Nemotron
- Claude5-Sonnet
- L'utilisation de
- **`mwparserfromhell`** |