Flex1-tech/fon-french-parallel-corpus

Fon–French Parallel Corpus (CC BY 4.0 Consolidated Edition) / Corpus Parallèle Fon–Français Consolidé (Édition CC BY 4.0)

1. Dataset Summary / Présentation Générale

Français

Ce jeu de données rassemble, normalise, audite et déduplique deux corpus parallèles publics Fon (Fongbè, ISO 639-3 : fon) – Français (ISO 639-1 : fr / ISO 639-3 : fra) tous deux publiés sous licence Creative Commons Attribution 4.0 International (CC BY 4.0) :

1. Zenodo 4432712 — Fon French Daily Dialogues Parallel Data (Dossou, Yoclounon, Ahounvlamè & Emezue, 2021) : https://zenodo.org/records/4432712
2. Zenodo 4266935 — Parallel text dataset for Neural Machine Translation (French -> Fongbe, French -> Ewe) (Degila, Kalipe, Touré Ali & Balogoun, 2020) : https://zenodo.org/records/4266935

Cette édition consolidée fournit :

• 57 458 paires bilingues uniques (fon_fr_000001 à fon_fr_057458) dans data/fon_fr.csv ;
• 78 604 occurrences valides tracées dans data/pair_provenance.csv, reliant chaque paire unique à ses fichiers et numéros de lignes exacts dans les sources brutes ;
• une trace complète des décisions d'audit linguistique et de nettoyage dans reports/corrections_trace.csv, reports/corrections_report.json, reports/quality_report.json et reports/near_duplicates.csv.

English

This dataset consolidates, normalizes, audits, and deduplicates two open Fon (Fongbe, ISO 639-3: fon) – French (ISO 639-1: fr / ISO 639-3: fra) parallel corpora, both originally released under the Creative Commons Attribution 4.0 International (CC BY 4.0) license:

1. Zenodo 4432712 — Fon French Daily Dialogues Parallel Data (Dossou, Yoclounon, Ahounvlamè & Emezue, 2021): https://zenodo.org/records/4432712
2. Zenodo 4266935 — Parallel text dataset for Neural Machine Translation (French -> Fongbe, French -> Ewe) (Degila, Kalipe, Touré Ali & Balogoun, 2020): https://zenodo.org/records/4266935

This consolidated release provides:

• 57,458 unique bilingual pairs (fon_fr_000001 to fon_fr_057458) in data/fon_fr.csv;
• 78,604 traced valid occurrences in data/pair_provenance.csv, linking every consolidated pair back to its exact upstream file and line number;
• complete quality and linguistic audit reports in reports/corrections_trace.csv, reports/corrections_report.json, reports/quality_report.json, and reports/near_duplicates.csv.

---

2. Provenance & Arithmetic Reconciliation / Provenance et Bilan Arithmétique

Source ID	Nom Officiel / Official Dataset	Auteurs Originaux / Original Authors	Notice Officielle / Official Record	Licence	Lignes Physiques	Paires Candidates	Exclusions Documentées	Occurrences Valides	Doublons Internes	Paires Uniques par Source
zenodo_4432712	Fon French Daily Dialogues Parallel Data	B. F. P. Dossou, F. Yoclounon, R. Ahounvlamè, C. C. Emezue (2021)	https://zenodo.org/records/4432712	CC BY 4.0	25 378	25 377	42	25 335	1 838	23 497 (dont 28 partagées)
zenodo_4266935	Parallel text dataset for NMT (French -> Fongbe, French -> Ewe)	K. Degila, G. Kalipe, J. Touré Ali, M. Balogoun (2020)	https://zenodo.org/records/4266935	CC BY 4.0	53 367	53 366	97	53 269	19 280	33 989 (dont 28 partagées)
Total Consolidé	2 sources (Fon_French_Parallel_Data_25377.csv & French_to_fongbe.csv)	—	—	CC BY 4.0	78 745	78 743	139	78 604	21 118 (+ 28 inter-sources = 21 146)	57 458

Détail de la réconciliation arithmétique / Arithmetic Breakdown

1. Sélection des fichiers primaires :
   • Pour zenodo_4432712, le fichier unique Fon_French_Parallel_Data_25377.csv (25 378 lignes physiques = 1 en-tête + 25 377 enregistrements candidats) est intégré.
   • Pour zenodo_4266935, le fichier primaire French_to_fongbe.csv (53 367 lignes physiques = 1 en-tête + 53 366 enregistrements candidats) est intégré. Les copies redondantes présentes dans l'archive amont ainsi que le fichier French_to_ewe_dataset.xlsx (langue Éwé, hors périmètre Fon–Français) ont été écartés après vérification.
2. Exclusions documentées (139 enregistrements candidats) :
   • 130 enregistrements où la colonne française contenait en réalité du texte en langue fon suite à une scission unilingue du discours direct (fon_text_in_french_column) ;
   • 9 enregistrements présentant un désalignement manifeste ou une inversion non récupérable (inverted_or_misaligned_pair).
3. Occurrences valides (data/pair_provenance.csv) : $$78,743 - 139 = 78,604 \text{ occurrences valides} \quad (25,335 + 53,269)$$
4. Déduplication exacte :
   • Doublons internes à zenodo_4432712 : $25,335 - 23,497 = 1,838$ ;
   • Doublons internes à zenodo_4266935 : $53,269 - 33,989 = 19,280$ ;
   • Doublons inter-sources (paires présentes simultanément dans les deux dépôts Zenodo) : 28 ;
   • Total des doublons exacts supprimés : $1,838 + 19,280 + 28 = 21,146$.
5. Paires bilingues uniques finales (data/fon_fr.csv) : $$78,604 - 21,146 = 57,458 \text{ paires uniques}$$
   • zenodo_4432712 uniquement : 23 469 paires ;
   • zenodo_4266935 uniquement : 33 961 paires ;
   • Partagées zenodo_4266935+zenodo_4432712 : 28 paires.

---

3. Normalization, Deduplication & Correction Methods / Méthodes de Traitement

Conformément aux principes d'intégrité philologique appliqués lors de la consolidation :

1. Normalisation Unicode NFC et nettoyage d'espaces :
   • Conversion déterministe en forme canonique composée (NFC) préservant intégralement l'alphabet des langues nationales du Bénin (ɔ : 67 160 occurrences ; ɛ : 35 689 ; ɖ : 32 985 ; Ɖ : 199 ; Ɛ : 103) ainsi que les diacritiques tonals.
   • Normalisation des espaces multiples et suppression des espaces de début et de fin de chaîne sans modifier la ponctuation ni la casse d'origine.
2. Correction ciblée d'inversions de colonnes démontrées (2 paires uniques / 4 occurrences brutes) :
   • fon_fr_005469 (Fon_French_Parallel_Data_25377.csv:5701 et :12472) : inversion corrigée (hein ↔ hɛ̆n, attestée dans le sens correct dans French_to_fongbe.csv:10988 et :24640).
   • fon_fr_034462 (ancien identifiant fon_fr_034479, French_to_fongbe.csv:10987 et :41348) : inversion corrigée (Hein ! ↔ Hɛ̆n !).
3. Déduplication exacte avec conservation de la provenance :
   • Deux occurrences ne sont fusionnées que lorsque le couple (fon, fr) normalisé en NFC est strictement identique caractère pour caractère (casse et ponctuation incluses).
   • Toutes les occurrences fusionnées restent intégralement répertoriées dans data/pair_provenance.csv.

---

4. Dataset Structure & Schema / Structure et Schéma des Fichiers

4.1. Fichier principal : data/fon_fr.csv (57 458 lignes + 1 en-tête)

Encodage : UTF-8 sans BOM, séparateur ,.

Colonne	Type	Description (FR)	Description (EN)
pair_id	string	Identifiant séquentiel unique (fon_fr_000001 à fon_fr_057458).	Unique sequential identifier (fon_fr_000001 to fon_fr_057458).
fon	string	Segment en langue Fon (Fongbè), normalisé en Unicode NFC.	Fon (Fongbe) text segment, normalized in Unicode NFC.
fr	string	Segment correspondant en langue Française, normalisé en Unicode NFC.	Corresponding French text segment, normalized in Unicode NFC.
source_id	string	Identifiant de la source (zenodo_4432712, zenodo_4266935, ou zenodo_4266935+zenodo_4432712).	Source identifier(s), joined with + when attested in both Zenodo records.
source_file	string	Fichier(s) CSV brut(s) d'origine (Fon_French_Parallel_Data_25377.csv, French_to_fongbe.csv).	Upstream raw CSV filename(s).

Exemples réels issus de data/fon_fr.csv / Real Examples

pair_id,fon,fr,source_id,source_file
fon_fr_000001,é ɖò ayìjúnjɔ́n,elle est assis,zenodo_4432712,Fon_French_Parallel_Data_25377.csv
fon_fr_000003,e ɖo azɔmɛ,elle est à l'école,zenodo_4432712,Fon_French_Parallel_Data_25377.csv
fon_fr_000005,e ɖo xwe gbe,elle est à la maison,zenodo_4266935+zenodo_4432712,Fon_French_Parallel_Data_25377.csv+French_to_fongbe.csv
fon_fr_023498,Akpàkpà sɔ́ mì bo ná yì kplé ɔ́ tɛnmɛ,J'ai hâte de participer à la réunion,zenodo_4266935,French_to_fongbe.csv

4.2. Fichier de provenance : data/pair_provenance.csv (78 604 lignes + 1 en-tête)

Colonne	Type	Description
pair_id	string	Identifiant de la paire consolidée dans data/fon_fr.csv (fon_fr_000001 à fon_fr_057458).
source_id	string	Identifiant de la source brute (zenodo_4432712 ou zenodo_4266935).
source_file	string	Fichier brut d'origine (Fon_French_Parallel_Data_25377.csv ou French_to_fongbe.csv).
source_line_num	int	Numéro de ligne exact (base 1, en-tête inclus) dans le fichier brut.
split	string	Valeur unassigned (les deux sources Zenodo ne définissent pas de découpage train/dev/test prédéfini).
raw_fon	string	Texte Fon brut avant normalisation.
raw_fr	string	Texte Français brut avant normalisation.

4.3. Statistiques descriptives des longueurs (reports/quality_report.json)

• Phrases distinctes : 49 672 phrases Fon uniques et 47 261 phrases Françaises uniques sur 57 458 paires.
• Mots par segment Fon : min 1, max 69, moyenne 5.67, médiane 5.0, écart-type 3.55.
• Mots par segment Français : min 1, max 44, moyenne 5.19, médiane 5.0, écart-type 3.37.
• Caractères par segment Fon : min 1, max 255, moyenne 21.32, médiane 18.0, écart-type 13.85.
• Caractères par segment Français : min 1, max 255, moyenne 27.14, médiane 24.0, écart-type 17.78.

---

5. Linguistic Limitations & Scientific Caveats / Limites Linguistiques et Réserves Scientifiques

1. Présence de 24 962 paires de quasi-doublons (17 977 clusters de variantes) :
   • Si la déduplication exacte a retiré 21 146 doublons strictement identiques, le corpus conserve les variantes qui diffèrent par la casse, la ponctuation finale ou l'apostrophe typographique (par ex. e ɖo xwe gbe / elle est à la maison vs E ɖo xwe gbe. / Elle est à la maison.).
   • L'analyse sans plafond par squelette alphanumérique (fon_skel, fr_skel) identifie 24 962 paires de quasi-doublons réparties dans 17 977 clusters, dont les 1 000 premiers exemples sont exportés dans reports/near_duplicates.csv.
2. Avertissement méthodologique sur le découpage train / val / test :
   • Les deux sources Zenodo n'ayant pas de partition officielle (split = unassigned), un découpage aléatoire naïf (train_test_split) est scientifiquement invalide : il répartirait les 24 962 quasi-doublons et les phrases issues d'un même paradigme de conjugaison simultanément dans l'entraînement et le test, provoquant une fuite de données (data leakage) massive.
   • Recommandation : regrouper préalablement les paires par squelette lexical normalisé (sans casse, sans ponctuation et sans diacritiques) ou par distance d'édition avant d'effectuer un découpage groupé (GroupShuffleSplit).
3. Absence de certification linguistique native intégrale :
   • La cohérence structurelle, l'encodage Unicode et l'absence de corruption ont été vérifiés par audit indépendant, mais la justesse grammaticale et tonale des 57 458 paires n'a pas encore été certifiée ligne par ligne par un linguiste ou locuteur natif du fongbè.
   • Certaines phrases françaises d'origine comportent des incorrections grammaticales (ex. elle est assis, je suis est née à) qui ont été conservées telles quelles afin de préserver la fidélité aux sources primaires.
4. Entrées lexicales d'un seul mot et homographes inter-langues :
   • Le corpus inclut 602 entrées lexicales d'un seul mot (lemmes de dictionnaire) ainsi que 137 paires comportant des homographes inter-langues (a = pronom tu en fon, un = pronom je en fon, ce = possessif mon en fon), documentées individuellement dans reports/corrections_trace.csv.

---

6. License & Mandatory Attribution / Licence et Attribution Obligatoire

Ce jeu de données consolidé est distribué sous licence Creative Commons Attribution 4.0 International (CC BY 4.0).

Conformément aux clauses d'attribution de la licence CC BY 4.0 :

• Ce dépôt constitue une consolidation nettoyée, normalisée (Unicode NFC) et dédupliquée de deux ressources préexistantes ; les auteurs de la consolidation ne revendiquent en aucun cas la paternité des collectes originales.
• Toute utilisation, redistribution ou adaptation de ce jeu de données doit obligatoirement citer les deux équipes d'auteurs originaux ci-dessous :

@dataset{dossou_2021_4432712,
  author       = {Dossou, Bonaventure F. P. and Yoclounon, Fabroni and Ahounvlamè, Ricardo and Emezue, Chris C.},
  title        = {{Fon French Daily Dialogues Parallel Data}},
  month        = jan,
  year         = 2021,
  publisher    = {Zenodo},
  version      = {1.0},
  doi          = {10.5281/zenodo.4432712},
  url          = {https://doi.org/10.5281/zenodo.4432712}
}

@dataset{degila_2020_4266935,
  author       = {Degila, Kevin and Kalipe, Godson and Touré Ali, Jamiil and Balogoun, Momboladji},
  title        = {{Parallel text dataset for Neural Machine Translation (French -> Fongbe, French -> Ewe)}},
  month        = nov,
  year         = 2020,
  publisher    = {Zenodo},
  version      = {1.0},
  doi          = {10.5281/zenodo.4266935},
  url          = {https://doi.org/10.5281/zenodo.4266935}
}