| --- |
| language: fr |
| license: cc-by-4.0 |
| task_categories: |
| - token-classification |
| tags: |
| - pii |
| - anonymization |
| - french |
| - benchmark |
| size_categories: |
| - 1K<n<10K |
| --- |
| |
| # Noirci Bench, mesurer la protection des données personnelles en français |
|
|
| Un benchmark de pseudonymisation française, **livré avec son outil de |
| mesure**. L'intérêt n'est pas le corpus, c'est la métrique : elle change les |
| conclusions. |
|
|
| Publié par [5000.dev](https://5000.dev). Code du moteur : |
| [5000dev/noirci](https://huggingface.co/5000dev/noirci). |
|
|
| ## La métrique : un nom à moitié masqué est une fuite |
|
|
| Les travaux publiés rapportent en général un F1 par token. Masquer « Jean » |
| dans « Jean Dupont » y compte comme un demi-succès. Nous comptons ça comme |
| un **échec** : le nom de famille est parti chez le fournisseur du modèle, et |
| la personne est identifiable. |
|
|
| Une entité n'est protégée que si **100 % de ses caractères significatifs** |
| sont masqués. Le score produit deux nombres, jamais un seul : |
|
|
| - le **taux de fuite**, la part d'entités non intégralement masquées |
| - le **taux de sur-masquage**, la part de texte masqué pour rien |
|
|
| Le second compte autant que le premier. Un outil qui masque tout obtient 0 % |
| de fuite et rend le document inutilisable. |
|
|
| ```bash |
| python -m harness.score data/bench_v6.jsonl mes_predictions.jsonl |
| ``` |
|
|
| ## Les jeux |
|
|
| | Fichier | Documents | Entités | Ce qu'il mesure | |
| |---|---|---|---| |
| | `bench_v0.jsonl` | 600 | 3 953 | premier jeu métier, 30 % bruité OCR | |
| | `bench_v1.jsonl` | 1 500 | 10 010 | gabarits jamais vus, généralisation | |
| | `bench_v2.jsonl` | 1 500 | 10 158 | formats découverts sur documents réels | |
| | `bench_v3.jsonl` | 1 500 | 10 460 | v2 étendu | |
| | `bench_v6.jsonl` | 1 500 | 11 776 | le plus complet, 20 types | |
| | `bench_realvals.jsonl` | 1 000 | 7 046 | **vraies valeurs** BODACC et INSEE dans des gabarits | |
| | `bench_real_bodacc.jsonl` | 60 | 496 | annonces commerciales authentiques | |
| | `bench_real_fictif.jsonl` | 20 | 161 | documents rédigés à la main | |
| | `bench_wikiner.jsonl` | 1 700 | 2 703 | hors domaine, contrôle de non-régression | |
|
|
| Format : un objet JSON par ligne. |
|
|
| ```json |
| {"id": "...", "text": "...", "entities": [{"start": 8, "end": 21, "type": "PERSON", "value": "Claire Baudry"}]} |
| ``` |
|
|
| Vingt types : PERSON, COMPANY, ADDRESS, CITY, EMAIL, PHONE, DATE, AMOUNT, |
| IBAN, SIREN, SIRET, TVA, NIR, CARD, PLATE, URL, IP, REF, SECRET, AGE. |
|
|
| ## Un avertissement qui vaut mieux qu'un chiffre flatteur |
|
|
| **Ces jeux synthétiques sont saturés.** Notre pipeline y obtient 0,04 % de |
| fuite, et ce nombre ne veut plus rien dire. Un corpus généré finit par |
| mesurer la capacité d'un modèle à reconnaître son propre générateur. |
|
|
| Nos progrès les plus importants ont tous été **invisibles ici** et bien |
| réels sur de la correspondance authentique. Un exemple : notre détecteur de |
| montants exigeait le symbole euro après le nombre. Il ratait donc les francs |
| suisses, les magnitudes (« 30K€ ») et les fourchettes (« 20 à 30 k€ »), soit |
| 54 % de fuite sur documents réels. Le benchmark synthétique n'en montrait |
| rien, parce que son générateur écrivait toujours les montants de la même |
| façon. |
|
|
| Utilisez ces jeux comme garde-fou anti-régression, pas comme preuve. La |
| mesure qui compte se fait sur vos propres documents annotés. |
|
|
| ## Ce qui n'est pas ici |
|
|
| **Aucune correspondance réelle.** Nos mesures de référence portent sur 479 |
| documents professionnels annotés à la main, qui contiennent des données |
| personnelles de tiers et ne seront jamais publiés. Le protocole, lui, est |
| public : le scorer de ce dépôt fonctionne sur n'importe quel jeu au même |
| format. |
|
|
| **Rien d'ai4privacy.** Nous l'utilisons en comparaison, sa licence interdit |
| la redistribution. |
|
|
| ## Vérification |
|
|
| Chaque fichier a été contrôlé contre les 597 valeurs identifiantes de nos |
| documents réels (noms complets, adresses électroniques, téléphones, IBAN, |
| URL, sociétés en plusieurs mots). Aucune n'y figure. |
|
|
| Des prénoms isolés comme « Antoine » ou des communes comme « Bordeaux » |
| apparaissent dans les deux, parce que les générateurs puisent dans les mêmes |
| sources publiques INSEE. Ce sont des collisions, pas des copies. |
|
|
| ## Sources et licence |
|
|
| Jeux sous CC-BY-4.0, code sous MIT. |
|
|
| - **BODACC** (DILA / data.gouv.fr) et **INSEE** (SIRENE, prénoms, COG) : |
| Licence Ouverte v2.0 |
| - **WikiNER-fr-gold** (`danrun/WikiNER-fr-gold`) : CC-BY-4.0, attribution |
| requise, y compris pour les modèles entraînés dessus |
| - **Wikidata** : CC0 |
|
|
