Noirci Bench : benchmark PII francais, avec son outil de mesure
5000.dev+1: Claude Opus 5
7ba64dc
Neuf jeux, 9 380 documents, 56 763 entites annotees, 20 types.
L'apport n'est pas le corpus mais la METRIQUE : une entite n'est protegee
que si 100 % de ses caracteres significatifs sont masques. Un F1 par token
compte « Jean » masque dans « Jean Dupont » comme un demi-succes ; ici c'est
un echec, le patronyme est parti chez le fournisseur du modele. Le score
produit toujours DEUX nombres, fuite et sur-masquage : un outil qui masque
tout obtient 0 % de fuite et rend le document inutilisable.
Avertissement ecrit dans la carte plutot que tu : ces jeux synthetiques sont
SATURES (0,04 % de fuite pour notre pipeline) et ne discriminent plus. Nos
progres reels ont tous ete invisibles ici. A utiliser comme garde-fou
anti-regression, pas comme preuve.
Aucune correspondance reelle. Chaque fichier a ete controle contre les 597
valeurs identifiantes de nos documents prives : aucune n'y figure. Les jeux
derives d'ai4privacy sont exclus, sa licence interdit la redistribution.
Co-Authored-By: Cl…
