Download detect/regex_layer.py from 5000dev/noirci-bench: direct link, hf CLI and curl.
- Browser
- Download file 19.3 kB
-
https://huggingface.co/datasets/5000dev/noirci-bench/resolve/main/detect/regex_layer.py
- Command line
-
hf download hf://datasets/5000dev/noirci-bench/detect/regex_layer.py
-
curl -L -o regex_layer.py https://huggingface.co/datasets/5000dev/noirci-bench/resolve/main/detect/regex_layer.py
19.3 kB
| """Couche A : detection deterministe regex + checksums (analyse §2.A). | |
| Regle de decision (2026-07-28) : | |
| - Les patterns AVEC checksum (IBAN, NIR, SIREN/SIRET, TVA, CB) decident seuls : | |
| un match syntaxique dont le checksum est valide est retenu, point. | |
| - Email, IP (octets valides), plaque SIV (AA-123-BC), cadastre ("section X | |
| n° N" porte son contexte) decident seuls aussi : formats assez distinctifs. | |
| - Les patterns SANS checksum ni format fort (telephone compact 10 chiffres, | |
| n° RG, ancienne plaque 123 ABC 75) exigent un mot de contexte dans les | |
| 30 caracteres precedents. Un telephone +33 ou avec separateurs decide seul. | |
| Resolution de chevauchements : le span le plus long gagne (un CB 4x4 matche | |
| dans un IBAN groupe par 4 ; le SIREN vit dans le SIRET et la TVA). | |
| Pre-normalisation OCR : les confusions classiques (O/0, l/1, S/5, B/8) sont | |
| corrigees token par token selon la dominante du token (lettres ou chiffres), | |
| puis la detection tourne sur le texte d'origine ET sur la forme normalisee | |
| (meme longueur, memes offsets). Le checksum reste le juge : un token corrige | |
| qui ne valide pas n'est pas retenu. Voir doc/memory/matrice_comparaison.md. | |
| Sortie : liste de spans au format du harness. Ce module servira tel quel de | |
| couche A du produit ; ici il est branche sur le benchmark comme premier | |
| candidat de la matrice de comparaison (§5.3). | |
| """ | |
| import re | |
| from bench.pii import checksums as ck | |
| _CONTEXT_WINDOW = 30 | |
| _PATTERNS: list[tuple[str, re.Pattern, str | None]] = [] | |
| def _p(etype: str, pattern: str, context: str | None = None, flags: int = 0): | |
| _PATTERNS.append((etype, re.compile(pattern, flags), context)) | |
| # --- checksum : decident seuls ------------------------------------------- | |
| _p("IBAN", r"\b[A-Z]{2}\d{2}(?: ?[A-Z0-9]{4}){2,7}(?: ?[A-Z0-9]{1,3})?\b") | |
| _p("NIR", r"\b[12](?: ?\d{2}){2} ?(?:\d{2}|2A|2B)(?: ?\d{3}){2} ?\d{2}\b") | |
| _p("SIRET", r"\b\d{3} ?\d{3} ?\d{3} ?\d{5}\b") | |
| _p("TVA", r"\bFR ?\d{2} ?\d{3} ?\d{3} ?\d{3}\b") | |
| _p("SIREN", r"\b\d{3} ?\d{3} ?\d{3}\b") | |
| _p("CARD", r"\b\d{4}(?: ?\d{4}){3}\b") | |
| _VALIDATORS = { | |
| "IBAN": ck.iban_valid, | |
| "NIR": ck.nir_valid, | |
| "SIRET": lambda s: ck.siret_valid(s.replace(" ", "")), | |
| "TVA": ck.tva_fr_valid, | |
| "SIREN": lambda s: ck.siren_valid(s.replace(" ", "")), | |
| "CARD": lambda s: ck.luhn_valid(s.replace(" ", "")), | |
| } | |
| # --- format fort : decident seuls ---------------------------------------- | |
| _p("EMAIL", r"\b[\w.+-]+@[\w-]+\.[\w.]{1,10}\b") | |
| _p("PLATE", r"\b[A-Z]{2}-\d{3}-[A-Z]{2}\b", flags=re.IGNORECASE) | |
| _p("CADASTRE", r"\bsection [A-Z]{1,2} n° ?\d{1,3}\b", flags=re.IGNORECASE) | |
| _p("ADDRESS", r"\b(?:CS|BP|TSA|CEDEX) ?\d{2,6}\b") | |
| _p("IP", r"\b(?:\d{1,3}\.){3}\d{1,3}\b") | |
| _p("PHONE", r"(?:\+33|0033) ?[1-9](?:[ .]?\d{2}){4}\b") | |
| _p("PHONE", r"\b0[1-9](?:[ .]\d{2}){4}\b") | |
| # formats internationaux reels (audit emails 2026-07-29) : "+33(0)1 23...", | |
| # "+ 33 6...", numeros belges/lux/suisses, groupements irreguliers | |
| _p("PHONE", r"\+ ?\d{2,3} ?\(0\) ?\d(?:[ .]?\d{2,3}){3,5}\b") | |
| _p("PHONE", r"\+ ?\d{2,3}(?:[ .]?\d{2,3}){4,6}\b") | |
| _p("PHONE", r"\+ ?\d{2,3} ?\d(?:[ .]?\d{2}){4}\b") | |
| # formats etrangers a groupes irreguliers (+32 471 12 34 56, +41 79 123 45 67) | |
| _p("PHONE", r"\+ ?\d{2,3}(?:[ .]\d{2,4}){3,5}\b") | |
| # URLs : angle mort releve par l'audit emails (3 liens porteurs de jetons | |
| # jamais captures). Type URL, maskable par politique ; les liens avec longs | |
| # segments aleatoires (jetons) sont le vrai danger. | |
| _p("URL", r"\bhttps?://[^\s<>\"')\]]+") | |
| _p("URL", r"\bwww\.[\w.-]+\.[a-z]{2,6}\b", flags=re.IGNORECASE) | |
| # Domaines nus, sans schema ni www : « app.easywage.fr », « console.mistral.ai ». | |
| # Audit du 31/07 : 16 des 21 URL non protegees etaient de cette forme. La | |
| # liste de TLD evite d'avaler « document.pdf » ou « fichier.tar.gz ». | |
| _TLD = (r"fr|com|net|org|io|dev|app|eu|be|ch|lu|ca|ai|co|me|tech|cloud|" | |
| r"info|biz|shop|store|agency|studio|solutions|consulting") | |
| _p("URL", rf"\b(?<![@\w.])[a-z0-9][a-z0-9-]*(?:\.[a-z0-9][a-z0-9-]*)*" | |
| rf"\.(?:{_TLD})\b(?:/[^\s<>\"')\]]*[^\s<>\"')\].,;:!?])?", flags=re.IGNORECASE) | |
| # Telephones internationaux espaces et format nord-americain. | |
| _p("PHONE", r"\(\+ ?\d{1,3}\) ?\d(?:[ .]?\d{2,3}){3,5}\b") | |
| _p("PHONE", r"\b\d{3}-\d{3}-\d{4}\b") | |
| # indicatif puis groupes de longueur libre : « + 32 2 808 66 05 » | |
| _p("PHONE", r"\+ ?\d{2,3}(?: \d{1,4}){3,6}\b") | |
| # Identifiants techniques : un UUID est toujours une reference opaque. | |
| _p("REF", r"\b[0-9a-f]{8}-[0-9a-f]{4}-[0-9a-f]{4}-[0-9a-f]{4}-[0-9a-f]{12}\b", | |
| flags=re.IGNORECASE) | |
| # --- formats etendus (pas des identifiants, mais deterministes) ---------- | |
| # Le NER (Anonym-IA V2) ignore quasi totalement dates et montants sur notre | |
| # benchmark (~98 % de fuite) : on les prend en regex. Sur-masquage assume : | |
| # masquer une date non personnelle est benin, la rater ne l'est pas. | |
| _MOIS = ("janvier|février|fevrier|mars|avril|mai|juin|juillet|août|aout|" | |
| "septembre|octobre|novembre|décembre|decembre") | |
| _p("DATE", r"\b\d{1,2}[/.]\d{1,2}[/.]\d{2,4}\b") | |
| # dates sans annee "12/07" (contexte le/du/au) et mois anglais (titres de | |
| # reunions exportees) — audit emails 2026-07-29 | |
| _p("DATE", r"\b\d{1,2}/\d{1,2}\b") | |
| _p("DATE", r"\b\d{1,2}\.\d{1,2}\b", context=r"\ble\b|\bdu\b|\bau\b|\bdès\b|avant|depuis|jusqu") | |
| _MOIS_EN = "January|February|March|April|May|June|July|August|September|October|November|December" | |
| _p("DATE", rf"\b\d{{1,2}} (?:{_MOIS_EN}) \d{{4}}\b", flags=re.IGNORECASE) | |
| _p("DATE", rf"\b(?:{_MOIS}) \d{{4}}\b", flags=re.IGNORECASE) | |
| _JOURS = "lundi|mardi|mercredi|jeudi|vendredi|samedi|dimanche" | |
| _p("DATE", rf"\b(?:{_JOURS}) \d{{1,2}}(?: (?:{_MOIS}))?\b", flags=re.IGNORECASE) | |
| _p("DATE", rf"\b\d{{1,2}}(?:er)? (?:{_MOIS}) \d{{4}}\b", flags=re.IGNORECASE) | |
| # Dates sans annee et mois seuls. Audit du 31/07 : DATE fuyait a 42,9 % sur | |
| # la correspondance reelle, uniquement sur ces formes-la. « le 17 juin », | |
| # « courant juillet », « en 2025 » sont des dates aux yeux de l'annotation. | |
| _p("DATE", rf"\b\d{{1,2}}(?:er)? (?:{_MOIS})\b", flags=re.IGNORECASE) | |
| _p("DATE", rf"\b\d{{1,2}} ?[-–—] ?\d{{1,2}} (?:{_MOIS})\b", flags=re.IGNORECASE) | |
| _p("DATE", rf"\b(?:{_MOIS})\b", flags=re.IGNORECASE) | |
| _p("DATE", r"(?<![-/\w])(?:19|20)\d{2}(?![-/\d])") | |
| # Montants. Le motif d'origine exigeait un symbole euro APRES le nombre, d'ou | |
| # 54 % de fuite : il ratait les francs suisses (« CHF 49.- », « CHF 8'450 »), | |
| # les magnitudes (« 30K€ », « 847 M€ ») et les fourchettes (« 20 a 30 k€ »). | |
| _DEVISE = r"€|euros?\b|EUR\b|CHF\b|\$|USD\b|£|GBP\b" | |
| _NOMBRE = r"\d{1,3}(?:[ .' ]\d{3})+|\d+" | |
| _ECHELLE = r"\s?(?:[kKmM]|[Mm]illions?|[Mm]illiards?)" | |
| # devise en tete : « CHF 8'450 », « CHF 49.- », « CHF - 6.00 », « $ 1 200 » | |
| _p("AMOUNT", rf"(?:{_DEVISE})\s?-?\s?(?:{_NOMBRE}|X)(?:[.,]\d{{1,3}}|\.-{{1,2}})?" | |
| rf"(?:{_ECHELLE})?", flags=re.IGNORECASE) | |
| # devise en queue, avec echelle optionnelle : « 30K€ », « 847 M€ », « 1 200 € » | |
| _p("AMOUNT", rf"\b(?:{_NOMBRE})(?:[.,]\d{{1,3}})?(?:{_ECHELLE})?\s?(?:{_DEVISE})", | |
| flags=re.IGNORECASE) | |
| # fourchettes : « 20 a 30 k€ », « 200-250 € », « 1 600–1 700 € » | |
| _p("AMOUNT", rf"\b(?:{_NOMBRE})(?:[.,]\d{{1,2}})?(?:{_ECHELLE})?\s?" | |
| rf"(?:a|à|-|–|—|et)\s?(?:{_NOMBRE})(?:[.,]\d{{1,2}})?" | |
| rf"(?:{_ECHELLE})?\s?(?:{_DEVISE})", flags=re.IGNORECASE) | |
| # periodicite collee au montant : « CHF 49/mois », « 1 200 € par an » | |
| _p("AMOUNT", rf"(?:{_DEVISE})\s?(?:{_NOMBRE})(?:[.,]\d{{1,3}})?\s?/\s?" | |
| rf"(?:mois|an|jour|semaine|h|heure|utilisateur|poste)\b", flags=re.IGNORECASE) | |
| # echelle ecrite en toutes lettres sans devise : « 6,4 Millions » | |
| _p("AMOUNT", r"\b\d{1,3}(?:[.,]\d{1,3})? ?(?:[Mm]illions?|[Mm]illiards?)\b") | |
| # nombre a deux decimales dans un contexte comptable : lignes de facture | |
| _p("AMOUNT", r"\b\d{1,3}(?:[ .']\d{3})*[.,]\d{2}\b", | |
| context=r"montant|prix|total|facture|co[uû]t|tarif|solde|HT\b|TTC\b|" | |
| r"honoraires|acompte|remise|net\b|TVA\b|\bpar mois\b|\bmensuel") | |
| _p("ADDRESS", r"\b(?:B[âa]timent|B[âa]t\.?|Immeuble|R[ée]sidence|Escalier|Hall|Lot)" | |
| r" ?[A-Z0-9][\w-]{0,12}\b", flags=re.IGNORECASE) | |
| # Recensement du 31/07 : 7 adresses non protegees sur 172, en quatre | |
| # familles. Le corpus contient de la correspondance suisse et anglo-saxonne. | |
| _VOIE = (r"rue|avenue|av\.|boulevard|bd\.?|chemin|impasse|all[ée]e|place|" | |
| r"route|quai|cours|square|villa|passage|sentier|faubourg") | |
| # ordre suisse et belge : le numero SUIT le nom de voie (« Rue Galilee 4 ») | |
| _p("ADDRESS", rf"\b(?:{_VOIE})\s+[A-ZÀ-Þ][\wÀ-ÿ'’-]*(?:[ -](?:de|du|des|la|le)" | |
| rf"|[ -][A-ZÀ-Þ][\wÀ-ÿ'’-]*)*\s+\d{{1,4}}[a-zA-Z]?\b", | |
| flags=re.IGNORECASE) | |
| # numero double a la francaise : « 28 / 32 Boulevard », « 12-14 rue » | |
| _p("ADDRESS", rf"\b\d{{1,4}}\s?[/-]\s?\d{{1,4}}(?:,)? (?:{_VOIE})\b[^\n,;]{{0,40}}", | |
| flags=re.IGNORECASE) | |
| # boites postales, France et Suisse | |
| _p("ADDRESS", r"\b(?:CP|BP|Case postale|Bo[îi]te postale)\s?\d{1,5}\b", | |
| flags=re.IGNORECASE) | |
| # code postal britannique : deux blocs, le second toujours chiffre-lettre-lettre | |
| _p("ADDRESS", r"\b[A-Z]{1,2}\d[A-Z\d]? ?\d[A-Z]{2}\b") | |
| # etat americain suivi du ZIP : « FL 33180 ». Le ZIP seul serait indistinguable | |
| # d'un nombre quelconque, on exige donc l'etat. | |
| _p("ADDRESS", r"\b(?:AL|AK|AZ|AR|CA|CO|CT|DE|FL|GA|HI|ID|IL|IN|IA|KS|KY|LA|ME|" | |
| r"MD|MA|MI|MN|MS|MO|MT|NE|NV|NH|NJ|NM|NY|NC|ND|OH|OK|OR|PA|RI|SC|" | |
| r"SD|TN|TX|UT|VT|VA|WA|WV|WI|WY|DC) \d{5}(?:-\d{4})?\b") | |
| # voie anglo-saxonne : numero, direction optionnelle, ordinal, type de voie | |
| _p("ADDRESS", r"\b\d{1,5} (?:[NSEW]{1,2} )?[\w'-]+(?:st|nd|rd|th)? " | |
| r"(?:Street|St\.?|Avenue|Ave\.?|Road|Rd\.?|Drive|Dr\.?|Lane|Ln\.?|" | |
| r"Boulevard|Blvd\.?|Way|Court|Ct\.?|Place|Pl\.?)" | |
| r"(?:,? (?:Suite|Ste\.?|Apt\.?|Unit|Floor|Fl\.?) ?#? ?[\w-]+)?", | |
| flags=re.IGNORECASE) | |
| # Adresses FR : "33, rue de Labbé", "7 avenue Luce Marchal", "chemin des Prés". | |
| # Le NER rate 40 % de nos adresses (matrice 2026-07-28) alors que la | |
| # structure "n°, type de voie + nom propre" est tres reguliere en francais. | |
| _VOIES = ("rue|avenue|av\\.|boulevard|bd|chemin|impasse|all[ée]e|place|quai|" | |
| "route|cours|square|passage|sente|villa|hameau|faubourg|lotissement|" | |
| "r[ée]sidence") | |
| _UPPER = "A-ZÀ-ÖØ-Þ" | |
| _WORD = rf"[{_UPPER}][\w'’-]*" | |
| _PARTICLE = r"(?:de\s+la\s+|de\s+l[’']\s?|du\s+|des\s+|de\s+|d[’']\s?|la\s+|le\s+|les\s+)" | |
| # casse : type de voie insensible (Rue/RUE), nom propre exige une majuscule | |
| # (sinon "rue de la république est calme" avalerait "est" et la suite) | |
| _p("ADDRESS", | |
| rf"\b(?:\d{{1,4}}(?:-\d{{1,4}})?\s?(?i:bis|ter)?\s*,?\s+)?(?i:{_VOIES})\s+" | |
| rf"{_PARTICLE}?{_WORD}(?:\s+{_PARTICLE}?{_WORD}){{0,3}}") | |
| # lieux-dits et hameaux (le mot "lieu-dit" porte son contexte) | |
| _p("ADDRESS", rf"(?i:lieu-dit)\s+{_PARTICLE}?{_WORD}(?:\s+{_PARTICLE}?{_WORD}){{0,3}}") | |
| # "N Grande Rue" : voie sans nom propre derriere | |
| _p("ADDRESS", r"\b\d{1,4},? ?(?i:grande rue)\b") | |
| # adresse sans type de voie ("5 Le Gasset", "4 Grande Rue") : uniquement | |
| # derriere un mot d'adresse ("siège social :", "demeurant", "sis", "habite") | |
| _p("ADDRESS", rf"\b\d{{1,4}}(?: ?bis| ?ter)?(?: {_WORD}| {_PARTICLE.strip()}){{1,4}}", | |
| context=(r"siège social|si[eè]ge\b|demeurant|domicili|adresse|r[eé]sidant|" | |
| r"\bsis(?:e)?\b|habite|logement|\bbien\b|\bau\b|livr|exp[eé]di")) | |
| # denomination sociale : "Dénomination : STOLKIN." / "raison sociale : X" — | |
| # groupe 1 = la valeur seule (le mot-cle n'est pas masque) | |
| _p("COMPANY", | |
| r"(?i:(?:dénomination|denomination|raison sociale)(?:\s+sociale)?\s*:\s*)" | |
| r"([^\n]{2,60}?)(?=\.(?:\s|$)|,|\n|$)") | |
| # marques et raisons sociales (remontees bench_v2 / BODACC) : | |
| _UPWORD = r"[A-ZÀ-ÖØ-Þ][A-ZÀ-ÖØ-Þ0-9&'-]{1,}" | |
| _FORMES = r"(?:S\.A\.S\.U?|S\.A\.R\.L\.|S\.A\.|SARL|SASU|SAS|SA|SCI|EURL|SNC|SELARL)" | |
| # 1. style domaine : HOARAU.FR, TOSCA.COM | |
| _p("COMPANY", r"\b[A-ZÀ-ÖØ-Þ][A-ZÀ-ÖØ-Þ0-9-]{2,}\.(?:FR|COM)\b") | |
| # 2. nom + forme juridique (la forme sert de contexte porte ; (?!\w) et | |
| # pas \b : apres "S.A.S." le point n'offre pas de frontiere de mot) | |
| _p("COMPANY", rf"\b(?:{_UPWORD} |{_WORD} ){{1,4}}{_FORMES}(?!\w)") | |
| # 3. mot(s) capitalises derriere un declencheur ("l'agence X", "chez X") | |
| _p("COMPANY", | |
| rf"\b(?!(?:SIREN|SIRET|RCS|TVA|IBAN|NIR|BIC|URSSAF|DREETS|CSE)\b)" | |
| rf"{_UPWORD}(?: {_UPWORD}){{0,3}}", | |
| context=r"soci[eé]t[eé]|agence|entreprise|[eé]tablissements?|maison|cabinet|\bchez\b|\bst[eé]\b") | |
| # 4. apposition d'annonce legale : "X, société par actions simplifiée..." | |
| _p("COMPANY", | |
| rf"\b({_WORD}(?: {_WORD}){{0,3}}|{_UPWORD}(?: {_UPWORD}){{0,3}})" | |
| rf"(?=, soci[eé]t[eé] (?:par|à|a|anonyme|civile|en))") | |
| # code postal FR suivi d'une ville (signatures multi-sites, audit reel) | |
| _p("ADDRESS", rf"\b(?:0[1-9]|[1-9]\d)\d{{3}}[ ]{_WORD}(?:[- ]{_WORD}){{0,2}}") | |
| # code postal isole en fin de ligne (signature multi-sites) | |
| _p("ADDRESS", r"\b(?:0[1-9]|[1-9]\d)\d{3}(?=\s*(?:$|\n|[|/,-]))", | |
| context=(r"adresse|si[eè]ge|bureaux?|agence|site|locaux|cedex|\bCS\b|\bBP\b|" | |
| r"rue|avenue|boulevard|chemin|place|route|\|")) | |
| # --- types techniques (audit ai4privacy 2026-07-29) : presents dans les | |
| # logs, exports et emails techniques francais aussi. Regex-ables, sans | |
| # ambiguite metier. | |
| # mot de passe / secret annonce en clair ("mot de passe : xxx", "pwd=xxx") | |
| _p("SECRET", | |
| r"(?i:(?:mot de passe|passe|password|pwd|pass|secret|token|api[_ -]?key|" | |
| r"cl[eé] api|client[_ -]?secret|passphrase)\s*(?:est|:|=)\s*)" | |
| r"[\"']?([^\s\"'<>,;]{6,80})") | |
| # user-agent (navigateur/robot) : signature tres reconnaissable | |
| _p("USERAGENT", r"Mozilla/\d[^\n]{10,200}") | |
| _p("USERAGENT", r"\b(?:curl|Wget|PostmanRuntime|python-requests|okhttp|axios)/[\d.]+") | |
| # adresses techniques | |
| _p("MAC", r"\b(?:[0-9A-Fa-f]{2}[:-]){5}[0-9A-Fa-f]{2}\b") | |
| _p("IPV6", r"\b(?:[0-9A-Fa-f]{1,4}:){2,7}[0-9A-Fa-f]{1,4}\b") | |
| # identifiants opaques : cles et jetons longs (base64/hex) annonces ou nus | |
| _p("SECRET", r"\b(?:sk|pk|rk)_(?:live|test)_[A-Za-z0-9]{16,}\b") | |
| _p("SECRET", r"\bgh[pousr]_[A-Za-z0-9]{30,}\b") | |
| _p("SECRET", r"\beyJ[A-Za-z0-9_-]{10,}\.[A-Za-z0-9_-]{10,}\.[A-Za-z0-9_-]{10,}\b") | |
| _p("SECRET", r"\b[0-9a-f]{32,64}\b", | |
| context=r"cl[eé]|key|token|secret|hash|signature|empreinte|md5|sha") | |
| # age en contexte RH/dossier ("45 ans", "age : 45") | |
| _p("AGE", r"\b\d{1,3} ans\b", | |
| context=r"[aâ]g[eé]|ann[eé]es|naissance|salari|candidat|patient|enfant|\best\b|\ba\b") | |
| _p("AGE", r"(?i:[aâ]ge\s*(?::|est de)\s*)(\d{1,3})\b") | |
| # IBAN etranger sans checksum FR mais format IBAN valide (deja couvert), | |
| # et numero de compte annonce ("compte n° 12345678") | |
| _p("ACCOUNT", r"(?i:(?:compte|account)\s*(?:bancaire\s*)?(?:n°|no|num[eé]ro|#|:)\s*)([0-9]{6,17})") | |
| # --- sans checksum : contexte requis ------------------------------------- | |
| _p("PHONE", r"\b0[1-9]\d{8}\b", | |
| context=r"t[eé]l|portable|mobile|fixe|appel|joign|rappel|contact|num[eé]ro|\bau\b") | |
| # identifiants internes rattaches a une personne (audit 2026-07-29 : | |
| # matricule, n° de police, contrat, reference client = PII RGPD) | |
| _p("REF", r"\b\d{4,8}\b", | |
| context=(r"matricule|police|contrat|dossier|r[eé]f[eé]rence|r[eé]f\.|" | |
| r"abonn|adh[eé]rent|client|sinistre|avenant")) | |
| _p("RG", r"\b\d{2}/\d{5}\b", | |
| context=(r"\bRG\b|r[oô]le|r[eé]pertoire|dossier|tribunal|jugement|" | |
| r"instance|enr[oô]l|audience|greffe|affaire|contentieux")) | |
| _p("PLATE", r"\b\d{3} [A-Z]{3} \d{2}\b", context=r"immatricul|v[eé]hicule|plaque") | |
| def _ip_valid(s: str) -> bool: | |
| return all(int(o) <= 255 for o in s.split(".")) | |
| _TO_DIGIT = str.maketrans("OolISsBb", "00115588") | |
| _TO_LETTER = str.maketrans("0158", "olsb") | |
| _TOKEN_RE = re.compile(r"[A-Za-z0-9]+") | |
| def ocr_normalize(text: str) -> str: | |
| """Corrige les confusions OCR token par token, longueur conservee. | |
| Token a dominante chiffres -> lettres confusables vers chiffres (O->0...). | |
| Token a dominante lettres -> chiffres confusables vers lettres (0->o...). | |
| Le checksum/pattern reste le juge en aval : on ne decide rien ici. | |
| """ | |
| out = list(text) | |
| for m in _TOKEN_RE.finditer(text): | |
| tok = m.group(0) | |
| if len(tok) < 2: | |
| continue | |
| digits = sum(c.isdigit() for c in tok) | |
| fixed = tok.translate(_TO_DIGIT) if digits * 2 >= len(tok) else tok.translate(_TO_LETTER) | |
| if fixed != tok: | |
| out[m.start():m.end()] = fixed | |
| return "".join(out) | |
| def _scan(text: str, original: str) -> list[dict]: | |
| candidates = [] | |
| for etype, pattern, context in _PATTERNS: | |
| for m in pattern.finditer(text): | |
| # si le pattern a un groupe de capture, le span est le groupe 1 | |
| # (permet un mot-cle declencheur hors masque, ex. "Dénomination :") | |
| grp = 1 if m.groups() else 0 | |
| value = m.group(grp) | |
| if not value: | |
| continue | |
| if etype in _VALIDATORS and not _VALIDATORS[etype](value): | |
| continue | |
| if etype == "IP" and not _ip_valid(value): | |
| continue | |
| if context is not None: | |
| before = text[max(0, m.start() - _CONTEXT_WINDOW):m.start()] | |
| if not re.search(context, before, re.IGNORECASE): | |
| continue | |
| candidates.append( | |
| {"start": m.start(grp), "end": m.end(grp), "type": etype, | |
| "value": original[m.start(grp):m.end(grp)]} | |
| ) | |
| return candidates | |
| def detect(text: str) -> list[dict]: | |
| # variantes a longueur constante (offsets communs) : correction OCR, et | |
| # sauts de ligne aplatis — une valeur coupee par un \n (PDF, courrier) | |
| # doit etre detectee ("MEYER\nTRANSPORTS", "26\nnovembre 2025") | |
| variants = [text] | |
| for base in (text, ocr_normalize(text)): | |
| for v in (base, base.replace("\n", " ")): | |
| if v not in variants: | |
| variants.append(v) | |
| candidates = _scan(text, text) | |
| seen = {(c["start"], c["end"], c["type"]) for c in candidates} | |
| for v in variants[1:]: | |
| flattened = "\n" in text and "\n" not in v | |
| for c in _scan(v, text): | |
| # la passe "sauts de ligne aplatis" ne sert qu'aux valeurs | |
| # coupees par un \n dans un PDF (identifiants, dates, montants). | |
| # Sur les types a mots (ADDRESS, COMPANY, CITY) elle recollait | |
| # deux lignes distinctes ("75011 Paris" + "Tél") — audit reel. | |
| if flattened and c["type"] in ("ADDRESS", "COMPANY", "CITY", "URL", | |
| "REF", "USERAGENT", "SECRET", "AGE"): | |
| continue | |
| if (c["start"], c["end"], c["type"]) not in seen: | |
| seen.add((c["start"], c["end"], c["type"])) | |
| candidates.append(c) | |
| # le span le plus long gagne ; a longueur egale, premier arrive (ordre | |
| # de declaration = priorite : checksum avant format avant contexte) | |
| candidates.sort(key=lambda c: (-(c["end"] - c["start"]), c["start"])) | |
| kept: list[dict] = [] | |
| occupied: set[int] = set() | |
| for c in candidates: | |
| span = set(range(c["start"], c["end"])) | |
| if span & occupied: | |
| continue | |
| kept.append(c) | |
| occupied |= span | |
| kept.sort(key=lambda c: c["start"]) | |
| return kept | |