| # PolOCRBench — podziały zbioru, integralność i Test B | |
| Zamrożona polityka podziałów (§4 zadania) plus bramka integralności, którą | |
| należy uruchamiać przed każdym wydaniem zbioru. | |
| ## Role podziałów | |
| | Podział | Rola | Widoczność | | |
| | --- | --- | --- | | |
| | `train` (~2 000 stron, w tym ~1 200 syntetycznych) | trening w tracku `constrained` | publiczny z GT | | |
| | `test A` (~500 stron) | development, ranking pomocniczy | publiczny z GT po konkursie | | |
| | `test B` (~500 stron) | **ranking główny**, ocena generalizacji | ukryty do końca konkursu | | |
| Test B celowo zawiera **typy dokumentów i degradacje nieobecne w train/test A**: | |
| druki frakturowe/szwabachą, pismo ręczne, zdjęcia telefonu (perspektywa, cień, | |
| rozmycie), gęste tabele mieszane PL/EN i wzory. W zbiorze syntetycznym holdout | |
| realizuje się przez `training.generate_documents --types/--degradations` | |
| (np. train: `clean,scan`; test B: `photo,compress`); w realiach przez dobór | |
| materiału z osiami z poniższej listy. | |
| ## Bramka integralności | |
| ```bash | |
| python -m training.check_split_integrity \ | |
| --split train=data/train/manifest-A.jsonl \ | |
| --split testA=data/testA/manifest-A.jsonl \ | |
| --split testB=data/testB/manifest-A.jsonl \ | |
| --holdout-field degradation --holdout-split testB \ | |
| --output validation/split-integrity.json | |
| ``` | |
| Sprawdzenia (deterministyczne, exit 1 przy naruszeniach): | |
| - **duplikaty dokładne**: SHA-256 obrazu, SHA-256 tekstu referencyjnego oraz | |
| **wspólne `id` rekordów** między podziałami — wszystkie trzy to naruszenia; | |
| - **duplikaty bliskie wg tekstu**: shingle słowne 3-gram (Jaccard albo | |
| **containment** ≥ 0,9) — containment łapie region treningowy skopiowany ze | |
| strony testowej, którego Jaccard jest mały; to naruszenie (zdublowany | |
| dokument zawsze dzieli treść referencji); | |
| - **podobieństwo obrazów** (dHash, odległość Hamminga ≤ 6): **ostrzeżenie do | |
| przeglądu, nie naruszenie** — strony tego samego szablonu (dwie faktury, dwa | |
| egemplarze tego samego formularza) legalnie mają prawie identyczny layout; | |
| dopiero zgodność tekstu/identyfikatorów przesądza o wycieku; | |
| - **holdout Test B**: wartości pola (`degradation`, `doc_type`, `subset`) w | |
| teście B muszą być rozłączne z pozostałymi podziałami; wartości czytane | |
| z wierszy manifestu albo z `generation.json` obok manifestu. | |
| Identyfikatory próbek syntetycznych zawierają seed | |
| (`faktura-<seed>-<index>`), więc są unikalne między przebiegami generatora — | |
| kontrola `shared_ids` wyłapuje każdy przypadek, w którym dwa przebiegi jednak | |
| się zderzą. | |
| Pola bez wartości nie wywalają bramki (raportowane jako `rows_without_value`). | |
| Obrazy niedostępne lokalnie są pomijane przy dHash i liczone w | |
| `images_missing` (teksty i sumy kontrolne sprawdzane są zawsze). | |
| ## Wynik kontroli zamrożonych manifestów (2026-09-22) | |
| `history_train_pool.jsonl` (2531 regionów) vs `history_testA_manifest.jsonl` | |
| (36 stron), świeży checkout bez bajtów obrazów (2687 `images_missing` — | |
| dHash do ponowienia po przywróceniu obrazów): | |
| | Typ | Wynik | | |
| | --- | --- | | |
| | duplikaty dokładne (obraz/tekst) | 0 | | |
| | duplikaty bliskie (dHash) | nie do sprawdzenia (brak obrazów) | | |
| | **bliskie wg tekstu** | **2 pary, containment 1,0** | | |
| Pary to regiony `NA1_FT__433090__r19` („Delicye Włoſkiey Ziemi.") i | |
| `NA1_FT__433090__r29` („Gladius contra Turcas.") w całości zawarte w stronie | |
| testowej `NA2_FT__433928` — dwuwyrazowe motta paratekstowe drukowane w obu | |
| tomach „Nowych Aten". Wpływ na punktację strony pomijalny (≤ 4 słowa na stronę), | |
| ale to realny nakład tekstu train↔testA: dokładnie hipoteza z | |
| `benchmarks/polocrbench/README.md`, której wcześniejsze kontrole nie wykluczały. | |
| Zamrożone manifesty pozostają bez zmian; decyzja o wyłączeniu tych dwóch | |
| regionów z przyszłej puli treningowej (v2) należy do właściciela zbioru i musi | |
| być odnotowana w historii wydania. | |
| ## Weryfikacja Test B przed wydaniem | |
| 1. bramka integralności na trzech podziałach (zero naruszeń); | |
| 2. kontrola holdout: osie `doc_type`/`degradation` rozłączne (powyższy przykład | |
| syntetyczny kończy się `violations: 0`, exit 0); | |
| 3. przegląd flag referencji: kolejka U+FFFD i znaków prywatnych Unicode budowana | |
| przez `python -m training.build_annotation_review --manifest M.jsonl --output DIR` | |
| (panel `tools/annotation-review`); dla zamrożonego historycznego testu | |
| zgłoszono 86×U+FFFD na 23 stronach i 624 znaki prywatne na 33 stronach — | |
| przegląd wymaga przywróconych obrazów i pracy recenzentów. | |
| Znane ograniczenia: dHash nie rozstrzyga podobnych layoutów syntetycznych przy | |
| progu 6 (próg jest konfigurowalny); tekst nie łapie skanów bez wspólnej | |
| transkrypcji (te obsłuży dHash po przywróceniu obrazów); bramka nie dowodzi | |
| braku obecności dokumentów w pretreningu modeli uczestników. | |