github-head/docs/POLLOCR_SPLIT_POLICY.md

PolOCRBench — podziały zbioru, integralność i Test B

Zamrożona polityka podziałów (§4 zadania) plus bramka integralności, którą należy uruchamiać przed każdym wydaniem zbioru.

Role podziałów

Podział	Rola	Widoczność
train (~2 000 stron, w tym ~1 200 syntetycznych)	trening w tracku constrained	publiczny z GT
test A (~500 stron)	development, ranking pomocniczy	publiczny z GT po konkursie
test B (~500 stron)	ranking główny, ocena generalizacji	ukryty do końca konkursu

Test B celowo zawiera typy dokumentów i degradacje nieobecne w train/test A: druki frakturowe/szwabachą, pismo ręczne, zdjęcia telefonu (perspektywa, cień, rozmycie), gęste tabele mieszane PL/EN i wzory. W zbiorze syntetycznym holdout realizuje się przez training.generate_documents --types/--degradations (np. train: clean,scan; test B: photo,compress); w realiach przez dobór materiału z osiami z poniższej listy.

Bramka integralności

python -m training.check_split_integrity \
    --split train=data/train/manifest-A.jsonl \
    --split testA=data/testA/manifest-A.jsonl \
    --split testB=data/testB/manifest-A.jsonl \
    --holdout-field degradation --holdout-split testB \
    --output validation/split-integrity.json

Sprawdzenia (deterministyczne, exit 1 przy naruszeniach):

• duplikaty dokładne: SHA-256 obrazu, SHA-256 tekstu referencyjnego oraz wspólne id rekordów między podziałami — wszystkie trzy to naruszenia;
• duplikaty bliskie wg tekstu: shingle słowne 3-gram (Jaccard albo containment ≥ 0,9) — containment łapie region treningowy skopiowany ze strony testowej, którego Jaccard jest mały; to naruszenie (zdublowany dokument zawsze dzieli treść referencji);
• podobieństwo obrazów (dHash, odległość Hamminga ≤ 6): ostrzeżenie do przeglądu, nie naruszenie — strony tego samego szablonu (dwie faktury, dwa egemplarze tego samego formularza) legalnie mają prawie identyczny layout; dopiero zgodność tekstu/identyfikatorów przesądza o wycieku;
• holdout Test B: wartości pola (degradation, doc_type, subset) w teście B muszą być rozłączne z pozostałymi podziałami; wartości czytane z wierszy manifestu albo z generation.json obok manifestu.

Identyfikatory próbek syntetycznych zawierają seed (faktura-<seed>-<index>), więc są unikalne między przebiegami generatora — kontrola shared_ids wyłapuje każdy przypadek, w którym dwa przebiegi jednak się zderzą.

Pola bez wartości nie wywalają bramki (raportowane jako rows_without_value). Obrazy niedostępne lokalnie są pomijane przy dHash i liczone w images_missing (teksty i sumy kontrolne sprawdzane są zawsze).

Wynik kontroli zamrożonych manifestów (2026-09-22)

history_train_pool.jsonl (2531 regionów) vs history_testA_manifest.jsonl (36 stron), świeży checkout bez bajtów obrazów (2687 images_missing — dHash do ponowienia po przywróceniu obrazów):

Typ	Wynik
duplikaty dokładne (obraz/tekst)	0
duplikaty bliskie (dHash)	nie do sprawdzenia (brak obrazów)
bliskie wg tekstu	2 pary, containment 1,0

Pary to regiony NA1_FT__433090__r19 („Delicye Włoſkiey Ziemi.") i NA1_FT__433090__r29 („Gladius contra Turcas.") w całości zawarte w stronie testowej NA2_FT__433928 — dwuwyrazowe motta paratekstowe drukowane w obu tomach „Nowych Aten". Wpływ na punktację strony pomijalny (≤ 4 słowa na stronę), ale to realny nakład tekstu train↔testA: dokładnie hipoteza z benchmarks/polocrbench/README.md, której wcześniejsze kontrole nie wykluczały. Zamrożone manifesty pozostają bez zmian; decyzja o wyłączeniu tych dwóch regionów z przyszłej puli treningowej (v2) należy do właściciela zbioru i musi być odnotowana w historii wydania.

Weryfikacja Test B przed wydaniem

1. bramka integralności na trzech podziałach (zero naruszeń);
2. kontrola holdout: osie doc_type/degradation rozłączne (powyższy przykład syntetyczny kończy się violations: 0, exit 0);
3. przegląd flag referencji: kolejka U+FFFD i znaków prywatnych Unicode budowana przez python -m training.build_annotation_review --manifest M.jsonl --output DIR (panel tools/annotation-review); dla zamrożonego historycznego testu zgłoszono 86×U+FFFD na 23 stronach i 624 znaki prywatne na 33 stronach — przegląd wymaga przywróconych obrazów i pracy recenzentów.

Znane ograniczenia: dHash nie rozstrzyga podobnych layoutów syntetycznych przy progu 6 (próg jest konfigurowalny); tekst nie łapie skanów bez wspólnej transkrypcji (te obsłuży dHash po przywróceniu obrazów); bramka nie dowodzi braku obecności dokumentów w pretreningu modeli uczestników.