slayer-ocr-experiment-evidence / github-head /docs /PRINT_AND_VISION_PILOT.md
PiotrSty's picture
Import SLAYER-OCR experiment evidence registry v1 (part 4)
055133d verified
|
Raw History Blame Contribute Delete
7.7 kB

Zwykły druk i przygotowanie vision API — 2026-09-12

Wynik CPU

Tesseract.js 7.0.0, pol+eng, OEM 1, PSM 3, jeden worker; te same ustawienia co w pilocie kursywy. Dwie oryginalne strony historycznego druku z dwóch książek:

Dokument CER WER
Odezwa do matek, strona 12 1,06% 7,29%
Toruński elementarz polski, strona 74 0,60% 2,65%
Łącznie (micro) 0,79% 4,48%

Odczyt: około 5,89 s łącznie, bez GPU i bez korektora językowego. Wynik kursywy (CER 89,94%) pozostaje osobnym pomiarem. Różnica opisuje te próbki; nie jest estymacją skuteczności na wszystkich dokumentach. Żadna strona nie była idealna. Błędy obejmowały numer strony, polskie znaki, łączenie słów i interpunkcję. Na przykład sił stało się sit.

Nie zmieniano referencji na podstawie odpowiedzi OCR. Zachowano historyczną pisownię (np. najlepszem, prawdziwem, poprostu), łączniki na końcach wierszy, numerację i wielkość liter. Różnice spacji między słowami są błędami; NFC i ciągi białych znaków normalizuje wspólny ewaluator. Ozdobne linie są pomijane, długie kreski tekstowe zapisano jako U+2014, wielokropek jako trzy kropki. Przepisał je asystent wzrokowo przed odczytem — brak drugiego recenzenta.

Źródła i ograniczenia

Commons oznacza oba materiały jako Public domain. Manifest przechowuje URL, SHA1 źródła, SHA256 pobranego obrazu, grupę dokumentu i metodę transkrypcji. Surowe metadane zachowano w benchmarks/print-pilot-v1/source-metadata.json. Trzeci pobrany Elementarz śląski wyłączono przed OCR: zawiera kursywę, a ta próba dotyczy zwykłego druku.

To dwie strony historycznych książek, nie współczesne formularze, faktury, tabele ani dokumenty wielokolumnowe. Dane są publiczne; ich obecności w danych treningowych modeli nie można wykluczyć. Żadnego modelu nie trenowano na pilocie. Wyniki i ich sumy kontrolne są w experiments/2026-09-12/print-scans/.

Odtworzenie z katalogu repozytorium (Python, Node i pnpm na PATH):

python -m training.download_public_pilot --pilot print-pilot-v1
pnpm --dir tools/cpu-baseline install --frozen-lockfile
New-Item -ItemType Directory -Force validation | Out-Null
node tools/cpu-baseline/run.mjs benchmarks/print-pilot-v1/manifest.jsonl validation/print-reproduction
uv run --no-project --python 3.11 --with jiwer python -m training.benchmark_pages --manifest benchmarks/print-pilot-v1/manifest.jsonl --predictions validation/print-reproduction/predictions.jsonl --output validation/print-reproduction/summary.json

Katalog wynikowy musi być nowy. prepare_print_pilot.py odtwarza manifest z referencji i oryginalnego pobrania, nie jest wymagany do powtórzenia odczytu.

Zdalny model wizyjny

Ponowny odczyt schematu Fabryki potwierdza Message.content: string | null; brak udokumentowanego pola obrazu i endpointu treningowego. Nie wykonywano nowych zapytań z kluczem Fabryki.

Gemini dokumentuje wejście obrazu i warstwę zgodną z klientem OpenAI. Cennik w dniu sprawdzenia wymienia darmową warstwę m.in. dla gemini-3.8-flash; dostęp i limity projektu trzeba sprawdzić na koncie. Cennik wskazuje wykorzystywanie danych darmowej warstwy do ulepszania produktów, z warunkami opisanymi przez dostawcę. Ten pilot zawiera wyłącznie materiały publiczne. Brak skonfigurowanego GEMINI_API_KEY w sprawdzonym środowisku, dlatego nie wykonano testu Gemini. Zgodność potwierdzono w dokumentacji i testach z atrapą, nie w rzeczywistym API.

Przygotowano training.probe_vision:

  • domyślnie lokalny dry-run, bez sieci, klucza i zależności ML;
  • po --execute: jedna strona domyślnie, maksymalnie pięć, bez retry, timeout 60 s na żądanie, jawny model i limit tokenów;
  • wysyła obraz i stały prompt, nie wysyła transkrypcji wzorcowej;
  • kontroluje SHA256, zapisuje model zwrócony, usage i czas;
  • odrzuca ucięte odpowiedzi; przerywa serię po pierwszym błędzie;
  • nie zapisuje treści wyjątków, nagłówków ani klucza;
  • pusta odpowiedź pozostaje pusta: ocenę względem referencji wykonuje scorer.
# Bez API: sprawdza obrazy i pokazuje dokładny zakres pierwszego żądania.
python -m training.probe_vision --manifest benchmarks/print-pilot-v1/manifest.jsonl --model gemini-3.8-flash --output validation/gemini-print-smoke

# Dopiero po ustawieniu GEMINI_API_KEY w środowisku procesu i sprawdzeniu planu konta:
uv run --no-project --python 3.11 --with openai python -m training.probe_vision --manifest benchmarks/print-pilot-v1/manifest.jsonl --model gemini-3.8-flash --output validation/gemini-print-smoke --execute

Nie wklejać klucza do repozytorium ani argumentów polecenia. Runner nie potrafi potwierdzić bezpłatności konta i nie ma automatycznego budżetu dolarowego. Pierwszy smoke obejmuje tylko odezwa-12; do porównania całej próbki użyć nowego katalogu i --limit 2. Pełny manifest z brakującymi odpowiedziami policzy je jako usunięcia — nie należy przedstawiać wyniku jednej strony jako całego pilota.

Przygotowanie klienta zdalnego nie ładuje już ocr.pipeline: lokalny silnik jest importowany dopiero przy użyciu OcrEngine lub recognize. Zachowano dotychczasowe publiczne importy. Test subprocess z python -S sprawdza, że tryb przygotowawczy nie wymaga OpenCV, NumPy, torch ani SDK API.

Weryfikacja: 107 testów z tests/ przeszło na CPU, sprawdzono SHA1/SHA256 obu oryginałów i sumy kontrolne ośmiu artefaktów, a dry-run wykonano także poza środowiskiem testów przy wyłączonych site-packages. Nie wykonywano rzeczywistych zapytań Gemini.

Następne porównanie powinno obejmować osobno zwykły druk i kursywę, przy identycznych obrazach i zamrożonych referencjach. Nadal brak podstaw do ogłoszenia SOTA lub zamawiania treningu.

Wykonana sonda Gemini — 2026-09-12 (uzupełnienie)

Po ustawieniu GEMINI_API_KEY (darmowa warstwa Google AI Studio) wykonano probe_vision --execute na obu stronach pilota. Modele z rodziny 2.5 (gemini-2.5-flash, 2.5-pro, 2.5-flash-lite) zwracają 404 „no longer available" dla nowego klucza; użyto gemini-3.1-flash-lite (odpowiada przez warstwę OpenAI-compat generativelanguage.googleapis.com/v1beta/openai/).

Dokument CER WER Tesseract CER/WER
odezwa-12 0,20% 1,21% 1,06% / 7,29%
torun-74 0,60% 2,38% 0,60% / 2,65%
Łącznie (micro) 0,44% 1,92% 0,79% / 4,48%

2 żądania, obie odpowiedzi stop. Normalizacja i scorer identyczne jak dla baseline'u CPU. To dwie strony historycznego druku — nie estymacja na formularze, kursywę, tabele ani dokumenty wielokolumnowe. Darmowa warstwa Gemini może używać danych do ulepszania produktu; wysłano wyłącznie obrazy publiczne (Public domain), bez referencji.

Dowody: experiments/2026-09-12/gemini-vision/{run.json,predictions.jsonl,summary.json}. Sumy kontrolne dopisane do experiments/2026-09-12/manifest.json.