|
Download github-head/docs/PRINT_AND_VISION_PILOT.md from PiotrSty/slayer-ocr-experiment-evidence: direct link, hf CLI and curl.
- Browser
- Download file 7.7 kB
-
https://huggingface.co/datasets/PiotrSty/slayer-ocr-experiment-evidence/resolve/main/github-head/docs/PRINT_AND_VISION_PILOT.md
- Command line
-
hf download hf://datasets/PiotrSty/slayer-ocr-experiment-evidence/github-head/docs/PRINT_AND_VISION_PILOT.md
-
curl -L -o PRINT_AND_VISION_PILOT.md https://huggingface.co/datasets/PiotrSty/slayer-ocr-experiment-evidence/resolve/main/github-head/docs/PRINT_AND_VISION_PILOT.md
7.7 kB
| # Zwykły druk i przygotowanie vision API — 2026-09-12 | |
| ## Wynik CPU | |
| Tesseract.js 7.0.0, pol+eng, OEM 1, PSM 3, jeden worker; te same ustawienia | |
| co w pilocie kursywy. Dwie oryginalne strony historycznego druku z dwóch książek: | |
| | Dokument | CER | WER | | |
| |---|---:|---:| | |
| | Odezwa do matek, strona 12 | 1,06% | 7,29% | | |
| | Toruński elementarz polski, strona 74 | 0,60% | 2,65% | | |
| | Łącznie (micro) | **0,79%** | **4,48%** | | |
| Odczyt: około 5,89 s łącznie, bez GPU i bez korektora językowego. | |
| Wynik kursywy (CER 89,94%) pozostaje osobnym pomiarem. Różnica opisuje | |
| te próbki; nie jest estymacją skuteczności na wszystkich dokumentach. | |
| Żadna strona nie była idealna. Błędy obejmowały numer strony, polskie znaki, | |
| łączenie słów i interpunkcję. Na przykład `sił` stało się `sit`. | |
| Nie zmieniano referencji na podstawie odpowiedzi OCR. Zachowano historyczną | |
| pisownię (np. `najlepszem`, `prawdziwem`, `poprostu`), łączniki na końcach | |
| wierszy, numerację i wielkość liter. Różnice spacji między słowami są błędami; | |
| NFC i ciągi białych znaków normalizuje wspólny ewaluator. Ozdobne linie są | |
| pomijane, długie kreski tekstowe zapisano jako U+2014, wielokropek jako trzy | |
| kropki. Przepisał je asystent wzrokowo przed odczytem — brak drugiego recenzenta. | |
| ## Źródła i ograniczenia | |
| - [Antoni Cyryl Królicki, Odezwa do matek, str. 12](https://commons.wikimedia.org/wiki/File:PL_Kr%C3%B3licki_Odezwa_do_matek_012.png) | |
| - [Toruński elementarz polski, 1910, str. 74](https://commons.wikimedia.org/wiki/File:Torunski_elementarz_polski_1910_(55498679).jpg) | |
| Commons oznacza oba materiały jako Public domain. Manifest przechowuje URL, | |
| SHA1 źródła, SHA256 pobranego obrazu, grupę dokumentu i metodę transkrypcji. | |
| Surowe metadane zachowano w `benchmarks/print-pilot-v1/source-metadata.json`. | |
| Trzeci pobrany [Elementarz śląski](https://commons.wikimedia.org/wiki/File:Elementarz_slaski_1930_(57216193).jpg) | |
| wyłączono przed OCR: zawiera kursywę, a ta próba dotyczy zwykłego druku. | |
| To dwie strony historycznych książek, nie współczesne formularze, faktury, | |
| tabele ani dokumenty wielokolumnowe. Dane są publiczne; ich obecności w danych | |
| treningowych modeli nie można wykluczyć. Żadnego modelu nie trenowano na pilocie. | |
| Wyniki i ich sumy kontrolne są w `experiments/2026-09-12/print-scans/`. | |
| Odtworzenie z katalogu repozytorium (Python, Node i pnpm na PATH): | |
| ```powershell | |
| python -m training.download_public_pilot --pilot print-pilot-v1 | |
| pnpm --dir tools/cpu-baseline install --frozen-lockfile | |
| New-Item -ItemType Directory -Force validation | Out-Null | |
| node tools/cpu-baseline/run.mjs benchmarks/print-pilot-v1/manifest.jsonl validation/print-reproduction | |
| uv run --no-project --python 3.11 --with jiwer python -m training.benchmark_pages --manifest benchmarks/print-pilot-v1/manifest.jsonl --predictions validation/print-reproduction/predictions.jsonl --output validation/print-reproduction/summary.json | |
| ``` | |
| Katalog wynikowy musi być nowy. `prepare_print_pilot.py` odtwarza manifest z | |
| referencji i oryginalnego pobrania, nie jest wymagany do powtórzenia odczytu. | |
| ## Zdalny model wizyjny | |
| Ponowny odczyt [schematu Fabryki](https://fabryka.ai/openapi.json) potwierdza | |
| `Message.content: string | null`; brak udokumentowanego pola obrazu i endpointu | |
| treningowego. Nie wykonywano nowych zapytań z kluczem Fabryki. | |
| [Gemini dokumentuje wejście obrazu](https://ai.google.dev/gemini-api/docs/image-understanding) | |
| i [warstwę zgodną z klientem OpenAI](https://ai.google.dev/gemini-api/docs/openai). | |
| [Cennik](https://ai.google.dev/gemini-api/docs/pricing) w dniu sprawdzenia | |
| wymienia darmową warstwę m.in. dla `gemini-3.8-flash`; dostęp i limity projektu | |
| trzeba sprawdzić na koncie. Cennik wskazuje wykorzystywanie danych darmowej | |
| warstwy do ulepszania produktów, z warunkami opisanymi przez dostawcę. | |
| Ten pilot zawiera wyłącznie materiały publiczne. Brak skonfigurowanego | |
| `GEMINI_API_KEY` w sprawdzonym środowisku, dlatego **nie wykonano testu Gemini**. | |
| Zgodność potwierdzono w dokumentacji i testach z atrapą, nie w rzeczywistym API. | |
| Przygotowano `training.probe_vision`: | |
| - domyślnie lokalny dry-run, bez sieci, klucza i zależności ML; | |
| - po `--execute`: jedna strona domyślnie, maksymalnie pięć, bez retry, | |
| timeout 60 s na żądanie, jawny model i limit tokenów; | |
| - wysyła obraz i stały prompt, **nie wysyła transkrypcji wzorcowej**; | |
| - kontroluje SHA256, zapisuje model zwrócony, usage i czas; | |
| - odrzuca ucięte odpowiedzi; przerywa serię po pierwszym błędzie; | |
| - nie zapisuje treści wyjątków, nagłówków ani klucza; | |
| - pusta odpowiedź pozostaje pusta: ocenę względem referencji wykonuje scorer. | |
| ```powershell | |
| # Bez API: sprawdza obrazy i pokazuje dokładny zakres pierwszego żądania. | |
| python -m training.probe_vision --manifest benchmarks/print-pilot-v1/manifest.jsonl --model gemini-3.8-flash --output validation/gemini-print-smoke | |
| # Dopiero po ustawieniu GEMINI_API_KEY w środowisku procesu i sprawdzeniu planu konta: | |
| uv run --no-project --python 3.11 --with openai python -m training.probe_vision --manifest benchmarks/print-pilot-v1/manifest.jsonl --model gemini-3.8-flash --output validation/gemini-print-smoke --execute | |
| ``` | |
| Nie wklejać klucza do repozytorium ani argumentów polecenia. Runner nie potrafi | |
| potwierdzić bezpłatności konta i nie ma automatycznego budżetu dolarowego. | |
| Pierwszy smoke obejmuje tylko `odezwa-12`; do porównania całej próbki użyć nowego | |
| katalogu i `--limit 2`. Pełny manifest z brakującymi odpowiedziami policzy je | |
| jako usunięcia — nie należy przedstawiać wyniku jednej strony jako całego pilota. | |
| Przygotowanie klienta zdalnego nie ładuje już `ocr.pipeline`: lokalny silnik | |
| jest importowany dopiero przy użyciu `OcrEngine` lub `recognize`. Zachowano | |
| dotychczasowe publiczne importy. Test subprocess z `python -S` sprawdza, że | |
| tryb przygotowawczy nie wymaga OpenCV, NumPy, torch ani SDK API. | |
| Weryfikacja: 107 testów z `tests/` przeszło na CPU, sprawdzono SHA1/SHA256 | |
| obu oryginałów i sumy kontrolne ośmiu artefaktów, a dry-run wykonano także | |
| poza środowiskiem testów przy wyłączonych site-packages. Nie wykonywano | |
| rzeczywistych zapytań Gemini. | |
| Następne porównanie powinno obejmować osobno zwykły druk i kursywę, przy | |
| identycznych obrazach i zamrożonych referencjach. Nadal brak podstaw do | |
| ogłoszenia SOTA lub zamawiania treningu. | |
| ## Wykonana sonda Gemini — 2026-09-12 (uzupełnienie) | |
| Po ustawieniu `GEMINI_API_KEY` (darmowa warstwa Google AI Studio) wykonano | |
| `probe_vision --execute` na obu stronach pilota. Modele z rodziny 2.5 | |
| (`gemini-2.5-flash`, `2.5-pro`, `2.5-flash-lite`) zwracają 404 „no longer | |
| available" dla nowego klucza; użyto `gemini-3.1-flash-lite` (odpowiada przez | |
| warstwę OpenAI-compat `generativelanguage.googleapis.com/v1beta/openai/`). | |
| | Dokument | CER | WER | Tesseract CER/WER | | |
| |---|---:|---:|---:| | |
| | odezwa-12 | 0,20% | 1,21% | 1,06% / 7,29% | | |
| | torun-74 | 0,60% | 2,38% | 0,60% / 2,65% | | |
| | **Łącznie (micro)** | **0,44%** | **1,92%** | **0,79% / 4,48%** | | |
| 2 żądania, obie odpowiedzi `stop`. Normalizacja i scorer identyczne jak dla | |
| baseline'u CPU. To dwie strony historycznego druku — nie estymacja na | |
| formularze, kursywę, tabele ani dokumenty wielokolumnowe. Darmowa warstwa | |
| Gemini może używać danych do ulepszania produktu; wysłano wyłącznie obrazy | |
| publiczne (Public domain), bez referencji. | |
| Dowody: `experiments/2026-09-12/gemini-vision/{run.json,predictions.jsonl,summary.json}`. | |
| Sumy kontrolne dopisane do `experiments/2026-09-12/manifest.json`. | |