v1.0 floor: data-card (PII-gate v20, GREEN leak=0)

README.md

@@ -0,0 +1,82 @@
+---
+license: other
+license_name: hplt-v3-derived
+language:
+- pl
+task_categories:
+- text-generation
+pretty_name: HPLT v3 Polish — Cleaned & PII-Gated
+size_categories:
+- 10M<n<100M
+tags:
+- polish
+- web-corpus
+- hplt
+- pretraining
+- pii-filtered
+configs:
+- config_name: default
+  data_files:
+  - split: train
+    path: data/*.parquet
+---
+
+# HPLT v3 Polish — Cleaned & PII-Gated
+
+Oczyszczony, polski podzbiór korpusu web **HPLT v3**, przygotowany jako materiał pretreningowy przez kolektyw SlayerLab. Wartość dodana względem surowego HPLT: **wieloetapowa bramka PII** (usuwanie numerów telefonów, identyfikatorów, adresów) z **niezależną weryfikacją na pełnych danych** + lekkie czyszczenie boilerplate.
+
+> **Wersja: v1.0 — floor (bins 8_5 + 8_6).** Track B (bins 9_1 + 8_1, po deduplikacji względem bazy dynaword) dojdzie jako aktualizacja do ~15B tokenów V32k. Dataset jest wersjonowany.
+
+## Languages
+Polski (`pl`).
+
+## Dataset Structure — Data Fields (schema dynaword)
+| pole | typ | opis |
+|---|---|---|
+| `id` | string | stabilny identyfikator dokumentu (`european_hplt_v3_pl_<bin>_<part>_<idx>`) |
+| `text` | string | treść dokumentu (po czyszczeniu + PII-scrub) |
+| `source` | string | źródło (`hplt_v3_pl`) |
+| `added` | string | data dodania do zbioru |
+| `created` | string | data utworzenia (jeśli dostępna z HPLT) |
+| `token_count` | int | liczba tokenów (licznik referencyjny) |
+| `license` | string | licencja dokumentu |
+| `author` | string | autor/atrybucja (jeśli dostępna) |
+
+## Size (v1.0 floor)
+| składnik | dokumenty | tokeny (V32k) |
+|---|---|---|
+| floor 8_5 + 8_6 | **11 446 492** | **6.065B** |
+| _track B 9_1 + 8_1 (planowany update)_ | _~6.44M pre-dedup_ | _~8-9B_ |
+| _cel po track B_ | _~17.9M_ | _~14-15B_ |
+
+Ratio zmierzony empirycznie na floor (pełne dane): **530 tokenów V32k / dokument**. Referencyjny `token_count` per dokument w kolumnie.
+
+## PII Processing (bramka prywatności)
+Kluczowa wartość dodana. Surowy HPLT web-crawl zawiera realne dane osobowe. Zastosowano **iteracyjną bramkę PII (v13 → v20)**: reguły regex + **niezależną weryfikację** przez oddzielny komponent (`deep_verify`) na PEŁNYCH danych (nie na próbce).
+
+Metoda (pętla detect → pattern → regex → verify):
+- **Wykrywane:** telefony PL/międzynarodowe (separatory: spacje, myślniki, kropki, nawiasy, multi-numer), NIP, NRB/IBAN, PESEL/NATID, adresy e-mail. Guardy anty-fałszywo-trafieniowe (NRB≠telefon, karta-16, ISBN, współrzędne, wersje jądra, KRS/BDO/IMEI z labelem).
+- **Malejący ogon:** liczba wykrytych spadała 719 → … → 82 przez kolejne iteracje; klasy coraz węższe.
+- **Drop-policy:** dokumenty z nieusuwalnymi/egzotycznymi formatami PII oraz zniekształcone (`mangle`) są **usuwane** (precedens deterministyczny). Floor: **82 dokumenty (0.0007%)** usunięte, `mangle` = 0.
+- **Werdykt końcowy (GREEN):** niezależny `deep_verify` na publikowanych parquetach: **`leak = 0 ∧ idem = 0 ∧ mangle = 0`** na pełnych 11 446 492 dokumentach. Integralność związana sha256 (verify == publish). Wersja bramki: **v20**.
+
+> **Uwaga:** bramka minimalizuje ryzyko PII, ale nie stanowi gwarancji prawnej. Użytkownicy przetwarzający dane osobowe powinni przeprowadzić własną ocenę zgodności (RODO/GDPR).
+
+## Quality Cleaning (inline-strip, content-preserving)
+Lekki inline-strip artefaktów web — usuwa szum, ZACHOWUJE treść dokumentu (bez usuwania dokumentów):
+- **Podpisy/bylines z ©:** segment `© Podpis: <Imię Nazwisko>` (podpisy dziennikarskie, np. agencyjne) — usuwany, treść artykułu zostaje.
+- **Blogger-UI:** stringi przycisków „OdpowiedzUsuń…" (~1.23% dok.).
+- **Ramki tekstowe:** ciągi podkreśleń `_{20,}` (~0.11% dok.).
+
+Prevalencja `©` = 0.485% — ~62% to legalne stopki (ZACHOWANE), ~38% bylines (strip). Blanket-drop `©` świadomie odrzucony (strata treści za legalne stopki).
+
+## Source & License
+Pochodzi z **HPLT v3** (High Performance Language Technologies), podzbiór polski. Kompilacja HPLT: CC0; prawa do treści pozostają przy autorach oryginalnych stron; przeznaczenie badawcze. Ten zbiór dodaje warstwę czyszczenia + PII-gate i publikowany jest jako **osobny dataset** (nie część kanonicznego `polish-dynaword`). Cytowanie/atrybucja HPLT v3 zgodnie z projektem HPLT.
+
+## Limitations & Biases
+- Web-crawl: obecne są szum, boilerplate, keyword-spam, treści o zmiennej jakości.
+- PII-gate ma wysoką czułość dla telefonów/identyfikatorów PL; egzotyczne formaty międzynarodowe mają niższe pokrycie (stąd drop-policy dla ogona).
+- Poza PII: lekki inline-strip boilerplate; BRAK filtrowania toksyczności/tematycznego/jakości semantycznej.
+
+## Provenance
+Przygotowane przez kolektyw SlayerLab: pipeline czyszczenia + scrub, niezależna bramka PII + weryfikacja (`deep_verify`, dwa niezależne oczy), tokenizacja + statystyki korpusu, koordynacja/nadzór. Pełny ślad metodyczny: bramka v13→v20, sha-tie verify==publish.