| { |
| "schema_version": 1, |
| "name": "slayer-pl-8x3b", |
| "revision": "0.1.0", |
| "unit": "tokens_cl100k", |
| "format": "parquet", |
| "opis": "Osiem rozłącznych polskich zbiorów treningowych po ~3 mld tokenów (łącznie ~24 mld). Każdy zbiór łączy rozłączny wycinek web (unikatowy między zbiorami) ze wspólnym rdzeniem zróżnicowanym rejestrowo, warstwą prawno-urzędową oraz dosypką angielską. Format wyjściowy: parquet; tokenizacja po stronie odbiorcy.", |
| "record_schema": [ |
| "document_id", |
| "source_id", |
| "text", |
| "register", |
| "license", |
| "provenance", |
| "classified_by", |
| "garbage" |
| ], |
| "registers": [ |
| "news", |
| "howto", |
| "qa", |
| "dialog", |
| "literacki", |
| "nauka", |
| "encyklopedyczny", |
| "opinie", |
| "legal", |
| "web-inne", |
| "info" |
| ], |
| "register_info_uwaga": "Rejestr 'info' (treść informacyjna: opisy instytucji/produktów/usług, informacje praktyczne — nie news/nauka/encyklopedia) dodany 2026-08-28 na podstawie weryfikacji ręcznej (~17% próbki). Wpływ na jakość klasyfikacji DO ZMIERZENIA.", |
| "liczba_zbiorow": 8, |
| "tokeny_lacznie_docelowo": 24.0, |
| "sklad_na_zbior_tokeny_mld": { |
| "web": 1.89, |
| "diverse_core": 0.57, |
| "legal": 0.24, |
| "en": 0.3 |
| }, |
| "scenariusz_mieszania": "B (web 63% / rdzeń-zróżnicowany 19% / prawny 8% / EN 10%)", |
| "komponenty": { |
| "web_rozlaczny": { |
| "tokeny_dostepne": 23.94, |
| "wycinki": 10, |
| "uzyte": 8, |
| "na_zbior_docelowo": 1.89, |
| "licencja": "CC0-1.0", |
| "zrodlo": "hplt_v3_pl/clean", |
| "status": "gotowy; tagowanie rejestrów + czyszczenie w toku", |
| "rezerwa": "wycinki 8,9 nieużyte (zapas)" |
| }, |
| "rdzen_zroznicowany": { |
| "tokeny": 3.47, |
| "na_zbior_docelowo": 0.57, |
| "wspoldzielony": true, |
| "sciezka": "shared/core/", |
| "status": "gotowy", |
| "per_rejestr": { |
| "qa": 0.874, |
| "literacki": 0.923, |
| "encyklopedyczny": 0.735, |
| "nauka": 0.665, |
| "news": 0.277 |
| } |
| }, |
| "prawny": { |
| "tokeny_dostepne": 4.59, |
| "na_zbior_docelowo": 0.24, |
| "status": "on-hand, do cap-down", |
| "zrodla": [ |
| "eurlex CC-BY-4.0", |
| "parliamentary PD", |
| "dziennik_ustaw PD", |
| "govpl CC-BY-SA" |
| ] |
| }, |
| "en_dosypka": { |
| "na_zbior_docelowo": 0.3, |
| "tokeny_docelowo": 3.0, |
| "status": "do pobrania", |
| "zrodla": [ |
| "fineweb-edu ODC-BY", |
| "finemath ODC-BY" |
| ] |
| } |
| }, |
| "higiena": { |
| "web_exact_dup_pct": 0.002, |
| "web_decontam_usuniete": 10541, |
| "near_dup_web": "do wykonania", |
| "garbage_detektor": "kill ~0.24% + strip ~2.75% (deterministyczny)", |
| "dekontaminacja": "względem 8tags/polemo2/_heldout (po hashach)" |
| }, |
| "licencje": { |
| "web": "CC0-1.0", |
| "segregacja_SA": "OBOWIĄZKOWA: polqa/wikisource/wikipedia/wikibooks/wikivoyage/govpl/wolne_lektury = CC-BY-SA → osobna partycja *_sa.parquet; nie mieszać z permissive" |
| }, |
| "podzial": "web dzielony rozłącznie hash(document)%10; użyte 8 wycinków; zero przecieku między zbiorami", |
| "deduplikacja": "web: exact-dedup sha256(norm) globalny (0.002%) + dekontaminacja; near-dup w toku", |
| "zbiory": [ |
| { |
| "nazwa": "pack-00", |
| "wycinek_web": "web-slice-0", |
| "manifest": "pack-00/manifest.json", |
| "status": "scaffold" |
| }, |
| { |
| "nazwa": "pack-01", |
| "wycinek_web": "web-slice-1", |
| "manifest": "pack-01/manifest.json", |
| "status": "scaffold" |
| }, |
| { |
| "nazwa": "pack-02", |
| "wycinek_web": "web-slice-2", |
| "manifest": "pack-02/manifest.json", |
| "status": "scaffold" |
| }, |
| { |
| "nazwa": "pack-03", |
| "wycinek_web": "web-slice-3", |
| "manifest": "pack-03/manifest.json", |
| "status": "scaffold" |
| }, |
| { |
| "nazwa": "pack-04", |
| "wycinek_web": "web-slice-4", |
| "manifest": "pack-04/manifest.json", |
| "status": "scaffold" |
| }, |
| { |
| "nazwa": "pack-05", |
| "wycinek_web": "web-slice-5", |
| "manifest": "pack-05/manifest.json", |
| "status": "scaffold" |
| }, |
| { |
| "nazwa": "pack-06", |
| "wycinek_web": "web-slice-6", |
| "manifest": "pack-06/manifest.json", |
| "status": "scaffold" |
| }, |
| { |
| "nazwa": "pack-07", |
| "wycinek_web": "web-slice-7", |
| "manifest": "pack-07/manifest.json", |
| "status": "scaffold" |
| } |
| ], |
| "status": "zbudowany (wstepnie przeczyszczony; near-dup web w toku)", |
| "realizacja": { |
| "web_tokeny_cl100k": 15120001641, |
| "rdzen_tokeny_cl100k": 3708811994, |
| "legal_permissive_cl100k": 1920115782, |
| "legal_sa_cl100k": 80666129, |
| "en_cl100k": 2401565319, |
| "zbiory": [ |
| { |
| "zbior": "pack-00", |
| "web_wiersze": 1412141, |
| "web_tokeny_cl100k": 1890000496 |
| }, |
| { |
| "zbior": "pack-01", |
| "web_wiersze": 1412646, |
| "web_tokeny_cl100k": 1889999832 |
| }, |
| { |
| "zbior": "pack-02", |
| "web_wiersze": 1410439, |
| "web_tokeny_cl100k": 1890000055 |
| }, |
| { |
| "zbior": "pack-03", |
| "web_wiersze": 1410705, |
| "web_tokeny_cl100k": 1889999828 |
| }, |
| { |
| "zbior": "pack-04", |
| "web_wiersze": 1409654, |
| "web_tokeny_cl100k": 1890000607 |
| }, |
| { |
| "zbior": "pack-05", |
| "web_wiersze": 1414474, |
| "web_tokeny_cl100k": 1890000016 |
| }, |
| { |
| "zbior": "pack-06", |
| "web_wiersze": 1409692, |
| "web_tokeny_cl100k": 1890000186 |
| }, |
| { |
| "zbior": "pack-07", |
| "web_wiersze": 1409898, |
| "web_tokeny_cl100k": 1890000621 |
| } |
| ], |
| "backbone_fizyczny_tokeny_cl100k": 23231160865 |
| } |
| } |
