Add centrum_cyfrowe with reproducible coverage and expansion candidates
Summary and current status
Adds centrum_cyfrowe: Polish policy analyses, copyright and digital-rights commentary, open-science/education material and research publications from Fundacja Centrum Cyfrowe. Collection is direct from the publisher, without a SpeakLeash or HF content intermediary.
2026-10-15 correction: the earlier extraction was partial, and the original description overstated rights auditing and reproducibility. The source remains release: None; rights status is held_for_review.
The uploaded canonical shard remains 1,428 documents / 2,824,713 cl100k_base tokens / 7,578,244 characters. A further 141 documents / 465,494 tokens / 1,244,852 characters have been extracted and NERGAL-cleaned as separate review candidates. They are not included in canonical or release totals.
Prepared for source-only merge with release: None. The updated fetcher, evidence and expansion artifacts are included in refs/pr/121; candidate status is separate from admission to a release. The canonical shard is unchanged.
Coverage and extraction
The original committed --fetch only listed two Czytelnia sitemap inventories; --all rebuilt old, uncommitted caches. General pages, projects and topic sitemaps were omitted, and reproducible PDF downloading was missing.
The replacement follows numbered substantive sitemaps in the publisher's sitemap index, scans links and embedded PDFs, reuses the historical link inventory, and queries the public WordPress PDF attachment API. It checks robots.txt, records download failures, caches by URL hash, and deduplicates PDF bytes and normalized text. Profiles and taxonomy listings are omitted.
Verified acquisition measurements (2026-10-15):
- 1,513 Polish sitemap URLs: 1,512 HTML responses acquired; one failed request.
- 356 distinct same-host PDF URLs: 349 acquired; seven failed requests.
- 156 PDF attachment records exposed across the API's advertised pages. It advertised 192; that discrepancy remains unresolved.
- 352 external PDF URLs logged but not fetched or rights-audited.
| Artifact | HTML | PDFs | Documents | Tokens | Status |
|---|---|---|---|---|---|
| Existing uploaded canonical shard | 1,306 | 122 | 1,428 | 2,824,713 | Unreleased; rights review and canonical NERGAL pending |
| Separate deduplicated expansion | 130 | 11 | 141 | 465,494 | Separate NERGAL-cleaned review candidates; release not admitted |
Licensing and corrections
The Czytelnia footer grants CC BY 4.0 unless stated otherwise. The gate checks the exact normalized licence statement and records its SHA-256 (2023e83a85a88350f5112e2722551fd6071794308cbf0243dba0c6113d0f5845) separately from changing homepage HTML. Item-specific NC/ND or restrictive notices override that footer.
The original 217-file PDF review was automated colophon/brief screening, not a manual per-publication chain-of-title audit. It produced 122 unique included PDFs, 88 screening rejections and seven byte duplicates. Its short-brief fallback and incidental licence-version inference need reassessment; a publisher name, short document, public-domain mention, or unrelated “3.0” does not establish a publication grant.
New PDF candidates require explicit versioned CC BY / CC BY-SA declarations. Candidate licence fields remain automatic inferences, not final admission decisions. The original canonical labels include CC BY, CC BY-SA and CC0 variants; this update does not claim all original labels are verified.
The earlier claims of zero cross-corpus duplicates and a complete Terms/Privacy deny-list audit are not established by this audit and are withdrawn as assurance claims. Website ownership alone does not establish rights to every embedded work. Quotation exceptions do not grant permission to redistribute quoted works as corpus data.
Remaining review: manual chain-of-title and stratified third-party classifications, original PDF licence versions/brief admissions, supplementary terms and per-item exceptions, canonical-shard NERGAL, historical microsites/subdomains, and unregistered/external uploads. No accounts, consent, CAPTCHA bypass or rights-holder correspondence were used.
Normalization and privacy
The expansion explicitly decodes UTF-8 (avoiding automatic mojibake misclassification), holds damaged body text, removes comments/scripts/navigation containers, uses shared html_to_text, and applies NFKC, control/soft-hyphen/zero-width-space cleanup and whitespace normalization while retaining paragraph breaks.
PDF text layers are extracted with PyMuPDF and standalone numeric lines removed. Repeated headers/footers and dehyphenation are not comprehensively handled; no OCR is attempted. Unknown creation dates remain null rather than being inferred from modification dates. Earlier claims of complete normalization are superseded by these implemented limits.
Expansion privacy pass: NERGAL 2.0.1, revision 960c515d96d34087ef1159c868a9d72e138834ab, frozen rules ∪ model, CUDA float16, names off. [PHONE] is mapped to [Telefon]; [PII] is retained. The existing canonical shard still has only its legacy regex pass and requires NERGAL before release.
Real data samples
Existing uploaded canonical HTML document:
id: cc_10-lat-koalicji-otwartej-edukacji
source: centrum_cyfrowe
added: 2026-10-14
created: 2018-09-13
token_count: 1447
license: CC-BY-4.0
author: Aleksandra Czetwertyńska Ekspertka. Wspólpracowniczka
Czytelnia
Aktualności
13.09.2018
10 lat Koalicji Otwartej Edukacji
#Otwarta edukacja
#Otwarta kultura
W Koalicji Otwartej Edukacji jest 39 organizacji zajmujących się różnymi aspektami otwartości w edukacji. W czasie urodzin świętowaliśmy dziesięć lat wspierania dobrych praktyk związanych z otwartymi zasobami edukacyjnymi.
Aleksandra Czetwertyńska
Ekspertka. Wspólpracowniczka
W Koalicji Otwartej Edukacji jest 39 organizacji zajmujących się różnymi aspektami otwartości w edukacji. W czasie urodzin świętowaliśmy dziesięć lat wspierania dobrych praktyk związanych z otwartymi zasobami edukacyjnymi.
Podróż na planetę Ziemię, czyli 10 lat KOED
Przez subtelne zagęszczenie próżni, nazywane Lokalnym Obłokiem Międzygwiazdowym, mknie Słońce — kula wodoru i helu o masie dwóch biliardów kilogramów, zapadająca się nieustannie pod własnym ciężarem w procesie syntezy jądrowej. W każdej sekundzie cztery miliony ton materii zamieniają się w energię ponad 384 jottadżuli, wypromieniowywaną ró
[…]
Expansion project page (held for release review):
id: cc_exp_031ddbcbe8bdb6868b83
source: centrum_cyfrowe
added: 2026-10-14
created: None
token_count: 838
license: CC-BY-4.0
author: Fundacja Centrum Cyfrowe
kind: html_page
url: https://centrumcyfrowe.pl/projekty/sploty-i-praktyki-badanie-partycypacji-w-muzeach-bibliotekach-i-domach-centrach-kultury/
rights_status: held_for_review
Projekty
Wyróżnione
Sploty i Praktyki – badanie partycypacji w muzeach, bibliotekach i domach/centrach kultury
Zespół projektu: Maria (Maja) Drabczyk, Marta Świetlik (współpraca), Anna Green-Szałas
Czas trwania:
05–11.2026
Obszary działań:
Otwarta kultura
Instytucje kultury w całej Polsce coraz częściej i odważniej angażują mieszkanki i mieszkańców do współtworzenia swoich działań.
Muzea, biblioteki i domy/centra kultury rozwijają dostępność, prowadzą badania publiczności i budują partnerstwa lokalne. Wiele z tych inicjatyw powstaje jednak oddolnie, przez co często brakuje narzędzi do całościowej oceny ich wpływu na organizację. Często ewaluacja kończy się na zliczeniu frekwencji, a nie na spojrzeniu na jakość zbudowanych relacji.
Projekt „Sploty i Praktyki”, realizowany w ramach Pracowni Otwierania Kultury w Centrum Cyfrowym, łączy funkcję badawczą z praktycznym wsparciem. Naszym głównym celem jest stworzenie przyjaznej dla ludzi sektora kultury przestrzeni do autorefleksji na
[…]
Expansion PDF publication (held for release review):
id: cc_exp_11e288a7c4c1849e01ce
source: centrum_cyfrowe
added: 2026-10-14
created: None
token_count: 71157
license: CC-BY-4.0
author: Fundacja Centrum Cyfrowe i autorzy publikacji
kind: pdf_publication
url: https://centrumcyfrowe.pl/wp-content/uploads/sites/16/2022/03/dobre_praktyki_2.pdf
rights_status: held_for_review
DOBRE PRAKTYKI
SPÓŁDZIELNI
OTWARTEJ EDUKACJI
JAK UCZYĆ KOMPETENCJI
CYFROWYCH W BIBLIOTECE
Publikacja dostępna na licencji Creative Commons
Uznanie autorstwa 4.0 Międzynarodowej
SPIS TREŚCI
Wprowadzenie
Czym są dobre praktyki?
Archiwum społeczne, archiwum historii mówionej
Pamięć bydgoszczan – Archiwum Historii Mówionej (Paulina Gawrych)
Bank Umiejętności Społecznych
Bank Umiejętności Mieszkanek i Mieszkańców (Justyna P.)
Bezpieczeństwo w sieci
Bezpieczeństwo w sieci (Anna Michniuk)
Ćwiczenia pamięci dla seniorów i seniorek
Rusz głową! (Anna Walkowiak-Osowska)
Escape room
„Polska klasyka zawsze na topie” – biblioteczny escape room (Alicja Zgajewska)
Geocaching, czyli zabawa w szukanie skarbów
Gra miejska
Biblioteczna gra miejska związana z historią miasta (Magdalena Muchyńska)
Jest pomysł, są ludzie, a skąd wziąć pieniądze?
Jest pomysł, są ludzie, a skąd wziąć pieniądze? (Anna Małczuk-Wakulińska)
Kluby wiedzy
Kursy e-learningowe
Przygotowanie kursu „Bezpieczne zakupy przez internet”
S
[…]
Files and validation
Source-only changes: data/centrum_cyfrowe/*, src/fetch_centrum_cyfrowe.py, src/test_centrum_cyfrowe_contract.py, the Centrum Cyfrowe entry in src/sources.py, and an appended findings-log entry. Shared release docs, version numbers and other source fetchers are untouched.
Records include centrum_cyfrowe.coverage.md, coverage JSON/URL decisions, centrum_cyfrowe.expansion.jsonl.zst, expansion grant review/sample/stats, and corrected source decision/licence evidence/QA. The expansion is outside canonical/release totals and remains held for review.
- 16 Centrum Cyfrowe tests pass, covering pagination (including short API pages), exact grants, NC/ND restrictions, UTF-8/damaged text, canonical sidecars and traceable expansion integrity.
- Full repository run: 952 passed, 19 failed, 22 skipped, with 115 subtests passed. All 19 reported failures reproduce against archived main source code with the same existing dataset files; this PR does not introduce them. This is not a claim that the full suite passes.
- 204 source/shared merge checks pass: Centrum Cyfrowe, cited paths, added dates and paper-claims verification.
- Canonical Parquet SHA-256 remains
e9a8ba95f0781d2c0837b0b117f5bf2e06071fca0cb319d5daa346ff63fea327. - Expansion compressed-input SHA-256:
cd3126dda0a13aaed50d9c2d3dc659a711f83543f7dbb1aee47913b107740800.
Merge scope: source-only contribution with release: None, as permitted by the repository policy for unverified sources. Rights status remains held_for_review for release admission. No release totals, version bump, or tag changes are included.