biblioteka_nauki: drop the 3 Public Domain Mark records

#62
by ppuzio - opened
Fabryka AI org

What and why

Drops the 3 biblioteka_nauki rows labelled public-domain (slayerlabs/polish-dynaword-v2#52). On Biblioteka Nauki that label is the Creative Commons Public Domain Mark 1.0. The Mark is a label, not a grant. Creative Commons says it "operates as a tag or a label" for works that are already free of known copyright. These 3 items are original works first published 2019-2022, so in Poland the life+70 term cannot have run out. Public-domain status is not established for any of them.

before (v0.2.5, cc93cdd5…) after (6b57b8ee…)
documents 42,071 42,068 (−3)
characters 1,748,333,935 1,747,387,478 (−946,457)
tokens (cl100k proxy) 673,488,831 673,112,676 (−376,155)
cc-by / cc-by-sa / public-domain 28,335 / 13,733 / 3 28,335 / 13,733 / 0

Rule

src/clean_biblioteka_nauki.py filters on the licence value, not on an id list:

  • it keeps cc-by, cc-by-sa and cc0, and drops public-domain;
  • any other value (including null) fails the run;
  • result: 3 rows dropped.

build_parquet.py was never committed, so the script filters the shipped v0.2.5 Parquet:

  • the input is pinned by SHA-256 and the script exits if it does not match;
  • it writes the Parquet and stats.json atomically;
  • a rerun from v0.2.5 gives the same output SHA and stats.

In data/biblioteka_nauki/recover_attribution.py, CLEAN no longer includes public-domain, and a test checks that CLEAN equals the script's KEEP. In stats.json, the existing keys are unchanged and three new keys are added: drop_rights: 3, licenses and input_sha256.

Hand-check of the 3 dropped rows

Checked 2026-10-06 against bibliotekanauki.pl/api/{type}/{id}. All three have:

  • licence id 22, "Public domain", creativeCommons: false, URL https://creativecommons.org/publicdomain/mark/1.0/;
  • restricted, reprintPublication and translationPublication all false.

Per item:

  • biblioteka_nauki_books_2142716: Beata Michalec, Muzeum Niepodległości, 2022, ISBN 978-83-66640-74-0, an original scientific text. Not PD by term.
  • biblioteka_nauki_books_2147851: Jerzy Zając, Muzeum Niepodległości, 2019. The text itself prints "Copyright by Jerzy Zając 2019 / Copyright by Muzeum Niepodległości w Warszawie 2019". Not PD.
  • biblioteka_nauki_articles_2097363: Witold Rakowski, Zeszyty Naukowe Ostrołęckiego Towarzystwa Naukowego, 2021. Not PD by term.

That the authors are still alive is inferred, not verified.

Other licence values

Only cc-by and cc-by-sa remain. The CC licence on these rows is real, and none were dropped:

  • the rights audit found 0 mismatches in 583 sampled records;
  • a live re-check of 24 rows (seed 20261006) found 0 iconId mismatches.

Provenance and licence summary

  • Upstream is bibliotekanauki.pl (ICM, University of Warsaw).
  • Each item's licence was read from the bibliotekanauki.pl API (license.iconId).
  • Attribution (author · year · title) was re-fetched per item and is in the attribution column. It is non-empty on every row, and the test checks this.

Not done here (flagged)

  • Licence version is collapsed. Rows say cc-by/cc-by-sa, while the card and stats.json say 4.0. The rights audit found many 3.0 PL, 3.0 Unported and 2.0 records. My 24-row re-check found 4 of 12 cc-by rows on 3.x, while all 12 cc-by-sa rows were 4.0. Fixing this needs a per-record API re-fetch of the licence name and version, which iconId drops. It is tracked under v2#57; I recommend a separate data PR.
  • Provenance contradiction. The card says the data came from SpeakLeash's redistribution, but src/sources.py says it is a direct rebuild. Not resolved here.
  • Missing files. licenses.jsonl, index.jsonl and build_parquet.py are not in the repo.
  • "All rights reserved" text. 128 kept rows (88 cc-by, 40 cc-by-sa; 1.56% of tokens) contain "Wszelkie prawa zastrzeżone" or "All rights reserved" in their text. These come from publication years 2010-2021, and the first sample below (a 2012 SGH journal colophon) is one of them. This is a regex count only and has not been reviewed. A journal-level notice may coexist with a later CC licence on the article.

Tests

  • src/test_biblioteka_nauki_contract.py (new, 4 tests) asserts:
    • no public-domain rows and none of the 3 ids;
    • row count 42,068, matching stats.json;
    • licence counts and token sum match stats.json;
    • ids are unique and attribution is non-empty;
    • the card's statistics row matches;
    • the filter fails closed on unknown values;
    • CLEAN == KEEP.
  • Full suite:
    • before (92b36dc): 22 failed, 234 passed, 3 errors;
    • after (rebased on 58581da): 22 failed, 238 passed, 3 errors;
    • the failures and errors are the same set before and after (LFS-pointer Parquets of other sources, not fetched in this worktree).
  • src/verify_paper_claims.py --tex polish-dynaword-v2/main.tex --ref worktree cannot run. It raises LookupError: no table with \label{tab:s04-wersje}, and it does the same on main.

python3 src/render_sample.py data/biblioteka_nauki/biblioteka_nauki.parquet -n 3

id: biblioteka_nauki_articles_916223
source: biblioteka_nauki
added: 2026-06-27
created: 2012-01-01, 2012-12-31
token_count: 8398
license: cc-by
attribution: Krystyna Leszczewska | 2012 | Siła konkurencyjna firm rodzinnych na obszarach peryferyjnych

1
Liczba punktów do oceny 
parametrycznej jednostek 
naukowych – 6.
Materiałów niezamówionych 
redakcja nie zwraca. 
Redakcja nie płaci honorariów.  
W tekstach publikowanych 
zastrzega sobie prawo do skrótów, 
zmian tytułów, adiustacji. Artykuły 
są zatwierdzane do publikacji po 
uzyskaniu pozytywnych recenzji.
Copyright by  
Szkoła Główna Handlowa  
w Warszawie, Kolegium  
Nauk o Przedsiębiorstwie
Wszelkie prawa zastrzeżone. 
Kopiowanie, przedrukowywanie  
i rozpowszechnianie całości 
lub fragmentów niniejszej 
publikacji bez zgody wydawcy 
jest zabronione.
Nakład: do 3000 egzemplarzy
Druk i oprawa: 
Agencja Reklamowo- 
-Wydawnicza  
Arkadiusz Grzegorczyk
ww.grzeg.com.pl
Na okładce zmodyfikowane zdjęcie  
z kolekcji Digital Vision
Kwartalnik Nauk o Przedsiębiorstwie
Pismo ogólnopolskie […]
id: biblioteka_nauki_articles_151432
source: biblioteka_nauki
added: 2026-06-27
created: 2007-01-01, 2007-12-31
token_count: 9152
license: cc-by
attribution: M. Płuska; Ł. Oskwarek | 2007 | Ocena wpływu zewnętrznych pól magnetycznych i elektromagnetycznych na działanie skaningowego mikroskopu elektronowego

PAK vol. 53, nr 9/2007    
61 
 
Mariusz PŁUSKA1,2, Łukasz OSKWAREK1 
1 POLITECHNIKA WARSZAWSKA, INSTYTUT ELEKTROTECHNIKI TEORETYCZNEJ  
  I SYSTEMÓW INFORMACYJNO-POMIAROWYCH 
2 INSTYTUT TECHNOLOGII ELEKTRONOWEJ 
 
Ocena wpływu zewnętrznych pól magnetycznych  
i elektromagnetycznych na działanie  
skaningowego mikroskopu elektronowego 
 
Mgr inż. Mariusz PŁUSKA 
 
Absolwent 
Wydziału 
Elektrycznego 
Politechniki 
Warszawskiej a obecnie uczestnik studiów doktoranc-
kich na tymże wydziale. Zatrudniony w Instytucie 
Technologii Elektronowej w Warszawie na stanowi-
sku asystenta. W pracy naukowej zajmuje się 
problemem eliminacji zakłóceń w skaningowej 
mikroskopii elektronowej. Dodatkowo pracuje nad 
rozwojem mikroskopowych metod pomiarowych dla 
technologii […]
id: biblioteka_nauki_articles_555678
source: biblioteka_nauki
added: 2026-06-27
created: 2015-01-01, 2015-12-31
token_count: 27743
license: cc-by-sa
attribution: Mariusz Malinowski | 2015 | PEDRO CALMON I ROMANTYCZNA INTERPRETACJA BRAZYLIJSKIEJ CYWILIZACJI

KRAJE – REGIONY 
 
 
Ameryka Łacińska, 3-4 (89-90) 2015, ss. 7-32 
7 
Mariusz MALINOWSKI* 
PEDRO CALMON I ROMANTYCZNA INTERPRETACJA 
BRAZYLIJSKIEJ CYWILIZACJI 
Pedro Calmon’s Romantic Interpretation of the Brazilian Civilization 
Streszczenie:  
Artykuł omawia życie i myśl brazylijskiego intelektua-
listy Pedro Calmona. Bardziej szczegółowo zostało 
przeanalizowane jego dzieło pt. História da civilização 
brasileira z 1933 roku, w którym autor zawarł pozy-
tywną interpretację brazylijskiej historii. Dodatkową 
ilustracją kontekstową podjętej problematyki jest przy-
bliżenie historii i znaczenia Brazylijskiego Instytutu 
Historyczno-Geograficznego (IHGB), którego Calmon 
był wieloletnim prezesem i jednym z bardziej charyz-
matycznych reprezentantów. 
Abstract:  
The paper presents life and […]

🤖 Generated with Claude Code

ppuzio changed pull request status to open
ppuzio changed pull request status to merged
ppuzio deleted the refs/pr/62 ref

Sign up or log in to comment