1000_novels: keep only the public-domain texts

#49
by ppuzio - opened
Fabryka AI org

What changes

1000_novels is reduced to the 837 texts that are public domain in Poland: 129,722,658 chars and 51,765,528 tokens. Their licence label changes from CC-BY-4.0 to public-domain.

Why

CLARIN-PL answered our question on 2026-10-05. Handle 11321/312 currently contains metadata only. CLARIN-PL doesn't distribute the texts and holds no rights documentation for them. So the CC BY 4.0 record covers the compilation, not the individual novels, and each text needs its own legal basis.

How

src/clean_1000_novels.py reads the v0.2.5 shard, pinned by sha256. It joins the shard to the per-text rights screen (polish-dynaword-v2/evidence/1000_novels_rights_screen.csv, one row per CLARIN file) and keeps two statuses:

screen status rows kept
pd_by_term (the author and every credited translator died ≤ 1955, Art. 36) 825 yes
pd_per_wolne_lektury (the retained Wolne Lektury footer states no economic copyright) 12 yes
in_copyright 17 no
unresolved (translator unknown or death year unverified) 146 no
  • Text: unchanged.
  • author: now Author (tłum. Translator) per row.
  • Sidecar: 1000_novels.attribution.jsonl gives author, death year, translator, title (with how it was derived), CLARIN file, screen status and basis for every row.
  • Licence evidence: 1000_novels.license-evidence.json records the CLARIN reply and the release scope.
  • Not assessed: edition rights (Art. 99¹–99²) and status outside Poland. Both are stated in the datasheet and in legal_note.

Sample (python3 src/render_sample.py data/1000_novels/1000_novels.parquet -n 3)

id: 1000_novels_0937
source: 1000_novels
added: 2026-06-26
created: 1785-01-01, 2013-12-31
token_count: 16231
license: public-domain
author: Stefan Żeromski

Literatura a życie polskie


Stefan Żeromski	

Było życzeniem zespołu ludzi nauki i praktycznego rzeczoznawstwa, którzy zapoczątkowali wykłady ściśle gospodarcze w Zakopanem, ażeby w szeregu odczytów peświęconych zobrazowaniu potrzeb i nasuwających się zagadnień życia społecznego na chwilę najbliższą — znalazł się również krótki wykład o roli literatury w tym teatrze, który się na ziemi naszej rozgrywa i ma rozgrywać w najbliższej przyszłości.

Na pierwszy rzut oka wydaje się to rzeczą wprost niezrozumiałą, żeby taki temat mógł znaleźć się w spisie referatów o ekonomice i gospodarce życia. W istocie — tylko w Polsce można spotkać podobne zestawienie. Społeczeństwa należycie zorganizowane pod względem politycznym i społecznym dawno już wyzbyły się tego rodzaju mieszanin i nigdzie zapewne […]
id: 1000_novels_0552
source: 1000_novels
added: 2026-06-26
created: 1785-01-01, 2013-12-31
token_count: 196760
license: public-domain
author: Eliza Orzeszkowa

Ostatnia miłość 

 

 

Eliza Orzeszkowa 

 

 

Księgarnia J. J. Okońskiego, Warszawa, 1868 

 

 

 

 

 

OSTATNIA MIŁOŚĆ. 

 

 

 

 

 

POWIEŚĆ. 

NAPISAŁA 

 

Eliza Orzeszko. 

 

 

 

 

 

Skład Główny w Księgarni J. J. OKOŃSKIEGO. 

 

 

 

 

 

1868. 

 

 

 

 Варшава 7 Декабря 1867 года. 

 

 

 

 

 

w Drukarni Gazety Polskéj. 

 

 

 

 

 

STEFANII Z TOŁŁOCZKÓW 

 

 

 

 

 

ŻUKOWÉJ. 

 

 

 

 

 

Niegdyś w najwcześniejszéj młodości mojéj latach, częste i długie chwile przepędzałam z tobą. Pamiętasz pewnie, jak nieraz wśród zieleni cienistej ogrodów, albo w cichych ścianach naszych wiejskich domów, godziny schodziły nam na serdecznych a pełnych treści pogadankach. 

 

 Dziś szeroka przestrzeń nas dzieli — ale ja dla ciebie na zawsze najserdeczniejszą […]
id: 1000_novels_0048
source: 1000_novels
added: 2026-06-26
created: 1785-01-01, 2013-12-31
token_count: 20929
license: public-domain
author: Michał Bałucki

Michał Bałucki
 


 

Grześ niepiśmienny
 


 


 


 


 


 

Rozdział pierwszy. Kto był Grześ i co umiał
 


 

Ojciec Grzesia nie był od tego, żeby jego chłopak umiał czytać i pisać i miał najszczersze chęci posyłać go do szkoły; ale zawsze się tak nieszczęśliwie składało, że nigdy na to czasu nie było. Zimy jedna po drugiej były takie ciężkie, mroźne, z zaspami śnieżnymi i zadymkami, że Wojciechowa — matka Grzesia, nie miała serca na taki czas gnać chłopca o pół mili blisko na pociejowskie grunta do szkoły; a przyszła wiosna, to zawdy chłopak był potrzebny w domu: to gęsi przypilnować na pastwisku, żeby w szkodę nie poszły, to po wódkę do karczmy, to małą Petrysię pokołysać, albo starej Giertrudzie pomagać przy bydle. W żniwa jeszcze bardziej był przydatny: gdy wszyscy wyszli w pole […]

Checks and known gaps

  • pytest src/ passes: 233 tests, with src/test_parlamint_contract.py excluded because it's untracked and unrelated. src/test_1000_novels_contract.py ties the row counts, sidecar, stats and licence evidence together.
  • src/verify_paper_claims.py doesn't run against the current paper: it expects table labels from an older draft. This needs fixing separately.
  • The whitespace runs visible in the sample are inherited from v0.2.5. Normalization isn't part of this PR.
  • src/make_docs.py (the source-status note) and README.md totals are left for the release commit.
ppuzio changed pull request status to open
ppuzio changed pull request status to merged
ppuzio deleted the refs/pr/49 ref

Sign up or log in to comment