Datasets:
1000_novels: keep only the public-domain texts
#49
by ppuzio - opened
What changes
1000_novels is reduced to the 837 texts that are public domain in Poland: 129,722,658 chars and 51,765,528 tokens. Their licence label changes from CC-BY-4.0 to public-domain.
Why
CLARIN-PL answered our question on 2026-10-05. Handle 11321/312 currently contains metadata only. CLARIN-PL doesn't distribute the texts and holds no rights documentation for them. So the CC BY 4.0 record covers the compilation, not the individual novels, and each text needs its own legal basis.
How
src/clean_1000_novels.py reads the v0.2.5 shard, pinned by sha256. It joins the shard to the per-text rights screen (polish-dynaword-v2/evidence/1000_novels_rights_screen.csv, one row per CLARIN file) and keeps two statuses:
| screen status | rows | kept |
|---|---|---|
pd_by_term (the author and every credited translator died ≤ 1955, Art. 36) |
825 | yes |
pd_per_wolne_lektury (the retained Wolne Lektury footer states no economic copyright) |
12 | yes |
in_copyright |
17 | no |
unresolved (translator unknown or death year unverified) |
146 | no |
- Text: unchanged.
author: nowAuthor (tłum. Translator)per row.- Sidecar:
1000_novels.attribution.jsonlgives author, death year, translator, title (with how it was derived), CLARIN file, screen status and basis for every row. - Licence evidence:
1000_novels.license-evidence.jsonrecords the CLARIN reply and the release scope. - Not assessed: edition rights (Art. 99¹–99²) and status outside Poland. Both are stated in the datasheet and in
legal_note.
Sample (python3 src/render_sample.py data/1000_novels/1000_novels.parquet -n 3)
id: 1000_novels_0937
source: 1000_novels
added: 2026-06-26
created: 1785-01-01, 2013-12-31
token_count: 16231
license: public-domain
author: Stefan Żeromski
Literatura a życie polskie
Stefan Żeromski
Było życzeniem zespołu ludzi nauki i praktycznego rzeczoznawstwa, którzy zapoczątkowali wykłady ściśle gospodarcze w Zakopanem, ażeby w szeregu odczytów peświęconych zobrazowaniu potrzeb i nasuwających się zagadnień życia społecznego na chwilę najbliższą — znalazł się również krótki wykład o roli literatury w tym teatrze, który się na ziemi naszej rozgrywa i ma rozgrywać w najbliższej przyszłości.
Na pierwszy rzut oka wydaje się to rzeczą wprost niezrozumiałą, żeby taki temat mógł znaleźć się w spisie referatów o ekonomice i gospodarce życia. W istocie — tylko w Polsce można spotkać podobne zestawienie. Społeczeństwa należycie zorganizowane pod względem politycznym i społecznym dawno już wyzbyły się tego rodzaju mieszanin i nigdzie zapewne […]
id: 1000_novels_0552
source: 1000_novels
added: 2026-06-26
created: 1785-01-01, 2013-12-31
token_count: 196760
license: public-domain
author: Eliza Orzeszkowa
Ostatnia miłość
Eliza Orzeszkowa
Księgarnia J. J. Okońskiego, Warszawa, 1868
OSTATNIA MIŁOŚĆ.
POWIEŚĆ.
NAPISAŁA
Eliza Orzeszko.
Skład Główny w Księgarni J. J. OKOŃSKIEGO.
1868.
Варшава 7 Декабря 1867 года.
w Drukarni Gazety Polskéj.
STEFANII Z TOŁŁOCZKÓW
ŻUKOWÉJ.
Niegdyś w najwcześniejszéj młodości mojéj latach, częste i długie chwile przepędzałam z tobą. Pamiętasz pewnie, jak nieraz wśród zieleni cienistej ogrodów, albo w cichych ścianach naszych wiejskich domów, godziny schodziły nam na serdecznych a pełnych treści pogadankach.
Dziś szeroka przestrzeń nas dzieli — ale ja dla ciebie na zawsze najserdeczniejszą […]
id: 1000_novels_0048
source: 1000_novels
added: 2026-06-26
created: 1785-01-01, 2013-12-31
token_count: 20929
license: public-domain
author: Michał Bałucki
Michał Bałucki
Grześ niepiśmienny
Rozdział pierwszy. Kto był Grześ i co umiał
Ojciec Grzesia nie był od tego, żeby jego chłopak umiał czytać i pisać i miał najszczersze chęci posyłać go do szkoły; ale zawsze się tak nieszczęśliwie składało, że nigdy na to czasu nie było. Zimy jedna po drugiej były takie ciężkie, mroźne, z zaspami śnieżnymi i zadymkami, że Wojciechowa — matka Grzesia, nie miała serca na taki czas gnać chłopca o pół mili blisko na pociejowskie grunta do szkoły; a przyszła wiosna, to zawdy chłopak był potrzebny w domu: to gęsi przypilnować na pastwisku, żeby w szkodę nie poszły, to po wódkę do karczmy, to małą Petrysię pokołysać, albo starej Giertrudzie pomagać przy bydle. W żniwa jeszcze bardziej był przydatny: gdy wszyscy wyszli w pole […]
Checks and known gaps
pytest src/passes: 233 tests, withsrc/test_parlamint_contract.pyexcluded because it's untracked and unrelated.src/test_1000_novels_contract.pyties the row counts, sidecar, stats and licence evidence together.src/verify_paper_claims.pydoesn't run against the current paper: it expects table labels from an older draft. This needs fixing separately.- The whitespace runs visible in the sample are inherited from v0.2.5. Normalization isn't part of this PR.
src/make_docs.py(the source-status note) andREADME.mdtotals are left for the release commit.
ppuzio changed pull request status to open
ppuzio changed pull request status to merged
ppuzio deleted the
refs/pr/49 ref