Datasets:

---

SlayerLab

/

polish-dynaword

Like 24

Follow

Fabryka AI 87

What and why

Drops the 63 wolne_lektury documents whose text is a novel (or one tome of a novel) that eltec_pol also carries. This implements option A from slayerlabs/polish-dynaword-v2#72, chosen by the maintainer on 2026-10-06: drop from Wolne Lektury and keep eltec_pol whole, since ELTeC is uniformly CC BY 4.0. The method is the one used for the #45 measurement.

eltec_pol is not changed: its Parquet SHA-256 is still ba400617…, and a test checks this.

Rule

src/clean_wolne_lektury.py (new; tested by src/test_wolne_lektury_contract.py). The shingling and scoring code is in src/shingle_containment.py (new; tested by src/test_shingle_containment.py), because the 1000_novels dedup (v2#45) imports it too. For each WL document:

• score = |S(wl) ∩ S(novel)| / |S(wl)|, where novel is the ELTeC novel sharing the most shingles with the document.
• S() is the set of unique 5-word shingles over NFKC-casefolded \w+ tokens. Words are hashed with blake2b, so the result is reproducible across processes.
• A trailing WL footer is cut before scoring. No v0.2.5 row has one, and the released text is unchanged.
• The score is containment measured from the WL side, not Jaccard, because WL splits long novels into tomes (Chłopi into 4; Faraon, Nad Niemnem and Stara baśń into 3).

Thresholds:

• drop if score ≥ 0.9: 63 documents, covering 50 ELTeC novels.
• keep_partial if 0.3 ≤ score < 0.9: 3 documents. These are kept and listed.

Both input Parquets are pinned by SHA-256. The script fails closed on a mismatch and writes through .tmp files and os.replace. Every pair is in data/wolne_lektury/wolne_lektury.eltec_pairs.tsv (wl_id, eltec_id, score, action, wl_title).

Threshold and gap

Score distribution over all 6,141 v0.2.5 documents:

• DROP_AT = 0.9. No document scores between 0.7588 and 0.9636.
• REPORT_AT = 0.3. No document scores between 0.2203 and 0.4267.
• All 63 drops pair with an ELTeC novel by the same author and title, checked against artifacts/rights_audit_2026-10/literary/eltec_meta.tsv. Żuławski's two WL documents are headed with the trilogy's title, "Trylogia księżycowa".

Hand-check

All 3 documents between 0.3 and 0.9 were checked. They are partial overlaps, kept and listed:

• Trędowata, tomes I and II, against POL0051. The ELTeC text is shorter: about 120,800 words against about 162,000 in WL's two tomes. 95.3% of ELTeC's shingles appear in the WL tomes. The WL text missing from ELTeC comes in runs of up to 5,418 words, so ELTeC is an abridged edition. Both tomes are kept, so the shared part stays duplicated across the two sources. The wl_title of tome I reads "Tom pierwszy / I" because that document starts without the author line.
• Kochanowski, Pieśń IX (Pieśni, księgi wtóre), against POL0045. Łoziński's Oko proroka quotes the poem. Kept.

All 3 drops between 0.9 and 0.99 were checked:

• Murdelio, 0.9636. The unmatched shingles form short scattered runs of at most 17 words.
• Tragikomedya prawdy, 0.9899. Runs of at most 11 words.
• Dzieje grzechu, 0.9879. The WL copy ends with a "Dodatek" of draft chapters, about 1,800 words that ELTeC lacks. It is dropped with the novel, so that appendix leaves the release.

10 drops at ≥ 0.99, sampled with seed 72, were checked:

• Documents: wolne_lektury_2371806, 2376763, 2375558, 2376691, 2372130, 2373439, 2376177, 2375201, 2375559, 2373440.
• All show only short scattered unmatched runs of at most 27 words: title heads and spelling variants.

Below 0.3 (not listed, not dropped): 6 documents score 0.10–0.22. All are poems of at most 2,321 tokens, by Mickiewicz, Kochanowski and Miciński.

Dropped (63)

Provenance and licence

• No new data is fetched. The script only removes rows from the v0.2.5 Parquet.
• The 50 novels stay in eltec_pol under CC BY 4.0: the 2026-10 rights audit (artifacts/rights_audit_2026-10/reports/literary.md) marks eltec_pol CLEAN, and found a CC BY 4.0 licence element in every TEI header.
• WL licence labels are not changed: all 6,078 kept rows still read CC-BY-SA-4.0 / Wolna Sztuka 1.3. #57 will relabel WL per row.
• The wolne_lektury entry in src/sources.py gains a legal_note that describes the drop. It renders as "Legal scope note" in the datasheet. release is unchanged.
• wolne_lektury.stats.json gains drop_eltec_dup: 63 and both input SHA-256s.
• A findings entry is appended at the end of artifacts/source_findings.md.
• Commit 0783e5e only moves the code into the shared module: rebuilding from the v0.2.5 Parquet and stats gives byte-identical wolne_lektury.parquet, stats.json and eltec_pairs.tsv.

Tests

• Before, at 409b93e: 23 failed, 254 passed, 7 errors.
• After, at 0783e5e (merged with main at 3bab9f9): 23 failed, 267 passed, 7 errors.
  • The same 30 test ids fail before and after.
  • None is a wolne_lektury or eltec_pol test. Most read other sources' LFS files, which this worktree has only as pointers.
  • The 13 extra passes are:
    • the 4 new test_wolne_lektury_contract.py and 4 new test_shingle_containment.py tests;
    • 3 global_voices tests merged from main (#66);
    • 2 1000_novels tests merged from main (PR 65).

Sample

python3 src/render_sample.py data/wolne_lektury/wolne_lektury.parquet -n 3

id: wolne_lektury_2375065
source: wolne_lektury
added: 2026-06-15
created: 1500-01-01, 2024-12-31
token_count: 2825
license: CC-BY-SA-4.0 / Wolna Sztuka 1.3
author: 

Legenda o św. Aleksym
Vita sancti Allexii rikmice

ISBN 978-83-288-5867-1


  Ach, krolu wieliki nasz,
Coż ci dzieją Męszyjasz,
Przydaj rozumu k mej rzeczy,
Me sierce bostwem obleczy,
Raczy mię mych grzechów pozbawić,
Bych mogł o twych świętych prawić.
Żywot jednego świętego,
Coż miłował Boga swego,
Cztę w jednych księgach o nim.
Kto chce słuchać, ja powiem.

    W Rzymie jedno panię było,
Coż Bogu rado służyło.
A miał barzo wielki dwor,
Procz panosz trzysta rycerzow,
Co są mu zawżdy służyli,
Zawżdy k jego stołu byli.
Chował je na wielebności i na krasie
I miał kożdy swe złote pasy.
Chował siroty i wdowy,
Dał jim osobne trzy stoły,
Za czwartym pielgrzymi jedli,
Ci ji do Boga przywiedli.
Eufamijan jemu dziano
Wielkiemu temu panu,
A żenie dziano Aglijas;
Ta była ubostwu w czas.
Był […]

id: wolne_lektury_2371920
source: wolne_lektury
added: 2026-06-15
created: 1500-01-01, 2024-12-31
token_count: 219
license: CC-BY-SA-4.0 / Wolna Sztuka 1.3
author: 

Agnieszka Wolny-Hamkało

Nikon i Leica
norwesko-polskie spotkania w ogrodach BUW-u



Kobietą leżącą w fontannie
była Rita Marhaug —
norweska artystka z Bergen,
która nie bała się deszczowej pogody.
W spotkaniach wziął udział
także Jan Mioduszewski: człowiek-drzewo,
artysta otrzaskany w kabale.
Tym razem działał przy pomocy szminki
i symbolicznej symbiozy mocznika
z klejami przemysłowymi. Od początku
był wielki. Jako dziecko bawił się na uboczu
i podobnie jak Francis Bacon — nigdy nie mógł zrozumieć,
dlaczego jego obrazy nie zostały uznane za piękne.

id: wolne_lektury_2373731
source: wolne_lektury
added: 2026-06-15
created: 1500-01-01, 2024-12-31
token_count: 261
license: CC-BY-SA-4.0 / Wolna Sztuka 1.3
author: 

Jan Kochanowski

Fraszki, Księgi wtóre
Do dziewki



Daj, czegoć nie ubędzie, byś nawięcej dała;
Daj, czego próżno dawać potym będziesz chciała,
Kiedyć zmarski twarz zorzą, a gładkie zwierciadło
Okaże to na oko, że cię siła spadło.
Już tam służyć nie będą te pieszczone słowa:
„Stachniczku, duszo moja!” — rychlej: „Bądź mi zdrowa,

Maryja, łaski pełna!” — a w ręku pacierze,
Na jakie przy kościele baba pieniądz bierze.
Teraz możesz leliją piękny włos otoczyć,
Teraz możesz zaśpiewać, możesz w tańcu skoczyć;
Po chwili przydzie druga, którą przejdziesz laty,
I rzeczeć: „Weźm ty kądziel; przystojniej mnie z swaty.”

🤖 Generated with Claude Code