Datasets:
plwiki_talk: label each record CC-BY-SA-3.0 or 4.0 by last revision (v2#57)
#92
by ppuzio - opened
Per-record licence labels for plwiki_talk (slayerlabs/polish-dynaword-v2#57).
v0.2.5 labelled every row CC-BY-SA-4.0. Text contributed under the 2014 Wikimedia Terms of Use is CC BY-SA 3.0, so each row now carries the label of its page's last revision. This is the rule the wikipedia shard uses (rights.license_for_revision, cutoff 2023-06-07 00:00 UTC):
| last revision (UTC) | license |
documents | tokens |
|---|---|---|---|
| before 2023-06-07 | CC-BY-SA-3.0 |
17,990 | 13,881,747 |
| 2023-06-07 or later | CC-BY-SA-4.0 |
25,064 | 41,686,986 |
What changes
src/clean_plwiki_talk.pyrelabels the committed release in place fromplwiki_talk.attribution.jsonllast_revision_at; the dump is not re-read. It rewrites:- the Parquet
licensecolumn; - attribution
licenseandlicense_evidence(3.0 cites the 2014 ToU, oldid=98524); - the sample
license; - stats
license_counts; - checksums.
- the Parquet
- Text, ids and every other column are byte-identical. I checked this column by column against the v0.2.5 Parquet. Rerunning is a no-op. Sidecars keep their CRLF line endings.
- The script fails if attribution and Parquet rows differ in order, if
created≠ last-revision date, or if a row already has a label other than 4.0 or its new one. src/build_plwiki_talk_pl.pylabels per row the same way for future rebuilds. A kept page without a timestamp now stops the build, as for wikipedia.verify()checks every row's label against its attribution record. The card and NOTICE templates are updated to match.- Hand-edited before the relabel:
data/plwiki_talk/NOTICE.mdnames both licences.- The card gets a Licensing section: the counts table, the §4(b)(ii) note, the 6 boundary-day pages, and Not checked (including GFDL-era text: 1,986 records last edited before 2009-06-15).
- Registry:
license_spdxisMIXEDand the traceable text uses the wikipedia wording.rights.pydocstring lists plwiki_talk. - Tests: new
src/test_plwiki_talk_contract.py. It checks the per-row rule, pins the counts, checks stats/sample/checksums against the release, and has relabel unit tests. The builder tests cover both sides of the cutoff, a zoned offset, and a missing timestamp.
Not changed
- README (line 247 still says
CC BY-SA 4.0) and CHANGELOG: left for the release. artifacts/plwiki_talk_ontology_manifest.jsondescribes the v0.2.5 version (…32e81002). It is kept as the record of that version.- Registry
created: "2002-2026": the data range is 2003-02-13 to 2026-09-01. Not touched here. - Pre-existing ruff F401/F841 in
build_plwiki_talk_pl.py: not touched here.
pytest: 691 passed.
python src/render_sample.py data/plwiki_talk/plwiki_talk.parquet -n 3:
id: plwiki_talk_2338951
source: plwiki_talk
added: 2026-09-11
created: 2011-06-27
token_count: 243
license: CC-BY-SA-3.0
author: plwiki contributors
Uwaga. Tego znaczenia słowa mordownia nie znalazłem w polskiej literaturze tematu - jest to dosłowne tłumaczenie nazwy z języka francuskiego i przy okazji bułgarskiego. Za tą wersją przemawia także fakt, że słowo assommoir oznacza także knajpę kiepskiej jakości, jak i w polskim. Tego typu pułapek raczej w polskim budownictwie nie ma, choć powinny być - może w zamkach krzyżackich, templariuszy czy śląskich (w twierdzach krzyżowców takie były). Etymologia słowa mordownia jest mi nieznana. Synonimem do mordownia jest słowo katownia, ale mordowanie i katowanie to nieco odległe pojęcia. --Hiuppo (zagadaj) 23:54, 27 cze 2011 (CEST)
id: plwiki_talk_120468
source: plwiki_talk
added: 2026-09-11
created: 2024-07-05
token_count: 1441
license: CC-BY-SA-4.0
author: plwiki contributors
Bałagan
Artykuł jest napisany niestarannie, słabo od strony językowej. Tam, gdzie mogłem, poprawiłem błędy, ale część zdań jest napisana tak, że nie wiadomo, o co w nich chodzi.
Niepokojącą rzeczą jest fakt, że treść artykuły zupełnie nie pokrywa się z angielskim hasłem.--Derbeth 19:32, 24 sty 2005 (CET)
Napisz czego nie rozumiesz to może utworzymy nową wersję.
Na stronie en nie jest dobrze.
StoK 07:53, 24 sty 2005 (CET)
Na czym opierałeś swoją wiedzę o RTTI? Już samo tłumaczenie tego terminu nie przystaje do twojej definicji. Szukając w Google otrzymałem jako wynik mniej więcej to, co jest w haśle angielskim.
Ogólnie, w haśle nie podoba mi się język. Pierwszy paragraf jest napisany niezrozumiale, w zdaniach nie wiadomo, co jest podmiotem, a co jest dopełnieniem, czasami […]
id: plwiki_talk_1304424
source: plwiki_talk
added: 2026-09-11
created: 2026-01-30
token_count: 257
license: CC-BY-SA-4.0
author: plwiki contributors
Nie jestem wikipedystą wybaczcie za taki wpis ale w moim mniemaniu brakuje opisu podstawowych terminów. Np czym jest Dogrywka? Jak to działa? Nie jestem maklerem i takie suche wymienienie elementów sesji mi nic nie mówi. Pozdrawiam
Dodałem link dogrywka (giełda) - dogrywka opisuje termin sportowy - może ktoś kiedyś napisze artykuł wyjaśniający ten termin. Kłaniam się, Sławek Borewicz (dyskusja) 23:57, 4 lip 2013 (CEST)
Aktualnie hasło jest niejako opisane w tym dogrywka i fixing (podmieniłem link), chociaż nie jestem pewien czy nie lepiej opisać to osobno. Czegoś takiego jak "dogrywka i fixing" - 2 w 1 - nie ma :) Stanko (dyskusja) 17:39, 27 sie 2013 (CEST)
🤖 Generated with Claude Code
ppuzio changed pull request status to open
ppuzio changed pull request status to merged
ppuzio deleted the
refs/pr/92 ref