plwiki_talk: label each record CC-BY-SA-3.0 or 4.0 by last revision (v2#57)

#92
by ppuzio - opened
Fabryka AI org

Per-record licence labels for plwiki_talk (slayerlabs/polish-dynaword-v2#57).

v0.2.5 labelled every row CC-BY-SA-4.0. Text contributed under the 2014 Wikimedia Terms of Use is CC BY-SA 3.0, so each row now carries the label of its page's last revision. This is the rule the wikipedia shard uses (rights.license_for_revision, cutoff 2023-06-07 00:00 UTC):

last revision (UTC) license documents tokens
before 2023-06-07 CC-BY-SA-3.0 17,990 13,881,747
2023-06-07 or later CC-BY-SA-4.0 25,064 41,686,986

What changes

  • src/clean_plwiki_talk.py relabels the committed release in place from plwiki_talk.attribution.jsonl last_revision_at; the dump is not re-read. It rewrites:
    • the Parquet license column;
    • attribution license and license_evidence (3.0 cites the 2014 ToU, oldid=98524);
    • the sample license;
    • stats license_counts;
    • checksums.
  • Text, ids and every other column are byte-identical. I checked this column by column against the v0.2.5 Parquet. Rerunning is a no-op. Sidecars keep their CRLF line endings.
  • The script fails if attribution and Parquet rows differ in order, if created ≠ last-revision date, or if a row already has a label other than 4.0 or its new one.
  • src/build_plwiki_talk_pl.py labels per row the same way for future rebuilds. A kept page without a timestamp now stops the build, as for wikipedia. verify() checks every row's label against its attribution record. The card and NOTICE templates are updated to match.
  • Hand-edited before the relabel:
    • data/plwiki_talk/NOTICE.md names both licences.
    • The card gets a Licensing section: the counts table, the §4(b)(ii) note, the 6 boundary-day pages, and Not checked (including GFDL-era text: 1,986 records last edited before 2009-06-15).
  • Registry: license_spdx is MIXED and the traceable text uses the wikipedia wording. rights.py docstring lists plwiki_talk.
  • Tests: new src/test_plwiki_talk_contract.py. It checks the per-row rule, pins the counts, checks stats/sample/checksums against the release, and has relabel unit tests. The builder tests cover both sides of the cutoff, a zoned offset, and a missing timestamp.

Not changed

  • README (line 247 still says CC BY-SA 4.0) and CHANGELOG: left for the release.
  • artifacts/plwiki_talk_ontology_manifest.json describes the v0.2.5 version (…32e81002). It is kept as the record of that version.
  • Registry created: "2002-2026": the data range is 2003-02-13 to 2026-09-01. Not touched here.
  • Pre-existing ruff F401/F841 in build_plwiki_talk_pl.py: not touched here.

pytest: 691 passed.

python src/render_sample.py data/plwiki_talk/plwiki_talk.parquet -n 3:

id: plwiki_talk_2338951
source: plwiki_talk
added: 2026-09-11
created: 2011-06-27
token_count: 243
license: CC-BY-SA-3.0
author: plwiki contributors

Uwaga. Tego znaczenia słowa mordownia nie znalazłem w polskiej literaturze tematu - jest to dosłowne tłumaczenie nazwy z języka francuskiego i przy okazji bułgarskiego. Za tą wersją przemawia także fakt, że słowo assommoir oznacza także knajpę kiepskiej jakości, jak i w polskim. Tego typu pułapek raczej w polskim budownictwie nie ma, choć powinny być - może w zamkach krzyżackich, templariuszy czy śląskich (w twierdzach krzyżowców takie były). Etymologia słowa mordownia jest mi nieznana. Synonimem do mordownia jest słowo katownia, ale mordowanie i katowanie to nieco odległe pojęcia. --Hiuppo (zagadaj) 23:54, 27 cze 2011 (CEST)
id: plwiki_talk_120468
source: plwiki_talk
added: 2026-09-11
created: 2024-07-05
token_count: 1441
license: CC-BY-SA-4.0
author: plwiki contributors

Bałagan

Artykuł jest napisany niestarannie, słabo od strony językowej. Tam, gdzie mogłem, poprawiłem błędy, ale część zdań jest napisana tak, że nie wiadomo, o co w nich chodzi.

Niepokojącą rzeczą jest fakt, że treść artykuły zupełnie nie pokrywa się z angielskim hasłem.--Derbeth 19:32, 24 sty 2005 (CET)

Napisz czego nie rozumiesz to może utworzymy nową wersję.

Na stronie en nie jest dobrze.

StoK 07:53, 24 sty 2005 (CET)

Na czym opierałeś swoją wiedzę o RTTI? Już samo tłumaczenie tego terminu nie przystaje do twojej definicji. Szukając w Google otrzymałem jako wynik mniej więcej to, co jest w haśle angielskim.

Ogólnie, w haśle nie podoba mi się język. Pierwszy paragraf jest napisany niezrozumiale, w zdaniach nie wiadomo, co jest podmiotem, a co jest dopełnieniem, czasami […]
id: plwiki_talk_1304424
source: plwiki_talk
added: 2026-09-11
created: 2026-01-30
token_count: 257
license: CC-BY-SA-4.0
author: plwiki contributors

Nie jestem wikipedystą wybaczcie za taki wpis ale w moim mniemaniu brakuje opisu podstawowych terminów. Np czym jest Dogrywka? Jak to działa? Nie jestem maklerem i takie suche wymienienie elementów sesji mi nic nie mówi. Pozdrawiam
Dodałem link dogrywka (giełda) - dogrywka opisuje termin sportowy - może ktoś kiedyś napisze artykuł wyjaśniający ten termin. Kłaniam się, Sławek Borewicz (dyskusja) 23:57, 4 lip 2013 (CEST)
Aktualnie hasło jest niejako opisane w tym dogrywka i fixing (podmieniłem link), chociaż nie jestem pewien czy nie lepiej opisać to osobno. Czegoś takiego jak "dogrywka i fixing" - 2 w 1 - nie ma :) Stanko (dyskusja) 17:39, 27 sie 2013 (CEST)

🤖 Generated with Claude Code

ppuzio changed pull request status to open
ppuzio changed pull request status to merged
ppuzio deleted the refs/pr/92 ref

Sign up or log in to comment