plwiki_user_talk: label each record CC-BY-SA-3.0 or 4.0 by last revision (v2#57)

#93
by ppuzio - opened
Fabryka AI org

Per-record licence labels for plwiki_user_talk (slayerlabs/polish-dynaword-v2#57). Same change as #92 for plwiki_talk.

v0.2.5 labelled every row CC-BY-SA-4.0. Text contributed under the 2014 Wikimedia Terms of Use is CC BY-SA 3.0, so each row now carries the label of its page's last revision (rights.license_for_revision, cutoff 2023-06-07 00:00 UTC):

last revision (UTC) license documents tokens
before 2023-06-07 CC-BY-SA-3.0 243,773 160,360,307
2023-06-07 or later CC-BY-SA-4.0 136,754 221,084,804

What changes

  • Relabelled in place by python src/clean_plwiki_talk.py plwiki_user_talk (the #92 script, now accepting this source). Labels come from attribution last_revision_at; the dump is not re-read.
    • Only license/license_evidence differ, and only in the 243,773 relabelled attribution records.
    • The Parquet equals the v0.2.5 file in every column except license (same schema, 1 row group, ZSTD).
    • Rerunning is a no-op (sha256 of every file unchanged). Line endings are kept.
  • src/build_plwiki_usertalk_pl.py labels per row for future rebuilds. It imports LICENSE_EVIDENCE and the Terms of Use URLs from the plwiki_talk builder, so both talk slices cite the same evidence. A kept page without a timestamp now stops the build, and verify() checks every row's label against its attribution record. The card, NOTICE and qa templates are updated.
  • Hand-edited before the relabel:
    • NOTICE.md names both licences.
    • The card gets a Licensing section: the counts table, the §4(b)(ii) note, the 53 boundary-day pages, and Not checked (including GFDL-era text: 3,066 records last edited before 2009-06-15).
  • Registry: license_spdx is MIXED, with the same traceable wording as plwiki_talk. The rights.py docstring lists the source.
  • Tests:
    • src/test_plwiki_talk_contract.py is parametrized over both talk slices. It reads only the attribution fields it checks, since the user_talk file is ~500 MB. It pins the user_talk counts above.
    • The builder test covers both sides of the cutoff, a zoned offset, and a missing timestamp. The fixture timestamp gains a zone, since the label rule rejects naive timestamps.

Not changed

  • README (line 244 still says CC BY-SA 4.0) and CHANGELOG: left for the release.
  • artifacts/plwiki_user_talk_ontology_manifest.json: kept as the record of v0.2.5, as in #92.
  • added: the Parquet rows say 2026-09-27 while stats and the registry say 2026-09-11. This is left for v2#80.
  • Pre-existing ruff findings (F401/F841 in the builder, F541 in its test): not touched.

pytest: 698 passed.

python src/render_sample.py data/plwiki_user_talk/plwiki_user_talk.parquet -n 3:

id: plwiki_user_talk_4833912
source: plwiki_user_talk
added: 2026-09-27
created: 2020-06-19
token_count: 588
license: CC-BY-SA-3.0
author: plwiki contributors

Wikipedię można edytować na dwa sposoby. Edytor wizualny jest prostszym, bardziej intuicyjnym narzędziem. Z kolei edytor kodu źródłowego daje dostęp do bardziej zaawansowanych funkcji. Można łatwo przełączać się między nimi. Najłatwiej jest nauczyć się edytowania w praktyce, dlatego też po wykonaniu wybranym sposobem kilku edycji testowych w swoim brudnopisie, śmiało edytuj strony!

W naszych szeregach mamy przewodników, którzy pomogą Ci w Twoich pierwszych edycjach. Wikipedyści odpowiedzą na pytania dotyczące edytowania Wikipedii. Możesz zadać je tutaj. Pomocnych wikipedystów znajdziesz też na naszym czacie.
Jeżeli chcesz samodzielnie szukać stron pomocy, zacznij od tej strony (znajdziesz ją zawsze w menu po lewej: „” ⇒ „”). Możesz też ustawić własne preferencje m.in. dotyczące wyglądu […]
id: plwiki_user_talk_1241628
source: plwiki_user_talk
added: 2026-09-27
created: 2024-12-21
token_count: 323
license: CC-BY-SA-4.0
author: plwiki contributors

Skorzystaj z pomocy przewodnika w świecie Wikipedii
Zapytaj nas na kanale IRC

Przeczytaj jak się ze sobą komunikujemy i nie zapomnij odwiedzić nas na IRC-u: wikipedia-pl oraz na liście dyskusyjnej
Najnowsze informacje o tym, co dzieje się w Wikipedii zamieszczamy na Tablicy Ogłoszeń
W wolnej chwili przeczytaj na czym polega administrowanie projektem, a gdy wolnego czasu będziesz mieć nieco więcej, przyłącz się do kooperacji frame|Wstawianie podpisu
Jeszcze jedna ważna sprawa. Na stronach dyskusji, głosowaniach itp. podpisujemy się poprzez wpisanie ~~~~ (czterech tyld) – można w tym celu użyć odpowiedniego przycisku na pasku edycji (patrz ilustracja obok). Po zapisaniu strony pokaże się Twój nick z linkiem i datą.

Gęba09 (dyskusja) 10:13, 16 lut 2008 (CET)

For those who will wite here […]
id: plwiki_user_talk_4086707
source: plwiki_user_talk
added: 2026-09-27
created: 2024-03-26
token_count: 496
license: CC-BY-SA-4.0
author: plwiki contributors

Wikipedię można edytować na dwa sposoby. Edytor wizualny jest prostszym, bardziej intuicyjnym narzędziem. Z kolei edytor kodu źródłowego daje dostęp do bardziej zaawansowanych funkcji. Można łatwo przełączać się między nimi. Najłatwiej jest nauczyć się edytowania w praktyce, dlatego też po wykonaniu wybranym sposobem kilku edycji testowych w swoim brudnopisie. Śmiało edytuj strony!

... gdzie szukać pomocy? W naszych szeregach mamy przewodników, którzy pomogą Ci w Twoich pierwszych edycjach. Wikipedyści odpowiedzą na pytania dotyczące edytowania Wikipedii. Możesz zadać je tutaj. Pomocnych wikipedystów znajdziesz też na naszym czacie.
Jeżeli chcesz samodzielnie szukać stron pomocy, zacznij od tej strony (znajdziesz ją zawsze w menu po lewej: „” ⇒ „”). Możesz też ustawić własne preferencje […]

🤖 Generated with Claude Code

ppuzio changed pull request status to open
ppuzio changed pull request status to merged
ppuzio deleted the refs/pr/93 ref

Sign up or log in to comment