Datasets:
plwiki_user_talk: label each record CC-BY-SA-3.0 or 4.0 by last revision (v2#57)
#93
by ppuzio - opened
Per-record licence labels for plwiki_user_talk (slayerlabs/polish-dynaword-v2#57). Same change as #92 for plwiki_talk.
v0.2.5 labelled every row CC-BY-SA-4.0. Text contributed under the 2014 Wikimedia Terms of Use is CC BY-SA 3.0, so each row now carries the label of its page's last revision (rights.license_for_revision, cutoff 2023-06-07 00:00 UTC):
| last revision (UTC) | license |
documents | tokens |
|---|---|---|---|
| before 2023-06-07 | CC-BY-SA-3.0 |
243,773 | 160,360,307 |
| 2023-06-07 or later | CC-BY-SA-4.0 |
136,754 | 221,084,804 |
What changes
- Relabelled in place by
python src/clean_plwiki_talk.py plwiki_user_talk(the #92 script, now accepting this source). Labels come from attributionlast_revision_at; the dump is not re-read.- Only
license/license_evidencediffer, and only in the 243,773 relabelled attribution records. - The Parquet equals the v0.2.5 file in every column except
license(same schema, 1 row group, ZSTD). - Rerunning is a no-op (sha256 of every file unchanged). Line endings are kept.
- Only
src/build_plwiki_usertalk_pl.pylabels per row for future rebuilds. It importsLICENSE_EVIDENCEand the Terms of Use URLs from the plwiki_talk builder, so both talk slices cite the same evidence. A kept page without a timestamp now stops the build, andverify()checks every row's label against its attribution record. The card, NOTICE and qa templates are updated.- Hand-edited before the relabel:
NOTICE.mdnames both licences.- The card gets a Licensing section: the counts table, the §4(b)(ii) note, the 53 boundary-day pages, and Not checked (including GFDL-era text: 3,066 records last edited before 2009-06-15).
- Registry:
license_spdxisMIXED, with the same traceable wording as plwiki_talk. Therights.pydocstring lists the source. - Tests:
src/test_plwiki_talk_contract.pyis parametrized over both talk slices. It reads only the attribution fields it checks, since the user_talk file is ~500 MB. It pins the user_talk counts above.- The builder test covers both sides of the cutoff, a zoned offset, and a missing timestamp. The fixture timestamp gains a zone, since the label rule rejects naive timestamps.
Not changed
- README (line 244 still says
CC BY-SA 4.0) and CHANGELOG: left for the release. artifacts/plwiki_user_talk_ontology_manifest.json: kept as the record of v0.2.5, as in #92.added: the Parquet rows say2026-09-27while stats and the registry say2026-09-11. This is left for v2#80.- Pre-existing ruff findings (F401/F841 in the builder, F541 in its test): not touched.
pytest: 698 passed.
python src/render_sample.py data/plwiki_user_talk/plwiki_user_talk.parquet -n 3:
id: plwiki_user_talk_4833912
source: plwiki_user_talk
added: 2026-09-27
created: 2020-06-19
token_count: 588
license: CC-BY-SA-3.0
author: plwiki contributors
Wikipedię można edytować na dwa sposoby. Edytor wizualny jest prostszym, bardziej intuicyjnym narzędziem. Z kolei edytor kodu źródłowego daje dostęp do bardziej zaawansowanych funkcji. Można łatwo przełączać się między nimi. Najłatwiej jest nauczyć się edytowania w praktyce, dlatego też po wykonaniu wybranym sposobem kilku edycji testowych w swoim brudnopisie, śmiało edytuj strony!
W naszych szeregach mamy przewodników, którzy pomogą Ci w Twoich pierwszych edycjach. Wikipedyści odpowiedzą na pytania dotyczące edytowania Wikipedii. Możesz zadać je tutaj. Pomocnych wikipedystów znajdziesz też na naszym czacie.
Jeżeli chcesz samodzielnie szukać stron pomocy, zacznij od tej strony (znajdziesz ją zawsze w menu po lewej: „” ⇒ „”). Możesz też ustawić własne preferencje m.in. dotyczące wyglądu […]
id: plwiki_user_talk_1241628
source: plwiki_user_talk
added: 2026-09-27
created: 2024-12-21
token_count: 323
license: CC-BY-SA-4.0
author: plwiki contributors
Skorzystaj z pomocy przewodnika w świecie Wikipedii
Zapytaj nas na kanale IRC
Przeczytaj jak się ze sobą komunikujemy i nie zapomnij odwiedzić nas na IRC-u: wikipedia-pl oraz na liście dyskusyjnej
Najnowsze informacje o tym, co dzieje się w Wikipedii zamieszczamy na Tablicy Ogłoszeń
W wolnej chwili przeczytaj na czym polega administrowanie projektem, a gdy wolnego czasu będziesz mieć nieco więcej, przyłącz się do kooperacji frame|Wstawianie podpisu
Jeszcze jedna ważna sprawa. Na stronach dyskusji, głosowaniach itp. podpisujemy się poprzez wpisanie ~~~~ (czterech tyld) – można w tym celu użyć odpowiedniego przycisku na pasku edycji (patrz ilustracja obok). Po zapisaniu strony pokaże się Twój nick z linkiem i datą.
Gęba09 (dyskusja) 10:13, 16 lut 2008 (CET)
For those who will wite here […]
id: plwiki_user_talk_4086707
source: plwiki_user_talk
added: 2026-09-27
created: 2024-03-26
token_count: 496
license: CC-BY-SA-4.0
author: plwiki contributors
Wikipedię można edytować na dwa sposoby. Edytor wizualny jest prostszym, bardziej intuicyjnym narzędziem. Z kolei edytor kodu źródłowego daje dostęp do bardziej zaawansowanych funkcji. Można łatwo przełączać się między nimi. Najłatwiej jest nauczyć się edytowania w praktyce, dlatego też po wykonaniu wybranym sposobem kilku edycji testowych w swoim brudnopisie. Śmiało edytuj strony!
... gdzie szukać pomocy? W naszych szeregach mamy przewodników, którzy pomogą Ci w Twoich pierwszych edycjach. Wikipedyści odpowiedzą na pytania dotyczące edytowania Wikipedii. Możesz zadać je tutaj. Pomocnych wikipedystów znajdziesz też na naszym czacie.
Jeżeli chcesz samodzielnie szukać stron pomocy, zacznij od tej strony (znajdziesz ją zawsze w menu po lewej: „” ⇒ „”). Możesz też ustawić własne preferencje […]
🤖 Generated with Claude Code
ppuzio changed pull request status to open
ppuzio changed pull request status to merged
ppuzio deleted the
refs/pr/93 ref