nonsa: drop namespace 100 Cytaty and <poem> pages (12,304 -> 11,692 docs, v0.2.6 rights audit)

#73
by ppuzio - opened
Fabryka AI org
•
edited 3 days ago

What

nonsa (Nonsensopedia, CC BY-SA 3.0, release: None) loses two classes of pages, per the v0.2.6 rights audit (artifacts/rights_audit_2026-10/REVIEW.html, wikis/nonsa_ns.json, reports/citations/samorzad_nonsa.md). There is no nonsa-specific v2 issue; admission waits for the NERGAL pass (polish-dynaword-v2#60), so the source stays out of the release.

before after change
documents 12,304 11,692 -612
tokens 16,883,883 15,439,683 -1,444,200 (-8.55%)
characters 44,279,318 40,567,986 -3,711,332

Rules

Both rules run on raw wikitext in src/build_nonsa_pl.py, after the QA and dedup gates, so the retained set is the old set minus the dropped rows. acquire records has_poem from the wikitext because strip_code erases the tag; build fails closed if the flag is missing.

rule pages tokens why dropped
third_party_quotations_ns100: namespace 100 "Cytaty" 287 440,332 collections of quotes from named people, films, series and songs; the CC BY-SA grant covers what contributors wrote, not the quoted works
poem_block: wikitext has a <poem tag outside HTML comments, <nowiki> and <pre> 325 1,003,868 verse and lyrics (third-party works), per the audit

Namespace 100 takes precedence when both match. data/nonsa/nonsa.dropped.jsonl (new, 612 rows) lists id, pageid, ns, title, url and reason for each dropped page, because the parquet has no ns column.

Hand-check

Seeded sample (sha256 of handcheck:<id>), 10 per class.

  • Namespace 100, 10 of 10 are quote collections from third parties (Szaranowicz, Franek Kimono, Kononowicz, Makłowicz, Pulp Fiction, Maślana, Łona, Zimoch, Made in China, Dickinson).
  • <poem>, 10 sampled. By my reading 4 are verse or lyrics (Jelcz, Dopalacze, Szczurem a prawdą, Das Kristallnacht) and 6 are not: dialogue jokes (Ślązacy, Mercedes-Benz W140, Dowcipy abstrakcyjne), a game log (Gra:Strona 1235), a quoted forum post, and a line-by-line commentary on a quoted text (NonAnaliza 6 II, 99% of the page inside the tag). Authorship of the verse was not checked.
  • Kept docs: 10 sampled (3 {{cytat}}, 2 <blockquote>, 3 containing "poem*", 2 with song or lyrics words) plus the 2 kept pages that contain <poem (Forum:Mamy już "poem", Forum:Sortowanie w kategoriach). Those 2 discuss the tag inside <nowiki> and are correctly kept. In the sample, the {{cytat}} and lyric hits are one-liners, the blockquotes are a Latin quote and a Chinese verse (authorship not checked), and the "poem*" hits are prose ("poematy", a joke book title) plus the forum page. These show what the filter does not catch; see below.

Needs a maintainer decision

  1. The <poem> rule drops more than verse. It matches 325 pages and 5.95% of the pre-drop tokens, against the audit's "12 documents / 0.5%" (the citations report called that figure not recountable). The tag is also used for jokes, logs and quoted text. I implemented the audit's literal "drop all". A narrower rule needs a per-page review of the 325 listed in nonsa.dropped.jsonl. Recommendation: accept the literal rule for v0.2.6 and review the list before NERGAL if the tokens matter.
  2. Embedded quotes are not covered. 3,293 kept docs (28.2%) use {{cytat}}, {{cytat2}} or {{cquote}} (about 1.7% of wikitext characters in non-nested calls) and 23 use <blockquote>. Plain-text lyrics are not detected. Not reviewed.
  3. 99 of the 11,692 kept pageids are missing from nonsa.pl on 2026-10-06 (deleted after the 2025-10-09 dump). They were deleted for quality or relevance after community votes, none for rights reasons. From the deletion logs of 2026-10-06: 89 results of community deletion votes (SDU), 5 merged into other articles, and 5 single deletions ("not funny", "non-encyclopedic gibberish", "poor quality", "orphaned page", "who needs this"). No log comment and none of the 79 vote pages found contains a copyright, copyvio, plagiarism or author-request term; the nominations of the other 10 votes were not read. 1 more page is now a redirect (turned into a duplicate redirect on 2025-12-13, not deleted). The rows are still in the shard. Not part of the audit action.
  4. Nonźródła, Gra and Forum pages hold parody and quoted text; not reviewed.

Provenance and licence

  • Dump: nonsa.pl-20251009-history.xml.zst, 141,439,904 bytes, archive.org item wiki-nonsa.pl-20251009, sha1 99ed6dc7bd6903adac662a2bb019662da0ec6bc3, verified by the script's acquire.
  • Rebuild check: no tooling drift. All 8 columns of the 11,692 common rows and their attribution rows are identical to the committed shard; the new kept set equals the old set minus the 612 ids. QA stats match the committed ones (7 boilerplate lines, 0 shingles). --added 2026-09-29 pins the committed date.
  • Licence, read-only 2026-10-06: https://nonsa.pl/wiki/Nonsensopedia:Prawa_autorskie (revid 1850937, 2026-03-02) still says Creative Commons Attribution-Share Alike 3.0, and api.php?action=query&meta=siteinfo&siprop=rightsinfo returns the same with http://creativecommons.org/licenses/by-sa/3.0/.
  • Registry provenance in src/sources.py now lists namespaces 0, 102, 104, 106, 108, 110, 114 and says 100 Cytaty and <poem> pages are dropped; release is unchanged. Card nonsa.md, NOTICE.md and artifacts/source_findings.md updated.

Metadata changes besides the row set

  • nonsa.qa.json: scope, limitations, rejection_counts and a new third_party_gate block; wikipedia_shard_overlap changes from "pending" to the overlap dict because the build embeds the committed nonsa.overlap_audit.json.
  • NOTICE.md: CRLF to LF, and the "Changes:" sentence names the drops.
  • nonsa.sample.jsonl: nonsa_214324 was dropped, so one sample row differs.
  • nonsa.stats.json: new values, same key set as before.
  • nonsa.checksums.json regenerated; nonsa.parquet sha256 4981a3e69a62216152a45218e51e71bd05baa633a835197c8dcada5df3355bc2.
  • src/test_build_nonsa_pl.py: the write_test_source helper gained flags, with_poem_flag and a url field; the existing tests are untouched.

Tests

pytest over src/: before 24 failed, 258 passed, 7 errors; after 24 failed, 306 passed, 7 errors. The same 31 failing ids both times (other sources' parquet files are Git-LFS pointers in the worktree). nonsa: 68 pass (60 build tests including 23 has_poem_block cases and the post-dedup invariance and fail-closed checks, plus 8 in the new src/test_nonsa_contract.py: pinned counts, schema, attribution, dropped list, checksums, registry scope).

Sample

python3 src/render_sample.py data/nonsa/nonsa.parquet -n 3

id: nonsa_245232
source: nonsa
added: 2026-09-29
created: 2024-03-17
token_count: 622
license: CC-BY-SA-3.0
author: nonsensopedia contributors

Daewoo

Daewoo Lanos – samochód ten był/jest popularny przez większe zamiłowanie do gazu, niż nasi sąsiedzi w 1945. Produkowany był w Polszy, ale dresy sprowadzali części z Korei, ponieważ Lanos miał tyle samo wyposażenia co jego bracia z FSO.

Wyposażenie

Meduza na ciebie patrzy

Kolorowe zderzaki (po dopłacie);
Instalacja gazowa montowana przez filię Janusz Customs znajdującą się w FSO;
Korbkę do otwierania szyby, którą możemy się bawić wyprzedzając tira z silnikiem 1.4, który miał oszałamiający wynik w 15 sekund do setki (testy były przeprowadzane bez bagażnika wypchanego ziemniakami);
Zgaduję, że krzesła też są wyposażeniem...
Jest też kierownica;
Ponoć niektórzy mają ABS (pytanie tylko, czy chodzi o hamulce);
Teoretycznie występowały elektryczne szyby przednie, ale w praktyce żaden […]
id: nonsa_249734
source: nonsa
added: 2026-09-29
created: 2025-10-03
token_count: 7908
license: CC-BY-SA-3.0
author: nonsensopedia contributors

Zbroja płytowa to podstawa

Zestawienie: średnia temperatura na świecie a liczba rycerzy – wnioski nasuwają się same...

Rycerz – pierwszy metalowiec na świecie uzbrojony w topór i przystosowany do chronienia dziewic. Najczęściej można spotkać go na drogach, w karczmach, imprezach w remizie i grach MMORPG.

Składniki rycerza

Rycerz Ortalionu

Zbroja – swoista puszka dla rycerza;
hełm – mniejszy rodzaj puszki. Wielu rycerzy lubi przyozdabiać hełmy gałęziami kasztanowca;
tarcza – powierzchnia służąca do odbijania piłek i ognia, lub jak sądzą inni, do obrony przed ciosami;
miecz – nożyk do krojenia w większej skali;
buty – najczęściej są to plastikowe buty z bazaru;
koń – mobilny element rycerza, posiada on 4 odnóża oraz twarz, pożera trawę, czego nie robi rycerz właściwy (dlatego w […]
id: nonsa_177282
source: nonsa
added: 2026-09-29
created: 2020-05-02
token_count: 917
license: CC-BY-SA-3.0
author: nonsensopedia contributors

29 lutego 2008

No i nareszcie możemy odetchnąć. Śnieg niech się topi, a przebiśniegi niech rosną. Mistrzostwa Świata Juniorów w Zakopanem nareszcie dobiegły końca. Z imprezy Polacy zatrzymają cztery brązowe medale, choć tak właściwie jeden. Nasza drużyna skoczków narciarskich zajęła dziś bowiem trzecie miejsce.

Mistrzostwa były organizowane w Zakopcu w ostatniej chwili, bo w Szczyrku zepsuły się armatki śnieżne. FIS chciał nam zabrać MŚJ i dać wrednym Szwedom! Na szczęście za niewielką łapówkę zostały one w Polsce. Przynajmniej po części. W Zakopcu rywalizowali skoczkowie i kombinatorzy norwescy. Biegacze pojechali gdzieś chyba do Włoch czy tam Hiszpanii...

Tak czy inaczej było gorąco (12 stopni Celsjusza). Już w środę skoczkowie rywalizowali na skoczni. Wiatr wiał niemiłosiernie. […]

🤖 Generated with Claude Code

ppuzio changed pull request status to open
ppuzio changed pull request status to merged
ppuzio deleted the refs/pr/73 ref

Sign up or log in to comment