Add plwiki user-talk pages (ns 3) - conversational Polish
#40
by PiotrSty - opened
- artifacts/plwiki_user_talk_ontology_manifest.json +128 -0
- artifacts/source_findings.md +34 -0
- data/plwiki_user_talk/NOTICE.md +7 -0
- data/plwiki_user_talk/plwiki_user_talk.attribution.jsonl +3 -0
- data/plwiki_user_talk/plwiki_user_talk.checksums.json +11 -0
- data/plwiki_user_talk/plwiki_user_talk.decisions.jsonl +3 -0
- data/plwiki_user_talk/plwiki_user_talk.md +106 -0
- data/plwiki_user_talk/plwiki_user_talk.overlap_audit.json +11 -0
- data/plwiki_user_talk/plwiki_user_talk.parquet +3 -0
- data/plwiki_user_talk/plwiki_user_talk.qa.json +18 -0
- data/plwiki_user_talk/plwiki_user_talk.sample.jsonl +12 -0
- data/plwiki_user_talk/plwiki_user_talk.stats.json +15 -0
- src/build_plwiki_usertalk_pl.py +868 -0
- src/plwiki_usertalk_requirements.txt +7 -0
- src/sources.py +15 -0
- src/test_build_plwiki_usertalk_pl.py +191 -0
artifacts/plwiki_user_talk_ontology_manifest.json
ADDED
|
@@ -0,0 +1,128 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"actors": [
|
| 3 |
+
{
|
| 4 |
+
"id": "actor:piotrsty",
|
| 5 |
+
"type": "Contributor"
|
| 6 |
+
},
|
| 7 |
+
{
|
| 8 |
+
"id": "actor:wikimedia",
|
| 9 |
+
"type": "Organization"
|
| 10 |
+
},
|
| 11 |
+
{
|
| 12 |
+
"id": "actor:devin",
|
| 13 |
+
"type": "Agent"
|
| 14 |
+
}
|
| 15 |
+
],
|
| 16 |
+
"claims": [
|
| 17 |
+
{
|
| 18 |
+
"falsification_condition": "The pinned Parquet or decisions do not reproduce this count.",
|
| 19 |
+
"id": "claim:plw-usertalk-target-retention",
|
| 20 |
+
"statement": "The proposed DynaWord slice contains 380527 records.",
|
| 21 |
+
"supported_by": [
|
| 22 |
+
"evidence:plw-usertalk-target-stats:905b95a96a242d4c4c292493cf80c4ff1cf67881548759ebe840dc1993f2a9dc"
|
| 23 |
+
]
|
| 24 |
+
},
|
| 25 |
+
{
|
| 26 |
+
"falsification_condition": "Target-wide text deduplication and controlled ablations establish those properties.",
|
| 27 |
+
"id": "claim:plw-talk-training-value-untested",
|
| 28 |
+
"statement": "Net text novelty and training benefit remain untested hypotheses; quoted-fragment overlap vs wikipedia is untested.",
|
| 29 |
+
"supported_by": [
|
| 30 |
+
"evidence:plw-usertalk-target-overlap:07646d3e103fb1d39f119448102893683112e9cb83c4d638694b51e64fe1d0b4"
|
| 31 |
+
]
|
| 32 |
+
}
|
| 33 |
+
],
|
| 34 |
+
"evidence": [
|
| 35 |
+
{
|
| 36 |
+
"artifact": "data/plwiki_user_talk/plwiki_user_talk.stats.json",
|
| 37 |
+
"content_address": "905b95a96a242d4c4c292493cf80c4ff1cf67881548759ebe840dc1993f2a9dc",
|
| 38 |
+
"id": "evidence:plw-usertalk-target-stats:905b95a96a242d4c4c292493cf80c4ff1cf67881548759ebe840dc1993f2a9dc",
|
| 39 |
+
"observation_type": "target_slice_counts",
|
| 40 |
+
"produced_by": "run:plwiki-usertalk-dynaword-integration:905b95a96a242d4c4c292493cf80c4ff1cf67881548759ebe840dc1993f2a9dc"
|
| 41 |
+
},
|
| 42 |
+
{
|
| 43 |
+
"artifact": "data/plwiki_user_talk/plwiki_user_talk.overlap_audit.json",
|
| 44 |
+
"content_address": "07646d3e103fb1d39f119448102893683112e9cb83c4d638694b51e64fe1d0b4",
|
| 45 |
+
"id": "evidence:plw-usertalk-target-overlap:07646d3e103fb1d39f119448102893683112e9cb83c4d638694b51e64fe1d0b4",
|
| 46 |
+
"observation_type": "namespace_overlap_audit",
|
| 47 |
+
"produced_by": "run:plwiki-usertalk-dynaword-integration:905b95a96a242d4c4c292493cf80c4ff1cf67881548759ebe840dc1993f2a9dc"
|
| 48 |
+
}
|
| 49 |
+
],
|
| 50 |
+
"objects": [
|
| 51 |
+
{
|
| 52 |
+
"id": "object:dataset:plwiki-user-talk",
|
| 53 |
+
"type": "Dataset"
|
| 54 |
+
},
|
| 55 |
+
{
|
| 56 |
+
"id": "object:dataset:plwiki-usertalk-dynaword-slice",
|
| 57 |
+
"type": "Dataset"
|
| 58 |
+
}
|
| 59 |
+
],
|
| 60 |
+
"pending": [
|
| 61 |
+
"quoted-fragment dedup vs wikipedia shard",
|
| 62 |
+
"cross-source text deduplication",
|
| 63 |
+
"benchmark contamination check",
|
| 64 |
+
"abuse/vandalism screening",
|
| 65 |
+
"controlled training ablation"
|
| 66 |
+
],
|
| 67 |
+
"protocols": [
|
| 68 |
+
{
|
| 69 |
+
"id": "protocol:plwiki-usertalk-dynaword-integration-v1",
|
| 70 |
+
"procedure": "carry over the source slice verbatim; namespace disjointness already audited vs wikipedia shard"
|
| 71 |
+
}
|
| 72 |
+
],
|
| 73 |
+
"relations": [
|
| 74 |
+
{
|
| 75 |
+
"predicate": "DERIVED_FROM",
|
| 76 |
+
"source": "version:dataset:plwiki-usertalk-dynaword:88a7d272937660976f5e8f6f86f833d6298432d77f4941248eb873bc7e305628",
|
| 77 |
+
"target": "hf:dataset:PiotrSty/plwiki-user-talk-pages@8d12dbc8134dcfe777937e75e562e1b58033f20a"
|
| 78 |
+
},
|
| 79 |
+
{
|
| 80 |
+
"predicate": "GENERATED_BY",
|
| 81 |
+
"source": "version:dataset:plwiki-usertalk-dynaword:88a7d272937660976f5e8f6f86f833d6298432d77f4941248eb873bc7e305628",
|
| 82 |
+
"target": "run:plwiki-usertalk-dynaword-integration:905b95a96a242d4c4c292493cf80c4ff1cf67881548759ebe840dc1993f2a9dc"
|
| 83 |
+
},
|
| 84 |
+
{
|
| 85 |
+
"predicate": "VALIDATED_AGAINST",
|
| 86 |
+
"source": "version:dataset:plwiki-usertalk-dynaword:88a7d272937660976f5e8f6f86f833d6298432d77f4941248eb873bc7e305628",
|
| 87 |
+
"target": "hf:dataset:SlayerLab/polish-dynaword@1564cb054434ba049cbd0d355a9bfaf044b6a852"
|
| 88 |
+
}
|
| 89 |
+
],
|
| 90 |
+
"runs": [
|
| 91 |
+
{
|
| 92 |
+
"actor": "actor:devin",
|
| 93 |
+
"finished_at": "2026-09-28T06:30:03.288867+00:00",
|
| 94 |
+
"id": "run:plwiki-usertalk-dynaword-integration:905b95a96a242d4c4c292493cf80c4ff1cf67881548759ebe840dc1993f2a9dc",
|
| 95 |
+
"protocol": "protocol:plwiki-usertalk-dynaword-integration-v1",
|
| 96 |
+
"started_at": "2026-09-28T06:30:03.288867+00:00",
|
| 97 |
+
"stats": {
|
| 98 |
+
"added": "2026-09-11",
|
| 99 |
+
"boilerplate_lines_removed": 83,
|
| 100 |
+
"characters": 1020728459,
|
| 101 |
+
"dump_date": "20260901",
|
| 102 |
+
"kept": 380527,
|
| 103 |
+
"license_counts": {
|
| 104 |
+
"CC-BY-SA-4.0": 380527
|
| 105 |
+
},
|
| 106 |
+
"sample_count": 12,
|
| 107 |
+
"source_slice_kept": 380527,
|
| 108 |
+
"talk_pages": 450867,
|
| 109 |
+
"target_revision": "1564cb054434ba049cbd0d355a9bfaf044b6a852",
|
| 110 |
+
"tokens": 381445111
|
| 111 |
+
},
|
| 112 |
+
"success": true
|
| 113 |
+
}
|
| 114 |
+
],
|
| 115 |
+
"schema": "slayer-research-ontology-profile-v1",
|
| 116 |
+
"versions": [
|
| 117 |
+
{
|
| 118 |
+
"content_address": "8d12dbc8134dcfe777937e75e562e1b58033f20a",
|
| 119 |
+
"id": "hf:dataset:PiotrSty/plwiki-user-talk-pages@8d12dbc8134dcfe777937e75e562e1b58033f20a",
|
| 120 |
+
"object": "object:dataset:plwiki-user-talk"
|
| 121 |
+
},
|
| 122 |
+
{
|
| 123 |
+
"content_address": "88a7d272937660976f5e8f6f86f833d6298432d77f4941248eb873bc7e305628",
|
| 124 |
+
"id": "version:dataset:plwiki-usertalk-dynaword:88a7d272937660976f5e8f6f86f833d6298432d77f4941248eb873bc7e305628",
|
| 125 |
+
"object": "object:dataset:plwiki-usertalk-dynaword-slice"
|
| 126 |
+
}
|
| 127 |
+
]
|
| 128 |
+
}
|
artifacts/source_findings.md
CHANGED
|
@@ -750,3 +750,37 @@ cross-shard dedup per the measured overlap with `plwiki_user_talk` / `wikipedia`
|
|
| 750 |
text-level repetition: talk pages quote article text and share templated notices
|
| 751 |
across namespaces. Measure overlap at text level before claiming novelty — the
|
| 752 |
ID-only audit said "0 collisions" and proved nothing.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 750 |
text-level repetition: talk pages quote article text and share templated notices
|
| 751 |
across namespaces. Measure overlap at text level before claiming novelty — the
|
| 752 |
ID-only audit said "0 collisions" and proved nothing.
|
| 753 |
+
|
| 754 |
+
---
|
| 755 |
+
|
| 756 |
+
## plwiki_user_talk — Polish Wikipedia user talk, ns 3
|
| 757 |
+
|
| 758 |
+
**Investigated** — 2026-09-11 (review round 2026-09-28).
|
| 759 |
+
|
| 760 |
+
**Verdict** — `added` (proposed with `release: None`). 380,527 records / 381.4M
|
| 761 |
+
`cl100k_base` tokens of **user-generated** editor-to-editor conversation — a
|
| 762 |
+
register the corpus otherwise does not draw from.
|
| 763 |
+
|
| 764 |
+
**Enumeration** — official dump `plwiki-20260901-pages-meta-current`, 7
|
| 765 |
+
sha1-verified shards against `dumpstatus.json`; ns=3 non-redirect pages with
|
| 766 |
+
text = 450,867 candidates. Rebuilt deterministically by
|
| 767 |
+
`src/build_plwiki_usertalk_pl.py` from the pinned shards.
|
| 768 |
+
|
| 769 |
+
**License evidence** — Wikimedia Terms of Use section 7 (community content under
|
| 770 |
+
CC BY-SA 4.0):
|
| 771 |
+
<https://foundation.wikimedia.org/w/index.php?title=Policy:Terms_of_Use/pl&oldid=584706>
|
| 772 |
+
(verified, HTTP 200). Per-record canonical page URL + page history is the
|
| 773 |
+
attribution trail, pinned in `attribution.jsonl` (380,527 lines, LFS).
|
| 774 |
+
|
| 775 |
+
**Blockers** — none to merge with `release: None`. Before release: a NERGAL pass
|
| 776 |
+
(user-generated conversation is the policy's core case; the in-build redaction is
|
| 777 |
+
patterns only and a 60-record residual spot check found 0 hits but covers 0.016%),
|
| 778 |
+
and cross-shard cleanup against `plwiki_talk` for 47 shared long notice lines
|
| 779 |
+
(99.3% of the measured ns3↔ns1/5 line overlap; genuine thread copies are ~0.13% of
|
| 780 |
+
user-talk chars).
|
| 781 |
+
|
| 782 |
+
**Lesson** — text-level overlap audits beat ID audits: the ID comparison reported
|
| 783 |
+
"0 collisions", the text pass found 28.7% char containment against `plwiki_talk` —
|
| 784 |
+
99.3% of it just 47 template/notice lines shared across namespaces. Also:
|
| 785 |
+
line-level boilerplate rules need their length cap revisited (the <160-char rule
|
| 786 |
+
lets long templated notices survive in both corpora).
|
data/plwiki_user_talk/NOTICE.md
ADDED
|
@@ -0,0 +1,7 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# Attribution and license notice
|
| 2 |
+
|
| 3 |
+
Source: Polish Wikipedia user-talk pages, https://pl.wikipedia.org/ - Wikimedia Foundation.
|
| 4 |
+
|
| 5 |
+
Text is available under the Creative Commons Attribution-ShareAlike 4.0 License (https://creativecommons.org/licenses/by-sa/4.0/). Attribution is provided via the per-record canonical page URL in `artifacts/attribution.jsonl`; each page's revision history lists its contributors.
|
| 6 |
+
|
| 7 |
+
Preparation: Piotr Styla with Devin. Changes: namespace filtering (3), wikitext stripping, cross-document boilerplate removal, Unicode and whitespace normalization, limited email/labelled-phone/IP/labelled-national-ID/account-candidate redaction, language/quality filtering and within-source deduplication. No endorsement by the Wikimedia Foundation or page contributors is implied.
|
data/plwiki_user_talk/plwiki_user_talk.attribution.jsonl
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:bc47500c82942a1d19381ca1a2594a3fcb1df263b277631f8ab705aeb42faefc
|
| 3 |
+
size 499619833
|
data/plwiki_user_talk/plwiki_user_talk.checksums.json
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"NOTICE.md": "2fcba8e207910977eb14af2b499a5b236b362e56ba08573fdc838504b17a5a5d",
|
| 3 |
+
"plwiki_user_talk.attribution.jsonl": "bc47500c82942a1d19381ca1a2594a3fcb1df263b277631f8ab705aeb42faefc",
|
| 4 |
+
"plwiki_user_talk.decisions.jsonl": "665abafcda6e134125d7a3754b5e43baea92ebd4ea440757c8553de68a3ff2f7",
|
| 5 |
+
"plwiki_user_talk.md": "a5bda803dc2e77aa6bf7ea16ffd4a351d978dba4e6374281ba6e10520ca8cdab",
|
| 6 |
+
"plwiki_user_talk.overlap_audit.json": "52bbe088455f25ed082470c8ffd93ddcebfef633f514cf3c6dc565afc35afc6e",
|
| 7 |
+
"plwiki_user_talk.parquet": "88a7d272937660976f5e8f6f86f833d6298432d77f4941248eb873bc7e305628",
|
| 8 |
+
"plwiki_user_talk.qa.json": "8acc1b816c06058bb48a7f6af2b839ae0627aa46f738d5aa8586fab1322f6115",
|
| 9 |
+
"plwiki_user_talk.sample.jsonl": "76fcb9b5b4ad571246debbae5b0669dafa08f4ceed4370de05f70b5658b02b31",
|
| 10 |
+
"plwiki_user_talk.stats.json": "435f31ddf2f1d3bf45784e9eb771f3b0698bfc35d9340c651e80172cb06b1bc5"
|
| 11 |
+
}
|
data/plwiki_user_talk/plwiki_user_talk.decisions.jsonl
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:665abafcda6e134125d7a3754b5e43baea92ebd4ea440757c8553de68a3ff2f7
|
| 3 |
+
size 137151555
|
data/plwiki_user_talk/plwiki_user_talk.md
ADDED
|
@@ -0,0 +1,106 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# Polish Wikipedia user-talk pages (namespace 3) - CC BY-SA 4.0
|
| 2 |
+
|
| 3 |
+
This slice is rebuilt deterministically from the pinned official Wikimedia dump
|
| 4 |
+
`plwiki-20260901-pages-meta-current` (7 sha1-verified shards;
|
| 5 |
+
https://dumps.wikimedia.org/plwiki/20260901/). Scope is namespace 3
|
| 6 |
+
(user talk); mainspace (ns=0) is covered by the existing
|
| 7 |
+
`wikipedia` shard and article/project talk (ns=1,5) ships as the separate
|
| 8 |
+
plwiki_talk slice. This is conversational written Polish - editor-to-editor
|
| 9 |
+
messages, welcome notices, warnings, disputes, thanks and informal
|
| 10 |
+
coordination - a register otherwise nearly absent from the corpus.
|
| 11 |
+
|
| 12 |
+
- Non-redirect user-talk pages enumerated: 450,867
|
| 13 |
+
- Source slice retained after QA/dedup: 380,527
|
| 14 |
+
- Proposed records: 380,527
|
| 15 |
+
- Proposed tokens: 381,445,111 (`cl100k_base` proxy)
|
| 16 |
+
- Characters: 1,020,728,459
|
| 17 |
+
- License: CC BY-SA 4.0 per record (Wikimedia Terms of Use section 7: https://foundation.wikimedia.org/w/index.php?title=Policy:Terms_of_Use/pl&oldid=584706)
|
| 18 |
+
- Immutable source snapshot: https://huggingface.co/datasets/PiotrSty/plwiki-user-talk-pages/tree/8d12dbc8134dcfe777937e75e562e1b58033f20a
|
| 19 |
+
|
| 20 |
+
Per-record page id, title, namespace, last-revision timestamp and canonical URL
|
| 21 |
+
are preserved; page history is the contributor-attribution trail. Wikitext is
|
| 22 |
+
stripped with mwparserfromhell; lines occurring in >=1% of documents are removed
|
| 23 |
+
as cross-document boilerplate; emails, labelled phones, IP literals, labelled
|
| 24 |
+
national identifiers and 26-digit account candidates are redacted (pattern
|
| 25 |
+
redaction is not complete anonymization); exact and near deduplication applied
|
| 26 |
+
within source. The article-talk (ns=1) and project-talk (ns=5)
|
| 27 |
+
namespaces are excluded by scope decision; they ship as the separate
|
| 28 |
+
plwiki_talk slice.
|
| 29 |
+
|
| 30 |
+
## What the texts are (user-generated)
|
| 31 |
+
|
| 32 |
+
These are **user-generated** texts: messages written by volunteer Wikipedia
|
| 33 |
+
editors on each other's user-talk pages. Genre: editor-to-editor conversation —
|
| 34 |
+
help threads, article-source requests, edit discussions and disputes, thanks,
|
| 35 |
+
adminship debates, and templated bot notices (welcome, warning, account-renaming
|
| 36 |
+
announcements). Register: informal written Polish — typos, abbreviations,
|
| 37 |
+
occasional vulgarity and vandalism residue; signed comments (`user name +
|
| 38 |
+
timestamp`) are the norm and are kept. Not OCR'd, not machine-translated.
|
| 39 |
+
|
| 40 |
+
## Time span of the content
|
| 41 |
+
|
| 42 |
+
The content is dated by its own signatures, not only by the dump: 379,443 of
|
| 43 |
+
380,527 records contain wiki-signature timestamps spanning **2002-12 to 2026-09**
|
| 44 |
+
(the bulk falls in 2005-2026; the ~50 pre-2002 date strings found in the scan
|
| 45 |
+
are quoted historical dates - plwiki launched 2001-09). Per-record `created` is
|
| 46 |
+
the dump last-revision date (2002-12-11 - 2026-09-01). Measured by
|
| 47 |
+
signature/date extraction over all texts (per-year counts in the review thread).
|
| 48 |
+
|
| 49 |
+
## Scrubber and residual-PII spot check
|
| 50 |
+
|
| 51 |
+
Scrubber that ran: **pattern redaction `redact_pii()` in
|
| 52 |
+
`src/build_plwiki_usertalk_pl.py`** - e-mail, labelled phone (`telefon`/`tel.`/
|
| 53 |
+
`phone`), IPv4, parsed IPv6 (incl. compressed notation), labelled
|
| 54 |
+
PESEL/NIP/REGON, 26-digit account candidates -> `[REDACTED:*]`. This is **not**
|
| 55 |
+
[SlayerLab/NERGAL](https://huggingface.co/SlayerLab/NERGAL); the shard must be
|
| 56 |
+
re-run through NERGAL before it is admitted to a release.
|
| 57 |
+
|
| 58 |
+
Residual-PII spot check (deterministic sample of 60 records, seed 20260928):
|
| 59 |
+
0 hits on residual classes not covered above (bare 9-15-digit runs, 26-digit
|
| 60 |
+
runs, IBAN-like strings, unlabelled IPs, e-mail-like strings incl. obfuscated
|
| 61 |
+
"at"/"małpa" forms, `ul.`/`al.`/`os.` street cues, GG/ICQ/Skype handles, PESEL
|
| 62 |
+
mentions); 3 `[REDACTED:*]` placeholders remain as evidence of the applied
|
| 63 |
+
redaction. Manual reading of 8 sampled records found only public wiki
|
| 64 |
+
attribution (editor user names and timestamps in signatures - the CC BY-SA
|
| 65 |
+
credit trail) and no private personal data. Residual risk is low but non-zero
|
| 66 |
+
(60 of 380,527 records, 0.016%; free text can carry data no pattern catches),
|
| 67 |
+
which is why the NERGAL pass stays a release gate.
|
| 68 |
+
|
| 69 |
+
## Text overlap with the wikipedia / plwiki_talk shards (review audit)
|
| 70 |
+
|
| 71 |
+
Measured post-build by normalized exact-line and exact-paragraph containment
|
| 72 |
+
(64-bit blake2b; lines >= 30 chars, paragraphs >= 100 chars; exact-verbatim only):
|
| 73 |
+
|
| 74 |
+
- vs `wikipedia` (ns 0): 469 of 4,218,161 user-talk lines match (61,106 chars =
|
| 75 |
+
**0.006%** of user-talk chars); 0 paragraphs. Verbatim article quoting in talk
|
| 76 |
+
pages is negligible at this unit size.
|
| 77 |
+
- vs `plwiki_talk` (ns 1,5): headline line-char containment is 28.7% (286,157,711
|
| 78 |
+
chars), but it concentrates in **47 distinct long notice/template lines** that
|
| 79 |
+
occur on 500+ user-talk pages each - 284,115,864 occurrence chars = **99.3% of
|
| 80 |
+
the matched chars**. These lines are longer than the 160-char line-boilerplate
|
| 81 |
+
cap, so the build-time rule did not drop them. All other matched lines (4,725
|
| 82 |
+
distinct) account for 2,041,847 occurrence chars = **0.2%** of user-talk chars;
|
| 83 |
+
thread copies and genuine quotes (lines on at most 4 pages) are 1,253,089 chars =
|
| 84 |
+
**0.13%**.
|
| 85 |
+
|
| 86 |
+
Integration gate: at target integration, drop or dedup the shared long notice
|
| 87 |
+
lines against `plwiki_talk`; the residual cross-namespace thread duplication
|
| 88 |
+
(~0.1-0.2%) can ride along with the ordinary cross-source dedup pass. Method and
|
| 89 |
+
numbers are in the review thread (`overlap_check.py`, `overlap_frequency.py`).
|
| 90 |
+
|
| 91 |
+
## Audit trail
|
| 92 |
+
|
| 93 |
+
The per-record trail ships in this repo: `plwiki_user_talk.attribution.jsonl`
|
| 94 |
+
(380,527 lines) and `plwiki_user_talk.decisions.jsonl` (450,867 lines) are LFS
|
| 95 |
+
files under `.gitattributes` (`data/*/*.attribution.jsonl`,
|
| 96 |
+
`data/*/*.decisions.jsonl`), so the PR diff shows pointer text while the Hub
|
| 97 |
+
resolves the full content at the file view. Both are reproduced byte-for-byte by
|
| 98 |
+
`src/build_plwiki_usertalk_pl.py` from the pinned dump; `plwiki_user_talk.checksums.json`
|
| 99 |
+
pins their digests.
|
| 100 |
+
|
| 101 |
+
Limitations: user-talk pages are informal (typos, bot notices, templated warnings,
|
| 102 |
+
edit disputes, occasional vandalism);
|
| 103 |
+
comments may quote article text (measured at review: 0.006% of chars match the
|
| 104 |
+
`wikipedia` shard verbatim at line level; the larger overlap is shared long
|
| 105 |
+
notice/template text with `plwiki_talk` - see the overlap audit section);
|
| 106 |
+
Record model is a whole talk page; comments are not split.
|
data/plwiki_user_talk/plwiki_user_talk.overlap_audit.json
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"candidate_records": 450867,
|
| 3 |
+
"collision_count": 0,
|
| 4 |
+
"id_collisions": [],
|
| 5 |
+
"method": "Literal dataset-record ID comparison only. Source-specific ID prefixes make zero collisions uninformative about page identity or text overlap. No target namespace or text audit was performed.",
|
| 6 |
+
"observed_at": "2026-09-27T16:00:14.930261+00:00",
|
| 7 |
+
"target": "SlayerLab/polish-dynaword:data/wikipedia",
|
| 8 |
+
"target_revision": "1564cb054434ba049cbd0d355a9bfaf044b6a852",
|
| 9 |
+
"target_rows": 1171897,
|
| 10 |
+
"text_overlap": "not tested; quoted-article passages and target-wide text dedup remain integration gates"
|
| 11 |
+
}
|
data/plwiki_user_talk/plwiki_user_talk.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:88a7d272937660976f5e8f6f86f833d6298432d77f4941248eb873bc7e305628
|
| 3 |
+
size 219048909
|
data/plwiki_user_talk/plwiki_user_talk.qa.json
ADDED
|
@@ -0,0 +1,18 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"benchmark_overlap": "pending",
|
| 3 |
+
"cross_source_text_dedup": "pending target integration",
|
| 4 |
+
"id_collisions_vs_wikipedia_shard": 0,
|
| 5 |
+
"license_terms_url": "https://foundation.wikimedia.org/w/index.php?title=Policy:Terms_of_Use/pl&oldid=584706",
|
| 6 |
+
"limitations": [
|
| 7 |
+
"user-talk pages contain informal text with typos, bot notices, edit disputes and occasional abuse/vandalism",
|
| 8 |
+
"article-talk (ns=1) and project-talk (ns=5) namespaces excluded by scope decision; they ship as the separate plwiki_talk slice",
|
| 9 |
+
"comments may quote article text; quoted passages are not disjoint from the wikipedia shard",
|
| 10 |
+
"record model is a whole user-talk page; individual comments are not split",
|
| 11 |
+
"pattern checks are not comprehensive de-identification"
|
| 12 |
+
],
|
| 13 |
+
"overlap_method": "Literal dataset-record ID comparison only. Source-specific ID prefixes make zero collisions uninformative about page identity or text overlap. No target namespace or text audit was performed.",
|
| 14 |
+
"pii_policy": "IPv6 parsed including compressed notation; labelled PESEL/NIP/REGON and 26-digit account candidates masked conservatively without checksum validation; not complete anonymization",
|
| 15 |
+
"scope": "DynaWord proposal: Polish Wikipedia user-talk pages (ns 3); namespace complement to the wikipedia shard (ns=0) and to the plwiki_talk slice (ns=1,5)",
|
| 16 |
+
"source_text_qa_rejected": 70340,
|
| 17 |
+
"within_source_exact_and_near_dedup": true
|
| 18 |
+
}
|
data/plwiki_user_talk/plwiki_user_talk.sample.jsonl
ADDED
|
@@ -0,0 +1,12 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{"added": "2026-09-27", "author": "plwiki contributors", "created": "2024-12-21", "id": "plwiki_user_talk_972962", "license": "CC-BY-SA-4.0", "source": "plwiki_user_talk", "text": "Główny panel pomocy\n\nWikipedysta:/brudnopis – czyli twój własny brudnopis :)\nProszę, zapoznaj się z zasadami Wikipedii\n\nPrzeczytaj też zalecenia dla edytorów\n20px Przyłącz się do nas\nKoniecznie odwiedź nasz portal wikipedystów, aby dowiedzieć się jak współpracujemy.\nZobacz kim jesteśmy i także pochwal się kim jesteś ;)\nPrzeczytaj jak się ze sobą komunikujemy i nie zapomnij odwiedzić nas na ircu: wikipedia-pl\nW wolnej chwili przeczytaj na czym polega administrowanie projektem, a gdy wolnego czasu będziesz mieć nieco więcej, przyłącz się do kooperacji frame|Wstawianie podpisu\nJeszcze jedna ważna sprawa. Na stronach dyskusji, głosowaniach itp. podpisujemy się poprzez wpisanie ~~~~ (czterech tyld) – można w tym celu użyć odpowiedniego przycisku na pasku edycji (patrz ilustracja obok). Po zapisaniu strony w miejsce tyld pokaże się Twój nick z linkiem i datą. Pamiętaj też, że chcąc skontaktować się z innym wikipedystą, wpisz się na jego stronie dyskusji, bowiem wtedy dana osoba otrzyma komunikat o wiadomości (taki jak Ty przed chwilą) i będzie mogła Ci odpowiedzieć.\n\nJeżeli masz jakieś pytania lub wątpliwości, to z chęcią Ci pomogę - w tym celu wpisz się na mojej stronie dyskusji. Kliknij [ tutaj], aby dodać nową wiadomość.\n\nŻyczę owocnych edycji w imieniu Komitetu powitalnego, a poza tym... śmiało edytuj strony!\n\nPozdrawiam! — EMeczKa dyskusja 17:11, 11 cze 2007 (CEST)\n\nCristiano Ronaldo\n\nchodzi o tą edycję. Jeżeli nie przestaniesz, admini się zajmą twiom kontem.", "token_count": 551}
|
| 2 |
+
{"added": "2026-09-27", "author": "plwiki contributors", "created": "2021-12-20", "id": "plwiki_user_talk_5197684", "license": "CC-BY-SA-4.0", "source": "plwiki_user_talk", "text": "Przygodę z Wikipedią najlepiej rozpocząć od nauki podstaw formatowania oraz edytowania (pisania) haseł w swoim brudnopisie. Jeśli jednak czujesz się na siłach, to przeczytaj najpierw strony pomocy dotyczące tworzenia artykułów: ogóle wskazówki → Jak napisać nowy artykuł oraz szczegółowe → Jak napisać doskonały artykuł.\n\nWikipedię można edytować na dwa sposoby. Edytor wizualny jest prostszym, bardziej intuicyjnym narzędziem. Z kolei edytor kodu źródłowego daje dostęp do bardziej zaawansowanych funkcji. Można łatwo przełączać się między nimi. Najłatwiej jest nauczyć się edytowania w praktyce, dlatego też po wykonaniu wybranym sposobem kilku edycji testowych w swoim brudnopisie, śmiało edytuj strony!\n\nW naszych szeregach mamy przewodników, którzy pomogą Ci w Twoich pierwszych edycjach. Wikipedyści odpowiedzą na pytania dotyczące edytowania Wikipedii. Możesz zadać je tutaj.\nJeżeli chcesz samodzielnie szukać stron pomocy, zacznij od tej strony (znajdziesz ją zawsze w menu po lewej: „” ⇒ „”). Możesz też ustawić własne preferencje m.in. dotyczące wyglądu stron i ułatwień w edytowaniu (tu kilka słów wyjaśnienia).\n\nKomunikując się na stronach dyskusji, ale nie w artykułach, podpisujemy się poprzez wpisanie czterech tyld (~~~~). Po zapisaniu strony w miejsce tyld pokaże się Twój podpis: nick z datą edycji (tak jak mój na dole). Chcąc skontaktować się z innym wikipedystą, wpisz się na jego stronie dyskusji. Wtedy otrzyma on komunikat o wiadomości (taki jak Ty przed chwilą) i będzie mógł Ci odpowiedzieć. Powiadomienie o wiadomości zostanie mu wysłane także wtedy, jeśli pisząc w innym miejscu niż jego strona dyskusji (np. na stronie dyskusji artykułu lub w Kawiarence), użyjesz szablonu {{re|nick}}, w miejscu \"nick\" wpisując jego nazwę użytkownika. Pozwala to na wygodne prowadzenie dyskusji w jednym miejscu.\n\n-- Jamnik z Tarnowa Napisz coś 10:40, 20 gru 2021 (CET)", "token_count": 693}
|
| 3 |
+
{"added": "2026-09-27", "author": "plwiki contributors", "created": "2019-09-03", "id": "plwiki_user_talk_4617660", "license": "CC-BY-SA-4.0", "source": "plwiki_user_talk", "text": "Wikipedię można edytować na dwa sposoby. Edytor wizualny jest prostszym, bardziej intuicyjnym narzędziem. Z kolei edytor kodu źródłowego daje dostęp do bardziej zaawansowanych funkcji. Można łatwo przełączać się między nimi. Najłatwiej jest nauczyć się edytowania w praktyce, dlatego też po wykonaniu wybranym sposobem kilku edycji testowych w swoim brudnopisie, śmiało edytuj strony!\n\nW naszych szeregach mamy przewodników, którzy pomogą Ci w Twoich pierwszych edycjach. Wikipedyści odpowiedzą na pytania dotyczące edytowania Wikipedii. Możesz zadać je tutaj. Pomocnych wikipedystów znajdziesz też na naszym czacie.\nJeżeli chcesz samodzielnie szukać stron pomocy, zacznij od tej strony (znajdziesz ją zawsze w menu po lewej: „” ⇒ „”). Możesz też ustawić własne preferencje m.in. dotyczące wyglądu stron i ułatwień w edytowaniu (tu kilka słów wyjaśnienia).\n\nKomunikując się na stronach dyskusji, ale nie w artykułach, podpisujemy się poprzez wpisanie czterech tyld (~~~~). Po zapisaniu strony w miejsce tyld pokaże się Twój podpis: nick z datą edycji (tak jak mój na dole). Chcąc skontaktować się z innym wikipedystą, wpisz się na jego stronie dyskusji. Wtedy otrzyma on komunikat o wiadomości (taki jak Ty przed chwilą) i będzie mógł Ci odpowiedzieć. Powiadomienie o wiadomości zostanie mu wysłane także wtedy, jeśli pisząc w innym miejscu niż jego strona dyskusji (np. na stronie dyskusji artykułu lub w Kawiarence), użyjesz szablonu {{re|nick}}, w miejscu \"nick\" wpisując jego nazwę użytkownika. Pozwala to na wygodne prowadzenie dyskusji w jednym miejscu.\n\n-- H.Rabiega (dyskusja) 09:42, 3 wrz 2019 (CEST)", "token_count": 591}
|
| 4 |
+
{"added": "2026-09-27", "author": "plwiki contributors", "created": "2024-03-11", "id": "plwiki_user_talk_5627311", "license": "CC-BY-SA-4.0", "source": "plwiki_user_talk", "text": "Przeczytaj stronę o tworzeniu artykułów z podstawowymi informacjami (→ Jak napisać nowy artykuł) oraz z zaawansowanymi (→ Jak napisać doskonały artykuł). Najlepiej zacznij pisać hasło w swoim brudnopisie.\n\nMiędzy sobą komunikujemy się na stronach dyskusji. W takiej komunikacji podpisujemy się poprzez wpisanie czterech tyld (~~~~). Po zapisaniu strony w miejsce tyld pokaże się Twój podpis z datą.\nChcąc skontaktować się z innym wikipedystą, wpisz się na jego stronie dyskusji. Wtedy otrzyma on komunikat o wiadomości (taki jak Ty przed chwilą) i będzie mógł Ci odpowiedzieć.\n\n-- New user message (dyskusja) 15:25, 11 mar 2024 (CET)", "token_count": 236}
|
| 5 |
+
{"added": "2026-09-27", "author": "plwiki contributors", "created": "2018-12-07", "id": "plwiki_user_talk_4416590", "license": "CC-BY-SA-4.0", "source": "plwiki_user_talk", "text": "Wikipedię można edytować na dwa sposoby. Edytor wizualny jest prostszym, bardziej intuicyjnym narzędziem. Z kolei edytor kodu źródłowego daje dostęp do bardziej zaawansowanych funkcji. Można łatwo przełączać się między nimi. Najłatwiej jest nauczyć się edytowania w praktyce, dlatego też po wykonaniu wybranym sposobem kilku edycji testowych w swoim brudnopisie, śmiało edytuj strony!\n\nW naszych szeregach mamy przewodników, którzy pomogą Ci w Twoich pierwszych edycjach. Wikipedyści odpowiedzą na pytania dotyczące edytowania Wikipedii. Możesz zadać je tutaj. Pomocnych wikipedystów znajdziesz też na naszym czacie.\nJeżeli chcesz samodzielnie szukać stron pomocy, zacznij od tej strony (znajdziesz ją zawsze w menu po lewej: „” ⇒ „”). Możesz też ustawić własne preferencje m.in. dotyczące wyglądu stron i ułatwień w edytowaniu (tu kilka słów wyjaśnienia).\n\nKomunikując się na stronach dyskusji, ale nie w artykułach, podpisujemy się poprzez wpisanie czterech tyld (~~~~). Po zapisaniu strony w miejsce tyld pokaże się Twój podpis: nick z datą edycji (tak jak mój na dole). Chcąc skontaktować się z innym wikipedystą, wpisz się na jego stronie dyskusji. Wtedy dana osoba otrzyma komunikat o wiadomości (taki jak Ty przed chwilą) i będzie mogła Ci odpowiedzieć.\n\n-- Adamt rzeknij słowo 22:56, 7 gru 2018 (CET)", "token_count": 484}
|
| 6 |
+
{"added": "2026-09-27", "author": "plwiki contributors", "created": "2024-11-16", "id": "plwiki_user_talk_5768632", "license": "CC-BY-SA-4.0", "source": "plwiki_user_talk", "text": "Przeczytaj stronę o tworzeniu artykułów z podstawowymi informacjami (→ Jak napisać nowy artykuł) oraz z zaawansowanymi (→ Jak napisać doskonały artykuł). Najlepiej zacznij pisać hasło w swoim brudnopisie.\n\nMiędzy sobą komunikujemy się na stronach dyskusji. W takiej komunikacji podpisujemy się poprzez wpisanie czterech tyld (~~~~). Po zapisaniu strony w miejsce tyld pokaże się Twój podpis z datą.\nChcąc skontaktować się z innym wikipedystą, wpisz się na jego stronie dyskusji. Wtedy otrzyma on komunikat o wiadomości (taki jak Ty przed chwilą) i będzie mógł Ci odpowiedzieć.\n\n-- New user message (dyskusja) 18:59, 16 lis 2024 (CET)", "token_count": 236}
|
| 7 |
+
{"added": "2026-09-27", "author": "plwiki contributors", "created": "2023-03-29", "id": "plwiki_user_talk_5444466", "license": "CC-BY-SA-4.0", "source": "plwiki_user_talk", "text": "regex\nHej @Peter Bowman, dzięki za dotychczasową pomoc. Zauważyłem że jest jakaś bliżej niezidentyfikowana grupa wywołań, których regex nie wychwycił. Znalazłem m.in. takie przypadki:1. Jaskinia Twardowskiego, 2. Wolski Dół, 3. Polana pod Dębiną, 4. Duża Kowodrza, 5. Wzgórze Lasoty w Krakowie. Masz jakiś pomysł, z czego to może wynikać? ja tak myślałem że przykłady 1, 2 i 3 mają w kodzie {| - zamiast {|- ale nie wiem czy to jest właściwy trop. Co do pozostałych 2 przykładów to nie mam pojęcia z czego to może wynikać :/ Archiwald (dyskusja) 13:48, 21 mar 2023 (CET)\n\nHej, @Archiwald. Masz rację, ta spacja przed myślnikiem (zupełnie zbędna, jak sam myślnik zresztą) miała wpływ na działanie wyrażenia. W pozostałych zawiniła obecność spacji przed znakiem nowej linii. Uwzględniłem oba wyjątki, tym razem ignorując wszystko za pierwszym {| aż do końca linii, i dodałem też przy okazji ignorowanie wielkości liter w jpeg/jpg/JPEG/JPG. Niestety, lista nieco się przez to rozrosła. Czy mogę jakoś pomóc swoim botem? Peter Bowman (dyskusja) 17:45, 21 mar 2023 (CET)\nŚwietna robota. Na pewno przyda się pomoc; kiedy poruszałem temat w barze, to MarMi wiki zaproponował następujące minimalne zmiany w kodzie. Wtedy temat jakoś przycichł więc przeklikałem to ręcznie. Ale z botem będzie szybciej i raźniej. Myślę, że na początek przejrzę tę listę, poprawię ręcznie te galerie, które z różnych względów byłyby problematyczne dla bota, i za kilka(naśnie?) dni odezwę się do Ciebie po prośbie :) jeszcze raz dzięki Archiwald (dyskusja) 18:32, 21 mar 2023 (CET)\n@Peter Bowman przygotowałem na próbę dwie listy artykułów: 1) takie, w których tabelkę należałoby podmienić na klasyczną galerię oraz 2) takie, w których lepiej będzie się prezentować galeria z parametrem mode=packed. Jak będziesz miał chwilę, to daj proszę znać, czy przebotowanie tego wchodzi w grę. Jeśli tak, postaram się przygotować później nowe listy, już nieco liczniejsze. Pzdr Archiwald (dyskusja) 14:39, 28 mar 2023 (CEST)\n@Archiwald, nie powinno być problemu. Otworzysz proszę zgłoszenie na WP:ZdB? Peter Bowman (dyskusja) 20:20, 29 mar 2023 (CEST) tak, tylko uzupełnię listy i założę temat na ZdB, najpóźniej jutro, pzdr Archiwald (dyskusja) 20:43, 29 mar 2023 (CEST) założyłem zlecenie Archiwald (dyskusja) 21:09, 29 mar 2023 (CEST)", "token_count": 910}
|
| 8 |
+
{"added": "2026-09-27", "author": "plwiki contributors", "created": "2015-04-21", "id": "plwiki_user_talk_3427893", "license": "CC-BY-SA-4.0", "source": "plwiki_user_talk", "text": "Zespół programistów Fundacji Wikimedia zmienia sposób funkcjonowania kont użytkowników. Jest to jeden z etapów prac nad udostępnieniem naszym użytkownikom nowych i ulepszonych narzędzi, takich jak powiadomienia na wielu wiki. Te zmiany spowodują, że będziesz posługiwał się identyczną nazwą konta we wszystkich projektach. Pozwoli to na udostępnienie nowych funkcji, ułatwiających edytowanie i dyskutowanie, a narzędziom udostępni bardziej elastyczne uprawnienia użytkowników. Jednym z efektów ubocznych tych zmian jest to, że nazwy użytkowników muszą być unikatowe we wszystkich 900 projektach. Szczegóły znajdziesz na stronie ogłoszenia.\n\nNiestety Twoje konto ma taką samą nazwę jak konto Poes. Aby zapewnić wam obu możliwość korzystania w przyszłości z projektów Fundacji Wikimedia, zmienimy Twoją nazwę użytkownika na Poes~plwiki. Zmiana nazwy nastąpi w kwietniu 2015, podobnie jak innych kont, które obecnie używają takich samych nazw. Jeżeli sądzisz, że być może posiadasz wszystkie konta z tą nazwą, a ta wiadomość jest błędna, odwiedź proszę Specjalna:Łączenie_kont w celu sprawdzenia i połączenia wszystkich twoich kont; w przeciwnym razie ich nazwy zostaną zmienione.\n\nTwoje konto będzie działać tak jak dotychczas - historia wszystkich Twoich edycji nie ulegnie zmianie, jednak będziesz musiał/musiała korzystać z nowej nazwy użytkownika przy logowaniu. Jeśli nie podoba Ci się ta nowa nazwa, możesz poprosić o jej ponowną zmianę. Prośba o zmianę nazwy użytkownika.\n\nYours,Keegan PeterzellCommunity Liaison, Wikimedia Foundation 10:00, 20 mar 2015 (CET)\n\nZmieniono nazwę tego konta w ramach finalizacji wprowadzania kont uniwersalnych. Jeżeli jesteś właścicielem konta i chcesz wiedzieć więcej, możesz zalogować się, używając poprzedniej nazwy konta i hasła. Jeżeli nie podoba Ci się nowa nazwa, możesz wybrać inną, używając tego linku: po zalogowaniu się. -- Keegan (WMF) (dyskusja) 01:10, 22 kwi 2015 (CEST)", "token_count": 658}
|
| 9 |
+
{"added": "2026-09-27", "author": "plwiki contributors", "created": "2019-08-30", "id": "plwiki_user_talk_4613394", "license": "CC-BY-SA-4.0", "source": "plwiki_user_talk", "text": "Wikipedię można edytować na dwa sposoby. Edytor wizualny jest prostszym, bardziej intuicyjnym narzędziem. Z kolei edytor kodu źródłowego daje dostęp do bardziej zaawansowanych funkcji. Można łatwo przełączać się między nimi. Najłatwiej jest nauczyć się edytowania w praktyce, dlatego też po wykonaniu wybranym sposobem kilku edycji testowych w swoim brudnopisie, śmiało edytuj strony!\n\nW naszych szeregach mamy przewodników, którzy pomogą Ci w Twoich pierwszych edycjach. Wikipedyści odpowiedzą na pytania dotyczące edytowania Wikipedii. Możesz zadać je tutaj. Pomocnych wikipedystów znajdziesz też na naszym czacie.\nJeżeli chcesz samodzielnie szukać stron pomocy, zacznij od tej strony (znajdziesz ją zawsze w menu po lewej: „” ⇒ „”). Możesz też ustawić własne preferencje m.in. dotyczące wyglądu stron i ułatwień w edytowaniu (tu kilka słów wyjaśnienia).\n\nKomunikując się na stronach dyskusji, ale nie w artykułach, podpisujemy się poprzez wpisanie czterech tyld (~~~~). Po zapisaniu strony w miejsce tyld pokaże się Twój podpis: nick z datą edycji (tak jak mój na dole). Chcąc skontaktować się z innym wikipedystą, wpisz się na jego stronie dyskusji. Wtedy otrzyma on komunikat o wiadomości (taki jak Ty przed chwilą) i będzie mógł Ci odpowiedzieć. Powiadomienie o wiadomości zostanie mu wysłane także wtedy, jeśli pisząc w innym miejscu niż jego strona dyskusji (np. na stronie dyskusji artykułu lub w Kawiarence), użyjesz szablonu {{re|nick}}, w miejscu \"nick\" wpisując jego nazwę użytkownika. Pozwala to na wygodne prowadzenie dyskusji w jednym miejscu.\n\n-- Gżdacz (dyskusja) 19:05, 30 sie 2019 (CEST)", "token_count": 589}
|
| 10 |
+
{"added": "2026-09-27", "author": "plwiki contributors", "created": "2023-11-08", "id": "plwiki_user_talk_4877026", "license": "CC-BY-SA-4.0", "source": "plwiki_user_talk", "text": "Wikipedię można edytować na dwa sposoby. Edytor wizualny jest prostszym, bardziej intuicyjnym narzędziem. Z kolei edytor kodu źródłowego daje dostęp do bardziej zaawansowanych funkcji. Można łatwo przełączać się między nimi. Najłatwiej jest nauczyć się edytowania w praktyce, dlatego też po wykonaniu wybranym sposobem kilku edycji testowych w swoim brudnopisie, śmiało edytuj strony!\n\nW naszych szeregach mamy przewodników, którzy pomogą Ci w Twoich pierwszych edycjach. Wikipedyści odpowiedzą na pytania dotyczące edytowania Wikipedii. Możesz zadać je tutaj. Pomocnych wikipedystów znajdziesz też na naszym czacie.\nJeżeli chcesz samodzielnie szukać stron pomocy, zacznij od tej strony (znajdziesz ją zawsze w menu po lewej: „” ⇒ „”). Możesz też ustawić własne preferencje m.in. dotyczące wyglądu stron i ułatwień w edytowaniu (tu kilka słów wyjaśnienia).\n\nKomunikując się na stronach dyskusji, ale nie w artykułach, podpisujemy się poprzez wpisanie czterech tyld (~~~~). Po zapisaniu strony w miejsce tyld pokaże się Twój podpis: nick z datą edycji (tak jak mój na dole). Chcąc skontaktować się z innym wikipedystą, wpisz się na jego stronie dyskusji. Wtedy otrzyma on komunikat o wiadomości (taki jak Ty przed chwilą) i będzie mógł Ci odpowiedzieć. Powiadomienie o wiadomości zostanie mu wysłane także wtedy, jeśli pisząc w innym miejscu niż jego strona dyskusji (np. na stronie dyskusji artykułu lub w Kawiarence), użyjesz szablonu {{re|nick}}, w miejscu \"nick\" wpisując jego nazwę użytkownika. Pozwala to na wygodne prowadzenie dyskusji w jednym miejscu.\n\n-- MemicznyJanusz || Pokaż mi swoje towary 22:14, 6 sie 2020 (CEST)\n\nSiła koszmarów: Powstanie polityki strachu\n\nWitaj. Twój artykuł nie nadaje się jeszcze do publikacji w Wikipedii, dlatego został przeniesiony do twojego brudnopisu, gdzie możesz nad nim popracować. Popraw w nim:\npodziel na sekcje sformatuj go\n\nPo skończeniu użyj zakładki „Przenieś”, aby ponownie opublikować artykuł. Jeżeli nie masz takiej zakładki (należy mieć konto zarejestrowane od co najmniej 4 dni oraz 10 edycji), napisz na tej stronie lub zwróć się do przewodników.\n\nPozdrawiam, FilutekPL niebot (dyskusja) 17:00, 21 paź 2020 (CEST)FilutekPL niebot\n\nMaryan Linux\n\nWitaj. Twój artykuł nie nadaje się jeszcze do publikacji w Wikipedii, dlatego został przeniesiony do twojego brudnopisu, gdzie możesz nad nim popracować. Popraw w nim:\nWykaż encyklopedyczność\nDystrybucji i odmian Linuxa jest mnóstwo. Ta nie była popularna (?), nierozwijana, więc chyba nie warto o niej w encyklopedii pisać?\n\nPo skończeniu użyj zakładki „Przenieś”, aby ponownie opublikować artykuł. Jeżeli nie masz takiej zakładki (należy mieć konto zarejestrowane od co najmniej 4 dni oraz 10 edycji), napisz na tej stronie lub zwróć się do przewodników.\n\nPozdrawiam, Ciacho5 (dyskusja) 14:34, 1 gru 2020 (CET)\n\n:Maryan Linux\n\nCiacho5 (dyskusja) 14:38, 1 gru 2020 (CET)\n\nKategorie\n\nWitaj. Usunąłem to, co wpisałeś u Pseudo-Plutarcha. Otóż dodajemy, w miarę możliwości, tylko kategorie najbardziej szczegółowe. Jeśli filozofów, to według czasu lub filozofii. Starożytność to też raczej zbyt ogólny temat. Zobacz tutaj, zwłaszcza sekcja jak wybrać kategorię. No i dodajemy na końcu, nie na początku artu. Ciacho5 (dyskusja) 14:46, 1 gru 2020 (CET)\n\n:Pseudo-Plutarch\n\nKapsuglan (dyskusja) 19:01, 1 gru 2020 (CET)\n\nI3 (menedżer okien)\n\nWitaj. Twój artykuł nie nadaje się jeszcze do publikacji w Wikipedii, dlatego został przeniesiony do twojego brudnopisu, gdzie możesz nad nim popracować. Popraw w nim:\nwszystko ładnie opisane, ale dodaj jeszcze przypisy\n\nPo skończeniu użyj zakładki „Przenieś”, aby ponownie opublikować artykuł. Jeżeli nie masz takiej zakładki (należy mieć konto zarejestrowane od co najmniej 4 dni oraz 10 edycji), napisz na tej stronie lub zwróć się do przewodników.\n\nPozdrawiam, Jckowal piszże 12:23, 18 gru 2020 (CET)\n\nAd:François Claudius Koëningstein\n\nAd:François Claudius Koëningstein\n\nHej, Dodałeś nowe informacje do artykułu. To dobrze, że chcesz rozwijać Wikipedię. Musiałem wycofać twoją edycje, gdyż nie zawierała żadnego źródła. Jeżeli dodasz przypisy do swojego artykuły do z radością zaakceptuje Twoje zmiany ;). Weź pod uwagę, że każda informacja dodana do Wikipedii powinna być poparta źródłem w formie przypisu. Nie można dodawać informacji na podstawie własnych wiadomości lub niepublikowanych dokumentów. Przeczytaj proszę Wikipedia:Weryfikowalność, to powinno Ci pomóc. Życzę wielu udanych edycji, w razie pytań służę pomocą. SkrzydlatyMuflon Pisz tutaj 14:03, 8 lis 2023 (CET)", "token_count": 1723}
|
| 11 |
+
{"added": "2026-09-27", "author": "plwiki contributors", "created": "2025-10-25", "id": "plwiki_user_talk_5252758", "license": "CC-BY-SA-4.0", "source": "plwiki_user_talk", "text": "Podziękowanie - Kutry patrolowe projektu 90\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 07:00, 23 gru 2021 (CET)\n\nPodziękowanie - Kinu\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:55, 17 sty 2022 (CET)\n\nPodziękowanie - Cougar (transporter)\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 05:45, 19 sty 2022 (CET)\n\nPodziękowanie - SV Zodiak\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:39, 27 sty 2022 (CET)\n\nPodziękowanie - Fiat G.80\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Jamnik z Tarnowa Napisz coś 07:45, 31 sty 2022 (CET)\n\nRe:Aero\n\nWątek założony przed: 8:42, 8 lut 2022 (CET)\nDzięki za wszystkie rady. A pod stwierdzeniem, że strona z listą uzbrojenia stała się dużym bajzlem mogę podpisać się oboma rękami.\nTak przy okazji można by zrobić artykuły z listą uzbrojenia i strukturą związków taktycznych np co wchodzi w skład REGIN-y, czy bataliony zmech-u i dawać odnośniki do nich w zakładce \"Uwaga\" np Pod Krabem napisać \"Wchodzi w skład DOM Regina\". Po to by z listy uzbrojenia, zbudować pewne \"klocki\" (np. wspomniana prze ze mnie Regina), które zawierały by informacje na tyle szczegółowe, że nie mogły by być w artykułach takich jak batalion/brygada, bo były by za bardzo szczegółowe (np nikt nie pisał by o uzbrojeniu drużyny piechoty w artykule dotyczącym dywizji czy brygady). Takie artykuły mogły by być napisane w stylu ABCT i być wykorzystywane w innych artykułach.\n\nOkręt za dobrą monetę\n\nDrogi Polski Armatorze,\n\nz tej strony Jamnik z Tarnowa, piszę do Ciebie w sprawie akcji Okręt za dobrą monetę.\n\nChciałbym zachęcić Cię do zgłoszenia się do odbioru należnej Ci nagrody – polskiej monety okolicznościowej – którą otrzymują wszyscy główni autorzy przynajmniej jednego hasła o polskim okręcie lub o typie okrętów, które otrzymało status Dobrego Artykułu lub Artykułu na Medal! Wystarczy, że zrobisz to za pomocą formularza, który znajdziesz na tej stronie.\n\nGratulujemy i życzymy dalszych sukcesów!\n\nW imieniu organizatorów akcji, --Jamnik z Tarnowa Napisz coś 08:42, 8 lut 2022 (CET)\n\nRe:Fuji T-1\n\nJasne, zerknę. Pozdrawiam, Jamnik z Tarnowa Napisz coś 13:54, 15 lut 2022 (CET)\n\nPodziękowanie - Piaggio PD.808\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:19, 27 lut 2022 (CET)\n\nPodziękowanie - Learjet 70/75\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 05:59, 5 mar 2022 (CET)\n\nSugestia tematu - Akikaze (1920)\n\nCześć! Zauważyłem, że dość regularnie tworzysz artykuły o okrętach Cesarskiej Marynarki Wojennej. \"Z pewną taką nieśmiałością\" chciałem Ci więc podrzucić pewną propozycję tematyczną. Niedawno popełniłem hasło Masakra na „Akikaze”, niemniej o samym niszczycielu brak jest u nas hasła. Niezbyt pewnie czuję się w tematyce okrętowej, zwłaszcza gdy chodzi o kwestie techniczne, stąd sam się raczej nie podejmę. Może jednak – oczywiście jeśli czas pozwoli i ochota dopisze – dałbyś kiedyś radę coś stworzyć o tym okręcie? Bez jakiejkolwiek presji rzecz jasna :) Pozdrawiam!Dreamcatcher25 (dyskusja) 21:22, 22 lut 2022 (CET)\nCześć! Dziękuję za tak szybką odpowiedź i pozytywną reakcję! Zakładam, że nie będziesz mieć problemu ze źródłami. Niemniej just in case polecam stronę combinedfleet.com, w tym informację o przebiegu służby „Akikaze”. Zauważyłem, że powołują się na nią nawet niektórzy historycy w swoich książkach więc powinna być wiarygodnym źródłem. Co do masakry z marca 1943, to jak się zapewne domyślasz, dysponuję odpowiednimi źródłami :) Myślę jednak, że skoro istnieje już osobne hasło, to nie ma potrzeby przesadnie się o niej rozpisywać, wystarczy od kilku zdań do kilku akapitów - w zależności od tego, jak duży będzie artykuł o samym niszczycielu. Mam więc propozycję, gdy przygotujesz w brudnopisie projekt hasła, lub chociażby jego zarys, to daj mi znać, a ja mogę wtedy wziąć na siebie napisanie sekcji na ten temat. Pozdrawiam!Dreamcatcher25 (dyskusja) 11:54, 23 lut 2022 (CET)\nCześć. Dodałem sekcję o masakrze. W razie potrzeby modyfikuj lub dawaj znać, że mam coś do zrobienia. Pozdrawiam!Dreamcatcher25 (dyskusja) 21:16, 28 lut 2022 (CET)\nCześć. Zaproponowałem jeszcze parę uzupełnień i poprawek. Myślę, że można już wrzucić w przestrzeń główną, w razie czego drobiazgi się doszlifuje. Pozdrawiam!Dreamcatcher25 (dyskusja) 11:53, 7 mar 2022 (CET)\n\nPodziękowanie - Fuji T-1\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:49, 7 mar 2022 (CET)\n\nAjax\n\nWitaj , powinieneś sam rozumieć to co piszesz, anteny nadawcze z definicji generują/emitują promieniowanie elektromagnetyczne (zwykle), zatem to ich zadanie a nie problem. Na czym zatem polegał problem? I nieustająco „mniej zaimków”, „mniej zaimków”. Pozdrawiam-- Tokyotown8 (dyskusja) 22:01, 14 mar 2022 (CET)\nWitaj, pewnie masz rację, potencjalnie problem z ekranowaniem, nie mam pojęcia. Tym niemniej, w wersji hasłowej, brzmiało to z lekka tak, że jest problem bo działa> Potencjalnie, jeśli nie uda Ci się znaleźć na czym polega problem, po prostu napisz, że...no tak, ale jakie anteny? Komunikacyjne? Do póki nie wiadomo o co chodzi, nie opisywałbym tego. Pozdrawiam-- Tokyotown8 (dyskusja) 23:24, 14 mar 2022 (CET)\n\nPodziękowanie - Abukuma (1923)\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Aramil Feraxa (Napisz do mnie!) 06:54, 27 mar 2022 (CEST)\n\nPodziękowanie - Akikaze (1920)\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:47, 4 kwi 2022 (CEST)\n\nPodziękowanie - AMZ Tur VI\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 07:09, 15 kwi 2022 (CEST)\n\nPodziękowanie - AMZ Tur V\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:48, 19 kwi 2022 (CEST)\n\nCzy wiesz – Buffalo (MRAP)\n\nDziękujemy i prosimy o więcej, Szoltys [Re: ] 22:37, 27 kwi 2022 (CEST)\n\nPodziękowanie - FNSS ACV-15\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Jamnik z Tarnowa Napisz coś 07:11, 5 maj 2022 (CEST)\n\nPodziękowanie - FV180 Combat Engineer Tractor\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 05:53, 6 maj 2022 (CEST)\n\nPodziękowanie - RG-12\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 07:09, 13 maj 2022 (CEST)\n\nPodziękowanie - Agusta-Bell AB.102\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 07:05, 15 maj 2022 (CEST)\n\nPrzeprosiny\n\nPrzepraszam za wycofanie edycji - przypadkowe kliknięcie podczas przeglądania na komórce. Sumek101 (✉) 14:32, 15 maj 2022 (CEST)\n\nPodziękowanie - Buffalo (MRAP)\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Aramil Feraxa (Napisz do mnie!) 05:25, 21 maj 2022 (CEST)\n\nListy\n\nZ listami problemem podstawowym były przypisy. Winny one być przy fakcie a nie w osobnej rubryce \"uwagi\" - to po pierwsze\nPrzyznam, ze nie bardzo wiem, co moze być w liście, a nie moze znaleźć się w przestrzeni głównej arta o broni. Aż się prosi, by każdy artykuł o sprzęcie odnosił się też i do Wojska Polskiego - być moze w osobnej sekcji, nieraz w przestrzeni ogólnej, w zależności od konstrukcji artykułu - to drugie:)\nWydaje sie, ze w tym szczególnym czasie, powinniśmy powstrzymać się z tymi zbyt częstymi \"aktualizacjami\". Po pierwsze dlatego, ze pojedyncze fakty tajemnicą nie są, ale już składanka tychże faktów moze się o nią ocierać. Po drugie - oficjalne czynniki mogą w ramach maskowania operacyjnego wprowadzać w błąd \"przeciwnika\" podając, delikatnie mówiąc, nieprecyzyjne informacje - to trzy;)--Kerim44 (dyskusja) 22:10, 1 cze 2022 (CEST) no cóż - próbujmy. Ostatnio mam nieciekawe doświadczenia, ze jeśli zrobisz wyjątek w sprawie ustaleń, to pójdą w wyłom, ze ho ho;). Oczywiscie, że drobne uwagi nikomu nie zaszkodzą ... zatem - do odważnych świat (wikipedia) należy;) A nuż się uda. To jest tylko kwestia zrozumienia sprawy przez edytujących. --Kerim44 (dyskusja) 10:42, 2 cze 2022 (CEST)\n\nPodziękowanie - Tecnam P2006T\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 05:12, 3 cze 2022 (CEST)\n\nPodziękowanie - Kutry artyleryjskie projektu 58155\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:38, 16 cze 2022 (CEST)\n\nPodziękowanie - Kutry desantowo-szturmowe projektu 58503\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:35, 18 cze 2022 (CEST)\n\nPodziękowanie - Kutry patrolowe typu Island\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Aramil Feraxa (Napisz do mnie!) 06:41, 22 cze 2022 (CEST)\n\nPodziękowanie - Learjet 28\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:39, 25 cze 2022 (CEST)\n\nKrab (Dana) i inne\n\nDoszedłeś czy to haubica czy haubicoarmata, armatohaubica czy też inny twór?:)--Kerim44 (dyskusja) 22:57, 22 cze 2022 (CEST)\nTroche sie wstrzymaj:)...badania trwają.... Przepytałem na razie artylerzystów, co prawda emerytów, ale w stopniu generała i pułkownika. Wyklepali z pamięci definicję haubicy, armaty i haubicoarmaty i.... wychodzi z niej ze dana, krab itp to...armaty:). Sami jednak w dowodzonych przez siebie jednostkach posiadali, jak twierdzą, haubicoarmaty \"Dana\" (a i ona w myśl klasycznej definicji tez jest armatą). Coś mi się wydaje, ze teoria w tym przypadku nie zdążyła za praktyką. Moim zdaniem próbuje się wrócić do podziału ze względu na podstawowe zastosowanie, a nie na stosunek kalibru do długości lufy. Taki podział wypiera haubicoarmatę. Wydaje się jednak, ze na tym etapie nikt o teorii nie myśli...ot, tak IM się mówi (pisze). Spróbuję \"pogadać\" ze współczesnymi artylerzystami -teoretykami (praktykom to \"wisi\"))--Kerim44 (dyskusja) 11:14, 25 cze 2022 (CEST)\nJak znam się \"na życiu\", to te orły z polskiej zbrojeniówki wcale nie są mądrzejsi od nas. Gdyby zapytano mnie o zdanie, nazwałbym te współczesne działa - \"armatohaubicami\". Dlaczego? Po pierwsze by uszanować tradycyjną definicję, a po drugie by pogodzić terminy z współczesnością. Jesli istnieją terminy: armata, haubicoarmata i haubica, bardzo dobrze sie stało, ze wprowadzono nowy termin: armatohaubica (odwrotnie). Czyli - działo które w zasadzie jest armatą, ale jej podstawowym rodzajem prowadzenia ognia to ogień stromotorowy, czyli typowy dla haubicy - i tyle. Zobaczysz, że za jakiś czas \"wymyślą\" to co ja napisałem:). Jesli w wikipedii będziemy konsekwentni, wpadną na ten pomysł wczesniej hi hi - na pewno nas czytają;)--Kerim44 (dyskusja) 20:36, 25 cze 2022 (CEST)\n\nPodziękowanie - AIFV\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:41, 4 lip 2022 (CEST)\n\nPodziękowanie - Armatohaubica samobieżna wz. 2000 Zuzana\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:06, 17 lip 2022 (CEST)\n\nPodziękowanie - Tatrapan\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 07:41, 19 lip 2022 (CEST)\n\nPodziękowanie - Bell CH-146 Griffon\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:53, 8 sie 2022 (CEST)\n\nAd:Krążowniki lekkie typu Nagara\n\nWątek założony przed: 6:17, 10 sie 2022 (CET)\n[#bodyContent AdKrążowniki lekkie typu Nagara]\n\n\"Cesarskiej Marynarki Wojennej Wielkiej Japonii\" nie jest nazwą wlasną, bo taką jest jedynie Nippon Kaigun, a nie jej prywatne (nieoficjalne) tłumaczenie. Zwrot ten nie moze wiec byc napisany z wielkich liter. -Matrek (dyskusja)\nHej. W artykule o Nagarze jest błąd, który powtórzyłeś w artykule o typie Nagara. Jak napisałem w komentarzu dyskusji DA typu Nagara, w wyniku I bitwy pod Guadalcanalem nie doszło do ostrzału Guadalcanalu przez japońskie okręty, bo dowodzący japońskim zespołem adm. Abe wycofał swoje jednostki - za co zaraz stracił stanowisko, zdymisjonowany przez adm. Yamamoto. W tym sensie Amerykanie, których celem było niedopuszczenie do ponownego ostrzału Henderson Field, wyszli zwycięsko z tej bitwy, mimo taktycznej porażki i strat w okrętach, oraz masakry wśród ich załóg. --Matrek (dyskusja) 01:18, 12 sie 2022 (CEST)\n\nPodziękowanie - Krążowniki lekkie typu Nagara\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, AramilFeraxa (Napisz do mnie!) 05:39, 26 sie 2022 (CEST)\n\nGaijin Entertainment\n\nMożesz mi powiedzieć dlaczego wycofałeś moją edycję wraz z przypisem do niej i przywróciłeś wersję niepopartą niczym? W dodatku swojego cofnięcia nie raczyłeś opatrzyć nawet najmniejszym komentarzem. Kaelivan (dyskusja) 14:49, 1 wrz 2022 (CEST)\n\nSzanowny kolego.\nNie zapoznałeś się z moją edycją zanim ją cofnąłeś. Wprowadziłem (a raczej zmodyfikowałem) informację, że firma była ZAŁOŻONA w Rosji, a nie, że ma tam siedzibę. Jak fakt, który już zaistniał może być nieaktualny? Zmieniłem tylko słowo Moskwa, na Rosja, bo tak podawało źródło, a szczegółowej informacji co do Moskwy nie mogłem znaleźć. Nie możesz zmieniać informacji z podanymi źródłami na twórczość własną i proszę czytaj uważnie, zanim coś zmienisz. Czy mógłbyś wprowadzić ponownie tę informację i przypis?\nPS Dokładnie - Wikipedia jest neutralna. W trosce o jej neutralność zaznaczyłem w komentarzu, żeby się pilnować.\nPS2 Zmiana na studio \"ex-rosyjskie\" została wprowadzona PO mojej edycji, co świadczy o tym, że w ogóle nie patrzysz co się dzieje, a jednak piszesz oskarżenia o nieuwagę i nierzetelność pod moim adresem. Nie pomyliłeś mnie z jakimś no name IP, który też tam coś grzebał?\nPozdrawiam\nKaelivan (dyskusja) 08:05, 2 wrz 2022 (CEST)\n\nRe: Piorun\n\nSensu stricto Estonia dopiero zamówiła sprzęt. Na razie nie jest jego użytkownikiem. – smyru 13:48, 13 wrz 2022 (CEST)\n\nPodziękowanie - M1150 Assault Breacher Vehicle\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Jamnik z Tarnowa Napisz coś 06:08, 17 paź 2022 (CEST)\n\nPodziękowanie - M88 Recovery Vehicle\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:20, 22 paź 2022 (CEST)\n\nPrzypisy\n\nWątek założony przed: 1:16, 5 lis 2022 (CET)\n\nMoźdzerze\n\nZe względu na szacunek nie cofam cofania;)\nOkienko zmian nie jest najlepszym sposobem komunikowania się. Ustalmy warunki brzegowe. 1. To jest wikipedia i nie jest najwazniejesza \"prawda\", a i własne badania analityczne sa mało istotne. 2. Artykuł posiada rubrykę \"liczba\" - intuicyjnie wyczuwamy, ze winna być tam podana właśnie liczba będących na wyposażeniu np WL egzemplarzy sprzętu. Przypisy winny tę liczbę uwiarygadniać. W którym miejscu w źródłach liczby podane w artykule występują? Liczby te mówią o dostarczonych w długim okresie czasu egzemplarzach (planowanych?) W zaden sposób nie odnosza się do stanu sprzetu w wojskach tu i teraz. Nie moją rolą jest dodawać odejmowac i pierwiastkować. Inne źródła podają, że część sprzętu w międzyczasie sprzedano (przekazano) na Ukrainę. Fakty te, dość proste do przewidzenia, nie są uwzględniane przy wyliczance jeśliby te wszystkie dane odnośnie dostaw sprzetu do Wojska Polskiego trafiły do artykułu opisującego dany typ uzbrojenia, miałoby to sens. W artykule - tabelce zbiorczej to duza spekulacja i nadinterpretacja źródeł.\nJuż o tzw \"maskowaniu strategicznym\", które (i słusznie) w tym trudnym czasie stosują najwyższe czynniki w państwie nie wspomnę\nKerim44 (dyskusja) 12:56, 31 paź 2022 (CET)\nO wysłaniu na wschód \"mówią\" przypisy które przyleilem w dyskusji SP (a i z linkiem do LMP-2017) - tam to jest napisane, stąd moja czujność:). Swoją drogą nijak nie mogę znaleźć w podanym przypisie do Lista uzbrojenia i sprzętu bojowego Wojsk Obrony Terytorialnej potwierdzenia tegoż wpisanego faktu \"Liczba moździerz Polska 500[9]\". Gdzie jest to 500?:). Toz az tak bardzo nie zagłębiam się przy zatwierdzaniu, ale nijak znaleźć nie mogę ;(--Kerim44 (dyskusja) 13:34, 31 paź 2022 (CET)--Kerim44 (dyskusja) 13:34, 31 paź 2022 (CET) wszystko można poprawić - poszukasz to 500? Swoją drogą, samo dodawanie nie jest najwłaściwszą drogą określania liczby środków w WP. Wpis powinien opierać się na przypisie typu \" WOT dysponuje 485 środkami tego typu\". W przeciwnym wypadku to daleko idąca interpretacja źródeł, które niekoniecznie o tym mówią - dostawy to nie stan faktyczny, a taka jest idea tabelki. Moja interpretacja (tyle samo warta co inne;)) \" skoro WOT nie osiągnął jeszcze gotowości do działań, warto wziąć z jego magazynów zakonserwowaną i nieużywaną broń i przekazac ją Ukrainie\". Jeśli tak uczyniono ( jak 2x2=4), nie jest juz ona w posiadaniu tej formacji i liczba 500 (dostarczonych w długim przedziale czasowym) nie jest precyzyjna--Kerim44 (dyskusja) 13:56, 31 paź 2022 (CET) co prawda nigdzie nie spieszymy się, ale pamiętaj o mojej prośbie - niespełnienie jej moze skutkować precedensem wstawiania cyferek eksponujących liczbę dostarczonego sprzętu, a nie będącego na wyposażeniu wojska (jak chce tabelka). Oczywiście wpisywanie liczby dostarczonego sprzętu przez dane przedsiębiorstwo jest ze wszech miar zasadne, ale poza tabelką, która wprost odnosi się do stanu faktycznego--Kerim44 (dyskusja) 22:07, 9 lis 2022 (CET)\nI ja tak myślę- źródła ponad wszystko!!! ;) Co zatem z tym robimy: cyt:W lutym 2022 roku nieujawnioną oficjalnie liczbę moździerzy LMP-2017 przekazano Ukrainie (szacowana na 100 sztuk z ponad 1500 granatami), gdzie wkrótce nastąpiło ich pierwsze użycie bojowe podczas rosyjskiej inwazji na Ukrainęhttp://polska-zbrojna.pl/home/articleshow/36381?t=Mozdzierze-i-granatniki-z-Tarnowa-dla-Ukrainy#https://zbiam.pl/kolejne-dostawy-broni-i-amunicji-z-polski-dla-ukrainy/. To są źródła z artykułu: LMP-2017 - Ktoś takie treści tam umieścił. Twoim zdaniem należy je pominąć, są niewiarygodne? Jesli mielibyśmy wziąć je jednak pod uwagę, nasze cyferki w tabelce nie są precyzyjne. Jak napisałem wyżej - dostawa to nie stan faktyczny, a źródło producenta nie pisze o liczbie moździerzy w WP --Kerim44 (dyskusja) 20:00, 10 lis 2022 (CET)\nNiech się zatem cos zadzieje- Ty cofnąłeś moją edycję ;), a ja \"ze wzgledu\" itd.. tylko klikam;)--Kerim44 (dyskusja) 11:03, 12 lis 2022 (CET)\nNie, nie dostałem. Trochę ubarwiam;). Jest prawdą, ze jeśli zaczniesz edytować starszą wersje, pokaże się komunikat cofnięcia zmian w okienku zmian, ale nie u mnie (poprzedniego edytora). Czyli w zasadzie wszystko jest ok - każdy moze edytować. Juz nie będę ciebie męczył. Tabelki to przecież Twoja domena, a ja wracam do swoich. Chciałem tylko zwrócić uwagę na tę różnicę. Dostarczono a JEST. Będziemy dodawać i dodawać, aż wyjdą niebotyczne sumy--Kerim44 (dyskusja) 16:08, 12 lis 2022 (CET)\n\nMiesiąc Wyróżnionego Artykułu 2022\n\nCześć! W imieniu organizatorów Miesiąca Wyróżnionego Artykułu gratuluję doprowadzenia do wyróżnienia grupy artykułów związanych z krążownikami lekkimi typu Nagara! 😊 Dziękuję Ci też za sprawdzanie artykułów zgłoszonych do wyróżnienia, bo dzięki Twojemu zaangażowaniu mogliśmy do listy odznaczonych dopisać kolejne hasła. Jeszcze raz bardzo dziękuję za udział w akcji oraz pozostawiam parę w pełni zasłużonych odznak. Pozdrawiam, Openbk (dyskusja) 01:16, 5 lis 2022 (CET)\nOpenbk (dyskusja) 01:16, 5 lis 2022 (CET)\n\nProśba o opinię dot. Ch-22 i Gaijin/War Thunder\n\nCześć.\n\nJesteś bieglejszy w tych tematach, więc mam do Ciebie zapytanie odnośnie artykułu dot. pocisków Ch-22. Mianowicie czy pisanie o aktualnie używanej broni w czasie przeszłym jest odpowiednie? Nie wiem czy się łapać za przerabianie czegoś takiego.\n\nPS Nie ruszyłem Gaijin Entertainment od naszej rozmowy, bo jak zacząłem, to okazało się, że jest to grubsza akcja. Abstrahując od pochodzenia firmy, dotyczą jej dużo ciekawsze rzeczy tj. np. wycieki niejawnych danych dot. czołgów co jest precedensem w świecie elektronicznej rozrywki. Czy można się z Tobą skontaktować jakoś \"bezpośredniej\" celem ew. konsultacji? Nie mam jakoś strasznie dużo czasu, ale to bardzo ciekawy temat, tylko nie chcę się babrać bez sensu, żeby to potem cofane było. Nawet nie wiem gdzie niby to wrzucić. Chyba do właściwej gry tj. War Thundera, aczkolwiek mam wątpliwości czy przy samym developerze nie powinno się znaleźć coś o tym.\n\nPozdrawiam. Kaelivan (dyskusja) 10:27, 17 lut 2023 (CET)\n\nRedir Westland Whirlwind\n\nHa. Wystarczyło przewietrzyć głowę i już zrozumiałem. Ha. Błyskotliwy jestem. Redir zmieniłem.\n\nTobie zostawiam zastanowienie się, czy WW (śmigłowiec) nie powinno być głównym hasłem, a WW (helikopter) redirem. Zdaje się, że niektórzy twierdzą, ze śmigłowiec to polskie słowo, a helikopter obce. Wiadomo, zwis męski od krawata brzmi lepiej. Ciacho5 (dyskusja) 17:58, 19 lut 2023 (CET)\n\nZmienię na śmigłowiec. Istnieją dwa produkty tej wytwórni: samolot Westland Whirlwind i właśnie ten śmigłowiec. Jakoś trzeba je rozróżniać :) Nie mogłem przenieść z brudnopisu Whirlwinda z dopiskiem śmigłowiec, bo redir to blokował. Polskiarmator123 (dyskusja) 18:26, 19 lut 2023 (CET)\nA ten pierwszy też z napędem śmigłowym, ale nie śmigłowiec. Polska język - nazewnictwo techniczne.... A jak redir blokuje, to albo spróbuj zawołać kogoś na discordzie, albo pisz potrzebne miejsce na artykuł. Inaczej, jak trafisz na takiego błyskotliwego admina jak teraz, będziesz czekał , aż inny się zdecyduje.\n\nWestland Whirlwind (śmigłowiec)\n\nWitaj. Niezgodność widzę. W tekście jest francuska Marine nationale, która w latach 1954–1956 pozyskała 37 maszyn, a później w zestawieniu krajów jest, że miała 19 maszyn (co jakoś współgra z drugim największym była Jugosławia z 19 maszynami).\n\nA w zestawieniu użytkowników nie ma RAFu, mimo, że jest opisany w tekście. Ciacho5 (dyskusja) 11:00, 22 lut 2023 (CET)\nTeż tego nie rozumiem. Może powinienem przeczyścić okulary? Przepraszam. Ciacho5 (dyskusja) 12:24, 22 lut 2023 (CET)\n\nPodziękowanie - Westland Whirlwind (śmigłowiec)\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:57, 19 mar 2023 (CET)\n\nPodziękowanie - Westland Wasp\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Jamnik z Tarnowa Napisz coś 06:54, 31 mar 2023 (CEST)\n\nUsunięcie m240 m2 itd\n\nJakiś konkretny powód dla którego usunąłeś M2, M240 i M60 z listy Karabinów maszynowych w \"Lista uzbrojenia i sprzętu bojowego Wojsk Lądowych\" czy po prostu miałeś taki kaprys? [REDACTED:IP] (dyskusja) 20:24, 8 maj 2023 (CEST)\n\nOK dziękuję za odpowiedź ale wiesz:\nM2 Browning - mamy na liście zdjęcie Polskiego Abramsa z dokładnie tym karabinem na wieży.\nK6 - ta sama historia jest również na liście Polski K2 z tą bronią.\nM240 standardowy KM sprężony z działem czołgu M1 innego nie ma.\nAmerykańska broń dodatkowo ma \"poważniejsze\" źródło: https://milmag.pl/zgoda-na-m1a1-abrams-z-zapasem-amunicji-dla-polski/\nM60 - jedyny czołgowy KM produkowany w Korei. Kiedyś wpadłem na to jaki KM jest zainstalowany na K2 przez przypadek i jak chciałem go dodać znalezienie tego info 2 raz zajęło mi wiele godzin.\nDla Kmów używanych na K2 jest taki problem że żadne poważne źródło nie mówi o ich dokładnej wersji i de facto trzeba się posiłkować nawet innymi artykułami na wiki w tym innych językach. Tym samym wydaje mi się pełni uzasadnione by dodać te 4 albo przynajmniej te 2 Koreańskie bez przypisów. [REDACTED:IP] (dyskusja) 16:41, 25 maj 2023 (CEST)\nOk dodam w wolnej chwili \"Jankesów\" z przypisem ale co z z Koreańskimi? Mam dodać je bez przypisu ? Jeśli nie to: czy zdjęcie K6 na stronie wystarczy? Bądź co bądź to jedyny dowód że ta broń jest w naszej służbie. I pytanie o M60E1-1 czy jak to tam szło (sorry już nie pamiętam) chcesz link do bloga który wspomina o tej broni jak broni współosiowej czy już sobie przypis darujemy i uznamy że skoro innej nie produkują to tak ma być z Bożej łaski? [REDACTED:IP] (dyskusja) 01:37, 7 cze 2023 (CEST)\nBardzo bym chciał ale \"tylko użytkownicy automatycznie zatwierdzeni mogą edytować tą stronę\". Haha więc już nic nie dodam sam. Więc jakbyś mógł uczynić honory i dodać tylko K6, M2 i M240 na podstawie wymienianych przez nas linków o M60/K12 postaram się znaleźć więcej informacji i zobaczymy który jest właściwy aczkolwiek link z 2022 więc w miarę świeży mówi że xK12c1 jest jeszcze w fazie rozwojowej https://www.militaryfactory.com/smallarms/detail.php?smallarms_id=1150 [REDACTED:IP] (dyskusja) 21:38, 9 cze 2023 (CEST)\nW wolnej chwili poprawię/ dodam wersję aczkolwiek znalazłem jeszcze jeden ciekawy artykuł https://defence24.pl/sily-zbrojne/korea-poludniowa-zamawia-kolejne-czolgi-k2 de facto z dzisiaj w połączeniu z poprzednim angielskim artykułem Wszystko wskazuje na to że K12 w wersji dla czołgów jeszcze nie wszedł do produkcji. Bedzie go trzeba usunąć więc. Aczkolwiek na spokojnie zrobię podmiankę jednego (k12) na drugi (M60) i to rozwiąże problem. KalrinEU (dyskusja) 20:29, 19 cze 2023 (CEST)\nSpoko dodam w weekend (jako że mam już konto i mogę edytować sam) jako wersję M2 ( bo de facto jest to wersja M2) mam też artykuł z wersjami M2 oraz m240 z defence24 to więc źródła są skompletowane. KalrinEU (dyskusja) 21:15, 21 cze 2023 (CEST)\nWitam\nDokonałem edycji wersji i ilości M240. W przypadku M2 dodałem tylko ilość jako że artykuł mówił o M2A1 ale skan Amerykańskiego dokumentu zamieszczonego w artykule który używałem jako źródło mówił o zwykłym M2. Sytuacja z K12/ M60 wygląda tak że go usunąłem wczoraj pojawił się nowy artykuł na defence24.pl gdzie podali 3 karabin maszynowy jako sprężony z działem (K16). Są więc 3 karabiny maszynowe wymieniane w krótkim odstępie czasu jako uzbrojenie czołgów K2. Trzeba poczekać może kiedyś na jakimś portalu pojawi się dokładna informacja który jest w Polskich czołgach. K6 widzę że dodałeś jako oddzielną broń więc go zostawiam.\nTo by było na tyle. Dziękuję za owocną współpracę. Polecam się na przyszłość. KalrinEU (dyskusja) 11:18, 24 cze 2023 (CEST)\n\nLista sprzętu wojsk lądowych\n\nSkoro nie możesz poświęcić czasu na dodanie przypisów to z łaski swojej nie usuwaj czyichś zmian w czasie kiedy ktoś inny je uzupełnia. DiCaprio17 (dyskusja) 21:53, 2 lip 2023 (CEST)\n\nRekord Guinnessa może być nasz! Dołącz do uczestników wyjątkowego edytonu!\n\nDzień dobry!\n\nZapraszam Ciebie bardzo serdecznie do wyjątkowego uczczenia 22 urodzin Polskiej Wikipedii! 26 września rozpocznie się w Warszawie 100-godzinny edyton, którego celem jest pobicie rekordu Guinnessa w długości edytowania. Na stronie Wikipedia:Rekord Guinnessa 2023 przedstawiliśmy szczegóły wydarzenia. Jeśli masz ochotę dołączyć, choćby na kilka godzin, to świetnie! Teraz zbieramy deklaracje TUTAJ.\n\nZapewniamy nocleg, wyżywienie, dyplom uczestnictwa oraz upominki, możemy również pomóc w organizacji podróży. Jeśli masz jakieś pytania dotyczące organizacji tego wydarzenia, chętnie odpowiem. Pozdrawiam, Gdarin dyskusja, 20:57, 21 sie 2023 (CEST)\n\nPodziękowanie - AGM-45 Shrike\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:33, 25 lut 2024 (CET)\n\nDNU: :Hufiec ZHP Gdynia\n\nMajonez truskawkowy (dyskusja) 21:42, 31 mar 2024 (CEST)\n\nOdp.Wiadomość na stronie dyskusji\n\nCześć w tamtym momencie jeszcze flagi bota nie miałem stąd dostałeś powiadomienie, bo masowo poprawiałem pogrubienia. Taką edycje wykonałem. Pozdrawiam, NiktWażny ✉ 17:28, 22 cze 2024 (CEST)\n\nCzy wiesz – Generał Józef Haller (2022)\n\nDziękujemy i prosimy o więcej, Polskiarmator123 (dyskusja) 17:56, 4 sie 2024 (CEST)\n\nProśby o pomoc w poprawianiu haseł\n\nCześć, z tej strony Sławek Borewicz. Od mniej więcej dekady zgłaszam bardzo słabe i nieuźródłowione hasła do poczekalni. Zanim je zgłoszę, próbuję znaleźć osoby, które mogłyby pomóc w ich weryfikacji. Szukam takich osób głównie poprzez deklaracje bycia specjalistami w konkretnych dziedzinach wiedzy. Dzięki temu w ciągu tego czasu udało się poprawić ponad 2 tysiące haseł, a dalsze 900 zostało usuniętych. Od kiedy zwracam się do specjalistów, proces poprawiania haseł znacząco przyspieszył. Dowiedziałem się jednak, że moje prośby o poprawianie haseł mogą mieć charakter nękania. Moje zapytania w projektach stosuję dlatego, aby nie zgłaszać haseł bez konsultacji do poczekalni, o co wcześniej byłem proszony. Wobec tego zamierzam najpierw kontaktować się z użytkownikami z pytaniem, czy wyrażają zgodę na angażowanie ich w taką pomoc. Ponieważ zwracałem się z taką prośbą też do ciebie, chciałbym poznać twoje zdanie. Jeśli nie wyrazisz zgody, także jeśli nie odpowiesz na ten wpis, nie będę się do ciebie zwracać z takimi prośbami. →Odbiór 07:36, 28 sie 2024 (CEST)\nDziękuję za odpowiedź i zgodę. Sławek Borewicz, → odbiór 07:39, 2 wrz 2024 (CEST)\n\nPodziękowanie - Generał Józef Haller (2022)\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Jamnik z Tarnowa Napisz coś 06:08, 5 wrz 2024 (CEST)\n\nCzy wiesz – Patrolowce typu Legend\n\nDziękujemy i prosimy o więcej, Polskiarmator123 (dyskusja) 16:51, 7 wrz 2024 (CEST)\n\nCzy wiesz – Kutry patrolowe typu Sentinel\n\nDziękujemy i prosimy o więcej, Polskiarmator123 (dyskusja) 21:12, 9 wrz 2024 (CEST)\n\nPrzypominamy: zagłosuj w wyborach do Rady Powierniczej Wikimedia Foundation 2024\n\nOtrzymujesz niniejszą wiadomość, gdyż masz prawo głosować w wyborach do Rady Powierniczej WMF w tym roku. Wybory trwają do 23:59 we wtorek 17 września 2024.\n\nWikimedia Foundation (WMF) odpowiada za projekty, takie jak Wikipedia, zaś na jej czele stoi Rada Powiernicza. Jest to ciało decyzyjne WMF złożone z 12 wolontariuszy. Więcej o Radzie przeczytać możesz tutaj.\n\nW tym roku, społeczności ruchu Wikimedia wybierają czterech swoich przedstawicieli w Radzie. O miejsca w Radzie ubiega się 12 kandydatów z całego świata, 3 z nich ubiega się o reelekcję. Więcej o kandydatach przeczytać możesz pod tym adresem. Dostępne są również „przewodniki” napisane przez członków społeczności.\n\nDo głosowania uprawnionych jest prawie 120 tysięcy użytkowników, w tym Ty! Głosowanie potrwa do godziny 23:59 (UTC), 17 września 2024. Zagłosuj przez link na meta.\n\nJeśli już zagłosowałeś, dziękujemy i prosimy o zignorowanie tej wiadomości. Można głosować raz, niezależnie od liczby posiadanych kont.\n\nWięcej informacji – Oddaj swój głos w wyborach!\n\nkomunikat wysłany przez Msz2001 (dyskusja) 11:46, 15 wrz 2024 (CEST)\n\nCzy wiesz – Kutry desantowo-szturmowe typu Stridsbåt 90H\n\nDziękujemy i prosimy o więcej, Polskiarmator123 (dyskusja) 22:33, 21 wrz 2024 (CEST)\n\nCzy wiesz – Piasecki HUP Retriever\n\nDziękujemy i prosimy o więcej, Polskiarmator123 (dyskusja) 15:30, 22 wrz 2024 (CEST)\n\nCzy wiesz – Sikorsky H-5\n\nDziękujemy i prosimy o więcej, Polskiarmator123 (dyskusja) 20:18, 22 wrz 2024 (CEST)\n\nPodziękowanie - Kutry patrolowe typu Sentinel\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Jamnik z Tarnowa Napisz coś 06:40, 4 paź 2024 (CEST)\n\nPodziękowanie - Patrolowce typu Legend\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:42, 5 paź 2024 (CEST)\n\nPodziękowanie - Kutry desantowo-szturmowe typu Stridsbåt 90H, Piasecki HUP Retriever\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:25, 23 paź 2024 (CEST)\n\nPodziękowanie - Sikorsky H-5\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:25, 27 paź 2024 (CET)\n\nAd. Sikorsky H-5\n\nCześć! Jesteś autorem hasła o tytule jw. Czy mógłbyś wytłumaczyć, co to znaczy \"poszycie magnezowe\"? O ile wiem, samego (czystego) magnezu nie wykorzystuje się w celach konstrukcyjnych. Przypuszczam, że chodzi tu o jakiś stop magnezu z-czymś-tam, ale w takim razie korzystniej byłoby napisać o \"poszyciu ze stopu magnezu\". Pozdrawiam MBi (dyskusja) 11:39, 27 paź 2024 (CET)\n\nCzy wiesz – Kutry patrolowe Mark VI\n\nDziękujemy i prosimy o więcej, Polskiarmator123 (dyskusja) 17:47, 2 lis 2024 (CET)\n\nZaproszenie do udziału w badaniu\n\nWitamy!\n\nFundacja Wikimedia prowadzi badanie Wikipedystów, aby lepiej zrozumieć, co skłania administratorów do zaangażowania się w tworzenie Wikipedii i jakie czynniki mają wpływ na utrzymanie ich zainteresowania. Wyniki badania pomogą nam w poprawie doświadczeń Wikipedystów oraz rozwiązaniu wspólnych problemów i potrzeb. Zidentyfikowaliśmy cię jako dobrego kandydata do udziału w tym badaniu i będziemy wdzięczni za wypełnienie anonimowej ankiety.\n\nNie musisz być administratorem, aby wziąć udział.\n\nWypełnienie ankiety zajmuje około 10–15 minut. Więcej informacji o badaniu znajdziesz na jego stronie Meta, gdzie dostępna jest też polityka prywatności.\n\nW razie jakichkolwiek pytań lub wątpliwości nasze dane kontaktowe znajdziesz na stronie Meta projektu.\n\nZ pozdrowieniami\n\nZespół badawczy WMF\n\nBGerdemann (WMF) (dyskusja) 22:33, 8 lis 2024 (CET)\n\nPodziękowanie - Kutry patrolowe Mark VI\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Jamnik z Tarnowa Napisz coś 06:27, 19 lis 2024 (CET)\n\nGronkiel\n\nHej\nChciałem ci podziękować za to jak zaopiekowałeś się Dyskusja wikipedysty:Gronkiel. Dotarłem akurat w te okolice i zaimponowało mi jak dobrze się tym zająłeś. Świetna robota. Efekt tez dobry, bo on zmienił to hasło i wygląda teraz już dobrze. PMG (dyskusja) 13:34, 23 lis 2024 (CET)\n\nMiesiąc Wyróżnionego Artykułu 2024\n\nCześć! W imieniu organizatorów MWA chciałbym Ci bardzo podziękować za Twój wkład w udoskonalanie Wikipedii, poprawę jej jakości i współtworzenie „wizytówek” naszej encyklopedii – wyróżnionych treści. W ramach podziękowań przyjmij ten drobny upominek. :) Dzięki Twoim staraniom razem tworzymy historię!\n\nDo zobaczenia w kolejnej edycji Miesiąca Wyróżnionego Artykułu, czyli już we wrześniu! Pozdrawiam, Openbk (dyskusja) 10:45, 10 sty 2025 (CET)\n\nOpenbk (dyskusja) 10:45, 10 sty 2025 (CET)\n\nCzy wiesz – Patrolowce typu Heritage\n\nDziękujemy i prosimy o więcej, Polskiarmator123 (dyskusja) 19:22, 10 lut 2025 (CET)\n\nPodziękowanie - Patrolowce typu Heritage\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Jamnik z Tarnowa Napisz coś 06:43, 29 mar 2025 (CET)\n\nAd. Patrolowce typu Heritage\n\nStatek 3700 ton i zanurzenie 15,2 m??? Warto sprawdzić, co się napisało...MBi (dyskusja) 12:45, 29 mar 2025 (CET)\n\n50 tysięcy sprawdzeń i nic? No to miałeś pecha! Ale w oczy kłuło! Pozdrawiam MBi (dyskusja) 22:05, 29 mar 2025 (CET)\n\nCzy wiesz – Piasecki HRP Rescuer\n\nDziękujemy i prosimy o więcej, Polskiarmator123 (dyskusja) 20:15, 11 kwi 2025 (CEST)\n\nCzy wiesz – Bell HSL\n\nDziękujemy i prosimy o więcej, Polskiarmator123 (dyskusja) 19:00, 13 kwi 2025 (CEST)\n\nCzy wiesz – Boeing Vertol YUH-61\n\nDziękujemy i prosimy o więcej, Polskiarmator123 (dyskusja) 12:30, 21 kwi 2025 (CEST)\n\nCzy wiesz – Lodołamacze typu Polar\n\nDziękujemy i prosimy o więcej, Polskiarmator123 (dyskusja) 23:09, 25 kwi 2025 (CEST)\n\nDA\n\nHej! Dałbyś radę przejrzeć artykuły Stierieguszczij (1902) i SM UB-69 w zgłoszeniach do DA? LadyDaggy (dyskusja) 15:36, 17 maj 2025 (CEST)\n\nPodziękowanie - Piasecki HRP Rescuer\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 07:19, 18 maj 2025 (CEST)\n\nPodziękowanie - Bell HSL\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Jamnik z Tarnowa Napisz coś 06:47, 20 maj 2025 (CEST)\n\nCiekawy artykuł. Niemniej, sugerowałbym rozważanie na przyszłość zmiany stylu przypisów na lepiej spełniający postulat weryfikowalności, czyli po każdym zdaniu wprowadzającym istotną informację, zamiast kilku przypisów do ostatniego zdania - bo w ten sposób nie wiem, czy wcześniejsze informacje z akapitu są uźródłowione. Warto też unikać wtrąconych przypisów w środku zdania (po \"...„L” wskazywała na oznaczenie zakładów Bella\"[1]), zwłaszcza gdy całe zdanie z datą i miejscem ukończenia prototypu nie jest uźródłowione (jeśli nie liczyć trzech przypisów na końcu akapitu, w tym powtórzonego przypisu [1]). W takiej sytuacji ja bym dał na końcu zdania dwa przypisy, do informacji o oznaczeniu i daty budowy - albo można rozbić to na dwa zdania, jedno o budowie, a drugie o oznaczeniu. Z innej beczki, SmartAge to ogólnie źródło nienajlepszej wartości, którego autor (którego szanuję), korzysta m.in. z Wikipedii ;) Pibwl ←« 10:12, 20 maj 2025 (CEST)\n\nPodziękowanie - Lodołamacze typu Polar\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:38, 28 maj 2025 (CEST)\n\nPodziękowanie - Boeing Vertol YUH-61\n\nW imieniu zespołu wikipedystów opiekujących się rubryką, Gżdacz (dyskusja) 06:25, 30 maj 2025 (CEST)\n\nStrony do przejrzania\n\nCześć, mam pytanie dotyczący dwóch artykułów, których niedawno edytowałem, artykuły to Adam Krzymowski i Dezful (pocisk) aktualnie czekają na przejrzenie, czy mógłbyś je przejrzeć?\n\nPozdrawiam, Shadowfax33 (dyskusja) 19:52, 3 sie 2025 (CEST)\n\nCzy wiesz – Fregaty rakietowe typu Constellation\n\nDziękujemy i prosimy o więcej, Polskiarmator123 (dyskusja) 22:22, 27 sie 2025 (CEST)\n\nAd:PZL W-3 Sokół\n\nAd:PZL W-3 Sokół\n\nElegancko! Jeszcze tylko te \"Wersje produkcyjne\" wymagają zweryfikowania. H. Batuta (dyskusja) 17:50, 8 wrz 2025 (CEST)\nBrawo, przeniosłem do uźródłowionych. H. Batuta (dyskusja) 18:14, 8 wrz 2025 (CEST)", "token_count": 14605}
|
| 12 |
+
{"added": "2026-09-27", "author": "plwiki contributors", "created": "2021-01-24", "id": "plwiki_user_talk_4994188", "license": "CC-BY-SA-4.0", "source": "plwiki_user_talk", "text": "Wikipedię można edytować na dwa sposoby. Edytor wizualny jest prostszym, bardziej intuicyjnym narzędziem. Z kolei edytor kodu źródłowego daje dostęp do bardziej zaawansowanych funkcji. Można łatwo przełączać się między nimi. Najłatwiej jest nauczyć się edytowania w praktyce, dlatego też po wykonaniu wybranym sposobem kilku edycji testowych w swoim brudnopisie, śmiało edytuj strony!\n\nW naszych szeregach mamy przewodników, którzy pomogą Ci w Twoich pierwszych edycjach. Wikipedyści odpowiedzą na pytania dotyczące edytowania Wikipedii. Możesz zadać je tutaj.\nJeżeli chcesz samodzielnie szukać stron pomocy, zacznij od tej strony (znajdziesz ją zawsze w menu po lewej: „” ⇒ „”). Możesz też ustawić własne preferencje m.in. dotyczące wyglądu stron i ułatwień w edytowaniu (tu kilka słów wyjaśnienia).\n\nKomunikując się na stronach dyskusji, ale nie w artykułach, podpisujemy się poprzez wpisanie czterech tyld (~~~~). Po zapisaniu strony w miejsce tyld pokaże się Twój podpis: nick z datą edycji (tak jak mój na dole). Chcąc skontaktować się z innym wikipedystą, wpisz się na jego stronie dyskusji. Wtedy otrzyma on komunikat o wiadomości (taki jak Ty przed chwilą) i będzie mógł Ci odpowiedzieć. Powiadomienie o wiadomości zostanie mu wysłane także wtedy, jeśli pisząc w innym miejscu niż jego strona dyskusji (np. na stronie dyskusji artykułu lub w Kawiarence), użyjesz szablonu {{re|nick}}, w miejscu \"nick\" wpisując jego nazwę użytkownika. Pozwala to na wygodne prowadzenie dyskusji w jednym miejscu.\n\n-- MOs810 (dyskusja) 23:02, 15 sty 2021 (CET)\n\nPrzybylski\n\nPo pierwsze, zawsze musisz podawać źródło informacji, zgodnie z zasadą weryfikowalności. Po drugie, coś musi być wytłumaczone, Tokarski nie jest jakoś znany (?), a o jego stylu cicho. Ciacho5 (dyskusja) 11:06, 24 sty 2021 (CET)", "token_count": 669}
|
data/plwiki_user_talk/plwiki_user_talk.stats.json
ADDED
|
@@ -0,0 +1,15 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"added": "2026-09-11",
|
| 3 |
+
"boilerplate_lines_removed": 83,
|
| 4 |
+
"characters": 1020728459,
|
| 5 |
+
"dump_date": "20260901",
|
| 6 |
+
"kept": 380527,
|
| 7 |
+
"license_counts": {
|
| 8 |
+
"CC-BY-SA-4.0": 380527
|
| 9 |
+
},
|
| 10 |
+
"sample_count": 12,
|
| 11 |
+
"source_slice_kept": 380527,
|
| 12 |
+
"talk_pages": 450867,
|
| 13 |
+
"target_revision": "1564cb054434ba049cbd0d355a9bfaf044b6a852",
|
| 14 |
+
"tokens": 381445111
|
| 15 |
+
}
|
src/build_plwiki_usertalk_pl.py
ADDED
|
@@ -0,0 +1,868 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
#!/usr/bin/env python3
|
| 2 |
+
"""Build an auditable slice of Polish Wikipedia user-talk pages (ns 3, CC BY-SA 4.0)."""
|
| 3 |
+
from __future__ import annotations
|
| 4 |
+
|
| 5 |
+
import argparse
|
| 6 |
+
import bz2
|
| 7 |
+
from collections import Counter
|
| 8 |
+
from concurrent.futures import ProcessPoolExecutor
|
| 9 |
+
from datetime import datetime, timezone
|
| 10 |
+
from difflib import SequenceMatcher
|
| 11 |
+
import gzip
|
| 12 |
+
import hashlib
|
| 13 |
+
import ipaddress
|
| 14 |
+
import json
|
| 15 |
+
from pathlib import Path
|
| 16 |
+
import re
|
| 17 |
+
import time
|
| 18 |
+
import unicodedata
|
| 19 |
+
from xml.etree.ElementTree import iterparse
|
| 20 |
+
from urllib.parse import quote
|
| 21 |
+
|
| 22 |
+
import requests
|
| 23 |
+
|
| 24 |
+
|
| 25 |
+
SOURCE = "plwiki_user_talk"
|
| 26 |
+
OWN_REPO = "PiotrSty/plwiki-user-talk-pages"
|
| 27 |
+
TARGET = "SlayerLab/polish-dynaword"
|
| 28 |
+
DUMP_DATE = "20260901"
|
| 29 |
+
DUMP_BASE = f"https://dumps.wikimedia.org/plwiki/{DUMP_DATE}"
|
| 30 |
+
DUMPSTATUS_URL = DUMP_BASE + "/dumpstatus.json"
|
| 31 |
+
INDEX_URL = "https://dumps.wikimedia.org/plwiki/"
|
| 32 |
+
SOURCE_URL = "https://pl.wikipedia.org/"
|
| 33 |
+
FIELDS = ["id", "text", "source", "added", "created", "token_count", "license", "author"]
|
| 34 |
+
UA = {"User-Agent": "polish-dynaword/0.2 (+research; openly-licensed corpus)"}
|
| 35 |
+
LICENSE_SPDX = "CC-BY-SA-4.0"
|
| 36 |
+
LICENSE_TERMS_URL = "https://foundation.wikimedia.org/w/index.php?title=Policy:Terms_of_Use/pl&oldid=584706"
|
| 37 |
+
TALK_NS = {"3"}
|
| 38 |
+
MIN_TEXT_CHARS = 500
|
| 39 |
+
BOILERPLATE_MIN_DOC_FREQ = 0.01
|
| 40 |
+
DF_FRACTION = 0.02 # shingles in >2% of docs are template boilerplate (bot welcomes, warnings)
|
| 41 |
+
DF_SUBSAMPLE_STRIDE = 4 # document-frequency pass samples every Nth document
|
| 42 |
+
EMAIL_RE = re.compile(r"(?i)\b[A-Z0-9._%+-]+@[A-Z0-9.-]+\.[A-Z]{2,}\b")
|
| 43 |
+
PHONE_RE = re.compile(r"(?i)(?:\btelefon|\btel\.|\bphone)\s*:?[ \t]*(?:\+48[ \t]*)?\d(?:[ .-]?\d){8}\b")
|
| 44 |
+
IPV4_RE = re.compile(r"\b\d{1,3}\.\d{1,3}\.\d{1,3}\.\d{1,3}\b")
|
| 45 |
+
IPV6_RE = re.compile(r"(?i)\b(?:[0-9a-f]{1,4}:){3,}[0-9a-f]{1,4}\b")
|
| 46 |
+
|
| 47 |
+
|
| 48 |
+
IPV6_CANDIDATE_RE = re.compile(r"(?<![\w:])(?:[0-9a-fA-F]{0,4}:){2,}[0-9a-fA-F:.]*(?![\w:])")
|
| 49 |
+
NATIONAL_ID_RE = re.compile(r"(?i)\b(PESEL|NIP|REGON)\s*[:=]?\s*\d(?:[ -]?\d){8,13}\b")
|
| 50 |
+
BANK_ACCOUNT_RE = re.compile(r"(?<!\d)(?:PL\s*)?\d{2}(?:[ -]?\d){24}(?!\d)")
|
| 51 |
+
|
| 52 |
+
|
| 53 |
+
def is_ipv6(value):
|
| 54 |
+
try:
|
| 55 |
+
return ipaddress.ip_address(value.rstrip(".")).version == 6
|
| 56 |
+
except ValueError:
|
| 57 |
+
return False
|
| 58 |
+
|
| 59 |
+
|
| 60 |
+
def redact_pii(text):
|
| 61 |
+
counts = Counter()
|
| 62 |
+
|
| 63 |
+
def replace_ipv6(match):
|
| 64 |
+
value = match.group().rstrip(".")
|
| 65 |
+
if not is_ipv6(value):
|
| 66 |
+
return match.group()
|
| 67 |
+
counts["ipv6"] += 1
|
| 68 |
+
return "[REDACTED:IP]" + match.group()[len(value):]
|
| 69 |
+
|
| 70 |
+
text = IPV6_CANDIDATE_RE.sub(replace_ipv6, text)
|
| 71 |
+
for name, pattern, replacement in (
|
| 72 |
+
("email", EMAIL_RE, "[REDACTED:EMAIL]"),
|
| 73 |
+
("labelled_phone", PHONE_RE, "[REDACTED:PHONE]"),
|
| 74 |
+
("ipv4", IPV4_RE, "[REDACTED:IP]"),
|
| 75 |
+
("ipv6_legacy_pattern", IPV6_RE, "[REDACTED:IP]"),
|
| 76 |
+
("national_identifier", NATIONAL_ID_RE, lambda match: match.group(1) + " [REDACTED:ID]"),
|
| 77 |
+
("account_candidate", BANK_ACCOUNT_RE, "[REDACTED:ACCOUNT]"),
|
| 78 |
+
):
|
| 79 |
+
text, count = pattern.subn(replacement, text)
|
| 80 |
+
counts[name] += count
|
| 81 |
+
return text, counts
|
| 82 |
+
|
| 83 |
+
|
| 84 |
+
def now():
|
| 85 |
+
return datetime.now(timezone.utc).isoformat()
|
| 86 |
+
|
| 87 |
+
|
| 88 |
+
def digest(value):
|
| 89 |
+
if not isinstance(value, bytes):
|
| 90 |
+
value = json.dumps(value, ensure_ascii=False, sort_keys=True, separators=(",", ":")).encode("utf-8")
|
| 91 |
+
return hashlib.sha256(value).hexdigest()
|
| 92 |
+
|
| 93 |
+
|
| 94 |
+
def sha1_file(path):
|
| 95 |
+
h = hashlib.sha1()
|
| 96 |
+
with path.open("rb") as handle:
|
| 97 |
+
while chunk := handle.read(1 << 22):
|
| 98 |
+
h.update(chunk)
|
| 99 |
+
return h.hexdigest()
|
| 100 |
+
|
| 101 |
+
|
| 102 |
+
def save(path, value):
|
| 103 |
+
path.parent.mkdir(parents=True, exist_ok=True)
|
| 104 |
+
path.write_text(json.dumps(value, ensure_ascii=False, sort_keys=True, indent=2) + "\n", encoding="utf-8")
|
| 105 |
+
|
| 106 |
+
|
| 107 |
+
def write_lines(path, rows):
|
| 108 |
+
path.parent.mkdir(parents=True, exist_ok=True)
|
| 109 |
+
with path.open("w", encoding="utf-8") as handle:
|
| 110 |
+
for row in rows:
|
| 111 |
+
handle.write(json.dumps(row, ensure_ascii=False, sort_keys=True) + "\n")
|
| 112 |
+
|
| 113 |
+
|
| 114 |
+
def read_lines(path):
|
| 115 |
+
return [json.loads(line) for line in path.read_text(encoding="utf-8").split("\n") if line]
|
| 116 |
+
|
| 117 |
+
|
| 118 |
+
def load(path):
|
| 119 |
+
return json.loads(path.read_text(encoding="utf-8"))
|
| 120 |
+
|
| 121 |
+
|
| 122 |
+
def request(url, attempts=5, timeout=(15, 90)):
|
| 123 |
+
response = None
|
| 124 |
+
for attempt in range(attempts):
|
| 125 |
+
response = requests.get(url, headers=UA, timeout=timeout)
|
| 126 |
+
if response.status_code not in (429, 500, 502, 503, 504):
|
| 127 |
+
response.raise_for_status()
|
| 128 |
+
return response
|
| 129 |
+
time.sleep(2 ** attempt)
|
| 130 |
+
response.raise_for_status()
|
| 131 |
+
|
| 132 |
+
|
| 133 |
+
def request_json(url):
|
| 134 |
+
return request(url).json()
|
| 135 |
+
|
| 136 |
+
|
| 137 |
+
def _local(tag):
|
| 138 |
+
return tag.rsplit("}", 1)[-1]
|
| 139 |
+
|
| 140 |
+
|
| 141 |
+
def strip_wikitext(wikitext):
|
| 142 |
+
import mwparserfromhell
|
| 143 |
+
try:
|
| 144 |
+
return mwparserfromhell.parse(wikitext).strip_code(normalize=True, collapse=True).strip()
|
| 145 |
+
except Exception:
|
| 146 |
+
return ""
|
| 147 |
+
|
| 148 |
+
|
| 149 |
+
def _strip_batch(items):
|
| 150 |
+
return [strip_wikitext(wikitext) for _, _, _, _, wikitext in items]
|
| 151 |
+
|
| 152 |
+
|
| 153 |
+
def discover(out):
|
| 154 |
+
status = request_json(DUMPSTATUS_URL)
|
| 155 |
+
jobs = status.get("jobs", {})
|
| 156 |
+
files = []
|
| 157 |
+
for job in jobs.values():
|
| 158 |
+
if job.get("status") != "done":
|
| 159 |
+
continue
|
| 160 |
+
for name, meta in (job.get("files") or {}).items():
|
| 161 |
+
if re.fullmatch(r"plwiki-\d+-pages-meta-current\d+\.xml-p\d+p\d+\.bz2", name):
|
| 162 |
+
files.append({"name": name, "url": f"{DUMP_BASE}/{name}",
|
| 163 |
+
"size": meta.get("size"), "sha1": meta.get("sha1")})
|
| 164 |
+
files.sort(key=lambda item: item["name"])
|
| 165 |
+
if not files:
|
| 166 |
+
raise ValueError("no meta-current shards found")
|
| 167 |
+
selection = {
|
| 168 |
+
"observed_at": now(), "dump_date": DUMP_DATE, "dump_base": DUMP_BASE,
|
| 169 |
+
"dumpstatus_url": DUMPSTATUS_URL, "files": files,
|
| 170 |
+
"total_bytes": sum(item["size"] for item in files),
|
| 171 |
+
"user_talk_namespaces": sorted(TALK_NS), "min_text_chars": MIN_TEXT_CHARS,
|
| 172 |
+
"license": "CC BY-SA 4.0 (Wikimedia dump terms, same basis as the shipped wikipedia shard)",
|
| 173 |
+
"files_sha256": digest(files),
|
| 174 |
+
}
|
| 175 |
+
save(out / "selection.json", selection)
|
| 176 |
+
print(json.dumps({k: selection[k] for k in ("dump_date", "total_bytes")}, indent=2))
|
| 177 |
+
print("files:", len(files))
|
| 178 |
+
|
| 179 |
+
|
| 180 |
+
def parse_shard(path):
|
| 181 |
+
records = []
|
| 182 |
+
with bz2.open(path, "rb") as fh:
|
| 183 |
+
title = ns = pageid = timestamp = text = None
|
| 184 |
+
redirect = False
|
| 185 |
+
for ev, el in iterparse(fh, events=("end",)):
|
| 186 |
+
tag = _local(el.tag)
|
| 187 |
+
if tag == "title":
|
| 188 |
+
title = el.text
|
| 189 |
+
elif tag == "ns":
|
| 190 |
+
ns = el.text
|
| 191 |
+
elif tag == "id" and pageid is None:
|
| 192 |
+
pageid = el.text
|
| 193 |
+
elif tag == "timestamp":
|
| 194 |
+
timestamp = el.text
|
| 195 |
+
elif tag == "redirect":
|
| 196 |
+
redirect = True
|
| 197 |
+
elif tag == "text":
|
| 198 |
+
text = el.text
|
| 199 |
+
elif tag == "page":
|
| 200 |
+
if ns in TALK_NS and not redirect and text:
|
| 201 |
+
records.append((pageid, ns, title, timestamp, text))
|
| 202 |
+
title = ns = pageid = timestamp = text = None
|
| 203 |
+
redirect = False
|
| 204 |
+
el.clear()
|
| 205 |
+
return records
|
| 206 |
+
|
| 207 |
+
|
| 208 |
+
def acquire(out, workers):
|
| 209 |
+
selection = load(out / "selection.json")
|
| 210 |
+
dump_dir = out / "raw_dump"
|
| 211 |
+
dump_dir.mkdir(parents=True, exist_ok=True)
|
| 212 |
+
extracted_dir = out / "extracted"
|
| 213 |
+
extracted_dir.mkdir(exist_ok=True)
|
| 214 |
+
manifest = []
|
| 215 |
+
for item in selection["files"]:
|
| 216 |
+
dst = dump_dir / item["name"]
|
| 217 |
+
if not dst.exists() or dst.stat().st_size != item["size"]:
|
| 218 |
+
print(f" pobieram {item['name']} ({item['size']/1e6:.0f} MB)", flush=True)
|
| 219 |
+
for attempt in range(8):
|
| 220 |
+
have = dst.stat().st_size if dst.exists() else 0
|
| 221 |
+
headers = dict(UA)
|
| 222 |
+
if have:
|
| 223 |
+
headers["Range"] = f"bytes={have}-"
|
| 224 |
+
try:
|
| 225 |
+
with requests.get(item["url"], headers=headers, stream=True, timeout=(15, 300)) as r:
|
| 226 |
+
r.raise_for_status()
|
| 227 |
+
if have and r.status_code != 206:
|
| 228 |
+
have = 0
|
| 229 |
+
with dst.open("ab" if have else "wb") as f:
|
| 230 |
+
for chunk in r.iter_content(1 << 22):
|
| 231 |
+
f.write(chunk)
|
| 232 |
+
break
|
| 233 |
+
except requests.RequestException as error:
|
| 234 |
+
print(f" retry {item['name']}: {type(error).__name__}", flush=True)
|
| 235 |
+
time.sleep(min(2 ** attempt, 60))
|
| 236 |
+
else:
|
| 237 |
+
raise RuntimeError(f"download failed: {item['name']}")
|
| 238 |
+
sha = sha1_file(dst)
|
| 239 |
+
if item["sha1"] and sha != item["sha1"]:
|
| 240 |
+
raise ValueError(f"sha1 mismatch {item['name']}: {sha} != {item['sha1']}")
|
| 241 |
+
print(f" {item['name']} sha1 OK", flush=True)
|
| 242 |
+
|
| 243 |
+
out_path = extracted_dir / (item["name"] + ".jsonl.gz")
|
| 244 |
+
if not out_path.exists():
|
| 245 |
+
records = parse_shard(dst)
|
| 246 |
+
batches = [records[i:i + 2000] for i in range(0, len(records), 2000)]
|
| 247 |
+
with ProcessPoolExecutor(max_workers=workers) as pool:
|
| 248 |
+
texts = [text for batch in pool.map(_strip_batch, batches) for text in batch]
|
| 249 |
+
with gzip.open(out_path, "wt", encoding="utf-8") as f:
|
| 250 |
+
for (pageid, ns, title, timestamp, wikitext), text in zip(records, texts):
|
| 251 |
+
f.write(json.dumps({"pageid": pageid, "ns": ns, "title": title,
|
| 252 |
+
"timestamp": timestamp, "wikitext_chars": len(wikitext),
|
| 253 |
+
"text": text}, ensure_ascii=False) + "\n")
|
| 254 |
+
shard_records = 0
|
| 255 |
+
kept_chars = 0
|
| 256 |
+
with gzip.open(out_path, "rt", encoding="utf-8") as f:
|
| 257 |
+
for line in f:
|
| 258 |
+
row = json.loads(line)
|
| 259 |
+
shard_records += 1
|
| 260 |
+
kept_chars += len(row["text"])
|
| 261 |
+
manifest.append({"pageid": row["pageid"], "ns": row["ns"], "title": row["title"],
|
| 262 |
+
"timestamp": row["timestamp"],
|
| 263 |
+
"url": page_url(row["title"])})
|
| 264 |
+
print(f" {item['name']}: {shard_records} stron dyskusji", flush=True)
|
| 265 |
+
write_lines(out / "source_manifest.jsonl", manifest)
|
| 266 |
+
acquisition = {
|
| 267 |
+
"observed_at": now(), "dump_date": selection["dump_date"],
|
| 268 |
+
"files": selection["files"], "talk_pages": len(manifest),
|
| 269 |
+
"manifest_sha256": digest((out / "source_manifest.jsonl").read_bytes()),
|
| 270 |
+
}
|
| 271 |
+
save(out / "acquisition.json", acquisition)
|
| 272 |
+
print(json.dumps(acquisition, ensure_ascii=False, indent=2))
|
| 273 |
+
|
| 274 |
+
|
| 275 |
+
def strip_boilerplate(texts_index):
|
| 276 |
+
counts = Counter()
|
| 277 |
+
for lines in texts_index:
|
| 278 |
+
counts.update(set(re.sub(r"\s+", " ", line).strip() for line in lines if line.strip()))
|
| 279 |
+
n = len(texts_index)
|
| 280 |
+
return {line for line, count in counts.items()
|
| 281 |
+
if count / n >= BOILERPLATE_MIN_DOC_FREQ and len(line) < 160}
|
| 282 |
+
|
| 283 |
+
|
| 284 |
+
def normalize(text):
|
| 285 |
+
text = unicodedata.normalize("NFKC", text or "").replace("", "").replace("", "")
|
| 286 |
+
text = re.sub(r"[\x00-\x08\x0b\x0c\x0e-\x1f\x7f]", "", text)
|
| 287 |
+
lines = [re.sub(r"[ \t\xa0]+", " ", line).strip() for line in text.splitlines()]
|
| 288 |
+
lines = [line for line in lines if not re.fullmatch(r"\d{1,4}", line)]
|
| 289 |
+
text = "\n".join(lines)
|
| 290 |
+
text = re.sub(r"(?<=\w)-\n(?=[a-ząćęłńóśźż])", "", text)
|
| 291 |
+
text = re.sub(r"(?<![.!?:;\n])\n(?!\n)(?=[a-ząćęłńóśźż])", " ", text)
|
| 292 |
+
return re.sub(r"\n{3,}", "\n\n", text).strip()
|
| 293 |
+
|
| 294 |
+
|
| 295 |
+
def page_url(title):
|
| 296 |
+
return SOURCE_URL + "wiki/" + quote((title or "").replace(" ", "_"), safe="/:")
|
| 297 |
+
|
| 298 |
+
|
| 299 |
+
def normalize_title(text):
|
| 300 |
+
text = unicodedata.normalize("NFKD", text or "").casefold()
|
| 301 |
+
text = "".join(character for character in text if not unicodedata.combining(character))
|
| 302 |
+
return " ".join(re.findall(r"\w+", text))
|
| 303 |
+
|
| 304 |
+
|
| 305 |
+
def shingle_sketch(text, limit=5_000):
|
| 306 |
+
words = re.findall(r"\w+", text.casefold())
|
| 307 |
+
hashes = set()
|
| 308 |
+
for index in range(max(0, len(words) - 4)):
|
| 309 |
+
value = " ".join(words[index:index + 5]).encode("utf-8")
|
| 310 |
+
hashes.add(int.from_bytes(hashlib.blake2b(value, digest_size=8).digest(), "big"))
|
| 311 |
+
if len(hashes) > limit:
|
| 312 |
+
return set(sorted(hashes)[:limit])
|
| 313 |
+
return hashes
|
| 314 |
+
|
| 315 |
+
|
| 316 |
+
def boilerplate_shingles(candidates, boilerplate, stride=DF_SUBSAMPLE_STRIDE, fraction=DF_FRACTION):
|
| 317 |
+
df = Counter()
|
| 318 |
+
sampled = 0
|
| 319 |
+
for index, record in enumerate(candidates):
|
| 320 |
+
if index % stride:
|
| 321 |
+
continue
|
| 322 |
+
text = "\n".join(line for line in record["text"].splitlines()
|
| 323 |
+
if re.sub(r"\s+", " ", line).strip() not in boilerplate)
|
| 324 |
+
text = re.sub(r"\n{3,}", "\n\n", text).strip()
|
| 325 |
+
df.update(shingle_sketch(text))
|
| 326 |
+
sampled += 1
|
| 327 |
+
max_df = max(1, int(sampled * fraction))
|
| 328 |
+
return {shingle for shingle, count in df.items() if count > max_df}, max_df, sampled
|
| 329 |
+
|
| 330 |
+
|
| 331 |
+
def filter_sketch(sketch, hot):
|
| 332 |
+
return {shingle for shingle in sketch if shingle not in hot}
|
| 333 |
+
|
| 334 |
+
|
| 335 |
+
class NearDuplicateIndex:
|
| 336 |
+
def __init__(self):
|
| 337 |
+
self.postings = {}
|
| 338 |
+
self.records = []
|
| 339 |
+
self.comparisons = 0
|
| 340 |
+
|
| 341 |
+
@staticmethod
|
| 342 |
+
def prefix(sketch):
|
| 343 |
+
return sorted(sketch)[:len(sketch) - (9 * len(sketch) + 9) // 10 + 1]
|
| 344 |
+
|
| 345 |
+
def find(self, sketch):
|
| 346 |
+
candidates = set()
|
| 347 |
+
for value in self.prefix(sketch):
|
| 348 |
+
candidates.update(self.postings.get(value, ()))
|
| 349 |
+
for position in sorted(candidates):
|
| 350 |
+
row_id, other = self.records[position]
|
| 351 |
+
if 10 * min(len(sketch), len(other)) < 9 * max(len(sketch), len(other)):
|
| 352 |
+
continue
|
| 353 |
+
self.comparisons += 1
|
| 354 |
+
intersection = len(sketch & other)
|
| 355 |
+
score = intersection / max(len(sketch) + len(other) - intersection, 1)
|
| 356 |
+
if score >= 0.90:
|
| 357 |
+
return row_id, score
|
| 358 |
+
return None, 0.0
|
| 359 |
+
|
| 360 |
+
def add(self, row_id, sketch):
|
| 361 |
+
position = len(self.records)
|
| 362 |
+
self.records.append((row_id, sketch))
|
| 363 |
+
for value in self.prefix(sketch):
|
| 364 |
+
self.postings.setdefault(value, []).append(position)
|
| 365 |
+
|
| 366 |
+
|
| 367 |
+
def language_vote(identifier, text):
|
| 368 |
+
chunks = [text[:30_000], text[max(0, len(text) // 2 - 15_000):len(text) // 2 + 15_000], text[-30_000:]]
|
| 369 |
+
classified = {chunk: identifier.classify(chunk) for chunk in dict.fromkeys(chunks) if chunk.strip()}
|
| 370 |
+
votes = [classified[chunk] for chunk in chunks if chunk in classified]
|
| 371 |
+
languages = Counter(language for language, _ in votes)
|
| 372 |
+
return (languages.most_common(1)[0][0] if languages else "unknown", votes)
|
| 373 |
+
|
| 374 |
+
|
| 375 |
+
def audit_target(out):
|
| 376 |
+
info = request_json(f"https://huggingface.co/api/datasets/{TARGET}")
|
| 377 |
+
revision = info["sha"]
|
| 378 |
+
tree = request_json(f"https://huggingface.co/api/datasets/{TARGET}/tree/{revision}?recursive=true&expand=false")
|
| 379 |
+
discussions = request_json(f"https://huggingface.co/api/datasets/{TARGET}/discussions?status=open&p=0")
|
| 380 |
+
paths = sorted(item.get("path", "") for item in tree)
|
| 381 |
+
open_rows = [{"num": item.get("num"), "title": item.get("title"), "status": item.get("status"),
|
| 382 |
+
"author": item.get("author", {}).get("name")} for item in discussions.get("discussions", [])]
|
| 383 |
+
terms = ("plwiki_user_talk", "usertalk", "user_talk", "user-talk", "dyskusja_wikipedyst")
|
| 384 |
+
matches = [path for path in paths if any(term in path.casefold() for term in terms)]
|
| 385 |
+
discussion_matches = [row for row in open_rows if any(term in (row.get("title") or "").casefold()
|
| 386 |
+
for term in terms)]
|
| 387 |
+
report = {
|
| 388 |
+
"target": TARGET, "revision": revision, "last_modified": info.get("lastModified"),
|
| 389 |
+
"tree_paths": len(paths), "source_path_matches": matches, "open_discussions": open_rows,
|
| 390 |
+
"matching_open_discussions": discussion_matches, "source_absent": not matches and not discussion_matches,
|
| 391 |
+
"observed_at": now(),
|
| 392 |
+
}
|
| 393 |
+
save(out / "target_audit.json", report)
|
| 394 |
+
print(json.dumps({"revision": revision, "source_absent": report["source_absent"],
|
| 395 |
+
"tree_matches": matches, "discussion_matches": discussion_matches}, ensure_ascii=False, indent=2))
|
| 396 |
+
|
| 397 |
+
|
| 398 |
+
def audit_overlap(out):
|
| 399 |
+
import pyarrow.parquet as pq
|
| 400 |
+
from huggingface_hub import HfApi, HfFileSystem
|
| 401 |
+
|
| 402 |
+
acquisition = load(out / "acquisition.json")
|
| 403 |
+
revision = HfApi().dataset_info(TARGET).sha
|
| 404 |
+
remote = f"datasets/{TARGET}@{revision}/data/wikipedia/wikipedia.parquet"
|
| 405 |
+
with HfFileSystem().open(remote, "rb") as handle:
|
| 406 |
+
table = pq.read_table(handle, columns=["id"])
|
| 407 |
+
target_ids = set(table.column("id").to_pylist())
|
| 408 |
+
candidate_ids = {f"{SOURCE}_{row['pageid']}" for row in read_lines(out / "source_manifest.jsonl")}
|
| 409 |
+
collisions = sorted(candidate_ids & target_ids)
|
| 410 |
+
report = {
|
| 411 |
+
"target": f"{TARGET}:data/wikipedia", "target_revision": revision,
|
| 412 |
+
"method": "Literal dataset-record ID comparison only. Source-specific ID prefixes make zero collisions "
|
| 413 |
+
"uninformative about page identity or text overlap. No target namespace or text audit was performed.",
|
| 414 |
+
"target_rows": table.num_rows, "candidate_records": len(candidate_ids),
|
| 415 |
+
"id_collisions": collisions[:50], "collision_count": len(collisions),
|
| 416 |
+
"text_overlap": "not tested; quoted-article passages and target-wide text dedup remain integration gates",
|
| 417 |
+
"observed_at": now(),
|
| 418 |
+
}
|
| 419 |
+
save(out / "overlap_audit.json", report)
|
| 420 |
+
print(json.dumps({key: report[key] for key in ("target_revision", "target_rows", "candidate_records",
|
| 421 |
+
"collision_count")}, ensure_ascii=False, indent=2))
|
| 422 |
+
|
| 423 |
+
|
| 424 |
+
def build(out):
|
| 425 |
+
import pyarrow as pa
|
| 426 |
+
import pyarrow.parquet as pq
|
| 427 |
+
import tiktoken
|
| 428 |
+
from langid.langid import LanguageIdentifier, model
|
| 429 |
+
|
| 430 |
+
build_started_at = now()
|
| 431 |
+
acquisition = load(out / "acquisition.json")
|
| 432 |
+
selection = load(out / "selection.json")
|
| 433 |
+
encoder = tiktoken.get_encoding("cl100k_base")
|
| 434 |
+
identifier = LanguageIdentifier.from_modelstring(model, norm_probs=True)
|
| 435 |
+
identifier.set_languages(["pl", "en", "de", "uk", "ru"])
|
| 436 |
+
|
| 437 |
+
candidates = []
|
| 438 |
+
for shard in sorted((out / "extracted").glob("*.jsonl.gz")):
|
| 439 |
+
with gzip.open(shard, "rt", encoding="utf-8") as f:
|
| 440 |
+
for line in f:
|
| 441 |
+
row = json.loads(line)
|
| 442 |
+
row["text"] = normalize(row["text"])
|
| 443 |
+
candidates.append(row)
|
| 444 |
+
boilerplate = strip_boilerplate([row["text"].splitlines() for row in candidates])
|
| 445 |
+
print(f"boilerplate lines: {len(boilerplate)}", flush=True)
|
| 446 |
+
hot, max_df, df_sampled = boilerplate_shingles(candidates, boilerplate)
|
| 447 |
+
print(f"boilerplate shingles: {len(hot)} (df>{max_df} over {df_sampled} sampled docs)", flush=True)
|
| 448 |
+
|
| 449 |
+
rows, attribution, decisions, exact_seen = [], [], [], {}
|
| 450 |
+
near_index = NearDuplicateIndex()
|
| 451 |
+
pii = Counter()
|
| 452 |
+
added = acquisition["observed_at"][:10]
|
| 453 |
+
started = last_progress = time.monotonic()
|
| 454 |
+
for processed, record in enumerate(candidates, 1):
|
| 455 |
+
current = time.monotonic()
|
| 456 |
+
if current - last_progress >= 10 or processed == len(candidates):
|
| 457 |
+
print(f" processed={processed - 1}/{len(candidates)} kept={len(rows)} "
|
| 458 |
+
f"rate={(processed - 1) / max(current - started, 0.001):.1f}/s "
|
| 459 |
+
f"near_comparisons={near_index.comparisons}", flush=True)
|
| 460 |
+
last_progress = current
|
| 461 |
+
text = "\n".join(line for line in record["text"].splitlines()
|
| 462 |
+
if re.sub(r"\s+", " ", line).strip() not in boilerplate)
|
| 463 |
+
text = re.sub(r"\n{3,}", "\n\n", text).strip()
|
| 464 |
+
replacement_count = text.count("\ufffd")
|
| 465 |
+
letters = len(re.findall(r"[A-Za-zĄĆĘŁŃÓŚŹŻąćęłńóśźż]", text))
|
| 466 |
+
language, votes = "not_checked", []
|
| 467 |
+
reason = ""
|
| 468 |
+
if len(text) < MIN_TEXT_CHARS:
|
| 469 |
+
reason = "too_little_text"
|
| 470 |
+
elif letters / max(len(text), 1) < 0.5:
|
| 471 |
+
reason = "low_letter_ratio"
|
| 472 |
+
elif replacement_count > 100 or replacement_count / max(len(text), 1) > 0.002:
|
| 473 |
+
reason = "excessive_replacement_characters"
|
| 474 |
+
if not reason:
|
| 475 |
+
language, votes = language_vote(identifier, text)
|
| 476 |
+
if language != "pl":
|
| 477 |
+
reason = "non_polish_text"
|
| 478 |
+
text = text.replace("\ufffd", "[UNREADABLE_GLYPH]")
|
| 479 |
+
text, pii_counts = redact_pii(text)
|
| 480 |
+
pii.update(pii_counts)
|
| 481 |
+
if not reason and len(text) < MIN_TEXT_CHARS:
|
| 482 |
+
reason = "too_little_text_after_redaction"
|
| 483 |
+
exact_key = digest(" ".join(text.casefold().split()).encode("utf-8"))
|
| 484 |
+
duplicate_of, duplicate_score = None, 0.0
|
| 485 |
+
if not reason and exact_key in exact_seen:
|
| 486 |
+
reason, duplicate_of, duplicate_score = "normalized_duplicate", exact_seen[exact_key], 1.0
|
| 487 |
+
if not reason:
|
| 488 |
+
sketch = filter_sketch(shingle_sketch(text), hot)
|
| 489 |
+
duplicate_of, duplicate_score = near_index.find(sketch)
|
| 490 |
+
if duplicate_of is not None:
|
| 491 |
+
reason = "near_duplicate"
|
| 492 |
+
row_id = f"{SOURCE}_{record['pageid']}"
|
| 493 |
+
decision = {
|
| 494 |
+
"id": row_id, "selected": not bool(reason), "reason": reason or "include",
|
| 495 |
+
"characters": len(text), "letter_ratio": letters / max(len(text), 1),
|
| 496 |
+
"replacement_characters": replacement_count, "language": language,
|
| 497 |
+
"language_votes": [{"language": lang, "confidence": float(score)} for lang, score in votes],
|
| 498 |
+
}
|
| 499 |
+
if duplicate_of:
|
| 500 |
+
decision.update({"duplicate_of": duplicate_of, "jaccard": duplicate_score})
|
| 501 |
+
decisions.append(decision)
|
| 502 |
+
if reason:
|
| 503 |
+
continue
|
| 504 |
+
exact_seen[exact_key] = row_id
|
| 505 |
+
near_index.add(row_id, sketch)
|
| 506 |
+
row = {
|
| 507 |
+
"id": row_id, "text": text, "source": SOURCE, "added": added,
|
| 508 |
+
"created": (record["timestamp"] or "")[:10] or "unknown",
|
| 509 |
+
"token_count": len(encoder.encode_ordinary(text)),
|
| 510 |
+
"license": LICENSE_SPDX, "author": "plwiki contributors",
|
| 511 |
+
}
|
| 512 |
+
rows.append(row)
|
| 513 |
+
attribution.append({
|
| 514 |
+
"id": row_id, "pageid": record["pageid"], "ns": record["ns"], "title": record["title"],
|
| 515 |
+
"url": page_url(record["title"]),
|
| 516 |
+
"last_revision_at": record["timestamp"], "wikitext_chars": record["wikitext_chars"],
|
| 517 |
+
"license": LICENSE_SPDX,
|
| 518 |
+
"license_evidence": LICENSE_TERMS_URL + " (section 7, text licensing and attribution by page URL)",
|
| 519 |
+
"dump": {"date": selection["dump_date"], "files": [f["name"] for f in selection["files"]]},
|
| 520 |
+
"text_sha256": digest(text.encode("utf-8")),
|
| 521 |
+
"transformations": ["official pages-meta-current dump", "mwparserfromhell wikitext strip",
|
| 522 |
+
"cross-document boilerplate-line removal",
|
| 523 |
+
"Unicode/whitespace normalization", "page-number-only removal",
|
| 524 |
+
"line-wrap repair", "email/labelled-phone/IP/labelled-national-ID/account-candidate pattern redaction"],
|
| 525 |
+
})
|
| 526 |
+
|
| 527 |
+
root = out / "hf_repo"
|
| 528 |
+
(root / "data").mkdir(parents=True, exist_ok=True)
|
| 529 |
+
(root / "artifacts").mkdir(parents=True, exist_ok=True)
|
| 530 |
+
schema = pa.schema([(field, pa.int64() if field == "token_count" else pa.string()) for field in FIELDS])
|
| 531 |
+
pq.write_table(pa.Table.from_pylist(rows, schema=schema), root / "data/train-00000-of-00001.parquet", compression="zstd")
|
| 532 |
+
write_lines(root / "artifacts/attribution.jsonl", attribution)
|
| 533 |
+
write_lines(root / "artifacts/decisions.jsonl", decisions)
|
| 534 |
+
write_lines(root / "artifacts/source_manifest.jsonl", read_lines(out / "source_manifest.jsonl"))
|
| 535 |
+
sample = sorted(rows, key=lambda row: digest(("sample:" + row["id"]).encode("utf-8")))[:12]
|
| 536 |
+
write_lines(root / "artifacts/sample.jsonl", sample)
|
| 537 |
+
save(root / "artifacts/selection.json", selection)
|
| 538 |
+
save(root / "artifacts/acquisition.json", acquisition)
|
| 539 |
+
save(root / "artifacts/boilerplate_lines.json", sorted(boilerplate))
|
| 540 |
+
overlap = load(out / "overlap_audit.json") if (out / "overlap_audit.json").exists() else None
|
| 541 |
+
target_audit = load(out / "target_audit.json") if (out / "target_audit.json").exists() else None
|
| 542 |
+
if overlap:
|
| 543 |
+
save(root / "artifacts/overlap_audit.json", overlap)
|
| 544 |
+
if target_audit:
|
| 545 |
+
save(root / "artifacts/target_audit.json", target_audit)
|
| 546 |
+
stats = {
|
| 547 |
+
"dump_date": selection["dump_date"], "dump_files": len(selection["files"]),
|
| 548 |
+
"talk_pages": acquisition["talk_pages"],
|
| 549 |
+
"kept": len(rows), "rejected": len(decisions) - len(rows),
|
| 550 |
+
"tokens": sum(row["token_count"] for row in rows),
|
| 551 |
+
"characters": sum(len(row["text"]) for row in rows),
|
| 552 |
+
"license_counts": dict(Counter(row["license"] for row in rows)),
|
| 553 |
+
"boilerplate_lines_removed": len(boilerplate),
|
| 554 |
+
"boilerplate_shingles_excluded": len(hot),
|
| 555 |
+
"sample_count": len(sample), "added": added,
|
| 556 |
+
}
|
| 557 |
+
qa = {
|
| 558 |
+
"scope": "Polish Wikipedia user-talk (ns=3) pages from the pinned pages-meta-current dump",
|
| 559 |
+
"license_terms_url": LICENSE_TERMS_URL,
|
| 560 |
+
"license_gate": "Wikimedia Terms of Use section 7: CC BY-SA 4.0 and page-URL attribution; third-party notices still require review",
|
| 561 |
+
"rejection_counts": dict(Counter(item["reason"] for item in decisions if not item["selected"])),
|
| 562 |
+
"minimum_final_text_characters": MIN_TEXT_CHARS,
|
| 563 |
+
"created_field_semantics": "Last revision date from the dump, not the page creation date",
|
| 564 |
+
"language_gate": "independent three-window langid vote",
|
| 565 |
+
"pii_pattern_matches": dict(pii), "exact_dedup": True,
|
| 566 |
+
"pii_policy": "IPv6 parsed including compressed notation; labelled PESEL/NIP/REGON and 26-digit account candidates masked conservatively without checksum validation; counts cover all candidates before rejection",
|
| 567 |
+
"pii_limitations": "Unlabelled national identifiers, free-form phone numbers, names and personal disclosures may remain; this is not complete anonymization",
|
| 568 |
+
"near_dedup": "deterministic capped 5-word-shingle hash Jaccard >= 0.90 within source; shingles with document frequency >2% (sampled 1-in-4, i.e. bot-template boilerplate) excluded from sketches",
|
| 569 |
+
"boilerplate": f"lines occurring in >= {BOILERPLATE_MIN_DOC_FREQ:.0%} of documents removed ({len(boilerplate)} patterns); {len(hot)} high-df shingles excluded from near-dedup sketches (df>{max_df} over {df_sampled} sampled docs)",
|
| 570 |
+
"wikipedia_shard_overlap": overlap or "pending", "cross_source_text_dedup": "pending target integration",
|
| 571 |
+
"benchmark_overlap": "pending", "limitations": [
|
| 572 |
+
"user-talk pages contain informal text with typos, bot notices, edit disputes and occasional abuse/vandalism",
|
| 573 |
+
"article-talk (ns=1) and project-talk (ns=5) namespaces excluded by scope decision; they ship as the separate plwiki_talk slice",
|
| 574 |
+
"comments may quote article text; quoted passages are not disjoint from the wikipedia shard",
|
| 575 |
+
"record model is a whole user-talk page; individual comments are not split",
|
| 576 |
+
"pattern checks are not comprehensive de-identification",
|
| 577 |
+
],
|
| 578 |
+
}
|
| 579 |
+
save(root / "artifacts/stats.json", stats)
|
| 580 |
+
save(root / "artifacts/qa.json", qa)
|
| 581 |
+
protocol_id = "protocol:plwiki-user-talk-v1"
|
| 582 |
+
run = {
|
| 583 |
+
"id": "run:" + digest({"script": digest(Path(__file__).read_bytes()), "selection": selection,
|
| 584 |
+
"acquisition": digest(acquisition)}),
|
| 585 |
+
"protocol": protocol_id, "started_at": build_started_at, "finished_at": now(),
|
| 586 |
+
"success": True, "actor": "actor:devin", "stats": stats,
|
| 587 |
+
}
|
| 588 |
+
save(root / "artifacts/run.json", run)
|
| 589 |
+
excluded = {"README.md", "NOTICE.md", "artifacts/checksums.json", "artifacts/ontology.json"}
|
| 590 |
+
checks = {path.relative_to(root).as_posix(): digest(path.read_bytes()) for path in sorted(root.rglob("*"))
|
| 591 |
+
if path.is_file()
|
| 592 |
+
and path.relative_to(root).as_posix() not in excluded
|
| 593 |
+
and not path.relative_to(root).as_posix().startswith("src/")}
|
| 594 |
+
save(root / "artifacts/checksums.json", checks)
|
| 595 |
+
source_version = "version:source:" + digest(selection["files"])
|
| 596 |
+
dataset_version = "version:dataset:" + digest(checks)
|
| 597 |
+
selection_evidence = "evidence:selection:" + digest(selection)
|
| 598 |
+
acquisition_evidence = "evidence:acquisition:" + digest(acquisition)
|
| 599 |
+
qa_evidence = "evidence:qa:" + digest(qa)
|
| 600 |
+
evidence = [
|
| 601 |
+
{"id": selection_evidence, "observation_type": "dump_inventory_and_pinning",
|
| 602 |
+
"artifact": "artifacts/selection.json", "content_address": digest(selection), "produced_by": run["id"]},
|
| 603 |
+
{"id": acquisition_evidence, "observation_type": "dump_download_sha1_and_extraction",
|
| 604 |
+
"artifact": "artifacts/acquisition.json", "content_address": digest(acquisition), "produced_by": run["id"]},
|
| 605 |
+
{"id": qa_evidence, "observation_type": "source_qa", "artifact": "artifacts/qa.json",
|
| 606 |
+
"content_address": digest(qa), "produced_by": run["id"]},
|
| 607 |
+
]
|
| 608 |
+
overlap_evidence = None
|
| 609 |
+
if overlap:
|
| 610 |
+
overlap_evidence = "evidence:overlap:" + digest(overlap)
|
| 611 |
+
evidence.append({"id": overlap_evidence, "observation_type": "namespace_overlap_audit",
|
| 612 |
+
"artifact": "artifacts/overlap_audit.json", "content_address": digest(overlap),
|
| 613 |
+
"produced_by": run["id"]})
|
| 614 |
+
target_evidence = None
|
| 615 |
+
if target_audit:
|
| 616 |
+
target_evidence = "evidence:target:" + digest(target_audit)
|
| 617 |
+
evidence.append({"id": target_evidence, "observation_type": "target_registry_audit",
|
| 618 |
+
"artifact": "artifacts/target_audit.json", "content_address": digest(target_audit),
|
| 619 |
+
"produced_by": run["id"]})
|
| 620 |
+
ontology = {
|
| 621 |
+
"schema": "slayer-research-ontology-profile-v1",
|
| 622 |
+
"objects": [{"id": "object:source:plwiki-dump-" + selection["dump_date"], "type": "Source"},
|
| 623 |
+
{"id": "object:dataset:plwiki-user-talk", "type": "Dataset"}],
|
| 624 |
+
"versions": [{"id": source_version, "object": "object:source:plwiki-dump-" + selection["dump_date"],
|
| 625 |
+
"content_address": source_version.rsplit(":", 1)[-1]},
|
| 626 |
+
{"id": dataset_version, "object": "object:dataset:plwiki-user-talk",
|
| 627 |
+
"content_address": dataset_version.rsplit(":", 1)[-1]}],
|
| 628 |
+
"protocols": [{"id": protocol_id, "procedure": "pinned dump; sha1-verified shards; namespace 3; wikitext strip; boilerplate removal; normalization; PII patterns; exact and near dedup with high-document-frequency shingle exclusion"}],
|
| 629 |
+
"runs": [run], "evidence": evidence,
|
| 630 |
+
"claims": [
|
| 631 |
+
{"id": "claim:user-talk-pages-observed",
|
| 632 |
+
"statement": f"The pinned dump {selection['dump_date']} yielded {acquisition['talk_pages']} non-redirect user-talk pages in namespace 3.",
|
| 633 |
+
"supported_by": [selection_evidence, acquisition_evidence],
|
| 634 |
+
"falsification_condition": "The pinned dump shards do not reproduce the count."},
|
| 635 |
+
{"id": "claim:slice-retention",
|
| 636 |
+
"statement": f"The slice retained {stats['kept']} records after text QA and within-source deduplication.",
|
| 637 |
+
"supported_by": [acquisition_evidence, qa_evidence],
|
| 638 |
+
"falsification_condition": "The decisions, Parquet rows, or checksums do not reproduce the retention count."},
|
| 639 |
+
{"id": "claim:source-absence-at-audit",
|
| 640 |
+
"statement": "User-talk-namespace Wikipedia content was not registered as a source in the pinned DynaWord data tree or open pull-request list at audit time.",
|
| 641 |
+
"supported_by": [target_evidence] if target_evidence else [qa_evidence],
|
| 642 |
+
"falsification_condition": "The pinned target evidence contains a matching source or proposal."},
|
| 643 |
+
{"id": "claim:training-value-untested",
|
| 644 |
+
"statement": "Net corpus novelty and training benefit remain untested hypotheses.",
|
| 645 |
+
"supported_by": [qa_evidence] + ([overlap_evidence] if overlap_evidence else []),
|
| 646 |
+
"falsification_condition": "Target-wide text deduplication and controlled ablations establish those properties."},
|
| 647 |
+
],
|
| 648 |
+
"actors": [{"id": "actor:piotrsty", "type": "Contributor"},
|
| 649 |
+
{"id": "actor:wikimedia", "type": "Organization"}, {"id": "actor:devin", "type": "Agent"}],
|
| 650 |
+
"relations": [{"source": dataset_version, "predicate": "DERIVED_FROM", "target": source_version},
|
| 651 |
+
{"source": dataset_version, "predicate": "GENERATED_BY", "target": run["id"]}] +
|
| 652 |
+
([{"source": dataset_version, "predicate": "VALIDATED_AGAINST",
|
| 653 |
+
"target": f"hf:dataset:{TARGET}@{target_audit['revision']}"}] if target_audit else []),
|
| 654 |
+
"pending": ["quoted-article-fragment dedup vs wikipedia shard", "cross-source text deduplication",
|
| 655 |
+
"benchmark contamination check", "abuse/vandalism content screening",
|
| 656 |
+
"controlled training ablation"],
|
| 657 |
+
}
|
| 658 |
+
save(root / "artifacts/ontology.json", ontology)
|
| 659 |
+
card = f"""---
|
| 660 |
+
license: cc-by-sa-4.0
|
| 661 |
+
language:
|
| 662 |
+
- pl
|
| 663 |
+
task_categories:
|
| 664 |
+
- text-generation
|
| 665 |
+
configs:
|
| 666 |
+
- config_name: default
|
| 667 |
+
data_files:
|
| 668 |
+
- split: train
|
| 669 |
+
path: data/train-00000-of-00001.parquet
|
| 670 |
+
---
|
| 671 |
+
|
| 672 |
+
# Polish Wikipedia user-talk pages (plwiki, namespace 3)
|
| 673 |
+
|
| 674 |
+
User-talk pages from the pinned `plwiki-{selection['dump_date']}-pages-meta-current`
|
| 675 |
+
dump (https://dumps.wikimedia.org/plwiki/{selection['dump_date']}/).
|
| 676 |
+
The source selects namespace 3; zero collisions of source-prefixed record
|
| 677 |
+
IDs do not establish disjointness from the target `wikipedia` shard. Target-wide
|
| 678 |
+
text deduplication remains pending. This is conversational written Polish:
|
| 679 |
+
editor-to-editor messages, welcome notices, warnings, disputes, thanks and
|
| 680 |
+
informal coordination.
|
| 681 |
+
|
| 682 |
+
- Dump files: {stats['dump_files']} shards, sha1-verified against dumpstatus.json
|
| 683 |
+
- Non-redirect user-talk pages (ns 3): {stats['talk_pages']:,}
|
| 684 |
+
- Retained after text QA and within-source deduplication: {stats['kept']:,}
|
| 685 |
+
- Characters: {stats['characters']:,}
|
| 686 |
+
- Tokens: {stats['tokens']:,} (`cl100k_base` proxy)
|
| 687 |
+
- License: CC BY-SA 4.0 per record; authorship via per-page history link
|
| 688 |
+
|
| 689 |
+
## Provenance and rights
|
| 690 |
+
|
| 691 |
+
Each record keeps its page id, title, namespace, last-revision timestamp and
|
| 692 |
+
canonical URL (history is the attribution trail, per [Wikimedia Terms of Use,
|
| 693 |
+
section 7]({LICENSE_TERMS_URL})). That section grants CC BY-SA 4.0 rights to
|
| 694 |
+
contributor text and allows attribution via the source-page URL. Additional
|
| 695 |
+
third-party attribution notices must be preserved and remain a review item.
|
| 696 |
+
The article-talk (ns=1) and project-talk (ns=5) namespaces are excluded by scope
|
| 697 |
+
decision; they ship as the separate plwiki_talk slice. The `created` field is the last revision date, not page creation.
|
| 698 |
+
|
| 699 |
+
## Processing and limitations
|
| 700 |
+
|
| 701 |
+
Wikitext is stripped with mwparserfromhell; lines occurring in at least
|
| 702 |
+
{BOILERPLATE_MIN_DOC_FREQ:.0%} of documents are removed as
|
| 703 |
+
cross-document boilerplate (see `artifacts/boilerplate_lines.json`). Unicode and
|
| 704 |
+
whitespace normalization, email/labelled-phone/IP/labelled-national-ID/account-candidate pattern redaction, three-window langid
|
| 705 |
+
vote, exact and near deduplication within source. The final text must contain at
|
| 706 |
+
least {MIN_TEXT_CHARS} characters after redaction. Rejection counts:
|
| 707 |
+
|
| 708 |
+
```json
|
| 709 |
+
{json.dumps(qa['rejection_counts'], ensure_ascii=False, indent=2)}
|
| 710 |
+
```
|
| 711 |
+
|
| 712 |
+
PII filtering masks parsed IPv6 addresses (including compressed forms), labelled
|
| 713 |
+
PESEL/NIP/REGON and 26-digit account candidates as well as the existing patterns.
|
| 714 |
+
The account filter is conservative and may mask non-account numbers; unlabelled
|
| 715 |
+
identifiers, free-form phone numbers, names and personal disclosures may remain.
|
| 716 |
+
This is not complete anonymization.
|
| 717 |
+
|
| 718 |
+
User-talk pages are informal: they contain typos, bot-generated notices,
|
| 719 |
+
templated warnings, quoted article fragments and occasional vandalism or abuse.
|
| 720 |
+
Quoted article text is not disjoint
|
| 721 |
+
from the shipped `wikipedia` shard; text-level dedup against it remains a target
|
| 722 |
+
integration gate. The record model is a whole user-talk page; comments are not split.
|
| 723 |
+
|
| 724 |
+
## Review artifacts
|
| 725 |
+
|
| 726 |
+
See `artifacts/sample.jsonl`, `attribution.jsonl`, `decisions.jsonl`,
|
| 727 |
+
`source_manifest.jsonl`, `overlap_audit.json`, `stats.json`, `qa.json`,
|
| 728 |
+
`checksums.json`, `run.json` and `ontology.json`.
|
| 729 |
+
"""
|
| 730 |
+
(root / "README.md").write_text(card, encoding="utf-8")
|
| 731 |
+
(root / "NOTICE.md").write_text(
|
| 732 |
+
"# Attribution and license notice\n\n"
|
| 733 |
+
"Source: Polish Wikipedia user-talk pages, https://pl.wikipedia.org/ - Wikimedia Foundation.\n\n"
|
| 734 |
+
"Text is available under the Creative Commons Attribution-ShareAlike 4.0 License "
|
| 735 |
+
"(https://creativecommons.org/licenses/by-sa/4.0/). Attribution is provided via the per-record "
|
| 736 |
+
"canonical page URL in `artifacts/attribution.jsonl`; each page's revision history lists its "
|
| 737 |
+
"contributors.\n\n"
|
| 738 |
+
"Preparation: Piotr Styla with Devin. Changes: namespace filtering (3), wikitext "
|
| 739 |
+
"stripping, cross-document boilerplate removal, Unicode and whitespace normalization, limited "
|
| 740 |
+
"email/labelled-phone/IP/labelled-national-ID/account-candidate redaction, language/quality filtering and within-source deduplication. No "
|
| 741 |
+
"endorsement by the Wikimedia Foundation or page contributors is implied.\n",
|
| 742 |
+
encoding="utf-8",
|
| 743 |
+
)
|
| 744 |
+
print(json.dumps(stats, ensure_ascii=False, indent=2))
|
| 745 |
+
|
| 746 |
+
|
| 747 |
+
def verify(out):
|
| 748 |
+
import pyarrow.parquet as pq
|
| 749 |
+
|
| 750 |
+
root = out / "hf_repo"
|
| 751 |
+
table = pq.read_table(root / "data/train-00000-of-00001.parquet")
|
| 752 |
+
rows = table.to_pylist()
|
| 753 |
+
stats = load(root / "artifacts/stats.json")
|
| 754 |
+
decisions = read_lines(root / "artifacts/decisions.jsonl")
|
| 755 |
+
attribution = read_lines(root / "artifacts/attribution.jsonl")
|
| 756 |
+
sample = read_lines(root / "artifacts/sample.jsonl")
|
| 757 |
+
assert table.column_names == FIELDS
|
| 758 |
+
assert len(rows) == stats["kept"] == len(attribution)
|
| 759 |
+
assert sum(item["selected"] for item in decisions) == len(rows)
|
| 760 |
+
assert sum(row["token_count"] for row in rows) == stats["tokens"]
|
| 761 |
+
assert all(row["source"] == SOURCE and row["license"] == LICENSE_SPDX for row in rows)
|
| 762 |
+
assert all(EMAIL_RE.search(row["text"]) is None for row in rows)
|
| 763 |
+
by_id = {row["id"]: row for row in rows}
|
| 764 |
+
assert len(sample) == stats["sample_count"] and all(by_id[row["id"]] == row for row in sample)
|
| 765 |
+
ontology = load(root / "artifacts/ontology.json")
|
| 766 |
+
evidence = {item["id"] for item in ontology["evidence"]}
|
| 767 |
+
assert all(item["falsification_condition"] and set(item["supported_by"]) <= evidence for item in ontology["claims"])
|
| 768 |
+
checks = load(root / "artifacts/checksums.json")
|
| 769 |
+
assert all((root / path).is_file() and digest((root / path).read_bytes()) == checksum for path, checksum in checks.items())
|
| 770 |
+
for item in ontology["evidence"]:
|
| 771 |
+
artifact = root / item["artifact"]
|
| 772 |
+
assert artifact.is_file() and digest(load(artifact)) == item["content_address"]
|
| 773 |
+
import tiktoken
|
| 774 |
+
|
| 775 |
+
encoder = tiktoken.get_encoding("cl100k_base")
|
| 776 |
+
assert len(by_id) == len(rows)
|
| 777 |
+
assert set(by_id) == {item["id"] for item in attribution}
|
| 778 |
+
assert set(by_id) == {item["id"] for item in decisions if item["selected"]}
|
| 779 |
+
assert len(decisions) == stats["talk_pages"]
|
| 780 |
+
assert len(decisions) - len(rows) == stats["rejected"]
|
| 781 |
+
assert sum(len(row["text"]) for row in rows) == stats["characters"]
|
| 782 |
+
short_ids = [row["id"] for row in rows if len(row["text"]) < MIN_TEXT_CHARS]
|
| 783 |
+
assert all(row["token_count"] > 0 for row in rows)
|
| 784 |
+
assert all(len(row["created"]) == 10 and row["author"] for row in rows)
|
| 785 |
+
assert all(item["ns"] in TALK_NS and item["url"] == page_url(item["title"])
|
| 786 |
+
and item["text_sha256"] == digest(by_id[item["id"]]["text"].encode("utf-8"))
|
| 787 |
+
for item in attribution)
|
| 788 |
+
assert all(len(encoder.encode_ordinary(row["text"])) == row["token_count"] for row in rows)
|
| 789 |
+
boilerplate = set(load(root / "artifacts/boilerplate_lines.json"))
|
| 790 |
+
review_ids = {row["id"] for row in sorted(sample, key=lambda item: len(item["text"]))[:3]}
|
| 791 |
+
comparisons = []
|
| 792 |
+
reconstructed = set()
|
| 793 |
+
for shard in sorted((out / "extracted").glob("*.jsonl.gz")):
|
| 794 |
+
with gzip.open(shard, "rt", encoding="utf-8") as handle:
|
| 795 |
+
for line in handle:
|
| 796 |
+
original = json.loads(line)
|
| 797 |
+
row_id = f"{SOURCE}_{original['pageid']}"
|
| 798 |
+
if row_id not in by_id:
|
| 799 |
+
continue
|
| 800 |
+
text = normalize(original["text"])
|
| 801 |
+
text = "\n".join(line for line in text.splitlines()
|
| 802 |
+
if re.sub(r"\s+", " ", line).strip() not in boilerplate)
|
| 803 |
+
text = re.sub(r"\n{3,}", "\n\n", text).strip().replace("\ufffd", "[UNREADABLE_GLYPH]")
|
| 804 |
+
text, _ = redact_pii(text)
|
| 805 |
+
before = redact_pii(original["text"])[0] if row_id in review_ids else ""
|
| 806 |
+
assert text == by_id[row_id]["text"], row_id
|
| 807 |
+
assert row_id not in reconstructed
|
| 808 |
+
reconstructed.add(row_id)
|
| 809 |
+
if row_id in review_ids:
|
| 810 |
+
comparisons.append({"id": row_id, "title": original["title"],
|
| 811 |
+
"before_normalization_pii_patterns_redacted": before,
|
| 812 |
+
"after": text})
|
| 813 |
+
assert reconstructed == set(by_id)
|
| 814 |
+
write_lines(out / "validation_samples.jsonl", comparisons)
|
| 815 |
+
lengths = sorted(len(row["text"]) for row in rows)
|
| 816 |
+
rejection_counts = dict(Counter(item["reason"] for item in decisions if not item["selected"]))
|
| 817 |
+
residuals = {name: sum(bool(pattern.search(row["text"])) for row in rows)
|
| 818 |
+
for name, pattern in {"email": EMAIL_RE, "labelled_phone": PHONE_RE,
|
| 819 |
+
"ipv4": IPV4_RE, "ipv6_current_pattern": IPV6_RE}.items()}
|
| 820 |
+
privacy_review = {
|
| 821 |
+
"compressed_ipv6_documents": sum(any(is_ipv6(match.group()) for match in IPV6_CANDIDATE_RE.finditer(row["text"])) for row in rows),
|
| 822 |
+
"labelled_national_identifier_candidates": sum(bool(NATIONAL_ID_RE.search(row["text"])) for row in rows),
|
| 823 |
+
"bank_account_candidates": sum(bool(BANK_ACCOUNT_RE.search(row["text"])) for row in rows),
|
| 824 |
+
}
|
| 825 |
+
report = {
|
| 826 |
+
"observed_at": now(), "verified": not short_ids and not any(residuals.values()) and not any(privacy_review.values()), "stats": stats,
|
| 827 |
+
"additional_privacy_review_document_counts": privacy_review,
|
| 828 |
+
"below_minimum_length_ids": short_ids,
|
| 829 |
+
"rejection_counts": rejection_counts,
|
| 830 |
+
"retained_namespaces": dict(Counter(item["ns"] for item in attribution)),
|
| 831 |
+
"length_quantiles": {str(q): lengths[int((len(lengths) - 1) * q)] for q in (0, 0.5, 0.9, 0.99, 1)},
|
| 832 |
+
"residual_pattern_document_counts": residuals,
|
| 833 |
+
"all_token_counts_recomputed": True,
|
| 834 |
+
"texts_reconstructed_from_extracted_source": len(reconstructed),
|
| 835 |
+
"before_after_samples": len(comparisons),
|
| 836 |
+
"publication_ready": False,
|
| 837 |
+
"pending": ["license evidence and attribution review", "PII coverage review",
|
| 838 |
+
"target overlap audit methodology review", "manual text quality review"],
|
| 839 |
+
}
|
| 840 |
+
save(out / "validation_report.json", report)
|
| 841 |
+
print(json.dumps(report, ensure_ascii=False, indent=2))
|
| 842 |
+
assert report["verified"], "Validation failures: see validation_report.json"
|
| 843 |
+
|
| 844 |
+
|
| 845 |
+
def main():
|
| 846 |
+
parser = argparse.ArgumentParser()
|
| 847 |
+
parser.add_argument("--output", type=Path, required=True)
|
| 848 |
+
parser.add_argument("--workers", type=int, default=8)
|
| 849 |
+
parser.add_argument("command", choices=["discover", "acquire", "audit_target", "audit_overlap",
|
| 850 |
+
"build", "verify"])
|
| 851 |
+
args = parser.parse_args()
|
| 852 |
+
if args.command == "discover":
|
| 853 |
+
discover(args.output)
|
| 854 |
+
elif args.command == "acquire":
|
| 855 |
+
acquire(args.output, args.workers)
|
| 856 |
+
elif args.command == "audit_target":
|
| 857 |
+
audit_target(args.output)
|
| 858 |
+
elif args.command == "audit_overlap":
|
| 859 |
+
audit_overlap(args.output)
|
| 860 |
+
elif args.command == "build":
|
| 861 |
+
build(args.output)
|
| 862 |
+
else:
|
| 863 |
+
verify(args.output)
|
| 864 |
+
|
| 865 |
+
|
| 866 |
+
if __name__ == "__main__":
|
| 867 |
+
main()
|
| 868 |
+
|
src/plwiki_usertalk_requirements.txt
ADDED
|
@@ -0,0 +1,7 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
requests==2.32.5
|
| 2 |
+
pyarrow==23.0.1
|
| 3 |
+
tiktoken==0.12.0
|
| 4 |
+
langid==1.1.6
|
| 5 |
+
mwparserfromhell==0.7.2
|
| 6 |
+
huggingface_hub>=1.0,<2
|
| 7 |
+
pytest>=8,<10
|
src/sources.py
CHANGED
|
@@ -35,6 +35,21 @@ SOURCES = {
|
|
| 35 |
"added": "2026-09-06",
|
| 36 |
"release": None,
|
| 37 |
},
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 38 |
"uzp_orzeczenia_pl": {
|
| 39 |
"added": "2026-09-17",
|
| 40 |
"release": None,
|
|
|
|
| 35 |
"added": "2026-09-06",
|
| 36 |
"release": None,
|
| 37 |
},
|
| 38 |
+
"plwiki_user_talk": {
|
| 39 |
+
"added": "2026-09-11",
|
| 40 |
+
"release": None,
|
| 41 |
+
"file_key": "plwiki_user_talk",
|
| 42 |
+
"pretty": "Polish Wikipedia user-talk pages (ns 3)",
|
| 43 |
+
"license": "CC BY-SA 4.0",
|
| 44 |
+
"license_spdx": "CC-BY-SA-4.0",
|
| 45 |
+
"traceable": "Records come from the pinned official Wikimedia pages-meta-current dump (sha1-verified shards). Per-record page id, title, namespace, last-revision timestamp and canonical URL are preserved; page history carries contributor attribution per Wikimedia Terms of Use section 7.",
|
| 46 |
+
"upstream": "https://pl.wikipedia.org/",
|
| 47 |
+
"provenance": "Rebuilt deterministically from the Wikimedia XML dump. Scope is namespace 3 (user talk) only; mainspace (ns=0) is covered by the existing wikipedia shard and article/project talk (ns=1,5) ships as the separate plwiki_talk slice. Wikitext stripped with mwparserfromhell, cross-document boilerplate lines removed, normalized, PII patterns redacted (email, labelled phone, IPv4, parsed IPv6 including compressed notation, labelled PESEL/NIP/REGON, 26-digit account candidates), language/quality filtered and within-source deduplicated. Pattern redaction is not complete anonymization.",
|
| 48 |
+
"domain": "conversational/editor-to-editor-messages",
|
| 49 |
+
"created": "2002-2026",
|
| 50 |
+
"is_ocr": False,
|
| 51 |
+
"custom_datasheet": True,
|
| 52 |
+
},
|
| 53 |
"uzp_orzeczenia_pl": {
|
| 54 |
"added": "2026-09-17",
|
| 55 |
"release": None,
|
src/test_build_plwiki_usertalk_pl.py
ADDED
|
@@ -0,0 +1,191 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
import importlib.util
|
| 2 |
+
from pathlib import Path
|
| 3 |
+
|
| 4 |
+
|
| 5 |
+
SCRIPT = Path(__file__).with_name("build_plwiki_usertalk_pl.py")
|
| 6 |
+
SPEC = importlib.util.spec_from_file_location("build_plwiki_usertalk_pl", SCRIPT)
|
| 7 |
+
MODULE = importlib.util.module_from_spec(SPEC)
|
| 8 |
+
SPEC.loader.exec_module(MODULE)
|
| 9 |
+
|
| 10 |
+
|
| 11 |
+
def test_user_talk_namespace_excludes_article_and_project_talk():
|
| 12 |
+
assert MODULE.TALK_NS == {"3"}
|
| 13 |
+
assert "0" not in MODULE.TALK_NS and "1" not in MODULE.TALK_NS and "5" not in MODULE.TALK_NS
|
| 14 |
+
|
| 15 |
+
|
| 16 |
+
def test_normalize_repairs_hyphenation_and_page_numbers():
|
| 17 |
+
assert MODULE.normalize("Pierw-\nszy akapit.\n12\n\ndrugi wiersz") == "Pierwszy akapit.\n\ndrugi wiersz"
|
| 18 |
+
|
| 19 |
+
|
| 20 |
+
def test_title_normalization_is_case_and_diacritic_insensitive():
|
| 21 |
+
assert MODULE.normalize_title("Dyskusja:Łódź (woj.)") == "dyskusja łodz woj"
|
| 22 |
+
|
| 23 |
+
|
| 24 |
+
def test_boilerplate_lines_removed_only_when_frequent():
|
| 25 |
+
docs = [["Baner wikiprojektu", f"Prawdziwa dyskusja {i}."] for i in range(150)]
|
| 26 |
+
lines = MODULE.strip_boilerplate(docs)
|
| 27 |
+
assert "Baner wikiprojektu" in lines
|
| 28 |
+
assert "Prawdziwa dyskusja 0." not in lines
|
| 29 |
+
|
| 30 |
+
|
| 31 |
+
def test_boilerplate_long_lines_never_dropped():
|
| 32 |
+
docs = [["x" * 200] * 1 for _ in range(150)]
|
| 33 |
+
assert MODULE.strip_boilerplate(docs) == set()
|
| 34 |
+
|
| 35 |
+
|
| 36 |
+
def test_ip_redaction_patterns():
|
| 37 |
+
text = "Podpisano przez 83.4.55.1 dnia 2 maja"
|
| 38 |
+
assert MODULE.IPV4_RE.search(text)
|
| 39 |
+
assert not MODULE.IPV4_RE.search("wersja 1.2 wydana")
|
| 40 |
+
|
| 41 |
+
|
| 42 |
+
def test_redaction_covers_compressed_ipv6_and_labelled_identifiers():
|
| 43 |
+
text = "Adres [2001:db8::1], ::ffff:192.0.2.1. PESEL: 00000000000 NIP 000-000-00-00 REGON: 000000000 Rachunek PL00 " + "0000 " * 6
|
| 44 |
+
cleaned, counts = MODULE.redact_pii(text)
|
| 45 |
+
assert "2001:db8" not in cleaned and "192.0.2.1" not in cleaned
|
| 46 |
+
assert cleaned.count("[REDACTED:IP]") == 2
|
| 47 |
+
assert cleaned.count("[REDACTED:ID]") == 3
|
| 48 |
+
assert "[REDACTED:ACCOUNT]" in cleaned
|
| 49 |
+
assert counts["ipv6"] == 2 and counts["national_identifier"] == 3
|
| 50 |
+
assert MODULE.redact_pii(cleaned)[0] == cleaned
|
| 51 |
+
|
| 52 |
+
|
| 53 |
+
def test_redaction_preserves_time_and_version_numbers():
|
| 54 |
+
text = "Wersja 1.2.3, godzina 12:30:45. Adres 2001:db8::2."
|
| 55 |
+
cleaned, _ = MODULE.redact_pii(text)
|
| 56 |
+
assert cleaned == "Wersja 1.2.3, godzina 12:30:45. Adres [REDACTED:IP]."
|
| 57 |
+
|
| 58 |
+
|
| 59 |
+
def test_attribution_url_quotes_fragments_and_polish_characters():
|
| 60 |
+
from urllib.parse import unquote, urlsplit
|
| 61 |
+
|
| 62 |
+
url = MODULE.page_url("Dyskusja:Łódź/C#")
|
| 63 |
+
assert url.isascii()
|
| 64 |
+
assert not urlsplit(url).fragment
|
| 65 |
+
assert unquote(urlsplit(url).path) == "/wiki/Dyskusja:Łódź/C#"
|
| 66 |
+
|
| 67 |
+
|
| 68 |
+
def test_text_bound_and_license():
|
| 69 |
+
assert MODULE.MIN_TEXT_CHARS == 500
|
| 70 |
+
assert MODULE.LICENSE_SPDX == "CC-BY-SA-4.0"
|
| 71 |
+
assert MODULE.DUMP_DATE.startswith("20")
|
| 72 |
+
|
| 73 |
+
|
| 74 |
+
def test_boilerplate_shingles_detected_on_subsample_and_filtered():
|
| 75 |
+
template = ["to jest szablon powitania bota " * 30]
|
| 76 |
+
docs = [{"text": "\n".join(template + [f"unikalny tekst {i} " * 30])} for i in range(200)]
|
| 77 |
+
hot, max_df, sampled = MODULE.boilerplate_shingles(docs, set(), stride=1, fraction=0.5)
|
| 78 |
+
assert sampled == 200 and max_df == 100
|
| 79 |
+
template_sketch = MODULE.shingle_sketch(" ".join(template))
|
| 80 |
+
assert template_sketch & hot == template_sketch # whole template is boilerplate
|
| 81 |
+
unique = MODULE.shingle_sketch(f"unikalny tekst 7 " * 30)
|
| 82 |
+
assert unique - hot
|
| 83 |
+
assert MODULE.filter_sketch(template_sketch | unique, hot) == unique - hot
|
| 84 |
+
|
| 85 |
+
|
| 86 |
+
def test_indexed_dedup_matches_exhaustive_comparison():
|
| 87 |
+
import random
|
| 88 |
+
|
| 89 |
+
rng = random.Random(42)
|
| 90 |
+
sketches = [set(), {1}, {1}, set(range(10)), set(range(9)), set(range(8))]
|
| 91 |
+
for _ in range(200):
|
| 92 |
+
base = set(rng.sample(range(10000), rng.randint(10, 200)))
|
| 93 |
+
sketches.extend([base, base | {10001}, set(sorted(base)[1:]), base | set(range(20))])
|
| 94 |
+
index = MODULE.NearDuplicateIndex()
|
| 95 |
+
retained = []
|
| 96 |
+
for sketch in sketches:
|
| 97 |
+
expected = (None, 0.0)
|
| 98 |
+
for row_id, other in retained:
|
| 99 |
+
score = len(sketch & other) / max(len(sketch | other), 1)
|
| 100 |
+
if score >= 0.90:
|
| 101 |
+
expected = (row_id, score)
|
| 102 |
+
break
|
| 103 |
+
assert index.find(sketch) == expected
|
| 104 |
+
if expected[0] is None:
|
| 105 |
+
row_id = str(len(retained))
|
| 106 |
+
retained.append((row_id, sketch))
|
| 107 |
+
index.add(row_id, sketch)
|
| 108 |
+
|
| 109 |
+
|
| 110 |
+
def test_index_avoids_comparing_disjoint_sketches():
|
| 111 |
+
index = MODULE.NearDuplicateIndex()
|
| 112 |
+
for i in range(1000):
|
| 113 |
+
sketch = set(range(i * 100, (i + 1) * 100))
|
| 114 |
+
assert index.find(sketch) == (None, 0.0)
|
| 115 |
+
index.add(str(i), sketch)
|
| 116 |
+
assert index.comparisons == 0
|
| 117 |
+
assert index.find(set(range(90000, 90100))) == ("900", 1.0)
|
| 118 |
+
assert index.comparisons == 1
|
| 119 |
+
|
| 120 |
+
|
| 121 |
+
def test_language_vote_reuses_identical_windows_without_changing_votes():
|
| 122 |
+
class Identifier:
|
| 123 |
+
def __init__(self):
|
| 124 |
+
self.calls = 0
|
| 125 |
+
|
| 126 |
+
def classify(self, text):
|
| 127 |
+
self.calls += 1
|
| 128 |
+
return "pl", 0.99
|
| 129 |
+
|
| 130 |
+
identifier = Identifier()
|
| 131 |
+
language, votes = MODULE.language_vote(identifier, "Przykładowy polski tekst.")
|
| 132 |
+
assert language == "pl" and votes == [("pl", 0.99)] * 3
|
| 133 |
+
assert identifier.calls == 1
|
| 134 |
+
|
| 135 |
+
|
| 136 |
+
def write_test_source(tmp_path, texts):
|
| 137 |
+
import gzip
|
| 138 |
+
import json
|
| 139 |
+
|
| 140 |
+
MODULE.save(tmp_path / "selection.json", {"dump_date": "20260901", "files": [], "observed_at": "2026-09-11T00:00:00Z"})
|
| 141 |
+
MODULE.save(tmp_path / "acquisition.json", {"talk_pages": len(texts), "observed_at": "2026-09-11T00:00:00Z"})
|
| 142 |
+
records = [{"pageid": str(index), "ns": "3", "title": f"Dyskusja wikipedysty:Test {index}", "timestamp": "2026-09-01",
|
| 143 |
+
"wikitext_chars": len(text), "text": text} for index, text in enumerate(texts, 1)]
|
| 144 |
+
MODULE.write_lines(tmp_path / "source_manifest.jsonl", records)
|
| 145 |
+
(tmp_path / "extracted").mkdir()
|
| 146 |
+
with gzip.open(tmp_path / "extracted/test.jsonl.gz", "wt", encoding="utf-8") as handle:
|
| 147 |
+
for record in records:
|
| 148 |
+
handle.write(json.dumps(record) + "\n")
|
| 149 |
+
|
| 150 |
+
|
| 151 |
+
def test_build_rechecks_length_after_redaction(tmp_path, monkeypatch):
|
| 152 |
+
text = ("To jest przykładowa wypowiedź po polsku. " * 20)[:470] + " " + "kontakt" * 8 + "@example.org"
|
| 153 |
+
write_test_source(tmp_path, [text])
|
| 154 |
+
monkeypatch.setattr(MODULE, "language_vote", lambda identifier, text: ("pl", [("pl", 1.0)]))
|
| 155 |
+
MODULE.build(tmp_path)
|
| 156 |
+
decision = MODULE.read_lines(tmp_path / "hf_repo/artifacts/decisions.jsonl")[0]
|
| 157 |
+
assert not decision["selected"]
|
| 158 |
+
assert decision["reason"] == "too_little_text_after_redaction"
|
| 159 |
+
|
| 160 |
+
|
| 161 |
+
def test_build_verify_roundtrip_and_tamper_detection(tmp_path, monkeypatch):
|
| 162 |
+
import pytest
|
| 163 |
+
import pyarrow as pa
|
| 164 |
+
import pyarrow.parquet as pq
|
| 165 |
+
|
| 166 |
+
text = "To jest przykładowa wypowiedź po polsku dotycząca edycji encyklopedii. " * 15
|
| 167 |
+
write_test_source(tmp_path, [text, text, "Krótki tekst."])
|
| 168 |
+
monkeypatch.setattr(MODULE, "language_vote", lambda identifier, text: ("pl", [("pl", 1.0)]))
|
| 169 |
+
MODULE.build(tmp_path)
|
| 170 |
+
MODULE.verify(tmp_path)
|
| 171 |
+
report = MODULE.load(tmp_path / "validation_report.json")
|
| 172 |
+
assert report["verified"]
|
| 173 |
+
assert report["texts_reconstructed_from_extracted_source"] == 1
|
| 174 |
+
assert report["rejection_counts"] == {"normalized_duplicate": 1, "too_little_text": 1}
|
| 175 |
+
assert report["before_after_samples"] == 1
|
| 176 |
+
assert not report["publication_ready"]
|
| 177 |
+
path = tmp_path / "hf_repo/data/train-00000-of-00001.parquet"
|
| 178 |
+
table = pq.read_table(path)
|
| 179 |
+
rows = table.to_pylist()
|
| 180 |
+
rows[0]["token_count"] += 1
|
| 181 |
+
pq.write_table(pa.Table.from_pylist(rows, schema=table.schema), path)
|
| 182 |
+
with pytest.raises(AssertionError):
|
| 183 |
+
MODULE.verify(tmp_path)
|
| 184 |
+
|
| 185 |
+
|
| 186 |
+
def test_shard_filename_pattern_is_strict():
|
| 187 |
+
import re
|
| 188 |
+
pat = re.compile(r"plwiki-\d+-pages-meta-current\d+\.xml-p\d+p\d+\.bz2")
|
| 189 |
+
assert pat.fullmatch("plwiki-20260901-pages-meta-current1.xml-p1p187037.bz2")
|
| 190 |
+
assert not pat.fullmatch("plwiki-20260901-pages-articles.xml.bz2")
|
| 191 |
+
assert not pat.fullmatch("plwiki-20260901-pages-meta-current.xml.bz2")
|