Datasets:

PiotrSty
/

fandom-pl

@@ -58,3 +58,6 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 # Video files - compressed
 *.mp4 filter=lfs diff=lfs merge=lfs -text
 *.webm filter=lfs diff=lfs merge=lfs -text

 # Video files - compressed
 *.mp4 filter=lfs diff=lfs merge=lfs -text
 *.webm filter=lfs diff=lfs merge=lfs -text
+artifacts/attribution.jsonl filter=lfs diff=lfs merge=lfs -text
+artifacts/decisions.jsonl filter=lfs diff=lfs merge=lfs -text
+artifacts/source_manifest.jsonl filter=lfs diff=lfs merge=lfs -text

NOTICE.md ADDED Viewed

	@@ -0,0 +1,7 @@

+# Attribution and license notice
+Source: Polish Fandom wikis (12 wikis: elderscrolls, wiedzmin, gothic, harrypotter, gta, sims, starwars, naruto, pokemon, dragonage, fallout, creepypasta), https://www.fandom.com/ - community-run fan sites.
+Text is available under the Creative Commons Attribution-ShareAlike 3.0 License (https://creativecommons.org/licenses/by-sa/3.0/). Attribution is provided via the per-record canonical page URL in `artifacts/attribution.jsonl`; each page's revision history lists its contributors. License verified via Wayback Machine snapshot of https://www.fandom.com/licensing (2024-12-31).
+Preparation: Piotr Styla with Devin. Changes: ns0-only filtering, MediaWiki API fetch (allpages + revisions), latest-revision selection, wikitext stripping, cross-document boilerplate removal, Unicode and whitespace normalization, limited email/labelled-phone/IP/labelled-national-ID/account-candidate redaction, language/quality filtering and within-source deduplication. No endorsement by Fandom or wiki contributors is implied.

README.md ADDED Viewed

	@@ -0,0 +1,73 @@

+---
+license: cc-by-sa-3.0
+language:
+- pl
+task_categories:
+- text-generation
+configs:
+- config_name: default
+  data_files:
+  - split: train
+    path: data/train-00000-of-00001.parquet
+---
+# Polish Fandom wikis (fan-content, ns0 articles)
+Content pages from 12 Polish-language Fandom wikis, fetched via MediaWiki API
+and filtered to namespace 0 (articles). Fandom wikis are community-run fan sites
+for video games, TV series, books and franchises - containing lore, walkthroughs,
+guides, infobox-heavy pages and fan-created content. This is informal, hobbyist
+Polish covering fandom topics (gaming, fantasy, sci-fi, horror) - a register
+complementary to factual sources.
+- Wikis: 12 (elderscrolls, wiedzmin, gothic, harrypotter, gta, sims, starwars, naruto, pokemon, dragonage, fallout, creepypasta)
+- Total ns0 articles enumerated: 140,323
+- Retained after text QA and within-source deduplication: 57,954
+- Characters: 132,237,079
+- Tokens: 49,638,742 (`cl100k_base` proxy)
+- License: CC BY-SA 3.0 per record (Fandom site license, per Wayback snapshot 2024-12-31); authorship via per-page history link
+## Provenance and rights
+Fandom text is licensed [CC BY-SA 3.0](https://creativecommons.org/licenses/by-sa/3.0/); the official
+licensing page states this as the default license for Fandom communities.
+Each record keeps its page id, title, namespace, last-revision timestamp and
+canonical URL - the page revision history is the attribution trail. Additional
+third-party attribution notices must be preserved and remain a review item.
+The `created` field is the last revision date, not page creation.
+## Processing and limitations
+Wikitext is stripped with mwparserfromhell; lines occurring in at least
+1% of documents are removed as
+cross-document boilerplate (see `artifacts/boilerplate_lines.json`). Unicode and
+whitespace normalization, email/labelled-phone/IP/labelled-national-ID/account-candidate pattern redaction, three-window langid
+vote, exact and near deduplication within source. The final text must contain at
+least 500 characters after redaction. Rejection counts:
+```json
+{
+  "too_little_text": 80443,
+  "near_duplicate": 191,
+  "normalized_duplicate": 3,
+  "non_polish_text": 1712,
+  "low_letter_ratio": 20
+}
+```
+PII filtering masks parsed IPv6 addresses (including compressed forms), labelled
+PESEL/NIP/REGON and 26-digit account candidates as well as the existing patterns.
+The account filter is conservative and may mask non-account numbers; unlabelled
+identifiers, free-form phone numbers, names and personal disclosures may remain.
+This is not complete anonymization.
+The register is fan-created content: lore, walkthroughs, guides, infobox-heavy pages
+and hobbyist writing. Pages may quote or copy official game materials or other
+copyrighted works; quoted passages are not guaranteed disjoint from other corpus
+shards. The record model is a whole page; individual sections are not split.
+## Review artifacts
+See `artifacts/sample.jsonl`, `attribution.jsonl`, `decisions.jsonl`,
+`source_manifest.jsonl`, `overlap_audit.json`, `stats.json`, `qa.json`,
+`checksums.json`, `run.json` and `ontology.json`.

artifacts/acquisition.json ADDED Viewed

	@@ -0,0 +1,115 @@

+{
+  "manifest_sha256": "54717a711268ff9579316be98b03d40789156cb2127f59e0588fa0dd11693ab5",
+  "observed_at": "2026-10-02T15:23:23.362910+00:00",
+  "source_pages": 140323,
+  "wikis": [
+    {
+      "api_url": "https://elderscrolls.fandom.com/pl/api.php",
+      "articles": 45027,
+      "base": "https://elderscrolls.fandom.com/pl/wiki/The_Elder_Scrolls_Wiki",
+      "lang": "pl",
+      "name": "elderscrolls",
+      "pages": 108291,
+      "wikiid": "plelderscrolls"
+    },
+    {
+      "api_url": "https://wiedzmin.fandom.com/pl/api.php",
+      "articles": 12987,
+      "base": "https://wiedzmin.fandom.com/wiki/Wied%C5%BAmin_Wiki",
+      "lang": "pl",
+      "name": "wiedzmin",
+      "pages": 51875,
+      "wikiid": "wiedzmin"
+    },
+    {
+      "api_url": "https://gothic.fandom.com/pl/api.php",
+      "articles": 11846,
+      "base": "https://gothic.fandom.com/pl/wiki/Gothic_i_ArcaniA",
+      "lang": "pl",
+      "name": "gothic",
+      "pages": 108028,
+      "wikiid": "plgothic"
+    },
+    {
+      "api_url": "https://harrypotter.fandom.com/pl/api.php",
+      "articles": 11292,
+      "base": "https://harrypotter.fandom.com/pl/wiki/Strona_g%C5%82%C3%B3wna",
+      "lang": "pl",
+      "name": "harrypotter",
+      "pages": 114378,
+      "wikiid": "plharrypotter"
+    },
+    {
+      "api_url": "https://gta.fandom.com/pl/api.php",
+      "articles": 10814,
+      "base": "https://gta.fandom.com/pl/wiki/Grand_Theft_Auto_Wiki",
+      "lang": "pl",
+      "name": "gta",
+      "pages": 46611,
+      "wikiid": "plgta"
+    },
+    {
+      "api_url": "https://sims.fandom.com/pl/api.php",
+      "articles": 8242,
+      "base": "https://sims.fandom.com/pl/wiki/Simspedia",
+      "lang": "pl",
+      "name": "sims",
+      "pages": 75168,
+      "wikiid": "plsims"
+    },
+    {
+      "api_url": "https://starwars.fandom.com/pl/api.php",
+      "articles": 7017,
+      "base": "https://starwars.fandom.com/pl/wiki/Strona_g%C5%82%C3%B3wna",
+      "lang": "pl",
+      "name": "starwars",
+      "pages": 15098,
+      "wikiid": "plstarwars"
+    },
+    {
+      "api_url": "https://naruto.fandom.com/pl/api.php",
+      "articles": 5242,
+      "base": "https://naruto.fandom.com/pl/wiki/Naruto_Wiki",
+      "lang": "pl",
+      "name": "naruto",
+      "pages": 41237,
+      "wikiid": "plnaruto"
+    },
+    {
+      "api_url": "https://pokemon.fandom.com/pl/api.php",
+      "articles": 7057,
+      "base": "https://pokemon.fandom.com/pl/wiki/Pok%C3%A9mon_Wiki",
+      "lang": "pl",
+      "name": "pokemon",
+      "pages": 75468,
+      "wikiid": "plpokemony"
+    },
+    {
+      "api_url": "https://dragonage.fandom.com/pl/api.php",
+      "articles": 2999,
+      "base": "https://dragonage.fandom.com/pl/wiki/Dragon_Age_Wiki",
+      "lang": "pl",
+      "name": "dragonage",
+      "pages": 10212,
+      "wikiid": "pldragonage"
+    },
+    {
+      "api_url": "https://fallout.fandom.com/pl/api.php",
+      "articles": 4052,
+      "base": "https://fallout.fandom.com/pl/wiki/Krypta_%E2%80%93_Fallout_Wiki",
+      "lang": "pl",
+      "name": "fallout",
+      "pages": 13948,
+      "wikiid": "plfallout"
+    },
+    {
+      "api_url": "https://creepypasta.fandom.com/pl/api.php",
+      "articles": 2590,
+      "base": "https://creepypasta.fandom.com/pl/wiki/Creepypasta_Wiki",
+      "lang": "pl",
+      "name": "creepypasta",
+      "pages": 111979,
+      "wikiid": "plcreepypasta"
+    }
+  ]
+}

artifacts/attribution.jsonl ADDED Viewed

	@@ -0,0 +1,3 @@

+version https://git-lfs.github.com/spec/v1
+oid sha256:c421a1bcd9beab3825f2f191204ff42deb2b0f50ee816ff58cc662ab3ae46680
+size 202465922

artifacts/boilerplate_lines.json ADDED Viewed

	@@ -0,0 +1,43 @@

+[
+  "Biografia",
+  "Ciekawostki",
+  "Cytaty",
+  "Dane z książek Sapkowskiego",
+  "Efekt",
+  "Ekwipunek",
+  "Etymologia",
+  "Galeria",
+  "Gothic 3",
+  "Historia",
+  "Kategoria:Chudzi Simowie",
+  "Kategoria:Czarodzieje nieznanego statusu krwi",
+  "Kategoria:Morrowind: Postacie",
+  "Kategoria:Opowiadania",
+  "Kategoria:Simowie występujący w trzeciej części gry",
+  "Krok po kroku",
+  "Linki zewnętrzne",
+  "Modyfikacje",
+  "Nawigacja",
+  "Opis",
+  "Osobowość",
+  "Pokémony",
+  "Poprzez",
+  "Poprzez poziom",
+  "Postacie",
+  "Powiązane zadania",
+  "Przebieg zadania",
+  "Przypisy",
+  "Simologia",
+  "Statystyki",
+  "Streszczenie",
+  "Treść",
+  "W anime",
+  "W innych językach",
+  "W mandze Pokémon Adventures",
+  "Wygląd",
+  "Występowanie",
+  "Za kulisami",
+  "Zadania",
+  "Zobacz też",
+  "|}"
+]

artifacts/checksums.json ADDED Viewed

	@@ -0,0 +1,15 @@

+{
+  "artifacts/acquisition.json": "109ca6935c964ae4196f777ab42656b3b2b2e40b2ce28b2d2e5089d2b0a63376",
+  "artifacts/attribution.jsonl": "c421a1bcd9beab3825f2f191204ff42deb2b0f50ee816ff58cc662ab3ae46680",
+  "artifacts/boilerplate_lines.json": "fe4bd4b132471e066e7e656b980958e9f06ed94be042258650210375f35a9c86",
+  "artifacts/decisions.jsonl": "6edce0f8732d54fc55d84a5fe00a777a819ae23fa538fded3b046f3066ed7b29",
+  "artifacts/overlap_audit.json": "b5b718de419167d66d724f91e15c7f54de1407e6942aa5f6e95aae70d4d15b5b",
+  "artifacts/qa.json": "e4c35de07dcdbbb98b8def32647098aebc7094ec3c62d51b1872700091a25264",
+  "artifacts/run.json": "2000bf44cff2176c1c31767e20912e52c85b570610c76f7a8205b0dbcc7015dc",
+  "artifacts/sample.jsonl": "650bdc3dada080dc3969f1fb1e1bdeeb45c08ec8045934134a0132a13b172b72",
+  "artifacts/selection.json": "252637f6f62ac4366c5782ab9a70662e2cb5ebbcfbc7b12c924527c7f0430ec3",
+  "artifacts/source_manifest.jsonl": "54717a711268ff9579316be98b03d40789156cb2127f59e0588fa0dd11693ab5",
+  "artifacts/stats.json": "fe4ed5a99061ec09ac5ad31bf35f20709d2ee432704bf172f0c9cba4124f7162",
+  "artifacts/target_audit.json": "d1c8d6461b1d7f83e2307d8c3076e7318381c5a56d5f66a78694a61a635ca4e6",
+  "data/train-00000-of-00001.parquet": "77163edbb3de0955f10f5d54b2fb8c7500faccc583d738504b34ab91445fc832"
+}

artifacts/decisions.jsonl ADDED Viewed

	@@ -0,0 +1,3 @@

+version https://git-lfs.github.com/spec/v1
+oid sha256:6edce0f8732d54fc55d84a5fe00a777a819ae23fa538fded3b046f3066ed7b29
+size 36242881

artifacts/ontology.json ADDED Viewed

	@@ -0,0 +1,280 @@

+{
+  "actors": [
+    {
+      "id": "actor:piotrsty",
+      "type": "Contributor"
+    },
+    {
+      "id": "actor:fandom-community",
+      "type": "Organization"
+    },
+    {
+      "id": "actor:MediaWiki API",
+      "type": "Organization"
+    },
+    {
+      "id": "actor:devin",
+      "type": "Agent"
+    }
+  ],
+  "claims": [
+    {
+      "falsification_condition": "The pinned dump shards do not reproduce the count.",
+      "id": "claim:source-pages-observed",
+      "statement": "The MediaWiki API fetch yielded 140323 non-redirect ns0 pages across 12 Fandom wikis.",
+      "supported_by": [
+        "evidence:selection:a70c55b73a6c0c2b7e6b8ce1780b302362158a0d012d37543b2077cad659fb11",
+        "evidence:acquisition:83b119f8a6d449190ab3759302d881c11bfbce2ab3829bf64d9c8ea6aa2bdea8"
+      ]
+    },
+    {
+      "falsification_condition": "The decisions, Parquet rows, or checksums do not reproduce the retention count.",
+      "id": "claim:slice-retention",
+      "statement": "The slice retained 57954 records after text QA and within-source deduplication.",
+      "supported_by": [
+        "evidence:acquisition:83b119f8a6d449190ab3759302d881c11bfbce2ab3829bf64d9c8ea6aa2bdea8",
+        "evidence:qa:f729808ca7d1e96ad587b8af4fe4ed60965835e81855595ec3363853acb2362e"
+      ]
+    },
+    {
+      "falsification_condition": "The pinned target evidence contains a matching source or proposal.",
+      "id": "claim:source-absence-at-audit",
+      "statement": "Fandom wikis content was not registered as a source in the pinned DynaWord data tree or open pull-request list at audit time.",
+      "supported_by": [
+        "evidence:target:c943bb94d420737a02a7bf9200c8608b4ad0ad7a62a8150baa9f70d51cd0e430"
+      ]
+    },
+    {
+      "falsification_condition": "Target-wide text deduplication and controlled ablations establish those properties.",
+      "id": "claim:training-value-untested",
+      "statement": "Net corpus novelty and training benefit remain untested hypotheses.",
+      "supported_by": [
+        "evidence:qa:f729808ca7d1e96ad587b8af4fe4ed60965835e81855595ec3363853acb2362e",
+        "evidence:overlap:2390fb3c2a6969bcde2b3d1bc1bcfeff107bcde25a0128b72525d8a353a67e24"
+      ]
+    }
+  ],
+  "evidence": [
+    {
+      "artifact": "artifacts/selection.json",
+      "content_address": "a70c55b73a6c0c2b7e6b8ce1780b302362158a0d012d37543b2077cad659fb11",
+      "id": "evidence:selection:a70c55b73a6c0c2b7e6b8ce1780b302362158a0d012d37543b2077cad659fb11",
+      "observation_type": "dump_inventory_and_pinning",
+      "produced_by": "run:d9a6ab6cc4dae3c8a31898d22ca4ba2dbd08105ff80421e0946aab4445670f8f"
+    },
+    {
+      "artifact": "artifacts/acquisition.json",
+      "content_address": "83b119f8a6d449190ab3759302d881c11bfbce2ab3829bf64d9c8ea6aa2bdea8",
+      "id": "evidence:acquisition:83b119f8a6d449190ab3759302d881c11bfbce2ab3829bf64d9c8ea6aa2bdea8",
+      "observation_type": "dump_download_sha1_and_extraction",
+      "produced_by": "run:d9a6ab6cc4dae3c8a31898d22ca4ba2dbd08105ff80421e0946aab4445670f8f"
+    },
+    {
+      "artifact": "artifacts/qa.json",
+      "content_address": "f729808ca7d1e96ad587b8af4fe4ed60965835e81855595ec3363853acb2362e",
+      "id": "evidence:qa:f729808ca7d1e96ad587b8af4fe4ed60965835e81855595ec3363853acb2362e",
+      "observation_type": "source_qa",
+      "produced_by": "run:d9a6ab6cc4dae3c8a31898d22ca4ba2dbd08105ff80421e0946aab4445670f8f"
+    },
+    {
+      "artifact": "artifacts/overlap_audit.json",
+      "content_address": "2390fb3c2a6969bcde2b3d1bc1bcfeff107bcde25a0128b72525d8a353a67e24",
+      "id": "evidence:overlap:2390fb3c2a6969bcde2b3d1bc1bcfeff107bcde25a0128b72525d8a353a67e24",
+      "observation_type": "namespace_overlap_audit",
+      "produced_by": "run:d9a6ab6cc4dae3c8a31898d22ca4ba2dbd08105ff80421e0946aab4445670f8f"
+    },
+    {
+      "artifact": "artifacts/target_audit.json",
+      "content_address": "c943bb94d420737a02a7bf9200c8608b4ad0ad7a62a8150baa9f70d51cd0e430",
+      "id": "evidence:target:c943bb94d420737a02a7bf9200c8608b4ad0ad7a62a8150baa9f70d51cd0e430",
+      "observation_type": "target_registry_audit",
+      "produced_by": "run:d9a6ab6cc4dae3c8a31898d22ca4ba2dbd08105ff80421e0946aab4445670f8f"
+    }
+  ],
+  "objects": [
+    {
+      "id": "object:source:fandom-api",
+      "type": "Source"
+    },
+    {
+      "id": "object:dataset:fandom-content",
+      "type": "Dataset"
+    }
+  ],
+  "pending": [
+    "cross-source text deduplication",
+    "benchmark contamination check",
+    "parody-of-real-content screening",
+    "controlled training ablation"
+  ],
+  "protocols": [
+    {
+      "id": "protocol:fandom-content-v1",
+      "procedure": "pinned MediaWiki API fetch (allpages + revisions) for 12 Polish Fandom wikis; latest revision per page; ns0 only; wikitext strip; boilerplate removal; normalization; PII patterns; exact and near dedup with high-document-frequency shingle exclusion"
+    }
+  ],
+  "relations": [
+    {
+      "predicate": "DERIVED_FROM",
+      "source": "version:dataset:6a5ac1353299794a10396f41c87eab421540eccc79363411903f1c12e05a313e",
+      "target": "version:source:9732401eea30c71e6e17332cdd2022024d49104bc1519c1be4847974c41998b1"
+    },
+    {
+      "predicate": "GENERATED_BY",
+      "source": "version:dataset:6a5ac1353299794a10396f41c87eab421540eccc79363411903f1c12e05a313e",
+      "target": "run:d9a6ab6cc4dae3c8a31898d22ca4ba2dbd08105ff80421e0946aab4445670f8f"
+    },
+    {
+      "predicate": "VALIDATED_AGAINST",
+      "source": "version:dataset:6a5ac1353299794a10396f41c87eab421540eccc79363411903f1c12e05a313e",
+      "target": "hf:dataset:SlayerLab/polish-dynaword@014faa53b3ebe2a8c08d21b71fcbb221bc551bd1"
+    }
+  ],
+  "runs": [
+    {
+      "actor": "actor:devin",
+      "finished_at": "2026-10-02T15:45:14.658617+00:00",
+      "id": "run:d9a6ab6cc4dae3c8a31898d22ca4ba2dbd08105ff80421e0946aab4445670f8f",
+      "protocol": "protocol:fandom-content-v1",
+      "started_at": "2026-10-02T15:40:40.061775+00:00",
+      "stats": {
+        "added": "2026-10-02",
+        "boilerplate_lines_removed": 41,
+        "boilerplate_shingles_excluded": 13,
+        "characters": 132237079,
+        "kept": 57954,
+        "license_counts": {
+          "CC-BY-SA-3.0": 57954
+        },
+        "rejected": 82369,
+        "sample_count": 12,
+        "source_pages": 140323,
+        "tokens": 49638742,
+        "wikis": [
+          {
+            "api_url": "https://elderscrolls.fandom.com/pl/api.php",
+            "articles": 45027,
+            "base": "https://elderscrolls.fandom.com/pl/wiki/The_Elder_Scrolls_Wiki",
+            "lang": "pl",
+            "name": "elderscrolls",
+            "pages": 108291,
+            "wikiid": "plelderscrolls"
+          },
+          {
+            "api_url": "https://wiedzmin.fandom.com/pl/api.php",
+            "articles": 12987,
+            "base": "https://wiedzmin.fandom.com/wiki/Wied%C5%BAmin_Wiki",
+            "lang": "pl",
+            "name": "wiedzmin",
+            "pages": 51875,
+            "wikiid": "wiedzmin"
+          },
+          {
+            "api_url": "https://gothic.fandom.com/pl/api.php",
+            "articles": 11846,
+            "base": "https://gothic.fandom.com/pl/wiki/Gothic_i_ArcaniA",
+            "lang": "pl",
+            "name": "gothic",
+            "pages": 108028,
+            "wikiid": "plgothic"
+          },
+          {
+            "api_url": "https://harrypotter.fandom.com/pl/api.php",
+            "articles": 11292,
+            "base": "https://harrypotter.fandom.com/pl/wiki/Strona_g%C5%82%C3%B3wna",
+            "lang": "pl",
+            "name": "harrypotter",
+            "pages": 114378,
+            "wikiid": "plharrypotter"
+          },
+          {
+            "api_url": "https://gta.fandom.com/pl/api.php",
+            "articles": 10814,
+            "base": "https://gta.fandom.com/pl/wiki/Grand_Theft_Auto_Wiki",
+            "lang": "pl",
+            "name": "gta",
+            "pages": 46611,
+            "wikiid": "plgta"
+          },
+          {
+            "api_url": "https://sims.fandom.com/pl/api.php",
+            "articles": 8242,
+            "base": "https://sims.fandom.com/pl/wiki/Simspedia",
+            "lang": "pl",
+            "name": "sims",
+            "pages": 75168,
+            "wikiid": "plsims"
+          },
+          {
+            "api_url": "https://starwars.fandom.com/pl/api.php",
+            "articles": 7017,
+            "base": "https://starwars.fandom.com/pl/wiki/Strona_g%C5%82%C3%B3wna",
+            "lang": "pl",
+            "name": "starwars",
+            "pages": 15098,
+            "wikiid": "plstarwars"
+          },
+          {
+            "api_url": "https://naruto.fandom.com/pl/api.php",
+            "articles": 5242,
+            "base": "https://naruto.fandom.com/pl/wiki/Naruto_Wiki",
+            "lang": "pl",
+            "name": "naruto",
+            "pages": 41237,
+            "wikiid": "plnaruto"
+          },
+          {
+            "api_url": "https://pokemon.fandom.com/pl/api.php",
+            "articles": 7057,
+            "base": "https://pokemon.fandom.com/pl/wiki/Pok%C3%A9mon_Wiki",
+            "lang": "pl",
+            "name": "pokemon",
+            "pages": 75468,
+            "wikiid": "plpokemony"
+          },
+          {
+            "api_url": "https://dragonage.fandom.com/pl/api.php",
+            "articles": 2999,
+            "base": "https://dragonage.fandom.com/pl/wiki/Dragon_Age_Wiki",
+            "lang": "pl",
+            "name": "dragonage",
+            "pages": 10212,
+            "wikiid": "pldragonage"
+          },
+          {
+            "api_url": "https://fallout.fandom.com/pl/api.php",
+            "articles": 4052,
+            "base": "https://fallout.fandom.com/pl/wiki/Krypta_%E2%80%93_Fallout_Wiki",
+            "lang": "pl",
+            "name": "fallout",
+            "pages": 13948,
+            "wikiid": "plfallout"
+          },
+          {
+            "api_url": "https://creepypasta.fandom.com/pl/api.php",
+            "articles": 2590,
+            "base": "https://creepypasta.fandom.com/pl/wiki/Creepypasta_Wiki",
+            "lang": "pl",
+            "name": "creepypasta",
+            "pages": 111979,
+            "wikiid": "plcreepypasta"
+          }
+        ]
+      },
+      "success": true
+    }
+  ],
+  "schema": "slayer-research-ontology-profile-v1",
+  "versions": [
+    {
+      "content_address": "9732401eea30c71e6e17332cdd2022024d49104bc1519c1be4847974c41998b1",
+      "id": "version:source:9732401eea30c71e6e17332cdd2022024d49104bc1519c1be4847974c41998b1",
+      "object": "object:source:fandom-api"
+    },
+    {
+      "content_address": "6a5ac1353299794a10396f41c87eab421540eccc79363411903f1c12e05a313e",
+      "id": "version:dataset:6a5ac1353299794a10396f41c87eab421540eccc79363411903f1c12e05a313e",
+      "object": "object:dataset:fandom-content"
+    }
+  ]
+}

artifacts/overlap_audit.json ADDED Viewed

	@@ -0,0 +1,11 @@

+{
+  "candidate_records": 92000,
+  "collision_count": 0,
+  "id_collisions": [],
+  "method": "Literal dataset-record ID comparison only. Source-specific ID prefixes make zero collisions uninformative about page identity or text overlap. No target namespace or text audit was performed.",
+  "observed_at": "2026-10-02T15:26:23.872737+00:00",
+  "target": "SlayerLab/polish-dynaword:data/wikipedia",
+  "target_revision": "014faa53b3ebe2a8c08d21b71fcbb221bc551bd1",
+  "target_rows": 1171897,
+  "text_overlap": "not tested; quoted-article passages and target-wide text dedup remain integration gates"
+}

artifacts/qa.json ADDED Viewed

	@@ -0,0 +1,48 @@

+{
+  "benchmark_overlap": "pending",
+  "boilerplate": "lines occurring in >= 1% of documents removed (41 patterns); 13 high-df shingles excluded from near-dedup sketches (df>701 over 35081 sampled docs)",
+  "created_field_semantics": "Last revision date from the dump, not the page creation date",
+  "cross_source_text_dedup": "pending target integration",
+  "exact_dedup": true,
+  "language_gate": "independent three-window langid vote",
+  "license_gate": "CC BY-SA 3.0 declared on Fandom licensing page (Wayback snapshot 2024-12-31); page-URL attribution; third-party notices still require review",
+  "license_terms_url": "https://creativecommons.org/licenses/by-sa/3.0/",
+  "limitations": [
+    "fan-fiction and gaming wiki register: lore, walkthroughs, guides, infobox-heavy content; not factual reference text",
+    "pages may quote/copy official game materials or other copyrighted works; quoted passages are not guaranteed disjoint from other shards",
+    "record model is a whole content page; individual sections are not split",
+    "pattern checks are not comprehensive de-identification"
+  ],
+  "minimum_final_text_characters": 500,
+  "near_dedup": "deterministic capped 5-word-shingle hash Jaccard >= 0.90 within source; shingles with document frequency >2% (sampled 1-in-4) excluded from sketches",
+  "pii_limitations": "Unlabelled national identifiers, free-form phone numbers, names and personal disclosures may remain; this is not complete anonymization",
+  "pii_pattern_matches": {
+    "account_candidate": 259,
+    "email": 44,
+    "ipv4": 89,
+    "ipv6": 3,
+    "ipv6_legacy_pattern": 1,
+    "labelled_phone": 0,
+    "national_identifier": 0
+  },
+  "pii_policy": "IPv6 parsed including compressed notation; labelled PESEL/NIP/REGON and 26-digit account candidates masked conservatively without checksum validation; counts cover all candidates before rejection",
+  "rejection_counts": {
+    "low_letter_ratio": 20,
+    "near_duplicate": 191,
+    "non_polish_text": 1712,
+    "normalized_duplicate": 3,
+    "too_little_text": 80443
+  },
+  "scope": "Polish Fandom wikis (12 wikis, ns0 articles only), latest revision per page fetched via MediaWiki API",
+  "wikipedia_shard_overlap": {
+    "candidate_records": 92000,
+    "collision_count": 0,
+    "id_collisions": [],
+    "method": "Literal dataset-record ID comparison only. Source-specific ID prefixes make zero collisions uninformative about page identity or text overlap. No target namespace or text audit was performed.",
+    "observed_at": "2026-10-02T15:26:23.872737+00:00",
+    "target": "SlayerLab/polish-dynaword:data/wikipedia",
+    "target_revision": "014faa53b3ebe2a8c08d21b71fcbb221bc551bd1",
+    "target_rows": 1171897,
+    "text_overlap": "not tested; quoted-article passages and target-wide text dedup remain integration gates"
+  }
+}

artifacts/run.json ADDED Viewed

	@@ -0,0 +1,132 @@

+{
+  "actor": "actor:devin",
+  "finished_at": "2026-10-02T15:45:14.658617+00:00",
+  "id": "run:d9a6ab6cc4dae3c8a31898d22ca4ba2dbd08105ff80421e0946aab4445670f8f",
+  "protocol": "protocol:fandom-content-v1",
+  "started_at": "2026-10-02T15:40:40.061775+00:00",
+  "stats": {
+    "added": "2026-10-02",
+    "boilerplate_lines_removed": 41,
+    "boilerplate_shingles_excluded": 13,
+    "characters": 132237079,
+    "kept": 57954,
+    "license_counts": {
+      "CC-BY-SA-3.0": 57954
+    },
+    "rejected": 82369,
+    "sample_count": 12,
+    "source_pages": 140323,
+    "tokens": 49638742,
+    "wikis": [
+      {
+        "api_url": "https://elderscrolls.fandom.com/pl/api.php",
+        "articles": 45027,
+        "base": "https://elderscrolls.fandom.com/pl/wiki/The_Elder_Scrolls_Wiki",
+        "lang": "pl",
+        "name": "elderscrolls",
+        "pages": 108291,
+        "wikiid": "plelderscrolls"
+      },
+      {
+        "api_url": "https://wiedzmin.fandom.com/pl/api.php",
+        "articles": 12987,
+        "base": "https://wiedzmin.fandom.com/wiki/Wied%C5%BAmin_Wiki",
+        "lang": "pl",
+        "name": "wiedzmin",
+        "pages": 51875,
+        "wikiid": "wiedzmin"
+      },
+      {
+        "api_url": "https://gothic.fandom.com/pl/api.php",
+        "articles": 11846,
+        "base": "https://gothic.fandom.com/pl/wiki/Gothic_i_ArcaniA",
+        "lang": "pl",
+        "name": "gothic",
+        "pages": 108028,
+        "wikiid": "plgothic"
+      },
+      {
+        "api_url": "https://harrypotter.fandom.com/pl/api.php",
+        "articles": 11292,
+        "base": "https://harrypotter.fandom.com/pl/wiki/Strona_g%C5%82%C3%B3wna",
+        "lang": "pl",
+        "name": "harrypotter",
+        "pages": 114378,
+        "wikiid": "plharrypotter"
+      },
+      {
+        "api_url": "https://gta.fandom.com/pl/api.php",
+        "articles": 10814,
+        "base": "https://gta.fandom.com/pl/wiki/Grand_Theft_Auto_Wiki",
+        "lang": "pl",
+        "name": "gta",
+        "pages": 46611,
+        "wikiid": "plgta"
+      },
+      {
+        "api_url": "https://sims.fandom.com/pl/api.php",
+        "articles": 8242,
+        "base": "https://sims.fandom.com/pl/wiki/Simspedia",
+        "lang": "pl",
+        "name": "sims",
+        "pages": 75168,
+        "wikiid": "plsims"
+      },
+      {
+        "api_url": "https://starwars.fandom.com/pl/api.php",
+        "articles": 7017,
+        "base": "https://starwars.fandom.com/pl/wiki/Strona_g%C5%82%C3%B3wna",
+        "lang": "pl",
+        "name": "starwars",
+        "pages": 15098,
+        "wikiid": "plstarwars"
+      },
+      {
+        "api_url": "https://naruto.fandom.com/pl/api.php",
+        "articles": 5242,
+        "base": "https://naruto.fandom.com/pl/wiki/Naruto_Wiki",
+        "lang": "pl",
+        "name": "naruto",
+        "pages": 41237,
+        "wikiid": "plnaruto"
+      },
+      {
+        "api_url": "https://pokemon.fandom.com/pl/api.php",
+        "articles": 7057,
+        "base": "https://pokemon.fandom.com/pl/wiki/Pok%C3%A9mon_Wiki",
+        "lang": "pl",
+        "name": "pokemon",
+        "pages": 75468,
+        "wikiid": "plpokemony"
+      },
+      {
+        "api_url": "https://dragonage.fandom.com/pl/api.php",
+        "articles": 2999,
+        "base": "https://dragonage.fandom.com/pl/wiki/Dragon_Age_Wiki",
+        "lang": "pl",
+        "name": "dragonage",
+        "pages": 10212,
+        "wikiid": "pldragonage"
+      },
+      {
+        "api_url": "https://fallout.fandom.com/pl/api.php",
+        "articles": 4052,
+        "base": "https://fallout.fandom.com/pl/wiki/Krypta_%E2%80%93_Fallout_Wiki",
+        "lang": "pl",
+        "name": "fallout",
+        "pages": 13948,
+        "wikiid": "plfallout"
+      },
+      {
+        "api_url": "https://creepypasta.fandom.com/pl/api.php",
+        "articles": 2590,
+        "base": "https://creepypasta.fandom.com/pl/wiki/Creepypasta_Wiki",
+        "lang": "pl",
+        "name": "creepypasta",
+        "pages": 111979,
+        "wikiid": "plcreepypasta"
+      }
+    ]
+  },
+  "success": true
+}

artifacts/sample.jsonl ADDED Viewed

	@@ -0,0 +1,12 @@

+{"added": "2026-10-02", "author": "gothic contributors", "created": "2025-09-02", "id": "fandom_pl_gothic_168817", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "Erilan – niemiecka modyfikacja działająca na platformie Gothic II: Noc Kruka autorstwa ThreeGods. Polską lokalizację przygotowała grupa Gothic Polska.\n\nKiedy rodzina rybaków z małej wyspy Erilan traci swoją jedyną łódź podczas burzy, ich syn zostaje wciągnięty w wydarzenia, które zadecydują o losie całej wyspy.\n\nCechy modyfikacji\nKrótka i przyjemna fabuła (ok. 2h rozgrywki);\n24 zadania w 3 rozdziałach;\nusunięte progi w nauce siły i zręczności;\nnawiązania do fabuły Gothica;\ndobrej jakości niemiecki dubbing.\n\nTwórcy modyfikacji\nThreeGods – pomysł, fabuła, zadania, dialogi, skrypty, Spacer, testy;\nMrStranded – model wyspy;\nMäck – model domu;\nAFX – testy;\nlucigoth – testy;\nIceDancer – testy;\nMatteoAT – testy.\n\nTemat modyfikacji na forum theModders\nKategoria:Modyfikacje do Gothic II: Noc Kruka", "token_count": 301}
+{"added": "2026-10-02", "author": "fallout contributors", "created": "2021-06-22", "id": "fandom_pl_fallout_1068", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "right|Pierwsza pomoc\nPierwsza pomoc (ang. First Aid) to jedna z umiejętności w grach Fallout, Fallout 2 i Fallout Tactics.\n\nOpis: Ogólna umiejętność leczenia. Wykorzystywana do leczenia pomniejszych skaleczeń, otarć i innych pomniejszych dolegliwości. W realiach gry, umiejętnośc ta pozwala wyleczyć więcej punktów wytrzymałości w danym czasie niż odpoczynek.\n\nWartość początkowa:\nFallout: 30% + (PE+IN)/2\nFallout 2: 2x(PE+IN)\nFallout Tactics: 30% + PE + IN\n\nUwagi: Umiejętności tej nie warto rozwijać, gdyż można ją podnieść odpowiednią książką do wystarczających wartości.\n\nWarto nadmienić, że w Fallout Tactics użycie tej umiejętności wymaga posiadania apteczki lub jej pochodnych. Natomiast w Fallout i Fallout 2 takiego warunki nie ma, jednak w obu tych grach użycie tej umiejętności pochłania dość dużą ilość czasu. Ponadto tylko w Fallout Tactics umiejętność ta leczy sensowne ilości obrażeń.\n\nen:First Aid (skill) fr:Secourisme pt:First-Aid ru:Первая помощь zh:急救(技能)\nKategoria:Umiejętności", "token_count": 372}
+{"added": "2026-10-02", "author": "gta contributors", "created": "2025-05-09", "id": "fandom_pl_gta_41952", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "Wydarzenia mające miejsce w 1869 roku:\n\nUniwersum 2D rozpoczęło się wielkie poszukiwanie złota – Fool's Gold Rush – w okolicy San AndreasInformacje z oficjalnej strony Grand Theft Auto I (link):San Andreas, which expanded rapidly following the famous 'Fool's Gold Rush' in 1869, has long had ties orient.\n\nUniwersum 3D utworzono departament policji Liberty City Police Department utworzono departament policji San Andreas Police Department stworzono markę piwa FleischBerg\n\nUniwersum HD założono firmę Hinterland rozpoczęła i zakończyła się wojna War of the Deadline założono piekarnię Inbread Bakery stworzono markę szampana Blêuter'd\n\nKategoria:Historia\n\nde:1869 en:1869 es:1869 pt:1869 ru:1869 uk:1869", "token_count": 219}
+{"added": "2026-10-02", "author": "naruto contributors", "created": "2025-05-26", "id": "fandom_pl_naruto_7264", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "– jeden z niesławnych Braci Złoty i Srebrny Kumogakure, wraz ze swoim bratem Ginkaku.\n\nPrzeszłość thumb|left|Kinkaku i Ginkaku kontra Kurama.\nBracia Złoty i Srebrny byli najbardziej piętnowanymi przestępcami w Kumogakure. Niegdyś, zostali przypisani do złapania Dziewięcioogoniastego Demonicznego Lisa, ale zostali w całości połknięci. Jednakże przeżyli i szaleli w żołądku ogoniastej bestii przez dwa tygodnie, ostatecznie zmuszając Dziewięcioogoniastego do zwymiotowania ich. Gdy byli w jego żołądku, przeżyli dzięki żywieniu się mięsem bestii. Stary ninja Kumogakure stwierdził, że gdy lis ich wreszcie zwymiotował, obydwaj wyglądali jak miniaturowe wersje bestii z powodu nabycia części czakry lisa. Podczas ceremonii podpisywania traktatu pokojowego pomiędzy Drugim Hokage i Drugim Raikage, dwóch braci dokonało zamachu stanu, który zostawił Hokage na skraju śmierci. W pewnym momencie swojego życia spotkał Kakuzu.\n\nKinkaku był, podobnie jak jego brat, uważany za hańbę Kumogakure z powodu ich wierzeń, że oszustwa i zdrada są strategiami bitewnymiDrużyna Asumy znów w komplecie, Więcej niż „męczący”. Pomimo tego, postrzegany jest jako kochający brat, pokazując wielką furię, gdy Ginkaku został wessany do Benihisago przez Daruiego.\n\nKinkaku był tęgim, muskularnym shinobi o potężnym wzrośnie. Miał jasno-kolorowe oczy z twardówkami o ciemnym kolorzeDrużyna Asumy znów w komplecie, Złota więź szarą skóręOkładka tomu Drużyna Asumy znów w komplecie (przedstawioną jako jasną w anime), jak również długie blond włosy z wyróżniającymi się ciemnymi końcówkami, ułożonymi w stylu nawiązującym do rdzennych mieszkańców Ameryki. Te cechy są podkreślone przez obecność dwóch charakterystycznych rogów, które pojawiają się z obfitych włosów na głowie, a także przez prostokątne oznakowanie na nosie. Ma również te same charakterystyczne ślady w stylu kocich wąsów na swojej twarzy, jak Naruto Uzumaki z powodu wpływów Dziewięcioogoniastego na nim.\n\nJego typowy strój składa się ze standardowej kamizelki shinobi, noszonej na fioletowym mundurze z wysokim kołnierzem i bez rękawów, a także nosi fioletowy ochraniacz na czoło i parę ochraniaczy na nadgarstkach. Kanji zostało wytatuowane na ramieniu jego odsłoniętej lewej ręki.\n\nUmiejętności\nKinkaku i jego brat byli dobrze znani ze swojej mocy za życia, tak bardzo, że jeden z shinobi Kumogakure drżał na ich widok i sprowokował Czwartego Raikage tak bardzo, że omal nie zlekceważył swoich obowiązków jako lidera Zjednoczonych Sił Shinobi, by osobiście skonfrontować się z dwójką. Według Ao, obydwaj bracia posiadają ogromne rezerwy czakry z śladami zmieszanej czakry Dziewięcioogoniastego z powodu połknięcia i zwymiotowania ich przez Dziewięciogoniastego po przetrwaniu dwóch tygodni wewnątrz jego żołądkaDrużyna Asumy znów w komplecie, Odrodzeni Kage.\n\nCenne narzędzia thumb|Kinkaku i Ginkaku trzymający skarby.\nBracia nosili pięć Cennych Narzędzi Mędrca Sześciu Ścieżek, z których każde wymagało ogromnych pokładów czakry, wystarczających do zabicia normalnej osoby zanim mogłaby właściwie użyć narzędzia. Bracia mogą ich użyć dzięki połączeniu ich poziomów czakry i czakry Dziewięcioogoniastego. Przez połączenie Benihisago, Kōkinjō i Shichiseikena, mogą schwytać ich przeciwnika i zapieczętować jego ciało na dobre. Bashōsen pozwala im na utworzenie każdego z pięciu podstawowych żywiołówDrużyna Asumy znów w komplecie, Zakazane słowa.\n\nTransformacje jinchūrikiego thumb|left|Sześcioogoniasta forma Kinkaku.\nPomimo nie bycia właściwie jinchūrikim, zaabsorbował pokaźną ilość czakry Dziewięcioogoniastego i zjadł trochę jego mięsa czakry podczas uwięzienia w jego żołądku. Tak bardzo, że udało mu się wejść w bardziej muskularną sześcioogoniastą formę Naruto z jednym ogonem znacznie dłuższym i grubszym niż inne. Jednakże brakuje szkieletu Dziewięcioogoniastego. Kinkaku również utrzymuje swoją świadomość, w przeciwieństwie do Naruto, który ją traci na rzecz bestialskiego instynktu w tej formie, prawdopodobnie ze względu na brak posiadania bestii w sobie, choć wściekłość ciągle wydaje się być wyzwalana kiedy wchodzi w tą formę.\n\nW tej formie, jest widziany używając ogonów czakry, by uderzać z wielką siłą i zasięgiem, blokować deszcz kunai za pomocą swoich ogonów, odrzucić wielki toczący się czołg na bok i łatwo przełamać Technikę Imitacji Cienia w sekundę, i w anime wyszedł bezboleśnie z połączonej zapory różnych żywiołowych ninjutsu i również zaprezentował wielką szybkość i siłę, będąc w stanie przeciąć kilku sojuszniczych shinobi natychmiastowo wraz ze zniszczeniem platform, na których stali. Jednakże pomimo podobieństwa do wyższych form Naruto, wydaje się nie posiadać płaszcza żrącej czakry, który Naruto posiadał od Czworoogoniastej i dalej.\n\nCzwarta Wielka Wojna Shinobi: punkt kulminacyjny\nW przygotowaniach do Czwartej Światowej Wojny Shinobi, Kinkaku zostaje wskrzeszony przez Kabuto Yakushiego, by walczył przeciwko Zjednoczonym Siłom Shinobi. Wychodząc z morza koło wybrzeża w Kraju Błyskawicy, wraz ze swoim bratem i z Armią Białych Zetsu, dwójka napotyka wrogą Pierwszą Dywizją. Konfrontując się z Daruim, rozpoznaje, że odziedziczył on techniki Trzeciego Raikage, więc Kinkaku sugeruje, że jest raczej silny.\n\nthumb|Kinkaku atakuje Daruiego, Samui i Atsuiego wachlarzem.\nDarui zauważa, że odkąd tyle czasu minęło, nawet ci z Kumogakure stracili szacunek do nich. Po tym jak Atsui i Samui przybywają, Kinkaku wyciąga Bashōsen i Shichiseiken ze swoich ust, dając to ostatnie swojemu bratu, podczas gdy oplątuje Kōkinjō wokół swojego ramiona. Uderzając dwójkę rodzeństwa za pomocą liny, wyciąga ich słowa duszy, by Ginkaku mógł ich przekląć. Czytając specjalne słowo napisane na mieczu, Kinkaku podpala rękę Atsuiego, co zmusza go do powiedzenia jego zakazanego słowa, powodując, że zostaje zapieczętowany. Podczas gdy jego brat bierze Samui za zakładniczkę, Kinkaku usiłuje zaatakować Daruiego, tylko by jego ręka została odcięta. Darui wtedy atakuje obydwóch braci, uwalniając Samui, ale wchodząc w kontakt z liną wokół odciętej ręki Kinkaku, którą ten ostatni kopnął. Wtedy przecina słowo duszy Daruiego i Ginkaku zapisuje je.\n\nthumb|left|Kinkaku, w swojej sześcioogoniastej formie, odbija atak Chōjiego.\nGdy Darui przypadkowo wypowiada swoje słowo tabu, był w stanie ku swojemu szczęściu zmienić swoje najczęściej wypowiadane słowo podczas wsysania przez Benihisago, anulując pieczętowanie bez wiedzy braci. Rozbrajając Ginkaku i przewracając go na Kinkaku, Darui wtedy przejmuje inne narzędzia. Rzucając swój miecz na ostatniego, Kinkaku odbija ostrze, tylko by zostać po raz kolejny zbombardowanym. Darui używaj tej okazji, by przekląć i zapieczętować Ginkaku, powodując u Kinkaku wpadnięcie w berserk i wejście w jego sześcioogoniastą formę.\n\nChoć Darui przeprasza za Ginkaku, Kinkaku sieje zamęt na polu bitwy, zabijając wielu pomimo wysiłków Chōzy Akimichi. Obserwując Kohaku no Jōhei w posiadaniu Daruiego, dochodzi do wniosku, że planują go zapieczętować w jego wnętrzu, przed zaatakowaniem i niemalże zabiciem Daruiego, gdyby nie uderzenie Kitsuchiego. Odbijając deszcz kunai, Kinkaku nie dostrzega podejścia Chōjiego Akimichi, ale odbija jego atak używając samej siły. Jednakże było to tylko odwrócenie uwagi, by Shikamaru Nara mógł związać jego cień.\n\nthumb|Kinkaku pieczętowany.\nUwalniając się z łatwością, Ino Yamanaka natychmiastowo przejmuje kontrolę nad Kinkaku, gdy próbował zabić Shikamaru. Zmuszając go do odpowiedzi na wezwanie Daruiego, zaczyna być wsysany do garnca, właśnie gdy Ino powraca do swojego własnego ciała. Gdy Kinkaku jest pieczętowany, narzeka jak tacy głupcy mogli pokonać go i jego brata, na co Darui odpowiada, że nawet jeśli złoto i srebro mogę jasno błyszczeć, mnóstwo miedzianych monet może być więcej wartych niż jedna złota moneta.\n\nO zmierzchu, Tobi przybywa na pole bitwy i zabiera zarówno Benihisago jak i Kohaku no Jōhei, każde z nich zawierające braci wewnątrz, zamierzając użyć czakry Dziewięcioogoniastego, aby pomóc wypełnić jego Plan Księżycowe Oko.\n\nDosłowne tłumaczenie imienia Kinkaku – dzieli tę samą nazwę, co Siły Kinkaku, sugerując, że Kinkaku jest ich możliwym liderem.\nZarówno Kinkaku ,jak i jego brat są prawdopodobnie oparci na dwóch postaciach z chińskiego klasyku Wędrówka na Zachód\". W tej historii, Kinkaku i Ginkaku są dwoma demonicznymi królami-braćmi, znanymi jako i .\nZ powodu zdolności braci do przyswojenia sobie czakry Dziewięcioogoniastego przez jedzenie jego mięsa, Czwarty Raikage podejrzewa, że są daleko spokrewnieni z Mędrcem Sześciu Ścieżek.\nGdy Kinkaku debiutował w anime, był przedstawiony bez oznakowania na nosie widzianym w mandze.\nKinkaku i Ginkaku są również świątyniami w Kyōto, w Japonii. Świątynia Złotego Pawilonu jest nazywana Kinkaku, a Świątynia Srebrnego Pawilonu jest nazywana Ginkaku.\nW odcinku Zakazane słowa, Kinkaku i jego brat Ginkaku byli obaj widziani ze swoimi kocimi wzorkami na twarzach zanim zostali pożarci przez Kuramę.\n\nKategoria:Postacie\nKategoria:Mieszkańcy Kumo\nKategoria:Jinchūriki\n\nde:Kinkaku en:Kinkaku id:Kinkaku fr:Kinkaku", "token_count": 3433}
+{"added": "2026-10-02", "author": "sims contributors", "created": "2017-01-23", "id": "fandom_pl_sims_75158", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "miastowy Sim pojawiający się w The Sims 3: Studenckie Życie. Studiuje wychowanie fizyczne na Uniwersytecie Simowym. Może zostać grywalną postacią, gdy inny Sim poprosi go o wprowadzenie się lub weźmie z nim ślub.\n\nTravis ma pierwszy szczebel wpływów w grupie społecznej kujonów, a jego pragnieniem życiowym jest osiągnąć maksymalny poziom logiki i sprawności fizycznej. Na początku rozgrywki nie ma rozwiniętej żadnej umiejętności.\n\nKategoria:Simowie - mężczyźni\nKategoria:Młodzi dorośli\nKategoria:Simowie o szarych oczach\nKategoria:Simowie o czarnych włosach\nKategoria:Simowie o ciemnej skórze\nKategoria:Studenci\nKategoria:Mieszkańcy Uniwersytetu Simowego\nKategoria:Simowie z cechą Podekscytowany\nKategoria:Simowie z cechą Przyjacielski\nKategoria:Simowie z cechą Nieodparty\nKategoria:Simowie z cechą Roztrzepany\nKategoria:Simowie z cechą Zdolny ogrodnik\nKategoria:Simowie spod znaku Koziorożca\nKategoria:Simowie NPC\nKategoria:Kujony (TS3SŻ) en:Travis Jones", "token_count": 362}
+{"added": "2026-10-02", "author": "elderscrolls contributors", "created": "2018-11-03", "id": "fandom_pl_elderscrolls_61347", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "Lodowy upiór – stworzenie występujące w The Elder Scrolls V: Skyrim. Porusza się szybko i zadaje silne lodowe obrażenia. Występują w pokrytych śniegiem, mroźnych rejonach Skyrim.\n\nŁatwo je pokonać magią opartą na ogniu, np. czarem Płomienie. Są odporne na magię lodu.\n\nSą to białe, przejrzyste zjawy o szkieletowatym wyglądzie, łatwo ukrywające się w śnieżnym krajobrazie.\n\nde:Eisgeist (Skyrim) en:Ice Wraith (Skyrim) es:Espectro del hielo (Skyrim) fr:Spectre de glace it:Spettro del Ghiaccio ru:Ледяное привидение (Skyrim) uk:Крижаний дух\nKategoria:Skyrim: Stworzenia", "token_count": 230}
+{"added": "2026-10-02", "author": "pokemon contributors", "created": "2022-06-04", "id": "fandom_pl_pokemon_53124", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "thumb|Zajezdnia Rangera w Pueltown\nZajezdnie Rangera (jap: レンジャーデポ Zajezdnia Rangera) są małymi budynkami występującymi w . Ich głównym celem jest działania na zasadzie Centrum Pokémonów dla ów, zapewniając Machinę Zapisu oraz Operatora, który na prośbę naładuje Styler do maksimum. Jak widać na obrazku, Zajezdnie Rangera mają niebieski kolor, a ich dachy są pokryte trawą. Ich wygląd jest podobny do Bazy Rangera, z tą różnicą że jedynymi mieszkańcami Zajezdni są Operatorzy. Zajezdnie Rangera są mniejsze od Baz Rangera, prawdopodobnie ze względu na ową funkcję. Zajezdnie nie służą jakiemukolwiek innemu celowi w grze poza funkcjonowaniem jako punkty odpoczynkowe.\n\nnie muszą wykorzystywać Zajezdnie Rangera aby dalej kontynuować fabułę. Machiny Zapisu zazwyczaj są blisko nich, razem z Pokémonami z Ruchem Polowym Naładowania.\n\nKiedy po raz pierwszy przybywa do Pueltown, , która mu towarzyszy, wyjaśnia mu funkcjonowanie Zajezdni Rangera. Proponuje, aby gracz wykorzystał go do Misji, do której zostali oboje przydzieleni, w Pueltown. Jednakże nie jest wymagane aby gracz skorzystał z Zajezdni, gdyż są tu dwa inne Machiny Zapisu i duża ilość rozsianych po Pueltown.\n\nZajezdnie Rangera są umieszczone w odpowiednich miejscach pod względem pobliskich Misji. Można je znaleźć w Pueltown, Boyleland, Obozie Dreszczy oraz w Wiosce Haruba i występują w tej kolejności. Zajezdnie Rangera mogą być szczególnie pomocne, gdy gracz bierze udział w Misjach „Zdobądź Niebieski Klejnot!”, „Zdobądź Czerwony Klejnot!” i „Zdobądź Żółty Klejnot!”, ponieważ Zajezdnie można znaleźć w pobliskiej cywilizacji gdzie odbywają się Misje.\n\nCategory:Almia\nCategory:Miejsca w Cienie Almii", "token_count": 631}
+{"added": "2026-10-02", "author": "gothic contributors", "created": "2025-03-04", "id": "fandom_pl_gothic_2238", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "Skinner – postać występująca w Gothic II: Noc Kruka. Jest to bandyta mieszkający w obozie bandytów.\n\nGothic II: Noc Kruka\nJest bardzo silny. Przez cały czas śpi, a obudzenie go spowoduje chęć zabicia Bezimiennego. Przed takim losem ostrzega bohatera jeden z bandytów, który gotuje gulasz, przebywając w pobliżu Skinnera. Bronią, jakiej używa śpiący bandyta, jest miecz o nazwie Betty. Jeśli Bezimienny zdecyduje się obudzić Skinnera, ten go zaatakuje.\n\nW skryptach gry występuje możliwość kradzieży 200 sztuk złota, jeśli Bezimienny posiada 100 punktów zręczności, ale w praktyce jest to niewykonalne, ponieważ Skinner od razu po swojej wypowiedzi atakuje bohatera.\nW pliku dialogowym Skinnera znajduje się zalążek rozmowy z nim na temat zamachu na Estebana. Nie może ona jednak wystąpić podczas rozgrywki.\n\nKategoria:Bandyci Kruka\nKategoria:Postacie z Gothic II: Noc Kruka cs:Skinner ru:Скиннер", "token_count": 329}
+{"added": "2026-10-02", "author": "wiedzmin contributors", "created": "2026-01-05", "id": "fandom_pl_wiedzmin_49746", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "Notatki Dearhenny II to książka i przedmiot fabularny w grze Wiedźmin 2: Zabójcy Królów.\n\nDziennik\nMemuary Dearhenny II\n\nOdnalazłem intrygujący dokument. Wszystko zaszyfrowane, użyto też dziwnego dialektu, odczytanie idzie niesłychanie wolno. Rozpoznaję słowo „jaszczury”, to dobry trop. Na dokumencie widnieje pieczęć niejakiego Goevetha. Nigdy o nim nie słyszałem.\n\nBiały kruk\n\nZobacz także\nNotatki Dearhenny I\nNotatki Dearhenny III\nNotatki Dearhenny IV\nNotatki Dearhenny V\nZagłada Vranów\n\nde:Dearhennas Notizen II en:Dearhenna's Notes II fr:Notes de Dearhenna II it:Appunti di Dearhenna II\n\nKategoria:Książki w grze Wiedźmin 2\nKategoria:Przedmioty fabularne w grze Wiedźmin 2\nKategoria:Akt Trzeci (Wiedźmin 2)", "token_count": 287}
+{"added": "2026-10-02", "author": "naruto contributors", "created": "2026-03-06", "id": "fandom_pl_naruto_1543", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "był mnichem ninja ze Świątyni Ognia. W przeszłości należał do Dwunastu Strażników Ninja, których zadaniem było ochranianie Daimyō Kraju Ognia.\n\nPrzeszłość thumb|left|189px|Asuma i Chiriku jako Dwunastu Strażników Shinobi\n\nChiriku był niegdyś członkiem Dwunastu Strażników Ninja. W czasie swojej służby nawiązał on przyjaźń z Asumą Sarutobim. Gdy sześciu członków grupy starało się zorganizować zamach stanu, pozostała szóstka postanowiła pozostać wierna daimyō Kraju Ognia. Doszło do zaciętej walki, pomiędzy obydwiema stronami, z której cało wyszli jedynie Chiriku, Asuma oraz Kazuma.\n\nKiedy grupa rozpadła się Chiriku został mnichem w Świątyni Ognia. Przez wiele lat zajmował coraz to wyższe stanowiska, aż stał się głową świątyni. Ponadto po zamachu stanu postanowił zaopiekować się i wyszkolić jedynie dziecko Kazumy, Sorę. Wstydząc się decyzji swojego sojusznika, który zdradził władcę kraju Ognia, Chiriku postanowił nigdy nie powiedzieć Sorze prawdy. Mimo, iż większość świątyni bała się Sory, ze względu na zapieczętowaną w nim część Kuramy, Chiriku cały czas wspierał go na duchu i dbał o niego.\n\nW czasie jego przynależności do Dwunastu Strażników Ninja niektóre podziemne organizacje wyceniły głowę Chiriku na 30,000,000 ryō.\n\nUmiejętności thumb|right|189px|Chiriku używający Raigō: Senjusatsu.\n\nJako przywódca Świątyni Ognia, Chiriku był dobrze obeznany we wszystkich jej tajemnych naukach. Podczas walki z Hidanem i Kakuzu, pokazał on dużą sprawność fizyczną, jak i znakomite wyszkolenie w technikach taijutsu, unikając i kontrując ich ataki. Chiriku znakomicie znał się na technikach pieczętujących, co zostało udowodnione gdy, razem z kilkoma innymi mnichami, starał się stłumić czakrę Sory. Mnich uaktywnił również silną barierę wokół świątyni, by ochronić ją przed intruzami.\n\nNajwyższy poziom swoich umiejętności Chiriku osiągnął gdy opanował ostateczną technikę swojej świątyni - Raigō: Senjusatsu. Technikę tą użył, podczas walki z Hidanem i Kakuzu, starając się wyeliminować ich wszystkich jednocześnie.\n\nCzęść II\nDwunastu Strażników Ninja\nKiedy okazało się, że groby jego sojuszników zostały okradzione, Chriku skontaktował się z Konohagakure, prosząc o pomoc. Następnie, gdy stało się jasne, że demoniczna strona Sory, staje się coraz bardziej nieposłuszna, Chriku postanowił dołączyć go do drużyny Yamato, pod pozorem zastąpienia rannego Saia. W rzeczwistości mnich chciał, aby Sora trafił do Konohy, gdzie byłby pod stałą obserwacją.\n\nMisja Stłumienia Akatsuki thumb|left|189px|Chiriku konfrontuje się z Hidanem i Kakuzu.\n\nPo tym jak Hidan i Kakuzu weszli do kraji Ognia w celu przechwycenia Jinchūriki Kuramy, Kakuzu postanowił, że najpierw pójdą oni do Świątyni Ognia, gdzie przbywał aktualnie Chiriku, którego głowa miała dużą wartość na czarnym rynku. Gdy dostali się do klasztoru nawiązała się zacięta walka między nimi, a Chiriku. Mnich poniósł niestety klęskę, a dwaj członkowie Akatsuki zabrali jego ciało.\n\nNazwa Chiriku pochodzi od Chi co znaczy \"ziemia\" i riku czyli \"ląd\" .\nChiriku chciał walczyć z Asumą Sarutobim.\n\n(do Hidana i Kakuzu) \"Jestem Chiriku ze Świątyni Ognia i nie przegram z ludźmi takimi jak wy\".\n\nKategoria:Postacie\nKategoria:Mieszkańcy Ognia\nKategoria:Martwi\n\nde:Chiriku fr:Chiriku en:Chiriku", "token_count": 1260}
+{"added": "2026-10-02", "author": "fallout contributors", "created": "2020-02-27", "id": "fandom_pl_fallout_11586", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "Prototyp AER14 - broń energetyczna występująca w Fallout: New Vegas.\nKarabin AER14 jest bespośrednim następcą karabinów AER9 i AER12. Jest to prototyp nad którym pracowano przed wojną. Znajduje się w Krypcie 22.\nCharakterystyka\nWyglądem AER14 przypomina AER9, lecz ma jasno-siwy kolor. Jako że jest on prototypem, przewody oraz niektóre elementy są widoczne. Na karabinie pozaznaczane i popodpisywane są pewne elementy. Przy kolbie znajdują się dwa układy scalone podłączone do broni za pomocą przewodów. Jest on również dłuższy niż inne karabiny laserowe.\n\nW przeciwieństwie do zwykłych karabinów laserowych ten strzela zieloną wiązką, a każdy strzał zużywa 2 ogniwa termojądrowe. Nie można nim celować za pomocą muszki i szczerbinki, a ponadto nie może być modyfikowany częściami przeznaczonymi dla standardowych karabinów laserowych.\n\nWarianty\nKarabin laserowy - standardowy karabin laserowy.\nKarabin laserowy Van Graffów - specjalna wersja karabinu AER9 zmodyfikowana przez Van Grafów\nDezintegrator Image:Wycięte.png\nLokalizacja\nKrypta 22 - w sekcji dziennej. Idź na 5 piętro, do pomieszczenia dezynsekcji i wejdź do klatki schodowej prowadzącej do sekcji dziennej, której wejście jest zaraz przy windzie; znajduje się tam zamek, którego trudność zależy od poziomu gracza. AER14 leży na podłodze zaraz obok szkieletu. Możliwe jest, aby towarzysz gracza wziął tę broń z ziemi; z tego powodu może jej tam nie być, należy wtedy sprawdzić ekwipunek wszystkich aktywnych towarzyszy gracza.\n\nUwagi\nUżywając tej broni istnieje możliwość uzyskania 75% szansy na trafienie krytyczne poza V.A.T.S, a nawet 85% szansy pod wpływem czasopisma True Police Stories z perkiem pojmowanie.\nW miejscu, gdzie leży AER14 można znaleźć kilka ogniw energetycznych, mimo iż nie jest to amunicja wykorzystywana przez tę broń.\nNa kolbie można zauważyć obiekt podobny do szkła, jeśli jest się w trybie trzecioosobowym. Pojawia się tylko, gdy jego tłem jest niebo. Gdy znajduje się przy ziemi, wygląda jak osłonka dla układów scalonych i kabli.\nProrotyp AER14 występuje jedynie w Fallout: New Vegas.\n\nde:AER14-Prototyp en:AER14 prototype es:Prototipo AER14 ja:AER14 prototype ru:Прототип AER14\nKategoria:Broń (Fallout: New Vegas)\nKategoria:Broń energetyczna", "token_count": 808}
+{"added": "2026-10-02", "author": "wiedzmin contributors", "created": "2026-01-05", "id": "fandom_pl_wiedzmin_52579", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "Przez czas i przestrzeń – zadanie główne w grze komputerowej Wiedźmin 3: Dziki Gon. Geralt i Avallac'h podróżują w nim przez różne światy do Tir ná Lia.\n\nWpis w dzienniku\nKiedy Ciri i Geralt rozprawili się z Imlerithem, wiadomość natychmiast dotarła do Avallac'ha. Nie wiem, jak on to robi, ale być może właśnie na tym polega to bycie „Wiedzącym”.\n\nW każdym razie Avallac'h wpadł wówczas na szatański pomysł. Postanowił przeciągnąć na swoją stronę jednego z największych sojuszników Eredina, jego generała i doradcę - Ge'elsa. Aby zrealizować swój plan, potrzebował pomocy śniączki - a Triss poleciła mu Corine Tilly. Gdy więc Geralt z Ciri dotarli do Novigradu, wszystko było już załatwione. Teraz wystarczyło sprowadzić do Novigradu Ge'elsa...\n\nŻeby do niego dotrzeć, Avallac'h i Geralt musieli dostać się do krainy zamieszkiwanej przez Aen Elle. Czekała ich zatem podróż do innego świata. Na samą myśl Geralt był tyleż podekscytowany, co niechętny. W końcu nienawidził portali, a ścieżki między światami wiodły właśnie przez nie.\n\nGdy opuszczali Pustynię Ddiddiwedht, Geralta spotkała przykra niespodzianka. Do następnego świata trafił już bez Avallac'ha. Wiedzący ostrzegał, że coś takiego może się wydarzyć, jednak Geralt miał cichą nadzieję, że do tego nie dojdzie. Nadzieja spełzła na niczym i od tej pory wiedźmin musiał samotnie i po omacku szukać kolejnych przejść do następnych światów.\n\nAch, wiele bym dał, żeby na własne oczy móc zobaczyć to, co Geralt widział w światach, które odwiedzał. Najbardziej intrygująca wydała mi się kraina zamieszkiwana przez lud Aen Elle, która była celem wędrówki Geralta i Avallac'ha. Gdy tam dotarli, nie bez trudności, znaleźli Ge'elsa i sprowadzili go do naszego świata.\n\nAvallac'h postawił wszystko na jedną kartę. Z pomocą śniączki, Corine Tilly, udowodnił Ge'elsowi, że ich poprzedniego króla, Auberona, zabił Eredin. Ge'els, który był oddanym sługą i przyjacielem Auberona, nie mógł przejść nad tym do porządku dziennego. Choć bił się z myślami, zdradził, że jedynym sposobem, żeby pokonać Eredina i Dziki Gon, jest wydanie im bitwy na naszych warunkach i w naszym świecie.\n\nPierwszym krokiem było sprowadzenie Naglfara za pomocą Słoneczego Kamienia. Ustaliliśmy, że Geralt, Ciri, czarodziejki i Avallac'h popłyną po Kamień na Skellige, a my z Zoltanem zostaniemy w Novigradzie będziemy i zabezpieczać ich powrót.\n\n- Jaskier\n\nOpis zadania\nZadanie rozpoczyna się po rozmowie z Avallac'hem z zadania Ostatnie przygotowania. Podczas rozmowy w Kameleonie Avallac'h opowiada Geraltowi, że zamierza osłabić Eredina poprzez zawarcie układu z generałem Dzikiego Gonu, Ge'elsem. Ge'els był lojalny wobec zabitego przez Eredina poprzedniego władcy Aen Elle, Auberona Muircetacha. Wiedzący zamierza udać się do Tir ná Lia i wyjawić Ge'elsowi prawdę o śmierci Auberona. Wiedźmin ma mu w tym towarzyszyć. Aby dostać się do Ge'elsa i świata Aen Elle należy skorzystać z portalu znajdującego się w elfich ruinach pod jednym z novigradzkich domów. Można udać się do niego od razu lub przyjść tam później. Jeśli w zadaniu Sen w wielkim mieście Geralt wypędził Sarę, to po wejściu do domu elf i wiedźmin zostaną przywitani przez chłopca, który opowie im o kłótni swoich rodziców. Po zejściu do piwnicy i zniszczeniu jednej ze ścian znakiem Aard bohaterowie dotrą do portalu. Przed wejściem do niego Avallac'h uprzedzi Geralta, że będą musieli podróżować przez wiele światów i że w trakcie wędrówki mogą zostać rozdzieleni.\n\nPo przejściu przez portal wiedźmin i Wiedzący znajdą się na Pustyni Ddiddiwedht. Elf wyjaśni Geraltowi, że pustynia była kiedyś dnem morza, ale po wyczerpaniu się zasobów tego świata morze wyschło. Teraz żyją tu tylko piaskowe potwory, pazurnice. Gdy bohaterowie dojdą do portalu będzie on nieaktywny. Podczas oczekiwania na jego włączenie się, obydwaj zostaną zaatakowani przez pazurnice. Gdy gracz zabije wystarczająco dużo z nich portal otworzy się, a wiedźmin przez niego ucieknie.\n\nNastępny świat będzie opuszczony, a jedynymi formami życia będą rośliny wydzielające trujące opary. Z tego powodu należy poruszać się po tym miejscu ostrożnie. Geralt trafi tam sam, bez Avallac'ha. Aby wydostać się z tego świata należy dotrzeć do portalu wśród ruin (po drodze będzie można znaleźć miejsce mocy), który przeniesie wiedźmina do zatopionego budynku.\n\nPo wpłynięciu do kolejnego portalu Geralt trafi do Tilath na Buhne zniszczonego przez białe zimno. W tym miejscu będą panować redukujące żywotność siarczyste mrozy przed którymi trzeba będzie się chować za skałami lub w ruinach budynków. Po przybyciu do tego świata wiedźmin zauważy palącą się latarnię, po czym dojdzie do wniosku, że rozpalił ją Avallac'h. W związku z tym b��dziemy musieli dostać się do niej. Po drodze Geralta będą atakować ogary Dzikiego Gonu. W dolnej części latarni wiedźmin rzeczywiście znajdzie Wiedzącego. Elf wyjaśni, że to w tym świecie Geralt pokonał widmo Eredina, a Ciri stoczyła walkę o uwolnienie wiedźmina z rąk króla Dzikiego Gonu. Po krótkiej rozmowie Avallac'h i Geralt udadzą się do portalu prowadzącego do siedziby Ge'elsa - Pałacu Świadomości w świecie Aen Elle. Zastaną tam Ge'elsa malującego portret półnagiej elfki. Wiedzący opowie mu o śmierci Auberona i poprosi go o udanie się z nim do świata Aen Seidhe, w którym znajdują się dowody potwierdzające jego wersję wydarzeń. Gdy Ge'els się zgodzi cała trójka zostanie przeniesiona do karczmy Jaskra w Novigradzie, w której będą czekać na nich Ciri i Corine Tilly. Po krótkiej rozmowie z dziewczyną elf zobaczy wyśnioną przez Corine wizję, w której Eredin otruwa Auberona. Po chwili zastanowienia Ge'els zgadza się pomóc Avallac'howi i uniemożliwić Eredinowi ściągnięcie posiłków ze świata Aen Elle. Przed odejściem doradzi też Geraltowi i Ciri wezwanie Eredina na Undvik za pomocą Kamienia Słonecznego i wydanie mu bitwy. Po zakończeniu konwersacji z elfem nastąpi rozmowa Ciri, Geralta i Avallac'ha, w której ci zaakceptują plan Ge'elsa i postanowią wyruszyć na Skellige. Jeśli wcześniej nie wykonaliśmy zadania Wyrównanie rachunków, to po zakończeniu rozmowy Ciri zaproponuje Geraltowi towarzyszenie jej w czasie załatwiania swoich spraw w Novigradzie. Po rozmowie z Cirillą i Avallac'hem zadanie zakończy się.\n\nPunkty doświadczenia\n\n500 po rozmowie z Avallac'hem w latarni\n1000 i 1000 po zakończeniu zadania\n\nZa zabijanie pazurnic nie otrzymuje się żadnych punktów doświadczenia.\n\nar:خلال الزمان والمكان en:Through Time and Space ru:Сквозь время и пространство\n\nKategoria:Zadania główne w grze Wiedźmin 3\nKategoria:Zadania w Novigradzie\nKategoria:Zadania w specjalnych regionach (Wiedźmin 3)", "token_count": 2498}

artifacts/selection.json ADDED Viewed

	@@ -0,0 +1,119 @@

+{
+  "files_sha256": "36d5f9ce7377cb77006807a07703b6463507a9eb696350f7e38819fc1f8789ae",
+  "license": "CC BY-SA 3.0 (Fandom site license, per Wayback snapshot 2024-12-31)",
+  "license_provenance": "Wayback Machine snapshot of https://www.fandom.com/licensing",
+  "license_url_observed": "https://web.archive.org/web/20241231234031/https://www.fandom.com/licensing",
+  "min_text_chars": 500,
+  "observed_at": "2026-10-02T11:05:23.043441+00:00",
+  "total_articles": 129165,
+  "wikis": [
+    {
+      "api_url": "https://elderscrolls.fandom.com/pl/api.php",
+      "articles": 45027,
+      "base": "https://elderscrolls.fandom.com/pl/wiki/The_Elder_Scrolls_Wiki",
+      "lang": "pl",
+      "name": "elderscrolls",
+      "pages": 108291,
+      "wikiid": "plelderscrolls"
+    },
+    {
+      "api_url": "https://wiedzmin.fandom.com/pl/api.php",
+      "articles": 12987,
+      "base": "https://wiedzmin.fandom.com/wiki/Wied%C5%BAmin_Wiki",
+      "lang": "pl",
+      "name": "wiedzmin",
+      "pages": 51875,
+      "wikiid": "wiedzmin"
+    },
+    {
+      "api_url": "https://gothic.fandom.com/pl/api.php",
+      "articles": 11846,
+      "base": "https://gothic.fandom.com/pl/wiki/Gothic_i_ArcaniA",
+      "lang": "pl",
+      "name": "gothic",
+      "pages": 108028,
+      "wikiid": "plgothic"
+    },
+    {
+      "api_url": "https://harrypotter.fandom.com/pl/api.php",
+      "articles": 11292,
+      "base": "https://harrypotter.fandom.com/pl/wiki/Strona_g%C5%82%C3%B3wna",
+      "lang": "pl",
+      "name": "harrypotter",
+      "pages": 114378,
+      "wikiid": "plharrypotter"
+    },
+    {
+      "api_url": "https://gta.fandom.com/pl/api.php",
+      "articles": 10814,
+      "base": "https://gta.fandom.com/pl/wiki/Grand_Theft_Auto_Wiki",
+      "lang": "pl",
+      "name": "gta",
+      "pages": 46611,
+      "wikiid": "plgta"
+    },
+    {
+      "api_url": "https://sims.fandom.com/pl/api.php",
+      "articles": 8242,
+      "base": "https://sims.fandom.com/pl/wiki/Simspedia",
+      "lang": "pl",
+      "name": "sims",
+      "pages": 75168,
+      "wikiid": "plsims"
+    },
+    {
+      "api_url": "https://starwars.fandom.com/pl/api.php",
+      "articles": 7017,
+      "base": "https://starwars.fandom.com/pl/wiki/Strona_g%C5%82%C3%B3wna",
+      "lang": "pl",
+      "name": "starwars",
+      "pages": 15098,
+      "wikiid": "plstarwars"
+    },
+    {
+      "api_url": "https://naruto.fandom.com/pl/api.php",
+      "articles": 5242,
+      "base": "https://naruto.fandom.com/pl/wiki/Naruto_Wiki",
+      "lang": "pl",
+      "name": "naruto",
+      "pages": 41237,
+      "wikiid": "plnaruto"
+    },
+    {
+      "api_url": "https://pokemon.fandom.com/pl/api.php",
+      "articles": 7057,
+      "base": "https://pokemon.fandom.com/pl/wiki/Pok%C3%A9mon_Wiki",
+      "lang": "pl",
+      "name": "pokemon",
+      "pages": 75468,
+      "wikiid": "plpokemony"
+    },
+    {
+      "api_url": "https://dragonage.fandom.com/pl/api.php",
+      "articles": 2999,
+      "base": "https://dragonage.fandom.com/pl/wiki/Dragon_Age_Wiki",
+      "lang": "pl",
+      "name": "dragonage",
+      "pages": 10212,
+      "wikiid": "pldragonage"
+    },
+    {
+      "api_url": "https://fallout.fandom.com/pl/api.php",
+      "articles": 4052,
+      "base": "https://fallout.fandom.com/pl/wiki/Krypta_%E2%80%93_Fallout_Wiki",
+      "lang": "pl",
+      "name": "fallout",
+      "pages": 13948,
+      "wikiid": "plfallout"
+    },
+    {
+      "api_url": "https://creepypasta.fandom.com/pl/api.php",
+      "articles": 2590,
+      "base": "https://creepypasta.fandom.com/pl/wiki/Creepypasta_Wiki",
+      "lang": "pl",
+      "name": "creepypasta",
+      "pages": 111979,
+      "wikiid": "plcreepypasta"
+    }
+  ]
+}

artifacts/source_manifest.jsonl ADDED Viewed

	@@ -0,0 +1,3 @@

+version https://git-lfs.github.com/spec/v1
+oid sha256:54717a711268ff9579316be98b03d40789156cb2127f59e0588fa0dd11693ab5
+size 26315670

artifacts/stats.json ADDED Viewed

	@@ -0,0 +1,124 @@

+{
+  "added": "2026-10-02",
+  "boilerplate_lines_removed": 41,
+  "boilerplate_shingles_excluded": 13,
+  "characters": 132237079,
+  "kept": 57954,
+  "license_counts": {
+    "CC-BY-SA-3.0": 57954
+  },
+  "rejected": 82369,
+  "sample_count": 12,
+  "source_pages": 140323,
+  "tokens": 49638742,
+  "wikis": [
+    {
+      "api_url": "https://elderscrolls.fandom.com/pl/api.php",
+      "articles": 45027,
+      "base": "https://elderscrolls.fandom.com/pl/wiki/The_Elder_Scrolls_Wiki",
+      "lang": "pl",
+      "name": "elderscrolls",
+      "pages": 108291,
+      "wikiid": "plelderscrolls"
+    },
+    {
+      "api_url": "https://wiedzmin.fandom.com/pl/api.php",
+      "articles": 12987,
+      "base": "https://wiedzmin.fandom.com/wiki/Wied%C5%BAmin_Wiki",
+      "lang": "pl",
+      "name": "wiedzmin",
+      "pages": 51875,
+      "wikiid": "wiedzmin"
+    },
+    {
+      "api_url": "https://gothic.fandom.com/pl/api.php",
+      "articles": 11846,
+      "base": "https://gothic.fandom.com/pl/wiki/Gothic_i_ArcaniA",
+      "lang": "pl",
+      "name": "gothic",
+      "pages": 108028,
+      "wikiid": "plgothic"
+    },
+    {
+      "api_url": "https://harrypotter.fandom.com/pl/api.php",
+      "articles": 11292,
+      "base": "https://harrypotter.fandom.com/pl/wiki/Strona_g%C5%82%C3%B3wna",
+      "lang": "pl",
+      "name": "harrypotter",
+      "pages": 114378,
+      "wikiid": "plharrypotter"
+    },
+    {
+      "api_url": "https://gta.fandom.com/pl/api.php",
+      "articles": 10814,
+      "base": "https://gta.fandom.com/pl/wiki/Grand_Theft_Auto_Wiki",
+      "lang": "pl",
+      "name": "gta",
+      "pages": 46611,
+      "wikiid": "plgta"
+    },
+    {
+      "api_url": "https://sims.fandom.com/pl/api.php",
+      "articles": 8242,
+      "base": "https://sims.fandom.com/pl/wiki/Simspedia",
+      "lang": "pl",
+      "name": "sims",
+      "pages": 75168,
+      "wikiid": "plsims"
+    },
+    {
+      "api_url": "https://starwars.fandom.com/pl/api.php",
+      "articles": 7017,
+      "base": "https://starwars.fandom.com/pl/wiki/Strona_g%C5%82%C3%B3wna",
+      "lang": "pl",
+      "name": "starwars",
+      "pages": 15098,
+      "wikiid": "plstarwars"
+    },
+    {
+      "api_url": "https://naruto.fandom.com/pl/api.php",
+      "articles": 5242,
+      "base": "https://naruto.fandom.com/pl/wiki/Naruto_Wiki",
+      "lang": "pl",
+      "name": "naruto",
+      "pages": 41237,
+      "wikiid": "plnaruto"
+    },
+    {
+      "api_url": "https://pokemon.fandom.com/pl/api.php",
+      "articles": 7057,
+      "base": "https://pokemon.fandom.com/pl/wiki/Pok%C3%A9mon_Wiki",
+      "lang": "pl",
+      "name": "pokemon",
+      "pages": 75468,
+      "wikiid": "plpokemony"
+    },
+    {
+      "api_url": "https://dragonage.fandom.com/pl/api.php",
+      "articles": 2999,
+      "base": "https://dragonage.fandom.com/pl/wiki/Dragon_Age_Wiki",
+      "lang": "pl",
+      "name": "dragonage",
+      "pages": 10212,
+      "wikiid": "pldragonage"
+    },
+    {
+      "api_url": "https://fallout.fandom.com/pl/api.php",
+      "articles": 4052,
+      "base": "https://fallout.fandom.com/pl/wiki/Krypta_%E2%80%93_Fallout_Wiki",
+      "lang": "pl",
+      "name": "fallout",
+      "pages": 13948,
+      "wikiid": "plfallout"
+    },
+    {
+      "api_url": "https://creepypasta.fandom.com/pl/api.php",
+      "articles": 2590,
+      "base": "https://creepypasta.fandom.com/pl/wiki/Creepypasta_Wiki",
+      "lang": "pl",
+      "name": "creepypasta",
+      "pages": 111979,
+      "wikiid": "plcreepypasta"
+    }
+  ]
+}

artifacts/target_audit.json ADDED Viewed

	@@ -0,0 +1,30 @@

+{
+  "last_modified": "2026-09-30T22:12:48.000Z",
+  "matching_open_discussions": [],
+  "observed_at": "2026-10-02T11:04:02.430319+00:00",
+  "open_discussions": [
+    {
+      "author": "PolskiAgentW",
+      "num": 47,
+      "status": "open",
+      "title": "Add source: eli_pdf_acts — Dziennik Ustaw and Monitor Polski acts published only as PDF"
+    },
+    {
+      "author": "PiotrSty",
+      "num": 21,
+      "status": "open",
+      "title": "Add pinned SAOS Polish court judgments snapshot"
+    },
+    {
+      "author": "KennethEnevoldsen",
+      "num": 2,
+      "status": "open",
+      "title": "An absolute joy to see!"
+    }
+  ],
+  "revision": "014faa53b3ebe2a8c08d21b71fcbb221bc551bd1",
+  "source_absent": true,
+  "source_path_matches": [],
+  "target": "SlayerLab/polish-dynaword",
+  "tree_paths": 407
+}

data/train-00000-of-00001.parquet ADDED Viewed

	@@ -0,0 +1,3 @@

+version https://git-lfs.github.com/spec/v1
+oid sha256:77163edbb3de0955f10f5d54b2fb8c7500faccc583d738504b34ab91445fc832
+size 57260593

src/build_fandom_pl.py ADDED Viewed

	@@ -0,0 +1,896 @@

+#!/usr/bin/env python3
+"""Build an auditable slice of Polish Fandom wikis (fan-content namespaces), CC BY-SA 3.0."""
+from __future__ import annotations
+import argparse
+from collections import Counter
+from concurrent.futures import ProcessPoolExecutor
+from datetime import datetime, timezone
+from difflib import SequenceMatcher
+import gzip
+import hashlib
+import ipaddress
+import json
+from pathlib import Path
+import re
+import time
+import unicodedata
+from xml.etree.ElementTree import iterparse
+from urllib.parse import quote
+import requests
+SOURCE = "fandom_pl"
+OWN_REPO = "PiotrSty/fandom-pl"
+TARGET = "SlayerLab/polish-dynaword"
+SOURCE_URL = "https://www.fandom.com/licensing"
+FIELDS = ["id", "text", "source", "added", "created", "token_count", "license", "author"]
+UA = {"User-Agent": "polish-dynaword/0.2 (+research; openly-licensed corpus)"}
+LICENSE_SPDX = "CC-BY-SA-3.0"
+LICENSE_TERMS_URL = "https://creativecommons.org/licenses/by-sa/3.0/"
+FANDOM_LICENSE_URL = "https://web.archive.org/web/20241231234031/https://www.fandom.com/licensing"
+WIKIS = [
+    ("elderscrolls", "https://elderscrolls.fandom.com/pl/api.php"),
+    ("wiedzmin", "https://wiedzmin.fandom.com/pl/api.php"),
+    ("gothic", "https://gothic.fandom.com/pl/api.php"),
+    ("harrypotter", "https://harrypotter.fandom.com/pl/api.php"),
+    ("gta", "https://gta.fandom.com/pl/api.php"),
+    ("sims", "https://sims.fandom.com/pl/api.php"),
+    ("starwars", "https://starwars.fandom.com/pl/api.php"),
+    ("naruto", "https://naruto.fandom.com/pl/api.php"),
+    ("pokemon", "https://pokemon.fandom.com/pl/api.php"),
+    ("dragonage", "https://dragonage.fandom.com/pl/api.php"),
+    ("fallout", "https://fallout.fandom.com/pl/api.php"),
+    ("creepypasta", "https://creepypasta.fandom.com/pl/api.php"),
+]
+MIN_TEXT_CHARS = 500
+BOILERPLATE_MIN_DOC_FREQ = 0.01
+DF_FRACTION = 0.02
+DF_SUBSAMPLE_STRIDE = 4
+EMAIL_RE = re.compile(r"(?i)\b[A-Z0-9._%+-]+@[A-Z0-9.-]+\.[A-Z]{2,}\b")
+PHONE_RE = re.compile(r"(?i)(?:\btelefon|\btel\.|\bphone)\s*:?[ \t]*(?:\+48[ \t]*)?\d(?:[ .-]?\d){8}\b")
+IPV4_RE = re.compile(r"\b\d{1,3}\.\d{1,3}\.\d{1,3}\.\d{1,3}\b")
+IPV6_RE = re.compile(r"(?i)\b(?:[0-9a-f]{1,4}:){3,}[0-9a-f]{1,4}\b")
+IPV6_CANDIDATE_RE = re.compile(r"(?<![\w:])(?:[0-9a-fA-F]{0,4}:){2,}[0-9a-fA-F:.]*(?![\w:])")
+NATIONAL_ID_RE = re.compile(r"(?i)\b(PESEL|NIP|REGON)\s*[:=]?\s*\d(?:[ -]?\d){8,13}\b")
+BANK_ACCOUNT_RE = re.compile(r"(?<!\d)(?:PL\s*)?\d{2}(?:[ -]?\d){24}(?!\d)")
+def is_ipv6(value):
+    try:
+        return ipaddress.ip_address(value.rstrip(".")).version == 6
+    except ValueError:
+        return False
+def redact_pii(text):
+    counts = Counter()
+    def replace_ipv6(match):
+        value = match.group().rstrip(".")
+        if not is_ipv6(value):
+            return match.group()
+        counts["ipv6"] += 1
+        return "[REDACTED:IP]" + match.group()[len(value):]
+    text = IPV6_CANDIDATE_RE.sub(replace_ipv6, text)
+    for name, pattern, replacement in (
+        ("email", EMAIL_RE, "[REDACTED:EMAIL]"),
+        ("labelled_phone", PHONE_RE, "[REDACTED:PHONE]"),
+        ("ipv4", IPV4_RE, "[REDACTED:IP]"),
+        ("ipv6_legacy_pattern", IPV6_RE, "[REDACTED:IP]"),
+        ("national_identifier", NATIONAL_ID_RE, lambda match: match.group(1) + " [REDACTED:ID]"),
+        ("account_candidate", BANK_ACCOUNT_RE, "[REDACTED:ACCOUNT]"),
+    ):
+        text, count = pattern.subn(replacement, text)
+        counts[name] += count
+    return text, counts
+def now():
+    return datetime.now(timezone.utc).isoformat()
+def digest(value):
+    if not isinstance(value, bytes):
+        value = json.dumps(value, ensure_ascii=False, sort_keys=True, separators=(",", ":")).encode("utf-8")
+    return hashlib.sha256(value).hexdigest()
+def sha1_file(path):
+    h = hashlib.sha1()
+    with path.open("rb") as handle:
+        while chunk := handle.read(1 << 22):
+            h.update(chunk)
+    return h.hexdigest()
+def save(path, value):
+    path.parent.mkdir(parents=True, exist_ok=True)
+    path.write_text(json.dumps(value, ensure_ascii=False, sort_keys=True, indent=2) + "\n", encoding="utf-8")
+def write_lines(path, rows):
+    path.parent.mkdir(parents=True, exist_ok=True)
+    with path.open("w", encoding="utf-8") as handle:
+        for row in rows:
+            handle.write(json.dumps(row, ensure_ascii=False, sort_keys=True) + "\n")
+def read_lines(path):
+    return [json.loads(line) for line in path.read_text(encoding="utf-8").split("\n") if line]
+def load(path):
+    return json.loads(path.read_text(encoding="utf-8"))
+def request(url, attempts=5, timeout=(15, 90), params=None):
+    response = None
+    for attempt in range(attempts):
+        response = requests.get(url, headers=UA, params=params, timeout=timeout)
+        if response.status_code not in (429, 500, 502, 503, 504):
+            response.raise_for_status()
+            return response
+        time.sleep(2 ** attempt)
+    response.raise_for_status()
+def request_json(url, params=None):
+    return request(url, params=params).json()
+def _local(tag):
+    return tag.rsplit("}", 1)[-1]
+def strip_wikitext(wikitext):
+    import mwparserfromhell
+    try:
+        return mwparserfromhell.parse(wikitext).strip_code(normalize=True, collapse=True).strip()
+    except Exception:
+        return ""
+def _strip_batch(items):
+    return [strip_wikitext(wikitext) for _, _, _, _, wikitext in items]
+def discover(out):
+    results = []
+    for name, api_url in WIKIS:
+        try:
+            r = request_json(api_url + "?action=query&meta=siteinfo&siprop=general|statistics&format=json")
+            q = r.get("query", {})
+            g, st = q.get("general", {}), q.get("statistics", {})
+            results.append({
+                "name": name,
+                "api_url": api_url,
+                "wikiid": g.get("wikiid"),
+                "articles": st.get("articles"),
+                "pages": st.get("pages"),
+                "lang": g.get("lang"),
+                "base": g.get("base"),
+            })
+        except Exception as e:
+            print(f"WARNING: {name} discovery failed: {e}")
+    if not results:
+        raise ValueError("no wikis discovered")
+    selection = {
+        "observed_at": now(),
+        "wikis": results,
+        "total_articles": sum(r["articles"] for r in results),
+        "min_text_chars": MIN_TEXT_CHARS,
+        "license": "CC BY-SA 3.0 (Fandom site license, per Wayback snapshot 2024-12-31)",
+        "license_url_observed": FANDOM_LICENSE_URL,
+        "license_provenance": "Wayback Machine snapshot of https://www.fandom.com/licensing",
+        "files_sha256": digest(results),
+    }
+    save(out / "selection.json", selection)
+    print(json.dumps({k: selection[k] for k in ("total_articles", "license")}, indent=2))
+    print("wikis:", len(results))
+def fetch_wiki_titles(api_url, namespace=0, limit=500):
+    """Yield titles from allpages with pagination."""
+    apcontinue = None
+    while True:
+        params = {"action": "query", "list": "allpages", "apnamespace": namespace,
+                  "aplimit": limit, "format": "json"}
+        if apcontinue:
+            params["apcontinue"] = apcontinue
+        r = request_json(api_url, params=params)
+        pages = r.get("query", {}).get("allpages", [])
+        for p in pages:
+            yield p["title"]
+        apcontinue = r.get("continue", {}).get("apcontinue")
+        if not apcontinue:
+            break
+def fetch_revisions(api_url, titles):
+    """Batch fetch revisions for up to 50 titles."""
+    if not titles:
+        return []
+    params = {"action": "query", "titles": "|".join(titles),
+              "prop": "revisions", "rvprop": "content|timestamp", "rvslots": "main",
+              "format": "json"}
+    r = request_json(api_url, params=params)
+    records = []
+    for pageid, data in r.get("query", {}).get("pages", {}).items():
+        if "missing" in data:
+            continue
+        if "ns" not in data or "title" not in data:
+            continue
+        title = data["title"]
+        ns = str(data["ns"])
+        revs = data.get("revisions", [])
+        if not revs:
+            continue
+        latest = revs[0]
+        text = latest.get("slots", {}).get("main", {}).get("*", "")
+        timestamp = latest.get("timestamp", "")
+        records.append((pageid, ns, title, timestamp, text))
+    return records
+def acquire(out, workers):
+    selection = load(out / "selection.json")
+    extracted_dir = out / "extracted"
+    extracted_dir.mkdir(exist_ok=True)
+    manifest = []
+    BATCH_SIZE = 50
+    def add_manifest(path):
+        added = 0
+        with gzip.open(path, "rt", encoding="utf-8") as f:
+            for line in f:
+                row = json.loads(line)
+                manifest.append({"pageid": row["pageid"], "ns": row["ns"], "title": row["title"],
+                                 "timestamp": row["timestamp"], "wiki": row["wiki"],
+                                 "url": page_url(row["title"], row["wiki"])})
+                added += 1
+        return added
+    for wiki in selection["wikis"]:
+        name = wiki["name"]
+        api_url = wiki["api_url"]
+        print(f"  fetching {name} (ns0 articles: {wiki['articles']:,})", flush=True)
+        out_path = extracted_dir / f"{name}.jsonl.gz"
+        if out_path.exists():
+            count = add_manifest(out_path)
+            print(f"    {name}: already fetched ({count} records)", flush=True)
+            continue
+        tmp_path = extracted_dir / f"{name}.jsonl.gz.tmp"
+        if tmp_path.exists():
+            tmp_path.unlink()
+        titles = list(fetch_wiki_titles(api_url, namespace=0, limit=500))
+        print(f"    {name}: {len(titles)} titles fetched", flush=True)
+        written = 0
+        with gzip.open(tmp_path, "wt", encoding="utf-8") as f:
+            for batch_index, i in enumerate(range(0, len(titles), BATCH_SIZE), start=1):
+                batch = titles[i:i + BATCH_SIZE]
+                records = fetch_revisions(api_url, batch)
+                texts = _strip_batch(records)
+                for (pageid, ns, title, timestamp, wikitext), text in zip(records, texts):
+                    f.write(json.dumps({"pageid": pageid, "ns": ns, "title": title,
+                                        "timestamp": timestamp, "wikitext_chars": len(wikitext),
+                                        "text": text, "wiki": name}, ensure_ascii=False) + "\n")
+                written += len(records)
+                if batch_index % 25 == 0 or i + BATCH_SIZE >= len(titles):
+                    print(f"    {name}: {min(i + BATCH_SIZE, len(titles))}/{len(titles)} titles, "
+                          f"{written} revisions written", flush=True)
+                time.sleep(1)  # throttle
+        tmp_path.replace(out_path)
+        count = add_manifest(out_path)
+        print(f"    {name}: {count} records written", flush=True)
+    write_lines(out / "source_manifest.jsonl", manifest)
+    acquisition = {
+        "observed_at": now(), "wikis": selection["wikis"],
+        "source_pages": len(manifest),
+        "manifest_sha256": digest((out / "source_manifest.jsonl").read_bytes()),
+    }
+    save(out / "acquisition.json", acquisition)
+    print(json.dumps(acquisition, ensure_ascii=False, indent=2))
+def strip_boilerplate(texts_index):
+    counts = Counter()
+    for lines in texts_index:
+        counts.update(set(re.sub(r"\s+", " ", line).strip() for line in lines if line.strip()))
+    n = len(texts_index)
+    return {line for line, count in counts.items()
+            if count / n >= BOILERPLATE_MIN_DOC_FREQ and len(line) < 160}
+def normalize(text):
+    text = unicodedata.normalize("NFKC", text or "").replace("", "").replace("", "")
+    text = re.sub(r"[\x00-\x08\x0b\x0c\x0e-\x1f\x7f]", "", text)
+    lines = [re.sub(r"[ \t\xa0]+", " ", line).strip() for line in text.splitlines()]
+    lines = [line for line in lines if not re.fullmatch(r"\d{1,4}", line)]
+    text = "\n".join(lines)
+    text = re.sub(r"(?<=\w)-\n(?=[a-ząćęłńóśźż])", "", text)
+    text = re.sub(r"(?<![.!?:;\n])\n(?!\n)(?=[a-ząćęłńóśźż])", " ", text)
+    return re.sub(r"\n{3,}", "\n\n", text).strip()
+def page_url(title, wiki=""):
+    if wiki:
+        # construct from wiki base
+        return f"https://{wiki}.fandom.com/pl/wiki/" + quote((title or "").replace(" ", "_"), safe="/:")
+    return SOURCE_URL
+def normalize_title(text):
+    text = unicodedata.normalize("NFKD", text or "").casefold()
+    text = "".join(character for character in text if not unicodedata.combining(character))
+    return " ".join(re.findall(r"\w+", text))
+def shingle_sketch(text, limit=5_000):
+    words = re.findall(r"\w+", text.casefold())
+    hashes = set()
+    for index in range(max(0, len(words) - 4)):
+        value = " ".join(words[index:index + 5]).encode("utf-8")
+        hashes.add(int.from_bytes(hashlib.blake2b(value, digest_size=8).digest(), "big"))
+    if len(hashes) > limit:
+        return set(sorted(hashes)[:limit])
+    return hashes
+def boilerplate_shingles(candidates, boilerplate, stride=DF_SUBSAMPLE_STRIDE, fraction=DF_FRACTION):
+    df = Counter()
+    sampled = 0
+    for index, record in enumerate(candidates):
+        if index % stride:
+            continue
+        text = "\n".join(line for line in record["text"].splitlines()
+                         if re.sub(r"\s+", " ", line).strip() not in boilerplate)
+        text = re.sub(r"\n{3,}", "\n\n", text).strip()
+        df.update(shingle_sketch(text))
+        sampled += 1
+    max_df = max(1, int(sampled * fraction))
+    return {shingle for shingle, count in df.items() if count > max_df}, max_df, sampled
+def filter_sketch(sketch, hot):
+    return {shingle for shingle in sketch if shingle not in hot}
+class NearDuplicateIndex:
+    def __init__(self):
+        self.postings = {}
+        self.records = []
+        self.comparisons = 0
+    @staticmethod
+    def prefix(sketch):
+        return sorted(sketch)[:len(sketch) - (9 * len(sketch) + 9) // 10 + 1]
+    def find(self, sketch):
+        candidates = set()
+        for value in self.prefix(sketch):
+            candidates.update(self.postings.get(value, ()))
+        for position in sorted(candidates):
+            row_id, other = self.records[position]
+            if 10 * min(len(sketch), len(other)) < 9 * max(len(sketch), len(other)):
+                continue
+            self.comparisons += 1
+            intersection = len(sketch & other)
+            score = intersection / max(len(sketch) + len(other) - intersection, 1)
+            if score >= 0.90:
+                return row_id, score
+        return None, 0.0
+    def add(self, row_id, sketch):
+        position = len(self.records)
+        self.records.append((row_id, sketch))
+        for value in self.prefix(sketch):
+            self.postings.setdefault(value, []).append(position)
+def language_vote(identifier, text):
+    chunks = [text[:30_000], text[max(0, len(text) // 2 - 15_000):len(text) // 2 + 15_000], text[-30_000:]]
+    classified = {chunk: identifier.classify(chunk) for chunk in dict.fromkeys(chunks) if chunk.strip()}
+    votes = [classified[chunk] for chunk in chunks if chunk in classified]
+    languages = Counter(language for language, _ in votes)
+    return (languages.most_common(1)[0][0] if languages else "unknown", votes)
+def audit_target(out):
+    info = request_json(f"https://huggingface.co/api/datasets/{TARGET}")
+    revision = info["sha"]
+    tree = request_json(f"https://huggingface.co/api/datasets/{TARGET}/tree/{revision}?recursive=true&expand=false")
+    discussions = request_json(f"https://huggingface.co/api/datasets/{TARGET}/discussions?status=open&p=0")
+    paths = sorted(item.get("path", "") for item in tree)
+    open_rows = [{"num": item.get("num"), "title": item.get("title"), "status": item.get("status"),
+                  "author": item.get("author", {}).get("name")} for item in discussions.get("discussions", [])]
+    terms = ("fandom", "elderscrolls", "wiedzmin", "gothic", "harrypotter", "gta", "sims", "starwars", "naruto", "pokemon", "dragonage", "fallout", "creepypasta")
+    matches = [path for path in paths if any(term in path.casefold() for term in terms)]
+    discussion_matches = [row for row in open_rows if any(term in (row.get("title") or "").casefold()
+                                                          for term in terms)]
+    report = {
+        "target": TARGET, "revision": revision, "last_modified": info.get("lastModified"),
+        "tree_paths": len(paths), "source_path_matches": matches, "open_discussions": open_rows,
+        "matching_open_discussions": discussion_matches, "source_absent": not matches and not discussion_matches,
+        "observed_at": now(),
+    }
+    save(out / "target_audit.json", report)
+    print(json.dumps({"revision": revision, "source_absent": report["source_absent"],
+                      "tree_matches": matches, "discussion_matches": discussion_matches}, ensure_ascii=False, indent=2))
+def audit_overlap(out):
+    import pyarrow.parquet as pq
+    from huggingface_hub import HfApi, HfFileSystem
+    acquisition = load(out / "acquisition.json")
+    revision = HfApi().dataset_info(TARGET).sha
+    remote = f"datasets/{TARGET}@{revision}/data/wikipedia/wikipedia.parquet"
+    with HfFileSystem().open(remote, "rb") as handle:
+        table = pq.read_table(handle, columns=["id"])
+    target_ids = set(table.column("id").to_pylist())
+    candidate_ids = {f"{SOURCE}_{row['pageid']}" for row in read_lines(out / "source_manifest.jsonl")}
+    collisions = sorted(candidate_ids & target_ids)
+    report = {
+        "target": f"{TARGET}:data/wikipedia", "target_revision": revision,
+        "method": "Literal dataset-record ID comparison only. Source-specific ID prefixes make zero collisions "
+                  "uninformative about page identity or text overlap. No target namespace or text audit was performed.",
+        "target_rows": table.num_rows, "candidate_records": len(candidate_ids),
+        "id_collisions": collisions[:50], "collision_count": len(collisions),
+        "text_overlap": "not tested; quoted-article passages and target-wide text dedup remain integration gates",
+        "observed_at": now(),
+    }
+    save(out / "overlap_audit.json", report)
+    print(json.dumps({key: report[key] for key in ("target_revision", "target_rows", "candidate_records",
+                                                    "collision_count")}, ensure_ascii=False, indent=2))
+def build(out):
+    import pyarrow as pa
+    import pyarrow.parquet as pq
+    import tiktoken
+    from langid.langid import LanguageIdentifier, model
+    build_started_at = now()
+    acquisition = load(out / "acquisition.json")
+    selection = load(out / "selection.json")
+    encoder = tiktoken.get_encoding("cl100k_base")
+    identifier = LanguageIdentifier.from_modelstring(model, norm_probs=True)
+    identifier.set_languages(["pl", "en", "de", "uk", "ru"])
+    candidates = []
+    for shard in sorted((out / "extracted").glob("*.jsonl.gz")):
+        with gzip.open(shard, "rt", encoding="utf-8") as f:
+            for line in f:
+                row = json.loads(line)
+                row["text"] = normalize(row["text"])
+                candidates.append(row)
+    boilerplate = strip_boilerplate([row["text"].splitlines() for row in candidates])
+    print(f"boilerplate lines: {len(boilerplate)}", flush=True)
+    hot, max_df, df_sampled = boilerplate_shingles(candidates, boilerplate)
+    print(f"boilerplate shingles: {len(hot)} (df>{max_df} over {df_sampled} sampled docs)", flush=True)
+    rows, attribution, decisions, exact_seen = [], [], [], {}
+    near_index = NearDuplicateIndex()
+    pii = Counter()
+    added = acquisition["observed_at"][:10]
+    started = last_progress = time.monotonic()
+    for processed, record in enumerate(candidates, 1):
+        current = time.monotonic()
+        if current - last_progress >= 10 or processed == len(candidates):
+            print(f"  processed={processed - 1}/{len(candidates)} kept={len(rows)} "
+                  f"rate={(processed - 1) / max(current - started, 0.001):.1f}/s "
+                  f"near_comparisons={near_index.comparisons}", flush=True)
+            last_progress = current
+        text = "\n".join(line for line in record["text"].splitlines()
+                         if re.sub(r"\s+", " ", line).strip() not in boilerplate)
+        text = re.sub(r"\n{3,}", "\n\n", text).strip()
+        replacement_count = text.count("\ufffd")
+        letters = len(re.findall(r"[A-Za-zĄĆĘŁŃÓŚŹŻąćęłńóśźż]", text))
+        language, votes = "not_checked", []
+        reason = ""
+        if len(text) < MIN_TEXT_CHARS:
+            reason = "too_little_text"
+        elif letters / max(len(text), 1) < 0.5:
+            reason = "low_letter_ratio"
+        elif replacement_count > 100 or replacement_count / max(len(text), 1) > 0.002:
+            reason = "excessive_replacement_characters"
+        if not reason:
+            language, votes = language_vote(identifier, text)
+            if language != "pl":
+                reason = "non_polish_text"
+        text = text.replace("\ufffd", "[UNREADABLE_GLYPH]")
+        text, pii_counts = redact_pii(text)
+        pii.update(pii_counts)
+        if not reason and len(text) < MIN_TEXT_CHARS:
+            reason = "too_little_text_after_redaction"
+        exact_key = digest(" ".join(text.casefold().split()).encode("utf-8"))
+        duplicate_of, duplicate_score = None, 0.0
+        if not reason and exact_key in exact_seen:
+            reason, duplicate_of, duplicate_score = "normalized_duplicate", exact_seen[exact_key], 1.0
+        if not reason:
+            sketch = filter_sketch(shingle_sketch(text), hot)
+            duplicate_of, duplicate_score = near_index.find(sketch)
+            if duplicate_of is not None:
+                reason = "near_duplicate"
+        row_id = f"{SOURCE}_{record.get('wiki', 'fandom')}_{record['pageid']}"
+        decision = {
+            "id": row_id, "selected": not bool(reason), "reason": reason or "include",
+            "characters": len(text), "letter_ratio": letters / max(len(text), 1),
+            "replacement_characters": replacement_count, "language": language,
+            "language_votes": [{"language": lang, "confidence": float(score)} for lang, score in votes],
+        }
+        if duplicate_of:
+            decision.update({"duplicate_of": duplicate_of, "jaccard": duplicate_score})
+        decisions.append(decision)
+        if reason:
+            continue
+        exact_seen[exact_key] = row_id
+        near_index.add(row_id, sketch)
+        row = {
+            "id": row_id, "text": text, "source": SOURCE, "added": added,
+            "created": (record["timestamp"] or "")[:10] or "unknown",
+            "token_count": len(encoder.encode_ordinary(text)),
+            "license": LICENSE_SPDX, "author": f"{record.get('wiki', 'fandom')} contributors",
+        }
+        rows.append(row)
+        attribution.append({
+            "id": row_id, "pageid": record["pageid"], "wiki": record.get("wiki", "fandom"),
+            "ns": record["ns"], "title": record["title"],
+            "url": page_url(record["title"], record.get("wiki", "")),
+            "last_revision_at": record["timestamp"], "wikitext_chars": record["wikitext_chars"],
+            "license": LICENSE_SPDX,
+            "license_evidence": LICENSE_TERMS_URL + " (Fandom site license, per Wayback snapshot; attribution by page URL)",
+            "dump": {"wikis": selection["wikis"], "license_provenance": selection["license_provenance"]},
+            "text_sha256": digest(text.encode("utf-8")),
+            "transformations": ["MediaWiki API fetch (allpages + revisions), latest revision per page", "mwparserfromhell wikitext strip",
+                                "cross-document boilerplate-line removal",
+                                "Unicode/whitespace normalization", "page-number-only removal",
+                                "line-wrap repair", "email/labelled-phone/IP/labelled-national-ID/account-candidate pattern redaction"],
+        })
+    root = out / "hf_repo"
+    (root / "data").mkdir(parents=True, exist_ok=True)
+    (root / "artifacts").mkdir(parents=True, exist_ok=True)
+    schema = pa.schema([(field, pa.int64() if field == "token_count" else pa.string()) for field in FIELDS])
+    pq.write_table(pa.Table.from_pylist(rows, schema=schema), root / "data/train-00000-of-00001.parquet", compression="zstd")
+    write_lines(root / "artifacts/attribution.jsonl", attribution)
+    write_lines(root / "artifacts/decisions.jsonl", decisions)
+    write_lines(root / "artifacts/source_manifest.jsonl", read_lines(out / "source_manifest.jsonl"))
+    sample = sorted(rows, key=lambda row: digest(("sample:" + row["id"]).encode("utf-8")))[:12]
+    write_lines(root / "artifacts/sample.jsonl", sample)
+    save(root / "artifacts/selection.json", selection)
+    save(root / "artifacts/acquisition.json", acquisition)
+    save(root / "artifacts/boilerplate_lines.json", sorted(boilerplate))
+    overlap = load(out / "overlap_audit.json") if (out / "overlap_audit.json").exists() else None
+    target_audit = load(out / "target_audit.json") if (out / "target_audit.json").exists() else None
+    if overlap:
+        save(root / "artifacts/overlap_audit.json", overlap)
+    if target_audit:
+        save(root / "artifacts/target_audit.json", target_audit)
+    stats = {
+        "wikis": selection["wikis"],
+        "source_pages": acquisition["source_pages"],
+        "kept": len(rows), "rejected": len(decisions) - len(rows),
+        "tokens": sum(row["token_count"] for row in rows),
+        "characters": sum(len(row["text"]) for row in rows),
+        "license_counts": dict(Counter(row["license"] for row in rows)),
+        "boilerplate_lines_removed": len(boilerplate),
+        "boilerplate_shingles_excluded": len(hot),
+        "sample_count": len(sample), "added": added,
+    }
+    qa = {
+        "scope": "Polish Fandom wikis (12 wikis, ns0 articles only), latest revision per page fetched via MediaWiki API",
+        "license_terms_url": LICENSE_TERMS_URL,
+        "license_gate": "CC BY-SA 3.0 declared on Fandom licensing page (Wayback snapshot 2024-12-31); page-URL attribution; third-party notices still require review",
+        "rejection_counts": dict(Counter(item["reason"] for item in decisions if not item["selected"])),
+        "minimum_final_text_characters": MIN_TEXT_CHARS,
+        "created_field_semantics": "Last revision date from the dump, not the page creation date",
+        "language_gate": "independent three-window langid vote",
+        "pii_pattern_matches": dict(pii), "exact_dedup": True,
+        "pii_policy": "IPv6 parsed including compressed notation; labelled PESEL/NIP/REGON and 26-digit account candidates masked conservatively without checksum validation; counts cover all candidates before rejection",
+        "pii_limitations": "Unlabelled national identifiers, free-form phone numbers, names and personal disclosures may remain; this is not complete anonymization",
+        "near_dedup": "deterministic capped 5-word-shingle hash Jaccard >= 0.90 within source; shingles with document frequency >2% (sampled 1-in-4) excluded from sketches",
+        "boilerplate": f"lines occurring in >= {BOILERPLATE_MIN_DOC_FREQ:.0%} of documents removed ({len(boilerplate)} patterns); {len(hot)} high-df shingles excluded from near-dedup sketches (df>{max_df} over {df_sampled} sampled docs)",
+        "wikipedia_shard_overlap": overlap or "pending", "cross_source_text_dedup": "pending target integration",
+        "benchmark_overlap": "pending", "limitations": [
+            "fan-fiction and gaming wiki register: lore, walkthroughs, guides, infobox-heavy content; not factual reference text",
+            "pages may quote/copy official game materials or other copyrighted works; quoted passages are not guaranteed disjoint from other shards",
+            "record model is a whole content page; individual sections are not split",
+            "pattern checks are not comprehensive de-identification",
+        ],
+    }
+    save(root / "artifacts/stats.json", stats)
+    save(root / "artifacts/qa.json", qa)
+    protocol_id = "protocol:fandom-content-v1"
+    run = {
+        "id": "run:" + digest({"script": digest(Path(__file__).read_bytes()), "selection": selection,
+                                  "acquisition": digest(acquisition)}),
+        "protocol": protocol_id, "started_at": build_started_at, "finished_at": now(),
+        "success": True, "actor": "actor:devin", "stats": stats,
+    }
+    save(root / "artifacts/run.json", run)
+    excluded = {"README.md", "NOTICE.md", "artifacts/checksums.json", "artifacts/ontology.json"}
+    checks = {path.relative_to(root).as_posix(): digest(path.read_bytes()) for path in sorted(root.rglob("*"))
+              if path.is_file()
+              and path.relative_to(root).as_posix() not in excluded
+              and not path.relative_to(root).as_posix().startswith("src/")}
+    save(root / "artifacts/checksums.json", checks)
+    source_version = "version:source:" + digest({
+        "wikis": selection["wikis"],
+        "license_provenance": selection["license_provenance"],
+        "files_sha256": selection.get("files_sha256", digest(selection["wikis"])),
+    })
+    dataset_version = "version:dataset:" + digest(checks)
+    selection_evidence = "evidence:selection:" + digest(selection)
+    acquisition_evidence = "evidence:acquisition:" + digest(acquisition)
+    qa_evidence = "evidence:qa:" + digest(qa)
+    evidence = [
+        {"id": selection_evidence, "observation_type": "dump_inventory_and_pinning",
+         "artifact": "artifacts/selection.json", "content_address": digest(selection), "produced_by": run["id"]},
+        {"id": acquisition_evidence, "observation_type": "dump_download_sha1_and_extraction",
+         "artifact": "artifacts/acquisition.json", "content_address": digest(acquisition), "produced_by": run["id"]},
+        {"id": qa_evidence, "observation_type": "source_qa", "artifact": "artifacts/qa.json",
+         "content_address": digest(qa), "produced_by": run["id"]},
+    ]
+    overlap_evidence = None
+    if overlap:
+        overlap_evidence = "evidence:overlap:" + digest(overlap)
+        evidence.append({"id": overlap_evidence, "observation_type": "namespace_overlap_audit",
+                         "artifact": "artifacts/overlap_audit.json", "content_address": digest(overlap),
+                         "produced_by": run["id"]})
+    target_evidence = None
+    if target_audit:
+        target_evidence = "evidence:target:" + digest(target_audit)
+        evidence.append({"id": target_evidence, "observation_type": "target_registry_audit",
+                         "artifact": "artifacts/target_audit.json", "content_address": digest(target_audit),
+                         "produced_by": run["id"]})
+    ontology = {
+        "schema": "slayer-research-ontology-profile-v1",
+        "objects": [{"id": "object:source:fandom-api", "type": "Source"},
+                    {"id": "object:dataset:fandom-content", "type": "Dataset"}],
+        "versions": [{"id": source_version, "object": "object:source:fandom-api",
+                      "content_address": source_version.rsplit(":", 1)[-1]},
+                     {"id": dataset_version, "object": "object:dataset:fandom-content",
+                      "content_address": dataset_version.rsplit(":", 1)[-1]}],
+        "protocols": [{"id": protocol_id, "procedure": "pinned MediaWiki API fetch (allpages + revisions) for 12 Polish Fandom wikis; latest revision per page; ns0 only; wikitext strip; boilerplate removal; normalization; PII patterns; exact and near dedup with high-document-frequency shingle exclusion"}],
+        "runs": [run], "evidence": evidence,
+        "claims": [
+            {"id": "claim:source-pages-observed",
+             "statement": f"The MediaWiki API fetch yielded {acquisition['source_pages']} non-redirect ns0 pages across 12 Fandom wikis.",
+             "supported_by": [selection_evidence, acquisition_evidence],
+             "falsification_condition": "The pinned dump shards do not reproduce the count."},
+            {"id": "claim:slice-retention",
+             "statement": f"The slice retained {stats['kept']} records after text QA and within-source deduplication.",
+             "supported_by": [acquisition_evidence, qa_evidence],
+             "falsification_condition": "The decisions, Parquet rows, or checksums do not reproduce the retention count."},
+            {"id": "claim:source-absence-at-audit",
+             "statement": "Fandom wikis content was not registered as a source in the pinned DynaWord data tree or open pull-request list at audit time.",
+             "supported_by": [target_evidence] if target_evidence else [qa_evidence],
+             "falsification_condition": "The pinned target evidence contains a matching source or proposal."},
+            {"id": "claim:training-value-untested",
+             "statement": "Net corpus novelty and training benefit remain untested hypotheses.",
+             "supported_by": [qa_evidence] + ([overlap_evidence] if overlap_evidence else []),
+             "falsification_condition": "Target-wide text deduplication and controlled ablations establish those properties."},
+        ],
+        "actors": [{"id": "actor:piotrsty", "type": "Contributor"},
+                   {"id": "actor:fandom-community", "type": "Organization"},
+                   {"id": "actor:MediaWiki API", "type": "Organization"}, {"id": "actor:devin", "type": "Agent"}],
+        "relations": [{"source": dataset_version, "predicate": "DERIVED_FROM", "target": source_version},
+                      {"source": dataset_version, "predicate": "GENERATED_BY", "target": run["id"]}] +
+                     ([{"source": dataset_version, "predicate": "VALIDATED_AGAINST",
+                        "target": f"hf:dataset:{TARGET}@{target_audit['revision']}"}] if target_audit else []),
+        "pending": ["cross-source text deduplication", "benchmark contamination check",
+                    "parody-of-real-content screening", "controlled training ablation"],
+    }
+    save(root / "artifacts/ontology.json", ontology)
+    card = f"""---
+license: cc-by-sa-3.0
+language:
+- pl
+task_categories:
+- text-generation
+configs:
+- config_name: default
+  data_files:
+  - split: train
+    path: data/train-00000-of-00001.parquet
+---
+# Polish Fandom wikis (fan-content, ns0 articles)
+Content pages from 12 Polish-language Fandom wikis, fetched via MediaWiki API
+and filtered to namespace 0 (articles). Fandom wikis are community-run fan sites
+for video games, TV series, books and franchises - containing lore, walkthroughs,
+guides, infobox-heavy pages and fan-created content. This is informal, hobbyist
+Polish covering fandom topics (gaming, fantasy, sci-fi, horror) - a register
+complementary to factual sources.
+- Wikis: {len(selection['wikis'])} (elderscrolls, wiedzmin, gothic, harrypotter, gta, sims, starwars, naruto, pokemon, dragonage, fallout, creepypasta)
+- Total ns0 articles enumerated: {stats['source_pages']:,}
+- Retained after text QA and within-source deduplication: {stats['kept']:,}
+- Characters: {stats['characters']:,}
+- Tokens: {stats['tokens']:,} (`cl100k_base` proxy)
+- License: CC BY-SA 3.0 per record (Fandom site license, per Wayback snapshot 2024-12-31); authorship via per-page history link
+## Provenance and rights
+Fandom text is licensed [CC BY-SA 3.0]({LICENSE_TERMS_URL}); the official
+licensing page states this as the default license for Fandom communities.
+Each record keeps its page id, title, namespace, last-revision timestamp and
+canonical URL - the page revision history is the attribution trail. Additional
+third-party attribution notices must be preserved and remain a review item.
+The `created` field is the last revision date, not page creation.
+## Processing and limitations
+Wikitext is stripped with mwparserfromhell; lines occurring in at least
+{BOILERPLATE_MIN_DOC_FREQ:.0%} of documents are removed as
+cross-document boilerplate (see `artifacts/boilerplate_lines.json`). Unicode and
+whitespace normalization, email/labelled-phone/IP/labelled-national-ID/account-candidate pattern redaction, three-window langid
+vote, exact and near deduplication within source. The final text must contain at
+least {MIN_TEXT_CHARS} characters after redaction. Rejection counts:
+```json
+{json.dumps(qa['rejection_counts'], ensure_ascii=False, indent=2)}
+```
+PII filtering masks parsed IPv6 addresses (including compressed forms), labelled
+PESEL/NIP/REGON and 26-digit account candidates as well as the existing patterns.
+The account filter is conservative and may mask non-account numbers; unlabelled
+identifiers, free-form phone numbers, names and personal disclosures may remain.
+This is not complete anonymization.
+The register is fan-created content: lore, walkthroughs, guides, infobox-heavy pages
+and hobbyist writing. Pages may quote or copy official game materials or other
+copyrighted works; quoted passages are not guaranteed disjoint from other corpus
+shards. The record model is a whole page; individual sections are not split.
+## Review artifacts
+See `artifacts/sample.jsonl`, `attribution.jsonl`, `decisions.jsonl`,
+`source_manifest.jsonl`, `overlap_audit.json`, `stats.json`, `qa.json`,
+`checksums.json`, `run.json` and `ontology.json`.
+"""
+    (root / "README.md").write_text(card, encoding="utf-8")
+    (root / "NOTICE.md").write_text(
+        "# Attribution and license notice\n\n"
+        "Source: Polish Fandom wikis (12 wikis: elderscrolls, wiedzmin, gothic, harrypotter, gta, sims, starwars, naruto, pokemon, dragonage, fallout, creepypasta), https://www.fandom.com/ - community-run fan sites.\n\n"
+        "Text is available under the Creative Commons Attribution-ShareAlike 3.0 License "
+        "(https://creativecommons.org/licenses/by-sa/3.0/). Attribution is provided via the per-record "
+        "canonical page URL in `artifacts/attribution.jsonl`; each page's revision history lists its "
+        "contributors. License verified via Wayback Machine snapshot of https://www.fandom.com/licensing (2024-12-31).\n\n"
+        "Preparation: Piotr Styla with Devin. Changes: ns0-only filtering, MediaWiki API fetch (allpages + revisions), latest-revision "
+        "selection, wikitext stripping, cross-document boilerplate removal, Unicode and whitespace "
+        "normalization, limited email/labelled-phone/IP/labelled-national-ID/account-candidate "
+        "redaction, language/quality filtering and within-source deduplication. No endorsement by "
+        "Fandom or wiki contributors is implied.\n",
+        encoding="utf-8",
+    )
+    print(json.dumps(stats, ensure_ascii=False, indent=2))
+def verify(out):
+    import pyarrow.parquet as pq
+    root = out / "hf_repo"
+    table = pq.read_table(root / "data/train-00000-of-00001.parquet")
+    rows = table.to_pylist()
+    stats = load(root / "artifacts/stats.json")
+    decisions = read_lines(root / "artifacts/decisions.jsonl")
+    attribution = read_lines(root / "artifacts/attribution.jsonl")
+    sample = read_lines(root / "artifacts/sample.jsonl")
+    assert table.column_names == FIELDS
+    assert len(rows) == stats["kept"] == len(attribution)
+    assert sum(item["selected"] for item in decisions) == len(rows)
+    assert sum(row["token_count"] for row in rows) == stats["tokens"]
+    assert all(row["source"] == SOURCE and row["license"] == LICENSE_SPDX for row in rows)
+    assert all(EMAIL_RE.search(row["text"]) is None for row in rows)
+    by_id = {row["id"]: row for row in rows}
+    assert len(sample) == stats["sample_count"] and all(by_id[row["id"]] == row for row in sample)
+    ontology = load(root / "artifacts/ontology.json")
+    evidence = {item["id"] for item in ontology["evidence"]}
+    assert all(item["falsification_condition"] and set(item["supported_by"]) <= evidence for item in ontology["claims"])
+    checks = load(root / "artifacts/checksums.json")
+    assert all((root / path).is_file() and digest((root / path).read_bytes()) == checksum for path, checksum in checks.items())
+    for item in ontology["evidence"]:
+        artifact = root / item["artifact"]
+        assert artifact.is_file() and digest(load(artifact)) == item["content_address"]
+    import tiktoken
+    encoder = tiktoken.get_encoding("cl100k_base")
+    assert len(by_id) == len(rows)
+    assert set(by_id) == {item["id"] for item in attribution}
+    assert set(by_id) == {item["id"] for item in decisions if item["selected"]}
+    assert len(decisions) == stats["source_pages"]
+    assert len(decisions) - len(rows) == stats["rejected"]
+    assert sum(len(row["text"]) for row in rows) == stats["characters"]
+    short_ids = [row["id"] for row in rows if len(row["text"]) < MIN_TEXT_CHARS]
+    assert all(row["token_count"] > 0 for row in rows)
+    assert all(len(row["created"]) == 10 and row["author"] for row in rows)
+    assert all(item["ns"] == "0" and item["url"] == page_url(item["title"], item.get("wiki", ""))
+               and item["text_sha256"] == digest(by_id[item["id"]]["text"].encode("utf-8"))
+               for item in attribution)
+    assert all(len(encoder.encode_ordinary(row["text"])) == row["token_count"] for row in rows)
+    boilerplate = set(load(root / "artifacts/boilerplate_lines.json"))
+    review_ids = {row["id"] for row in sorted(sample, key=lambda item: len(item["text"]))[:3]}
+    comparisons = []
+    reconstructed = set()
+    for shard in sorted((out / "extracted").glob("*.jsonl.gz")):
+        with gzip.open(shard, "rt", encoding="utf-8") as handle:
+            for line in handle:
+                original = json.loads(line)
+                row_id = f"{SOURCE}_{original.get('wiki', 'fandom')}_{original['pageid']}"
+                if row_id not in by_id:
+                    continue
+                text = normalize(original["text"])
+                text = "\n".join(line for line in text.splitlines()
+                                 if re.sub(r"\s+", " ", line).strip() not in boilerplate)
+                text = re.sub(r"\n{3,}", "\n\n", text).strip().replace("\ufffd", "[UNREADABLE_GLYPH]")
+                text, _ = redact_pii(text)
+                before = redact_pii(original["text"])[0] if row_id in review_ids else ""
+                assert text == by_id[row_id]["text"], row_id
+                assert row_id not in reconstructed
+                reconstructed.add(row_id)
+                if row_id in review_ids:
+                    comparisons.append({"id": row_id, "title": original["title"],
+                                        "before_normalization_pii_patterns_redacted": before,
+                                        "after": text})
+    assert reconstructed == set(by_id)
+    write_lines(out / "validation_samples.jsonl", comparisons)
+    lengths = sorted(len(row["text"]) for row in rows)
+    rejection_counts = dict(Counter(item["reason"] for item in decisions if not item["selected"]))
+    residuals = {name: sum(bool(pattern.search(row["text"])) for row in rows)
+                 for name, pattern in {"email": EMAIL_RE, "labelled_phone": PHONE_RE,
+                                       "ipv4": IPV4_RE, "ipv6_current_pattern": IPV6_RE}.items()}
+    privacy_review = {
+        "compressed_ipv6_documents": sum(any(is_ipv6(match.group()) for match in IPV6_CANDIDATE_RE.finditer(row["text"])) for row in rows),
+        "labelled_national_identifier_candidates": sum(bool(NATIONAL_ID_RE.search(row["text"])) for row in rows),
+        "bank_account_candidates": sum(bool(BANK_ACCOUNT_RE.search(row["text"])) for row in rows),
+    }
+    report = {
+        "observed_at": now(), "verified": not short_ids and not any(residuals.values()) and not any(privacy_review.values()), "stats": stats,
+        "additional_privacy_review_document_counts": privacy_review,
+        "below_minimum_length_ids": short_ids,
+        "rejection_counts": rejection_counts,
+        "retained_namespaces": dict(Counter(item["ns"] for item in attribution)),
+        "length_quantiles": {str(q): lengths[int((len(lengths) - 1) * q)] for q in (0, 0.5, 0.9, 0.99, 1)},
+        "residual_pattern_document_counts": residuals,
+        "all_token_counts_recomputed": True,
+        "texts_reconstructed_from_extracted_source": len(reconstructed),
+        "before_after_samples": len(comparisons),
+        "publication_ready": False,
+        "pending": ["license evidence and attribution review", "PII coverage review",
+                    "target overlap audit methodology review", "manual text quality review"],
+    }
+    save(out / "validation_report.json", report)
+    print(json.dumps(report, ensure_ascii=False, indent=2))
+    assert report["verified"], "Validation failures: see validation_report.json"
+def main():
+    parser = argparse.ArgumentParser()
+    parser.add_argument("--output", type=Path, required=True)
+    parser.add_argument("--workers", type=int, default=8)
+    parser.add_argument("command", choices=["discover", "acquire", "audit_target", "audit_overlap",
+                                            "build", "verify"])
+    args = parser.parse_args()
+    if args.command == "discover":
+        discover(args.output)
+    elif args.command == "acquire":
+        acquire(args.output, args.workers)
+    elif args.command == "audit_target":
+        audit_target(args.output)
+    elif args.command == "audit_overlap":
+        audit_overlap(args.output)
+    elif args.command == "build":
+        build(args.output)
+    else:
+        verify(args.output)
+if __name__ == "__main__":
+    main()

src/fandom_requirements.txt ADDED Viewed

	@@ -0,0 +1,7 @@

+requests==2.32.5
+pyarrow==23.0.1
+tiktoken==0.12.0
+langid==1.1.6
+mwparserfromhell==0.7.2
+huggingface_hub>=1.0,<2
+pytest>=8,<10

src/test_build_fandom_pl.py ADDED Viewed

	@@ -0,0 +1,191 @@

+import importlib.util
+from pathlib import Path
+SCRIPT = Path(__file__).with_name("build_fandom_pl.py")
+SPEC = importlib.util.spec_from_file_location("build_fandom_pl", SCRIPT)
+MODULE = importlib.util.module_from_spec(SPEC)
+SPEC.loader.exec_module(MODULE)
+def test_ns0_only():
+    assert all(w[0] for w in MODULE.WIKIS)
+    assert len(MODULE.WIKIS) == 12
+def test_normalize_repairs_hyphenation_and_page_numbers():
+    assert MODULE.normalize("Pierw-\nszy akapit.\n12\n\ndrugi wiersz") == "Pierwszy akapit.\n\ndrugi wiersz"
+def test_title_normalization_is_case_and_diacritic_insensitive():
+    assert MODULE.normalize_title("Dyskusja:Łódź (woj.)") == "dyskusja łodz woj"
+def test_boilerplate_lines_removed_only_when_frequent():
+    docs = [["Baner wikiprojektu", f"Prawdziwa dyskusja {i}."] for i in range(150)]
+    lines = MODULE.strip_boilerplate(docs)
+    assert "Baner wikiprojektu" in lines
+    assert "Prawdziwa dyskusja 0." not in lines
+def test_boilerplate_long_lines_never_dropped():
+    docs = [["x" * 200] * 1 for _ in range(150)]
+    assert MODULE.strip_boilerplate(docs) == set()
+def test_ip_redaction_patterns():
+    text = "Podpisano przez 83.4.55.1 dnia 2 maja"
+    assert MODULE.IPV4_RE.search(text)
+    assert not MODULE.IPV4_RE.search("wersja 1.2 wydana")
+def test_redaction_covers_compressed_ipv6_and_labelled_identifiers():
+    text = "Adres [2001:db8::1], ::ffff:192.0.2.1. PESEL: 00000000000 NIP 000-000-00-00 REGON: 000000000 Rachunek PL00 " + "0000 " * 6
+    cleaned, counts = MODULE.redact_pii(text)
+    assert "2001:db8" not in cleaned and "192.0.2.1" not in cleaned
+    assert cleaned.count("[REDACTED:IP]") == 2
+    assert cleaned.count("[REDACTED:ID]") == 3
+    assert "[REDACTED:ACCOUNT]" in cleaned
+    assert counts["ipv6"] == 2 and counts["national_identifier"] == 3
+    assert MODULE.redact_pii(cleaned)[0] == cleaned
+def test_redaction_preserves_time_and_version_numbers():
+    text = "Wersja 1.2.3, godzina 12:30:45. Adres 2001:db8::2."
+    cleaned, _ = MODULE.redact_pii(text)
+    assert cleaned == "Wersja 1.2.3, godzina 12:30:45. Adres [REDACTED:IP]."
+def test_attribution_url_quotes_fragments_and_polish_characters():
+    from urllib.parse import unquote, urlsplit
+    url = MODULE.page_url("Dyskusja:Łódź/C#", wiki="elderscrolls")
+    assert url.isascii()
+    assert not urlsplit(url).fragment
+    assert unquote(urlsplit(url).path) == "/pl/wiki/Dyskusja:Łódź/C#"  # Fandom Polish wikis use /pl/wiki/
+def test_text_bound_and_license():
+    assert MODULE.MIN_TEXT_CHARS == 500
+    assert MODULE.LICENSE_SPDX == "CC-BY-SA-3.0"
+    assert len(MODULE.WIKIS) == 12
+def test_boilerplate_shingles_detected_on_subsample_and_filtered():
+    template = ["to jest szablon powitania bota " * 30]
+    docs = [{"text": "\n".join(template + [f"unikalny tekst {i} " * 30])} for i in range(200)]
+    hot, max_df, sampled = MODULE.boilerplate_shingles(docs, set(), stride=1, fraction=0.5)
+    assert sampled == 200 and max_df == 100
+    template_sketch = MODULE.shingle_sketch(" ".join(template))
+    assert template_sketch & hot == template_sketch  # whole template is boilerplate
+    unique = MODULE.shingle_sketch(f"unikalny tekst 7 " * 30)
+    assert unique - hot
+    assert MODULE.filter_sketch(template_sketch | unique, hot) == unique - hot
+def test_indexed_dedup_matches_exhaustive_comparison():
+    import random
+    rng = random.Random(42)
+    sketches = [set(), {1}, {1}, set(range(10)), set(range(9)), set(range(8))]
+    for _ in range(200):
+        base = set(rng.sample(range(10000), rng.randint(10, 200)))
+        sketches.extend([base, base | {10001}, set(sorted(base)[1:]), base | set(range(20))])
+    index = MODULE.NearDuplicateIndex()
+    retained = []
+    for sketch in sketches:
+        expected = (None, 0.0)
+        for row_id, other in retained:
+            score = len(sketch & other) / max(len(sketch | other), 1)
+            if score >= 0.90:
+                expected = (row_id, score)
+                break
+        assert index.find(sketch) == expected
+        if expected[0] is None:
+            row_id = str(len(retained))
+            retained.append((row_id, sketch))
+            index.add(row_id, sketch)
+def test_index_avoids_comparing_disjoint_sketches():
+    index = MODULE.NearDuplicateIndex()
+    for i in range(1000):
+        sketch = set(range(i * 100, (i + 1) * 100))
+        assert index.find(sketch) == (None, 0.0)
+        index.add(str(i), sketch)
+    assert index.comparisons == 0
+    assert index.find(set(range(90000, 90100))) == ("900", 1.0)
+    assert index.comparisons == 1
+def test_language_vote_reuses_identical_windows_without_changing_votes():
+    class Identifier:
+        def __init__(self):
+            self.calls = 0
+        def classify(self, text):
+            self.calls += 1
+            return "pl", 0.99
+    identifier = Identifier()
+    language, votes = MODULE.language_vote(identifier, "Przykładowy polski tekst.")
+    assert language == "pl" and votes == [("pl", 0.99)] * 3
+    assert identifier.calls == 1
+def write_test_source(tmp_path, texts):
+    import gzip
+    import json
+    (tmp_path / "extracted").mkdir(parents=True, exist_ok=True)
+    MODULE.save(tmp_path / "selection.json", {"wikis": [], "total_articles": 0, "observed_at": "2026-09-11T00:00:00Z", "files": [], "license_provenance": MODULE.FANDOM_LICENSE_URL})
+    MODULE.save(tmp_path / "acquisition.json", {"source_pages": len(texts), "observed_at": "2026-09-11T00:00:00Z"})
+    records = [{"pageid": str(index), "ns": "0", "title": f"NonArtykul:Test {index}", "timestamp": "2026-09-01",
+                "wikitext_chars": len(text), "text": text, "wiki": "elderscrolls"} for index, text in enumerate(texts, 1)]
+    with gzip.open(tmp_path / "extracted" / "source.jsonl.gz", "wt", encoding="utf-8") as f:
+        for rec in records:
+            f.write(json.dumps(rec, ensure_ascii=False) + "\n")
+    MODULE.write_lines(tmp_path / "source_manifest.jsonl", records)
+def test_build_rechecks_length_after_redaction(tmp_path, monkeypatch):
+    text = ("To jest przykładowa wypowiedź po polsku. " * 20)[:470] + " " + "kontakt" * 8 + "@example.org"
+    write_test_source(tmp_path, [text])
+    monkeypatch.setattr(MODULE, "language_vote", lambda identifier, text: ("pl", [("pl", 1.0)]))
+    MODULE.build(tmp_path)
+    decision = MODULE.read_lines(tmp_path / "hf_repo/artifacts/decisions.jsonl")[0]
+    assert not decision["selected"]
+    assert decision["reason"] == "too_little_text_after_redaction"
+def test_build_verify_roundtrip_and_tamper_detection(tmp_path, monkeypatch):
+    import pytest
+    import pyarrow as pa
+    import pyarrow.parquet as pq
+    text = "To jest przykładowa wypowiedź po polsku dotycząca edycji encyklopedii. " * 15
+    write_test_source(tmp_path, [text, text, "Krótki tekst."])
+    monkeypatch.setattr(MODULE, "language_vote", lambda identifier, text: ("pl", [("pl", 1.0)]))
+    MODULE.build(tmp_path)
+    MODULE.verify(tmp_path)
+    report = MODULE.load(tmp_path / "validation_report.json")
+    assert report["verified"]
+    assert report["texts_reconstructed_from_extracted_source"] == 1
+    assert report["rejection_counts"] == {"normalized_duplicate": 1, "too_little_text": 1}
+    assert report["before_after_samples"] == 1
+    assert not report["publication_ready"]
+    path = tmp_path / "hf_repo/data/train-00000-of-00001.parquet"
+    table = pq.read_table(path)
+    rows = table.to_pylist()
+    rows[0]["token_count"] += 1
+    pq.write_table(pa.Table.from_pylist(rows, schema=table.schema), path)
+    with pytest.raises(AssertionError):
+        MODULE.verify(tmp_path)
+def test_api_fetch_stub():
+    import json
+    MODULE.save(Path("C:\\Users\\Hipek\\CascadeProjects\\Datasets\\tmp_fandom_sel.json"), {"wikis": [{"name": "test", "api_url": "http://test"}], "total_articles": 0, "observed_at": "2026-09-11T00:00:00Z"})
+    sel = MODULE.load(Path("C:\\Users\\Hipek\\CascadeProjects\\Datasets\\tmp_fandom_sel.json"))
+    assert "wikis" in sel
+    Path("C:\\Users\\Hipek\\CascadeProjects\\Datasets\\tmp_fandom_sel.json").unlink()