Withdraw fandom_pl: Fandom ToU bars scraping and AI training (#57)

- Withdraw fandom_pl: Fandom ToU bars scraping and AI training (9893ad9c795bdfd241c3a0061095bcdf01025fa9)
- Merge main into fandom_pl withdrawal (PR #57) (82dbf0530d2f3cbd2130d314b77ec34dfb0d627e)

CHANGELOG.md

@@ -32,6 +32,14 @@ maintainer decision (see its datasheet).
 
 Removed from main:
 
+- `fandom_pl` (Piotr Styła, Hub PR #48; 50,653 documents / 45,790,009 tokens
+  from 12 wikis, never released and never counted in the totals above) was
+  removed on 2026-10-05. Fandom's Terms of Use (revision 2025-12-19) bar
+  scraping, bypassing robot exclusion and AI training without written consent;
+  the pages were fetched live from the wikis' APIs on 2026-10-02. Samples also
+  showed game text, lyrics and translated third-party stories under the CC BY-SA
+  label. The registry entry, builder, test and ontology manifest were removed
+  with the data.
 - `european_hplt_v3_pl` (1,603,974 documents / 2,555,525,652 tokens in
   v0.2.4 and v0.2.5) was removed by Arkadiusz Słota because its licence is
   unverified; it is re-added only after review. The registry keeps its

artifacts/fandom_pl_ontology_manifest.json

@@ -1,280 +0,0 @@
-{
-  "actors": [
-    {
-      "id": "actor:piotrsty",
-      "type": "Contributor"
-    },
-    {
-      "id": "actor:fandom-community",
-      "type": "Organization"
-    },
-    {
-      "id": "actor:MediaWiki API",
-      "type": "Organization"
-    },
-    {
-      "id": "actor:devin",
-      "type": "Agent"
-    }
-  ],
-  "claims": [
-    {
-      "falsification_condition": "The pinned dump shards do not reproduce the count.",
-      "id": "claim:source-pages-observed",
-      "statement": "The MediaWiki API fetch yielded 140323 non-redirect ns0 pages across 12 Fandom wikis.",
-      "supported_by": [
-        "evidence:selection:a70c55b73a6c0c2b7e6b8ce1780b302362158a0d012d37543b2077cad659fb11",
-        "evidence:acquisition:83b119f8a6d449190ab3759302d881c11bfbce2ab3829bf64d9c8ea6aa2bdea8"
-      ]
-    },
-    {
-      "falsification_condition": "The decisions, Parquet rows, or checksums do not reproduce the retention count.",
-      "id": "claim:slice-retention",
-      "statement": "The slice retained 57954 records after text QA and within-source deduplication.",
-      "supported_by": [
-        "evidence:acquisition:83b119f8a6d449190ab3759302d881c11bfbce2ab3829bf64d9c8ea6aa2bdea8",
-        "evidence:qa:f729808ca7d1e96ad587b8af4fe4ed60965835e81855595ec3363853acb2362e"
-      ]
-    },
-    {
-      "falsification_condition": "The pinned target evidence contains a matching source or proposal.",
-      "id": "claim:source-absence-at-audit",
-      "statement": "Fandom wikis content was not registered as a source in the pinned DynaWord data tree or open pull-request list at audit time.",
-      "supported_by": [
-        "evidence:target:c943bb94d420737a02a7bf9200c8608b4ad0ad7a62a8150baa9f70d51cd0e430"
-      ]
-    },
-    {
-      "falsification_condition": "Target-wide text deduplication and controlled ablations establish those properties.",
-      "id": "claim:training-value-untested",
-      "statement": "Net corpus novelty and training benefit remain untested hypotheses.",
-      "supported_by": [
-        "evidence:qa:f729808ca7d1e96ad587b8af4fe4ed60965835e81855595ec3363853acb2362e",
-        "evidence:overlap:2390fb3c2a6969bcde2b3d1bc1bcfeff107bcde25a0128b72525d8a353a67e24"
-      ]
-    }
-  ],
-  "evidence": [
-    {
-      "artifact": "artifacts/selection.json",
-      "content_address": "a70c55b73a6c0c2b7e6b8ce1780b302362158a0d012d37543b2077cad659fb11",
-      "id": "evidence:selection:a70c55b73a6c0c2b7e6b8ce1780b302362158a0d012d37543b2077cad659fb11",
-      "observation_type": "dump_inventory_and_pinning",
-      "produced_by": "run:d9a6ab6cc4dae3c8a31898d22ca4ba2dbd08105ff80421e0946aab4445670f8f"
-    },
-    {
-      "artifact": "artifacts/acquisition.json",
-      "content_address": "83b119f8a6d449190ab3759302d881c11bfbce2ab3829bf64d9c8ea6aa2bdea8",
-      "id": "evidence:acquisition:83b119f8a6d449190ab3759302d881c11bfbce2ab3829bf64d9c8ea6aa2bdea8",
-      "observation_type": "dump_download_sha1_and_extraction",
-      "produced_by": "run:d9a6ab6cc4dae3c8a31898d22ca4ba2dbd08105ff80421e0946aab4445670f8f"
-    },
-    {
-      "artifact": "artifacts/qa.json",
-      "content_address": "f729808ca7d1e96ad587b8af4fe4ed60965835e81855595ec3363853acb2362e",
-      "id": "evidence:qa:f729808ca7d1e96ad587b8af4fe4ed60965835e81855595ec3363853acb2362e",
-      "observation_type": "source_qa",
-      "produced_by": "run:d9a6ab6cc4dae3c8a31898d22ca4ba2dbd08105ff80421e0946aab4445670f8f"
-    },
-    {
-      "artifact": "artifacts/overlap_audit.json",
-      "content_address": "2390fb3c2a6969bcde2b3d1bc1bcfeff107bcde25a0128b72525d8a353a67e24",
-      "id": "evidence:overlap:2390fb3c2a6969bcde2b3d1bc1bcfeff107bcde25a0128b72525d8a353a67e24",
-      "observation_type": "namespace_overlap_audit",
-      "produced_by": "run:d9a6ab6cc4dae3c8a31898d22ca4ba2dbd08105ff80421e0946aab4445670f8f"
-    },
-    {
-      "artifact": "artifacts/target_audit.json",
-      "content_address": "c943bb94d420737a02a7bf9200c8608b4ad0ad7a62a8150baa9f70d51cd0e430",
-      "id": "evidence:target:c943bb94d420737a02a7bf9200c8608b4ad0ad7a62a8150baa9f70d51cd0e430",
-      "observation_type": "target_registry_audit",
-      "produced_by": "run:d9a6ab6cc4dae3c8a31898d22ca4ba2dbd08105ff80421e0946aab4445670f8f"
-    }
-  ],
-  "objects": [
-    {
-      "id": "object:source:fandom-api",
-      "type": "Source"
-    },
-    {
-      "id": "object:dataset:fandom-content",
-      "type": "Dataset"
-    }
-  ],
-  "pending": [
-    "cross-source text deduplication",
-    "benchmark contamination check",
-    "parody-of-real-content screening",
-    "controlled training ablation"
-  ],
-  "protocols": [
-    {
-      "id": "protocol:fandom-content-v1",
-      "procedure": "pinned MediaWiki API fetch (allpages + revisions) for 12 Polish Fandom wikis; latest revision per page; ns0 only; wikitext strip; boilerplate removal; normalization; PII patterns; exact and near dedup with high-document-frequency shingle exclusion"
-    }
-  ],
-  "relations": [
-    {
-      "predicate": "DERIVED_FROM",
-      "source": "version:dataset:6a5ac1353299794a10396f41c87eab421540eccc79363411903f1c12e05a313e",
-      "target": "version:source:9732401eea30c71e6e17332cdd2022024d49104bc1519c1be4847974c41998b1"
-    },
-    {
-      "predicate": "GENERATED_BY",
-      "source": "version:dataset:6a5ac1353299794a10396f41c87eab421540eccc79363411903f1c12e05a313e",
-      "target": "run:d9a6ab6cc4dae3c8a31898d22ca4ba2dbd08105ff80421e0946aab4445670f8f"
-    },
-    {
-      "predicate": "VALIDATED_AGAINST",
-      "source": "version:dataset:6a5ac1353299794a10396f41c87eab421540eccc79363411903f1c12e05a313e",
-      "target": "hf:dataset:SlayerLab/polish-dynaword@014faa53b3ebe2a8c08d21b71fcbb221bc551bd1"
-    }
-  ],
-  "runs": [
-    {
-      "actor": "actor:devin",
-      "finished_at": "2026-10-02T15:45:14.658617+00:00",
-      "id": "run:d9a6ab6cc4dae3c8a31898d22ca4ba2dbd08105ff80421e0946aab4445670f8f",
-      "protocol": "protocol:fandom-content-v1",
-      "started_at": "2026-10-02T15:40:40.061775+00:00",
-      "stats": {
-        "added": "2026-10-02",
-        "boilerplate_lines_removed": 41,
-        "boilerplate_shingles_excluded": 13,
-        "characters": 132237079,
-        "kept": 57954,
-        "license_counts": {
-          "CC-BY-SA-3.0": 57954
-        },
-        "rejected": 82369,
-        "sample_count": 12,
-        "source_pages": 140323,
-        "tokens": 49638742,
-        "wikis": [
-          {
-            "api_url": "https://elderscrolls.fandom.com/pl/api.php",
-            "articles": 45027,
-            "base": "https://elderscrolls.fandom.com/pl/wiki/The_Elder_Scrolls_Wiki",
-            "lang": "pl",
-            "name": "elderscrolls",
-            "pages": 108291,
-            "wikiid": "plelderscrolls"
-          },
-          {
-            "api_url": "https://wiedzmin.fandom.com/pl/api.php",
-            "articles": 12987,
-            "base": "https://wiedzmin.fandom.com/wiki/Wied%C5%BAmin_Wiki",
-            "lang": "pl",
-            "name": "wiedzmin",
-            "pages": 51875,
-            "wikiid": "wiedzmin"
-          },
-          {
-            "api_url": "https://gothic.fandom.com/pl/api.php",
-            "articles": 11846,
-            "base": "https://gothic.fandom.com/pl/wiki/Gothic_i_ArcaniA",
-            "lang": "pl",
-            "name": "gothic",
-            "pages": 108028,
-            "wikiid": "plgothic"
-          },
-          {
-            "api_url": "https://harrypotter.fandom.com/pl/api.php",
-            "articles": 11292,
-            "base": "https://harrypotter.fandom.com/pl/wiki/Strona_g%C5%82%C3%B3wna",
-            "lang": "pl",
-            "name": "harrypotter",
-            "pages": 114378,
-            "wikiid": "plharrypotter"
-          },
-          {
-            "api_url": "https://gta.fandom.com/pl/api.php",
-            "articles": 10814,
-            "base": "https://gta.fandom.com/pl/wiki/Grand_Theft_Auto_Wiki",
-            "lang": "pl",
-            "name": "gta",
-            "pages": 46611,
-            "wikiid": "plgta"
-          },
-          {
-            "api_url": "https://sims.fandom.com/pl/api.php",
-            "articles": 8242,
-            "base": "https://sims.fandom.com/pl/wiki/Simspedia",
-            "lang": "pl",
-            "name": "sims",
-            "pages": 75168,
-            "wikiid": "plsims"
-          },
-          {
-            "api_url": "https://starwars.fandom.com/pl/api.php",
-            "articles": 7017,
-            "base": "https://starwars.fandom.com/pl/wiki/Strona_g%C5%82%C3%B3wna",
-            "lang": "pl",
-            "name": "starwars",
-            "pages": 15098,
-            "wikiid": "plstarwars"
-          },
-          {
-            "api_url": "https://naruto.fandom.com/pl/api.php",
-            "articles": 5242,
-            "base": "https://naruto.fandom.com/pl/wiki/Naruto_Wiki",
-            "lang": "pl",
-            "name": "naruto",
-            "pages": 41237,
-            "wikiid": "plnaruto"
-          },
-          {
-            "api_url": "https://pokemon.fandom.com/pl/api.php",
-            "articles": 7057,
-            "base": "https://pokemon.fandom.com/pl/wiki/Pok%C3%A9mon_Wiki",
-            "lang": "pl",
-            "name": "pokemon",
-            "pages": 75468,
-            "wikiid": "plpokemony"
-          },
-          {
-            "api_url": "https://dragonage.fandom.com/pl/api.php",
-            "articles": 2999,
-            "base": "https://dragonage.fandom.com/pl/wiki/Dragon_Age_Wiki",
-            "lang": "pl",
-            "name": "dragonage",
-            "pages": 10212,
-            "wikiid": "pldragonage"
-          },
-          {
-            "api_url": "https://fallout.fandom.com/pl/api.php",
-            "articles": 4052,
-            "base": "https://fallout.fandom.com/pl/wiki/Krypta_%E2%80%93_Fallout_Wiki",
-            "lang": "pl",
-            "name": "fallout",
-            "pages": 13948,
-            "wikiid": "plfallout"
-          },
-          {
-            "api_url": "https://creepypasta.fandom.com/pl/api.php",
-            "articles": 2590,
-            "base": "https://creepypasta.fandom.com/pl/wiki/Creepypasta_Wiki",
-            "lang": "pl",
-            "name": "creepypasta",
-            "pages": 111979,
-            "wikiid": "plcreepypasta"
-          }
-        ]
-      },
-      "success": true
-    }
-  ],
-  "schema": "slayer-research-ontology-profile-v1",
-  "versions": [
-    {
-      "content_address": "9732401eea30c71e6e17332cdd2022024d49104bc1519c1be4847974c41998b1",
-      "id": "version:source:9732401eea30c71e6e17332cdd2022024d49104bc1519c1be4847974c41998b1",
-      "object": "object:source:fandom-api"
-    },
-    {
-      "content_address": "6a5ac1353299794a10396f41c87eab421540eccc79363411903f1c12e05a313e",
-      "id": "version:dataset:6a5ac1353299794a10396f41c87eab421540eccc79363411903f1c12e05a313e",
-      "object": "object:dataset:fandom-content"
-    }
-  ]
-}

artifacts/source_findings.md

@@ -1137,3 +1137,33 @@ read the licence block, the site footer or the CMS licence field.
 **Lesson** — the licence on the badge or in the body is not the whole grant. Read every
 rights statement the publisher shows, plus its machine-readable licence field, and stop
 on any NC, ND or AI-training term (`.agents/skills/source-rights-review`, check 4).
+
+## fandom_pl — withdrawn (2026-10-05)
+
+**Verdict** — `removed`, whole source (all 12 wikis). Never released (`release: None`,
+not in the v0.2.5 tag, not in the README totals). 50,653 documents / 45,790,009 tokens
+dropped. The data, the registry entry, `src/build_fandom_pl.py`, its test and
+requirements, and `artifacts/fandom_pl_ontology_manifest.json` were removed. No
+legal-note stub was kept, because nothing was released. This decision supersedes the
+earlier audit action "drop 6 wikis, sample 4".
+
+**Reason** — (1) The Fandom Terms of Use (revision 2025-12-19, read from a Wayback
+capture of 2026-09-05) bar three things without express written permission: scraping
+and automated access, bypassing robot-exclusion headers, and using content to train an
+ML/AI system. The AI clause is not in the 2023 revision and has no carve-out. Whether it
+overrides the CC BY-SA grant is a legal question we have not resolved. (2) The pages were
+fetched live from each wiki's MediaWiki API on 2026-10-02, after that revision. The
+builder has no robots.txt handling. `PiotrSty/fandom-pl` is the preparer's own
+repository, not an independent snapshot. (3) In 40-document samples, the wikis carry
+third-party text under the CC BY-SA label. Affected documents: dragonage 22/40 (game
+codex, letters, poems; EA/BioWare), elderscrolls 17/40 (full English in-game books;
+Bethesda), wiedzmin 11/40 (CD PROJEKT RED bars text and data mining). naruto has lyrics
+pages. pokemon includes Bulbapedia translations, and Bulbapedia is CC BY-NC-SA 2.5.
+creepypasta has 240 labelled translations of stories whose origins are mostly
+untraced. (4) All 12 wikis report an unversioned `CC-BY-SA` in rightsinfo. References:
+`rights_audit_2026-10/reports/wikis_ugc.md` L12-31; `reports/citations/fandom.md`.
+
+**Lesson** — a site's CC licence for user contributions does not settle how its content
+may be fetched. Read the host's terms for scraping and AI-training clauses, and the
+revision date, before a live API crawl. Fan wikis also quote the works they cover;
+sample them for game text, lyrics and translations before trusting the site licence.

data/fandom_pl/NOTICE.md

@@ -1,7 +0,0 @@
-# Attribution and license notice
-
-Source: Polish Fandom wikis (12 wikis: elderscrolls, wiedzmin, gothic, harrypotter, gta, sims, starwars, naruto, pokemon, dragonage, fallout, creepypasta), https://www.fandom.com/ - community-run fan sites.
-
-Text is available under the Creative Commons Attribution-ShareAlike 3.0 License (https://creativecommons.org/licenses/by-sa/3.0/). Attribution is provided via the per-record canonical page URL in `artifacts/attribution.jsonl`; each page's revision history lists its contributors. License verified via Wayback Machine snapshot of https://www.fandom.com/licensing (2024-12-31).
-
-Preparation: Piotr Styla with Devin. Changes: ns0-only filtering, MediaWiki API fetch (allpages + revisions), latest-revision selection, wikitext stripping, cross-document boilerplate removal, Unicode and whitespace normalization, limited email/labelled-phone/IP/labelled-national-ID/account-candidate redaction, language/quality filtering and within-source deduplication. No endorsement by Fandom or wiki contributors is implied.

data/fandom_pl/fandom_pl.attribution.jsonl

@@ -1,3 +0,0 @@
-version https://git-lfs.github.com/spec/v1
-oid sha256:2c48e555db958c5c4c59c49a38cb3d8c5b84a6aeaf4189b75207765799382c7f
-size 176984046

data/fandom_pl/fandom_pl.decisions.jsonl

@@ -1,3 +0,0 @@
-version https://git-lfs.github.com/spec/v1
-oid sha256:49ed59d7961cf4653f0b05d01e45d1b5c3fb0a64dd3763321b8dde78f74ad090
-size 35475703

data/fandom_pl/fandom_pl.md

@@ -1,38 +0,0 @@
-# Polish Fandom wikis - CC BY-SA 3.0
-
-This slice contains namespace-0 article pages from 12 Polish Fandom wikis:
-elderscrolls, wiedzmin, gothic, harrypotter, gta, sims, starwars, naruto,
-pokemon, dragonage, fallout and creepypasta. Fan-created game lore,
-walkthroughs and hobbyist wiki text; source pages may quote copyrighted game
-material.
-
-- Source pages acquired: 140,323
-- Retained records: 50,653
-- Measured `cl100k_base` proxy tokens: 45,790,009
-- Characters: 121,944,687
-- License: CC BY-SA 3.0 per record, based on the Fandom site license evidence
-- License evidence at the origin: https://www.fandom.com/licensing (pinned
-  snapshot https://web.archive.org/web/20241231234031/https://www.fandom.com/licensing,
-  2024-12-31); per-record attribution fields (page URL, wiki id, title, page id,
-  last-revision timestamp) in fandom_pl.attribution.jsonl
-- ShareAlike: corpus-level treatment of CC BY-SA 3.0 proposed as per-record
-  attribution fields + this note; release: None pending maintainer ruling
-- Time span (last-revision dates): 2007-08-04 - 2026-10-02
-- Source snapshot: https://huggingface.co/datasets/PiotrSty/fandom-pl
-- Target revision audited: `014faa53b3ebe2a8c08d21b71fcbb221bc551bd1`
-
-Processing: MediaWiki API allpages + latest revision fetch; mwparserfromhell
-wikitext stripping with interwiki-block and category-line removal
-(drop_layout_lines; 265,076 layout lines removed in v2); cross-document
-boilerplate line removal; Unicode and whitespace normalization; limited email /
-labelled phone / IP / labelled national identifier / 26-digit account-candidate
-redaction (44 / 0 / 93 / 0 / 259 candidates); Polish language filtering; exact
-and near deduplication within source. Rejections: 87,839 too short, 1,581
-non-Polish, 224 near-duplicate, 6 exact duplicate, 20 low-letter-ratio.
-
-Limitations: this is fan-created lore, walkthrough and hobbyist wiki text, not
-factual reference text. Pages may quote or copy official game materials or
-other copyrighted works; quoted passages are not guaranteed disjoint from other
-corpus shards. Pattern redaction is not complete anonymization - no release
-before a SlayerLab/NERGAL pass. Image-option fragments (e.g. "right|...")
-survive stripping in a small share of records.

data/fandom_pl/fandom_pl.overlap_audit.json

@@ -1,11 +0,0 @@
-{
-  "candidate_records": 92000,
-  "collision_count": 0,
-  "id_collisions": [],
-  "method": "Literal dataset-record ID comparison only. Source-specific ID prefixes make zero collisions uninformative about page identity or text overlap. No target namespace or text audit was performed.",
-  "observed_at": "2026-10-02T18:28:14.958346+00:00",
-  "target": "SlayerLab/polish-dynaword:data/wikipedia",
-  "target_revision": "014faa53b3ebe2a8c08d21b71fcbb221bc551bd1",
-  "target_rows": 1171897,
-  "text_overlap": "not tested; quoted-article passages and target-wide text dedup remain integration gates"
-}

data/fandom_pl/fandom_pl.parquet

@@ -1,3 +0,0 @@
-version https://git-lfs.github.com/spec/v1
-oid sha256:a2ae4a67fa715d56f34d34df1d0c0ae07d0dad1ce91058111b597868109b274b
-size 53271589

data/fandom_pl/fandom_pl.qa.json

@@ -1,48 +0,0 @@
-{
-  "benchmark_overlap": "pending",
-  "boilerplate": "lines occurring in >= 1% of documents removed (36 patterns); 11 high-df shingles excluded from near-dedup sketches (df>701 over 35081 sampled docs)",
-  "created_field_semantics": "Last revision date from the dump, not the page creation date",
-  "cross_source_text_dedup": "pending target integration",
-  "exact_dedup": true,
-  "language_gate": "independent three-window langid vote",
-  "license_gate": "CC BY-SA 3.0 declared on Fandom licensing page (Wayback snapshot 2024-12-31); page-URL attribution; third-party notices still require review",
-  "license_terms_url": "https://creativecommons.org/licenses/by-sa/3.0/",
-  "limitations": [
-    "fan-fiction and gaming wiki register: lore, walkthroughs, guides, infobox-heavy content; not factual reference text",
-    "pages may quote/copy official game materials or other copyrighted works; quoted passages are not guaranteed disjoint from other shards",
-    "record model is a whole content page; individual sections are not split",
-    "pattern checks are not comprehensive de-identification"
-  ],
-  "minimum_final_text_characters": 500,
-  "near_dedup": "deterministic capped 5-word-shingle hash Jaccard >= 0.90 within source; shingles with document frequency >2% (sampled 1-in-4) excluded from sketches",
-  "pii_limitations": "Unlabelled national identifiers, free-form phone numbers, names and personal disclosures may remain; this is not complete anonymization",
-  "pii_pattern_matches": {
-    "account_candidate": 259,
-    "email": 44,
-    "ipv4": 89,
-    "ipv6": 3,
-    "ipv6_legacy_pattern": 1,
-    "labelled_phone": 0,
-    "national_identifier": 0
-  },
-  "pii_policy": "IPv6 parsed including compressed notation; labelled PESEL/NIP/REGON and 26-digit account candidates masked conservatively without checksum validation; counts cover all candidates before rejection",
-  "rejection_counts": {
-    "low_letter_ratio": 20,
-    "near_duplicate": 224,
-    "non_polish_text": 1581,
-    "normalized_duplicate": 6,
-    "too_little_text": 87839
-  },
-  "scope": "Polish Fandom wikis (12 wikis, ns0 articles only), latest revision per page fetched via MediaWiki API",
-  "wikipedia_shard_overlap": {
-    "candidate_records": 92000,
-    "collision_count": 0,
-    "id_collisions": [],
-    "method": "Literal dataset-record ID comparison only. Source-specific ID prefixes make zero collisions uninformative about page identity or text overlap. No target namespace or text audit was performed.",
-    "observed_at": "2026-10-02T18:28:14.958346+00:00",
-    "target": "SlayerLab/polish-dynaword:data/wikipedia",
-    "target_revision": "014faa53b3ebe2a8c08d21b71fcbb221bc551bd1",
-    "target_rows": 1171897,
-    "text_overlap": "not tested; quoted-article passages and target-wide text dedup remain integration gates"
-  }
-}

data/fandom_pl/fandom_pl.sample.jsonl

@@ -1,12 +0,0 @@
-{"added": "2026-10-02", "author": "gothic contributors", "created": "2025-09-02", "id": "fandom_pl_gothic_168817", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "Erilan – niemiecka modyfikacja działająca na platformie Gothic II: Noc Kruka autorstwa ThreeGods. Polską lokalizację przygotowała grupa Gothic Polska.\n\nKiedy rodzina rybaków z małej wyspy Erilan traci swoją jedyną łódź podczas burzy, ich syn zostaje wciągnięty w wydarzenia, które zadecydują o losie całej wyspy.\n\nCechy modyfikacji\nKrótka i przyjemna fabuła (ok. 2h rozgrywki);\n24 zadania w 3 rozdziałach;\nusunięte progi w nauce siły i zręczności;\nnawiązania do fabuły Gothica;\ndobrej jakości niemiecki dubbing.\n\nTwórcy modyfikacji\nThreeGods – pomysł, fabuła, zadania, dialogi, skrypty, Spacer, testy;\nMrStranded – model wyspy;\nMäck – model domu;\nAFX – testy;\nlucigoth – testy;\nIceDancer – testy;\nMatteoAT – testy.\n\nTemat modyfikacji na forum theModders", "token_count": 284}
-{"added": "2026-10-02", "author": "fallout contributors", "created": "2021-06-22", "id": "fandom_pl_fallout_1068", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "right|Pierwsza pomoc\nPierwsza pomoc (ang. First Aid) to jedna z umiejętności w grach Fallout, Fallout 2 i Fallout Tactics.\n\nOpis: Ogólna umiejętność leczenia. Wykorzystywana do leczenia pomniejszych skaleczeń, otarć i innych pomniejszych dolegliwości. W realiach gry, umiejętnośc ta pozwala wyleczyć więcej punktów wytrzymałości w danym czasie niż odpoczynek.\n\nWartość początkowa:\nFallout: 30% + (PE+IN)/2\nFallout 2: 2x(PE+IN)\nFallout Tactics: 30% + PE + IN\n\nUwagi: Umiejętności tej nie warto rozwijać, gdyż można ją podnieść odpowiednią książką do wystarczających wartości.\n\nWarto nadmienić, że w Fallout Tactics użycie tej umiejętności wymaga posiadania apteczki lub jej pochodnych. Natomiast w Fallout i Fallout 2 takiego warunki nie ma, jednak w obu tych grach użycie tej umiejętności pochłania dość dużą ilość czasu. Ponadto tylko w Fallout Tactics umiejętność ta leczy sensowne ilości obrażeń.", "token_count": 329}
-{"added": "2026-10-02", "author": "gta contributors", "created": "2025-05-09", "id": "fandom_pl_gta_41952", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "Wydarzenia mające miejsce w 1869 roku:\n\nUniwersum 2D rozpoczęło się wielkie poszukiwanie złota – Fool's Gold Rush – w okolicy San AndreasInformacje z oficjalnej strony Grand Theft Auto I (link):San Andreas, which expanded rapidly following the famous 'Fool's Gold Rush' in 1869, has long had ties orient.\n\nUniwersum 3D utworzono departament policji Liberty City Police Department utworzono departament policji San Andreas Police Department stworzono markę piwa FleischBerg\n\nUniwersum HD założono firmę Hinterland rozpoczęła i zakończyła się wojna War of the Deadline założono piekarnię Inbread Bakery stworzono markę szampana Blêuter'd", "token_count": 188}
-{"added": "2026-10-02", "author": "naruto contributors", "created": "2025-05-26", "id": "fandom_pl_naruto_7264", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "– jeden z niesławnych Braci Złoty i Srebrny Kumogakure, wraz ze swoim bratem Ginkaku.\n\nPrzeszłość thumb|left|Kinkaku i Ginkaku kontra Kurama.\nBracia Złoty i Srebrny byli najbardziej piętnowanymi przestępcami w Kumogakure. Niegdyś, zostali przypisani do złapania Dziewięcioogoniastego Demonicznego Lisa, ale zostali w całości połknięci. Jednakże przeżyli i szaleli w żołądku ogoniastej bestii przez dwa tygodnie, ostatecznie zmuszając Dziewięcioogoniastego do zwymiotowania ich. Gdy byli w jego żołądku, przeżyli dzięki żywieniu się mięsem bestii. Stary ninja Kumogakure stwierdził, że gdy lis ich wreszcie zwymiotował, obydwaj wyglądali jak miniaturowe wersje bestii z powodu nabycia części czakry lisa. Podczas ceremonii podpisywania traktatu pokojowego pomiędzy Drugim Hokage i Drugim Raikage, dwóch braci dokonało zamachu stanu, który zostawił Hokage na skraju śmierci. W pewnym momencie swojego życia spotkał Kakuzu.\n\nKinkaku był, podobnie jak jego brat, uważany za hańbę Kumogakure z powodu ich wierzeń, że oszustwa i zdrada są strategiami bitewnymiDrużyna Asumy znów w komplecie, Więcej niż „męczący”. Pomimo tego, postrzegany jest jako kochający brat, pokazując wielką furię, gdy Ginkaku został wessany do Benihisago przez Daruiego.\n\nKinkaku był tęgim, muskularnym shinobi o potężnym wzrośnie. Miał jasno-kolorowe oczy z twardówkami o ciemnym kolorzeDrużyna Asumy znów w komplecie, Złota więź szarą skóręOkładka tomu Drużyna Asumy znów w komplecie (przedstawioną jako jasną w anime), jak również długie blond włosy z wyróżniającymi się ciemnymi końcówkami, ułożonymi w stylu nawiązującym do rdzennych mieszkańców Ameryki. Te cechy są podkreślone przez obecność dwóch charakterystycznych rogów, które pojawiają się z obfitych włosów na głowie, a także przez prostokątne oznakowanie na nosie. Ma również te same charakterystyczne ślady w stylu kocich wąsów na swojej twarzy, jak Naruto Uzumaki z powodu wpływów Dziewięcioogoniastego na nim.\n\nJego typowy strój składa się ze standardowej kamizelki shinobi, noszonej na fioletowym mundurze z wysokim kołnierzem i bez rękawów, a także nosi fioletowy ochraniacz na czoło i parę ochraniaczy na nadgarstkach. Kanji zostało wytatuowane na ramieniu jego odsłoniętej lewej ręki.\n\nUmiejętności\nKinkaku i jego brat byli dobrze znani ze swojej mocy za życia, tak bardzo, że jeden z shinobi Kumogakure drżał na ich widok i sprowokował Czwartego Raikage tak bardzo, że omal nie zlekceważył swoich obowiązków jako lidera Zjednoczonych Sił Shinobi, by osobiście skonfrontować się z dwójką. Według Ao, obydwaj bracia posiadają ogromne rezerwy czakry z śladami zmieszanej czakry Dziewięcioogoniastego z powodu połknięcia i zwymiotowania ich przez Dziewięciogoniastego po przetrwaniu dwóch tygodni wewnątrz jego żołądkaDrużyna Asumy znów w komplecie, Odrodzeni Kage.\n\nCenne narzędzia thumb|Kinkaku i Ginkaku trzymający skarby.\nBracia nosili pięć Cennych Narzędzi Mędrca Sześciu Ścieżek, z których każde wymagało ogromnych pokładów czakry, wystarczających do zabicia normalnej osoby zanim mogłaby właściwie użyć narzędzia. Bracia mogą ich użyć dzięki połączeniu ich poziomów czakry i czakry Dziewięcioogoniastego. Przez połączenie Benihisago, Kōkinjō i Shichiseikena, mogą schwytać ich przeciwnika i zapieczętować jego ciało na dobre. Bashōsen pozwala im na utworzenie każdego z pięciu podstawowych żywiołówDrużyna Asumy znów w komplecie, Zakazane słowa.\n\nTransformacje jinchūrikiego thumb|left|Sześcioogoniasta forma Kinkaku.\nPomimo nie bycia właściwie jinchūrikim, zaabsorbował pokaźną ilość czakry Dziewięcioogoniastego i zjadł trochę jego mięsa czakry podczas uwięzienia w jego żołądku. Tak bardzo, że udało mu się wejść w bardziej muskularną sześcioogoniastą formę Naruto z jednym ogonem znacznie dłuższym i grubszym niż inne. Jednakże brakuje szkieletu Dziewięcioogoniastego. Kinkaku również utrzymuje swoją świadomość, w przeciwieństwie do Naruto, który ją traci na rzecz bestialskiego instynktu w tej formie, prawdopodobnie ze względu na brak posiadania bestii w sobie, choć wściekłość ciągle wydaje się być wyzwalana kiedy wchodzi w tą formę.\n\nW tej formie, jest widziany używając ogonów czakry, by uderzać z wielką siłą i zasięgiem, blokować deszcz kunai za pomocą swoich ogonów, odrzucić wielki toczący się czołg na bok i łatwo przełamać Technikę Imitacji Cienia w sekundę, i w anime wyszedł bezboleśnie z połączonej zapory różnych żywiołowych ninjutsu i również zaprezentował wielką szybkość i siłę, będąc w stanie przeciąć kilku sojuszniczych shinobi natychmiastowo wraz ze zniszczeniem platform, na których stali. Jednakże pomimo podobieństwa do wyższych form Naruto, wydaje się nie posiadać płaszcza żrącej czakry, który Naruto posiadał od Czworoogoniastej i dalej.\n\nCzwarta Wielka Wojna Shinobi: punkt kulminacyjny\nW przygotowaniach do Czwartej Światowej Wojny Shinobi, Kinkaku zostaje wskrzeszony przez Kabuto Yakushiego, by walczył przeciwko Zjednoczonym Siłom Shinobi. Wychodząc z morza koło wybrzeża w Kraju Błyskawicy, wraz ze swoim bratem i z Armią Białych Zetsu, dwójka napotyka wrogą Pierwszą Dywizją. Konfrontując się z Daruim, rozpoznaje, że odziedziczył on techniki Trzeciego Raikage, więc Kinkaku sugeruje, że jest raczej silny.\n\nthumb|Kinkaku atakuje Daruiego, Samui i Atsuiego wachlarzem.\nDarui zauważa, że odkąd tyle czasu minęło, nawet ci z Kumogakure stracili szacunek do nich. Po tym jak Atsui i Samui przybywają, Kinkaku wyciąga Bashōsen i Shichiseiken ze swoich ust, dając to ostatnie swojemu bratu, podczas gdy oplątuje Kōkinjō wokół swojego ramiona. Uderzając dwójkę rodzeństwa za pomocą liny, wyciąga ich słowa duszy, by Ginkaku mógł ich przekląć. Czytając specjalne słowo napisane na mieczu, Kinkaku podpala rękę Atsuiego, co zmusza go do powiedzenia jego zakazanego słowa, powodując, że zostaje zapieczętowany. Podczas gdy jego brat bierze Samui za zakładniczkę, Kinkaku usiłuje zaatakować Daruiego, tylko by jego ręka została odcięta. Darui wtedy atakuje obydwóch braci, uwalniając Samui, ale wchodząc w kontakt z liną wokół odciętej ręki Kinkaku, którą ten ostatni kopnął. Wtedy przecina słowo duszy Daruiego i Ginkaku zapisuje je.\n\nthumb|left|Kinkaku, w swojej sześcioogoniastej formie, odbija atak Chōjiego.\nGdy Darui przypadkowo wypowiada swoje słowo tabu, był w stanie ku swojemu szczęściu zmienić swoje najczęściej wypowiadane słowo podczas wsysania przez Benihisago, anulując pieczętowanie bez wiedzy braci. Rozbrajając Ginkaku i przewracając go na Kinkaku, Darui wtedy przejmuje inne narzędzia. Rzucając swój miecz na ostatniego, Kinkaku odbija ostrze, tylko by zostać po raz kolejny zbombardowanym. Darui używaj tej okazji, by przekląć i zapieczętować Ginkaku, powodując u Kinkaku wpadnięcie w berserk i wejście w jego sześcioogoniastą formę.\n\nChoć Darui przeprasza za Ginkaku, Kinkaku sieje zamęt na polu bitwy, zabijając wielu pomimo wysiłków Chōzy Akimichi. Obserwując Kohaku no Jōhei w posiadaniu Daruiego, dochodzi do wniosku, że planują go zapieczętować w jego wnętrzu, przed zaatakowaniem i niemalże zabiciem Daruiego, gdyby nie uderzenie Kitsuchiego. Odbijając deszcz kunai, Kinkaku nie dostrzega podejścia Chōjiego Akimichi, ale odbija jego atak używając samej siły. Jednakże było to tylko odwrócenie uwagi, by Shikamaru Nara mógł związać jego cień.\n\nthumb|Kinkaku pieczętowany.\nUwalniając się z łatwością, Ino Yamanaka natychmiastowo przejmuje kontrolę nad Kinkaku, gdy próbował zabić Shikamaru. Zmuszając go do odpowiedzi na wezwanie Daruiego, zaczyna być wsysany do garnca, właśnie gdy Ino powraca do swojego własnego ciała. Gdy Kinkaku jest pieczętowany, narzeka jak tacy głupcy mogli pokonać go i jego brata, na co Darui odpowiada, że nawet jeśli złoto i srebro mogę jasno błyszczeć, mnóstwo miedzianych monet może być więcej wartych niż jedna złota moneta.\n\nO zmierzchu, Tobi przybywa na pole bitwy i zabiera zarówno Benihisago jak i Kohaku no Jōhei, każde z nich zawierające braci wewnątrz, zamierzając użyć czakry Dziewięcioogoniastego, aby pomóc wypełnić jego Plan Księżycowe Oko.\n\nDosłowne tłumaczenie imienia Kinkaku – dzieli tę samą nazwę, co Siły Kinkaku, sugerując, że Kinkaku jest ich możliwym liderem.\nZarówno Kinkaku ,jak i jego brat są prawdopodobnie oparci na dwóch postaciach z chińskiego klasyku Wędrówka na Zachód\". W tej historii, Kinkaku i Ginkaku są dwoma demonicznymi królami-braćmi, znanymi jako i .\nZ powodu zdolności braci do przyswojenia sobie czakry Dziewięcioogoniastego przez jedzenie jego mięsa, Czwarty Raikage podejrzewa, że są daleko spokrewnieni z Mędrcem Sześciu Ścieżek.\nGdy Kinkaku debiutował w anime, był przedstawiony bez oznakowania na nosie widzianym w mandze.\nKinkaku i Ginkaku są również świątyniami w Kyōto, w Japonii. Świątynia Złotego Pawilonu jest nazywana Kinkaku, a Świątynia Srebrnego Pawilonu jest nazywana Ginkaku.\nW odcinku Zakazane słowa, Kinkaku i jego brat Ginkaku byli obaj widziani ze swoimi kocimi wzorkami na twarzach zanim zostali pożarci przez Kuramę.", "token_count": 3388}
-{"added": "2026-10-02", "author": "pokemon contributors", "created": "2022-06-04", "id": "fandom_pl_pokemon_53124", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "thumb|Zajezdnia Rangera w Pueltown\nZajezdnie Rangera (jap: レンジャーデポ Zajezdnia Rangera) są małymi budynkami występującymi w . Ich głównym celem jest działania na zasadzie Centrum Pokémonów dla ów, zapewniając Machinę Zapisu oraz Operatora, który na prośbę naładuje Styler do maksimum. Jak widać na obrazku, Zajezdnie Rangera mają niebieski kolor, a ich dachy są pokryte trawą. Ich wygląd jest podobny do Bazy Rangera, z tą różnicą że jedynymi mieszkańcami Zajezdni są Operatorzy. Zajezdnie Rangera są mniejsze od Baz Rangera, prawdopodobnie ze względu na ową funkcję. Zajezdnie nie służą jakiemukolwiek innemu celowi w grze poza funkcjonowaniem jako punkty odpoczynkowe.\n\nnie muszą wykorzystywać Zajezdnie Rangera aby dalej kontynuować fabułę. Machiny Zapisu zazwyczaj są blisko nich, razem z Pokémonami z Ruchem Polowym Naładowania.\n\nKiedy po raz pierwszy przybywa do Pueltown, , która mu towarzyszy, wyjaśnia mu funkcjonowanie Zajezdni Rangera. Proponuje, aby gracz wykorzystał go do Misji, do której zostali oboje przydzieleni, w Pueltown. Jednakże nie jest wymagane aby gracz skorzystał z Zajezdni, gdyż są tu dwa inne Machiny Zapisu i duża ilość rozsianych po Pueltown.\n\nZajezdnie Rangera są umieszczone w odpowiednich miejscach pod względem pobliskich Misji. Można je znaleźć w Pueltown, Boyleland, Obozie Dreszczy oraz w Wiosce Haruba i występują w tej kolejności. Zajezdnie Rangera mogą być szczególnie pomocne, gdy gracz bierze udział w Misjach „Zdobądź Niebieski Klejnot!”, „Zdobądź Czerwony Klejnot!” i „Zdobądź Żółty Klejnot!”, ponieważ Zajezdnie można znaleźć w pobliskiej cywilizacji gdzie odbywają się Misje.", "token_count": 615}
-{"added": "2026-10-02", "author": "gothic contributors", "created": "2025-03-04", "id": "fandom_pl_gothic_2238", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "Skinner – postać występująca w Gothic II: Noc Kruka. Jest to bandyta mieszkający w obozie bandytów.\n\nGothic II: Noc Kruka\nJest bardzo silny. Przez cały czas śpi, a obudzenie go spowoduje chęć zabicia Bezimiennego. Przed takim losem ostrzega bohatera jeden z bandytów, który gotuje gulasz, przebywając w pobliżu Skinnera. Bronią, jakiej używa śpiący bandyta, jest miecz o nazwie Betty. Jeśli Bezimienny zdecyduje się obudzić Skinnera, ten go zaatakuje.\n\nW skryptach gry występuje możliwość kradzieży 200 sztuk złota, jeśli Bezimienny posiada 100 punktów zręczności, ale w praktyce jest to niewykonalne, ponieważ Skinner od razu po swojej wypowiedzi atakuje bohatera.\nW pliku dialogowym Skinnera znajduje się zalążek rozmowy z nim na temat zamachu na Estebana. Nie może ona jednak wystąpić podczas rozgrywki.", "token_count": 294}
-{"added": "2026-10-02", "author": "naruto contributors", "created": "2026-03-06", "id": "fandom_pl_naruto_1543", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "był mnichem ninja ze Świątyni Ognia. W przeszłości należał do Dwunastu Strażników Ninja, których zadaniem było ochranianie Daimyō Kraju Ognia.\n\nPrzeszłość thumb|left|189px|Asuma i Chiriku jako Dwunastu Strażników Shinobi\n\nChiriku był niegdyś członkiem Dwunastu Strażników Ninja. W czasie swojej służby nawiązał on przyjaźń z Asumą Sarutobim. Gdy sześciu członków grupy starało się zorganizować zamach stanu, pozostała szóstka postanowiła pozostać wierna daimyō Kraju Ognia. Doszło do zaciętej walki, pomiędzy obydwiema stronami, z której cało wyszli jedynie Chiriku, Asuma oraz Kazuma.\n\nKiedy grupa rozpadła się Chiriku został mnichem w Świątyni Ognia. Przez wiele lat zajmował coraz to wyższe stanowiska, aż stał się głową świątyni. Ponadto po zamachu stanu postanowił zaopiekować się i wyszkolić jedynie dziecko Kazumy, Sorę. Wstydząc się decyzji swojego sojusznika, który zdradził władcę kraju Ognia, Chiriku postanowił nigdy nie powiedzieć Sorze prawdy. Mimo, iż większość świątyni bała się Sory, ze względu na zapieczętowaną w nim część Kuramy, Chiriku cały czas wspierał go na duchu i dbał o niego.\n\nW czasie jego przynależności do Dwunastu Strażników Ninja niektóre podziemne organizacje wyceniły głowę Chiriku na 30,000,000 ryō.\n\nUmiejętności thumb|right|189px|Chiriku używający Raigō: Senjusatsu.\n\nJako przywódca Świątyni Ognia, Chiriku był dobrze obeznany we wszystkich jej tajemnych naukach. Podczas walki z Hidanem i Kakuzu, pokazał on dużą sprawność fizyczną, jak i znakomite wyszkolenie w technikach taijutsu, unikając i kontrując ich ataki. Chiriku znakomicie znał się na technikach pieczętujących, co zostało udowodnione gdy, razem z kilkoma innymi mnichami, starał się stłumić czakrę Sory. Mnich uaktywnił również silną barierę wokół świątyni, by ochronić ją przed intruzami.\n\nNajwyższy poziom swoich umiejętności Chiriku osiągnął gdy opanował ostateczną technikę swojej świątyni - Raigō: Senjusatsu. Technikę tą użył, podczas walki z Hidanem i Kakuzu, starając się wyeliminować ich wszystkich jednocześnie.\n\nCzęść II\nDwunastu Strażników Ninja\nKiedy okazało się, że groby jego sojuszników zostały okradzione, Chriku skontaktował się z Konohagakure, prosząc o pomoc. Następnie, gdy stało się jasne, że demoniczna strona Sory, staje się coraz bardziej nieposłuszna, Chriku postanowił dołączyć go do drużyny Yamato, pod pozorem zastąpienia rannego Saia. W rzeczwistości mnich chciał, aby Sora trafił do Konohy, gdzie byłby pod stałą obserwacją.\n\nMisja Stłumienia Akatsuki thumb|left|189px|Chiriku konfrontuje się z Hidanem i Kakuzu.\n\nPo tym jak Hidan i Kakuzu weszli do kraji Ognia w celu przechwycenia Jinchūriki Kuramy, Kakuzu postanowił, że najpierw pójdą oni do Świątyni Ognia, gdzie przbywał aktualnie Chiriku, którego głowa miała dużą wartość na czarnym rynku. Gdy dostali się do klasztoru nawiązała się zacięta walka między nimi, a Chiriku. Mnich poniósł niestety klęskę, a dwaj członkowie Akatsuki zabrali jego ciało.\n\nNazwa Chiriku pochodzi od Chi co znaczy \"ziemia\" i riku czyli \"ląd\" .\nChiriku chciał walczyć z Asumą Sarutobim.\n\n(do Hidana i Kakuzu) \"Jestem Chiriku ze Świątyni Ognia i nie przegram z ludźmi takimi jak wy\".", "token_count": 1222}
-{"added": "2026-10-02", "author": "fallout contributors", "created": "2020-02-27", "id": "fandom_pl_fallout_11586", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "Prototyp AER14 - broń energetyczna występująca w Fallout: New Vegas.\nKarabin AER14 jest bespośrednim następcą karabinów AER9 i AER12. Jest to prototyp nad którym pracowano przed wojną. Znajduje się w Krypcie 22.\nCharakterystyka\nWyglądem AER14 przypomina AER9, lecz ma jasno-siwy kolor. Jako że jest on prototypem, przewody oraz niektóre elementy są widoczne. Na karabinie pozaznaczane i popodpisywane są pewne elementy. Przy kolbie znajdują się dwa układy scalone podłączone do broni za pomocą przewodów. Jest on również dłuższy niż inne karabiny laserowe.\n\nW przeciwieństwie do zwykłych karabinów laserowych ten strzela zieloną wiązką, a każdy strzał zużywa 2 ogniwa termojądrowe. Nie można nim celować za pomocą muszki i szczerbinki, a ponadto nie może być modyfikowany częściami przeznaczonymi dla standardowych karabinów laserowych.\n\nWarianty\nKarabin laserowy - standardowy karabin laserowy.\nKarabin laserowy Van Graffów - specjalna wersja karabinu AER9 zmodyfikowana przez Van Grafów\nDezintegrator Image:Wycięte.png\nLokalizacja\nKrypta 22 - w sekcji dziennej. Idź na 5 piętro, do pomieszczenia dezynsekcji i wejdź do klatki schodowej prowadzącej do sekcji dziennej, której wejście jest zaraz przy windzie; znajduje się tam zamek, którego trudność zależy od poziomu gracza. AER14 leży na podłodze zaraz obok szkieletu. Możliwe jest, aby towarzysz gracza wziął tę broń z ziemi; z tego powodu może jej tam nie być, należy wtedy sprawdzić ekwipunek wszystkich aktywnych towarzyszy gracza.\n\nUwagi\nUżywając tej broni istnieje możliwość uzyskania 75% szansy na trafienie krytyczne poza V.A.T.S, a nawet 85% szansy pod wpływem czasopisma True Police Stories z perkiem pojmowanie.\nW miejscu, gdzie leży AER14 można znaleźć kilka ogniw energetycznych, mimo iż nie jest to amunicja wykorzystywana przez tę broń.\nNa kolbie można zauważyć obiekt podobny do szkła, jeśli jest się w trybie trzecioosobowym. Pojawia się tylko, gdy jego tłem jest niebo. Gdy znajduje się przy ziemi, wygląda jak osłonka dla układów scalonych i kabli.\nProrotyp AER14 występuje jedynie w Fallout: New Vegas.", "token_count": 752}
-{"added": "2026-10-02", "author": "wiedzmin contributors", "created": "2026-01-05", "id": "fandom_pl_wiedzmin_52579", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "Przez czas i przestrzeń – zadanie główne w grze komputerowej Wiedźmin 3: Dziki Gon. Geralt i Avallac'h podróżują w nim przez różne światy do Tir ná Lia.\n\nWpis w dzienniku\nKiedy Ciri i Geralt rozprawili się z Imlerithem, wiadomość natychmiast dotarła do Avallac'ha. Nie wiem, jak on to robi, ale być może właśnie na tym polega to bycie „Wiedzącym”.\n\nW każdym razie Avallac'h wpadł wówczas na szatański pomysł. Postanowił przeciągnąć na swoją stronę jednego z największych sojuszników Eredina, jego generała i doradcę - Ge'elsa. Aby zrealizować swój plan, potrzebował pomocy śniączki - a Triss poleciła mu Corine Tilly. Gdy więc Geralt z Ciri dotarli do Novigradu, wszystko było już załatwione. Teraz wystarczyło sprowadzić do Novigradu Ge'elsa...\n\nŻeby do niego dotrzeć, Avallac'h i Geralt musieli dostać się do krainy zamieszkiwanej przez Aen Elle. Czekała ich zatem podróż do innego świata. Na samą myśl Geralt był tyleż podekscytowany, co niechętny. W końcu nienawidził portali, a ścieżki między światami wiodły właśnie przez nie.\n\nGdy opuszczali Pustynię Ddiddiwedht, Geralta spotkała przykra niespodzianka. Do następnego świata trafił już bez Avallac'ha. Wiedzący ostrzegał, że coś takiego może się wydarzyć, jednak Geralt miał cichą nadzieję, że do tego nie dojdzie. Nadzieja spełzła na niczym i od tej pory wiedźmin musiał samotnie i po omacku szukać kolejnych przejść do następnych światów.\n\nAch, wiele bym dał, żeby na własne oczy móc zobaczyć to, co Geralt widział w światach, które odwiedzał. Najbardziej intrygująca wydała mi się kraina zamieszkiwana przez lud Aen Elle, która była celem wędrówki Geralta i Avallac'ha. Gdy tam dotarli, nie bez trudności, znaleźli Ge'elsa i sprowadzili go do naszego świata.\n\nAvallac'h postawił wszystko na jedną kartę. Z pomocą śniączki, Corine Tilly, udowodnił Ge'elsowi, że ich poprzedniego króla, Auberona, zabił Eredin. Ge'els, który był oddanym sługą i przyjacielem Auberona, nie mógł przejść nad tym do porządku dziennego. Choć bił się z myślami, zdradził, że jedynym sposobem, żeby pokonać Eredina i Dziki Gon, jest wydanie im bitwy na naszych warunkach i w naszym świecie.\n\nPierwszym krokiem było sprowadzenie Naglfara za pomocą Słoneczego Kamienia. Ustaliliśmy, że Geralt, Ciri, czarodziejki i Avallac'h popłyną po Kamień na Skellige, a my z Zoltanem zostaniemy w Novigradzie będziemy i zabezpieczać ich powrót.\n\n- Jaskier\n\nOpis zadania\nZadanie rozpoczyna się po rozmowie z Avallac'hem z zadania Ostatnie przygotowania. Podczas rozmowy w Kameleonie Avallac'h opowiada Geraltowi, że zamierza osłabić Eredina poprzez zawarcie układu z generałem Dzikiego Gonu, Ge'elsem. Ge'els był lojalny wobec zabitego przez Eredina poprzedniego władcy Aen Elle, Auberona Muircetacha. Wiedzący zamierza udać się do Tir ná Lia i wyjawić Ge'elsowi prawdę o śmierci Auberona. Wiedźmin ma mu w tym towarzyszyć. Aby dostać się do Ge'elsa i świata Aen Elle należy skorzystać z portalu znajdującego się w elfich ruinach pod jednym z novigradzkich domów. Można udać się do niego od razu lub przyjść tam później. Jeśli w zadaniu Sen w wielkim mieście Geralt wypędził Sarę, to po wejściu do domu elf i wiedźmin zostaną przywitani przez chłopca, który opowie im o kłótni swoich rodziców. Po zejściu do piwnicy i zniszczeniu jednej ze ścian znakiem Aard bohaterowie dotrą do portalu. Przed wejściem do niego Avallac'h uprzedzi Geralta, że będą musieli podróżować przez wiele światów i że w trakcie wędrówki mogą zostać rozdzieleni.\n\nPo przejściu przez portal wiedźmin i Wiedzący znajdą się na Pustyni Ddiddiwedht. Elf wyjaśni Geraltowi, że pustynia była kiedyś dnem morza, ale po wyczerpaniu się zasobów tego świata morze wyschło. Teraz żyją tu tylko piaskowe potwory, pazurnice. Gdy bohaterowie dojdą do portalu będzie on nieaktywny. Podczas oczekiwania na jego włączenie się, obydwaj zostaną zaatakowani przez pazurnice. Gdy gracz zabije wystarczająco dużo z nich portal otworzy się, a wiedźmin przez niego ucieknie.\n\nNastępny świat będzie opuszczony, a jedynymi formami życia będą rośliny wydzielające trujące opary. Z tego powodu należy poruszać się po tym miejscu ostrożnie. Geralt trafi tam sam, bez Avallac'ha. Aby wydostać się z tego świata należy dotrzeć do portalu wśród ruin (po drodze będzie można znaleźć miejsce mocy), który przeniesie wiedźmina do zatopionego budynku.\n\nPo wpłynięciu do kolejnego portalu Geralt trafi do Tilath na Buhne zniszczonego przez białe zimno. W tym miejscu będą panować redukujące żywotność siarczyste mrozy przed którymi trzeba będzie się chować za skałami lub w ruinach budynków. Po przybyciu do tego świata wiedźmin zauważy palącą się latarnię, po czym dojdzie do wniosku, że rozpalił ją Avallac'h. W związku z tym będziemy musieli dostać się do niej. Po drodze Geralta będą atakować ogary Dzikiego Gonu. W dolnej części latarni wiedźmin rzeczywiście znajdzie Wiedzącego. Elf wyjaśni, że to w tym świecie Geralt pokonał widmo Eredina, a Ciri stoczyła walkę o uwolnienie wiedźmina z rąk króla Dzikiego Gonu. Po krótkiej rozmowie Avallac'h i Geralt udadzą się do portalu prowadzącego do siedziby Ge'elsa - Pałacu Świadomości w świecie Aen Elle. Zastaną tam Ge'elsa malującego portret półnagiej elfki. Wiedzący opowie mu o śmierci Auberona i poprosi go o udanie się z nim do świata Aen Seidhe, w którym znajdują się dowody potwierdzające jego wersję wydarzeń. Gdy Ge'els się zgodzi cała trójka zostanie przeniesiona do karczmy Jaskra w Novigradzie, w której będą czekać na nich Ciri i Corine Tilly. Po krótkiej rozmowie z dziewczyną elf zobaczy wyśnioną przez Corine wizję, w której Eredin otruwa Auberona. Po chwili zastanowienia Ge'els zgadza się pomóc Avallac'howi i uniemożliwić Eredinowi ściągnięcie posiłków ze świata Aen Elle. Przed odejściem doradzi też Geraltowi i Ciri wezwanie Eredina na Undvik za pomocą Kamienia Słonecznego i wydanie mu bitwy. Po zakończeniu konwersacji z elfem nastąpi rozmowa Ciri, Geralta i Avallac'ha, w której ci zaakceptują plan Ge'elsa i postanowią wyruszyć na Skellige. Jeśli wcześniej nie wykonaliśmy zadania Wyrównanie rachunków, to po zakończeniu rozmowy Ciri zaproponuje Geraltowi towarzyszenie jej w czasie załatwiania swoich spraw w Novigradzie. Po rozmowie z Cirillą i Avallac'hem zadanie zakończy się.\n\nPunkty doświadczenia\n\n500 po rozmowie z Avallac'hem w latarni\n1000 i 1000 po zakończeniu zadania\n\nZa zabijanie pazurnic nie otrzymuje się żadnych punktów doświadczenia.", "token_count": 2412}
-{"added": "2026-10-02", "author": "creepypasta contributors", "created": "2018-04-24", "id": "fandom_pl_creepypasta_144012", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "Święta to cudowny czas – dobre jedzenie, ubieranie choinki, prezenty. Do niektórych przychodzi Gwiazdor, do innych Święty Mikołaj, jakaś Śnieżynka czy inne Dziadki Mrozy. W paru domach mamy inne potrawy niż w innych, nigdzie nie ma dwóch takich samych choinek, a tradycje rodzinne, które mamy w całej Polsce, trudno zliczyć, nie mówiąc już o całym świecie. Można powiedzieć, że każdy obchodzi święta inaczej.\n\nTo teraz pozwólcie, że powiem wam jakie tradycje mieliśmy my – ja i moja rodzina, a także nasi przodkowie, a o której założę się nigdy nie słyszeliście. Moja rodzina pochodziła z górskich regionów, gdzieś w okolicach Tatr, w małej wsi parę kilometrów od rzeki Poprad. Tak, moi przodkowie to ci \"śmieszni\" górole od ciupasek i łoscypków, ale zauważcie jedno – słowo \"śmieszni\" dałem w cudzysłowie, głównie dlatego, że po tym, co się w tamtym regionie odwalało, nie jestem w stanie się śmiać z górali.\n\nMoja rodzina miała całkiem \"specyficzne\" tradycje – po pierwsze nie byliśmy chrześcijanami, zamiast tego raczej czymś w stylu, nie wiem, połączenia ateistów z poganami? Chyba tak to można określić.\n\nPrzez większość roku nie robiliśmy praktycznie nic, reszta wsi chodziła na msze do kościoła, a my zostawaliśmy w domu, oni obchodzili jakieś regionalne święta, my tymczasem siedzieliśmy u siebie. Jedyne chrześcijańskie święto, jakie obchodziliśmy razem z nimi, to Boże Narodzenie. Wszystko było niemalże identyczne – postne potrawy, choinka, itp. poza dwoma \"szkopułami\".\n\nKojarzycie taką zabawkę jak Elf On The Shelf, znaną głównie w USA? Jest to pluszowy elf, który siedzi w domu i ma \"sprawdzać\", czy dziecko jest grzeczne, dziecko nie może go dotyknąć, bo nie dostanie prezentu, tak samo elf co noc jest przestawiany przez rodzica w inne miejsce.\n\nOtóż ja go miałem, ale w nieco innym wydaniu, jak by wam je opisać... Wyobraźcie sobie duży kij z drugim mniejszym kijem przypominające krzyż, opięte czarnym materiałem i sztucznym futrem. Dodajcie jeszcze czaszkę wilka na górze i macie to, co stało mi w rogu pokoju albo przy oknie, żeby \"patrzeć\", czy jestem grzeczny, rodzice nawet nazywali to elfem, co ciekawe. Szukałem tego wszędzie i najbliższy zwyczaj jaki znalazłem to \"Turoń\", czyli kolędnik, który nosi na kiju głowę byka i ubiera się w koc, ale to na 100% nie było to, ani żaden tego wariant. Zawsze dzień przed świętami dziwny kij znikał, chowany przez rodziców.\n\nKolejna dziwna rzecz, ale ta już jest kompletnie abnormalna, to to, kto przynosił mi prezenty zamiast Świętego Mikołaja, a niestety zapomniałem tego czegoś nazwy.\n\nTo miał być w zamyśle facet w szmatach, który zamiast głowy miał albo czaszkę, albo głowę jelenia – niestety nie pamiętam już. Ojciec raz pokazał mi jego ilustrację i był całkiem straszny jak na coś kierowanego dla dzieci. Poza tym dość \"interesującym\" aspektem działał 1 w 1 jak – przynosił prezenty, niegrzecznym dawał rózgę albo węgiel, itp.\n\nTylko jeden aspekt, jak tak na to patrzę teraz, był dość dziwny – rodzice zawsze kazali mi i mojemu bratu kłaść się w Święta punktualnie o godzinie 18:00, abyśmy zasnęli przed godziną 22:00. Dlaczego? Myślałem najpierw, że chodziło im o to, żeby mogli nam powstawiać prezenty, ale jak tak na to wszystko patrzę teraz, to było to zupełnie niepowiązane.\n\nJak tak sobie przypominam, to zawsze, kiedy budziłem się w Święta, wszystko było poprzestawiane. Dywan przed choinką był przekrzywiony i tym podobne. Najpierw uznawałem, że to rodzice, ale w miarę jak odkrywałem coraz więcej i więcej na ten temat powoli przestawało mnie to bawić.\n\nNo więc prezenty przynosił jakiś dziwny leśny Mikołaj, w moim domu były poprzestawiane rzeczy, Mikołaja przyzywał jakiś dziwny totem, a to wszystko do czasu aż nie przestałem w niego wierzyć. Nie wiem jak to określić dokładnie, ale jakoś w pewnym monencie to się przestało dziać. Totemu nie wynoszono z piwnicy, rodzice dawali mi prezenty przed Gwiazdką, itp.\n\nI wszystko byłoby normalne, gdyby nie jedna rzecz – ostatnim razem ten \"Mikołaj\" przyszedł do mojego domu, kiedy miałem dwanaście lat, a mój brat dziesięć – około 1987 albo 1988 roku. I wiecie, co jest w tym interesującego?\n\nOd tamtego dnia jestem jedynakiem, bo mój brat zaginął i do tej pory się nie odnalazł. Szukano go wszędzie, ale nigdzie go nie było, jakby rozpłynął się w powietrzu.\n\nI nie wiem szczerze, co mam o tym myśleć.", "token_count": 1628}
-{"added": "2026-10-02", "author": "pokemon contributors", "created": "2025-09-04", "id": "fandom_pl_pokemon_99693", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "Katy (jap: カエデ Kaede) jest Liderką Sali w Cortondo, oficjalnie znanej jako Sala Cortondo. Specjalizuje się w ach typu Robaczego. om, którzy ją pokonają, wręcza Robaczą Odznakę.\n\nW grach rdzennej serii\n\nWyzwanie Sali Cortondo\n\nKaty swoją przy pierwszej okazji.\n\n|\n|\n|\n\nRewanż\nKaty swoją przy pierwszej okazji.\n\nPokój Klubu Ligi\nKaty swoją przy pierwszej okazji.\n\nWymienione z graczem\nPodczas trzeciej unikalnej interakcji z Katy w Pokoju Klubu Ligi, wymieni swoją Combee z graczem w zamian za niemal każdego Pokémona, z wyjątkiem , Legendarnych i Mitycznych Pokémonów.\n\nSprite'y i modele x100px 100px VS model from Obraz profilowy z\n\nGrafika x200px Grafika koncepcyjna z\n\nAnime x300px x200px x150px x150px Grafika Grafika koncepcyjna Przerywka\n\nW anime thumb|250px|Katy w\nPokémon Horyzonty: Seria\n\nKaty ma miłą i pogodną osobowość, jest przyjazna dla ludzi, których spotyka. Jednak gdy ktoś źle się zachowuje lub sprawia kłopoty w jej obecności, jak w przypadku Coral, staje się bardziej surowa i zacięta, nie bojąc się ich zganić. W walce Katy staje się bardziej energiczna i bezwzględna, uwielbia dawać z siebie wszystko i nie lubi powstrzymywać się przed przeciwnikiem, jak w walce z Riką.\n\nPrzy sobie\n\nPodróżuje z\n\nAktorzy głosowi\n\nPokémon: Paldean Winds thumb|250px|Katy w Pokémon Paldean Winds\nKaty pojawiła się w Wspólne oddychanie, w którym Iono przedstawiła ją jako jedną z Liderów Sali Paldei podczas jej współpracy wideo z Akademią Naranja.\n\nW mandze\n200px|thumb|Katy w Pokémon Adventures\n\nNotki\n\nPowiązane artykuły", "token_count": 560}
-{"added": "2026-10-02", "author": "creepypasta contributors", "created": "2015-02-08", "id": "fandom_pl_creepypasta_70777", "license": "CC-BY-SA-3.0", "source": "fandom_pl", "text": "Hej, jestem Lucy. A dzisiejszy dzień był trochę dziwny. Dzień jak co dzień. Niesamowite nudy w moim domu. Już nawet gry komputerowe nie dawały mi tej satysfakcji, nudziłam się. Położyłam się do łóżka i usnęłam.\n\nObudziłam się zapewne kilka godzin później na podłodze ciemnego wręcz czarnego pokoju obok jakiegoś chłopaka i dziewczyny ubranej na podobieństwo pikachu, widocznie dziewczyna była zdziwiona podobnie jak ja. Zobaczyłam średniej wielkości pudło podpisane moim imieniem kiedy tylko się odwróciłam. Otworzyłam pudło i wyjęłam jakąś dziwną, wielką kolekcje figurek. Chłopców było dwóch nie wiedziałam kim oni są. Wyszli bardzo szybko a my z Pika, dziewczyną o ślicznych niebieskich oczach, półdługich brązowych włosach zostałyśmy i rozpakowywałyśmy się. Po dobrych kilku minutach wyszłyśmy z pokoju. Jeden z chłopaków wyglądał na młodszego, ubrany w podartą, czerwoną koszulę w białą kratkę, czarne skórzane spodnie, buty i kurtkę. Zauważyłam, że jest kościsty, garbaty i nosi okulary. Jego włosy były krótkie i czarne. Za paskiem trzymał Biblię. Został jeszcze ubrany w białą koszulkę, jeans' y, skóre i wojskowe buty, wysoki brunet, miał szare oczy i również nosił okulary . Poszłam za nimi nic nie mówiąc. Doszliśmy do ,,stołówki\" Usiedliśmy a ja spuściłam wzrok i popatrzyłam na swoje trampki. Nagle tak zwany Kacper przyniósł wodę oraz 7Days'y i zaczął rozmowę:\n\n- Na początek chciałbym was serdecznie przywitać, w waszym nowym domu. - powiedział z lekkim uśmiechem - Jak się nazywacie?\n\n- Nie podam ci swojego imienia, mów mi Kapłan. - powiedział oschle ten inny chłopak\n\n- Ja mam na imię Lucy. - niepewnie odpowiedziałam na jego pytanie i wsłuchiwałam się w dalszy ciąg rozmowy.\n\n- Nazywam się Ange. A jak ty masz na imię? - powiedziała dziewczyna-pikachu.\n\n- Mam na imię Kacper. Miło mi was poznać. - powiedział - Chcecie się czegoś więcej dowiedzieć o waszym położeniu? - trzy głowy skinęły potwierdzająco. Wziął wdech i powiedział. - Jesteśmy w mieście założonym przez rząd 10 kilometrów nad ziemią. Poza nami żyją tu tylko najgorsi bandyci i rządowi. Tym samym jedyni wyglądamy tutaj na ludzi więc nie zdziwcie się gdy zostaniemy zaatakowani...\n\n- Poczekaj, czemu są tu sami bandyci z rządowymi i czemu niby tylko my wyglądamy na ludzi? Człowiek to człowiek. - wtrąciłam się, nie wiedząc o czym mowa.\n\n- Ma rację - dodała Ange\n\n- Dajcie mi dokończyć. Kontynuując, wyglądamy na ludzi dlatego jest wszędzie rozpylona broń biologiczna i wszystkich innych zniekształciło. Uprzedzę pytanie, bierzemy udział w wielkim eksperymencie. Krótko mówiąc, jesteśmy królikami doświadczalnymi.-powiedział Kacper a tym samym opowiadając nam o swoich przeżyciach w ciągu czasu, który tu spędził. Następnie wszyscy wróciliśmy do pokoju, przez cały czas zadawałam sobie te same pytania Co się dzieje?\", \"Co ja tu robię?\" czy też \"Czy jest bezpiecznie w tym pokoju?\". Następny dzień zapowiadał się interesująco.", "token_count": 1140}

data/fandom_pl/fandom_pl.stats.json

@@ -1,124 +0,0 @@
-{
-  "added": "2026-10-02",
-  "boilerplate_lines_removed": 36,
-  "boilerplate_shingles_excluded": 11,
-  "characters": 121944687,
-  "kept": 50653,
-  "license_counts": {
-    "CC-BY-SA-3.0": 50653
-  },
-  "rejected": 89670,
-  "sample_count": 12,
-  "source_pages": 140323,
-  "tokens": 45790009,
-  "wikis": [
-    {
-      "api_url": "https://elderscrolls.fandom.com/pl/api.php",
-      "articles": 45027,
-      "base": "https://elderscrolls.fandom.com/pl/wiki/The_Elder_Scrolls_Wiki",
-      "lang": "pl",
-      "name": "elderscrolls",
-      "pages": 108291,
-      "wikiid": "plelderscrolls"
-    },
-    {
-      "api_url": "https://wiedzmin.fandom.com/pl/api.php",
-      "articles": 12987,
-      "base": "https://wiedzmin.fandom.com/wiki/Wied%C5%BAmin_Wiki",
-      "lang": "pl",
-      "name": "wiedzmin",
-      "pages": 51875,
-      "wikiid": "wiedzmin"
-    },
-    {
-      "api_url": "https://gothic.fandom.com/pl/api.php",
-      "articles": 11846,
-      "base": "https://gothic.fandom.com/pl/wiki/Gothic_i_ArcaniA",
-      "lang": "pl",
-      "name": "gothic",
-      "pages": 108028,
-      "wikiid": "plgothic"
-    },
-    {
-      "api_url": "https://harrypotter.fandom.com/pl/api.php",
-      "articles": 11292,
-      "base": "https://harrypotter.fandom.com/pl/wiki/Strona_g%C5%82%C3%B3wna",
-      "lang": "pl",
-      "name": "harrypotter",
-      "pages": 114378,
-      "wikiid": "plharrypotter"
-    },
-    {
-      "api_url": "https://gta.fandom.com/pl/api.php",
-      "articles": 10814,
-      "base": "https://gta.fandom.com/pl/wiki/Grand_Theft_Auto_Wiki",
-      "lang": "pl",
-      "name": "gta",
-      "pages": 46611,
-      "wikiid": "plgta"
-    },
-    {
-      "api_url": "https://sims.fandom.com/pl/api.php",
-      "articles": 8242,
-      "base": "https://sims.fandom.com/pl/wiki/Simspedia",
-      "lang": "pl",
-      "name": "sims",
-      "pages": 75168,
-      "wikiid": "plsims"
-    },
-    {
-      "api_url": "https://starwars.fandom.com/pl/api.php",
-      "articles": 7017,
-      "base": "https://starwars.fandom.com/pl/wiki/Strona_g%C5%82%C3%B3wna",
-      "lang": "pl",
-      "name": "starwars",
-      "pages": 15098,
-      "wikiid": "plstarwars"
-    },
-    {
-      "api_url": "https://naruto.fandom.com/pl/api.php",
-      "articles": 5242,
-      "base": "https://naruto.fandom.com/pl/wiki/Naruto_Wiki",
-      "lang": "pl",
-      "name": "naruto",
-      "pages": 41237,
-      "wikiid": "plnaruto"
-    },
-    {
-      "api_url": "https://pokemon.fandom.com/pl/api.php",
-      "articles": 7057,
-      "base": "https://pokemon.fandom.com/pl/wiki/Pok%C3%A9mon_Wiki",
-      "lang": "pl",
-      "name": "pokemon",
-      "pages": 75468,
-      "wikiid": "plpokemony"
-    },
-    {
-      "api_url": "https://dragonage.fandom.com/pl/api.php",
-      "articles": 2999,
-      "base": "https://dragonage.fandom.com/pl/wiki/Dragon_Age_Wiki",
-      "lang": "pl",
-      "name": "dragonage",
-      "pages": 10212,
-      "wikiid": "pldragonage"
-    },
-    {
-      "api_url": "https://fallout.fandom.com/pl/api.php",
-      "articles": 4052,
-      "base": "https://fallout.fandom.com/pl/wiki/Krypta_%E2%80%93_Fallout_Wiki",
-      "lang": "pl",
-      "name": "fallout",
-      "pages": 13948,
-      "wikiid": "plfallout"
-    },
-    {
-      "api_url": "https://creepypasta.fandom.com/pl/api.php",
-      "articles": 2590,
-      "base": "https://creepypasta.fandom.com/pl/wiki/Creepypasta_Wiki",
-      "lang": "pl",
-      "name": "creepypasta",
-      "pages": 111979,
-      "wikiid": "plcreepypasta"
-    }
-  ]
-}

src/build_fandom_pl.py

@@ -1,919 +0,0 @@
-#!/usr/bin/env python3
-"""Build an auditable slice of Polish Fandom wikis (fan-content namespaces), CC BY-SA 3.0."""
-from __future__ import annotations
-
-import argparse
-from collections import Counter
-from concurrent.futures import ProcessPoolExecutor
-from datetime import datetime, timezone
-from difflib import SequenceMatcher
-import gzip
-import hashlib
-import ipaddress
-import json
-from pathlib import Path
-import re
-import time
-import unicodedata
-from xml.etree.ElementTree import iterparse
-from urllib.parse import quote
-
-import requests
-
-
-SOURCE = "fandom_pl"
-OWN_REPO = "PiotrSty/fandom-pl"
-TARGET = "SlayerLab/polish-dynaword"
-SOURCE_URL = "https://www.fandom.com/licensing"
-FIELDS = ["id", "text", "source", "added", "created", "token_count", "license", "author"]
-UA = {"User-Agent": "polish-dynaword/0.2 (+research; openly-licensed corpus)"}
-LICENSE_SPDX = "CC-BY-SA-3.0"
-LICENSE_TERMS_URL = "https://creativecommons.org/licenses/by-sa/3.0/"
-FANDOM_LICENSE_URL = "https://web.archive.org/web/20241231234031/https://www.fandom.com/licensing"
-WIKIS = [
-    ("elderscrolls", "https://elderscrolls.fandom.com/pl/api.php"),
-    ("wiedzmin", "https://wiedzmin.fandom.com/pl/api.php"),
-    ("gothic", "https://gothic.fandom.com/pl/api.php"),
-    ("harrypotter", "https://harrypotter.fandom.com/pl/api.php"),
-    ("gta", "https://gta.fandom.com/pl/api.php"),
-    ("sims", "https://sims.fandom.com/pl/api.php"),
-    ("starwars", "https://starwars.fandom.com/pl/api.php"),
-    ("naruto", "https://naruto.fandom.com/pl/api.php"),
-    ("pokemon", "https://pokemon.fandom.com/pl/api.php"),
-    ("dragonage", "https://dragonage.fandom.com/pl/api.php"),
-    ("fallout", "https://fallout.fandom.com/pl/api.php"),
-    ("creepypasta", "https://creepypasta.fandom.com/pl/api.php"),
-]
-MIN_TEXT_CHARS = 500
-BOILERPLATE_MIN_DOC_FREQ = 0.01
-DF_FRACTION = 0.02
-DF_SUBSAMPLE_STRIDE = 4
-EMAIL_RE = re.compile(r"(?i)\b[A-Z0-9._%+-]+@[A-Z0-9.-]+\.[A-Z]{2,}\b")
-PHONE_RE = re.compile(r"(?i)(?:\btelefon|\btel\.|\bphone)\s*:?[ \t]*(?:\+48[ \t]*)?\d(?:[ .-]?\d){8}\b")
-IPV4_RE = re.compile(r"\b\d{1,3}\.\d{1,3}\.\d{1,3}\.\d{1,3}\b")
-IPV6_RE = re.compile(r"(?i)\b(?:[0-9a-f]{1,4}:){3,}[0-9a-f]{1,4}\b")
-
-
-IPV6_CANDIDATE_RE = re.compile(r"(?<![\w:])(?:[0-9a-fA-F]{0,4}:){2,}[0-9a-fA-F:.]*(?![\w:])")
-NATIONAL_ID_RE = re.compile(r"(?i)\b(PESEL|NIP|REGON)\s*[:=]?\s*\d(?:[ -]?\d){8,13}\b")
-BANK_ACCOUNT_RE = re.compile(r"(?<!\d)(?:PL\s*)?\d{2}(?:[ -]?\d){24}(?!\d)")
-
-
-def is_ipv6(value):
-    try:
-        return ipaddress.ip_address(value.rstrip(".")).version == 6
-    except ValueError:
-        return False
-
-
-def redact_pii(text):
-    counts = Counter()
-
-    def replace_ipv6(match):
-        value = match.group().rstrip(".")
-        if not is_ipv6(value):
-            return match.group()
-        counts["ipv6"] += 1
-        return "[REDACTED:IP]" + match.group()[len(value):]
-
-    text = IPV6_CANDIDATE_RE.sub(replace_ipv6, text)
-    for name, pattern, replacement in (
-        ("email", EMAIL_RE, "[REDACTED:EMAIL]"),
-        ("labelled_phone", PHONE_RE, "[REDACTED:PHONE]"),
-        ("ipv4", IPV4_RE, "[REDACTED:IP]"),
-        ("ipv6_legacy_pattern", IPV6_RE, "[REDACTED:IP]"),
-        ("national_identifier", NATIONAL_ID_RE, lambda match: match.group(1) + " [REDACTED:ID]"),
-        ("account_candidate", BANK_ACCOUNT_RE, "[REDACTED:ACCOUNT]"),
-    ):
-        text, count = pattern.subn(replacement, text)
-        counts[name] += count
-    return text, counts
-
-
-def now():
-    return datetime.now(timezone.utc).isoformat()
-
-
-def digest(value):
-    if not isinstance(value, bytes):
-        value = json.dumps(value, ensure_ascii=False, sort_keys=True, separators=(",", ":")).encode("utf-8")
-    return hashlib.sha256(value).hexdigest()
-
-
-def sha1_file(path):
-    h = hashlib.sha1()
-    with path.open("rb") as handle:
-        while chunk := handle.read(1 << 22):
-            h.update(chunk)
-    return h.hexdigest()
-
-
-def save(path, value):
-    path.parent.mkdir(parents=True, exist_ok=True)
-    path.write_text(json.dumps(value, ensure_ascii=False, sort_keys=True, indent=2) + "\n", encoding="utf-8")
-
-
-def write_lines(path, rows):
-    path.parent.mkdir(parents=True, exist_ok=True)
-    with path.open("w", encoding="utf-8") as handle:
-        for row in rows:
-            handle.write(json.dumps(row, ensure_ascii=False, sort_keys=True) + "\n")
-
-
-def read_lines(path):
-    return [json.loads(line) for line in path.read_text(encoding="utf-8").split("\n") if line]
-
-
-def load(path):
-    return json.loads(path.read_text(encoding="utf-8"))
-
-
-def request(url, attempts=5, timeout=(15, 90), params=None):
-    response = None
-    for attempt in range(attempts):
-        response = requests.get(url, headers=UA, params=params, timeout=timeout)
-        if response.status_code not in (429, 500, 502, 503, 504):
-            response.raise_for_status()
-            return response
-        time.sleep(2 ** attempt)
-    response.raise_for_status()
-
-
-def request_json(url, params=None):
-    return request(url, params=params).json()
-
-
-def _local(tag):
-    return tag.rsplit("}", 1)[-1]
-
-
-def drop_layout_lines(text):
-    """Drop interwiki-link blocks and category lines left as plain text after stripping.
-
-    Interwiki tails ("de:X en:Y es:Z ...") and category names ("Kategoria:...")
-    survive mwparserfromhell as ordinary lines; the cross-document boilerplate
-    filter only removes lines frequent in >=1% of documents, so they leak into
-    the corpus. This is the v2 fix for that residue.
-    """
-    kept = []
-    for line in text.splitlines():
-        stripped = line.strip()
-        if stripped and (
-            re.match(r"^[a-z]{2,3}:\S", stripped)
-            or len(re.findall(r"\b[a-z]{2,3}:", stripped)) >= 2
-            or re.match(r"^(?:Kategoria|Category):", stripped)
-        ):
-            continue
-        kept.append(line)
-    return "\n".join(kept)
-
-
-def strip_wikitext(wikitext):
-    import mwparserfromhell
-    try:
-        return drop_layout_lines(
-            mwparserfromhell.parse(wikitext).strip_code(normalize=True, collapse=True).strip()
-        ).strip()
-    except Exception:
-        return ""
-
-
-def _strip_batch(items):
-    return [strip_wikitext(wikitext) for _, _, _, _, wikitext in items]
-
-
-def discover(out):
-    results = []
-    for name, api_url in WIKIS:
-        try:
-            r = request_json(api_url + "?action=query&meta=siteinfo&siprop=general|statistics&format=json")
-            q = r.get("query", {})
-            g, st = q.get("general", {}), q.get("statistics", {})
-            results.append({
-                "name": name,
-                "api_url": api_url,
-                "wikiid": g.get("wikiid"),
-                "articles": st.get("articles"),
-                "pages": st.get("pages"),
-                "lang": g.get("lang"),
-                "base": g.get("base"),
-            })
-        except Exception as e:
-            print(f"WARNING: {name} discovery failed: {e}")
-    if not results:
-        raise ValueError("no wikis discovered")
-    selection = {
-        "observed_at": now(),
-        "wikis": results,
-        "total_articles": sum(r["articles"] for r in results),
-        "min_text_chars": MIN_TEXT_CHARS,
-        "license": "CC BY-SA 3.0 (Fandom site license, per Wayback snapshot 2024-12-31)",
-        "license_url_observed": FANDOM_LICENSE_URL,
-        "license_provenance": "Wayback Machine snapshot of https://www.fandom.com/licensing",
-        "files_sha256": digest(results),
-    }
-    save(out / "selection.json", selection)
-    print(json.dumps({k: selection[k] for k in ("total_articles", "license")}, indent=2))
-    print("wikis:", len(results))
-
-
-def fetch_wiki_titles(api_url, namespace=0, limit=500):
-    """Yield titles from allpages with pagination."""
-    apcontinue = None
-    while True:
-        params = {"action": "query", "list": "allpages", "apnamespace": namespace,
-                  "aplimit": limit, "format": "json"}
-        if apcontinue:
-            params["apcontinue"] = apcontinue
-        r = request_json(api_url, params=params)
-        pages = r.get("query", {}).get("allpages", [])
-        for p in pages:
-            yield p["title"]
-        apcontinue = r.get("continue", {}).get("apcontinue")
-        if not apcontinue:
-            break
-
-
-def fetch_revisions(api_url, titles):
-    """Batch fetch revisions for up to 50 titles."""
-    if not titles:
-        return []
-    params = {"action": "query", "titles": "|".join(titles),
-              "prop": "revisions", "rvprop": "content|timestamp", "rvslots": "main",
-              "format": "json"}
-    r = request_json(api_url, params=params)
-    records = []
-    for pageid, data in r.get("query", {}).get("pages", {}).items():
-        if "missing" in data:
-            continue
-        if "ns" not in data or "title" not in data:
-            continue
-        title = data["title"]
-        ns = str(data["ns"])
-        revs = data.get("revisions", [])
-        if not revs:
-            continue
-        latest = revs[0]
-        text = latest.get("slots", {}).get("main", {}).get("*", "")
-        timestamp = latest.get("timestamp", "")
-        records.append((pageid, ns, title, timestamp, text))
-    return records
-
-
-def acquire(out, workers):
-    selection = load(out / "selection.json")
-    extracted_dir = out / "extracted"
-    extracted_dir.mkdir(exist_ok=True)
-    manifest = []
-    BATCH_SIZE = 50
-
-    def add_manifest(path):
-        added = 0
-        with gzip.open(path, "rt", encoding="utf-8") as f:
-            for line in f:
-                row = json.loads(line)
-                manifest.append({"pageid": row["pageid"], "ns": row["ns"], "title": row["title"],
-                                 "timestamp": row["timestamp"], "wiki": row["wiki"],
-                                 "url": page_url(row["title"], row["wiki"])})
-                added += 1
-        return added
-
-    for wiki in selection["wikis"]:
-        name = wiki["name"]
-        api_url = wiki["api_url"]
-        print(f"  fetching {name} (ns0 articles: {wiki['articles']:,})", flush=True)
-        out_path = extracted_dir / f"{name}.jsonl.gz"
-        if out_path.exists():
-            count = add_manifest(out_path)
-            print(f"    {name}: already fetched ({count} records)", flush=True)
-            continue
-        tmp_path = extracted_dir / f"{name}.jsonl.gz.tmp"
-        if tmp_path.exists():
-            tmp_path.unlink()
-        titles = list(fetch_wiki_titles(api_url, namespace=0, limit=500))
-        print(f"    {name}: {len(titles)} titles fetched", flush=True)
-        written = 0
-        with gzip.open(tmp_path, "wt", encoding="utf-8") as f:
-            for batch_index, i in enumerate(range(0, len(titles), BATCH_SIZE), start=1):
-                batch = titles[i:i + BATCH_SIZE]
-                records = fetch_revisions(api_url, batch)
-                texts = _strip_batch(records)
-                for (pageid, ns, title, timestamp, wikitext), text in zip(records, texts):
-                    f.write(json.dumps({"pageid": pageid, "ns": ns, "title": title,
-                                        "timestamp": timestamp, "wikitext_chars": len(wikitext),
-                                        "text": text, "wiki": name}, ensure_ascii=False) + "\n")
-                written += len(records)
-                if batch_index % 25 == 0 or i + BATCH_SIZE >= len(titles):
-                    print(f"    {name}: {min(i + BATCH_SIZE, len(titles))}/{len(titles)} titles, "
-                          f"{written} revisions written", flush=True)
-                time.sleep(1)  # throttle
-        tmp_path.replace(out_path)
-        count = add_manifest(out_path)
-        print(f"    {name}: {count} records written", flush=True)
-    write_lines(out / "source_manifest.jsonl", manifest)
-    acquisition = {
-        "observed_at": now(), "wikis": selection["wikis"],
-        "source_pages": len(manifest),
-        "manifest_sha256": digest((out / "source_manifest.jsonl").read_bytes()),
-    }
-    save(out / "acquisition.json", acquisition)
-    print(json.dumps(acquisition, ensure_ascii=False, indent=2))
-
-
-def strip_boilerplate(texts_index):
-    counts = Counter()
-    for lines in texts_index:
-        counts.update(set(re.sub(r"\s+", " ", line).strip() for line in lines if line.strip()))
-    n = len(texts_index)
-    return {line for line, count in counts.items()
-            if count / n >= BOILERPLATE_MIN_DOC_FREQ and len(line) < 160}
-
-
-def normalize(text):
-    text = unicodedata.normalize("NFKC", text or "").replace("­", "").replace("​", "")
-    text = re.sub(r"[\x00-\x08\x0b\x0c\x0e-\x1f\x7f]", "", text)
-    lines = [re.sub(r"[ \t\xa0]+", " ", line).strip() for line in text.splitlines()]
-    lines = [line for line in lines if not re.fullmatch(r"\d{1,4}", line)]
-    text = "\n".join(lines)
-    text = re.sub(r"(?<=\w)-\n(?=[a-ząćęłńóśźż])", "", text)
-    text = re.sub(r"(?<![.!?:;\n])\n(?!\n)(?=[a-ząćęłńóśźż])", " ", text)
-    return re.sub(r"\n{3,}", "\n\n", text).strip()
-
-
-def page_url(title, wiki=""):
-    if wiki:
-        # construct from wiki base
-        return f"https://{wiki}.fandom.com/pl/wiki/" + quote((title or "").replace(" ", "_"), safe="/:")
-    return SOURCE_URL
-
-
-def normalize_title(text):
-    text = unicodedata.normalize("NFKD", text or "").casefold()
-    text = "".join(character for character in text if not unicodedata.combining(character))
-    return " ".join(re.findall(r"\w+", text))
-
-
-def shingle_sketch(text, limit=5_000):
-    words = re.findall(r"\w+", text.casefold())
-    hashes = set()
-    for index in range(max(0, len(words) - 4)):
-        value = " ".join(words[index:index + 5]).encode("utf-8")
-        hashes.add(int.from_bytes(hashlib.blake2b(value, digest_size=8).digest(), "big"))
-    if len(hashes) > limit:
-        return set(sorted(hashes)[:limit])
-    return hashes
-
-
-def boilerplate_shingles(candidates, boilerplate, stride=DF_SUBSAMPLE_STRIDE, fraction=DF_FRACTION):
-    df = Counter()
-    sampled = 0
-    for index, record in enumerate(candidates):
-        if index % stride:
-            continue
-        text = "\n".join(line for line in record["text"].splitlines()
-                         if re.sub(r"\s+", " ", line).strip() not in boilerplate)
-        text = re.sub(r"\n{3,}", "\n\n", text).strip()
-        df.update(shingle_sketch(text))
-        sampled += 1
-    max_df = max(1, int(sampled * fraction))
-    return {shingle for shingle, count in df.items() if count > max_df}, max_df, sampled
-
-
-def filter_sketch(sketch, hot):
-    return {shingle for shingle in sketch if shingle not in hot}
-
-
-class NearDuplicateIndex:
-    def __init__(self):
-        self.postings = {}
-        self.records = []
-        self.comparisons = 0
-
-    @staticmethod
-    def prefix(sketch):
-        return sorted(sketch)[:len(sketch) - (9 * len(sketch) + 9) // 10 + 1]
-
-    def find(self, sketch):
-        candidates = set()
-        for value in self.prefix(sketch):
-            candidates.update(self.postings.get(value, ()))
-        for position in sorted(candidates):
-            row_id, other = self.records[position]
-            if 10 * min(len(sketch), len(other)) < 9 * max(len(sketch), len(other)):
-                continue
-            self.comparisons += 1
-            intersection = len(sketch & other)
-            score = intersection / max(len(sketch) + len(other) - intersection, 1)
-            if score >= 0.90:
-                return row_id, score
-        return None, 0.0
-
-    def add(self, row_id, sketch):
-        position = len(self.records)
-        self.records.append((row_id, sketch))
-        for value in self.prefix(sketch):
-            self.postings.setdefault(value, []).append(position)
-
-
-def language_vote(identifier, text):
-    chunks = [text[:30_000], text[max(0, len(text) // 2 - 15_000):len(text) // 2 + 15_000], text[-30_000:]]
-    classified = {chunk: identifier.classify(chunk) for chunk in dict.fromkeys(chunks) if chunk.strip()}
-    votes = [classified[chunk] for chunk in chunks if chunk in classified]
-    languages = Counter(language for language, _ in votes)
-    return (languages.most_common(1)[0][0] if languages else "unknown", votes)
-
-
-def audit_target(out):
-    info = request_json(f"https://huggingface.co/api/datasets/{TARGET}")
-    revision = info["sha"]
-    tree = request_json(f"https://huggingface.co/api/datasets/{TARGET}/tree/{revision}?recursive=true&expand=false")
-    discussions = request_json(f"https://huggingface.co/api/datasets/{TARGET}/discussions?status=open&p=0")
-    paths = sorted(item.get("path", "") for item in tree)
-    open_rows = [{"num": item.get("num"), "title": item.get("title"), "status": item.get("status"),
-                  "author": item.get("author", {}).get("name")} for item in discussions.get("discussions", [])]
-    terms = ("fandom", "elderscrolls", "wiedzmin", "gothic", "harrypotter", "gta", "sims", "starwars", "naruto", "pokemon", "dragonage", "fallout", "creepypasta")
-    matches = [path for path in paths if any(term in path.casefold() for term in terms)]
-    discussion_matches = [row for row in open_rows if any(term in (row.get("title") or "").casefold()
-                                                          for term in terms)]
-    report = {
-        "target": TARGET, "revision": revision, "last_modified": info.get("lastModified"),
-        "tree_paths": len(paths), "source_path_matches": matches, "open_discussions": open_rows,
-        "matching_open_discussions": discussion_matches, "source_absent": not matches and not discussion_matches,
-        "observed_at": now(),
-    }
-    save(out / "target_audit.json", report)
-    print(json.dumps({"revision": revision, "source_absent": report["source_absent"],
-                      "tree_matches": matches, "discussion_matches": discussion_matches}, ensure_ascii=False, indent=2))
-
-
-def audit_overlap(out):
-    import pyarrow.parquet as pq
-    from huggingface_hub import HfApi, HfFileSystem
-
-    acquisition = load(out / "acquisition.json")
-    revision = HfApi().dataset_info(TARGET).sha
-    remote = f"datasets/{TARGET}@{revision}/data/wikipedia/wikipedia.parquet"
-    with HfFileSystem().open(remote, "rb") as handle:
-        table = pq.read_table(handle, columns=["id"])
-    target_ids = set(table.column("id").to_pylist())
-    candidate_ids = {f"{SOURCE}_{row['pageid']}" for row in read_lines(out / "source_manifest.jsonl")}
-    collisions = sorted(candidate_ids & target_ids)
-    report = {
-        "target": f"{TARGET}:data/wikipedia", "target_revision": revision,
-        "method": "Literal dataset-record ID comparison only. Source-specific ID prefixes make zero collisions "
-                  "uninformative about page identity or text overlap. No target namespace or text audit was performed.",
-        "target_rows": table.num_rows, "candidate_records": len(candidate_ids),
-        "id_collisions": collisions[:50], "collision_count": len(collisions),
-        "text_overlap": "not tested; quoted-article passages and target-wide text dedup remain integration gates",
-        "observed_at": now(),
-    }
-    save(out / "overlap_audit.json", report)
-    print(json.dumps({key: report[key] for key in ("target_revision", "target_rows", "candidate_records",
-                                                    "collision_count")}, ensure_ascii=False, indent=2))
-
-
-def build(out):
-    import pyarrow as pa
-    import pyarrow.parquet as pq
-    import tiktoken
-    from langid.langid import LanguageIdentifier, model
-
-    build_started_at = now()
-    acquisition = load(out / "acquisition.json")
-    selection = load(out / "selection.json")
-    encoder = tiktoken.get_encoding("cl100k_base")
-    identifier = LanguageIdentifier.from_modelstring(model, norm_probs=True)
-    identifier.set_languages(["pl", "en", "de", "uk", "ru"])
-
-    candidates = []
-    for shard in sorted((out / "extracted").glob("*.jsonl.gz")):
-        with gzip.open(shard, "rt", encoding="utf-8") as f:
-            for line in f:
-                row = json.loads(line)
-                row["text"] = normalize(row["text"])
-                candidates.append(row)
-    boilerplate = strip_boilerplate([row["text"].splitlines() for row in candidates])
-    print(f"boilerplate lines: {len(boilerplate)}", flush=True)
-    hot, max_df, df_sampled = boilerplate_shingles(candidates, boilerplate)
-    print(f"boilerplate shingles: {len(hot)} (df>{max_df} over {df_sampled} sampled docs)", flush=True)
-
-    rows, attribution, decisions, exact_seen = [], [], [], {}
-    near_index = NearDuplicateIndex()
-    pii = Counter()
-    added = acquisition["observed_at"][:10]
-    started = last_progress = time.monotonic()
-    for processed, record in enumerate(candidates, 1):
-        current = time.monotonic()
-        if current - last_progress >= 10 or processed == len(candidates):
-            print(f"  processed={processed - 1}/{len(candidates)} kept={len(rows)} "
-                  f"rate={(processed - 1) / max(current - started, 0.001):.1f}/s "
-                  f"near_comparisons={near_index.comparisons}", flush=True)
-            last_progress = current
-        text = "\n".join(line for line in record["text"].splitlines()
-                         if re.sub(r"\s+", " ", line).strip() not in boilerplate)
-        text = re.sub(r"\n{3,}", "\n\n", text).strip()
-        replacement_count = text.count("\ufffd")
-        letters = len(re.findall(r"[A-Za-zĄĆĘŁŃÓŚŹŻąćęłńóśźż]", text))
-        language, votes = "not_checked", []
-        reason = ""
-        if len(text) < MIN_TEXT_CHARS:
-            reason = "too_little_text"
-        elif letters / max(len(text), 1) < 0.5:
-            reason = "low_letter_ratio"
-        elif replacement_count > 100 or replacement_count / max(len(text), 1) > 0.002:
-            reason = "excessive_replacement_characters"
-        if not reason:
-            language, votes = language_vote(identifier, text)
-            if language != "pl":
-                reason = "non_polish_text"
-        text = text.replace("\ufffd", "[UNREADABLE_GLYPH]")
-        text, pii_counts = redact_pii(text)
-        pii.update(pii_counts)
-        if not reason and len(text) < MIN_TEXT_CHARS:
-            reason = "too_little_text_after_redaction"
-        exact_key = digest(" ".join(text.casefold().split()).encode("utf-8"))
-        duplicate_of, duplicate_score = None, 0.0
-        if not reason and exact_key in exact_seen:
-            reason, duplicate_of, duplicate_score = "normalized_duplicate", exact_seen[exact_key], 1.0
-        if not reason:
-            sketch = filter_sketch(shingle_sketch(text), hot)
-            duplicate_of, duplicate_score = near_index.find(sketch)
-            if duplicate_of is not None:
-                reason = "near_duplicate"
-        row_id = f"{SOURCE}_{record.get('wiki', 'fandom')}_{record['pageid']}"
-        decision = {
-            "id": row_id, "selected": not bool(reason), "reason": reason or "include",
-            "characters": len(text), "letter_ratio": letters / max(len(text), 1),
-            "replacement_characters": replacement_count, "language": language,
-            "language_votes": [{"language": lang, "confidence": float(score)} for lang, score in votes],
-        }
-        if duplicate_of:
-            decision.update({"duplicate_of": duplicate_of, "jaccard": duplicate_score})
-        decisions.append(decision)
-        if reason:
-            continue
-        exact_seen[exact_key] = row_id
-        near_index.add(row_id, sketch)
-        row = {
-            "id": row_id, "text": text, "source": SOURCE, "added": added,
-            "created": (record["timestamp"] or "")[:10] or "unknown",
-            "token_count": len(encoder.encode_ordinary(text)),
-            "license": LICENSE_SPDX, "author": f"{record.get('wiki', 'fandom')} contributors",
-        }
-        rows.append(row)
-        attribution.append({
-            "id": row_id, "pageid": record["pageid"], "wiki": record.get("wiki", "fandom"),
-            "ns": record["ns"], "title": record["title"],
-            "url": page_url(record["title"], record.get("wiki", "")),
-            "last_revision_at": record["timestamp"], "wikitext_chars": record["wikitext_chars"],
-            "license": LICENSE_SPDX,
-            "license_evidence": LICENSE_TERMS_URL + " (Fandom site license, per Wayback snapshot; attribution by page URL)",
-            "dump": {"wikis": selection["wikis"], "license_provenance": selection["license_provenance"]},
-            "text_sha256": digest(text.encode("utf-8")),
-            "transformations": ["MediaWiki API fetch (allpages + revisions), latest revision per page", "mwparserfromhell wikitext strip",
-                                "cross-document boilerplate-line removal",
-                                "Unicode/whitespace normalization", "page-number-only removal",
-                                "line-wrap repair", "email/labelled-phone/IP/labelled-national-ID/account-candidate pattern redaction"],
-        })
-
-    root = out / "hf_repo"
-    (root / "data").mkdir(parents=True, exist_ok=True)
-    (root / "artifacts").mkdir(parents=True, exist_ok=True)
-    schema = pa.schema([(field, pa.int64() if field == "token_count" else pa.string()) for field in FIELDS])
-    pq.write_table(pa.Table.from_pylist(rows, schema=schema), root / "data/train-00000-of-00001.parquet", compression="zstd")
-    write_lines(root / "artifacts/attribution.jsonl", attribution)
-    write_lines(root / "artifacts/decisions.jsonl", decisions)
-    write_lines(root / "artifacts/source_manifest.jsonl", read_lines(out / "source_manifest.jsonl"))
-    sample = sorted(rows, key=lambda row: digest(("sample:" + row["id"]).encode("utf-8")))[:12]
-    write_lines(root / "artifacts/sample.jsonl", sample)
-    save(root / "artifacts/selection.json", selection)
-    save(root / "artifacts/acquisition.json", acquisition)
-    save(root / "artifacts/boilerplate_lines.json", sorted(boilerplate))
-    overlap = load(out / "overlap_audit.json") if (out / "overlap_audit.json").exists() else None
-    target_audit = load(out / "target_audit.json") if (out / "target_audit.json").exists() else None
-    if overlap:
-        save(root / "artifacts/overlap_audit.json", overlap)
-    if target_audit:
-        save(root / "artifacts/target_audit.json", target_audit)
-    stats = {
-        "wikis": selection["wikis"],
-        "source_pages": acquisition["source_pages"],
-        "kept": len(rows), "rejected": len(decisions) - len(rows),
-        "tokens": sum(row["token_count"] for row in rows),
-        "characters": sum(len(row["text"]) for row in rows),
-        "license_counts": dict(Counter(row["license"] for row in rows)),
-        "boilerplate_lines_removed": len(boilerplate),
-        "boilerplate_shingles_excluded": len(hot),
-        "sample_count": len(sample), "added": added,
-    }
-    qa = {
-        "scope": "Polish Fandom wikis (12 wikis, ns0 articles only), latest revision per page fetched via MediaWiki API",
-        "license_terms_url": LICENSE_TERMS_URL,
-        "license_gate": "CC BY-SA 3.0 declared on Fandom licensing page (Wayback snapshot 2024-12-31); page-URL attribution; third-party notices still require review",
-        "rejection_counts": dict(Counter(item["reason"] for item in decisions if not item["selected"])),
-        "minimum_final_text_characters": MIN_TEXT_CHARS,
-        "created_field_semantics": "Last revision date from the dump, not the page creation date",
-        "language_gate": "independent three-window langid vote",
-        "pii_pattern_matches": dict(pii), "exact_dedup": True,
-        "pii_policy": "IPv6 parsed including compressed notation; labelled PESEL/NIP/REGON and 26-digit account candidates masked conservatively without checksum validation; counts cover all candidates before rejection",
-        "pii_limitations": "Unlabelled national identifiers, free-form phone numbers, names and personal disclosures may remain; this is not complete anonymization",
-        "near_dedup": "deterministic capped 5-word-shingle hash Jaccard >= 0.90 within source; shingles with document frequency >2% (sampled 1-in-4) excluded from sketches",
-        "boilerplate": f"lines occurring in >= {BOILERPLATE_MIN_DOC_FREQ:.0%} of documents removed ({len(boilerplate)} patterns); {len(hot)} high-df shingles excluded from near-dedup sketches (df>{max_df} over {df_sampled} sampled docs)",
-        "wikipedia_shard_overlap": overlap or "pending", "cross_source_text_dedup": "pending target integration",
-        "benchmark_overlap": "pending", "limitations": [
-            "fan-fiction and gaming wiki register: lore, walkthroughs, guides, infobox-heavy content; not factual reference text",
-            "pages may quote/copy official game materials or other copyrighted works; quoted passages are not guaranteed disjoint from other shards",
-            "record model is a whole content page; individual sections are not split",
-            "pattern checks are not comprehensive de-identification",
-        ],
-    }
-    save(root / "artifacts/stats.json", stats)
-    save(root / "artifacts/qa.json", qa)
-    protocol_id = "protocol:fandom-content-v1"
-    run = {
-        "id": "run:" + digest({"script": digest(Path(__file__).read_bytes()), "selection": selection,
-                                  "acquisition": digest(acquisition)}),
-        "protocol": protocol_id, "started_at": build_started_at, "finished_at": now(),
-        "success": True, "actor": "actor:devin", "stats": stats,
-    }
-    save(root / "artifacts/run.json", run)
-    excluded = {"README.md", "NOTICE.md", "artifacts/checksums.json", "artifacts/ontology.json"}
-    checks = {path.relative_to(root).as_posix(): digest(path.read_bytes()) for path in sorted(root.rglob("*"))
-              if path.is_file()
-              and path.relative_to(root).as_posix() not in excluded
-              and not path.relative_to(root).as_posix().startswith("src/")}
-    save(root / "artifacts/checksums.json", checks)
-    source_version = "version:source:" + digest({
-        "wikis": selection["wikis"],
-        "license_provenance": selection["license_provenance"],
-        "files_sha256": selection.get("files_sha256", digest(selection["wikis"])),
-    })
-    dataset_version = "version:dataset:" + digest(checks)
-    selection_evidence = "evidence:selection:" + digest(selection)
-    acquisition_evidence = "evidence:acquisition:" + digest(acquisition)
-    qa_evidence = "evidence:qa:" + digest(qa)
-    evidence = [
-        {"id": selection_evidence, "observation_type": "dump_inventory_and_pinning",
-         "artifact": "artifacts/selection.json", "content_address": digest(selection), "produced_by": run["id"]},
-        {"id": acquisition_evidence, "observation_type": "dump_download_sha1_and_extraction",
-         "artifact": "artifacts/acquisition.json", "content_address": digest(acquisition), "produced_by": run["id"]},
-        {"id": qa_evidence, "observation_type": "source_qa", "artifact": "artifacts/qa.json",
-         "content_address": digest(qa), "produced_by": run["id"]},
-    ]
-    overlap_evidence = None
-    if overlap:
-        overlap_evidence = "evidence:overlap:" + digest(overlap)
-        evidence.append({"id": overlap_evidence, "observation_type": "namespace_overlap_audit",
-                         "artifact": "artifacts/overlap_audit.json", "content_address": digest(overlap),
-                         "produced_by": run["id"]})
-    target_evidence = None
-    if target_audit:
-        target_evidence = "evidence:target:" + digest(target_audit)
-        evidence.append({"id": target_evidence, "observation_type": "target_registry_audit",
-                         "artifact": "artifacts/target_audit.json", "content_address": digest(target_audit),
-                         "produced_by": run["id"]})
-    ontology = {
-        "schema": "slayer-research-ontology-profile-v1",
-        "objects": [{"id": "object:source:fandom-api", "type": "Source"},
-                    {"id": "object:dataset:fandom-content", "type": "Dataset"}],
-        "versions": [{"id": source_version, "object": "object:source:fandom-api",
-                      "content_address": source_version.rsplit(":", 1)[-1]},
-                     {"id": dataset_version, "object": "object:dataset:fandom-content",
-                      "content_address": dataset_version.rsplit(":", 1)[-1]}],
-        "protocols": [{"id": protocol_id, "procedure": "pinned MediaWiki API fetch (allpages + revisions) for 12 Polish Fandom wikis; latest revision per page; ns0 only; wikitext strip; boilerplate removal; normalization; PII patterns; exact and near dedup with high-document-frequency shingle exclusion"}],
-        "runs": [run], "evidence": evidence,
-        "claims": [
-            {"id": "claim:source-pages-observed",
-             "statement": f"The MediaWiki API fetch yielded {acquisition['source_pages']} non-redirect ns0 pages across 12 Fandom wikis.",
-             "supported_by": [selection_evidence, acquisition_evidence],
-             "falsification_condition": "The pinned dump shards do not reproduce the count."},
-            {"id": "claim:slice-retention",
-             "statement": f"The slice retained {stats['kept']} records after text QA and within-source deduplication.",
-             "supported_by": [acquisition_evidence, qa_evidence],
-             "falsification_condition": "The decisions, Parquet rows, or checksums do not reproduce the retention count."},
-            {"id": "claim:source-absence-at-audit",
-             "statement": "Fandom wikis content was not registered as a source in the pinned DynaWord data tree or open pull-request list at audit time.",
-             "supported_by": [target_evidence] if target_evidence else [qa_evidence],
-             "falsification_condition": "The pinned target evidence contains a matching source or proposal."},
-            {"id": "claim:training-value-untested",
-             "statement": "Net corpus novelty and training benefit remain untested hypotheses.",
-             "supported_by": [qa_evidence] + ([overlap_evidence] if overlap_evidence else []),
-             "falsification_condition": "Target-wide text deduplication and controlled ablations establish those properties."},
-        ],
-        "actors": [{"id": "actor:piotrsty", "type": "Contributor"},
-                   {"id": "actor:fandom-community", "type": "Organization"},
-                   {"id": "actor:MediaWiki API", "type": "Organization"}, {"id": "actor:devin", "type": "Agent"}],
-        "relations": [{"source": dataset_version, "predicate": "DERIVED_FROM", "target": source_version},
-                      {"source": dataset_version, "predicate": "GENERATED_BY", "target": run["id"]}] +
-                     ([{"source": dataset_version, "predicate": "VALIDATED_AGAINST",
-                        "target": f"hf:dataset:{TARGET}@{target_audit['revision']}"}] if target_audit else []),
-        "pending": ["cross-source text deduplication", "benchmark contamination check",
-                    "parody-of-real-content screening", "controlled training ablation"],
-    }
-    save(root / "artifacts/ontology.json", ontology)
-    card = f"""---
-license: cc-by-sa-3.0
-language:
-- pl
-task_categories:
-- text-generation
-configs:
-- config_name: default
-  data_files:
-  - split: train
-    path: data/train-00000-of-00001.parquet
----
-
-# Polish Fandom wikis (fan-content, ns0 articles)
-
-Content pages from 12 Polish-language Fandom wikis, fetched via MediaWiki API
-and filtered to namespace 0 (articles). Fandom wikis are community-run fan sites
-for video games, TV series, books and franchises - containing lore, walkthroughs,
-guides, infobox-heavy pages and fan-created content. This is informal, hobbyist
-Polish covering fandom topics (gaming, fantasy, sci-fi, horror) - a register
-complementary to factual sources.
-
-- Wikis: {len(selection['wikis'])} (elderscrolls, wiedzmin, gothic, harrypotter, gta, sims, starwars, naruto, pokemon, dragonage, fallout, creepypasta)
-- Total ns0 articles enumerated: {stats['source_pages']:,}
-- Retained after text QA and within-source deduplication: {stats['kept']:,}
-- Characters: {stats['characters']:,}
-- Tokens: {stats['tokens']:,} (`cl100k_base` proxy)
-- License: CC BY-SA 3.0 per record (Fandom site license, per Wayback snapshot 2024-12-31); authorship via per-page history link
-
-## Provenance and rights
-
-Fandom text is licensed [CC BY-SA 3.0]({LICENSE_TERMS_URL}); the official
-licensing page states this as the default license for Fandom communities.
-Each record keeps its page id, title, namespace, last-revision timestamp and
-canonical URL - the page revision history is the attribution trail. Additional
-third-party attribution notices must be preserved and remain a review item.
-The `created` field is the last revision date, not page creation.
-
-## Processing and limitations
-
-Wikitext is stripped with mwparserfromhell; lines occurring in at least
-{BOILERPLATE_MIN_DOC_FREQ:.0%} of documents are removed as
-cross-document boilerplate (see `artifacts/boilerplate_lines.json`). Unicode and
-whitespace normalization, email/labelled-phone/IP/labelled-national-ID/account-candidate pattern redaction, three-window langid
-vote, exact and near deduplication within source. The final text must contain at
-least {MIN_TEXT_CHARS} characters after redaction. Rejection counts:
-
-```json
-{json.dumps(qa['rejection_counts'], ensure_ascii=False, indent=2)}
-```
-
-PII filtering masks parsed IPv6 addresses (including compressed forms), labelled
-PESEL/NIP/REGON and 26-digit account candidates as well as the existing patterns.
-The account filter is conservative and may mask non-account numbers; unlabelled
-identifiers, free-form phone numbers, names and personal disclosures may remain.
-This is not complete anonymization.
-
-The register is fan-created content: lore, walkthroughs, guides, infobox-heavy pages
-and hobbyist writing. Pages may quote or copy official game materials or other
-copyrighted works; quoted passages are not guaranteed disjoint from other corpus
-shards. The record model is a whole page; individual sections are not split.
-
-## Review artifacts
-
-See `artifacts/sample.jsonl`, `attribution.jsonl`, `decisions.jsonl`,
-`source_manifest.jsonl`, `overlap_audit.json`, `stats.json`, `qa.json`,
-`checksums.json`, `run.json` and `ontology.json`.
-"""
-    (root / "README.md").write_text(card, encoding="utf-8")
-    (root / "NOTICE.md").write_text(
-        "# Attribution and license notice\n\n"
-        "Source: Polish Fandom wikis (12 wikis: elderscrolls, wiedzmin, gothic, harrypotter, gta, sims, starwars, naruto, pokemon, dragonage, fallout, creepypasta), https://www.fandom.com/ - community-run fan sites.\n\n"
-        "Text is available under the Creative Commons Attribution-ShareAlike 3.0 License "
-        "(https://creativecommons.org/licenses/by-sa/3.0/). Attribution is provided via the per-record "
-        "canonical page URL in `artifacts/attribution.jsonl`; each page's revision history lists its "
-        "contributors. License verified via Wayback Machine snapshot of https://www.fandom.com/licensing (2024-12-31).\n\n"
-        "Preparation: Piotr Styla with Devin. Changes: ns0-only filtering, MediaWiki API fetch (allpages + revisions), latest-revision "
-        "selection, wikitext stripping, cross-document boilerplate removal, Unicode and whitespace "
-        "normalization, limited email/labelled-phone/IP/labelled-national-ID/account-candidate "
-        "redaction, language/quality filtering and within-source deduplication. No endorsement by "
-        "Fandom or wiki contributors is implied.\n",
-        encoding="utf-8",
-    )
-    print(json.dumps(stats, ensure_ascii=False, indent=2))
-def verify(out):
-    import pyarrow.parquet as pq
-
-    root = out / "hf_repo"
-    table = pq.read_table(root / "data/train-00000-of-00001.parquet")
-    rows = table.to_pylist()
-    stats = load(root / "artifacts/stats.json")
-    decisions = read_lines(root / "artifacts/decisions.jsonl")
-    attribution = read_lines(root / "artifacts/attribution.jsonl")
-    sample = read_lines(root / "artifacts/sample.jsonl")
-    assert table.column_names == FIELDS
-    assert len(rows) == stats["kept"] == len(attribution)
-    assert sum(item["selected"] for item in decisions) == len(rows)
-    assert sum(row["token_count"] for row in rows) == stats["tokens"]
-    assert all(row["source"] == SOURCE and row["license"] == LICENSE_SPDX for row in rows)
-    assert all(EMAIL_RE.search(row["text"]) is None for row in rows)
-    by_id = {row["id"]: row for row in rows}
-    assert len(sample) == stats["sample_count"] and all(by_id[row["id"]] == row for row in sample)
-    ontology = load(root / "artifacts/ontology.json")
-    evidence = {item["id"] for item in ontology["evidence"]}
-    assert all(item["falsification_condition"] and set(item["supported_by"]) <= evidence for item in ontology["claims"])
-    checks = load(root / "artifacts/checksums.json")
-    assert all((root / path).is_file() and digest((root / path).read_bytes()) == checksum for path, checksum in checks.items())
-    for item in ontology["evidence"]:
-        artifact = root / item["artifact"]
-        assert artifact.is_file() and digest(load(artifact)) == item["content_address"]
-    import tiktoken
-
-    encoder = tiktoken.get_encoding("cl100k_base")
-    assert len(by_id) == len(rows)
-    assert set(by_id) == {item["id"] for item in attribution}
-    assert set(by_id) == {item["id"] for item in decisions if item["selected"]}
-    assert len(decisions) == stats["source_pages"]
-    assert len(decisions) - len(rows) == stats["rejected"]
-    assert sum(len(row["text"]) for row in rows) == stats["characters"]
-    short_ids = [row["id"] for row in rows if len(row["text"]) < MIN_TEXT_CHARS]
-    assert all(row["token_count"] > 0 for row in rows)
-    assert all(len(row["created"]) == 10 and row["author"] for row in rows)
-    assert all(item["ns"] == "0" and item["url"] == page_url(item["title"], item.get("wiki", ""))
-               and item["text_sha256"] == digest(by_id[item["id"]]["text"].encode("utf-8"))
-               for item in attribution)
-    assert all(len(encoder.encode_ordinary(row["text"])) == row["token_count"] for row in rows)
-    boilerplate = set(load(root / "artifacts/boilerplate_lines.json"))
-    review_ids = {row["id"] for row in sorted(sample, key=lambda item: len(item["text"]))[:3]}
-    comparisons = []
-    reconstructed = set()
-    for shard in sorted((out / "extracted").glob("*.jsonl.gz")):
-        with gzip.open(shard, "rt", encoding="utf-8") as handle:
-            for line in handle:
-                original = json.loads(line)
-                row_id = f"{SOURCE}_{original.get('wiki', 'fandom')}_{original['pageid']}"
-                if row_id not in by_id:
-                    continue
-                text = normalize(original["text"])
-                text = "\n".join(line for line in text.splitlines()
-                                 if re.sub(r"\s+", " ", line).strip() not in boilerplate)
-                text = re.sub(r"\n{3,}", "\n\n", text).strip().replace("\ufffd", "[UNREADABLE_GLYPH]")
-                text, _ = redact_pii(text)
-                before = redact_pii(original["text"])[0] if row_id in review_ids else ""
-                assert text == by_id[row_id]["text"], row_id
-                assert row_id not in reconstructed
-                reconstructed.add(row_id)
-                if row_id in review_ids:
-                    comparisons.append({"id": row_id, "title": original["title"],
-                                        "before_normalization_pii_patterns_redacted": before,
-                                        "after": text})
-    assert reconstructed == set(by_id)
-    write_lines(out / "validation_samples.jsonl", comparisons)
-    lengths = sorted(len(row["text"]) for row in rows)
-    rejection_counts = dict(Counter(item["reason"] for item in decisions if not item["selected"]))
-    residuals = {name: sum(bool(pattern.search(row["text"])) for row in rows)
-                 for name, pattern in {"email": EMAIL_RE, "labelled_phone": PHONE_RE,
-                                       "ipv4": IPV4_RE, "ipv6_current_pattern": IPV6_RE}.items()}
-    privacy_review = {
-        "compressed_ipv6_documents": sum(any(is_ipv6(match.group()) for match in IPV6_CANDIDATE_RE.finditer(row["text"])) for row in rows),
-        "labelled_national_identifier_candidates": sum(bool(NATIONAL_ID_RE.search(row["text"])) for row in rows),
-        "bank_account_candidates": sum(bool(BANK_ACCOUNT_RE.search(row["text"])) for row in rows),
-    }
-    report = {
-        "observed_at": now(), "verified": not short_ids and not any(residuals.values()) and not any(privacy_review.values()), "stats": stats,
-        "additional_privacy_review_document_counts": privacy_review,
-        "below_minimum_length_ids": short_ids,
-        "rejection_counts": rejection_counts,
-        "retained_namespaces": dict(Counter(item["ns"] for item in attribution)),
-        "length_quantiles": {str(q): lengths[int((len(lengths) - 1) * q)] for q in (0, 0.5, 0.9, 0.99, 1)},
-        "residual_pattern_document_counts": residuals,
-        "all_token_counts_recomputed": True,
-        "texts_reconstructed_from_extracted_source": len(reconstructed),
-        "before_after_samples": len(comparisons),
-        "publication_ready": False,
-        "pending": ["license evidence and attribution review", "PII coverage review",
-                    "target overlap audit methodology review", "manual text quality review"],
-    }
-    save(out / "validation_report.json", report)
-    print(json.dumps(report, ensure_ascii=False, indent=2))
-    assert report["verified"], "Validation failures: see validation_report.json"
-
-
-def main():
-    parser = argparse.ArgumentParser()
-    parser.add_argument("--output", type=Path, required=True)
-    parser.add_argument("--workers", type=int, default=8)
-    parser.add_argument("command", choices=["discover", "acquire", "audit_target", "audit_overlap",
-                                            "build", "verify"])
-    args = parser.parse_args()
-    if args.command == "discover":
-        discover(args.output)
-    elif args.command == "acquire":
-        acquire(args.output, args.workers)
-    elif args.command == "audit_target":
-        audit_target(args.output)
-    elif args.command == "audit_overlap":
-        audit_overlap(args.output)
-    elif args.command == "build":
-        build(args.output)
-    else:
-        verify(args.output)
-
-
-if __name__ == "__main__":
-    main()
-

src/fandom_requirements.txt

@@ -1,7 +0,0 @@
-requests==2.32.5
-pyarrow==23.0.1
-tiktoken==0.12.0
-langid==1.1.6
-mwparserfromhell==0.7.2
-huggingface_hub>=1.0,<2
-pytest>=8,<10

src/sources.py

@@ -15,21 +15,6 @@ intermediate aggregator, upstream license/attribution is preserved per source.
 # Large cultural/academic sources require per-record rights metadata and should
 # be rebuilt from direct upstream/export scripts rather than blind SpeakLeash pulls.
 SOURCES = {
-    "fandom_pl": {
-        "added": "2026-10-02",
-        "release": None,
-        "file_key": "fandom_pl",
-        "pretty": "Polish Fandom wikis",
-        "license": "CC BY-SA 3.0",
-        "license_spdx": "CC-BY-SA-3.0",
-        "traceable": "Records come from 12 Polish Fandom MediaWiki APIs using allpages + latest revision fetch. Per-record wiki, page id, title, namespace, last-revision timestamp and canonical URL are preserved; page history carries contributor attribution under the Fandom CC BY-SA 3.0 site license.",
-        "upstream": "https://www.fandom.com/licensing",
-        "provenance": "Fetched via MediaWiki API from elderscrolls, wiedzmin, gothic, harrypotter, gta, sims, starwars, naruto, pokemon, dragonage, fallout and creepypasta Polish Fandom wikis. Scope is namespace 0 article pages only. Wikitext stripped with mwparserfromhell, cross-document boilerplate lines removed, normalized, PII patterns redacted (email, labelled phone, IPv4, parsed IPv6 including compressed notation, labelled PESEL/NIP/REGON, 26-digit account candidates), language/quality filtered and within-source deduplicated. Pattern redaction is not complete anonymization.",
-        "domain": "fan-wiki/gaming/cultural-fiction",
-        "created": "latest revisions fetched 2026-10-02",
-        "is_ocr": False,
-        "custom_datasheet": True,
-    },
     "edukacja_medialna_pl": {
         "file_key": "edukacja_medialna_pl",
         "pretty": "Edukacja Medialna - Polish media-literacy lessons",

src/test_build_fandom_pl.py

@@ -1,191 +0,0 @@
-import importlib.util
-from pathlib import Path
-
-
-SCRIPT = Path(__file__).with_name("build_fandom_pl.py")
-SPEC = importlib.util.spec_from_file_location("build_fandom_pl", SCRIPT)
-MODULE = importlib.util.module_from_spec(SPEC)
-SPEC.loader.exec_module(MODULE)
-
-
-def test_ns0_only():
-    assert all(w[0] for w in MODULE.WIKIS)
-    assert len(MODULE.WIKIS) == 12
-
-
-def test_normalize_repairs_hyphenation_and_page_numbers():
-    assert MODULE.normalize("Pierw-\nszy akapit.\n12\n\ndrugi wiersz") == "Pierwszy akapit.\n\ndrugi wiersz"
-
-
-def test_title_normalization_is_case_and_diacritic_insensitive():
-    assert MODULE.normalize_title("Dyskusja:Łódź (woj.)") == "dyskusja łodz woj"
-
-
-def test_boilerplate_lines_removed_only_when_frequent():
-    docs = [["Baner wikiprojektu", f"Prawdziwa dyskusja {i}."] for i in range(150)]
-    lines = MODULE.strip_boilerplate(docs)
-    assert "Baner wikiprojektu" in lines
-    assert "Prawdziwa dyskusja 0." not in lines
-
-
-def test_boilerplate_long_lines_never_dropped():
-    docs = [["x" * 200] * 1 for _ in range(150)]
-    assert MODULE.strip_boilerplate(docs) == set()
-
-
-def test_ip_redaction_patterns():
-    text = "Podpisano przez 83.4.55.1 dnia 2 maja"
-    assert MODULE.IPV4_RE.search(text)
-    assert not MODULE.IPV4_RE.search("wersja 1.2 wydana")
-
-
-def test_redaction_covers_compressed_ipv6_and_labelled_identifiers():
-    text = "Adres [2001:db8::1], ::ffff:192.0.2.1. PESEL: 00000000000 NIP 000-000-00-00 REGON: 000000000 Rachunek PL00 " + "0000 " * 6
-    cleaned, counts = MODULE.redact_pii(text)
-    assert "2001:db8" not in cleaned and "192.0.2.1" not in cleaned
-    assert cleaned.count("[REDACTED:IP]") == 2
-    assert cleaned.count("[REDACTED:ID]") == 3
-    assert "[REDACTED:ACCOUNT]" in cleaned
-    assert counts["ipv6"] == 2 and counts["national_identifier"] == 3
-    assert MODULE.redact_pii(cleaned)[0] == cleaned
-
-
-def test_redaction_preserves_time_and_version_numbers():
-    text = "Wersja 1.2.3, godzina 12:30:45. Adres 2001:db8::2."
-    cleaned, _ = MODULE.redact_pii(text)
-    assert cleaned == "Wersja 1.2.3, godzina 12:30:45. Adres [REDACTED:IP]."
-
-
-def test_attribution_url_quotes_fragments_and_polish_characters():
-    from urllib.parse import unquote, urlsplit
-
-    url = MODULE.page_url("Dyskusja:Łódź/C#", wiki="elderscrolls")
-    assert url.isascii()
-    assert not urlsplit(url).fragment
-    assert unquote(urlsplit(url).path) == "/pl/wiki/Dyskusja:Łódź/C#"  # Fandom Polish wikis use /pl/wiki/
-
-
-def test_text_bound_and_license():
-    assert MODULE.MIN_TEXT_CHARS == 500
-    assert MODULE.LICENSE_SPDX == "CC-BY-SA-3.0"
-    assert len(MODULE.WIKIS) == 12
-
-
-def test_boilerplate_shingles_detected_on_subsample_and_filtered():
-    template = ["to jest szablon powitania bota " * 30]
-    docs = [{"text": "\n".join(template + [f"unikalny tekst {i} " * 30])} for i in range(200)]
-    hot, max_df, sampled = MODULE.boilerplate_shingles(docs, set(), stride=1, fraction=0.5)
-    assert sampled == 200 and max_df == 100
-    template_sketch = MODULE.shingle_sketch(" ".join(template))
-    assert template_sketch & hot == template_sketch  # whole template is boilerplate
-    unique = MODULE.shingle_sketch(f"unikalny tekst 7 " * 30)
-    assert unique - hot
-    assert MODULE.filter_sketch(template_sketch | unique, hot) == unique - hot
-
-
-def test_indexed_dedup_matches_exhaustive_comparison():
-    import random
-
-    rng = random.Random(42)
-    sketches = [set(), {1}, {1}, set(range(10)), set(range(9)), set(range(8))]
-    for _ in range(200):
-        base = set(rng.sample(range(10000), rng.randint(10, 200)))
-        sketches.extend([base, base | {10001}, set(sorted(base)[1:]), base | set(range(20))])
-    index = MODULE.NearDuplicateIndex()
-    retained = []
-    for sketch in sketches:
-        expected = (None, 0.0)
-        for row_id, other in retained:
-            score = len(sketch & other) / max(len(sketch | other), 1)
-            if score >= 0.90:
-                expected = (row_id, score)
-                break
-        assert index.find(sketch) == expected
-        if expected[0] is None:
-            row_id = str(len(retained))
-            retained.append((row_id, sketch))
-            index.add(row_id, sketch)
-
-
-def test_index_avoids_comparing_disjoint_sketches():
-    index = MODULE.NearDuplicateIndex()
-    for i in range(1000):
-        sketch = set(range(i * 100, (i + 1) * 100))
-        assert index.find(sketch) == (None, 0.0)
-        index.add(str(i), sketch)
-    assert index.comparisons == 0
-    assert index.find(set(range(90000, 90100))) == ("900", 1.0)
-    assert index.comparisons == 1
-
-
-def test_language_vote_reuses_identical_windows_without_changing_votes():
-    class Identifier:
-        def __init__(self):
-            self.calls = 0
-
-        def classify(self, text):
-            self.calls += 1
-            return "pl", 0.99
-
-    identifier = Identifier()
-    language, votes = MODULE.language_vote(identifier, "Przykładowy polski tekst.")
-    assert language == "pl" and votes == [("pl", 0.99)] * 3
-    assert identifier.calls == 1
-
-
-def write_test_source(tmp_path, texts):
-    import gzip
-    import json
-
-    (tmp_path / "extracted").mkdir(parents=True, exist_ok=True)
-    MODULE.save(tmp_path / "selection.json", {"wikis": [], "total_articles": 0, "observed_at": "2026-09-11T00:00:00Z", "files": [], "license_provenance": MODULE.FANDOM_LICENSE_URL})
-    MODULE.save(tmp_path / "acquisition.json", {"source_pages": len(texts), "observed_at": "2026-09-11T00:00:00Z"})
-    records = [{"pageid": str(index), "ns": "0", "title": f"NonArtykul:Test {index}", "timestamp": "2026-09-01",
-                "wikitext_chars": len(text), "text": text, "wiki": "elderscrolls"} for index, text in enumerate(texts, 1)]
-    with gzip.open(tmp_path / "extracted" / "source.jsonl.gz", "wt", encoding="utf-8") as f:
-        for rec in records:
-            f.write(json.dumps(rec, ensure_ascii=False) + "\n")
-    MODULE.write_lines(tmp_path / "source_manifest.jsonl", records)
-
-
-def test_build_rechecks_length_after_redaction(tmp_path, monkeypatch):
-    text = ("To jest przykładowa wypowiedź po polsku. " * 20)[:470] + " " + "kontakt" * 8 + "@example.org"
-    write_test_source(tmp_path, [text])
-    monkeypatch.setattr(MODULE, "language_vote", lambda identifier, text: ("pl", [("pl", 1.0)]))
-    MODULE.build(tmp_path)
-    decision = MODULE.read_lines(tmp_path / "hf_repo/artifacts/decisions.jsonl")[0]
-    assert not decision["selected"]
-    assert decision["reason"] == "too_little_text_after_redaction"
-
-
-def test_build_verify_roundtrip_and_tamper_detection(tmp_path, monkeypatch):
-    import pytest
-    import pyarrow as pa
-    import pyarrow.parquet as pq
-
-    text = "To jest przykładowa wypowiedź po polsku dotycząca edycji encyklopedii. " * 15
-    write_test_source(tmp_path, [text, text, "Krótki tekst."])
-    monkeypatch.setattr(MODULE, "language_vote", lambda identifier, text: ("pl", [("pl", 1.0)]))
-    MODULE.build(tmp_path)
-    MODULE.verify(tmp_path)
-    report = MODULE.load(tmp_path / "validation_report.json")
-    assert report["verified"]
-    assert report["texts_reconstructed_from_extracted_source"] == 1
-    assert report["rejection_counts"] == {"normalized_duplicate": 1, "too_little_text": 1}
-    assert report["before_after_samples"] == 1
-    assert not report["publication_ready"]
-    path = tmp_path / "hf_repo/data/train-00000-of-00001.parquet"
-    table = pq.read_table(path)
-    rows = table.to_pylist()
-    rows[0]["token_count"] += 1
-    pq.write_table(pa.Table.from_pylist(rows, schema=table.schema), path)
-    with pytest.raises(AssertionError):
-        MODULE.verify(tmp_path)
-
-
-def test_api_fetch_stub():
-    import json
-    MODULE.save(Path("C:\\Users\\Hipek\\CascadeProjects\\Datasets\\tmp_fandom_sel.json"), {"wikis": [{"name": "test", "api_url": "http://test"}], "total_articles": 0, "observed_at": "2026-09-11T00:00:00Z"})
-    sel = MODULE.load(Path("C:\\Users\\Hipek\\CascadeProjects\\Datasets\\tmp_fandom_sel.json"))
-    assert "wikis" in sel
-    Path("C:\\Users\\Hipek\\CascadeProjects\\Datasets\\tmp_fandom_sel.json").unlink()