Datasets:

---

SlayerLab

/

polish-dynaword

Like 24

Follow

Fabryka AI 85

Adds fandom_pl: namespace-0 article pages from 12 Polish-language Fandom communities (elderscrolls, wiedzmin, gothic, harrypotter, gta, sims, starwars, naruto, pokemon, dragonage, fallout, creepypasta) - fan-written game lore, characters, items, mechanics, walkthroughs and mod descriptions. v2 update below: the interwiki/category layout-line residue is fixed.

• Source pages acquired: 140,323
• Retained records: 50,653 (36.1%)
• Measured cl100k_base proxy tokens: 45,790,009 (121,944,687 chars)
• License: CC BY-SA 3.0 - evidence at the origin: the official licensing page https://www.fandom.com/licensing (Community Content: CC BY-SA 3.0), pinned evidence copy https://web.archive.org/web/20241231234031/https://www.fandom.com/licensing (2024-12-31), deed https://creativecommons.org/licenses/by-sa/3.0/. Per-record attribution fields (page URL, wiki id, title, page id, last-revision timestamp) in fandom_pl.attribution.jsonl - the proposed corpus-level treatment of the ShareAlike term (attribution fields per record + this note); release: None pending maintainer ruling.
• Time span (last-revision dates): 2007-08-04 - 2026-10-02
• Registry entry: release: None - no release before a SlayerLab/NERGAL pass.

Before/after example of the extraction (header-chrome stripping + layout-line cleanup): wikitext tails of interwiki-link tables ([[de:X]] [[en:Y]] ...) and category names survive mwparserfromhell as ordinary text lines; the v2 extractor drops them (265,076 layout lines removed corpus-wide). Inclusion & caveat: one sentence on what fandom_pl adds beyond "not a duplicate": continuous Polish expository/hobbyist prose about game worlds with in-universe terminology and enumerations (item stats, quest steps) - a register underrepresented in the encyclopedic shards; caveats: fan-created text may quote copyrighted game material (not guaranteed disjoint from other shards), whole-page records (comments not split), pattern redaction is not anonymization.

Texts described: genre = wiki articles (lore bestiaries, character/item/location entries, gameplay mechanics, walkthroughs and mod descriptions); register = expository Polish internet prose with wiki markup residue, lists, tables flattened to text, occasional English/German game terms; authors = anonymous/handle-named fan contributors; time span = 2007-08-04 - 2026-10-02 (last-revision dates, one record per page).

Samples (verbatim from fandom_pl.sample.jsonl, real line breaks, truncated with [...]; layout as in #24):

id: fandom_pl_gothic_168817
source: fandom_pl
created: 2025-09-02
token_count: 284

Erilan – niemiecka modyfikacja działająca na platformie Gothic II: Noc Kruka autorstwa ThreeGods. Polską lokalizację przygotowała grupa Gothic Polska.

Kiedy rodzina rybaków z małej wyspy Erilan traci swoją jedyną łódź podczas burzy, ich syn zostaje wciągnięty w wydarzenia, które zadecydują o losach całej wyspy.

Cechy modyfikacji
Krótka i przyjemna fabuła (ok. 2h rozgrywki);
24 zadania w 3 rozdziałach;
usunięte progi w nauce siły i zręczności;
nawiązania do fabuły Gothica;
dobrej jakości niemiecki dubbing.

Twórcy modyfikacji
ThreeGods – pomysł, fabuła, zadania, dialogi, skrypty, Spacer, testy;
MrStranded – model wyspy; [...]

id: fandom_pl_fallout_1068
source: fandom_pl
created: 2021-06-22
token_count: 329

right|Pierwsza pomoc
Pierwsza pomoc (ang. First Aid) to jedna z umiejętności w grach Fallout, Fallout 2 i Fallout Tactics.

Opis: Ogólna umiejętność leczenia. Wykorzystywana do leczenia pomniejszych skaleczeń, otarć i innych pomniejszych dolegliwości. W realiach gry, umiejętnośc ta pozwala wyleczyć więcej punktów wytrzymałości w danym czasie niż odpoczynek.

Wartość początkowa:
Fallout: 30% + (PE+IN)/2
Fallout 2: 2x(PE+IN)
Fallout Tactics: 30% + PE + IN

Uwagi: Umiejętności tej nie warto rozwijać, gdyż można ją podnieść odpowiednią książką do wystarczających wartości. [...]

id: fandom_pl_gta_41952
source: fandom_pl
created: 2025-05-09
token_count: 188

Wydarzenia mające miejsce w 1869 roku:

Uniwersum 2D rozpoczęło się wielkie poszukiwanie złota – Fool's Gold Rush – w okolicy San AndreasInformacje z oficjalnej strony Grand Theft Auto I (link):San Andreas, which expanded rapidly following the famous 'Fool's Gold Rush' in 1869, has long had ties orient.

Uniwersum 3D utworzono departament policji Liberty City Police Department utworzono departament policji San Andreas Police Department stworzono markę piwa FleischBerg

Uniwersum HD założono firmę Hinterland rozpoczęła i zakończyła się wojna War of the Deadline założono piekarnię Inbread Bakery stworzono markę szampana Blêuter'd [...]

Filtering (v2): MediaWiki allpages + latest-revision fetch -> mwparserfromhell stripping with interwiki/category drop_layout_lines (265,076 lines) -> cross-document boilerplate (36 lines) + capped 5-word-shingle index (11 shingles) -> Unicode/whitespace normalization -> PII pattern redaction (44 e-mail, 89 IPv4, 3 + 1 legacy IPv6, 259 account candidates, 0 phone, 0 national identifier) -> Polish language gate -> exact + near dedup (deterministic capped shingle-hash Jaccard). Rejections: 87,839 too short (min 500 chars) / 1,581 non-Polish / 224 near-dup / 6 exact dup / 20 low-letter-ratio. Overlap with current target: 0 record-ID collisions over 92,000 candidate records (method caveat in fandom_pl.overlap_audit.json - literal ID comparison only, text-level overlap not proven).

Known limitations: fan-lore text may quote copyrighted game material (see license); image-option fragments (e.g. right|Pierwsza pomoc) survive stripping in a small share of records - cosmetic; PII is pattern redaction only, not anonymization - NERGAL pass pending before release.

Registry entry only; README / CHANGELOG / VERSION / shared files untouched. Source snapshot: https://huggingface.co/datasets/PiotrSty/fandom-pl (attribution, sample, decisions, checksums, ontology, run manifests).

v2 update (data fix, same acquisition session): the interwiki/category layout-line residue is gone.

• Root cause: after mwparserfromhell stripping, interwiki-link tails (one xx:Title per line) and Kategoria: lines survive as ordinary text; the cross-document boilerplate filter only catches lines frequent in >=1% of documents.
• Fix: drop_layout_lines() in strip_wikitext (single-marker xx:Token, multi-marker blocks, Kategoria:/Category: lines); 265,076 layout lines removed corpus-wide.
• Rebuilt from the same fetched snapshot (140,323 pages, observed 2026-10-02): 50,653 records / 45,790,009 tokens / 121,944,687 chars (v1: 57,954 / 49,638,742 - the min-500-char gate now correctly rejects short pages that were mostly layout lines).
• verify passes: 50,653 texts reconstructed from extracted source, 0 ID collisions with target, residual PII patterns all 0.
• Residue check on the regenerated samples: 0 interwiki/category lines. One cosmetic wart remains and is documented: image-option fragments like right|Pierwsza pomoc.
• Mirror with full artifacts updated: https://huggingface.co/datasets/PiotrSty/fandom-pl (commit 808ad53).