fandom-pl / README.md
PiotrSty's picture
v2: drop interwiki/category layout lines (265,076 removed); 50,653 records / 45.79M tokens; license evidence at origin + pinned Wayback snapshot
808ad53 verified
|
Raw History Blame Contribute Delete
6.29 kB
metadata
license: cc-by-sa-3.0
language:
  - pl
task_categories:
  - text-generation
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-00000-of-00001.parquet

Polish Fandom wikis - CC BY-SA 3.0

Fan-written Polish wiki articles (game lore, characters, items, mechanics, walkthroughs and mod descriptions) collected from 12 Polish-language Fandom communities: elderscrolls, wiedzmin, gothic, harrypotter, gta, sims, starwars, naruto, pokemon, dragonage, fallout and creepypasta. Acquired via the public MediaWiki API; each record cites the page URL and last-revision date.

  • Source pages acquired: 140,323
  • Retained records: 50,653 (36.1% of source pages)
  • Measured cl100k_base proxy tokens: 45,790,009
  • Characters: 121,944,687
  • License: CC BY-SA 3.0 - attribution preserved per record via page URL + revision date
  • Time span (last-revision dates): 2007-08-04 - 2026-10-02
  • Source snapshot: PiotrSty/fandom-pl (artifacts/attribution.jsonl, sample.jsonl, decisions.jsonl, checksums.json, ontology.json)
  • Target revision audited: 014faa53b3ebe2a8c08d21b71fcbb221bc551bd1 (1,171,897 rows; candidate records: 92,000; 0 record-ID collisions)

License - evidence at the origin

  • License source: the official licensing page https://www.fandom.com/licensing (Community Content: Creative Commons Attribution-ShareAlike 3.0), pinned evidence copy: https://web.archive.org/web/20241231234031/https://www.fandom.com/licensing (2024-12-31), deed: https://creativecommons.org/licenses/by-sa/3.0/
  • Every retained record carries license: CC-BY-SA-3.0 and per-record attribution fields (source page URL, wiki id, title, page id, last-revision timestamp) in artifacts/attribution.jsonl.
  • ShareAlike note: the corpus-level treatment of CC BY-SA 3.0 remains open in the registry (release: None, license_status: accepted with provenance); per-record attribution fields above are the proposed mechanism, pending maintainer ruling before any release.
  • Pages may quote or copy official game materials; quoted passages are not guaranteed disjoint from other copyrighted works.

Samples

Verbatim records from artifacts/sample.jsonl, real line breaks preserved, truncated with [...]. Same layout as the registry samples policy.

Sample 1

id: fandom_pl_gothic_168817
source: fandom_pl
created: 2025-09-02
token_count: 284

Erilan – niemiecka modyfikacja działająca na platformie Gothic II: Noc Kruka autorstwa ThreeGods. Polską lokalizację przygotowała grupa Gothic Polska.

Kiedy rodzina rybaków z małej wyspy Erilan traci swoją jedyną łódź podczas burzy, ich syn zostaje wciągnięty w wydarzenia, które zadecydują o losach całej wyspy.

Cechy modyfikacji
Krótka i przyjemna fabuła (ok. 2h rozgrywki);
24 zadania w 3 rozdziałach;
usunięte progi w nauce siły i zręczności;
nawiązania do fabuły Gothica;
dobrej jakości niemiecki dubbing.

Twórcy modyfikacji
ThreeGods – pomysł, fabuła, zadania, dialogi, skrypty, Spacer, testy;
MrStranded – model wyspy; [...]

Sample 2

id: fandom_pl_fallout_1068
source: fandom_pl
created: 2021-06-22
token_count: 329

right|Pierwsza pomoc
Pierwsza pomoc (ang. First Aid) to jedna z umiejętności w grach Fallout, Fallout 2 i Fallout Tactics.

Opis: Ogólna umiejętność leczenia. Wykorzystywana do leczenia pomniejszych skaleczeń, otarć i innych pomniejszych dolegliwości. W realiach gry, umiejętnośc ta pozwala wyleczyć więcej punktów wytrzymałości w danym czasie niż odpoczynek.

Wartość początkowa:
Fallout: 30% + (PE+IN)/2
Fallout 2: 2x(PE+IN)
Fallout Tactics: 30% + PE + IN

Uwagi: Umiejętności tej nie warto rozwijać, gdyż można ją podnieść odpowiednią książką do wystarczających wartości. [...]

Sample 3

id: fandom_pl_gta_41952
source: fandom_pl
created: 2025-05-09
token_count: 188

Wydarzenia mające miejsce w 1869 roku:

Uniwersum 2D rozpoczęło się wielkie poszukiwanie złota – Fool's Gold Rush – w okolicy San AndreasInformacje z oficjalnej strony Grand Theft Auto I (link):San Andreas, which expanded rapidly following the famous 'Fool's Gold Rush' in 1869, has long had ties orient.

Uniwersum 3D utworzono departament policji Liberty City Police Department utworzono departament policji San Andreas Police Department stworzono markę piwa FleischBerg

Uniwersum HD założono firmę Hinterland rozpoczęła i zakończyła się wojna War of the Deadline założono piekarnię Inbread Bakery stworzono markę szampana Blêuter'd [...]

Filtering

From MediaWiki allpages + latest-revision fetch: mwparserfromhell wikitext stripping with interwiki-block and category-line removal (drop_layout_lines, 265,076 layout lines removed in v2); cross-document boilerplate line removal (36 lines) and capped 5-word-shingle index (11 shingles excluded); Unicode/whitespace normalization; PII pattern redaction; Polish language gate; exact + near dedup within source (deterministic capped shingle-hash Jaccard). Rejections: 87,839 too short (min 500 chars) / 1,581 non-Polish / 224 near-dup / 6 exact dup / 20 low-letter-ratio.

PII redaction (redact_pii() in the builder): e-mail / labelled phone / IP / labelled national identifier / 26-digit account-candidate patterns -> placeholders. Pattern counts: 44 e-mail, 89 IPv4, 3 + 1 legacy-pattern IPv6, 259 account candidates, 0 phone, 0 national identifier. This is not NERGAL and not complete anonymization - no release before a SlayerLab/NERGAL pass (same policy as plwiki_user_talk).

Known limitations

  • Fan-created lore and hobbyist wiki text, not factual reference; pages may quote copyrighted game material (see license section).
  • Image-option fragments (e.g. right|Pierwsza pomoc) survive stripping in a small share of records; cosmetic only.
  • Whole-page records: if a page mixes licensed with unlicensed material, the unverified part is not separated (comments are not split).
  • PII: pattern redaction only; unlabelled national identifiers, free-form phones, names and personal disclosures may remain (NERGAL pass pending).

See artifacts/ for attribution, per-record decisions, overlap audit, selection, acquisition and checksums.