Datasets:

PiotrSty
/

fandom-pl

---
license: cc-by-sa-3.0
language:
- pl
task_categories:
- text-generation
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-00000-of-00001.parquet
---
# Polish Fandom wikis - CC BY-SA 3.0

Fan-written Polish wiki articles (game lore, characters, items, mechanics,
walkthroughs and mod descriptions) collected from 12 Polish-language Fandom
communities: elderscrolls, wiedzmin, gothic, harrypotter, gta, sims, starwars,
naruto, pokemon, dragonage, fallout and creepypasta. Acquired via the public
MediaWiki API; each record cites the page URL and last-revision date.

- Source pages acquired: 140,323
- Retained records: 50,653 (36.1% of source pages)
- Measured `cl100k_base` proxy tokens: 45,790,009
- Characters: 121,944,687
- License: CC BY-SA 3.0 - attribution preserved per record via page URL + revision date
- Time span (last-revision dates): 2007-08-04 - 2026-10-02
- Source snapshot: [PiotrSty/fandom-pl](https://huggingface.co/datasets/PiotrSty/fandom-pl) (`artifacts/attribution.jsonl`, `sample.jsonl`, `decisions.jsonl`, `checksums.json`, `ontology.json`)
- Target revision audited: `014faa53b3ebe2a8c08d21b71fcbb221bc551bd1` (1,171,897 rows; candidate records: 92,000; **0 record-ID collisions**)

## License - evidence at the origin

- License source: the official licensing page <https://www.fandom.com/licensing> (Community Content: Creative Commons Attribution-ShareAlike 3.0), pinned evidence copy: <https://web.archive.org/web/20241231234031/https://www.fandom.com/licensing> (2024-12-31), deed: <https://creativecommons.org/licenses/by-sa/3.0/>
- Every retained record carries `license: CC-BY-SA-3.0` and per-record attribution fields (source page URL, wiki id, title, page id, last-revision timestamp) in `artifacts/attribution.jsonl`.
- ShareAlike note: the corpus-level treatment of CC BY-SA 3.0 remains open in the registry (`release: None`, `license_status: accepted with provenance`); per-record attribution fields above are the proposed mechanism, pending maintainer ruling before any release.
- Pages may quote or copy official game materials; quoted passages are not guaranteed disjoint from other copyrighted works.

## Samples

Verbatim records from `artifacts/sample.jsonl`, real line breaks preserved,
truncated with `[...]`. Same layout as the registry samples policy.

### Sample 1

```text
id: fandom_pl_gothic_168817
source: fandom_pl
created: 2025-09-02
token_count: 284
Erilan – niemiecka modyfikacja działająca na platformie Gothic II: Noc Kruka autorstwa ThreeGods. Polską lokalizację przygotowała grupa Gothic Polska.
Kiedy rodzina rybaków z małej wyspy Erilan traci swoją jedyną łódź podczas burzy, ich syn zostaje wciągnięty w wydarzenia, które zadecydują o losach całej wyspy.
Cechy modyfikacji
Krótka i przyjemna fabuła (ok. 2h rozgrywki);
24 zadania w 3 rozdziałach;
usunięte progi w nauce siły i zręczności;
nawiązania do fabuły Gothica;
dobrej jakości niemiecki dubbing.
Twórcy modyfikacji
ThreeGods – pomysł, fabuła, zadania, dialogi, skrypty, Spacer, testy;
MrStranded – model wyspy; [...]
```

### Sample 2

```text
id: fandom_pl_fallout_1068
source: fandom_pl
created: 2021-06-22
token_count: 329
right|Pierwsza pomoc
Pierwsza pomoc (ang. First Aid) to jedna z umiejętności w grach Fallout, Fallout 2 i Fallout Tactics.
Opis: Ogólna umiejętność leczenia. Wykorzystywana do leczenia pomniejszych skaleczeń, otarć i innych pomniejszych dolegliwości. W realiach gry, umiejętnośc ta pozwala wyleczyć więcej punktów wytrzymałości w danym czasie niż odpoczynek.
Wartość początkowa:
Fallout: 30% + (PE+IN)/2
Fallout 2: 2x(PE+IN)
Fallout Tactics: 30% + PE + IN
Uwagi: Umiejętności tej nie warto rozwijać, gdyż można ją podnieść odpowiednią książką do wystarczających wartości. [...]
```

### Sample 3

```text
id: fandom_pl_gta_41952
source: fandom_pl
created: 2025-05-09
token_count: 188
Wydarzenia mające miejsce w 1869 roku:
Uniwersum 2D rozpoczęło się wielkie poszukiwanie złota – Fool's Gold Rush – w okolicy San AndreasInformacje z oficjalnej strony Grand Theft Auto I (link):San Andreas, which expanded rapidly following the famous 'Fool's Gold Rush' in 1869, has long had ties orient.
Uniwersum 3D utworzono departament policji Liberty City Police Department utworzono departament policji San Andreas Police Department stworzono markę piwa FleischBerg
Uniwersum HD założono firmę Hinterland rozpoczęła i zakończyła się wojna War of the Deadline założono piekarnię Inbread Bakery stworzono markę szampana Blêuter'd [...]
```

## Filtering

From MediaWiki `allpages` + latest-revision fetch: mwparserfromhell wikitext
stripping with interwiki-block and category-line removal (`drop_layout_lines`,
265,076 layout lines removed in v2); cross-document boilerplate line removal
(36 lines) and capped 5-word-shingle index (11 shingles excluded);
Unicode/whitespace normalization; PII pattern redaction; Polish language gate;
exact + near dedup within source (deterministic capped shingle-hash Jaccard).
Rejections: 87,839 too short (min 500 chars) / 1,581 non-Polish / 224 near-dup
/ 6 exact dup / 20 low-letter-ratio.

PII redaction (`redact_pii()` in the builder): e-mail / labelled phone / IP /
labelled national identifier / 26-digit account-candidate patterns ->
placeholders. Pattern counts: 44 e-mail, 89 IPv4, 3 + 1 legacy-pattern IPv6,
259 account candidates, 0 phone, 0 national identifier. **This is not
NERGAL and not complete anonymization** - no release before a SlayerLab/NERGAL
pass (same policy as `plwiki_user_talk`).

## Known limitations

- Fan-created lore and hobbyist wiki text, not factual reference; pages may quote copyrighted game material (see license section).
- Image-option fragments (e.g. `right|Pierwsza pomoc`) survive stripping in a small share of records; cosmetic only.
- Whole-page records: if a page mixes licensed with unlicensed material, the unverified part is not separated (comments are not split).
- PII: pattern redaction only; unlabelled national identifiers, free-form phones, names and personal disclosures may remain (NERGAL pass pending).

See `artifacts/` for attribution, per-record decisions, overlap audit,
selection, acquisition and checksums.

	---
	license: cc-by-sa-3.0
	language:
	- pl
	task_categories:
	- text-generation
	configs:
	- config_name: default
	data_files:
	- split: train
	path: data/train-00000-of-00001.parquet
	---
	# Polish Fandom wikis - CC BY-SA 3.0

	Fan-written Polish wiki articles (game lore, characters, items, mechanics,
	walkthroughs and mod descriptions) collected from 12 Polish-language Fandom
	communities: elderscrolls, wiedzmin, gothic, harrypotter, gta, sims, starwars,
	naruto, pokemon, dragonage, fallout and creepypasta. Acquired via the public
	MediaWiki API; each record cites the page URL and last-revision date.

	- Source pages acquired: 140,323
	- Retained records: 50,653 (36.1% of source pages)
	- Measured `cl100k_base` proxy tokens: 45,790,009
	- Characters: 121,944,687
	- License: CC BY-SA 3.0 - attribution preserved per record via page URL + revision date
	- Time span (last-revision dates): 2007-08-04 - 2026-10-02
	- Source snapshot: [PiotrSty/fandom-pl](https://huggingface.co/datasets/PiotrSty/fandom-pl) (`artifacts/attribution.jsonl`, `sample.jsonl`, `decisions.jsonl`, `checksums.json`, `ontology.json`)
	- Target revision audited: `014faa53b3ebe2a8c08d21b71fcbb221bc551bd1` (1,171,897 rows; candidate records: 92,000; 0 record-ID collisions)

	## License - evidence at the origin

	- License source: the official licensing page <https://www.fandom.com/licensing> (Community Content: Creative Commons Attribution-ShareAlike 3.0), pinned evidence copy: <https://web.archive.org/web/20241231234031/https://www.fandom.com/licensing> (2024-12-31), deed: <https://creativecommons.org/licenses/by-sa/3.0/>
	- Every retained record carries `license: CC-BY-SA-3.0` and per-record attribution fields (source page URL, wiki id, title, page id, last-revision timestamp) in `artifacts/attribution.jsonl`.
	- ShareAlike note: the corpus-level treatment of CC BY-SA 3.0 remains open in the registry (`release: None`, `license_status: accepted with provenance`); per-record attribution fields above are the proposed mechanism, pending maintainer ruling before any release.
	- Pages may quote or copy official game materials; quoted passages are not guaranteed disjoint from other copyrighted works.

	## Samples

	Verbatim records from `artifacts/sample.jsonl`, real line breaks preserved,
	truncated with `[...]`. Same layout as the registry samples policy.

	### Sample 1

	```text
	id: fandom_pl_gothic_168817
	source: fandom_pl
	created: 2025-09-02
	token_count: 284

	Erilan – niemiecka modyfikacja działająca na platformie Gothic II: Noc Kruka autorstwa ThreeGods. Polską lokalizację przygotowała grupa Gothic Polska.

	Kiedy rodzina rybaków z małej wyspy Erilan traci swoją jedyną łódź podczas burzy, ich syn zostaje wciągnięty w wydarzenia, które zadecydują o losach całej wyspy.

	Cechy modyfikacji
	Krótka i przyjemna fabuła (ok. 2h rozgrywki);
	24 zadania w 3 rozdziałach;
	usunięte progi w nauce siły i zręczności;
	nawiązania do fabuły Gothica;
	dobrej jakości niemiecki dubbing.

	Twórcy modyfikacji
	ThreeGods – pomysł, fabuła, zadania, dialogi, skrypty, Spacer, testy;
	MrStranded – model wyspy; [...]
	```

	### Sample 2

	```text
	id: fandom_pl_fallout_1068
	source: fandom_pl
	created: 2021-06-22
	token_count: 329

	right\|Pierwsza pomoc
	Pierwsza pomoc (ang. First Aid) to jedna z umiejętności w grach Fallout, Fallout 2 i Fallout Tactics.

	Opis: Ogólna umiejętność leczenia. Wykorzystywana do leczenia pomniejszych skaleczeń, otarć i innych pomniejszych dolegliwości. W realiach gry, umiejętnośc ta pozwala wyleczyć więcej punktów wytrzymałości w danym czasie niż odpoczynek.

	Wartość początkowa:
	Fallout: 30% + (PE+IN)/2
	Fallout 2: 2x(PE+IN)
	Fallout Tactics: 30% + PE + IN

	Uwagi: Umiejętności tej nie warto rozwijać, gdyż można ją podnieść odpowiednią książką do wystarczających wartości. [...]
	```

	### Sample 3

	```text
	id: fandom_pl_gta_41952
	source: fandom_pl
	created: 2025-05-09
	token_count: 188

	Wydarzenia mające miejsce w 1869 roku:

	Uniwersum 2D rozpoczęło się wielkie poszukiwanie złota – Fool's Gold Rush – w okolicy San AndreasInformacje z oficjalnej strony Grand Theft Auto I (link):San Andreas, which expanded rapidly following the famous 'Fool's Gold Rush' in 1869, has long had ties orient.

	Uniwersum 3D utworzono departament policji Liberty City Police Department utworzono departament policji San Andreas Police Department stworzono markę piwa FleischBerg

	Uniwersum HD założono firmę Hinterland rozpoczęła i zakończyła się wojna War of the Deadline założono piekarnię Inbread Bakery stworzono markę szampana Blêuter'd [...]
	```

	## Filtering

	From MediaWiki `allpages` + latest-revision fetch: mwparserfromhell wikitext
	stripping with interwiki-block and category-line removal (`drop_layout_lines`,
	265,076 layout lines removed in v2); cross-document boilerplate line removal
	(36 lines) and capped 5-word-shingle index (11 shingles excluded);
	Unicode/whitespace normalization; PII pattern redaction; Polish language gate;
	exact + near dedup within source (deterministic capped shingle-hash Jaccard).
	Rejections: 87,839 too short (min 500 chars) / 1,581 non-Polish / 224 near-dup
	/ 6 exact dup / 20 low-letter-ratio.

	PII redaction (`redact_pii()` in the builder): e-mail / labelled phone / IP /
	labelled national identifier / 26-digit account-candidate patterns ->
	placeholders. Pattern counts: 44 e-mail, 89 IPv4, 3 + 1 legacy-pattern IPv6,
	259 account candidates, 0 phone, 0 national identifier. **This is not
	NERGAL and not complete anonymization** - no release before a SlayerLab/NERGAL
	pass (same policy as `plwiki_user_talk`).

	## Known limitations

	- Fan-created lore and hobbyist wiki text, not factual reference; pages may quote copyrighted game material (see license section).
	- Image-option fragments (e.g. `right\|Pierwsza pomoc`) survive stripping in a small share of records; cosmetic only.
	- Whole-page records: if a page mixes licensed with unlicensed material, the unverified part is not separated (comments are not split).
	- PII: pattern redaction only; unlabelled national identifiers, free-form phones, names and personal disclosures may remain (NERGAL pass pending).

	See `artifacts/` for attribution, per-record decisions, overlap audit,
	selection, acquisition and checksums.