Datasets:
added: set plwiki_user_talk, nkjp1m, global_voices, 1000_novels to their shard dates (v2#80)
#100
by ppuzio - opened
Moves the registry added of four sources to the date their shard rows already carry, and takes them out of STALE_SHARDS in src/test_added_dates.py (v2#80).
| source | registry/card before | after (= shard rows) |
|---|---|---|
| plwiki_user_talk | 2026-09-11 | 2026-09-27 |
| nkjp1m | 2026-06-15 | 2026-07-17 |
| global_voices | 2026-07-15 | 2026-07-16 |
| 1000_novels | 2026-07-02 | 2026-06-26 |
The rows were stamped at build time, so the shard date is when each source's data was built into the dataset. No parquet changes.
src/sources.py: the fouraddedvalues (file keeps its CRLF endings).- Cards: the
Addedline for nkjp1m, global_voices and 1000_novels (1000_novels keeps its rebuild history). The plwiki_user_talk card has no Added line. data/plwiki_user_talk/plwiki_user_talk.stats.json:added2026-09-11 → 2026-09-27, with its sha256 updated inplwiki_user_talk.checksums.json. Itssample.jsonlhas said 2026-09-27 since #40.- New test
test_stats_state_the_registry_date: anyaddedin a stats.json must equal the registry. All 14 stats files that carry one agree.
The five wiki/Sejm shards built on 2026-07-19 stay in STALE_SHARDS until their next rebuild.
pytest from the repo root: 844 passed.
render_sample.py data/<source>/<source>.parquet -n 1 --max-chars 200:
id: plwiki_user_talk_4833912
source: plwiki_user_talk
added: 2026-09-27
created: 2020-06-19
token_count: 588
license: CC-BY-SA-3.0
author: plwiki contributors
Wikipedię można edytować na dwa sposoby. Edytor wizualny jest prostszym, bardziej intuicyjnym narzędziem. Z kolei edytor kodu źródłowego daje dostęp do bardziej zaawansowanych funkcji. Można łatwo […]
id: nkjp1m_711-3-010000037_4
source: nkjp1m
added: 2026-07-17
created:
token_count: 109
license: CC-BY-4.0
author: NKJP Consortium (IPI PAN, IJP PAN, PWN, University of Łódź)
– no co cię cieszy ? na przykład co ?
– Kuba najcudowniejsza chwila dnia
– a wiesz że posłucham
– no. budzę się rano
– tak
– idę tam gdzie on śpi. on otwiera oczy i się śmieje. no przede wszystkim […]
id: global_voices_1651
source: global_voices
added: 2026-07-16
created: 2010-02-28
token_count: 1078
license: CC-BY-3.0
author: Autorzy oryginału: Juliana Rincón Parra; Tłumaczenie: Krzysztof Pawliszak
Santiago po trzęsieniu (pviojo CC-By) Kiedy dzień chyli się ku końcowi, w Internecie pojawia się coraz większa ilość filmów ukazujących skutki dewastującego trzęsienia ziemi o sile 8.8 stopni w skali […]
id: 1000_novels_0957
source: 1000_novels
added: 2026-06-26
created: 1785-01-01, 2013-12-31
token_count: 10656
license: public-domain
author: Stefan Żeromski
Puszcza jodłowa
Stefan Żeromski
Panu Aleksandrowi Janowskiemu wyraz braterskiej czci
W uszach moich trwa szum twój, lesie dzieciństwa i młodości — choć tyle już lat nie dano mi go słyszeć na […]
🤖 Generated with Claude Code
ppuzio changed pull request status to open
ppuzio changed pull request status to merged
ppuzio deleted the
refs/pr/100 ref