added: set plwiki_user_talk, nkjp1m, global_voices, 1000_novels to their shard dates (v2#80)

#100
Fabryka AI org
•
edited 1 day ago

Moves the registry added of four sources to the date their shard rows already carry, and takes them out of STALE_SHARDS in src/test_added_dates.py (v2#80).

source registry/card before after (= shard rows)
plwiki_user_talk 2026-09-11 2026-09-27
nkjp1m 2026-06-15 2026-07-17
global_voices 2026-07-15 2026-07-16
1000_novels 2026-07-02 2026-06-26

The rows were stamped at build time, so the shard date is when each source's data was built into the dataset. No parquet changes.

  • src/sources.py: the four added values (file keeps its CRLF endings).
  • Cards: the Added line for nkjp1m, global_voices and 1000_novels (1000_novels keeps its rebuild history). The plwiki_user_talk card has no Added line.
  • data/plwiki_user_talk/plwiki_user_talk.stats.json: added 2026-09-11 → 2026-09-27, with its sha256 updated in plwiki_user_talk.checksums.json. Its sample.jsonl has said 2026-09-27 since #40.
  • New test test_stats_state_the_registry_date: any added in a stats.json must equal the registry. All 14 stats files that carry one agree.

The five wiki/Sejm shards built on 2026-07-19 stay in STALE_SHARDS until their next rebuild.

pytest from the repo root: 844 passed.

render_sample.py data/<source>/<source>.parquet -n 1 --max-chars 200:

id: plwiki_user_talk_4833912
source: plwiki_user_talk
added: 2026-09-27
created: 2020-06-19
token_count: 588
license: CC-BY-SA-3.0
author: plwiki contributors

Wikipedię można edytować na dwa sposoby. Edytor wizualny jest prostszym, bardziej intuicyjnym narzędziem. Z kolei edytor kodu źródłowego daje dostęp do bardziej zaawansowanych funkcji. Można łatwo […]
id: nkjp1m_711-3-010000037_4
source: nkjp1m
added: 2026-07-17
created: 
token_count: 109
license: CC-BY-4.0
author: NKJP Consortium (IPI PAN, IJP PAN, PWN, University of Łódź)

– no co cię cieszy ? na przykład co ?
– Kuba najcudowniejsza chwila dnia
– a wiesz że posłucham
– no. budzę się rano
– tak
– idę tam gdzie on śpi. on otwiera oczy i się śmieje. no przede wszystkim […]
id: global_voices_1651
source: global_voices
added: 2026-07-16
created: 2010-02-28
token_count: 1078
license: CC-BY-3.0
author: Autorzy oryginału: Juliana Rincón Parra; Tłumaczenie: Krzysztof Pawliszak

Santiago po trzęsieniu (pviojo CC-By) Kiedy dzień chyli się ku końcowi, w Internecie pojawia się coraz większa ilość filmów ukazujących skutki dewastującego trzęsienia ziemi o sile 8.8 stopni w skali […]
id: 1000_novels_0957
source: 1000_novels
added: 2026-06-26
created: 1785-01-01, 2013-12-31
token_count: 10656
license: public-domain
author: Stefan Żeromski

Puszcza jodłowa
Stefan Żeromski	

Panu Aleksandrowi Janowskiemu wyraz braterskiej czci

W uszach moich trwa szum twój, lesie dzieciństwa i młodości — choć tyle już lat nie dano mi go słyszeć na […]

🤖 Generated with Claude Code

ppuzio changed pull request status to open
ppuzio changed pull request status to merged
ppuzio deleted the refs/pr/100 ref

Sign up or log in to comment