Datasets:
sejm_api: cut the "Przebieg posiedzenia" trailers, split appended statements (amends #69, v2#57)
What and why
Amends the merged Hub PR 69 (sejm_api, slayerlabs/polish-dynaword-v2#57), approved as option S. The PiotrSty snapshot appends to 34,980 of 38,812 speeches the header of a later statement of the same sitting day ("Przebieg posiedzenia {name}: … ({dd-mm-yyyy})"), and after 2,466 of those headers that statement's text. Released that way in v0.2.5 (Hub PR 16).
src/clean_sejm_api.py (inputs pinned by SHA-256 to the v0.2.5 files) cuts every trailer and emits each appended statement as a row of its own:
- speaker = the name the header gives ("Przebieg posiedzenia {name}:"), not the label: the snapshot's own convention (label minus its first word) would credit officials as "Stanu w Ministerstwie … Jan Kowalski" (fixed in this PR's third commit: 2,193 split rows changed author and id; text and counts unchanged);
- date and term of the parent row (the snapshot labels the 11th sitting of term 10 "11. kadencja" in 696 headers); a trailer from another day fails closed (none occur);
- sidecar
split_from= parent id,has_events: null; - rows under 200 characters after the cut and new exact duplicates are dropped, as the fetch does.
Also src/fetch_sejm_api.py (the parlamint_pl rerun fix): the registry end date is read from the created range only (it picked up added = 2026-07-02 and failed temporal novelty), only parliamentary is checked (parlamint_pl left in Hub PR 54), and an existing sejm_api entry that meets the contract is kept on a rerun.
Before -> after
| before (v0.2.5) | after | |
|---|---|---|
| documents | 38,812 | 39,899 |
| characters | 96,596,566 | 83,482,628 |
tokens (cl100k_base proxy) |
36,335,587 | 30,860,439 |
| rows cut | 34,980 (23,485,670 chars) | |
| statements split into rows of their own | 2,466 (2,093 other speaker, 373 same-speaker follow-ups) | |
| dropped under 200 chars | 1,371 (1,318 cut rows, 53 split rows) | |
| dropped exact duplicates | 8 | |
sejm_api.parquet sha256 |
56f7b034…cf161 |
ba2daa20…c9c3b |
sejm_api.attribution.jsonl sha256 |
4ab6513f…c069 |
47d87542…80b1 |
The 8 duplicates are identical texts by different MPs (vote-correction forms, one 4,489-char statement read by two MPs); first wins, as in the fetch.
Checks
pytestfrom the repo root after the rebase (on main 620bbbd, at c75f32f): 552 passed, 2 skipped, 51 failed, 10 errors. The same 61 fail on main alone (535 passed; sorted FAILED/ERROR lists diffed), all in other sources' tests whose LFS data was not pulled into the worktree. The 32 sejm tests pass:split_trailerson real-format snippets (term-7 dotless headers, label lines, an official's header credited by name, same-speaker follow-ups, agenda titles, truncated/bare end headers, a genuine "Przebieg posiedzenia komisji…" sentence left alone),split_release_rows(ids, recomputed counts, term-11 header, drops, the 200-char minimum on cut and split rows only, fail-closed cases), and the released files (no trailer left, min 200 chars, no duplicate texts, sidecar aligned, stats and card match the Parquet).- The shipped files are the output of
src/clean_sejm_api.pyrun on the three pinned inputs restored from 262df1b. - Card: stats table edited by hand, new "Trailer cut" section, rebuild line.
artifacts/source_findings.mdappended. README/CHANGELOG untouched.
Sample (python3 src/render_sample.py data/sejm_api/sejm_api.parquet -n 3 --max-chars 600)
id: sejm_api_16da279b672495183a31f18404e6f63f9288186a89deb8ba7607087025182e09
source: sejm_api
added: 2026-08-22
created: 2023-04-12
token_count: 1175
license: public-domain (official documents)
author: Czesław Siekierski
Panie Marszałku! Szanowni Posłowie! Trudna sytuacja gospodarcza i ekonomiczna powoduje, że coraz większa grupa konsumentów nie posiada wystarczającej zdolności kredytowej, aby uzyskać odpowiednie finansowanie z banków. Również bardzo wysoka inflacja i drożyzna spowodowały, że liczba klientów lombardów znacząco się zwiększyła. Szacuje się, że z pożyczek w lombardach korzysta około 4,5 mln Polaków, o czym mówili już moi przedmówcy. W samym tylko 2020 r. z usług lombardów skorzystało ponad 1,5 mln Polaków, ale wtedy nie było jeszcze tak wysokiej inflacji i drożyzny jak obecnie, dlatego też […]
id: sejm_api_2178b9db9520a0ded96a96932fb2ffbc5d2b5a23f3e1e8e00636119e6d9d544b
source: sejm_api
added: 2026-08-22
created: 2025-11-06
token_count: 1673
license: public-domain (official documents)
author: Małgorzata Niemczyk
Pani Marszałek! Wysoka Izbo! Panie Ministrze! Mam zaszczyt przedstawić stanowisko Klubu Parlamentarnego Koalicji Obywatelskiej w sprawie rządowego projektu ustawy o zmianie ustawy o imprezach turystycznych i powiązanych usługach, zawartego w drukach nr 1762 i nr 1800. Czynię to z przyjemnością, bo to przykład nowelizacji, która nie tylko porządkuje przepisy, ale też realnie odpowiada na potrzeby branży turystycznej i samych podróżnych. Turystyka to dziś sektor, który generuje blisko 6% polskiego PKB i daje pracę ok. 700 tys. osób. Dlatego każda decyzja zwiększająca stabilność tej branży ma […]
id: sejm_api_3b261e41c967ff3645d93207cffc65bb55115a575b0dd9eba3fd8e19385a1608
source: sejm_api
added: 2026-08-22
created: 2025-12-04
token_count: 755
license: public-domain (official documents)
author: Eliza Zeidler
Odpowiadając na te kolejne pytania, chciałabym wskazać, że Ministerstwo Aktywów Państwowych aktualnie stawia na kompetencje i pod tym kątem dokonywana jest weryfikacja. Jednym z działań, które zostały podjęte w ramach weryfikacji tego, czy odpowiednie osoby są na odpowiednich stanowiskach, to zgodnie z informacją spółki były wyniki audytów, które zostały przeprowadzone w spółce. To one stanowiły podstawę do zmian kadrowych. Przy czym zmiany kadrowe w każdej ze spółek stanowią ich kompetencje. Odniosę się natomiast do kwestii modernizacji. Ta modernizacja jest zaplanowana na bardzo szeroką […]
A split pair from the same day (2023-01-12): the minister's reply that was appended to Agnieszka Pomaska's row, now its own row, and the cut parent:
id: sejm_api_0870ee24fc4a5230a16e20ed34eeab051be42b16a32165ccdd4d03f0f712fc05
source: sejm_api
added: 2026-08-22
created: 2023-01-12
token_count: 280
license: public-domain (official documents)
author: Maciej Małecki
Chciałbym tylko powiedzieć, że pani poseł powiedziała nieprawdę. To nie tak, że rząd Platformy nie sprzedał Lotosu Rosjanom. Rosjanie nie byli zainteresowani waszą ofertą. Sprzedaliście 11% akcji Lotosu w 2010 r., a po śmierci prezydenta Lecha Kaczyńskiego chcieliście wejść w biznes z Rosjanami. (Poseł Agnieszka Pomaska: Nie sprzedaliśmy. To wy sprzedaliście.) Oferta rządu Platformy i PSL-u była wysłana do rosyjskich firm związanych z Władimirem Putinem. To jest prawda. Możecie, nie wiem, składać pozwy na telewizję, na tych, którzy przypominają tę historię, ale niestety nie zmażecie tej plamy […]
id: sejm_api_025812b9415e5ceb324cbdb43fc7f9562decdcec9c72b2abc015eabef3f1e149
source: sejm_api
added: 2026-08-22
created: 2023-01-12
token_count: 111
license: public-domain (official documents)
author: Agnieszka Pomaska
Panie Ministrze! Różnica polega na tym, że poprzednie rządy analizowały, wyciągały wnioski i nie sprzedały Lotosu, a pana rząd mało analizował i sprzedał Lotos, oddał Lotos Arabom współpracującym z Rosją i oddał Lotos Węgrom współpracującym z Rosjanami. Dziękuję bardzo.
🤖 Generated with Claude Code
refs/pr/83 ref