sejm_api: cut the "Przebieg posiedzenia" trailers, split appended statements (amends #69, v2#57)

#83
by ppuzio - opened

What and why

Amends the merged Hub PR 69 (sejm_api, slayerlabs/polish-dynaword-v2#57), approved as option S. The PiotrSty snapshot appends to 34,980 of 38,812 speeches the header of a later statement of the same sitting day ("Przebieg posiedzenia {name}: … ({dd-mm-yyyy})"), and after 2,466 of those headers that statement's text. Released that way in v0.2.5 (Hub PR 16).

src/clean_sejm_api.py (inputs pinned by SHA-256 to the v0.2.5 files) cuts every trailer and emits each appended statement as a row of its own:

  • speaker = the name the header gives ("Przebieg posiedzenia {name}:"), not the label: the snapshot's own convention (label minus its first word) would credit officials as "Stanu w Ministerstwie … Jan Kowalski" (fixed in this PR's third commit: 2,193 split rows changed author and id; text and counts unchanged);
  • date and term of the parent row (the snapshot labels the 11th sitting of term 10 "11. kadencja" in 696 headers); a trailer from another day fails closed (none occur);
  • sidecar split_from = parent id, has_events: null;
  • rows under 200 characters after the cut and new exact duplicates are dropped, as the fetch does.

Also src/fetch_sejm_api.py (the parlamint_pl rerun fix): the registry end date is read from the created range only (it picked up added = 2026-07-02 and failed temporal novelty), only parliamentary is checked (parlamint_pl left in Hub PR 54), and an existing sejm_api entry that meets the contract is kept on a rerun.

Before -> after

before (v0.2.5) after
documents 38,812 39,899
characters 96,596,566 83,482,628
tokens (cl100k_base proxy) 36,335,587 30,860,439
rows cut 34,980 (23,485,670 chars)
statements split into rows of their own 2,466 (2,093 other speaker, 373 same-speaker follow-ups)
dropped under 200 chars 1,371 (1,318 cut rows, 53 split rows)
dropped exact duplicates 8
sejm_api.parquet sha256 56f7b034…cf161 ba2daa20…c9c3b
sejm_api.attribution.jsonl sha256 4ab6513f…c069 47d87542…80b1

The 8 duplicates are identical texts by different MPs (vote-correction forms, one 4,489-char statement read by two MPs); first wins, as in the fetch.

Checks

  • pytest from the repo root after the rebase (on main 620bbbd, at c75f32f): 552 passed, 2 skipped, 51 failed, 10 errors. The same 61 fail on main alone (535 passed; sorted FAILED/ERROR lists diffed), all in other sources' tests whose LFS data was not pulled into the worktree. The 32 sejm tests pass: split_trailers on real-format snippets (term-7 dotless headers, label lines, an official's header credited by name, same-speaker follow-ups, agenda titles, truncated/bare end headers, a genuine "Przebieg posiedzenia komisji…" sentence left alone), split_release_rows (ids, recomputed counts, term-11 header, drops, the 200-char minimum on cut and split rows only, fail-closed cases), and the released files (no trailer left, min 200 chars, no duplicate texts, sidecar aligned, stats and card match the Parquet).
  • The shipped files are the output of src/clean_sejm_api.py run on the three pinned inputs restored from 262df1b.
  • Card: stats table edited by hand, new "Trailer cut" section, rebuild line. artifacts/source_findings.md appended. README/CHANGELOG untouched.

Sample (python3 src/render_sample.py data/sejm_api/sejm_api.parquet -n 3 --max-chars 600)

id: sejm_api_16da279b672495183a31f18404e6f63f9288186a89deb8ba7607087025182e09
source: sejm_api
added: 2026-08-22
created: 2023-04-12
token_count: 1175
license: public-domain (official documents)
author: Czesław Siekierski

Panie Marszałku! Szanowni Posłowie! Trudna sytuacja gospodarcza i ekonomiczna powoduje, że coraz większa grupa konsumentów nie posiada wystarczającej zdolności kredytowej, aby uzyskać odpowiednie finansowanie z banków. Również bardzo wysoka inflacja i drożyzna spowodowały, że liczba klientów lombardów znacząco się zwiększyła. Szacuje się, że z pożyczek w lombardach korzysta około 4,5 mln Polaków, o czym mówili już moi przedmówcy. W samym tylko 2020 r. z usług lombardów skorzystało ponad 1,5 mln Polaków, ale wtedy nie było jeszcze tak wysokiej inflacji i drożyzny jak obecnie, dlatego też […]
id: sejm_api_2178b9db9520a0ded96a96932fb2ffbc5d2b5a23f3e1e8e00636119e6d9d544b
source: sejm_api
added: 2026-08-22
created: 2025-11-06
token_count: 1673
license: public-domain (official documents)
author: Małgorzata Niemczyk

Pani Marszałek! Wysoka Izbo! Panie Ministrze! Mam zaszczyt przedstawić stanowisko Klubu Parlamentarnego Koalicji Obywatelskiej w sprawie rządowego projektu ustawy o zmianie ustawy o imprezach turystycznych i powiązanych usługach, zawartego w drukach nr 1762 i nr 1800. Czynię to z przyjemnością, bo to przykład nowelizacji, która nie tylko porządkuje przepisy, ale też realnie odpowiada na potrzeby branży turystycznej i samych podróżnych. Turystyka to dziś sektor, który generuje blisko 6% polskiego PKB i daje pracę ok. 700 tys. osób. Dlatego każda decyzja zwiększająca stabilność tej branży ma […]
id: sejm_api_3b261e41c967ff3645d93207cffc65bb55115a575b0dd9eba3fd8e19385a1608
source: sejm_api
added: 2026-08-22
created: 2025-12-04
token_count: 755
license: public-domain (official documents)
author: Eliza Zeidler

Odpowiadając na te kolejne pytania, chciałabym wskazać, że Ministerstwo Aktywów Państwowych aktualnie stawia na kompetencje i pod tym kątem dokonywana jest weryfikacja. Jednym z działań, które zostały podjęte w ramach weryfikacji tego, czy odpowiednie osoby są na odpowiednich stanowiskach, to zgodnie z informacją spółki były wyniki audytów, które zostały przeprowadzone w spółce. To one stanowiły podstawę do zmian kadrowych. Przy czym zmiany kadrowe w każdej ze spółek stanowią ich kompetencje. Odniosę się natomiast do kwestii modernizacji. Ta modernizacja jest zaplanowana na bardzo szeroką […]

A split pair from the same day (2023-01-12): the minister's reply that was appended to Agnieszka Pomaska's row, now its own row, and the cut parent:

id: sejm_api_0870ee24fc4a5230a16e20ed34eeab051be42b16a32165ccdd4d03f0f712fc05
source: sejm_api
added: 2026-08-22
created: 2023-01-12
token_count: 280
license: public-domain (official documents)
author: Maciej Małecki

Chciałbym tylko powiedzieć, że pani poseł powiedziała nieprawdę. To nie tak, że rząd Platformy nie sprzedał Lotosu Rosjanom. Rosjanie nie byli zainteresowani waszą ofertą. Sprzedaliście 11% akcji Lotosu w 2010 r., a po śmierci prezydenta Lecha Kaczyńskiego chcieliście wejść w biznes z Rosjanami. (Poseł Agnieszka Pomaska: Nie sprzedaliśmy. To wy sprzedaliście.) Oferta rządu Platformy i PSL-u była wysłana do rosyjskich firm związanych z Władimirem Putinem. To jest prawda. Możecie, nie wiem, składać pozwy na telewizję, na tych, którzy przypominają tę historię, ale niestety nie zmażecie tej plamy […]
id: sejm_api_025812b9415e5ceb324cbdb43fc7f9562decdcec9c72b2abc015eabef3f1e149
source: sejm_api
added: 2026-08-22
created: 2023-01-12
token_count: 111
license: public-domain (official documents)
author: Agnieszka Pomaska

Panie Ministrze! Różnica polega na tym, że poprzednie rządy analizowały, wyciągały wnioski i nie sprzedały Lotosu, a pana rząd mało analizował i sprzedał Lotos, oddał Lotos Arabom współpracującym z Rosją i oddał Lotos Węgrom współpracującym z Rosjanami. Dziękuję bardzo.

🤖 Generated with Claude Code

ppuzio changed pull request status to open
ppuzio changed pull request status to merged
ppuzio deleted the refs/pr/83 ref

Sign up or log in to comment