Datasets:

SlayerLab
/

polish-dynaword

Rebuilds sejm_committee_transcripts so that it keeps only statements by official speakers. This is the v0.2.6 rights-audit fix: guests, experts, witnesses, and union, NGO and company speakers are not covered by art. 4 pkt 2. It also removes the PDF page blocks that were left inside turns (v2#95).

Two commits:

Allowlist. A turn is kept only if its NFC-normalised speaker label fully matches one rule: MPs (including committee chairs), senators, the government (ministers and secretaries/undersecretaries of state), heads of constitutional bodies, and Sejm/Senate staff (Biuro Legislacyjne, BAS/BEOS, Kancelaria Sejmu offices, committee secretaries). The rules fail closed.
Cut at every label. parse_pdf() used to split turns only at lines that start with a role word. A guest's label and speech (e.g. "Świadek …:", "Członek zarządu Fundacji …:") therefore stayed inside the previous official turn, an estimated ~18% of the kept text. One shared label-line detector and one page-block stripper are now used by both parse_pdf() and the clean script. The clean script cuts every stored turn at its label lines, classifies each piece and keeps only the allowlisted ones. Rebuilt from the SHA-256-pinned pre-filter shard (0bbdb0d); nothing was downloaded.

Scope decisions (maintainer, 2026-10-07): keep the allowlist breadth and don't widen it to state-body staff; fix the false exclusions of MPs and Sejm/Senate staff; publish the roles table. Dropped on purpose: the Marshal's advisers, "Wicedyrektor BA" without KS, secretaries of state in the President's Chancellery (KPRP), and a bare "Zastępca szefa KPRM" or "Pełnomocnik rządu" without a stanu rank.

	pre-filter (`0bbdb0d`)	this PR
rows	653,411	613,722
characters	443,928,915	298,555,500 (67.3%)
tokens	166,310,754	112,003,155
distinct speaker labels	11,261	3,790

86,607 pieces were cut out of stored turns. Rejected pieces: 110,181 not official (127.2M chars), 74,117 joint-sitting duplicates, 16,080 under 15 characters, 77 exact duplicates.
Ids: piece 0 keeps the original id. A later kept piece gets <id>_<k> (4,452 rows). All 7,746 sittings still have a record.
Page blocks: 122,521 removed and 4,929 hyphenated words rejoined. A scan of the kept text finds no title, "kadencja" or "KANCELARIA SEJMU" lines and 2 possible footer lines left.
New file sejm_committee_transcripts.speaker-roles.csv: one row per role label, with decision, rule, turns and characters.
PII redactions in the shard: 403 (396 e-mail, 6 numbers, 1 contact).

Detector precision (seeded samples, seed 20261008):

Detected label lines: 150 of 150 are real labels.
Rejected colon-ending lines: 149 of 150 are prose. The one miss is a label with prose in front of it on the same line, and it is an MP's label.
An independent scan of the kept text for lines ending in "Name Surname:" finds 13 lines (0.01% of characters). All of them are prose or official speakers.

Known limits:

A label with prose in front of it on the same line, or wrapped over three lines, is cut late or missed; roughly 15–46 pieces.
Prose that ends in capitalised words before a colon is sometimes cut and dropped. This is the conservative direction.
With no PDFs re-downloaded, parse_pdf() and the clean-script cut agree by construction (shared functions, synthetic tests). That agreement is not verified on real PDFs.

Tests: full suite vs 187d74b: no new failures. Fixed: test_added_dates.py::test_shard_carries_the_registry_date[sejm_committee_transcripts] and ShippedShardTest::test_canonical_schema_and_stats_consistency. The pre-existing failures are unchanged.

After merge: re-pin the v2 decision record for sejm_committee_transcripts, and close v2#95.

render_sample.py (default: -n 10, seed 0)

id: sejm_committee_transcripts_9_INF_27_230
source: sejm_committee_transcripts
added: 2026-09-18
created: 2020-04-29
token_count: 171
license: public-domain (official documents)
author: Legislator Mariusz Przerwa

Panie przewodniczący, szanowni państwo, mamy pytanie do wnioskodawców odnośnie
do pkt 2 w ust. 2. Mamy tam taką konstrukcję: „przepisów art. 13i ust. 3”, po którym jest
postawiona kropka i następuje oddzielne zdanie. Pytanie jest następujące – czy to jest
uzupełnienie tego pkt 2, czy to jest oddzielny ustęp? W każdym przypadku ten przepis
należałoby inaczej sformułować. Prosilibyśmy o przedstawienie propozycji. Dziękuję
bardzo.

id: sejm_committee_transcripts_10_EPS_55_139
source: sejm_committee_transcripts
added: 2026-09-18
created: 2026-07-01
token_count: 13
license: public-domain (official documents)
author: Poseł Katarzyna Ueberhan (Lewica)

Nie, nie mówimy o poglądach.

id: sejm_committee_transcripts_10_SPC_135_146
source: sejm_committee_transcripts
added: 2026-09-18
created: 2026-02-25
token_count: 34
license: public-domain (official documents)
author: Przewodniczący poseł Paweł Śliz (Polska2050)

Jesteście państwo upoważnieni do wprowadzania takich zmian.
Bardzo proszę, panie pośle.

id: sejm_committee_transcripts_9_RRW_52_67
source: sejm_committee_transcripts
added: 2026-09-18
created: 2021-07-06
token_count: 37
license: public-domain (official documents)
author: Poseł Kazimierz Plocke (KO)

Dziękuję, panie przewodniczący. Chciałbym wzmocnić głos pana posła Ziejewskiego.

id: sejm_committee_transcripts_9_PET_6_17
source: sejm_committee_transcripts
added: 2026-09-18
created: 2020-01-08
token_count: 250
license: public-domain (official documents)
author: Przewodniczący poseł Sławomir Jan Piechota (KO)

Dziękuję. Czy ktoś z państwa chciałby jeszcze zabrać głos? Nie słyszę. Jest rekomendacja, żeby nie uwzględnić żądania będącego przedmiotem przedstawionej petycji. Czy
do tej rekomendacji ktoś z państwa ma uwagi? Nie słyszę. Uznaję, że Komisja podjęła
decyzję o nieuwzględnieniu żądania będącego przedmiotem petycji w sprawie zmiany
ustawy z dnia 20 maja 2016 r. o efektywności energetycznej w zakresie art. 55 i 57.
Przechodzimy do następnego punktu i proszę ponownie pana Marcina Duszka
o przedstawienie petycji. Tym razem w sprawie zmiany ustawy z dnia 8 sierpnia 1996 r.
o Radzie Ministrów w zakresie art. 37.

id: sejm_committee_transcripts_9_GMZ_10_51
source: sejm_committee_transcripts
added: 2026-09-18
created: 2020-02-11
token_count: 15
license: public-domain (official documents)
author: Poseł Tadeusz Aziewicz (KO)

Przepraszam, będę prosił o głos.

id: sejm_committee_transcripts_9_ASW_131_60
source: sejm_committee_transcripts
added: 2026-09-18
created: 2022-06-22
token_count: 158
license: public-domain (official documents)
author: Legislator Piotr Podczaski

Tak, panie przewodniczący. Proponujemy, aby temu przepisowi o wejściu w życie nadać
brzmienie „ustawa wchodzi w życie z dniem następującym po dniu ogłoszenia”. To,
że ustawa nie powinna wchodzić w życie z dniem ogłoszenia wynika z tego, że obecnie
mamy elektroniczne Dzienniki Ustaw, które tak naprawdę mają określoną godzinę. Gdybyśmy napisali „z dniem ogłoszenia”, to de facto miałaby one charakter mocy wstecznej.

id: sejm_committee_transcripts_9_OBN_106_53
source: sejm_committee_transcripts
added: 2026-09-18
created: 2023-02-07
token_count: 479
license: public-domain (official documents)
author: Przewodniczący poseł Michał Jach (PiS)

Dziękuję. Proszę państwa, na tym zakończyliśmy debatę.
Przechodzimy do spraw bieżących. Pragnę poinformować, że pan poseł Wojciech
Kossakowski zgłosił akces do składów podkomisji stałych. Jeśli nie usłyszę sprzeciwu,
uznam że uzupełniliśmy składy podkomisji stałych o pana posła.
Chcę państwa również poinformować, że na dzień 6 marca – to jest poniedziałek, dzień
przed posiedzeniem Sejmu – zaplanowana została wizytacja Komisji w Centrum Szkolenia Wojsk Lądowych oraz w Wojskowych Zakładach Motoryzacyjnych S.A. w Poznaniu. Celem wizytacji będzie zapoznanie się z bieżącym funkcjonowaniem, wyposażeniem
i warunkami służby oraz ze specyfiką zadań realizowanych przez Centrum Szkolenia
Wojsk Lądowych. Ponadto w trakcie wizytacji przewidywany jest pobyt na poligonie
w Biedrusku koło Poznania, gdzie […]

id: sejm_committee_transcripts_9_FPB_51_36
source: sejm_committee_transcripts
added: 2026-09-18
created: 2020-05-05
token_count: 31
license: public-domain (official documents)
author: Podsekretarz stanu w MF Jan Sarnowski

Chciałbym poprosić o odpowiedź panią naczelnik Osowską z departamentu VAT-owskiego.

id: sejm_committee_transcripts_9_ZDR_253_29
source: sejm_committee_transcripts
added: 2026-09-18
created: 2023-06-14
token_count: 28
license: public-domain (official documents)
author: Legislator Katarzyna Abramowicz

Nr 8 jest rozpatrzona, do nr 9 nie mamy uwag. Nie widzimy poprawek.

🤖 Generated with Claude Code

ppuzio changed pull request status to open 2 days ago

ppuzio changed pull request status to merged 2 days ago

ppuzio deleted the refs/pr/106 ref 2 days ago

Upload images, audio, and videos by dragging in the text input, pasting, or clicking here.

Tap or paste here to upload images

· Sign up or log in to comment