scripts/parse_zapis.py

"""Parser for Sejm committee 'pelny zapis przebiegu posiedzenia' PDFs."""
import re, subprocess, hashlib, unicodedata

HEADER_PAT = re.compile(
    r"^\s*(X{0,2}I?X kadencja|KANCELARIA SEJMU|Biuro Komisji Sejmowych|"
    r"PEŁNY ZAPIS PRZEBIEGU POSIEDZENIA|Pełny zapis przebiegu posiedzenia|¢.*)\s*$"
)
PAGEFOOT_PAT = re.compile(r"^\s*[a-z]{1,3}\.?\s+\d{1,4}\s*$")
PAGENUM_PAT = re.compile(r"^\s*\d{1,4}\s*$")

SPEAKER_ANCHOR = re.compile(
    r"^(?:Przewodnicząc\w*|Wiceprzewodnicząc\w*|Poseł|Posłanka|poseł|posłanka|"
    r"Wicemarszałek|Marszałek|Sekretarz stanu|sekretarz stanu|podsekretarz stanu|"
    r"Podsekretarz stanu|minister|Minister|Wiceminister|Legislator|legislator|"
    r"Protokolant|protokolant|Głos z sali|Głos z gości|Prezes|prezes|Wiceprezes|"
    r"wiceprezes|p\.o\. ?\S*|dyrektor|Dyrektor|wicedyrektor|Wicedyrektor|"
    r"Przedstawiciel\w*|przedstawiciel\w*|Sprawozdawca|sprawozdawca|Komendant|"
    r"komendant|Naczelnik|naczelnik|Rzecznik|rzecznik|Prokurator|Sędzia|Doradca|"
    r"doradca|Ekspert|ekspert|Mecenas|gen\.|nadinsp\.|insp\.|st\. bryg\.|płk|ppłk|"
    r"Pełnomocnik|pełnomocnik|Szef|szef|Wojskowy|Pracownik|pracownik|Profesor|"
    r"prof\.|Komisarz|komisarz)\b"
)

def is_speaker_line(content: str) -> bool:
    c = content.strip()
    if not (3 <= len(c) <= 120):
        return False
    if re.search(r"https?://|www\.|druk nr|\barts?\b", c, re.I):
        return False
    # wrapped preamble fragments: lowercase start with commas ("... poseł X (KO), przewodniczącej ..., rozpatrzyła")
    if c[0].islower() and ("," in c or " rozpatrz" in c or "uznała" in c or "przyjęła" in c):
        return False
    return bool(SPEAKER_ANCHOR.match(c))

def dehyphenate(text: str) -> str:
    # soft hyphenation join: "Kon-\nrada" -> "Konrada"
    return re.sub(r"([a-ząćęłńóśźż])-\s*\n\s*([a-ząćęłńóśźż])", r"\1\2", text)

def pdf_text(path: str) -> str:
    r = subprocess.run(
        ["pdftotext", "-layout", "-enc", "UTF-8", path, "-"],
        capture_output=True, text=True, encoding="utf-8", errors="replace", check=True)
    return r.stdout

def parse_pdf(path: str):
    """Return (transcript_type, header_text, turns) where turns = [(speaker, text)]."""
    raw = pdf_text(path)
    if "PEŁNY ZAPIS" not in raw and "pełny zapis" not in raw.lower()[:2000]:
        return "other", None, []
    lines = raw.splitlines()
    # locate start: first speaker line
    start = None
    for i, ln in enumerate(lines):
        s = ln.rstrip()
        if not s.strip():
            continue
        if len(s) - len(s.lstrip()) <= 6 and s.strip().endswith(":") and is_speaker_line(s.strip()[:-1]):
            start = i
            break
    if start is None:
        return "nospeaker", None, []
    preamble = []
    # collect preamble (between title and first speaker), cleaned
    for ln in lines[:start]:
        if HEADER_PAT.match(ln) or PAGEFOOT_PAT.match(ln) or PAGENUM_PAT.match(ln) or not ln.strip():
            continue
        preamble.append(ln.strip())
    turns = []
    speaker = None
    body = []

    def flush():
        nonlocal speaker, body
        if speaker and body:
            txt = dehyphenate("\n".join(body))
            txt = re.sub(r"[ \t]+", " ", txt).strip()
            if len(txt) >= 15:
                turns.append((speaker, txt))
        elif speaker and not body:
            pass
        speaker, body = None, []

    i = start
    while i < len(lines):
        ln = lines[i].rstrip()
        indent = len(ln) - len(ln.lstrip())
        s = ln.strip()
        if not s:
            i += 1
            continue
        if HEADER_PAT.match(ln) or PAGEFOOT_PAT.match(ln) or PAGENUM_PAT.match(ln):
            i += 1
            continue
        if indent <= 6 and s.endswith(":") and s[:-1] and is_speaker_line(s[:-1]):
            flush()
            speaker = s[:-1].strip()
            # wrapped name continuation: next line also short, no colon, col<=6, next-next ends with ':'? skip for now
            i += 1
            continue
        if speaker is not None:
            body.append(s)
        else:
            # unexpected col-0 text after transcript start; treat as preamble footer noise
            preamble.append(s)
        i += 1
    flush()
    return "pelny_zapis", " ".join(preamble), turns

def doc_id(term, code, num, text):
    return hashlib.sha1(f"{term}/{code}/{num}/{text}".encode()).hexdigest()[:16]

if __name__ == "__main__":
    import sys, json
    for p in sys.argv[1:]:
        ttype, pre, turns = parse_pdf(p)
        print(f"### {p}: type={ttype} turns={len(turns)} preamble_chars={len(pre or '')}")
        for sp, tx in turns[:4]:
            print(f"  [{sp}] {tx[:140]}...")
        print(f"  ... last: [{turns[-1][0] if turns else '-'}]")