#!/usr/bin/env python3 """Render a completed inspection's JSON reports into a bounded Markdown review.""" import argparse from collections import Counter import json from pathlib import Path def render(folder, source_root): manifest = json.loads((folder / 'manifest.json').read_text()) if manifest['state'] != 'complete': raise ValueError('Inspection is not complete') report = json.loads((folder / 'report.json').read_text()) counts = report['counts'] lines = ['# minhon 前処理の調査結果', '', 'retain_candidateを対象にした暫定規則での集計。原文は変更していない。', 'cleanは現在の規則で警告が出なかった意味で、年代・翻刻精度の保証ではない。', ('採用本文をclean_pages.jsonlに出力済み。要確認・空ページは別一覧。訓練・他データセットとの結合は未実施。' if manifest['command'] == 'build' else '全件の学習用本文出力、訓練、他データセットとの結合は未実施。'), '', '| 項目 | 件数 |', '| --- | ---: |', f"| 資料 | {report['documents']:,} |"] labels = {'candidate_pages': '対象ページ', 'clean_pages': '警告なし', 'review_pages': '要確認(非空)', 'empty_pages': '処理後空', 'raw_empty_pages': '元から空・空白のみ', 'removed_to_empty_pages': '記法・注記の除去で空になったページ', 'read_errors': '読み取り失敗', 'raw_characters': '原文の文字数(記号・空白含む)', 'clean_characters': '処理後の文字数(空・要確認ページを含む)', 'clean_characters_clean_only': '警告なしページの文字数', 'non_whitespace_clean_characters': '処理後の非空白文字数(要確認含む)', 'raw_missing_characters': '原文中の欠字記号□', 'missing_characters_removed': '削除した欠字記号□(注記内を含む)', 'missing_characters': '処理後に残る欠字記号□', 'exact_duplicate_extra_pages': '完全一致の余剰ページ数(未削除)'} for key, label in labels.items(): if key == 'clean_characters_clean_only': lines.append(f"| {label} | {counts.get('clean_page_characters', 0):,} |") continue lines.append(f'| {label} | {counts.get(key, 0):,} |') references = manifest['rules'].get('references', []) if references: lines.extend(['', '## 公式資料を踏まえた規則', '', '- [特殊記法](https://www.wiki.honkoku.org/doku.php?id=howto_markup)', '- [標準翻刻ガイドライン](https://www.wiki.honkoku.org/doku.php?id=guidelines)', '', '非空本文の空白(闕字)・改行・字下げは保存する。ルビはユーザー指定で削除し、送り仮名は残す。', '入力翻刻には既に字体の変更が含まれうる。既存の表記を保存し、原本の字形を推定復元しない。']) if manifest['rules'].get('round_brackets_policy') == 'drop_all': lines.extend(['', 'ユーザー指定の積極削除規則により、丸括弧(全角・半角)と【…】・〖…〗は中身ごと削除する。', '括弧内が原本の文言である可能性も承知した本文抽出方針で、括弧の成立年代を断定した規則ではない。', '欠字□は削除して前後を連結する。原文の復元や推測補完は行わず、削除数を記録する。', '003で付けていた旧注記の確認フラグは解除。未閉鎖括弧と未知タグは引き続き要確認。']) else: lines.extend(['', '公式に出力時削除とされている注記は〖…〗。【…】の暫定削除には確認フラグを付ける。']) lines.extend(['', '## 記法・警告のあるページ', '', '| 種別 | ページ数 |', '| --- | ---: |']) for key, value in report['feature_page_counts'].items(): lines.append(f'| {key} | {value:,} |') lines.extend(['', '## 出現したタグ', '', '| タグ | 出現数 |', '| --- | ---: |']) for key, value in report['tag_occurrences'].items(): lines.append(f'| {key.replace(chr(124), chr(65372))} | {value:,} |') # Preview real changes and preserve full page text in preview.jsonl. lines.extend(['', '## 変換例', '', '長いページは最初の変更箇所付近を抜粋。全文と変更位置はpreview.jsonlに記録。']) shown = set() with (folder / 'preview.jsonl').open() as handle: for line in handle: record = json.loads(line) kinds = {edit['kind'] for edit in record['edits']} - shown if not kinds: continue selected = next(edit for edit in record['edits'] if edit['kind'] in kinds) start, end = selected['start'], selected['end'] before = record['raw_text'][max(0, start-35):min(len(record['raw_text']), end+35)] lines.extend(['', f"### {record['id']} — {selected['kind']}", '', '変換対象と周辺:', '', '```text', before[:600], '```', '', '対象部分の変換後:', '', '```text', selected['after'][:600] or '(削除)', '```']) shown.add(selected['kind']) lines.extend(['', '## 要確認例', '', '警告の種類・タグごとに最大2例。括弧の破損や未知記法の中身を確認する。']) issue_samples = Counter() with (folder / 'review.jsonl').open() as handle: for line in handle: record = json.loads(line) selected = [] for issue in record.get('issues', []): key = (issue['kind'], issue.get('tag', '')) if issue_samples[key] < 2: issue_samples[key] += 1 selected.append(issue) if not selected: continue raw = (source_root / record['source_path']).read_text(encoding='utf-8') for issue in selected: start, end = issue['start'], issue['end'] excerpt = raw[max(0, start-50):min(len(raw), min(end, start+350)+50)] lines.extend(['', f"### {record['id']} — {issue['kind']} {issue.get('tag', '')}", '', '```text', excerpt, '```']) duplicate_groups = cross_document = 0 with (folder / 'duplicates.jsonl').open() as handle: for line in handle: record = json.loads(line) duplicate_groups += 1 cross_document += bool(record['cross_document']) lines.extend(['', '## 重複と次の判断', '', f'完全一致は{duplicate_groups:,}群。そのうち資料をまたぐ群は{cross_document:,}群。重複は削除していない。', '', '1. 未知タグの処理を決める。', '2. 括弧の破損を含むページの扱いを決める。', '3. 高い削除率のサンプルを確認する。', ('4. 採用本文は出力済み。資料連結・他コーパスとの重複整理は後工程。' if manifest['command'] == 'build' else '4. ルール確定後に全件変換する。資料連結・他コーパスとの重複整理は後工程。'), '']) destination = folder / 'REPORT.md' if destination.exists(): raise FileExistsError(destination) destination.write_text('\n'.join(lines)) print(destination) if __name__ == '__main__': parser = argparse.ArgumentParser(description=__doc__) parser.add_argument('inspection', type=Path) parser.add_argument('--source-root', type=Path, default=Path(__file__).resolve().parents[1] / 'minhon/honkoku-data') args = parser.parse_args() render(args.inspection, args.source_root)