Blame for code/scripts/README_unified_audit.md

# 4コーパス統合前監査

`unified_audit.py` は Kanripo build-002、minhon build-003-bibdated、NDL build-001、Wikisource corpus-v1 の本文を読み、本文を変更せずに共通目録と確認候補を生成します。標準ライブラリのみを使用します。4出典版の出力は `unified/preaudit-v1/run-002`、確認資料は `review-002`。旧 `run-001` は3出典の監査です。

```bash
python3 -m unittest discover -s scripts -p 'test_unified_audit.py' -v
python3 scripts/unified_audit.py --output unified/preaudit-v1/run-next
python3 scripts/unified_audit_review.py --audit unified/preaudit-v1/run-next --output unified/preaudit-v1/review-next
```

出力先は未作成のディレクトリを指定します。失敗時は `manifest.json` が `complete=false` のまま残ります。同じ出力先への再実行は拒否します。

| 出力 | 内容 |
|---|---|
| `REPORT.md`, `report.json` | 件数・文字量・年代根拠区分・文字種・品質フラグ・重複候補の集計 |
| `catalog.jsonl` | 1行1本文単位の共通目録。本文は `text_ref` のファイル・1始まりの行番号・`text` フィールドから参照 |
| `documents.jsonl` | 出典内の資料/作品単位の目録と所属ページ/巻ファイル。順序は未検証 |
| `duplicates.jsonl` | 完全一致・空白除去後一致の本文群。両者は重複するので合算しない |
| `title_candidates.jsonl` | 保守的に記号・空白を除いた書名一致の候補群。同一作品の確定ではない |
| `near_candidates.jsonl` | 異なる資料間で長い本文断片が2個以上一致した候補。自動削除しない |
| `review.jsonl` | 年代不明、制御文字、管理記法候補、NDLの削除前欠字率/反復率5%以上の確認用一覧 |
| `audit.sqlite3` | 本文ハッシュ・出典・参照位置・本文断片ハッシュの検索用索引。本文全文は保存しない |
| `manifest.json` | 入力・依存メタデータ・実装・出力のSHA256、開始/終了時刻、完了状態 |
| `verification.json` | 全件本文ハッシュ、入力不変、原文参照存在、件数/文字数、出力IDの検証結果 |

## 解釈と限界

- `source_document_id` は出典内の資料単位です。共通作品ID・底本IDは未確定で `null`。同名だからといって作品を統合しません。
- `bibliographic_years_pre1868` はNDLの既存選択書誌の西暦が全て1867年以下という意味です。個々の注釈や本文部分の年代を証明しません。
- Kanripoは王朝分類のみ、minhonは書誌欄の存在を記録し、厳格な年代確定をしません。かな/漢字の出現は文字種の観測であり、和文/漢文の確定分類ではありません。
- Wikisourceは `corpus-v1/documents.jsonl` の987記事ページを取り込み、`works.jsonl` の393作品/版グループとの所属・結合本文を照合します。両ファイルの本文を重ねて学習候補にはしません。章の異なるページは原タイトルを `unit_title` に保存し、既存作品名で他出典との同名候補を探します。
- Wikisourceの `header_year` は底本の刊行年とみなしません。`index_year` と既存 `edition_era` から、1867年以前の底本年、明治以降の底本、前明治ラベルのみ、年代不明、矛盾を区別します。明治以降/不明の底本も監査には含め、学習対象として承認済みとはしません。
- 品質の5%閾値は確認対象の絞り込み用です。採否や真のOCR誤り率を示しません。
- 近似候補は80文字以上の行/文から先頭最大128文字を取り、空白除去後のSHA256の小さい方から最大24個を本文単位で採用します。2〜30本文単位に現れる断片だけを使い、異なる資料で2断片以上共有する組を出します。空白除去後に本文全体が一致する組は別一覧にあるため除きます。
- この近似探索には改行位置・OCR誤り・ページ境界による見逃しがあり、引用による一致も含みます。共有数は類似度や一致率ではありません。全出典横断の網羅的な近似重複検査ではありません。
- 元の3出典は清掃済み本文のSHA256を全件照合し、原文の存在と以前のハッシュ参照を確認します。Wikisourceには既存の清掃済みハッシュがないため、記事本文を抽出元TXT（既存のstrip処理後）と全件照合します。API取得分は描画HTML、その他はwikitextを原文参照にし、原文と抽出元TXTもハッシュ化します。全入力ファイルを終了時に再ハッシュします。
- minhonの利用条件はローカルREADME、Wikisourceは既存抽出説明の表示を転記し、原URL・リビジョン・版を保持します。統合データ全体の利用条件を確定したものではありません。

この監査では本文の削除・修正・ページ結合・採否変更・学習評価分割・tokenize・packingを実施しません。監査結果から代表本文、作品/底本対応、年代の採用条件を確定して次の統合工程へ進みます。