# NDL OCRの機械監査

`corpus/text/*.txt`を資料単位で監査します。本文の変更・削除はしません。
年代選択外の試験資料も集計し、`outside_selected`で区別します。

```bash
python3 -m unittest discover -s scripts -p 'test_ndl_audit.py' -v
python3 scripts/ndl_audit.py --output corpus/audit-v1/run-next --workers 4
python3 scripts/ndl_audit_report.py corpus/audit-v1/run-next
```

監査先は新規ディレクトリに限ります。標準ライブラリのみを使用します。
開始時点のファイル一覧を固定し、各ファイルの読み取り前後のサイズ・mtime・inodeを比較します。
入力を不変のコピーとして保存する方式ではないため、監査中は既存TXTを再生成しないでください。
manifestと各資料の原文SHA-256を統合時の追跡に使用します。

## 指標

- 欠字率: 先頭BOMと空白を除いた本文に占める`□`・`〓`・`U+FFFD`の割合。文字種ごとの件数も保存。U+FFFDは不正UTF-8を置換生成せず、元ファイルに存在するものだけ数える。
- 資料間重複: 元のバイト列の完全一致、および先頭BOM・空白を除いた本文の一致。近似重複は未判定。
- 連続反復: 空白を除いた本文で、1〜32文字の単位の3回以上の連続を検出し、12文字以上の範囲を集計。1文字単位は8回以上も条件。欠字記号だけの連続は除外。
- 反復位置: 先頭BOM・全空白除去後のUnicode文字位置。原文バイト位置ではない。半開区間。
- 保存する反復例は各資料の長い順20箇所まで。全ての検出範囲を対象に件数・文字数・比率を集計する。

単語境界のない日本語・漢文も対象なので、形態素解析を使わず文字列の周期を検出します。
開始位置によって反復単位が語の途中から始まる場合があります。
コマをまたぐ反復、正当な定型文も含むため、反復の検出だけでOCRエラーとは断定しません。
少しずつ変化する断続反復や32文字を超える単位の反復は、この指標の対象外です。

欠字5%以上かつ5字以上、反復率10%以上かつ100字以上、1反復範囲100字以上を暫定確認フラグにします。
これは自動除外規則ではありません。

## 出力

- `files.csv`: 全資料の欠字・反復指標とハッシュ。
- `files.jsonl`: 各資料の上記情報と反復例の文字列・回数・位置・周辺文脈。
- `file_duplicates.csv`: 資料ごとの重複グループ件数。1は単独。一致する相手は同じハッシュまたはduplicates.jsonlで確認。
- `duplicates.jsonl`: 重複グループのPID一覧。完全一致と空白除去後一致は重なるため合算しない。
- `review.csv`: 暫定フラグのある資料を欠字率・反復率の最大値の降順に表示。
- `REPORT.md` / `report.json`: 全体集計。
- `manifest.json`: 実装・対象書誌のハッシュ、条件、完了状態。
- `verification.json`: CSV/JSONL整合、各資料の比率・反復範囲、全体集計、重複グループ所属の検証。原文の二度目のハッシュ計算はしない。

## 後の前処理・統合

ユーザー指定で返り点・レ点は前処理時に削除する方針です。minhonの現行設定も返り点記法を削除します。
この監査は原文に対して行い、Unicode訓点数とカタカナ`レ`数を別に記録します。
本文の`レ`を一括削除せず、訓点として識別できるものを削除する規則を今後検討します。

minhonと統合して一緒に訓練する予定です。統合時は`source`・PID・原文ハッシュを維持し、
清掃後本文についてもデータセットをまたぐ重複を調べます。
minhonの清掃後データは欠字削除済みなので、元データの欠字率を残して比較します。
学習・評価の分割は重複整理後、作品・版のまとまりを考慮して行います。
この監査にはtokenize、packing、訓練は含まれません。