| # NDLの学習用本文生成 |
|
|
| 最新出力: `corpus/preprocessed-v1/build-001/documents.jsonl`。 |
| 1行1資料、sourceは`ndl`、idは`ndl/PID`。原文を上書きしません。 |
|
|
| ## 承認された規則 |
|
|
| - `corpus/audit-v1/run-001`の`repeat_ge_10pct`該当11件を除外。 |
| - 年代選択済み書誌の許可リスト外を除外。 |
| - 欠字記号`□`・`〓`・`U+FFFD`を削除。 |
| - 先のユーザー指定に従い、識別可能な専用Unicode訓点U+3190〜U+319Fを削除。本文のカタカナ`レ`は保持。OCR本文には翻刻タグ規則を流用しない。 |
| - 先頭BOMを除去し、その他の空白・改行・字体・仮名遣い・句読点は保持。 |
| - 処理後に空白のみになる資料を除外。 |
| - 清掃後の完全一致と空白除去後一致は記録し、自動削除しない。 |
| - 欠字率による追加除外はしない。削除前の品質指標を出力に保持。 |
|
|
| 欠字の前後は直接つながります。欠字を推測補完せず、原文参照を残します。 |
| カタカナ`レ`など通常の文字にOCRされた訓点は、このルールでは識別・削除できません。 |
|
|
| ## 実行 |
|
|
| ```bash |
| python3 -m unittest discover -s scripts -p 'test_ndl_clean.py' -v |
| python3 scripts/ndl_clean.py --output corpus/preprocessed-v1/build-next |
| python3 scripts/ndl_verify_clean.py corpus/preprocessed-v1/build-next |
| ``` |
|
|
| 新規出力ディレクトリを指定します。監査時点から元TXTや選択済み書誌が変わると停止し、manifestはcomplete=falseのままになります。 |
| 対象は監査時のファイル一覧です。以後追加されたデータは、新しい監査と除外リストの確認後に別runで処理します。 |
|
|
| ## build-001の結果 |
|
|
| 31,671件の原文ハッシュを監査値と照合。反復11件、年代対象外1件、欠字除去後に空になった2件を除外し、31,657資料、606,473,120文字を出力。 |
| 本文生成対象で除去した欠字は□5,729,323文字（空になった2件の分も含む）。〓・U+FFFD・専用Unicode訓点・先頭BOMは対象本文に0文字。 |
| 清掃後の完全一致・空白除去後一致はともに0組。 |
|
|
| 全出力31,657行を独立に読み直してハッシュ・文字数・対象文字残存なし・採用除外PIDの網羅性・除外11件の一致・削除数を検証済み。 |
|
|
| ## 出力 |
|
|
| - `documents.jsonl`: 本文、出典、書誌参照、原文・清掃後SHA256、削除前品質指標、削除数。 |
| - `excluded.jsonl`: 除外PID、理由、原文参照。 |
| - `edits.jsonl`: 本文生成対象の削除前後文字数と記号別削除数。空になった資料を含む。 |
| - `duplicates.jsonl`: 清掃後一致グループ。今回は空。 |
| - `manifest.json`: 入力・規則・除外PID・実装ハッシュ・完了状態。 |
| - `report.json`: 件数、文字数、削除数。 |
| - `verification.json`: 生成中の検証。 |
| - `output_verification.json`: シリアライズされた全出力の再読検証。 |
|
|
| ## 残る検討事項 |
|
|
| 欠字記号がないOCR誤認識、断続的な反復、本文と原本注釈・柱の混在は残り得ます。 |
| 今回の11件除外と欠字削除だけで高品質を保証するものではありません。 |
| minhon統合時は原文品質指標を保持し、清掃後本文の近似重複と作品・版の対応を調べます。 |
| 評価用データの分割はその後に作品のまとまりで行い、コーパス混合比も文字数・品質・ジャンル分布を見て決めます。 |
| この処理はtokenize、packing、訓練、作品横断の結合を含みません。 |
|
|
