code/scripts/README_ndl_clean.md

NDLの学習用本文生成

最新出力: corpus/preprocessed-v1/build-001/documents.jsonl。 1行1資料、sourceはndl、idはndl/PID。原文を上書きしません。

承認された規則

• corpus/audit-v1/run-001のrepeat_ge_10pct該当11件を除外。
• 年代選択済み書誌の許可リスト外を除外。
• 欠字記号□・〓・U+FFFDを削除。
• 先のユーザー指定に従い、識別可能な専用Unicode訓点U+3190〜U+319Fを削除。本文のカタカナレは保持。OCR本文には翻刻タグ規則を流用しない。
• 先頭BOMを除去し、その他の空白・改行・字体・仮名遣い・句読点は保持。
• 処理後に空白のみになる資料を除外。
• 清掃後の完全一致と空白除去後一致は記録し、自動削除しない。
• 欠字率による追加除外はしない。削除前の品質指標を出力に保持。

欠字の前後は直接つながります。欠字を推測補完せず、原文参照を残します。 カタカナレなど通常の文字にOCRされた訓点は、このルールでは識別・削除できません。

実行

python3 -m unittest discover -s scripts -p 'test_ndl_clean.py' -v
python3 scripts/ndl_clean.py --output corpus/preprocessed-v1/build-next
python3 scripts/ndl_verify_clean.py corpus/preprocessed-v1/build-next

新規出力ディレクトリを指定します。監査時点から元TXTや選択済み書誌が変わると停止し、manifestはcomplete=falseのままになります。 対象は監査時のファイル一覧です。以後追加されたデータは、新しい監査と除外リストの確認後に別runで処理します。

build-001の結果

31,671件の原文ハッシュを監査値と照合。反復11件、年代対象外1件、欠字除去後に空になった2件を除外し、31,657資料、606,473,120文字を出力。 本文生成対象で除去した欠字は□5,729,323文字（空になった2件の分も含む）。〓・U+FFFD・専用Unicode訓点・先頭BOMは対象本文に0文字。 清掃後の完全一致・空白除去後一致はともに0組。

全出力31,657行を独立に読み直してハッシュ・文字数・対象文字残存なし・採用除外PIDの網羅性・除外11件の一致・削除数を検証済み。

出力

• documents.jsonl: 本文、出典、書誌参照、原文・清掃後SHA256、削除前品質指標、削除数。
• excluded.jsonl: 除外PID、理由、原文参照。
• edits.jsonl: 本文生成対象の削除前後文字数と記号別削除数。空になった資料を含む。
• duplicates.jsonl: 清掃後一致グループ。今回は空。
• manifest.json: 入力・規則・除外PID・実装ハッシュ・完了状態。
• report.json: 件数、文字数、削除数。
• verification.json: 生成中の検証。
• output_verification.json: シリアライズされた全出力の再読検証。

残る検討事項

欠字記号がないOCR誤認識、断続的な反復、本文と原本注釈・柱の混在は残り得ます。 今回の11件除外と欠字削除だけで高品質を保証するものではありません。 minhon統合時は原文品質指標を保持し、清掃後本文の近似重複と作品・版の対応を調べます。 評価用データの分割はその後に作品のまとまりで行い、コーパス混合比も文字数・品質・ジャンル分布を見て決めます。 この処理はtokenize、packing、訓練、作品横断の結合を含みません。