Datasets:

kuramot6f
/

classical-ja-pretrain

# NDLの学習用本文生成

最新出力: `corpus/preprocessed-v1/build-001/documents.jsonl`。
1行1資料、sourceは`ndl`、idは`ndl/PID`。原文を上書きしません。

## 承認された規則

- `corpus/audit-v1/run-001`の`repeat_ge_10pct`該当11件を除外。
- 年代選択済み書誌の許可リスト外を除外。
- 欠字記号`□`・`〓`・`U+FFFD`を削除。
- 先のユーザー指定に従い、識別可能な専用Unicode訓点U+3190〜U+319Fを削除。本文のカタカナ`レ`は保持。OCR本文には翻刻タグ規則を流用しない。
- 先頭BOMを除去し、その他の空白・改行・字体・仮名遣い・句読点は保持。
- 処理後に空白のみになる資料を除外。
- 清掃後の完全一致と空白除去後一致は記録し、自動削除しない。
- 欠字率による追加除外はしない。削除前の品質指標を出力に保持。

欠字の前後は直接つながります。欠字を推測補完せず、原文参照を残します。
カタカナ`レ`など通常の文字にOCRされた訓点は、このルールでは識別・削除できません。

## 実行

```bash
python3 -m unittest discover -s scripts -p 'test_ndl_clean.py' -v
python3 scripts/ndl_clean.py --output corpus/preprocessed-v1/build-next
python3 scripts/ndl_verify_clean.py corpus/preprocessed-v1/build-next
```

新規出力ディレクトリを指定します。監査時点から元TXTや選択済み書誌が変わると停止し、manifestはcomplete=falseのままになります。
対象は監査時のファイル一覧です。以後追加されたデータは、新しい監査と除外リストの確認後に別runで処理します。

## build-001の結果

31,671件の原文ハッシュを監査値と照合。反復11件、年代対象外1件、欠字除去後に空になった2件を除外し、31,657資料、606,473,120文字を出力。
本文生成対象で除去した欠字は□5,729,323文字（空になった2件の分も含む）。〓・U+FFFD・専用Unicode訓点・先頭BOMは対象本文に0文字。
清掃後の完全一致・空白除去後一致はともに0組。

全出力31,657行を独立に読み直してハッシュ・文字数・対象文字残存なし・採用除外PIDの網羅性・除外11件の一致・削除数を検証済み。

## 出力

- `documents.jsonl`: 本文、出典、書誌参照、原文・清掃後SHA256、削除前品質指標、削除数。
- `excluded.jsonl`: 除外PID、理由、原文参照。
- `edits.jsonl`: 本文生成対象の削除前後文字数と記号別削除数。空になった資料を含む。
- `duplicates.jsonl`: 清掃後一致グループ。今回は空。
- `manifest.json`: 入力・規則・除外PID・実装ハッシュ・完了状態。
- `report.json`: 件数、文字数、削除数。
- `verification.json`: 生成中の検証。
- `output_verification.json`: シリアライズされた全出力の再読検証。

## 残る検討事項

欠字記号がないOCR誤認識、断続的な反復、本文と原本注釈・柱の混在は残り得ます。
今回の11件除外と欠字削除だけで高品質を保証するものではありません。
minhon統合時は原文品質指標を保持し、清掃後本文の近似重複と作品・版の対応を調べます。
評価用データの分割はその後に作品のまとまりで行い、コーパス混合比も文字数・品質・ジャンル分布を見て決めます。
この処理はtokenize、packing、訓練、作品横断の結合を含みません。