# 4出典の学習用本文生成 `unified_pretrain.py` は4出典版の統合前監査を入力に、本文整理と採否判定を行い、`pretrain.jsonl` を生成します。標準ライブラリのみを使います。 ```bash python3 -m unittest discover -s scripts -p 'test_unified_pretrain.py' -v python3 scripts/unified_pretrain.py --output unified/pretrain-v1/build-next ``` 監査の既定値は `unified/preaudit-v1/run-002`。`--audit`で変更できます。出力先は未作成のディレクトリを指定してください。失敗時は `manifest.json` が `complete=false` のまま残ります。 ## 本文と採否の規則 1. NDLの `original_quality.missing_count / nonspace_chars` が15%以上なら除外。削除前の欠字率を使い、整数の交差積で15%ちょうども除外します。既存の浮動小数の欠字率との整合も確認します。 2. Unicodeの一般カテゴリ `Cc`(制御)・`Cf`(書式制御)を削除。ただしタブは半角空白に、CRLF・CR・VT・FF・NEL・LS・PSはLFに変換し、LFは保持。BOM・ゼロ幅空白・ZWJ・双方向制御等は削除します。異体字セレクタは`Mn`のため残します。NFKC・簡繁変換・推測訂正はしません。 3. Unicode `Zs`(全角・ノーブレーク空白など)を半角空白へ統一。連続する空白を1個にし、行頭/末の空白を除去。連続する改行をLF1個へ圧縮し、本文先頭/末尾の空白・改行を除きます。 4. 整理後の本文を使って出典横断の重複を除去。優先順位は **kanripo > wikisource > minhon > ndl**。同一出典の重複は今回追加では除去しません。 5. 年代による追加選別はしません。明治以降/年代不明のWikisource等も、固定済み4出典の入力範囲内で採用対象です。既存出典別buildで以前に除外したものを復活させる処理は含みません。 ## 重複の判定 build-002(規則 `unified-pretrain-v2`)では、正規化時にレ点を含む漢文訓読記号U+3190〜U+319Fを全出典から削除します。通常のカタカナ「レ」や漢数字「一」「二」、送り仮名は保持します。重複判定は削除後の本文で再実行します。`edits.jsonl` の `kaeriten_deleted` / `kaeriten_count` に文字種別・合計の削除数を、`report.json` の `kaeriten_characters_deleted` に出典別の削除数を記録します。これは正規化対象本文の数であり、重複除外となる本文の削除も含みます。既存build-001は保持します。 ```bash python3 scripts/unified_pretrain.py --output unified/pretrain-v1/build-002 ``` - 全文一致: 整理後の本文から空白・改行を除いたSHA256が同じ場合。上位出典の本文を残します。上位出典内で同じ本文が複数ある場合は、それらをすべて残します。 - 同名候補: 記号・空白、括弧内の版表示、末尾の「2巻」等を除いた書名で候補を検索。これらの除去は照合用キーだけに行い、学習本文は変えません。書名一致だけでは本文を削除しません。 - 包含: 同名候補内で、下位出典の本文全体(句読点・空白を除いた20文字以上)が上位出典の1本文単位に含まれる場合。 - 近似: 同名候補内で、下位本文が200文字以上あり、100種類以上の連続5文字断片のうち90%以上が上位の同じ作品/版グループにある場合。断片は64bit BLAKE2bで照合します。上位本文単位の境界をまたぐ断片は作りません。 - 除去した本文には、残した上位出典の本文IDと、包含または断片共有の判定根拠を保存します。代表本文がさらに上位へ置き換わった場合は参照の連鎖も保存し、最終的に採用済みの本文へ向けます。 この探索は候補書名に依存します。異名・大きいOCR差異・字体差・短い部分重複には見逃しがあります。断片の共有率は文字の正解率や編集距離ではありません。引用や同名だけで資料全体を除去しないよう、包含/高い共有率を条件にしています。 ## 出力 | ファイル | 内容 | |---|---| | `pretrain.jsonl` | 採用本文。学習入力は`text`フィールド。出典、原文参照、削除前品質、年代根拠も保持 | | `excluded.jsonl` | 全除外ID、理由、削除前品質、原文参照、重複時の代表IDと根拠 | | `duplicates.jsonl` | 出典横断重複による除外のみ | | `edits.jsonl` | 変更前後ハッシュ、文字数、削除した制御文字・漢文訓読記号の種類・数 | | `build.sqlite3` | 正規化本文、原メタデータ、採否、照合用索引。学習対象は`pretrain.jsonl`を使う | | `report.json`, `REPORT.md` | 出典別件数/文字数、除外理由、重複除去件数と規則 | | `verification.json` | 出力全文・ハッシュ、採用/除外の網羅性、空白規則、欠字率、優先先、来歴の検証 | | `manifest.json` | 規則、Unicodeバージョン、凍結入力/実装/出力のハッシュ、完了状態 | `quality`中の文字数などは元の監査指標をそのまま保持し、新しい本文の文字数は `normalized_chars` に保存します。`text_ref` は整理前本文への来歴参照です。整理前の本文ハッシュは `pre_normalization_text_sha256`、新本文のハッシュは `text_sha256` です。 出力のみを再検証する場合: ```bash python3 scripts/unified_pretrain.py --output unified/pretrain-v1/build-001 --verify-only ``` 原文・既存build・監査は上書きしません。作品単位の結合・学習/評価分割・tokenize・packing・訓練は今回の処理に含みません。