classical-ja-pretrain / code /scripts /README_unified_pretrain.md
kuramot6f's picture
Initial release (history squashed)
7a088d4
|
Raw History Blame Contribute Delete
5.85 kB

4出典の学習用本文生成

unified_pretrain.py は4出典版の統合前監査を入力に、本文整理と採否判定を行い、pretrain.jsonl を生成します。標準ライブラリのみを使います。

python3 -m unittest discover -s scripts -p 'test_unified_pretrain.py' -v
python3 scripts/unified_pretrain.py --output unified/pretrain-v1/build-next

監査の既定値は unified/preaudit-v1/run-002。--auditで変更できます。出力先は未作成のディレクトリを指定してください。失敗時は manifest.json が complete=false のまま残ります。

本文と採否の規則

  1. NDLの original_quality.missing_count / nonspace_chars が15%以上なら除外。削除前の欠字率を使い、整数の交差積で15%ちょうども除外します。既存の浮動小数の欠字率との整合も確認します。
  2. Unicodeの一般カテゴリ Cc(制御)・Cf(書式制御)を削除。ただしタブは半角空白に、CRLF・CR・VT・FF・NEL・LS・PSはLFに変換し、LFは保持。BOM・ゼロ幅空白・ZWJ・双方向制御等は削除します。異体字セレクタはMnのため残します。NFKC・簡繁変換・推測訂正はしません。
  3. Unicode Zs(全角・ノーブレーク空白など)を半角空白へ統一。連続する空白を1個にし、行頭/末の空白を除去。連続する改行をLF1個へ圧縮し、本文先頭/末尾の空白・改行を除きます。
  4. 整理後の本文を使って出典横断の重複を除去。優先順位は kanripo > wikisource > minhon > ndl。同一出典の重複は今回追加では除去しません。
  5. 年代による追加選別はしません。明治以降/年代不明のWikisource等も、固定済み4出典の入力範囲内で採用対象です。既存出典別buildで以前に除外したものを復活させる処理は含みません。

重複の判定

build-002(規則 unified-pretrain-v2)では、正規化時にレ点を含む漢文訓読記号U+3190〜U+319Fを全出典から削除します。通常のカタカナ「レ」や漢数字「一」「二」、送り仮名は保持します。重複判定は削除後の本文で再実行します。edits.jsonl の kaeriten_deleted / kaeriten_count に文字種別・合計の削除数を、report.json の kaeriten_characters_deleted に出典別の削除数を記録します。これは正規化対象本文の数であり、重複除外となる本文の削除も含みます。既存build-001は保持します。

python3 scripts/unified_pretrain.py --output unified/pretrain-v1/build-002
  • 全文一致: 整理後の本文から空白・改行を除いたSHA256が同じ場合。上位出典の本文を残します。上位出典内で同じ本文が複数ある場合は、それらをすべて残します。
  • 同名候補: 記号・空白、括弧内の版表示、末尾の「2巻」等を除いた書名で候補を検索。これらの除去は照合用キーだけに行い、学習本文は変えません。書名一致だけでは本文を削除しません。
  • 包含: 同名候補内で、下位出典の本文全体(句読点・空白を除いた20文字以上)が上位出典の1本文単位に含まれる場合。
  • 近似: 同名候補内で、下位本文が200文字以上あり、100種類以上の連続5文字断片のうち90%以上が上位の同じ作品/版グループにある場合。断片は64bit BLAKE2bで照合します。上位本文単位の境界をまたぐ断片は作りません。
  • 除去した本文には、残した上位出典の本文IDと、包含または断片共有の判定根拠を保存します。代表本文がさらに上位へ置き換わった場合は参照の連鎖も保存し、最終的に採用済みの本文へ向けます。

この探索は候補書名に依存します。異名・大きいOCR差異・字体差・短い部分重複には見逃しがあります。断片の共有率は文字の正解率や編集距離ではありません。引用や同名だけで資料全体を除去しないよう、包含/高い共有率を条件にしています。

出力

ファイル 内容
pretrain.jsonl 採用本文。学習入力はtextフィールド。出典、原文参照、削除前品質、年代根拠も保持
excluded.jsonl 全除外ID、理由、削除前品質、原文参照、重複時の代表IDと根拠
duplicates.jsonl 出典横断重複による除外のみ
edits.jsonl 変更前後ハッシュ、文字数、削除した制御文字・漢文訓読記号の種類・数
build.sqlite3 正規化本文、原メタデータ、採否、照合用索引。学習対象はpretrain.jsonlを使う
report.json, REPORT.md 出典別件数/文字数、除外理由、重複除去件数と規則
verification.json 出力全文・ハッシュ、採用/除外の網羅性、空白規則、欠字率、優先先、来歴の検証
manifest.json 規則、Unicodeバージョン、凍結入力/実装/出力のハッシュ、完了状態

quality中の文字数などは元の監査指標をそのまま保持し、新しい本文の文字数は normalized_chars に保存します。text_ref は整理前本文への来歴参照です。整理前の本文ハッシュは pre_normalization_text_sha256、新本文のハッシュは text_sha256 です。

出力のみを再検証する場合:

python3 scripts/unified_pretrain.py --output unified/pretrain-v1/build-001 --verify-only

原文・既存build・監査は上書きしません。作品単位の結合・学習/評価分割・tokenize・packing・訓練は今回の処理に含みません。