Datasets:
Download code/scripts/README_unified_pretrain.md from kuramot6f/classical-ja-pretrain: direct link, hf CLI and curl.
- Browser
- Download file 5.85 kB
-
https://huggingface.co/datasets/kuramot6f/classical-ja-pretrain/resolve/main/code/scripts/README_unified_pretrain.md
- Command line
-
hf download hf://datasets/kuramot6f/classical-ja-pretrain/code/scripts/README_unified_pretrain.md
-
curl -L -o README_unified_pretrain.md https://huggingface.co/datasets/kuramot6f/classical-ja-pretrain/resolve/main/code/scripts/README_unified_pretrain.md
4出典の学習用本文生成
unified_pretrain.py は4出典版の統合前監査を入力に、本文整理と採否判定を行い、pretrain.jsonl を生成します。標準ライブラリのみを使います。
python3 -m unittest discover -s scripts -p 'test_unified_pretrain.py' -v
python3 scripts/unified_pretrain.py --output unified/pretrain-v1/build-next
監査の既定値は unified/preaudit-v1/run-002。--auditで変更できます。出力先は未作成のディレクトリを指定してください。失敗時は manifest.json が complete=false のまま残ります。
本文と採否の規則
- NDLの
original_quality.missing_count / nonspace_charsが15%以上なら除外。削除前の欠字率を使い、整数の交差積で15%ちょうども除外します。既存の浮動小数の欠字率との整合も確認します。 - Unicodeの一般カテゴリ
Cc(制御)・Cf(書式制御)を削除。ただしタブは半角空白に、CRLF・CR・VT・FF・NEL・LS・PSはLFに変換し、LFは保持。BOM・ゼロ幅空白・ZWJ・双方向制御等は削除します。異体字セレクタはMnのため残します。NFKC・簡繁変換・推測訂正はしません。 - Unicode
Zs(全角・ノーブレーク空白など)を半角空白へ統一。連続する空白を1個にし、行頭/末の空白を除去。連続する改行をLF1個へ圧縮し、本文先頭/末尾の空白・改行を除きます。 - 整理後の本文を使って出典横断の重複を除去。優先順位は kanripo > wikisource > minhon > ndl。同一出典の重複は今回追加では除去しません。
- 年代による追加選別はしません。明治以降/年代不明のWikisource等も、固定済み4出典の入力範囲内で採用対象です。既存出典別buildで以前に除外したものを復活させる処理は含みません。
重複の判定
build-002(規則 unified-pretrain-v2)では、正規化時にレ点を含む漢文訓読記号U+3190〜U+319Fを全出典から削除します。通常のカタカナ「レ」や漢数字「一」「二」、送り仮名は保持します。重複判定は削除後の本文で再実行します。edits.jsonl の kaeriten_deleted / kaeriten_count に文字種別・合計の削除数を、report.json の kaeriten_characters_deleted に出典別の削除数を記録します。これは正規化対象本文の数であり、重複除外となる本文の削除も含みます。既存build-001は保持します。
python3 scripts/unified_pretrain.py --output unified/pretrain-v1/build-002
- 全文一致: 整理後の本文から空白・改行を除いたSHA256が同じ場合。上位出典の本文を残します。上位出典内で同じ本文が複数ある場合は、それらをすべて残します。
- 同名候補: 記号・空白、括弧内の版表示、末尾の「2巻」等を除いた書名で候補を検索。これらの除去は照合用キーだけに行い、学習本文は変えません。書名一致だけでは本文を削除しません。
- 包含: 同名候補内で、下位出典の本文全体(句読点・空白を除いた20文字以上)が上位出典の1本文単位に含まれる場合。
- 近似: 同名候補内で、下位本文が200文字以上あり、100種類以上の連続5文字断片のうち90%以上が上位の同じ作品/版グループにある場合。断片は64bit BLAKE2bで照合します。上位本文単位の境界をまたぐ断片は作りません。
- 除去した本文には、残した上位出典の本文IDと、包含または断片共有の判定根拠を保存します。代表本文がさらに上位へ置き換わった場合は参照の連鎖も保存し、最終的に採用済みの本文へ向けます。
この探索は候補書名に依存します。異名・大きいOCR差異・字体差・短い部分重複には見逃しがあります。断片の共有率は文字の正解率や編集距離ではありません。引用や同名だけで資料全体を除去しないよう、包含/高い共有率を条件にしています。
出力
| ファイル | 内容 |
|---|---|
pretrain.jsonl |
採用本文。学習入力はtextフィールド。出典、原文参照、削除前品質、年代根拠も保持 |
excluded.jsonl |
全除外ID、理由、削除前品質、原文参照、重複時の代表IDと根拠 |
duplicates.jsonl |
出典横断重複による除外のみ |
edits.jsonl |
変更前後ハッシュ、文字数、削除した制御文字・漢文訓読記号の種類・数 |
build.sqlite3 |
正規化本文、原メタデータ、採否、照合用索引。学習対象はpretrain.jsonlを使う |
report.json, REPORT.md |
出典別件数/文字数、除外理由、重複除去件数と規則 |
verification.json |
出力全文・ハッシュ、採用/除外の網羅性、空白規則、欠字率、優先先、来歴の検証 |
manifest.json |
規則、Unicodeバージョン、凍結入力/実装/出力のハッシュ、完了状態 |
quality中の文字数などは元の監査指標をそのまま保持し、新しい本文の文字数は normalized_chars に保存します。text_ref は整理前本文への来歴参照です。整理前の本文ハッシュは pre_normalization_text_sha256、新本文のハッシュは text_sha256 です。
出力のみを再検証する場合:
python3 scripts/unified_pretrain.py --output unified/pretrain-v1/build-001 --verify-only
原文・既存build・監査は上書きしません。作品単位の結合・学習/評価分割・tokenize・packing・訓練は今回の処理に含みません。