Datasets:
|
Download code/scripts/README_unified_pretrain.md from kuramot6f/classical-ja-pretrain: direct link, hf CLI and curl.
- Browser
- Download file 5.85 kB
-
https://huggingface.co/datasets/kuramot6f/classical-ja-pretrain/resolve/main/code/scripts/README_unified_pretrain.md
- Command line
-
hf download hf://datasets/kuramot6f/classical-ja-pretrain/code/scripts/README_unified_pretrain.md
-
curl -L -o README_unified_pretrain.md https://huggingface.co/datasets/kuramot6f/classical-ja-pretrain/resolve/main/code/scripts/README_unified_pretrain.md
5.85 kB
| # 4出典の学習用本文生成 | |
| `unified_pretrain.py` は4出典版の統合前監査を入力に、本文整理と採否判定を行い、`pretrain.jsonl` を生成します。標準ライブラリのみを使います。 | |
| ```bash | |
| python3 -m unittest discover -s scripts -p 'test_unified_pretrain.py' -v | |
| python3 scripts/unified_pretrain.py --output unified/pretrain-v1/build-next | |
| ``` | |
| 監査の既定値は `unified/preaudit-v1/run-002`。`--audit`で変更できます。出力先は未作成のディレクトリを指定してください。失敗時は `manifest.json` が `complete=false` のまま残ります。 | |
| ## 本文と採否の規則 | |
| 1. NDLの `original_quality.missing_count / nonspace_chars` が15%以上なら除外。削除前の欠字率を使い、整数の交差積で15%ちょうども除外します。既存の浮動小数の欠字率との整合も確認します。 | |
| 2. Unicodeの一般カテゴリ `Cc`(制御)・`Cf`(書式制御)を削除。ただしタブは半角空白に、CRLF・CR・VT・FF・NEL・LS・PSはLFに変換し、LFは保持。BOM・ゼロ幅空白・ZWJ・双方向制御等は削除します。異体字セレクタは`Mn`のため残します。NFKC・簡繁変換・推測訂正はしません。 | |
| 3. Unicode `Zs`(全角・ノーブレーク空白など)を半角空白へ統一。連続する空白を1個にし、行頭/末の空白を除去。連続する改行をLF1個へ圧縮し、本文先頭/末尾の空白・改行を除きます。 | |
| 4. 整理後の本文を使って出典横断の重複を除去。優先順位は **kanripo > wikisource > minhon > ndl**。同一出典の重複は今回追加では除去しません。 | |
| 5. 年代による追加選別はしません。明治以降/年代不明のWikisource等も、固定済み4出典の入力範囲内で採用対象です。既存出典別buildで以前に除外したものを復活させる処理は含みません。 | |
| ## 重複の判定 | |
| build-002(規則 `unified-pretrain-v2`)では、正規化時にレ点を含む漢文訓読記号U+3190〜U+319Fを全出典から削除します。通常のカタカナ「レ」や漢数字「一」「二」、送り仮名は保持します。重複判定は削除後の本文で再実行します。`edits.jsonl` の `kaeriten_deleted` / `kaeriten_count` に文字種別・合計の削除数を、`report.json` の `kaeriten_characters_deleted` に出典別の削除数を記録します。これは正規化対象本文の数であり、重複除外となる本文の削除も含みます。既存build-001は保持します。 | |
| ```bash | |
| python3 scripts/unified_pretrain.py --output unified/pretrain-v1/build-002 | |
| ``` | |
| - 全文一致: 整理後の本文から空白・改行を除いたSHA256が同じ場合。上位出典の本文を残します。上位出典内で同じ本文が複数ある場合は、それらをすべて残します。 | |
| - 同名候補: 記号・空白、括弧内の版表示、末尾の「2巻」等を除いた書名で候補を検索。これらの除去は照合用キーだけに行い、学習本文は変えません。書名一致だけでは本文を削除しません。 | |
| - 包含: 同名候補内で、下位出典の本文全体(句読点・空白を除いた20文字以上)が上位出典の1本文単位に含まれる場合。 | |
| - 近似: 同名候補内で、下位本文が200文字以上あり、100種類以上の連続5文字断片のうち90%以上が上位の同じ作品/版グループにある場合。断片は64bit BLAKE2bで照合します。上位本文単位の境界をまたぐ断片は作りません。 | |
| - 除去した本文には、残した上位出典の本文IDと、包含または断片共有の判定根拠を保存します。代表本文がさらに上位へ置き換わった場合は参照の連鎖も保存し、最終的に採用済みの本文へ向けます。 | |
| この探索は候補書名に依存します。異名・大きいOCR差異・字体差・短い部分重複には見逃しがあります。断片の共有率は文字の正解率や編集距離ではありません。引用や同名だけで資料全体を除去しないよう、包含/高い共有率を条件にしています。 | |
| ## 出力 | |
| | ファイル | 内容 | | |
| |---|---| | |
| | `pretrain.jsonl` | 採用本文。学習入力は`text`フィールド。出典、原文参照、削除前品質、年代根拠も保持 | | |
| | `excluded.jsonl` | 全除外ID、理由、削除前品質、原文参照、重複時の代表IDと根拠 | | |
| | `duplicates.jsonl` | 出典横断重複による除外のみ | | |
| | `edits.jsonl` | 変更前後ハッシュ、文字数、削除した制御文字・漢文訓読記号の種類・数 | | |
| | `build.sqlite3` | 正規化本文、原メタデータ、採否、照合用索引。学習対象は`pretrain.jsonl`を使う | | |
| | `report.json`, `REPORT.md` | 出典別件数/文字数、除外理由、重複除去件数と規則 | | |
| | `verification.json` | 出力全文・ハッシュ、採用/除外の網羅性、空白規則、欠字率、優先先、来歴の検証 | | |
| | `manifest.json` | 規則、Unicodeバージョン、凍結入力/実装/出力のハッシュ、完了状態 | | |
| `quality`中の文字数などは元の監査指標をそのまま保持し、新しい本文の文字数は `normalized_chars` に保存します。`text_ref` は整理前本文への来歴参照です。整理前の本文ハッシュは `pre_normalization_text_sha256`、新本文のハッシュは `text_sha256` です。 | |
| 出力のみを再検証する場合: | |
| ```bash | |
| python3 scripts/unified_pretrain.py --output unified/pretrain-v1/build-001 --verify-only | |
| ``` | |
| 原文・既存build・監査は上書きしません。作品単位の結合・学習/評価分割・tokenize・packing・訓練は今回の処理に含みません。 | |