Datasets:
minhon の前処理
対象は minhon/era-audit/output-v2 の retain_candidate。年代は再判定しません。原文を変更せず、翻刻記法・ルビを除いた本文のプレビューと監査情報を作ります。Python標準ライブラリのみを使用します。
今回の成果物
minhon/preprocessed-v1/build-001/clean_pages.jsonl: 承認済み積極削除規則で全候補を処理し、警告なし・非空の本文を保存した最新データ。minhon/preprocessed-v1/build-001/REPORT.md: 本文生成時の集計・例。minhon/preprocessed-v1/build-001/verification.json: 出力した全ページの原文ハッシュと変換結果の検証。minhon/preprocessed-v1/inspection-004/REPORT.md: ユーザー指定の積極削除規則による全件集計・変換例・要確認例。minhon/preprocessed-v1/inspection-004/preview.jsonl: 記法・警告ごとのサンプル。原文・処理後全文・変更履歴を含みます。inspection-001/〜inspection-003/: 過去規則による比較用の結果。最新は004です。
全件の本文生成まで実行しました。訓練・分割・tokenize・他コーパスとの結合・重複削除は行っていません。
実行
すべて /home/kuramoto/ds から実行します。出力先はまだ存在しないディレクトリを指定してください。既存結果は上書きしません。
# 全候補を走査。変換は検証用にメモリ内で行い、本文は記法別サンプルだけ保存。
python3 scripts/minhon_preprocess.py inspect --output minhon/preprocessed-v1/inspection-next
# 小規模な規則の動作確認。先頭Nページなので、全プロジェクトの代表標本ではない。
python3 scripts/minhon_preprocess.py sample --limit 2000 --output minhon/preprocessed-v1/sample-next
# 完了した集計をMarkdownにする。
python3 scripts/minhon_preprocess_report.py minhon/preprocessed-v1/inspection-next
# 集計の整合性・入力ハッシュ・保存した全プレビューの再現性を確認。
python3 scripts/minhon_verify_inspection.py minhon/preprocessed-v1/inspection-next
# オフライン検証。
python3 -m unittest discover -s scripts -p 'test_minhon_preprocess.py' -v
inspect と sample の処理は共通で、--limit を指定しなければどちらも全候補を走査します。サンプルは各記法・警告が現れた最初の数ページです。統計的な無作為標本ではありません。
全件の本文生成を再実行する場合も、新しい出力先を指定します。
python3 scripts/minhon_preprocess.py build --output minhon/preprocessed-v1/build-next
build は status=clean のページだけを clean_pages.jsonl に保存します。要確認ページは原文を保持したまま別一覧になります。ページを取り除いて前後を連結する処理はありません。重複ページも自動削除しません。
入力と出力
入力は documents.csv と pages.csv による許可リストです。view のリンク先を再帰収集せず、翻訳・管理ファイルを取り込みません。--audit、--source-root、--rules で場所を変更できます。
| ファイル | 内容 |
|---|---|
manifest.json |
入力CSV・規則・実装のSHA256、実行条件、開始・終了時刻、完了状態 |
report.json |
ページ数・文字数・プロジェクト別集計・出現記法・警告 |
preview.jsonl |
原文と処理後本文を並べた記法別サンプル |
edits.jsonl |
変更ページの削除・展開箇所と空白整理の有無 |
review.jsonl |
確認が必要な箇所・理由と読み取りエラー |
empty_pages.jsonl |
空ページのID・原文ハッシュ・処理履歴。ページの欠落を追跡するための一覧 |
duplicates.jsonl |
非空の処理後本文の完全一致群。要確認本文も含む |
clean_pages.jsonl |
buildのみ。警告なし・非空ページの本文と来歴 |
verification.json |
集計整合性・プレビュー再現検証。buildでは全採用ページの原文ハッシュ・変換結果・重複ID・文字数も検証 |
ページIDは v1/資料ID/ページ.txt または v3/プロジェクトID/資料ID/ページ.txt。原文参照はsource-rootからの相対パスとSHA256です。原文の複製は作らず、元のファイルを保持します。ページ名は保存しますが、整数の連番や読書順が正しいとはまだ保証しません。結合時は書誌・IIIF・ページ情報との照合が必要です。
edits のstart/endは、UTF-8デコードした原文上のUnicode文字位置です。NFKC後の位置やバイト位置ではありません。入れ子の変換は外側の変更にまとめ、編集範囲が重ならないようにしています。BOM・改行コード・制御文字の整理と残存欠字□の削除は、その後の独立した段階として記録します。欠字削除数はnormalizationとfeaturesに記録し、注記内で削除したものも含めた総数をreportに保存します。非空本文の空白・字下げ・行末空白・改行・空行は維持します。全体が空白だけのページは空本文として数えます。
暫定規則
規則は minhon_preprocess_rules.json にあります。変更後は新しい出力先で再実行します。
- 全角・半角・混在の丸括弧は中身ごと削除します。漢字・句読点を含む注や独立した括弧も削除対象です。本文直前のルビ区切り記号は、その後に閉じた丸括弧がある場合に削除します。
振り仮名・旧記法のルビは親文字だけ残します。割書は内容を順に展開し、箱・題・場所は中身を残します。圏点は対象文字を残し、点の指定を削除します。見せ消ちは訂正後の文字を採用します。訂正後を特定できない形は要確認です。＿の返り点、《返り点：…》を削除します。￣・《送り仮名：…》は記法だけ除き、送り仮名本文は残します。〖…〗と【…】は中身ごと削除します。旧注記の存在だけでは確認フラグを付けません。これはユーザー指定の本文抽出方針で、すべての括弧内文字が現代の追加だと保証するものではありません。- 石本文庫番号など、明示した管理用の一行だけを削除します。図書館名の一般的な言及や蔵書印の中身を一律に削除しません。
- 旧字体、異体字・異体字セレクタ、歴史的仮名遣い、踊り字を維持します。NFKC変換や推測による誤刻訂正はしません。
- 欠字の
□はすべて削除します。たとえば前□□後は前後になります。内容は推測補完しません。高い削除率は確認対象にし、短文であることだけでは除外しません。 - ガイドラインが空白を闕字として扱うこと、改行と字下げを残すことを踏まえ、行末空白の除去と空行の圧縮は行いません。半角空白にはルビの境界としての用途もありますが、闕字と自動判別できないため一律に削除しません。
括弧内に原本の注・書き込みが翻刻されている可能性もあります。現在は本文の純度を優先して削除し、原文参照と変更履歴を残します。これは「江戸以前の原本に括弧が絶対にない」という歴史的な主張ではありません。
未知タグ・未閉鎖括弧は残して要確認にします。行末やファイル末まで推測で削除しません。削除対象の括弧は同じ括弧種の入れ子を追跡するため、【注（未完】 のように内部の別種の記法が壊れていても、閉じた【】は削除します。欠字□は要確認部分からも削除します。
次の工程
- 全件本文はbuild-001に出力済み。保留ページの未対応記法・括弧破損・削除率を必要に応じて確認する。
- 規則を追加変更する場合は、新しい出力先にbuildする。
- v1/v3の同一資料をIIIF等の出典で対応付け、版の違いと重複を区別する。現在は清掃後の完全一致の記録まで。
- 他データセットと共通の来歴・ライセンス情報を整え、全体での重複整理・作品単位分割を行う。
原データREADMEはCC BY-SA 4.0を表示しています。データセットを統合する際に出典・表示情報を保持してください。
公式資料との対応（2026-10-18確認）
根拠は 特殊記法 と 標準翻刻ガイドライン です。公式の入力仕様と、今回のLLM向け出力方針を区別しています。
| 対象 | 公式での位置付け | 今回の前処理 |
|---|---|---|
| ルビ | 原本にある読みを入力。左右ルビにも対応 | ユーザー指定により両方を削除し、親文字を残す |
| 割書・箱・題・場所・圏点 | 文字の組版・修飾・属性 | 記法と修飾指定だけ除き、本文を残す |
| 見せ消ち | 元の文章と訂正後の文章を区別 | 訂正後を採用。モデル用の編集方針であり、成立年代の証明ではない |
| 送り仮名 | 原文にある文字を入力し、脱落は補わない | 記法のみ除去。原文にない文字を追加しない |
| 返り点 | 漢文に付く訓点 | 訓点を削除。漢文を訓読順に並べ替えない |
| 〖…〗 | 最終出力から除く注記 | 削除 |
| 【…】 | 今回の2ページでは同等の削除仕様を確認できない | ユーザー指定で中身ごと削除。存在だけを理由に保留しない |
| □ | 判読不能の文字 | ユーザー指定で削除。原文の欠字数と削除数を記録 |
| 空白・句読点・改行・字下げ | 原文に従う | 保存。句読点や濁点を推測で補わない |
| 書き込み・付箋・図中の文字 | 本文と区別して入力 | 括弧内にあるものは今回の指定により削除。原文と差分は保持 |
保守的な規則も利用できます。別の設定ファイルで round_brackets_policy: ruby_only、legacy_editorial_policy: review、missing_character_policy: keep とすると、従来のルビ判定・旧注記保留・欠字保持になります。元の003の設定は同ディレクトリのmanifest.jsonにも保存しています。
ガイドラインでは変体仮名や漢字を翻刻段階で活字・当用漢字の字体へ寄せる方針も示されています。したがって入力は原本の字形の完全な再現ではありません。今回の処理は既存翻刻の表記を保存し、失われた旧字体や変体仮名を推定復元しません。また、プロジェクトごとの翻刻方針があり、公式仕様に合わない入力を一律に誤りとみなさず確認対象にします。
guidelinesページには改訂検討中との案内があります。今回の根拠は指定された公開ページの本文で、リンク先の改訂案を確定仕様として採用していません。