Datasets:
4コーパス統合前監査
unified_audit.py は Kanripo build-002、minhon build-003-bibdated、NDL build-001、Wikisource corpus-v1 の本文を読み、本文を変更せずに共通目録と確認候補を生成します。標準ライブラリのみを使用します。4出典版の出力は unified/preaudit-v1/run-002、確認資料は review-002。旧 run-001 は3出典の監査です。
python3 -m unittest discover -s scripts -p 'test_unified_audit.py' -v
python3 scripts/unified_audit.py --output unified/preaudit-v1/run-next
python3 scripts/unified_audit_review.py --audit unified/preaudit-v1/run-next --output unified/preaudit-v1/review-next
出力先は未作成のディレクトリを指定します。失敗時は manifest.json が complete=false のまま残ります。同じ出力先への再実行は拒否します。
| 出力 | 内容 |
|---|---|
REPORT.md, report.json |
件数・文字量・年代根拠区分・文字種・品質フラグ・重複候補の集計 |
catalog.jsonl |
1行1本文単位の共通目録。本文は text_ref のファイル・1始まりの行番号・text フィールドから参照 |
documents.jsonl |
出典内の資料/作品単位の目録と所属ページ/巻ファイル。順序は未検証 |
duplicates.jsonl |
完全一致・空白除去後一致の本文群。両者は重複するので合算しない |
title_candidates.jsonl |
保守的に記号・空白を除いた書名一致の候補群。同一作品の確定ではない |
near_candidates.jsonl |
異なる資料間で長い本文断片が2個以上一致した候補。自動削除しない |
review.jsonl |
年代不明、制御文字、管理記法候補、NDLの削除前欠字率/反復率5%以上の確認用一覧 |
audit.sqlite3 |
本文ハッシュ・出典・参照位置・本文断片ハッシュの検索用索引。本文全文は保存しない |
manifest.json |
入力・依存メタデータ・実装・出力のSHA256、開始/終了時刻、完了状態 |
verification.json |
全件本文ハッシュ、入力不変、原文参照存在、件数/文字数、出力IDの検証結果 |
解釈と限界
source_document_idは出典内の資料単位です。共通作品ID・底本IDは未確定でnull。同名だからといって作品を統合しません。bibliographic_years_pre1868はNDLの既存選択書誌の西暦が全て1867年以下という意味です。個々の注釈や本文部分の年代を証明しません。- Kanripoは王朝分類のみ、minhonは書誌欄の存在を記録し、厳格な年代確定をしません。かな/漢字の出現は文字種の観測であり、和文/漢文の確定分類ではありません。
- Wikisourceは
corpus-v1/documents.jsonlの987記事ページを取り込み、works.jsonlの393作品/版グループとの所属・結合本文を照合します。両ファイルの本文を重ねて学習候補にはしません。章の異なるページは原タイトルをunit_titleに保存し、既存作品名で他出典との同名候補を探します。 - Wikisourceの
header_yearは底本の刊行年とみなしません。index_yearと既存edition_eraから、1867年以前の底本年、明治以降の底本、前明治ラベルのみ、年代不明、矛盾を区別します。明治以降/不明の底本も監査には含め、学習対象として承認済みとはしません。 - 品質の5%閾値は確認対象の絞り込み用です。採否や真のOCR誤り率を示しません。
- 近似候補は80文字以上の行/文から先頭最大128文字を取り、空白除去後のSHA256の小さい方から最大24個を本文単位で採用します。2〜30本文単位に現れる断片だけを使い、異なる資料で2断片以上共有する組を出します。空白除去後に本文全体が一致する組は別一覧にあるため除きます。
- この近似探索には改行位置・OCR誤り・ページ境界による見逃しがあり、引用による一致も含みます。共有数は類似度や一致率ではありません。全出典横断の網羅的な近似重複検査ではありません。
- 元の3出典は清掃済み本文のSHA256を全件照合し、原文の存在と以前のハッシュ参照を確認します。Wikisourceには既存の清掃済みハッシュがないため、記事本文を抽出元TXT（既存のstrip処理後）と全件照合します。API取得分は描画HTML、その他はwikitextを原文参照にし、原文と抽出元TXTもハッシュ化します。全入力ファイルを終了時に再ハッシュします。
- minhonの利用条件はローカルREADME、Wikisourceは既存抽出説明の表示を転記し、原URL・リビジョン・版を保持します。統合データ全体の利用条件を確定したものではありません。
この監査では本文の削除・修正・ページ結合・採否変更・学習評価分割・tokenize・packingを実施しません。監査結果から代表本文、作品/底本対応、年代の採用条件を確定して次の統合工程へ進みます。