code/scripts/README_ndl_unknown_era.md

NDL 年代未判定資料の取得・調査

対象は2026年2月版の古典籍書誌で、インターネット公開・保護期間満了かつ現行の西暦判定ができない51,096件です。 実際には全件の出版日（W3CDTF）が空欄でした。原文の出版日、タイトル、巻次、著者、出版者等は残します。 解析可能な出版年が明治以降の6,475件は今回の対象に含めません。

保存先はcorpus/unknown-era/。既存の31,657資料の学習用出力は変更しません。 このコレクション・監査出力のtraining_eligibleは全件falseです。

現在の処理

1. 候補の書誌とPIDを凍結。再開時は元書誌・PID・選択済みレコードが一致することを確認。
2. 全候補の書誌をminhonの近代記述判定規則で一次調査。
3. 100件ずつNDL検索APIと照合。全511バッチが成功してから収録確認済みPIDを確定。
4. 収録確認済み39,234件を、既存のNDLダウンローダーで4並列取得。元ZIP・連結TXT・API書誌・結果ログを保存。
5. ダウンローダー停止後、取得できたZIPのコマ別TXT・原書誌・API書誌で年代監査。全51,096候補について判定と取得状態を保存し、出力を自動検証。

この実行では収録確認できなかった候補11,862件は全文取得に進みません。未収録・取得不可は年代の判定ではありません。 将来再照合する場合はキャッシュ更新を別途行います。検索収録はOCR取得の成功保証ではありません。

実行・進捗

# 通常は既に稼働中。進捗確認だけならこちら。
python3 scripts/ndl_unknown_pipeline.py status

# 停止・失敗後に再開する場合。同じ保存先への重複実行はロックで停止。
python3 scripts/ndl_unknown_pipeline.py run --workers 4

# テスト
python3 -m unittest discover -s scripts -p 'test_ndl_unknown.py' -v

開始済みジョブは独立したプロセスセッションで実行しています。 status.jsonには実行PID、子PID、現在ステージ、各ステージのログ、終了コードを記録。 pipeline-logs/にステージ別ログ、data/logs/downloads.jsonlにPID別の取得結果を保存します。 launcher.logにはパイプラインそのものの例外が記録されます。

再開時は検索キャッシュを利用し、ダウンローダーは正常な取得済みZIPを再ダウンロードしません。 APIが明示するPID対象外はunavailableとして記録。意味を断定できない403は停止し、無条件に再試行しません。 通信失敗などで一部が取得できなくても、取得済み部分の監査は行い、statusはcomplete_with_errorsになります。 completeは照合済み対象の取得試行と監査が完了した意味で、51,096件全件のOCR取得成功を意味しません。

保存内容

corpus/unknown-era/
  candidates/
    pids.txt                 # 全51,096候補
    selected.jsonl           # 元書誌・選択理由・training_eligible=false
    manifest.json            # 元書誌・候補のハッシュ等
    pids_api.txt             # API収録確認済み39,234候補
    api_records.jsonl        # 検索で得たAPI書誌
    search-cache/            # 511バッチの検索結果・照会日時
  data/
    raw/                     # OCR元ZIP
    text/                    # 連結TXT
    metadata/                # API書誌JSON
    unavailable/             # 明示的なPID対象外
    logs/downloads.jsonl
  era-audit/
    <run>-metadata/          # 一次書誌調査
    <run>-ocr/               # 取得完了後の書誌＋OCR調査
      documents.csv          # 候補全件の判定・取得状態・原文ハッシュ
      pages.csv              # ZIP内のコマ参照・文字数・所属判定
      evidence.jsonl         # 一致した年代・近代語・管理情報の根拠
      summary.json
      manifest.json
      verification.json
      implementation/       # 使用したminhon判定コード・管理情報処理・規則のコピー
  status.json
  pipeline-logs/

一次調査は20261018T095145Z-metadata/。初回OCR調査先は同じrunの20261018T095145Z-ocr/です。 再開すると時刻の違う新規監査ディレクトリを作り、過去の結果は保持します。

判定の意味

minhonのera-audit/classify.pyとmanagement.py、527語・8パターンの規則を再利用します。 根拠の位置はNFKC正規化後の各書誌項目・コマ本文のUnicode文字位置です。原文は正規化・変更しません。

• exclude: 管理情報として除外されない近代の年代・語彙等が検出された候補。
• review: 曖昧な指標、本文未取得、読み取り失敗、空本文等がある候補。
• retain_candidate: 非空OCRが取得でき、設定した近代指標が見つからない候補。江戸以前と確定した意味ではない。

管理印・撮影情報・所蔵先等はminhonと同じ規則で該当範囲だけ無視し、ignored_adminとして根拠を保存。 本文内の古い年代は過去の出来事の記述かもしれず、古い年代があるだけでは成立・出版年を確定しません。 APIの出版年も原書誌と併せて調べます。部分年・推定表記・元号の解釈が未確定な資料を自動で学習対象に入れません。 空OCR等で資料単位API書誌の保存まで進めなかった候補も、照合時に保存した検索API書誌を参照して調べます。

一次書誌調査では116件に近代指標、6,371件に江戸以前の年代記述を検出しました。 この段階では本文を未走査なので、近代指標のある116件以外は全てreviewです。 全51,096資料の書誌一次出力の整合検証は成功済みです。

調査後

年代根拠を確認して採用範囲を決め、その後に欠字・反復などの品質監査と清掃を行います。 既存NDL・minhonとの統合はその後です。今回の収集処理は清掃・重複削除・tokenize・訓練を行いません。