| # NDL 年代未判定資料の取得・調査 |
|
|
| 対象は2026年2月版の古典籍書誌で、インターネット公開・保護期間満了かつ現行の西暦判定ができない51,096件です。 |
| 実際には全件の`出版日（W3CDTF）`が空欄でした。原文の`出版日`、タイトル、巻次、著者、出版者等は残します。 |
| 解析可能な出版年が明治以降の6,475件は今回の対象に含めません。 |
|
|
| 保存先は`corpus/unknown-era/`。既存の31,657資料の学習用出力は変更しません。 |
| このコレクション・監査出力の`training_eligible`は全件falseです。 |
|
|
| ## 現在の処理 |
|
|
| 1. 候補の書誌とPIDを凍結。再開時は元書誌・PID・選択済みレコードが一致することを確認。 |
| 2. 全候補の書誌をminhonの近代記述判定規則で一次調査。 |
| 3. 100件ずつNDL検索APIと照合。全511バッチが成功してから収録確認済みPIDを確定。 |
| 4. 収録確認済み39,234件を、既存のNDLダウンローダーで4並列取得。元ZIP・連結TXT・API書誌・結果ログを保存。 |
| 5. ダウンローダー停止後、取得できたZIPのコマ別TXT・原書誌・API書誌で年代監査。全51,096候補について判定と取得状態を保存し、出力を自動検証。 |
|
|
| この実行では収録確認できなかった候補11,862件は全文取得に進みません。未収録・取得不可は年代の判定ではありません。 |
| 将来再照合する場合はキャッシュ更新を別途行います。検索収録はOCR取得の成功保証ではありません。 |
|
|
| ## 実行・進捗 |
|
|
| ```bash |
| # 通常は既に稼働中。進捗確認だけならこちら。 |
| python3 scripts/ndl_unknown_pipeline.py status |
| |
| # 停止・失敗後に再開する場合。同じ保存先への重複実行はロックで停止。 |
| python3 scripts/ndl_unknown_pipeline.py run --workers 4 |
| |
| # テスト |
| python3 -m unittest discover -s scripts -p 'test_ndl_unknown.py' -v |
| ``` |
|
|
| 開始済みジョブは独立したプロセスセッションで実行しています。 |
| `status.json`には実行PID、子PID、現在ステージ、各ステージのログ、終了コードを記録。 |
| `pipeline-logs/`にステージ別ログ、`data/logs/downloads.jsonl`にPID別の取得結果を保存します。 |
| `launcher.log`にはパイプラインそのものの例外が記録されます。 |
|
|
| 再開時は検索キャッシュを利用し、ダウンローダーは正常な取得済みZIPを再ダウンロードしません。 |
| APIが明示するPID対象外はunavailableとして記録。意味を断定できない403は停止し、無条件に再試行しません。 |
| 通信失敗などで一部が取得できなくても、取得済み部分の監査は行い、statusはcomplete_with_errorsになります。 |
| completeは照合済み対象の取得試行と監査が完了した意味で、51,096件全件のOCR取得成功を意味しません。 |
|
|
| ## 保存内容 |
|
|
| ```text |
| corpus/unknown-era/ |
| candidates/ |
| pids.txt # 全51,096候補 |
| selected.jsonl # 元書誌・選択理由・training_eligible=false |
| manifest.json # 元書誌・候補のハッシュ等 |
| pids_api.txt # API収録確認済み39,234候補 |
| api_records.jsonl # 検索で得たAPI書誌 |
| search-cache/ # 511バッチの検索結果・照会日時 |
| data/ |
| raw/ # OCR元ZIP |
| text/ # 連結TXT |
| metadata/ # API書誌JSON |
| unavailable/ # 明示的なPID対象外 |
| logs/downloads.jsonl |
| era-audit/ |
| <run>-metadata/ # 一次書誌調査 |
| <run>-ocr/ # 取得完了後の書誌＋OCR調査 |
| documents.csv # 候補全件の判定・取得状態・原文ハッシュ |
| pages.csv # ZIP内のコマ参照・文字数・所属判定 |
| evidence.jsonl # 一致した年代・近代語・管理情報の根拠 |
| summary.json |
| manifest.json |
| verification.json |
| implementation/ # 使用したminhon判定コード・管理情報処理・規則のコピー |
| status.json |
| pipeline-logs/ |
| ``` |
|
|
| 一次調査は`20261018T095145Z-metadata/`。初回OCR調査先は同じrunの`20261018T095145Z-ocr/`です。 |
| 再開すると時刻の違う新規監査ディレクトリを作り、過去の結果は保持します。 |
|
|
| ## 判定の意味 |
|
|
| minhonの`era-audit/classify.py`と`management.py`、527語・8パターンの規則を再利用します。 |
| 根拠の位置はNFKC正規化後の各書誌項目・コマ本文のUnicode文字位置です。原文は正規化・変更しません。 |
|
|
| - exclude: 管理情報として除外されない近代の年代・語彙等が検出された候補。 |
| - review: 曖昧な指標、本文未取得、読み取り失敗、空本文等がある候補。 |
| - retain_candidate: 非空OCRが取得でき、設定した近代指標が見つからない候補。江戸以前と確定した意味ではない。 |
| |
| 管理印・撮影情報・所蔵先等はminhonと同じ規則で該当範囲だけ無視し、ignored_adminとして根拠を保存。 |
| 本文内の古い年代は過去の出来事の記述かもしれず、古い年代があるだけでは成立・出版年を確定しません。 |
| APIの出版年も原書誌と併せて調べます。部分年・推定表記・元号の解釈が未確定な資料を自動で学習対象に入れません。 |
| 空OCR等で資料単位API書誌の保存まで進めなかった候補も、照合時に保存した検索API書誌を参照して調べます。 |
|
|
| 一次書誌調査では116件に近代指標、6,371件に江戸以前の年代記述を検出しました。 |
| この段階では本文を未走査なので、近代指標のある116件以外は全てreviewです。 |
| 全51,096資料の書誌一次出力の整合検証は成功済みです。 |
|
|
| ## 調査後 |
|
|
| 年代根拠を確認して採用範囲を決め、その後に欠字・反復などの品質監査と清掃を行います。 |
| 既存NDL・minhonとの統合はその後です。今回の収集処理は清掃・重複削除・tokenize・訓練を行いません。 |
|
|
