| # DeepSeek APIによる古典会話抽出 |
|
|
| `extract_dialogues.py` は、既存のWikisource・minhon本文から会話を抽出するためのパイプラインです。Python 3.10以降の標準ライブラリだけで動作します。Linux/macOSの`fcntl`を使います。 |
|
|
| - `prepare`: ローカル本文を作品・版単位で整理し、入力チャンクを固定する。APIは呼ばない。 |
| - `extract`: DeepSeek Chat Completions APIへ本文を送信し、応答を保存する。成功済みチャンクは再送しない。 |
| - `export`: 原文一致、順序、境界、重複を検証し、一場面一行のJSONLを作る。APIは呼ばない。 |
| - `status`: チャンクの状態、作品の処理状況、API使用量を表示する。 |
|
|
| 全件抽出では`extract --workers 24`のように実行時の並列数を指定できます。省略時は固定設定のapi.workersを使います。この上書きは本文・プロンプト・モデル設定を変更せず、実際の並列数、開始終了、実装ハッシュ、終了時集計をrun内の`executions/*.json`へ記録します。 |
|
|
| SFT用のuser/assistantへの変換や訓練は含みません。 |
|
|
| 2026-10-26に、OpenAIのstrictスキーマ設定で全843作品の処理を完了しました。結果は`unified/sft-dialogue-v1/build-openai-001/SUMMARY.md`、原文照合後の候補は同runの`exports/001/dialogues.jsonl`（3,916場面）、要確認は`review.jsonl`（1,777場面）です。build-openai-001は作成済みなので、新規prepareには別のrun名を指定してください。 |
|
|
| 2026-10-27、要確認から100場面を選び、CodexがAPIを使わず原文を直接読んで修正しました。`repair-manual-100-001/REVIEW.md`に全100件の判断と修正前後、`dialogues.jsonl`に57場面・255発言の修正候補を保存しました。元exportは変更していません。編集指示は`scripts/manual_dialogue_edits.py`、適用は`python3 scripts/manual_dialogue_edits.py`と`python3 scripts/manual_dialogue_pilot.py export`、検証は`python3 scripts/verify_manual_dialogue_pilot.py`、閲覧用文書の再生成は`python3 scripts/render_manual_dialogue_report.py`です。これらはオフライン処理です。 |
|
|
| 同日、修正57場面を既存候補へ全件統合しました。最新は`exports/002/dialogues.jsonl`（3,973場面・13,759発言）、要確認は同exportの`review.jsonl`（1,708場面）です。`latest-export.json`と`summary.json.current_export`が最新の参照先を示します。対象外10件と重複2件も整理し、100件の判断は`exports/002/resolution-decisions.jsonl`に保存しました。統合スクリプトは`scripts/integrate_manual_dialogue_repairs.py`で、上書きを防ぐため作成済みの002には再実行できません。従来のAPI応答のみからのexport再生成には直接修正が含まれないため、現在の利用には002を指定してください。 |
|
|
| ## OpenAI / GPT-6 Lunaの試行 |
|
|
| `scripts/dialogue_extraction_openai_config.json`で`api.provider=openai`、`model=gpt-6-luna`、`reasoning_effort=low`を指定できます。APIキーはスクリプト先頭の`OPENAI_API_KEY`定数を使います。DeepSeekのキーとは別の定数で、環境変数は参照しません。キーは出力・評価結果へコピーしません。 |
|
|
| OpenAIには`max_completion_tokens`と`reasoning_effort`を送り、DeepSeek固有の`thinking`や`temperature`は送りません。出力上限は推論を含め16,384トークンです。 |
|
|
| 現在のOpenAI設定はStructured Outputs（`response_format.type=json_schema`、`strict=true`）を使います。スキーマは設定ファイルの`api.response_format`に含め、prepare時にrunへ固定します。最上位のscenes、場面の三つのキー、発言のspeaker/textを必須とし、余分なキーを禁止します。スコアは整数0〜3、speakerはA〜Z、textは非空白文字を含む文字列、各場面は二発言以上に制約します。 |
|
|
| 同じ場面に異なる話者が二人以上いること、話者記号の登場順、原文一致、正しい話者・発言境界は引き続きPython側の検証や内容確認が必要です。Structured Outputsは内容の意味的な正しさまで保証しません。出力打ち切りや拒否等による不完全な応答も引き続き検査します。 |
|
|
| 旧runの固定設定にresponse_formatがない場合は、従来どおりJSONオブジェクト出力を使います。pilot-006はこの旧設定です。Structured Outputsを使う場合は、更新したOpenAI設定から新しいrunをprepareしてください。DeepSeek側のJSONモードは変更しません。 |
| |
| pilot-007で、以前JSONキー重複が起きた『戊戌夢物語』と、会話のない詔書を実APIで確認しました。両方とも一回でスキーマを満たしました。ただし前者は発言本文の原文不一致によりexport時にreviewへ分かれています。詳細は`unified/sft-dialogue-v1/pilot-007/structured-output-check.json`。構造制約を付けても原文照合は省略しません。 |
| |
| 2026-10-26にpilot-006を準備し、過去の評価と同じ2チャンクを実APIで処理しました。両方成功し、2場面・5発言を原文照合後に出力しました。比較結果は`unified/sft-dialogue-v1/reevaluation-001/gpt6-luna-low.md`です。残り14チャンクは未処理で、Wikisourceの抽出品質はこの試行では確認していません。 |
| |
| ```bash |
| python3 scripts/extract_dialogues.py status --run unified/sft-dialogue-v1/pilot-006 |
| ``` |
| |
| 新しいrunを準備する場合： |
| |
| ```bash |
| python3 scripts/extract_dialogues.py prepare --config scripts/dialogue_extraction_openai_config.json --run unified/sft-dialogue-v1/build-openai-001 |
| ``` |
| |
| 参考：[GPT-6 Luna公式モデルページ](https://developers.openai.com/api/docs/models/gpt-6-luna)、[Chat Completions API](https://developers.openai.com/api/reference/resources/chat/subresources/completions/methods/create)、[Structured Outputs](https://developers.openai.com/api/docs/guides/structured-outputs?api-mode=chat)。 |
| |
| ## 準備済みの小規模実行 |
| |
| 2026-10-26に次のコマンドで、出典ごとに5作品を決定的に選びました。 |
| |
| ```bash |
| cd /home/kuramoto/ds |
| python3 scripts/extract_dialogues.py prepare \ |
| --run unified/sft-dialogue-v1/pilot-002 \ |
| --limit-works-per-source 5 |
| ``` |
| |
| minhonは5作品・11連続区間・11チャンク、Wikisourceは5作品・5区間・5チャンク、計16チャンクです。旧設定（6,000文字）のpilot-001はそのまま保持しています。このディレクトリは既に存在するので、同じprepareコマンドは再実行せず、extractから始めてください。準備時点ではAPI送信はしていません。 |
| |
| `scripts/extract_dialogues.py`の先頭にある定数`DEEPSEEK_API_KEY`へ、APIキーを直接記入してください。環境変数は参照しません。キーは実行結果やログには保存しません。 |
|
|
| ```python |
| DEEPSEEK_API_KEY = "ここにAPIキーを記入" |
| ``` |
|
|
| 最初は2チャンクだけ送信して確認できます。 |
|
|
| ```bash |
| python3 scripts/extract_dialogues.py extract \ |
| --run unified/sft-dialogue-v1/pilot-002 --max-chunks 2 |
| python3 scripts/extract_dialogues.py export \ |
| --run unified/sft-dialogue-v1/pilot-002 |
| python3 scripts/extract_dialogues.py status \ |
| --run unified/sft-dialogue-v1/pilot-002 |
| ``` |
|
|
| `--max-chunks`はその実行で着手する異なるチャンク数の上限です。再試行は同じチャンクとして数えます。出力打ち切りから生成した子チャンクも上限に含みます。APIリクエスト数そのものの上限ではありません。 |
|
|
| 残りを処理するには、上限なしで同じrunにextractを実行します。 |
|
|
| ```bash |
| python3 scripts/extract_dialogues.py extract \ |
| --run unified/sft-dialogue-v1/pilot-002 |
| python3 scripts/extract_dialogues.py export \ |
| --run unified/sft-dialogue-v1/pilot-002 |
| ``` |
|
|
| ## 設定とプロンプト |
|
|
| - `scripts/dialogue_extraction_config.json`: 入力、出典、split、分割幅、モデル、並列数、再試行など。 |
| - `scripts/dialogue_extraction_prompt.txt`: LLMに渡す抽出・採点指示。 |
|
|
| 相対入力パスは、このリポジトリのルートを基準に解決します。`--run`はコマンド実行時のカレントディレクトリ基準です。 |
|
|
| 既定入力： |
|
|
| - `unified/pretrain-v1/build-003/pretrain.jsonl` |
| - `unified/training-tokens-v1/build-006/splits.jsonl` |
|
|
| 既定では、本文区間が20,000文字以下なら全文を一度に渡し、超える場合は最大20,000文字で改行位置を優先して分割します。重なりは1,000文字、並列2リクエスト、1チャンクにつき1回のextract実行で最大3試行です。文字数はUnicodeコードポイント数であり、トークン数ではありません。 |
|
|
| DeepSeekの公式ドキュメントを2026-10-26に確認し、既定モデルは`deepseek-flash`、thinkingは`disabled`としました。モデル名、接続先、thinking、出力トークン上限などは設定で変更できます。JSONモードには`response_format={"type":"json_object"}`を使い、最上位を`{"scenes": [...]}`としています。JSONモードは場面のスキーマや原文一致までは保証しないため、Python側でも検証します。 |
|
|
| `api.reasoning_effort`は省略可能で、`low` / `high` / `max`を指定できます。thinkingがenabledの場合だけ送ります。古いrunの設定にこの項目がなければ、APIへ送らず以前の挙動を維持します。既定設定ファイルにはlowを記載していますが、thinking自体の既定値はdisabledです。 |
|
|
| 2026-10-26の再評価で、改行ごとの話者交代を防ぐ説明・正例・負例をプロンプトに追加しました。固定済みのpilot-002には反映されません。同一の2チャンクをpilot-003〜005で再評価しましたが、地の文の混入や話者境界の誤りが残っています。機械検証済みの出力も、そのままSFTへ投入せず確認してください。詳細は`unified/sft-dialogue-v1/reevaluation-001/report.md`に記録しています。 |
|
|
| - [JSON Output](https://api-docs.deepseek.com/guides/json_mode/) |
| - [Chat Completions API](https://api-docs.deepseek.com/api/create-chat-completion/) |
| - [Thinking Mode](https://api-docs.deepseek.com/guides/thinking_mode/) |
| - [モデル一覧](https://api-docs.deepseek.com/quick_start/pricing/) |
|
|
| prepare時に設定とプロンプトをrunへコピーし、入力ファイル・プロンプト・実装のハッシュを記録します。既存runの固定済み設定・プロンプトを書き換えると処理を拒否します。変更する場合は別の設定ファイルと新しいrunを使ってください。元の入力ファイルは、prepare後のextract/exportでは再読せず、SQLiteに固定した本文を使います。プロバイダー側でモデル名の参照先が更新される可能性はあり、モデル重みまでの再現性を保証するものではありません。各API応答原文にはプロバイダーが返したモデル情報も保存されます。 |
|
|
| ## 全件用のrun |
|
|
| ```bash |
| python3 scripts/extract_dialogues.py prepare \ |
| --config scripts/dialogue_extraction_config.json \ |
| --run unified/sft-dialogue-v1/build-001 |
| ``` |
|
|
| `--limit-works-per-source`を省略すると対象の全作品を準備します。準備だけではAPIは呼びません。作品選択は出典ごとにseedと作品IDのハッシュで並べた順です。年代・ジャンルを均等に割り付ける標本ではありません。 |
|
|
| 既定ではtrain / validation / testをすべて抽出し、出力にも区分を保持します。SFT学習に投入するのはtrainだけにしてください。trainだけを抽出したい場合は、設定ファイルの`"splits_include": ["train"]`を使って新しいrunを作ります。 |
|
|
| ## 本文とページの連結 |
|
|
| - 同じ出典・`source_document_id`単位にまとめ、全レコードの作品グループとsplitの整合を確認します。 |
| - minhonは`001.txt`のような数値ページ名だけを順序の根拠とし、番号が連続するページのみLFで連結します。元本文にない区切りLFを一つ挿入し、各ページ内の文字位置を保持します。 |
| - 欠番は別区間に分けます。非数値名や重複ページ番号がある資料では、各ページを独立区間にします。 |
| - Wikisourceの記事は、記事IDから巻順を推測せず、それぞれ独立区間にします。複数記事をまたぐ会話は初版では扱いません。 |
| - 同一作品の別版を作品グループだけで連結しません。グループは主に分割の整合確認に使います。 |
| - 段落末を優先して分割し、前後に重なりを設けます。文字数上限からトークン数の厳密な保証はしません。 |
|
|
| ## API応答と失敗 |
|
|
| 各場面には`context_dependence`と`extraction_confidence`（いずれも0〜3）、`turns`を求めます。話者は場面ごとにAから振り直します。 |
|
|
| 正常な`{"scenes": []}`は成功として記録します。空のcontent、不正JSON、スキーマ違反は失敗として制限付きで再試行します。429・408・一時的なサーバー/通信エラーも再試行します。HTTPの数値`Retry-After`を尊重し、その他は指数バックオフを使います。認証・残高・入力エラーなど再試行対象外のHTTPエラーでは、新規投入を停止します。すでに送信済みの並列リクエストの結果は回収します。 |
|
|
| `finish_reason=length`の応答は採用せず、重なりを設けた小さい二つのチャンクへ分割します。既定では最大4段、800文字以下のチャンクは再分割せず`needs_split`にします。その場合は出力上限や本文分割設定を見直して新しいrunを作ってください。 |
|
|
| 失敗済みチャンクは通常の再開で再送しません。再試行するには明示します。 |
|
|
| ```bash |
| python3 scripts/extract_dialogues.py extract \ |
| --run unified/sft-dialogue-v1/pilot-002 --retry-failed |
| ``` |
|
|
| 同じrunの並列プロセス起動はファイルロックで防ぎます。強制終了で`running`のまま残った試行は、次回実行時に`interrupted`とし、チャンクを再投入します。APIの処理完了とローカル保存の間で中断した場合、同じ本文が再送され、課金も重複する可能性があります。 |
|
|
| ## 検証と出力 |
|
|
| exportのたびに`exports/001/`、`exports/002/`…と新しいディレクトリを作り、以前の結果は上書きしません。全件完了前のexportも可能ですが、`report.json`の`complete`はfalseになります。 |
|
|
| | ファイル | 内容 | |
| |---|---| |
| | `manifest.json` | 入力ハッシュ、固定設定、実装ハッシュ、準備の完了状態 | |
| | `prompt.txt` | 固定したプロンプト | |
| | `state.sqlite3` | 本文区間、原文メタデータ、チャンク、試行、状態、使用量 | |
| | `responses/*.json` | HTTP成功時のAPI応答原文。空出力や形式違反も保存 | |
| | `responses/*.parsed.json` | スキーマ検証済みのLLM出力 | |
| | `exports/NNN/dialogues.jsonl` | 原文一致・順序・重複を確認した一場面一行のデータ | |
| | `exports/NNN/review.jsonl` | 原文不一致、位置の曖昧さ、チャンク境界、部分重複など | |
| | `exports/NNN/provenance.jsonl` | 全区間の原レコード情報。出典URL、版、権利情報なども継承 | |
| | `exports/NNN/report.json` | 出典/split別件数、スコア分布、作品処理状況、使用量、出力ハッシュ | |
|
|
| 発言は原文の連続部分として完全一致させ、文字位置はUnicodeコードポイントによる半開区間です。発言列全体の順序を使って一致位置を解決し、複数の解釈が残る場合はreviewへ回します。ページをまたぐ発言は、各ページの文字位置の一覧を保存します。 |
|
|
| 重複は同一区間の原文位置と話者付き発言列で判定します。重複した結果のスコアが異なる場合は、文脈依存度の最大値と確信度の最小値を残し、その集約方法を明示します。部分的に重なる場面や話者の割り当てが異なる結果は、勝手に結合せずreviewへ回します。 |
|
|
| 内部チャンクの端から既定80文字以内に発言の開始・終了がある場面は、境界で切れた可能性があるためreviewへ回します。この検査は保守的なヒューリスティックであり、会話の完全性の保証ではありません。 |
|
|
| dialogues.jsonlの採用基準は原文の追跡可能性です。スコアによる除外はせず、0〜3をすべて残します。発言の正確な一致だけでは会話・話者判定やスコアの正しさは保証できません。SFTへの投入前に人手で抜き取り確認してください。会話なしという判定の見逃しも、元チャンクと照合して確認します。 |
|
|
| ## テスト |
|
|
| ```bash |
| python3 -m unittest discover -s scripts -p test_extract_dialogues.py -v |
| ``` |
|
|
| 外部APIに接続しない23テストで、入出力、原文位置、ページ欠番、ページをまたぐ発言、再開、再試行、認証失敗、出力打ち切り、チャンク重複、部分重複、JSONスキーマ、DeepSeek/OpenAIのAPIリクエスト形式とキーの選択、strictスキーマの固定と送信、非対応providerでの拒否、固定設定を保った並列数の実行記録などを確認します。 |
|
|
