Datasets:

kuramot6f
/

classical-ja-pretrain

全件抽出ではextract --workers 24のように実行時の並列数を指定できます。省略時は固定設定のapi.workersを使います。この上書きは本文・プロンプト・モデル設定を変更せず、実際の並列数、開始終了、実装ハッシュ、終了時集計をrun内のexecutions/*.jsonへ記録します。

SFT用のuser/assistantへの変換や訓練は含みません。

2026-10-26に、OpenAIのstrictスキーマ設定で全843作品の処理を完了しました。結果はunified/sft-dialogue-v1/build-openai-001/SUMMARY.md、原文照合後の候補は同runのexports/001/dialogues.jsonl（3,916場面）、要確認はreview.jsonl（1,777場面）です。build-openai-001は作成済みなので、新規prepareには別のrun名を指定してください。

2026-10-27、要確認から100場面を選び、CodexがAPIを使わず原文を直接読んで修正しました。repair-manual-100-001/REVIEW.mdに全100件の判断と修正前後、dialogues.jsonlに57場面・255発言の修正候補を保存しました。元exportは変更していません。編集指示はscripts/manual_dialogue_edits.py、適用はpython3 scripts/manual_dialogue_edits.pyとpython3 scripts/manual_dialogue_pilot.py export、検証はpython3 scripts/verify_manual_dialogue_pilot.py、閲覧用文書の再生成はpython3 scripts/render_manual_dialogue_report.pyです。これらはオフライン処理です。

同日、修正57場面を既存候補へ全件統合しました。最新はexports/002/dialogues.jsonl（3,973場面・13,759発言）、要確認は同exportのreview.jsonl（1,708場面）です。latest-export.jsonとsummary.json.current_exportが最新の参照先を示します。対象外10件と重複2件も整理し、100件の判断はexports/002/resolution-decisions.jsonlに保存しました。統合スクリプトはscripts/integrate_manual_dialogue_repairs.pyで、上書きを防ぐため作成済みの002には再実行できません。従来のAPI応答のみからのexport再生成には直接修正が含まれないため、現在の利用には002を指定してください。

OpenAI / GPT-6 Lunaの試行

scripts/dialogue_extraction_openai_config.jsonでapi.provider=openai、model=gpt-6-luna、reasoning_effort=lowを指定できます。APIキーはスクリプト先頭のOPENAI_API_KEY定数を使います。DeepSeekのキーとは別の定数で、環境変数は参照しません。キーは出力・評価結果へコピーしません。

OpenAIにはmax_completion_tokensとreasoning_effortを送り、DeepSeek固有のthinkingやtemperatureは送りません。出力上限は推論を含め16,384トークンです。

現在のOpenAI設定はStructured Outputs（response_format.type=json_schema、strict=true）を使います。スキーマは設定ファイルのapi.response_formatに含め、prepare時にrunへ固定します。最上位のscenes、場面の三つのキー、発言のspeaker/textを必須とし、余分なキーを禁止します。スコアは整数0〜3、speakerはA〜Z、textは非空白文字を含む文字列、各場面は二発言以上に制約します。

同じ場面に異なる話者が二人以上いること、話者記号の登場順、原文一致、正しい話者・発言境界は引き続きPython側の検証や内容確認が必要です。Structured Outputsは内容の意味的な正しさまで保証しません。出力打ち切りや拒否等による不完全な応答も引き続き検査します。

旧runの固定設定にresponse_formatがない場合は、従来どおりJSONオブジェクト出力を使います。pilot-006はこの旧設定です。Structured Outputsを使う場合は、更新したOpenAI設定から新しいrunをprepareしてください。DeepSeek側のJSONモードは変更しません。

pilot-007で、以前JSONキー重複が起きた『戊戌夢物語』と、会話のない詔書を実APIで確認しました。両方とも一回でスキーマを満たしました。ただし前者は発言本文の原文不一致によりexport時にreviewへ分かれています。詳細はunified/sft-dialogue-v1/pilot-007/structured-output-check.json。構造制約を付けても原文照合は省略しません。

2026-10-26にpilot-006を準備し、過去の評価と同じ2チャンクを実APIで処理しました。両方成功し、2場面・5発言を原文照合後に出力しました。比較結果はunified/sft-dialogue-v1/reevaluation-001/gpt6-luna-low.mdです。残り14チャンクは未処理で、Wikisourceの抽出品質はこの試行では確認していません。

python3 scripts/extract_dialogues.py status --run unified/sft-dialogue-v1/pilot-006

新しいrunを準備する場合：

python3 scripts/extract_dialogues.py prepare --config scripts/dialogue_extraction_openai_config.json --run unified/sft-dialogue-v1/build-openai-001

参考：GPT-6 Luna公式モデルページ、Chat Completions API、Structured Outputs。

準備済みの小規模実行

2026-10-26に次のコマンドで、出典ごとに5作品を決定的に選びました。

cd /home/kuramoto/ds
python3 scripts/extract_dialogues.py prepare \
  --run unified/sft-dialogue-v1/pilot-002 \
  --limit-works-per-source 5

minhonは5作品・11連続区間・11チャンク、Wikisourceは5作品・5区間・5チャンク、計16チャンクです。旧設定（6,000文字）のpilot-001はそのまま保持しています。このディレクトリは既に存在するので、同じprepareコマンドは再実行せず、extractから始めてください。準備時点ではAPI送信はしていません。

scripts/extract_dialogues.pyの先頭にある定数DEEPSEEK_API_KEYへ、APIキーを直接記入してください。環境変数は参照しません。キーは実行結果やログには保存しません。

DEEPSEEK_API_KEY = "ここにAPIキーを記入"

最初は2チャンクだけ送信して確認できます。

python3 scripts/extract_dialogues.py extract \
  --run unified/sft-dialogue-v1/pilot-002 --max-chunks 2
python3 scripts/extract_dialogues.py export \
  --run unified/sft-dialogue-v1/pilot-002
python3 scripts/extract_dialogues.py status \
  --run unified/sft-dialogue-v1/pilot-002

--max-chunksはその実行で着手する異なるチャンク数の上限です。再試行は同じチャンクとして数えます。出力打ち切りから生成した子チャンクも上限に含みます。APIリクエスト数そのものの上限ではありません。

残りを処理するには、上限なしで同じrunにextractを実行します。

python3 scripts/extract_dialogues.py extract \
  --run unified/sft-dialogue-v1/pilot-002
python3 scripts/extract_dialogues.py export \
  --run unified/sft-dialogue-v1/pilot-002

設定とプロンプト

scripts/dialogue_extraction_config.json: 入力、出典、split、分割幅、モデル、並列数、再試行など。
scripts/dialogue_extraction_prompt.txt: LLMに渡す抽出・採点指示。

相対入力パスは、このリポジトリのルートを基準に解決します。--runはコマンド実行時のカレントディレクトリ基準です。

既定入力：

unified/pretrain-v1/build-003/pretrain.jsonl
unified/training-tokens-v1/build-006/splits.jsonl

既定では、本文区間が20,000文字以下なら全文を一度に渡し、超える場合は最大20,000文字で改行位置を優先して分割します。重なりは1,000文字、並列2リクエスト、1チャンクにつき1回のextract実行で最大3試行です。文字数はUnicodeコードポイント数であり、トークン数ではありません。

DeepSeekの公式ドキュメントを2026-10-26に確認し、既定モデルはdeepseek-flash、thinkingはdisabledとしました。モデル名、接続先、thinking、出力トークン上限などは設定で変更できます。JSONモードにはresponse_format={"type":"json_object"}を使い、最上位を{"scenes": [...]}としています。JSONモードは場面のスキーマや原文一致までは保証しないため、Python側でも検証します。

api.reasoning_effortは省略可能で、low / high / maxを指定できます。thinkingがenabledの場合だけ送ります。古いrunの設定にこの項目がなければ、APIへ送らず以前の挙動を維持します。既定設定ファイルにはlowを記載していますが、thinking自体の既定値はdisabledです。

2026-10-26の再評価で、改行ごとの話者交代を防ぐ説明・正例・負例をプロンプトに追加しました。固定済みのpilot-002には反映されません。同一の2チャンクをpilot-003〜005で再評価しましたが、地の文の混入や話者境界の誤りが残っています。機械検証済みの出力も、そのままSFTへ投入せず確認してください。詳細はunified/sft-dialogue-v1/reevaluation-001/report.mdに記録しています。

prepare時に設定とプロンプトをrunへコピーし、入力ファイル・プロンプト・実装のハッシュを記録します。既存runの固定済み設定・プロンプトを書き換えると処理を拒否します。変更する場合は別の設定ファイルと新しいrunを使ってください。元の入力ファイルは、prepare後のextract/exportでは再読せず、SQLiteに固定した本文を使います。プロバイダー側でモデル名の参照先が更新される可能性はあり、モデル重みまでの再現性を保証するものではありません。各API応答原文にはプロバイダーが返したモデル情報も保存されます。

全件用のrun

python3 scripts/extract_dialogues.py prepare \
  --config scripts/dialogue_extraction_config.json \
  --run unified/sft-dialogue-v1/build-001

--limit-works-per-sourceを省略すると対象の全作品を準備します。準備だけではAPIは呼びません。作品選択は出典ごとにseedと作品IDのハッシュで並べた順です。年代・ジャンルを均等に割り付ける標本ではありません。

既定ではtrain / validation / testをすべて抽出し、出力にも区分を保持します。SFT学習に投入するのはtrainだけにしてください。trainだけを抽出したい場合は、設定ファイルの"splits_include": ["train"]を使って新しいrunを作ります。

本文とページの連結

同じ出典・source_document_id単位にまとめ、全レコードの作品グループとsplitの整合を確認します。
minhonは001.txtのような数値ページ名だけを順序の根拠とし、番号が連続するページのみLFで連結します。元本文にない区切りLFを一つ挿入し、各ページ内の文字位置を保持します。
欠番は別区間に分けます。非数値名や重複ページ番号がある資料では、各ページを独立区間にします。
Wikisourceの記事は、記事IDから巻順を推測せず、それぞれ独立区間にします。複数記事をまたぐ会話は初版では扱いません。
同一作品の別版を作品グループだけで連結しません。グループは主に分割の整合確認に使います。
段落末を優先して分割し、前後に重なりを設けます。文字数上限からトークン数の厳密な保証はしません。

API応答と失敗

各場面にはcontext_dependenceとextraction_confidence（いずれも0〜3）、turnsを求めます。話者は場面ごとにAから振り直します。

正常な{"scenes": []}は成功として記録します。空のcontent、不正JSON、スキーマ違反は失敗として制限付きで再試行します。429・408・一時的なサーバー/通信エラーも再試行します。HTTPの数値Retry-Afterを尊重し、その他は指数バックオフを使います。認証・残高・入力エラーなど再試行対象外のHTTPエラーでは、新規投入を停止します。すでに送信済みの並列リクエストの結果は回収します。

finish_reason=lengthの応答は採用せず、重なりを設けた小さい二つのチャンクへ分割します。既定では最大4段、800文字以下のチャンクは再分割せずneeds_splitにします。その場合は出力上限や本文分割設定を見直して新しいrunを作ってください。

失敗済みチャンクは通常の再開で再送しません。再試行するには明示します。

python3 scripts/extract_dialogues.py extract \
  --run unified/sft-dialogue-v1/pilot-002 --retry-failed

同じrunの並列プロセス起動はファイルロックで防ぎます。強制終了でrunningのまま残った試行は、次回実行時にinterruptedとし、チャンクを再投入します。APIの処理完了とローカル保存の間で中断した場合、同じ本文が再送され、課金も重複する可能性があります。

検証と出力

exportのたびにexports/001/、exports/002/…と新しいディレクトリを作り、以前の結果は上書きしません。全件完了前のexportも可能ですが、report.jsonのcompleteはfalseになります。

ファイル	内容
`manifest.json`	入力ハッシュ、固定設定、実装ハッシュ、準備の完了状態
`prompt.txt`	固定したプロンプト
`state.sqlite3`	本文区間、原文メタデータ、チャンク、試行、状態、使用量
`responses/*.json`	HTTP成功時のAPI応答原文。空出力や形式違反も保存
`responses/*.parsed.json`	スキーマ検証済みのLLM出力
`exports/NNN/dialogues.jsonl`	原文一致・順序・重複を確認した一場面一行のデータ
`exports/NNN/review.jsonl`	原文不一致、位置の曖昧さ、チャンク境界、部分重複など
`exports/NNN/provenance.jsonl`	全区間の原レコード情報。出典URL、版、権利情報なども継承
`exports/NNN/report.json`	出典/split別件数、スコア分布、作品処理状況、使用量、出力ハッシュ

発言は原文の連続部分として完全一致させ、文字位置はUnicodeコードポイントによる半開区間です。発言列全体の順序を使って一致位置を解決し、複数の解釈が残る場合はreviewへ回します。ページをまたぐ発言は、各ページの文字位置の一覧を保存します。

重複は同一区間の原文位置と話者付き発言列で判定します。重複した結果のスコアが異なる場合は、文脈依存度の最大値と確信度の最小値を残し、その集約方法を明示します。部分的に重なる場面や話者の割り当てが異なる結果は、勝手に結合せずreviewへ回します。

内部チャンクの端から既定80文字以内に発言の開始・終了がある場面は、境界で切れた可能性があるためreviewへ回します。この検査は保守的なヒューリスティックであり、会話の完全性の保証ではありません。

dialogues.jsonlの採用基準は原文の追跡可能性です。スコアによる除外はせず、0〜3をすべて残します。発言の正確な一致だけでは会話・話者判定やスコアの正しさは保証できません。SFTへの投入前に人手で抜き取り確認してください。会話なしという判定の見逃しも、元チャンクと照合して確認します。

テスト

python3 -m unittest discover -s scripts -p test_extract_dialogues.py -v

外部APIに接続しない23テストで、入出力、原文位置、ページ欠番、ページをまたぐ発言、再開、再試行、認証失敗、出力打ち切り、チャンク重複、部分重複、JSONスキーマ、DeepSeek/OpenAIのAPIリクエスト形式とキーの選択、strictスキーマの固定と送信、非対応providerでの拒否、固定設定を保った並列数の実行記録などを確認します。