# 古典会話SFT 既存の古典事前学習モデルcheckpoint 27,500を、二者会話の応答で全パラメータ更新するローカル試行。 ## 初回試行 ```bash .venv-pretrain/bin/python scripts/sft_dialogue.py --output runs/classical-sft-confidence2-001 ``` 既存runへの上書きを拒否する。学習率1e-5、AdamW(betas 0.9/0.999、weight decay 0.01、norm/biasはdecayなし)、5% warmupとlinear decay、勾配clip 1、FP32重みとBF16 autocast、microbatch 4・accumulation 4、3 epoch。通常HF SDPAを使用し、paddingにattention maskを渡す。乱数seedは20261027。事前学習optimizerは引き継がない。 入力は`unified/sft-dialogue-v1/build-openai-001/exports/002/dialogues.jsonl`。二者会話・context_dependence<=1・extraction_confidence>=2に限定し、元splitを維持する。train 1,426場面・234作品群、validation 56場面・10作品群。validationのminhonは3場面しかない。 場面内で最初の話者をuser、もう一人をassistantとする。同一話者の連続発言は改行で連結。末尾userは外す。全assistant応答を学習する。本文の文字表記は他に変更しない。出典はscene_idから元exportを引ける。入力ファイル、初期重み、tokenizer、実行スクリプトのSHA256はconfig.jsonに記録。 学習系列はBOS ID 1で始め、各発言に`user:\n`/`assistant:\n`を既存tokenizerで符号化して付ける。本文も同じraw_encodeで符号化し、assistant末尾にEOS ID 2を直接付ける。user・header・paddingのラベルは-100。assistant本文とEOSだけを教師にし、loss側で一度だけnext-token shiftする。複数microbatchの教師トークン数合計でlossを正規化する。独立場面のpackingはしない。 テンプレート後train 177,245入力トークン・75,178教師トークン/epoch、最大長1,626。初回max_length 2,048では切り詰めなし。長すぎる場合は古いuser/assistantペアを丸ごと外し、単一ペアでも超過すれば停止する。 0.5 epochごとにvalidationと固定4生成例(greedy、最大96新規トークン)を保存する。best.jsonはvalidation assistant-token NLL最小のSFT checkpointを指す。学習前baseのvalidationと同一生成例も保存する。生成例はvalidationから作品を分散して選んだ少数例で、品質保証ではない。testのモデル評価は行わない。 ## 試す ```bash .venv-pretrain/bin/python scripts/try_sft.py --prompt 'いづこへ行く' --greedy .venv-pretrain/bin/python scripts/try_sft.py ``` デフォルトは上記runのbest.json。対話モードは履歴を保持し、`/reset`で消去、`/quit`で終了する。通常はtemperature 0.8/top-p 0.95、`--greedy`で決定的生成。応答はEOSか生成上限で終了。古い会話ペアから外して学習時と同じ2,048トークン予算を守る。独自のtoken単位テンプレートを共有しているため、通常のHF chat_templateへ自動置換しない。 ## 検証・出力 ```bash .venv-pretrain/bin/python -m unittest discover -s scripts -p test_sft_dialogue.py -v .venv-pretrain/bin/python scripts/sft_dialogue.py --output runs/classical-sft-confidence2-smoke-001 --smoke --max-updates 2 ``` smokeは先頭train 16場面・validation 8場面を使用する。本試行と出力を分離する。 各runに`config.json`、`data-report.json`、トークン化済み`train.jsonl`/`validation.jsonl`、`metrics.jsonl`、`status.json`、`validation-*.json`、`generations-*.json`、`checkpoint-*`、`best.json`を保存。checkpointはHF model/tokenizerとchat_format.jsonを含む。last-training-state.ptは最後に保存したcheckpointに対応するoptimizer/RNG等の補助保存で、自動resume CLIは未実装。実行失敗時はstatus.jsonのcomplete=trueがなければ未完了としてログを確認する。