classical-ja-pretrain / code /scripts /README_sft_dialogue.md
kuramot6f's picture
Initial release (history squashed)
7a088d4
|
Raw History Blame Contribute Delete
3.93 kB

古典会話SFT

既存の古典事前学習モデルcheckpoint 27,500を、二者会話の応答で全パラメータ更新するローカル試行。

初回試行

.venv-pretrain/bin/python scripts/sft_dialogue.py --output runs/classical-sft-confidence2-001

既存runへの上書きを拒否する。学習率1e-5、AdamW(betas 0.9/0.999、weight decay 0.01、norm/biasはdecayなし)、5% warmupとlinear decay、勾配clip 1、FP32重みとBF16 autocast、microbatch 4・accumulation 4、3 epoch。通常HF SDPAを使用し、paddingにattention maskを渡す。乱数seedは20261027。事前学習optimizerは引き継がない。

入力はunified/sft-dialogue-v1/build-openai-001/exports/002/dialogues.jsonl。二者会話・context_dependence<=1・extraction_confidence>=2に限定し、元splitを維持する。train 1,426場面・234作品群、validation 56場面・10作品群。validationのminhonは3場面しかない。

場面内で最初の話者をuser、もう一人をassistantとする。同一話者の連続発言は改行で連結。末尾userは外す。全assistant応答を学習する。本文の文字表記は他に変更しない。出典はscene_idから元exportを引ける。入力ファイル、初期重み、tokenizer、実行スクリプトのSHA256はconfig.jsonに記録。

学習系列はBOS ID 1で始め、各発言にuser:\n/assistant:\nを既存tokenizerで符号化して付ける。本文も同じraw_encodeで符号化し、assistant末尾にEOS ID 2を直接付ける。user・header・paddingのラベルは-100。assistant本文とEOSだけを教師にし、loss側で一度だけnext-token shiftする。複数microbatchの教師トークン数合計でlossを正規化する。独立場面のpackingはしない。

テンプレート後train 177,245入力トークン・75,178教師トークン/epoch、最大長1,626。初回max_length 2,048では切り詰めなし。長すぎる場合は古いuser/assistantペアを丸ごと外し、単一ペアでも超過すれば停止する。

0.5 epochごとにvalidationと固定4生成例(greedy、最大96新規トークン)を保存する。best.jsonはvalidation assistant-token NLL最小のSFT checkpointを指す。学習前baseのvalidationと同一生成例も保存する。生成例はvalidationから作品を分散して選んだ少数例で、品質保証ではない。testのモデル評価は行わない。

試す

.venv-pretrain/bin/python scripts/try_sft.py --prompt 'いづこへ行く' --greedy
.venv-pretrain/bin/python scripts/try_sft.py

デフォルトは上記runのbest.json。対話モードは履歴を保持し、/resetで消去、/quitで終了する。通常はtemperature 0.8/top-p 0.95、--greedyで決定的生成。応答はEOSか生成上限で終了。古い会話ペアから外して学習時と同じ2,048トークン予算を守る。独自のtoken単位テンプレートを共有しているため、通常のHF chat_templateへ自動置換しない。

検証・出力

.venv-pretrain/bin/python -m unittest discover -s scripts -p test_sft_dialogue.py -v
.venv-pretrain/bin/python scripts/sft_dialogue.py --output runs/classical-sft-confidence2-smoke-001 --smoke --max-updates 2

smokeは先頭train 16場面・validation 8場面を使用する。本試行と出力を分離する。

各runにconfig.json、data-report.json、トークン化済みtrain.jsonl/validation.jsonl、metrics.jsonl、status.json、validation-*.json、generations-*.json、checkpoint-*、best.jsonを保存。checkpointはHF model/tokenizerとchat_format.jsonを含む。last-training-state.ptは最後に保存したcheckpointに対応するoptimizer/RNG等の補助保存で、自動resume CLIは未実装。実行失敗時はstatus.jsonのcomplete=trueがなければ未完了としてログを確認する。