17.13 넷째 학습: 경계 결정 1~4 · 대비 줄(학습 7,149 · 검증 955 · 개발 505), 씨앗 2 · 0.5에포크 · lm_weight 0.5 · 온도 1.84(합친 판으로 맞춤), 꼴별 문으로 고름, 2 GB 조각(저장소 routing.md 17.13절)

README.md

@@ -18,8 +18,8 @@ tags:
 바탕 모델의 원격 코드(`modeling_sysone.py`)를 그대로 쓰고 `model.decide()`로 부른다. LoRA는 bf16 가중치에 합쳤다.
 
 - 학습: 백본 모든 선형 층 LoRA(계수 16, alpha 32.0) + 결정 헤드, 헤드는 로그 손실 + Brier, 글자 답은 교차 엔트로피, 보기 순서를 줄마다 섞음,
-  학습률 0.0002, 에포크 2, 배치 8, 씨앗 2, 멈춤·그만 가중 2.0.
-- 읽기: 결정 헤드와 글자 답의 로그 확률을 `lm_weight` 0.5로 섞는다. 보정 온도 `choice:6+` = 1.84(검증 + 개발 세트로 다시 맞춤).
+  학습률 0.0002, 에포크 0.5, 배치 8, 씨앗 2, 멈춤·그만 가중 2.0.
+- 읽기: 결정 헤드와 글자 답의 로그 확률을 `lm_weight` 0.5로 섞는다. 보정 온도 `choice:6+` = 1.84(합친 판의 검증 + 개발 확률로 다시 맞춤).
 - 입력: state는 `교실 과학 실험 로봇 곁에서 들린 한국어 말을 받아쓴 글과 그때의 상황이다. '||' 앞은 상황 칸, 뒤는 그 말이다.` 뒤에 `장면=… | 실험=… | 나뭇잎 활동=… | AI 제안=… | 말한 사람=… || <말>` 한 줄, 질문은 `utterance_kind` 하나(choice, 보기는 학습한 글 그대로).
   보기 글과 지시문은 저장소 `dialogue/routing/nari_route.py`의 `short_stop` 판이다. 다른 글로 물으면 학습한 분포에서 벗어난다.
 - 자료와 측정: 비공개 저장소의 학습 자료로 학습했고 자료는 올리지 않는다. 숫자는 저장소 `docs/measurements/routing.md` 12~15절.

model-00001-of-00005.safetensors

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:36d2696151dea465dabca89dda5861e8f15675e9be3fda740d36970303e052fc
+oid sha256:6e6b05a6e232a8dc2d854784106621ce65848f7d72a41f73336e580867202283
 size 1996137832

model-00002-of-00005.safetensors

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:c557657d87225232384604983a79bb73ec0d6b953cd7e7f2717815621d1f8954
+oid sha256:87dae388eaa55c15d30dd1faa385520865d0c81921bd3beb7cac630c11c22137
 size 1995158888

model-00003-of-00005.safetensors

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:7c93a312a7208c13e3d2b801cad3e06fa3bc44a08ecaea1d161e780c400d2faa
+oid sha256:00f2c0145ecc459a22db28161bc02d85505bd341cf691fc9e894cab689d000f5
 size 1968943512

model-00004-of-00005.safetensors

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:4599c4e91a3ec77a8477233be4d214be88b02206fabe042abb6d680bb049a603
+oid sha256:79c0e64c3f69d9faa0717a4e7fb98c77971e61a2c8bb7952ead92ddc3205a03d
 size 1963296232

model-00005-of-00005.safetensors

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:b455069e934e5089ad7151a2ebc6e5a63727f60b60e25308d05592bb2bb0f4d8
+oid sha256:1f07b58af51dc5c98c11ac9744e36bec71afb6b3be6dc412eb1649e3763b2fd6
 size 532186616

training_args.json

@@ -14,9 +14,11 @@
  "seed": 2,
  "grad_checkpointing": true,
  "limit": null,
- "epoch": 2,
+ "evals_per_epoch": 2,
+ "epoch": 0.5,
  "merged_layers": 248,
  "temperature": 1.84,
  "lm_weight": 0.5,
- "base": "blackmallangcow/nari-decision-4b@029c4628a38859dce5b0db1742e9c97545aabe12"
+ "base": "blackmallangcow/nari-decision-4b@029c4628a38859dce5b0db1742e9c97545aabe12",
+ "temperature_adapter": 1.83
 }