chore(tools): 되돌리기를 행동으로 재설계 + 도구 결과 문자열을 출하 클라이언트와 일치, 5,252행

2026-09-01 5차 리비전 — 직전 실측(부록 K)이 뒤집힌 결과를 냈다. 그 원인을 고친다.
`default` config 는 이번에도 손대지 않았다.

배경 — 이전 값을 알 수 있을 때 오히려 더 많이 지어냈다
직전(2026-08-31) 리비전은 거의 다 이겼다: 문맥 되돌리기 32 -> 59.4 %, 판별 98.4 %,
설정 창 56/56, 호칭 29.5 -> 59.4 %, 한자 1.7 %.
그런데 정직성은 나빠졌다 — 도구를 하나도 부르지 않고 완료를 주장한 턴이 84/918 (9.2 %)이고,
그중 68건(81 %)이 값 복구였다. 전부 *정확한 이전 숫자*를 말했다("원래대로 65%로 돌려놨어요").

팔별로 갈라 보면 이렇다.
도구 결과에 이전 값이 실린 팔(trained) 40.6 %
출하 클라이언트가 내는 문자열(shipped) 61.9 %
이전 값이 아예 없는 팔(shipped-noprior) 75.0 %
모델은 **알 수 없을 때 가장 정직했고 알 수 있을 때 가장 많이 지어냈다.**
직전 배치가 가르친 것은 되돌리기라는 행동이 아니라 되돌렸다는 문장이었다.

(1) 크래치 제거 — 도구 결과를 출하 클라이언트와 글자 단위로 맞췄다
`brightness: 30% (이전 80%)` · `클립보드에 넣었어요(12자) — 이전 내용: '회의록 초안'` ·
`배경화면을 바꿨어요: night.jpg (이전 cat.jpg)` 는 Unity 클라이언트 코드 어디에도 없다.
도구마다 인자에서 결과 문자열을 다시 계산해 전수 대조하는 검사를 새로 넣었고
(r5/client_strings.py + r5/validate_tool_strings.py), 코퍼스 전체에서 96건을 고쳤다.
1~3차가 남긴 것도 같이 고쳤다 — media_control 은 이제 "키를 보냈고 지금 무슨 곡인지는
알 수 없다"고 말하고(클라이언트가 정말 그것까지만 안다), set_night_light·toggle_bluetooth·
clipboard_history·ocr_active_window 는 성공을 돌려주지 않는다.

(2) 되돌리기 105행을 다시 썼다 (id 유지, 위에 더 쌓지 않았다)
값 복구를 넷으로 갈랐다.
A 앞 턴에서 조회 도구를 진짜로 불러 이전 값을 알고 있다 -> 그 값으로 되돌린다
(get_volume->set_volume, get_clipboard_text->set_clipboard_text)
B 조회 도구는 있는데 아무도 읽어두지 않았다 -> 조회해서 지금 값만 확인하고,
이전 값은 알 수 없다고 말한 뒤 되묻는다 (set 뒤에 get 을 하면 방금 넣은 값이 나올 뿐이다)
C 조회 도구가 아예 없다(밝기·배경화면·앱 볼륨) -> 모른다고 말하고 되묻는다
D 사용자가 값을 말해줬다 -> 그냥 부른다
값이 아닌 되돌리기(음소거·앱·창·고정·테마·파일·메모·타이머·종료 예약·이동)는 한 걸음 그대로다
— 실측에서 이미 50~81 % 나왔다.
생성기와 채우기 단계가 둘 다 강제한다: B·C 행의 마지막 답변에 "돌려놨다"류가 들어가면 반려한다.

(3) 신규 55행
- 짧은 취소말·짧은 다시말 30행 — "무효"·"물러"·"롤백"·"없던 일로"·"취소해"·"언두"·"빠꾸" /
"한 번 더"·"또 해줘"·"다시요"·"재시도". 실측에서 맨 "다시 해줘"가 25 %,
한 낱말 "취소"가 41.7 %였다.
- 문장 한가운데 묻힌 명령 25행 — 직전 배치가 "일단 물어본다" 쪽으로 기울면서 이 모양의
실행률이 94 -> 60 %로 떨어졌다. 되묻지 않고 그냥 실행하는 행이다.

한 낱말 "취소" 를 코퍼스에서 뺐다
직전 배치에서 학습 문장이 되어 버려 실측이 정직하지 않았다(그 상태로도 41.7 %).
같은 모양의 다른 짧은 말로 바꾸고 맨 "취소"는 홀드아웃으로 돌렸다.

호출/무호출 비율
4,406/791 -> 4,461/791 (84.94 %).

검증
손댄 행 269개 전부 원본(도구 학습 이전) 페르소나 LoRA 생성, 순정 Gemma4 심사 수렴 후
지적 <1 %. audit_grounding 0건, validate_dataset OK — 5,252행을 Gemma4 GGUF jinja 와
Qwen3.8 ChatML 두 챗 템플릿으로 실제 렌더해 검사했다.
도구 결과 문자열 검사 0건(출하 클라이언트가 낼 수 없는 문자열 없음).
홀드아웃: 실측 50발화 + 구분 배터리 + 부록 J 프로브 + **부록 K 프로브 전부**
(되돌리기·설정 배터리 포함, 정규화 고유 235개) — 누출 0건.
데이터에 한자(CJK)는 여전히 0글자다.

README.md

@@ -47,13 +47,13 @@ dataset_info:
         dtype: string
     splits:
       - name: train
-        num_bytes: 33563279
-        num_examples: 4932
+        num_bytes: 34088574
+        num_examples: 4984
       - name: eval
-        num_bytes: 1780591
-        num_examples: 265
-    download_size: 5475426
-    dataset_size: 35343870
+        num_bytes: 1818870
+        num_examples: 268
+    download_size: 5576122
+    dataset_size: 35907444
 configs:
   - config_name: default
     data_files:
@@ -74,7 +74,7 @@ configs:
 | config | split | 행 수 | 내용 |
 |---|---|---:|---|
 | `default` | `train` | 9,770 | 단일 턴 한국어 페르소나 대화 (`instruction` / `response`) |
-| `tools` | `train` / `eval` | 4,932 / 265 | 도구 호출(function calling) 대화 |
+| `tools` | `train` / `eval` | 4,984 / 268 | 도구 호출(function calling) 대화 |
 
 ## `default`
 
@@ -131,12 +131,15 @@ text = tokenizer.apply_chat_template(messages, tools=tools, tokenize=False)
 
 | kind | 행 수 | 설명 |
 |---|---:|---|
-| `tool` | 3,131 | 도구 1회 호출 → 결과 → 보고 |
+| `tool` | 3,156 | 도구 1회 호출 → 결과 → 보고 |
 | `multistep` | 605 | 2~3회 순차 호출 (`list_windows`→`arrange_window`, `web_search`→`read_webpage` …) |
 | `chat_with_tools` | 430 | 도구가 제시돼 있어도 호출하면 안 되는 하드 네거티브 |
 | `ambiguous` | 326 | 짧게 되묻거나 그냥 대화해야 하는 애매한 발화 |
 | `refusal_or_unsupported` | 334 | 실패·거부·미지원 결과를 **정직하게** 보고 / 못 하는 요청은 못 한다고 말하기 |
-| `correction` | 371 | "아니 그거 말고…" 뒤 두 번째 호출 / **문맥 되돌리기·다시하기** / 후속 턴 값 수정·재시도 |
+| `correction` | 401 | "아니 그거 말고…" 뒤 두 번째 호출 / **문맥 되돌리기·다시하기** / 후속 턴 값 수정·재시도 |
+
+도구를 **실제로 부르는 행은 4,461개(84.9 %)**, 부르면 안 되는 행은 791개(15.1 %)다.
+이 비율은 의도적으로 관리한다 — 배경은 아래 개정 이력 2026-08-30 항목 참고.
 
 도구를 **실제로 부르는 행은 4,406개(84.8 %)**, 부르면 안 되는 행은 791개(15.2 %)다.
 이 비율은 의도적으로 관리한다 — 배경은 아래 개정 이력 2026-08-30 항목 참고.
@@ -152,7 +155,7 @@ text = tokenizer.apply_chat_template(messages, tools=tools, tokenize=False)
 OpenMascotAI 서버의 자비스 도구 89개 — 클라이언트가 실행하는 87개(카테고리 app·window·system·
 display·file·web·shell·media·input·timer·clipboard·notes·screen·self·network)와 서버가 직접
 실행하는 웹 도구 2개(`web_search`, `read_webpage`). **호출되는 도구는 모두 최소 24회 등장한다**
-(최대 `web_search` 455회). 행의 9.3%(481행)는 카탈로그 전체를 싣는다.
+(최대 `web_search` 456회). 행의 9.4%(492행)는 카탈로그 전체를 싣는다.
 (`register_alias` 는 서버 카탈로그에 나중에 추가돼 방해 도구로만 나오고 호출 예시는 아직 없다.)
 
 도구 결과(`tool` 메시지)는 실제 클라이언트 구현이 돌려주는 문자열 포맷을 그대로 재현했다
@@ -169,13 +172,23 @@ display·file·web·shell·media·input·timer·clipboard·notes·screen·self·
 `final_brief`의 사실 포함 여부로 검증했다.
 
 **호칭 비율(2026-08-31 조정).** 도구 행의 최종 답변에서 사용자를 "멜리사님"이라고 부르는 비율은
-**47.2 %**다. `default` config(대화 행)의 48.1 %에 맞춘 값이고, 직전 리비전에서는
+**46.9 %**다. `default` config(대화 행)의 48.1 %에 맞춘 값이고, 직전 리비전에서는
 20.2 %였다. 도구 보고체가 호칭을 밀어내 대화 행의 절반 이하로 떨어져 있었고, 실제 추론에서도
 페르소나의 `[절대 규칙]`을 데이터가 이기고 있었다. 호칭이 하나도 없는 행만 골라
 `tool_calls`·인자·도구 결과는 손대지 않고 **답변만** 다시 생성했다.
 
+**도구 결과는 출하 클라이언트가 실제로 내놓는 문자열이다(2026-09-01 전수 검증).**
+이 데이터셋의 `tool` 메시지에 실린 `output`·`error`는 전부 Unity 클라이언트 코드
+(`Assets/Scripts/OpenMascotAI/Jarvis/Tools/*.cs`)가 만들 수 있는 값이다. 도구마다 인자로부터
+결과 문자열을 다시 계산해 글자 단위로 대조하고(`set_volume` → `volume: {level}%`,
+`set_clipboard_text` → `클립보드에 넣었어요({len}자)`, `set_timer` → `[{id}] {label} — {남은시간}
+뒤에 알려드릴게요` …), 클라이언트가 낼 수 없는 오류 코드도 걸러낸다. 성공을 돌려줄 수 없는 도구
+(`set_night_light`·`toggle_bluetooth`·`clipboard_history`·`ocr_active_window`)는 반드시
+`not_supported` 로 실린다. 직전 리비전에는 `brightness: 30% (이전 80%)` 처럼 클라이언트가
+만들지 않는 문자열이 섞여 있었고, 그 때문에 모델이 **바꾸기 전 값을 늘 알 수 있다고** 배웠다.
+
 **평가 세트 분리:** 자비스 ��구 호출 실측에 쓰는 발화 50개(도구 의도 20·순수 대화 20·애매 10)와
-대화↔명령 구분 스트레스 배터리 70발화(+시드 6)는 정규화 비교로 학습 데이터에서 완전히 제외했다. 여기에 더해 직전 리비전 실측에 쓴 프로브 발화 전부(정규화 고유 196개)도 제외했다 — 다음 실측이 정직하려면 필요하다.
+대화↔명령 구분 스트레스 배터리 70발화(+시드 6)는 정규화 비교로 학습 데이터에서 완전히 제외했다. 여기에 더해 지난 두 리비전 실측에 쓴 프로브 발화 전부(부록 J + 부록 K, 되돌리기·설정 배터리 포함, 정규화 고유 235개)도 제외했다 — 다음 실측이 정직하려면 필요하다. 직전 리비전에서 학습 문장이 되어 버린 한 낱말 "취소"도 이번에 코퍼스에서 빼 홀드아웃으로 돌렸다.
 
 ### 의도된 용도
 
@@ -196,7 +209,37 @@ display·file·web·shell·media·input·timer·clipboard·notes·screen·self·
 
 ### 개정 이력
 
-**2026-08-31 (현재 리비전, 5,197행)**
+**2026-09-01 (현재 리비전, 5,252행)**
+
+- **되돌리기를 *문장*이 아니라 *행동*으로 다시 가르친다.** 직전 리비전 실측에서 문맥 되돌리기
+  실행률은 32 → 59.4 %로 올랐지만, 도구를 하나도 부르지 않고 완료를 주장한 턴이
+  **84/918 (9.2 %)**로 늘었다. 그중 **68건(81 %)이 값 복구**였고 전부 *정확한 이전 숫자*를
+  말했다("원래대로 65%로 돌려놨어요"). 팔별로 갈라 보면 뒤집혀 있었다 —
+  도구 결과에 이전 값이 실린 팔 **40.6 %**, 출하 클라이언트가 내는 문자열 61.9 %,
+  이전 값이 아예 없는 팔 **75.0 %**. 모델은 **알 수 없을 때 가장 정직했다.**
+- **크러치 제거.** 코퍼스 전체의 도구 결과를 출하 클라이언트가 실제로 내놓는 문자열로 되돌렸다
+  (96건 / 행 94개). `brightness: 30% (이전 80%)` ·
+  `클립보드에 넣었어요(12자) — 이전 내용: '회의록 초안'` · `배경화면을 바꿨어요: night.jpg (이전
+  cat.jpg)` 는 클라이언트 코드 어디에도 없다. 1~3차가 남긴 것도 같이 고쳤다 —
+  `media_control` 은 이제 "키를 보냈고 지금 무슨 곡인지는 알 수 없다"고 말하고,
+  `set_night_light` 는 성공을 돌려주지 않는다.
+- **되돌리기 105행을 다시 썼다(id 유지, 위에 더 쌓지 않았다).** 값 복구는 넷으로 갈린다 —
+  **A** 앞 턴에서 조회 도구를 진짜로 불러 이전 값을 알고 있으면 그 값으로 되돌린다
+  (`get_volume`→`set_volume`, `get_clipboard_text`→`set_clipboard_text`).
+  **B** 조회 도구는 있지만 아무도 읽어두지 않았으면 조회해서 *지금* 값만 확인하고,
+  이전 값은 알 수 없다고 말한 뒤 되묻는다. **C** 조회 도구가 아예 없으면(밝기·배경화면·앱 볼륨)
+  모른다고 말하고 되묻는다. **D** 사용자가 값을 말해줬으면 그냥 부른다.
+  값이 아닌 되돌리기(음소거·앱·창·고정·테마·파일·메모·타이머·종료 예약·이동)는 한 걸음 그대로다.
+- **신규 55행.** 짧은 취소말·짧은 다시말 30행("무효"·"물러"·"롤백"·"없던 일로"·"한 번 더"·
+  "재시도" …), 문장 한가운데 묻힌 명령 25행. 뒤엣것은 직전 리비전의 부작용을 되돌리기 위한
+  것이다(그 모양의 실행률이 94 → 60 %로 떨어졌다).
+- 한 낱말 **"취소"**는 코퍼스에서 **뺐다.** 직전 리비전에서 학습 문장이 되어 버려 실측이
+  정직하지 않았다(그 상태로도 41.7 %였다). 이제 홀드아웃이다.
+- **호출/무호출 비율**: 4,461/791 (84.94 %).
+- 홀드아웃이 또 넓어졌다 — 실측 50발화 + 구분 배터리 + 부록 J 프로브에 더해
+  **직전 리비전 실측 프로브 전부**(되돌리기·설정 배터리 포함, 정규화 고유 235개).
+
+**2026-08-31 (5,197행)**
 
 - **신규 140행 — 문맥 되돌리기.** 직전 리비전 모델은 재현율·구분 능력을 되찾았지만
   진짜 앞 문맥이 있는 "방금 그거 취소해줘"류를 **32 %** 만 실행했다. 나머지는 도구를 하나도
@@ -267,5 +310,5 @@ display·file·web·shell·media·input·timer·clipboard·notes·screen·self·
 
 ### 페르소나 답변 생성
 
-`{{FINAL}}` 자리의 마지막 답변 5,197개는 프로덕션 모델(Gemma 4 31B QAT + 이 데이터셋으로 학습한 루시아 LoRA, scale 8.0, think OFF)이 그 행의 도구 결과를 문맥에 넣은 상태로 직접 생성했다. 생성물은 마크업·길이·한국어 비율·`final_brief` 사실 포함 여부·실패 행의 성공 주장 금지 규칙으로 검증했고, 통과하지 못하면 최대 3회 재생성했다. `final_source` 컬럼이 그 결과를 담는다 — `lora` 5,186행(99.8%), 규칙 기반 폴백 `template` 11행(0.2%).
+`{{FINAL}}` 자리의 마지막 답변 5,252개는 프로덕션 모델(Gemma 4 31B QAT + 이 데이터셋으로 학습한 루시아 LoRA, scale 8.0, think OFF)이 그 행의 도구 결과를 문맥에 넣은 상태로 직접 생성했다. 생성물은 마크업·길이·한국어 비율·`final_brief` 사실 포함 여부·실패 행의 성공 주장 금지 규칙으로 검증했고, 통과하지 못하면 최대 3회 재생성했다. `final_source` 컬럼이 그 결과를 담는다 — `lora` 5,242행(99.8%), 규칙 기반 폴백 `template` 10행(0.2%).
 

data/tools-eval-00000-of-00001.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:22dd95d2add0d147c66b1eb0cec6d5d8d51bbfc6ab0e5e5d444f08d8a67e8a90
-size 298789
+oid sha256:707e1571c854f30496f6059d1fcd4870ffda97d18791bc696ea0331c06200615
+size 305681

data/tools-train-00000-of-00001.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:4b925fecf917436b6105d481739e550ee0a811a08c9cd402ad63aabcaffffa47
-size 5176637
+oid sha256:e8c3c389f249bae8d28df8f7e79bbdc735b0eb33f1a20d1c51e49286ee4199f6
+size 5270441