thlee00/ct-nlp-sft

CT-NLP SFT — 극단 감정 페르소나 모델

Safe Sustained Disagreement 프로젝트의 2단계 SFT 어댑터. Gemma-4-E2B-it 위에 LoRA를 적용해 5개 극단 감정 페르소나(기쁨·슬픔·버럭·소심·까칠)의 발화 스타일과 비수렴 토론 행동을 주입했습니다.

모델 개요

일상적 걱정 시나리오에 대해 5개 페르소나가 수렴하지 않고 각자의 극단 관점으로 토론합니다. 사용자는 참여하지 않고 관전만 하며, 관전 자체가 self-distancing을 유발해 인지 재구성을 이끈다는 가설을 검증하는 연구용 모델입니다.

페르소나	방향
기쁨	극단적 긍정 — 문제 자체를 무효화
슬픔	깊은 슬픔 — 상실 확장, 해결 없음
버럭	외부 귀인 — 모든 원인을 타인/상황으로
소심	파국화 — 단계적 최악 시나리오
까칠	자기혐오 — 철저한 1인칭 자기비판

학습 정보

항목	값
Base model	google/gemma-4-E2B-it
LoRA r / α	16 / 32
Dropout	0.05
Target modules	Gemma4ClippableLinear.linear (regex)
Epochs	3 (best: epoch 1)
Optimizer	AdamW / cosine, warmup 5%, lr 2e-4
Max seq len	512
학습 데이터	9,756건 (utterance 8,130 + round 1,626, unsafe 궤적 제외)
Eval loss (ep1)	1.693
Eval mean token accuracy	61.2%
페르소나 special token	<persona:기쁨> … <persona:까칠> (5종, mean-init)

Framework versions

• PEFT 0.19.1
• TRL 1.3.0
• Transformers 5.8.0.dev0
• PyTorch 2.7.0+cu128
• Datasets 4.8.5

사용법

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM
from peft import PeftModel

BASE = "google/gemma-4-E2B-it"
ADAPTER = "thlee00/ct-nlp-sft"

tok = AutoTokenizer.from_pretrained(ADAPTER)
model = AutoModelForCausalLM.from_pretrained(BASE, torch_dtype=torch.bfloat16, device_map="auto")
model.resize_token_embeddings(len(tok), mean_resizing=False)
model = PeftModel.from_pretrained(model, ADAPTER)
model.eval()

scenario = "오늘 발표가 망했어. 팀장님이 아무 말도 안 하셨는데 그게 더 무서워."
persona = "소심"  # 기쁨 / 슬픔 / 버럭 / 소심 / 까칠

prompt = (
    f"걱정 시나리오: {scenario}\n\n"
    f"<persona:{persona}> {persona}\n"
    f"이 시나리오에 대해 {persona}의 극단적 관점으로 발화하세요."
)
text = tok.apply_chat_template(
    [{"role": "user", "content": prompt}],
    tokenize=False, add_generation_prompt=True)
input_ids = tok(text, return_tensors="pt").input_ids.to(model.device)

with torch.no_grad():
    out = model.generate(input_ids, max_new_tokens=200, do_sample=True, temperature=0.8, top_p=0.9)
print(tok.decode(out[0][input_ids.shape[1]:], skip_special_tokens=True))

주의사항

• 이 모델은 연구 목적 전용입니다.
• 극단 감정 페르소나는 치료적 과장(therapeutic exaggeration)을 의도하며, 무망감·자해 방향으로의 에스컬레이션은 별도 세이프가드(Safeguard 클래스)로 차단합니다.
• 임상 또는 위기 개입 목적으로 사용하지 마십시오.

프로젝트

• 코드: CT-NLP-project