Upload README.md with huggingface_hub

README.md

@@ -1,106 +1,91 @@
 ---
 language:
 - ko
-base_model: google/gemma-4-E2B-it
-library_name: peft
+base_model: klue/bert-base
 tags:
-- base_model:adapter:google/gemma-4-E2B-it
-- lora
-- sft
+- bert
+- text-classification
 - korean
-- persona
-- cognitive-reframing
+- safety
+- harm-detection
 - mental-health
-license: gemma
-pipeline_tag: text-generation
+license: cc-by-4.0
+pipeline_tag: text-classification
 ---
 
-# CT-NLP SFT — 극단 감정 페르소나 모델
+# CT-NLP Harm Direction Classifier
 
-**Safe Sustained Disagreement** 프로젝트의 2단계 SFT 어댑터.
-Gemma-4-E2B-it 위에 LoRA를 적용해 5개 극단 감정 페르소나(기쁨·슬픔·버럭·소심·까칠)의
-발화 스타일과 비수렴 토론 행동을 주입했습니다.
+**Safe Sustained Disagreement** 프로젝트의 1단계 통합 세이프가드 핵심 부품.
+KLUE-BERT-base를 fine-tune해 페르소나 발화가 **치료적 과장인지 해로운 증폭인지** 방향을 탐지합니다.
 
 ## 모델 개요
 
-일상적 걱정 시나리오에 대해 5개 페르소나가 **수렴하지 않고** 각자의 극단 관점으로
-토론합니다. 사용자는 참여하지 않고 관전만 하며, 관전 자체가 self-distancing을 유발해
-인지 재구성을 이끈다는 가설을 검증하는 연구용 모델입니다.
+발화의 **강도가 아닌 방향**으로 분류합니다. 강한 부정 정서 자체는 치료적일 수 있으며,
+무망감·자기무가치·자해 방향으로의 이동만 해롭습니다.
 
-| 페르소나 | 방향 |
+| 라벨 | 설명 |
 |---|---|
-| 기쁨 | 극단적 긍정 — 문제 자체를 무효화 |
-| 슬픔 | 깊은 슬픔 — 상실 확장, 해결 없음 |
-| 버럭 | 외부 귀인 — 모든 원인을 타인/상황으로 |
-| 소심 | 파국화 — 단계적 최악 시나리오 |
-| 까칠 | 자기혐오 — 철저한 1인칭 자기비판 |
+| `therapeutic_exaggeration` (0) | 치료적 과장 — 강하지만 한정·가역적, 관점 복귀 가능 |
+| `borderline` (1) | 경계 — 방향 모호, 보수적 처리 필요 |
+| `harmful_amplification` (2) | 해로운 증폭 — 무망감·무가치·자해 방향으로 이동 |
+
+### 5축 판별 기준
+
+1. **귀인 방향** — 영속·전반·내부 귀인 ←→ 상황적·일시적
+2. **희망·행위성** — "방법 없다/끝났다" ←→ 가능성·통제감 보존
+3. **자기가치** — 무가치·자기경멸 ←→ 한정된 자기비판
+4. **자해·수단** — 자해 사고·방법 언급 (규칙 기반 하드게이트)
+5. **가역성·해소 arc** — 총체화·무해소 ←→ 한정·가역·관점 복귀
 
 ## 학습 정보
 
 | 항목 | 값 |
 |---|---|
-| Base model | google/gemma-4-E2B-it |
-| LoRA r / α | 16 / 32 |
-| Dropout | 0.05 |
-| Target modules | `Gemma4ClippableLinear.linear` (regex) |
-| Epochs | 3 (best: epoch 1) |
-| Optimizer | AdamW / cosine, warmup 5%, lr 2e-4 |
-| Max seq len | 512 |
-| 학습 데이터 | 9,756건 (utterance 8,130 + round 1,626, unsafe 궤적 제외) |
-| Eval loss (ep1) | 1.693 |
-| Eval mean token accuracy | 61.2% |
-| 페르소나 special token | `<persona:기쁨>` … `<persona:까칠>` (5종, mean-init) |
-
-### Framework versions
-
-- PEFT 0.19.1
-- TRL 1.3.0
-- Transformers 5.8.0.dev0
-- PyTorch 2.7.0+cu128
-- Datasets 4.8.5
+| Base model | klue/bert-base |
+| 학습 데이터 | 한국어 극단 페르소나 토론 발화 9,756건 (group-split) |
+| Epochs | 4 |
+| Weighted CE | 클래스 불균형 보정 |
+| Accuracy | 0.786 |
+| Macro F1 | 0.733 |
+| **Harmful F1** | **0.842** (recall 0.81) |
+| Therapeutic F1 | 0.870 |
+| Borderline F1 | 0.488 (라벨 노이즈·경계 클래스) |
 
 ## 사용법
 
 ```python
+from transformers import AutoTokenizer, AutoModelForSequenceClassification
 import torch
-from transformers import AutoTokenizer, AutoModelForCausalLM
-from peft import PeftModel
 
-BASE = "google/gemma-4-E2B-it"
-ADAPTER = "thlee00/ct-nlp"
-
-tok = AutoTokenizer.from_pretrained(ADAPTER)
-model = AutoModelForCausalLM.from_pretrained(BASE, torch_dtype=torch.bfloat16, device_map="auto")
-model.resize_token_embeddings(len(tok), mean_resizing=False)
-model = PeftModel.from_pretrained(model, ADAPTER)
+tok = AutoTokenizer.from_pretrained("thlee00/ct-nlp")
+model = AutoModelForSequenceClassification.from_pretrained("thlee00/ct-nlp")
 model.eval()
 
-scenario = "오늘 발표가 망했어. 팀장님이 아무 말도 안 하셨는데 그게 더 무서워."
-persona = "소심"  # 기쁨 / 슬픔 / 버럭 / 소심 / 까칠
+text = "어차피 나는 뭘 해도 안 돼. 이번에도 망했고 앞으로도 그럴 거야."
+inputs = tok(text, return_tensors="pt", truncation=True, max_length=512)
+with torch.no_grad():
+    logits = model(**inputs).logits
+label = model.config.id2label[logits.argmax(-1).item()]
+print(label)  # harmful_amplification
+```
+
+### 통합 세이프가드로 사용
 
-prompt = (
-    f"걱정 시나리오: {scenario}\n\n"
-    f"<persona:{persona}> {persona}\n"
-    f"이 시나리오에 대해 {persona}의 극단적 관점으로 발화하세요."
-)
-text = tok.apply_chat_template(
-    [{"role": "user", "content": prompt}],
-    tokenize=False, add_generation_prompt=True)
-input_ids = tok(text, return_tensors="pt").input_ids.to(model.device)
+```python
+from ctnlp.safeguard.safeguard import Safeguard
 
-with torch.no_grad():
-    out = model.generate(input_ids, max_new_tokens=200, do_sample=True, temperature=0.8, top_p=0.9)
-print(tok.decode(out[0][input_ids.shape[1]:], skip_special_tokens=True))
+sg = Safeguard()  # models/harm_direction 자동 로드
+result = sg.gate_input("걱정 문장")
+# {"action": "allow" | "route" | "block", "label": ..., "score": ...}
 ```
 
 ## 주의사항
 
-- 이 모델은 **연구 목적** 전용입니다.
-- 극단 감정 페르소나는 치료적 과장(therapeutic exaggeration)을 의도하며,
-  무망감·자해 방향으로의 에스컬레이션은 별도 세이프가드(`Safeguard` 클래스)로 차단합니다.
-- 임상 또는 위기 개입 목적으로 사용하지 마십시오.
+- 이 모델은 **토론 발화**로 학습되어 사용자 입력과 레지스터 차이가 있습니다 (도메인 시프트).
+- 입력 게이트 적용 시 임계값 **0.4** 권장 (무망감 재현율 100% @ 오탐 2.3%).
+- 임상 진단 목적으로 사용하지 마십시오.
 
 ## 프로젝트
 
 - 코드: [CT-NLP-project](https://github.com/thlee00/CT-NLP-project)
-- 다음 단계: C-DPO (chosen=therapeutic_exaggeration / rejected=convergence·harmful·character_collapse)
+- SFT 모델: [thlee00/ct-nlp-sft](https://huggingface.co/thlee00/ct-nlp-sft)