JosephLee's picture
데이터 카드
4fd3e96 verified
|
Raw History Blame Contribute Delete
2.93 kB
---
license: cc-by-4.0
language:
- ko
task_categories:
- text-generation
tags:
- korean
- children-stories
- preference
- dpo
- education
size_categories:
- n<1K
configs:
- config_name: default
data_files:
- split: train
path: data/train.parquet
---
# Tiny-Ko-Stories Feedback: 규칙으로 고른 선호 데이터
『모두의 LLM with 파이썬』(이영호) 2장의 피드백 모델(`JosephLee/modu-llm`의 `feedback.pt`)을 학습시킨 선호 데이터입니다. 요청 하나에 더 좋은 답(`chosen`)과 덜 좋은 답(`rejected`)을 짝지었습니다. 사람이 하나하나 고르는 대신 다음 규칙으로 골랐습니다.
- 요청이 **이야기 부탁**이면 이야기가 더 좋은 답, "모른다"는 답이 덜 좋은 답
- 요청이 **이야기가 아닌 질문**이면 "모른다"는 답이 더 좋은 답, 파인튜닝 모델이 지어낸 이야기가 덜 좋은 답
## 구성
| 열 | 내용 |
|---|---|
| `request` | 요청 |
| `kind` | `question`(이야기가 아닌 질문) 또는 `story`(이야기 부탁) |
| `chosen` | 더 좋은 답 |
| `rejected` | 덜 좋은 답 |
- 920쌍: `question` 460, `story` 460 (학습용 한 덩어리)
- `question`: 손으로 쓴 질문 97개와 틀로 만든 질문(나라 40곳의 수도·쓰는 말·인구, 낱말 40개의 영어·뜻, 두 자리 수 더하기·빼기·곱하기). 덜 좋은 답은 `JosephLee/modu-llm`의 `sft.pt`가 그 질문에 지어낸 이야기(온도 0.8, 200글자까지)입니다.
- `story`: [Tiny-Ko-Stories SFT](https://huggingface.co/datasets/JosephLee/tiny-ko-stories-sft) 학습용에서 뽑은 요청과 이야기. 이야기가 384글자 문맥에 들어가지 않으면 마지막 마침표에서 잘랐습니다.
- "모른다"는 답은 모두 같은 문장입니다: "그 질문의 답은 몰라요. 저는 이야기를 쓰는 법만 배웠어요. 이야기를 부탁해 주면 재미있는 이야기를 들려줄게요."
- 시험용으로 "대한민국의 수도는 어디야?"와 '대한민국'·'한국'이 들어간 질문은 넣지 않았습니다.
만든 코드: https://github.com/yhlee1627/modu-llm-v2 의 `extras/피드백_모델_만들기.ipynb`
## 한계
교육용 데이터입니다. 틀로 만든 질문이 많아 질문의 모양이 단순하고, 더 좋은 답이 한 문장뿐이라 이 데이터로 배운 모델은 "모른다"는 태도만 배웁니다. 사실을 알려 주는 데이터가 아닙니다. 덜 좋은 답의 이야기는 작은 모델이 만든 글이라 어색한 문장이 섞여 있습니다.
## 라이선스와 출처
CC BY 4.0. 쓰거나 나눌 때는 이 데이터와 원본 데이터의 출처를 함께 밝혀 주세요.
- 원본 이야기: Tiny-Ko-Stories (psymon), CC BY 4.0, https://huggingface.co/datasets/psymon/Tiny-Ko-Stories
- 요청-이야기 데이터: Tiny-Ko-Stories SFT (JosephLee), CC BY 4.0, https://huggingface.co/datasets/JosephLee/tiny-ko-stories-sft