|
Download README.md from JosephLee/tiny-ko-stories-feedback: direct link, hf CLI and curl.
- Browser
- Download file 2.93 kB
-
https://huggingface.co/datasets/JosephLee/tiny-ko-stories-feedback/resolve/main/README.md
- Command line
-
hf download hf://datasets/JosephLee/tiny-ko-stories-feedback/README.md
-
curl -L -o README.md https://huggingface.co/datasets/JosephLee/tiny-ko-stories-feedback/resolve/main/README.md
2.93 kB
metadata
license: cc-by-4.0
language:
- ko
task_categories:
- text-generation
tags:
- korean
- children-stories
- preference
- dpo
- education
size_categories:
- n<1K
configs:
- config_name: default
data_files:
- split: train
path: data/train.parquet
Tiny-Ko-Stories Feedback: 규칙으로 고른 선호 데이터
『모두의 LLM with 파이썬』(이영호) 2장의 피드백 모델(JosephLee/modu-llm의 feedback.pt)을 학습시킨 선호 데이터입니다. 요청 하나에 더 좋은 답(chosen)과 덜 좋은 답(rejected)을 짝지었습니다. 사람이 하나하나 고르는 대신 다음 규칙으로 골랐습니다.
- 요청이 이야기 부탁이면 이야기가 더 좋은 답, "모른다"는 답이 덜 좋은 답
- 요청이 이야기가 아닌 질문이면 "모른다"는 답이 더 좋은 답, 파인튜닝 모델이 지어낸 이야기가 덜 좋은 답
구성
| 열 | 내용 |
|---|---|
request |
요청 |
kind |
question(이야기가 아닌 질문) 또는 story(이야기 부탁) |
chosen |
더 좋은 답 |
rejected |
덜 좋은 답 |
- 920쌍:
question460,story460 (학습용 한 덩어리) question: 손으로 쓴 질문 97개와 틀로 만든 질문(나라 40곳의 수도·쓰는 말·인구, 낱말 40개의 영어·뜻, 두 자리 수 더하기·빼기·곱하기). 덜 좋은 답은JosephLee/modu-llm의sft.pt가 그 질문에 지어낸 이야기(온도 0.8, 200글자까지)입니다.story: Tiny-Ko-Stories SFT 학습용에서 뽑은 요청과 이야기. 이야기가 384글자 문맥에 들어가지 않으면 마지막 마침표에서 잘랐습니다.- "모른다"는 답은 모두 같은 문장입니다: "그 질문의 답은 몰라요. 저는 이야기를 쓰는 법만 배웠어요. 이야기를 부탁해 주면 재미있는 이야기를 들려줄게요."
- 시험용으로 "대한민국의 수도는 어디야?"와 '대한민국'·'한국'이 들어간 질문은 넣지 않았습니다.
만든 코드: https://github.com/yhlee1627/modu-llm-v2 의 extras/피드백_모델_만들기.ipynb
한계
교육용 데이터입니다. 틀로 만든 질문이 많아 질문의 모양이 단순하고, 더 좋은 답이 한 문장뿐이라 이 데이터로 배운 모델은 "모른다"는 태도만 배웁니다. 사실을 알려 주는 데이터가 아닙니다. 덜 좋은 답의 이야기는 작은 모델이 만든 글이라 어색한 문장이 섞여 있습니다.
라이선스와 출처
CC BY 4.0. 쓰거나 나눌 때는 이 데이터와 원본 데이터의 출처를 함께 밝혀 주세요.
- 원본 이야기: Tiny-Ko-Stories (psymon), CC BY 4.0, https://huggingface.co/datasets/psymon/Tiny-Ko-Stories
- 요청-이야기 데이터: Tiny-Ko-Stories SFT (JosephLee), CC BY 4.0, https://huggingface.co/datasets/JosephLee/tiny-ko-stories-sft