|
Download README.md from JosephLee/tiny-ko-stories-feedback: direct link, hf CLI and curl.
- Browser
- Download file 2.93 kB
-
https://huggingface.co/datasets/JosephLee/tiny-ko-stories-feedback/resolve/main/README.md
- Command line
-
hf download hf://datasets/JosephLee/tiny-ko-stories-feedback/README.md
-
curl -L -o README.md https://huggingface.co/datasets/JosephLee/tiny-ko-stories-feedback/resolve/main/README.md
2.93 kB
| license: cc-by-4.0 | |
| language: | |
| - ko | |
| task_categories: | |
| - text-generation | |
| tags: | |
| - korean | |
| - children-stories | |
| - preference | |
| - dpo | |
| - education | |
| size_categories: | |
| - n<1K | |
| configs: | |
| - config_name: default | |
| data_files: | |
| - split: train | |
| path: data/train.parquet | |
| # Tiny-Ko-Stories Feedback: 규칙으로 고른 선호 데이터 | |
| 『모두의 LLM with 파이썬』(이영호) 2장의 피드백 모델(`JosephLee/modu-llm`의 `feedback.pt`)을 학습시킨 선호 데이터입니다. 요청 하나에 더 좋은 답(`chosen`)과 덜 좋은 답(`rejected`)을 짝지었습니다. 사람이 하나하나 고르는 대신 다음 규칙으로 골랐습니다. | |
| - 요청이 **이야기 부탁**이면 이야기가 더 좋은 답, "모른다"는 답이 덜 좋은 답 | |
| - 요청이 **이야기가 아닌 질문**이면 "모른다"는 답이 더 좋은 답, 파인튜닝 모델이 지어낸 이야기가 덜 좋은 답 | |
| ## 구성 | |
| | 열 | 내용 | | |
| |---|---| | |
| | `request` | 요청 | | |
| | `kind` | `question`(이야기가 아닌 질문) 또는 `story`(이야기 부탁) | | |
| | `chosen` | 더 좋은 답 | | |
| | `rejected` | 덜 좋은 답 | | |
| - 920쌍: `question` 460, `story` 460 (학습용 한 덩어리) | |
| - `question`: 손으로 쓴 질문 97개와 틀로 만든 질문(나라 40곳의 수도·쓰는 말·인구, 낱말 40개의 영어·뜻, 두 자리 수 더하기·빼기·곱하기). 덜 좋은 답은 `JosephLee/modu-llm`의 `sft.pt`가 그 질문에 지어낸 이야기(온도 0.8, 200글자까지)입니다. | |
| - `story`: [Tiny-Ko-Stories SFT](https://huggingface.co/datasets/JosephLee/tiny-ko-stories-sft) 학습용에서 뽑은 요청과 이야기. 이야기가 384글자 문맥에 들어가지 않으면 마지막 마침표에서 잘랐습니다. | |
| - "모른다"는 답은 모두 같은 문장입니다: "그 질문의 답은 몰라요. 저는 이야기를 쓰는 법만 배웠어요. 이야기를 부탁해 주면 재미있는 이야기를 들려줄게요." | |
| - 시험용으로 "대한민국의 수도는 어디야?"와 '대한민국'·'한국'이 들어간 질문은 넣지 않았습니다. | |
| 만든 코드: https://github.com/yhlee1627/modu-llm-v2 의 `extras/피드백_모델_만들기.ipynb` | |
| ## 한계 | |
| 교육용 데이터입니다. 틀로 만든 질문이 많아 질문의 모양이 단순하고, 더 좋은 답이 한 문장뿐이라 이 데이터로 배운 모델은 "모른다"는 태도만 배웁니다. 사실을 알려 주는 데이터가 아닙니다. 덜 좋은 답의 이야기는 작은 모델이 만든 글이라 어색한 문장이 섞여 있습니다. | |
| ## 라이선스와 출처 | |
| CC BY 4.0. 쓰거나 나눌 때는 이 데이터와 원본 데이터의 출처를 함께 밝혀 주세요. | |
| - 원본 이야기: Tiny-Ko-Stories (psymon), CC BY 4.0, https://huggingface.co/datasets/psymon/Tiny-Ko-Stories | |
| - 요청-이야기 데이터: Tiny-Ko-Stories SFT (JosephLee), CC BY 4.0, https://huggingface.co/datasets/JosephLee/tiny-ko-stories-sft | |