--- license: cc-by-4.0 language: - ko task_categories: - text-generation tags: - korean - children-stories - preference - dpo - education size_categories: - n<1K configs: - config_name: default data_files: - split: train path: data/train.parquet --- # Tiny-Ko-Stories Feedback: 규칙으로 고른 선호 데이터 『모두의 LLM with 파이썬』(이영호) 2장의 피드백 모델(`JosephLee/modu-llm`의 `feedback.pt`)을 학습시킨 선호 데이터입니다. 요청 하나에 더 좋은 답(`chosen`)과 덜 좋은 답(`rejected`)을 짝지었습니다. 사람이 하나하나 고르는 대신 다음 규칙으로 골랐습니다. - 요청이 **이야기 부탁**이면 이야기가 더 좋은 답, "모른다"는 답이 덜 좋은 답 - 요청이 **이야기가 아닌 질문**이면 "모른다"는 답이 더 좋은 답, 파인튜닝 모델이 지어낸 이야기가 덜 좋은 답 ## 구성 | 열 | 내용 | |---|---| | `request` | 요청 | | `kind` | `question`(이야기가 아닌 질문) 또는 `story`(이야기 부탁) | | `chosen` | 더 좋은 답 | | `rejected` | 덜 좋은 답 | - 920쌍: `question` 460, `story` 460 (학습용 한 덩어리) - `question`: 손으로 쓴 질문 97개와 틀로 만든 질문(나라 40곳의 수도·쓰는 말·인구, 낱말 40개의 영어·뜻, 두 자리 수 더하기·빼기·곱하기). 덜 좋은 답은 `JosephLee/modu-llm`의 `sft.pt`가 그 질문에 지어낸 이야기(온도 0.8, 200글자까지)입니다. - `story`: [Tiny-Ko-Stories SFT](https://huggingface.co/datasets/JosephLee/tiny-ko-stories-sft) 학습용에서 뽑은 요청과 이야기. 이야기가 384글자 문맥에 들어가지 않으면 마지막 마침표에서 잘랐습니다. - "모른다"는 답은 모두 같은 문장입니다: "그 질문의 답은 몰라요. 저는 이야기를 쓰는 법만 배웠어요. 이야기를 부탁해 주면 재미있는 이야기를 들려줄게요." - 시험용으로 "대한민국의 수도는 어디야?"와 '대한민국'·'한국'이 들어간 질문은 넣지 않았습니다. 만든 코드: https://github.com/yhlee1627/modu-llm-v2 의 `extras/피드백_모델_만들기.ipynb` ## 한계 교육용 데이터입니다. 틀로 만든 질문이 많아 질문의 모양이 단순하고, 더 좋은 답이 한 문장뿐이라 이 데이터로 배운 모델은 "모른다"는 태도만 배웁니다. 사실을 알려 주는 데이터가 아닙니다. 덜 좋은 답의 이야기는 작은 모델이 만든 글이라 어색한 문장이 섞여 있습니다. ## 라이선스와 출처 CC BY 4.0. 쓰거나 나눌 때는 이 데이터와 원본 데이터의 출처를 함께 밝혀 주세요. - 원본 이야기: Tiny-Ko-Stories (psymon), CC BY 4.0, https://huggingface.co/datasets/psymon/Tiny-Ko-Stories - 요청-이야기 데이터: Tiny-Ko-Stories SFT (JosephLee), CC BY 4.0, https://huggingface.co/datasets/JosephLee/tiny-ko-stories-sft