|
Download README.md from backryun/korean-qa-augmented: direct link, hf CLI and curl.
- Browser
- Download file 6.86 kB
-
https://huggingface.co/datasets/backryun/korean-qa-augmented/resolve/main/README.md
- Command line
-
hf download hf://datasets/backryun/korean-qa-augmented/README.md
-
curl -L -o README.md https://huggingface.co/datasets/backryun/korean-qa-augmented/resolve/main/README.md
6.86 kB
| language: | |
| - ko | |
| license: cc-by-nc-sa-4.0 | |
| task_categories: | |
| - question-answering | |
| - text-generation | |
| tags: | |
| - korean | |
| - education | |
| - data-augmentation | |
| - paraphrase | |
| - synthetic | |
| pretty_name: Korean QA Augmented — 국어 질문 증강 실험 샘플 | |
| size_categories: | |
| - n<1K | |
| source_datasets: | |
| - neuralfoundry-coder/aihub-korean-education-instruct-sample | |
| configs: | |
| - config_name: default | |
| data_files: | |
| - split: train | |
| path: korean_qa_augmented.jsonl | |
| # Korean QA Augmented | |
| 한국어 국어 교과 Q&A 10개에 질문 변형 20개를 더한 **30행의 데이터 증강 실험 샘플**입니다. 원본 질문마다 증강 질문 2개를 연결했으며, 증강 행의 답변은 해당 원본 답변을 그대로 사용합니다. | |
| **의미가 달라진 증강 질문, 비문, 지문이 빠진 원본 질문이 포함돼 있습니다. 학습이나 평가에 사용하기 전에 행별 검수가 필요합니다.** | |
| ## 구성 | |
| | 항목 | 수량 | | |
| | --- | ---: | | |
| | 전체 행 | 30 | | |
| | 원본 Q&A (`original`) | 10 | | |
| | 증강 Q&A (`augmented`) | 20 | | |
| | 고유 `source_id` | 10 | | |
| | 원본당 증강 질문 | 2 | | |
| 파일은 UTF-8 JSON Lines 형식의 `korean_qa_augmented.jsonl` 하나입니다. 한 줄에 JSON 객체 하나가 들어 있으며, 4개 필드는 모두 문자열입니다. | |
| | 필드 | 설명 | | |
| | --- | --- | | |
| | `source_id` | 원본 데이터의 ID. 원본 행과 그 변형 2개를 같은 ID로 묶습니다. | | |
| | `instruction` | 안내 문구, `[학년]`, `[문제]`를 포함한 질문입니다. | | |
| | `output` | 정답과 관련 내용, 일부 행의 학습 목표입니다. 증강 행에서도 원본 답변을 유지합니다. | | |
| | `type` | 원본은 `original`, 질문을 변형한 행은 `augmented`입니다. | | |
| 원본 질문 10개 기준 학년 분포는 초등학교 3학년 2개, 4학년 3개, 5학년 1개, 중학교 3학년 2개, 고등학교 1학년 2개입니다. | |
| ## 출처와 가공 방식 | |
| 원본은 [neuralfoundry-coder/aihub-korean-education-instruct-sample](https://huggingface.co/datasets/neuralfoundry-coder/aihub-korean-education-instruct-sample)의 `train`에서 국어 교과 Q&A를 선별한 것입니다. 원본 배포자는 AI Hub 교육 데이터 기반의 지시학습용 샘플로 설명하고 있습니다. | |
| Colab의 질문 증강 워크플로에서 원본 10개를 선택한 뒤, 실제 `[문제]` 부분을 모델 추론으로 변형했습니다. 학년과 안내 문구를 유지해 질문을 다시 구성하고 원본 답변을 복사했습니다. 이 작업은 질문 생성이며, 이 데이터로 모델을 파인튜닝하거나 추가학습한 결과를 배포하는 것은 아닙니다. | |
| 배포 파일에는 생성 모델 ID, 모델 리비전, 실행 시드, 생성 시각과 추론 설정이 기록돼 있지 않습니다. 따라서 이 파일만으로 생성 실행을 완전히 재현할 수는 없습니다. 업로드한 JSONL의 문장과 답변은 수정하지 않았습니다. | |
| ## 불러오기 | |
| ```python | |
| from datasets import load_dataset | |
| dataset = load_dataset("backryun/korean-qa-augmented", split="train") | |
| print(dataset.column_names) | |
| print(dataset[0]) | |
| ``` | |
| 원본과 증강 행은 `type`으로 구분할 수 있습니다. | |
| ```python | |
| original = dataset.filter(lambda row: row["type"] == "original") | |
| augmented = dataset.filter(lambda row: row["type"] == "augmented") | |
| ``` | |
| `train`은 파일을 불러오기 위한 단일 split 이름입니다. 별도의 검증·테스트 세트는 없습니다. 데이터를 나눌 때는 같은 원본의 변형이 서로 다른 split에 들어가지 않도록 **`source_id` 단위로 분리**해야 합니다. | |
| ## 실제 데이터 예시 | |
| 아래는 첫 번째 원본 행입니다. | |
| ```json | |
| { | |
| "source_id": "curriculum_28_d0e4d0e2", | |
| "instruction": "다음 국어 문제에 답해주세요.\n\n[학년] 고등학교 1학년\n[문제]\n비판적 듣기란 무엇인가요?", | |
| "output": "정답: 비판적 듣기는 듣는 내용에 대해 의문을 가지고, 그 내용을 잘 판단하는 것을 말합니다.\n\n[관련 내용]\n- 비판적 듣기: 듣는 내용에 대해 의문을 가지며, 합리적인 판단을 내려야 합니다.\n\n[학습 목표]\n[10국01-01] 개인이나 집단에 따라 듣기와 말하기의 방법이 다양함을 이해하고 듣기·말하기 활동을 한다", | |
| "type": "original" | |
| } | |
| ``` | |
| ## 확인된 한계 | |
| 형식 검수에서는 30행 모두 JSON 파싱에 성공했고, 빈 필드와 완전 중복 질문은 없었습니다. 10개 그룹 모두 원본 1행과 증강 2행으로 구성되며, 증강 행 20개의 `output`은 각 원본과 정확히 일치합니다. 이 검사는 질문의 의미나 답변의 정확성을 보증하지 않습니다. | |
| 실제 파일에서 다음 문제가 확인됐습니다. | |
| | 원본 또는 증강 사례 | 문제 | | |
| | --- | --- | | |
| | `‘햇과일’의 뜻은 무엇인가요?` → `딸기 같은 과일을 뜻하는 말은 무엇인가요?` | 질문의 대상이 달라졌지만 기존 답변이 복사됐습니다. | | |
| | `게시물을 삭제한 사람은 누구인가요?` → `삭제한 게시물이 누구의 것인지 알 수 있어요?` | 삭제한 사람과 게시물 소유자를 같은 대상으로 취급할 수 없습니다. | | |
| | `얼음 크림을 어떤 사람과 함께 나누어 consumption 이었나요?` | 영어 혼입과 비문이 있습니다. | | |
| | `아이스크림을 누구와 나누어 먹었나요?` | 답변을 뒷받침할 이야기 지문이 질문에 제공되지 않습니다. | | |
| 이 샘플은 데이터 증강 파이프라인과 데이터 포맷을 실습하는 데 사용할 수 있습니다. 검수된 교육용 정답 자료나 모델 성능 비교용 벤치마크로 사용하려면 원문 맥락, 질문의 의미, 정답 적합성부터 검토해야 합니다. 10개 원본에서 파생된 30행이므로 한국어 교육 데이터 전반을 대표하지 않습니다. | |
| ## 라이선스와 출처 표시 | |
| 라이선스 표기는 원본 데이터셋 카드에 기재된 **[CC BY-NC-SA 4.0](https://creativecommons.org/licenses/by-nc-sa/4.0/)**을 따릅니다. 원본 출처를 표시하고, 비상업적 이용 및 동일조건 공유 조건과 AI Hub 원천 데이터의 이용약관을 함께 확인해야 합니다. | |
| - 원본 배포: [neuralfoundry-coder](https://huggingface.co/neuralfoundry-coder) | |
| - 원본 데이터셋: [aihub-korean-education-instruct-sample](https://huggingface.co/datasets/neuralfoundry-coder/aihub-korean-education-instruct-sample) | |
| - 원천 데이터 제공처: [AI Hub](https://www.aihub.or.kr/) | |
| - 이 배포본의 가공: 원본 10개 선별, 질문 변형 20개 추가, 4개 문자열 필드로 변환 | |
| - 배포 계정: [backryun](https://huggingface.co/backryun) | |
| ## 파일 무결성 | |
| `korean_qa_augmented.jsonl`의 SHA-256: | |
| ```text | |
| 4a500b2c973abc8cf967039b19c0a03b6bcaa92ebd5a65a26bd22ef4c9fab545 | |
| ``` | |