korean-qa-augmented / README.md
backryun's picture
Add Korean QA augmentation sample and dataset card
87958cc verified
|
Raw History Blame Contribute Delete
6.86 kB
metadata
language:
  - ko
license: cc-by-nc-sa-4.0
task_categories:
  - question-answering
  - text-generation
tags:
  - korean
  - education
  - data-augmentation
  - paraphrase
  - synthetic
pretty_name: Korean QA Augmented — 국어 질문 증강 실험 샘플
size_categories:
  - n<1K
source_datasets:
  - neuralfoundry-coder/aihub-korean-education-instruct-sample
configs:
  - config_name: default
    data_files:
      - split: train
        path: korean_qa_augmented.jsonl

Korean QA Augmented

한국어 국어 교과 Q&A 10개에 질문 변형 20개를 더한 30행의 데이터 증강 실험 샘플입니다. 원본 질문마다 증강 질문 2개를 연결했으며, 증강 행의 답변은 해당 원본 답변을 그대로 사용합니다.

의미가 달라진 증강 질문, 비문, 지문이 빠진 원본 질문이 포함돼 있습니다. 학습이나 평가에 사용하기 전에 행별 검수가 필요합니다.

구성

항목 수량
전체 행 30
원본 Q&A (original) 10
증강 Q&A (augmented) 20
고유 source_id 10
원본당 증강 질문 2

파일은 UTF-8 JSON Lines 형식의 korean_qa_augmented.jsonl 하나입니다. 한 줄에 JSON 객체 하나가 들어 있으며, 4개 필드는 모두 문자열입니다.

필드 설명
source_id 원본 데이터의 ID. 원본 행과 그 변형 2개를 같은 ID로 묶습니다.
instruction 안내 문구, [학년], [문제]를 포함한 질문입니다.
output 정답과 관련 내용, 일부 행의 학습 목표입니다. 증강 행에서도 원본 답변을 유지합니다.
type 원본은 original, 질문을 변형한 행은 augmented입니다.

원본 질문 10개 기준 학년 분포는 초등학교 3학년 2개, 4학년 3개, 5학년 1개, 중학교 3학년 2개, 고등학교 1학년 2개입니다.

출처와 가공 방식

원본은 neuralfoundry-coder/aihub-korean-education-instruct-sample의 train에서 국어 교과 Q&A를 선별한 것입니다. 원본 배포자는 AI Hub 교육 데이터 기반의 지시학습용 샘플로 설명하고 있습니다.

Colab의 질문 증강 워크플로에서 원본 10개를 선택한 뒤, 실제 [문제] 부분을 모델 추론으로 변형했습니다. 학년과 안내 문구를 유지해 질문을 다시 구성하고 원본 답변을 복사했습니다. 이 작업은 질문 생성이며, 이 데이터로 모델을 파인튜닝하거나 추가학습한 결과를 배포하는 것은 아닙니다.

배포 파일에는 생성 모델 ID, 모델 리비전, 실행 시드, 생성 시각과 추론 설정이 기록돼 있지 않습니다. 따라서 이 파일만으로 생성 실행을 완전히 재현할 수는 없습니다. 업로드한 JSONL의 문장과 답변은 수정하지 않았습니다.

불러오기

from datasets import load_dataset

dataset = load_dataset("backryun/korean-qa-augmented", split="train")
print(dataset.column_names)
print(dataset[0])

원본과 증강 행은 type으로 구분할 수 있습니다.

original = dataset.filter(lambda row: row["type"] == "original")
augmented = dataset.filter(lambda row: row["type"] == "augmented")

train은 파일을 불러오기 위한 단일 split 이름입니다. 별도의 검증·테스트 세트는 없습니다. 데이터를 나눌 때는 같은 원본의 변형이 서로 다른 split에 들어가지 않도록 source_id 단위로 분리해야 합니다.

실제 데이터 예시

아래는 첫 번째 원본 행입니다.

{
  "source_id": "curriculum_28_d0e4d0e2",
  "instruction": "다음 국어 문제에 답해주세요.\n\n[학년] 고등학교 1학년\n[문제]\n비판적 듣기란 무엇인가요?",
  "output": "정답: 비판적 듣기는 듣는 내용에 대해 의문을 가지고, 그 내용을 잘 판단하는 것을 말합니다.\n\n[관련 내용]\n- 비판적 듣기: 듣는 내용에 대해 의문을 가지며, 합리적인 판단을 내려야 합니다.\n\n[학습 목표]\n[10국01-01] 개인이나 집단에 따라 듣기와 말하기의 방법이 다양함을 이해하고 듣기·말하기 활동을 한다",
  "type": "original"
}

확인된 한계

형식 검수에서는 30행 모두 JSON 파싱에 성공했고, 빈 필드와 완전 중복 질문은 없었습니다. 10개 그룹 모두 원본 1행과 증강 2행으로 구성되며, 증강 행 20개의 output은 각 원본과 정확히 일치합니다. 이 검사는 질문의 의미나 답변의 정확성을 보증하지 않습니다.

실제 파일에서 다음 문제가 확인됐습니다.

원본 또는 증강 사례 문제
‘햇과일’의 뜻은 무엇인가요? → 딸기 같은 과일을 뜻하는 말은 무엇인가요? 질문의 대상이 달라졌지만 기존 답변이 복사됐습니다.
게시물을 삭제한 사람은 누구인가요? → 삭제한 게시물이 누구의 것인지 알 수 있어요? 삭제한 사람과 게시물 소유자를 같은 대상으로 취급할 수 없습니다.
얼음 크림을 어떤 사람과 함께 나누어 consumption 이었나요? 영어 혼입과 비문이 있습니다.
아이스크림을 누구와 나누어 먹었나요? 답변을 뒷받침할 이야기 지문이 질문에 제공되지 않습니다.

이 샘플은 데이터 증강 파이프라인과 데이터 포맷을 실습하는 데 사용할 수 있습니다. 검수된 교육용 정답 자료나 모델 성능 비교용 벤치마크로 사용하려면 원문 맥락, 질문의 의미, 정답 적합성부터 검토해야 합니다. 10개 원본에서 파생된 30행이므로 한국어 교육 데이터 전반을 대표하지 않습니다.

라이선스와 출처 표시

라이선스 표기는 원본 데이터셋 카드에 기재된 **CC BY-NC-SA 4.0**을 따릅니다. 원본 출처를 표시하고, 비상업적 이용 및 동일조건 공유 조건과 AI Hub 원천 데이터의 이용약관을 함께 확인해야 합니다.

파일 무결성

korean_qa_augmented.jsonl의 SHA-256:

4a500b2c973abc8cf967039b19c0a03b6bcaa92ebd5a65a26bd22ef4c9fab545