JaMathCoT / README.md
ao1neko's picture
Update README.md
c4de169 verified
|
Raw History Blame Contribute Delete
4.71 kB
metadata
license: cc-by-4.0
task_categories:
  - text-generation
  - question-answering
language:
  - ja
tags:
  - japanese
  - mathematical-reasoning
  - math-word-problems
  - chain-of-thought
  - synthetic
  - sft
pretty_name: JaMathCoT
size_categories:
  - 10K<n<100K

JaMathCoT

JaMathCoT is a synthetic Japanese mathematical reasoning dataset containing 24,460 math word problems with step-by-step solutions. The dataset was constructed using LLM-jp-4.1-33B-thinking and is intended for supervised fine-tuning (SFT) of large language models.

データセット概要

JaMathCoTは,日本語の数量推論能力の向上を目的として構築した,日本語推論過程(Chain-of-Thought; CoT)付きの合成数学問題データセットです. データセットは日本語のWeb文書およびWikipedia由来の文書をもとに作成されています. また,各問題に対して日本語の推論過程とPythonコードを生成し,両者の最終回答が一致する問題のみをデータセット内に収録しています. データセットは合計24,460件で構成され,主にLLMの教師ありファインチューニング(SFT)での利用を想定しています.

データセットの構築方法

データセットの構築には,LLM-jp-4.1-33B-thinkingを使用しました.

1. 数学問題の生成

以下の2つの日本語コーパスから取得した文書をLLMに入力し,GSM8K形式の数量推論問題を生成しました.

2. データのフィルタリング

まず,生成した各数学問題に対して,上記のLLMを用いて以下の2種類の解答を生成しました.

  • 日本語CoT:問題を段階的に解く日本語の推論過程
  • Pythonコード:問題の答えを計算するPythonコード

その後,以下の条件をすべて満たす問題のみを抽出し,データセットを構築しています.

  1. 日本語CoTとPythonコードから得られる最終回答が一致すること
  2. 最終回答が整数(int型)であること

なお,回答の一致は自動的な品質フィルタリングであり,すべての問題と推論過程の正確性を保証するものではありません.

データセットの統計

元データソース 問題数
FineWeb-2 Edu Japanese 17,700
LLM-jp Corpus v4 (ja_wiki) 6,760
合計 24,460

データ形式

各データは以下の2つのカラムで構成されています.messagesには,userとassistantの2つのメッセージが含まれています.

カラム 説明
messages 日本語の数学問題と,それに対する日本語CoTを格納したメッセージのリスト
answer 問題の最終回答を表す整数形式の文字列

以下はデータ構造を示す例です(実際の収録データではありません). Pythonコードは回答の整合性を確認するために使用しており,公開データには含まれていません.

{
  "messages": [
    {
      "role": "user",
      "content": "日本語の数学問題"
    },
    {
      "role": "assistant",
      "content": "日本語の段階的な推論過程"
    }
  ],
  "answer": 42
}

使用方法

Hugging Faceのdatasetsライブラリを使用して読み込むことができます.

from datasets import load_dataset

dataset = load_dataset("ao1neko/JaMathCoT")
print(dataset)

制限事項

  • データセットはLLMによって自動生成されたものであり,人手による全件の正確性検証は実施していません.
  • 最終回答が整数となる問題のみを収録しているため,小数や分数などを最終回答とする問題は含まれていません.
  • 元文書に由来する表現や内容が,生成された問題に残存している可能性があります.

ライセンス

JaMathCoTは,データセット作成者が許諾可能な権利の範囲で,Creative Commons Attribution 4.0 International (CC BY 4.0)の下で公開します. 本データセットの構築には,外部コーパスを使用しています.元データに関する第三者の権利およびライセンス条件は,それぞれの権利者に帰属します.