Datasets:
Download README.md from ao1neko/JaMathCoT: direct link, hf CLI and curl.
- Browser
- Download file 4.71 kB
-
https://huggingface.co/datasets/ao1neko/JaMathCoT/resolve/main/README.md
- Command line
-
hf download hf://datasets/ao1neko/JaMathCoT/README.md
-
curl -L -o README.md https://huggingface.co/datasets/ao1neko/JaMathCoT/resolve/main/README.md
license: cc-by-4.0
task_categories:
- text-generation
- question-answering
language:
- ja
tags:
- japanese
- mathematical-reasoning
- math-word-problems
- chain-of-thought
- synthetic
- sft
pretty_name: JaMathCoT
size_categories:
- 10K<n<100K
JaMathCoT
JaMathCoT is a synthetic Japanese mathematical reasoning dataset containing 24,460 math word problems with step-by-step solutions. The dataset was constructed using LLM-jp-4.1-33B-thinking and is intended for supervised fine-tuning (SFT) of large language models.
データセット概要
JaMathCoTは,日本語の数量推論能力の向上を目的として構築した,日本語推論過程(Chain-of-Thought; CoT)付きの合成数学問題データセットです. データセットは日本語のWeb文書およびWikipedia由来の文書をもとに作成されています. また,各問題に対して日本語の推論過程とPythonコードを生成し,両者の最終回答が一致する問題のみをデータセット内に収録しています. データセットは合計24,460件で構成され,主にLLMの教師ありファインチューニング(SFT)での利用を想定しています.
データセットの構築方法
データセットの構築には,LLM-jp-4.1-33B-thinkingを使用しました.
1. 数学問題の生成
以下の2つの日本語コーパスから取得した文書をLLMに入力し,GSM8K形式の数量推論問題を生成しました.
2. データのフィルタリング
まず,生成した各数学問題に対して,上記のLLMを用いて以下の2種類の解答を生成しました.
- 日本語CoT:問題を段階的に解く日本語の推論過程
- Pythonコード:問題の答えを計算するPythonコード
その後,以下の条件をすべて満たす問題のみを抽出し,データセットを構築しています.
- 日本語CoTとPythonコードから得られる最終回答が一致すること
- 最終回答が整数(
int型)であること
なお,回答の一致は自動的な品質フィルタリングであり,すべての問題と推論過程の正確性を保証するものではありません.
データセットの統計
| 元データソース | 問題数 |
|---|---|
| FineWeb-2 Edu Japanese | 17,700 |
| LLM-jp Corpus v4 (ja_wiki) | 6,760 |
| 合計 | 24,460 |
データ形式
各データは以下の2つのカラムで構成されています.messagesには,userとassistantの2つのメッセージが含まれています.
| カラム | 説明 |
|---|---|
messages |
日本語の数学問題と,それに対する日本語CoTを格納したメッセージのリスト |
answer |
問題の最終回答を表す整数形式の文字列 |
以下はデータ構造を示す例です(実際の収録データではありません). Pythonコードは回答の整合性を確認するために使用しており,公開データには含まれていません.
{
"messages": [
{
"role": "user",
"content": "日本語の数学問題"
},
{
"role": "assistant",
"content": "日本語の段階的な推論過程"
}
],
"answer": 42
}
使用方法
Hugging Faceのdatasetsライブラリを使用して読み込むことができます.
from datasets import load_dataset
dataset = load_dataset("ao1neko/JaMathCoT")
print(dataset)
制限事項
- データセットはLLMによって自動生成されたものであり,人手による全件の正確性検証は実施していません.
- 最終回答が整数となる問題のみを収録しているため,小数や分数などを最終回答とする問題は含まれていません.
- 元文書に由来する表現や内容が,生成された問題に残存している可能性があります.
ライセンス
JaMathCoTは,データセット作成者が許諾可能な権利の範囲で,Creative Commons Attribution 4.0 International (CC BY 4.0)の下で公開します. 本データセットの構築には,外部コーパスを使用しています.元データに関する第三者の権利およびライセンス条件は,それぞれの権利者に帰属します.