Datasets:

ao1neko
/

JaMathCoT

---
license: cc-by-4.0
task_categories:
  - text-generation
  - question-answering
language:
  - ja
tags:
  - japanese
  - mathematical-reasoning
  - math-word-problems
  - chain-of-thought
  - synthetic
  - sft
pretty_name: JaMathCoT
size_categories:
  - 10K<n<100K
---
# JaMathCoT

JaMathCoT is a synthetic Japanese mathematical reasoning dataset containing 24,460 math word problems with step-by-step solutions. The dataset was constructed using [LLM-jp-4.1-33B-thinking](https://huggingface.co/llm-jp/llm-jp-4.1-33b-thinking) and is intended for supervised fine-tuning (SFT) of large language models.

## データセット概要
JaMathCoTは，日本語の数量推論能力の向上を目的として構築した，日本語推論過程（Chain-of-Thought; CoT）付きの合成数学問題データセットです．
データセットは日本語のWeb文書およびWikipedia由来の文書をもとに作成されています．
また，各問題に対して日本語の推論過程とPythonコードを生成し，両者の最終回答が一致する問題のみをデータセット内に収録しています．
データセットは合計24,460件で構成され，主にLLMの教師ありファインチューニング（SFT）での利用を想定しています．

## データセットの構築方法
データセットの構築には，[LLM-jp-4.1-33B-thinking](https://huggingface.co/llm-jp/llm-jp-4.1-33b-thinking)を使用しました．

### 1. 数学問題の生成
以下の2つの日本語コーパスから取得した文書をLLMに入力し，GSM8K形式の数量推論問題を生成しました．
- [FineWeb-2 Edu Japanese](https://huggingface.co/datasets/hotchpotch/fineweb-2-edu-japanese)
- [LLM-jp Corpus v4 (ja_wiki)](https://huggingface.co/datasets/Podtech/llm-jp-corpus-v4-ja_wiki)

### 2. データのフィルタリング
まず，生成した各数学問題に対して，上記のLLMを用いて以下の2種類の解答を生成しました．
- **日本語CoT**：問題を段階的に解く日本語の推論過程
- **Pythonコード**：問題の答えを計算するPythonコード
  
その後，以下の条件をすべて満たす問題のみを抽出し，データセットを構築しています．
1. 日本語CoTとPythonコードから得られる最終回答が一致すること
2. 最終回答が整数（`int`型）であること

なお，回答の一致は自動的な品質フィルタリングであり，すべての問題と推論過程の正確性を保証するものではありません．

## データセットの統計

| 元データソース | 問題数 |
|---|---:|
| FineWeb-2 Edu Japanese | 17,700 |
| LLM-jp Corpus v4 (ja_wiki) | 6,760 |
| **合計** | **24,460** |
## データ形式
各データは以下の2つのカラムで構成されています．`messages`には，`user`と`assistant`の2つのメッセージが含まれています．
| カラム | 説明 |
|---|---|
| `messages` | 日本語の数学問題と，それに対する日本語CoTを格納したメッセージのリスト |
| `answer` | 問題の最終回答を表す整数形式の文字列 |
以下はデータ構造を示す例です（実際の収録データではありません）．
Pythonコードは回答の整合性を確認するために使用しており，公開データには含まれていません．
```json
{
  "messages": [
    {
      "role": "user",
      "content": "日本語の数学問題"
    },
    {
      "role": "assistant",
      "content": "日本語の段階的な推論過程"
    }
  ],
  "answer": 42
}
```
## 使用方法
Hugging Faceの`datasets`ライブラリを使用して読み込むことができます．
```python
from datasets import load_dataset

dataset = load_dataset("ao1neko/JaMathCoT")
print(dataset)
```
## 制限事項
- データセットはLLMによって自動生成されたものであり，人手による全件の正確性検証は実施していません．
- 最終回答が整数となる問題のみを収録しているため，小数や分数などを最終回答とする問題は含まれていません．
- 元文書に由来する表現や内容が，生成された問題に残存している可能性があります．
## ライセンス
JaMathCoTは，データセット作成者が許諾可能な権利の範囲で，[Creative Commons Attribution 4.0 International (CC BY 4.0)](https://creativecommons.org/licenses/by/4.0/)の下で公開します．
本データセットの構築には，外部コーパスを使用しています．元データに関する第三者の権利およびライセンス条件は，それぞれの権利者に帰属します．

	---
	license: cc-by-4.0
	task_categories:
	- text-generation
	- question-answering
	language:
	- ja
	tags:
	- japanese
	- mathematical-reasoning
	- math-word-problems
	- chain-of-thought
	- synthetic
	- sft
	pretty_name: JaMathCoT
	size_categories:
	- 10K<n<100K
	---

	# JaMathCoT

	JaMathCoT is a synthetic Japanese mathematical reasoning dataset containing 24,460 math word problems with step-by-step solutions. The dataset was constructed using [LLM-jp-4.1-33B-thinking](https://huggingface.co/llm-jp/llm-jp-4.1-33b-thinking) and is intended for supervised fine-tuning (SFT) of large language models.

	## データセット概要
	JaMathCoTは，日本語の数量推論能力の向上を目的として構築した，日本語推論過程（Chain-of-Thought; CoT）付きの合成数学問題データセットです．
	データセットは日本語のWeb文書およびWikipedia由来の文書をもとに作成されています．
	また，各問題に対して日本語の推論過程とPythonコードを生成し，両者の最終回答が一致する問題のみをデータセット内に収録しています．
	データセットは合計24,460件で構成され，主にLLMの教師ありファインチューニング（SFT）での利用を想定しています．

	## データセットの構築方法
	データセットの構築には，[LLM-jp-4.1-33B-thinking](https://huggingface.co/llm-jp/llm-jp-4.1-33b-thinking)を使用しました．

	### 1. 数学問題の生成
	以下の2つの日本語コーパスから取得した文書をLLMに入力し，GSM8K形式の数量推論問題を生成しました．
	- [FineWeb-2 Edu Japanese](https://huggingface.co/datasets/hotchpotch/fineweb-2-edu-japanese)
	- [LLM-jp Corpus v4 (ja_wiki)](https://huggingface.co/datasets/Podtech/llm-jp-corpus-v4-ja_wiki)

	### 2. データのフィルタリング
	まず，生成した各数学問題に対して，上記のLLMを用いて以下の2種類の解答を生成しました．
	- 日本語CoT：問題を段階的に解く日本語の推論過程
	- Pythonコード：問題の答えを計算するPythonコード

	その後，以下の条件をすべて満たす問題のみを抽出し，データセットを構築しています．
	1. 日本語CoTとPythonコードから得られる最終回答が一致すること
	2. 最終回答が整数（`int`型）であること

	なお，回答の一致は自動的な品質フィルタリングであり，すべての問題と推論過程の正確性を保証するものではありません．

	## データセットの統計

	\| 元データソース \| 問題数 \|
	\|---\|---:\|
	\| FineWeb-2 Edu Japanese \| 17,700 \|
	\| LLM-jp Corpus v4 (ja_wiki) \| 6,760 \|
	\| 合計 \| 24,460 \|

	## データ形式
	各データは以下の2つのカラムで構成されています．`messages`には，`user`と`assistant`の2つのメッセージが含まれています．
	\| カラム \| 説明 \|
	\|---\|---\|
	\| `messages` \| 日本語の数学問題と，それに対する日本語CoTを格納したメッセージのリスト \|
	\| `answer` \| 問題の最終回答を表す整数形式の文字列 \|

	以下はデータ構造を示す例です（実際の収録データではありません）．
	Pythonコードは回答の整合性を確認するために使用しており，公開データには含まれていません．
	```json
	{
	"messages": [
	{
	"role": "user",
	"content": "日本語の数学問題"
	},
	{
	"role": "assistant",
	"content": "日本語の段階的な推論過程"
	}
	],
	"answer": 42
	}
	```

	## 使用方法
	Hugging Faceの`datasets`ライブラリを使用して読み込むことができます．
	```python
	from datasets import load_dataset

	dataset = load_dataset("ao1neko/JaMathCoT")
	print(dataset)
	```

	## 制限事項
	- データセットはLLMによって自動生成されたものであり，人手による全件の正確性検証は実施していません．
	- 最終回答が整数となる問題のみを収録しているため，小数や分数などを最終回答とする問題は含まれていません．
	- 元文書に由来する表現や内容が，生成された問題に残存している可能性があります．

	## ライセンス
	JaMathCoTは，データセット作成者が許諾可能な権利の範囲で，[Creative Commons Attribution 4.0 International (CC BY 4.0)](https://creativecommons.org/licenses/by/4.0/)の下で公開します．
	本データセットの構築には，外部コーパスを使用しています．元データに関する第三者の権利およびライセンス条件は，それぞれの権利者に帰属します．