---
license: cc-by-4.0
task_categories:
  - text-generation
  - question-answering
language:
  - ja
tags:
  - japanese
  - mathematical-reasoning
  - math-word-problems
  - chain-of-thought
  - synthetic
  - sft
pretty_name: JaMathCoT
size_categories:
  - 10K<n<100K
---

# JaMathCoT

JaMathCoT is a synthetic Japanese mathematical reasoning dataset containing 24,460 math word problems with step-by-step solutions. The dataset was constructed using [LLM-jp-4.1-33B-thinking](https://huggingface.co/llm-jp/llm-jp-4.1-33b-thinking) and is intended for supervised fine-tuning (SFT) of large language models.

## データセット概要
JaMathCoTは，日本語の数量推論能力の向上を目的として構築した，日本語推論過程（Chain-of-Thought; CoT）付きの合成数学問題データセットです．
データセットは日本語のWeb文書およびWikipedia由来の文書をもとに作成されています．
また，各問題に対して日本語の推論過程とPythonコードを生成し，両者の最終回答が一致する問題のみをデータセット内に収録しています．
データセットは合計24,460件で構成され，主にLLMの教師ありファインチューニング（SFT）での利用を想定しています．

## データセットの構築方法
データセットの構築には，[LLM-jp-4.1-33B-thinking](https://huggingface.co/llm-jp/llm-jp-4.1-33b-thinking)を使用しました．

### 1. 数学問題の生成
以下の2つの日本語コーパスから取得した文書をLLMに入力し，GSM8K形式の数量推論問題を生成しました．
- [FineWeb-2 Edu Japanese](https://huggingface.co/datasets/hotchpotch/fineweb-2-edu-japanese)
- [LLM-jp Corpus v4 (ja_wiki)](https://huggingface.co/datasets/Podtech/llm-jp-corpus-v4-ja_wiki)

### 2. データのフィルタリング
まず，生成した各数学問題に対して，上記のLLMを用いて以下の2種類の解答を生成しました．
- **日本語CoT**：問題を段階的に解く日本語の推論過程
- **Pythonコード**：問題の答えを計算するPythonコード
  
その後，以下の条件をすべて満たす問題のみを抽出し，データセットを構築しています．
1. 日本語CoTとPythonコードから得られる最終回答が一致すること
2. 最終回答が整数（`int`型）であること

なお，回答の一致は自動的な品質フィルタリングであり，すべての問題と推論過程の正確性を保証するものではありません．

## データセットの統計

| 元データソース | 問題数 |
|---|---:|
| FineWeb-2 Edu Japanese | 17,700 |
| LLM-jp Corpus v4 (ja_wiki) | 6,760 |
| **合計** | **24,460** |

## データ形式
各データは以下の2つのカラムで構成されています．`messages`には，`user`と`assistant`の2つのメッセージが含まれています．
| カラム | 説明 |
|---|---|
| `messages` | 日本語の数学問題と，それに対する日本語CoTを格納したメッセージのリスト |
| `answer` | 問題の最終回答を表す整数形式の文字列 |

以下はデータ構造を示す例です（実際の収録データではありません）．
Pythonコードは回答の整合性を確認するために使用しており，公開データには含まれていません．
```json
{
  "messages": [
    {
      "role": "user",
      "content": "日本語の数学問題"
    },
    {
      "role": "assistant",
      "content": "日本語の段階的な推論過程"
    }
  ],
  "answer": 42
}
```

## 使用方法
Hugging Faceの`datasets`ライブラリを使用して読み込むことができます．
```python
from datasets import load_dataset

dataset = load_dataset("ao1neko/JaMathCoT")
print(dataset)
```

## 制限事項
- データセットはLLMによって自動生成されたものであり，人手による全件の正確性検証は実施していません．
- 最終回答が整数となる問題のみを収録しているため，小数や分数などを最終回答とする問題は含まれていません．
- 元文書に由来する表現や内容が，生成された問題に残存している可能性があります．

## ライセンス
JaMathCoTは，データセット作成者が許諾可能な権利の範囲で，[Creative Commons Attribution 4.0 International (CC BY 4.0)](https://creativecommons.org/licenses/by/4.0/)の下で公開します．
本データセットの構築には，外部コーパスを使用しています．元データに関する第三者の権利およびライセンス条件は，それぞれの権利者に帰属します．