|
Download README.md from HYUKI5/nvidia__Nemotron-Math-HumanReasoning: direct link, hf CLI and curl.
- Browser
- Download file 12.5 kB
-
https://huggingface.co/datasets/HYUKI5/nvidia__Nemotron-Math-HumanReasoning/resolve/main/README.md
- Command line
-
hf download hf://datasets/HYUKI5/nvidia__Nemotron-Math-HumanReasoning/README.md
-
curl -L -o README.md https://huggingface.co/datasets/HYUKI5/nvidia__Nemotron-Math-HumanReasoning/resolve/main/README.md
12.5 kB
| license: cc-by-nc-4.0 | |
| pretty_name: nvidia/Nemotron-Math-HumanReasoning (mirror) | |
| source_datasets: | |
| - nvidia/Nemotron-Math-HumanReasoning | |
| tags: | |
| - laya | |
| - laya-finetune | |
| - mirror | |
| - domain-math | |
| - use-noncommercial | |
| - genre-exam | |
| - label-text | |
| - annot-unknown | |
| # nvidia/Nemotron-Math-HumanReasoning(複製) | |
| ## データの内容 | |
| OpenMathReasoning の数学問題に、オリンピック数学に深く通じた学生が書いた解答を付けたデータ。解答には、人手で書いた版と QwQ-32B-Preview が生成した版がある。1 行が 1 組の問題と解答で、問題文は `problem`、正解は `expected_answer`、解答の出どころは `solution_type` で分かる。想定される用途は言語モデルの訓練で、ライセンスは CC BY-NC 4.0 のため非商用に限られる。 | |
| ## データの概要 | |
| | 項目 | 値 | | |
| |---|---| | |
| | 行数 | 250(1 構成・1 分割の合計) | | |
| | 列数 | 4 | | |
| | 容量 | 2.40 MB(ファイル 3 本) | | |
| | ファイルの形式 | jsonl 1 | | |
| | 公開 | public | | |
| ### 構成と分割 | |
| | 構成(config) | 分割(split)ごとの行数 | 列数 | | |
| |---|---|---:| | |
| | `default` | `train` 250 | 4 | | |
| ### 列(構成 `default`・分割 `train`) | |
| | 列 | 型 | 先頭の行の値 | | |
| |---|---|---| | |
| | `problem` | `string` | `A mailman is delivering mail to 10 houses on one…` | | |
| | `solution` | `string` | `We have 10 houses in a row on one side of the st…` | | |
| | `expected_answer` | `string` | `69` | | |
| | `solution_type` | `string` | `human_stage1` | | |
| 行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。 | |
| ## 複製について | |
| [`nvidia/Nemotron-Math-HumanReasoning`](https://huggingface.co/datasets/nvidia/Nemotron-Math-HumanReasoning) をリビジョン `188ba91e9c7b1cda9d1b1bca43ff23f4f94cf00a` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(`convaiinnovations/laya`)の微調整に使う候補として、調査メモ(`Laya 学習用データセット調査`)に載せたデータを集めている。 | |
| ## 出典 | |
| - 元のデータセット: https://huggingface.co/datasets/nvidia/Nemotron-Math-HumanReasoning | |
| - 複製したリビジョン: `188ba91e9c7b1cda9d1b1bca43ff23f4f94cf00a`(2025-07-16 00:03:01+00:00) | |
| - 元のライセンス表記: `cc-by-nc-4.0` | |
| ## 論文 | |
| - https://arxiv.org/abs/2507.09850 | |
| ## アノテーションの方法 | |
| **データセットの作成日:** | |
| 06/01/2025 | |
| ## 微調整に使うときの注意 | |
| - 調査メモの台帳での区分: C(NC・ND・研究専用・評価専用など、商用の利用を妨げうる記載がある)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。 | |
| - Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。 | |
| - 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。 | |
| ## 調査メモの記述 | |
| | メモ | 節 | ライセンス(記載) | 確認 | 注記 | | |
| |---|---|---|---|---| | |
| | `nvidia_nemotron.md` | 付録. 取得した nvidia 組織のデータセット全件の簡易一覧 (L354) | cc-by-nc-4.0 | 確認済 | 確認印なし(各ファイルの凡例により確認済扱い) / 原文注記: × 数学。pass_rate 等は難易度ラベルだが金融と無関係 | | |
| ## 元のカード(日本語訳) | |
| 以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。 | |
| --- | |
| この論文に付随するデータセット: [The Challenge of Teaching Reasoning to LLMs Without RL or Distillation](https://arxiv.org/abs/2507.09850)。 | |
| すべての実験は [NeMo-Skills](https://github.com/NVIDIA/NeMo-Skills) を使って行われた。 | |
| ## データセットの説明: | |
| Nemotron-Math-HumanReasoning は、人間が書いた数学問題の解答を集めた小規模なデータセットであり、DeepSeek-R1 などのモデルの、拡張された推論スタイルを模倣するように設計されている。これらの解答は、オリンピアード数学に深い経験を持つ学生が書いたものである。私たちは解答の複数のバージョンを提供し、人間が書いた解答で訓練した場合と、QwQ-32B-Preview が生成した解答で訓練した場合の結果を比較する。このリリースが、効果的な「推論スタイル」の解答に寄与する重要な要素の研究を支えることを期待している。 | |
| このデータセットは非商用利用に限られる。 | |
| <table with results of training on different solution groups> | |
| 私たちは、2 種類の訓練データで微調整したモデルの性能を評価する。その 2 種類とは、人間が書いたデータと、QwQ-32B-Preview が生成した推論データである。 | |
| 具体的には、Qwen2.5-32B を各データセット(データセットあたり 50 例)で微調整する。データセットには、人間が書いたデータの異なる段階(human_stage1 から human_stage4)と、QwQ-32B-Preview による合成データが含まれる。 | |
| 得られたモデルは、いくつかの一般的な数学ベンチマークで評価され、結果は下の表に示す。 | |
| | データ | AIME24 | AIME25 | HMMT-24-25 | | |
| |-------------------------|-----------------|---------------|--------------| | |
| | human_stage1 | 9.27 (33.33) | 6.25 (20.00) | 4.82 (11.73) | | |
| | human_stage2 | 6.93 (20.00) | 5.83 (20.00) | 4.62 (11.22) | | |
| | human_stage3 | 6.41 (20.00) | 4.69 (20.00) | 3.37 (8.16) | | |
| | human_stage4 | 6.41 (26.67) | 5.26 (23.33) | 4.05 (9.69) | | |
| | **qwq_32b_preview** | 28.02 (56.67) | 21.61 (40.00) | 16.80 (30.10)| | |
| 指標は pass@1(maj@64)として示す。ここで pass@1 は 64 回の生成にわたる平均精度であり、maj@64 は多数決の結果である。 | |
| 評価の設定の詳細は[論文](https://arxiv.org/abs/2507.09850)を参照。 | |
| ## データセットの所有者: | |
| NVIDIA Corporation | |
| ## データセットの作成日: | |
| 06/01/2025 | |
| ## ライセンス・利用規約: | |
| [cc-by-nc-4.0](https://creativecommons.org/licenses/by-nc/4.0/deed.en) | |
| ## データのフィールド: | |
| Nemotron-Math-HumanReasoning データセットには次のフィールドが含まれる: | |
| - **problem**: 数学問題の文。 | |
| - **solution**: この問題の解答。人間が書いたもの(human)か、QwQ-32B-Preview で生成されたもの(automated)のいずれか。 | |
| - **solution_type**: 「human_stageX」(X は 1 から 4 までの数字)または「qwq_32b_preview」。詳細は[論文](https://arxiv.org/abs/2507.09850)を参照。 | |
| - **expected_answer**: 問題の正解(ground truth)。 | |
| ## データセットのサイズ | |
| Nemotron-Math-HumanReasoning は、[OpenMathReasoning](https://huggingface.co/datasets/nvidia/OpenMathReasoning) データセットの 50 問の数学問題、人間が書いた 200 件の解答、そして QwQ-32B-Preview が生成した 50 件の追加の解答からなる。 | |
| データセットのサイズは 2.4 Mb である。 | |
| ## データ形式 | |
| テキストのみ。 | |
| ## 参考文献: | |
| [論文](https://arxiv.org/abs/2507.09850) へのリンク | |
| ## 想定される用途: | |
| 言語モデルの訓練。 | |
| ## 倫理的配慮: | |
| NVIDIA は、信頼できる AI は共有の責任であると考えており、幅広い AI 応用の開発を可能にするためのポリシーと実践を確立している。このデータセットを利用規約に従って利用する際には、開発者は社内のモデルチームと協力して、このモデルが関連する業界や用途の要件を満たしているかを確認し、予期しない製品の誤用に対処すべきである。 | |
| セキュリティ上の脆弱性または NVIDIA の AI に関する懸念は、[こちら](https://www.nvidia.com/en-us/support/submit-security-vulnerability/) から報告できる。 | |
| <details> | |
| <summary>原文(英語)</summary> | |
| Dataset accompanying the paper: [The Challenge of Teaching Reasoning to LLMs Without RL or Distillation](https://arxiv.org/abs/2507.09850). | |
| All experiments were conducted using [NeMo-Skills](https://github.com/NVIDIA/NeMo-Skills). | |
| ## Dataset Description: | |
| Nemotron-Math-HumanReasoning is a compact dataset featuring human-written solutions to math problems, designed to emulate the extended reasoning style of models like DeepSeek-R1. These solutions are authored by students with deep experience in Olympiad-level mathematics. We provide multiple versions of the solutions and report on how training with this data compares to training on model-generated solutions from QwQ-32B-Preview. We hope this release supports further research into the key elements that contribute to effective "reasoning-style" solutions. | |
| The dataset is available for non-commercial use. | |
| <table with results of training on different solution groups> | |
| We evaluate the performance of models fine-tuned on two types of training data: human-written data and reasoning data generated by QwQ-32B-Preview. | |
| Specifically, we fine-tune Qwen2.5-32B on each dataset (50 examples per dataset), including different stages of human-curated data (human_stage1 to human_stage4) and synthetic data from QwQ-32B-Preview. | |
| The resulting models are evaluated on several popular mathematical benchmarks, and the results are reported in the table below. | |
| | Data | AIME24 | AIME25 | HMMT-24-25 | | |
| |-------------------------|-----------------|---------------|--------------| | |
| | human_stage1 | 9.27 (33.33) | 6.25 (20.00) | 4.82 (11.73) | | |
| | human_stage2 | 6.93 (20.00) | 5.83 (20.00) | 4.62 (11.22) | | |
| | human_stage3 | 6.41 (20.00) | 4.69 (20.00) | 3.37 (8.16) | | |
| | human_stage4 | 6.41 (26.67) | 5.26 (23.33) | 4.05 (9.69) | | |
| | **qwq_32b_preview** | 28.02 (56.67) | 21.61 (40.00) | 16.80 (30.10)| | |
| We present metrics as pass@1 (maj@64) where pass@1 | |
| is an average accuracy across 64 generations and maj@64 is the result of majority voting. | |
| Please see our [paper](https://arxiv.org/abs/2507.09850) for more details on the evaluation setup. | |
| ## Dataset Owner(s): | |
| NVIDIA Corporation | |
| ## Dataset Creation Date: | |
| 06/01/2025 | |
| ## License/Terms of Use: | |
| [cc-by-nc-4.0](https://creativecommons.org/licenses/by-nc/4.0/deed.en) | |
| ## Dataset fields: | |
| Nemotron-Math-HumanReasoning dataset contains the following fields: | |
| - **problem**: Math problem statement. | |
| - **solution**: Solution to this problem. Either written by people (human) or generated with QwQ-32B-Preview (automated). | |
| - **solution_type**: “human_stageX” (X is a number from 1 to 4) or “qwq_32b_preview”. See our [paper]((https://arxiv.org/abs/2507.09850) to learn more details. | |
| - **expected_answer**: The ground-truth answer to the problem. | |
| ## Dataset Size | |
| Nemotron-Math-HumanReasoning consists of 50 math problems from [OpenMathReasoning dataset](https://huggingface.co/datasets/nvidia/OpenMathReasoning) and 200 solutions written by humans, as well as 50 extra solutions generated by QwQ-32B-Preview. | |
| The dataset size is 2.4 Mb. | |
| ## Dataset Format | |
| Text-only. | |
| ## Reference(s): | |
| Link to [paper](https://arxiv.org/abs/2507.09850) | |
| ## Intended Usage: | |
| Training language models. | |
| ## Ethical Considerations: | |
| NVIDIA believes Trustworthy AI is a shared responsibility and we have established policies and practices to enable development for a wide array of AI applications. When downloaded or used in accordance with our terms of service, developers should work with their internal model team to ensure this model meets requirements for the relevant industry and use case and addresses unforeseen product misuse. | |
| Please report security vulnerabilities or NVIDIA AI Concerns [here](https://www.nvidia.com/en-us/support/submit-security-vulnerability/). | |
| </details> | |