HYUKI5/OpenStellarTeam__DeltaBench

OpenStellarTeam/DeltaBench（複製）

データの内容

o1 系の推論モデルが生成した長い思考連鎖（CoT）の誤りを、批評モデルや PRM が検出できるかを評価するためのデータ。数学・プログラミング・物理化学生物（PCB）・一般推論の千件余りのサンプルで、1 行が問題と長い CoT 1 件であり、各セクションに戦略の転換・推論の有用性・推論の正しさ（最初の誤り、説明、訂正）・内省の効率のラベルが付いている。調査メモでは評価向けで学習には件数が小さいとされ、カードは学習・研究向けのラベル付きデータを後で公開する予定としている。

データの概要

項目	値
行数	1,236（1 構成・1 分割の合計）
列数	16
容量	63.60 MB（ファイル 3 本）
ファイルの形式	csv 1
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
default	train 1,236	16

列（構成 default・分割 train）

列	型	先頭の行の値
id	string	f11c7a6bbf5754fee116b638d99a33a6
origin	string	Omni-MATH_pascal
task_l1	string	math
task_l2	string	Number Theory
question	string	We call the pair $(m, n)$ of positive integers a…
solution	string	Suppose that $(205800, 35k)$ is a happy pair. We…
answer	string	30
long_cot	string	Let's tackle this problem step by step. we need …
sections	string	[{'start': 1, 'end': 3, 'description': 'Introduc…
sections_content	string	section1: Let's tackle this problem step by step…
sections_labeled_info	string	[{'section_number': 1, 'strategy_shift': '0', 's…
final_correct	int64	0
stragegy_shift_section_numbers	string	[2]
reason_unuseful_section_numbers	string	[]
reason_error_section_numbers	string	[7]
reflection_section_numbers	string	[]

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

OpenStellarTeam/DeltaBench をリビジョン 894d233e5beb06b312b29761cc10e10ca5d2588a の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

• 元のデータセット: https://huggingface.co/datasets/OpenStellarTeam/DeltaBench
• 複製したリビジョン: 894d233e5beb06b312b29761cc10e10ca5d2588a（2025-03-04 11:46:25+00:00）
• 元のライセンス表記: other

論文

• https://arxiv.org/abs/2502.19361

アノテーションの方法

（元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した）

DeltaBench は、o1 系のモデルが生成した長い CoT の質的な特徴を分析し、既存の批評モデルや PRM が、Detect Error in Long CoT ReAsoning（長い CoT 推論における誤りの検出）を行う能力を評価するための、最初のデータセットである。具体的には、DeltaBench は多様な領域にわたる 1,236 件のサンプルからなり、数学、プログラミング、PCB（物理・化学・生物）、一般推論を含む。各サンプルは、問題、それに対応する長い CoT の解答、そして包括的な人手のアノテーションを含む。

• DeltaBench を紹介する。o1 系のモデルが生成した長い CoT の質的な特徴を分析し、既存の批評モデルと PRM が、長い CoT 推論における Detect Error in Long CoT ReAsoning を行う能力を評価する、最初のデータセットである。具体的には、DeltaBench では、さまざまな o1 系モデル（QwQ、DeepSeek-R1、Gemini-2.0 Flash Thinking など）が生成した多様な長い CoT を、数学、プログラミング、PCB（物理・化学・生物）、一般推論などの推論タスクにわたって収集する。 次に、各長い CoT を異なるセクションに分割する。各セクションは独立したサブタスクを表す。

• 1️⃣戦略の転換: このセクションが新しい手法や戦略の試みを導入しているかどうか。新しい戦略を導入している場合は、その具体的なステップをアノテーションする。

• 2️⃣推論の有用性: このセクションの推論が有用かどうか。

• 3️⃣推論の正しさ: このセクションに誤りが含まれるかどうか。誤りがある場合は、誤りが最初に現れるステップ番号、説明、訂正を含む、誤りに関する追加のフィールドをアノテーションする。

• 4️⃣内省の効率（Reflection Efficiency）: このセクションに内省（リフレクション）が含まれるかどうか、そして内省が正しいかどうか。内省がある場合は、内省が始まるステップをアノテーションする。

微調整に使うときの注意

• 調査メモの台帳での区分: D（記載なし・other・unknown・資料間の食い違い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
• Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
• 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
reasoning_process_labels.md	Q2. 推論の誤りの「位置・種類・理由」を人手で付けた検出ベンチは何があるか（数学以外を含む） (L57)	HF の license 欄は None。GitHub 側は未確認	未確認	原文注記: 件数 1,236 は評価向けで、学習には小さい。長さは下の Inferences。general（147 件）は論理・記号・数量・戦略・常識推論で、金融の論述とは別

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

---

概要

🌐 ウェブサイト • 🤗 Hugging Face • ⏬ データ • 📃 論文 • 🖥️ Github

💥 DeltaBench

DeltaBench は、o1 系のモデルが生成した長い CoT の質的な特徴を分析し、既存の批評モデルや PRM が、Detect Error in Long CoT ReAsoning（長い CoT 推論における誤りの検出）を行う能力を評価するための、最初のデータセットである。具体的には、DeltaBench は多様な領域にわたる 1,236 件のサンプルからなり、数学、プログラミング、PCB（物理・化学・生物）、一般推論を含む。各サンプルは、問題、それに対応する長い CoT の解答、そして包括的な人手のアノテーションを含む。

詳細は、ウェブサイト または 論文 を参照。

🆕 ニュース

• [近日公開] ラベル付きのデータセットを今後さらに公開する予定である。学習・研究用途に利用できるようになる予定である。続報に注目 🔥🔥🔥

• [2025.03.05] DeltaBench データセットを 🤗huggingface で公開した 🚀🚀🚀。

💫 導入

• DeltaBench を紹介する。o1 系のモデルが生成した長い CoT の質的な特徴を分析し、既存の批評モデルと PRM が、長い CoT 推論における Detect Error in Long CoT ReAsoning を行う能力を評価する、最初のデータセットである。具体的には、DeltaBench では、さまざまな o1 系モデル（QwQ、DeepSeek-R1、Gemini-2.0 Flash Thinking など）が生成した多様な長い CoT を、数学、プログラミング、PCB（物理・化学・生物）、一般推論などの推論タスクにわたって収集する。 次に、各長い CoT を異なるセクションに分割する。各セクションは独立したサブタスクを表す。

​ その後、各セクションには次のタグが付与される:

• 1️⃣戦略の転換: このセクションが新しい手法や戦略の試みを導入しているかどうか。新しい戦略を導入している場合は、その具体的なステップをアノテーションする。
• 2️⃣推論の有用性: このセクションの推論が有用かどうか。
• 3️⃣推論の正しさ: このセクションに誤りが含まれるかどうか。誤りがある場合は、誤りが最初に現れるステップ番号、説明、訂正を含む、誤りに関する追加のフィールドをアノテーションする。
• 4️⃣内省の効率（Reflection Efficiency）: このセクションに内省（リフレクション）が含まれるかどうか、そして内省が正しいかどうか。内省がある場合は、内省が始まるステップをアノテーションする。

📊 リーダーボード

詳細は 📊 を参照。

📜 引用

本データセットを利用する場合は、論文を引用してほしい。

@misc{he2025largelanguagemodelsdetect,
      title={Can Large Language Models Detect Errors in Long Chain-of-Thought Reasoning?}, 
      author={Yancheng He and Shilong Li and Jiaheng Liu and Weixun Wang and Xingyuan Bu and Ge Zhang and Zhongyuan Peng and Zhaoxiang Zhang and Zhicheng Zheng and Wenbo Su and Bo Zheng},
      year={2025},
      eprint={2502.19361},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2502.19361}, 
}

原文（英語）

Overview

🌐 Website • 🤗 Hugging Face • ⏬ Data • 📃 Paper • 🖥️ Github

💥 DeltaBench

DeltaBench the first dataset to analyze the qualities of the long CoTs generated by o1-like models and evaluate the critique abilities to Detect Error in Long CoT ReAsoning of existing critic models and PRMs. Specifically, DeltaBench comprises 1,236 samples across diverse domains, including Math, Programming, PCB (physics, chemistry and biology), and General Reasoning. Each sample encompasses a problem, its corresponding long CoT solution, and comprehensive human annotations

Please visit our website or check our paper for more details.

🆕 News

• [Soon] We plan to release more of our labeled datasets, which will be available for training and research purposes. Stay tuned 🔥🔥🔥

• [2025.03.05] We have released the DeltaBench dataset 🤗huggingface 🚀🚀🚀.

💫 Instroduction

• we introduceDeltaBench, the first dataset to analyze the qualities of the long CoTs generated by o1-like models and evaluate the critique abilities to Detect Error in Long CoT ReAsoning of existing critic models and PRMs. Specifically, in DeltaBench, we first collect a diverse collection of long CoTs generated by various o1-like models (i.e., QwQ, DeepSeek-R1, and Gemini-2.0 Flash Thinking) across different reasoning tasks such as Math, Programming, PCB (physics, chemistry and biology), and General Reasoning. Then, we divide each long COT into different sections, where each section denotes an independent subtask.

​ After that, each section includes the following tags:

• 1️⃣Strategy Shift: whether this section introduces a new method or strategy attempt. If a new strategy is introduced, the specific step is annotated.
• 2️⃣Reasoning Usefulness: whether the reasoning in this section is useful.
• 3️⃣Reasoning Correctness: whether this section contains any errors. If an error is present, additional error-related fields are annotated, including the first step number at which the error occurs, explanation and correction.
• 4️⃣Reflection Efficiency: whether this section contains reflection and whether the reflection is correct. If reflection is present, the step at which the reflection begins is annotated.

📊 Leaderboard

详见： 📊

📜 Citation

Please cite our paper if you use our dataset.

@misc{he2025largelanguagemodelsdetect,
      title={Can Large Language Models Detect Errors in Long Chain-of-Thought Reasoning?}, 
      author={Yancheng He and Shilong Li and Jiaheng Liu and Weixun Wang and Xingyuan Bu and Ge Zhang and Zhongyuan Peng and Zhaoxiang Zhang and Zhicheng Zheng and Wenbo Su and Bo Zheng},
      year={2025},
      eprint={2502.19361},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2502.19361}, 
}