Datasets:

HYUKI5
/

Qwen__ProcessBench

license: apache-2.0
pretty_name: Qwen/ProcessBench (mirror)
source_datasets:
  - Qwen/ProcessBench
tags:
  - laya
  - laya-finetune
  - mirror
  - domain-math
  - use-conditional
  - genre-exam
  - label-span
  - annot-unknown
  - lang-en
language:
  - en
size_categories:
  - 1K<n<10K
configs:
  - config_name: default
    data_files:
      - split: gsm8k
        path: gsm8k.json
      - split: math
        path: math.json
      - split: olympiadbench
        path: olympiadbench.json
      - split: omnimath
        path: omnimath.json

Qwen/ProcessBench（複製）

データの内容

Qwen Team が提案した、数学の推論過程の誤りを特定するベンチマーク ProcessBench のデータ。1 行が 1 問で、problem・steps（解法を分けたもの）・final_answer_correct・label などの列がある。評価用のベンチマークのため件数は小さく、調査メモでは第一の誤りより後のステップには正誤が付いていないとされる。

データの概要

項目	値
行数	3,400（1 構成・4 分割の合計）
列数	6
容量	8.17 MB（ファイル 6 本）
ファイルの形式	json 4
言語	en
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
`default`	`gsm8k` 400、`math` 1,000、`olympiadbench` 1,000、`omnimath` 1,000	6

列（構成 `default`・分割 `gsm8k`）

列	型	先頭の行の値
`id`	`string`	`gsm8k-0`
`generator`	`string`	`Qwen2-7B-Instruct`
`problem`	`string`	`Sue lives in a fun neighborhood. One weekend, t…`
`steps`	`list<string>`	`[4 件]`
`final_answer_correct`	`bool`	`False`
`label`	`int64`	`1`

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

Qwen/ProcessBench をリビジョン 3bdcd5371ed567559a78f559c01c13a6deee7604 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

元のデータセット: https://huggingface.co/datasets/Qwen/ProcessBench
複製したリビジョン: 3bdcd5371ed567559a78f559c01c13a6deee7604（2024-12-27 14:05:30+00:00）
元のライセンス表記: apache-2.0

論文

https://arxiv.org/abs/2412.06559

アノテーションの方法

元のカードにアノテーションの節が無かった。下の「調査メモの記述」と「元のカード」を参照。

微調整に使うときの注意

調査メモの台帳での区分: B（継承条件・gated・モデル由来の条件・上流の規約などが付く）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
`reasoning_process_labels.md`	Q1. 推論の各ステップに「正しい／誤り」を付けた PRM 用データは何があるか（数学中心） (L25)	apache-2.0	確認済	生成元モデルの出力規約が別に及ぶ(Q4) ／原文注記: 評価用で件数が小さい。数学のみ。第一誤りより後のステップに正誤が無い

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

ProcessBench

このリポジトリには、Qwen Team が提案したベンチマーク ProcessBench のデータセットが含まれる。

評価のコードと、本研究で使ったプロンプトのテンプレートについては、GitHub リポジトリを参照されたい。

本研究が参考になった場合は、引用していただけると幸いである:

@article{processbench,
  title={ProcessBench: Identifying Process Errors in Mathematical Reasoning}, 
  author={
    Chujie Zheng and Zhenru Zhang and Beichen Zhang and Runji Lin and Keming Lu and
    Bowen Yu and Dayiheng Liu and Jingren Zhou and Junyang Lin
  },
  journal={arXiv preprint arXiv:2412.06559},
  year={2024}
}

データの使い方

次のコードで、データセットを確認できる:

import json
from datasets import load_dataset

dataset = load_dataset('Qwen/ProcessBench', split='gsm8k')
print(json.dumps(dataset[0], indent=2))

# Expected output:
"""
{
  "id": "gsm8k-0",
  "generator": "Qwen2-7B-Instruct",
  "problem": "Sue lives in a fun neighborhood...",
  "steps": [
    "To find out how many more pink plastic flamingos were out than...",
    ...
  ],
  "final_answer_correct": false,
  "label": 1
}
"""

原文（英語）

ProcessBench

This repository contains the dataset of the ProcessBench benchmark proposed by Qwen Team.

You can refer to our GitHub repository for the evaluation code and the prompt templates we use in this work.

If you find this work relevant or helpful to your work, please kindly cite us:

@article{processbench,
  title={ProcessBench: Identifying Process Errors in Mathematical Reasoning}, 
  author={
    Chujie Zheng and Zhenru Zhang and Beichen Zhang and Runji Lin and Keming Lu and
    Bowen Yu and Dayiheng Liu and Jingren Zhou and Junyang Lin
  },
  journal={arXiv preprint arXiv:2412.06559},
  year={2024}
}

Data Usage

You can use the following code to preview the dataset:

import json
from datasets import load_dataset

dataset = load_dataset('Qwen/ProcessBench', split='gsm8k')
print(json.dumps(dataset[0], indent=2))

# Expected output:
"""
{
  "id": "gsm8k-0",
  "generator": "Qwen2-7B-Instruct",
  "problem": "Sue lives in a fun neighborhood...",
  "steps": [
    "To find out how many more pink plastic flamingos were out than...",
    ...
  ],
  "final_answer_correct": false,
  "label": 1
}
"""

Qwen/ProcessBench（複製）

データの内容

データの概要

構成と分割

列（構成 default・分割 gsm8k）

複製について

出典

論文

アノテーションの方法

微調整に使うときの注意

調査メモの記述

元のカード（日本語訳）

ProcessBench

データの使い方

ProcessBench

Data Usage

列（構成 `default`・分割 `gsm8k`）