HYUKI5/nvidia__Scoring-Verifiers

nvidia/Scoring-Verifiers（複製）

データの内容

HumanEval と MBPP のコードの解答を、テストケースの実行結果で順位付けしたベンチマークのデータ。1 行が 1 件の問題で、問題 prompt、正解の canonical_solution、gpt-4o の複数の解答を順位付けした all_solutions（各解答の rank・average_test_score・solution）を持つ。HE-R・HE-R+・MBPP-R・MBPP-R+ の 4 種類があり、解答の順位は事前に定義したテストケースの実行スコアで決めた。

データの概要

項目	値
行数・列数	不明（データセットビューアで読めない形式。ファイルの内訳だけを示す）
容量	20.78 MB（ファイル 6 本）
ファイルの形式	jsonl 4
公開	public

全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

nvidia/Scoring-Verifiers をリビジョン 9352339af4036d9953db9e9ab107b561e8ffdc84 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

• 元のデータセット: https://huggingface.co/datasets/nvidia/Scoring-Verifiers
• 複製したリビジョン: 9352339af4036d9953db9e9ab107b561e8ffdc84（2025-04-01 16:35:02+00:00）
• 元のライセンス表記: other

論文

• https://arxiv.org/abs/2502.13820

アノテーションの方法

（元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した）

データセット このリポジトリには、HumanEval と MBPP のコードのスコアリングとランキング版である 4 つのベンチマークを含めている:

• HE-R
• HE-R+
• MBPP-R
• MBPP-R+

各データのサンプルには、HumanEval または MBPP の問題と、それに続く複数の gpt-4o の解答、および事前に定義したテストケースの実行スコアに基づくそれらのランキングが含まれる。元のベンチマークにあるキーに加えて、各サンプルには次のキーが含まれる:

• task_id
• prompt
• canonical_solution
• all_solutions（各解答は次を含む）
  • rank
  • average_test_score
  • average_time_taken
  • solution

本論文の貢献は、次のようにまとめられる:

1. 事前定義のテストケースを持つ任意のコーディングベンチマークを、コードのスコアリングとランキングのベンチマークへ変換するための手順を提供する。
2. HumanEval と MBPP のデータセットからコードのスコアリングとランキング版（HE-R、HE-R+、MBPP-R、MBPP-R+）を作成し、この手順の妥当性を検証する。
3. 標準の LLM、報酬モデル、推論型 LLM におけるテストケース生成などの合成検証の手法を、本ベンチマークを用いて評価する。

微調整に使うときの注意

• 調査メモの台帳での区分: D（記載なし・other・unknown・資料間の食い違い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
• Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
• 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
nvidia_nemotron.md	付録. 取得した nvidia 組織のデータセット全件の簡易一覧 (L398)	other	確認済	確認印なし(各ファイルの凡例により確認済扱い) ／ 原文注記: × コードの採点（NSCLv1）

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

---

Scoring Verifiers

Scoring Verifiers は、テストケースの生成や報酬モデリングなどの合成検証器（synthetic verifier）について、そのスコアリングとランキングの能力を評価する 4 つのベンチマークのセットである。手法、ベンチマークの詳細、知見は、論文 Scoring Verifiers: Evaluating Synthetic Verification for Code and Reasoning でより詳しく説明している。

データセット

このリポジトリには、HumanEval と MBPP のコードのスコアリングとランキング版である 4 つのベンチマークを含めている:

• HE-R
• HE-R+
• MBPP-R
• MBPP-R+

各データのサンプルには、HumanEval または MBPP の問題と、それに続く複数の gpt-4o の解答、および事前に定義したテストケースの実行スコアに基づくそれらのランキングが含まれる。元のベンチマークにあるキーに加えて、各サンプルには次のキーが含まれる:

• task_id
• prompt
• canonical_solution
• all_solutions（各解答は次を含む）
  • rank
  • average_test_score
  • average_time_taken
  • solution

例として、以下は HE-R+ と MBPP-R+ のすべての解答についてのテストケースのスコアの分布をそれぞれ示したものである。

論文

本論文の貢献は、次のようにまとめられる:

1. 事前定義のテストケースを持つ任意のコーディングベンチマークを、コードのスコアリングとランキングのベンチマークへ変換するための手順を提供する。
2. HumanEval と MBPP のデータセットからコードのスコアリングとランキング版（HE-R、HE-R+、MBPP-R、MBPP-R+）を作成し、この手順の妥当性を検証する。
3. 標準の LLM、報酬モデル、推論型 LLM におけるテストケース生成などの合成検証の手法を、本ベンチマークを用いて評価する。

これらのベンチマークを生成するのに使ったコードも 公開している。

引用

@misc{ficek2025scoringverifiersevaluatingsynthetic,
      title={Scoring Verifiers: Evaluating Synthetic Verification in Code and Reasoning}, 
      author={Aleksander Ficek and Somshubra Majumdar and Vahid Noroozi and Boris Ginsburg},
      year={2025},
      eprint={2502.13820},
      archivePrefix={arXiv},
      primaryClass={cs.AI},
      url={https://arxiv.org/abs/2502.13820}, 
}

原文（英語）

Scoring Verifiers

Scoring Verifiers is a set of 4 benchmarks that evaluate the scoring and ranking capabilities of synthetic verifiers such as test case generation and reward modelling. You can find our paper Scoring Verifiers: Evaluating Synthetic Verification for Code and Reasoning which explains in more detail our methodology, benchmark details and findings.

Datasets

In this repository, we include 4 benchmarks that are code scoring and ranking versions of HumanEval and MBPP:

• HE-R
• HE-R+
• MBPP-R
• MBPP-R+

Each dataset sample contains a question from HumanEval or MBPP following by several gpt-4o solutions and their rankings based on pre-defined test case execution scores. Alongside the keys found in the original benchmarks each sample contains the following keys:

• task_id
• prompt
• canonical_solution
• all_solutions (each solution contains the following)
  • rank
  • average_test_score
  • average_time_taken
  • solution

For example, the following is a distribution of the test case scores for all solutions in HE-R+ and MBPP-R+ respectively.

Paper

Overall our paper's contributions can be summarized as follows:

1. We provide a recipe to transform any coding benchmark with predefined test cases into a code scoring and ranking benchmark.
2. We certify our recipe by creating code scoring and ranking versions of HumanEval and MBPP datasets: HE-R, HE-R+, MBPP-R, MBPP-R+.
3. We use our benchmark to evaluate synthetic verification methods such as test case generation in standard, reward and reasoning LLM’s.

We also open-source the code used to generate these benchmarks.

Citation

@misc{ficek2025scoringverifiersevaluatingsynthetic,
      title={Scoring Verifiers: Evaluating Synthetic Verification in Code and Reasoning}, 
      author={Aleksander Ficek and Somshubra Majumdar and Vahid Noroozi and Boris Ginsburg},
      year={2025},
      eprint={2502.13820},
      archivePrefix={arXiv},
      primaryClass={cs.AI},
      url={https://arxiv.org/abs/2502.13820}, 
}