HYUKI5/nvidia__compute-eval

nvidia/compute-eval（複製）

データの内容

LLM が生成した CUDA コードの正しさと性能を測るベンチマークの課題のデータ。1 行が 1 問で、課題文 prompt、所属する領域 group、ビルドとテストのコマンド、基準となる解答 baseline_solution などを持つ。問題は NVIDIA のエンジニアが作り、一部は OpenAI と Anthropic のモデルの支援で生成または修正し、すべて人間のエンジニアが確認した。ライセンスは NVIDIA Evaluation Dataset License Agreement で、評価用のベンチマークとして作られている。

データの概要

項目	値
行数	3,102（15 構成・15 分割の合計）
列数	20
容量	31.99 MB（ファイル 27 本）
ファイルの形式	jsonl 14、json 5、md 2、pdf 1、yaml 1
言語	en
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
default	eval 591	20
2025-1	eval 127	20
2025-2	eval 231	20
2025-3	eval 405	20
2026-1	eval 566	20
2026-2	eval 591	20
cccl	eval 80	20
cublas	eval 81	20
cuda-kernels	eval 114	20
cuda-runtime	eval 29	20
cudnn	eval 113	20
cute-dsl	eval 15	20
cutile	eval 48	20
cutlass	eval 10	20
mathlibs	eval 101	20

列（構成 default・分割 eval。構成ごとに列が違う）

列	型	先頭の行の値
type	string	cuda_cpp
schema_version	int64	2
task_id	string	CUDA/146
date	timestamp[s]	2025-10-31T00:00:00
prompt	string	Develop a CUDA program using the Thrust API to s…
metadata	struct{difficulty: string, tags: list<string>, releases: list<string>, do_not_release: bool}	{difficulty, tags, releases, do_not_release}
group	string	cccl
context_files	list<struct{path: string, content: string}>	[1 件]
test_files	list<struct{path: string, content: string}>	[1 件]
source_references	struct{any: list<string>, all: list<string>}	null
build_command	string	nvcc -I include -o test.out solution.cu test/*.c…
test_command	string	./test.out
benchmark_command	string	./test.out --perf
base_image	string	null
timing_mode	json	{type, include, exclude, time_type}
min_cuda_toolkit	string	12.2
compute_capability	string	null
requires_datacenter_gpu	bool	False
timeout_seconds	float64	120.0
baseline_solution	struct{schema_version: int64, type: string, task_id: string, files: list<struct{…}>}	{schema_version, type, task_id, files}

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

nvidia/compute-eval をリビジョン 60301f090273ee64967105ebb2eb5bad0aed3595 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

• 元のデータセット: https://huggingface.co/datasets/nvidia/compute-eval
• 複製したリビジョン: 60301f090273ee64967105ebb2eb5bad0aed3595（2026-09-14 20:39:09+00:00）
• 元のライセンス表記: other

論文

• 元のカードに論文へのリンクは見つからなかった

アノテーションの方法

（元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した）

ComputeEval は、LLM が生成した CUDA コードを正しさと性能の両面で評価するベンチマークである。各問題は自己完結したプログラミングの課題を 1 つ提示する。課題は、カーネル、ランタイム API、メモリ管理、並列アルゴリズム、GPU ライブラリ、テンプレートと DSL によるカーネルの記述にわたる。機能の検証用に非公開のテストハーネスを持ち、任意で、GPU の実行時間を基準と比べて測る性能のベンチマークも持つ。

データの収集方法

• ハイブリッド: 手作業による収集、合成 — 問題は NVIDIA のエンジニアが作成し、一部は最先端の言語モデル（OpenAI、Anthropic）の支援で生成または修正した。すべての問題は人間のエンジニアが確認し、検証した。

ラベル付けの方法

• ハイブリッド: 手作業によるラベル付け、合成 — テストハーネス、ビルドとテストのコマンド、領域のグループの割り当ては NVIDIA のエンジニアが作成した。難易度の評価とタグは、最先端の言語モデルの支援で補った。すべてのラベルは人間のエンジニアが確認し、検証した。

1. 作業用の一時ワークスペースを作る（問題が base_image を宣言していれば、そのコンテナ内で）
2. context_files をワークスペースに書き出す
3. モデルが生成した解のファイルをワークスペースに書き出す
4. test_files をワークスペースに書き出す（この時点で見えるようになる）
5. build_command を実行してコンパイルする（ある場合）
6. コンパイルが成功した場合（またはビルドの手順が不要な場合）、test_command を実行する
7. テストの終了コードで合否を決める（終了コード 0 が合格）
8. Compute Sanitizer のゲートが有効な場合、選んだサニタイザーの各ツールのもとでテストを再実行する（サニタイザーのゲート を参照）
9. テストが合格し、benchmark_command が宣言されていれば、設定された timing_mode とプロファイラで性能を測る

微調整に使うときの注意

• 調査メモの台帳での区分: D（記載なし・other・unknown・資料間の食い違い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
• Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
• 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
nvidia_nemotron.md	付録. 取得した nvidia 組織のデータセット全件の簡易一覧 (L390)	other	確認済	確認印なし(各ファイルの凡例により確認済扱い) ／ 原文注記: × 数学・コード・科学・計測

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

---

ComputeEval のデータセットカード

ComputeEval は、LLM が生成した CUDA コードを正しさと性能の両面で評価するベンチマークである。各問題は自己完結したプログラミングの課題を 1 つ提示する。課題は、カーネル、ランタイム API、メモリ管理、並列アルゴリズム、GPU ライブラリ、テンプレートと DSL によるカーネルの記述にわたる。機能の検証用に非公開のテストハーネスを持ち、任意で、GPU の実行時間を基準と比べて測る性能のベンチマークも持つ。

ホームページ: github.com/NVIDIA/compute-eval データセット: huggingface.co/datasets/nvidia/compute-eval

作ったものや学んだこと、今後の方向性についての定期的な技術解説は、エンジニアリング日記 を参照。

---

データセットの概要

データセットの所有者	NVIDIA Corporation
作成日	2025-04-02
ライセンス	NVIDIA Evaluation Dataset License Agreement（データ）。Apache 2.0（評価ハーネスのコード）。
想定される用途	CUDA コード生成の能力を評価する研究者と開発者。用途は、GPU プログラミングの課題で LLM の正しさと性能をベンチマークすること、CUDA の領域をまたいでモデルを比較すること、システムプログラミングのための LLM の学習で改善すべき点を見つけることを含む。

このデータセットは、商用利用にも非商用利用にも使える。

---

データセットの特徴

データの収集方法

• ハイブリッド: 手作業による収集、合成 — 問題は NVIDIA のエンジニアが作成し、一部は最先端の言語モデル（OpenAI、Anthropic）の支援で生成または修正した。すべての問題は人間のエンジニアが確認し、検証した。

ラベル付けの方法

• ハイブリッド: 手作業によるラベル付け、合成 — テストハーネス、ビルドとテストのコマンド、領域のグループの割り当ては NVIDIA のエンジニアが作成した。難易度の評価とタグは、最先端の言語モデルの支援で補った。すべてのラベルは人間のエンジニアが確認し、検証した。

---

データセットの規模

• レコード数: バージョン付きの 5 つのデータパックにまたがる 591 問（2025.1: 127、2025.2: 231、2025.3: 405、2026.1: 566、2026.2: 591）
• フィールド数: 問題ごとに 20 フィールド（task_id, type, prompt, group, metadata, context_files, test_files, source_references, build_command, test_command, benchmark_command, base_image, timing_mode, baseline_solution, min_cuda_toolkit, compute_capability, requires_datacenter_gpu, timeout_seconds, date, schema_version）
• データの合計サイズ: すべてのデータパックで圧縮後およそ 4.1 MB（問題と基準の解を含む）

---

問題のグループ

問題は領域ごとにグループに分けてある。各問題はちょうど 1 つのグループに属し、そのグループが、問題の試す CUDA API とプログラミングの概念を決める。

CUDA C++

Group	Description
cuda-runtime	カーネル起動、メモリ管理、ストリーム、イベント、CUDA Graphs、クラスタ起動、オキュパンシー
cuda-kernels	共有メモリ、warp の組み込み関数、リダクション、スキャン、ステンシル、テンソルコア、協調グループ
cccl	Thrust、CUB、libcu++
cublas	BLAS のレベル 1〜3、拡張、応用
mathlibs	cuSPARSE、cuSOLVER、cuFFT、cuRAND
cudnn	cuDNN Graph API による畳み込み、アテンション、行列積、正規化
cutlass	CUTLASS のテンプレート、collective、スケジューラ、エピローグ、統合のパターン

CUDA Python

Group	Description
cutile	タイルベースのカーネル: 行列積、アテンション、正規化、要素ごとの演算（SM 10.0 以上）
cute-dsl	CuTe DSL のレイアウト、テンソル、コピーと MMA の atom、パイプライン、カスタムカーネル

cutlass と cute-dsl の問題は、固定された環境で評価する。CUDA Toolkit 13.1 と CUTLASS 4.6.1（C++）、nvidia-cutlass-dsl 4.6.1（Python）である。問題は base_image でこれを宣言している。

領域の網羅の対応表とバックログは DOMAIN_MAP.md を参照。

---

データの形式

モダリティ: テキスト（構造化された JSONL）

問題はデータパックとして配布する。データパックは、圧縮された tarball（.tar.gz）として保存されるバージョン付きのリリースである。各データパックには次が入る。

• metadata.json - リリースのバージョン、作成日時、問題数、整合性のハッシュ
• problems.jsonl - 問題ごとに 1 行の JSON オブジェクト

エンコーディング: UTF-8

---

データのスキーマ

問題の構造

各問題は、次のスキーマを持つ JSON オブジェクトである。

主要なフィールド

Field	Type	Required	Description
task_id	string	✓	一意の ID（例: "CUDA/0"、"CUDA/42"）
type	string	✓	問題の型: "cuda_cpp" または "cuda_python"
group	string	✓	領域のグループ（上の 問題のグループ を参照）
schema_version	integer	✓	データのスキーマのバージョン（現在は 2）
date	string	✓	問題の作成日（ISO 8601 形式: "YYYY-MM-DD"）
prompt	string	✓	プログラミング課題の自然言語による指示
context_files	array	✓	モデル/システムに見えるファイル（ヘッダ、スタブ、補助関数）
test_files	array	✓	評価用の非公開のテストハーネス（モデル/システムには見せない）
build_command	string	—	解をコンパイルするコマンド（例: "nvcc -I include ..."）
test_command	string	✓	テストを実行するコマンド（例: "./test.out"）
benchmark_command	string	—	性能のベンチマークを実行するコマンド（テストとは別）
base_image	string	—	問題を評価するコンテナイメージ。既定の評価イメージを上書きする（例: "compute-eval:13.1.0"）
timing_mode	object	—	性能の時間をどう取り出すか（既定値: {"type": "process"}）。タイミングモード を参照
baseline_solution	object	—	速度向上を比べるための参照解
min_cuda_toolkit	string	—	必要な CUDA Toolkit の最低バージョン（例: "12.0"）
compute_capability	string	—	必要な GPU の compute capability の最低値（既定値: "8.0"）
requires_datacenter_gpu	boolean	—	データセンター向けの GPU を必要とするかどうか（既定値: false）
timeout_seconds	float	—	テストに許す最大の実行時間（秒）
source_references	string、array、object	—	解の中で検証する必須の API 呼び出し。{any: [...], all: [...]} の意味づけに対応する
metadata	object	—	問題のメタデータ: difficulty、tags、releases、do_not_release

ファイルのオブジェクト（context_files と test_files）

context_files と test_files の各ファイルは、次のフィールドを持つオブジェクトである。

Field	Type	Description
path	string	相対ファイルパス（例: "include/kernel.h"）
content	string	ファイルの全内容（UTF-8 でエンコード）

タイミングモード

性能のベンチマークを宣言する問題は、timing_mode で性能の時間の取り方を指定できる。すべてのモードは値をミリ秒で報告する。

Type	Description
process	既定値。アプリケーション全体の壁時計時間。
kernels	GPU カーネルの実行時間の合計。include/exclude のグロブパターンに対応する。
region	NVTX で注釈を付けたコード範囲からの時間。include/exclude のグロブと time_type（"kernel" または "wall_clock"）に対応する。
gpu	GPU の合計時間（カーネルの実行とメモリ転送）。
custom	ベンチマークのプログラムが自分の時間を STDOUT に COMPUTE_EVAL_TIME_MS: <value> の形で出力する。

---

評価の手順

ComputeEval は、生成と評価を厳密に分ける。

モデル/システムが見るもの（生成のとき）

• 問題の prompt（課題と要件を記述）
• context_files（インターフェースの定義と補助関数）
• build_command（コンパイルの指示。ある場合）
• CUDA Toolkit の最低バージョンとアーキテクチャの要件

モデル/システムが見ないもの

• test_files（非公開のテストハーネス）
• 参照解

評価の流れ

1. 作業用の一時ワークスペースを作る（問題が base_image を宣言していれば、そのコンテナ内で）
2. context_files をワークスペースに書き出す
3. モデルが生成した解のファイルをワークスペースに書き出す
4. test_files をワークスペースに書き出す（この時点で見えるようになる）
5. build_command を実行してコンパイルする（ある場合）
6. コンパイルが成功した場合（またはビルドの手順が不要な場合）、test_command を実行する
7. テストの終了コードで合否を決める（終了コード 0 が合格）
8. Compute Sanitizer のゲートが有効な場合、選んだサニタイザーの各ツールのもとでテストを再実行する（サニタイザーのゲート を参照）
9. テストが合格し、benchmark_command が宣言されていれば、設定された timing_mode とプロファイラで性能を測る

これにより、モデルはテストケースに過学習できず、自然言語の説明とインターフェースの契約だけに基づいて問題を解かなければならない。

サニタイザーのゲート

評価では任意で、機能テストに合格した解それぞれを NVIDIA Compute Sanitizer（memcheck、racecheck、synccheck、initcheck）で実行できる。既定では無効で、問題の正しさの結果は変わらない。

このゲートは、問題の test_files に 1 つの制約を課す。サニタイザーの結果を「異常なし」と報告するには、テストが意図した作業量を実際に実行したことを示さなければならない。ComputeEval は、テストに COMPUTE_EVAL_SANITIZER_REPORT と COMPUTE_EVAL_SANITIZER_TOKEN を渡す。テストは、対象のカーネルが起動したことを確かめる小さな JSON のレコードを書き戻す。候補の標準出力は証拠としては決して受け入れない。どちらの変数も、候補が制御する子プロセスには渡さないこと。この副次的な経路を実装していない問題は、誤って「異常なし」と報告せず、invalid のサニタイザー結果を報告する。

ほとんどの問題は生成の課題である。仕様から関数やカーネルを書く。cutlass と cute-dsl のグループでは、修復の課題も導入する。context_files に欠陥がある、または性能の出ない実装が入っており、モデルがそれを直さなければならない。

---

バージョン管理と保守

現在のバージョン: 2026.2

以前のバージョン:

• 2026.1: 566 問への拡張
• 2025.3: 405 問への拡張
• 2025.2: 231 問への拡張
• 2025.1: 最初の 127 問

以前のバージョンとの関係: 拡張。NVIDIA の追加の技術を扱う新しい問題を加え、対象の範囲を広げる。

ComputeEval は、以前のリリースのバージョンをすべて保持し、モデルの進歩を経時的に追跡できるようにしている。利用者はどのリリースのバージョンに対してもベンチマークを実行でき、時間をかけた改善を追跡できる。

重要: 互換性は保つが、ビット単位の不変性までは保証しない。問題のバグ（解けないテストケース、誤った仕様など）を見つけた場合、修正して今後のリリースでデータパックを更新する権利を留保する。

この方針により、利用者は以前のベンチマークのバージョンを使い続けつつ、バグの修正と改善の恩恵も受けられる。

---

問題の例

{
  "task_id": "CUDA/3",
  "type": "cuda_cpp",
  "group": "cuda-runtime",
  "date": "2025-10-31",
  "prompt": "Implement a function called `launch` that launches a kernel function named `kernel` without using triple chevrons. The x, y, z grid and block dimensions will be provided as parameters to the `launch` function.\n\nThe function signature is defined in `include/kernel_launch.h`:\n```cuda\nvoid launch(int gridSizeX, int blockSizeX, int gridSizeY = 1, int blockSizeY = 1,\n            int gridSizeZ = 1, int blockSizeZ = 1);\n```\n\nThe `kernel` function is already defined with the following signature:\n```cuda\n__global__ void kernel(int *output, const int *input);\n```\n\nYour implementation should use the CUDA runtime API to launch the kernel with the specified grid and block dimensions.",
  "context_files": [
    {
      "path": "include/kernel_launch.h",
      "content": "#pragma once\n\nvoid launch(int gridSizeX, int blockSizeX, int gridSizeY = 1, int blockSizeY = 1,\n            int gridSizeZ = 1, int blockSizeZ = 1);\n"
    },
    {
      "path": "src/kernel.cu",
      "content": "#include <cuda_runtime.h>\n\n__global__ void kernel(int *output, const int *input) {\n    int idx = blockIdx.x * blockDim.x + threadIdx.x;\n    output[idx] = input[idx] * 2;\n}\n"
    }
  ],
  "test_files": [
    {
      "path": "test/test_main.cu",
      "content": "#include <cassert>\n#include <cuda_runtime.h>\n#include \"../include/kernel_launch.h\"\n\nint main() {\n    // Test implementation\n    int *d_input, *d_output;\n    cudaMalloc(&d_input, 256 * sizeof(int));\n    cudaMalloc(&d_output, 256 * sizeof(int));\n    \n    launch(4, 64);  // Launch with 4 blocks, 64 threads each\n    \n    cudaFree(d_input);\n    cudaFree(d_output);\n    return 0;\n}\n"
    }
  ],
  "build_command": "nvcc -I include -o test.out solution.cu src/kernel.cu test/*.cu -arch=sm_80",
  "test_command": "./test.out",
  "min_cuda_toolkit": "12.0",
  "timeout_seconds": 30.0,
  "source_references": {"any": null, "all": ["cudaLaunchKernelEx"]}
}

---

倫理上の考慮

NVIDIA は、信頼できる AI は共有された責任であると考えており、幅広い AI の用途での開発を可能にするための方針と実践を確立している。開発者は、このデータセットが該当する業界と用途の要件を満たし、想定外の製品の誤用に対処するよう、社内の開発チームと協力すべきである。品質、リスク、セキュリティの脆弱性、または NVIDIA の AI に関する懸念は、こちら から報告すること。

---

ライセンス

SPDX-FileCopyrightText: Copyright (c) 2025 NVIDIA CORPORATION & AFFILIATES. All rights reserved. SPDX-License-Identifier: LicenseRef-NVIDIA-Evaluation

このデータセットは NVIDIA Evaluation Dataset License Agreement のもとでライセンスされている。このライセンスは、データセットを AI モデルの評価とベンチマークのためだけに 使うことを認める。特に次のとおり。

• 学習の禁止: データセットを AI モデルや機械学習アルゴリズムの学習に使ってはならない（第 3.1 条）。
• 再配布の禁止: データセットを販売、再ライセンス、配布、ホストしてはならない（第 3.2 条）。
• 結果の公表は可: 評価とベンチマークの結果は公表してよい。

完全なライセンス文は ライセンス全文 を参照。

---

引用

ComputeEval を研究で使う場合は、次を引用すること。

@misc{computeeval2025,
  title={ComputeEval: A Benchmark for Evaluating Large Language Models on CUDA Code Generation},
  author={NVIDIA Corporation},
  year={2025},
  url={https://github.com/NVIDIA/compute-eval}
}

原文（英語）

Dataset Card for ComputeEval

ComputeEval is a benchmark for evaluating LLM-generated CUDA code on correctness and performance. Each problem provides a self-contained programming challenge — spanning kernels, runtime APIs, memory management, parallel algorithms, GPU libraries, and template/DSL kernel authoring — with a held-out test harness for functional validation and optional performance benchmarks for measuring GPU execution time against a baseline.

Homepage: github.com/NVIDIA/compute-eval Dataset: huggingface.co/datasets/nvidia/compute-eval

For periodic technical write-ups on what we've built, what we've learned, and where we're headed, see the Engineering Diaries.

---

Dataset Overview

Dataset Owner	NVIDIA Corporation
Dataset Creation Date	2025-04-02
License	NVIDIA Evaluation Dataset License Agreement (data). Apache 2.0 (evaluation harness code).
Intended Usage	Researchers and developers evaluating the CUDA code generation capabilities of large language models. Use cases include benchmarking LLM correctness and performance on GPU programming tasks, comparing models across CUDA domains, and identifying areas for improvement in LLM training for systems programming.

This dataset is ready for commercial or non-commercial uses.

---

Dataset Characterization

Data Collection Method

• Hybrid: Manually-Collected, Synthetic — Problems were authored by NVIDIA engineers and in some cases generated or modified with assistance from frontier language models (OpenAI, Anthropic). All problems were reviewed and validated by human engineers.

Labeling Method

• Hybrid: Manually-Labeled, Synthetic — Test harnesses, build/test commands, and domain group assignments were authored by NVIDIA engineers. Difficulty ratings and tags were augmented with assistance from frontier language models. All labels were reviewed and validated by human engineers.

---

Dataset Quantification

• Record Count: 591 problems across 5 versioned datapacks (2025.1: 127, 2025.2: 231, 2025.3: 405, 2026.1: 566, 2026.2: 591)
• Feature Count: 20 fields per problem (task_id, type, prompt, group, metadata, context_files, test_files, source_references, build_command, test_command, benchmark_command, base_image, timing_mode, baseline_solution, min_cuda_toolkit, compute_capability, requires_datacenter_gpu, timeout_seconds, date, schema_version)
• Total Data Storage: ~4.1 MB compressed across all datapacks (problems + baseline solutions)

---

Problem Groups

Problems are organized into groups by domain. Each problem belongs to exactly one group, which determines the CUDA APIs and programming concepts it tests.

CUDA C++

Group	Description
cuda-runtime	Kernel launch, memory management, streams, events, CUDA Graphs, cluster launch, occupancy
cuda-kernels	Shared memory, warp intrinsics, reductions, scans, stencils, tensor cores, cooperative groups
cccl	Thrust, CUB, libcu++
cublas	BLAS levels 1-3, extensions, applications
mathlibs	cuSPARSE, cuSOLVER, cuFFT, cuRAND
cudnn	Convolutions, attention, matmul, normalization via cuDNN Graph API
cutlass	CUTLASS templates, collectives, schedulers, epilogues, and integration patterns

CUDA Python

Group	Description
cutile	Tile-based kernels: matmul, attention, normalization, element-wise ops (SM 10.0+)
cute-dsl	CuTe DSL layouts, tensors, copy/MMA atoms, pipelines, and custom kernels

The cutlass and cute-dsl problems are evaluated against a pinned stack — CUDA Toolkit 13.1 with CUTLASS 4.6.1 (C++) and nvidia-cutlass-dsl 4.6.1 (Python) — and declare it via base_image.

For a full coverage map and domain backlog, see DOMAIN_MAP.md.

---

Dataset Format

Modality: Text (structured JSONL)

Problems are distributed as datapacks - versioned releases stored as compressed tarballs (.tar.gz). Each datapack contains:

• metadata.json - Release version, creation timestamp, problem count, and integrity hashes
• problems.jsonl - One JSON object per line representing each problem

Encoding: UTF-8

---

Data Schema

Problem Structure

Each problem is a JSON object with the following schema:

Core Fields

Field	Type	Required	Description
task_id	string	✓	Unique identifier (e.g., "CUDA/0", "CUDA/42")
type	string	✓	Problem type: "cuda_cpp" or "cuda_python"
group	string	✓	Domain group (see Problem Groups above)
schema_version	integer	✓	Data schema version (currently 2)
date	string	✓	Problem creation date (ISO 8601 format: "YYYY-MM-DD")
prompt	string	✓	Natural language instruction for the programming task
context_files	array	✓	Files visible to the model/system (headers, stubs, helpers)
test_files	array	✓	Held-out test harness for evaluation (not shown to model/system)
build_command	string	—	Command to compile the solution (e.g., "nvcc -I include ...")
test_command	string	✓	Command to execute tests (e.g., "./test.out")
benchmark_command	string	—	Command to run performance benchmark (separate from tests)
base_image	string	—	Container image to evaluate this problem in, overriding the default evaluation image (e.g. "compute-eval:13.1.0")
timing_mode	object	—	How to extract performance timing (default: {"type": "process"}). See Timing Modes
baseline_solution	object	—	Reference solution for speedup comparison
min_cuda_toolkit	string	—	Minimum CUDA Toolkit version required (e.g., "12.0")
compute_capability	string	—	Minimum GPU compute capability required (default: "8.0")
requires_datacenter_gpu	boolean	—	Whether the problem requires a datacenter-class GPU (default: false)
timeout_seconds	float	—	Maximum execution time allowed for tests (in seconds)
source_references	string, array, or object	—	Required API calls to verify in solution. Supports {any: [...], all: [...]} semantics
metadata	object	—	Problem metadata: difficulty, tags, releases, do_not_release

File Objects (context_files & test_files)

Each file in context_files and test_files is an object with:

Field	Type	Description
path	string	Relative file path (e.g., "include/kernel.h")
content	string	Complete file contents (UTF-8 encoded)

Timing Modes

Problems that declare a benchmark_command can specify a timing_mode to control how performance timing is extracted. All modes report values in milliseconds.

Type	Description
process	Default. Total application wall-clock time.
kernels	Sum of GPU kernel execution time. Supports include/exclude glob patterns.
region	Timing from NVTX-annotated code ranges. Supports include/exclude globs and time_type ("kernel" or "wall_clock").
gpu	Total GPU time: kernel execution + memory transfers.
custom	The benchmark program prints its own timing to STDOUT as COMPUTE_EVAL_TIME_MS: <value>.

---

Evaluation Protocol

ComputeEval follows a strict separation between generation and evaluation:

What Models/Systems See (Generation Time)

• Problem prompt - describes the task and requirements
• context_files - interface definitions and helper utilities
• build_command - compilation instructions (if provided)
• Minimum CUDA toolkit version and architecture requirements

What Models/Systems Do NOT See

• test_files - held-out test harness
• Reference solutions

Evaluation Process

1. Create temporary workspace (in the problem's base_image container, if one is declared)
2. Write context_files to workspace
3. Write model-generated solution files to workspace
4. Write test_files to workspace (now visible)
5. Execute build_command to compile (if provided)
6. If compilation succeeds (or no build step required), execute test_command
7. Test exit code determines pass/fail (exit code 0 = pass)
8. If a Compute Sanitizer gate is enabled, re-run the test under each selected sanitizer tool (see Sanitizer Gate)
9. If tests pass and benchmark_command is declared, run performance measurement using the configured timing_mode and profiler

This ensures models cannot overfit to test cases and must solve problems based solely on the natural language description and interface contracts.

Sanitizer Gate

Evaluation can optionally run each solution under NVIDIA Compute Sanitizer (memcheck, racecheck, synccheck, initcheck) after it passes its functional test. This is off by default and does not change a problem's correctness result.

The gate imposes one contract on a problem's test_files: to report a clean sanitizer result, the held-out test must prove it actually exercised the intended workload. ComputeEval supplies COMPUTE_EVAL_SANITIZER_REPORT and COMPUTE_EVAL_SANITIZER_TOKEN to the test, which writes back a small JSON record confirming the target launched. Candidate stdout is never accepted as proof, and neither variable should be passed to candidate-controlled child processes. Problems that do not implement this side channel report an invalid sanitizer result rather than a false clean one.

Most problems are generation tasks — write a function or kernel from a specification. The cutlass and cute-dsl groups also introduce repair tasks, where context_files contain a defective or under-performing implementation that the model must fix.

---

Versioning and Maintenance

Current version: 2026.2

Previous versions:

• 2026.1: Extension to 566 problems
• 2025.3: Extension to 405 problems
• 2025.2: Extension to 231 problems
• 2025.1: Initial set of 127 problems

Relationship to previous versions: Extension - Adds new problems for coverage of additional NVIDIA technologies.

ComputeEval maintains all previous release versions to enable longitudinal tracking of model progress. Users can benchmark against any release version to track improvements over time.

Important: We are committed to maintaining backward compatibility, but not bit-for-bit immutability. If we discover bugs in problems (e.g., unsolvable test cases, incorrect specifications), we reserve the right to fix them and update the corresponding datapacks in future releases.

This approach ensures users can continue using previous benchmark versions while benefiting from bug fixes and improvements.

---

Example Problem

{
  "task_id": "CUDA/3",
  "type": "cuda_cpp",
  "group": "cuda-runtime",
  "date": "2025-10-31",
  "prompt": "Implement a function called `launch` that launches a kernel function named `kernel` without using triple chevrons. The x, y, z grid and block dimensions will be provided as parameters to the `launch` function.\n\nThe function signature is defined in `include/kernel_launch.h`:\n```cuda\nvoid launch(int gridSizeX, int blockSizeX, int gridSizeY = 1, int blockSizeY = 1,\n            int gridSizeZ = 1, int blockSizeZ = 1);\n```\n\nThe `kernel` function is already defined with the following signature:\n```cuda\n__global__ void kernel(int *output, const int *input);\n```\n\nYour implementation should use the CUDA runtime API to launch the kernel with the specified grid and block dimensions.",
  "context_files": [
    {
      "path": "include/kernel_launch.h",
      "content": "#pragma once\n\nvoid launch(int gridSizeX, int blockSizeX, int gridSizeY = 1, int blockSizeY = 1,\n            int gridSizeZ = 1, int blockSizeZ = 1);\n"
    },
    {
      "path": "src/kernel.cu",
      "content": "#include <cuda_runtime.h>\n\n__global__ void kernel(int *output, const int *input) {\n    int idx = blockIdx.x * blockDim.x + threadIdx.x;\n    output[idx] = input[idx] * 2;\n}\n"
    }
  ],
  "test_files": [
    {
      "path": "test/test_main.cu",
      "content": "#include <cassert>\n#include <cuda_runtime.h>\n#include \"../include/kernel_launch.h\"\n\nint main() {\n    // Test implementation\n    int *d_input, *d_output;\n    cudaMalloc(&d_input, 256 * sizeof(int));\n    cudaMalloc(&d_output, 256 * sizeof(int));\n    \n    launch(4, 64);  // Launch with 4 blocks, 64 threads each\n    \n    cudaFree(d_input);\n    cudaFree(d_output);\n    return 0;\n}\n"
    }
  ],
  "build_command": "nvcc -I include -o test.out solution.cu src/kernel.cu test/*.cu -arch=sm_80",
  "test_command": "./test.out",
  "min_cuda_toolkit": "12.0",
  "timeout_seconds": 30.0,
  "source_references": {"any": null, "all": ["cudaLaunchKernelEx"]}
}

---

Ethical Considerations

NVIDIA believes Trustworthy AI is a shared responsibility and we have established policies and practices to enable development for a wide array of AI applications. Developers should work with their internal developer teams to ensure this dataset meets requirements for the relevant industry and use case and addresses unforeseen product misuse. Please report quality, risk, security vulnerabilities or NVIDIA AI Concerns here.

---

License

SPDX-FileCopyrightText: Copyright (c) 2025 NVIDIA CORPORATION & AFFILIATES. All rights reserved. SPDX-License-Identifier: LicenseRef-NVIDIA-Evaluation

This dataset is licensed under the NVIDIA Evaluation Dataset License Agreement. The license permits use of the dataset solely for evaluation and benchmarking of AI models. In particular:

• No training: The dataset may not be used for training AI models or machine learning algorithms (Section 3.1).
• No redistribution: The dataset may not be sold, sublicensed, distributed, or hosted (Section 3.2).
• Results may be published: You may publish or otherwise disclose evaluation and benchmarking results.

See the full license text for details.

---

Citation

If you use ComputeEval in your research, please cite:

@misc{computeeval2025,
  title={ComputeEval: A Benchmark for Evaluating Large Language Models on CUDA Code Generation},
  author={NVIDIA Corporation},
  year={2025},
  url={https://github.com/NVIDIA/compute-eval}
}