license: mit
pretty_name: LulaCola/AgentProcessBench (mirror)
source_datasets:
- LulaCola/AgentProcessBench
tags:
- laya
- laya-finetune
- mirror
- domain-general
- use-conditional
- genre-dialogue
- label-multiclass
- annot-unknown
task_categories:
- question-answering
- text-generation
task_ids:
- extractive-qa
- open-domain-qa
- task-planning
configs:
- config_name: bfcl
data_files:
- split: test
path: bfcl/test.jsonl
- config_name: gaia_dev
data_files:
- split: test
path: gaia_dev/test.jsonl
- config_name: hotpotqa
data_files:
- split: test
path: hotpotqa/test.jsonl
- config_name: tau2
data_files:
- split: test
path: tau2/test.jsonl
LulaCola/AgentProcessBench（複製）
データの内容
ツールを使うエージェントの、プロセスレベル（ステップごと）の評価のための、エージェントの軌跡のデータ。1 件が 1 つの完全な軌跡で、messages・tools・question に会話と定義が、step_labels にステップごとのラベル、final_label に軌跡全体のラベルが入る。bfcl・gaia_dev・hotpotqa・tau2 の 4 つの構成に各 250 件ずつあり、ラベルの三値の意味はカードに書かれていない。論文は arXiv:2603.14465。
データの概要
| 項目 | 値 |
|---|---|
| 行数 | 1,000（4 構成・4 分割の合計） |
| 列数 | 12〜13（構成による） |
| 容量 | 40.11 MB（ファイル 6 本） |
| ファイルの形式 | jsonl 4 |
| 公開 | public |
構成と分割
| 構成（config） | 分割（split）ごとの行数 | 列数 |
|---|---|---|
bfcl |
test 250 |
13 |
gaia_dev |
test 250 |
12 |
hotpotqa |
test 250 |
12 |
tau2 |
test 250 |
13 |
列（構成 bfcl・分割 test。構成ごとに列が違う）
| 列 | 型 | 先頭の行の値 |
|---|---|---|
total_index |
int64 |
500 |
query_index |
int64 |
0 |
sample_index |
int64 |
0 |
question |
string |
Hey, can you set up a new directory named 'Proje… |
data_source |
string |
bfcl_multi_turn_base |
ground_truth |
list<list<string>> |
[5 件] |
answer_text |
string |
Great! The 'Projects' directory has been success… |
messages |
list<json> |
[55 件] |
tool_metrics |
json |
{pwd, mkdir, ls, cd, …} |
tools |
list<struct{name: string, description: string, parameters: struct{…}, response: struct{…}}> |
[18 件] |
step_labels |
json |
{3, 5, 7, 9, …} |
final_label |
int64 |
-1 |
task_description |
null |
null |
行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。
複製について
LulaCola/AgentProcessBench をリビジョン cd81f326aece8b0a3f6359e20df370690d3a98bf の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。
出典
- 元のデータセット: https://huggingface.co/datasets/LulaCola/AgentProcessBench
- 複製したリビジョン:
cd81f326aece8b0a3f6359e20df370690d3a98bf（2026-03-18 01:40:42+00:00） - 元のライセンス表記:
mit
論文
アノテーションの方法
元のカードにアノテーションの節が無かった。下の「調査メモの記述」と「元のカード」を参照。
微調整に使うときの注意
- 調査メモの台帳での区分: B（継承条件・gated・モデル由来の条件・上流の規約などが付く）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
調査メモの記述
| メモ | 節 | ライセンス（記載） | 確認 | 注記 |
|---|---|---|---|---|
agent_trajectories_thought_logs.md |
Q3. エージェントの失敗の種類・責任ステップ・ステップ単位の評価が付いたデータは何があるか (L90) | mit | 確認済 | 生成元モデルの出力規約が別に及ぶ(Q4) ／ 原文注記: 1,000 件と小さいが、ステップ単位なので学習事例は 8,509 件。どのモデルが軌跡を生成したかは abs ページで確認できず。三値の意味は未確認 |
元のカード（日本語訳）
以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。
AgentProcessBench
AgentProcessBench は、ツールを使うエージェントのプロセスレベルの評価のためのベンチマークである。各例は、複数ターンのメッセージ、ツールの定義、ツール使用の軌跡、参照出力、ステップごとのプロセスラベルを含む、エージェントの完全な軌跡である。
ベンチマークには合計 1,000 件の軌跡が含まれ、各サブセットから 250 件ずつ含まれる。
bfclgaia_devhotpotqatau2
arxiv.org/abs/2603.14465
原文（英語）
AgentProcessBench
AgentProcessBench is a benchmark for process-level evaluation of tool-using agents. Each example is a full agent trajectory with multi-turn messages, tool definitions, tool-use traces, reference outputs, and step-wise process labels.
The benchmark contains 1,000 trajectories in total, with 250 examples from each subset:
bfclgaia_devhotpotqatau2
arxiv.org/abs/2603.14465