| --- |
| license: mit |
| pretty_name: LulaCola/AgentProcessBench (mirror) |
| source_datasets: |
| - LulaCola/AgentProcessBench |
| tags: |
| - laya |
| - laya-finetune |
| - mirror |
| - domain-general |
| - use-conditional |
| - genre-dialogue |
| - label-multiclass |
| - annot-unknown |
| task_categories: |
| - question-answering |
| - text-generation |
| task_ids: |
| - extractive-qa |
| - open-domain-qa |
| - task-planning |
| configs: |
| - config_name: bfcl |
| data_files: |
| - split: test |
| path: bfcl/test.jsonl |
| - config_name: gaia_dev |
| data_files: |
| - split: test |
| path: gaia_dev/test.jsonl |
| - config_name: hotpotqa |
| data_files: |
| - split: test |
| path: hotpotqa/test.jsonl |
| - config_name: tau2 |
| data_files: |
| - split: test |
| path: tau2/test.jsonl |
| --- |
| |
| # LulaCola/AgentProcessBench（複製） |
|
|
| ## データの内容 |
|
|
| ツールを使うエージェントの、プロセスレベル（ステップごと）の評価のための、エージェントの軌跡のデータ。1 件が 1 つの完全な軌跡で、`messages`・`tools`・`question` に会話と定義が、`step_labels` にステップごとのラベル、`final_label` に軌跡全体のラベルが入る。bfcl・gaia_dev・hotpotqa・tau2 の 4 つの構成に各 250 件ずつあり、ラベルの三値の意味はカードに書かれていない。論文は arXiv:2603.14465。 |
| |
| ## データの概要 |
| |
| | 項目 | 値 | |
| |---|---| |
| | 行数 | 1,000（4 構成・4 分割の合計） | |
| | 列数 | 12〜13（構成による） | |
| | 容量 | 40.11 MB（ファイル 6 本） | |
| | ファイルの形式 | jsonl 4 | |
| | 公開 | public | |
| |
| ### 構成と分割 |
| |
| | 構成（config） | 分割（split）ごとの行数 | 列数 | |
| |---|---|---:| |
| | `bfcl` | `test` 250 | 13 | |
| | `gaia_dev` | `test` 250 | 12 | |
| | `hotpotqa` | `test` 250 | 12 | |
| | `tau2` | `test` 250 | 13 | |
|
|
| ### 列（構成 `bfcl`・分割 `test`。構成ごとに列が違う） |
|
|
| | 列 | 型 | 先頭の行の値 | |
| |---|---|---| |
| | `total_index` | `int64` | `500` | |
| | `query_index` | `int64` | `0` | |
| | `sample_index` | `int64` | `0` | |
| | `question` | `string` | `Hey, can you set up a new directory named 'Proje…` | |
| | `data_source` | `string` | `bfcl_multi_turn_base` | |
| | `ground_truth` | `list<list<string>>` | `[5 件]` | |
| | `answer_text` | `string` | `Great! The 'Projects' directory has been success…` | |
| | `messages` | `list<json>` | `[55 件]` | |
| | `tool_metrics` | `json` | `{pwd, mkdir, ls, cd, …}` | |
| | `tools` | `list<struct{name: string, description: string, parameters: struct{…}, response: struct{…}}>` | `[18 件]` | |
| | `step_labels` | `json` | `{3, 5, 7, 9, …}` | |
| | `final_label` | `int64` | `-1` | |
| | `task_description` | `null` | `null` | |
|
|
| 行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。 |
|
|
| ## 複製について |
|
|
| [`LulaCola/AgentProcessBench`](https://huggingface.co/datasets/LulaCola/AgentProcessBench) をリビジョン `cd81f326aece8b0a3f6359e20df370690d3a98bf` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（`convaiinnovations/laya`）の微調整に使う候補として、調査メモ（`Laya 学習用データセット調査`）に載せたデータを集めている。 |
|
|
| ## 出典 |
|
|
| - 元のデータセット: https://huggingface.co/datasets/LulaCola/AgentProcessBench |
| - 複製したリビジョン: `cd81f326aece8b0a3f6359e20df370690d3a98bf`（2026-03-18 01:40:42+00:00） |
| - 元のライセンス表記: `mit` |
|
|
| ## 論文 |
|
|
| - https://arxiv.org/abs/2603.14465 |
|
|
| ## アノテーションの方法 |
|
|
| 元のカードにアノテーションの節が無かった。下の「調査メモの記述」と「元のカード」を参照。 |
|
|
| ## 微調整に使うときの注意 |
|
|
| - 調査メモの台帳での区分: B（継承条件・gated・モデル由来の条件・上流の規約などが付く）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。 |
| - Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。 |
| - 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。 |
|
|
| ## 調査メモの記述 |
|
|
| | メモ | 節 | ライセンス（記載） | 確認 | 注記 | |
| |---|---|---|---|---| |
| | `agent_trajectories_thought_logs.md` | Q3. エージェントの失敗の種類・責任ステップ・ステップ単位の評価が付いたデータは何があるか (L90) | mit | 確認済 | 生成元モデルの出力規約が別に及ぶ(Q4) ／ 原文注記: 1,000 件と小さいが、ステップ単位なので学習事例は 8,509 件。どのモデルが軌跡を生成したかは abs ページで確認できず。三値の意味は未確認 | |
|
|
| ## 元のカード（日本語訳） |
|
|
| 以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。 |
|
|
| --- |
|
|
| # AgentProcessBench |
|
|
| AgentProcessBench は、ツールを使うエージェントのプロセスレベルの評価のためのベンチマークである。各例は、複数ターンのメッセージ、ツールの定義、ツール使用の軌跡、参照出力、ステップごとのプロセスラベルを含む、エージェントの完全な軌跡である。 |
|
|
| ベンチマークには合計 1,000 件の軌跡が含まれ、各サブセットから 250 件ずつ含まれる。 |
|
|
| - `bfcl` |
| - `gaia_dev` |
| - `hotpotqa` |
| - `tau2` |
| |
| arxiv.org/abs/2603.14465 |
|
|
| <details> |
| <summary>原文（英語）</summary> |
|
|
| # AgentProcessBench |
|
|
| AgentProcessBench is a benchmark for process-level evaluation of tool-using agents. Each example is a full agent trajectory with multi-turn messages, tool definitions, tool-use traces, reference outputs, and step-wise process labels. |
|
|
| The benchmark contains 1,000 trajectories in total, with 250 examples from each subset: |
|
|
| - `bfcl` |
| - `gaia_dev` |
| - `hotpotqa` |
| - `tau2` |
| |
| arxiv.org/abs/2603.14465 |
|
|
| </details> |
|
|
