README.md

---
pretty_name: IntentBench v1
language:
  - en
license: other
task_categories:
  - text-generation
tags:
  - intent-based-networking
  - network-automation
  - network-diagnosis
  - closed-loop-recovery
  - agentic-ai
---

# IntentBench v1

## 数据集简介

IntentBench v1 是面向意图驱动自愈网络的复合数据集，覆盖从自然语言业务意图到策略配置、状态诊断和闭环恢复的完整链路。数据集用于训练和评测模型的结构化决策、工具编排、证据约束与安全执行能力，而非一般网络问答。

数据集包含 **100,000 条记录**，全部完成构建并按统一规范验收。核心场景覆盖校园网/IP-SDN 与 5G/O-RAN；O-RAN 部分仅用于意图与保障评估。

## 任务与规模

| 子任务 | 独立样例 | 关联记录 | 合计 | 目标输出 |
| --- | ---: | ---: | ---: | --- |
| T1 意图识别与规范化 | 20,000 | 5,000 | 25,000 | `StructuredIntent` |
| T2 策略与配置生成 | 20,000 | 5,000 | 25,000 | `PolicyConfigPlan` |
| T3 状态评估与诊断 | 20,000 | 5,000 | 25,000 | `Diagnosis` |
| T4 闭环自愈 | 20,000 | 5,000 | 25,000 | `RecoveryPlan` |
| **合计** | **80,000** | **20,000** | **100,000** | — |

20,000 条关联记录来自 **5,000 个完整闭环场景**，每个场景按 T1～T4 展开为四条记录。其中包含 3,500 个可执行 IP-SDN 场景和 1,500 个 O-RAN 保障评估场景。

按构建方式统计，32,500 条记录来自公开资产的清洗与标准化，40,500 条通过规则派生、配置编译、窗口切分或受控改写形成，27,000 条的核心状态与执行反馈由仿真生成。

## 数据划分

| 数据形态 | Train | Dev | Test | 合计 |
| --- | ---: | ---: | ---: | ---: |
| 独立样例 | 64,000 | 8,000 | 8,000 | 80,000 |
| 关联记录 | 16,000 | 2,000 | 2,000 | 20,000 |
| 完整场景 | 4,000 | 500 | 500 | 5,000 |

划分以 `global_leakage_group` 为最小单位。同一原始记录、内容哈希、模板父族、拓扑、重叠遥测窗口、流量画像、故障事件及关联轨迹必须进入同一 split，避免跨集合泄漏。

## 数据格式

Canonical Benchmark JSONL 是评测与审计的权威存储，保存任务输入、金标、来源、关联关系、安全约束与 sidecar 引用。数据集另派生四种视图：

- `sft_atomic`：四任务的单阶段 `system/user/assistant` 样例；
- `sft_trajectory`：按 `scenario_id` 关联的四阶段轨迹；
- `rl_prompts`：移除金标与隐藏检查的强化学习输入；
- `evaluation`：测试输入、预测 Schema 与内部评分视图。

共享顶层字段包括 `schema_version`、`task_id`、`subtask`、`split`、`language`、`domain`、`execution_mode`、`scenario_id`、`trajectory_id`、`global_leakage_group`、`nl_intent`、`network_context`、`current_config`、`telemetry`、`allowed_tools`、`risk_level`、`authorized_scope`、`provenance`、`asset_refs`、`hidden_checks` 及对应的 `gold_*` 字段。

关联样例必须具有 `scenario_id` 和 `trajectory_id`；独立样例对应字段为 `null`。必需数组无元素时使用 `[]`，未知状态使用显式 `unknown`，公开测试输入直接移除 `gold_*` 与 `hidden_checks`。

来源追踪信息统一放入 `provenance`：`raw_record_id`、`source_record_sha256`、`template_family`、`semantic_frame` 和 `derived_from`。

大体积拓扑、配置、遥测、流量画像、工具轨迹及执行证据使用内容寻址 sidecar。Canonical `AssetRef` 格式如下：

```json
{
  "asset_id": "sha256:<64-hex>",
  "uri": "sidecar/sha256/ab/<remaining-hash>",
  "sha256": "<64-hex>",
  "media_type": "application/json",
  "byte_size": 18452,
  "role": "telemetry"
}
```

同一内容仅保存一次；引用哈希必须与实际字节一致；公开包只携带获准公开且被记录引用的 sidecar。

## 任务 Schema 与节选示例

以下均为**节选示例，仅展示任务核心字段**。

### T1：意图识别与规范化

输入为自然语言意图、请求者角色、授权范围及可选网络上下文。输出包含 `intent_type`、`entities`、`constraints`、`priority`、`conflict_status`、`capability_status`、`expected_behavior`、`authorization` 和 `evidence_spans`。

```json
{"subtask":"intent_normalization","nl_intent":"Keep exam latency <= 20 ms and block guest access to 203.0.113.0/24.","gold_structured_intent":{"intent_type":"access_control","constraints":[{"name":"latency","operator":"lte","value":20,"unit":"ms"}],"expected_behavior":"proceed"}}
```

### T2：策略与配置生成

输入为结构化意图、拓扑、设备能力、当前配置、授权范围和可用工具。输出包含策略步骤、配置增量、回滚计划、幂等键、验证计划、预期后置条件及拒绝原因。

```json
{"subtask":"policy_config_generation","execution_mode":"executable","allowed_tools":["config_simulation","reachability_check","rollback"],"gold_policy_or_config":{"config_format":"frr","policy_plan":[{"operation":"update","target_type":"acl"}],"expected_postconditions":{"protected_reachability":true}}}
```

### T3：状态评估与诊断

输入为结构化意图、部署结果、拓扑、遥测和当前配置。输出包含 `intent_status`、故障、根因、证据锚点、影响范围、下一步建议及缺失观测。

```json
{"subtask":"state_diagnosis","gold_diagnosis":{"intent_status":"violated","root_causes":[{"cause_type":"congestion","entity_ref":"link:r1-r2","confidence":0.96}],"evidence":[{"field":"latency_ms","value":47.2,"threshold":20,"relation":"gt"}],"recommended_next_step":"recover"}}
```

### T4：闭环自愈

输入为结构化意图、诊断、拓扑、流量画像、配置、遥测、授权范围和可用工具。输出包含恢复决策、动作序列、目标后置条件、安全不变量、验证窗口、恢复状态、成本估计与证据引用。

```json
{"subtask":"closed_loop_recovery","gold_actions":{"acceptable_action_classes":["reroute","rate_limit"],"forbidden_actions":["disable_acl","remove_protected_route"],"target_postconditions":{"latency_ms_lte":20,"protected_reachability":true}}}
```

## 数据来源

| 来源 | 任务与实际数量 | 冻结版本 | 许可证与公开状态 |
| --- | ---: | --- | --- |
| [NIT](https://huggingface.co/datasets/Smarneh/NIT) | T1 11,250（45%） | `084554c` | 未声明；`internal_only` |
| [TMF921 intent-to-config](https://huggingface.co/datasets/nraptisss/TMF921-intent-to-config-research-sota) | T1 8,750；T2 8,750 | `734a972` | Apache-2.0 |
| [BINS](https://github.com/lijie19740136878/BINS) | T1 2,500（10%） | `f20befc` | 未声明；`internal_only` |
| [IW-IB-5GNET](https://github.com/jimenaandrade/iw-ib-5gnet) | T1 2,500（10%） | `dceeaec` | GPL-2.0；公开前审查兼容性 |
| [NetConfEval](https://github.com/RedHatResearch/conext24-NetConfEval) | T2 8,750（35%） | `24edc15` | MIT |
| [Batfish example networks](https://github.com/batfish/batfish) | T2 7,500（30%） | `efbf7f4` | Apache-2.0 |
| [SOFI](https://data.mendeley.com/datasets/tc6ysmh5j8/2) | T3 8,750（35%） | v2；`10.17632/tc6ysmh5j8.2` | CC BY 4.0 |
| [LCORE-D](https://data.mendeley.com/datasets/77sztrg5ks/1) | T3 8,750（35%） | v1；`10.17632/77sztrg5ks.1` | CC BY 4.0 |
| [RAN KPM OAI](https://zenodo.org/records/17935683) | T3 3,750（15%） | v1；`10.5281/zenodo.17935683` | 权利确认前 `internal_only` |
| [ColO-RAN](https://github.com/wineslab/colosseum-oran-coloran-dataset) | T3 3,750（15%） | `bd86629` | GPL-3.0；公开前审查兼容性 |
| [Internet Topology Zoo](https://topology-zoo.org/) | T4 10,000（40%） | `e278b1b` | 再分发许可未确认；`internal_only` |
| [SNDlib](https://sndlib.put.poznan.pl/networks.overview.action) | T4 8,750（35%） | 冻结下载快照 | 未声明；`internal_only` |
| [Rocketfuel](https://research.cs.washington.edu/networking/rocketfuel/) | T4 6,250（25%） | `policy-dist.tar.gz` 冻结快照 | 再分发许可未确认；`internal_only` |
| [Network Digital Twin congestion dataset](https://zenodo.org/records/17255272) | T4 辅助，不单独占配额 | v1；`10.5281/zenodo.17255272` | 权利确认前不进入公开包 |

原始资产经字段映射、格式与单位统一、受控派生、配置编译、故障注入或仿真执行后形成标准记录。许可证明确并兼容的内容进入 `public_cleared` 候选；任何关键资产不可公开时，整个 `global_leakage_group` 不进入公开包。

## 安全负样本

数据集中包含 **20,000 条安全负样本**，已计入10万条总量，四任务各5,000条。风险覆盖：冲突或不安全、需澄清、超范围/OOD、越权工具调用、缺少回滚、破坏可达性、伪造执行结果以及 PRECHECK/POSTCHECK 违规。

安全硬门槛优先于局部性能收益。扩大访问面、破坏受保护可达性、越权调用或缺少必要回滚的方案均判为失败。

## 质量控制

所有记录依次接受 JSON Schema、证据对应、配置解析、可达性、安全约束、轨迹一致性、内容哈希和全局防泄漏检查。配置与闭环场景使用 Batfish、FRR、Kathará 或相应仿真后端验证；缺少工具反馈时不得生成“执行成功”金标。

## 推荐用途

- 使用64,000条训练集独立样例进行四任务 SFT；
- 使用4,000个训练集完整场景（16,000条关联记录）进行GRPO或其他可验证强化学习；
- 使用独立测试集评估单阶段能力，使用关联测试场景评估端到端Agent能力；
- 用于结构化意图、配置生成、证据化诊断、工具编排、安全恢复和网络智能体评测。

## 局限与使用约束

- 部分状态和执行反馈来自仿真，不能完全代表生产网络；
- 数据分布受选定拓扑、设备生态、业务模板和故障类型影响；
- v1以英文为主，跨语言泛化能力需单独验证；
- O-RAN样例仅支持保障评估，不支持真实RAN控制；
- 数据集和模型输出不得用于绕过审批、安全门禁或回滚机制直接修改生产网络；
- `internal_full` 是完整权威版本，`public_cleared` 仅包含许可证允许公开的完整泄漏组。

## 引用

如在研究中使用 IntentBench，请引用数据集发布页及 IntentClaw 项目说明。正式引文信息以发布版本中的 `CITATION.cff` 为准。