README.md

---
license: other
license_name: mixed-upstream-see-card
language:
- en
task_categories:
- text-classification
tags:
- prompt-injection
- jailbreak
- ai-safety
- guardrails
- benchmark
pretty_name: Awall Eval Benchmark
size_categories:
- 1K<n<10K
configs:
- config_name: curated
  data_files:
  - split: test
    path: curated/test.parquet
---

# Awall Eval Benchmark

Painel **held-out** para medir detectores de prompt injection / jailbreak. Disjunto dos datasets de
treino do Awall: **0 texto em comum** com `awall-pi-quartets`, `awall-pi-victim-panel` e
`awall-pi-strategy-views` (verificado por texto normalizado, não só por `id`).

## O que está publicado: config `curated`

**1.000 linhas · 913 ataque / 87 benigno.** Versão **auditada** por juiz LLM — a auditoria
encontrou a metade `unsafe` do `xstest_v2` rotulada como benigna e corrigiu.

| `domain` | linhas | `source` | origem | licença |
|---|---:|---|---|---|
| `PI` | 469 | `rules` | **geração própria** (pipeline rules-rewrite) | — |
| `JB` | 444 | `in_the_wild_jailbreak_prompts` | `TrustAIRLab/in-the-wild-jailbreak-prompts` | MIT |
| `SAFE` | 87 | `xstest_v2` | XSTest (`natolambert/xstest-v2-copy`) | CC-BY-4.0 |

Colunas: `id`, `text`, `source`, `label`, `domain`, `language`, `bucket`. 100% inglês.
Comprimento: mediana 266 chars, p90 3.647, máx 17.336.

O eixo benigno aqui é **gatilho lexical**: frases que *parecem* ataque e não são. É o eixo em que
detectores treinados com contraste lexical vão bem — e não é o único eixo que importa (ver abaixo).

```python
from datasets import load_dataset
ds = load_dataset("quickium/awall-eval-benchmark", "curated", revision="v1.0")["test"]
```

## Como puxar

```bash
pip install datasets
```

```python
from datasets import load_dataset

# `curated` é o único config publicado; o split é `test` (não há treino, de propósito).
ds = load_dataset("quickium/awall-eval-benchmark", "curated", revision="v1.0", split="test")
print(ds)                       # 1000 linhas
print(ds[0]["text"], ds[0]["label"], ds[0]["domain"])
```

### Avaliar um detector

O contrato é: seu detector devolve **uma probabilidade de ataque** por texto. Duas métricas, e as
duas importam — AUC diz se a ordenação está certa, `fp_rate` diz o que acontece com o usuário
legítimo:

```python
import numpy as np
from sklearn.metrics import roc_auc_score, recall_score

textos = ds["text"]
y = np.array(ds["label"])
p = meu_detector(textos)                     # array de floats em [0, 1]

print("AUC        ", round(roc_auc_score(y, p), 4))
pred = (p >= 0.5).astype(int)
print("attack_rec ", round(recall_score(y, pred, pos_label=1), 3))
print("benign_rec ", round(recall_score(y, pred, pos_label=0), 3))
print("fp_rate    ", round(float((pred[y == 0] == 1).mean()), 3))
```

### Ler os números com honestidade

O painel é **desbalanceado por construção**: 913 ataque / 87 benigno. Consequências práticas:

- **Acurácia não significa nada aqui.** Um modelo que diz "ataque" para tudo tira 91,3%.
- **`fp_rate` tem passo grosso.** Com 87 benignos, cada falso-positivo vale 1,15 ponto percentual —
  não leia diferenças menores que isso como sinal.
- **Quebre por `domain`**: `PI` (469) e `JB` (444) são fenômenos diferentes, e um detector pode ir
  bem num e mal no outro.

```python
import pandas as pd
df = ds.to_pandas().assign(score=p)
df.groupby("domain").apply(lambda g: pd.Series({
    "n": len(g),
    "AUC": roc_auc_score(g.label, g.score) if g.label.nunique() > 1 else None,
}))
```

### Um eixo que este painel **não** mede

O benigno aqui é de **gatilho lexical**: frases curtas que parecem ataque e não são. Um detector
pode ir muito bem nisso e desabar em **benigno longo e instrucional**. No nosso caso um detector com
AUC ~0,98 no eixo de gatilho lexical chegou a **0,73 de falso-positivo** no eixo instrucional longo —
o ranking entre modelos chega a se inverter entre os dois. Se o seu número aqui ficou bom,
teste também contra prompts instrucionais longos antes de concluir qualquer coisa (a receita está
na seção anterior).

### Sem a biblioteca `datasets`

```python
import pandas as pd
URL = "https://huggingface.co/datasets/quickium/awall-eval-benchmark/resolve/v1.0/curated/test.parquet"
df = pd.read_parquet(URL)
```

### Armadilhas

- **Não treine aqui, e não selecione modelo aqui.** É um held-out; usá-lo para escolher hiperparâmetro
  transforma o número em estimativa otimista e não há como desfazer.
- **`label` é a verdade, `domain` não.** `domain` agrupa o tipo de fenômeno (`PI`/`JB`/`SAFE`).
- **Este recorte é auditado.** Uma versão anterior tinha a metade `unsafe` do `xstest_v2` marcada
  como benigna. Se você comparar com números antigos de "eval", pode não ser o mesmo dado.

## O que **não** está publicado, e por quê

O benchmark completo do projeto tem três eixos. Os outros dois **não são redistribuídos aqui**,
porque redistribuí-los nos obrigaria a licenciar o agregado sob os termos mais restritivos das
fontes — e porque eles já existem publicamente no Hub, na origem. Abaixo está a receita para
reconstruí-los.

### Eixo 2 — `long-benign` (estresse de falso-positivo)

**9.939 prompts, todos benignos**, do [`HuggingFaceH4/no_robots`](https://huggingface.co/datasets/HuggingFaceH4/no_robots)
— **CC-BY-NC-4.0** (não comercial). Benignos longos e instrucionais. É o eixo em que o ranking do
`curated` **se inverte**: o modelo vencedor no `curated` (AUC 0,979) chega a **0,73 de taxa de
falso-positivo** aqui.

Composição medida do nosso recorte contra o upstream (texto normalizado):

| split do `no_robots` | prompts nossos que casam |
|---|---:|
| `train` (9.499) | 8.699 |
| `test` (500) | 446 |
| sem casamento exato | 794 |

> **Atenção a quem for reproduzir:** apesar do nome interno do arquivo, este recorte **não é o
> split de test** do `no_robots` — ele cobre quase o dataset inteiro. Treinar no split de `train`
> do `no_robots` para "cobrir o eixo benigno-longo" **vaza** neste painel.

### Eixo 3 — `harm-classes` (classes de dano)

**6.802 linhas** de 10 benchmarks públicos, rotuladas por classe de dano `C1`–`C7` / `safe`, não
por binário. Para derivar o binário: tudo que não é `safe` é ataque; as 441 linhas **sem classe**
(de `saladbench` e `ailuminate`) são descartadas, nunca contadas como ataque.

| linhas | fonte | origem | licença |
|---:|---|---|---|
| 3.000 | `alert` | `Babelscape/ALERT` | **CC-BY-NC-SA-4.0** |
| 1.402 | `attaq` | `ibm/AttaQ` | MIT |
| 1.200 | `ailuminate` | `mlcommons/ailuminate` | a confirmar |
| 500 | `saladbench` | `OpenSafetyLab/Salad-Data` | Apache-2.0 |
| 200 | `wildjailbreak` | `allenai/wildjailbreak` | ODC-BY |
| 150 | `coconot` | `allenai/coconot` | sem licença no card |
| 150 | `wildguardmix` | `allenai/wildguardmix` | ODC-BY |
| 100 | `simple_safety_tests` | `Bertievidgen/SimpleSafetyTests` | CC-BY-2.0 |
| 70 | `diasafety` | `thu-coai/diasafety` | Apache-2.0 |
| 30 | `prosocial_dialog` | `allenai/prosocial-dialog` | CC-BY-4.0 |

O `alert` traz **ShareAlike**, que é viral: um agregado que o contenha herda NC + ShareAlike. Essa é
a razão técnica de ele não vir empacotado aqui.

## Avisos obrigatórios

- **`label` é a verdade binária** (`0` benigno, `1` ataque). **Não** use `domain` como rótulo.
- **Não treine neste dataset.** Ele é a métrica autoritativa do projeto; treinar ou selecionar
  modelo nele destrói o número que ele existe para produzir.
- Contém prompts adversariais reais, para **pesquisa defensiva**.

## Licença

`license: other`. O config `curated` mistura geração própria, MIT e CC-BY-4.0 — o piso efetivo é
**CC-BY-4.0** (atribuição). As fontes dos eixos 2 e 3 têm licenças mais restritivas e por isso não
são redistribuídas; vá à origem.

## Versionamento

O nome do repo nunca carrega versão. Cada release é uma **tag imutável** (`v1.0`, `v1.1`, …);
`main` aponta para a mais recente.

| sobe | quando |
|---|---|
| MAJOR | o schema quebra ou um **rótulo** muda — a auditoria que gerou este `curated` foi um MAJOR |
| MINOR | entram linhas novas, schema compatível |
| PATCH | correção de linhas existentes sem mexer no rótulo |