---
language:
- es
license: cc-by-4.0
pretty_name: "DignityCheck-LATAM: casos difíciles que no son odio"
task_categories:
- text-classification
tags:
- hate-speech
- evaluation
- fairness
- spanish
- latin-america
- hard-negatives
configs:
- config_name: default
  data_files: dignitycheck_v0.1.csv
---

# DignityCheck-LATAM

### Casos difíciles que NO son odio

56 frases que mencionan a grupos vulnerables **sin** atacarlos: lenguaje inclusivo, contra-discurso, denuncias de discriminación, menciones neutrales, preguntas y reclamos de derechos. Todas con `es_odio = 0` por diseño.

**Para qué sirve:** un buen detector de discurso de odio no debería marcar ninguna como odio. El porcentaje que marque es su **tasa de falsos positivos sobre identidad** — la medida de cuánto confunde *nombrar* a un grupo con *atacarlo*.

Parte de [DignityAI](https://sin-odio.vercel.app/dignityai). Complementa la auditoría [DignityAI-Espejo](https://huggingface.co/datasets/antonn-dromundo/DignityAI-Espejo).

*English: a hard-negative benchmark for Spanish hate-speech detection. 56 sentences that mention vulnerable groups without attacking them (inclusive, counter-speech, reporting, neutral, rights claims), all labeled non-hate. The fraction a detector flags is its identity false-positive rate.*

## Cómo usarlo

```python
from datasets import load_dataset
ds = load_dataset("antonn-dromundo/DignityCheck-LATAM")["train"]
# tu_modelo no debería marcar ninguna como odio
```

Columnas: `id`, `texto`, `grupo` (indígena, afro, migrante, mujer, LGBT+, discapacidad, clase), `tipo` (inclusivo, contradiscurso, denuncia, neutral, pregunta, derechos), `es_odio` (siempre 0).

## Resultados (noviembre 2026)

Falsos positivos de tres detectores sobre estas 56 frases inofensivas (umbral 0.5):

| Modelo | Falsos positivos |
|---|---:|
| BETO-UBA (contextualized hate speech) | 14.3% |
| SinOdio-BETO v3 | 12.5% |
| robertuito-hate (pysentimiento) | 3.6% |

Lo más revelador es *qué* marcan mal:

- **Por grupo (UBA):** migrantes **50%**, LGBT+ **25%**, personas indígenas y mujeres 12.5%.
- **Por tipo (UBA):** reclamar derechos **43%** ("las personas migrantes tienen derecho a salud"), contra-discurso y denuncias 14%.
- **SinOdio** marca como odio el 37.5% de las frases neutrales sobre personas indígenas y el 25% sobre mujeres.

Scripts y detalle: `dignitycheck_eval.json`, `dignitycheck_scores.csv`.

## Limitaciones

- Es v0.1: 56 frases escritas a mano, sin anotación comunitaria todavía. Mide sobre-marcado, no cobertura.
- Un modelo con 0% aquí podría seguir siendo malo detectando odio real; úsalo junto a un test de verdaderos positivos.

## Contribuye

Faltan más frases, más grupos y validación por personas de las comunidades. Escribe a antuansabe@gmail.com o abre una discusión.

## Licencia y cita

CC BY 4.0.

```bibtex
@misc{dromundo2026dignitycheck,
  author = {Dromundo, Antonio},
  title  = {DignityCheck-LATAM: casos dificiles que no son odio para evaluar detectores en espanol},
  year   = {2026},
  url    = {https://huggingface.co/datasets/antonn-dromundo/DignityCheck-LATAM}
}
```