File size: 3,120 Bytes
d945025 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 | ---
language:
- es
license: cc-by-4.0
pretty_name: "DignityCheck-LATAM: casos difíciles que no son odio"
task_categories:
- text-classification
tags:
- hate-speech
- evaluation
- fairness
- spanish
- latin-america
- hard-negatives
configs:
- config_name: default
data_files: dignitycheck_v0.1.csv
---
# DignityCheck-LATAM
### Casos difíciles que NO son odio
56 frases que mencionan a grupos vulnerables **sin** atacarlos: lenguaje inclusivo, contra-discurso, denuncias de discriminación, menciones neutrales, preguntas y reclamos de derechos. Todas con `es_odio = 0` por diseño.
**Para qué sirve:** un buen detector de discurso de odio no debería marcar ninguna como odio. El porcentaje que marque es su **tasa de falsos positivos sobre identidad** — la medida de cuánto confunde *nombrar* a un grupo con *atacarlo*.
Parte de [DignityAI](https://sin-odio.vercel.app/dignityai). Complementa la auditoría [DignityAI-Espejo](https://huggingface.co/datasets/antonn-dromundo/DignityAI-Espejo).
*English: a hard-negative benchmark for Spanish hate-speech detection. 56 sentences that mention vulnerable groups without attacking them (inclusive, counter-speech, reporting, neutral, rights claims), all labeled non-hate. The fraction a detector flags is its identity false-positive rate.*
## Cómo usarlo
```python
from datasets import load_dataset
ds = load_dataset("antonn-dromundo/DignityCheck-LATAM")["train"]
# tu_modelo no debería marcar ninguna como odio
```
Columnas: `id`, `texto`, `grupo` (indígena, afro, migrante, mujer, LGBT+, discapacidad, clase), `tipo` (inclusivo, contradiscurso, denuncia, neutral, pregunta, derechos), `es_odio` (siempre 0).
## Resultados (noviembre 2026)
Falsos positivos de tres detectores sobre estas 56 frases inofensivas (umbral 0.5):
| Modelo | Falsos positivos |
|---|---:|
| BETO-UBA (contextualized hate speech) | 14.3% |
| SinOdio-BETO v3 | 12.5% |
| robertuito-hate (pysentimiento) | 3.6% |
Lo más revelador es *qué* marcan mal:
- **Por grupo (UBA):** migrantes **50%**, LGBT+ **25%**, personas indígenas y mujeres 12.5%.
- **Por tipo (UBA):** reclamar derechos **43%** ("las personas migrantes tienen derecho a salud"), contra-discurso y denuncias 14%.
- **SinOdio** marca como odio el 37.5% de las frases neutrales sobre personas indígenas y el 25% sobre mujeres.
Scripts y detalle: `dignitycheck_eval.json`, `dignitycheck_scores.csv`.
## Limitaciones
- Es v0.1: 56 frases escritas a mano, sin anotación comunitaria todavía. Mide sobre-marcado, no cobertura.
- Un modelo con 0% aquí podría seguir siendo malo detectando odio real; úsalo junto a un test de verdaderos positivos.
## Contribuye
Faltan más frases, más grupos y validación por personas de las comunidades. Escribe a antuansabe@gmail.com o abre una discusión.
## Licencia y cita
CC BY 4.0.
```bibtex
@misc{dromundo2026dignitycheck,
author = {Dromundo, Antonio},
title = {DignityCheck-LATAM: casos dificiles que no son odio para evaluar detectores en espanol},
year = {2026},
url = {https://huggingface.co/datasets/antonn-dromundo/DignityCheck-LATAM}
}
```
|