language:
- es
license: cc-by-4.0
pretty_name: 'DignityCheck-LATAM: casos difíciles que no son odio'
task_categories:
- text-classification
tags:
- hate-speech
- evaluation
- fairness
- spanish
- latin-america
- hard-negatives
configs:
- config_name: default
data_files: dignitycheck_v0.1.csv
DignityCheck-LATAM
Casos difíciles que NO son odio
56 frases que mencionan a grupos vulnerables sin atacarlos: lenguaje inclusivo, contra-discurso, denuncias de discriminación, menciones neutrales, preguntas y reclamos de derechos. Todas con es_odio = 0 por diseño.
Para qué sirve: un buen detector de discurso de odio no debería marcar ninguna como odio. El porcentaje que marque es su tasa de falsos positivos sobre identidad — la medida de cuánto confunde nombrar a un grupo con atacarlo.
Parte de DignityAI. Complementa la auditoría DignityAI-Espejo.
English: a hard-negative benchmark for Spanish hate-speech detection. 56 sentences that mention vulnerable groups without attacking them (inclusive, counter-speech, reporting, neutral, rights claims), all labeled non-hate. The fraction a detector flags is its identity false-positive rate.
Cómo usarlo
from datasets import load_dataset
ds = load_dataset("antonn-dromundo/DignityCheck-LATAM")["train"]
# tu_modelo no debería marcar ninguna como odio
Columnas: id, texto, grupo (indígena, afro, migrante, mujer, LGBT+, discapacidad, clase), tipo (inclusivo, contradiscurso, denuncia, neutral, pregunta, derechos), es_odio (siempre 0).
Resultados (noviembre 2026)
Falsos positivos de tres detectores sobre estas 56 frases inofensivas (umbral 0.5):
| Modelo | Falsos positivos |
|---|---|
| BETO-UBA (contextualized hate speech) | 14.3% |
| SinOdio-BETO v3 | 12.5% |
| robertuito-hate (pysentimiento) | 3.6% |
Lo más revelador es qué marcan mal:
- Por grupo (UBA): migrantes 50%, LGBT+ 25%, personas indígenas y mujeres 12.5%.
- Por tipo (UBA): reclamar derechos 43% ("las personas migrantes tienen derecho a salud"), contra-discurso y denuncias 14%.
- SinOdio marca como odio el 37.5% de las frases neutrales sobre personas indígenas y el 25% sobre mujeres.
Scripts y detalle: dignitycheck_eval.json, dignitycheck_scores.csv.
Limitaciones
- Es v0.1: 56 frases escritas a mano, sin anotación comunitaria todavía. Mide sobre-marcado, no cobertura.
- Un modelo con 0% aquí podría seguir siendo malo detectando odio real; úsalo junto a un test de verdaderos positivos.
Contribuye
Faltan más frases, más grupos y validación por personas de las comunidades. Escribe a antuansabe@gmail.com o abre una discusión.
Licencia y cita
CC BY 4.0.
@misc{dromundo2026dignitycheck,
author = {Dromundo, Antonio},
title = {DignityCheck-LATAM: casos dificiles que no son odio para evaluar detectores en espanol},
year = {2026},
url = {https://huggingface.co/datasets/antonn-dromundo/DignityCheck-LATAM}
}