DignityCheck-LATAM

Casos difíciles que NO son odio

56 frases que mencionan a grupos vulnerables sin atacarlos: lenguaje inclusivo, contra-discurso, denuncias de discriminación, menciones neutrales, preguntas y reclamos de derechos. Todas con es_odio = 0 por diseño.

Para qué sirve: un buen detector de discurso de odio no debería marcar ninguna como odio. El porcentaje que marque es su tasa de falsos positivos sobre identidad — la medida de cuánto confunde nombrar a un grupo con atacarlo.

Parte de DignityAI. Complementa la auditoría DignityAI-Espejo.

English: a hard-negative benchmark for Spanish hate-speech detection. 56 sentences that mention vulnerable groups without attacking them (inclusive, counter-speech, reporting, neutral, rights claims), all labeled non-hate. The fraction a detector flags is its identity false-positive rate.

Cómo usarlo

from datasets import load_dataset
ds = load_dataset("antonn-dromundo/DignityCheck-LATAM")["train"]
# tu_modelo no debería marcar ninguna como odio

Columnas: id, texto, grupo (indígena, afro, migrante, mujer, LGBT+, discapacidad, clase), tipo (inclusivo, contradiscurso, denuncia, neutral, pregunta, derechos), es_odio (siempre 0).

Resultados (noviembre 2026)

Falsos positivos de tres detectores sobre estas 56 frases inofensivas (umbral 0.5):

Modelo	Falsos positivos
BETO-UBA (contextualized hate speech)	14.3%
SinOdio-BETO v3	12.5%
robertuito-hate (pysentimiento)	3.6%

Lo más revelador es qué marcan mal:

• Por grupo (UBA): migrantes 50%, LGBT+ 25%, personas indígenas y mujeres 12.5%.
• Por tipo (UBA): reclamar derechos 43% ("las personas migrantes tienen derecho a salud"), contra-discurso y denuncias 14%.
• SinOdio marca como odio el 37.5% de las frases neutrales sobre personas indígenas y el 25% sobre mujeres.

Scripts y detalle: dignitycheck_eval.json, dignitycheck_scores.csv.

Limitaciones

• Es v0.1: 56 frases escritas a mano, sin anotación comunitaria todavía. Mide sobre-marcado, no cobertura.
• Un modelo con 0% aquí podría seguir siendo malo detectando odio real; úsalo junto a un test de verdaderos positivos.

Contribuye

Faltan más frases, más grupos y validación por personas de las comunidades. Escribe a antuansabe@gmail.com o abre una discusión.

Licencia y cita

CC BY 4.0.

@misc{dromundo2026dignitycheck,
  author = {Dromundo, Antonio},
  title  = {DignityCheck-LATAM: casos dificiles que no son odio para evaluar detectores en espanol},
  year   = {2026},
  url    = {https://huggingface.co/datasets/antonn-dromundo/DignityCheck-LATAM}
}