| --- |
| language: |
| - es |
| license: cc-by-4.0 |
| pretty_name: "DignityCheck-LATAM: casos difíciles que no son odio" |
| task_categories: |
| - text-classification |
| tags: |
| - hate-speech |
| - evaluation |
| - fairness |
| - spanish |
| - latin-america |
| - hard-negatives |
| configs: |
| - config_name: default |
| data_files: dignitycheck_v0.1.csv |
| --- |
| |
| # DignityCheck-LATAM |
|
|
| ### Casos difíciles que NO son odio |
|
|
| 56 frases que mencionan a grupos vulnerables **sin** atacarlos: lenguaje inclusivo, contra-discurso, denuncias de discriminación, menciones neutrales, preguntas y reclamos de derechos. Todas con `es_odio = 0` por diseño. |
|
|
| **Para qué sirve:** un buen detector de discurso de odio no debería marcar ninguna como odio. El porcentaje que marque es su **tasa de falsos positivos sobre identidad** — la medida de cuánto confunde *nombrar* a un grupo con *atacarlo*. |
|
|
| Parte de [DignityAI](https://sin-odio.vercel.app/dignityai). Complementa la auditoría [DignityAI-Espejo](https://huggingface.co/datasets/antonn-dromundo/DignityAI-Espejo). |
|
|
| *English: a hard-negative benchmark for Spanish hate-speech detection. 56 sentences that mention vulnerable groups without attacking them (inclusive, counter-speech, reporting, neutral, rights claims), all labeled non-hate. The fraction a detector flags is its identity false-positive rate.* |
|
|
| ## Cómo usarlo |
|
|
| ```python |
| from datasets import load_dataset |
| ds = load_dataset("antonn-dromundo/DignityCheck-LATAM")["train"] |
| # tu_modelo no debería marcar ninguna como odio |
| ``` |
|
|
| Columnas: `id`, `texto`, `grupo` (indígena, afro, migrante, mujer, LGBT+, discapacidad, clase), `tipo` (inclusivo, contradiscurso, denuncia, neutral, pregunta, derechos), `es_odio` (siempre 0). |
|
|
| ## Resultados (noviembre 2026) |
|
|
| Falsos positivos de tres detectores sobre estas 56 frases inofensivas (umbral 0.5): |
|
|
| | Modelo | Falsos positivos | |
| |---|---:| |
| | BETO-UBA (contextualized hate speech) | 14.3% | |
| | SinOdio-BETO v3 | 12.5% | |
| | robertuito-hate (pysentimiento) | 3.6% | |
|
|
| Lo más revelador es *qué* marcan mal: |
|
|
| - **Por grupo (UBA):** migrantes **50%**, LGBT+ **25%**, personas indígenas y mujeres 12.5%. |
| - **Por tipo (UBA):** reclamar derechos **43%** ("las personas migrantes tienen derecho a salud"), contra-discurso y denuncias 14%. |
| - **SinOdio** marca como odio el 37.5% de las frases neutrales sobre personas indígenas y el 25% sobre mujeres. |
|
|
| Scripts y detalle: `dignitycheck_eval.json`, `dignitycheck_scores.csv`. |
|
|
| ## Limitaciones |
|
|
| - Es v0.1: 56 frases escritas a mano, sin anotación comunitaria todavía. Mide sobre-marcado, no cobertura. |
| - Un modelo con 0% aquí podría seguir siendo malo detectando odio real; úsalo junto a un test de verdaderos positivos. |
|
|
| ## Contribuye |
|
|
| Faltan más frases, más grupos y validación por personas de las comunidades. Escribe a antuansabe@gmail.com o abre una discusión. |
|
|
| ## Licencia y cita |
|
|
| CC BY 4.0. |
|
|
| ```bibtex |
| @misc{dromundo2026dignitycheck, |
| author = {Dromundo, Antonio}, |
| title = {DignityCheck-LATAM: casos dificiles que no son odio para evaluar detectores en espanol}, |
| year = {2026}, |
| url = {https://huggingface.co/datasets/antonn-dromundo/DignityCheck-LATAM} |
| } |
| ``` |
|
|
