Blame for README.md

---
language:
- es
license: cc-by-nc-sa-4.0
pretty_name: DignityAI-Racismo-LATAM
task_categories:
- text-classification
size_categories:
- 10K<n<100K
tags:
- hate-speech
- discrimination
- spanish
- latin-america
- synthetic
configs:
- config_name: default
  data_files:
  - split: train
    path: v1.1/train.csv
  - split: validation
    path: v1.1/validation.csv
  - split: test
    path: v1.1/test.csv
  default: true
---

# DignityAI-Racismo-LATAM

**Advertencia de contenido:** textos de discriminación racial explícitos y sutiles. Existen para evaluar sistemas que **detectan** discriminación, nunca para generarla.

Dataset sintético en español de 5 países: textos de discriminación racial generados con plantillas combinatorias, etiquetados por país, categoría, subcategoría, nivel de sutileza y contexto, más textos de contraste no discriminatorios. Código y versión original: [GitHub](https://github.com/antuansabe/DignityAI-Racismo-LATAM).

*English: synthetic, template-based Spanish dataset on racial discrimination. Contrasted against human-annotated real data (Nov 2026): useful for evaluating subtle discrimination, not for training.*

## Cifras (versión 1.1)

| | |
|---|---:|
| Textos únicos | 22,769 |
| Discriminatorios / contraste | 21,485 / 1,284 |
| Train / validación / test | 15,938 / 3,415 / 3,416 (sin textos compartidos entre splits) |
| Países | México, Argentina, Colombia, Perú, Chile |

```python
from datasets import load_dataset
ds = load_dataset("antonn-dromundo/DignityAI-Racismo-LATAM")
```

Columnas: `texto`, `etiqueta` (1 discriminatorio, 0 contraste), `tipo`, `pais`, `categoria`, `subcategoria`, `nivel_sutileza`, `contexto`.

## Validación externa (noviembre 2026)

Contrastamos el dataset con datos reales anotados por personas. Todo es reproducible en [DignityAI-Validacion](https://huggingface.co/datasets/antonn-dromundo/DignityAI-Validacion).

| Prueba | Resultado |
|---|---|
| Revisión independiente de etiquetas (40 textos, revisor: Claude Opus 5.5, no humano) | **87.5%** claramente discriminatorios, 12.5% ambiguos, 0.0% no discriminatorios. Contrastes correctos: 100.0% |
| Modelo entrenado con comentarios reales anotados por humanos ([UBA](https://huggingface.co/piuba-bigdata/beto-contextualized-hate-speech)) | Marca como odio el **30%** de nuestros textos discriminatorios (como racismo: 26%). En datos reales detecta el 64% de los casos de racismo. Falsas alarmas en contrastes: 9% |
| Entrenar solo con este dataset y probar en comentarios reales (TF-IDF) | F1 0.262 (con datos reales: 0.682) |
| Agregar este dataset a datos reales (10% / 100% de los positivos reales) | F1 0.701 / 0.682 frente a 0.701 sin agregar |

**Qué significa:** los modelos entrenados con datos reales reconocen solo una parte de lo que documenta este dataset, sobre todo lo explícito, y entrenar o aumentar datos con él no mejora la detección de odio real. **Su valor está en evaluar** si un modelo detecta discriminación sutil y regional, no en entrenarlo.

La validación por comunidades afectadas sigue pendiente. Puedes ayudar con el [kit de validación humana](https://huggingface.co/datasets/antonn-dromundo/DignityAI-Validacion/tree/main/kit).

## Limitaciones

- Es sintético: el ruido informal (typos, abreviaturas) se agregó solo a los textos discriminatorios, así que un modelo puede aprender estilo en vez de contenido. Un TF-IDF logra F1 0.996 en el test pero 0.779 con subcategorías no vistas.
- Pocos contrastes únicos (1,284).
- La jerga regional a veces se mezcla entre países.

## Licencia y cita

CC BY-NC-SA 4.0. Uso libre para investigación, educación, organizaciones civiles y periodismo; para uso comercial escribe a antuansabe@gmail.com.

Parte de [DignityAI](https://sin-odio.vercel.app/dignityai), proyecto independiente de Antonio Dromundo. Errores o ejemplos que deban retirarse: abre una discusión aquí o escribe a antuansabe@gmail.com.