DignityAI nov 2026: v1.1 deduplicada, auditoría y validación externa

LICENSE

@@ -0,0 +1,9 @@
+Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International (CC BY-NC-SA 4.0)
+
+Copyright (c) 2025-2026 Antonio Dromundo
+
+Los datos de este repositorio se distribuyen bajo CC BY-NC-SA 4.0.
+Texto legal completo: https://creativecommons.org/licenses/by-nc-sa/4.0/legalcode.es
+Resumen: https://creativecommons.org/licenses/by-nc-sa/4.0/deed.es
+
+El código en scripts/ y los generadores *.py pueden reutilizarse bajo la misma licencia.

README.md

@@ -0,0 +1,77 @@
+---
+language:
+- es
+license: cc-by-nc-sa-4.0
+pretty_name: DignityAI-Racismo-LATAM
+task_categories:
+- text-classification
+size_categories:
+- 10K<n<100K
+tags:
+- hate-speech
+- discrimination
+- spanish
+- latin-america
+- synthetic
+configs:
+- config_name: default
+  data_files:
+  - split: train
+    path: v1.1/train.csv
+  - split: validation
+    path: v1.1/validation.csv
+  - split: test
+    path: v1.1/test.csv
+  default: true
+---
+
+# DignityAI-Racismo-LATAM
+
+**Advertencia de contenido:** textos de discriminación racial explícitos y sutiles. Existen para evaluar sistemas que **detectan** discriminación, nunca para generarla.
+
+Dataset sintético en español de 5 países: textos de discriminación racial generados con plantillas combinatorias, etiquetados por país, categoría, subcategoría, nivel de sutileza y contexto, más textos de contraste no discriminatorios. Código y versión original: [GitHub](https://github.com/antuansabe/DignityAI-Racismo-LATAM).
+
+*English: synthetic, template-based Spanish dataset on racial discrimination. Contrasted against human-annotated real data (Nov 2026): useful for evaluating subtle discrimination, not for training.*
+
+## Cifras (versión 1.1)
+
+| | |
+|---|---:|
+| Textos únicos | 22,769 |
+| Discriminatorios / contraste | 21,485 / 1,284 |
+| Train / validación / test | 15,938 / 3,415 / 3,416 (sin textos compartidos entre splits) |
+| Países | México, Argentina, Colombia, Perú, Chile |
+
+```python
+from datasets import load_dataset
+ds = load_dataset("antonn-dromundo/DignityAI-Racismo-LATAM")
+```
+
+Columnas: `texto`, `etiqueta` (1 discriminatorio, 0 contraste), `tipo`, `pais`, `categoria`, `subcategoria`, `nivel_sutileza`, `contexto`.
+
+## Validación externa (noviembre 2026)
+
+Contrastamos el dataset con datos reales anotados por personas. Todo es reproducible en [DignityAI-Validacion](https://huggingface.co/datasets/antonn-dromundo/DignityAI-Validacion).
+
+| Prueba | Resultado |
+|---|---|
+| Revisión independiente de etiquetas (40 textos, revisor: Claude Opus 5.5, no humano) | **87.5%** claramente discriminatorios, 12.5% ambiguos, 0.0% no discriminatorios. Contrastes correctos: 100.0% |
+| Modelo entrenado con comentarios reales anotados por humanos ([UBA](https://huggingface.co/piuba-bigdata/beto-contextualized-hate-speech)) | Marca como odio el **30%** de nuestros textos discriminatorios (como racismo: 26%). En datos reales detecta el 64% de los casos de racismo. Falsas alarmas en contrastes: 9% |
+| Entrenar solo con este dataset y probar en comentarios reales (TF-IDF) | F1 0.262 (con datos reales: 0.682) |
+| Agregar este dataset a datos reales (10% / 100% de los positivos reales) | F1 0.701 / 0.682 frente a 0.701 sin agregar |
+
+**Qué significa:** los modelos entrenados con datos reales reconocen solo una parte de lo que documenta este dataset, sobre todo lo explícito, y entrenar o aumentar datos con él no mejora la detección de odio real. **Su valor está en evaluar** si un modelo detecta discriminación sutil y regional, no en entrenarlo.
+
+La validación por comunidades afectadas sigue pendiente. Puedes ayudar con el [kit de validación humana](https://huggingface.co/datasets/antonn-dromundo/DignityAI-Validacion/tree/main/kit).
+
+## Limitaciones
+
+- Es sintético: el ruido informal (typos, abreviaturas) se agregó solo a los textos discriminatorios, así que un modelo puede aprender estilo en vez de contenido. Un TF-IDF logra F1 0.996 en el test pero 0.779 con subcategorías no vistas.
+- Pocos contrastes únicos (1,284).
+- La jerga regional a veces se mezcla entre países.
+
+## Licencia y cita
+
+CC BY-NC-SA 4.0. Uso libre para investigación, educación, organizaciones civiles y periodismo; para uso comercial escribe a antuansabe@gmail.com.
+
+Parte de [DignityAI](https://sin-odio.vercel.app/dignityai), proyecto independiente de Antonio Dromundo. Errores o ejemplos que deban retirarse: abre una discusión aquí o escribe a antuansabe@gmail.com.

v1.1/completo.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:909106c599afb090ed652f7f1d69a39668448722bffb9578393bec73da5e3638
+size 435898

v1.1/reporte_v1_1.json

@@ -0,0 +1,42 @@
+{
+  "version": "1.1.0",
+  "fuente": "dignityai-racism-latam",
+  "filas_v1_0_pares": 32351,
+  "textos_formato_largo": 64702,
+  "tras_quitar_duplicados_exactos": 26535,
+  "tras_quitar_casi_duplicados": 22769,
+  "esqueletos_con_etiqueta_contradictoria_descartados": 0,
+  "por_etiqueta": {
+    "discriminatorio": 21485,
+    "contraste": 1284
+  },
+  "splits": {
+    "train": 15938,
+    "validation": 3415,
+    "test": 3416
+  },
+  "fuga_test_train_esqueleto_pct": 0.0,
+  "por_pais_discriminatorio": {
+    "México": 5157,
+    "Argentina": 4305,
+    "Colombia": 4097,
+    "Perú": 4082,
+    "Chile": 3844
+  },
+  "por_categoria_discriminatorio": {
+    "colorismo": 6050,
+    "racismo_anti_indigena": 4505,
+    "racismo_anti_afrolatino": 4497,
+    "microagresiones_raciales": 3499,
+    "racismo_institucional": 2934
+  },
+  "baselines_tfidf_logreg_macro_f1": {
+    "binario_split_v1_1": 0.996,
+    "binario_subcategorias_no_vistas": 0.779,
+    "categoria_5_6_clases": 0.993
+  },
+  "longitud_mediana_caracteres": {
+    "discriminatorio": 43,
+    "contraste": 55
+  }
+}