Datasets:

antonn-dromundo
/

DignityAI-Validacion

"""Genera las fichas (README) de Hugging Face para todos los recursos de DignityAI."""
import json

V = json.load(open("resultados_validacion.json")); M = json.load(open("resultados_mezcla.json")); RV = json.load(open("resultados_revision.json"))
AM = json.load(open("v11/machismodetect/reporte_v1_1.json")); AS = json.load(open("v11/sinodio_latam/reporte_v1_1.json"))
RR = json.load(open("racismo/v1.1/reporte_v1_1.json")); RC = json.load(open("clasismo/v1.1/reporte_v1_1.json"))
HUB = "https://sin-odio.vercel.app/dignityai"; VAL = "https://huggingface.co/datasets/antonn-dromundo/DignityAI-Validacion"
U = V["uba_en_real_sin_contexto"]
pct = lambda x: f"{round(100 * x)}%"

def yaml(pretty, files, extra="", tags=("hate-speech", "discrimination", "spanish", "latin-america", "synthetic")):
    cfg = "\n".join(f"- config_name: {n}\n  data_files:\n" + "\n".join(f"  - split: {s}\n    path: {p}" for s, p in sp.items()) + ("\n  default: true" if i == 0 else "")
                    for i, (n, sp) in enumerate(files.items()))
    return f"""---
language:
- es
license: cc-by-nc-sa-4.0
pretty_name: {pretty}
task_categories:
- text-classification
size_categories:
- 10K<n<100K
tags:
{chr(10).join('- ' + t for t in tags)}
configs:
{cfg}
{extra}---
"""

def bloque_validacion(key, nombre, grupo, rv, mezcla):
    e = V[f"externo_{key}"]; tgt = {"racismo": "RACISM", "clasismo": "CLASS", "machismo": "WOMEN"}[key]
    m = M[key]
    return f"""## Validación externa (noviembre 2026)
Contrastamos el dataset con datos reales anotados por personas. Todo es reproducible en [DignityAI-Validacion]({VAL}).
| Prueba | Resultado |
|---|---|
| Revisión independiente de etiquetas (40 textos, revisor: Claude Opus 5.5, no humano) | **{rv['claros_pct']}%** claramente discriminatorios, {rv['ambiguos_pct']}% ambiguos, {rv['no_discriminatorios_pct']}% no discriminatorios. Contrastes correctos: {rv['contraste_correcto_pct']}% |
| Modelo entrenado con comentarios reales anotados por humanos ([UBA](https://huggingface.co/piuba-bigdata/beto-contextualized-hate-speech)) | Marca como odio el **{pct(e['uba_detecta_odio_en_discriminatorios'])}** de nuestros textos discriminatorios (como {grupo}: {pct(e[f'uba_etiqueta_{tgt}_en_discriminatorios'])}). En datos reales detecta el {pct(U[tgt])} de los casos de {grupo}. Falsas alarmas en contrastes: {pct(e['uba_falsas_alarmas_en_contraste'])} |
| Entrenar solo con este dataset y probar en comentarios reales (TF-IDF) | F1 {V['transferencia_a_real_uba'][key]['solo_sintetico']['f1']} (con datos reales: {V['transferencia_a_real_uba'][key]['solo_real']['f1']}) |
| Agregar este dataset a datos reales (10% / 100% de los positivos reales) | F1 {m['10%']['f1_media']} / {m['100%']['f1_media']} frente a {m['0%']['f1_media']} sin agregar |
**Qué significa:** los modelos entrenados con datos reales reconocen solo una parte de lo que documenta este dataset, sobre todo lo explícito, y entrenar o aumentar datos con él no mejora la detección de odio real. **Su valor está en evaluar** si un modelo detecta discriminación sutil y regional, no en entrenarlo.
La validación por comunidades afectadas sigue pendiente. Puedes ayudar con el [kit de validación humana]({VAL}/tree/main/kit).
"""

COMUN_FIN = f"""## Licencia y cita
CC BY-NC-SA 4.0. Uso libre para investigación, educación, organizaciones civiles y periodismo; para uso comercial escribe a antuansabe@gmail.com.
Parte de [DignityAI]({HUB}), proyecto independiente de Antonio Dromundo. Errores o ejemplos que deban retirarse: abre una discusión aquí o escribe a antuansabe@gmail.com.
"""

def ficha_propia(key, nombre, gh, R, tema, grupo):
    rv = RV[key[:3]]
    files = {"default": {"train": "v1.1/train.csv", "validation": "v1.1/validation.csv", "test": "v1.1/test.csv"}}
    return yaml(nombre, files) + f"""
# {nombre}
**Advertencia de contenido:** textos de {tema} explícitos y sutiles. Existen para evaluar sistemas que **detectan** discriminación, nunca para generarla.
Dataset sintético en español de {len(R['por_pais_discriminatorio'])} países: textos de {tema} generados con plantillas combinatorias, etiquetados por país, categoría, subcategoría, nivel de sutileza y contexto, más textos de contraste no discriminatorios. Código y versión original: [GitHub]({gh}).
*English: synthetic, template-based Spanish dataset on {'racial discrimination' if key=='racismo' else 'classism'}. Contrasted against human-annotated real data (Nov 2026): useful for evaluating subtle discrimination, not for training.*
## Cifras (versión 1.1)
| | |
|---|---:|
| Textos únicos | {R['tras_quitar_casi_duplicados']:,} |
| Discriminatorios / contraste | {R['por_etiqueta']['discriminatorio']:,} / {R['por_etiqueta']['contraste']:,} |
| Train / validación / test | {R['splits']['train']:,} / {R['splits']['validation']:,} / {R['splits']['test']:,} (sin textos compartidos entre splits) |
| Países | {", ".join(R['por_pais_discriminatorio'])} |
```python
from datasets import load_dataset
ds = load_dataset("antonn-dromundo/{nombre}")
```
Columnas: `texto`, `etiqueta` (1 discriminatorio, 0 contraste), `tipo`, `pais`, `categoria`, `subcategoria`, `nivel_sutileza`, `contexto`.
{bloque_validacion(key, nombre, grupo, rv, None)}
## Limitaciones
- Es sintético: el ruido informal (typos, abreviaturas) se agregó solo a los textos discriminatorios, así que un modelo puede aprender estilo en vez de contenido. Un TF-IDF logra F1 {R['baselines_tfidf_logreg_macro_f1']['binario_split_v1_1']} en el test pero {R['baselines_tfidf_logreg_macro_f1']['binario_subcategorias_no_vistas']} con subcategorías no vistas.
- Pocos contrastes únicos ({R['por_etiqueta']['contraste']:,}).
- La jerga regional a veces se mezcla entre países.
{COMUN_FIN}"""

def ficha_machismo():
    rv = RV["mac"]; A = AM
    files = {"default": {"train": "v1.1/train.csv", "validation": "v1.1/validation.csv", "test": "v1.1/test.csv"},
             "v1.0": {"train": "splits/train.csv", "validation": "splits/validation.csv", "test": "splits/test.csv"}}
    return yaml("MachismoDetect", files, tags=("sexism", "machismo", "micromachismos", "spanish", "latin-america", "synthetic")) + f"""
# MachismoDetect
**Advertencia de contenido:** expresiones machistas, micromachismos y sexismo benevolente.
Dataset sintético de pares contrastivos (texto machista + alternativa) en español de México, España, Argentina, Colombia y Chile, generado con un modelo de lenguaje a partir de 48 ejemplos semilla. Parte de [DignityAI]({HUB}).
*English: synthetic Spanish dataset of sexist expressions. Audited in Nov 2026: heavy duplication and test leakage in v1.0; v1.1 is deduplicated. Many micro-sexism items are only sexist in context.*
## Auditoría y versión 1.1 (noviembre 2026)
| | v1.0 | v1.1 (por defecto) |
|---|---:|---:|
| Textos machistas únicos | 18,000 filas | {A['por_etiqueta_v1_1']['1']:,} |
| Alternativas inclusivas únicas | 18,000 filas | **{A['por_etiqueta_v1_1']['0']}** |
| Test que ya estaba en train | {A['fuga_original_test_en_train_exacta_pct']}% | 0% |
| F1 de un TF-IDF en el test | {A['baseline_split_original_f1']} | {A['baseline_split_v1_1_f1']} |
| F1 con subcategorías no vistas | | {A['baseline_subcategoria_no_vistas_f1']} |
```python
from datasets import load_dataset
ds = load_dataset("antonn-dromundo/MachismoDetect")          # v1.1
ds_v10 = load_dataset("antonn-dromundo/MachismoDetect", "v1.0")
```
Columnas v1.1: `texto`, `etiqueta` (1 machista, 0 alternativa), `nivel`, `subcategoria`, `pais`, `contexto`.
{bloque_validacion('machismo', 'MachismoDetect', 'misoginia', rv, None)}
## Limitaciones
- **Muchos textos solo son machistas en contexto** ("Déjame explicarte algo básico", "Por tu bien no hagas eso"). Sin la situación, son ambiguos o neutros.
- Solo {A['por_etiqueta_v1_1']['0']} alternativas inclusivas distintas, muy cortas y genéricas ("Perfecto", "¿Tomamos un café?"): un modelo las reconoce por forma, no por contenido.
- Las fichas anteriores decían que era el primer dataset de micromachismos en cualquier idioma; no pudimos verificarlo y lo retiramos.
{COMUN_FIN}"""

def ficha_sinodio():
    rv = RV["sin"]; A = AS
    files = {"default": {"train": "v1.1/train.parquet", "validation": "v1.1/validation.parquet", "test": "v1.1/test.parquet"},
             "v1.0": {"train": "data/train-*.parquet", "validation": "data/validation-*.parquet", "test": "data/test-*.parquet"}}
    return yaml("SinOdio-LATAM-Regional-HateSpeech", files, tags=("hate-speech", "spanish", "latin-america", "synthetic", "label-noise")) + f"""
# SinOdio-LATAM-Regional-HateSpeech
> ⚠️ **Etiquetas no confiables.** Una revisión independiente encontró que la mayoría de los textos marcados como odio son opiniones neutrales o incluso antidiscriminatorias. No lo uses para entrenar ni evaluar detectores sin re-etiquetarlo.
Dataset en español de Chile, México, Argentina, Colombia y Perú sobre seis escenarios (pueblos originarios, economía, derechos LGBTQ+, religión y política, crisis migratoria y fronteriza). Parte de [DignityAI]({HUB}).
*English: Spanish hate-speech dataset. Audited Nov 2026: only {A['tras_casi_duplicados']:,} of 20,000 rows are unique, {A['fuga_original_test_en_train_exacta_pct']}% of the original test set is in train, and most "hate" labels are not hateful on review. Kept public for transparency; do not use as ground truth.*
## Auditoría (noviembre 2026)
| | |
|---|---:|
| Filas en v1.0 | 20,000 |
| Textos únicos (v1.1) | **{A['tras_casi_duplicados']:,}** ({A['por_etiqueta_v1_1']['1']:,} marcados como odio, {A['por_etiqueta_v1_1']['0']:,} como no odio) |
| Test v1.0 que ya estaba en train | **{A['fuga_original_test_en_train_exacta_pct']}%** |
| Revisión de 50 textos marcados como odio (Claude Opus 5.5, no humano) | {rv['claros_pct']}% claramente odio, {rv['ambiguos_pct']}% ambiguos, **{rv['no_discriminatorios_pct']}% no son odio** |
| Revisión de 40 textos marcados como no odio | {rv['contraste_correcto_pct']}% correctos |
Ejemplos marcados como odio en v1.0: "La laicidad protege libertad religiosa de todos", "Las personas de origen andino enfrentan barreras estructurales", "La educación intercultural es derecho".
**Consecuencia:** el modelo [SinOdio-BETO v3](https://huggingface.co/antonn-dromundo/SinOdio-BETO-HateSpeech-Detector-v3) se entrenó con estos datos, y su 91.85% de exactitud se midió en un test que repetía el 84% del entrenamiento.
La versión 1.1 (por defecto) solo quita duplicados y separa splits sin fuga; **no corrige las etiquetas**. La v1.0 sigue disponible con `load_dataset(..., "v1.0")`. Detalles y scripts: [DignityAI-Validacion]({VAL}).
{COMUN_FIN}"""

def ficha_modelo(orig):
    H = V["hatecheck_es"]; s, u = H["sinodio_v3"], H["uba_beto"]; er, ec = V["externo_racismo"], V["externo_clasismo"]
    head = f"""---
language: es
license: apache-2.0
tags:
- hate-speech-detection
- spanish
- latin-america
- bert
- text-classification
datasets:
- antonn-dromundo/SinOdio-LATAM-Regional-HateSpeech
- Paul/hatecheck-spanish
metrics:
- accuracy
- f1
model-index:
- name: SinOdio-BETO-HateSpeech-Detector-v3
  results:
  - task:
      type: text-classification
      name: Hate Speech Detection
    dataset:
      name: Multilingual HateCheck (Spanish)
      type: Paul/hatecheck-spanish
      split: test
    metrics:
    - type: accuracy
      value: {s['exactitud']}
      name: Accuracy (external)
    - type: f1
      value: {s['f1_macro']}
      name: Macro F1 (external)
---
# SinOdio-BETO v3: detector de discurso de odio en español latinoamericano
Clasificador binario (BETO, 110M parámetros) parte de [DignityAI]({HUB}). Etiquetas: `LABEL_0` = no odio, `LABEL_1` = odio.
## Evaluación externa (noviembre 2026)
Las métricas originales (exactitud 91.85%, F1 0.87) se midieron en un test que repetía el 84% del entrenamiento. Estas son las cifras en datos que el modelo nunca vio:
| Prueba | SinOdio v3 | Referencia: BETO de la UBA |
|---|---:|---:|
| HateCheck-ES, exactitud | **{pct(s['exactitud'])}** | {pct(u['exactitud'])} |
| HateCheck-ES, F1 macro | **{s['f1_macro']}** | {u['f1_macro']} |
| HateCheck-ES, recall de odio / precisión | {s['recall_odio']} / {s['precision_odio']} | {u['recall_odio']} / {u['precision_odio']} |
| Falsas alarmas en frases inclusivas sobre raza (DignityAI-Racismo) | **{pct(er['sinodio_falsas_alarmas_en_contraste'])}** | {pct(er['uba_falsas_alarmas_en_contraste'])} |
| Falsas alarmas en frases inclusivas sobre clase (DignityAI-Clasismo) | **{pct(ec['sinodio_falsas_alarmas_en_contraste'])}** | {pct(ec['uba_falsas_alarmas_en_contraste'])} |
Funcionalidades de HateCheck donde más falla: {", ".join(f"`{k}` ({pct(v)})" for k, v in list(s['peores_funcionalidades'].items())[:4])}.
**Uso recomendado:** demos y exploración con revisión humana. Marca como odio muchas frases que solo **mencionan** un grupo (por ejemplo, frases antirracistas o a favor de la inclusión), así que no lo uses para moderar automáticamente. Las etiquetas de su dataset de entrenamiento resultaron poco confiables; detalles en [DignityAI-Validacion]({VAL}).
```python
from transformers import pipeline
clf = pipeline("text-classification", model="antonn-dromundo/SinOdio-BETO-HateSpeech-Detector-v3")
clf("Los inmigrantes enriquecen nuestra cultura")
```
---
## Ficha original (noviembre 2025)
"""
    body = orig.split("---", 2)[2] if orig.startswith("---") else orig
    return head + body

if __name__ == "__main__":
    import os; os.makedirs("fichas", exist_ok=True)
    open("fichas/racismo.md", "w").write(ficha_propia("racismo", "DignityAI-Racismo-LATAM", "https://github.com/antuansabe/DignityAI-Racismo-LATAM", RR, "discriminación racial", "racismo"))
    open("fichas/clasismo.md", "w").write(ficha_propia("clasismo", "DignityAI-Clasismo-LATAM", "https://github.com/antuansabe/DignityAI-Classism-LATAM", RC, "clasismo", "clasismo"))
    open("fichas/machismo.md", "w").write(ficha_machismo())
    open("fichas/sinodio_latam.md", "w").write(ficha_sinodio())
    open("fichas/modelo_v3.md", "w").write(ficha_modelo(open("hf_cards/SinOdio-BETO-HateSpeech-Detector-v3/README.md").read()))
    print("ok")

	"""Genera las fichas (README) de Hugging Face para todos los recursos de DignityAI."""
	import json

	V = json.load(open("resultados_validacion.json")); M = json.load(open("resultados_mezcla.json")); RV = json.load(open("resultados_revision.json"))
	AM = json.load(open("v11/machismodetect/reporte_v1_1.json")); AS = json.load(open("v11/sinodio_latam/reporte_v1_1.json"))
	RR = json.load(open("racismo/v1.1/reporte_v1_1.json")); RC = json.load(open("clasismo/v1.1/reporte_v1_1.json"))
	HUB = "https://sin-odio.vercel.app/dignityai"; VAL = "https://huggingface.co/datasets/antonn-dromundo/DignityAI-Validacion"
	U = V["uba_en_real_sin_contexto"]
	pct = lambda x: f"{round(100 * x)}%"

	def yaml(pretty, files, extra="", tags=("hate-speech", "discrimination", "spanish", "latin-america", "synthetic")):
	cfg = "\n".join(f"- config_name: {n}\n data_files:\n" + "\n".join(f" - split: {s}\n path: {p}" for s, p in sp.items()) + ("\n default: true" if i == 0 else "")
	for i, (n, sp) in enumerate(files.items()))
	return f"""---
	language:
	- es
	license: cc-by-nc-sa-4.0
	pretty_name: {pretty}
	task_categories:
	- text-classification
	size_categories:
	- 10K<n<100K
	tags:
	{chr(10).join('- ' + t for t in tags)}
	configs:
	{cfg}
	{extra}---
	"""

	def bloque_validacion(key, nombre, grupo, rv, mezcla):
	e = V[f"externo_{key}"]; tgt = {"racismo": "RACISM", "clasismo": "CLASS", "machismo": "WOMEN"}[key]
	m = M[key]
	return f"""## Validación externa (noviembre 2026)

	Contrastamos el dataset con datos reales anotados por personas. Todo es reproducible en [DignityAI-Validacion]({VAL}).

	\| Prueba \| Resultado \|
	\|---\|---\|
	\| Revisión independiente de etiquetas (40 textos, revisor: Claude Opus 5.5, no humano) \| {rv['claros_pct']}% claramente discriminatorios, {rv['ambiguos_pct']}% ambiguos, {rv['no_discriminatorios_pct']}% no discriminatorios. Contrastes correctos: {rv['contraste_correcto_pct']}% \|
	\| Modelo entrenado con comentarios reales anotados por humanos ([UBA](https://huggingface.co/piuba-bigdata/beto-contextualized-hate-speech)) \| Marca como odio el {pct(e['uba_detecta_odio_en_discriminatorios'])} de nuestros textos discriminatorios (como {grupo}: {pct(e[f'uba_etiqueta_{tgt}_en_discriminatorios'])}). En datos reales detecta el {pct(U[tgt])} de los casos de {grupo}. Falsas alarmas en contrastes: {pct(e['uba_falsas_alarmas_en_contraste'])} \|
	\| Entrenar solo con este dataset y probar en comentarios reales (TF-IDF) \| F1 {V['transferencia_a_real_uba'][key]['solo_sintetico']['f1']} (con datos reales: {V['transferencia_a_real_uba'][key]['solo_real']['f1']}) \|
	\| Agregar este dataset a datos reales (10% / 100% de los positivos reales) \| F1 {m['10%']['f1_media']} / {m['100%']['f1_media']} frente a {m['0%']['f1_media']} sin agregar \|

	Qué significa: los modelos entrenados con datos reales reconocen solo una parte de lo que documenta este dataset, sobre todo lo explícito, y entrenar o aumentar datos con él no mejora la detección de odio real. Su valor está en evaluar si un modelo detecta discriminación sutil y regional, no en entrenarlo.

	La validación por comunidades afectadas sigue pendiente. Puedes ayudar con el [kit de validación humana]({VAL}/tree/main/kit).
	"""

	COMUN_FIN = f"""## Licencia y cita

	CC BY-NC-SA 4.0. Uso libre para investigación, educación, organizaciones civiles y periodismo; para uso comercial escribe a antuansabe@gmail.com.

	Parte de [DignityAI]({HUB}), proyecto independiente de Antonio Dromundo. Errores o ejemplos que deban retirarse: abre una discusión aquí o escribe a antuansabe@gmail.com.
	"""

	def ficha_propia(key, nombre, gh, R, tema, grupo):
	rv = RV[key[:3]]
	files = {"default": {"train": "v1.1/train.csv", "validation": "v1.1/validation.csv", "test": "v1.1/test.csv"}}
	return yaml(nombre, files) + f"""
	# {nombre}

	Advertencia de contenido: textos de {tema} explícitos y sutiles. Existen para evaluar sistemas que detectan discriminación, nunca para generarla.

	Dataset sintético en español de {len(R['por_pais_discriminatorio'])} países: textos de {tema} generados con plantillas combinatorias, etiquetados por país, categoría, subcategoría, nivel de sutileza y contexto, más textos de contraste no discriminatorios. Código y versión original: [GitHub]({gh}).

	English: synthetic, template-based Spanish dataset on {'racial discrimination' if key=='racismo' else 'classism'}. Contrasted against human-annotated real data (Nov 2026): useful for evaluating subtle discrimination, not for training.

	## Cifras (versión 1.1)

	\| \| \|
	\|---\|---:\|
	\| Textos únicos \| {R['tras_quitar_casi_duplicados']:,} \|
	\| Discriminatorios / contraste \| {R['por_etiqueta']['discriminatorio']:,} / {R['por_etiqueta']['contraste']:,} \|
	\| Train / validación / test \| {R['splits']['train']:,} / {R['splits']['validation']:,} / {R['splits']['test']:,} (sin textos compartidos entre splits) \|
	\| Países \| {", ".join(R['por_pais_discriminatorio'])} \|

	```python
	from datasets import load_dataset
	ds = load_dataset("antonn-dromundo/{nombre}")
	```

	Columnas: `texto`, `etiqueta` (1 discriminatorio, 0 contraste), `tipo`, `pais`, `categoria`, `subcategoria`, `nivel_sutileza`, `contexto`.

	{bloque_validacion(key, nombre, grupo, rv, None)}
	## Limitaciones

	- Es sintético: el ruido informal (typos, abreviaturas) se agregó solo a los textos discriminatorios, así que un modelo puede aprender estilo en vez de contenido. Un TF-IDF logra F1 {R['baselines_tfidf_logreg_macro_f1']['binario_split_v1_1']} en el test pero {R['baselines_tfidf_logreg_macro_f1']['binario_subcategorias_no_vistas']} con subcategorías no vistas.
	- Pocos contrastes únicos ({R['por_etiqueta']['contraste']:,}).
	- La jerga regional a veces se mezcla entre países.

	{COMUN_FIN}"""

	def ficha_machismo():
	rv = RV["mac"]; A = AM
	files = {"default": {"train": "v1.1/train.csv", "validation": "v1.1/validation.csv", "test": "v1.1/test.csv"},
	"v1.0": {"train": "splits/train.csv", "validation": "splits/validation.csv", "test": "splits/test.csv"}}
	return yaml("MachismoDetect", files, tags=("sexism", "machismo", "micromachismos", "spanish", "latin-america", "synthetic")) + f"""
	# MachismoDetect

	Advertencia de contenido: expresiones machistas, micromachismos y sexismo benevolente.

	Dataset sintético de pares contrastivos (texto machista + alternativa) en español de México, España, Argentina, Colombia y Chile, generado con un modelo de lenguaje a partir de 48 ejemplos semilla. Parte de [DignityAI]({HUB}).

	English: synthetic Spanish dataset of sexist expressions. Audited in Nov 2026: heavy duplication and test leakage in v1.0; v1.1 is deduplicated. Many micro-sexism items are only sexist in context.

	## Auditoría y versión 1.1 (noviembre 2026)

	\| \| v1.0 \| v1.1 (por defecto) \|
	\|---\|---:\|---:\|
	\| Textos machistas únicos \| 18,000 filas \| {A['por_etiqueta_v1_1']['1']:,} \|
	\| Alternativas inclusivas únicas \| 18,000 filas \| {A['por_etiqueta_v1_1']['0']} \|
	\| Test que ya estaba en train \| {A['fuga_original_test_en_train_exacta_pct']}% \| 0% \|
	\| F1 de un TF-IDF en el test \| {A['baseline_split_original_f1']} \| {A['baseline_split_v1_1_f1']} \|
	\| F1 con subcategorías no vistas \| \| {A['baseline_subcategoria_no_vistas_f1']} \|

	```python
	from datasets import load_dataset
	ds = load_dataset("antonn-dromundo/MachismoDetect") # v1.1
	ds_v10 = load_dataset("antonn-dromundo/MachismoDetect", "v1.0")
	```

	Columnas v1.1: `texto`, `etiqueta` (1 machista, 0 alternativa), `nivel`, `subcategoria`, `pais`, `contexto`.

	{bloque_validacion('machismo', 'MachismoDetect', 'misoginia', rv, None)}
	## Limitaciones

	- Muchos textos solo son machistas en contexto ("Déjame explicarte algo básico", "Por tu bien no hagas eso"). Sin la situación, son ambiguos o neutros.
	- Solo {A['por_etiqueta_v1_1']['0']} alternativas inclusivas distintas, muy cortas y genéricas ("Perfecto", "¿Tomamos un café?"): un modelo las reconoce por forma, no por contenido.
	- Las fichas anteriores decían que era el primer dataset de micromachismos en cualquier idioma; no pudimos verificarlo y lo retiramos.

	{COMUN_FIN}"""

	def ficha_sinodio():
	rv = RV["sin"]; A = AS
	files = {"default": {"train": "v1.1/train.parquet", "validation": "v1.1/validation.parquet", "test": "v1.1/test.parquet"},
	"v1.0": {"train": "data/train-.parquet", "validation": "data/validation-.parquet", "test": "data/test-*.parquet"}}
	return yaml("SinOdio-LATAM-Regional-HateSpeech", files, tags=("hate-speech", "spanish", "latin-america", "synthetic", "label-noise")) + f"""
	# SinOdio-LATAM-Regional-HateSpeech

	> ⚠️ Etiquetas no confiables. Una revisión independiente encontró que la mayoría de los textos marcados como odio son opiniones neutrales o incluso antidiscriminatorias. No lo uses para entrenar ni evaluar detectores sin re-etiquetarlo.

	Dataset en español de Chile, México, Argentina, Colombia y Perú sobre seis escenarios (pueblos originarios, economía, derechos LGBTQ+, religión y política, crisis migratoria y fronteriza). Parte de [DignityAI]({HUB}).

	English: Spanish hate-speech dataset. Audited Nov 2026: only {A['tras_casi_duplicados']:,} of 20,000 rows are unique, {A['fuga_original_test_en_train_exacta_pct']}% of the original test set is in train, and most "hate" labels are not hateful on review. Kept public for transparency; do not use as ground truth.

	## Auditoría (noviembre 2026)

	\| \| \|
	\|---\|---:\|
	\| Filas en v1.0 \| 20,000 \|
	\| Textos únicos (v1.1) \| {A['tras_casi_duplicados']:,} ({A['por_etiqueta_v1_1']['1']:,} marcados como odio, {A['por_etiqueta_v1_1']['0']:,} como no odio) \|
	\| Test v1.0 que ya estaba en train \| {A['fuga_original_test_en_train_exacta_pct']}% \|
	\| Revisión de 50 textos marcados como odio (Claude Opus 5.5, no humano) \| {rv['claros_pct']}% claramente odio, {rv['ambiguos_pct']}% ambiguos, {rv['no_discriminatorios_pct']}% no son odio \|
	\| Revisión de 40 textos marcados como no odio \| {rv['contraste_correcto_pct']}% correctos \|

	Ejemplos marcados como odio en v1.0: "La laicidad protege libertad religiosa de todos", "Las personas de origen andino enfrentan barreras estructurales", "La educación intercultural es derecho".

	Consecuencia: el modelo [SinOdio-BETO v3](https://huggingface.co/antonn-dromundo/SinOdio-BETO-HateSpeech-Detector-v3) se entrenó con estos datos, y su 91.85% de exactitud se midió en un test que repetía el 84% del entrenamiento.

	La versión 1.1 (por defecto) solo quita duplicados y separa splits sin fuga; no corrige las etiquetas. La v1.0 sigue disponible con `load_dataset(..., "v1.0")`. Detalles y scripts: [DignityAI-Validacion]({VAL}).

	{COMUN_FIN}"""

	def ficha_modelo(orig):
	H = V["hatecheck_es"]; s, u = H["sinodio_v3"], H["uba_beto"]; er, ec = V["externo_racismo"], V["externo_clasismo"]
	head = f"""---
	language: es
	license: apache-2.0
	tags:
	- hate-speech-detection
	- spanish
	- latin-america
	- bert
	- text-classification
	datasets:
	- antonn-dromundo/SinOdio-LATAM-Regional-HateSpeech
	- Paul/hatecheck-spanish
	metrics:
	- accuracy
	- f1
	model-index:
	- name: SinOdio-BETO-HateSpeech-Detector-v3
	results:
	- task:
	type: text-classification
	name: Hate Speech Detection
	dataset:
	name: Multilingual HateCheck (Spanish)
	type: Paul/hatecheck-spanish
	split: test
	metrics:
	- type: accuracy
	value: {s['exactitud']}
	name: Accuracy (external)
	- type: f1
	value: {s['f1_macro']}
	name: Macro F1 (external)
	---

	# SinOdio-BETO v3: detector de discurso de odio en español latinoamericano

	Clasificador binario (BETO, 110M parámetros) parte de [DignityAI]({HUB}). Etiquetas: `LABEL_0` = no odio, `LABEL_1` = odio.

	## Evaluación externa (noviembre 2026)

	Las métricas originales (exactitud 91.85%, F1 0.87) se midieron en un test que repetía el 84% del entrenamiento. Estas son las cifras en datos que el modelo nunca vio:

	\| Prueba \| SinOdio v3 \| Referencia: BETO de la UBA \|
	\|---\|---:\|---:\|
	\| HateCheck-ES, exactitud \| {pct(s['exactitud'])} \| {pct(u['exactitud'])} \|
	\| HateCheck-ES, F1 macro \| {s['f1_macro']} \| {u['f1_macro']} \|
	\| HateCheck-ES, recall de odio / precisión \| {s['recall_odio']} / {s['precision_odio']} \| {u['recall_odio']} / {u['precision_odio']} \|
	\| Falsas alarmas en frases inclusivas sobre raza (DignityAI-Racismo) \| {pct(er['sinodio_falsas_alarmas_en_contraste'])} \| {pct(er['uba_falsas_alarmas_en_contraste'])} \|
	\| Falsas alarmas en frases inclusivas sobre clase (DignityAI-Clasismo) \| {pct(ec['sinodio_falsas_alarmas_en_contraste'])} \| {pct(ec['uba_falsas_alarmas_en_contraste'])} \|

	Funcionalidades de HateCheck donde más falla: {", ".join(f"`{k}` ({pct(v)})" for k, v in list(s['peores_funcionalidades'].items())[:4])}.

	Uso recomendado: demos y exploración con revisión humana. Marca como odio muchas frases que solo mencionan un grupo (por ejemplo, frases antirracistas o a favor de la inclusión), así que no lo uses para moderar automáticamente. Las etiquetas de su dataset de entrenamiento resultaron poco confiables; detalles en [DignityAI-Validacion]({VAL}).

	```python
	from transformers import pipeline
	clf = pipeline("text-classification", model="antonn-dromundo/SinOdio-BETO-HateSpeech-Detector-v3")
	clf("Los inmigrantes enriquecen nuestra cultura")
	```

	---

	## Ficha original (noviembre 2025)

	"""
	body = orig.split("---", 2)[2] if orig.startswith("---") else orig
	return head + body

	if __name__ == "__main__":
	import os; os.makedirs("fichas", exist_ok=True)
	open("fichas/racismo.md", "w").write(ficha_propia("racismo", "DignityAI-Racismo-LATAM", "https://github.com/antuansabe/DignityAI-Racismo-LATAM", RR, "discriminación racial", "racismo"))
	open("fichas/clasismo.md", "w").write(ficha_propia("clasismo", "DignityAI-Clasismo-LATAM", "https://github.com/antuansabe/DignityAI-Classism-LATAM", RC, "clasismo", "clasismo"))
	open("fichas/machismo.md", "w").write(ficha_machismo())
	open("fichas/sinodio_latam.md", "w").write(ficha_sinodio())
	open("fichas/modelo_v3.md", "w").write(ficha_modelo(open("hf_cards/SinOdio-BETO-HateSpeech-Detector-v3/README.md").read()))
	print("ok")