"""Genera las fichas (README) de Hugging Face para todos los recursos de DignityAI."""
import json

V = json.load(open("resultados_validacion.json")); M = json.load(open("resultados_mezcla.json")); RV = json.load(open("resultados_revision.json"))
AM = json.load(open("v11/machismodetect/reporte_v1_1.json")); AS = json.load(open("v11/sinodio_latam/reporte_v1_1.json"))
RR = json.load(open("racismo/v1.1/reporte_v1_1.json")); RC = json.load(open("clasismo/v1.1/reporte_v1_1.json"))
HUB = "https://sin-odio.vercel.app/dignityai"; VAL = "https://huggingface.co/datasets/antonn-dromundo/DignityAI-Validacion"
U = V["uba_en_real_sin_contexto"]
pct = lambda x: f"{round(100 * x)}%"

def yaml(pretty, files, extra="", tags=("hate-speech", "discrimination", "spanish", "latin-america", "synthetic")):
    cfg = "\n".join(f"- config_name: {n}\n  data_files:\n" + "\n".join(f"  - split: {s}\n    path: {p}" for s, p in sp.items()) + ("\n  default: true" if i == 0 else "")
                    for i, (n, sp) in enumerate(files.items()))
    return f"""---
language:
- es
license: cc-by-nc-sa-4.0
pretty_name: {pretty}
task_categories:
- text-classification
size_categories:
- 10K<n<100K
tags:
{chr(10).join('- ' + t for t in tags)}
configs:
{cfg}
{extra}---
"""

def bloque_validacion(key, nombre, grupo, rv, mezcla):
    e = V[f"externo_{key}"]; tgt = {"racismo": "RACISM", "clasismo": "CLASS", "machismo": "WOMEN"}[key]
    m = M[key]
    return f"""## Validación externa (noviembre 2026)

Contrastamos el dataset con datos reales anotados por personas. Todo es reproducible en [DignityAI-Validacion]({VAL}).

| Prueba | Resultado |
|---|---|
| Revisión independiente de etiquetas (40 textos, revisor: Claude Opus 5.5, no humano) | **{rv['claros_pct']}%** claramente discriminatorios, {rv['ambiguos_pct']}% ambiguos, {rv['no_discriminatorios_pct']}% no discriminatorios. Contrastes correctos: {rv['contraste_correcto_pct']}% |
| Modelo entrenado con comentarios reales anotados por humanos ([UBA](https://huggingface.co/piuba-bigdata/beto-contextualized-hate-speech)) | Marca como odio el **{pct(e['uba_detecta_odio_en_discriminatorios'])}** de nuestros textos discriminatorios (como {grupo}: {pct(e[f'uba_etiqueta_{tgt}_en_discriminatorios'])}). En datos reales detecta el {pct(U[tgt])} de los casos de {grupo}. Falsas alarmas en contrastes: {pct(e['uba_falsas_alarmas_en_contraste'])} |
| Entrenar solo con este dataset y probar en comentarios reales (TF-IDF) | F1 {V['transferencia_a_real_uba'][key]['solo_sintetico']['f1']} (con datos reales: {V['transferencia_a_real_uba'][key]['solo_real']['f1']}) |
| Agregar este dataset a datos reales (10% / 100% de los positivos reales) | F1 {m['10%']['f1_media']} / {m['100%']['f1_media']} frente a {m['0%']['f1_media']} sin agregar |

**Qué significa:** los modelos entrenados con datos reales reconocen solo una parte de lo que documenta este dataset, sobre todo lo explícito, y entrenar o aumentar datos con él no mejora la detección de odio real. **Su valor está en evaluar** si un modelo detecta discriminación sutil y regional, no en entrenarlo.

La validación por comunidades afectadas sigue pendiente. Puedes ayudar con el [kit de validación humana]({VAL}/tree/main/kit).
"""

COMUN_FIN = f"""## Licencia y cita

CC BY-NC-SA 4.0. Uso libre para investigación, educación, organizaciones civiles y periodismo; para uso comercial escribe a antuansabe@gmail.com.

Parte de [DignityAI]({HUB}), proyecto independiente de Antonio Dromundo. Errores o ejemplos que deban retirarse: abre una discusión aquí o escribe a antuansabe@gmail.com.
"""

def ficha_propia(key, nombre, gh, R, tema, grupo):
    rv = RV[key[:3]]
    files = {"default": {"train": "v1.1/train.csv", "validation": "v1.1/validation.csv", "test": "v1.1/test.csv"}}
    return yaml(nombre, files) + f"""
# {nombre}

**Advertencia de contenido:** textos de {tema} explícitos y sutiles. Existen para evaluar sistemas que **detectan** discriminación, nunca para generarla.

Dataset sintético en español de {len(R['por_pais_discriminatorio'])} países: textos de {tema} generados con plantillas combinatorias, etiquetados por país, categoría, subcategoría, nivel de sutileza y contexto, más textos de contraste no discriminatorios. Código y versión original: [GitHub]({gh}).

*English: synthetic, template-based Spanish dataset on {'racial discrimination' if key=='racismo' else 'classism'}. Contrasted against human-annotated real data (Nov 2026): useful for evaluating subtle discrimination, not for training.*

## Cifras (versión 1.1)

| | |
|---|---:|
| Textos únicos | {R['tras_quitar_casi_duplicados']:,} |
| Discriminatorios / contraste | {R['por_etiqueta']['discriminatorio']:,} / {R['por_etiqueta']['contraste']:,} |
| Train / validación / test | {R['splits']['train']:,} / {R['splits']['validation']:,} / {R['splits']['test']:,} (sin textos compartidos entre splits) |
| Países | {", ".join(R['por_pais_discriminatorio'])} |

```python
from datasets import load_dataset
ds = load_dataset("antonn-dromundo/{nombre}")
```

Columnas: `texto`, `etiqueta` (1 discriminatorio, 0 contraste), `tipo`, `pais`, `categoria`, `subcategoria`, `nivel_sutileza`, `contexto`.

{bloque_validacion(key, nombre, grupo, rv, None)}
## Limitaciones

- Es sintético: el ruido informal (typos, abreviaturas) se agregó solo a los textos discriminatorios, así que un modelo puede aprender estilo en vez de contenido. Un TF-IDF logra F1 {R['baselines_tfidf_logreg_macro_f1']['binario_split_v1_1']} en el test pero {R['baselines_tfidf_logreg_macro_f1']['binario_subcategorias_no_vistas']} con subcategorías no vistas.
- Pocos contrastes únicos ({R['por_etiqueta']['contraste']:,}).
- La jerga regional a veces se mezcla entre países.

{COMUN_FIN}"""

def ficha_machismo():
    rv = RV["mac"]; A = AM
    files = {"default": {"train": "v1.1/train.csv", "validation": "v1.1/validation.csv", "test": "v1.1/test.csv"},
             "v1.0": {"train": "splits/train.csv", "validation": "splits/validation.csv", "test": "splits/test.csv"}}
    return yaml("MachismoDetect", files, tags=("sexism", "machismo", "micromachismos", "spanish", "latin-america", "synthetic")) + f"""
# MachismoDetect

**Advertencia de contenido:** expresiones machistas, micromachismos y sexismo benevolente.

Dataset sintético de pares contrastivos (texto machista + alternativa) en español de México, España, Argentina, Colombia y Chile, generado con un modelo de lenguaje a partir de 48 ejemplos semilla. Parte de [DignityAI]({HUB}).

*English: synthetic Spanish dataset of sexist expressions. Audited in Nov 2026: heavy duplication and test leakage in v1.0; v1.1 is deduplicated. Many micro-sexism items are only sexist in context.*

## Auditoría y versión 1.1 (noviembre 2026)

| | v1.0 | v1.1 (por defecto) |
|---|---:|---:|
| Textos machistas únicos | 18,000 filas | {A['por_etiqueta_v1_1']['1']:,} |
| Alternativas inclusivas únicas | 18,000 filas | **{A['por_etiqueta_v1_1']['0']}** |
| Test que ya estaba en train | {A['fuga_original_test_en_train_exacta_pct']}% | 0% |
| F1 de un TF-IDF en el test | {A['baseline_split_original_f1']} | {A['baseline_split_v1_1_f1']} |
| F1 con subcategorías no vistas | | {A['baseline_subcategoria_no_vistas_f1']} |

```python
from datasets import load_dataset
ds = load_dataset("antonn-dromundo/MachismoDetect")          # v1.1
ds_v10 = load_dataset("antonn-dromundo/MachismoDetect", "v1.0")
```

Columnas v1.1: `texto`, `etiqueta` (1 machista, 0 alternativa), `nivel`, `subcategoria`, `pais`, `contexto`.

{bloque_validacion('machismo', 'MachismoDetect', 'misoginia', rv, None)}
## Limitaciones

- **Muchos textos solo son machistas en contexto** ("Déjame explicarte algo básico", "Por tu bien no hagas eso"). Sin la situación, son ambiguos o neutros.
- Solo {A['por_etiqueta_v1_1']['0']} alternativas inclusivas distintas, muy cortas y genéricas ("Perfecto", "¿Tomamos un café?"): un modelo las reconoce por forma, no por contenido.
- Las fichas anteriores decían que era el primer dataset de micromachismos en cualquier idioma; no pudimos verificarlo y lo retiramos.

{COMUN_FIN}"""

def ficha_sinodio():
    rv = RV["sin"]; A = AS
    files = {"default": {"train": "v1.1/train.parquet", "validation": "v1.1/validation.parquet", "test": "v1.1/test.parquet"},
             "v1.0": {"train": "data/train-*.parquet", "validation": "data/validation-*.parquet", "test": "data/test-*.parquet"}}
    return yaml("SinOdio-LATAM-Regional-HateSpeech", files, tags=("hate-speech", "spanish", "latin-america", "synthetic", "label-noise")) + f"""
# SinOdio-LATAM-Regional-HateSpeech

> ⚠️ **Etiquetas no confiables.** Una revisión independiente encontró que la mayoría de los textos marcados como odio son opiniones neutrales o incluso antidiscriminatorias. No lo uses para entrenar ni evaluar detectores sin re-etiquetarlo.

Dataset en español de Chile, México, Argentina, Colombia y Perú sobre seis escenarios (pueblos originarios, economía, derechos LGBTQ+, religión y política, crisis migratoria y fronteriza). Parte de [DignityAI]({HUB}).

*English: Spanish hate-speech dataset. Audited Nov 2026: only {A['tras_casi_duplicados']:,} of 20,000 rows are unique, {A['fuga_original_test_en_train_exacta_pct']}% of the original test set is in train, and most "hate" labels are not hateful on review. Kept public for transparency; do not use as ground truth.*

## Auditoría (noviembre 2026)

| | |
|---|---:|
| Filas en v1.0 | 20,000 |
| Textos únicos (v1.1) | **{A['tras_casi_duplicados']:,}** ({A['por_etiqueta_v1_1']['1']:,} marcados como odio, {A['por_etiqueta_v1_1']['0']:,} como no odio) |
| Test v1.0 que ya estaba en train | **{A['fuga_original_test_en_train_exacta_pct']}%** |
| Revisión de 50 textos marcados como odio (Claude Opus 5.5, no humano) | {rv['claros_pct']}% claramente odio, {rv['ambiguos_pct']}% ambiguos, **{rv['no_discriminatorios_pct']}% no son odio** |
| Revisión de 40 textos marcados como no odio | {rv['contraste_correcto_pct']}% correctos |

Ejemplos marcados como odio en v1.0: "La laicidad protege libertad religiosa de todos", "Las personas de origen andino enfrentan barreras estructurales", "La educación intercultural es derecho".

**Consecuencia:** el modelo [SinOdio-BETO v3](https://huggingface.co/antonn-dromundo/SinOdio-BETO-HateSpeech-Detector-v3) se entrenó con estos datos, y su 91.85% de exactitud se midió en un test que repetía el 84% del entrenamiento.

La versión 1.1 (por defecto) solo quita duplicados y separa splits sin fuga; **no corrige las etiquetas**. La v1.0 sigue disponible con `load_dataset(..., "v1.0")`. Detalles y scripts: [DignityAI-Validacion]({VAL}).

{COMUN_FIN}"""

def ficha_modelo(orig):
    H = V["hatecheck_es"]; s, u = H["sinodio_v3"], H["uba_beto"]; er, ec = V["externo_racismo"], V["externo_clasismo"]
    head = f"""---
language: es
license: apache-2.0
tags:
- hate-speech-detection
- spanish
- latin-america
- bert
- text-classification
datasets:
- antonn-dromundo/SinOdio-LATAM-Regional-HateSpeech
- Paul/hatecheck-spanish
metrics:
- accuracy
- f1
model-index:
- name: SinOdio-BETO-HateSpeech-Detector-v3
  results:
  - task:
      type: text-classification
      name: Hate Speech Detection
    dataset:
      name: Multilingual HateCheck (Spanish)
      type: Paul/hatecheck-spanish
      split: test
    metrics:
    - type: accuracy
      value: {s['exactitud']}
      name: Accuracy (external)
    - type: f1
      value: {s['f1_macro']}
      name: Macro F1 (external)
---

# SinOdio-BETO v3: detector de discurso de odio en español latinoamericano

Clasificador binario (BETO, 110M parámetros) parte de [DignityAI]({HUB}). Etiquetas: `LABEL_0` = no odio, `LABEL_1` = odio.

## Evaluación externa (noviembre 2026)

Las métricas originales (exactitud 91.85%, F1 0.87) se midieron en un test que repetía el 84% del entrenamiento. Estas son las cifras en datos que el modelo nunca vio:

| Prueba | SinOdio v3 | Referencia: BETO de la UBA |
|---|---:|---:|
| HateCheck-ES, exactitud | **{pct(s['exactitud'])}** | {pct(u['exactitud'])} |
| HateCheck-ES, F1 macro | **{s['f1_macro']}** | {u['f1_macro']} |
| HateCheck-ES, recall de odio / precisión | {s['recall_odio']} / {s['precision_odio']} | {u['recall_odio']} / {u['precision_odio']} |
| Falsas alarmas en frases inclusivas sobre raza (DignityAI-Racismo) | **{pct(er['sinodio_falsas_alarmas_en_contraste'])}** | {pct(er['uba_falsas_alarmas_en_contraste'])} |
| Falsas alarmas en frases inclusivas sobre clase (DignityAI-Clasismo) | **{pct(ec['sinodio_falsas_alarmas_en_contraste'])}** | {pct(ec['uba_falsas_alarmas_en_contraste'])} |

Funcionalidades de HateCheck donde más falla: {", ".join(f"`{k}` ({pct(v)})" for k, v in list(s['peores_funcionalidades'].items())[:4])}.

**Uso recomendado:** demos y exploración con revisión humana. Marca como odio muchas frases que solo **mencionan** un grupo (por ejemplo, frases antirracistas o a favor de la inclusión), así que no lo uses para moderar automáticamente. Las etiquetas de su dataset de entrenamiento resultaron poco confiables; detalles en [DignityAI-Validacion]({VAL}).

```python
from transformers import pipeline
clf = pipeline("text-classification", model="antonn-dromundo/SinOdio-BETO-HateSpeech-Detector-v3")
clf("Los inmigrantes enriquecen nuestra cultura")
```

---

## Ficha original (noviembre 2025)

"""
    body = orig.split("---", 2)[2] if orig.startswith("---") else orig
    return head + body

if __name__ == "__main__":
    import os; os.makedirs("fichas", exist_ok=True)
    open("fichas/racismo.md", "w").write(ficha_propia("racismo", "DignityAI-Racismo-LATAM", "https://github.com/antuansabe/DignityAI-Racismo-LATAM", RR, "discriminación racial", "racismo"))
    open("fichas/clasismo.md", "w").write(ficha_propia("clasismo", "DignityAI-Clasismo-LATAM", "https://github.com/antuansabe/DignityAI-Classism-LATAM", RC, "clasismo", "clasismo"))
    open("fichas/machismo.md", "w").write(ficha_machismo())
    open("fichas/sinodio_latam.md", "w").write(ficha_sinodio())
    open("fichas/modelo_v3.md", "w").write(ficha_modelo(open("hf_cards/SinOdio-BETO-HateSpeech-Detector-v3/README.md").read()))
    print("ok")