| """Kit de validación humana: 240 textos mezclados sin etiqueta + clave aparte + guía.""" |
| import pandas as pd |
|
|
| R = {"racismo": pd.read_parquet("racismo/v1.1/completo.parquet"), "clasismo": pd.read_parquet("clasismo/v1.1/completo.parquet"), |
| "machismo": pd.read_parquet("v11/machismodetect/completo.parquet"), "sinodio": pd.read_parquet("v11/sinodio_latam/completo.parquet")} |
| rows = [] |
| for k, d in R.items(): |
| for lab, n in [(1, 40), (0, 20)]: |
| s = d[d.etiqueta == lab].sample(n, random_state=2026) |
| rows += [(k, lab, t, p) for t, p in zip(s.texto, s.pais)] |
| df = pd.DataFrame(rows, columns=["dataset", "etiqueta", "texto", "pais"]).sample(frac=1, random_state=1).reset_index(drop=True) |
| df["id"] = [f"K{i:03d}" for i in range(len(df))] |
| df[["id", "texto", "pais"]].assign(es_discriminatorio="", grupo_afectado="", depende_del_contexto="", comentario="").to_csv("kit/kit_validacion_humana.csv", index=False) |
| df[["id", "dataset", "etiqueta"]].to_csv("kit/clave/clave_kit.csv", index=False) |
| print(len(df)) |
|
|
