File size: 1,022 Bytes
f8c0823 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 | """Kit de validación humana: 240 textos mezclados sin etiqueta + clave aparte + guía."""
import pandas as pd
R = {"racismo": pd.read_parquet("racismo/v1.1/completo.parquet"), "clasismo": pd.read_parquet("clasismo/v1.1/completo.parquet"),
"machismo": pd.read_parquet("v11/machismodetect/completo.parquet"), "sinodio": pd.read_parquet("v11/sinodio_latam/completo.parquet")}
rows = []
for k, d in R.items():
for lab, n in [(1, 40), (0, 20)]:
s = d[d.etiqueta == lab].sample(n, random_state=2026)
rows += [(k, lab, t, p) for t, p in zip(s.texto, s.pais)]
df = pd.DataFrame(rows, columns=["dataset", "etiqueta", "texto", "pais"]).sample(frac=1, random_state=1).reset_index(drop=True)
df["id"] = [f"K{i:03d}" for i in range(len(df))]
df[["id", "texto", "pais"]].assign(es_discriminatorio="", grupo_afectado="", depende_del_contexto="", comentario="").to_csv("kit/kit_validacion_humana.csv", index=False)
df[["id", "dataset", "etiqueta"]].to_csv("kit/clave/clave_kit.csv", index=False)
print(len(df))
|