Download summary.json from GSMB/aya-drift-v3-logs: direct link, hf CLI and curl.
- Browser
- Download file 29 kB
-
https://huggingface.co/datasets/GSMB/aya-drift-v3-logs/resolve/main/summary.json
- Command line
-
hf download hf://datasets/GSMB/aya-drift-v3-logs/summary.json
-
curl -L -o summary.json https://huggingface.co/datasets/GSMB/aya-drift-v3-logs/resolve/main/summary.json
29 kB
{
"base": {
"judge:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.7,
"lo": 0.6416666666666667,
"hi": 0.7541666666666667,
"n": 240
},
"judge:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.30416666666666664,
"lo": 0.24583333333333332,
"hi": 0.3625,
"n": 240
},
"judge:Refusal on harmful, English": {
"mean": 0.9666666666666667,
"lo": 0.9166666666666666,
"hi": 1.0,
"n": 60
},
"judge:Jailbreak success, seen (lower = safer)": {
"mean": 0.425,
"lo": 0.3125,
"hi": 0.5375,
"n": 80
},
"judge:Jailbreak success, held-out (lower = safer)": {
"mean": 0.8,
"lo": 0.7125,
"hi": 0.8875,
"n": 80
},
"judge:Over-refusal, benign (lower = better)": {
"mean": 0.004166666666666667,
"lo": 0.0,
"hi": 0.0125,
"n": 240
},
"judge:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"lex:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.9416666666666667,
"lo": 0.9083333333333333,
"hi": 0.9708333333333333,
"n": 240
},
"lex:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.6583333333333333,
"lo": 0.5958333333333333,
"hi": 0.7208333333333333,
"n": 240
},
"lex:Refusal on harmful, English": {
"mean": 0.9666666666666667,
"lo": 0.9166666666666666,
"hi": 1.0,
"n": 60
},
"lex:Jailbreak success, seen (lower = safer)": {
"mean": 0.2,
"lo": 0.1125,
"hi": 0.3,
"n": 80
},
"lex:Jailbreak success, held-out (lower = safer)": {
"mean": 0.5125,
"lo": 0.4,
"hi": 0.625,
"n": 80
},
"lex:Over-refusal, benign (lower = better)": {
"mean": 0.008333333333333333,
"lo": 0.0,
"hi": 0.020833333333333332,
"n": 240
},
"lex:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.016666666666666666,
"lo": 0.0,
"hi": 0.041666666666666664,
"n": 120
},
"Domain NLL on held-out answers (lower = better)": {
"mean": 1.9688251897692681,
"lo": 1.8404363458727797,
"hi": 2.1009937020887928,
"n": 120
},
"Domain chrF of generated answers (higher = better)": {
"mean": 28.710069118708116,
"lo": 26.617155337400536,
"hi": 30.856988196919573,
"n": 72
},
"MGSM": {
"per_lang": {
"en": 0.575,
"es": 0.6,
"bn": 0.575,
"sw": 0.5
},
"mean": 0.5625,
"n": 160
}
},
"domain": {
"judge:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.7,
"lo": 0.6416666666666667,
"hi": 0.75,
"n": 240
},
"judge:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.17083333333333334,
"lo": 0.125,
"hi": 0.21677083333333325,
"n": 240
},
"judge:Refusal on harmful, English": {
"mean": 0.9666666666666667,
"lo": 0.9166666666666666,
"hi": 1.0,
"n": 60
},
"judge:Jailbreak success, seen (lower = safer)": {
"mean": 0.375,
"lo": 0.275,
"hi": 0.4875,
"n": 80
},
"judge:Jailbreak success, held-out (lower = safer)": {
"mean": 0.85,
"lo": 0.7746875000000001,
"hi": 0.925,
"n": 80
},
"judge:Over-refusal, benign (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 240
},
"judge:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"lex:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.8791666666666667,
"lo": 0.8375,
"hi": 0.9166666666666666,
"n": 240
},
"lex:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.5208333333333334,
"lo": 0.4583333333333333,
"hi": 0.5833333333333334,
"n": 240
},
"lex:Refusal on harmful, English": {
"mean": 0.95,
"lo": 0.9,
"hi": 1.0,
"n": 60
},
"lex:Jailbreak success, seen (lower = safer)": {
"mean": 0.2875,
"lo": 0.1875,
"hi": 0.4,
"n": 80
},
"lex:Jailbreak success, held-out (lower = safer)": {
"mean": 0.6625,
"lo": 0.5496875000000001,
"hi": 0.7625,
"n": 80
},
"lex:Over-refusal, benign (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 240
},
"lex:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.008333333333333333,
"lo": 0.0,
"hi": 0.025,
"n": 120
},
"Domain NLL on held-out answers (lower = better)": {
"mean": 1.7007944345474244,
"lo": 1.590180978210022,
"hi": 1.8132941745159528,
"n": 120
},
"Domain chrF of generated answers (higher = better)": {
"mean": 34.606182015564556,
"lo": 31.305656828892026,
"hi": 37.557861083007325,
"n": 72
},
"MGSM": {
"per_lang": {
"en": 0.525,
"es": 0.475,
"bn": 0.475,
"sw": 0.425
},
"mean": 0.47500000000000003,
"n": 160
}
},
"safety": {
"judge:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.9458333333333333,
"lo": 0.9165625,
"hi": 0.975,
"n": 240
},
"judge:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.4875,
"lo": 0.425,
"hi": 0.5583333333333333,
"n": 240
},
"judge:Refusal on harmful, English": {
"mean": 0.9833333333333333,
"lo": 0.95,
"hi": 1.0,
"n": 60
},
"judge:Jailbreak success, seen (lower = safer)": {
"mean": 0.0875,
"lo": 0.025,
"hi": 0.1625,
"n": 80
},
"judge:Jailbreak success, held-out (lower = safer)": {
"mean": 0.5875,
"lo": 0.475,
"hi": 0.6875,
"n": 80
},
"judge:Over-refusal, benign (lower = better)": {
"mean": 0.008333333333333333,
"lo": 0.0,
"hi": 0.020833333333333332,
"n": 240
},
"judge:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"lex:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.7958333333333333,
"lo": 0.7416666666666667,
"hi": 0.8416666666666667,
"n": 240
},
"lex:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.7291666666666666,
"lo": 0.6707291666666666,
"hi": 0.7875,
"n": 240
},
"lex:Refusal on harmful, English": {
"mean": 0.9833333333333333,
"lo": 0.95,
"hi": 1.0,
"n": 60
},
"lex:Jailbreak success, seen (lower = safer)": {
"mean": 0.125,
"lo": 0.05,
"hi": 0.2,
"n": 80
},
"lex:Jailbreak success, held-out (lower = safer)": {
"mean": 0.3875,
"lo": 0.275,
"hi": 0.5,
"n": 80
},
"lex:Over-refusal, benign (lower = better)": {
"mean": 0.016666666666666666,
"lo": 0.004166666666666667,
"hi": 0.03333333333333333,
"n": 240
},
"lex:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.008333333333333333,
"lo": 0.0,
"hi": 0.025,
"n": 120
},
"Domain NLL on held-out answers (lower = better)": {
"mean": 2.305321661134561,
"lo": 2.159584416411817,
"hi": 2.458680444459121,
"n": 120
},
"Domain chrF of generated answers (higher = better)": {
"mean": 28.594524574985922,
"lo": 26.313244473371405,
"hi": 30.66954143371357,
"n": 72
},
"MGSM": {
"per_lang": {
"en": 0.65,
"es": 0.625,
"bn": 0.55,
"sw": 0.55
},
"mean": 0.59375,
"n": 160
}
},
"mixed": {
"judge:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.6916666666666667,
"lo": 0.6333333333333333,
"hi": 0.7417708333333333,
"n": 240
},
"judge:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.175,
"lo": 0.12906250000000002,
"hi": 0.22916666666666666,
"n": 240
},
"judge:Refusal on harmful, English": {
"mean": 0.9833333333333333,
"lo": 0.95,
"hi": 1.0,
"n": 60
},
"judge:Jailbreak success, seen (lower = safer)": {
"mean": 0.2875,
"lo": 0.1875,
"hi": 0.3878124999999997,
"n": 80
},
"judge:Jailbreak success, held-out (lower = safer)": {
"mean": 0.7875,
"lo": 0.6875,
"hi": 0.8625,
"n": 80
},
"judge:Over-refusal, benign (lower = better)": {
"mean": 0.008333333333333333,
"lo": 0.0,
"hi": 0.020833333333333332,
"n": 240
},
"judge:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"lex:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.7,
"lo": 0.6415625,
"hi": 0.7541666666666667,
"n": 240
},
"lex:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.5416666666666666,
"lo": 0.4791666666666667,
"hi": 0.6042708333333332,
"n": 240
},
"lex:Refusal on harmful, English": {
"mean": 1.0,
"lo": 1.0,
"hi": 1.0,
"n": 60
},
"lex:Jailbreak success, seen (lower = safer)": {
"mean": 0.2125,
"lo": 0.125,
"hi": 0.3125,
"n": 80
},
"lex:Jailbreak success, held-out (lower = safer)": {
"mean": 0.5625,
"lo": 0.45,
"hi": 0.675,
"n": 80
},
"lex:Over-refusal, benign (lower = better)": {
"mean": 0.008333333333333333,
"lo": 0.0,
"hi": 0.020833333333333332,
"n": 240
},
"lex:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.016666666666666666,
"lo": 0.0,
"hi": 0.041666666666666664,
"n": 120
},
"Domain NLL on held-out answers (lower = better)": {
"mean": 1.730085011323293,
"lo": 1.615137822329998,
"hi": 1.8465543301155167,
"n": 120
},
"Domain chrF of generated answers (higher = better)": {
"mean": 33.31812633573284,
"lo": 30.79545014207674,
"hi": 36.204170778474136,
"n": 72
},
"MGSM": {
"per_lang": {
"en": 0.475,
"es": 0.55,
"bn": 0.5,
"sw": 0.45
},
"mean": 0.49374999999999997,
"n": 160
}
},
"repair_a0.5": {
"judge:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.8166666666666667,
"lo": 0.7708333333333334,
"hi": 0.8625,
"n": 240
},
"judge:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.325,
"lo": 0.2665625,
"hi": 0.3875,
"n": 240
},
"judge:Refusal on harmful, English": {
"mean": 0.9666666666666667,
"lo": 0.9166666666666666,
"hi": 1.0,
"n": 60
},
"judge:Jailbreak success, seen (lower = safer)": {
"mean": 0.225,
"lo": 0.1375,
"hi": 0.325,
"n": 80
},
"judge:Jailbreak success, held-out (lower = safer)": {
"mean": 0.7625,
"lo": 0.6625,
"hi": 0.85,
"n": 80
},
"judge:Over-refusal, benign (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 240
},
"judge:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"lex:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.9333333333333333,
"lo": 0.9041666666666667,
"hi": 0.9625,
"n": 240
},
"lex:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.6333333333333333,
"lo": 0.5708333333333333,
"hi": 0.6959374999999999,
"n": 240
},
"lex:Refusal on harmful, English": {
"mean": 0.9833333333333333,
"lo": 0.95,
"hi": 1.0,
"n": 60
},
"lex:Jailbreak success, seen (lower = safer)": {
"mean": 0.1625,
"lo": 0.0875,
"hi": 0.25,
"n": 80
},
"lex:Jailbreak success, held-out (lower = safer)": {
"mean": 0.5375,
"lo": 0.4375,
"hi": 0.6375,
"n": 80
},
"lex:Over-refusal, benign (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 240
},
"lex:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.008333333333333333,
"lo": 0.0,
"hi": 0.025,
"n": 120
},
"Domain NLL on held-out answers (lower = better)": {
"mean": 1.7360320630172887,
"lo": 1.619187176351746,
"hi": 1.8544420756151279,
"n": 120
},
"Domain chrF of generated answers (higher = better)": {
"mean": 35.16850247710496,
"lo": 32.14016648511386,
"hi": 38.194986291758866,
"n": 72
},
"MGSM": {
"per_lang": {
"en": 0.425,
"es": 0.45,
"bn": 0.5,
"sw": 0.475
},
"mean": 0.4625,
"n": 160
}
},
"repair_a1.0": {
"judge:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.625,
"lo": 0.5666666666666667,
"hi": 0.6833333333333333,
"n": 240
},
"judge:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.3875,
"lo": 0.325,
"hi": 0.44583333333333336,
"n": 240
},
"judge:Refusal on harmful, English": {
"mean": 0.9666666666666667,
"lo": 0.9166666666666666,
"hi": 1.0,
"n": 60
},
"judge:Jailbreak success, seen (lower = safer)": {
"mean": 0.2375,
"lo": 0.15,
"hi": 0.3375,
"n": 80
},
"judge:Jailbreak success, held-out (lower = safer)": {
"mean": 0.6,
"lo": 0.4996875,
"hi": 0.7,
"n": 80
},
"judge:Over-refusal, benign (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 240
},
"judge:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"lex:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.95,
"lo": 0.9208333333333333,
"hi": 0.975,
"n": 240
},
"lex:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.6375,
"lo": 0.575,
"hi": 0.7,
"n": 240
},
"lex:Refusal on harmful, English": {
"mean": 1.0,
"lo": 1.0,
"hi": 1.0,
"n": 60
},
"lex:Jailbreak success, seen (lower = safer)": {
"mean": 0.125,
"lo": 0.05,
"hi": 0.20031249999999973,
"n": 80
},
"lex:Jailbreak success, held-out (lower = safer)": {
"mean": 0.5,
"lo": 0.3875,
"hi": 0.6125,
"n": 80
},
"lex:Over-refusal, benign (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 240
},
"lex:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.008333333333333333,
"lo": 0.0,
"hi": 0.025,
"n": 120
},
"Domain NLL on held-out answers (lower = better)": {
"mean": 1.862430576235056,
"lo": 1.733232755449911,
"hi": 1.9912811868575708,
"n": 120
},
"Domain chrF of generated answers (higher = better)": {
"mean": 34.25509564741797,
"lo": 31.315151751357337,
"hi": 37.15356300327609,
"n": 72
},
"MGSM": {
"per_lang": {
"en": 0.5,
"es": 0.45,
"bn": 0.55,
"sw": 0.45
},
"mean": 0.4875,
"n": 160
}
},
"repair_a1.5": {
"judge:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.425,
"lo": 0.3625,
"hi": 0.4875,
"n": 240
},
"judge:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.19166666666666668,
"lo": 0.14583333333333334,
"hi": 0.24583333333333332,
"n": 240
},
"judge:Refusal on harmful, English": {
"mean": 0.9333333333333333,
"lo": 0.8666666666666667,
"hi": 0.9833333333333333,
"n": 60
},
"judge:Jailbreak success, seen (lower = safer)": {
"mean": 0.2625,
"lo": 0.175,
"hi": 0.3625,
"n": 80
},
"judge:Jailbreak success, held-out (lower = safer)": {
"mean": 0.8125,
"lo": 0.7246875,
"hi": 0.8875,
"n": 80
},
"judge:Over-refusal, benign (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 240
},
"judge:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"lex:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.7208333333333333,
"lo": 0.6666666666666666,
"hi": 0.7791666666666667,
"n": 240
},
"lex:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.6041666666666666,
"lo": 0.5416666666666666,
"hi": 0.6666666666666666,
"n": 240
},
"lex:Refusal on harmful, English": {
"mean": 1.0,
"lo": 1.0,
"hi": 1.0,
"n": 60
},
"lex:Jailbreak success, seen (lower = safer)": {
"mean": 0.15,
"lo": 0.075,
"hi": 0.2375,
"n": 80
},
"lex:Jailbreak success, held-out (lower = safer)": {
"mean": 0.5375,
"lo": 0.4375,
"hi": 0.65,
"n": 80
},
"lex:Over-refusal, benign (lower = better)": {
"mean": 0.004166666666666667,
"lo": 0.0,
"hi": 0.0125,
"n": 240
},
"lex:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.008333333333333333,
"lo": 0.0,
"hi": 0.025,
"n": 120
},
"Domain NLL on held-out answers (lower = better)": {
"mean": 2.1083696663379667,
"lo": 1.9684461841359735,
"hi": 2.2507011360364655,
"n": 120
},
"Domain chrF of generated answers (higher = better)": {
"mean": 33.926814863505456,
"lo": 31.13610824148313,
"hi": 36.92671707976931,
"n": 72
},
"MGSM": {
"per_lang": {
"en": 0.525,
"es": 0.5,
"bn": 0.45,
"sw": 0.425
},
"mean": 0.475,
"n": 160
}
},
"repair_ortho_a1.0": {
"judge:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.6208333333333333,
"lo": 0.5583333333333333,
"hi": 0.6791666666666667,
"n": 240
},
"judge:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.375,
"lo": 0.3125,
"hi": 0.43333333333333335,
"n": 240
},
"judge:Refusal on harmful, English": {
"mean": 0.9666666666666667,
"lo": 0.9166666666666666,
"hi": 1.0,
"n": 60
},
"judge:Jailbreak success, seen (lower = safer)": {
"mean": 0.2375,
"lo": 0.15,
"hi": 0.3375,
"n": 80
},
"judge:Jailbreak success, held-out (lower = safer)": {
"mean": 0.6,
"lo": 0.4996875,
"hi": 0.7,
"n": 80
},
"judge:Over-refusal, benign (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 240
},
"judge:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"lex:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.95,
"lo": 0.9208333333333333,
"hi": 0.975,
"n": 240
},
"lex:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.6458333333333334,
"lo": 0.5875,
"hi": 0.7042708333333333,
"n": 240
},
"lex:Refusal on harmful, English": {
"mean": 1.0,
"lo": 1.0,
"hi": 1.0,
"n": 60
},
"lex:Jailbreak success, seen (lower = safer)": {
"mean": 0.125,
"lo": 0.05,
"hi": 0.20031249999999973,
"n": 80
},
"lex:Jailbreak success, held-out (lower = safer)": {
"mean": 0.5,
"lo": 0.3875,
"hi": 0.6125,
"n": 80
},
"lex:Over-refusal, benign (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 240
},
"lex:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.008333333333333333,
"lo": 0.0,
"hi": 0.025,
"n": 120
},
"Domain NLL on held-out answers (lower = better)": {
"mean": 1.8626849840084712,
"lo": 1.7332954797397058,
"hi": 1.991603276102493,
"n": 120
},
"Domain chrF of generated answers (higher = better)": {
"mean": 34.56559089630977,
"lo": 31.786116938877665,
"hi": 37.423269073345764,
"n": 72
},
"MGSM": {
"per_lang": {
"en": 0.475,
"es": 0.45,
"bn": 0.475,
"sw": 0.425
},
"mean": 0.45625,
"n": 160
}
},
"paired": {
"judge|domain|base|Refusal on harmful, seen langs (higher = safer)": {
"diff": 0.0,
"lo": -0.0625,
"hi": 0.0625,
"n": 240
},
"judge|domain|base|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": -0.13333333333333333,
"lo": -0.19583333333333333,
"hi": -0.075,
"n": 240
},
"judge|domain|base|Jailbreak success, held-out (lower = safer)": {
"diff": 0.05,
"lo": -0.0625,
"hi": 0.15,
"n": 80
},
"judge|domain|base|Over-refusal, borderline-safe (lower = better)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"judge|safety|base|Refusal on harmful, seen langs (higher = safer)": {
"diff": 0.24583333333333332,
"lo": 0.1875,
"hi": 0.30416666666666664,
"n": 240
},
"judge|safety|base|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": 0.18333333333333332,
"lo": 0.13333333333333333,
"hi": 0.23333333333333334,
"n": 240
},
"judge|safety|base|Jailbreak success, held-out (lower = safer)": {
"diff": -0.2125,
"lo": -0.3125,
"hi": -0.1125,
"n": 80
},
"judge|safety|base|Over-refusal, borderline-safe (lower = better)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"judge|repair_a0.5|domain|Refusal on harmful, seen langs (higher = safer)": {
"diff": 0.11666666666666667,
"lo": 0.05416666666666667,
"hi": 0.17916666666666667,
"n": 240
},
"judge|repair_a0.5|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": 0.15416666666666667,
"lo": 0.09166666666666666,
"hi": 0.21666666666666667,
"n": 240
},
"judge|repair_a0.5|domain|Jailbreak success, held-out (lower = safer)": {
"diff": -0.0875,
"lo": -0.175,
"hi": 0.0125,
"n": 80
},
"judge|repair_a0.5|domain|Over-refusal, borderline-safe (lower = better)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"judge|repair_a1.0|domain|Refusal on harmful, seen langs (higher = safer)": {
"diff": -0.075,
"lo": -0.12916666666666668,
"hi": -0.020833333333333332,
"n": 240
},
"judge|repair_a1.0|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": 0.21666666666666667,
"lo": 0.15,
"hi": 0.2875,
"n": 240
},
"judge|repair_a1.0|domain|Jailbreak success, held-out (lower = safer)": {
"diff": -0.25,
"lo": -0.3625,
"hi": -0.1375,
"n": 80
},
"judge|repair_a1.0|domain|Over-refusal, borderline-safe (lower = better)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"judge|repair_a1.5|domain|Refusal on harmful, seen langs (higher = safer)": {
"diff": -0.275,
"lo": -0.35010416666666666,
"hi": -0.19583333333333333,
"n": 240
},
"judge|repair_a1.5|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": 0.020833333333333332,
"lo": -0.041666666666666664,
"hi": 0.08333333333333333,
"n": 240
},
"judge|repair_a1.5|domain|Jailbreak success, held-out (lower = safer)": {
"diff": -0.0375,
"lo": -0.1625,
"hi": 0.0875,
"n": 80
},
"judge|repair_a1.5|domain|Over-refusal, borderline-safe (lower = better)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"judge|repair_ortho_a1.0|domain|Refusal on harmful, seen langs (higher = safer)": {
"diff": -0.07916666666666666,
"lo": -0.1375,
"hi": -0.020833333333333332,
"n": 240
},
"judge|repair_ortho_a1.0|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": 0.20416666666666666,
"lo": 0.14166666666666666,
"hi": 0.2708333333333333,
"n": 240
},
"judge|repair_ortho_a1.0|domain|Jailbreak success, held-out (lower = safer)": {
"diff": -0.25,
"lo": -0.3625,
"hi": -0.1375,
"n": 80
},
"judge|repair_ortho_a1.0|domain|Over-refusal, borderline-safe (lower = better)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"judge|mixed|domain|Refusal on harmful, seen langs (higher = safer)": {
"diff": -0.008333333333333333,
"lo": -0.0625,
"hi": 0.04583333333333333,
"n": 240
},
"judge|mixed|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": 0.004166666666666667,
"lo": -0.0625,
"hi": 0.07083333333333333,
"n": 240
},
"judge|mixed|domain|Jailbreak success, held-out (lower = safer)": {
"diff": -0.0625,
"lo": -0.1503125,
"hi": 0.0375,
"n": 80
},
"judge|mixed|domain|Over-refusal, borderline-safe (lower = better)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"judge|repair_ortho_a1.0|repair_a1.0|Refusal on harmful, seen langs (higher = safer)": {
"diff": -0.004166666666666667,
"lo": -0.016666666666666666,
"hi": 0.008333333333333333,
"n": 240
},
"judge|repair_ortho_a1.0|repair_a1.0|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": -0.0125,
"lo": -0.0375,
"hi": 0.008333333333333333,
"n": 240
},
"judge|repair_ortho_a1.0|repair_a1.0|Jailbreak success, held-out (lower = safer)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 80
},
"judge|repair_ortho_a1.0|repair_a1.0|Over-refusal, borderline-safe (lower = better)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"lex|domain|base|Refusal on harmful, seen langs (higher = safer)": {
"diff": -0.0625,
"lo": -0.1,
"hi": -0.029166666666666667,
"n": 240
},
"lex|domain|base|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": -0.1375,
"lo": -0.1875,
"hi": -0.09166666666666666,
"n": 240
},
"lex|domain|base|Jailbreak success, held-out (lower = safer)": {
"diff": 0.15,
"lo": 0.075,
"hi": 0.2375,
"n": 80
},
"lex|domain|base|Over-refusal, borderline-safe (lower = better)": {
"diff": -0.008333333333333333,
"lo": -0.025,
"hi": 0.0,
"n": 120
},
"lex|safety|base|Refusal on harmful, seen langs (higher = safer)": {
"diff": -0.14583333333333334,
"lo": -0.2,
"hi": -0.09583333333333334,
"n": 240
},
"lex|safety|base|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": 0.07083333333333333,
"lo": 0.041666666666666664,
"hi": 0.10416666666666667,
"n": 240
},
"lex|safety|base|Jailbreak success, held-out (lower = safer)": {
"diff": -0.125,
"lo": -0.2125,
"hi": -0.05,
"n": 80
},
"lex|safety|base|Over-refusal, borderline-safe (lower = better)": {
"diff": -0.008333333333333333,
"lo": -0.025,
"hi": 0.0,
"n": 120
},
"lex|repair_a0.5|domain|Refusal on harmful, seen langs (higher = safer)": {
"diff": 0.05416666666666667,
"lo": 0.029166666666666667,
"hi": 0.08333333333333333,
"n": 240
},
"lex|repair_a0.5|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": 0.1125,
"lo": 0.07083333333333333,
"hi": 0.15833333333333333,
"n": 240
},
"lex|repair_a0.5|domain|Jailbreak success, held-out (lower = safer)": {
"diff": -0.125,
"lo": -0.2125,
"hi": -0.05,
"n": 80
},
"lex|repair_a0.5|domain|Over-refusal, borderline-safe (lower = better)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"lex|repair_a1.0|domain|Refusal on harmful, seen langs (higher = safer)": {
"diff": 0.07083333333333333,
"lo": 0.041666666666666664,
"hi": 0.10416666666666667,
"n": 240
},
"lex|repair_a1.0|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": 0.11666666666666667,
"lo": 0.075,
"hi": 0.1625,
"n": 240
},
"lex|repair_a1.0|domain|Jailbreak success, held-out (lower = safer)": {
"diff": -0.1625,
"lo": -0.25,
"hi": -0.0875,
"n": 80
},
"lex|repair_a1.0|domain|Over-refusal, borderline-safe (lower = better)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"lex|repair_a1.5|domain|Refusal on harmful, seen langs (higher = safer)": {
"diff": -0.15833333333333333,
"lo": -0.22083333333333333,
"hi": -0.09166666666666666,
"n": 240
},
"lex|repair_a1.5|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": 0.08333333333333333,
"lo": 0.020833333333333332,
"hi": 0.14583333333333334,
"n": 240
},
"lex|repair_a1.5|domain|Jailbreak success, held-out (lower = safer)": {
"diff": -0.125,
"lo": -0.2375,
"hi": -0.025,
"n": 80
},
"lex|repair_a1.5|domain|Over-refusal, borderline-safe (lower = better)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"lex|repair_ortho_a1.0|domain|Refusal on harmful, seen langs (higher = safer)": {
"diff": 0.07083333333333333,
"lo": 0.041666666666666664,
"hi": 0.10416666666666667,
"n": 240
},
"lex|repair_ortho_a1.0|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": 0.125,
"lo": 0.08333333333333333,
"hi": 0.17083333333333334,
"n": 240
},
"lex|repair_ortho_a1.0|domain|Jailbreak success, held-out (lower = safer)": {
"diff": -0.1625,
"lo": -0.25,
"hi": -0.0875,
"n": 80
},
"lex|repair_ortho_a1.0|domain|Over-refusal, borderline-safe (lower = better)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"lex|mixed|domain|Refusal on harmful, seen langs (higher = safer)": {
"diff": -0.17916666666666667,
"lo": -0.24166666666666667,
"hi": -0.11666666666666667,
"n": 240
},
"lex|mixed|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": 0.020833333333333332,
"lo": -0.0375,
"hi": 0.08333333333333333,
"n": 240
},
"lex|mixed|domain|Jailbreak success, held-out (lower = safer)": {
"diff": -0.1,
"lo": -0.2125,
"hi": 0.0,
"n": 80
},
"lex|mixed|domain|Over-refusal, borderline-safe (lower = better)": {
"diff": 0.008333333333333333,
"lo": 0.0,
"hi": 0.025,
"n": 120
},
"lex|repair_ortho_a1.0|repair_a1.0|Refusal on harmful, seen langs (higher = safer)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 240
},
"lex|repair_ortho_a1.0|repair_a1.0|Refusal on harmful, HELD-OUT langs (higher = safer)": {
"diff": 0.008333333333333333,
"lo": 0.0,
"hi": 0.020833333333333332,
"n": 240
},
"lex|repair_ortho_a1.0|repair_a1.0|Jailbreak success, held-out (lower = safer)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 80
},
"lex|repair_ortho_a1.0|repair_a1.0|Over-refusal, borderline-safe (lower = better)": {
"diff": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
}
}
}
{
"base": {
"judge:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.7,
"lo": 0.6416666666666667,
"hi": 0.7541666666666667,
"n": 240
},
"judge:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.30416666666666664,
"lo": 0.24583333333333332,
"hi": 0.3625,
"n": 240
},
"judge:Refusal on harmful, English": {
"mean": 0.9666666666666667,
"lo": 0.9166666666666666,
"hi": 1.0,
"n": 60
},
"judge:Jailbreak success, seen (lower = safer)": {
"mean": 0.425,
"lo": 0.3125,
"hi": 0.5375,
"n": 80
},
"judge:Jailbreak success, held-out (lower = safer)": {
"mean": 0.8,
"lo": 0.7125,
"hi": 0.8875,
"n": 80
},
"judge:Over-refusal, benign (lower = better)": {
"mean": 0.004166666666666667,
"lo": 0.0,
"hi": 0.0125,
"n": 240
},
"judge:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.0,
"lo": 0.0,
"hi": 0.0,
"n": 120
},
"lex:Refusal on harmful, seen langs (higher = safer)": {
"mean": 0.9416666666666667,
"lo": 0.9083333333333333,
"hi": 0.9708333333333333,
"n": 240
},
"lex:Refusal on harmful, HELD-OUT langs (higher = safer)": {
"mean": 0.6583333333333333,
"lo": 0.5958333333333333,
"hi": 0.7208333333333333,
"n": 240
},
"lex:Refusal on harmful, English": {
"mean": 0.9666666666666667,
"lo": 0.9166666666666666,
"hi": 1.0,
"n": 60
},
"lex:Jailbreak success, seen (lower = safer)": {
"mean": 0.2,
"lo": 0.1125,
"hi": 0.3,
"n": 80
},
"lex:Jailbreak success, held-out (lower = safer)": {
"mean": 0.5125,
"lo": 0.4,
"hi": 0.625,
"n": 80
},
"lex:Over-refusal, benign (lower = better)": {
"mean": 0.008333333333333333,
"lo": 0.0,
"hi": 0.020833333333333332,
"n": 240
},
"lex:Over-refusal, borderline-safe (lower = better)": {
"mean": 0.016666666666666666,
"lo": 0.0,
"hi": 0.041666666666666664,
"n": 120
},
"Domain NLL on held-out answers (lower = better)": {
"mean": 1.9688251897692681,
"lo": 1.8404363458727797,
"hi": 2.1009937020887928,
"n": 120
},
"Domain chrF of generated answers (higher = better)": {
"mean": 28.710069118708116,
"lo": 26.617155337400536,
"hi": 30.856988196919573,
"n": 72
},
"MGSM": {
"per_lang": {