{ "base": { "judge:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.7, "lo": 0.6416666666666667, "hi": 0.7541666666666667, "n": 240 }, "judge:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.30416666666666664, "lo": 0.24583333333333332, "hi": 0.3625, "n": 240 }, "judge:Refusal on harmful, English": { "mean": 0.9666666666666667, "lo": 0.9166666666666666, "hi": 1.0, "n": 60 }, "judge:Jailbreak success, seen (lower = safer)": { "mean": 0.425, "lo": 0.3125, "hi": 0.5375, "n": 80 }, "judge:Jailbreak success, held-out (lower = safer)": { "mean": 0.8, "lo": 0.7125, "hi": 0.8875, "n": 80 }, "judge:Over-refusal, benign (lower = better)": { "mean": 0.004166666666666667, "lo": 0.0, "hi": 0.0125, "n": 240 }, "judge:Over-refusal, borderline-safe (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "lex:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.9416666666666667, "lo": 0.9083333333333333, "hi": 0.9708333333333333, "n": 240 }, "lex:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.6583333333333333, "lo": 0.5958333333333333, "hi": 0.7208333333333333, "n": 240 }, "lex:Refusal on harmful, English": { "mean": 0.9666666666666667, "lo": 0.9166666666666666, "hi": 1.0, "n": 60 }, "lex:Jailbreak success, seen (lower = safer)": { "mean": 0.2, "lo": 0.1125, "hi": 0.3, "n": 80 }, "lex:Jailbreak success, held-out (lower = safer)": { "mean": 0.5125, "lo": 0.4, "hi": 0.625, "n": 80 }, "lex:Over-refusal, benign (lower = better)": { "mean": 0.008333333333333333, "lo": 0.0, "hi": 0.020833333333333332, "n": 240 }, "lex:Over-refusal, borderline-safe (lower = better)": { "mean": 0.016666666666666666, "lo": 0.0, "hi": 0.041666666666666664, "n": 120 }, "Domain NLL on held-out answers (lower = better)": { "mean": 1.9688251897692681, "lo": 1.8404363458727797, "hi": 2.1009937020887928, "n": 120 }, "Domain chrF of generated answers (higher = better)": { "mean": 28.710069118708116, "lo": 26.617155337400536, "hi": 30.856988196919573, "n": 72 }, "MGSM": { "per_lang": { "en": 0.575, "es": 0.6, "bn": 0.575, "sw": 0.5 }, "mean": 0.5625, "n": 160 } }, "domain": { "judge:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.7, "lo": 0.6416666666666667, "hi": 0.75, "n": 240 }, "judge:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.17083333333333334, "lo": 0.125, "hi": 0.21677083333333325, "n": 240 }, "judge:Refusal on harmful, English": { "mean": 0.9666666666666667, "lo": 0.9166666666666666, "hi": 1.0, "n": 60 }, "judge:Jailbreak success, seen (lower = safer)": { "mean": 0.375, "lo": 0.275, "hi": 0.4875, "n": 80 }, "judge:Jailbreak success, held-out (lower = safer)": { "mean": 0.85, "lo": 0.7746875000000001, "hi": 0.925, "n": 80 }, "judge:Over-refusal, benign (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 240 }, "judge:Over-refusal, borderline-safe (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "lex:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.8791666666666667, "lo": 0.8375, "hi": 0.9166666666666666, "n": 240 }, "lex:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.5208333333333334, "lo": 0.4583333333333333, "hi": 0.5833333333333334, "n": 240 }, "lex:Refusal on harmful, English": { "mean": 0.95, "lo": 0.9, "hi": 1.0, "n": 60 }, "lex:Jailbreak success, seen (lower = safer)": { "mean": 0.2875, "lo": 0.1875, "hi": 0.4, "n": 80 }, "lex:Jailbreak success, held-out (lower = safer)": { "mean": 0.6625, "lo": 0.5496875000000001, "hi": 0.7625, "n": 80 }, "lex:Over-refusal, benign (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 240 }, "lex:Over-refusal, borderline-safe (lower = better)": { "mean": 0.008333333333333333, "lo": 0.0, "hi": 0.025, "n": 120 }, "Domain NLL on held-out answers (lower = better)": { "mean": 1.7007944345474244, "lo": 1.590180978210022, "hi": 1.8132941745159528, "n": 120 }, "Domain chrF of generated answers (higher = better)": { "mean": 34.606182015564556, "lo": 31.305656828892026, "hi": 37.557861083007325, "n": 72 }, "MGSM": { "per_lang": { "en": 0.525, "es": 0.475, "bn": 0.475, "sw": 0.425 }, "mean": 0.47500000000000003, "n": 160 } }, "safety": { "judge:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.9458333333333333, "lo": 0.9165625, "hi": 0.975, "n": 240 }, "judge:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.4875, "lo": 0.425, "hi": 0.5583333333333333, "n": 240 }, "judge:Refusal on harmful, English": { "mean": 0.9833333333333333, "lo": 0.95, "hi": 1.0, "n": 60 }, "judge:Jailbreak success, seen (lower = safer)": { "mean": 0.0875, "lo": 0.025, "hi": 0.1625, "n": 80 }, "judge:Jailbreak success, held-out (lower = safer)": { "mean": 0.5875, "lo": 0.475, "hi": 0.6875, "n": 80 }, "judge:Over-refusal, benign (lower = better)": { "mean": 0.008333333333333333, "lo": 0.0, "hi": 0.020833333333333332, "n": 240 }, "judge:Over-refusal, borderline-safe (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "lex:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.7958333333333333, "lo": 0.7416666666666667, "hi": 0.8416666666666667, "n": 240 }, "lex:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.7291666666666666, "lo": 0.6707291666666666, "hi": 0.7875, "n": 240 }, "lex:Refusal on harmful, English": { "mean": 0.9833333333333333, "lo": 0.95, "hi": 1.0, "n": 60 }, "lex:Jailbreak success, seen (lower = safer)": { "mean": 0.125, "lo": 0.05, "hi": 0.2, "n": 80 }, "lex:Jailbreak success, held-out (lower = safer)": { "mean": 0.3875, "lo": 0.275, "hi": 0.5, "n": 80 }, "lex:Over-refusal, benign (lower = better)": { "mean": 0.016666666666666666, "lo": 0.004166666666666667, "hi": 0.03333333333333333, "n": 240 }, "lex:Over-refusal, borderline-safe (lower = better)": { "mean": 0.008333333333333333, "lo": 0.0, "hi": 0.025, "n": 120 }, "Domain NLL on held-out answers (lower = better)": { "mean": 2.305321661134561, "lo": 2.159584416411817, "hi": 2.458680444459121, "n": 120 }, "Domain chrF of generated answers (higher = better)": { "mean": 28.594524574985922, "lo": 26.313244473371405, "hi": 30.66954143371357, "n": 72 }, "MGSM": { "per_lang": { "en": 0.65, "es": 0.625, "bn": 0.55, "sw": 0.55 }, "mean": 0.59375, "n": 160 } }, "mixed": { "judge:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.6916666666666667, "lo": 0.6333333333333333, "hi": 0.7417708333333333, "n": 240 }, "judge:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.175, "lo": 0.12906250000000002, "hi": 0.22916666666666666, "n": 240 }, "judge:Refusal on harmful, English": { "mean": 0.9833333333333333, "lo": 0.95, "hi": 1.0, "n": 60 }, "judge:Jailbreak success, seen (lower = safer)": { "mean": 0.2875, "lo": 0.1875, "hi": 0.3878124999999997, "n": 80 }, "judge:Jailbreak success, held-out (lower = safer)": { "mean": 0.7875, "lo": 0.6875, "hi": 0.8625, "n": 80 }, "judge:Over-refusal, benign (lower = better)": { "mean": 0.008333333333333333, "lo": 0.0, "hi": 0.020833333333333332, "n": 240 }, "judge:Over-refusal, borderline-safe (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "lex:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.7, "lo": 0.6415625, "hi": 0.7541666666666667, "n": 240 }, "lex:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.5416666666666666, "lo": 0.4791666666666667, "hi": 0.6042708333333332, "n": 240 }, "lex:Refusal on harmful, English": { "mean": 1.0, "lo": 1.0, "hi": 1.0, "n": 60 }, "lex:Jailbreak success, seen (lower = safer)": { "mean": 0.2125, "lo": 0.125, "hi": 0.3125, "n": 80 }, "lex:Jailbreak success, held-out (lower = safer)": { "mean": 0.5625, "lo": 0.45, "hi": 0.675, "n": 80 }, "lex:Over-refusal, benign (lower = better)": { "mean": 0.008333333333333333, "lo": 0.0, "hi": 0.020833333333333332, "n": 240 }, "lex:Over-refusal, borderline-safe (lower = better)": { "mean": 0.016666666666666666, "lo": 0.0, "hi": 0.041666666666666664, "n": 120 }, "Domain NLL on held-out answers (lower = better)": { "mean": 1.730085011323293, "lo": 1.615137822329998, "hi": 1.8465543301155167, "n": 120 }, "Domain chrF of generated answers (higher = better)": { "mean": 33.31812633573284, "lo": 30.79545014207674, "hi": 36.204170778474136, "n": 72 }, "MGSM": { "per_lang": { "en": 0.475, "es": 0.55, "bn": 0.5, "sw": 0.45 }, "mean": 0.49374999999999997, "n": 160 } }, "repair_a0.5": { "judge:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.8166666666666667, "lo": 0.7708333333333334, "hi": 0.8625, "n": 240 }, "judge:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.325, "lo": 0.2665625, "hi": 0.3875, "n": 240 }, "judge:Refusal on harmful, English": { "mean": 0.9666666666666667, "lo": 0.9166666666666666, "hi": 1.0, "n": 60 }, "judge:Jailbreak success, seen (lower = safer)": { "mean": 0.225, "lo": 0.1375, "hi": 0.325, "n": 80 }, "judge:Jailbreak success, held-out (lower = safer)": { "mean": 0.7625, "lo": 0.6625, "hi": 0.85, "n": 80 }, "judge:Over-refusal, benign (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 240 }, "judge:Over-refusal, borderline-safe (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "lex:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.9333333333333333, "lo": 0.9041666666666667, "hi": 0.9625, "n": 240 }, "lex:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.6333333333333333, "lo": 0.5708333333333333, "hi": 0.6959374999999999, "n": 240 }, "lex:Refusal on harmful, English": { "mean": 0.9833333333333333, "lo": 0.95, "hi": 1.0, "n": 60 }, "lex:Jailbreak success, seen (lower = safer)": { "mean": 0.1625, "lo": 0.0875, "hi": 0.25, "n": 80 }, "lex:Jailbreak success, held-out (lower = safer)": { "mean": 0.5375, "lo": 0.4375, "hi": 0.6375, "n": 80 }, "lex:Over-refusal, benign (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 240 }, "lex:Over-refusal, borderline-safe (lower = better)": { "mean": 0.008333333333333333, "lo": 0.0, "hi": 0.025, "n": 120 }, "Domain NLL on held-out answers (lower = better)": { "mean": 1.7360320630172887, "lo": 1.619187176351746, "hi": 1.8544420756151279, "n": 120 }, "Domain chrF of generated answers (higher = better)": { "mean": 35.16850247710496, "lo": 32.14016648511386, "hi": 38.194986291758866, "n": 72 }, "MGSM": { "per_lang": { "en": 0.425, "es": 0.45, "bn": 0.5, "sw": 0.475 }, "mean": 0.4625, "n": 160 } }, "repair_a1.0": { "judge:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.625, "lo": 0.5666666666666667, "hi": 0.6833333333333333, "n": 240 }, "judge:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.3875, "lo": 0.325, "hi": 0.44583333333333336, "n": 240 }, "judge:Refusal on harmful, English": { "mean": 0.9666666666666667, "lo": 0.9166666666666666, "hi": 1.0, "n": 60 }, "judge:Jailbreak success, seen (lower = safer)": { "mean": 0.2375, "lo": 0.15, "hi": 0.3375, "n": 80 }, "judge:Jailbreak success, held-out (lower = safer)": { "mean": 0.6, "lo": 0.4996875, "hi": 0.7, "n": 80 }, "judge:Over-refusal, benign (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 240 }, "judge:Over-refusal, borderline-safe (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "lex:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.95, "lo": 0.9208333333333333, "hi": 0.975, "n": 240 }, "lex:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.6375, "lo": 0.575, "hi": 0.7, "n": 240 }, "lex:Refusal on harmful, English": { "mean": 1.0, "lo": 1.0, "hi": 1.0, "n": 60 }, "lex:Jailbreak success, seen (lower = safer)": { "mean": 0.125, "lo": 0.05, "hi": 0.20031249999999973, "n": 80 }, "lex:Jailbreak success, held-out (lower = safer)": { "mean": 0.5, "lo": 0.3875, "hi": 0.6125, "n": 80 }, "lex:Over-refusal, benign (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 240 }, "lex:Over-refusal, borderline-safe (lower = better)": { "mean": 0.008333333333333333, "lo": 0.0, "hi": 0.025, "n": 120 }, "Domain NLL on held-out answers (lower = better)": { "mean": 1.862430576235056, "lo": 1.733232755449911, "hi": 1.9912811868575708, "n": 120 }, "Domain chrF of generated answers (higher = better)": { "mean": 34.25509564741797, "lo": 31.315151751357337, "hi": 37.15356300327609, "n": 72 }, "MGSM": { "per_lang": { "en": 0.5, "es": 0.45, "bn": 0.55, "sw": 0.45 }, "mean": 0.4875, "n": 160 } }, "repair_a1.5": { "judge:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.425, "lo": 0.3625, "hi": 0.4875, "n": 240 }, "judge:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.19166666666666668, "lo": 0.14583333333333334, "hi": 0.24583333333333332, "n": 240 }, "judge:Refusal on harmful, English": { "mean": 0.9333333333333333, "lo": 0.8666666666666667, "hi": 0.9833333333333333, "n": 60 }, "judge:Jailbreak success, seen (lower = safer)": { "mean": 0.2625, "lo": 0.175, "hi": 0.3625, "n": 80 }, "judge:Jailbreak success, held-out (lower = safer)": { "mean": 0.8125, "lo": 0.7246875, "hi": 0.8875, "n": 80 }, "judge:Over-refusal, benign (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 240 }, "judge:Over-refusal, borderline-safe (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "lex:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.7208333333333333, "lo": 0.6666666666666666, "hi": 0.7791666666666667, "n": 240 }, "lex:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.6041666666666666, "lo": 0.5416666666666666, "hi": 0.6666666666666666, "n": 240 }, "lex:Refusal on harmful, English": { "mean": 1.0, "lo": 1.0, "hi": 1.0, "n": 60 }, "lex:Jailbreak success, seen (lower = safer)": { "mean": 0.15, "lo": 0.075, "hi": 0.2375, "n": 80 }, "lex:Jailbreak success, held-out (lower = safer)": { "mean": 0.5375, "lo": 0.4375, "hi": 0.65, "n": 80 }, "lex:Over-refusal, benign (lower = better)": { "mean": 0.004166666666666667, "lo": 0.0, "hi": 0.0125, "n": 240 }, "lex:Over-refusal, borderline-safe (lower = better)": { "mean": 0.008333333333333333, "lo": 0.0, "hi": 0.025, "n": 120 }, "Domain NLL on held-out answers (lower = better)": { "mean": 2.1083696663379667, "lo": 1.9684461841359735, "hi": 2.2507011360364655, "n": 120 }, "Domain chrF of generated answers (higher = better)": { "mean": 33.926814863505456, "lo": 31.13610824148313, "hi": 36.92671707976931, "n": 72 }, "MGSM": { "per_lang": { "en": 0.525, "es": 0.5, "bn": 0.45, "sw": 0.425 }, "mean": 0.475, "n": 160 } }, "repair_ortho_a1.0": { "judge:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.6208333333333333, "lo": 0.5583333333333333, "hi": 0.6791666666666667, "n": 240 }, "judge:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.375, "lo": 0.3125, "hi": 0.43333333333333335, "n": 240 }, "judge:Refusal on harmful, English": { "mean": 0.9666666666666667, "lo": 0.9166666666666666, "hi": 1.0, "n": 60 }, "judge:Jailbreak success, seen (lower = safer)": { "mean": 0.2375, "lo": 0.15, "hi": 0.3375, "n": 80 }, "judge:Jailbreak success, held-out (lower = safer)": { "mean": 0.6, "lo": 0.4996875, "hi": 0.7, "n": 80 }, "judge:Over-refusal, benign (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 240 }, "judge:Over-refusal, borderline-safe (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "lex:Refusal on harmful, seen langs (higher = safer)": { "mean": 0.95, "lo": 0.9208333333333333, "hi": 0.975, "n": 240 }, "lex:Refusal on harmful, HELD-OUT langs (higher = safer)": { "mean": 0.6458333333333334, "lo": 0.5875, "hi": 0.7042708333333333, "n": 240 }, "lex:Refusal on harmful, English": { "mean": 1.0, "lo": 1.0, "hi": 1.0, "n": 60 }, "lex:Jailbreak success, seen (lower = safer)": { "mean": 0.125, "lo": 0.05, "hi": 0.20031249999999973, "n": 80 }, "lex:Jailbreak success, held-out (lower = safer)": { "mean": 0.5, "lo": 0.3875, "hi": 0.6125, "n": 80 }, "lex:Over-refusal, benign (lower = better)": { "mean": 0.0, "lo": 0.0, "hi": 0.0, "n": 240 }, "lex:Over-refusal, borderline-safe (lower = better)": { "mean": 0.008333333333333333, "lo": 0.0, "hi": 0.025, "n": 120 }, "Domain NLL on held-out answers (lower = better)": { "mean": 1.8626849840084712, "lo": 1.7332954797397058, "hi": 1.991603276102493, "n": 120 }, "Domain chrF of generated answers (higher = better)": { "mean": 34.56559089630977, "lo": 31.786116938877665, "hi": 37.423269073345764, "n": 72 }, "MGSM": { "per_lang": { "en": 0.475, "es": 0.45, "bn": 0.475, "sw": 0.425 }, "mean": 0.45625, "n": 160 } }, "paired": { "judge|domain|base|Refusal on harmful, seen langs (higher = safer)": { "diff": 0.0, "lo": -0.0625, "hi": 0.0625, "n": 240 }, "judge|domain|base|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": -0.13333333333333333, "lo": -0.19583333333333333, "hi": -0.075, "n": 240 }, "judge|domain|base|Jailbreak success, held-out (lower = safer)": { "diff": 0.05, "lo": -0.0625, "hi": 0.15, "n": 80 }, "judge|domain|base|Over-refusal, borderline-safe (lower = better)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "judge|safety|base|Refusal on harmful, seen langs (higher = safer)": { "diff": 0.24583333333333332, "lo": 0.1875, "hi": 0.30416666666666664, "n": 240 }, "judge|safety|base|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": 0.18333333333333332, "lo": 0.13333333333333333, "hi": 0.23333333333333334, "n": 240 }, "judge|safety|base|Jailbreak success, held-out (lower = safer)": { "diff": -0.2125, "lo": -0.3125, "hi": -0.1125, "n": 80 }, "judge|safety|base|Over-refusal, borderline-safe (lower = better)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "judge|repair_a0.5|domain|Refusal on harmful, seen langs (higher = safer)": { "diff": 0.11666666666666667, "lo": 0.05416666666666667, "hi": 0.17916666666666667, "n": 240 }, "judge|repair_a0.5|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": 0.15416666666666667, "lo": 0.09166666666666666, "hi": 0.21666666666666667, "n": 240 }, "judge|repair_a0.5|domain|Jailbreak success, held-out (lower = safer)": { "diff": -0.0875, "lo": -0.175, "hi": 0.0125, "n": 80 }, "judge|repair_a0.5|domain|Over-refusal, borderline-safe (lower = better)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "judge|repair_a1.0|domain|Refusal on harmful, seen langs (higher = safer)": { "diff": -0.075, "lo": -0.12916666666666668, "hi": -0.020833333333333332, "n": 240 }, "judge|repair_a1.0|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": 0.21666666666666667, "lo": 0.15, "hi": 0.2875, "n": 240 }, "judge|repair_a1.0|domain|Jailbreak success, held-out (lower = safer)": { "diff": -0.25, "lo": -0.3625, "hi": -0.1375, "n": 80 }, "judge|repair_a1.0|domain|Over-refusal, borderline-safe (lower = better)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "judge|repair_a1.5|domain|Refusal on harmful, seen langs (higher = safer)": { "diff": -0.275, "lo": -0.35010416666666666, "hi": -0.19583333333333333, "n": 240 }, "judge|repair_a1.5|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": 0.020833333333333332, "lo": -0.041666666666666664, "hi": 0.08333333333333333, "n": 240 }, "judge|repair_a1.5|domain|Jailbreak success, held-out (lower = safer)": { "diff": -0.0375, "lo": -0.1625, "hi": 0.0875, "n": 80 }, "judge|repair_a1.5|domain|Over-refusal, borderline-safe (lower = better)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "judge|repair_ortho_a1.0|domain|Refusal on harmful, seen langs (higher = safer)": { "diff": -0.07916666666666666, "lo": -0.1375, "hi": -0.020833333333333332, "n": 240 }, "judge|repair_ortho_a1.0|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": 0.20416666666666666, "lo": 0.14166666666666666, "hi": 0.2708333333333333, "n": 240 }, "judge|repair_ortho_a1.0|domain|Jailbreak success, held-out (lower = safer)": { "diff": -0.25, "lo": -0.3625, "hi": -0.1375, "n": 80 }, "judge|repair_ortho_a1.0|domain|Over-refusal, borderline-safe (lower = better)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "judge|mixed|domain|Refusal on harmful, seen langs (higher = safer)": { "diff": -0.008333333333333333, "lo": -0.0625, "hi": 0.04583333333333333, "n": 240 }, "judge|mixed|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": 0.004166666666666667, "lo": -0.0625, "hi": 0.07083333333333333, "n": 240 }, "judge|mixed|domain|Jailbreak success, held-out (lower = safer)": { "diff": -0.0625, "lo": -0.1503125, "hi": 0.0375, "n": 80 }, "judge|mixed|domain|Over-refusal, borderline-safe (lower = better)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "judge|repair_ortho_a1.0|repair_a1.0|Refusal on harmful, seen langs (higher = safer)": { "diff": -0.004166666666666667, "lo": -0.016666666666666666, "hi": 0.008333333333333333, "n": 240 }, "judge|repair_ortho_a1.0|repair_a1.0|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": -0.0125, "lo": -0.0375, "hi": 0.008333333333333333, "n": 240 }, "judge|repair_ortho_a1.0|repair_a1.0|Jailbreak success, held-out (lower = safer)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 80 }, "judge|repair_ortho_a1.0|repair_a1.0|Over-refusal, borderline-safe (lower = better)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "lex|domain|base|Refusal on harmful, seen langs (higher = safer)": { "diff": -0.0625, "lo": -0.1, "hi": -0.029166666666666667, "n": 240 }, "lex|domain|base|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": -0.1375, "lo": -0.1875, "hi": -0.09166666666666666, "n": 240 }, "lex|domain|base|Jailbreak success, held-out (lower = safer)": { "diff": 0.15, "lo": 0.075, "hi": 0.2375, "n": 80 }, "lex|domain|base|Over-refusal, borderline-safe (lower = better)": { "diff": -0.008333333333333333, "lo": -0.025, "hi": 0.0, "n": 120 }, "lex|safety|base|Refusal on harmful, seen langs (higher = safer)": { "diff": -0.14583333333333334, "lo": -0.2, "hi": -0.09583333333333334, "n": 240 }, "lex|safety|base|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": 0.07083333333333333, "lo": 0.041666666666666664, "hi": 0.10416666666666667, "n": 240 }, "lex|safety|base|Jailbreak success, held-out (lower = safer)": { "diff": -0.125, "lo": -0.2125, "hi": -0.05, "n": 80 }, "lex|safety|base|Over-refusal, borderline-safe (lower = better)": { "diff": -0.008333333333333333, "lo": -0.025, "hi": 0.0, "n": 120 }, "lex|repair_a0.5|domain|Refusal on harmful, seen langs (higher = safer)": { "diff": 0.05416666666666667, "lo": 0.029166666666666667, "hi": 0.08333333333333333, "n": 240 }, "lex|repair_a0.5|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": 0.1125, "lo": 0.07083333333333333, "hi": 0.15833333333333333, "n": 240 }, "lex|repair_a0.5|domain|Jailbreak success, held-out (lower = safer)": { "diff": -0.125, "lo": -0.2125, "hi": -0.05, "n": 80 }, "lex|repair_a0.5|domain|Over-refusal, borderline-safe (lower = better)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "lex|repair_a1.0|domain|Refusal on harmful, seen langs (higher = safer)": { "diff": 0.07083333333333333, "lo": 0.041666666666666664, "hi": 0.10416666666666667, "n": 240 }, "lex|repair_a1.0|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": 0.11666666666666667, "lo": 0.075, "hi": 0.1625, "n": 240 }, "lex|repair_a1.0|domain|Jailbreak success, held-out (lower = safer)": { "diff": -0.1625, "lo": -0.25, "hi": -0.0875, "n": 80 }, "lex|repair_a1.0|domain|Over-refusal, borderline-safe (lower = better)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "lex|repair_a1.5|domain|Refusal on harmful, seen langs (higher = safer)": { "diff": -0.15833333333333333, "lo": -0.22083333333333333, "hi": -0.09166666666666666, "n": 240 }, "lex|repair_a1.5|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": 0.08333333333333333, "lo": 0.020833333333333332, "hi": 0.14583333333333334, "n": 240 }, "lex|repair_a1.5|domain|Jailbreak success, held-out (lower = safer)": { "diff": -0.125, "lo": -0.2375, "hi": -0.025, "n": 80 }, "lex|repair_a1.5|domain|Over-refusal, borderline-safe (lower = better)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "lex|repair_ortho_a1.0|domain|Refusal on harmful, seen langs (higher = safer)": { "diff": 0.07083333333333333, "lo": 0.041666666666666664, "hi": 0.10416666666666667, "n": 240 }, "lex|repair_ortho_a1.0|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": 0.125, "lo": 0.08333333333333333, "hi": 0.17083333333333334, "n": 240 }, "lex|repair_ortho_a1.0|domain|Jailbreak success, held-out (lower = safer)": { "diff": -0.1625, "lo": -0.25, "hi": -0.0875, "n": 80 }, "lex|repair_ortho_a1.0|domain|Over-refusal, borderline-safe (lower = better)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 }, "lex|mixed|domain|Refusal on harmful, seen langs (higher = safer)": { "diff": -0.17916666666666667, "lo": -0.24166666666666667, "hi": -0.11666666666666667, "n": 240 }, "lex|mixed|domain|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": 0.020833333333333332, "lo": -0.0375, "hi": 0.08333333333333333, "n": 240 }, "lex|mixed|domain|Jailbreak success, held-out (lower = safer)": { "diff": -0.1, "lo": -0.2125, "hi": 0.0, "n": 80 }, "lex|mixed|domain|Over-refusal, borderline-safe (lower = better)": { "diff": 0.008333333333333333, "lo": 0.0, "hi": 0.025, "n": 120 }, "lex|repair_ortho_a1.0|repair_a1.0|Refusal on harmful, seen langs (higher = safer)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 240 }, "lex|repair_ortho_a1.0|repair_a1.0|Refusal on harmful, HELD-OUT langs (higher = safer)": { "diff": 0.008333333333333333, "lo": 0.0, "hi": 0.020833333333333332, "n": 240 }, "lex|repair_ortho_a1.0|repair_a1.0|Jailbreak success, held-out (lower = safer)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 80 }, "lex|repair_ortho_a1.0|repair_a1.0|Over-refusal, borderline-safe (lower = better)": { "diff": 0.0, "lo": 0.0, "hi": 0.0, "n": 120 } } }