{
"status": "EXPLORATORY: run after the freeze, never used for selection or for a hypothesis test",
"labels": "pre_registered",
"rows": [
{
"layer": 10,
"rho": 0.1,
"pooled": {
"harmful_refusal": 0.625,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"residualized": {
"harmful_refusal": 0.625,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ro_only": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.0,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ur_only": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
}
},
{
"layer": 10,
"rho": 0.2,
"pooled": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.20833333333333334,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"residualized": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.20833333333333334,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ro_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ur_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
}
},
{
"layer": 10,
"rho": 0.4,
"pooled": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0
},
"residualized": {
"harmful_refusal": 0.75,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ro_only": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ur_only": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.0,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
}
},
{
"layer": 10,
"rho": 0.8,
"pooled": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.5,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"residualized": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.5,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ro_only": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.375,
"harmful_refusal_ro": 0.75,
"harmful_refusal_ur": 0.8333333333333334,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0
},
"ur_only": {
"harmful_refusal": 0.8333333333333334,
"benign_refusal": 0.7083333333333334,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
}
},
{
"layer": 14,
"rho": 0.1,
"pooled": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
},
"residualized": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
},
"ro_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
},
"ur_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
}
},
{
"layer": 14,
"rho": 0.2,
"pooled": {
"harmful_refusal": 0.875,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.75,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"residualized": {
"harmful_refusal": 0.875,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.75,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ro_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
},
"ur_only": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
}
},
{
"layer": 14,
"rho": 0.4,
"pooled": {
"harmful_refusal": 0.875,
"benign_refusal": 0.7916666666666666,
"harmful_refusal_ro": 0.75,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"residualized": {
"harmful_refusal": 0.875,
"benign_refusal": 0.8333333333333334,
"harmful_refusal_ro": 0.75,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ro_only": {
"harmful_refusal": 0.8333333333333334,
"benign_refusal": 0.5,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
},
"ur_only": {
"harmful_refusal": 0.875,
"benign_refusal": 0.9583333333333334,
"harmful_refusal_ro": 0.75,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
}
},
{
"layer": 14,
"rho": 0.8,
"pooled": {
"harmful_refusal": 0.9166666666666666,
"benign_refusal": 0.875,
"harmful_refusal_ro": 0.8333333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
},
"residualized": {
"harmful_refusal": 0.875,
"benign_refusal": 0.9166666666666666,
"harmful_refusal_ro": 0.75,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
},
"ro_only": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.875,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ur_only": {
"harmful_refusal": 0.9166666666666666,
"benign_refusal": 0.875,
"harmful_refusal_ro": 0.8333333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
}
},
{
"layer": 18,
"rho": 0.1,
"pooled": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
},
"residualized": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
},
"ro_only": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
},
"ur_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
}
},
{
"layer": 18,
"rho": 0.2,
"pooled": {
"harmful_refusal": 0.8333333333333334,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
},
"residualized": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
},
"ro_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
},
"ur_only": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
}
},
{
"layer": 18,
"rho": 0.4,
"pooled": {
"harmful_refusal": 0.875,
"benign_refusal": 0.75,
"harmful_refusal_ro": 0.75,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
},
"residualized": {
"harmful_refusal": 0.9166666666666666,
"benign_refusal": 0.7083333333333334,
"harmful_refusal_ro": 0.8333333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
},
"ro_only": {
"harmful_refusal": 0.8333333333333334,
"benign_refusal": 0.4583333333333333,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
},
"ur_only": {
"harmful_refusal": 0.8333333333333334,
"benign_refusal": 0.7916666666666666,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.08333333333333333
}
},
{
"layer": 18,
"rho": 0.8,
"pooled": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.6666666666666666,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.2916666666666667
},
"residualized": {
"harmful_refusal": 0.8333333333333334,
"benign_refusal": 0.75,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.16666666666666666
},
"ro_only": {
"harmful_refusal": 0.9166666666666666,
"benign_refusal": 0.7916666666666666,
"harmful_refusal_ro": 0.8333333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.125
},
"ur_only": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.6666666666666666,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.3125
}
},
{
"layer": 22,
"rho": 0.1,
"pooled": {
"harmful_refusal": 0.625,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
},
"residualized": {
"harmful_refusal": 0.625,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
},
"ro_only": {
"harmful_refusal": 0.625,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
},
"ur_only": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
}
},
{
"layer": 22,
"rho": 0.2,
"pooled": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
},
"residualized": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
},
"ro_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0
},
"ur_only": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
}
},
{
"layer": 22,
"rho": 0.4,
"pooled": {
"harmful_refusal": 0.75,
"benign_refusal": 0.375,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.125
},
"residualized": {
"harmful_refusal": 0.875,
"benign_refusal": 0.2916666666666667,
"harmful_refusal_ro": 0.75,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
},
"ro_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.375,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
},
"ur_only": {
"harmful_refusal": 0.8333333333333334,
"benign_refusal": 0.25,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.14583333333333334
}
},
{
"layer": 22,
"rho": 0.8,
"pooled": {
"harmful_refusal": 0.9583333333333334,
"benign_refusal": 0.6666666666666666,
"harmful_refusal_ro": 0.9166666666666666,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.16666666666666666
},
"residualized": {
"harmful_refusal": 0.9166666666666666,
"benign_refusal": 0.5833333333333334,
"harmful_refusal_ro": 0.8333333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.22916666666666666
},
"ro_only": {
"harmful_refusal": 0.9166666666666666,
"benign_refusal": 0.7083333333333334,
"harmful_refusal_ro": 0.8333333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.14583333333333334
},
"ur_only": {
"harmful_refusal": 0.8333333333333334,
"benign_refusal": 0.625,
"harmful_refusal_ro": 0.75,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.2708333333333333
}
}
],
"summary": {
"n_configs": 16,
"mean_harmful_diff_pp": 0.7812499999999993,
"min_harmful_diff_pp": -4.166666666666674,
"max_harmful_diff_pp": 12.5,
"mean_benign_diff_pp": -0.2604166666666654,
"n_resid_better": 3,
"n_resid_worse": 4,
"n_equal": 9,
"definition": "residualized minus pooled, percentage points, per (layer, rho)"
},
"echo_corrected": {
"rows": [
{
"layer": 10,
"rho": 0.1,
"pooled": {
"harmful_refusal": 0.5833333333333334,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.25,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
},
"residualized": {
"harmful_refusal": 0.5833333333333334,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.25,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
},
"ro_only": {
"harmful_refusal": 0.625,
"benign_refusal": 0.0,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
},
"ur_only": {
"harmful_refusal": 0.625,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
}
},
{
"layer": 10,
"rho": 0.2,
"pooled": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.20833333333333334,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"residualized": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.20833333333333334,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ro_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ur_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
}
},
{
"layer": 10,
"rho": 0.4,
"pooled": {
"harmful_refusal": 0.75,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"residualized": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
},
"ro_only": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
},
"ur_only": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.0,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0625
}
},
{
"layer": 10,
"rho": 0.8,
"pooled": {
"harmful_refusal": 0.5416666666666666,
"benign_refusal": 0.375,
"harmful_refusal_ro": 0.08333333333333333,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.20833333333333334
},
"residualized": {
"harmful_refusal": 0.5416666666666666,
"benign_refusal": 0.3333333333333333,
"harmful_refusal_ro": 0.08333333333333333,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.22916666666666666
},
"ro_only": {
"harmful_refusal": 0.5833333333333334,
"benign_refusal": 0.2916666666666667,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 0.8333333333333334,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.14583333333333334
},
"ur_only": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.5,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.2708333333333333
}
},
{
"layer": 14,
"rho": 0.1,
"pooled": {
"harmful_refusal": 0.625,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.25,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.10416666666666667
},
"residualized": {
"harmful_refusal": 0.625,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.25,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.10416666666666667
},
"ro_only": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.10416666666666667
},
"ur_only": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.08333333333333333
}
},
{
"layer": 14,
"rho": 0.2,
"pooled": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.08333333333333333
},
"residualized": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.08333333333333333
},
"ro_only": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.10416666666666667
},
"ur_only": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.10416666666666667
}
},
{
"layer": 14,
"rho": 0.4,
"pooled": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.7916666666666666,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.08333333333333333
},
"residualized": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.8333333333333334,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.08333333333333333
},
"ro_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.5,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.125
},
"ur_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.9583333333333334,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.10416666666666667
}
},
{
"layer": 14,
"rho": 0.8,
"pooled": {
"harmful_refusal": 0.75,
"benign_refusal": 0.8333333333333334,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.1875
},
"residualized": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.875,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.16666666666666666
},
"ro_only": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.6666666666666666,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.20833333333333334
},
"ur_only": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.875,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.14583333333333334
}
},
{
"layer": 18,
"rho": 0.1,
"pooled": {
"harmful_refusal": 0.75,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.125
},
"residualized": {
"harmful_refusal": 0.75,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.125
},
"ro_only": {
"harmful_refusal": 0.625,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.10416666666666667
},
"ur_only": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.125
}
},
{
"layer": 18,
"rho": 0.2,
"pooled": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.08333333333333333
},
"residualized": {
"harmful_refusal": 0.75,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.10416666666666667
},
"ro_only": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.08333333333333333
},
"ur_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.10416666666666667
}
},
{
"layer": 18,
"rho": 0.4,
"pooled": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.7083333333333334,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.14583333333333334
},
"residualized": {
"harmful_refusal": 0.8333333333333334,
"benign_refusal": 0.6666666666666666,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.125
},
"ro_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.4166666666666667,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.125
},
"ur_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.75,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.16666666666666666
}
},
{
"layer": 18,
"rho": 0.8,
"pooled": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.6666666666666666,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.3125
},
"residualized": {
"harmful_refusal": 0.75,
"benign_refusal": 0.75,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.20833333333333334
},
"ro_only": {
"harmful_refusal": 0.9166666666666666,
"benign_refusal": 0.75,
"harmful_refusal_ro": 0.8333333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.14583333333333334
},
"ur_only": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.6666666666666666,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.3333333333333333
}
},
{
"layer": 22,
"rho": 0.1,
"pooled": {
"harmful_refusal": 0.5833333333333334,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.25,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.10416666666666667
},
"residualized": {
"harmful_refusal": 0.5833333333333334,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.25,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.10416666666666667
},
"ro_only": {
"harmful_refusal": 0.5833333333333334,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.25,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.10416666666666667
},
"ur_only": {
"harmful_refusal": 0.625,
"benign_refusal": 0.08333333333333333,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.10416666666666667
}
},
{
"layer": 22,
"rho": 0.2,
"pooled": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.08333333333333333
},
"residualized": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.08333333333333333
},
"ro_only": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.041666666666666664
},
"ur_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.5,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.10416666666666667
}
},
{
"layer": 22,
"rho": 0.4,
"pooled": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.375,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.16666666666666666
},
"residualized": {
"harmful_refusal": 0.8333333333333334,
"benign_refusal": 0.2916666666666667,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.10416666666666667
},
"ro_only": {
"harmful_refusal": 0.7083333333333334,
"benign_refusal": 0.375,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.08333333333333333
},
"ur_only": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.25,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.1875
}
},
{
"layer": 22,
"rho": 0.8,
"pooled": {
"harmful_refusal": 0.9583333333333334,
"benign_refusal": 0.6666666666666666,
"harmful_refusal_ro": 0.9166666666666666,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.1875
},
"residualized": {
"harmful_refusal": 0.9166666666666666,
"benign_refusal": 0.5833333333333334,
"harmful_refusal_ro": 0.8333333333333334,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.25
},
"ro_only": {
"harmful_refusal": 0.875,
"benign_refusal": 0.7083333333333334,
"harmful_refusal_ro": 0.75,
"harmful_refusal_ur": 1.0,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.1875
},
"ur_only": {
"harmful_refusal": 0.8333333333333334,
"benign_refusal": 0.625,
"harmful_refusal_ro": 0.75,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.2708333333333333
}
}
],
"summary": {
"n_configs": 16,
"mean_harmful_diff_pp": 0.5208333333333345,
"min_harmful_diff_pp": -4.166666666666674,
"max_harmful_diff_pp": 12.5,
"mean_benign_diff_pp": -0.5208333333333329,
"n_resid_better": 3,
"n_resid_worse": 4,
"n_equal": 9,
"definition": "residualized minus pooled, percentage points, per (layer, rho)"
}
}
}
{
"status": "EXPLORATORY: run after the freeze, never used for selection or for a hypothesis test",
"labels": "pre_registered",
"rows": [
{
"layer": 10,
"rho": 0.1,
"pooled": {
"harmful_refusal": 0.625,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"residualized": {
"harmful_refusal": 0.625,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.3333333333333333,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ro_only": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.0,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ur_only": {
"harmful_refusal": 0.6666666666666666,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.4166666666666667,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
}
},
{
"layer": 10,
"rho": 0.2,
"pooled": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.20833333333333334,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"residualized": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.20833333333333334,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ro_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
},
"ur_only": {
"harmful_refusal": 0.75,
"benign_refusal": 0.041666666666666664,
"harmful_refusal_ro": 0.5833333333333334,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.020833333333333332
}
},
{
"layer": 10,
"rho": 0.4,
"pooled": {
"harmful_refusal": 0.7916666666666666,
"benign_refusal": 0.125,
"harmful_refusal_ro": 0.6666666666666666,
"harmful_refusal_ur": 0.9166666666666666,
"n_harmful": 24,
"n_benign": 24,
"invalid_rate": 0.0
},
"residualized": {
"harmful_refusal": 0.75,
"benign_refusal": 0.16666666666666666,
"harmful_refusal_ro": 0.5833333333333334,