barryhpr commited on
Commit
d6b2fab
·
verified ·
1 Parent(s): d8a8d1f

Add attribution tensors (801-900 of 993)

Browse files
This view is limited to 50 files because it contains too many changes.   See raw diff
Files changed (50) hide show
  1. results/mistralai_Mistral-Large-Instruct-2407/ToM/social_interactions/attribution_meta.json +1 -0
  2. results/mistralai_Mistral-Large-Instruct-2407/ToM/social_interactions/baselines.json +221 -0
  3. results/mistralai_Mistral-Large-Instruct-2407/ToM/social_interactions/neuron_attribution.pt +3 -0
  4. results/mistralai_Mistral-Large-Instruct-2407/ToM/social_interactions/sorted_indices_positive.npy +3 -0
  5. results/mistralai_Mistral-Large-Instruct-2407/ToM/social_relations/attribution_meta.json +1 -0
  6. results/mistralai_Mistral-Large-Instruct-2407/ToM/social_relations/baselines.json +305 -0
  7. results/mistralai_Mistral-Large-Instruct-2407/ToM/social_relations/neuron_attribution.pt +3 -0
  8. results/mistralai_Mistral-Large-Instruct-2407/ToM/social_relations/sorted_indices_positive.npy +3 -0
  9. results/mistralai_Mistral-Large-Instruct-2407/phys/phys_newton/attribution_meta.json +1 -0
  10. results/mistralai_Mistral-Large-Instruct-2407/phys/phys_newton/baselines.json +1016 -0
  11. results/mistralai_Mistral-Large-Instruct-2407/phys/phys_newton/neuron_attribution.pt +3 -0
  12. results/mistralai_Mistral-Large-Instruct-2407/phys/phys_newton/sorted_indices_positive.npy +3 -0
  13. results/mistralai_Mistral-Large-Instruct-2407/phys/phys_prost/attribution_meta.json +1 -0
  14. results/mistralai_Mistral-Large-Instruct-2407/phys/phys_prost/baselines.json +1216 -0
  15. results/mistralai_Mistral-Large-Instruct-2407/phys/phys_prost/neuron_attribution.pt +3 -0
  16. results/mistralai_Mistral-Large-Instruct-2407/phys/phys_prost/sorted_indices_positive.npy +3 -0
  17. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_buoyancy/attribution_meta.json +1 -0
  18. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_buoyancy/baselines.json +1017 -0
  19. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_buoyancy/neuron_attribution.pt +3 -0
  20. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_buoyancy/sorted_indices_positive.npy +3 -0
  21. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_elasticity/attribution_meta.json +1 -0
  22. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_elasticity/baselines.json +1016 -0
  23. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_elasticity/neuron_attribution.pt +3 -0
  24. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_elasticity/sorted_indices_positive.npy +3 -0
  25. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_solubility/attribution_meta.json +1 -0
  26. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_solubility/baselines.json +1017 -0
  27. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_solubility/neuron_attribution.pt +3 -0
  28. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_solubility/sorted_indices_positive.npy +3 -0
  29. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_temperature/attribution_meta.json +1 -0
  30. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_temperature/baselines.json +1017 -0
  31. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_temperature/neuron_attribution.pt +3 -0
  32. results/mistralai_Mistral-Large-Instruct-2407/phys/physics_temperature/sorted_indices_positive.npy +3 -0
  33. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/anaphor_gender_agreement/attribution_meta.json +1 -0
  34. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/anaphor_gender_agreement/baselines.json +1117 -0
  35. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/anaphor_gender_agreement/neuron_attribution.pt +3 -0
  36. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/anaphor_gender_agreement/sorted_indices_positive.npy +3 -0
  37. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_irregular/attribution_meta.json +1 -0
  38. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_irregular/baselines.json +948 -0
  39. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_irregular/neuron_attribution.pt +3 -0
  40. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_irregular/sorted_indices_positive.npy +3 -0
  41. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_regular/attribution_meta.json +1 -0
  42. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_regular/baselines.json +1116 -0
  43. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_regular/neuron_attribution.pt +3 -0
  44. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_regular/sorted_indices_positive.npy +3 -0
  45. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_with_adjective/attribution_meta.json +1 -0
  46. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_with_adjective/baselines.json +1116 -0
  47. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_with_adjective/neuron_attribution.pt +3 -0
  48. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_with_adjective/sorted_indices_positive.npy +3 -0
  49. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/hypernymy/attribution_meta.json +1 -0
  50. results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/hypernymy/baselines.json +594 -0
results/mistralai_Mistral-Large-Instruct-2407/ToM/social_interactions/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/ToM/social_interactions/baselines.json ADDED
@@ -0,0 +1,221 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 204,
3
+ "n_token_misaligned": 44,
4
+ "token_misaligned_indices": [
5
+ 15,
6
+ 16,
7
+ 17,
8
+ 18,
9
+ 19,
10
+ 21,
11
+ 23,
12
+ 25,
13
+ 27,
14
+ 29,
15
+ 40,
16
+ 41,
17
+ 42,
18
+ 43,
19
+ 44,
20
+ 80,
21
+ 81,
22
+ 82,
23
+ 83,
24
+ 144,
25
+ 145,
26
+ 146,
27
+ 147,
28
+ 148,
29
+ 159,
30
+ 160,
31
+ 161,
32
+ 162,
33
+ 163,
34
+ 164,
35
+ 165,
36
+ 166,
37
+ 167,
38
+ 168,
39
+ 169,
40
+ 170,
41
+ 171,
42
+ 172,
43
+ 173,
44
+ 174,
45
+ 175,
46
+ 176,
47
+ 177,
48
+ 178
49
+ ],
50
+ "n_after_alignment_filter": 160,
51
+ "clean_accuracy": 0.975,
52
+ "corrupted_accuracy": 0.8875,
53
+ "both_correct_accuracy": 0.8625,
54
+ "n_both_correct": 138,
55
+ "both_correct_indices": [
56
+ 0,
57
+ 1,
58
+ 2,
59
+ 3,
60
+ 4,
61
+ 5,
62
+ 6,
63
+ 7,
64
+ 9,
65
+ 10,
66
+ 11,
67
+ 12,
68
+ 13,
69
+ 14,
70
+ 20,
71
+ 22,
72
+ 24,
73
+ 26,
74
+ 28,
75
+ 30,
76
+ 31,
77
+ 32,
78
+ 33,
79
+ 34,
80
+ 35,
81
+ 36,
82
+ 37,
83
+ 38,
84
+ 39,
85
+ 45,
86
+ 46,
87
+ 47,
88
+ 48,
89
+ 49,
90
+ 50,
91
+ 51,
92
+ 52,
93
+ 53,
94
+ 54,
95
+ 55,
96
+ 56,
97
+ 57,
98
+ 58,
99
+ 59,
100
+ 60,
101
+ 61,
102
+ 62,
103
+ 63,
104
+ 64,
105
+ 65,
106
+ 66,
107
+ 67,
108
+ 68,
109
+ 69,
110
+ 70,
111
+ 71,
112
+ 72,
113
+ 73,
114
+ 74,
115
+ 75,
116
+ 76,
117
+ 77,
118
+ 78,
119
+ 79,
120
+ 84,
121
+ 85,
122
+ 86,
123
+ 87,
124
+ 88,
125
+ 89,
126
+ 90,
127
+ 91,
128
+ 92,
129
+ 93,
130
+ 96,
131
+ 99,
132
+ 103,
133
+ 104,
134
+ 105,
135
+ 106,
136
+ 107,
137
+ 108,
138
+ 109,
139
+ 110,
140
+ 111,
141
+ 112,
142
+ 113,
143
+ 114,
144
+ 115,
145
+ 116,
146
+ 117,
147
+ 118,
148
+ 119,
149
+ 120,
150
+ 121,
151
+ 122,
152
+ 123,
153
+ 124,
154
+ 125,
155
+ 126,
156
+ 127,
157
+ 128,
158
+ 129,
159
+ 130,
160
+ 131,
161
+ 132,
162
+ 133,
163
+ 134,
164
+ 135,
165
+ 136,
166
+ 137,
167
+ 138,
168
+ 149,
169
+ 150,
170
+ 151,
171
+ 152,
172
+ 153,
173
+ 154,
174
+ 155,
175
+ 156,
176
+ 157,
177
+ 158,
178
+ 179,
179
+ 180,
180
+ 181,
181
+ 182,
182
+ 183,
183
+ 185,
184
+ 187,
185
+ 189,
186
+ 191,
187
+ 193,
188
+ 197,
189
+ 198,
190
+ 199,
191
+ 200,
192
+ 201,
193
+ 202
194
+ ],
195
+ "not_both_correct_indices": [
196
+ 8,
197
+ 94,
198
+ 95,
199
+ 97,
200
+ 98,
201
+ 100,
202
+ 101,
203
+ 102,
204
+ 139,
205
+ 140,
206
+ 141,
207
+ 142,
208
+ 143,
209
+ 184,
210
+ 186,
211
+ 188,
212
+ 190,
213
+ 192,
214
+ 194,
215
+ 195,
216
+ 196,
217
+ 203
218
+ ],
219
+ "clean_baseline": 12.7578125,
220
+ "corrupted_baseline": -11.4375
221
+ }
results/mistralai_Mistral-Large-Instruct-2407/ToM/social_interactions/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:6559fd60344837b16c6362494334c9db89cb54c30a551c43ae924d932cd6ab89
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/ToM/social_interactions/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:784b0378d613189ccf692cfb4d6d1d0d84619cf7dfd0c1cdf62330c6e8f514f3
3
+ size 10045072
results/mistralai_Mistral-Large-Instruct-2407/ToM/social_relations/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/ToM/social_relations/baselines.json ADDED
@@ -0,0 +1,305 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 288,
3
+ "n_token_misaligned": 128,
4
+ "token_misaligned_indices": [
5
+ 30,
6
+ 31,
7
+ 32,
8
+ 33,
9
+ 34,
10
+ 35,
11
+ 36,
12
+ 37,
13
+ 38,
14
+ 39,
15
+ 40,
16
+ 41,
17
+ 72,
18
+ 73,
19
+ 74,
20
+ 75,
21
+ 76,
22
+ 77,
23
+ 78,
24
+ 79,
25
+ 80,
26
+ 81,
27
+ 82,
28
+ 83,
29
+ 109,
30
+ 110,
31
+ 111,
32
+ 112,
33
+ 113,
34
+ 119,
35
+ 121,
36
+ 123,
37
+ 125,
38
+ 127,
39
+ 129,
40
+ 130,
41
+ 133,
42
+ 134,
43
+ 137,
44
+ 138,
45
+ 141,
46
+ 142,
47
+ 145,
48
+ 146,
49
+ 149,
50
+ 150,
51
+ 151,
52
+ 152,
53
+ 153,
54
+ 154,
55
+ 155,
56
+ 156,
57
+ 157,
58
+ 158,
59
+ 159,
60
+ 160,
61
+ 161,
62
+ 162,
63
+ 163,
64
+ 164,
65
+ 165,
66
+ 166,
67
+ 167,
68
+ 168,
69
+ 169,
70
+ 170,
71
+ 171,
72
+ 172,
73
+ 173,
74
+ 174,
75
+ 175,
76
+ 176,
77
+ 177,
78
+ 178,
79
+ 179,
80
+ 180,
81
+ 181,
82
+ 182,
83
+ 183,
84
+ 184,
85
+ 185,
86
+ 186,
87
+ 187,
88
+ 218,
89
+ 219,
90
+ 220,
91
+ 221,
92
+ 222,
93
+ 223,
94
+ 224,
95
+ 225,
96
+ 226,
97
+ 227,
98
+ 228,
99
+ 229,
100
+ 255,
101
+ 256,
102
+ 257,
103
+ 258,
104
+ 259,
105
+ 260,
106
+ 261,
107
+ 262,
108
+ 263,
109
+ 264,
110
+ 265,
111
+ 266,
112
+ 267,
113
+ 268,
114
+ 269,
115
+ 270,
116
+ 271,
117
+ 272,
118
+ 273,
119
+ 274,
120
+ 275,
121
+ 276,
122
+ 277,
123
+ 278,
124
+ 279,
125
+ 280,
126
+ 281,
127
+ 282,
128
+ 283,
129
+ 284,
130
+ 285,
131
+ 286,
132
+ 287
133
+ ],
134
+ "n_after_alignment_filter": 160,
135
+ "clean_accuracy": 0.86875,
136
+ "corrupted_accuracy": 0.8375,
137
+ "both_correct_accuracy": 0.70625,
138
+ "n_both_correct": 113,
139
+ "both_correct_indices": [
140
+ 0,
141
+ 1,
142
+ 2,
143
+ 3,
144
+ 4,
145
+ 5,
146
+ 6,
147
+ 7,
148
+ 8,
149
+ 9,
150
+ 11,
151
+ 12,
152
+ 14,
153
+ 15,
154
+ 16,
155
+ 17,
156
+ 18,
157
+ 19,
158
+ 21,
159
+ 26,
160
+ 27,
161
+ 28,
162
+ 29,
163
+ 42,
164
+ 43,
165
+ 44,
166
+ 45,
167
+ 46,
168
+ 47,
169
+ 48,
170
+ 49,
171
+ 50,
172
+ 51,
173
+ 57,
174
+ 58,
175
+ 63,
176
+ 70,
177
+ 71,
178
+ 86,
179
+ 88,
180
+ 89,
181
+ 90,
182
+ 91,
183
+ 92,
184
+ 93,
185
+ 95,
186
+ 99,
187
+ 100,
188
+ 101,
189
+ 102,
190
+ 103,
191
+ 104,
192
+ 105,
193
+ 106,
194
+ 107,
195
+ 108,
196
+ 114,
197
+ 115,
198
+ 116,
199
+ 117,
200
+ 118,
201
+ 120,
202
+ 122,
203
+ 124,
204
+ 126,
205
+ 128,
206
+ 131,
207
+ 132,
208
+ 135,
209
+ 136,
210
+ 139,
211
+ 140,
212
+ 143,
213
+ 144,
214
+ 147,
215
+ 148,
216
+ 188,
217
+ 189,
218
+ 190,
219
+ 191,
220
+ 192,
221
+ 193,
222
+ 194,
223
+ 195,
224
+ 196,
225
+ 197,
226
+ 202,
227
+ 215,
228
+ 230,
229
+ 231,
230
+ 232,
231
+ 233,
232
+ 234,
233
+ 235,
234
+ 236,
235
+ 237,
236
+ 238,
237
+ 239,
238
+ 240,
239
+ 241,
240
+ 242,
241
+ 243,
242
+ 244,
243
+ 245,
244
+ 246,
245
+ 247,
246
+ 248,
247
+ 249,
248
+ 250,
249
+ 251,
250
+ 252,
251
+ 253,
252
+ 254
253
+ ],
254
+ "not_both_correct_indices": [
255
+ 10,
256
+ 13,
257
+ 20,
258
+ 22,
259
+ 23,
260
+ 24,
261
+ 25,
262
+ 52,
263
+ 53,
264
+ 54,
265
+ 55,
266
+ 56,
267
+ 59,
268
+ 60,
269
+ 61,
270
+ 62,
271
+ 64,
272
+ 65,
273
+ 66,
274
+ 67,
275
+ 68,
276
+ 69,
277
+ 84,
278
+ 85,
279
+ 87,
280
+ 94,
281
+ 96,
282
+ 97,
283
+ 98,
284
+ 198,
285
+ 199,
286
+ 200,
287
+ 201,
288
+ 203,
289
+ 204,
290
+ 205,
291
+ 206,
292
+ 207,
293
+ 208,
294
+ 209,
295
+ 210,
296
+ 211,
297
+ 212,
298
+ 213,
299
+ 214,
300
+ 216,
301
+ 217
302
+ ],
303
+ "clean_baseline": 10.5234375,
304
+ "corrupted_baseline": -11.4140625
305
+ }
results/mistralai_Mistral-Large-Instruct-2407/ToM/social_relations/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:7727f5b0de02f5ce2edd78e7033ad82749e2292eec9e92ab2d27210409bd95b1
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/ToM/social_relations/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:86d47340383beeeaf5517a53a3bdf4f7123060bb06d11b3ef563f75a48f2ba92
3
+ size 10039704
results/mistralai_Mistral-Large-Instruct-2407/phys/phys_newton/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/phys/phys_newton/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.913,
7
+ "corrupted_accuracy": 0.897,
8
+ "both_correct_accuracy": 0.813,
9
+ "n_both_correct": 813,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 3,
13
+ 4,
14
+ 5,
15
+ 6,
16
+ 7,
17
+ 8,
18
+ 9,
19
+ 11,
20
+ 13,
21
+ 15,
22
+ 16,
23
+ 17,
24
+ 18,
25
+ 22,
26
+ 24,
27
+ 25,
28
+ 26,
29
+ 27,
30
+ 28,
31
+ 29,
32
+ 30,
33
+ 31,
34
+ 32,
35
+ 34,
36
+ 36,
37
+ 37,
38
+ 38,
39
+ 39,
40
+ 40,
41
+ 41,
42
+ 42,
43
+ 43,
44
+ 44,
45
+ 45,
46
+ 46,
47
+ 47,
48
+ 48,
49
+ 50,
50
+ 51,
51
+ 53,
52
+ 54,
53
+ 55,
54
+ 56,
55
+ 58,
56
+ 59,
57
+ 60,
58
+ 62,
59
+ 63,
60
+ 64,
61
+ 65,
62
+ 66,
63
+ 68,
64
+ 70,
65
+ 71,
66
+ 72,
67
+ 73,
68
+ 74,
69
+ 75,
70
+ 76,
71
+ 77,
72
+ 78,
73
+ 80,
74
+ 81,
75
+ 82,
76
+ 83,
77
+ 85,
78
+ 86,
79
+ 88,
80
+ 90,
81
+ 91,
82
+ 92,
83
+ 93,
84
+ 94,
85
+ 95,
86
+ 96,
87
+ 97,
88
+ 98,
89
+ 99,
90
+ 100,
91
+ 101,
92
+ 102,
93
+ 103,
94
+ 104,
95
+ 105,
96
+ 106,
97
+ 107,
98
+ 111,
99
+ 112,
100
+ 113,
101
+ 114,
102
+ 115,
103
+ 116,
104
+ 117,
105
+ 118,
106
+ 119,
107
+ 120,
108
+ 121,
109
+ 122,
110
+ 124,
111
+ 125,
112
+ 126,
113
+ 127,
114
+ 128,
115
+ 129,
116
+ 130,
117
+ 131,
118
+ 132,
119
+ 133,
120
+ 134,
121
+ 135,
122
+ 136,
123
+ 137,
124
+ 138,
125
+ 141,
126
+ 142,
127
+ 143,
128
+ 144,
129
+ 145,
130
+ 146,
131
+ 148,
132
+ 149,
133
+ 150,
134
+ 152,
135
+ 154,
136
+ 156,
137
+ 157,
138
+ 158,
139
+ 159,
140
+ 160,
141
+ 161,
142
+ 162,
143
+ 163,
144
+ 164,
145
+ 166,
146
+ 167,
147
+ 168,
148
+ 170,
149
+ 171,
150
+ 172,
151
+ 173,
152
+ 174,
153
+ 175,
154
+ 176,
155
+ 178,
156
+ 179,
157
+ 181,
158
+ 182,
159
+ 183,
160
+ 184,
161
+ 185,
162
+ 186,
163
+ 187,
164
+ 188,
165
+ 189,
166
+ 190,
167
+ 191,
168
+ 192,
169
+ 193,
170
+ 194,
171
+ 196,
172
+ 197,
173
+ 198,
174
+ 200,
175
+ 201,
176
+ 202,
177
+ 203,
178
+ 207,
179
+ 208,
180
+ 212,
181
+ 214,
182
+ 215,
183
+ 216,
184
+ 220,
185
+ 221,
186
+ 222,
187
+ 223,
188
+ 224,
189
+ 225,
190
+ 226,
191
+ 228,
192
+ 230,
193
+ 231,
194
+ 232,
195
+ 233,
196
+ 234,
197
+ 235,
198
+ 236,
199
+ 238,
200
+ 240,
201
+ 242,
202
+ 243,
203
+ 244,
204
+ 245,
205
+ 246,
206
+ 249,
207
+ 250,
208
+ 251,
209
+ 253,
210
+ 254,
211
+ 256,
212
+ 257,
213
+ 258,
214
+ 259,
215
+ 261,
216
+ 264,
217
+ 265,
218
+ 266,
219
+ 268,
220
+ 270,
221
+ 271,
222
+ 273,
223
+ 275,
224
+ 276,
225
+ 277,
226
+ 279,
227
+ 280,
228
+ 281,
229
+ 282,
230
+ 283,
231
+ 284,
232
+ 285,
233
+ 287,
234
+ 288,
235
+ 289,
236
+ 290,
237
+ 292,
238
+ 293,
239
+ 295,
240
+ 297,
241
+ 298,
242
+ 299,
243
+ 300,
244
+ 301,
245
+ 302,
246
+ 303,
247
+ 304,
248
+ 305,
249
+ 307,
250
+ 308,
251
+ 309,
252
+ 310,
253
+ 311,
254
+ 312,
255
+ 313,
256
+ 314,
257
+ 315,
258
+ 316,
259
+ 317,
260
+ 318,
261
+ 319,
262
+ 321,
263
+ 323,
264
+ 324,
265
+ 325,
266
+ 326,
267
+ 327,
268
+ 328,
269
+ 330,
270
+ 332,
271
+ 333,
272
+ 334,
273
+ 335,
274
+ 336,
275
+ 337,
276
+ 338,
277
+ 339,
278
+ 340,
279
+ 341,
280
+ 342,
281
+ 343,
282
+ 344,
283
+ 345,
284
+ 347,
285
+ 348,
286
+ 349,
287
+ 350,
288
+ 351,
289
+ 352,
290
+ 354,
291
+ 355,
292
+ 357,
293
+ 358,
294
+ 359,
295
+ 360,
296
+ 361,
297
+ 362,
298
+ 365,
299
+ 367,
300
+ 368,
301
+ 369,
302
+ 370,
303
+ 371,
304
+ 373,
305
+ 374,
306
+ 375,
307
+ 376,
308
+ 377,
309
+ 378,
310
+ 379,
311
+ 380,
312
+ 381,
313
+ 382,
314
+ 383,
315
+ 385,
316
+ 386,
317
+ 387,
318
+ 388,
319
+ 389,
320
+ 390,
321
+ 391,
322
+ 392,
323
+ 393,
324
+ 394,
325
+ 395,
326
+ 396,
327
+ 397,
328
+ 398,
329
+ 399,
330
+ 401,
331
+ 402,
332
+ 403,
333
+ 404,
334
+ 405,
335
+ 406,
336
+ 407,
337
+ 408,
338
+ 409,
339
+ 410,
340
+ 411,
341
+ 413,
342
+ 415,
343
+ 417,
344
+ 418,
345
+ 419,
346
+ 420,
347
+ 421,
348
+ 422,
349
+ 423,
350
+ 424,
351
+ 425,
352
+ 427,
353
+ 429,
354
+ 430,
355
+ 431,
356
+ 432,
357
+ 433,
358
+ 434,
359
+ 435,
360
+ 436,
361
+ 437,
362
+ 438,
363
+ 439,
364
+ 440,
365
+ 441,
366
+ 442,
367
+ 443,
368
+ 444,
369
+ 445,
370
+ 446,
371
+ 447,
372
+ 448,
373
+ 449,
374
+ 450,
375
+ 451,
376
+ 452,
377
+ 453,
378
+ 454,
379
+ 455,
380
+ 456,
381
+ 457,
382
+ 458,
383
+ 459,
384
+ 460,
385
+ 463,
386
+ 464,
387
+ 465,
388
+ 466,
389
+ 467,
390
+ 469,
391
+ 470,
392
+ 471,
393
+ 472,
394
+ 474,
395
+ 475,
396
+ 476,
397
+ 477,
398
+ 478,
399
+ 479,
400
+ 480,
401
+ 481,
402
+ 482,
403
+ 483,
404
+ 484,
405
+ 485,
406
+ 486,
407
+ 487,
408
+ 488,
409
+ 489,
410
+ 490,
411
+ 492,
412
+ 493,
413
+ 495,
414
+ 496,
415
+ 497,
416
+ 498,
417
+ 499,
418
+ 500,
419
+ 501,
420
+ 502,
421
+ 504,
422
+ 505,
423
+ 506,
424
+ 507,
425
+ 509,
426
+ 510,
427
+ 512,
428
+ 514,
429
+ 515,
430
+ 516,
431
+ 517,
432
+ 518,
433
+ 519,
434
+ 520,
435
+ 521,
436
+ 522,
437
+ 523,
438
+ 526,
439
+ 527,
440
+ 528,
441
+ 529,
442
+ 530,
443
+ 531,
444
+ 532,
445
+ 533,
446
+ 534,
447
+ 535,
448
+ 536,
449
+ 537,
450
+ 538,
451
+ 539,
452
+ 540,
453
+ 541,
454
+ 542,
455
+ 543,
456
+ 544,
457
+ 545,
458
+ 546,
459
+ 547,
460
+ 548,
461
+ 549,
462
+ 551,
463
+ 552,
464
+ 553,
465
+ 554,
466
+ 555,
467
+ 556,
468
+ 557,
469
+ 558,
470
+ 559,
471
+ 560,
472
+ 561,
473
+ 563,
474
+ 564,
475
+ 565,
476
+ 566,
477
+ 567,
478
+ 568,
479
+ 569,
480
+ 570,
481
+ 572,
482
+ 573,
483
+ 574,
484
+ 575,
485
+ 578,
486
+ 580,
487
+ 581,
488
+ 582,
489
+ 583,
490
+ 584,
491
+ 585,
492
+ 586,
493
+ 588,
494
+ 590,
495
+ 591,
496
+ 592,
497
+ 596,
498
+ 597,
499
+ 598,
500
+ 600,
501
+ 601,
502
+ 602,
503
+ 603,
504
+ 604,
505
+ 605,
506
+ 606,
507
+ 608,
508
+ 609,
509
+ 610,
510
+ 611,
511
+ 612,
512
+ 614,
513
+ 616,
514
+ 617,
515
+ 618,
516
+ 619,
517
+ 620,
518
+ 621,
519
+ 622,
520
+ 623,
521
+ 624,
522
+ 625,
523
+ 626,
524
+ 627,
525
+ 628,
526
+ 629,
527
+ 630,
528
+ 632,
529
+ 633,
530
+ 634,
531
+ 636,
532
+ 637,
533
+ 638,
534
+ 639,
535
+ 640,
536
+ 641,
537
+ 642,
538
+ 643,
539
+ 644,
540
+ 645,
541
+ 647,
542
+ 649,
543
+ 650,
544
+ 651,
545
+ 652,
546
+ 653,
547
+ 654,
548
+ 656,
549
+ 657,
550
+ 658,
551
+ 659,
552
+ 660,
553
+ 661,
554
+ 662,
555
+ 663,
556
+ 664,
557
+ 665,
558
+ 666,
559
+ 668,
560
+ 669,
561
+ 670,
562
+ 673,
563
+ 674,
564
+ 676,
565
+ 677,
566
+ 678,
567
+ 680,
568
+ 681,
569
+ 682,
570
+ 683,
571
+ 684,
572
+ 686,
573
+ 690,
574
+ 691,
575
+ 692,
576
+ 693,
577
+ 694,
578
+ 695,
579
+ 696,
580
+ 697,
581
+ 698,
582
+ 699,
583
+ 700,
584
+ 701,
585
+ 702,
586
+ 704,
587
+ 705,
588
+ 706,
589
+ 708,
590
+ 709,
591
+ 710,
592
+ 712,
593
+ 715,
594
+ 716,
595
+ 717,
596
+ 720,
597
+ 721,
598
+ 722,
599
+ 724,
600
+ 725,
601
+ 730,
602
+ 732,
603
+ 735,
604
+ 736,
605
+ 737,
606
+ 738,
607
+ 740,
608
+ 741,
609
+ 742,
610
+ 744,
611
+ 746,
612
+ 747,
613
+ 748,
614
+ 749,
615
+ 750,
616
+ 751,
617
+ 752,
618
+ 753,
619
+ 754,
620
+ 755,
621
+ 756,
622
+ 759,
623
+ 760,
624
+ 761,
625
+ 762,
626
+ 764,
627
+ 765,
628
+ 766,
629
+ 767,
630
+ 771,
631
+ 772,
632
+ 773,
633
+ 774,
634
+ 775,
635
+ 776,
636
+ 777,
637
+ 778,
638
+ 779,
639
+ 782,
640
+ 783,
641
+ 784,
642
+ 785,
643
+ 786,
644
+ 787,
645
+ 788,
646
+ 789,
647
+ 790,
648
+ 792,
649
+ 793,
650
+ 794,
651
+ 795,
652
+ 796,
653
+ 798,
654
+ 799,
655
+ 800,
656
+ 801,
657
+ 802,
658
+ 803,
659
+ 804,
660
+ 805,
661
+ 806,
662
+ 807,
663
+ 808,
664
+ 809,
665
+ 810,
666
+ 811,
667
+ 812,
668
+ 813,
669
+ 814,
670
+ 815,
671
+ 816,
672
+ 817,
673
+ 818,
674
+ 819,
675
+ 821,
676
+ 824,
677
+ 825,
678
+ 828,
679
+ 829,
680
+ 830,
681
+ 831,
682
+ 833,
683
+ 834,
684
+ 835,
685
+ 836,
686
+ 837,
687
+ 838,
688
+ 840,
689
+ 841,
690
+ 842,
691
+ 843,
692
+ 844,
693
+ 845,
694
+ 846,
695
+ 848,
696
+ 850,
697
+ 852,
698
+ 853,
699
+ 854,
700
+ 856,
701
+ 857,
702
+ 858,
703
+ 859,
704
+ 861,
705
+ 863,
706
+ 864,
707
+ 866,
708
+ 867,
709
+ 868,
710
+ 869,
711
+ 870,
712
+ 871,
713
+ 872,
714
+ 873,
715
+ 874,
716
+ 875,
717
+ 876,
718
+ 877,
719
+ 878,
720
+ 879,
721
+ 880,
722
+ 881,
723
+ 883,
724
+ 884,
725
+ 885,
726
+ 886,
727
+ 887,
728
+ 888,
729
+ 889,
730
+ 890,
731
+ 891,
732
+ 892,
733
+ 893,
734
+ 894,
735
+ 896,
736
+ 897,
737
+ 898,
738
+ 900,
739
+ 901,
740
+ 903,
741
+ 906,
742
+ 907,
743
+ 908,
744
+ 909,
745
+ 910,
746
+ 911,
747
+ 912,
748
+ 913,
749
+ 914,
750
+ 915,
751
+ 917,
752
+ 918,
753
+ 919,
754
+ 920,
755
+ 921,
756
+ 923,
757
+ 924,
758
+ 925,
759
+ 926,
760
+ 927,
761
+ 928,
762
+ 929,
763
+ 930,
764
+ 931,
765
+ 933,
766
+ 934,
767
+ 935,
768
+ 936,
769
+ 937,
770
+ 938,
771
+ 939,
772
+ 940,
773
+ 941,
774
+ 942,
775
+ 943,
776
+ 944,
777
+ 945,
778
+ 946,
779
+ 947,
780
+ 948,
781
+ 949,
782
+ 950,
783
+ 951,
784
+ 952,
785
+ 953,
786
+ 954,
787
+ 955,
788
+ 956,
789
+ 957,
790
+ 958,
791
+ 959,
792
+ 960,
793
+ 961,
794
+ 962,
795
+ 963,
796
+ 964,
797
+ 965,
798
+ 966,
799
+ 967,
800
+ 968,
801
+ 970,
802
+ 971,
803
+ 972,
804
+ 973,
805
+ 974,
806
+ 976,
807
+ 977,
808
+ 978,
809
+ 979,
810
+ 982,
811
+ 983,
812
+ 985,
813
+ 986,
814
+ 987,
815
+ 988,
816
+ 989,
817
+ 990,
818
+ 991,
819
+ 994,
820
+ 995,
821
+ 996,
822
+ 997,
823
+ 998
824
+ ],
825
+ "not_both_correct_indices": [
826
+ 1,
827
+ 2,
828
+ 10,
829
+ 12,
830
+ 14,
831
+ 19,
832
+ 20,
833
+ 21,
834
+ 23,
835
+ 33,
836
+ 35,
837
+ 49,
838
+ 52,
839
+ 57,
840
+ 61,
841
+ 67,
842
+ 69,
843
+ 79,
844
+ 84,
845
+ 87,
846
+ 89,
847
+ 108,
848
+ 109,
849
+ 110,
850
+ 123,
851
+ 139,
852
+ 140,
853
+ 147,
854
+ 151,
855
+ 153,
856
+ 155,
857
+ 165,
858
+ 169,
859
+ 177,
860
+ 180,
861
+ 195,
862
+ 199,
863
+ 204,
864
+ 205,
865
+ 206,
866
+ 209,
867
+ 210,
868
+ 211,
869
+ 213,
870
+ 217,
871
+ 218,
872
+ 219,
873
+ 227,
874
+ 229,
875
+ 237,
876
+ 239,
877
+ 241,
878
+ 247,
879
+ 248,
880
+ 252,
881
+ 255,
882
+ 260,
883
+ 262,
884
+ 263,
885
+ 267,
886
+ 269,
887
+ 272,
888
+ 274,
889
+ 278,
890
+ 286,
891
+ 291,
892
+ 294,
893
+ 296,
894
+ 306,
895
+ 320,
896
+ 322,
897
+ 329,
898
+ 331,
899
+ 346,
900
+ 353,
901
+ 356,
902
+ 363,
903
+ 364,
904
+ 366,
905
+ 372,
906
+ 384,
907
+ 400,
908
+ 412,
909
+ 414,
910
+ 416,
911
+ 426,
912
+ 428,
913
+ 461,
914
+ 462,
915
+ 468,
916
+ 473,
917
+ 491,
918
+ 494,
919
+ 503,
920
+ 508,
921
+ 511,
922
+ 513,
923
+ 524,
924
+ 525,
925
+ 550,
926
+ 562,
927
+ 571,
928
+ 576,
929
+ 577,
930
+ 579,
931
+ 587,
932
+ 589,
933
+ 593,
934
+ 594,
935
+ 595,
936
+ 599,
937
+ 607,
938
+ 613,
939
+ 615,
940
+ 631,
941
+ 635,
942
+ 646,
943
+ 648,
944
+ 655,
945
+ 667,
946
+ 671,
947
+ 672,
948
+ 675,
949
+ 679,
950
+ 685,
951
+ 687,
952
+ 688,
953
+ 689,
954
+ 703,
955
+ 707,
956
+ 711,
957
+ 713,
958
+ 714,
959
+ 718,
960
+ 719,
961
+ 723,
962
+ 726,
963
+ 727,
964
+ 728,
965
+ 729,
966
+ 731,
967
+ 733,
968
+ 734,
969
+ 739,
970
+ 743,
971
+ 745,
972
+ 757,
973
+ 758,
974
+ 763,
975
+ 768,
976
+ 769,
977
+ 770,
978
+ 780,
979
+ 781,
980
+ 791,
981
+ 797,
982
+ 820,
983
+ 822,
984
+ 823,
985
+ 826,
986
+ 827,
987
+ 832,
988
+ 839,
989
+ 847,
990
+ 849,
991
+ 851,
992
+ 855,
993
+ 860,
994
+ 862,
995
+ 865,
996
+ 882,
997
+ 895,
998
+ 899,
999
+ 902,
1000
+ 904,
1001
+ 905,
1002
+ 916,
1003
+ 922,
1004
+ 932,
1005
+ 969,
1006
+ 975,
1007
+ 980,
1008
+ 981,
1009
+ 984,
1010
+ 992,
1011
+ 993,
1012
+ 999
1013
+ ],
1014
+ "clean_baseline": 5.453125,
1015
+ "corrupted_baseline": -5.453125
1016
+ }
results/mistralai_Mistral-Large-Instruct-2407/phys/phys_newton/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:1084f9389fabef9b22b1527d367784daa03fd8ad3568dfbbc61b832f63f3d446
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/phys/phys_newton/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ce87d10a68475be3e31c0a1fdc033d1b43a9edc209a5ebcb851811b6410bb406
3
+ size 10281368
results/mistralai_Mistral-Large-Instruct-2407/phys/phys_prost/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/phys/phys_prost/baselines.json ADDED
@@ -0,0 +1,1216 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1200,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1200,
6
+ "clean_accuracy": 0.9516666666666667,
7
+ "corrupted_accuracy": 0.9516666666666667,
8
+ "both_correct_accuracy": 0.9033333333333333,
9
+ "n_both_correct": 1084,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 3,
14
+ 4,
15
+ 5,
16
+ 9,
17
+ 10,
18
+ 11,
19
+ 12,
20
+ 13,
21
+ 14,
22
+ 15,
23
+ 16,
24
+ 17,
25
+ 18,
26
+ 19,
27
+ 20,
28
+ 21,
29
+ 22,
30
+ 23,
31
+ 24,
32
+ 25,
33
+ 26,
34
+ 27,
35
+ 28,
36
+ 29,
37
+ 31,
38
+ 32,
39
+ 33,
40
+ 34,
41
+ 35,
42
+ 36,
43
+ 37,
44
+ 38,
45
+ 39,
46
+ 40,
47
+ 41,
48
+ 42,
49
+ 43,
50
+ 44,
51
+ 45,
52
+ 46,
53
+ 47,
54
+ 49,
55
+ 50,
56
+ 51,
57
+ 52,
58
+ 53,
59
+ 54,
60
+ 55,
61
+ 56,
62
+ 57,
63
+ 58,
64
+ 59,
65
+ 61,
66
+ 62,
67
+ 63,
68
+ 64,
69
+ 65,
70
+ 66,
71
+ 67,
72
+ 68,
73
+ 69,
74
+ 70,
75
+ 71,
76
+ 72,
77
+ 73,
78
+ 74,
79
+ 75,
80
+ 76,
81
+ 80,
82
+ 81,
83
+ 82,
84
+ 83,
85
+ 84,
86
+ 85,
87
+ 86,
88
+ 87,
89
+ 88,
90
+ 89,
91
+ 90,
92
+ 91,
93
+ 92,
94
+ 93,
95
+ 94,
96
+ 95,
97
+ 97,
98
+ 98,
99
+ 99,
100
+ 100,
101
+ 102,
102
+ 103,
103
+ 104,
104
+ 105,
105
+ 106,
106
+ 107,
107
+ 108,
108
+ 109,
109
+ 110,
110
+ 111,
111
+ 112,
112
+ 113,
113
+ 115,
114
+ 116,
115
+ 117,
116
+ 118,
117
+ 119,
118
+ 120,
119
+ 121,
120
+ 122,
121
+ 123,
122
+ 124,
123
+ 125,
124
+ 126,
125
+ 127,
126
+ 128,
127
+ 129,
128
+ 130,
129
+ 131,
130
+ 132,
131
+ 133,
132
+ 134,
133
+ 135,
134
+ 136,
135
+ 137,
136
+ 139,
137
+ 140,
138
+ 141,
139
+ 142,
140
+ 143,
141
+ 144,
142
+ 145,
143
+ 146,
144
+ 147,
145
+ 148,
146
+ 149,
147
+ 150,
148
+ 151,
149
+ 152,
150
+ 153,
151
+ 154,
152
+ 155,
153
+ 156,
154
+ 157,
155
+ 158,
156
+ 159,
157
+ 160,
158
+ 161,
159
+ 162,
160
+ 163,
161
+ 164,
162
+ 165,
163
+ 166,
164
+ 167,
165
+ 168,
166
+ 170,
167
+ 171,
168
+ 172,
169
+ 173,
170
+ 174,
171
+ 175,
172
+ 176,
173
+ 177,
174
+ 178,
175
+ 179,
176
+ 180,
177
+ 181,
178
+ 182,
179
+ 184,
180
+ 185,
181
+ 186,
182
+ 187,
183
+ 188,
184
+ 189,
185
+ 190,
186
+ 191,
187
+ 192,
188
+ 193,
189
+ 194,
190
+ 195,
191
+ 197,
192
+ 198,
193
+ 199,
194
+ 200,
195
+ 201,
196
+ 202,
197
+ 203,
198
+ 204,
199
+ 206,
200
+ 207,
201
+ 208,
202
+ 209,
203
+ 210,
204
+ 211,
205
+ 213,
206
+ 214,
207
+ 215,
208
+ 216,
209
+ 217,
210
+ 218,
211
+ 221,
212
+ 223,
213
+ 225,
214
+ 226,
215
+ 227,
216
+ 228,
217
+ 229,
218
+ 230,
219
+ 231,
220
+ 232,
221
+ 233,
222
+ 234,
223
+ 235,
224
+ 236,
225
+ 237,
226
+ 238,
227
+ 239,
228
+ 240,
229
+ 241,
230
+ 242,
231
+ 243,
232
+ 244,
233
+ 245,
234
+ 246,
235
+ 247,
236
+ 248,
237
+ 249,
238
+ 250,
239
+ 251,
240
+ 252,
241
+ 253,
242
+ 254,
243
+ 255,
244
+ 256,
245
+ 257,
246
+ 258,
247
+ 259,
248
+ 260,
249
+ 261,
250
+ 262,
251
+ 263,
252
+ 264,
253
+ 265,
254
+ 267,
255
+ 268,
256
+ 269,
257
+ 270,
258
+ 271,
259
+ 272,
260
+ 273,
261
+ 274,
262
+ 275,
263
+ 276,
264
+ 277,
265
+ 278,
266
+ 279,
267
+ 280,
268
+ 281,
269
+ 283,
270
+ 284,
271
+ 285,
272
+ 286,
273
+ 287,
274
+ 288,
275
+ 289,
276
+ 290,
277
+ 292,
278
+ 293,
279
+ 294,
280
+ 295,
281
+ 296,
282
+ 297,
283
+ 298,
284
+ 299,
285
+ 301,
286
+ 302,
287
+ 303,
288
+ 304,
289
+ 305,
290
+ 306,
291
+ 307,
292
+ 308,
293
+ 309,
294
+ 310,
295
+ 311,
296
+ 312,
297
+ 313,
298
+ 315,
299
+ 316,
300
+ 317,
301
+ 318,
302
+ 319,
303
+ 320,
304
+ 321,
305
+ 322,
306
+ 323,
307
+ 324,
308
+ 325,
309
+ 326,
310
+ 328,
311
+ 329,
312
+ 330,
313
+ 331,
314
+ 332,
315
+ 333,
316
+ 334,
317
+ 335,
318
+ 336,
319
+ 337,
320
+ 338,
321
+ 339,
322
+ 340,
323
+ 341,
324
+ 343,
325
+ 344,
326
+ 345,
327
+ 346,
328
+ 347,
329
+ 348,
330
+ 349,
331
+ 350,
332
+ 351,
333
+ 352,
334
+ 353,
335
+ 354,
336
+ 355,
337
+ 356,
338
+ 357,
339
+ 358,
340
+ 359,
341
+ 360,
342
+ 361,
343
+ 362,
344
+ 363,
345
+ 364,
346
+ 365,
347
+ 366,
348
+ 367,
349
+ 368,
350
+ 370,
351
+ 371,
352
+ 372,
353
+ 373,
354
+ 374,
355
+ 375,
356
+ 377,
357
+ 378,
358
+ 379,
359
+ 380,
360
+ 381,
361
+ 382,
362
+ 383,
363
+ 384,
364
+ 385,
365
+ 386,
366
+ 387,
367
+ 388,
368
+ 389,
369
+ 391,
370
+ 392,
371
+ 393,
372
+ 394,
373
+ 395,
374
+ 396,
375
+ 397,
376
+ 398,
377
+ 399,
378
+ 401,
379
+ 402,
380
+ 406,
381
+ 407,
382
+ 408,
383
+ 409,
384
+ 410,
385
+ 412,
386
+ 415,
387
+ 416,
388
+ 418,
389
+ 419,
390
+ 420,
391
+ 423,
392
+ 424,
393
+ 425,
394
+ 426,
395
+ 427,
396
+ 428,
397
+ 429,
398
+ 430,
399
+ 431,
400
+ 432,
401
+ 433,
402
+ 435,
403
+ 436,
404
+ 437,
405
+ 438,
406
+ 439,
407
+ 442,
408
+ 443,
409
+ 444,
410
+ 447,
411
+ 449,
412
+ 450,
413
+ 451,
414
+ 452,
415
+ 453,
416
+ 454,
417
+ 456,
418
+ 457,
419
+ 458,
420
+ 460,
421
+ 461,
422
+ 464,
423
+ 465,
424
+ 466,
425
+ 467,
426
+ 469,
427
+ 471,
428
+ 472,
429
+ 473,
430
+ 474,
431
+ 476,
432
+ 477,
433
+ 479,
434
+ 480,
435
+ 482,
436
+ 483,
437
+ 484,
438
+ 485,
439
+ 489,
440
+ 492,
441
+ 493,
442
+ 494,
443
+ 495,
444
+ 497,
445
+ 498,
446
+ 499,
447
+ 502,
448
+ 503,
449
+ 504,
450
+ 506,
451
+ 508,
452
+ 509,
453
+ 511,
454
+ 513,
455
+ 514,
456
+ 515,
457
+ 517,
458
+ 518,
459
+ 520,
460
+ 521,
461
+ 522,
462
+ 523,
463
+ 524,
464
+ 525,
465
+ 526,
466
+ 529,
467
+ 530,
468
+ 531,
469
+ 532,
470
+ 533,
471
+ 535,
472
+ 537,
473
+ 538,
474
+ 539,
475
+ 541,
476
+ 542,
477
+ 543,
478
+ 544,
479
+ 546,
480
+ 548,
481
+ 550,
482
+ 551,
483
+ 552,
484
+ 553,
485
+ 558,
486
+ 559,
487
+ 561,
488
+ 562,
489
+ 563,
490
+ 564,
491
+ 567,
492
+ 568,
493
+ 569,
494
+ 572,
495
+ 575,
496
+ 576,
497
+ 578,
498
+ 579,
499
+ 580,
500
+ 581,
501
+ 582,
502
+ 584,
503
+ 585,
504
+ 586,
505
+ 588,
506
+ 589,
507
+ 593,
508
+ 594,
509
+ 595,
510
+ 596,
511
+ 598,
512
+ 600,
513
+ 601,
514
+ 602,
515
+ 603,
516
+ 604,
517
+ 605,
518
+ 606,
519
+ 607,
520
+ 608,
521
+ 609,
522
+ 610,
523
+ 611,
524
+ 612,
525
+ 613,
526
+ 614,
527
+ 615,
528
+ 616,
529
+ 617,
530
+ 618,
531
+ 619,
532
+ 620,
533
+ 621,
534
+ 622,
535
+ 623,
536
+ 624,
537
+ 625,
538
+ 626,
539
+ 627,
540
+ 628,
541
+ 629,
542
+ 630,
543
+ 631,
544
+ 632,
545
+ 633,
546
+ 634,
547
+ 635,
548
+ 636,
549
+ 637,
550
+ 638,
551
+ 639,
552
+ 640,
553
+ 641,
554
+ 642,
555
+ 643,
556
+ 644,
557
+ 645,
558
+ 646,
559
+ 647,
560
+ 648,
561
+ 649,
562
+ 650,
563
+ 651,
564
+ 652,
565
+ 653,
566
+ 654,
567
+ 655,
568
+ 656,
569
+ 657,
570
+ 658,
571
+ 659,
572
+ 660,
573
+ 661,
574
+ 662,
575
+ 663,
576
+ 664,
577
+ 665,
578
+ 666,
579
+ 667,
580
+ 668,
581
+ 669,
582
+ 670,
583
+ 671,
584
+ 672,
585
+ 673,
586
+ 674,
587
+ 675,
588
+ 676,
589
+ 677,
590
+ 678,
591
+ 679,
592
+ 680,
593
+ 681,
594
+ 682,
595
+ 683,
596
+ 684,
597
+ 685,
598
+ 686,
599
+ 687,
600
+ 688,
601
+ 689,
602
+ 690,
603
+ 691,
604
+ 692,
605
+ 693,
606
+ 694,
607
+ 695,
608
+ 696,
609
+ 697,
610
+ 698,
611
+ 699,
612
+ 700,
613
+ 701,
614
+ 702,
615
+ 703,
616
+ 704,
617
+ 705,
618
+ 706,
619
+ 707,
620
+ 708,
621
+ 709,
622
+ 710,
623
+ 711,
624
+ 712,
625
+ 713,
626
+ 714,
627
+ 715,
628
+ 716,
629
+ 717,
630
+ 718,
631
+ 719,
632
+ 720,
633
+ 721,
634
+ 722,
635
+ 723,
636
+ 724,
637
+ 725,
638
+ 726,
639
+ 727,
640
+ 728,
641
+ 729,
642
+ 730,
643
+ 731,
644
+ 732,
645
+ 733,
646
+ 734,
647
+ 735,
648
+ 736,
649
+ 737,
650
+ 738,
651
+ 739,
652
+ 740,
653
+ 741,
654
+ 742,
655
+ 743,
656
+ 744,
657
+ 745,
658
+ 746,
659
+ 747,
660
+ 748,
661
+ 749,
662
+ 750,
663
+ 751,
664
+ 752,
665
+ 753,
666
+ 754,
667
+ 755,
668
+ 756,
669
+ 757,
670
+ 758,
671
+ 759,
672
+ 760,
673
+ 761,
674
+ 762,
675
+ 763,
676
+ 764,
677
+ 765,
678
+ 766,
679
+ 767,
680
+ 768,
681
+ 769,
682
+ 770,
683
+ 771,
684
+ 772,
685
+ 773,
686
+ 774,
687
+ 775,
688
+ 776,
689
+ 777,
690
+ 778,
691
+ 779,
692
+ 780,
693
+ 781,
694
+ 782,
695
+ 783,
696
+ 784,
697
+ 785,
698
+ 786,
699
+ 787,
700
+ 788,
701
+ 789,
702
+ 790,
703
+ 791,
704
+ 792,
705
+ 793,
706
+ 794,
707
+ 795,
708
+ 796,
709
+ 797,
710
+ 798,
711
+ 799,
712
+ 801,
713
+ 803,
714
+ 804,
715
+ 805,
716
+ 806,
717
+ 807,
718
+ 808,
719
+ 809,
720
+ 810,
721
+ 811,
722
+ 812,
723
+ 813,
724
+ 814,
725
+ 815,
726
+ 816,
727
+ 817,
728
+ 819,
729
+ 820,
730
+ 821,
731
+ 822,
732
+ 823,
733
+ 824,
734
+ 826,
735
+ 827,
736
+ 828,
737
+ 829,
738
+ 830,
739
+ 831,
740
+ 832,
741
+ 833,
742
+ 834,
743
+ 835,
744
+ 836,
745
+ 837,
746
+ 838,
747
+ 839,
748
+ 840,
749
+ 841,
750
+ 842,
751
+ 843,
752
+ 844,
753
+ 845,
754
+ 846,
755
+ 848,
756
+ 849,
757
+ 850,
758
+ 851,
759
+ 852,
760
+ 853,
761
+ 854,
762
+ 855,
763
+ 856,
764
+ 858,
765
+ 859,
766
+ 860,
767
+ 861,
768
+ 862,
769
+ 863,
770
+ 864,
771
+ 865,
772
+ 866,
773
+ 867,
774
+ 868,
775
+ 869,
776
+ 870,
777
+ 871,
778
+ 872,
779
+ 873,
780
+ 874,
781
+ 875,
782
+ 877,
783
+ 878,
784
+ 879,
785
+ 880,
786
+ 881,
787
+ 882,
788
+ 884,
789
+ 885,
790
+ 886,
791
+ 887,
792
+ 888,
793
+ 889,
794
+ 890,
795
+ 891,
796
+ 892,
797
+ 893,
798
+ 895,
799
+ 896,
800
+ 898,
801
+ 899,
802
+ 900,
803
+ 901,
804
+ 902,
805
+ 903,
806
+ 904,
807
+ 905,
808
+ 906,
809
+ 907,
810
+ 908,
811
+ 909,
812
+ 910,
813
+ 911,
814
+ 912,
815
+ 913,
816
+ 914,
817
+ 915,
818
+ 916,
819
+ 918,
820
+ 919,
821
+ 920,
822
+ 921,
823
+ 922,
824
+ 923,
825
+ 924,
826
+ 925,
827
+ 926,
828
+ 927,
829
+ 928,
830
+ 929,
831
+ 930,
832
+ 931,
833
+ 932,
834
+ 933,
835
+ 935,
836
+ 936,
837
+ 937,
838
+ 939,
839
+ 940,
840
+ 941,
841
+ 942,
842
+ 943,
843
+ 944,
844
+ 945,
845
+ 946,
846
+ 947,
847
+ 948,
848
+ 949,
849
+ 950,
850
+ 951,
851
+ 952,
852
+ 953,
853
+ 954,
854
+ 955,
855
+ 956,
856
+ 957,
857
+ 959,
858
+ 960,
859
+ 961,
860
+ 962,
861
+ 963,
862
+ 964,
863
+ 965,
864
+ 966,
865
+ 967,
866
+ 968,
867
+ 969,
868
+ 970,
869
+ 971,
870
+ 972,
871
+ 973,
872
+ 974,
873
+ 975,
874
+ 976,
875
+ 977,
876
+ 978,
877
+ 979,
878
+ 980,
879
+ 981,
880
+ 982,
881
+ 983,
882
+ 984,
883
+ 985,
884
+ 986,
885
+ 987,
886
+ 988,
887
+ 989,
888
+ 990,
889
+ 991,
890
+ 992,
891
+ 993,
892
+ 994,
893
+ 995,
894
+ 996,
895
+ 997,
896
+ 998,
897
+ 999,
898
+ 1000,
899
+ 1001,
900
+ 1002,
901
+ 1003,
902
+ 1004,
903
+ 1005,
904
+ 1006,
905
+ 1007,
906
+ 1008,
907
+ 1009,
908
+ 1010,
909
+ 1011,
910
+ 1012,
911
+ 1013,
912
+ 1014,
913
+ 1015,
914
+ 1016,
915
+ 1017,
916
+ 1018,
917
+ 1019,
918
+ 1020,
919
+ 1021,
920
+ 1022,
921
+ 1023,
922
+ 1024,
923
+ 1025,
924
+ 1026,
925
+ 1027,
926
+ 1028,
927
+ 1029,
928
+ 1030,
929
+ 1031,
930
+ 1032,
931
+ 1033,
932
+ 1034,
933
+ 1035,
934
+ 1036,
935
+ 1037,
936
+ 1038,
937
+ 1039,
938
+ 1040,
939
+ 1041,
940
+ 1042,
941
+ 1043,
942
+ 1044,
943
+ 1045,
944
+ 1046,
945
+ 1047,
946
+ 1048,
947
+ 1049,
948
+ 1050,
949
+ 1051,
950
+ 1052,
951
+ 1053,
952
+ 1054,
953
+ 1055,
954
+ 1056,
955
+ 1057,
956
+ 1058,
957
+ 1059,
958
+ 1060,
959
+ 1061,
960
+ 1063,
961
+ 1064,
962
+ 1065,
963
+ 1066,
964
+ 1067,
965
+ 1068,
966
+ 1069,
967
+ 1070,
968
+ 1071,
969
+ 1072,
970
+ 1073,
971
+ 1074,
972
+ 1075,
973
+ 1076,
974
+ 1077,
975
+ 1078,
976
+ 1079,
977
+ 1080,
978
+ 1081,
979
+ 1082,
980
+ 1083,
981
+ 1084,
982
+ 1085,
983
+ 1086,
984
+ 1087,
985
+ 1088,
986
+ 1089,
987
+ 1090,
988
+ 1091,
989
+ 1092,
990
+ 1093,
991
+ 1094,
992
+ 1095,
993
+ 1096,
994
+ 1097,
995
+ 1098,
996
+ 1099,
997
+ 1101,
998
+ 1102,
999
+ 1103,
1000
+ 1104,
1001
+ 1105,
1002
+ 1106,
1003
+ 1107,
1004
+ 1108,
1005
+ 1109,
1006
+ 1110,
1007
+ 1111,
1008
+ 1112,
1009
+ 1113,
1010
+ 1114,
1011
+ 1115,
1012
+ 1116,
1013
+ 1117,
1014
+ 1118,
1015
+ 1119,
1016
+ 1120,
1017
+ 1121,
1018
+ 1122,
1019
+ 1123,
1020
+ 1124,
1021
+ 1125,
1022
+ 1126,
1023
+ 1127,
1024
+ 1128,
1025
+ 1129,
1026
+ 1130,
1027
+ 1131,
1028
+ 1132,
1029
+ 1133,
1030
+ 1134,
1031
+ 1135,
1032
+ 1136,
1033
+ 1137,
1034
+ 1138,
1035
+ 1139,
1036
+ 1140,
1037
+ 1141,
1038
+ 1142,
1039
+ 1143,
1040
+ 1144,
1041
+ 1145,
1042
+ 1146,
1043
+ 1148,
1044
+ 1149,
1045
+ 1150,
1046
+ 1151,
1047
+ 1152,
1048
+ 1153,
1049
+ 1154,
1050
+ 1155,
1051
+ 1156,
1052
+ 1157,
1053
+ 1158,
1054
+ 1159,
1055
+ 1160,
1056
+ 1161,
1057
+ 1162,
1058
+ 1163,
1059
+ 1164,
1060
+ 1165,
1061
+ 1166,
1062
+ 1167,
1063
+ 1168,
1064
+ 1169,
1065
+ 1170,
1066
+ 1171,
1067
+ 1172,
1068
+ 1173,
1069
+ 1174,
1070
+ 1175,
1071
+ 1176,
1072
+ 1177,
1073
+ 1178,
1074
+ 1179,
1075
+ 1180,
1076
+ 1181,
1077
+ 1182,
1078
+ 1183,
1079
+ 1184,
1080
+ 1185,
1081
+ 1186,
1082
+ 1187,
1083
+ 1188,
1084
+ 1189,
1085
+ 1190,
1086
+ 1191,
1087
+ 1192,
1088
+ 1193,
1089
+ 1194,
1090
+ 1195,
1091
+ 1196,
1092
+ 1197,
1093
+ 1198,
1094
+ 1199
1095
+ ],
1096
+ "not_both_correct_indices": [
1097
+ 2,
1098
+ 6,
1099
+ 7,
1100
+ 8,
1101
+ 30,
1102
+ 48,
1103
+ 60,
1104
+ 77,
1105
+ 78,
1106
+ 79,
1107
+ 96,
1108
+ 101,
1109
+ 114,
1110
+ 138,
1111
+ 169,
1112
+ 183,
1113
+ 196,
1114
+ 205,
1115
+ 212,
1116
+ 219,
1117
+ 220,
1118
+ 222,
1119
+ 224,
1120
+ 266,
1121
+ 282,
1122
+ 291,
1123
+ 300,
1124
+ 314,
1125
+ 327,
1126
+ 342,
1127
+ 369,
1128
+ 376,
1129
+ 390,
1130
+ 400,
1131
+ 403,
1132
+ 404,
1133
+ 405,
1134
+ 411,
1135
+ 413,
1136
+ 414,
1137
+ 417,
1138
+ 421,
1139
+ 422,
1140
+ 434,
1141
+ 440,
1142
+ 441,
1143
+ 445,
1144
+ 446,
1145
+ 448,
1146
+ 455,
1147
+ 459,
1148
+ 462,
1149
+ 463,
1150
+ 468,
1151
+ 470,
1152
+ 475,
1153
+ 478,
1154
+ 481,
1155
+ 486,
1156
+ 487,
1157
+ 488,
1158
+ 490,
1159
+ 491,
1160
+ 496,
1161
+ 500,
1162
+ 501,
1163
+ 505,
1164
+ 507,
1165
+ 510,
1166
+ 512,
1167
+ 516,
1168
+ 519,
1169
+ 527,
1170
+ 528,
1171
+ 534,
1172
+ 536,
1173
+ 540,
1174
+ 545,
1175
+ 547,
1176
+ 549,
1177
+ 554,
1178
+ 555,
1179
+ 556,
1180
+ 557,
1181
+ 560,
1182
+ 565,
1183
+ 566,
1184
+ 570,
1185
+ 571,
1186
+ 573,
1187
+ 574,
1188
+ 577,
1189
+ 583,
1190
+ 587,
1191
+ 590,
1192
+ 591,
1193
+ 592,
1194
+ 597,
1195
+ 599,
1196
+ 800,
1197
+ 802,
1198
+ 818,
1199
+ 825,
1200
+ 847,
1201
+ 857,
1202
+ 876,
1203
+ 883,
1204
+ 894,
1205
+ 897,
1206
+ 917,
1207
+ 934,
1208
+ 938,
1209
+ 958,
1210
+ 1062,
1211
+ 1100,
1212
+ 1147
1213
+ ],
1214
+ "clean_baseline": 6.59375,
1215
+ "corrupted_baseline": -6.62109375
1216
+ }
results/mistralai_Mistral-Large-Instruct-2407/phys/phys_prost/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:52126f677d99d587a0f451bd3880ce725bc7b9c422a1526f15863968d8fee3b9
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/phys/phys_prost/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:0ba7237848f5c83e508c05b793b1264d1f8f3140d1a3015edc57680b83381e77
3
+ size 10272912
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_buoyancy/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_buoyancy/baselines.json ADDED
@@ -0,0 +1,1017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 668,
4
+ "token_misaligned_indices": [
5
+ 0,
6
+ 4,
7
+ 7,
8
+ 8,
9
+ 9,
10
+ 10,
11
+ 11,
12
+ 12,
13
+ 13,
14
+ 14,
15
+ 15,
16
+ 17,
17
+ 19,
18
+ 20,
19
+ 22,
20
+ 24,
21
+ 26,
22
+ 28,
23
+ 29,
24
+ 30,
25
+ 31,
26
+ 32,
27
+ 33,
28
+ 35,
29
+ 36,
30
+ 38,
31
+ 39,
32
+ 40,
33
+ 42,
34
+ 45,
35
+ 46,
36
+ 47,
37
+ 48,
38
+ 51,
39
+ 53,
40
+ 54,
41
+ 55,
42
+ 56,
43
+ 57,
44
+ 58,
45
+ 59,
46
+ 61,
47
+ 62,
48
+ 63,
49
+ 64,
50
+ 65,
51
+ 66,
52
+ 67,
53
+ 70,
54
+ 71,
55
+ 72,
56
+ 73,
57
+ 75,
58
+ 76,
59
+ 79,
60
+ 82,
61
+ 83,
62
+ 84,
63
+ 85,
64
+ 86,
65
+ 87,
66
+ 89,
67
+ 90,
68
+ 92,
69
+ 93,
70
+ 94,
71
+ 95,
72
+ 97,
73
+ 99,
74
+ 100,
75
+ 101,
76
+ 102,
77
+ 103,
78
+ 104,
79
+ 105,
80
+ 106,
81
+ 109,
82
+ 110,
83
+ 112,
84
+ 113,
85
+ 114,
86
+ 115,
87
+ 116,
88
+ 117,
89
+ 118,
90
+ 122,
91
+ 123,
92
+ 124,
93
+ 126,
94
+ 127,
95
+ 128,
96
+ 129,
97
+ 131,
98
+ 132,
99
+ 133,
100
+ 137,
101
+ 138,
102
+ 139,
103
+ 140,
104
+ 141,
105
+ 143,
106
+ 144,
107
+ 147,
108
+ 150,
109
+ 154,
110
+ 155,
111
+ 158,
112
+ 159,
113
+ 161,
114
+ 162,
115
+ 163,
116
+ 165,
117
+ 166,
118
+ 167,
119
+ 168,
120
+ 169,
121
+ 171,
122
+ 172,
123
+ 173,
124
+ 174,
125
+ 175,
126
+ 176,
127
+ 177,
128
+ 178,
129
+ 179,
130
+ 180,
131
+ 182,
132
+ 183,
133
+ 184,
134
+ 185,
135
+ 189,
136
+ 190,
137
+ 191,
138
+ 192,
139
+ 193,
140
+ 195,
141
+ 197,
142
+ 198,
143
+ 201,
144
+ 203,
145
+ 204,
146
+ 207,
147
+ 208,
148
+ 209,
149
+ 210,
150
+ 212,
151
+ 213,
152
+ 214,
153
+ 216,
154
+ 217,
155
+ 218,
156
+ 219,
157
+ 221,
158
+ 222,
159
+ 224,
160
+ 226,
161
+ 227,
162
+ 228,
163
+ 230,
164
+ 231,
165
+ 232,
166
+ 234,
167
+ 237,
168
+ 238,
169
+ 240,
170
+ 241,
171
+ 242,
172
+ 243,
173
+ 245,
174
+ 246,
175
+ 248,
176
+ 249,
177
+ 250,
178
+ 251,
179
+ 254,
180
+ 255,
181
+ 256,
182
+ 257,
183
+ 258,
184
+ 259,
185
+ 260,
186
+ 261,
187
+ 266,
188
+ 267,
189
+ 270,
190
+ 272,
191
+ 274,
192
+ 275,
193
+ 276,
194
+ 277,
195
+ 278,
196
+ 280,
197
+ 282,
198
+ 283,
199
+ 284,
200
+ 285,
201
+ 286,
202
+ 287,
203
+ 292,
204
+ 293,
205
+ 295,
206
+ 296,
207
+ 297,
208
+ 298,
209
+ 300,
210
+ 302,
211
+ 303,
212
+ 304,
213
+ 305,
214
+ 306,
215
+ 307,
216
+ 308,
217
+ 309,
218
+ 311,
219
+ 313,
220
+ 315,
221
+ 316,
222
+ 319,
223
+ 321,
224
+ 322,
225
+ 323,
226
+ 324,
227
+ 325,
228
+ 326,
229
+ 327,
230
+ 328,
231
+ 329,
232
+ 330,
233
+ 331,
234
+ 332,
235
+ 333,
236
+ 334,
237
+ 335,
238
+ 336,
239
+ 338,
240
+ 339,
241
+ 340,
242
+ 341,
243
+ 343,
244
+ 344,
245
+ 346,
246
+ 347,
247
+ 350,
248
+ 351,
249
+ 352,
250
+ 353,
251
+ 354,
252
+ 355,
253
+ 356,
254
+ 357,
255
+ 361,
256
+ 362,
257
+ 363,
258
+ 364,
259
+ 365,
260
+ 366,
261
+ 367,
262
+ 368,
263
+ 372,
264
+ 373,
265
+ 374,
266
+ 375,
267
+ 376,
268
+ 377,
269
+ 379,
270
+ 380,
271
+ 382,
272
+ 383,
273
+ 384,
274
+ 385,
275
+ 386,
276
+ 387,
277
+ 388,
278
+ 390,
279
+ 394,
280
+ 395,
281
+ 397,
282
+ 398,
283
+ 403,
284
+ 404,
285
+ 405,
286
+ 406,
287
+ 408,
288
+ 409,
289
+ 410,
290
+ 411,
291
+ 413,
292
+ 415,
293
+ 417,
294
+ 418,
295
+ 419,
296
+ 420,
297
+ 421,
298
+ 424,
299
+ 426,
300
+ 429,
301
+ 430,
302
+ 431,
303
+ 432,
304
+ 438,
305
+ 439,
306
+ 440,
307
+ 443,
308
+ 445,
309
+ 446,
310
+ 447,
311
+ 449,
312
+ 450,
313
+ 451,
314
+ 453,
315
+ 454,
316
+ 455,
317
+ 456,
318
+ 457,
319
+ 458,
320
+ 459,
321
+ 460,
322
+ 462,
323
+ 463,
324
+ 466,
325
+ 467,
326
+ 469,
327
+ 470,
328
+ 472,
329
+ 473,
330
+ 474,
331
+ 476,
332
+ 477,
333
+ 478,
334
+ 480,
335
+ 483,
336
+ 484,
337
+ 485,
338
+ 489,
339
+ 491,
340
+ 493,
341
+ 495,
342
+ 496,
343
+ 498,
344
+ 500,
345
+ 501,
346
+ 502,
347
+ 503,
348
+ 504,
349
+ 506,
350
+ 508,
351
+ 509,
352
+ 510,
353
+ 512,
354
+ 513,
355
+ 514,
356
+ 515,
357
+ 516,
358
+ 517,
359
+ 518,
360
+ 520,
361
+ 521,
362
+ 523,
363
+ 524,
364
+ 525,
365
+ 527,
366
+ 530,
367
+ 531,
368
+ 532,
369
+ 533,
370
+ 534,
371
+ 535,
372
+ 537,
373
+ 538,
374
+ 540,
375
+ 542,
376
+ 543,
377
+ 545,
378
+ 546,
379
+ 547,
380
+ 549,
381
+ 551,
382
+ 552,
383
+ 553,
384
+ 555,
385
+ 556,
386
+ 557,
387
+ 559,
388
+ 560,
389
+ 561,
390
+ 562,
391
+ 564,
392
+ 565,
393
+ 567,
394
+ 572,
395
+ 574,
396
+ 575,
397
+ 578,
398
+ 579,
399
+ 580,
400
+ 582,
401
+ 585,
402
+ 587,
403
+ 588,
404
+ 589,
405
+ 590,
406
+ 592,
407
+ 596,
408
+ 597,
409
+ 602,
410
+ 603,
411
+ 604,
412
+ 605,
413
+ 606,
414
+ 607,
415
+ 608,
416
+ 613,
417
+ 614,
418
+ 615,
419
+ 616,
420
+ 617,
421
+ 618,
422
+ 619,
423
+ 620,
424
+ 622,
425
+ 623,
426
+ 624,
427
+ 628,
428
+ 631,
429
+ 632,
430
+ 633,
431
+ 634,
432
+ 635,
433
+ 636,
434
+ 639,
435
+ 640,
436
+ 641,
437
+ 642,
438
+ 643,
439
+ 644,
440
+ 646,
441
+ 647,
442
+ 648,
443
+ 649,
444
+ 650,
445
+ 654,
446
+ 655,
447
+ 656,
448
+ 658,
449
+ 659,
450
+ 660,
451
+ 662,
452
+ 663,
453
+ 664,
454
+ 666,
455
+ 667,
456
+ 668,
457
+ 669,
458
+ 670,
459
+ 673,
460
+ 674,
461
+ 675,
462
+ 676,
463
+ 677,
464
+ 678,
465
+ 679,
466
+ 680,
467
+ 681,
468
+ 682,
469
+ 683,
470
+ 684,
471
+ 685,
472
+ 686,
473
+ 688,
474
+ 689,
475
+ 690,
476
+ 693,
477
+ 694,
478
+ 695,
479
+ 696,
480
+ 697,
481
+ 699,
482
+ 700,
483
+ 701,
484
+ 702,
485
+ 703,
486
+ 704,
487
+ 705,
488
+ 706,
489
+ 708,
490
+ 710,
491
+ 711,
492
+ 717,
493
+ 718,
494
+ 719,
495
+ 720,
496
+ 721,
497
+ 722,
498
+ 725,
499
+ 726,
500
+ 731,
501
+ 732,
502
+ 733,
503
+ 735,
504
+ 737,
505
+ 738,
506
+ 740,
507
+ 741,
508
+ 745,
509
+ 748,
510
+ 749,
511
+ 750,
512
+ 751,
513
+ 752,
514
+ 753,
515
+ 754,
516
+ 755,
517
+ 758,
518
+ 759,
519
+ 760,
520
+ 763,
521
+ 764,
522
+ 767,
523
+ 768,
524
+ 769,
525
+ 770,
526
+ 771,
527
+ 774,
528
+ 775,
529
+ 776,
530
+ 778,
531
+ 779,
532
+ 781,
533
+ 782,
534
+ 784,
535
+ 785,
536
+ 788,
537
+ 790,
538
+ 791,
539
+ 793,
540
+ 794,
541
+ 797,
542
+ 798,
543
+ 801,
544
+ 802,
545
+ 803,
546
+ 804,
547
+ 805,
548
+ 806,
549
+ 808,
550
+ 809,
551
+ 810,
552
+ 811,
553
+ 813,
554
+ 815,
555
+ 817,
556
+ 818,
557
+ 820,
558
+ 823,
559
+ 825,
560
+ 828,
561
+ 830,
562
+ 832,
563
+ 833,
564
+ 834,
565
+ 835,
566
+ 838,
567
+ 842,
568
+ 845,
569
+ 846,
570
+ 847,
571
+ 848,
572
+ 849,
573
+ 850,
574
+ 851,
575
+ 854,
576
+ 856,
577
+ 857,
578
+ 858,
579
+ 859,
580
+ 860,
581
+ 861,
582
+ 862,
583
+ 863,
584
+ 865,
585
+ 866,
586
+ 867,
587
+ 868,
588
+ 871,
589
+ 872,
590
+ 873,
591
+ 875,
592
+ 876,
593
+ 877,
594
+ 878,
595
+ 879,
596
+ 881,
597
+ 882,
598
+ 885,
599
+ 886,
600
+ 887,
601
+ 888,
602
+ 889,
603
+ 891,
604
+ 892,
605
+ 893,
606
+ 895,
607
+ 898,
608
+ 899,
609
+ 900,
610
+ 901,
611
+ 904,
612
+ 906,
613
+ 907,
614
+ 908,
615
+ 909,
616
+ 911,
617
+ 913,
618
+ 915,
619
+ 917,
620
+ 920,
621
+ 921,
622
+ 922,
623
+ 923,
624
+ 924,
625
+ 926,
626
+ 927,
627
+ 929,
628
+ 930,
629
+ 933,
630
+ 934,
631
+ 935,
632
+ 936,
633
+ 938,
634
+ 940,
635
+ 941,
636
+ 942,
637
+ 944,
638
+ 945,
639
+ 946,
640
+ 951,
641
+ 952,
642
+ 955,
643
+ 957,
644
+ 958,
645
+ 959,
646
+ 960,
647
+ 961,
648
+ 962,
649
+ 963,
650
+ 966,
651
+ 967,
652
+ 968,
653
+ 969,
654
+ 970,
655
+ 973,
656
+ 974,
657
+ 975,
658
+ 976,
659
+ 977,
660
+ 978,
661
+ 980,
662
+ 981,
663
+ 982,
664
+ 985,
665
+ 986,
666
+ 988,
667
+ 989,
668
+ 990,
669
+ 992,
670
+ 994,
671
+ 996,
672
+ 997
673
+ ],
674
+ "n_after_alignment_filter": 332,
675
+ "clean_accuracy": 0.927710843373494,
676
+ "corrupted_accuracy": 0.9367469879518072,
677
+ "both_correct_accuracy": 0.8765060240963856,
678
+ "n_both_correct": 291,
679
+ "both_correct_indices": [
680
+ 2,
681
+ 3,
682
+ 6,
683
+ 18,
684
+ 25,
685
+ 27,
686
+ 34,
687
+ 37,
688
+ 41,
689
+ 43,
690
+ 44,
691
+ 49,
692
+ 50,
693
+ 60,
694
+ 68,
695
+ 69,
696
+ 74,
697
+ 77,
698
+ 78,
699
+ 80,
700
+ 81,
701
+ 88,
702
+ 91,
703
+ 98,
704
+ 107,
705
+ 108,
706
+ 111,
707
+ 119,
708
+ 120,
709
+ 121,
710
+ 125,
711
+ 130,
712
+ 134,
713
+ 135,
714
+ 136,
715
+ 145,
716
+ 146,
717
+ 148,
718
+ 149,
719
+ 151,
720
+ 152,
721
+ 153,
722
+ 156,
723
+ 157,
724
+ 160,
725
+ 164,
726
+ 170,
727
+ 181,
728
+ 187,
729
+ 188,
730
+ 194,
731
+ 196,
732
+ 199,
733
+ 200,
734
+ 202,
735
+ 206,
736
+ 211,
737
+ 215,
738
+ 220,
739
+ 223,
740
+ 225,
741
+ 229,
742
+ 233,
743
+ 236,
744
+ 239,
745
+ 244,
746
+ 247,
747
+ 252,
748
+ 253,
749
+ 262,
750
+ 263,
751
+ 264,
752
+ 269,
753
+ 273,
754
+ 279,
755
+ 281,
756
+ 288,
757
+ 289,
758
+ 290,
759
+ 291,
760
+ 294,
761
+ 299,
762
+ 301,
763
+ 310,
764
+ 312,
765
+ 314,
766
+ 317,
767
+ 320,
768
+ 337,
769
+ 342,
770
+ 345,
771
+ 348,
772
+ 358,
773
+ 359,
774
+ 360,
775
+ 369,
776
+ 371,
777
+ 378,
778
+ 381,
779
+ 391,
780
+ 392,
781
+ 393,
782
+ 396,
783
+ 399,
784
+ 400,
785
+ 401,
786
+ 402,
787
+ 412,
788
+ 416,
789
+ 423,
790
+ 425,
791
+ 427,
792
+ 433,
793
+ 434,
794
+ 436,
795
+ 437,
796
+ 441,
797
+ 442,
798
+ 444,
799
+ 448,
800
+ 452,
801
+ 461,
802
+ 464,
803
+ 465,
804
+ 468,
805
+ 471,
806
+ 475,
807
+ 479,
808
+ 481,
809
+ 482,
810
+ 486,
811
+ 487,
812
+ 488,
813
+ 490,
814
+ 494,
815
+ 505,
816
+ 507,
817
+ 519,
818
+ 522,
819
+ 526,
820
+ 528,
821
+ 529,
822
+ 536,
823
+ 539,
824
+ 544,
825
+ 548,
826
+ 550,
827
+ 554,
828
+ 558,
829
+ 563,
830
+ 566,
831
+ 568,
832
+ 569,
833
+ 570,
834
+ 571,
835
+ 573,
836
+ 576,
837
+ 577,
838
+ 581,
839
+ 584,
840
+ 586,
841
+ 591,
842
+ 593,
843
+ 594,
844
+ 595,
845
+ 598,
846
+ 599,
847
+ 600,
848
+ 601,
849
+ 609,
850
+ 610,
851
+ 611,
852
+ 612,
853
+ 621,
854
+ 625,
855
+ 626,
856
+ 627,
857
+ 629,
858
+ 630,
859
+ 637,
860
+ 638,
861
+ 645,
862
+ 651,
863
+ 652,
864
+ 653,
865
+ 657,
866
+ 661,
867
+ 665,
868
+ 671,
869
+ 672,
870
+ 687,
871
+ 691,
872
+ 692,
873
+ 698,
874
+ 707,
875
+ 709,
876
+ 712,
877
+ 713,
878
+ 714,
879
+ 715,
880
+ 716,
881
+ 723,
882
+ 724,
883
+ 727,
884
+ 728,
885
+ 729,
886
+ 734,
887
+ 742,
888
+ 743,
889
+ 744,
890
+ 746,
891
+ 747,
892
+ 756,
893
+ 757,
894
+ 761,
895
+ 762,
896
+ 765,
897
+ 766,
898
+ 773,
899
+ 777,
900
+ 780,
901
+ 783,
902
+ 787,
903
+ 789,
904
+ 792,
905
+ 796,
906
+ 799,
907
+ 800,
908
+ 807,
909
+ 812,
910
+ 816,
911
+ 819,
912
+ 821,
913
+ 822,
914
+ 824,
915
+ 826,
916
+ 827,
917
+ 829,
918
+ 831,
919
+ 836,
920
+ 837,
921
+ 839,
922
+ 840,
923
+ 843,
924
+ 844,
925
+ 852,
926
+ 853,
927
+ 855,
928
+ 864,
929
+ 869,
930
+ 870,
931
+ 874,
932
+ 880,
933
+ 883,
934
+ 890,
935
+ 894,
936
+ 896,
937
+ 897,
938
+ 903,
939
+ 905,
940
+ 910,
941
+ 912,
942
+ 914,
943
+ 916,
944
+ 918,
945
+ 919,
946
+ 925,
947
+ 928,
948
+ 931,
949
+ 932,
950
+ 937,
951
+ 943,
952
+ 947,
953
+ 948,
954
+ 949,
955
+ 950,
956
+ 953,
957
+ 954,
958
+ 956,
959
+ 964,
960
+ 965,
961
+ 971,
962
+ 972,
963
+ 979,
964
+ 983,
965
+ 987,
966
+ 991,
967
+ 993,
968
+ 995,
969
+ 998,
970
+ 999
971
+ ],
972
+ "not_both_correct_indices": [
973
+ 1,
974
+ 5,
975
+ 16,
976
+ 21,
977
+ 23,
978
+ 52,
979
+ 96,
980
+ 142,
981
+ 186,
982
+ 205,
983
+ 235,
984
+ 265,
985
+ 268,
986
+ 271,
987
+ 318,
988
+ 349,
989
+ 370,
990
+ 389,
991
+ 407,
992
+ 414,
993
+ 422,
994
+ 428,
995
+ 435,
996
+ 492,
997
+ 497,
998
+ 499,
999
+ 511,
1000
+ 541,
1001
+ 583,
1002
+ 730,
1003
+ 736,
1004
+ 739,
1005
+ 772,
1006
+ 786,
1007
+ 795,
1008
+ 814,
1009
+ 841,
1010
+ 884,
1011
+ 902,
1012
+ 939,
1013
+ 984
1014
+ ],
1015
+ "clean_baseline": 3.28125,
1016
+ "corrupted_baseline": -3.025390625
1017
+ }
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_buoyancy/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f9be7d7e0b5c1bb6579c178fb1b06c11f9e15344059188692458e69b18c65eda
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_buoyancy/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:b38e4cfc6cb9f580ebf750fb90d8bfb5ec3f5938751bd4387e787181a3437fd5
3
+ size 10072832
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_elasticity/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_elasticity/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 744,
4
+ "token_misaligned_indices": [
5
+ 0,
6
+ 1,
7
+ 2,
8
+ 3,
9
+ 4,
10
+ 5,
11
+ 7,
12
+ 8,
13
+ 9,
14
+ 10,
15
+ 11,
16
+ 14,
17
+ 15,
18
+ 17,
19
+ 20,
20
+ 21,
21
+ 22,
22
+ 23,
23
+ 25,
24
+ 26,
25
+ 27,
26
+ 28,
27
+ 29,
28
+ 30,
29
+ 31,
30
+ 32,
31
+ 33,
32
+ 35,
33
+ 36,
34
+ 37,
35
+ 38,
36
+ 39,
37
+ 40,
38
+ 41,
39
+ 43,
40
+ 44,
41
+ 45,
42
+ 48,
43
+ 50,
44
+ 51,
45
+ 52,
46
+ 53,
47
+ 55,
48
+ 57,
49
+ 58,
50
+ 59,
51
+ 60,
52
+ 61,
53
+ 62,
54
+ 63,
55
+ 64,
56
+ 65,
57
+ 66,
58
+ 67,
59
+ 69,
60
+ 74,
61
+ 75,
62
+ 76,
63
+ 77,
64
+ 79,
65
+ 80,
66
+ 81,
67
+ 82,
68
+ 85,
69
+ 86,
70
+ 87,
71
+ 88,
72
+ 89,
73
+ 90,
74
+ 92,
75
+ 94,
76
+ 95,
77
+ 96,
78
+ 98,
79
+ 99,
80
+ 100,
81
+ 101,
82
+ 103,
83
+ 104,
84
+ 107,
85
+ 108,
86
+ 109,
87
+ 110,
88
+ 111,
89
+ 112,
90
+ 113,
91
+ 114,
92
+ 115,
93
+ 116,
94
+ 117,
95
+ 118,
96
+ 119,
97
+ 120,
98
+ 121,
99
+ 122,
100
+ 123,
101
+ 125,
102
+ 126,
103
+ 127,
104
+ 129,
105
+ 131,
106
+ 132,
107
+ 133,
108
+ 134,
109
+ 135,
110
+ 136,
111
+ 137,
112
+ 138,
113
+ 140,
114
+ 141,
115
+ 142,
116
+ 143,
117
+ 144,
118
+ 145,
119
+ 148,
120
+ 149,
121
+ 150,
122
+ 151,
123
+ 153,
124
+ 154,
125
+ 155,
126
+ 156,
127
+ 157,
128
+ 158,
129
+ 160,
130
+ 162,
131
+ 164,
132
+ 165,
133
+ 167,
134
+ 168,
135
+ 169,
136
+ 172,
137
+ 173,
138
+ 175,
139
+ 177,
140
+ 178,
141
+ 179,
142
+ 180,
143
+ 183,
144
+ 184,
145
+ 185,
146
+ 186,
147
+ 187,
148
+ 188,
149
+ 189,
150
+ 190,
151
+ 191,
152
+ 192,
153
+ 194,
154
+ 195,
155
+ 196,
156
+ 197,
157
+ 198,
158
+ 201,
159
+ 202,
160
+ 203,
161
+ 204,
162
+ 205,
163
+ 206,
164
+ 209,
165
+ 210,
166
+ 211,
167
+ 214,
168
+ 215,
169
+ 216,
170
+ 218,
171
+ 220,
172
+ 221,
173
+ 222,
174
+ 224,
175
+ 225,
176
+ 226,
177
+ 227,
178
+ 228,
179
+ 229,
180
+ 230,
181
+ 231,
182
+ 234,
183
+ 238,
184
+ 239,
185
+ 240,
186
+ 241,
187
+ 242,
188
+ 243,
189
+ 246,
190
+ 248,
191
+ 249,
192
+ 251,
193
+ 252,
194
+ 253,
195
+ 255,
196
+ 256,
197
+ 257,
198
+ 258,
199
+ 259,
200
+ 261,
201
+ 262,
202
+ 263,
203
+ 264,
204
+ 265,
205
+ 267,
206
+ 268,
207
+ 269,
208
+ 270,
209
+ 271,
210
+ 272,
211
+ 273,
212
+ 274,
213
+ 275,
214
+ 276,
215
+ 277,
216
+ 278,
217
+ 281,
218
+ 282,
219
+ 283,
220
+ 284,
221
+ 285,
222
+ 286,
223
+ 287,
224
+ 288,
225
+ 289,
226
+ 290,
227
+ 291,
228
+ 292,
229
+ 294,
230
+ 295,
231
+ 296,
232
+ 297,
233
+ 298,
234
+ 299,
235
+ 302,
236
+ 304,
237
+ 306,
238
+ 309,
239
+ 310,
240
+ 311,
241
+ 314,
242
+ 315,
243
+ 316,
244
+ 317,
245
+ 319,
246
+ 320,
247
+ 321,
248
+ 322,
249
+ 323,
250
+ 325,
251
+ 326,
252
+ 327,
253
+ 328,
254
+ 329,
255
+ 331,
256
+ 332,
257
+ 333,
258
+ 335,
259
+ 336,
260
+ 338,
261
+ 339,
262
+ 340,
263
+ 341,
264
+ 343,
265
+ 344,
266
+ 346,
267
+ 347,
268
+ 349,
269
+ 350,
270
+ 351,
271
+ 352,
272
+ 353,
273
+ 354,
274
+ 355,
275
+ 356,
276
+ 357,
277
+ 358,
278
+ 359,
279
+ 360,
280
+ 361,
281
+ 362,
282
+ 363,
283
+ 365,
284
+ 366,
285
+ 367,
286
+ 369,
287
+ 370,
288
+ 371,
289
+ 374,
290
+ 375,
291
+ 376,
292
+ 377,
293
+ 380,
294
+ 381,
295
+ 382,
296
+ 384,
297
+ 386,
298
+ 387,
299
+ 388,
300
+ 389,
301
+ 390,
302
+ 391,
303
+ 392,
304
+ 393,
305
+ 394,
306
+ 395,
307
+ 398,
308
+ 400,
309
+ 401,
310
+ 402,
311
+ 403,
312
+ 404,
313
+ 405,
314
+ 407,
315
+ 409,
316
+ 410,
317
+ 412,
318
+ 413,
319
+ 414,
320
+ 415,
321
+ 416,
322
+ 417,
323
+ 418,
324
+ 419,
325
+ 420,
326
+ 421,
327
+ 424,
328
+ 425,
329
+ 429,
330
+ 430,
331
+ 431,
332
+ 432,
333
+ 433,
334
+ 434,
335
+ 435,
336
+ 436,
337
+ 437,
338
+ 438,
339
+ 439,
340
+ 440,
341
+ 441,
342
+ 442,
343
+ 443,
344
+ 444,
345
+ 445,
346
+ 446,
347
+ 447,
348
+ 449,
349
+ 451,
350
+ 452,
351
+ 454,
352
+ 455,
353
+ 456,
354
+ 457,
355
+ 458,
356
+ 459,
357
+ 466,
358
+ 467,
359
+ 469,
360
+ 470,
361
+ 472,
362
+ 473,
363
+ 474,
364
+ 475,
365
+ 476,
366
+ 477,
367
+ 478,
368
+ 480,
369
+ 481,
370
+ 482,
371
+ 486,
372
+ 487,
373
+ 488,
374
+ 491,
375
+ 492,
376
+ 493,
377
+ 496,
378
+ 498,
379
+ 499,
380
+ 502,
381
+ 503,
382
+ 504,
383
+ 506,
384
+ 507,
385
+ 509,
386
+ 510,
387
+ 511,
388
+ 512,
389
+ 513,
390
+ 515,
391
+ 516,
392
+ 517,
393
+ 518,
394
+ 519,
395
+ 520,
396
+ 521,
397
+ 523,
398
+ 524,
399
+ 525,
400
+ 528,
401
+ 530,
402
+ 533,
403
+ 534,
404
+ 535,
405
+ 537,
406
+ 538,
407
+ 540,
408
+ 541,
409
+ 542,
410
+ 544,
411
+ 545,
412
+ 546,
413
+ 547,
414
+ 549,
415
+ 552,
416
+ 553,
417
+ 554,
418
+ 555,
419
+ 557,
420
+ 558,
421
+ 559,
422
+ 562,
423
+ 563,
424
+ 564,
425
+ 566,
426
+ 567,
427
+ 568,
428
+ 569,
429
+ 571,
430
+ 572,
431
+ 573,
432
+ 574,
433
+ 576,
434
+ 577,
435
+ 578,
436
+ 579,
437
+ 581,
438
+ 582,
439
+ 585,
440
+ 586,
441
+ 587,
442
+ 588,
443
+ 591,
444
+ 592,
445
+ 594,
446
+ 596,
447
+ 597,
448
+ 598,
449
+ 599,
450
+ 600,
451
+ 602,
452
+ 603,
453
+ 606,
454
+ 607,
455
+ 608,
456
+ 612,
457
+ 613,
458
+ 614,
459
+ 616,
460
+ 617,
461
+ 618,
462
+ 619,
463
+ 620,
464
+ 621,
465
+ 624,
466
+ 626,
467
+ 627,
468
+ 628,
469
+ 630,
470
+ 631,
471
+ 634,
472
+ 636,
473
+ 637,
474
+ 639,
475
+ 641,
476
+ 642,
477
+ 645,
478
+ 647,
479
+ 648,
480
+ 649,
481
+ 650,
482
+ 651,
483
+ 655,
484
+ 656,
485
+ 657,
486
+ 659,
487
+ 661,
488
+ 662,
489
+ 663,
490
+ 665,
491
+ 666,
492
+ 667,
493
+ 668,
494
+ 669,
495
+ 670,
496
+ 671,
497
+ 672,
498
+ 674,
499
+ 675,
500
+ 676,
501
+ 677,
502
+ 679,
503
+ 681,
504
+ 682,
505
+ 683,
506
+ 684,
507
+ 686,
508
+ 687,
509
+ 691,
510
+ 692,
511
+ 693,
512
+ 695,
513
+ 696,
514
+ 697,
515
+ 700,
516
+ 701,
517
+ 702,
518
+ 703,
519
+ 705,
520
+ 707,
521
+ 708,
522
+ 709,
523
+ 710,
524
+ 711,
525
+ 712,
526
+ 713,
527
+ 714,
528
+ 715,
529
+ 717,
530
+ 718,
531
+ 719,
532
+ 722,
533
+ 723,
534
+ 724,
535
+ 726,
536
+ 727,
537
+ 730,
538
+ 731,
539
+ 734,
540
+ 735,
541
+ 737,
542
+ 738,
543
+ 739,
544
+ 740,
545
+ 741,
546
+ 742,
547
+ 744,
548
+ 745,
549
+ 746,
550
+ 747,
551
+ 748,
552
+ 750,
553
+ 751,
554
+ 752,
555
+ 753,
556
+ 754,
557
+ 755,
558
+ 757,
559
+ 758,
560
+ 760,
561
+ 762,
562
+ 763,
563
+ 764,
564
+ 768,
565
+ 769,
566
+ 770,
567
+ 771,
568
+ 772,
569
+ 773,
570
+ 775,
571
+ 776,
572
+ 777,
573
+ 779,
574
+ 780,
575
+ 781,
576
+ 782,
577
+ 783,
578
+ 786,
579
+ 787,
580
+ 788,
581
+ 789,
582
+ 790,
583
+ 791,
584
+ 792,
585
+ 793,
586
+ 794,
587
+ 795,
588
+ 796,
589
+ 797,
590
+ 799,
591
+ 801,
592
+ 802,
593
+ 803,
594
+ 804,
595
+ 805,
596
+ 806,
597
+ 807,
598
+ 808,
599
+ 809,
600
+ 810,
601
+ 811,
602
+ 812,
603
+ 813,
604
+ 817,
605
+ 818,
606
+ 819,
607
+ 821,
608
+ 822,
609
+ 823,
610
+ 824,
611
+ 825,
612
+ 826,
613
+ 827,
614
+ 828,
615
+ 829,
616
+ 830,
617
+ 831,
618
+ 832,
619
+ 833,
620
+ 835,
621
+ 836,
622
+ 837,
623
+ 838,
624
+ 839,
625
+ 840,
626
+ 841,
627
+ 843,
628
+ 844,
629
+ 845,
630
+ 846,
631
+ 847,
632
+ 848,
633
+ 851,
634
+ 852,
635
+ 853,
636
+ 854,
637
+ 855,
638
+ 856,
639
+ 857,
640
+ 860,
641
+ 862,
642
+ 863,
643
+ 866,
644
+ 867,
645
+ 868,
646
+ 870,
647
+ 871,
648
+ 872,
649
+ 873,
650
+ 874,
651
+ 875,
652
+ 876,
653
+ 877,
654
+ 879,
655
+ 880,
656
+ 881,
657
+ 882,
658
+ 883,
659
+ 884,
660
+ 885,
661
+ 886,
662
+ 888,
663
+ 890,
664
+ 891,
665
+ 893,
666
+ 895,
667
+ 896,
668
+ 900,
669
+ 902,
670
+ 904,
671
+ 905,
672
+ 906,
673
+ 907,
674
+ 908,
675
+ 909,
676
+ 910,
677
+ 913,
678
+ 914,
679
+ 915,
680
+ 916,
681
+ 917,
682
+ 918,
683
+ 919,
684
+ 920,
685
+ 921,
686
+ 922,
687
+ 923,
688
+ 926,
689
+ 927,
690
+ 928,
691
+ 929,
692
+ 930,
693
+ 931,
694
+ 932,
695
+ 933,
696
+ 934,
697
+ 935,
698
+ 937,
699
+ 938,
700
+ 939,
701
+ 940,
702
+ 941,
703
+ 942,
704
+ 943,
705
+ 944,
706
+ 945,
707
+ 947,
708
+ 948,
709
+ 949,
710
+ 951,
711
+ 952,
712
+ 953,
713
+ 956,
714
+ 957,
715
+ 958,
716
+ 959,
717
+ 960,
718
+ 961,
719
+ 962,
720
+ 963,
721
+ 966,
722
+ 967,
723
+ 968,
724
+ 969,
725
+ 972,
726
+ 973,
727
+ 974,
728
+ 975,
729
+ 976,
730
+ 977,
731
+ 979,
732
+ 980,
733
+ 981,
734
+ 982,
735
+ 983,
736
+ 984,
737
+ 985,
738
+ 986,
739
+ 987,
740
+ 989,
741
+ 990,
742
+ 991,
743
+ 992,
744
+ 993,
745
+ 994,
746
+ 996,
747
+ 998,
748
+ 999
749
+ ],
750
+ "n_after_alignment_filter": 256,
751
+ "clean_accuracy": 1.0,
752
+ "corrupted_accuracy": 1.0,
753
+ "both_correct_accuracy": 1.0,
754
+ "n_both_correct": 256,
755
+ "both_correct_indices": [
756
+ 6,
757
+ 12,
758
+ 13,
759
+ 16,
760
+ 18,
761
+ 19,
762
+ 24,
763
+ 34,
764
+ 42,
765
+ 46,
766
+ 47,
767
+ 49,
768
+ 54,
769
+ 56,
770
+ 68,
771
+ 70,
772
+ 71,
773
+ 72,
774
+ 73,
775
+ 78,
776
+ 83,
777
+ 84,
778
+ 91,
779
+ 93,
780
+ 97,
781
+ 102,
782
+ 105,
783
+ 106,
784
+ 124,
785
+ 128,
786
+ 130,
787
+ 139,
788
+ 146,
789
+ 147,
790
+ 152,
791
+ 159,
792
+ 161,
793
+ 163,
794
+ 166,
795
+ 170,
796
+ 171,
797
+ 174,
798
+ 176,
799
+ 181,
800
+ 182,
801
+ 193,
802
+ 199,
803
+ 200,
804
+ 207,
805
+ 208,
806
+ 212,
807
+ 213,
808
+ 217,
809
+ 219,
810
+ 223,
811
+ 232,
812
+ 233,
813
+ 235,
814
+ 236,
815
+ 237,
816
+ 244,
817
+ 245,
818
+ 247,
819
+ 250,
820
+ 254,
821
+ 260,
822
+ 266,
823
+ 279,
824
+ 280,
825
+ 293,
826
+ 300,
827
+ 301,
828
+ 303,
829
+ 305,
830
+ 307,
831
+ 308,
832
+ 312,
833
+ 313,
834
+ 318,
835
+ 324,
836
+ 330,
837
+ 334,
838
+ 337,
839
+ 342,
840
+ 345,
841
+ 348,
842
+ 364,
843
+ 368,
844
+ 372,
845
+ 373,
846
+ 378,
847
+ 379,
848
+ 383,
849
+ 385,
850
+ 396,
851
+ 397,
852
+ 399,
853
+ 406,
854
+ 408,
855
+ 411,
856
+ 422,
857
+ 423,
858
+ 426,
859
+ 427,
860
+ 428,
861
+ 448,
862
+ 450,
863
+ 453,
864
+ 460,
865
+ 461,
866
+ 462,
867
+ 463,
868
+ 464,
869
+ 465,
870
+ 468,
871
+ 471,
872
+ 479,
873
+ 483,
874
+ 484,
875
+ 485,
876
+ 489,
877
+ 490,
878
+ 494,
879
+ 495,
880
+ 497,
881
+ 500,
882
+ 501,
883
+ 505,
884
+ 508,
885
+ 514,
886
+ 522,
887
+ 526,
888
+ 527,
889
+ 529,
890
+ 531,
891
+ 532,
892
+ 536,
893
+ 539,
894
+ 543,
895
+ 548,
896
+ 550,
897
+ 551,
898
+ 556,
899
+ 560,
900
+ 561,
901
+ 565,
902
+ 570,
903
+ 575,
904
+ 580,
905
+ 583,
906
+ 584,
907
+ 589,
908
+ 590,
909
+ 593,
910
+ 595,
911
+ 601,
912
+ 604,
913
+ 605,
914
+ 609,
915
+ 610,
916
+ 611,
917
+ 615,
918
+ 622,
919
+ 623,
920
+ 625,
921
+ 629,
922
+ 632,
923
+ 633,
924
+ 635,
925
+ 638,
926
+ 640,
927
+ 643,
928
+ 644,
929
+ 646,
930
+ 652,
931
+ 653,
932
+ 654,
933
+ 658,
934
+ 660,
935
+ 664,
936
+ 673,
937
+ 678,
938
+ 680,
939
+ 685,
940
+ 688,
941
+ 689,
942
+ 690,
943
+ 694,
944
+ 698,
945
+ 699,
946
+ 704,
947
+ 706,
948
+ 716,
949
+ 720,
950
+ 721,
951
+ 725,
952
+ 728,
953
+ 729,
954
+ 732,
955
+ 733,
956
+ 736,
957
+ 743,
958
+ 749,
959
+ 756,
960
+ 759,
961
+ 761,
962
+ 765,
963
+ 766,
964
+ 767,
965
+ 774,
966
+ 778,
967
+ 784,
968
+ 785,
969
+ 798,
970
+ 800,
971
+ 814,
972
+ 815,
973
+ 816,
974
+ 820,
975
+ 834,
976
+ 842,
977
+ 849,
978
+ 850,
979
+ 858,
980
+ 859,
981
+ 861,
982
+ 864,
983
+ 865,
984
+ 869,
985
+ 878,
986
+ 887,
987
+ 889,
988
+ 892,
989
+ 894,
990
+ 897,
991
+ 898,
992
+ 899,
993
+ 901,
994
+ 903,
995
+ 911,
996
+ 912,
997
+ 924,
998
+ 925,
999
+ 936,
1000
+ 946,
1001
+ 950,
1002
+ 954,
1003
+ 955,
1004
+ 964,
1005
+ 965,
1006
+ 970,
1007
+ 971,
1008
+ 978,
1009
+ 988,
1010
+ 995,
1011
+ 997
1012
+ ],
1013
+ "not_both_correct_indices": [],
1014
+ "clean_baseline": 6.5390625,
1015
+ "corrupted_baseline": -6.64453125
1016
+ }
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_elasticity/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:0f99a620616215a623b6c5a72db8944b30d382ff818aa481c10bdff3030c45f0
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_elasticity/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:48831baea4614757568365641547e6018e842a9fbb91c3b6183a03de772fa14d
3
+ size 10068168
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_solubility/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_solubility/baselines.json ADDED
@@ -0,0 +1,1017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 690,
4
+ "token_misaligned_indices": [
5
+ 1,
6
+ 2,
7
+ 3,
8
+ 4,
9
+ 5,
10
+ 6,
11
+ 7,
12
+ 9,
13
+ 12,
14
+ 13,
15
+ 14,
16
+ 16,
17
+ 17,
18
+ 18,
19
+ 19,
20
+ 21,
21
+ 22,
22
+ 24,
23
+ 25,
24
+ 26,
25
+ 28,
26
+ 29,
27
+ 32,
28
+ 36,
29
+ 37,
30
+ 38,
31
+ 39,
32
+ 40,
33
+ 42,
34
+ 43,
35
+ 44,
36
+ 45,
37
+ 46,
38
+ 47,
39
+ 48,
40
+ 50,
41
+ 51,
42
+ 53,
43
+ 54,
44
+ 58,
45
+ 59,
46
+ 60,
47
+ 62,
48
+ 64,
49
+ 65,
50
+ 66,
51
+ 67,
52
+ 68,
53
+ 70,
54
+ 72,
55
+ 75,
56
+ 76,
57
+ 77,
58
+ 78,
59
+ 81,
60
+ 82,
61
+ 83,
62
+ 85,
63
+ 88,
64
+ 89,
65
+ 91,
66
+ 92,
67
+ 93,
68
+ 95,
69
+ 96,
70
+ 97,
71
+ 99,
72
+ 100,
73
+ 101,
74
+ 105,
75
+ 106,
76
+ 107,
77
+ 108,
78
+ 109,
79
+ 110,
80
+ 111,
81
+ 112,
82
+ 115,
83
+ 119,
84
+ 121,
85
+ 122,
86
+ 124,
87
+ 127,
88
+ 128,
89
+ 132,
90
+ 133,
91
+ 135,
92
+ 138,
93
+ 139,
94
+ 140,
95
+ 141,
96
+ 142,
97
+ 143,
98
+ 144,
99
+ 145,
100
+ 146,
101
+ 147,
102
+ 149,
103
+ 150,
104
+ 151,
105
+ 152,
106
+ 153,
107
+ 154,
108
+ 155,
109
+ 156,
110
+ 159,
111
+ 161,
112
+ 162,
113
+ 163,
114
+ 166,
115
+ 167,
116
+ 168,
117
+ 170,
118
+ 174,
119
+ 176,
120
+ 177,
121
+ 178,
122
+ 179,
123
+ 180,
124
+ 182,
125
+ 183,
126
+ 184,
127
+ 186,
128
+ 188,
129
+ 189,
130
+ 193,
131
+ 194,
132
+ 195,
133
+ 196,
134
+ 197,
135
+ 200,
136
+ 201,
137
+ 202,
138
+ 203,
139
+ 204,
140
+ 205,
141
+ 206,
142
+ 208,
143
+ 209,
144
+ 210,
145
+ 211,
146
+ 213,
147
+ 214,
148
+ 215,
149
+ 216,
150
+ 217,
151
+ 218,
152
+ 219,
153
+ 220,
154
+ 221,
155
+ 223,
156
+ 224,
157
+ 225,
158
+ 226,
159
+ 227,
160
+ 228,
161
+ 229,
162
+ 230,
163
+ 231,
164
+ 232,
165
+ 233,
166
+ 234,
167
+ 236,
168
+ 237,
169
+ 239,
170
+ 240,
171
+ 245,
172
+ 248,
173
+ 249,
174
+ 251,
175
+ 252,
176
+ 254,
177
+ 255,
178
+ 256,
179
+ 257,
180
+ 259,
181
+ 260,
182
+ 261,
183
+ 262,
184
+ 263,
185
+ 264,
186
+ 265,
187
+ 266,
188
+ 267,
189
+ 268,
190
+ 269,
191
+ 270,
192
+ 271,
193
+ 272,
194
+ 273,
195
+ 275,
196
+ 276,
197
+ 277,
198
+ 278,
199
+ 281,
200
+ 283,
201
+ 284,
202
+ 285,
203
+ 286,
204
+ 289,
205
+ 290,
206
+ 291,
207
+ 292,
208
+ 295,
209
+ 296,
210
+ 298,
211
+ 300,
212
+ 301,
213
+ 302,
214
+ 303,
215
+ 304,
216
+ 305,
217
+ 306,
218
+ 307,
219
+ 308,
220
+ 309,
221
+ 310,
222
+ 311,
223
+ 312,
224
+ 313,
225
+ 315,
226
+ 316,
227
+ 317,
228
+ 321,
229
+ 322,
230
+ 324,
231
+ 325,
232
+ 326,
233
+ 327,
234
+ 328,
235
+ 329,
236
+ 330,
237
+ 331,
238
+ 332,
239
+ 333,
240
+ 334,
241
+ 336,
242
+ 338,
243
+ 339,
244
+ 340,
245
+ 341,
246
+ 342,
247
+ 344,
248
+ 345,
249
+ 347,
250
+ 348,
251
+ 349,
252
+ 351,
253
+ 352,
254
+ 354,
255
+ 355,
256
+ 357,
257
+ 358,
258
+ 359,
259
+ 362,
260
+ 364,
261
+ 365,
262
+ 367,
263
+ 368,
264
+ 369,
265
+ 370,
266
+ 371,
267
+ 372,
268
+ 374,
269
+ 375,
270
+ 376,
271
+ 377,
272
+ 379,
273
+ 380,
274
+ 381,
275
+ 382,
276
+ 383,
277
+ 385,
278
+ 386,
279
+ 390,
280
+ 391,
281
+ 393,
282
+ 394,
283
+ 395,
284
+ 396,
285
+ 397,
286
+ 398,
287
+ 399,
288
+ 401,
289
+ 402,
290
+ 403,
291
+ 404,
292
+ 405,
293
+ 406,
294
+ 407,
295
+ 408,
296
+ 409,
297
+ 410,
298
+ 411,
299
+ 413,
300
+ 417,
301
+ 420,
302
+ 421,
303
+ 422,
304
+ 423,
305
+ 424,
306
+ 425,
307
+ 426,
308
+ 428,
309
+ 429,
310
+ 431,
311
+ 433,
312
+ 435,
313
+ 438,
314
+ 440,
315
+ 442,
316
+ 443,
317
+ 444,
318
+ 446,
319
+ 447,
320
+ 448,
321
+ 449,
322
+ 450,
323
+ 451,
324
+ 454,
325
+ 456,
326
+ 457,
327
+ 458,
328
+ 459,
329
+ 460,
330
+ 462,
331
+ 464,
332
+ 465,
333
+ 466,
334
+ 467,
335
+ 468,
336
+ 469,
337
+ 471,
338
+ 472,
339
+ 473,
340
+ 474,
341
+ 475,
342
+ 478,
343
+ 479,
344
+ 480,
345
+ 481,
346
+ 485,
347
+ 487,
348
+ 490,
349
+ 492,
350
+ 494,
351
+ 495,
352
+ 497,
353
+ 498,
354
+ 499,
355
+ 501,
356
+ 503,
357
+ 504,
358
+ 505,
359
+ 506,
360
+ 508,
361
+ 509,
362
+ 510,
363
+ 511,
364
+ 512,
365
+ 513,
366
+ 514,
367
+ 517,
368
+ 518,
369
+ 520,
370
+ 521,
371
+ 522,
372
+ 523,
373
+ 524,
374
+ 527,
375
+ 529,
376
+ 531,
377
+ 534,
378
+ 537,
379
+ 538,
380
+ 539,
381
+ 540,
382
+ 541,
383
+ 542,
384
+ 543,
385
+ 544,
386
+ 545,
387
+ 547,
388
+ 549,
389
+ 550,
390
+ 553,
391
+ 554,
392
+ 556,
393
+ 557,
394
+ 558,
395
+ 561,
396
+ 562,
397
+ 563,
398
+ 564,
399
+ 565,
400
+ 566,
401
+ 567,
402
+ 568,
403
+ 569,
404
+ 571,
405
+ 573,
406
+ 574,
407
+ 576,
408
+ 577,
409
+ 578,
410
+ 580,
411
+ 582,
412
+ 583,
413
+ 585,
414
+ 587,
415
+ 588,
416
+ 589,
417
+ 590,
418
+ 594,
419
+ 595,
420
+ 598,
421
+ 599,
422
+ 601,
423
+ 603,
424
+ 606,
425
+ 608,
426
+ 609,
427
+ 611,
428
+ 612,
429
+ 614,
430
+ 615,
431
+ 616,
432
+ 617,
433
+ 618,
434
+ 619,
435
+ 620,
436
+ 623,
437
+ 624,
438
+ 625,
439
+ 626,
440
+ 627,
441
+ 628,
442
+ 629,
443
+ 632,
444
+ 633,
445
+ 636,
446
+ 637,
447
+ 639,
448
+ 641,
449
+ 642,
450
+ 643,
451
+ 644,
452
+ 645,
453
+ 646,
454
+ 647,
455
+ 648,
456
+ 650,
457
+ 651,
458
+ 652,
459
+ 653,
460
+ 654,
461
+ 655,
462
+ 656,
463
+ 657,
464
+ 659,
465
+ 661,
466
+ 666,
467
+ 667,
468
+ 668,
469
+ 669,
470
+ 670,
471
+ 671,
472
+ 672,
473
+ 673,
474
+ 674,
475
+ 675,
476
+ 677,
477
+ 678,
478
+ 679,
479
+ 681,
480
+ 682,
481
+ 684,
482
+ 686,
483
+ 687,
484
+ 689,
485
+ 691,
486
+ 693,
487
+ 694,
488
+ 696,
489
+ 697,
490
+ 698,
491
+ 699,
492
+ 700,
493
+ 701,
494
+ 704,
495
+ 705,
496
+ 706,
497
+ 707,
498
+ 708,
499
+ 709,
500
+ 710,
501
+ 711,
502
+ 712,
503
+ 713,
504
+ 714,
505
+ 715,
506
+ 716,
507
+ 717,
508
+ 719,
509
+ 720,
510
+ 721,
511
+ 722,
512
+ 723,
513
+ 726,
514
+ 727,
515
+ 729,
516
+ 730,
517
+ 731,
518
+ 732,
519
+ 733,
520
+ 734,
521
+ 736,
522
+ 737,
523
+ 739,
524
+ 740,
525
+ 741,
526
+ 742,
527
+ 743,
528
+ 744,
529
+ 745,
530
+ 746,
531
+ 748,
532
+ 750,
533
+ 751,
534
+ 752,
535
+ 755,
536
+ 757,
537
+ 758,
538
+ 759,
539
+ 760,
540
+ 761,
541
+ 764,
542
+ 765,
543
+ 766,
544
+ 767,
545
+ 771,
546
+ 773,
547
+ 777,
548
+ 778,
549
+ 779,
550
+ 781,
551
+ 782,
552
+ 783,
553
+ 784,
554
+ 785,
555
+ 786,
556
+ 787,
557
+ 788,
558
+ 789,
559
+ 793,
560
+ 795,
561
+ 797,
562
+ 798,
563
+ 799,
564
+ 800,
565
+ 803,
566
+ 804,
567
+ 807,
568
+ 808,
569
+ 809,
570
+ 811,
571
+ 817,
572
+ 818,
573
+ 822,
574
+ 823,
575
+ 824,
576
+ 825,
577
+ 826,
578
+ 828,
579
+ 829,
580
+ 830,
581
+ 831,
582
+ 832,
583
+ 833,
584
+ 836,
585
+ 837,
586
+ 838,
587
+ 839,
588
+ 840,
589
+ 841,
590
+ 843,
591
+ 844,
592
+ 845,
593
+ 846,
594
+ 847,
595
+ 848,
596
+ 849,
597
+ 850,
598
+ 851,
599
+ 853,
600
+ 854,
601
+ 856,
602
+ 858,
603
+ 859,
604
+ 861,
605
+ 866,
606
+ 870,
607
+ 871,
608
+ 872,
609
+ 873,
610
+ 874,
611
+ 875,
612
+ 878,
613
+ 880,
614
+ 881,
615
+ 882,
616
+ 885,
617
+ 887,
618
+ 888,
619
+ 890,
620
+ 893,
621
+ 894,
622
+ 899,
623
+ 900,
624
+ 902,
625
+ 903,
626
+ 904,
627
+ 905,
628
+ 906,
629
+ 907,
630
+ 908,
631
+ 910,
632
+ 911,
633
+ 914,
634
+ 916,
635
+ 917,
636
+ 918,
637
+ 919,
638
+ 922,
639
+ 923,
640
+ 925,
641
+ 928,
642
+ 930,
643
+ 931,
644
+ 932,
645
+ 933,
646
+ 935,
647
+ 936,
648
+ 938,
649
+ 939,
650
+ 940,
651
+ 944,
652
+ 945,
653
+ 946,
654
+ 947,
655
+ 948,
656
+ 949,
657
+ 950,
658
+ 951,
659
+ 953,
660
+ 954,
661
+ 955,
662
+ 956,
663
+ 957,
664
+ 958,
665
+ 959,
666
+ 960,
667
+ 962,
668
+ 964,
669
+ 965,
670
+ 966,
671
+ 967,
672
+ 968,
673
+ 969,
674
+ 970,
675
+ 973,
676
+ 974,
677
+ 975,
678
+ 976,
679
+ 978,
680
+ 979,
681
+ 980,
682
+ 981,
683
+ 982,
684
+ 985,
685
+ 986,
686
+ 987,
687
+ 988,
688
+ 989,
689
+ 993,
690
+ 994,
691
+ 995,
692
+ 996,
693
+ 997,
694
+ 998
695
+ ],
696
+ "n_after_alignment_filter": 310,
697
+ "clean_accuracy": 0.9258064516129032,
698
+ "corrupted_accuracy": 0.9483870967741935,
699
+ "both_correct_accuracy": 0.8741935483870967,
700
+ "n_both_correct": 271,
701
+ "both_correct_indices": [
702
+ 8,
703
+ 10,
704
+ 11,
705
+ 15,
706
+ 20,
707
+ 23,
708
+ 27,
709
+ 30,
710
+ 31,
711
+ 33,
712
+ 35,
713
+ 41,
714
+ 49,
715
+ 52,
716
+ 55,
717
+ 56,
718
+ 57,
719
+ 61,
720
+ 69,
721
+ 71,
722
+ 74,
723
+ 80,
724
+ 84,
725
+ 86,
726
+ 87,
727
+ 90,
728
+ 94,
729
+ 98,
730
+ 102,
731
+ 103,
732
+ 104,
733
+ 113,
734
+ 114,
735
+ 116,
736
+ 118,
737
+ 120,
738
+ 123,
739
+ 126,
740
+ 130,
741
+ 131,
742
+ 136,
743
+ 137,
744
+ 148,
745
+ 157,
746
+ 158,
747
+ 160,
748
+ 164,
749
+ 165,
750
+ 171,
751
+ 172,
752
+ 173,
753
+ 175,
754
+ 181,
755
+ 185,
756
+ 187,
757
+ 190,
758
+ 191,
759
+ 198,
760
+ 199,
761
+ 207,
762
+ 212,
763
+ 222,
764
+ 235,
765
+ 238,
766
+ 241,
767
+ 243,
768
+ 244,
769
+ 246,
770
+ 247,
771
+ 253,
772
+ 258,
773
+ 274,
774
+ 279,
775
+ 282,
776
+ 287,
777
+ 293,
778
+ 294,
779
+ 299,
780
+ 314,
781
+ 318,
782
+ 319,
783
+ 320,
784
+ 323,
785
+ 335,
786
+ 337,
787
+ 343,
788
+ 346,
789
+ 350,
790
+ 353,
791
+ 356,
792
+ 360,
793
+ 361,
794
+ 363,
795
+ 366,
796
+ 384,
797
+ 387,
798
+ 388,
799
+ 389,
800
+ 392,
801
+ 400,
802
+ 412,
803
+ 414,
804
+ 415,
805
+ 416,
806
+ 418,
807
+ 430,
808
+ 432,
809
+ 436,
810
+ 437,
811
+ 439,
812
+ 441,
813
+ 445,
814
+ 452,
815
+ 453,
816
+ 461,
817
+ 463,
818
+ 470,
819
+ 476,
820
+ 477,
821
+ 482,
822
+ 483,
823
+ 484,
824
+ 486,
825
+ 488,
826
+ 489,
827
+ 491,
828
+ 496,
829
+ 500,
830
+ 502,
831
+ 507,
832
+ 516,
833
+ 525,
834
+ 526,
835
+ 528,
836
+ 530,
837
+ 532,
838
+ 533,
839
+ 535,
840
+ 546,
841
+ 551,
842
+ 552,
843
+ 555,
844
+ 559,
845
+ 560,
846
+ 572,
847
+ 575,
848
+ 579,
849
+ 581,
850
+ 584,
851
+ 586,
852
+ 591,
853
+ 592,
854
+ 593,
855
+ 596,
856
+ 597,
857
+ 600,
858
+ 602,
859
+ 604,
860
+ 607,
861
+ 610,
862
+ 613,
863
+ 621,
864
+ 622,
865
+ 630,
866
+ 631,
867
+ 634,
868
+ 635,
869
+ 638,
870
+ 640,
871
+ 649,
872
+ 658,
873
+ 660,
874
+ 663,
875
+ 664,
876
+ 665,
877
+ 676,
878
+ 680,
879
+ 683,
880
+ 685,
881
+ 688,
882
+ 690,
883
+ 692,
884
+ 695,
885
+ 702,
886
+ 703,
887
+ 718,
888
+ 724,
889
+ 725,
890
+ 728,
891
+ 735,
892
+ 738,
893
+ 747,
894
+ 749,
895
+ 753,
896
+ 754,
897
+ 756,
898
+ 762,
899
+ 768,
900
+ 769,
901
+ 770,
902
+ 772,
903
+ 774,
904
+ 775,
905
+ 776,
906
+ 780,
907
+ 790,
908
+ 791,
909
+ 794,
910
+ 796,
911
+ 801,
912
+ 802,
913
+ 805,
914
+ 812,
915
+ 813,
916
+ 814,
917
+ 815,
918
+ 816,
919
+ 819,
920
+ 820,
921
+ 821,
922
+ 827,
923
+ 834,
924
+ 835,
925
+ 842,
926
+ 855,
927
+ 857,
928
+ 860,
929
+ 862,
930
+ 863,
931
+ 864,
932
+ 865,
933
+ 867,
934
+ 868,
935
+ 869,
936
+ 877,
937
+ 879,
938
+ 883,
939
+ 886,
940
+ 889,
941
+ 891,
942
+ 892,
943
+ 896,
944
+ 897,
945
+ 898,
946
+ 901,
947
+ 909,
948
+ 912,
949
+ 913,
950
+ 915,
951
+ 920,
952
+ 921,
953
+ 924,
954
+ 926,
955
+ 927,
956
+ 929,
957
+ 934,
958
+ 937,
959
+ 941,
960
+ 942,
961
+ 943,
962
+ 952,
963
+ 961,
964
+ 963,
965
+ 971,
966
+ 972,
967
+ 977,
968
+ 983,
969
+ 984,
970
+ 990,
971
+ 992,
972
+ 999
973
+ ],
974
+ "not_both_correct_indices": [
975
+ 0,
976
+ 34,
977
+ 63,
978
+ 73,
979
+ 79,
980
+ 117,
981
+ 125,
982
+ 129,
983
+ 134,
984
+ 169,
985
+ 192,
986
+ 242,
987
+ 250,
988
+ 280,
989
+ 288,
990
+ 297,
991
+ 373,
992
+ 378,
993
+ 419,
994
+ 427,
995
+ 434,
996
+ 455,
997
+ 493,
998
+ 515,
999
+ 519,
1000
+ 536,
1001
+ 548,
1002
+ 570,
1003
+ 605,
1004
+ 662,
1005
+ 763,
1006
+ 792,
1007
+ 806,
1008
+ 810,
1009
+ 852,
1010
+ 876,
1011
+ 884,
1012
+ 895,
1013
+ 991
1014
+ ],
1015
+ "clean_baseline": 4.875,
1016
+ "corrupted_baseline": -5.0859375
1017
+ }
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_solubility/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:cbbd01761d7a960239c3a531cef913445c9936081561a257acde9befaae9914a
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_solubility/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:cc9930179533920d73133d1d08297a85e6cf628393567492645d8de06b0e7399
3
+ size 10070216
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_temperature/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_temperature/baselines.json ADDED
@@ -0,0 +1,1017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 674,
4
+ "token_misaligned_indices": [
5
+ 0,
6
+ 1,
7
+ 2,
8
+ 5,
9
+ 6,
10
+ 7,
11
+ 9,
12
+ 11,
13
+ 14,
14
+ 16,
15
+ 17,
16
+ 18,
17
+ 19,
18
+ 20,
19
+ 21,
20
+ 22,
21
+ 23,
22
+ 24,
23
+ 25,
24
+ 26,
25
+ 27,
26
+ 28,
27
+ 29,
28
+ 34,
29
+ 36,
30
+ 38,
31
+ 39,
32
+ 40,
33
+ 41,
34
+ 42,
35
+ 43,
36
+ 44,
37
+ 45,
38
+ 46,
39
+ 48,
40
+ 49,
41
+ 50,
42
+ 51,
43
+ 52,
44
+ 55,
45
+ 57,
46
+ 59,
47
+ 60,
48
+ 61,
49
+ 64,
50
+ 66,
51
+ 67,
52
+ 68,
53
+ 69,
54
+ 71,
55
+ 74,
56
+ 75,
57
+ 76,
58
+ 77,
59
+ 78,
60
+ 79,
61
+ 80,
62
+ 81,
63
+ 83,
64
+ 86,
65
+ 87,
66
+ 90,
67
+ 91,
68
+ 92,
69
+ 94,
70
+ 95,
71
+ 96,
72
+ 98,
73
+ 103,
74
+ 106,
75
+ 107,
76
+ 108,
77
+ 109,
78
+ 110,
79
+ 111,
80
+ 112,
81
+ 113,
82
+ 114,
83
+ 116,
84
+ 118,
85
+ 119,
86
+ 121,
87
+ 124,
88
+ 126,
89
+ 127,
90
+ 129,
91
+ 130,
92
+ 131,
93
+ 133,
94
+ 134,
95
+ 136,
96
+ 137,
97
+ 138,
98
+ 139,
99
+ 140,
100
+ 142,
101
+ 145,
102
+ 146,
103
+ 147,
104
+ 148,
105
+ 149,
106
+ 150,
107
+ 152,
108
+ 154,
109
+ 155,
110
+ 156,
111
+ 158,
112
+ 159,
113
+ 160,
114
+ 162,
115
+ 164,
116
+ 165,
117
+ 166,
118
+ 167,
119
+ 168,
120
+ 170,
121
+ 173,
122
+ 174,
123
+ 176,
124
+ 178,
125
+ 179,
126
+ 180,
127
+ 181,
128
+ 182,
129
+ 183,
130
+ 184,
131
+ 185,
132
+ 186,
133
+ 187,
134
+ 191,
135
+ 193,
136
+ 194,
137
+ 196,
138
+ 197,
139
+ 201,
140
+ 205,
141
+ 206,
142
+ 208,
143
+ 209,
144
+ 210,
145
+ 211,
146
+ 212,
147
+ 214,
148
+ 215,
149
+ 216,
150
+ 217,
151
+ 218,
152
+ 219,
153
+ 220,
154
+ 222,
155
+ 224,
156
+ 228,
157
+ 229,
158
+ 231,
159
+ 233,
160
+ 234,
161
+ 235,
162
+ 239,
163
+ 240,
164
+ 241,
165
+ 242,
166
+ 243,
167
+ 244,
168
+ 245,
169
+ 246,
170
+ 247,
171
+ 248,
172
+ 249,
173
+ 251,
174
+ 252,
175
+ 253,
176
+ 254,
177
+ 255,
178
+ 256,
179
+ 258,
180
+ 260,
181
+ 261,
182
+ 262,
183
+ 263,
184
+ 266,
185
+ 268,
186
+ 269,
187
+ 271,
188
+ 272,
189
+ 274,
190
+ 275,
191
+ 278,
192
+ 281,
193
+ 283,
194
+ 284,
195
+ 286,
196
+ 287,
197
+ 288,
198
+ 290,
199
+ 291,
200
+ 295,
201
+ 296,
202
+ 297,
203
+ 298,
204
+ 299,
205
+ 300,
206
+ 302,
207
+ 303,
208
+ 304,
209
+ 305,
210
+ 306,
211
+ 307,
212
+ 308,
213
+ 309,
214
+ 310,
215
+ 311,
216
+ 312,
217
+ 314,
218
+ 318,
219
+ 319,
220
+ 320,
221
+ 321,
222
+ 322,
223
+ 326,
224
+ 327,
225
+ 328,
226
+ 329,
227
+ 330,
228
+ 333,
229
+ 335,
230
+ 339,
231
+ 340,
232
+ 341,
233
+ 342,
234
+ 343,
235
+ 346,
236
+ 347,
237
+ 348,
238
+ 349,
239
+ 351,
240
+ 352,
241
+ 353,
242
+ 354,
243
+ 355,
244
+ 356,
245
+ 358,
246
+ 359,
247
+ 360,
248
+ 362,
249
+ 363,
250
+ 364,
251
+ 365,
252
+ 366,
253
+ 368,
254
+ 369,
255
+ 370,
256
+ 371,
257
+ 372,
258
+ 373,
259
+ 375,
260
+ 376,
261
+ 377,
262
+ 378,
263
+ 379,
264
+ 380,
265
+ 384,
266
+ 385,
267
+ 387,
268
+ 388,
269
+ 389,
270
+ 390,
271
+ 392,
272
+ 393,
273
+ 394,
274
+ 395,
275
+ 396,
276
+ 400,
277
+ 401,
278
+ 402,
279
+ 403,
280
+ 404,
281
+ 406,
282
+ 408,
283
+ 412,
284
+ 413,
285
+ 414,
286
+ 416,
287
+ 417,
288
+ 418,
289
+ 419,
290
+ 420,
291
+ 421,
292
+ 422,
293
+ 424,
294
+ 426,
295
+ 427,
296
+ 428,
297
+ 429,
298
+ 430,
299
+ 432,
300
+ 433,
301
+ 434,
302
+ 436,
303
+ 437,
304
+ 439,
305
+ 440,
306
+ 442,
307
+ 443,
308
+ 444,
309
+ 446,
310
+ 448,
311
+ 449,
312
+ 450,
313
+ 451,
314
+ 452,
315
+ 458,
316
+ 459,
317
+ 461,
318
+ 462,
319
+ 464,
320
+ 465,
321
+ 466,
322
+ 467,
323
+ 469,
324
+ 470,
325
+ 472,
326
+ 473,
327
+ 474,
328
+ 475,
329
+ 476,
330
+ 478,
331
+ 479,
332
+ 481,
333
+ 483,
334
+ 486,
335
+ 487,
336
+ 489,
337
+ 493,
338
+ 496,
339
+ 497,
340
+ 498,
341
+ 499,
342
+ 500,
343
+ 501,
344
+ 502,
345
+ 503,
346
+ 504,
347
+ 505,
348
+ 508,
349
+ 509,
350
+ 511,
351
+ 512,
352
+ 514,
353
+ 515,
354
+ 517,
355
+ 521,
356
+ 523,
357
+ 524,
358
+ 526,
359
+ 530,
360
+ 533,
361
+ 535,
362
+ 536,
363
+ 538,
364
+ 539,
365
+ 540,
366
+ 541,
367
+ 543,
368
+ 544,
369
+ 545,
370
+ 546,
371
+ 547,
372
+ 548,
373
+ 549,
374
+ 550,
375
+ 551,
376
+ 552,
377
+ 553,
378
+ 554,
379
+ 555,
380
+ 556,
381
+ 557,
382
+ 558,
383
+ 559,
384
+ 560,
385
+ 562,
386
+ 563,
387
+ 565,
388
+ 567,
389
+ 568,
390
+ 569,
391
+ 571,
392
+ 572,
393
+ 577,
394
+ 578,
395
+ 580,
396
+ 581,
397
+ 583,
398
+ 584,
399
+ 585,
400
+ 587,
401
+ 588,
402
+ 590,
403
+ 591,
404
+ 594,
405
+ 595,
406
+ 596,
407
+ 597,
408
+ 598,
409
+ 599,
410
+ 600,
411
+ 601,
412
+ 602,
413
+ 603,
414
+ 608,
415
+ 611,
416
+ 614,
417
+ 615,
418
+ 618,
419
+ 621,
420
+ 623,
421
+ 624,
422
+ 625,
423
+ 627,
424
+ 629,
425
+ 630,
426
+ 634,
427
+ 635,
428
+ 636,
429
+ 639,
430
+ 640,
431
+ 641,
432
+ 642,
433
+ 643,
434
+ 644,
435
+ 645,
436
+ 646,
437
+ 649,
438
+ 650,
439
+ 651,
440
+ 652,
441
+ 653,
442
+ 655,
443
+ 656,
444
+ 657,
445
+ 659,
446
+ 660,
447
+ 664,
448
+ 665,
449
+ 666,
450
+ 667,
451
+ 668,
452
+ 669,
453
+ 670,
454
+ 671,
455
+ 672,
456
+ 675,
457
+ 676,
458
+ 677,
459
+ 678,
460
+ 680,
461
+ 682,
462
+ 685,
463
+ 686,
464
+ 687,
465
+ 688,
466
+ 689,
467
+ 690,
468
+ 691,
469
+ 692,
470
+ 693,
471
+ 694,
472
+ 696,
473
+ 697,
474
+ 698,
475
+ 699,
476
+ 700,
477
+ 702,
478
+ 703,
479
+ 704,
480
+ 706,
481
+ 707,
482
+ 709,
483
+ 710,
484
+ 711,
485
+ 713,
486
+ 714,
487
+ 715,
488
+ 716,
489
+ 717,
490
+ 718,
491
+ 719,
492
+ 720,
493
+ 721,
494
+ 722,
495
+ 723,
496
+ 727,
497
+ 728,
498
+ 729,
499
+ 730,
500
+ 731,
501
+ 732,
502
+ 734,
503
+ 735,
504
+ 736,
505
+ 737,
506
+ 739,
507
+ 741,
508
+ 744,
509
+ 745,
510
+ 746,
511
+ 747,
512
+ 748,
513
+ 749,
514
+ 750,
515
+ 751,
516
+ 752,
517
+ 754,
518
+ 757,
519
+ 758,
520
+ 760,
521
+ 762,
522
+ 763,
523
+ 765,
524
+ 767,
525
+ 768,
526
+ 769,
527
+ 770,
528
+ 774,
529
+ 775,
530
+ 776,
531
+ 777,
532
+ 778,
533
+ 779,
534
+ 780,
535
+ 781,
536
+ 782,
537
+ 783,
538
+ 784,
539
+ 785,
540
+ 786,
541
+ 788,
542
+ 789,
543
+ 790,
544
+ 791,
545
+ 792,
546
+ 793,
547
+ 794,
548
+ 795,
549
+ 797,
550
+ 800,
551
+ 804,
552
+ 805,
553
+ 807,
554
+ 808,
555
+ 810,
556
+ 811,
557
+ 812,
558
+ 813,
559
+ 814,
560
+ 817,
561
+ 818,
562
+ 820,
563
+ 821,
564
+ 822,
565
+ 824,
566
+ 826,
567
+ 827,
568
+ 828,
569
+ 831,
570
+ 832,
571
+ 837,
572
+ 838,
573
+ 839,
574
+ 840,
575
+ 841,
576
+ 842,
577
+ 845,
578
+ 846,
579
+ 847,
580
+ 849,
581
+ 850,
582
+ 851,
583
+ 853,
584
+ 854,
585
+ 855,
586
+ 856,
587
+ 857,
588
+ 858,
589
+ 859,
590
+ 861,
591
+ 865,
592
+ 868,
593
+ 870,
594
+ 871,
595
+ 872,
596
+ 873,
597
+ 875,
598
+ 880,
599
+ 881,
600
+ 883,
601
+ 885,
602
+ 886,
603
+ 887,
604
+ 888,
605
+ 890,
606
+ 891,
607
+ 892,
608
+ 896,
609
+ 897,
610
+ 898,
611
+ 899,
612
+ 904,
613
+ 907,
614
+ 912,
615
+ 913,
616
+ 914,
617
+ 915,
618
+ 916,
619
+ 917,
620
+ 918,
621
+ 919,
622
+ 920,
623
+ 922,
624
+ 925,
625
+ 926,
626
+ 927,
627
+ 928,
628
+ 929,
629
+ 930,
630
+ 931,
631
+ 933,
632
+ 934,
633
+ 935,
634
+ 938,
635
+ 940,
636
+ 942,
637
+ 943,
638
+ 944,
639
+ 945,
640
+ 946,
641
+ 947,
642
+ 948,
643
+ 950,
644
+ 951,
645
+ 952,
646
+ 953,
647
+ 955,
648
+ 956,
649
+ 957,
650
+ 958,
651
+ 959,
652
+ 960,
653
+ 961,
654
+ 962,
655
+ 963,
656
+ 964,
657
+ 967,
658
+ 968,
659
+ 969,
660
+ 971,
661
+ 972,
662
+ 974,
663
+ 975,
664
+ 976,
665
+ 977,
666
+ 978,
667
+ 979,
668
+ 980,
669
+ 981,
670
+ 985,
671
+ 986,
672
+ 987,
673
+ 988,
674
+ 991,
675
+ 993,
676
+ 995,
677
+ 996,
678
+ 999
679
+ ],
680
+ "n_after_alignment_filter": 326,
681
+ "clean_accuracy": 0.9969325153374233,
682
+ "corrupted_accuracy": 0.9969325153374233,
683
+ "both_correct_accuracy": 0.9938650306748467,
684
+ "n_both_correct": 324,
685
+ "both_correct_indices": [
686
+ 3,
687
+ 4,
688
+ 8,
689
+ 10,
690
+ 12,
691
+ 13,
692
+ 15,
693
+ 30,
694
+ 31,
695
+ 32,
696
+ 33,
697
+ 35,
698
+ 37,
699
+ 47,
700
+ 53,
701
+ 54,
702
+ 56,
703
+ 58,
704
+ 62,
705
+ 63,
706
+ 65,
707
+ 70,
708
+ 72,
709
+ 73,
710
+ 82,
711
+ 84,
712
+ 85,
713
+ 88,
714
+ 89,
715
+ 93,
716
+ 97,
717
+ 99,
718
+ 100,
719
+ 101,
720
+ 102,
721
+ 104,
722
+ 105,
723
+ 115,
724
+ 117,
725
+ 120,
726
+ 122,
727
+ 123,
728
+ 125,
729
+ 128,
730
+ 132,
731
+ 135,
732
+ 141,
733
+ 143,
734
+ 144,
735
+ 151,
736
+ 153,
737
+ 157,
738
+ 161,
739
+ 163,
740
+ 169,
741
+ 171,
742
+ 172,
743
+ 175,
744
+ 177,
745
+ 188,
746
+ 189,
747
+ 190,
748
+ 192,
749
+ 195,
750
+ 198,
751
+ 199,
752
+ 200,
753
+ 202,
754
+ 203,
755
+ 204,
756
+ 207,
757
+ 213,
758
+ 221,
759
+ 223,
760
+ 225,
761
+ 226,
762
+ 227,
763
+ 230,
764
+ 232,
765
+ 236,
766
+ 237,
767
+ 238,
768
+ 250,
769
+ 257,
770
+ 259,
771
+ 264,
772
+ 265,
773
+ 267,
774
+ 270,
775
+ 273,
776
+ 276,
777
+ 277,
778
+ 279,
779
+ 280,
780
+ 282,
781
+ 285,
782
+ 289,
783
+ 292,
784
+ 293,
785
+ 294,
786
+ 301,
787
+ 313,
788
+ 315,
789
+ 316,
790
+ 317,
791
+ 323,
792
+ 324,
793
+ 325,
794
+ 331,
795
+ 332,
796
+ 334,
797
+ 336,
798
+ 337,
799
+ 338,
800
+ 344,
801
+ 345,
802
+ 350,
803
+ 357,
804
+ 361,
805
+ 367,
806
+ 374,
807
+ 381,
808
+ 382,
809
+ 383,
810
+ 386,
811
+ 391,
812
+ 397,
813
+ 398,
814
+ 399,
815
+ 407,
816
+ 409,
817
+ 410,
818
+ 411,
819
+ 415,
820
+ 423,
821
+ 425,
822
+ 431,
823
+ 435,
824
+ 438,
825
+ 441,
826
+ 445,
827
+ 447,
828
+ 453,
829
+ 454,
830
+ 455,
831
+ 456,
832
+ 457,
833
+ 460,
834
+ 463,
835
+ 468,
836
+ 471,
837
+ 477,
838
+ 480,
839
+ 482,
840
+ 484,
841
+ 485,
842
+ 488,
843
+ 490,
844
+ 491,
845
+ 492,
846
+ 494,
847
+ 495,
848
+ 506,
849
+ 507,
850
+ 510,
851
+ 513,
852
+ 516,
853
+ 518,
854
+ 519,
855
+ 520,
856
+ 522,
857
+ 525,
858
+ 527,
859
+ 528,
860
+ 529,
861
+ 531,
862
+ 532,
863
+ 534,
864
+ 537,
865
+ 542,
866
+ 561,
867
+ 564,
868
+ 566,
869
+ 570,
870
+ 573,
871
+ 574,
872
+ 575,
873
+ 576,
874
+ 579,
875
+ 582,
876
+ 586,
877
+ 589,
878
+ 592,
879
+ 593,
880
+ 604,
881
+ 605,
882
+ 606,
883
+ 607,
884
+ 609,
885
+ 610,
886
+ 612,
887
+ 613,
888
+ 616,
889
+ 617,
890
+ 619,
891
+ 620,
892
+ 622,
893
+ 626,
894
+ 628,
895
+ 631,
896
+ 632,
897
+ 633,
898
+ 637,
899
+ 638,
900
+ 647,
901
+ 648,
902
+ 654,
903
+ 658,
904
+ 661,
905
+ 662,
906
+ 663,
907
+ 673,
908
+ 674,
909
+ 679,
910
+ 681,
911
+ 683,
912
+ 684,
913
+ 695,
914
+ 701,
915
+ 705,
916
+ 708,
917
+ 712,
918
+ 724,
919
+ 725,
920
+ 726,
921
+ 733,
922
+ 738,
923
+ 740,
924
+ 742,
925
+ 743,
926
+ 753,
927
+ 755,
928
+ 756,
929
+ 759,
930
+ 761,
931
+ 764,
932
+ 766,
933
+ 771,
934
+ 772,
935
+ 773,
936
+ 787,
937
+ 796,
938
+ 798,
939
+ 799,
940
+ 801,
941
+ 802,
942
+ 803,
943
+ 806,
944
+ 809,
945
+ 815,
946
+ 816,
947
+ 819,
948
+ 823,
949
+ 825,
950
+ 829,
951
+ 830,
952
+ 833,
953
+ 834,
954
+ 835,
955
+ 836,
956
+ 843,
957
+ 844,
958
+ 848,
959
+ 852,
960
+ 860,
961
+ 862,
962
+ 863,
963
+ 864,
964
+ 866,
965
+ 867,
966
+ 869,
967
+ 874,
968
+ 876,
969
+ 877,
970
+ 878,
971
+ 879,
972
+ 882,
973
+ 884,
974
+ 889,
975
+ 893,
976
+ 894,
977
+ 895,
978
+ 900,
979
+ 901,
980
+ 902,
981
+ 903,
982
+ 905,
983
+ 906,
984
+ 908,
985
+ 909,
986
+ 910,
987
+ 911,
988
+ 921,
989
+ 923,
990
+ 924,
991
+ 932,
992
+ 936,
993
+ 937,
994
+ 939,
995
+ 941,
996
+ 954,
997
+ 965,
998
+ 966,
999
+ 970,
1000
+ 973,
1001
+ 982,
1002
+ 983,
1003
+ 984,
1004
+ 989,
1005
+ 990,
1006
+ 992,
1007
+ 994,
1008
+ 997,
1009
+ 998
1010
+ ],
1011
+ "not_both_correct_indices": [
1012
+ 405,
1013
+ 949
1014
+ ],
1015
+ "clean_baseline": 6.75390625,
1016
+ "corrupted_baseline": -6.7890625
1017
+ }
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_temperature/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:de2cd74e7cc8e420f261228141e891071d547a4c192656da768c0b3e2c85754a
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/phys/physics_temperature/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:66fcc0518f030f6eca2d7c2b64d221f8e11ee811e27e2c64209c7d653cb6f059
3
+ size 10061312
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/anaphor_gender_agreement/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/anaphor_gender_agreement/baselines.json ADDED
@@ -0,0 +1,1117 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1100,
3
+ "n_token_misaligned": 244,
4
+ "token_misaligned_indices": [
5
+ 9,
6
+ 19,
7
+ 24,
8
+ 26,
9
+ 28,
10
+ 31,
11
+ 42,
12
+ 48,
13
+ 61,
14
+ 75,
15
+ 85,
16
+ 87,
17
+ 89,
18
+ 100,
19
+ 104,
20
+ 107,
21
+ 137,
22
+ 143,
23
+ 154,
24
+ 156,
25
+ 163,
26
+ 168,
27
+ 172,
28
+ 191,
29
+ 195,
30
+ 199,
31
+ 203,
32
+ 209,
33
+ 211,
34
+ 212,
35
+ 219,
36
+ 224,
37
+ 238,
38
+ 242,
39
+ 247,
40
+ 251,
41
+ 253,
42
+ 264,
43
+ 271,
44
+ 272,
45
+ 283,
46
+ 287,
47
+ 303,
48
+ 307,
49
+ 308,
50
+ 318,
51
+ 322,
52
+ 325,
53
+ 336,
54
+ 344,
55
+ 352,
56
+ 365,
57
+ 373,
58
+ 384,
59
+ 388,
60
+ 392,
61
+ 393,
62
+ 395,
63
+ 405,
64
+ 406,
65
+ 413,
66
+ 414,
67
+ 415,
68
+ 419,
69
+ 422,
70
+ 423,
71
+ 425,
72
+ 426,
73
+ 427,
74
+ 428,
75
+ 430,
76
+ 436,
77
+ 437,
78
+ 452,
79
+ 454,
80
+ 460,
81
+ 465,
82
+ 470,
83
+ 472,
84
+ 473,
85
+ 475,
86
+ 476,
87
+ 479,
88
+ 485,
89
+ 486,
90
+ 493,
91
+ 496,
92
+ 497,
93
+ 499,
94
+ 504,
95
+ 514,
96
+ 516,
97
+ 518,
98
+ 525,
99
+ 527,
100
+ 534,
101
+ 537,
102
+ 538,
103
+ 539,
104
+ 541,
105
+ 545,
106
+ 546,
107
+ 551,
108
+ 559,
109
+ 560,
110
+ 566,
111
+ 567,
112
+ 569,
113
+ 571,
114
+ 572,
115
+ 579,
116
+ 581,
117
+ 585,
118
+ 588,
119
+ 592,
120
+ 593,
121
+ 608,
122
+ 618,
123
+ 619,
124
+ 621,
125
+ 623,
126
+ 625,
127
+ 626,
128
+ 628,
129
+ 630,
130
+ 638,
131
+ 640,
132
+ 642,
133
+ 647,
134
+ 650,
135
+ 652,
136
+ 653,
137
+ 657,
138
+ 660,
139
+ 662,
140
+ 666,
141
+ 672,
142
+ 674,
143
+ 679,
144
+ 682,
145
+ 688,
146
+ 692,
147
+ 694,
148
+ 695,
149
+ 697,
150
+ 700,
151
+ 704,
152
+ 708,
153
+ 719,
154
+ 728,
155
+ 737,
156
+ 740,
157
+ 743,
158
+ 745,
159
+ 746,
160
+ 748,
161
+ 755,
162
+ 758,
163
+ 761,
164
+ 767,
165
+ 769,
166
+ 776,
167
+ 780,
168
+ 784,
169
+ 785,
170
+ 787,
171
+ 790,
172
+ 792,
173
+ 798,
174
+ 802,
175
+ 804,
176
+ 811,
177
+ 814,
178
+ 816,
179
+ 823,
180
+ 828,
181
+ 830,
182
+ 831,
183
+ 832,
184
+ 837,
185
+ 839,
186
+ 846,
187
+ 847,
188
+ 850,
189
+ 854,
190
+ 877,
191
+ 887,
192
+ 888,
193
+ 892,
194
+ 893,
195
+ 899,
196
+ 903,
197
+ 906,
198
+ 914,
199
+ 916,
200
+ 917,
201
+ 919,
202
+ 921,
203
+ 923,
204
+ 924,
205
+ 929,
206
+ 932,
207
+ 936,
208
+ 939,
209
+ 940,
210
+ 943,
211
+ 946,
212
+ 947,
213
+ 948,
214
+ 958,
215
+ 960,
216
+ 962,
217
+ 966,
218
+ 971,
219
+ 977,
220
+ 979,
221
+ 983,
222
+ 984,
223
+ 1002,
224
+ 1008,
225
+ 1010,
226
+ 1015,
227
+ 1019,
228
+ 1024,
229
+ 1025,
230
+ 1028,
231
+ 1030,
232
+ 1031,
233
+ 1033,
234
+ 1036,
235
+ 1039,
236
+ 1041,
237
+ 1044,
238
+ 1047,
239
+ 1057,
240
+ 1060,
241
+ 1067,
242
+ 1068,
243
+ 1070,
244
+ 1071,
245
+ 1074,
246
+ 1082,
247
+ 1088,
248
+ 1090
249
+ ],
250
+ "n_after_alignment_filter": 856,
251
+ "clean_accuracy": 0.9988317757009346,
252
+ "corrupted_accuracy": 0.9988317757009346,
253
+ "both_correct_accuracy": 0.9976635514018691,
254
+ "n_both_correct": 854,
255
+ "both_correct_indices": [
256
+ 0,
257
+ 1,
258
+ 2,
259
+ 3,
260
+ 4,
261
+ 5,
262
+ 6,
263
+ 7,
264
+ 8,
265
+ 10,
266
+ 11,
267
+ 12,
268
+ 13,
269
+ 14,
270
+ 15,
271
+ 16,
272
+ 17,
273
+ 18,
274
+ 20,
275
+ 21,
276
+ 22,
277
+ 23,
278
+ 25,
279
+ 27,
280
+ 29,
281
+ 30,
282
+ 32,
283
+ 33,
284
+ 34,
285
+ 35,
286
+ 36,
287
+ 37,
288
+ 38,
289
+ 39,
290
+ 40,
291
+ 41,
292
+ 43,
293
+ 44,
294
+ 45,
295
+ 46,
296
+ 47,
297
+ 49,
298
+ 50,
299
+ 51,
300
+ 52,
301
+ 53,
302
+ 54,
303
+ 55,
304
+ 56,
305
+ 57,
306
+ 58,
307
+ 59,
308
+ 60,
309
+ 62,
310
+ 63,
311
+ 64,
312
+ 65,
313
+ 66,
314
+ 67,
315
+ 68,
316
+ 69,
317
+ 70,
318
+ 71,
319
+ 72,
320
+ 73,
321
+ 74,
322
+ 76,
323
+ 77,
324
+ 78,
325
+ 79,
326
+ 80,
327
+ 81,
328
+ 82,
329
+ 83,
330
+ 84,
331
+ 86,
332
+ 88,
333
+ 90,
334
+ 91,
335
+ 92,
336
+ 93,
337
+ 94,
338
+ 95,
339
+ 96,
340
+ 97,
341
+ 98,
342
+ 99,
343
+ 101,
344
+ 102,
345
+ 103,
346
+ 105,
347
+ 106,
348
+ 108,
349
+ 109,
350
+ 110,
351
+ 111,
352
+ 112,
353
+ 113,
354
+ 114,
355
+ 115,
356
+ 116,
357
+ 117,
358
+ 118,
359
+ 119,
360
+ 120,
361
+ 121,
362
+ 122,
363
+ 123,
364
+ 124,
365
+ 125,
366
+ 126,
367
+ 127,
368
+ 128,
369
+ 129,
370
+ 130,
371
+ 131,
372
+ 132,
373
+ 133,
374
+ 134,
375
+ 135,
376
+ 136,
377
+ 138,
378
+ 139,
379
+ 140,
380
+ 141,
381
+ 142,
382
+ 144,
383
+ 145,
384
+ 146,
385
+ 147,
386
+ 148,
387
+ 149,
388
+ 150,
389
+ 151,
390
+ 152,
391
+ 153,
392
+ 155,
393
+ 157,
394
+ 158,
395
+ 159,
396
+ 160,
397
+ 161,
398
+ 162,
399
+ 164,
400
+ 165,
401
+ 166,
402
+ 167,
403
+ 169,
404
+ 170,
405
+ 171,
406
+ 173,
407
+ 174,
408
+ 175,
409
+ 176,
410
+ 177,
411
+ 178,
412
+ 179,
413
+ 180,
414
+ 181,
415
+ 182,
416
+ 183,
417
+ 184,
418
+ 185,
419
+ 186,
420
+ 187,
421
+ 188,
422
+ 189,
423
+ 190,
424
+ 192,
425
+ 193,
426
+ 194,
427
+ 196,
428
+ 197,
429
+ 198,
430
+ 200,
431
+ 201,
432
+ 202,
433
+ 205,
434
+ 206,
435
+ 207,
436
+ 208,
437
+ 210,
438
+ 213,
439
+ 214,
440
+ 215,
441
+ 216,
442
+ 217,
443
+ 218,
444
+ 220,
445
+ 221,
446
+ 222,
447
+ 223,
448
+ 225,
449
+ 226,
450
+ 227,
451
+ 228,
452
+ 229,
453
+ 230,
454
+ 231,
455
+ 232,
456
+ 233,
457
+ 234,
458
+ 235,
459
+ 236,
460
+ 237,
461
+ 239,
462
+ 240,
463
+ 241,
464
+ 243,
465
+ 244,
466
+ 245,
467
+ 246,
468
+ 248,
469
+ 249,
470
+ 250,
471
+ 252,
472
+ 254,
473
+ 255,
474
+ 256,
475
+ 257,
476
+ 258,
477
+ 259,
478
+ 260,
479
+ 261,
480
+ 262,
481
+ 263,
482
+ 265,
483
+ 266,
484
+ 267,
485
+ 268,
486
+ 269,
487
+ 270,
488
+ 273,
489
+ 274,
490
+ 275,
491
+ 276,
492
+ 277,
493
+ 278,
494
+ 279,
495
+ 280,
496
+ 281,
497
+ 282,
498
+ 284,
499
+ 285,
500
+ 286,
501
+ 288,
502
+ 289,
503
+ 290,
504
+ 291,
505
+ 292,
506
+ 293,
507
+ 294,
508
+ 295,
509
+ 296,
510
+ 297,
511
+ 298,
512
+ 299,
513
+ 300,
514
+ 301,
515
+ 302,
516
+ 304,
517
+ 305,
518
+ 306,
519
+ 309,
520
+ 310,
521
+ 311,
522
+ 312,
523
+ 313,
524
+ 314,
525
+ 315,
526
+ 316,
527
+ 317,
528
+ 319,
529
+ 320,
530
+ 321,
531
+ 323,
532
+ 324,
533
+ 326,
534
+ 327,
535
+ 328,
536
+ 329,
537
+ 330,
538
+ 331,
539
+ 332,
540
+ 333,
541
+ 334,
542
+ 335,
543
+ 337,
544
+ 338,
545
+ 339,
546
+ 340,
547
+ 341,
548
+ 342,
549
+ 343,
550
+ 345,
551
+ 346,
552
+ 347,
553
+ 348,
554
+ 349,
555
+ 350,
556
+ 351,
557
+ 353,
558
+ 354,
559
+ 355,
560
+ 356,
561
+ 357,
562
+ 358,
563
+ 359,
564
+ 360,
565
+ 361,
566
+ 362,
567
+ 363,
568
+ 364,
569
+ 366,
570
+ 367,
571
+ 368,
572
+ 369,
573
+ 370,
574
+ 371,
575
+ 372,
576
+ 374,
577
+ 375,
578
+ 376,
579
+ 377,
580
+ 378,
581
+ 379,
582
+ 380,
583
+ 381,
584
+ 382,
585
+ 383,
586
+ 385,
587
+ 386,
588
+ 387,
589
+ 389,
590
+ 390,
591
+ 391,
592
+ 394,
593
+ 396,
594
+ 397,
595
+ 398,
596
+ 399,
597
+ 400,
598
+ 401,
599
+ 402,
600
+ 403,
601
+ 404,
602
+ 407,
603
+ 408,
604
+ 409,
605
+ 410,
606
+ 411,
607
+ 412,
608
+ 416,
609
+ 417,
610
+ 418,
611
+ 420,
612
+ 421,
613
+ 424,
614
+ 429,
615
+ 431,
616
+ 432,
617
+ 433,
618
+ 434,
619
+ 435,
620
+ 438,
621
+ 439,
622
+ 440,
623
+ 441,
624
+ 442,
625
+ 443,
626
+ 444,
627
+ 445,
628
+ 446,
629
+ 447,
630
+ 448,
631
+ 449,
632
+ 450,
633
+ 451,
634
+ 453,
635
+ 455,
636
+ 456,
637
+ 457,
638
+ 458,
639
+ 459,
640
+ 461,
641
+ 462,
642
+ 463,
643
+ 464,
644
+ 466,
645
+ 467,
646
+ 468,
647
+ 469,
648
+ 471,
649
+ 474,
650
+ 477,
651
+ 478,
652
+ 480,
653
+ 481,
654
+ 482,
655
+ 483,
656
+ 484,
657
+ 487,
658
+ 488,
659
+ 489,
660
+ 490,
661
+ 491,
662
+ 492,
663
+ 494,
664
+ 495,
665
+ 498,
666
+ 500,
667
+ 501,
668
+ 502,
669
+ 503,
670
+ 505,
671
+ 506,
672
+ 507,
673
+ 508,
674
+ 509,
675
+ 510,
676
+ 511,
677
+ 512,
678
+ 513,
679
+ 515,
680
+ 517,
681
+ 519,
682
+ 520,
683
+ 521,
684
+ 522,
685
+ 523,
686
+ 524,
687
+ 526,
688
+ 528,
689
+ 529,
690
+ 530,
691
+ 531,
692
+ 532,
693
+ 533,
694
+ 535,
695
+ 536,
696
+ 540,
697
+ 542,
698
+ 543,
699
+ 544,
700
+ 547,
701
+ 548,
702
+ 549,
703
+ 550,
704
+ 552,
705
+ 553,
706
+ 554,
707
+ 555,
708
+ 556,
709
+ 557,
710
+ 558,
711
+ 561,
712
+ 562,
713
+ 563,
714
+ 564,
715
+ 565,
716
+ 568,
717
+ 570,
718
+ 573,
719
+ 574,
720
+ 575,
721
+ 576,
722
+ 577,
723
+ 578,
724
+ 580,
725
+ 582,
726
+ 583,
727
+ 584,
728
+ 586,
729
+ 587,
730
+ 590,
731
+ 591,
732
+ 594,
733
+ 595,
734
+ 596,
735
+ 597,
736
+ 598,
737
+ 599,
738
+ 600,
739
+ 601,
740
+ 602,
741
+ 603,
742
+ 604,
743
+ 605,
744
+ 606,
745
+ 607,
746
+ 609,
747
+ 610,
748
+ 611,
749
+ 612,
750
+ 613,
751
+ 614,
752
+ 615,
753
+ 616,
754
+ 617,
755
+ 620,
756
+ 622,
757
+ 624,
758
+ 627,
759
+ 629,
760
+ 631,
761
+ 632,
762
+ 633,
763
+ 634,
764
+ 635,
765
+ 636,
766
+ 637,
767
+ 639,
768
+ 641,
769
+ 643,
770
+ 644,
771
+ 645,
772
+ 646,
773
+ 648,
774
+ 649,
775
+ 651,
776
+ 654,
777
+ 655,
778
+ 656,
779
+ 658,
780
+ 659,
781
+ 661,
782
+ 663,
783
+ 664,
784
+ 665,
785
+ 667,
786
+ 668,
787
+ 669,
788
+ 670,
789
+ 671,
790
+ 673,
791
+ 675,
792
+ 676,
793
+ 677,
794
+ 678,
795
+ 680,
796
+ 681,
797
+ 683,
798
+ 684,
799
+ 685,
800
+ 686,
801
+ 687,
802
+ 689,
803
+ 690,
804
+ 691,
805
+ 693,
806
+ 696,
807
+ 698,
808
+ 699,
809
+ 701,
810
+ 702,
811
+ 703,
812
+ 705,
813
+ 706,
814
+ 707,
815
+ 709,
816
+ 710,
817
+ 711,
818
+ 712,
819
+ 713,
820
+ 714,
821
+ 715,
822
+ 716,
823
+ 717,
824
+ 718,
825
+ 720,
826
+ 721,
827
+ 722,
828
+ 723,
829
+ 724,
830
+ 725,
831
+ 726,
832
+ 727,
833
+ 729,
834
+ 730,
835
+ 731,
836
+ 732,
837
+ 733,
838
+ 734,
839
+ 735,
840
+ 736,
841
+ 738,
842
+ 739,
843
+ 741,
844
+ 742,
845
+ 744,
846
+ 747,
847
+ 749,
848
+ 750,
849
+ 751,
850
+ 752,
851
+ 753,
852
+ 754,
853
+ 756,
854
+ 757,
855
+ 759,
856
+ 760,
857
+ 762,
858
+ 763,
859
+ 764,
860
+ 765,
861
+ 766,
862
+ 768,
863
+ 770,
864
+ 771,
865
+ 772,
866
+ 773,
867
+ 774,
868
+ 775,
869
+ 777,
870
+ 778,
871
+ 779,
872
+ 781,
873
+ 782,
874
+ 783,
875
+ 786,
876
+ 788,
877
+ 789,
878
+ 791,
879
+ 793,
880
+ 794,
881
+ 795,
882
+ 796,
883
+ 797,
884
+ 799,
885
+ 800,
886
+ 801,
887
+ 803,
888
+ 805,
889
+ 806,
890
+ 807,
891
+ 808,
892
+ 809,
893
+ 810,
894
+ 812,
895
+ 813,
896
+ 815,
897
+ 817,
898
+ 818,
899
+ 819,
900
+ 820,
901
+ 821,
902
+ 822,
903
+ 824,
904
+ 825,
905
+ 826,
906
+ 827,
907
+ 829,
908
+ 833,
909
+ 834,
910
+ 835,
911
+ 836,
912
+ 838,
913
+ 840,
914
+ 841,
915
+ 842,
916
+ 843,
917
+ 844,
918
+ 845,
919
+ 848,
920
+ 849,
921
+ 851,
922
+ 852,
923
+ 853,
924
+ 855,
925
+ 856,
926
+ 857,
927
+ 858,
928
+ 859,
929
+ 860,
930
+ 861,
931
+ 862,
932
+ 863,
933
+ 864,
934
+ 865,
935
+ 866,
936
+ 867,
937
+ 868,
938
+ 869,
939
+ 870,
940
+ 871,
941
+ 872,
942
+ 873,
943
+ 874,
944
+ 875,
945
+ 876,
946
+ 878,
947
+ 879,
948
+ 880,
949
+ 881,
950
+ 882,
951
+ 883,
952
+ 884,
953
+ 885,
954
+ 886,
955
+ 889,
956
+ 890,
957
+ 891,
958
+ 894,
959
+ 895,
960
+ 896,
961
+ 897,
962
+ 898,
963
+ 900,
964
+ 901,
965
+ 902,
966
+ 904,
967
+ 905,
968
+ 907,
969
+ 908,
970
+ 909,
971
+ 910,
972
+ 911,
973
+ 912,
974
+ 913,
975
+ 915,
976
+ 918,
977
+ 920,
978
+ 922,
979
+ 925,
980
+ 926,
981
+ 927,
982
+ 928,
983
+ 930,
984
+ 931,
985
+ 933,
986
+ 934,
987
+ 935,
988
+ 937,
989
+ 938,
990
+ 941,
991
+ 942,
992
+ 944,
993
+ 945,
994
+ 949,
995
+ 950,
996
+ 951,
997
+ 952,
998
+ 953,
999
+ 954,
1000
+ 955,
1001
+ 956,
1002
+ 957,
1003
+ 959,
1004
+ 961,
1005
+ 963,
1006
+ 964,
1007
+ 965,
1008
+ 967,
1009
+ 968,
1010
+ 969,
1011
+ 970,
1012
+ 972,
1013
+ 973,
1014
+ 974,
1015
+ 975,
1016
+ 976,
1017
+ 978,
1018
+ 980,
1019
+ 981,
1020
+ 982,
1021
+ 985,
1022
+ 986,
1023
+ 987,
1024
+ 988,
1025
+ 989,
1026
+ 990,
1027
+ 991,
1028
+ 992,
1029
+ 993,
1030
+ 994,
1031
+ 995,
1032
+ 996,
1033
+ 997,
1034
+ 998,
1035
+ 999,
1036
+ 1000,
1037
+ 1001,
1038
+ 1003,
1039
+ 1004,
1040
+ 1005,
1041
+ 1006,
1042
+ 1007,
1043
+ 1009,
1044
+ 1011,
1045
+ 1012,
1046
+ 1013,
1047
+ 1014,
1048
+ 1016,
1049
+ 1017,
1050
+ 1018,
1051
+ 1020,
1052
+ 1021,
1053
+ 1022,
1054
+ 1023,
1055
+ 1026,
1056
+ 1027,
1057
+ 1029,
1058
+ 1032,
1059
+ 1034,
1060
+ 1035,
1061
+ 1037,
1062
+ 1038,
1063
+ 1040,
1064
+ 1042,
1065
+ 1043,
1066
+ 1045,
1067
+ 1046,
1068
+ 1048,
1069
+ 1049,
1070
+ 1050,
1071
+ 1051,
1072
+ 1052,
1073
+ 1053,
1074
+ 1054,
1075
+ 1055,
1076
+ 1056,
1077
+ 1058,
1078
+ 1059,
1079
+ 1061,
1080
+ 1062,
1081
+ 1063,
1082
+ 1064,
1083
+ 1065,
1084
+ 1066,
1085
+ 1069,
1086
+ 1072,
1087
+ 1073,
1088
+ 1075,
1089
+ 1076,
1090
+ 1077,
1091
+ 1078,
1092
+ 1079,
1093
+ 1080,
1094
+ 1081,
1095
+ 1083,
1096
+ 1084,
1097
+ 1085,
1098
+ 1086,
1099
+ 1087,
1100
+ 1089,
1101
+ 1091,
1102
+ 1092,
1103
+ 1093,
1104
+ 1094,
1105
+ 1095,
1106
+ 1096,
1107
+ 1097,
1108
+ 1098,
1109
+ 1099
1110
+ ],
1111
+ "not_both_correct_indices": [
1112
+ 204,
1113
+ 589
1114
+ ],
1115
+ "clean_baseline": 2.884765625,
1116
+ "corrupted_baseline": -2.6171875
1117
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/anaphor_gender_agreement/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:d0546f5ec2ec1fe3515534fffa46d8d8e81cf1ebd9c3a13ec570f3f71c254ca7
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/anaphor_gender_agreement/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ec818954db42be43b4e878202fd2d9100fca7be2e141c3a9d8561f98901a16bf
3
+ size 5206408
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_irregular/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_irregular/baselines.json ADDED
@@ -0,0 +1,948 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 932,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 932,
6
+ "clean_accuracy": 0.9366952789699571,
7
+ "corrupted_accuracy": 0.9409871244635193,
8
+ "both_correct_accuracy": 0.8776824034334764,
9
+ "n_both_correct": 818,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 6,
17
+ 7,
18
+ 8,
19
+ 9,
20
+ 10,
21
+ 12,
22
+ 13,
23
+ 14,
24
+ 15,
25
+ 16,
26
+ 17,
27
+ 18,
28
+ 19,
29
+ 20,
30
+ 21,
31
+ 22,
32
+ 25,
33
+ 26,
34
+ 27,
35
+ 28,
36
+ 30,
37
+ 32,
38
+ 33,
39
+ 35,
40
+ 37,
41
+ 38,
42
+ 39,
43
+ 40,
44
+ 41,
45
+ 42,
46
+ 43,
47
+ 44,
48
+ 45,
49
+ 46,
50
+ 48,
51
+ 49,
52
+ 50,
53
+ 52,
54
+ 53,
55
+ 54,
56
+ 55,
57
+ 56,
58
+ 57,
59
+ 58,
60
+ 59,
61
+ 60,
62
+ 61,
63
+ 62,
64
+ 63,
65
+ 64,
66
+ 66,
67
+ 68,
68
+ 69,
69
+ 70,
70
+ 71,
71
+ 73,
72
+ 74,
73
+ 75,
74
+ 76,
75
+ 77,
76
+ 78,
77
+ 79,
78
+ 80,
79
+ 81,
80
+ 82,
81
+ 83,
82
+ 84,
83
+ 85,
84
+ 86,
85
+ 87,
86
+ 88,
87
+ 89,
88
+ 91,
89
+ 92,
90
+ 93,
91
+ 94,
92
+ 95,
93
+ 96,
94
+ 97,
95
+ 98,
96
+ 99,
97
+ 100,
98
+ 101,
99
+ 102,
100
+ 103,
101
+ 104,
102
+ 105,
103
+ 106,
104
+ 107,
105
+ 108,
106
+ 110,
107
+ 111,
108
+ 112,
109
+ 113,
110
+ 114,
111
+ 115,
112
+ 116,
113
+ 117,
114
+ 118,
115
+ 119,
116
+ 120,
117
+ 121,
118
+ 122,
119
+ 123,
120
+ 124,
121
+ 126,
122
+ 127,
123
+ 128,
124
+ 129,
125
+ 130,
126
+ 131,
127
+ 132,
128
+ 133,
129
+ 134,
130
+ 136,
131
+ 138,
132
+ 139,
133
+ 140,
134
+ 141,
135
+ 142,
136
+ 143,
137
+ 145,
138
+ 146,
139
+ 148,
140
+ 149,
141
+ 150,
142
+ 151,
143
+ 152,
144
+ 153,
145
+ 155,
146
+ 156,
147
+ 157,
148
+ 158,
149
+ 159,
150
+ 160,
151
+ 161,
152
+ 163,
153
+ 165,
154
+ 166,
155
+ 167,
156
+ 168,
157
+ 169,
158
+ 170,
159
+ 171,
160
+ 173,
161
+ 174,
162
+ 175,
163
+ 177,
164
+ 178,
165
+ 179,
166
+ 180,
167
+ 181,
168
+ 182,
169
+ 183,
170
+ 184,
171
+ 185,
172
+ 186,
173
+ 187,
174
+ 188,
175
+ 189,
176
+ 190,
177
+ 191,
178
+ 192,
179
+ 193,
180
+ 194,
181
+ 195,
182
+ 196,
183
+ 197,
184
+ 199,
185
+ 200,
186
+ 201,
187
+ 202,
188
+ 204,
189
+ 205,
190
+ 206,
191
+ 207,
192
+ 208,
193
+ 209,
194
+ 210,
195
+ 211,
196
+ 213,
197
+ 214,
198
+ 215,
199
+ 216,
200
+ 217,
201
+ 218,
202
+ 219,
203
+ 220,
204
+ 221,
205
+ 222,
206
+ 223,
207
+ 226,
208
+ 228,
209
+ 229,
210
+ 230,
211
+ 231,
212
+ 232,
213
+ 233,
214
+ 234,
215
+ 235,
216
+ 236,
217
+ 237,
218
+ 238,
219
+ 239,
220
+ 240,
221
+ 242,
222
+ 243,
223
+ 244,
224
+ 245,
225
+ 246,
226
+ 247,
227
+ 248,
228
+ 249,
229
+ 250,
230
+ 251,
231
+ 252,
232
+ 253,
233
+ 254,
234
+ 255,
235
+ 257,
236
+ 258,
237
+ 259,
238
+ 260,
239
+ 261,
240
+ 262,
241
+ 263,
242
+ 264,
243
+ 265,
244
+ 267,
245
+ 268,
246
+ 269,
247
+ 270,
248
+ 271,
249
+ 272,
250
+ 273,
251
+ 274,
252
+ 275,
253
+ 276,
254
+ 277,
255
+ 278,
256
+ 279,
257
+ 280,
258
+ 281,
259
+ 282,
260
+ 283,
261
+ 284,
262
+ 286,
263
+ 287,
264
+ 288,
265
+ 289,
266
+ 290,
267
+ 291,
268
+ 292,
269
+ 293,
270
+ 295,
271
+ 296,
272
+ 298,
273
+ 299,
274
+ 301,
275
+ 302,
276
+ 303,
277
+ 304,
278
+ 305,
279
+ 306,
280
+ 307,
281
+ 308,
282
+ 309,
283
+ 310,
284
+ 311,
285
+ 312,
286
+ 313,
287
+ 314,
288
+ 317,
289
+ 318,
290
+ 320,
291
+ 321,
292
+ 322,
293
+ 323,
294
+ 324,
295
+ 325,
296
+ 326,
297
+ 327,
298
+ 328,
299
+ 329,
300
+ 330,
301
+ 331,
302
+ 332,
303
+ 333,
304
+ 334,
305
+ 335,
306
+ 336,
307
+ 337,
308
+ 338,
309
+ 339,
310
+ 340,
311
+ 341,
312
+ 342,
313
+ 343,
314
+ 344,
315
+ 345,
316
+ 346,
317
+ 348,
318
+ 349,
319
+ 350,
320
+ 351,
321
+ 352,
322
+ 353,
323
+ 354,
324
+ 355,
325
+ 356,
326
+ 358,
327
+ 359,
328
+ 360,
329
+ 361,
330
+ 362,
331
+ 363,
332
+ 364,
333
+ 365,
334
+ 366,
335
+ 367,
336
+ 368,
337
+ 369,
338
+ 370,
339
+ 371,
340
+ 373,
341
+ 374,
342
+ 375,
343
+ 377,
344
+ 378,
345
+ 379,
346
+ 381,
347
+ 382,
348
+ 383,
349
+ 385,
350
+ 387,
351
+ 388,
352
+ 389,
353
+ 390,
354
+ 392,
355
+ 393,
356
+ 394,
357
+ 395,
358
+ 398,
359
+ 399,
360
+ 400,
361
+ 401,
362
+ 402,
363
+ 404,
364
+ 406,
365
+ 407,
366
+ 408,
367
+ 410,
368
+ 411,
369
+ 413,
370
+ 414,
371
+ 415,
372
+ 416,
373
+ 417,
374
+ 418,
375
+ 419,
376
+ 420,
377
+ 421,
378
+ 422,
379
+ 424,
380
+ 426,
381
+ 427,
382
+ 428,
383
+ 429,
384
+ 430,
385
+ 431,
386
+ 432,
387
+ 434,
388
+ 436,
389
+ 437,
390
+ 440,
391
+ 441,
392
+ 442,
393
+ 443,
394
+ 445,
395
+ 446,
396
+ 447,
397
+ 448,
398
+ 449,
399
+ 450,
400
+ 451,
401
+ 452,
402
+ 453,
403
+ 454,
404
+ 455,
405
+ 456,
406
+ 457,
407
+ 460,
408
+ 461,
409
+ 462,
410
+ 463,
411
+ 464,
412
+ 465,
413
+ 466,
414
+ 467,
415
+ 468,
416
+ 469,
417
+ 470,
418
+ 471,
419
+ 473,
420
+ 474,
421
+ 475,
422
+ 476,
423
+ 477,
424
+ 478,
425
+ 479,
426
+ 480,
427
+ 481,
428
+ 482,
429
+ 483,
430
+ 484,
431
+ 485,
432
+ 486,
433
+ 487,
434
+ 488,
435
+ 489,
436
+ 490,
437
+ 491,
438
+ 492,
439
+ 493,
440
+ 494,
441
+ 495,
442
+ 496,
443
+ 497,
444
+ 498,
445
+ 499,
446
+ 501,
447
+ 502,
448
+ 503,
449
+ 506,
450
+ 507,
451
+ 508,
452
+ 509,
453
+ 512,
454
+ 513,
455
+ 514,
456
+ 515,
457
+ 516,
458
+ 517,
459
+ 518,
460
+ 519,
461
+ 520,
462
+ 521,
463
+ 522,
464
+ 523,
465
+ 524,
466
+ 525,
467
+ 526,
468
+ 527,
469
+ 528,
470
+ 529,
471
+ 530,
472
+ 531,
473
+ 532,
474
+ 534,
475
+ 535,
476
+ 536,
477
+ 538,
478
+ 539,
479
+ 540,
480
+ 541,
481
+ 542,
482
+ 544,
483
+ 545,
484
+ 546,
485
+ 548,
486
+ 549,
487
+ 550,
488
+ 551,
489
+ 552,
490
+ 553,
491
+ 555,
492
+ 556,
493
+ 558,
494
+ 559,
495
+ 560,
496
+ 561,
497
+ 562,
498
+ 564,
499
+ 565,
500
+ 566,
501
+ 567,
502
+ 568,
503
+ 569,
504
+ 571,
505
+ 572,
506
+ 573,
507
+ 574,
508
+ 575,
509
+ 576,
510
+ 578,
511
+ 579,
512
+ 580,
513
+ 581,
514
+ 582,
515
+ 583,
516
+ 584,
517
+ 585,
518
+ 586,
519
+ 588,
520
+ 589,
521
+ 590,
522
+ 591,
523
+ 592,
524
+ 593,
525
+ 594,
526
+ 595,
527
+ 596,
528
+ 597,
529
+ 598,
530
+ 599,
531
+ 600,
532
+ 601,
533
+ 602,
534
+ 603,
535
+ 605,
536
+ 606,
537
+ 608,
538
+ 609,
539
+ 610,
540
+ 611,
541
+ 612,
542
+ 614,
543
+ 615,
544
+ 616,
545
+ 617,
546
+ 618,
547
+ 619,
548
+ 620,
549
+ 621,
550
+ 622,
551
+ 623,
552
+ 624,
553
+ 625,
554
+ 626,
555
+ 628,
556
+ 629,
557
+ 630,
558
+ 631,
559
+ 632,
560
+ 633,
561
+ 634,
562
+ 635,
563
+ 636,
564
+ 637,
565
+ 638,
566
+ 639,
567
+ 640,
568
+ 641,
569
+ 642,
570
+ 643,
571
+ 644,
572
+ 645,
573
+ 646,
574
+ 647,
575
+ 648,
576
+ 649,
577
+ 650,
578
+ 651,
579
+ 652,
580
+ 654,
581
+ 655,
582
+ 656,
583
+ 657,
584
+ 658,
585
+ 659,
586
+ 660,
587
+ 661,
588
+ 662,
589
+ 663,
590
+ 664,
591
+ 665,
592
+ 666,
593
+ 667,
594
+ 668,
595
+ 669,
596
+ 671,
597
+ 672,
598
+ 673,
599
+ 674,
600
+ 675,
601
+ 676,
602
+ 677,
603
+ 678,
604
+ 679,
605
+ 680,
606
+ 681,
607
+ 683,
608
+ 685,
609
+ 686,
610
+ 688,
611
+ 689,
612
+ 690,
613
+ 692,
614
+ 693,
615
+ 694,
616
+ 695,
617
+ 696,
618
+ 697,
619
+ 698,
620
+ 699,
621
+ 700,
622
+ 701,
623
+ 702,
624
+ 703,
625
+ 704,
626
+ 706,
627
+ 707,
628
+ 708,
629
+ 709,
630
+ 710,
631
+ 711,
632
+ 713,
633
+ 714,
634
+ 715,
635
+ 716,
636
+ 717,
637
+ 718,
638
+ 719,
639
+ 720,
640
+ 721,
641
+ 722,
642
+ 724,
643
+ 725,
644
+ 726,
645
+ 727,
646
+ 728,
647
+ 729,
648
+ 730,
649
+ 732,
650
+ 733,
651
+ 734,
652
+ 735,
653
+ 736,
654
+ 737,
655
+ 738,
656
+ 739,
657
+ 740,
658
+ 741,
659
+ 742,
660
+ 743,
661
+ 744,
662
+ 745,
663
+ 746,
664
+ 748,
665
+ 749,
666
+ 750,
667
+ 751,
668
+ 753,
669
+ 754,
670
+ 755,
671
+ 756,
672
+ 757,
673
+ 758,
674
+ 759,
675
+ 760,
676
+ 761,
677
+ 762,
678
+ 763,
679
+ 764,
680
+ 765,
681
+ 767,
682
+ 768,
683
+ 769,
684
+ 770,
685
+ 771,
686
+ 773,
687
+ 774,
688
+ 775,
689
+ 776,
690
+ 777,
691
+ 778,
692
+ 779,
693
+ 781,
694
+ 782,
695
+ 784,
696
+ 786,
697
+ 788,
698
+ 789,
699
+ 790,
700
+ 791,
701
+ 792,
702
+ 793,
703
+ 794,
704
+ 795,
705
+ 796,
706
+ 797,
707
+ 798,
708
+ 799,
709
+ 801,
710
+ 802,
711
+ 803,
712
+ 804,
713
+ 805,
714
+ 807,
715
+ 808,
716
+ 809,
717
+ 810,
718
+ 811,
719
+ 813,
720
+ 814,
721
+ 815,
722
+ 816,
723
+ 817,
724
+ 818,
725
+ 819,
726
+ 820,
727
+ 821,
728
+ 822,
729
+ 823,
730
+ 824,
731
+ 826,
732
+ 827,
733
+ 828,
734
+ 829,
735
+ 830,
736
+ 831,
737
+ 832,
738
+ 833,
739
+ 834,
740
+ 835,
741
+ 836,
742
+ 839,
743
+ 840,
744
+ 842,
745
+ 843,
746
+ 844,
747
+ 845,
748
+ 846,
749
+ 847,
750
+ 850,
751
+ 851,
752
+ 852,
753
+ 853,
754
+ 854,
755
+ 855,
756
+ 856,
757
+ 857,
758
+ 858,
759
+ 859,
760
+ 860,
761
+ 861,
762
+ 862,
763
+ 863,
764
+ 864,
765
+ 865,
766
+ 866,
767
+ 868,
768
+ 869,
769
+ 870,
770
+ 871,
771
+ 872,
772
+ 873,
773
+ 874,
774
+ 875,
775
+ 876,
776
+ 877,
777
+ 878,
778
+ 880,
779
+ 881,
780
+ 882,
781
+ 883,
782
+ 884,
783
+ 885,
784
+ 886,
785
+ 887,
786
+ 888,
787
+ 889,
788
+ 890,
789
+ 891,
790
+ 892,
791
+ 893,
792
+ 894,
793
+ 895,
794
+ 896,
795
+ 897,
796
+ 898,
797
+ 899,
798
+ 900,
799
+ 901,
800
+ 902,
801
+ 903,
802
+ 904,
803
+ 905,
804
+ 906,
805
+ 907,
806
+ 908,
807
+ 909,
808
+ 910,
809
+ 911,
810
+ 912,
811
+ 913,
812
+ 914,
813
+ 915,
814
+ 916,
815
+ 918,
816
+ 919,
817
+ 920,
818
+ 921,
819
+ 922,
820
+ 923,
821
+ 924,
822
+ 925,
823
+ 926,
824
+ 927,
825
+ 928,
826
+ 929,
827
+ 930,
828
+ 931
829
+ ],
830
+ "not_both_correct_indices": [
831
+ 5,
832
+ 11,
833
+ 23,
834
+ 24,
835
+ 29,
836
+ 31,
837
+ 34,
838
+ 36,
839
+ 47,
840
+ 51,
841
+ 65,
842
+ 67,
843
+ 72,
844
+ 90,
845
+ 109,
846
+ 125,
847
+ 135,
848
+ 137,
849
+ 144,
850
+ 147,
851
+ 154,
852
+ 162,
853
+ 164,
854
+ 172,
855
+ 176,
856
+ 198,
857
+ 203,
858
+ 212,
859
+ 224,
860
+ 225,
861
+ 227,
862
+ 241,
863
+ 256,
864
+ 266,
865
+ 285,
866
+ 294,
867
+ 297,
868
+ 300,
869
+ 315,
870
+ 316,
871
+ 319,
872
+ 347,
873
+ 357,
874
+ 372,
875
+ 376,
876
+ 380,
877
+ 384,
878
+ 386,
879
+ 391,
880
+ 396,
881
+ 397,
882
+ 403,
883
+ 405,
884
+ 409,
885
+ 412,
886
+ 423,
887
+ 425,
888
+ 433,
889
+ 435,
890
+ 438,
891
+ 439,
892
+ 444,
893
+ 458,
894
+ 459,
895
+ 472,
896
+ 500,
897
+ 504,
898
+ 505,
899
+ 510,
900
+ 511,
901
+ 533,
902
+ 537,
903
+ 543,
904
+ 547,
905
+ 554,
906
+ 557,
907
+ 563,
908
+ 570,
909
+ 577,
910
+ 587,
911
+ 604,
912
+ 607,
913
+ 613,
914
+ 627,
915
+ 653,
916
+ 670,
917
+ 682,
918
+ 684,
919
+ 687,
920
+ 691,
921
+ 705,
922
+ 712,
923
+ 723,
924
+ 731,
925
+ 747,
926
+ 752,
927
+ 766,
928
+ 772,
929
+ 780,
930
+ 783,
931
+ 785,
932
+ 787,
933
+ 800,
934
+ 806,
935
+ 812,
936
+ 825,
937
+ 837,
938
+ 838,
939
+ 841,
940
+ 848,
941
+ 849,
942
+ 867,
943
+ 879,
944
+ 917
945
+ ],
946
+ "clean_baseline": 2.98828125,
947
+ "corrupted_baseline": -2.98828125
948
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_irregular/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:30ee6f874342306bdeec4d4c3cda5a087089df35458443e5a7a712c264ec5fe2
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_irregular/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:1cbf7f2357dfcc65cd7a2c9f39fdbd0a0ab6b5ab738eaf4101b5470a444a1ffb
3
+ size 5264056
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_regular/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_regular/baselines.json ADDED
@@ -0,0 +1,1116 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1100,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1100,
6
+ "clean_accuracy": 0.9318181818181818,
7
+ "corrupted_accuracy": 0.9381818181818182,
8
+ "both_correct_accuracy": 0.8709090909090909,
9
+ "n_both_correct": 958,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 8,
19
+ 10,
20
+ 11,
21
+ 12,
22
+ 13,
23
+ 14,
24
+ 15,
25
+ 16,
26
+ 17,
27
+ 18,
28
+ 19,
29
+ 20,
30
+ 21,
31
+ 22,
32
+ 23,
33
+ 25,
34
+ 27,
35
+ 28,
36
+ 29,
37
+ 30,
38
+ 31,
39
+ 32,
40
+ 33,
41
+ 34,
42
+ 35,
43
+ 36,
44
+ 37,
45
+ 38,
46
+ 40,
47
+ 41,
48
+ 42,
49
+ 43,
50
+ 44,
51
+ 45,
52
+ 46,
53
+ 47,
54
+ 48,
55
+ 49,
56
+ 50,
57
+ 51,
58
+ 52,
59
+ 53,
60
+ 54,
61
+ 55,
62
+ 56,
63
+ 57,
64
+ 58,
65
+ 59,
66
+ 60,
67
+ 61,
68
+ 62,
69
+ 63,
70
+ 64,
71
+ 65,
72
+ 68,
73
+ 69,
74
+ 71,
75
+ 72,
76
+ 74,
77
+ 76,
78
+ 77,
79
+ 78,
80
+ 79,
81
+ 80,
82
+ 81,
83
+ 82,
84
+ 83,
85
+ 84,
86
+ 86,
87
+ 87,
88
+ 88,
89
+ 89,
90
+ 91,
91
+ 92,
92
+ 93,
93
+ 94,
94
+ 95,
95
+ 97,
96
+ 98,
97
+ 99,
98
+ 100,
99
+ 101,
100
+ 102,
101
+ 103,
102
+ 104,
103
+ 105,
104
+ 106,
105
+ 107,
106
+ 108,
107
+ 109,
108
+ 110,
109
+ 111,
110
+ 112,
111
+ 113,
112
+ 114,
113
+ 116,
114
+ 117,
115
+ 118,
116
+ 119,
117
+ 120,
118
+ 121,
119
+ 122,
120
+ 123,
121
+ 124,
122
+ 126,
123
+ 127,
124
+ 128,
125
+ 132,
126
+ 133,
127
+ 134,
128
+ 135,
129
+ 136,
130
+ 137,
131
+ 138,
132
+ 139,
133
+ 140,
134
+ 141,
135
+ 142,
136
+ 143,
137
+ 145,
138
+ 146,
139
+ 147,
140
+ 149,
141
+ 150,
142
+ 152,
143
+ 153,
144
+ 154,
145
+ 155,
146
+ 156,
147
+ 157,
148
+ 158,
149
+ 160,
150
+ 161,
151
+ 162,
152
+ 163,
153
+ 164,
154
+ 165,
155
+ 166,
156
+ 167,
157
+ 168,
158
+ 169,
159
+ 170,
160
+ 171,
161
+ 172,
162
+ 173,
163
+ 174,
164
+ 175,
165
+ 176,
166
+ 177,
167
+ 178,
168
+ 179,
169
+ 180,
170
+ 181,
171
+ 182,
172
+ 183,
173
+ 184,
174
+ 185,
175
+ 186,
176
+ 187,
177
+ 188,
178
+ 189,
179
+ 191,
180
+ 192,
181
+ 194,
182
+ 195,
183
+ 196,
184
+ 198,
185
+ 199,
186
+ 200,
187
+ 201,
188
+ 202,
189
+ 203,
190
+ 204,
191
+ 205,
192
+ 206,
193
+ 208,
194
+ 209,
195
+ 210,
196
+ 211,
197
+ 212,
198
+ 213,
199
+ 214,
200
+ 216,
201
+ 217,
202
+ 218,
203
+ 219,
204
+ 220,
205
+ 221,
206
+ 222,
207
+ 223,
208
+ 224,
209
+ 225,
210
+ 226,
211
+ 227,
212
+ 228,
213
+ 230,
214
+ 231,
215
+ 232,
216
+ 233,
217
+ 234,
218
+ 235,
219
+ 236,
220
+ 237,
221
+ 238,
222
+ 240,
223
+ 241,
224
+ 242,
225
+ 243,
226
+ 244,
227
+ 245,
228
+ 246,
229
+ 247,
230
+ 248,
231
+ 249,
232
+ 250,
233
+ 251,
234
+ 253,
235
+ 254,
236
+ 255,
237
+ 256,
238
+ 257,
239
+ 258,
240
+ 260,
241
+ 262,
242
+ 263,
243
+ 265,
244
+ 266,
245
+ 268,
246
+ 269,
247
+ 270,
248
+ 272,
249
+ 273,
250
+ 274,
251
+ 275,
252
+ 276,
253
+ 277,
254
+ 279,
255
+ 280,
256
+ 281,
257
+ 282,
258
+ 283,
259
+ 284,
260
+ 285,
261
+ 286,
262
+ 287,
263
+ 288,
264
+ 289,
265
+ 290,
266
+ 291,
267
+ 292,
268
+ 293,
269
+ 294,
270
+ 295,
271
+ 296,
272
+ 297,
273
+ 298,
274
+ 299,
275
+ 300,
276
+ 301,
277
+ 302,
278
+ 304,
279
+ 305,
280
+ 306,
281
+ 307,
282
+ 308,
283
+ 309,
284
+ 310,
285
+ 311,
286
+ 312,
287
+ 314,
288
+ 315,
289
+ 316,
290
+ 317,
291
+ 318,
292
+ 319,
293
+ 320,
294
+ 321,
295
+ 322,
296
+ 323,
297
+ 325,
298
+ 326,
299
+ 328,
300
+ 329,
301
+ 330,
302
+ 331,
303
+ 332,
304
+ 333,
305
+ 334,
306
+ 335,
307
+ 336,
308
+ 337,
309
+ 339,
310
+ 340,
311
+ 342,
312
+ 343,
313
+ 344,
314
+ 347,
315
+ 348,
316
+ 349,
317
+ 351,
318
+ 352,
319
+ 353,
320
+ 355,
321
+ 357,
322
+ 358,
323
+ 359,
324
+ 360,
325
+ 361,
326
+ 362,
327
+ 363,
328
+ 364,
329
+ 365,
330
+ 366,
331
+ 367,
332
+ 368,
333
+ 369,
334
+ 370,
335
+ 371,
336
+ 372,
337
+ 373,
338
+ 374,
339
+ 375,
340
+ 377,
341
+ 378,
342
+ 380,
343
+ 381,
344
+ 382,
345
+ 383,
346
+ 384,
347
+ 385,
348
+ 386,
349
+ 388,
350
+ 389,
351
+ 391,
352
+ 392,
353
+ 394,
354
+ 395,
355
+ 396,
356
+ 397,
357
+ 398,
358
+ 399,
359
+ 400,
360
+ 401,
361
+ 402,
362
+ 403,
363
+ 404,
364
+ 406,
365
+ 407,
366
+ 408,
367
+ 409,
368
+ 410,
369
+ 411,
370
+ 412,
371
+ 413,
372
+ 414,
373
+ 415,
374
+ 416,
375
+ 417,
376
+ 418,
377
+ 419,
378
+ 420,
379
+ 421,
380
+ 422,
381
+ 423,
382
+ 424,
383
+ 425,
384
+ 427,
385
+ 428,
386
+ 429,
387
+ 430,
388
+ 431,
389
+ 432,
390
+ 433,
391
+ 434,
392
+ 435,
393
+ 436,
394
+ 437,
395
+ 438,
396
+ 440,
397
+ 441,
398
+ 442,
399
+ 443,
400
+ 444,
401
+ 446,
402
+ 447,
403
+ 448,
404
+ 449,
405
+ 450,
406
+ 452,
407
+ 453,
408
+ 454,
409
+ 455,
410
+ 456,
411
+ 457,
412
+ 459,
413
+ 460,
414
+ 461,
415
+ 462,
416
+ 463,
417
+ 464,
418
+ 465,
419
+ 466,
420
+ 467,
421
+ 469,
422
+ 470,
423
+ 471,
424
+ 473,
425
+ 475,
426
+ 477,
427
+ 478,
428
+ 479,
429
+ 482,
430
+ 483,
431
+ 484,
432
+ 485,
433
+ 486,
434
+ 487,
435
+ 488,
436
+ 489,
437
+ 491,
438
+ 492,
439
+ 493,
440
+ 494,
441
+ 495,
442
+ 496,
443
+ 497,
444
+ 498,
445
+ 499,
446
+ 501,
447
+ 502,
448
+ 503,
449
+ 504,
450
+ 505,
451
+ 506,
452
+ 507,
453
+ 508,
454
+ 509,
455
+ 510,
456
+ 511,
457
+ 512,
458
+ 513,
459
+ 514,
460
+ 515,
461
+ 517,
462
+ 518,
463
+ 519,
464
+ 521,
465
+ 522,
466
+ 523,
467
+ 524,
468
+ 525,
469
+ 526,
470
+ 528,
471
+ 529,
472
+ 530,
473
+ 531,
474
+ 533,
475
+ 534,
476
+ 535,
477
+ 536,
478
+ 537,
479
+ 539,
480
+ 540,
481
+ 541,
482
+ 542,
483
+ 543,
484
+ 544,
485
+ 546,
486
+ 547,
487
+ 549,
488
+ 550,
489
+ 551,
490
+ 552,
491
+ 555,
492
+ 556,
493
+ 557,
494
+ 558,
495
+ 559,
496
+ 560,
497
+ 561,
498
+ 563,
499
+ 565,
500
+ 566,
501
+ 567,
502
+ 568,
503
+ 569,
504
+ 571,
505
+ 572,
506
+ 573,
507
+ 574,
508
+ 575,
509
+ 576,
510
+ 577,
511
+ 578,
512
+ 579,
513
+ 580,
514
+ 581,
515
+ 582,
516
+ 583,
517
+ 584,
518
+ 585,
519
+ 586,
520
+ 587,
521
+ 588,
522
+ 589,
523
+ 590,
524
+ 591,
525
+ 592,
526
+ 593,
527
+ 595,
528
+ 596,
529
+ 597,
530
+ 598,
531
+ 600,
532
+ 601,
533
+ 602,
534
+ 603,
535
+ 604,
536
+ 605,
537
+ 606,
538
+ 607,
539
+ 608,
540
+ 609,
541
+ 610,
542
+ 611,
543
+ 612,
544
+ 613,
545
+ 615,
546
+ 616,
547
+ 617,
548
+ 618,
549
+ 619,
550
+ 620,
551
+ 621,
552
+ 622,
553
+ 623,
554
+ 624,
555
+ 625,
556
+ 626,
557
+ 627,
558
+ 628,
559
+ 629,
560
+ 630,
561
+ 631,
562
+ 632,
563
+ 633,
564
+ 634,
565
+ 635,
566
+ 636,
567
+ 637,
568
+ 640,
569
+ 641,
570
+ 642,
571
+ 643,
572
+ 644,
573
+ 645,
574
+ 646,
575
+ 647,
576
+ 648,
577
+ 649,
578
+ 650,
579
+ 652,
580
+ 653,
581
+ 654,
582
+ 655,
583
+ 656,
584
+ 657,
585
+ 658,
586
+ 659,
587
+ 660,
588
+ 662,
589
+ 663,
590
+ 664,
591
+ 665,
592
+ 666,
593
+ 667,
594
+ 668,
595
+ 669,
596
+ 671,
597
+ 672,
598
+ 673,
599
+ 674,
600
+ 675,
601
+ 676,
602
+ 677,
603
+ 678,
604
+ 680,
605
+ 681,
606
+ 682,
607
+ 683,
608
+ 684,
609
+ 685,
610
+ 686,
611
+ 688,
612
+ 689,
613
+ 690,
614
+ 691,
615
+ 692,
616
+ 693,
617
+ 694,
618
+ 695,
619
+ 696,
620
+ 697,
621
+ 699,
622
+ 700,
623
+ 701,
624
+ 702,
625
+ 703,
626
+ 704,
627
+ 705,
628
+ 706,
629
+ 707,
630
+ 708,
631
+ 709,
632
+ 711,
633
+ 712,
634
+ 713,
635
+ 714,
636
+ 715,
637
+ 716,
638
+ 717,
639
+ 718,
640
+ 719,
641
+ 720,
642
+ 721,
643
+ 722,
644
+ 723,
645
+ 724,
646
+ 725,
647
+ 728,
648
+ 729,
649
+ 730,
650
+ 731,
651
+ 732,
652
+ 735,
653
+ 736,
654
+ 737,
655
+ 738,
656
+ 739,
657
+ 740,
658
+ 742,
659
+ 743,
660
+ 744,
661
+ 745,
662
+ 746,
663
+ 748,
664
+ 750,
665
+ 752,
666
+ 753,
667
+ 754,
668
+ 755,
669
+ 756,
670
+ 757,
671
+ 758,
672
+ 760,
673
+ 761,
674
+ 762,
675
+ 763,
676
+ 764,
677
+ 765,
678
+ 767,
679
+ 768,
680
+ 769,
681
+ 770,
682
+ 771,
683
+ 772,
684
+ 774,
685
+ 775,
686
+ 776,
687
+ 777,
688
+ 778,
689
+ 779,
690
+ 780,
691
+ 781,
692
+ 782,
693
+ 783,
694
+ 784,
695
+ 785,
696
+ 786,
697
+ 787,
698
+ 788,
699
+ 789,
700
+ 790,
701
+ 791,
702
+ 792,
703
+ 793,
704
+ 794,
705
+ 795,
706
+ 796,
707
+ 797,
708
+ 798,
709
+ 801,
710
+ 802,
711
+ 803,
712
+ 804,
713
+ 805,
714
+ 806,
715
+ 807,
716
+ 808,
717
+ 809,
718
+ 810,
719
+ 811,
720
+ 812,
721
+ 814,
722
+ 815,
723
+ 816,
724
+ 818,
725
+ 819,
726
+ 820,
727
+ 821,
728
+ 822,
729
+ 823,
730
+ 824,
731
+ 825,
732
+ 826,
733
+ 827,
734
+ 828,
735
+ 830,
736
+ 831,
737
+ 832,
738
+ 833,
739
+ 834,
740
+ 835,
741
+ 836,
742
+ 837,
743
+ 838,
744
+ 839,
745
+ 840,
746
+ 841,
747
+ 842,
748
+ 843,
749
+ 844,
750
+ 845,
751
+ 846,
752
+ 848,
753
+ 849,
754
+ 850,
755
+ 851,
756
+ 852,
757
+ 853,
758
+ 854,
759
+ 855,
760
+ 857,
761
+ 858,
762
+ 859,
763
+ 862,
764
+ 863,
765
+ 864,
766
+ 866,
767
+ 867,
768
+ 868,
769
+ 871,
770
+ 872,
771
+ 873,
772
+ 874,
773
+ 875,
774
+ 876,
775
+ 880,
776
+ 881,
777
+ 882,
778
+ 884,
779
+ 885,
780
+ 887,
781
+ 888,
782
+ 889,
783
+ 890,
784
+ 891,
785
+ 892,
786
+ 893,
787
+ 894,
788
+ 895,
789
+ 897,
790
+ 899,
791
+ 900,
792
+ 901,
793
+ 902,
794
+ 903,
795
+ 904,
796
+ 905,
797
+ 906,
798
+ 907,
799
+ 908,
800
+ 909,
801
+ 910,
802
+ 911,
803
+ 912,
804
+ 913,
805
+ 914,
806
+ 915,
807
+ 916,
808
+ 917,
809
+ 918,
810
+ 920,
811
+ 921,
812
+ 922,
813
+ 923,
814
+ 925,
815
+ 927,
816
+ 928,
817
+ 929,
818
+ 930,
819
+ 931,
820
+ 932,
821
+ 933,
822
+ 934,
823
+ 935,
824
+ 936,
825
+ 937,
826
+ 939,
827
+ 940,
828
+ 941,
829
+ 942,
830
+ 943,
831
+ 944,
832
+ 947,
833
+ 948,
834
+ 949,
835
+ 950,
836
+ 951,
837
+ 952,
838
+ 954,
839
+ 955,
840
+ 956,
841
+ 957,
842
+ 958,
843
+ 959,
844
+ 960,
845
+ 961,
846
+ 962,
847
+ 964,
848
+ 965,
849
+ 966,
850
+ 967,
851
+ 968,
852
+ 969,
853
+ 970,
854
+ 971,
855
+ 973,
856
+ 974,
857
+ 975,
858
+ 976,
859
+ 977,
860
+ 978,
861
+ 979,
862
+ 980,
863
+ 981,
864
+ 982,
865
+ 984,
866
+ 985,
867
+ 986,
868
+ 987,
869
+ 988,
870
+ 989,
871
+ 990,
872
+ 991,
873
+ 992,
874
+ 993,
875
+ 994,
876
+ 995,
877
+ 996,
878
+ 997,
879
+ 998,
880
+ 999,
881
+ 1000,
882
+ 1001,
883
+ 1002,
884
+ 1003,
885
+ 1004,
886
+ 1005,
887
+ 1006,
888
+ 1007,
889
+ 1008,
890
+ 1009,
891
+ 1010,
892
+ 1011,
893
+ 1012,
894
+ 1014,
895
+ 1015,
896
+ 1016,
897
+ 1017,
898
+ 1018,
899
+ 1019,
900
+ 1020,
901
+ 1021,
902
+ 1022,
903
+ 1023,
904
+ 1024,
905
+ 1025,
906
+ 1026,
907
+ 1027,
908
+ 1028,
909
+ 1029,
910
+ 1030,
911
+ 1031,
912
+ 1032,
913
+ 1033,
914
+ 1034,
915
+ 1035,
916
+ 1038,
917
+ 1039,
918
+ 1040,
919
+ 1041,
920
+ 1042,
921
+ 1043,
922
+ 1044,
923
+ 1045,
924
+ 1046,
925
+ 1047,
926
+ 1048,
927
+ 1049,
928
+ 1050,
929
+ 1051,
930
+ 1052,
931
+ 1053,
932
+ 1054,
933
+ 1055,
934
+ 1056,
935
+ 1057,
936
+ 1058,
937
+ 1059,
938
+ 1060,
939
+ 1061,
940
+ 1062,
941
+ 1063,
942
+ 1064,
943
+ 1065,
944
+ 1066,
945
+ 1067,
946
+ 1068,
947
+ 1070,
948
+ 1071,
949
+ 1072,
950
+ 1073,
951
+ 1074,
952
+ 1075,
953
+ 1076,
954
+ 1079,
955
+ 1080,
956
+ 1082,
957
+ 1085,
958
+ 1086,
959
+ 1087,
960
+ 1088,
961
+ 1089,
962
+ 1090,
963
+ 1091,
964
+ 1092,
965
+ 1093,
966
+ 1095,
967
+ 1097,
968
+ 1098
969
+ ],
970
+ "not_both_correct_indices": [
971
+ 7,
972
+ 9,
973
+ 24,
974
+ 26,
975
+ 39,
976
+ 66,
977
+ 67,
978
+ 70,
979
+ 73,
980
+ 75,
981
+ 85,
982
+ 90,
983
+ 96,
984
+ 115,
985
+ 125,
986
+ 129,
987
+ 130,
988
+ 131,
989
+ 144,
990
+ 148,
991
+ 151,
992
+ 159,
993
+ 190,
994
+ 193,
995
+ 197,
996
+ 207,
997
+ 215,
998
+ 229,
999
+ 239,
1000
+ 252,
1001
+ 259,
1002
+ 261,
1003
+ 264,
1004
+ 267,
1005
+ 271,
1006
+ 278,
1007
+ 303,
1008
+ 313,
1009
+ 324,
1010
+ 327,
1011
+ 338,
1012
+ 341,
1013
+ 345,
1014
+ 346,
1015
+ 350,
1016
+ 354,
1017
+ 356,
1018
+ 376,
1019
+ 379,
1020
+ 387,
1021
+ 390,
1022
+ 393,
1023
+ 405,
1024
+ 426,
1025
+ 439,
1026
+ 445,
1027
+ 451,
1028
+ 458,
1029
+ 468,
1030
+ 472,
1031
+ 474,
1032
+ 476,
1033
+ 480,
1034
+ 481,
1035
+ 490,
1036
+ 500,
1037
+ 516,
1038
+ 520,
1039
+ 527,
1040
+ 532,
1041
+ 538,
1042
+ 545,
1043
+ 548,
1044
+ 553,
1045
+ 554,
1046
+ 562,
1047
+ 564,
1048
+ 570,
1049
+ 594,
1050
+ 599,
1051
+ 614,
1052
+ 638,
1053
+ 639,
1054
+ 651,
1055
+ 661,
1056
+ 670,
1057
+ 679,
1058
+ 687,
1059
+ 698,
1060
+ 710,
1061
+ 726,
1062
+ 727,
1063
+ 733,
1064
+ 734,
1065
+ 741,
1066
+ 747,
1067
+ 749,
1068
+ 751,
1069
+ 759,
1070
+ 766,
1071
+ 773,
1072
+ 799,
1073
+ 800,
1074
+ 813,
1075
+ 817,
1076
+ 829,
1077
+ 847,
1078
+ 856,
1079
+ 860,
1080
+ 861,
1081
+ 865,
1082
+ 869,
1083
+ 870,
1084
+ 877,
1085
+ 878,
1086
+ 879,
1087
+ 883,
1088
+ 886,
1089
+ 896,
1090
+ 898,
1091
+ 919,
1092
+ 924,
1093
+ 926,
1094
+ 938,
1095
+ 945,
1096
+ 946,
1097
+ 953,
1098
+ 963,
1099
+ 972,
1100
+ 983,
1101
+ 1013,
1102
+ 1036,
1103
+ 1037,
1104
+ 1069,
1105
+ 1077,
1106
+ 1078,
1107
+ 1081,
1108
+ 1083,
1109
+ 1084,
1110
+ 1094,
1111
+ 1096,
1112
+ 1099
1113
+ ],
1114
+ "clean_baseline": 3.55859375,
1115
+ "corrupted_baseline": -3.455078125
1116
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_regular/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:eb76a35f12f1368e390540a6dee3bfb28335a16e6c079f720565d71293b7eb83
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_regular/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:8ee0ebea298d2d148478eb8b57e29be4bdaf73b274d499b4f9aa71bfee492708
3
+ size 5281456
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_with_adjective/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_with_adjective/baselines.json ADDED
@@ -0,0 +1,1116 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1100,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1100,
6
+ "clean_accuracy": 0.9063636363636364,
7
+ "corrupted_accuracy": 0.8054545454545454,
8
+ "both_correct_accuracy": 0.7127272727272728,
9
+ "n_both_correct": 784,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 2,
13
+ 4,
14
+ 5,
15
+ 6,
16
+ 7,
17
+ 8,
18
+ 10,
19
+ 11,
20
+ 12,
21
+ 14,
22
+ 15,
23
+ 16,
24
+ 17,
25
+ 23,
26
+ 25,
27
+ 30,
28
+ 31,
29
+ 32,
30
+ 34,
31
+ 36,
32
+ 37,
33
+ 38,
34
+ 39,
35
+ 40,
36
+ 41,
37
+ 42,
38
+ 43,
39
+ 45,
40
+ 47,
41
+ 48,
42
+ 49,
43
+ 50,
44
+ 51,
45
+ 52,
46
+ 54,
47
+ 56,
48
+ 59,
49
+ 60,
50
+ 61,
51
+ 62,
52
+ 63,
53
+ 64,
54
+ 65,
55
+ 66,
56
+ 67,
57
+ 68,
58
+ 70,
59
+ 71,
60
+ 73,
61
+ 75,
62
+ 76,
63
+ 77,
64
+ 78,
65
+ 80,
66
+ 82,
67
+ 84,
68
+ 86,
69
+ 87,
70
+ 89,
71
+ 90,
72
+ 91,
73
+ 93,
74
+ 96,
75
+ 98,
76
+ 100,
77
+ 101,
78
+ 102,
79
+ 103,
80
+ 104,
81
+ 105,
82
+ 106,
83
+ 107,
84
+ 109,
85
+ 112,
86
+ 113,
87
+ 115,
88
+ 117,
89
+ 121,
90
+ 122,
91
+ 123,
92
+ 124,
93
+ 125,
94
+ 126,
95
+ 127,
96
+ 128,
97
+ 129,
98
+ 130,
99
+ 131,
100
+ 132,
101
+ 134,
102
+ 136,
103
+ 137,
104
+ 139,
105
+ 140,
106
+ 141,
107
+ 143,
108
+ 144,
109
+ 146,
110
+ 147,
111
+ 149,
112
+ 150,
113
+ 151,
114
+ 152,
115
+ 153,
116
+ 154,
117
+ 155,
118
+ 156,
119
+ 157,
120
+ 158,
121
+ 159,
122
+ 160,
123
+ 162,
124
+ 164,
125
+ 165,
126
+ 166,
127
+ 167,
128
+ 168,
129
+ 169,
130
+ 170,
131
+ 171,
132
+ 173,
133
+ 176,
134
+ 177,
135
+ 178,
136
+ 180,
137
+ 182,
138
+ 183,
139
+ 185,
140
+ 186,
141
+ 188,
142
+ 191,
143
+ 194,
144
+ 195,
145
+ 196,
146
+ 199,
147
+ 200,
148
+ 201,
149
+ 202,
150
+ 203,
151
+ 209,
152
+ 211,
153
+ 212,
154
+ 213,
155
+ 215,
156
+ 216,
157
+ 217,
158
+ 219,
159
+ 222,
160
+ 225,
161
+ 227,
162
+ 229,
163
+ 230,
164
+ 231,
165
+ 232,
166
+ 233,
167
+ 234,
168
+ 236,
169
+ 237,
170
+ 238,
171
+ 239,
172
+ 240,
173
+ 242,
174
+ 243,
175
+ 245,
176
+ 246,
177
+ 247,
178
+ 249,
179
+ 250,
180
+ 251,
181
+ 252,
182
+ 254,
183
+ 255,
184
+ 256,
185
+ 257,
186
+ 259,
187
+ 260,
188
+ 262,
189
+ 266,
190
+ 267,
191
+ 268,
192
+ 269,
193
+ 271,
194
+ 272,
195
+ 273,
196
+ 275,
197
+ 277,
198
+ 278,
199
+ 280,
200
+ 281,
201
+ 284,
202
+ 285,
203
+ 286,
204
+ 287,
205
+ 288,
206
+ 289,
207
+ 290,
208
+ 291,
209
+ 292,
210
+ 293,
211
+ 294,
212
+ 295,
213
+ 296,
214
+ 297,
215
+ 298,
216
+ 299,
217
+ 300,
218
+ 302,
219
+ 303,
220
+ 304,
221
+ 305,
222
+ 308,
223
+ 309,
224
+ 310,
225
+ 312,
226
+ 314,
227
+ 318,
228
+ 319,
229
+ 320,
230
+ 322,
231
+ 323,
232
+ 325,
233
+ 327,
234
+ 328,
235
+ 330,
236
+ 331,
237
+ 332,
238
+ 333,
239
+ 334,
240
+ 335,
241
+ 337,
242
+ 339,
243
+ 340,
244
+ 341,
245
+ 343,
246
+ 345,
247
+ 346,
248
+ 347,
249
+ 349,
250
+ 350,
251
+ 352,
252
+ 355,
253
+ 357,
254
+ 358,
255
+ 359,
256
+ 360,
257
+ 361,
258
+ 362,
259
+ 363,
260
+ 364,
261
+ 365,
262
+ 366,
263
+ 367,
264
+ 368,
265
+ 370,
266
+ 371,
267
+ 372,
268
+ 373,
269
+ 374,
270
+ 375,
271
+ 376,
272
+ 378,
273
+ 379,
274
+ 380,
275
+ 381,
276
+ 382,
277
+ 383,
278
+ 384,
279
+ 387,
280
+ 388,
281
+ 389,
282
+ 390,
283
+ 391,
284
+ 392,
285
+ 393,
286
+ 394,
287
+ 395,
288
+ 396,
289
+ 397,
290
+ 398,
291
+ 400,
292
+ 402,
293
+ 403,
294
+ 404,
295
+ 406,
296
+ 407,
297
+ 408,
298
+ 409,
299
+ 410,
300
+ 412,
301
+ 413,
302
+ 414,
303
+ 415,
304
+ 416,
305
+ 417,
306
+ 418,
307
+ 419,
308
+ 420,
309
+ 421,
310
+ 422,
311
+ 423,
312
+ 426,
313
+ 427,
314
+ 428,
315
+ 429,
316
+ 430,
317
+ 431,
318
+ 432,
319
+ 433,
320
+ 434,
321
+ 438,
322
+ 439,
323
+ 440,
324
+ 441,
325
+ 442,
326
+ 443,
327
+ 444,
328
+ 445,
329
+ 446,
330
+ 447,
331
+ 450,
332
+ 451,
333
+ 452,
334
+ 453,
335
+ 454,
336
+ 455,
337
+ 456,
338
+ 457,
339
+ 458,
340
+ 459,
341
+ 460,
342
+ 461,
343
+ 463,
344
+ 464,
345
+ 465,
346
+ 466,
347
+ 467,
348
+ 468,
349
+ 469,
350
+ 471,
351
+ 472,
352
+ 473,
353
+ 474,
354
+ 475,
355
+ 476,
356
+ 478,
357
+ 479,
358
+ 480,
359
+ 481,
360
+ 482,
361
+ 483,
362
+ 485,
363
+ 487,
364
+ 488,
365
+ 489,
366
+ 490,
367
+ 492,
368
+ 494,
369
+ 496,
370
+ 498,
371
+ 499,
372
+ 500,
373
+ 501,
374
+ 502,
375
+ 503,
376
+ 504,
377
+ 505,
378
+ 506,
379
+ 508,
380
+ 509,
381
+ 510,
382
+ 511,
383
+ 512,
384
+ 513,
385
+ 515,
386
+ 516,
387
+ 517,
388
+ 519,
389
+ 520,
390
+ 521,
391
+ 522,
392
+ 526,
393
+ 527,
394
+ 528,
395
+ 529,
396
+ 530,
397
+ 531,
398
+ 535,
399
+ 537,
400
+ 541,
401
+ 542,
402
+ 543,
403
+ 544,
404
+ 545,
405
+ 548,
406
+ 549,
407
+ 550,
408
+ 551,
409
+ 552,
410
+ 553,
411
+ 554,
412
+ 555,
413
+ 556,
414
+ 557,
415
+ 560,
416
+ 563,
417
+ 564,
418
+ 566,
419
+ 569,
420
+ 571,
421
+ 572,
422
+ 573,
423
+ 575,
424
+ 576,
425
+ 578,
426
+ 580,
427
+ 581,
428
+ 582,
429
+ 583,
430
+ 585,
431
+ 586,
432
+ 587,
433
+ 589,
434
+ 590,
435
+ 593,
436
+ 594,
437
+ 595,
438
+ 596,
439
+ 597,
440
+ 598,
441
+ 599,
442
+ 600,
443
+ 601,
444
+ 602,
445
+ 605,
446
+ 606,
447
+ 607,
448
+ 608,
449
+ 609,
450
+ 610,
451
+ 611,
452
+ 612,
453
+ 613,
454
+ 614,
455
+ 615,
456
+ 616,
457
+ 617,
458
+ 618,
459
+ 619,
460
+ 620,
461
+ 621,
462
+ 622,
463
+ 625,
464
+ 626,
465
+ 627,
466
+ 628,
467
+ 629,
468
+ 630,
469
+ 634,
470
+ 636,
471
+ 637,
472
+ 639,
473
+ 640,
474
+ 641,
475
+ 642,
476
+ 643,
477
+ 645,
478
+ 646,
479
+ 650,
480
+ 652,
481
+ 653,
482
+ 654,
483
+ 658,
484
+ 660,
485
+ 662,
486
+ 663,
487
+ 664,
488
+ 665,
489
+ 666,
490
+ 667,
491
+ 668,
492
+ 669,
493
+ 670,
494
+ 671,
495
+ 672,
496
+ 673,
497
+ 674,
498
+ 675,
499
+ 676,
500
+ 678,
501
+ 681,
502
+ 682,
503
+ 684,
504
+ 685,
505
+ 687,
506
+ 688,
507
+ 691,
508
+ 692,
509
+ 693,
510
+ 695,
511
+ 696,
512
+ 698,
513
+ 699,
514
+ 700,
515
+ 702,
516
+ 705,
517
+ 706,
518
+ 707,
519
+ 708,
520
+ 709,
521
+ 711,
522
+ 712,
523
+ 713,
524
+ 714,
525
+ 716,
526
+ 717,
527
+ 719,
528
+ 723,
529
+ 725,
530
+ 727,
531
+ 731,
532
+ 732,
533
+ 733,
534
+ 734,
535
+ 735,
536
+ 737,
537
+ 739,
538
+ 740,
539
+ 741,
540
+ 742,
541
+ 743,
542
+ 744,
543
+ 746,
544
+ 747,
545
+ 748,
546
+ 749,
547
+ 750,
548
+ 752,
549
+ 753,
550
+ 755,
551
+ 756,
552
+ 757,
553
+ 758,
554
+ 759,
555
+ 763,
556
+ 765,
557
+ 766,
558
+ 767,
559
+ 768,
560
+ 771,
561
+ 772,
562
+ 773,
563
+ 774,
564
+ 775,
565
+ 777,
566
+ 778,
567
+ 779,
568
+ 780,
569
+ 782,
570
+ 785,
571
+ 786,
572
+ 789,
573
+ 790,
574
+ 791,
575
+ 792,
576
+ 794,
577
+ 796,
578
+ 797,
579
+ 798,
580
+ 799,
581
+ 800,
582
+ 801,
583
+ 802,
584
+ 803,
585
+ 805,
586
+ 806,
587
+ 808,
588
+ 809,
589
+ 810,
590
+ 811,
591
+ 812,
592
+ 815,
593
+ 816,
594
+ 818,
595
+ 822,
596
+ 823,
597
+ 824,
598
+ 827,
599
+ 829,
600
+ 830,
601
+ 831,
602
+ 832,
603
+ 833,
604
+ 834,
605
+ 835,
606
+ 836,
607
+ 838,
608
+ 840,
609
+ 842,
610
+ 843,
611
+ 844,
612
+ 845,
613
+ 848,
614
+ 849,
615
+ 850,
616
+ 853,
617
+ 855,
618
+ 856,
619
+ 858,
620
+ 859,
621
+ 861,
622
+ 862,
623
+ 863,
624
+ 866,
625
+ 868,
626
+ 869,
627
+ 870,
628
+ 871,
629
+ 872,
630
+ 874,
631
+ 875,
632
+ 876,
633
+ 877,
634
+ 878,
635
+ 880,
636
+ 881,
637
+ 882,
638
+ 883,
639
+ 885,
640
+ 886,
641
+ 888,
642
+ 889,
643
+ 890,
644
+ 891,
645
+ 892,
646
+ 893,
647
+ 894,
648
+ 895,
649
+ 896,
650
+ 897,
651
+ 900,
652
+ 901,
653
+ 902,
654
+ 903,
655
+ 904,
656
+ 905,
657
+ 906,
658
+ 907,
659
+ 908,
660
+ 909,
661
+ 910,
662
+ 911,
663
+ 913,
664
+ 914,
665
+ 915,
666
+ 916,
667
+ 917,
668
+ 918,
669
+ 921,
670
+ 922,
671
+ 923,
672
+ 924,
673
+ 927,
674
+ 928,
675
+ 929,
676
+ 930,
677
+ 931,
678
+ 932,
679
+ 934,
680
+ 936,
681
+ 938,
682
+ 940,
683
+ 942,
684
+ 943,
685
+ 947,
686
+ 948,
687
+ 949,
688
+ 950,
689
+ 951,
690
+ 952,
691
+ 953,
692
+ 955,
693
+ 957,
694
+ 958,
695
+ 960,
696
+ 961,
697
+ 962,
698
+ 963,
699
+ 964,
700
+ 965,
701
+ 966,
702
+ 967,
703
+ 968,
704
+ 970,
705
+ 972,
706
+ 973,
707
+ 974,
708
+ 976,
709
+ 977,
710
+ 979,
711
+ 981,
712
+ 982,
713
+ 983,
714
+ 984,
715
+ 985,
716
+ 987,
717
+ 988,
718
+ 989,
719
+ 990,
720
+ 992,
721
+ 993,
722
+ 994,
723
+ 995,
724
+ 996,
725
+ 997,
726
+ 998,
727
+ 999,
728
+ 1001,
729
+ 1002,
730
+ 1003,
731
+ 1006,
732
+ 1010,
733
+ 1011,
734
+ 1012,
735
+ 1013,
736
+ 1014,
737
+ 1015,
738
+ 1016,
739
+ 1018,
740
+ 1020,
741
+ 1021,
742
+ 1022,
743
+ 1023,
744
+ 1024,
745
+ 1027,
746
+ 1028,
747
+ 1029,
748
+ 1030,
749
+ 1031,
750
+ 1032,
751
+ 1033,
752
+ 1035,
753
+ 1036,
754
+ 1038,
755
+ 1039,
756
+ 1040,
757
+ 1041,
758
+ 1042,
759
+ 1043,
760
+ 1044,
761
+ 1046,
762
+ 1047,
763
+ 1048,
764
+ 1049,
765
+ 1050,
766
+ 1052,
767
+ 1054,
768
+ 1056,
769
+ 1060,
770
+ 1062,
771
+ 1064,
772
+ 1065,
773
+ 1068,
774
+ 1071,
775
+ 1072,
776
+ 1074,
777
+ 1075,
778
+ 1077,
779
+ 1079,
780
+ 1080,
781
+ 1081,
782
+ 1082,
783
+ 1084,
784
+ 1085,
785
+ 1086,
786
+ 1088,
787
+ 1089,
788
+ 1090,
789
+ 1091,
790
+ 1092,
791
+ 1094,
792
+ 1095,
793
+ 1096,
794
+ 1097
795
+ ],
796
+ "not_both_correct_indices": [
797
+ 1,
798
+ 3,
799
+ 9,
800
+ 13,
801
+ 18,
802
+ 19,
803
+ 20,
804
+ 21,
805
+ 22,
806
+ 24,
807
+ 26,
808
+ 27,
809
+ 28,
810
+ 29,
811
+ 33,
812
+ 35,
813
+ 44,
814
+ 46,
815
+ 53,
816
+ 55,
817
+ 57,
818
+ 58,
819
+ 69,
820
+ 72,
821
+ 74,
822
+ 79,
823
+ 81,
824
+ 83,
825
+ 85,
826
+ 88,
827
+ 92,
828
+ 94,
829
+ 95,
830
+ 97,
831
+ 99,
832
+ 108,
833
+ 110,
834
+ 111,
835
+ 114,
836
+ 116,
837
+ 118,
838
+ 119,
839
+ 120,
840
+ 133,
841
+ 135,
842
+ 138,
843
+ 142,
844
+ 145,
845
+ 148,
846
+ 161,
847
+ 163,
848
+ 172,
849
+ 174,
850
+ 175,
851
+ 179,
852
+ 181,
853
+ 184,
854
+ 187,
855
+ 189,
856
+ 190,
857
+ 192,
858
+ 193,
859
+ 197,
860
+ 198,
861
+ 204,
862
+ 205,
863
+ 206,
864
+ 207,
865
+ 208,
866
+ 210,
867
+ 214,
868
+ 218,
869
+ 220,
870
+ 221,
871
+ 223,
872
+ 224,
873
+ 226,
874
+ 228,
875
+ 235,
876
+ 241,
877
+ 244,
878
+ 248,
879
+ 253,
880
+ 258,
881
+ 261,
882
+ 263,
883
+ 264,
884
+ 265,
885
+ 270,
886
+ 274,
887
+ 276,
888
+ 279,
889
+ 282,
890
+ 283,
891
+ 301,
892
+ 306,
893
+ 307,
894
+ 311,
895
+ 313,
896
+ 315,
897
+ 316,
898
+ 317,
899
+ 321,
900
+ 324,
901
+ 326,
902
+ 329,
903
+ 336,
904
+ 338,
905
+ 342,
906
+ 344,
907
+ 348,
908
+ 351,
909
+ 353,
910
+ 354,
911
+ 356,
912
+ 369,
913
+ 377,
914
+ 385,
915
+ 386,
916
+ 399,
917
+ 401,
918
+ 405,
919
+ 411,
920
+ 424,
921
+ 425,
922
+ 435,
923
+ 436,
924
+ 437,
925
+ 448,
926
+ 449,
927
+ 462,
928
+ 470,
929
+ 477,
930
+ 484,
931
+ 486,
932
+ 491,
933
+ 493,
934
+ 495,
935
+ 497,
936
+ 507,
937
+ 514,
938
+ 518,
939
+ 523,
940
+ 524,
941
+ 525,
942
+ 532,
943
+ 533,
944
+ 534,
945
+ 536,
946
+ 538,
947
+ 539,
948
+ 540,
949
+ 546,
950
+ 547,
951
+ 558,
952
+ 559,
953
+ 561,
954
+ 562,
955
+ 565,
956
+ 567,
957
+ 568,
958
+ 570,
959
+ 574,
960
+ 577,
961
+ 579,
962
+ 584,
963
+ 588,
964
+ 591,
965
+ 592,
966
+ 603,
967
+ 604,
968
+ 623,
969
+ 624,
970
+ 631,
971
+ 632,
972
+ 633,
973
+ 635,
974
+ 638,
975
+ 644,
976
+ 647,
977
+ 648,
978
+ 649,
979
+ 651,
980
+ 655,
981
+ 656,
982
+ 657,
983
+ 659,
984
+ 661,
985
+ 677,
986
+ 679,
987
+ 680,
988
+ 683,
989
+ 686,
990
+ 689,
991
+ 690,
992
+ 694,
993
+ 697,
994
+ 701,
995
+ 703,
996
+ 704,
997
+ 710,
998
+ 715,
999
+ 718,
1000
+ 720,
1001
+ 721,
1002
+ 722,
1003
+ 724,
1004
+ 726,
1005
+ 728,
1006
+ 729,
1007
+ 730,
1008
+ 736,
1009
+ 738,
1010
+ 745,
1011
+ 751,
1012
+ 754,
1013
+ 760,
1014
+ 761,
1015
+ 762,
1016
+ 764,
1017
+ 769,
1018
+ 770,
1019
+ 776,
1020
+ 781,
1021
+ 783,
1022
+ 784,
1023
+ 787,
1024
+ 788,
1025
+ 793,
1026
+ 795,
1027
+ 804,
1028
+ 807,
1029
+ 813,
1030
+ 814,
1031
+ 817,
1032
+ 819,
1033
+ 820,
1034
+ 821,
1035
+ 825,
1036
+ 826,
1037
+ 828,
1038
+ 837,
1039
+ 839,
1040
+ 841,
1041
+ 846,
1042
+ 847,
1043
+ 851,
1044
+ 852,
1045
+ 854,
1046
+ 857,
1047
+ 860,
1048
+ 864,
1049
+ 865,
1050
+ 867,
1051
+ 873,
1052
+ 879,
1053
+ 884,
1054
+ 887,
1055
+ 898,
1056
+ 899,
1057
+ 912,
1058
+ 919,
1059
+ 920,
1060
+ 925,
1061
+ 926,
1062
+ 933,
1063
+ 935,
1064
+ 937,
1065
+ 939,
1066
+ 941,
1067
+ 944,
1068
+ 945,
1069
+ 946,
1070
+ 954,
1071
+ 956,
1072
+ 959,
1073
+ 969,
1074
+ 971,
1075
+ 975,
1076
+ 978,
1077
+ 980,
1078
+ 986,
1079
+ 991,
1080
+ 1000,
1081
+ 1004,
1082
+ 1005,
1083
+ 1007,
1084
+ 1008,
1085
+ 1009,
1086
+ 1017,
1087
+ 1019,
1088
+ 1025,
1089
+ 1026,
1090
+ 1034,
1091
+ 1037,
1092
+ 1045,
1093
+ 1051,
1094
+ 1053,
1095
+ 1055,
1096
+ 1057,
1097
+ 1058,
1098
+ 1059,
1099
+ 1061,
1100
+ 1063,
1101
+ 1066,
1102
+ 1067,
1103
+ 1069,
1104
+ 1070,
1105
+ 1073,
1106
+ 1076,
1107
+ 1078,
1108
+ 1083,
1109
+ 1087,
1110
+ 1093,
1111
+ 1098,
1112
+ 1099
1113
+ ],
1114
+ "clean_baseline": 3.15234375,
1115
+ "corrupted_baseline": -2.9765625
1116
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_with_adjective/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4343de0e5300e871d9664e2a244b864dade2ab5617dc2e869f588b7465772919
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/det_noun_agreement_with_adjective/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:714c75d5522a4569033c2929b0051263c21ecd834b766b55b46fabf24ae62e05
3
+ size 5267000
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/hypernymy/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/Lan/hypernymy/baselines.json ADDED
@@ -0,0 +1,594 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 577,
3
+ "n_token_misaligned": 186,
4
+ "token_misaligned_indices": [
5
+ 1,
6
+ 2,
7
+ 4,
8
+ 6,
9
+ 10,
10
+ 23,
11
+ 24,
12
+ 30,
13
+ 32,
14
+ 34,
15
+ 36,
16
+ 39,
17
+ 41,
18
+ 45,
19
+ 47,
20
+ 56,
21
+ 57,
22
+ 59,
23
+ 62,
24
+ 74,
25
+ 76,
26
+ 78,
27
+ 79,
28
+ 80,
29
+ 82,
30
+ 89,
31
+ 92,
32
+ 93,
33
+ 98,
34
+ 100,
35
+ 103,
36
+ 105,
37
+ 106,
38
+ 108,
39
+ 111,
40
+ 113,
41
+ 114,
42
+ 117,
43
+ 124,
44
+ 128,
45
+ 129,
46
+ 132,
47
+ 133,
48
+ 134,
49
+ 145,
50
+ 146,
51
+ 153,
52
+ 154,
53
+ 155,
54
+ 156,
55
+ 158,
56
+ 166,
57
+ 169,
58
+ 170,
59
+ 171,
60
+ 176,
61
+ 179,
62
+ 180,
63
+ 183,
64
+ 184,
65
+ 190,
66
+ 197,
67
+ 201,
68
+ 211,
69
+ 212,
70
+ 219,
71
+ 221,
72
+ 223,
73
+ 224,
74
+ 225,
75
+ 226,
76
+ 231,
77
+ 232,
78
+ 234,
79
+ 239,
80
+ 240,
81
+ 246,
82
+ 247,
83
+ 249,
84
+ 254,
85
+ 255,
86
+ 256,
87
+ 262,
88
+ 263,
89
+ 265,
90
+ 266,
91
+ 267,
92
+ 271,
93
+ 273,
94
+ 276,
95
+ 280,
96
+ 285,
97
+ 295,
98
+ 296,
99
+ 298,
100
+ 300,
101
+ 303,
102
+ 305,
103
+ 309,
104
+ 310,
105
+ 312,
106
+ 314,
107
+ 315,
108
+ 322,
109
+ 326,
110
+ 327,
111
+ 329,
112
+ 333,
113
+ 336,
114
+ 347,
115
+ 348,
116
+ 350,
117
+ 352,
118
+ 356,
119
+ 362,
120
+ 363,
121
+ 366,
122
+ 374,
123
+ 376,
124
+ 386,
125
+ 393,
126
+ 396,
127
+ 398,
128
+ 402,
129
+ 406,
130
+ 413,
131
+ 416,
132
+ 419,
133
+ 426,
134
+ 428,
135
+ 429,
136
+ 430,
137
+ 432,
138
+ 434,
139
+ 436,
140
+ 437,
141
+ 440,
142
+ 441,
143
+ 443,
144
+ 444,
145
+ 450,
146
+ 451,
147
+ 452,
148
+ 453,
149
+ 454,
150
+ 456,
151
+ 458,
152
+ 461,
153
+ 464,
154
+ 465,
155
+ 467,
156
+ 468,
157
+ 470,
158
+ 471,
159
+ 472,
160
+ 475,
161
+ 477,
162
+ 479,
163
+ 482,
164
+ 483,
165
+ 485,
166
+ 488,
167
+ 492,
168
+ 493,
169
+ 494,
170
+ 499,
171
+ 500,
172
+ 504,
173
+ 509,
174
+ 510,
175
+ 511,
176
+ 512,
177
+ 518,
178
+ 525,
179
+ 526,
180
+ 533,
181
+ 535,
182
+ 536,
183
+ 538,
184
+ 539,
185
+ 542,
186
+ 544,
187
+ 546,
188
+ 550,
189
+ 559,
190
+ 576
191
+ ],
192
+ "n_after_alignment_filter": 391,
193
+ "clean_accuracy": 0.9718670076726342,
194
+ "corrupted_accuracy": 0.9565217391304348,
195
+ "both_correct_accuracy": 0.928388746803069,
196
+ "n_both_correct": 363,
197
+ "both_correct_indices": [
198
+ 0,
199
+ 3,
200
+ 5,
201
+ 7,
202
+ 8,
203
+ 9,
204
+ 11,
205
+ 12,
206
+ 13,
207
+ 14,
208
+ 15,
209
+ 16,
210
+ 17,
211
+ 18,
212
+ 20,
213
+ 21,
214
+ 22,
215
+ 25,
216
+ 26,
217
+ 27,
218
+ 28,
219
+ 29,
220
+ 31,
221
+ 33,
222
+ 35,
223
+ 37,
224
+ 38,
225
+ 40,
226
+ 42,
227
+ 43,
228
+ 44,
229
+ 46,
230
+ 49,
231
+ 50,
232
+ 52,
233
+ 53,
234
+ 54,
235
+ 55,
236
+ 58,
237
+ 60,
238
+ 61,
239
+ 63,
240
+ 64,
241
+ 66,
242
+ 67,
243
+ 68,
244
+ 69,
245
+ 70,
246
+ 71,
247
+ 72,
248
+ 73,
249
+ 75,
250
+ 77,
251
+ 81,
252
+ 83,
253
+ 85,
254
+ 86,
255
+ 87,
256
+ 88,
257
+ 90,
258
+ 91,
259
+ 94,
260
+ 95,
261
+ 96,
262
+ 97,
263
+ 99,
264
+ 101,
265
+ 102,
266
+ 104,
267
+ 107,
268
+ 109,
269
+ 110,
270
+ 115,
271
+ 116,
272
+ 118,
273
+ 119,
274
+ 120,
275
+ 121,
276
+ 122,
277
+ 123,
278
+ 125,
279
+ 126,
280
+ 127,
281
+ 130,
282
+ 131,
283
+ 135,
284
+ 136,
285
+ 137,
286
+ 138,
287
+ 139,
288
+ 141,
289
+ 142,
290
+ 143,
291
+ 144,
292
+ 147,
293
+ 148,
294
+ 149,
295
+ 150,
296
+ 151,
297
+ 152,
298
+ 157,
299
+ 159,
300
+ 160,
301
+ 161,
302
+ 162,
303
+ 163,
304
+ 164,
305
+ 165,
306
+ 167,
307
+ 168,
308
+ 172,
309
+ 173,
310
+ 174,
311
+ 175,
312
+ 178,
313
+ 181,
314
+ 182,
315
+ 185,
316
+ 186,
317
+ 187,
318
+ 188,
319
+ 189,
320
+ 191,
321
+ 193,
322
+ 194,
323
+ 198,
324
+ 199,
325
+ 200,
326
+ 202,
327
+ 203,
328
+ 204,
329
+ 206,
330
+ 207,
331
+ 209,
332
+ 210,
333
+ 213,
334
+ 214,
335
+ 216,
336
+ 217,
337
+ 218,
338
+ 220,
339
+ 222,
340
+ 227,
341
+ 228,
342
+ 229,
343
+ 230,
344
+ 235,
345
+ 236,
346
+ 237,
347
+ 238,
348
+ 241,
349
+ 242,
350
+ 243,
351
+ 244,
352
+ 245,
353
+ 248,
354
+ 252,
355
+ 253,
356
+ 257,
357
+ 259,
358
+ 260,
359
+ 261,
360
+ 264,
361
+ 268,
362
+ 269,
363
+ 270,
364
+ 272,
365
+ 274,
366
+ 275,
367
+ 277,
368
+ 278,
369
+ 279,
370
+ 281,
371
+ 282,
372
+ 283,
373
+ 284,
374
+ 286,
375
+ 287,
376
+ 288,
377
+ 290,
378
+ 291,
379
+ 292,
380
+ 293,
381
+ 294,
382
+ 297,
383
+ 299,
384
+ 301,
385
+ 302,
386
+ 304,
387
+ 306,
388
+ 307,
389
+ 308,
390
+ 311,
391
+ 313,
392
+ 316,
393
+ 317,
394
+ 318,
395
+ 319,
396
+ 320,
397
+ 321,
398
+ 323,
399
+ 324,
400
+ 325,
401
+ 328,
402
+ 330,
403
+ 331,
404
+ 334,
405
+ 335,
406
+ 337,
407
+ 338,
408
+ 340,
409
+ 341,
410
+ 342,
411
+ 343,
412
+ 344,
413
+ 345,
414
+ 346,
415
+ 349,
416
+ 351,
417
+ 353,
418
+ 354,
419
+ 357,
420
+ 358,
421
+ 359,
422
+ 360,
423
+ 361,
424
+ 364,
425
+ 365,
426
+ 368,
427
+ 369,
428
+ 370,
429
+ 371,
430
+ 372,
431
+ 373,
432
+ 375,
433
+ 377,
434
+ 378,
435
+ 379,
436
+ 380,
437
+ 381,
438
+ 382,
439
+ 384,
440
+ 385,
441
+ 387,
442
+ 388,
443
+ 389,
444
+ 390,
445
+ 392,
446
+ 394,
447
+ 395,
448
+ 397,
449
+ 399,
450
+ 400,
451
+ 401,
452
+ 403,
453
+ 404,
454
+ 407,
455
+ 408,
456
+ 409,
457
+ 410,
458
+ 411,
459
+ 412,
460
+ 414,
461
+ 415,
462
+ 417,
463
+ 418,
464
+ 420,
465
+ 421,
466
+ 422,
467
+ 423,
468
+ 424,
469
+ 425,
470
+ 427,
471
+ 431,
472
+ 433,
473
+ 435,
474
+ 438,
475
+ 439,
476
+ 442,
477
+ 445,
478
+ 446,
479
+ 447,
480
+ 448,
481
+ 449,
482
+ 455,
483
+ 457,
484
+ 459,
485
+ 460,
486
+ 462,
487
+ 463,
488
+ 466,
489
+ 469,
490
+ 473,
491
+ 474,
492
+ 476,
493
+ 478,
494
+ 480,
495
+ 481,
496
+ 484,
497
+ 486,
498
+ 487,
499
+ 489,
500
+ 490,
501
+ 491,
502
+ 495,
503
+ 496,
504
+ 497,
505
+ 498,
506
+ 501,
507
+ 502,
508
+ 503,
509
+ 505,
510
+ 506,
511
+ 507,
512
+ 508,
513
+ 513,
514
+ 514,
515
+ 515,
516
+ 516,
517
+ 519,
518
+ 520,
519
+ 521,
520
+ 522,
521
+ 523,
522
+ 524,
523
+ 527,
524
+ 528,
525
+ 529,
526
+ 530,
527
+ 531,
528
+ 534,
529
+ 537,
530
+ 540,
531
+ 541,
532
+ 543,
533
+ 545,
534
+ 547,
535
+ 548,
536
+ 549,
537
+ 551,
538
+ 552,
539
+ 553,
540
+ 554,
541
+ 555,
542
+ 556,
543
+ 557,
544
+ 558,
545
+ 560,
546
+ 561,
547
+ 562,
548
+ 563,
549
+ 564,
550
+ 565,
551
+ 566,
552
+ 567,
553
+ 568,
554
+ 569,
555
+ 570,
556
+ 571,
557
+ 572,
558
+ 573,
559
+ 574,
560
+ 575
561
+ ],
562
+ "not_both_correct_indices": [
563
+ 19,
564
+ 48,
565
+ 51,
566
+ 65,
567
+ 84,
568
+ 112,
569
+ 140,
570
+ 177,
571
+ 192,
572
+ 195,
573
+ 196,
574
+ 205,
575
+ 208,
576
+ 215,
577
+ 233,
578
+ 250,
579
+ 251,
580
+ 258,
581
+ 289,
582
+ 332,
583
+ 339,
584
+ 355,
585
+ 367,
586
+ 383,
587
+ 391,
588
+ 405,
589
+ 517,
590
+ 532
591
+ ],
592
+ "clean_baseline": 6.90625,
593
+ "corrupted_baseline": -6.8984375
594
+ }