barryhpr commited on
Commit
d8a8d1f
·
verified ·
1 Parent(s): 1d9cfab

Add attribution tensors (701-800 of 993)

Browse files
This view is limited to 50 files because it contains too many changes.   See raw diff
Files changed (50) hide show
  1. results/mistralai_Mistral-Large-Instruct-2407/Lan/subject_verb_agreement/attribution_meta.json +1 -0
  2. results/mistralai_Mistral-Large-Instruct-2407/Lan/subject_verb_agreement/baselines.json +1117 -0
  3. results/mistralai_Mistral-Large-Instruct-2407/Lan/subject_verb_agreement/neuron_attribution.pt +3 -0
  4. results/mistralai_Mistral-Large-Instruct-2407/Lan/subject_verb_agreement/sorted_indices_positive.npy +3 -0
  5. results/mistralai_Mistral-Large-Instruct-2407/Lan/wug/attribution_meta.json +1 -0
  6. results/mistralai_Mistral-Large-Instruct-2407/Lan/wug/baselines.json +2681 -0
  7. results/mistralai_Mistral-Large-Instruct-2407/Lan/wug/neuron_attribution.pt +3 -0
  8. results/mistralai_Mistral-Large-Instruct-2407/Lan/wug/sorted_indices_positive.npy +3 -0
  9. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_symbolic/attribution_meta.json +1 -0
  10. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_symbolic/baselines.json +1016 -0
  11. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_symbolic/neuron_attribution.pt +3 -0
  12. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_symbolic/sorted_indices_positive.npy +3 -0
  13. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_verbal/attribution_meta.json +1 -0
  14. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_verbal/baselines.json +1017 -0
  15. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_verbal/neuron_attribution.pt +3 -0
  16. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_verbal/sorted_indices_positive.npy +3 -0
  17. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_symbolic/attribution_meta.json +1 -0
  18. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_symbolic/baselines.json +1016 -0
  19. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_symbolic/neuron_attribution.pt +3 -0
  20. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_symbolic/sorted_indices_positive.npy +3 -0
  21. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_verbal/attribution_meta.json +1 -0
  22. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_verbal/baselines.json +1017 -0
  23. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_verbal/neuron_attribution.pt +3 -0
  24. results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_verbal/sorted_indices_positive.npy +3 -0
  25. results/mistralai_Mistral-Large-Instruct-2407/MD/code_A/attribution_meta.json +1 -0
  26. results/mistralai_Mistral-Large-Instruct-2407/MD/code_A/baselines.json +1016 -0
  27. results/mistralai_Mistral-Large-Instruct-2407/MD/code_A/neuron_attribution.pt +3 -0
  28. results/mistralai_Mistral-Large-Instruct-2407/MD/code_A/sorted_indices_positive.npy +3 -0
  29. results/mistralai_Mistral-Large-Instruct-2407/MD/code_B/attribution_meta.json +1 -0
  30. results/mistralai_Mistral-Large-Instruct-2407/MD/code_B/baselines.json +1016 -0
  31. results/mistralai_Mistral-Large-Instruct-2407/MD/code_B/neuron_attribution.pt +3 -0
  32. results/mistralai_Mistral-Large-Instruct-2407/MD/code_B/sorted_indices_positive.npy +3 -0
  33. results/mistralai_Mistral-Large-Instruct-2407/MD/code_conditional/attribution_meta.json +1 -0
  34. results/mistralai_Mistral-Large-Instruct-2407/MD/code_conditional/baselines.json +1015 -0
  35. results/mistralai_Mistral-Large-Instruct-2407/MD/code_conditional/neuron_attribution.pt +3 -0
  36. results/mistralai_Mistral-Large-Instruct-2407/MD/code_conditional/sorted_indices_positive.npy +3 -0
  37. results/mistralai_Mistral-Large-Instruct-2407/MD/code_list/attribution_meta.json +1 -0
  38. results/mistralai_Mistral-Large-Instruct-2407/MD/code_list/baselines.json +1015 -0
  39. results/mistralai_Mistral-Large-Instruct-2407/MD/code_list/neuron_attribution.pt +3 -0
  40. results/mistralai_Mistral-Large-Instruct-2407/MD/code_list/sorted_indices_positive.npy +3 -0
  41. results/mistralai_Mistral-Large-Instruct-2407/MD/code_loop/attribution_meta.json +1 -0
  42. results/mistralai_Mistral-Large-Instruct-2407/MD/code_loop/baselines.json +1016 -0
  43. results/mistralai_Mistral-Large-Instruct-2407/MD/code_loop/neuron_attribution.pt +3 -0
  44. results/mistralai_Mistral-Large-Instruct-2407/MD/code_loop/sorted_indices_positive.npy +3 -0
  45. results/mistralai_Mistral-Large-Instruct-2407/MD/logic_propositional_1/attribution_meta.json +1 -0
  46. results/mistralai_Mistral-Large-Instruct-2407/MD/logic_propositional_1/baselines.json +1016 -0
  47. results/mistralai_Mistral-Large-Instruct-2407/MD/logic_propositional_1/neuron_attribution.pt +3 -0
  48. results/mistralai_Mistral-Large-Instruct-2407/MD/logic_propositional_1/sorted_indices_positive.npy +3 -0
  49. results/mistralai_Mistral-Large-Instruct-2407/MD/logic_propositional_symbolic/attribution_meta.json +1 -0
  50. results/mistralai_Mistral-Large-Instruct-2407/MD/logic_propositional_symbolic/baselines.json +1016 -0
results/mistralai_Mistral-Large-Instruct-2407/Lan/subject_verb_agreement/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/Lan/subject_verb_agreement/baselines.json ADDED
@@ -0,0 +1,1117 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1100,
3
+ "n_token_misaligned": 174,
4
+ "token_misaligned_indices": [
5
+ 5,
6
+ 8,
7
+ 24,
8
+ 31,
9
+ 33,
10
+ 37,
11
+ 43,
12
+ 44,
13
+ 50,
14
+ 52,
15
+ 53,
16
+ 60,
17
+ 62,
18
+ 76,
19
+ 84,
20
+ 85,
21
+ 90,
22
+ 91,
23
+ 104,
24
+ 108,
25
+ 130,
26
+ 135,
27
+ 140,
28
+ 144,
29
+ 151,
30
+ 153,
31
+ 156,
32
+ 157,
33
+ 158,
34
+ 161,
35
+ 166,
36
+ 167,
37
+ 171,
38
+ 173,
39
+ 174,
40
+ 177,
41
+ 183,
42
+ 188,
43
+ 202,
44
+ 203,
45
+ 204,
46
+ 206,
47
+ 213,
48
+ 223,
49
+ 226,
50
+ 240,
51
+ 241,
52
+ 258,
53
+ 267,
54
+ 273,
55
+ 276,
56
+ 278,
57
+ 279,
58
+ 281,
59
+ 291,
60
+ 310,
61
+ 319,
62
+ 325,
63
+ 332,
64
+ 333,
65
+ 336,
66
+ 338,
67
+ 356,
68
+ 363,
69
+ 366,
70
+ 377,
71
+ 378,
72
+ 380,
73
+ 389,
74
+ 393,
75
+ 398,
76
+ 400,
77
+ 406,
78
+ 412,
79
+ 413,
80
+ 428,
81
+ 433,
82
+ 467,
83
+ 485,
84
+ 488,
85
+ 496,
86
+ 500,
87
+ 520,
88
+ 527,
89
+ 530,
90
+ 531,
91
+ 536,
92
+ 540,
93
+ 544,
94
+ 545,
95
+ 547,
96
+ 551,
97
+ 556,
98
+ 559,
99
+ 562,
100
+ 571,
101
+ 572,
102
+ 574,
103
+ 589,
104
+ 591,
105
+ 598,
106
+ 619,
107
+ 629,
108
+ 639,
109
+ 658,
110
+ 667,
111
+ 671,
112
+ 676,
113
+ 685,
114
+ 697,
115
+ 699,
116
+ 710,
117
+ 713,
118
+ 717,
119
+ 723,
120
+ 726,
121
+ 728,
122
+ 729,
123
+ 732,
124
+ 735,
125
+ 744,
126
+ 746,
127
+ 758,
128
+ 766,
129
+ 771,
130
+ 778,
131
+ 786,
132
+ 792,
133
+ 800,
134
+ 807,
135
+ 810,
136
+ 813,
137
+ 814,
138
+ 815,
139
+ 819,
140
+ 825,
141
+ 837,
142
+ 843,
143
+ 854,
144
+ 856,
145
+ 857,
146
+ 860,
147
+ 861,
148
+ 863,
149
+ 865,
150
+ 880,
151
+ 885,
152
+ 890,
153
+ 892,
154
+ 902,
155
+ 905,
156
+ 914,
157
+ 916,
158
+ 928,
159
+ 952,
160
+ 955,
161
+ 957,
162
+ 974,
163
+ 977,
164
+ 980,
165
+ 982,
166
+ 986,
167
+ 989,
168
+ 1001,
169
+ 1025,
170
+ 1031,
171
+ 1032,
172
+ 1049,
173
+ 1056,
174
+ 1059,
175
+ 1062,
176
+ 1081,
177
+ 1088,
178
+ 1090
179
+ ],
180
+ "n_after_alignment_filter": 926,
181
+ "clean_accuracy": 0.9470842332613391,
182
+ "corrupted_accuracy": 0.8131749460043196,
183
+ "both_correct_accuracy": 0.7645788336933045,
184
+ "n_both_correct": 708,
185
+ "both_correct_indices": [
186
+ 1,
187
+ 2,
188
+ 3,
189
+ 4,
190
+ 6,
191
+ 9,
192
+ 10,
193
+ 11,
194
+ 12,
195
+ 13,
196
+ 14,
197
+ 15,
198
+ 17,
199
+ 18,
200
+ 20,
201
+ 21,
202
+ 22,
203
+ 23,
204
+ 25,
205
+ 26,
206
+ 28,
207
+ 29,
208
+ 30,
209
+ 32,
210
+ 36,
211
+ 38,
212
+ 39,
213
+ 42,
214
+ 45,
215
+ 46,
216
+ 47,
217
+ 48,
218
+ 49,
219
+ 51,
220
+ 55,
221
+ 57,
222
+ 58,
223
+ 59,
224
+ 61,
225
+ 63,
226
+ 64,
227
+ 65,
228
+ 67,
229
+ 68,
230
+ 69,
231
+ 70,
232
+ 71,
233
+ 73,
234
+ 75,
235
+ 77,
236
+ 78,
237
+ 79,
238
+ 80,
239
+ 82,
240
+ 83,
241
+ 86,
242
+ 87,
243
+ 89,
244
+ 92,
245
+ 94,
246
+ 95,
247
+ 96,
248
+ 98,
249
+ 99,
250
+ 100,
251
+ 101,
252
+ 105,
253
+ 106,
254
+ 107,
255
+ 109,
256
+ 110,
257
+ 111,
258
+ 112,
259
+ 113,
260
+ 114,
261
+ 115,
262
+ 116,
263
+ 117,
264
+ 118,
265
+ 119,
266
+ 120,
267
+ 121,
268
+ 122,
269
+ 123,
270
+ 125,
271
+ 126,
272
+ 127,
273
+ 128,
274
+ 129,
275
+ 132,
276
+ 133,
277
+ 136,
278
+ 138,
279
+ 139,
280
+ 141,
281
+ 142,
282
+ 143,
283
+ 145,
284
+ 147,
285
+ 148,
286
+ 149,
287
+ 150,
288
+ 152,
289
+ 155,
290
+ 159,
291
+ 160,
292
+ 162,
293
+ 164,
294
+ 165,
295
+ 169,
296
+ 170,
297
+ 172,
298
+ 178,
299
+ 179,
300
+ 180,
301
+ 181,
302
+ 184,
303
+ 185,
304
+ 186,
305
+ 187,
306
+ 189,
307
+ 190,
308
+ 191,
309
+ 192,
310
+ 193,
311
+ 194,
312
+ 195,
313
+ 196,
314
+ 197,
315
+ 200,
316
+ 201,
317
+ 205,
318
+ 207,
319
+ 208,
320
+ 209,
321
+ 211,
322
+ 212,
323
+ 214,
324
+ 215,
325
+ 217,
326
+ 219,
327
+ 221,
328
+ 222,
329
+ 225,
330
+ 227,
331
+ 228,
332
+ 229,
333
+ 230,
334
+ 231,
335
+ 233,
336
+ 234,
337
+ 235,
338
+ 236,
339
+ 237,
340
+ 238,
341
+ 239,
342
+ 243,
343
+ 244,
344
+ 245,
345
+ 246,
346
+ 247,
347
+ 248,
348
+ 250,
349
+ 251,
350
+ 253,
351
+ 254,
352
+ 255,
353
+ 256,
354
+ 257,
355
+ 259,
356
+ 260,
357
+ 261,
358
+ 262,
359
+ 263,
360
+ 264,
361
+ 266,
362
+ 268,
363
+ 269,
364
+ 270,
365
+ 271,
366
+ 272,
367
+ 274,
368
+ 275,
369
+ 277,
370
+ 280,
371
+ 282,
372
+ 283,
373
+ 284,
374
+ 285,
375
+ 286,
376
+ 287,
377
+ 288,
378
+ 290,
379
+ 293,
380
+ 296,
381
+ 297,
382
+ 298,
383
+ 300,
384
+ 301,
385
+ 302,
386
+ 303,
387
+ 304,
388
+ 307,
389
+ 308,
390
+ 309,
391
+ 311,
392
+ 312,
393
+ 313,
394
+ 315,
395
+ 317,
396
+ 318,
397
+ 320,
398
+ 321,
399
+ 322,
400
+ 326,
401
+ 327,
402
+ 328,
403
+ 329,
404
+ 330,
405
+ 331,
406
+ 337,
407
+ 339,
408
+ 342,
409
+ 344,
410
+ 345,
411
+ 346,
412
+ 347,
413
+ 348,
414
+ 349,
415
+ 351,
416
+ 353,
417
+ 354,
418
+ 355,
419
+ 358,
420
+ 360,
421
+ 362,
422
+ 364,
423
+ 365,
424
+ 368,
425
+ 369,
426
+ 370,
427
+ 371,
428
+ 372,
429
+ 373,
430
+ 374,
431
+ 376,
432
+ 381,
433
+ 382,
434
+ 383,
435
+ 385,
436
+ 386,
437
+ 387,
438
+ 390,
439
+ 391,
440
+ 392,
441
+ 394,
442
+ 395,
443
+ 396,
444
+ 401,
445
+ 402,
446
+ 403,
447
+ 404,
448
+ 405,
449
+ 407,
450
+ 409,
451
+ 410,
452
+ 411,
453
+ 414,
454
+ 415,
455
+ 416,
456
+ 417,
457
+ 418,
458
+ 419,
459
+ 420,
460
+ 422,
461
+ 425,
462
+ 426,
463
+ 427,
464
+ 430,
465
+ 431,
466
+ 432,
467
+ 434,
468
+ 436,
469
+ 437,
470
+ 438,
471
+ 439,
472
+ 441,
473
+ 442,
474
+ 443,
475
+ 444,
476
+ 445,
477
+ 447,
478
+ 448,
479
+ 449,
480
+ 451,
481
+ 452,
482
+ 453,
483
+ 454,
484
+ 455,
485
+ 456,
486
+ 459,
487
+ 460,
488
+ 461,
489
+ 462,
490
+ 465,
491
+ 466,
492
+ 468,
493
+ 471,
494
+ 473,
495
+ 474,
496
+ 475,
497
+ 476,
498
+ 477,
499
+ 478,
500
+ 479,
501
+ 481,
502
+ 483,
503
+ 484,
504
+ 486,
505
+ 487,
506
+ 489,
507
+ 490,
508
+ 491,
509
+ 492,
510
+ 493,
511
+ 494,
512
+ 495,
513
+ 497,
514
+ 499,
515
+ 501,
516
+ 502,
517
+ 503,
518
+ 504,
519
+ 505,
520
+ 506,
521
+ 507,
522
+ 510,
523
+ 511,
524
+ 512,
525
+ 514,
526
+ 515,
527
+ 516,
528
+ 517,
529
+ 518,
530
+ 521,
531
+ 522,
532
+ 524,
533
+ 525,
534
+ 526,
535
+ 528,
536
+ 529,
537
+ 532,
538
+ 533,
539
+ 534,
540
+ 535,
541
+ 538,
542
+ 539,
543
+ 541,
544
+ 542,
545
+ 548,
546
+ 549,
547
+ 550,
548
+ 552,
549
+ 554,
550
+ 555,
551
+ 557,
552
+ 558,
553
+ 561,
554
+ 564,
555
+ 566,
556
+ 567,
557
+ 568,
558
+ 569,
559
+ 570,
560
+ 573,
561
+ 575,
562
+ 577,
563
+ 578,
564
+ 579,
565
+ 580,
566
+ 581,
567
+ 582,
568
+ 583,
569
+ 584,
570
+ 585,
571
+ 586,
572
+ 587,
573
+ 590,
574
+ 592,
575
+ 594,
576
+ 595,
577
+ 596,
578
+ 597,
579
+ 599,
580
+ 600,
581
+ 601,
582
+ 602,
583
+ 604,
584
+ 605,
585
+ 606,
586
+ 607,
587
+ 609,
588
+ 610,
589
+ 613,
590
+ 615,
591
+ 616,
592
+ 617,
593
+ 620,
594
+ 621,
595
+ 622,
596
+ 624,
597
+ 626,
598
+ 628,
599
+ 630,
600
+ 631,
601
+ 632,
602
+ 634,
603
+ 635,
604
+ 636,
605
+ 637,
606
+ 638,
607
+ 640,
608
+ 641,
609
+ 643,
610
+ 644,
611
+ 646,
612
+ 648,
613
+ 649,
614
+ 650,
615
+ 652,
616
+ 653,
617
+ 654,
618
+ 655,
619
+ 656,
620
+ 657,
621
+ 659,
622
+ 660,
623
+ 661,
624
+ 662,
625
+ 663,
626
+ 666,
627
+ 668,
628
+ 669,
629
+ 670,
630
+ 672,
631
+ 673,
632
+ 674,
633
+ 675,
634
+ 678,
635
+ 680,
636
+ 682,
637
+ 687,
638
+ 688,
639
+ 689,
640
+ 690,
641
+ 691,
642
+ 693,
643
+ 695,
644
+ 696,
645
+ 698,
646
+ 700,
647
+ 702,
648
+ 704,
649
+ 705,
650
+ 706,
651
+ 707,
652
+ 708,
653
+ 709,
654
+ 712,
655
+ 716,
656
+ 718,
657
+ 719,
658
+ 721,
659
+ 722,
660
+ 724,
661
+ 725,
662
+ 727,
663
+ 730,
664
+ 731,
665
+ 733,
666
+ 736,
667
+ 737,
668
+ 738,
669
+ 739,
670
+ 740,
671
+ 742,
672
+ 743,
673
+ 745,
674
+ 747,
675
+ 749,
676
+ 750,
677
+ 751,
678
+ 752,
679
+ 754,
680
+ 755,
681
+ 756,
682
+ 760,
683
+ 761,
684
+ 762,
685
+ 764,
686
+ 765,
687
+ 767,
688
+ 769,
689
+ 774,
690
+ 775,
691
+ 776,
692
+ 777,
693
+ 780,
694
+ 781,
695
+ 782,
696
+ 784,
697
+ 787,
698
+ 790,
699
+ 793,
700
+ 794,
701
+ 795,
702
+ 796,
703
+ 797,
704
+ 798,
705
+ 799,
706
+ 801,
707
+ 802,
708
+ 803,
709
+ 804,
710
+ 805,
711
+ 806,
712
+ 808,
713
+ 809,
714
+ 811,
715
+ 812,
716
+ 816,
717
+ 820,
718
+ 821,
719
+ 822,
720
+ 824,
721
+ 827,
722
+ 828,
723
+ 829,
724
+ 830,
725
+ 831,
726
+ 833,
727
+ 834,
728
+ 836,
729
+ 838,
730
+ 840,
731
+ 841,
732
+ 842,
733
+ 845,
734
+ 846,
735
+ 847,
736
+ 848,
737
+ 849,
738
+ 851,
739
+ 852,
740
+ 853,
741
+ 855,
742
+ 858,
743
+ 859,
744
+ 862,
745
+ 864,
746
+ 866,
747
+ 867,
748
+ 868,
749
+ 869,
750
+ 870,
751
+ 871,
752
+ 872,
753
+ 873,
754
+ 874,
755
+ 875,
756
+ 876,
757
+ 877,
758
+ 879,
759
+ 881,
760
+ 882,
761
+ 883,
762
+ 884,
763
+ 886,
764
+ 887,
765
+ 888,
766
+ 891,
767
+ 893,
768
+ 895,
769
+ 896,
770
+ 898,
771
+ 899,
772
+ 900,
773
+ 904,
774
+ 906,
775
+ 909,
776
+ 911,
777
+ 912,
778
+ 913,
779
+ 915,
780
+ 919,
781
+ 921,
782
+ 922,
783
+ 923,
784
+ 924,
785
+ 925,
786
+ 926,
787
+ 927,
788
+ 929,
789
+ 930,
790
+ 931,
791
+ 932,
792
+ 933,
793
+ 934,
794
+ 936,
795
+ 937,
796
+ 938,
797
+ 939,
798
+ 941,
799
+ 942,
800
+ 943,
801
+ 944,
802
+ 945,
803
+ 947,
804
+ 948,
805
+ 949,
806
+ 953,
807
+ 954,
808
+ 959,
809
+ 960,
810
+ 961,
811
+ 963,
812
+ 964,
813
+ 966,
814
+ 967,
815
+ 968,
816
+ 971,
817
+ 972,
818
+ 973,
819
+ 975,
820
+ 976,
821
+ 978,
822
+ 979,
823
+ 981,
824
+ 987,
825
+ 988,
826
+ 991,
827
+ 992,
828
+ 993,
829
+ 994,
830
+ 997,
831
+ 998,
832
+ 1000,
833
+ 1002,
834
+ 1003,
835
+ 1005,
836
+ 1006,
837
+ 1007,
838
+ 1008,
839
+ 1009,
840
+ 1010,
841
+ 1011,
842
+ 1013,
843
+ 1015,
844
+ 1016,
845
+ 1017,
846
+ 1018,
847
+ 1019,
848
+ 1022,
849
+ 1023,
850
+ 1027,
851
+ 1028,
852
+ 1029,
853
+ 1030,
854
+ 1033,
855
+ 1035,
856
+ 1037,
857
+ 1038,
858
+ 1039,
859
+ 1040,
860
+ 1041,
861
+ 1042,
862
+ 1043,
863
+ 1044,
864
+ 1045,
865
+ 1046,
866
+ 1047,
867
+ 1048,
868
+ 1051,
869
+ 1052,
870
+ 1055,
871
+ 1057,
872
+ 1058,
873
+ 1060,
874
+ 1063,
875
+ 1064,
876
+ 1066,
877
+ 1067,
878
+ 1069,
879
+ 1070,
880
+ 1071,
881
+ 1073,
882
+ 1075,
883
+ 1077,
884
+ 1078,
885
+ 1079,
886
+ 1080,
887
+ 1085,
888
+ 1087,
889
+ 1089,
890
+ 1091,
891
+ 1095,
892
+ 1096,
893
+ 1098
894
+ ],
895
+ "not_both_correct_indices": [
896
+ 0,
897
+ 7,
898
+ 16,
899
+ 19,
900
+ 27,
901
+ 34,
902
+ 35,
903
+ 40,
904
+ 41,
905
+ 54,
906
+ 56,
907
+ 66,
908
+ 72,
909
+ 74,
910
+ 81,
911
+ 88,
912
+ 93,
913
+ 97,
914
+ 102,
915
+ 103,
916
+ 124,
917
+ 131,
918
+ 134,
919
+ 137,
920
+ 146,
921
+ 154,
922
+ 163,
923
+ 168,
924
+ 175,
925
+ 176,
926
+ 182,
927
+ 198,
928
+ 199,
929
+ 210,
930
+ 216,
931
+ 218,
932
+ 220,
933
+ 224,
934
+ 232,
935
+ 242,
936
+ 249,
937
+ 252,
938
+ 265,
939
+ 289,
940
+ 292,
941
+ 294,
942
+ 295,
943
+ 299,
944
+ 305,
945
+ 306,
946
+ 314,
947
+ 316,
948
+ 323,
949
+ 324,
950
+ 334,
951
+ 335,
952
+ 340,
953
+ 341,
954
+ 343,
955
+ 350,
956
+ 352,
957
+ 357,
958
+ 359,
959
+ 361,
960
+ 367,
961
+ 375,
962
+ 379,
963
+ 384,
964
+ 388,
965
+ 397,
966
+ 399,
967
+ 408,
968
+ 421,
969
+ 423,
970
+ 424,
971
+ 429,
972
+ 435,
973
+ 440,
974
+ 446,
975
+ 450,
976
+ 457,
977
+ 458,
978
+ 463,
979
+ 464,
980
+ 469,
981
+ 470,
982
+ 472,
983
+ 480,
984
+ 482,
985
+ 498,
986
+ 508,
987
+ 509,
988
+ 513,
989
+ 519,
990
+ 523,
991
+ 537,
992
+ 543,
993
+ 546,
994
+ 553,
995
+ 560,
996
+ 563,
997
+ 565,
998
+ 576,
999
+ 588,
1000
+ 593,
1001
+ 603,
1002
+ 608,
1003
+ 611,
1004
+ 612,
1005
+ 614,
1006
+ 618,
1007
+ 623,
1008
+ 625,
1009
+ 627,
1010
+ 633,
1011
+ 642,
1012
+ 645,
1013
+ 647,
1014
+ 651,
1015
+ 664,
1016
+ 665,
1017
+ 677,
1018
+ 679,
1019
+ 681,
1020
+ 683,
1021
+ 684,
1022
+ 686,
1023
+ 692,
1024
+ 694,
1025
+ 701,
1026
+ 703,
1027
+ 711,
1028
+ 714,
1029
+ 715,
1030
+ 720,
1031
+ 734,
1032
+ 741,
1033
+ 748,
1034
+ 753,
1035
+ 757,
1036
+ 759,
1037
+ 763,
1038
+ 768,
1039
+ 770,
1040
+ 772,
1041
+ 773,
1042
+ 779,
1043
+ 783,
1044
+ 785,
1045
+ 788,
1046
+ 789,
1047
+ 791,
1048
+ 817,
1049
+ 818,
1050
+ 823,
1051
+ 826,
1052
+ 832,
1053
+ 835,
1054
+ 839,
1055
+ 844,
1056
+ 850,
1057
+ 878,
1058
+ 889,
1059
+ 894,
1060
+ 897,
1061
+ 901,
1062
+ 903,
1063
+ 907,
1064
+ 908,
1065
+ 910,
1066
+ 917,
1067
+ 918,
1068
+ 920,
1069
+ 935,
1070
+ 940,
1071
+ 946,
1072
+ 950,
1073
+ 951,
1074
+ 956,
1075
+ 958,
1076
+ 962,
1077
+ 965,
1078
+ 969,
1079
+ 970,
1080
+ 983,
1081
+ 984,
1082
+ 985,
1083
+ 990,
1084
+ 995,
1085
+ 996,
1086
+ 999,
1087
+ 1004,
1088
+ 1012,
1089
+ 1014,
1090
+ 1020,
1091
+ 1021,
1092
+ 1024,
1093
+ 1026,
1094
+ 1034,
1095
+ 1036,
1096
+ 1050,
1097
+ 1053,
1098
+ 1054,
1099
+ 1061,
1100
+ 1065,
1101
+ 1068,
1102
+ 1072,
1103
+ 1074,
1104
+ 1076,
1105
+ 1082,
1106
+ 1083,
1107
+ 1084,
1108
+ 1086,
1109
+ 1092,
1110
+ 1093,
1111
+ 1094,
1112
+ 1097,
1113
+ 1099
1114
+ ],
1115
+ "clean_baseline": 4.74609375,
1116
+ "corrupted_baseline": -4.609375
1117
+ }
results/mistralai_Mistral-Large-Instruct-2407/Lan/subject_verb_agreement/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:54ff6f6fecaee661356c8a90ae08a1bb387cb4213b6cb46e2b9e04a32c7d4da3
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/Lan/subject_verb_agreement/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:6bcdd0ab88c9711b1fcc3e4f187bb49f54b826969175339a080cd53bfafece49
3
+ size 10124216
results/mistralai_Mistral-Large-Instruct-2407/Lan/wug/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/Lan/wug/baselines.json ADDED
@@ -0,0 +1,2681 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 2664,
3
+ "n_token_misaligned": 448,
4
+ "token_misaligned_indices": [
5
+ 6,
6
+ 7,
7
+ 14,
8
+ 15,
9
+ 26,
10
+ 27,
11
+ 32,
12
+ 33,
13
+ 36,
14
+ 37,
15
+ 46,
16
+ 47,
17
+ 48,
18
+ 49,
19
+ 52,
20
+ 53,
21
+ 62,
22
+ 63,
23
+ 64,
24
+ 65,
25
+ 66,
26
+ 67,
27
+ 74,
28
+ 75,
29
+ 90,
30
+ 91,
31
+ 102,
32
+ 103,
33
+ 136,
34
+ 137,
35
+ 138,
36
+ 139,
37
+ 158,
38
+ 159,
39
+ 162,
40
+ 163,
41
+ 186,
42
+ 187,
43
+ 200,
44
+ 201,
45
+ 206,
46
+ 207,
47
+ 210,
48
+ 211,
49
+ 226,
50
+ 227,
51
+ 232,
52
+ 233,
53
+ 264,
54
+ 265,
55
+ 278,
56
+ 279,
57
+ 282,
58
+ 283,
59
+ 284,
60
+ 285,
61
+ 298,
62
+ 299,
63
+ 300,
64
+ 301,
65
+ 302,
66
+ 303,
67
+ 304,
68
+ 305,
69
+ 328,
70
+ 329,
71
+ 340,
72
+ 341,
73
+ 376,
74
+ 377,
75
+ 380,
76
+ 381,
77
+ 386,
78
+ 387,
79
+ 392,
80
+ 393,
81
+ 408,
82
+ 409,
83
+ 410,
84
+ 411,
85
+ 426,
86
+ 427,
87
+ 430,
88
+ 431,
89
+ 448,
90
+ 449,
91
+ 450,
92
+ 451,
93
+ 452,
94
+ 453,
95
+ 472,
96
+ 473,
97
+ 480,
98
+ 481,
99
+ 528,
100
+ 529,
101
+ 542,
102
+ 543,
103
+ 554,
104
+ 555,
105
+ 560,
106
+ 561,
107
+ 566,
108
+ 567,
109
+ 568,
110
+ 569,
111
+ 572,
112
+ 573,
113
+ 586,
114
+ 587,
115
+ 588,
116
+ 589,
117
+ 590,
118
+ 591,
119
+ 594,
120
+ 595,
121
+ 608,
122
+ 609,
123
+ 644,
124
+ 645,
125
+ 654,
126
+ 655,
127
+ 686,
128
+ 687,
129
+ 720,
130
+ 721,
131
+ 748,
132
+ 749,
133
+ 784,
134
+ 785,
135
+ 786,
136
+ 787,
137
+ 788,
138
+ 789,
139
+ 792,
140
+ 793,
141
+ 794,
142
+ 795,
143
+ 802,
144
+ 803,
145
+ 814,
146
+ 815,
147
+ 834,
148
+ 835,
149
+ 844,
150
+ 845,
151
+ 852,
152
+ 853,
153
+ 854,
154
+ 855,
155
+ 868,
156
+ 869,
157
+ 870,
158
+ 871,
159
+ 874,
160
+ 875,
161
+ 890,
162
+ 891,
163
+ 894,
164
+ 895,
165
+ 904,
166
+ 905,
167
+ 952,
168
+ 953,
169
+ 954,
170
+ 955,
171
+ 982,
172
+ 983,
173
+ 998,
174
+ 999,
175
+ 1014,
176
+ 1015,
177
+ 1026,
178
+ 1027,
179
+ 1032,
180
+ 1033,
181
+ 1034,
182
+ 1035,
183
+ 1044,
184
+ 1045,
185
+ 1056,
186
+ 1057,
187
+ 1068,
188
+ 1069,
189
+ 1070,
190
+ 1071,
191
+ 1090,
192
+ 1091,
193
+ 1112,
194
+ 1113,
195
+ 1126,
196
+ 1127,
197
+ 1128,
198
+ 1129,
199
+ 1130,
200
+ 1131,
201
+ 1134,
202
+ 1135,
203
+ 1180,
204
+ 1181,
205
+ 1184,
206
+ 1185,
207
+ 1186,
208
+ 1187,
209
+ 1192,
210
+ 1193,
211
+ 1206,
212
+ 1207,
213
+ 1216,
214
+ 1217,
215
+ 1226,
216
+ 1227,
217
+ 1236,
218
+ 1237,
219
+ 1238,
220
+ 1239,
221
+ 1264,
222
+ 1265,
223
+ 1274,
224
+ 1275,
225
+ 1294,
226
+ 1295,
227
+ 1298,
228
+ 1299,
229
+ 1316,
230
+ 1317,
231
+ 1344,
232
+ 1345,
233
+ 1354,
234
+ 1355,
235
+ 1358,
236
+ 1359,
237
+ 1368,
238
+ 1369,
239
+ 1378,
240
+ 1379,
241
+ 1398,
242
+ 1399,
243
+ 1428,
244
+ 1429,
245
+ 1430,
246
+ 1431,
247
+ 1448,
248
+ 1449,
249
+ 1466,
250
+ 1467,
251
+ 1468,
252
+ 1469,
253
+ 1474,
254
+ 1475,
255
+ 1476,
256
+ 1477,
257
+ 1482,
258
+ 1483,
259
+ 1484,
260
+ 1485,
261
+ 1488,
262
+ 1489,
263
+ 1492,
264
+ 1493,
265
+ 1522,
266
+ 1523,
267
+ 1524,
268
+ 1525,
269
+ 1538,
270
+ 1539,
271
+ 1542,
272
+ 1543,
273
+ 1566,
274
+ 1567,
275
+ 1592,
276
+ 1593,
277
+ 1602,
278
+ 1603,
279
+ 1606,
280
+ 1607,
281
+ 1612,
282
+ 1613,
283
+ 1626,
284
+ 1627,
285
+ 1646,
286
+ 1647,
287
+ 1652,
288
+ 1653,
289
+ 1654,
290
+ 1655,
291
+ 1656,
292
+ 1657,
293
+ 1674,
294
+ 1675,
295
+ 1710,
296
+ 1711,
297
+ 1722,
298
+ 1723,
299
+ 1728,
300
+ 1729,
301
+ 1742,
302
+ 1743,
303
+ 1760,
304
+ 1761,
305
+ 1770,
306
+ 1771,
307
+ 1814,
308
+ 1815,
309
+ 1834,
310
+ 1835,
311
+ 1868,
312
+ 1869,
313
+ 1878,
314
+ 1879,
315
+ 1880,
316
+ 1881,
317
+ 1882,
318
+ 1883,
319
+ 1896,
320
+ 1897,
321
+ 1910,
322
+ 1911,
323
+ 1920,
324
+ 1921,
325
+ 1928,
326
+ 1929,
327
+ 1932,
328
+ 1933,
329
+ 1942,
330
+ 1943,
331
+ 1946,
332
+ 1947,
333
+ 1954,
334
+ 1955,
335
+ 1958,
336
+ 1959,
337
+ 1962,
338
+ 1963,
339
+ 1972,
340
+ 1973,
341
+ 1974,
342
+ 1975,
343
+ 2012,
344
+ 2013,
345
+ 2030,
346
+ 2031,
347
+ 2046,
348
+ 2047,
349
+ 2062,
350
+ 2063,
351
+ 2104,
352
+ 2105,
353
+ 2122,
354
+ 2123,
355
+ 2132,
356
+ 2133,
357
+ 2134,
358
+ 2135,
359
+ 2146,
360
+ 2147,
361
+ 2160,
362
+ 2161,
363
+ 2162,
364
+ 2163,
365
+ 2172,
366
+ 2173,
367
+ 2178,
368
+ 2179,
369
+ 2190,
370
+ 2191,
371
+ 2198,
372
+ 2199,
373
+ 2204,
374
+ 2205,
375
+ 2216,
376
+ 2217,
377
+ 2224,
378
+ 2225,
379
+ 2236,
380
+ 2237,
381
+ 2240,
382
+ 2241,
383
+ 2244,
384
+ 2245,
385
+ 2278,
386
+ 2279,
387
+ 2280,
388
+ 2281,
389
+ 2286,
390
+ 2287,
391
+ 2322,
392
+ 2323,
393
+ 2336,
394
+ 2337,
395
+ 2338,
396
+ 2339,
397
+ 2340,
398
+ 2341,
399
+ 2342,
400
+ 2343,
401
+ 2350,
402
+ 2351,
403
+ 2354,
404
+ 2355,
405
+ 2366,
406
+ 2367,
407
+ 2396,
408
+ 2397,
409
+ 2424,
410
+ 2425,
411
+ 2428,
412
+ 2429,
413
+ 2446,
414
+ 2447,
415
+ 2452,
416
+ 2453,
417
+ 2454,
418
+ 2455,
419
+ 2456,
420
+ 2457,
421
+ 2466,
422
+ 2467,
423
+ 2478,
424
+ 2479,
425
+ 2500,
426
+ 2501,
427
+ 2504,
428
+ 2505,
429
+ 2540,
430
+ 2541,
431
+ 2592,
432
+ 2593,
433
+ 2596,
434
+ 2597,
435
+ 2600,
436
+ 2601,
437
+ 2606,
438
+ 2607,
439
+ 2614,
440
+ 2615,
441
+ 2616,
442
+ 2617,
443
+ 2620,
444
+ 2621,
445
+ 2624,
446
+ 2625,
447
+ 2638,
448
+ 2639,
449
+ 2646,
450
+ 2647,
451
+ 2660,
452
+ 2661
453
+ ],
454
+ "n_after_alignment_filter": 2216,
455
+ "clean_accuracy": 0.953971119133574,
456
+ "corrupted_accuracy": 0.953971119133574,
457
+ "both_correct_accuracy": 0.9142599277978339,
458
+ "n_both_correct": 2026,
459
+ "both_correct_indices": [
460
+ 0,
461
+ 1,
462
+ 2,
463
+ 3,
464
+ 4,
465
+ 5,
466
+ 8,
467
+ 9,
468
+ 10,
469
+ 11,
470
+ 12,
471
+ 13,
472
+ 16,
473
+ 17,
474
+ 18,
475
+ 19,
476
+ 20,
477
+ 21,
478
+ 22,
479
+ 23,
480
+ 24,
481
+ 25,
482
+ 28,
483
+ 29,
484
+ 30,
485
+ 31,
486
+ 34,
487
+ 35,
488
+ 38,
489
+ 39,
490
+ 40,
491
+ 41,
492
+ 42,
493
+ 43,
494
+ 44,
495
+ 45,
496
+ 50,
497
+ 51,
498
+ 54,
499
+ 55,
500
+ 56,
501
+ 57,
502
+ 58,
503
+ 59,
504
+ 60,
505
+ 61,
506
+ 68,
507
+ 69,
508
+ 70,
509
+ 71,
510
+ 72,
511
+ 73,
512
+ 76,
513
+ 77,
514
+ 78,
515
+ 79,
516
+ 80,
517
+ 81,
518
+ 82,
519
+ 83,
520
+ 84,
521
+ 85,
522
+ 86,
523
+ 87,
524
+ 92,
525
+ 93,
526
+ 96,
527
+ 97,
528
+ 98,
529
+ 99,
530
+ 100,
531
+ 101,
532
+ 104,
533
+ 105,
534
+ 106,
535
+ 107,
536
+ 108,
537
+ 109,
538
+ 110,
539
+ 111,
540
+ 112,
541
+ 113,
542
+ 114,
543
+ 115,
544
+ 120,
545
+ 121,
546
+ 122,
547
+ 123,
548
+ 124,
549
+ 125,
550
+ 126,
551
+ 127,
552
+ 128,
553
+ 129,
554
+ 130,
555
+ 131,
556
+ 132,
557
+ 133,
558
+ 134,
559
+ 135,
560
+ 140,
561
+ 141,
562
+ 142,
563
+ 143,
564
+ 144,
565
+ 145,
566
+ 146,
567
+ 147,
568
+ 148,
569
+ 149,
570
+ 150,
571
+ 151,
572
+ 152,
573
+ 153,
574
+ 154,
575
+ 155,
576
+ 156,
577
+ 157,
578
+ 160,
579
+ 161,
580
+ 164,
581
+ 165,
582
+ 166,
583
+ 167,
584
+ 168,
585
+ 169,
586
+ 170,
587
+ 171,
588
+ 172,
589
+ 173,
590
+ 174,
591
+ 175,
592
+ 176,
593
+ 177,
594
+ 178,
595
+ 179,
596
+ 180,
597
+ 181,
598
+ 182,
599
+ 183,
600
+ 184,
601
+ 185,
602
+ 188,
603
+ 189,
604
+ 190,
605
+ 191,
606
+ 192,
607
+ 193,
608
+ 194,
609
+ 195,
610
+ 198,
611
+ 199,
612
+ 202,
613
+ 203,
614
+ 204,
615
+ 205,
616
+ 208,
617
+ 209,
618
+ 212,
619
+ 213,
620
+ 214,
621
+ 215,
622
+ 216,
623
+ 217,
624
+ 218,
625
+ 219,
626
+ 220,
627
+ 221,
628
+ 222,
629
+ 223,
630
+ 224,
631
+ 225,
632
+ 228,
633
+ 229,
634
+ 234,
635
+ 235,
636
+ 236,
637
+ 237,
638
+ 238,
639
+ 239,
640
+ 240,
641
+ 241,
642
+ 242,
643
+ 243,
644
+ 244,
645
+ 245,
646
+ 246,
647
+ 247,
648
+ 248,
649
+ 249,
650
+ 250,
651
+ 251,
652
+ 252,
653
+ 253,
654
+ 254,
655
+ 255,
656
+ 256,
657
+ 257,
658
+ 258,
659
+ 259,
660
+ 260,
661
+ 261,
662
+ 262,
663
+ 263,
664
+ 266,
665
+ 267,
666
+ 268,
667
+ 269,
668
+ 270,
669
+ 271,
670
+ 272,
671
+ 273,
672
+ 274,
673
+ 275,
674
+ 276,
675
+ 277,
676
+ 280,
677
+ 281,
678
+ 286,
679
+ 287,
680
+ 290,
681
+ 291,
682
+ 292,
683
+ 293,
684
+ 294,
685
+ 295,
686
+ 296,
687
+ 297,
688
+ 306,
689
+ 307,
690
+ 310,
691
+ 311,
692
+ 312,
693
+ 313,
694
+ 314,
695
+ 315,
696
+ 316,
697
+ 317,
698
+ 318,
699
+ 319,
700
+ 320,
701
+ 321,
702
+ 322,
703
+ 323,
704
+ 324,
705
+ 325,
706
+ 330,
707
+ 331,
708
+ 332,
709
+ 333,
710
+ 334,
711
+ 335,
712
+ 336,
713
+ 337,
714
+ 338,
715
+ 339,
716
+ 342,
717
+ 343,
718
+ 344,
719
+ 345,
720
+ 346,
721
+ 347,
722
+ 350,
723
+ 351,
724
+ 354,
725
+ 355,
726
+ 356,
727
+ 357,
728
+ 358,
729
+ 359,
730
+ 360,
731
+ 361,
732
+ 364,
733
+ 365,
734
+ 366,
735
+ 367,
736
+ 370,
737
+ 371,
738
+ 382,
739
+ 383,
740
+ 384,
741
+ 385,
742
+ 388,
743
+ 389,
744
+ 390,
745
+ 391,
746
+ 394,
747
+ 395,
748
+ 396,
749
+ 397,
750
+ 398,
751
+ 399,
752
+ 400,
753
+ 401,
754
+ 402,
755
+ 403,
756
+ 404,
757
+ 405,
758
+ 406,
759
+ 407,
760
+ 412,
761
+ 413,
762
+ 414,
763
+ 415,
764
+ 416,
765
+ 417,
766
+ 418,
767
+ 419,
768
+ 420,
769
+ 421,
770
+ 422,
771
+ 423,
772
+ 432,
773
+ 433,
774
+ 434,
775
+ 435,
776
+ 438,
777
+ 439,
778
+ 440,
779
+ 441,
780
+ 442,
781
+ 443,
782
+ 444,
783
+ 445,
784
+ 454,
785
+ 455,
786
+ 456,
787
+ 457,
788
+ 458,
789
+ 459,
790
+ 460,
791
+ 461,
792
+ 462,
793
+ 463,
794
+ 464,
795
+ 465,
796
+ 466,
797
+ 467,
798
+ 468,
799
+ 469,
800
+ 470,
801
+ 471,
802
+ 474,
803
+ 475,
804
+ 476,
805
+ 477,
806
+ 478,
807
+ 479,
808
+ 482,
809
+ 483,
810
+ 484,
811
+ 485,
812
+ 486,
813
+ 487,
814
+ 488,
815
+ 489,
816
+ 492,
817
+ 493,
818
+ 496,
819
+ 497,
820
+ 498,
821
+ 499,
822
+ 500,
823
+ 501,
824
+ 502,
825
+ 503,
826
+ 504,
827
+ 505,
828
+ 506,
829
+ 507,
830
+ 508,
831
+ 509,
832
+ 510,
833
+ 511,
834
+ 512,
835
+ 513,
836
+ 514,
837
+ 515,
838
+ 516,
839
+ 517,
840
+ 518,
841
+ 519,
842
+ 520,
843
+ 521,
844
+ 522,
845
+ 523,
846
+ 524,
847
+ 525,
848
+ 530,
849
+ 531,
850
+ 532,
851
+ 533,
852
+ 534,
853
+ 535,
854
+ 536,
855
+ 537,
856
+ 538,
857
+ 539,
858
+ 540,
859
+ 541,
860
+ 544,
861
+ 545,
862
+ 546,
863
+ 547,
864
+ 548,
865
+ 549,
866
+ 550,
867
+ 551,
868
+ 552,
869
+ 553,
870
+ 556,
871
+ 557,
872
+ 558,
873
+ 559,
874
+ 562,
875
+ 563,
876
+ 564,
877
+ 565,
878
+ 570,
879
+ 571,
880
+ 574,
881
+ 575,
882
+ 578,
883
+ 579,
884
+ 580,
885
+ 581,
886
+ 582,
887
+ 583,
888
+ 584,
889
+ 585,
890
+ 592,
891
+ 593,
892
+ 596,
893
+ 597,
894
+ 598,
895
+ 599,
896
+ 600,
897
+ 601,
898
+ 602,
899
+ 603,
900
+ 604,
901
+ 605,
902
+ 610,
903
+ 611,
904
+ 612,
905
+ 613,
906
+ 614,
907
+ 615,
908
+ 616,
909
+ 617,
910
+ 618,
911
+ 619,
912
+ 620,
913
+ 621,
914
+ 624,
915
+ 625,
916
+ 626,
917
+ 627,
918
+ 628,
919
+ 629,
920
+ 630,
921
+ 631,
922
+ 632,
923
+ 633,
924
+ 636,
925
+ 637,
926
+ 638,
927
+ 639,
928
+ 640,
929
+ 641,
930
+ 642,
931
+ 643,
932
+ 646,
933
+ 647,
934
+ 650,
935
+ 651,
936
+ 652,
937
+ 653,
938
+ 656,
939
+ 657,
940
+ 658,
941
+ 659,
942
+ 660,
943
+ 661,
944
+ 662,
945
+ 663,
946
+ 666,
947
+ 667,
948
+ 668,
949
+ 669,
950
+ 670,
951
+ 671,
952
+ 672,
953
+ 673,
954
+ 674,
955
+ 675,
956
+ 676,
957
+ 677,
958
+ 680,
959
+ 681,
960
+ 682,
961
+ 683,
962
+ 684,
963
+ 685,
964
+ 688,
965
+ 689,
966
+ 690,
967
+ 691,
968
+ 692,
969
+ 693,
970
+ 694,
971
+ 695,
972
+ 696,
973
+ 697,
974
+ 698,
975
+ 699,
976
+ 700,
977
+ 701,
978
+ 702,
979
+ 703,
980
+ 704,
981
+ 705,
982
+ 706,
983
+ 707,
984
+ 708,
985
+ 709,
986
+ 710,
987
+ 711,
988
+ 712,
989
+ 713,
990
+ 714,
991
+ 715,
992
+ 716,
993
+ 717,
994
+ 718,
995
+ 719,
996
+ 722,
997
+ 723,
998
+ 724,
999
+ 725,
1000
+ 726,
1001
+ 727,
1002
+ 728,
1003
+ 729,
1004
+ 732,
1005
+ 733,
1006
+ 734,
1007
+ 735,
1008
+ 736,
1009
+ 737,
1010
+ 740,
1011
+ 741,
1012
+ 742,
1013
+ 743,
1014
+ 744,
1015
+ 745,
1016
+ 746,
1017
+ 747,
1018
+ 750,
1019
+ 751,
1020
+ 752,
1021
+ 753,
1022
+ 754,
1023
+ 755,
1024
+ 756,
1025
+ 757,
1026
+ 758,
1027
+ 759,
1028
+ 760,
1029
+ 761,
1030
+ 762,
1031
+ 763,
1032
+ 764,
1033
+ 765,
1034
+ 768,
1035
+ 769,
1036
+ 770,
1037
+ 771,
1038
+ 772,
1039
+ 773,
1040
+ 774,
1041
+ 775,
1042
+ 776,
1043
+ 777,
1044
+ 778,
1045
+ 779,
1046
+ 782,
1047
+ 783,
1048
+ 790,
1049
+ 791,
1050
+ 796,
1051
+ 797,
1052
+ 798,
1053
+ 799,
1054
+ 800,
1055
+ 801,
1056
+ 804,
1057
+ 805,
1058
+ 806,
1059
+ 807,
1060
+ 810,
1061
+ 811,
1062
+ 812,
1063
+ 813,
1064
+ 816,
1065
+ 817,
1066
+ 818,
1067
+ 819,
1068
+ 820,
1069
+ 821,
1070
+ 822,
1071
+ 823,
1072
+ 824,
1073
+ 825,
1074
+ 826,
1075
+ 827,
1076
+ 828,
1077
+ 829,
1078
+ 830,
1079
+ 831,
1080
+ 832,
1081
+ 833,
1082
+ 836,
1083
+ 837,
1084
+ 838,
1085
+ 839,
1086
+ 840,
1087
+ 841,
1088
+ 842,
1089
+ 843,
1090
+ 846,
1091
+ 847,
1092
+ 848,
1093
+ 849,
1094
+ 850,
1095
+ 851,
1096
+ 856,
1097
+ 857,
1098
+ 858,
1099
+ 859,
1100
+ 860,
1101
+ 861,
1102
+ 862,
1103
+ 863,
1104
+ 864,
1105
+ 865,
1106
+ 872,
1107
+ 873,
1108
+ 876,
1109
+ 877,
1110
+ 878,
1111
+ 879,
1112
+ 880,
1113
+ 881,
1114
+ 882,
1115
+ 883,
1116
+ 884,
1117
+ 885,
1118
+ 888,
1119
+ 889,
1120
+ 892,
1121
+ 893,
1122
+ 896,
1123
+ 897,
1124
+ 898,
1125
+ 899,
1126
+ 900,
1127
+ 901,
1128
+ 902,
1129
+ 903,
1130
+ 906,
1131
+ 907,
1132
+ 908,
1133
+ 909,
1134
+ 910,
1135
+ 911,
1136
+ 912,
1137
+ 913,
1138
+ 914,
1139
+ 915,
1140
+ 918,
1141
+ 919,
1142
+ 920,
1143
+ 921,
1144
+ 922,
1145
+ 923,
1146
+ 924,
1147
+ 925,
1148
+ 926,
1149
+ 927,
1150
+ 928,
1151
+ 929,
1152
+ 930,
1153
+ 931,
1154
+ 932,
1155
+ 933,
1156
+ 934,
1157
+ 935,
1158
+ 936,
1159
+ 937,
1160
+ 938,
1161
+ 939,
1162
+ 940,
1163
+ 941,
1164
+ 944,
1165
+ 945,
1166
+ 946,
1167
+ 947,
1168
+ 948,
1169
+ 949,
1170
+ 956,
1171
+ 957,
1172
+ 958,
1173
+ 959,
1174
+ 960,
1175
+ 961,
1176
+ 962,
1177
+ 963,
1178
+ 964,
1179
+ 965,
1180
+ 968,
1181
+ 969,
1182
+ 970,
1183
+ 971,
1184
+ 972,
1185
+ 973,
1186
+ 974,
1187
+ 975,
1188
+ 976,
1189
+ 977,
1190
+ 978,
1191
+ 979,
1192
+ 980,
1193
+ 981,
1194
+ 984,
1195
+ 985,
1196
+ 986,
1197
+ 987,
1198
+ 988,
1199
+ 989,
1200
+ 990,
1201
+ 991,
1202
+ 992,
1203
+ 993,
1204
+ 994,
1205
+ 995,
1206
+ 996,
1207
+ 997,
1208
+ 1000,
1209
+ 1001,
1210
+ 1002,
1211
+ 1003,
1212
+ 1004,
1213
+ 1005,
1214
+ 1006,
1215
+ 1007,
1216
+ 1008,
1217
+ 1009,
1218
+ 1010,
1219
+ 1011,
1220
+ 1012,
1221
+ 1013,
1222
+ 1016,
1223
+ 1017,
1224
+ 1018,
1225
+ 1019,
1226
+ 1020,
1227
+ 1021,
1228
+ 1022,
1229
+ 1023,
1230
+ 1024,
1231
+ 1025,
1232
+ 1028,
1233
+ 1029,
1234
+ 1030,
1235
+ 1031,
1236
+ 1036,
1237
+ 1037,
1238
+ 1042,
1239
+ 1043,
1240
+ 1046,
1241
+ 1047,
1242
+ 1048,
1243
+ 1049,
1244
+ 1050,
1245
+ 1051,
1246
+ 1052,
1247
+ 1053,
1248
+ 1054,
1249
+ 1055,
1250
+ 1058,
1251
+ 1059,
1252
+ 1060,
1253
+ 1061,
1254
+ 1062,
1255
+ 1063,
1256
+ 1064,
1257
+ 1065,
1258
+ 1066,
1259
+ 1067,
1260
+ 1072,
1261
+ 1073,
1262
+ 1074,
1263
+ 1075,
1264
+ 1076,
1265
+ 1077,
1266
+ 1078,
1267
+ 1079,
1268
+ 1080,
1269
+ 1081,
1270
+ 1084,
1271
+ 1085,
1272
+ 1088,
1273
+ 1089,
1274
+ 1092,
1275
+ 1093,
1276
+ 1094,
1277
+ 1095,
1278
+ 1096,
1279
+ 1097,
1280
+ 1098,
1281
+ 1099,
1282
+ 1100,
1283
+ 1101,
1284
+ 1102,
1285
+ 1103,
1286
+ 1104,
1287
+ 1105,
1288
+ 1106,
1289
+ 1107,
1290
+ 1108,
1291
+ 1109,
1292
+ 1110,
1293
+ 1111,
1294
+ 1114,
1295
+ 1115,
1296
+ 1116,
1297
+ 1117,
1298
+ 1118,
1299
+ 1119,
1300
+ 1120,
1301
+ 1121,
1302
+ 1122,
1303
+ 1123,
1304
+ 1124,
1305
+ 1125,
1306
+ 1132,
1307
+ 1133,
1308
+ 1136,
1309
+ 1137,
1310
+ 1138,
1311
+ 1139,
1312
+ 1140,
1313
+ 1141,
1314
+ 1142,
1315
+ 1143,
1316
+ 1144,
1317
+ 1145,
1318
+ 1146,
1319
+ 1147,
1320
+ 1148,
1321
+ 1149,
1322
+ 1150,
1323
+ 1151,
1324
+ 1152,
1325
+ 1153,
1326
+ 1154,
1327
+ 1155,
1328
+ 1156,
1329
+ 1157,
1330
+ 1158,
1331
+ 1159,
1332
+ 1160,
1333
+ 1161,
1334
+ 1162,
1335
+ 1163,
1336
+ 1164,
1337
+ 1165,
1338
+ 1166,
1339
+ 1167,
1340
+ 1168,
1341
+ 1169,
1342
+ 1170,
1343
+ 1171,
1344
+ 1172,
1345
+ 1173,
1346
+ 1174,
1347
+ 1175,
1348
+ 1176,
1349
+ 1177,
1350
+ 1178,
1351
+ 1179,
1352
+ 1182,
1353
+ 1183,
1354
+ 1188,
1355
+ 1189,
1356
+ 1190,
1357
+ 1191,
1358
+ 1196,
1359
+ 1197,
1360
+ 1198,
1361
+ 1199,
1362
+ 1200,
1363
+ 1201,
1364
+ 1202,
1365
+ 1203,
1366
+ 1204,
1367
+ 1205,
1368
+ 1208,
1369
+ 1209,
1370
+ 1212,
1371
+ 1213,
1372
+ 1214,
1373
+ 1215,
1374
+ 1218,
1375
+ 1219,
1376
+ 1220,
1377
+ 1221,
1378
+ 1222,
1379
+ 1223,
1380
+ 1224,
1381
+ 1225,
1382
+ 1228,
1383
+ 1229,
1384
+ 1230,
1385
+ 1231,
1386
+ 1232,
1387
+ 1233,
1388
+ 1234,
1389
+ 1235,
1390
+ 1240,
1391
+ 1241,
1392
+ 1242,
1393
+ 1243,
1394
+ 1244,
1395
+ 1245,
1396
+ 1246,
1397
+ 1247,
1398
+ 1248,
1399
+ 1249,
1400
+ 1250,
1401
+ 1251,
1402
+ 1252,
1403
+ 1253,
1404
+ 1254,
1405
+ 1255,
1406
+ 1256,
1407
+ 1257,
1408
+ 1258,
1409
+ 1259,
1410
+ 1260,
1411
+ 1261,
1412
+ 1262,
1413
+ 1263,
1414
+ 1266,
1415
+ 1267,
1416
+ 1268,
1417
+ 1269,
1418
+ 1276,
1419
+ 1277,
1420
+ 1278,
1421
+ 1279,
1422
+ 1280,
1423
+ 1281,
1424
+ 1282,
1425
+ 1283,
1426
+ 1284,
1427
+ 1285,
1428
+ 1286,
1429
+ 1287,
1430
+ 1290,
1431
+ 1291,
1432
+ 1292,
1433
+ 1293,
1434
+ 1296,
1435
+ 1297,
1436
+ 1300,
1437
+ 1301,
1438
+ 1302,
1439
+ 1303,
1440
+ 1304,
1441
+ 1305,
1442
+ 1306,
1443
+ 1307,
1444
+ 1308,
1445
+ 1309,
1446
+ 1310,
1447
+ 1311,
1448
+ 1312,
1449
+ 1313,
1450
+ 1314,
1451
+ 1315,
1452
+ 1318,
1453
+ 1319,
1454
+ 1320,
1455
+ 1321,
1456
+ 1322,
1457
+ 1323,
1458
+ 1324,
1459
+ 1325,
1460
+ 1326,
1461
+ 1327,
1462
+ 1328,
1463
+ 1329,
1464
+ 1330,
1465
+ 1331,
1466
+ 1334,
1467
+ 1335,
1468
+ 1336,
1469
+ 1337,
1470
+ 1338,
1471
+ 1339,
1472
+ 1340,
1473
+ 1341,
1474
+ 1342,
1475
+ 1343,
1476
+ 1348,
1477
+ 1349,
1478
+ 1350,
1479
+ 1351,
1480
+ 1352,
1481
+ 1353,
1482
+ 1356,
1483
+ 1357,
1484
+ 1360,
1485
+ 1361,
1486
+ 1362,
1487
+ 1363,
1488
+ 1364,
1489
+ 1365,
1490
+ 1366,
1491
+ 1367,
1492
+ 1370,
1493
+ 1371,
1494
+ 1372,
1495
+ 1373,
1496
+ 1374,
1497
+ 1375,
1498
+ 1376,
1499
+ 1377,
1500
+ 1380,
1501
+ 1381,
1502
+ 1382,
1503
+ 1383,
1504
+ 1384,
1505
+ 1385,
1506
+ 1386,
1507
+ 1387,
1508
+ 1388,
1509
+ 1389,
1510
+ 1390,
1511
+ 1391,
1512
+ 1392,
1513
+ 1393,
1514
+ 1394,
1515
+ 1395,
1516
+ 1396,
1517
+ 1397,
1518
+ 1400,
1519
+ 1401,
1520
+ 1402,
1521
+ 1403,
1522
+ 1404,
1523
+ 1405,
1524
+ 1408,
1525
+ 1409,
1526
+ 1410,
1527
+ 1411,
1528
+ 1412,
1529
+ 1413,
1530
+ 1414,
1531
+ 1415,
1532
+ 1416,
1533
+ 1417,
1534
+ 1418,
1535
+ 1419,
1536
+ 1420,
1537
+ 1421,
1538
+ 1422,
1539
+ 1423,
1540
+ 1424,
1541
+ 1425,
1542
+ 1426,
1543
+ 1427,
1544
+ 1432,
1545
+ 1433,
1546
+ 1434,
1547
+ 1435,
1548
+ 1436,
1549
+ 1437,
1550
+ 1438,
1551
+ 1439,
1552
+ 1440,
1553
+ 1441,
1554
+ 1442,
1555
+ 1443,
1556
+ 1444,
1557
+ 1445,
1558
+ 1446,
1559
+ 1447,
1560
+ 1450,
1561
+ 1451,
1562
+ 1454,
1563
+ 1455,
1564
+ 1456,
1565
+ 1457,
1566
+ 1458,
1567
+ 1459,
1568
+ 1460,
1569
+ 1461,
1570
+ 1462,
1571
+ 1463,
1572
+ 1464,
1573
+ 1465,
1574
+ 1470,
1575
+ 1471,
1576
+ 1472,
1577
+ 1473,
1578
+ 1478,
1579
+ 1479,
1580
+ 1480,
1581
+ 1481,
1582
+ 1486,
1583
+ 1487,
1584
+ 1490,
1585
+ 1491,
1586
+ 1494,
1587
+ 1495,
1588
+ 1496,
1589
+ 1497,
1590
+ 1498,
1591
+ 1499,
1592
+ 1502,
1593
+ 1503,
1594
+ 1506,
1595
+ 1507,
1596
+ 1508,
1597
+ 1509,
1598
+ 1510,
1599
+ 1511,
1600
+ 1512,
1601
+ 1513,
1602
+ 1514,
1603
+ 1515,
1604
+ 1516,
1605
+ 1517,
1606
+ 1518,
1607
+ 1519,
1608
+ 1528,
1609
+ 1529,
1610
+ 1530,
1611
+ 1531,
1612
+ 1532,
1613
+ 1533,
1614
+ 1534,
1615
+ 1535,
1616
+ 1536,
1617
+ 1537,
1618
+ 1540,
1619
+ 1541,
1620
+ 1544,
1621
+ 1545,
1622
+ 1546,
1623
+ 1547,
1624
+ 1548,
1625
+ 1549,
1626
+ 1550,
1627
+ 1551,
1628
+ 1552,
1629
+ 1553,
1630
+ 1554,
1631
+ 1555,
1632
+ 1556,
1633
+ 1557,
1634
+ 1558,
1635
+ 1559,
1636
+ 1560,
1637
+ 1561,
1638
+ 1562,
1639
+ 1563,
1640
+ 1564,
1641
+ 1565,
1642
+ 1568,
1643
+ 1569,
1644
+ 1570,
1645
+ 1571,
1646
+ 1572,
1647
+ 1573,
1648
+ 1574,
1649
+ 1575,
1650
+ 1576,
1651
+ 1577,
1652
+ 1580,
1653
+ 1581,
1654
+ 1582,
1655
+ 1583,
1656
+ 1584,
1657
+ 1585,
1658
+ 1586,
1659
+ 1587,
1660
+ 1588,
1661
+ 1589,
1662
+ 1590,
1663
+ 1591,
1664
+ 1594,
1665
+ 1595,
1666
+ 1596,
1667
+ 1597,
1668
+ 1598,
1669
+ 1599,
1670
+ 1600,
1671
+ 1601,
1672
+ 1604,
1673
+ 1605,
1674
+ 1608,
1675
+ 1609,
1676
+ 1616,
1677
+ 1617,
1678
+ 1618,
1679
+ 1619,
1680
+ 1620,
1681
+ 1621,
1682
+ 1622,
1683
+ 1623,
1684
+ 1624,
1685
+ 1625,
1686
+ 1628,
1687
+ 1629,
1688
+ 1630,
1689
+ 1631,
1690
+ 1634,
1691
+ 1635,
1692
+ 1636,
1693
+ 1637,
1694
+ 1638,
1695
+ 1639,
1696
+ 1640,
1697
+ 1641,
1698
+ 1644,
1699
+ 1645,
1700
+ 1648,
1701
+ 1649,
1702
+ 1650,
1703
+ 1651,
1704
+ 1658,
1705
+ 1659,
1706
+ 1660,
1707
+ 1661,
1708
+ 1662,
1709
+ 1663,
1710
+ 1664,
1711
+ 1665,
1712
+ 1666,
1713
+ 1667,
1714
+ 1668,
1715
+ 1669,
1716
+ 1670,
1717
+ 1671,
1718
+ 1672,
1719
+ 1673,
1720
+ 1676,
1721
+ 1677,
1722
+ 1678,
1723
+ 1679,
1724
+ 1680,
1725
+ 1681,
1726
+ 1682,
1727
+ 1683,
1728
+ 1684,
1729
+ 1685,
1730
+ 1686,
1731
+ 1687,
1732
+ 1688,
1733
+ 1689,
1734
+ 1690,
1735
+ 1691,
1736
+ 1692,
1737
+ 1693,
1738
+ 1694,
1739
+ 1695,
1740
+ 1696,
1741
+ 1697,
1742
+ 1698,
1743
+ 1699,
1744
+ 1700,
1745
+ 1701,
1746
+ 1702,
1747
+ 1703,
1748
+ 1704,
1749
+ 1705,
1750
+ 1708,
1751
+ 1709,
1752
+ 1712,
1753
+ 1713,
1754
+ 1714,
1755
+ 1715,
1756
+ 1716,
1757
+ 1717,
1758
+ 1718,
1759
+ 1719,
1760
+ 1720,
1761
+ 1721,
1762
+ 1724,
1763
+ 1725,
1764
+ 1726,
1765
+ 1727,
1766
+ 1730,
1767
+ 1731,
1768
+ 1732,
1769
+ 1733,
1770
+ 1734,
1771
+ 1735,
1772
+ 1736,
1773
+ 1737,
1774
+ 1738,
1775
+ 1739,
1776
+ 1740,
1777
+ 1741,
1778
+ 1744,
1779
+ 1745,
1780
+ 1746,
1781
+ 1747,
1782
+ 1750,
1783
+ 1751,
1784
+ 1752,
1785
+ 1753,
1786
+ 1754,
1787
+ 1755,
1788
+ 1756,
1789
+ 1757,
1790
+ 1758,
1791
+ 1759,
1792
+ 1762,
1793
+ 1763,
1794
+ 1764,
1795
+ 1765,
1796
+ 1766,
1797
+ 1767,
1798
+ 1768,
1799
+ 1769,
1800
+ 1772,
1801
+ 1773,
1802
+ 1776,
1803
+ 1777,
1804
+ 1778,
1805
+ 1779,
1806
+ 1780,
1807
+ 1781,
1808
+ 1782,
1809
+ 1783,
1810
+ 1784,
1811
+ 1785,
1812
+ 1786,
1813
+ 1787,
1814
+ 1788,
1815
+ 1789,
1816
+ 1790,
1817
+ 1791,
1818
+ 1792,
1819
+ 1793,
1820
+ 1794,
1821
+ 1795,
1822
+ 1796,
1823
+ 1797,
1824
+ 1798,
1825
+ 1799,
1826
+ 1800,
1827
+ 1801,
1828
+ 1802,
1829
+ 1803,
1830
+ 1804,
1831
+ 1805,
1832
+ 1806,
1833
+ 1807,
1834
+ 1808,
1835
+ 1809,
1836
+ 1810,
1837
+ 1811,
1838
+ 1812,
1839
+ 1813,
1840
+ 1818,
1841
+ 1819,
1842
+ 1820,
1843
+ 1821,
1844
+ 1822,
1845
+ 1823,
1846
+ 1826,
1847
+ 1827,
1848
+ 1828,
1849
+ 1829,
1850
+ 1830,
1851
+ 1831,
1852
+ 1832,
1853
+ 1833,
1854
+ 1836,
1855
+ 1837,
1856
+ 1838,
1857
+ 1839,
1858
+ 1840,
1859
+ 1841,
1860
+ 1842,
1861
+ 1843,
1862
+ 1844,
1863
+ 1845,
1864
+ 1846,
1865
+ 1847,
1866
+ 1848,
1867
+ 1849,
1868
+ 1850,
1869
+ 1851,
1870
+ 1852,
1871
+ 1853,
1872
+ 1854,
1873
+ 1855,
1874
+ 1860,
1875
+ 1861,
1876
+ 1862,
1877
+ 1863,
1878
+ 1864,
1879
+ 1865,
1880
+ 1866,
1881
+ 1867,
1882
+ 1870,
1883
+ 1871,
1884
+ 1872,
1885
+ 1873,
1886
+ 1874,
1887
+ 1875,
1888
+ 1876,
1889
+ 1877,
1890
+ 1886,
1891
+ 1887,
1892
+ 1888,
1893
+ 1889,
1894
+ 1890,
1895
+ 1891,
1896
+ 1892,
1897
+ 1893,
1898
+ 1898,
1899
+ 1899,
1900
+ 1900,
1901
+ 1901,
1902
+ 1902,
1903
+ 1903,
1904
+ 1904,
1905
+ 1905,
1906
+ 1906,
1907
+ 1907,
1908
+ 1908,
1909
+ 1909,
1910
+ 1912,
1911
+ 1913,
1912
+ 1914,
1913
+ 1915,
1914
+ 1916,
1915
+ 1917,
1916
+ 1922,
1917
+ 1923,
1918
+ 1924,
1919
+ 1925,
1920
+ 1926,
1921
+ 1927,
1922
+ 1930,
1923
+ 1931,
1924
+ 1934,
1925
+ 1935,
1926
+ 1936,
1927
+ 1937,
1928
+ 1938,
1929
+ 1939,
1930
+ 1940,
1931
+ 1941,
1932
+ 1944,
1933
+ 1945,
1934
+ 1948,
1935
+ 1949,
1936
+ 1950,
1937
+ 1951,
1938
+ 1952,
1939
+ 1953,
1940
+ 1956,
1941
+ 1957,
1942
+ 1960,
1943
+ 1961,
1944
+ 1964,
1945
+ 1965,
1946
+ 1966,
1947
+ 1967,
1948
+ 1968,
1949
+ 1969,
1950
+ 1970,
1951
+ 1971,
1952
+ 1976,
1953
+ 1977,
1954
+ 1978,
1955
+ 1979,
1956
+ 1980,
1957
+ 1981,
1958
+ 1982,
1959
+ 1983,
1960
+ 1984,
1961
+ 1985,
1962
+ 1986,
1963
+ 1987,
1964
+ 1988,
1965
+ 1989,
1966
+ 1990,
1967
+ 1991,
1968
+ 1992,
1969
+ 1993,
1970
+ 1994,
1971
+ 1995,
1972
+ 1996,
1973
+ 1997,
1974
+ 1998,
1975
+ 1999,
1976
+ 2000,
1977
+ 2001,
1978
+ 2002,
1979
+ 2003,
1980
+ 2004,
1981
+ 2005,
1982
+ 2006,
1983
+ 2007,
1984
+ 2008,
1985
+ 2009,
1986
+ 2010,
1987
+ 2011,
1988
+ 2014,
1989
+ 2015,
1990
+ 2016,
1991
+ 2017,
1992
+ 2018,
1993
+ 2019,
1994
+ 2020,
1995
+ 2021,
1996
+ 2024,
1997
+ 2025,
1998
+ 2026,
1999
+ 2027,
2000
+ 2028,
2001
+ 2029,
2002
+ 2032,
2003
+ 2033,
2004
+ 2034,
2005
+ 2035,
2006
+ 2038,
2007
+ 2039,
2008
+ 2040,
2009
+ 2041,
2010
+ 2044,
2011
+ 2045,
2012
+ 2048,
2013
+ 2049,
2014
+ 2050,
2015
+ 2051,
2016
+ 2052,
2017
+ 2053,
2018
+ 2054,
2019
+ 2055,
2020
+ 2056,
2021
+ 2057,
2022
+ 2058,
2023
+ 2059,
2024
+ 2060,
2025
+ 2061,
2026
+ 2064,
2027
+ 2065,
2028
+ 2066,
2029
+ 2067,
2030
+ 2068,
2031
+ 2069,
2032
+ 2070,
2033
+ 2071,
2034
+ 2072,
2035
+ 2073,
2036
+ 2074,
2037
+ 2075,
2038
+ 2076,
2039
+ 2077,
2040
+ 2078,
2041
+ 2079,
2042
+ 2080,
2043
+ 2081,
2044
+ 2082,
2045
+ 2083,
2046
+ 2084,
2047
+ 2085,
2048
+ 2086,
2049
+ 2087,
2050
+ 2088,
2051
+ 2089,
2052
+ 2090,
2053
+ 2091,
2054
+ 2092,
2055
+ 2093,
2056
+ 2094,
2057
+ 2095,
2058
+ 2098,
2059
+ 2099,
2060
+ 2100,
2061
+ 2101,
2062
+ 2102,
2063
+ 2103,
2064
+ 2106,
2065
+ 2107,
2066
+ 2108,
2067
+ 2109,
2068
+ 2110,
2069
+ 2111,
2070
+ 2112,
2071
+ 2113,
2072
+ 2114,
2073
+ 2115,
2074
+ 2118,
2075
+ 2119,
2076
+ 2120,
2077
+ 2121,
2078
+ 2124,
2079
+ 2125,
2080
+ 2126,
2081
+ 2127,
2082
+ 2128,
2083
+ 2129,
2084
+ 2130,
2085
+ 2131,
2086
+ 2136,
2087
+ 2137,
2088
+ 2138,
2089
+ 2139,
2090
+ 2140,
2091
+ 2141,
2092
+ 2142,
2093
+ 2143,
2094
+ 2144,
2095
+ 2145,
2096
+ 2148,
2097
+ 2149,
2098
+ 2150,
2099
+ 2151,
2100
+ 2154,
2101
+ 2155,
2102
+ 2156,
2103
+ 2157,
2104
+ 2158,
2105
+ 2159,
2106
+ 2166,
2107
+ 2167,
2108
+ 2168,
2109
+ 2169,
2110
+ 2170,
2111
+ 2171,
2112
+ 2174,
2113
+ 2175,
2114
+ 2176,
2115
+ 2177,
2116
+ 2180,
2117
+ 2181,
2118
+ 2182,
2119
+ 2183,
2120
+ 2184,
2121
+ 2185,
2122
+ 2186,
2123
+ 2187,
2124
+ 2188,
2125
+ 2189,
2126
+ 2192,
2127
+ 2193,
2128
+ 2196,
2129
+ 2197,
2130
+ 2202,
2131
+ 2203,
2132
+ 2206,
2133
+ 2207,
2134
+ 2208,
2135
+ 2209,
2136
+ 2210,
2137
+ 2211,
2138
+ 2212,
2139
+ 2213,
2140
+ 2214,
2141
+ 2215,
2142
+ 2218,
2143
+ 2219,
2144
+ 2220,
2145
+ 2221,
2146
+ 2222,
2147
+ 2223,
2148
+ 2226,
2149
+ 2227,
2150
+ 2228,
2151
+ 2229,
2152
+ 2230,
2153
+ 2231,
2154
+ 2232,
2155
+ 2233,
2156
+ 2234,
2157
+ 2235,
2158
+ 2238,
2159
+ 2239,
2160
+ 2242,
2161
+ 2243,
2162
+ 2246,
2163
+ 2247,
2164
+ 2248,
2165
+ 2249,
2166
+ 2250,
2167
+ 2251,
2168
+ 2252,
2169
+ 2253,
2170
+ 2254,
2171
+ 2255,
2172
+ 2256,
2173
+ 2257,
2174
+ 2258,
2175
+ 2259,
2176
+ 2260,
2177
+ 2261,
2178
+ 2262,
2179
+ 2263,
2180
+ 2264,
2181
+ 2265,
2182
+ 2266,
2183
+ 2267,
2184
+ 2268,
2185
+ 2269,
2186
+ 2270,
2187
+ 2271,
2188
+ 2272,
2189
+ 2273,
2190
+ 2274,
2191
+ 2275,
2192
+ 2276,
2193
+ 2277,
2194
+ 2282,
2195
+ 2283,
2196
+ 2284,
2197
+ 2285,
2198
+ 2288,
2199
+ 2289,
2200
+ 2290,
2201
+ 2291,
2202
+ 2292,
2203
+ 2293,
2204
+ 2294,
2205
+ 2295,
2206
+ 2296,
2207
+ 2297,
2208
+ 2298,
2209
+ 2299,
2210
+ 2300,
2211
+ 2301,
2212
+ 2302,
2213
+ 2303,
2214
+ 2304,
2215
+ 2305,
2216
+ 2306,
2217
+ 2307,
2218
+ 2308,
2219
+ 2309,
2220
+ 2310,
2221
+ 2311,
2222
+ 2312,
2223
+ 2313,
2224
+ 2316,
2225
+ 2317,
2226
+ 2318,
2227
+ 2319,
2228
+ 2320,
2229
+ 2321,
2230
+ 2324,
2231
+ 2325,
2232
+ 2326,
2233
+ 2327,
2234
+ 2328,
2235
+ 2329,
2236
+ 2330,
2237
+ 2331,
2238
+ 2332,
2239
+ 2333,
2240
+ 2334,
2241
+ 2335,
2242
+ 2344,
2243
+ 2345,
2244
+ 2346,
2245
+ 2347,
2246
+ 2348,
2247
+ 2349,
2248
+ 2352,
2249
+ 2353,
2250
+ 2356,
2251
+ 2357,
2252
+ 2358,
2253
+ 2359,
2254
+ 2360,
2255
+ 2361,
2256
+ 2362,
2257
+ 2363,
2258
+ 2364,
2259
+ 2365,
2260
+ 2368,
2261
+ 2369,
2262
+ 2372,
2263
+ 2373,
2264
+ 2374,
2265
+ 2375,
2266
+ 2376,
2267
+ 2377,
2268
+ 2378,
2269
+ 2379,
2270
+ 2380,
2271
+ 2381,
2272
+ 2382,
2273
+ 2383,
2274
+ 2384,
2275
+ 2385,
2276
+ 2386,
2277
+ 2387,
2278
+ 2388,
2279
+ 2389,
2280
+ 2390,
2281
+ 2391,
2282
+ 2392,
2283
+ 2393,
2284
+ 2394,
2285
+ 2395,
2286
+ 2400,
2287
+ 2401,
2288
+ 2402,
2289
+ 2403,
2290
+ 2406,
2291
+ 2407,
2292
+ 2408,
2293
+ 2409,
2294
+ 2410,
2295
+ 2411,
2296
+ 2412,
2297
+ 2413,
2298
+ 2414,
2299
+ 2415,
2300
+ 2416,
2301
+ 2417,
2302
+ 2418,
2303
+ 2419,
2304
+ 2420,
2305
+ 2421,
2306
+ 2422,
2307
+ 2423,
2308
+ 2426,
2309
+ 2427,
2310
+ 2430,
2311
+ 2431,
2312
+ 2432,
2313
+ 2433,
2314
+ 2434,
2315
+ 2435,
2316
+ 2436,
2317
+ 2437,
2318
+ 2442,
2319
+ 2443,
2320
+ 2444,
2321
+ 2445,
2322
+ 2448,
2323
+ 2449,
2324
+ 2450,
2325
+ 2451,
2326
+ 2458,
2327
+ 2459,
2328
+ 2460,
2329
+ 2461,
2330
+ 2462,
2331
+ 2463,
2332
+ 2464,
2333
+ 2465,
2334
+ 2468,
2335
+ 2469,
2336
+ 2470,
2337
+ 2471,
2338
+ 2472,
2339
+ 2473,
2340
+ 2474,
2341
+ 2475,
2342
+ 2476,
2343
+ 2477,
2344
+ 2480,
2345
+ 2481,
2346
+ 2482,
2347
+ 2483,
2348
+ 2484,
2349
+ 2485,
2350
+ 2486,
2351
+ 2487,
2352
+ 2488,
2353
+ 2489,
2354
+ 2490,
2355
+ 2491,
2356
+ 2492,
2357
+ 2493,
2358
+ 2494,
2359
+ 2495,
2360
+ 2496,
2361
+ 2497,
2362
+ 2498,
2363
+ 2499,
2364
+ 2502,
2365
+ 2503,
2366
+ 2506,
2367
+ 2507,
2368
+ 2508,
2369
+ 2509,
2370
+ 2510,
2371
+ 2511,
2372
+ 2512,
2373
+ 2513,
2374
+ 2514,
2375
+ 2515,
2376
+ 2516,
2377
+ 2517,
2378
+ 2518,
2379
+ 2519,
2380
+ 2522,
2381
+ 2523,
2382
+ 2524,
2383
+ 2525,
2384
+ 2526,
2385
+ 2527,
2386
+ 2528,
2387
+ 2529,
2388
+ 2530,
2389
+ 2531,
2390
+ 2532,
2391
+ 2533,
2392
+ 2534,
2393
+ 2535,
2394
+ 2536,
2395
+ 2537,
2396
+ 2538,
2397
+ 2539,
2398
+ 2546,
2399
+ 2547,
2400
+ 2548,
2401
+ 2549,
2402
+ 2550,
2403
+ 2551,
2404
+ 2552,
2405
+ 2553,
2406
+ 2554,
2407
+ 2555,
2408
+ 2556,
2409
+ 2557,
2410
+ 2558,
2411
+ 2559,
2412
+ 2560,
2413
+ 2561,
2414
+ 2562,
2415
+ 2563,
2416
+ 2564,
2417
+ 2565,
2418
+ 2566,
2419
+ 2567,
2420
+ 2568,
2421
+ 2569,
2422
+ 2570,
2423
+ 2571,
2424
+ 2572,
2425
+ 2573,
2426
+ 2574,
2427
+ 2575,
2428
+ 2578,
2429
+ 2579,
2430
+ 2580,
2431
+ 2581,
2432
+ 2582,
2433
+ 2583,
2434
+ 2584,
2435
+ 2585,
2436
+ 2586,
2437
+ 2587,
2438
+ 2588,
2439
+ 2589,
2440
+ 2590,
2441
+ 2591,
2442
+ 2594,
2443
+ 2595,
2444
+ 2598,
2445
+ 2599,
2446
+ 2602,
2447
+ 2603,
2448
+ 2604,
2449
+ 2605,
2450
+ 2608,
2451
+ 2609,
2452
+ 2610,
2453
+ 2611,
2454
+ 2612,
2455
+ 2613,
2456
+ 2618,
2457
+ 2619,
2458
+ 2622,
2459
+ 2623,
2460
+ 2626,
2461
+ 2627,
2462
+ 2630,
2463
+ 2631,
2464
+ 2632,
2465
+ 2633,
2466
+ 2634,
2467
+ 2635,
2468
+ 2636,
2469
+ 2637,
2470
+ 2640,
2471
+ 2641,
2472
+ 2642,
2473
+ 2643,
2474
+ 2648,
2475
+ 2649,
2476
+ 2652,
2477
+ 2653,
2478
+ 2654,
2479
+ 2655,
2480
+ 2656,
2481
+ 2657,
2482
+ 2658,
2483
+ 2659,
2484
+ 2662,
2485
+ 2663
2486
+ ],
2487
+ "not_both_correct_indices": [
2488
+ 88,
2489
+ 89,
2490
+ 94,
2491
+ 95,
2492
+ 116,
2493
+ 117,
2494
+ 118,
2495
+ 119,
2496
+ 196,
2497
+ 197,
2498
+ 230,
2499
+ 231,
2500
+ 288,
2501
+ 289,
2502
+ 308,
2503
+ 309,
2504
+ 326,
2505
+ 327,
2506
+ 348,
2507
+ 349,
2508
+ 352,
2509
+ 353,
2510
+ 362,
2511
+ 363,
2512
+ 368,
2513
+ 369,
2514
+ 372,
2515
+ 373,
2516
+ 374,
2517
+ 375,
2518
+ 378,
2519
+ 379,
2520
+ 424,
2521
+ 425,
2522
+ 428,
2523
+ 429,
2524
+ 436,
2525
+ 437,
2526
+ 446,
2527
+ 447,
2528
+ 490,
2529
+ 491,
2530
+ 494,
2531
+ 495,
2532
+ 526,
2533
+ 527,
2534
+ 576,
2535
+ 577,
2536
+ 606,
2537
+ 607,
2538
+ 622,
2539
+ 623,
2540
+ 634,
2541
+ 635,
2542
+ 648,
2543
+ 649,
2544
+ 664,
2545
+ 665,
2546
+ 678,
2547
+ 679,
2548
+ 730,
2549
+ 731,
2550
+ 738,
2551
+ 739,
2552
+ 766,
2553
+ 767,
2554
+ 780,
2555
+ 781,
2556
+ 808,
2557
+ 809,
2558
+ 866,
2559
+ 867,
2560
+ 886,
2561
+ 887,
2562
+ 916,
2563
+ 917,
2564
+ 942,
2565
+ 943,
2566
+ 950,
2567
+ 951,
2568
+ 966,
2569
+ 967,
2570
+ 1038,
2571
+ 1039,
2572
+ 1040,
2573
+ 1041,
2574
+ 1082,
2575
+ 1083,
2576
+ 1086,
2577
+ 1087,
2578
+ 1194,
2579
+ 1195,
2580
+ 1210,
2581
+ 1211,
2582
+ 1270,
2583
+ 1271,
2584
+ 1272,
2585
+ 1273,
2586
+ 1288,
2587
+ 1289,
2588
+ 1332,
2589
+ 1333,
2590
+ 1346,
2591
+ 1347,
2592
+ 1406,
2593
+ 1407,
2594
+ 1452,
2595
+ 1453,
2596
+ 1500,
2597
+ 1501,
2598
+ 1504,
2599
+ 1505,
2600
+ 1520,
2601
+ 1521,
2602
+ 1526,
2603
+ 1527,
2604
+ 1578,
2605
+ 1579,
2606
+ 1610,
2607
+ 1611,
2608
+ 1614,
2609
+ 1615,
2610
+ 1632,
2611
+ 1633,
2612
+ 1642,
2613
+ 1643,
2614
+ 1706,
2615
+ 1707,
2616
+ 1748,
2617
+ 1749,
2618
+ 1774,
2619
+ 1775,
2620
+ 1816,
2621
+ 1817,
2622
+ 1824,
2623
+ 1825,
2624
+ 1856,
2625
+ 1857,
2626
+ 1858,
2627
+ 1859,
2628
+ 1884,
2629
+ 1885,
2630
+ 1894,
2631
+ 1895,
2632
+ 1918,
2633
+ 1919,
2634
+ 2022,
2635
+ 2023,
2636
+ 2036,
2637
+ 2037,
2638
+ 2042,
2639
+ 2043,
2640
+ 2096,
2641
+ 2097,
2642
+ 2116,
2643
+ 2117,
2644
+ 2152,
2645
+ 2153,
2646
+ 2164,
2647
+ 2165,
2648
+ 2194,
2649
+ 2195,
2650
+ 2200,
2651
+ 2201,
2652
+ 2314,
2653
+ 2315,
2654
+ 2370,
2655
+ 2371,
2656
+ 2398,
2657
+ 2399,
2658
+ 2404,
2659
+ 2405,
2660
+ 2438,
2661
+ 2439,
2662
+ 2440,
2663
+ 2441,
2664
+ 2520,
2665
+ 2521,
2666
+ 2542,
2667
+ 2543,
2668
+ 2544,
2669
+ 2545,
2670
+ 2576,
2671
+ 2577,
2672
+ 2628,
2673
+ 2629,
2674
+ 2644,
2675
+ 2645,
2676
+ 2650,
2677
+ 2651
2678
+ ],
2679
+ "clean_baseline": 3.3359375,
2680
+ "corrupted_baseline": -3.3359375
2681
+ }
results/mistralai_Mistral-Large-Instruct-2407/Lan/wug/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:82d02dd4feaa9a3a9c49080b7045918a6ecde7fa3d1767ed55ceb192b66935fe
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/Lan/wug/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:7b5fa5249b7036a399023878e2f09eac47622e6e824ca52d7c223aa3036205cb
3
+ size 10139432
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_symbolic/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_symbolic/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.99,
7
+ "corrupted_accuracy": 0.99,
8
+ "both_correct_accuracy": 0.98,
9
+ "n_both_correct": 980,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 9,
20
+ 10,
21
+ 11,
22
+ 12,
23
+ 13,
24
+ 14,
25
+ 15,
26
+ 16,
27
+ 17,
28
+ 18,
29
+ 19,
30
+ 20,
31
+ 21,
32
+ 22,
33
+ 23,
34
+ 24,
35
+ 25,
36
+ 26,
37
+ 27,
38
+ 28,
39
+ 29,
40
+ 30,
41
+ 31,
42
+ 32,
43
+ 33,
44
+ 34,
45
+ 35,
46
+ 36,
47
+ 37,
48
+ 38,
49
+ 39,
50
+ 40,
51
+ 41,
52
+ 42,
53
+ 43,
54
+ 44,
55
+ 45,
56
+ 46,
57
+ 47,
58
+ 48,
59
+ 49,
60
+ 50,
61
+ 51,
62
+ 52,
63
+ 53,
64
+ 54,
65
+ 55,
66
+ 56,
67
+ 57,
68
+ 58,
69
+ 59,
70
+ 60,
71
+ 61,
72
+ 62,
73
+ 63,
74
+ 64,
75
+ 65,
76
+ 66,
77
+ 67,
78
+ 68,
79
+ 69,
80
+ 70,
81
+ 71,
82
+ 72,
83
+ 73,
84
+ 74,
85
+ 75,
86
+ 76,
87
+ 77,
88
+ 78,
89
+ 79,
90
+ 80,
91
+ 81,
92
+ 82,
93
+ 83,
94
+ 84,
95
+ 85,
96
+ 86,
97
+ 87,
98
+ 88,
99
+ 89,
100
+ 90,
101
+ 91,
102
+ 92,
103
+ 93,
104
+ 94,
105
+ 95,
106
+ 96,
107
+ 97,
108
+ 98,
109
+ 99,
110
+ 100,
111
+ 101,
112
+ 102,
113
+ 103,
114
+ 104,
115
+ 105,
116
+ 106,
117
+ 107,
118
+ 108,
119
+ 109,
120
+ 110,
121
+ 112,
122
+ 113,
123
+ 114,
124
+ 115,
125
+ 116,
126
+ 117,
127
+ 118,
128
+ 119,
129
+ 120,
130
+ 121,
131
+ 122,
132
+ 123,
133
+ 124,
134
+ 125,
135
+ 126,
136
+ 127,
137
+ 128,
138
+ 129,
139
+ 130,
140
+ 131,
141
+ 132,
142
+ 133,
143
+ 134,
144
+ 135,
145
+ 136,
146
+ 137,
147
+ 139,
148
+ 140,
149
+ 141,
150
+ 142,
151
+ 143,
152
+ 144,
153
+ 145,
154
+ 146,
155
+ 147,
156
+ 148,
157
+ 149,
158
+ 150,
159
+ 151,
160
+ 152,
161
+ 153,
162
+ 154,
163
+ 155,
164
+ 156,
165
+ 157,
166
+ 158,
167
+ 159,
168
+ 160,
169
+ 161,
170
+ 162,
171
+ 163,
172
+ 164,
173
+ 165,
174
+ 166,
175
+ 167,
176
+ 168,
177
+ 169,
178
+ 170,
179
+ 171,
180
+ 172,
181
+ 173,
182
+ 174,
183
+ 175,
184
+ 176,
185
+ 177,
186
+ 178,
187
+ 179,
188
+ 180,
189
+ 181,
190
+ 182,
191
+ 183,
192
+ 184,
193
+ 185,
194
+ 186,
195
+ 187,
196
+ 188,
197
+ 189,
198
+ 190,
199
+ 191,
200
+ 192,
201
+ 193,
202
+ 194,
203
+ 195,
204
+ 196,
205
+ 197,
206
+ 198,
207
+ 199,
208
+ 200,
209
+ 201,
210
+ 202,
211
+ 203,
212
+ 204,
213
+ 205,
214
+ 206,
215
+ 207,
216
+ 208,
217
+ 209,
218
+ 210,
219
+ 211,
220
+ 212,
221
+ 213,
222
+ 214,
223
+ 215,
224
+ 216,
225
+ 217,
226
+ 218,
227
+ 219,
228
+ 220,
229
+ 221,
230
+ 222,
231
+ 223,
232
+ 224,
233
+ 225,
234
+ 226,
235
+ 227,
236
+ 228,
237
+ 229,
238
+ 231,
239
+ 232,
240
+ 233,
241
+ 234,
242
+ 235,
243
+ 236,
244
+ 237,
245
+ 238,
246
+ 239,
247
+ 240,
248
+ 241,
249
+ 242,
250
+ 243,
251
+ 244,
252
+ 245,
253
+ 246,
254
+ 247,
255
+ 248,
256
+ 249,
257
+ 250,
258
+ 251,
259
+ 252,
260
+ 253,
261
+ 254,
262
+ 255,
263
+ 256,
264
+ 257,
265
+ 258,
266
+ 259,
267
+ 260,
268
+ 261,
269
+ 262,
270
+ 263,
271
+ 264,
272
+ 265,
273
+ 266,
274
+ 268,
275
+ 269,
276
+ 270,
277
+ 271,
278
+ 272,
279
+ 273,
280
+ 274,
281
+ 275,
282
+ 276,
283
+ 277,
284
+ 278,
285
+ 279,
286
+ 280,
287
+ 281,
288
+ 282,
289
+ 283,
290
+ 284,
291
+ 285,
292
+ 286,
293
+ 287,
294
+ 288,
295
+ 289,
296
+ 290,
297
+ 291,
298
+ 292,
299
+ 293,
300
+ 294,
301
+ 295,
302
+ 296,
303
+ 297,
304
+ 298,
305
+ 299,
306
+ 300,
307
+ 301,
308
+ 302,
309
+ 303,
310
+ 304,
311
+ 305,
312
+ 306,
313
+ 307,
314
+ 308,
315
+ 309,
316
+ 310,
317
+ 311,
318
+ 312,
319
+ 313,
320
+ 314,
321
+ 315,
322
+ 316,
323
+ 317,
324
+ 318,
325
+ 319,
326
+ 320,
327
+ 321,
328
+ 322,
329
+ 323,
330
+ 324,
331
+ 325,
332
+ 327,
333
+ 328,
334
+ 329,
335
+ 330,
336
+ 331,
337
+ 332,
338
+ 333,
339
+ 334,
340
+ 335,
341
+ 336,
342
+ 337,
343
+ 338,
344
+ 339,
345
+ 340,
346
+ 341,
347
+ 342,
348
+ 343,
349
+ 344,
350
+ 345,
351
+ 346,
352
+ 347,
353
+ 348,
354
+ 349,
355
+ 350,
356
+ 351,
357
+ 352,
358
+ 353,
359
+ 354,
360
+ 355,
361
+ 356,
362
+ 357,
363
+ 358,
364
+ 359,
365
+ 360,
366
+ 361,
367
+ 362,
368
+ 363,
369
+ 364,
370
+ 365,
371
+ 366,
372
+ 367,
373
+ 368,
374
+ 369,
375
+ 370,
376
+ 371,
377
+ 372,
378
+ 373,
379
+ 374,
380
+ 375,
381
+ 376,
382
+ 377,
383
+ 378,
384
+ 379,
385
+ 380,
386
+ 381,
387
+ 382,
388
+ 383,
389
+ 384,
390
+ 385,
391
+ 386,
392
+ 387,
393
+ 388,
394
+ 389,
395
+ 390,
396
+ 391,
397
+ 392,
398
+ 393,
399
+ 394,
400
+ 395,
401
+ 396,
402
+ 397,
403
+ 398,
404
+ 399,
405
+ 400,
406
+ 401,
407
+ 402,
408
+ 403,
409
+ 404,
410
+ 405,
411
+ 406,
412
+ 407,
413
+ 408,
414
+ 409,
415
+ 410,
416
+ 411,
417
+ 412,
418
+ 413,
419
+ 414,
420
+ 415,
421
+ 416,
422
+ 417,
423
+ 418,
424
+ 419,
425
+ 420,
426
+ 421,
427
+ 422,
428
+ 423,
429
+ 424,
430
+ 425,
431
+ 426,
432
+ 427,
433
+ 428,
434
+ 429,
435
+ 430,
436
+ 431,
437
+ 432,
438
+ 433,
439
+ 434,
440
+ 435,
441
+ 436,
442
+ 437,
443
+ 438,
444
+ 439,
445
+ 440,
446
+ 441,
447
+ 442,
448
+ 443,
449
+ 444,
450
+ 445,
451
+ 446,
452
+ 447,
453
+ 448,
454
+ 449,
455
+ 450,
456
+ 451,
457
+ 452,
458
+ 453,
459
+ 454,
460
+ 455,
461
+ 456,
462
+ 457,
463
+ 458,
464
+ 459,
465
+ 460,
466
+ 461,
467
+ 463,
468
+ 464,
469
+ 465,
470
+ 466,
471
+ 467,
472
+ 468,
473
+ 469,
474
+ 470,
475
+ 472,
476
+ 473,
477
+ 474,
478
+ 475,
479
+ 476,
480
+ 477,
481
+ 478,
482
+ 479,
483
+ 480,
484
+ 481,
485
+ 482,
486
+ 483,
487
+ 484,
488
+ 485,
489
+ 486,
490
+ 487,
491
+ 488,
492
+ 489,
493
+ 490,
494
+ 491,
495
+ 492,
496
+ 493,
497
+ 495,
498
+ 497,
499
+ 499,
500
+ 500,
501
+ 501,
502
+ 502,
503
+ 503,
504
+ 505,
505
+ 506,
506
+ 507,
507
+ 508,
508
+ 509,
509
+ 510,
510
+ 511,
511
+ 512,
512
+ 513,
513
+ 514,
514
+ 515,
515
+ 516,
516
+ 517,
517
+ 518,
518
+ 519,
519
+ 520,
520
+ 521,
521
+ 522,
522
+ 523,
523
+ 524,
524
+ 525,
525
+ 526,
526
+ 527,
527
+ 528,
528
+ 529,
529
+ 530,
530
+ 531,
531
+ 532,
532
+ 533,
533
+ 534,
534
+ 535,
535
+ 536,
536
+ 537,
537
+ 538,
538
+ 539,
539
+ 540,
540
+ 541,
541
+ 542,
542
+ 543,
543
+ 544,
544
+ 545,
545
+ 546,
546
+ 547,
547
+ 548,
548
+ 549,
549
+ 550,
550
+ 551,
551
+ 552,
552
+ 553,
553
+ 554,
554
+ 555,
555
+ 556,
556
+ 557,
557
+ 558,
558
+ 559,
559
+ 560,
560
+ 561,
561
+ 562,
562
+ 563,
563
+ 564,
564
+ 565,
565
+ 566,
566
+ 567,
567
+ 568,
568
+ 569,
569
+ 570,
570
+ 571,
571
+ 572,
572
+ 573,
573
+ 574,
574
+ 575,
575
+ 576,
576
+ 577,
577
+ 578,
578
+ 579,
579
+ 580,
580
+ 581,
581
+ 582,
582
+ 583,
583
+ 584,
584
+ 585,
585
+ 586,
586
+ 587,
587
+ 588,
588
+ 589,
589
+ 590,
590
+ 591,
591
+ 593,
592
+ 594,
593
+ 595,
594
+ 596,
595
+ 597,
596
+ 598,
597
+ 599,
598
+ 600,
599
+ 601,
600
+ 602,
601
+ 603,
602
+ 604,
603
+ 605,
604
+ 606,
605
+ 607,
606
+ 608,
607
+ 609,
608
+ 610,
609
+ 611,
610
+ 612,
611
+ 613,
612
+ 614,
613
+ 615,
614
+ 616,
615
+ 617,
616
+ 618,
617
+ 619,
618
+ 620,
619
+ 621,
620
+ 622,
621
+ 624,
622
+ 625,
623
+ 626,
624
+ 627,
625
+ 628,
626
+ 629,
627
+ 630,
628
+ 631,
629
+ 632,
630
+ 633,
631
+ 634,
632
+ 635,
633
+ 636,
634
+ 637,
635
+ 638,
636
+ 639,
637
+ 640,
638
+ 641,
639
+ 642,
640
+ 643,
641
+ 644,
642
+ 645,
643
+ 646,
644
+ 647,
645
+ 648,
646
+ 649,
647
+ 650,
648
+ 651,
649
+ 652,
650
+ 653,
651
+ 654,
652
+ 655,
653
+ 656,
654
+ 657,
655
+ 658,
656
+ 659,
657
+ 660,
658
+ 661,
659
+ 662,
660
+ 663,
661
+ 664,
662
+ 665,
663
+ 666,
664
+ 667,
665
+ 668,
666
+ 669,
667
+ 670,
668
+ 671,
669
+ 672,
670
+ 673,
671
+ 674,
672
+ 675,
673
+ 676,
674
+ 677,
675
+ 678,
676
+ 679,
677
+ 680,
678
+ 681,
679
+ 682,
680
+ 683,
681
+ 684,
682
+ 685,
683
+ 686,
684
+ 688,
685
+ 689,
686
+ 690,
687
+ 691,
688
+ 692,
689
+ 693,
690
+ 694,
691
+ 695,
692
+ 696,
693
+ 697,
694
+ 698,
695
+ 699,
696
+ 700,
697
+ 701,
698
+ 702,
699
+ 703,
700
+ 704,
701
+ 705,
702
+ 706,
703
+ 707,
704
+ 708,
705
+ 709,
706
+ 710,
707
+ 711,
708
+ 712,
709
+ 713,
710
+ 714,
711
+ 715,
712
+ 716,
713
+ 717,
714
+ 718,
715
+ 719,
716
+ 720,
717
+ 721,
718
+ 722,
719
+ 723,
720
+ 724,
721
+ 725,
722
+ 726,
723
+ 727,
724
+ 728,
725
+ 729,
726
+ 730,
727
+ 731,
728
+ 732,
729
+ 733,
730
+ 734,
731
+ 735,
732
+ 736,
733
+ 737,
734
+ 738,
735
+ 739,
736
+ 740,
737
+ 741,
738
+ 742,
739
+ 743,
740
+ 744,
741
+ 745,
742
+ 746,
743
+ 747,
744
+ 748,
745
+ 749,
746
+ 750,
747
+ 751,
748
+ 752,
749
+ 753,
750
+ 754,
751
+ 755,
752
+ 756,
753
+ 757,
754
+ 758,
755
+ 759,
756
+ 760,
757
+ 761,
758
+ 762,
759
+ 763,
760
+ 765,
761
+ 766,
762
+ 767,
763
+ 768,
764
+ 769,
765
+ 770,
766
+ 771,
767
+ 772,
768
+ 773,
769
+ 774,
770
+ 775,
771
+ 776,
772
+ 777,
773
+ 778,
774
+ 779,
775
+ 780,
776
+ 781,
777
+ 782,
778
+ 783,
779
+ 784,
780
+ 785,
781
+ 786,
782
+ 787,
783
+ 788,
784
+ 789,
785
+ 790,
786
+ 792,
787
+ 793,
788
+ 794,
789
+ 795,
790
+ 796,
791
+ 797,
792
+ 798,
793
+ 799,
794
+ 800,
795
+ 801,
796
+ 802,
797
+ 803,
798
+ 804,
799
+ 805,
800
+ 807,
801
+ 808,
802
+ 809,
803
+ 810,
804
+ 811,
805
+ 812,
806
+ 813,
807
+ 814,
808
+ 815,
809
+ 816,
810
+ 817,
811
+ 818,
812
+ 819,
813
+ 820,
814
+ 821,
815
+ 822,
816
+ 823,
817
+ 824,
818
+ 825,
819
+ 826,
820
+ 827,
821
+ 828,
822
+ 829,
823
+ 830,
824
+ 831,
825
+ 832,
826
+ 833,
827
+ 834,
828
+ 835,
829
+ 836,
830
+ 837,
831
+ 838,
832
+ 839,
833
+ 840,
834
+ 841,
835
+ 842,
836
+ 843,
837
+ 844,
838
+ 845,
839
+ 846,
840
+ 847,
841
+ 848,
842
+ 849,
843
+ 850,
844
+ 851,
845
+ 852,
846
+ 853,
847
+ 854,
848
+ 855,
849
+ 856,
850
+ 857,
851
+ 858,
852
+ 859,
853
+ 860,
854
+ 861,
855
+ 862,
856
+ 863,
857
+ 864,
858
+ 865,
859
+ 866,
860
+ 867,
861
+ 868,
862
+ 869,
863
+ 870,
864
+ 871,
865
+ 872,
866
+ 873,
867
+ 874,
868
+ 876,
869
+ 877,
870
+ 878,
871
+ 879,
872
+ 881,
873
+ 882,
874
+ 883,
875
+ 884,
876
+ 885,
877
+ 886,
878
+ 887,
879
+ 888,
880
+ 889,
881
+ 890,
882
+ 891,
883
+ 892,
884
+ 893,
885
+ 894,
886
+ 895,
887
+ 896,
888
+ 897,
889
+ 898,
890
+ 899,
891
+ 900,
892
+ 901,
893
+ 902,
894
+ 903,
895
+ 904,
896
+ 905,
897
+ 906,
898
+ 907,
899
+ 908,
900
+ 909,
901
+ 910,
902
+ 911,
903
+ 912,
904
+ 913,
905
+ 914,
906
+ 915,
907
+ 916,
908
+ 917,
909
+ 918,
910
+ 919,
911
+ 920,
912
+ 921,
913
+ 922,
914
+ 923,
915
+ 924,
916
+ 925,
917
+ 926,
918
+ 927,
919
+ 928,
920
+ 929,
921
+ 930,
922
+ 931,
923
+ 932,
924
+ 933,
925
+ 934,
926
+ 935,
927
+ 936,
928
+ 937,
929
+ 938,
930
+ 939,
931
+ 940,
932
+ 941,
933
+ 942,
934
+ 943,
935
+ 944,
936
+ 945,
937
+ 946,
938
+ 947,
939
+ 948,
940
+ 949,
941
+ 950,
942
+ 951,
943
+ 952,
944
+ 953,
945
+ 954,
946
+ 955,
947
+ 956,
948
+ 957,
949
+ 958,
950
+ 959,
951
+ 960,
952
+ 961,
953
+ 962,
954
+ 963,
955
+ 964,
956
+ 965,
957
+ 966,
958
+ 967,
959
+ 968,
960
+ 969,
961
+ 970,
962
+ 971,
963
+ 972,
964
+ 973,
965
+ 974,
966
+ 975,
967
+ 976,
968
+ 977,
969
+ 978,
970
+ 979,
971
+ 980,
972
+ 981,
973
+ 982,
974
+ 983,
975
+ 984,
976
+ 985,
977
+ 986,
978
+ 987,
979
+ 988,
980
+ 989,
981
+ 990,
982
+ 991,
983
+ 992,
984
+ 993,
985
+ 994,
986
+ 995,
987
+ 996,
988
+ 997,
989
+ 998,
990
+ 999
991
+ ],
992
+ "not_both_correct_indices": [
993
+ 8,
994
+ 111,
995
+ 138,
996
+ 230,
997
+ 267,
998
+ 326,
999
+ 462,
1000
+ 471,
1001
+ 494,
1002
+ 496,
1003
+ 498,
1004
+ 504,
1005
+ 592,
1006
+ 623,
1007
+ 687,
1008
+ 764,
1009
+ 791,
1010
+ 806,
1011
+ 875,
1012
+ 880
1013
+ ],
1014
+ "clean_baseline": 10.828125,
1015
+ "corrupted_baseline": -10.8203125
1016
+ }
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_symbolic/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:3183770472ddfaa194ba3bba17a6b90a8c174f0de330ed1a94b7c557017e7006
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_symbolic/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a61c1cfeac2002312f91021704ea6b0d3405d4d784219019f823c8557fa77878
3
+ size 10054040
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_verbal/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_verbal/baselines.json ADDED
@@ -0,0 +1,1017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 271,
4
+ "token_misaligned_indices": [
5
+ 2,
6
+ 6,
7
+ 7,
8
+ 9,
9
+ 11,
10
+ 23,
11
+ 24,
12
+ 26,
13
+ 29,
14
+ 30,
15
+ 32,
16
+ 34,
17
+ 35,
18
+ 36,
19
+ 37,
20
+ 40,
21
+ 41,
22
+ 42,
23
+ 56,
24
+ 64,
25
+ 78,
26
+ 80,
27
+ 82,
28
+ 83,
29
+ 87,
30
+ 89,
31
+ 93,
32
+ 96,
33
+ 100,
34
+ 102,
35
+ 103,
36
+ 105,
37
+ 108,
38
+ 109,
39
+ 118,
40
+ 119,
41
+ 120,
42
+ 123,
43
+ 125,
44
+ 126,
45
+ 135,
46
+ 138,
47
+ 139,
48
+ 170,
49
+ 174,
50
+ 175,
51
+ 177,
52
+ 178,
53
+ 179,
54
+ 186,
55
+ 196,
56
+ 198,
57
+ 205,
58
+ 213,
59
+ 214,
60
+ 215,
61
+ 216,
62
+ 218,
63
+ 220,
64
+ 222,
65
+ 223,
66
+ 225,
67
+ 228,
68
+ 231,
69
+ 233,
70
+ 235,
71
+ 247,
72
+ 249,
73
+ 254,
74
+ 258,
75
+ 259,
76
+ 263,
77
+ 264,
78
+ 271,
79
+ 272,
80
+ 277,
81
+ 281,
82
+ 287,
83
+ 289,
84
+ 290,
85
+ 294,
86
+ 298,
87
+ 304,
88
+ 307,
89
+ 312,
90
+ 319,
91
+ 321,
92
+ 336,
93
+ 338,
94
+ 340,
95
+ 343,
96
+ 352,
97
+ 354,
98
+ 355,
99
+ 362,
100
+ 364,
101
+ 370,
102
+ 371,
103
+ 375,
104
+ 379,
105
+ 380,
106
+ 384,
107
+ 387,
108
+ 393,
109
+ 403,
110
+ 405,
111
+ 408,
112
+ 410,
113
+ 414,
114
+ 418,
115
+ 434,
116
+ 435,
117
+ 437,
118
+ 439,
119
+ 441,
120
+ 443,
121
+ 448,
122
+ 451,
123
+ 452,
124
+ 458,
125
+ 468,
126
+ 469,
127
+ 470,
128
+ 473,
129
+ 474,
130
+ 475,
131
+ 482,
132
+ 489,
133
+ 490,
134
+ 491,
135
+ 493,
136
+ 496,
137
+ 498,
138
+ 507,
139
+ 514,
140
+ 523,
141
+ 526,
142
+ 531,
143
+ 533,
144
+ 538,
145
+ 539,
146
+ 552,
147
+ 558,
148
+ 562,
149
+ 565,
150
+ 570,
151
+ 573,
152
+ 577,
153
+ 578,
154
+ 579,
155
+ 582,
156
+ 595,
157
+ 596,
158
+ 599,
159
+ 600,
160
+ 605,
161
+ 613,
162
+ 614,
163
+ 622,
164
+ 629,
165
+ 630,
166
+ 631,
167
+ 632,
168
+ 633,
169
+ 635,
170
+ 636,
171
+ 637,
172
+ 640,
173
+ 643,
174
+ 644,
175
+ 648,
176
+ 653,
177
+ 655,
178
+ 657,
179
+ 662,
180
+ 663,
181
+ 666,
182
+ 667,
183
+ 668,
184
+ 669,
185
+ 670,
186
+ 675,
187
+ 676,
188
+ 678,
189
+ 684,
190
+ 690,
191
+ 693,
192
+ 695,
193
+ 699,
194
+ 701,
195
+ 703,
196
+ 707,
197
+ 710,
198
+ 713,
199
+ 717,
200
+ 723,
201
+ 727,
202
+ 735,
203
+ 737,
204
+ 746,
205
+ 747,
206
+ 750,
207
+ 757,
208
+ 758,
209
+ 771,
210
+ 776,
211
+ 782,
212
+ 784,
213
+ 787,
214
+ 788,
215
+ 791,
216
+ 795,
217
+ 797,
218
+ 799,
219
+ 804,
220
+ 810,
221
+ 811,
222
+ 813,
223
+ 818,
224
+ 822,
225
+ 825,
226
+ 829,
227
+ 832,
228
+ 833,
229
+ 834,
230
+ 837,
231
+ 842,
232
+ 844,
233
+ 845,
234
+ 856,
235
+ 857,
236
+ 858,
237
+ 859,
238
+ 860,
239
+ 861,
240
+ 867,
241
+ 868,
242
+ 876,
243
+ 883,
244
+ 888,
245
+ 889,
246
+ 890,
247
+ 891,
248
+ 895,
249
+ 903,
250
+ 909,
251
+ 912,
252
+ 919,
253
+ 928,
254
+ 931,
255
+ 935,
256
+ 936,
257
+ 938,
258
+ 940,
259
+ 941,
260
+ 953,
261
+ 958,
262
+ 962,
263
+ 964,
264
+ 966,
265
+ 967,
266
+ 971,
267
+ 973,
268
+ 974,
269
+ 977,
270
+ 982,
271
+ 985,
272
+ 991,
273
+ 993,
274
+ 994,
275
+ 996
276
+ ],
277
+ "n_after_alignment_filter": 729,
278
+ "clean_accuracy": 0.953360768175583,
279
+ "corrupted_accuracy": 0.953360768175583,
280
+ "both_correct_accuracy": 0.9080932784636488,
281
+ "n_both_correct": 662,
282
+ "both_correct_indices": [
283
+ 0,
284
+ 1,
285
+ 3,
286
+ 4,
287
+ 8,
288
+ 12,
289
+ 13,
290
+ 14,
291
+ 15,
292
+ 16,
293
+ 17,
294
+ 18,
295
+ 19,
296
+ 20,
297
+ 21,
298
+ 22,
299
+ 25,
300
+ 27,
301
+ 28,
302
+ 31,
303
+ 33,
304
+ 38,
305
+ 39,
306
+ 43,
307
+ 44,
308
+ 45,
309
+ 46,
310
+ 47,
311
+ 48,
312
+ 49,
313
+ 50,
314
+ 51,
315
+ 52,
316
+ 54,
317
+ 55,
318
+ 57,
319
+ 58,
320
+ 59,
321
+ 60,
322
+ 63,
323
+ 65,
324
+ 66,
325
+ 67,
326
+ 68,
327
+ 69,
328
+ 70,
329
+ 71,
330
+ 72,
331
+ 73,
332
+ 74,
333
+ 75,
334
+ 76,
335
+ 77,
336
+ 79,
337
+ 81,
338
+ 84,
339
+ 85,
340
+ 86,
341
+ 88,
342
+ 90,
343
+ 91,
344
+ 92,
345
+ 94,
346
+ 95,
347
+ 97,
348
+ 98,
349
+ 99,
350
+ 101,
351
+ 104,
352
+ 106,
353
+ 107,
354
+ 110,
355
+ 111,
356
+ 112,
357
+ 113,
358
+ 114,
359
+ 115,
360
+ 116,
361
+ 117,
362
+ 121,
363
+ 122,
364
+ 124,
365
+ 128,
366
+ 130,
367
+ 131,
368
+ 132,
369
+ 133,
370
+ 134,
371
+ 136,
372
+ 137,
373
+ 140,
374
+ 141,
375
+ 142,
376
+ 143,
377
+ 144,
378
+ 145,
379
+ 147,
380
+ 148,
381
+ 149,
382
+ 150,
383
+ 151,
384
+ 152,
385
+ 153,
386
+ 154,
387
+ 155,
388
+ 156,
389
+ 157,
390
+ 158,
391
+ 159,
392
+ 160,
393
+ 161,
394
+ 162,
395
+ 163,
396
+ 164,
397
+ 165,
398
+ 168,
399
+ 169,
400
+ 171,
401
+ 172,
402
+ 173,
403
+ 176,
404
+ 180,
405
+ 181,
406
+ 182,
407
+ 183,
408
+ 184,
409
+ 185,
410
+ 187,
411
+ 188,
412
+ 189,
413
+ 190,
414
+ 191,
415
+ 192,
416
+ 193,
417
+ 194,
418
+ 195,
419
+ 197,
420
+ 199,
421
+ 200,
422
+ 201,
423
+ 202,
424
+ 203,
425
+ 204,
426
+ 206,
427
+ 207,
428
+ 208,
429
+ 209,
430
+ 210,
431
+ 211,
432
+ 212,
433
+ 217,
434
+ 219,
435
+ 221,
436
+ 224,
437
+ 226,
438
+ 227,
439
+ 229,
440
+ 230,
441
+ 232,
442
+ 234,
443
+ 236,
444
+ 237,
445
+ 238,
446
+ 239,
447
+ 240,
448
+ 241,
449
+ 242,
450
+ 243,
451
+ 244,
452
+ 245,
453
+ 248,
454
+ 251,
455
+ 252,
456
+ 253,
457
+ 255,
458
+ 256,
459
+ 257,
460
+ 260,
461
+ 261,
462
+ 262,
463
+ 265,
464
+ 266,
465
+ 267,
466
+ 268,
467
+ 269,
468
+ 270,
469
+ 273,
470
+ 274,
471
+ 275,
472
+ 276,
473
+ 279,
474
+ 280,
475
+ 283,
476
+ 284,
477
+ 288,
478
+ 292,
479
+ 293,
480
+ 297,
481
+ 300,
482
+ 301,
483
+ 302,
484
+ 303,
485
+ 305,
486
+ 306,
487
+ 308,
488
+ 309,
489
+ 310,
490
+ 311,
491
+ 313,
492
+ 314,
493
+ 315,
494
+ 316,
495
+ 317,
496
+ 318,
497
+ 320,
498
+ 322,
499
+ 323,
500
+ 324,
501
+ 325,
502
+ 326,
503
+ 328,
504
+ 329,
505
+ 330,
506
+ 331,
507
+ 334,
508
+ 335,
509
+ 337,
510
+ 341,
511
+ 342,
512
+ 345,
513
+ 346,
514
+ 347,
515
+ 348,
516
+ 349,
517
+ 350,
518
+ 351,
519
+ 353,
520
+ 356,
521
+ 357,
522
+ 358,
523
+ 359,
524
+ 360,
525
+ 361,
526
+ 363,
527
+ 366,
528
+ 367,
529
+ 368,
530
+ 369,
531
+ 372,
532
+ 373,
533
+ 374,
534
+ 376,
535
+ 377,
536
+ 378,
537
+ 381,
538
+ 382,
539
+ 383,
540
+ 385,
541
+ 386,
542
+ 389,
543
+ 390,
544
+ 391,
545
+ 392,
546
+ 394,
547
+ 396,
548
+ 397,
549
+ 398,
550
+ 399,
551
+ 400,
552
+ 401,
553
+ 402,
554
+ 404,
555
+ 406,
556
+ 407,
557
+ 409,
558
+ 411,
559
+ 412,
560
+ 413,
561
+ 415,
562
+ 416,
563
+ 417,
564
+ 419,
565
+ 420,
566
+ 421,
567
+ 422,
568
+ 423,
569
+ 424,
570
+ 425,
571
+ 426,
572
+ 427,
573
+ 428,
574
+ 429,
575
+ 430,
576
+ 431,
577
+ 432,
578
+ 433,
579
+ 438,
580
+ 440,
581
+ 442,
582
+ 444,
583
+ 445,
584
+ 446,
585
+ 447,
586
+ 449,
587
+ 450,
588
+ 453,
589
+ 454,
590
+ 455,
591
+ 456,
592
+ 457,
593
+ 460,
594
+ 461,
595
+ 462,
596
+ 463,
597
+ 464,
598
+ 465,
599
+ 466,
600
+ 467,
601
+ 471,
602
+ 472,
603
+ 476,
604
+ 477,
605
+ 478,
606
+ 479,
607
+ 480,
608
+ 481,
609
+ 483,
610
+ 484,
611
+ 485,
612
+ 486,
613
+ 487,
614
+ 488,
615
+ 492,
616
+ 494,
617
+ 495,
618
+ 497,
619
+ 499,
620
+ 500,
621
+ 501,
622
+ 502,
623
+ 503,
624
+ 504,
625
+ 505,
626
+ 506,
627
+ 508,
628
+ 509,
629
+ 510,
630
+ 511,
631
+ 512,
632
+ 513,
633
+ 515,
634
+ 516,
635
+ 517,
636
+ 518,
637
+ 519,
638
+ 520,
639
+ 521,
640
+ 522,
641
+ 524,
642
+ 525,
643
+ 527,
644
+ 528,
645
+ 529,
646
+ 530,
647
+ 532,
648
+ 535,
649
+ 536,
650
+ 537,
651
+ 540,
652
+ 541,
653
+ 542,
654
+ 543,
655
+ 544,
656
+ 545,
657
+ 546,
658
+ 547,
659
+ 548,
660
+ 549,
661
+ 550,
662
+ 551,
663
+ 553,
664
+ 554,
665
+ 555,
666
+ 556,
667
+ 557,
668
+ 559,
669
+ 560,
670
+ 561,
671
+ 563,
672
+ 564,
673
+ 566,
674
+ 567,
675
+ 568,
676
+ 571,
677
+ 572,
678
+ 574,
679
+ 575,
680
+ 576,
681
+ 581,
682
+ 584,
683
+ 585,
684
+ 590,
685
+ 591,
686
+ 592,
687
+ 593,
688
+ 594,
689
+ 597,
690
+ 598,
691
+ 601,
692
+ 602,
693
+ 603,
694
+ 604,
695
+ 607,
696
+ 608,
697
+ 609,
698
+ 610,
699
+ 611,
700
+ 612,
701
+ 615,
702
+ 616,
703
+ 617,
704
+ 618,
705
+ 619,
706
+ 620,
707
+ 621,
708
+ 623,
709
+ 624,
710
+ 625,
711
+ 626,
712
+ 627,
713
+ 628,
714
+ 634,
715
+ 638,
716
+ 639,
717
+ 642,
718
+ 645,
719
+ 646,
720
+ 647,
721
+ 649,
722
+ 650,
723
+ 652,
724
+ 654,
725
+ 659,
726
+ 660,
727
+ 661,
728
+ 664,
729
+ 665,
730
+ 671,
731
+ 672,
732
+ 673,
733
+ 674,
734
+ 677,
735
+ 679,
736
+ 680,
737
+ 681,
738
+ 682,
739
+ 683,
740
+ 685,
741
+ 686,
742
+ 687,
743
+ 688,
744
+ 689,
745
+ 691,
746
+ 694,
747
+ 696,
748
+ 697,
749
+ 698,
750
+ 700,
751
+ 702,
752
+ 704,
753
+ 705,
754
+ 706,
755
+ 708,
756
+ 709,
757
+ 711,
758
+ 712,
759
+ 714,
760
+ 715,
761
+ 716,
762
+ 718,
763
+ 720,
764
+ 721,
765
+ 722,
766
+ 724,
767
+ 725,
768
+ 726,
769
+ 728,
770
+ 729,
771
+ 730,
772
+ 731,
773
+ 732,
774
+ 733,
775
+ 734,
776
+ 736,
777
+ 738,
778
+ 739,
779
+ 740,
780
+ 741,
781
+ 742,
782
+ 743,
783
+ 745,
784
+ 748,
785
+ 749,
786
+ 751,
787
+ 752,
788
+ 753,
789
+ 754,
790
+ 755,
791
+ 756,
792
+ 759,
793
+ 760,
794
+ 761,
795
+ 762,
796
+ 763,
797
+ 764,
798
+ 765,
799
+ 766,
800
+ 767,
801
+ 768,
802
+ 770,
803
+ 773,
804
+ 774,
805
+ 775,
806
+ 777,
807
+ 778,
808
+ 779,
809
+ 780,
810
+ 781,
811
+ 783,
812
+ 785,
813
+ 786,
814
+ 789,
815
+ 790,
816
+ 792,
817
+ 793,
818
+ 794,
819
+ 796,
820
+ 798,
821
+ 800,
822
+ 802,
823
+ 803,
824
+ 805,
825
+ 806,
826
+ 807,
827
+ 808,
828
+ 809,
829
+ 812,
830
+ 814,
831
+ 815,
832
+ 816,
833
+ 817,
834
+ 819,
835
+ 820,
836
+ 821,
837
+ 823,
838
+ 824,
839
+ 826,
840
+ 827,
841
+ 828,
842
+ 830,
843
+ 831,
844
+ 835,
845
+ 836,
846
+ 838,
847
+ 839,
848
+ 843,
849
+ 846,
850
+ 847,
851
+ 848,
852
+ 849,
853
+ 850,
854
+ 851,
855
+ 852,
856
+ 854,
857
+ 862,
858
+ 863,
859
+ 864,
860
+ 865,
861
+ 866,
862
+ 870,
863
+ 871,
864
+ 872,
865
+ 873,
866
+ 874,
867
+ 875,
868
+ 877,
869
+ 879,
870
+ 880,
871
+ 881,
872
+ 882,
873
+ 884,
874
+ 885,
875
+ 886,
876
+ 887,
877
+ 892,
878
+ 893,
879
+ 894,
880
+ 896,
881
+ 897,
882
+ 900,
883
+ 901,
884
+ 902,
885
+ 904,
886
+ 905,
887
+ 906,
888
+ 908,
889
+ 911,
890
+ 913,
891
+ 914,
892
+ 915,
893
+ 916,
894
+ 917,
895
+ 918,
896
+ 920,
897
+ 921,
898
+ 922,
899
+ 923,
900
+ 924,
901
+ 926,
902
+ 927,
903
+ 929,
904
+ 930,
905
+ 932,
906
+ 934,
907
+ 937,
908
+ 942,
909
+ 943,
910
+ 944,
911
+ 945,
912
+ 946,
913
+ 947,
914
+ 948,
915
+ 949,
916
+ 950,
917
+ 951,
918
+ 952,
919
+ 954,
920
+ 955,
921
+ 956,
922
+ 959,
923
+ 961,
924
+ 963,
925
+ 965,
926
+ 968,
927
+ 969,
928
+ 970,
929
+ 975,
930
+ 976,
931
+ 979,
932
+ 980,
933
+ 981,
934
+ 983,
935
+ 984,
936
+ 986,
937
+ 987,
938
+ 988,
939
+ 990,
940
+ 992,
941
+ 995,
942
+ 997,
943
+ 998,
944
+ 999
945
+ ],
946
+ "not_both_correct_indices": [
947
+ 5,
948
+ 10,
949
+ 53,
950
+ 61,
951
+ 62,
952
+ 127,
953
+ 129,
954
+ 146,
955
+ 166,
956
+ 167,
957
+ 246,
958
+ 250,
959
+ 278,
960
+ 282,
961
+ 285,
962
+ 286,
963
+ 291,
964
+ 295,
965
+ 296,
966
+ 299,
967
+ 327,
968
+ 332,
969
+ 333,
970
+ 339,
971
+ 344,
972
+ 365,
973
+ 388,
974
+ 395,
975
+ 436,
976
+ 459,
977
+ 534,
978
+ 569,
979
+ 580,
980
+ 583,
981
+ 586,
982
+ 587,
983
+ 588,
984
+ 589,
985
+ 606,
986
+ 641,
987
+ 651,
988
+ 656,
989
+ 658,
990
+ 692,
991
+ 719,
992
+ 744,
993
+ 769,
994
+ 772,
995
+ 801,
996
+ 840,
997
+ 841,
998
+ 853,
999
+ 855,
1000
+ 869,
1001
+ 878,
1002
+ 898,
1003
+ 899,
1004
+ 907,
1005
+ 910,
1006
+ 925,
1007
+ 933,
1008
+ 939,
1009
+ 957,
1010
+ 960,
1011
+ 972,
1012
+ 978,
1013
+ 989
1014
+ ],
1015
+ "clean_baseline": 12.671875,
1016
+ "corrupted_baseline": -12.6875
1017
+ }
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_verbal/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a64456b890487609df457e2e5c80524ce1ee632cb0ae711205c89873adfc4348
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_2op_verbal/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:77f55273e88449c806eb74b4545ce7627fbd7b17fdae0c2bf775f730cfbe5417
3
+ size 10087936
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_symbolic/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_symbolic/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.974,
7
+ "corrupted_accuracy": 0.985,
8
+ "both_correct_accuracy": 0.961,
9
+ "n_both_correct": 961,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 65,
76
+ 66,
77
+ 67,
78
+ 68,
79
+ 69,
80
+ 70,
81
+ 71,
82
+ 72,
83
+ 74,
84
+ 75,
85
+ 76,
86
+ 77,
87
+ 78,
88
+ 79,
89
+ 80,
90
+ 82,
91
+ 83,
92
+ 84,
93
+ 85,
94
+ 86,
95
+ 87,
96
+ 88,
97
+ 89,
98
+ 90,
99
+ 91,
100
+ 92,
101
+ 93,
102
+ 94,
103
+ 95,
104
+ 96,
105
+ 97,
106
+ 98,
107
+ 99,
108
+ 100,
109
+ 101,
110
+ 102,
111
+ 103,
112
+ 104,
113
+ 105,
114
+ 106,
115
+ 107,
116
+ 108,
117
+ 109,
118
+ 110,
119
+ 111,
120
+ 113,
121
+ 114,
122
+ 115,
123
+ 116,
124
+ 117,
125
+ 118,
126
+ 119,
127
+ 120,
128
+ 121,
129
+ 123,
130
+ 124,
131
+ 125,
132
+ 126,
133
+ 127,
134
+ 128,
135
+ 129,
136
+ 130,
137
+ 131,
138
+ 132,
139
+ 133,
140
+ 134,
141
+ 135,
142
+ 136,
143
+ 137,
144
+ 138,
145
+ 139,
146
+ 140,
147
+ 141,
148
+ 142,
149
+ 143,
150
+ 144,
151
+ 145,
152
+ 146,
153
+ 147,
154
+ 148,
155
+ 149,
156
+ 150,
157
+ 151,
158
+ 152,
159
+ 153,
160
+ 154,
161
+ 155,
162
+ 156,
163
+ 157,
164
+ 158,
165
+ 159,
166
+ 160,
167
+ 161,
168
+ 162,
169
+ 163,
170
+ 164,
171
+ 165,
172
+ 166,
173
+ 167,
174
+ 168,
175
+ 169,
176
+ 170,
177
+ 171,
178
+ 172,
179
+ 173,
180
+ 174,
181
+ 175,
182
+ 177,
183
+ 178,
184
+ 179,
185
+ 180,
186
+ 181,
187
+ 182,
188
+ 183,
189
+ 184,
190
+ 185,
191
+ 186,
192
+ 187,
193
+ 188,
194
+ 189,
195
+ 190,
196
+ 191,
197
+ 192,
198
+ 193,
199
+ 194,
200
+ 195,
201
+ 196,
202
+ 197,
203
+ 198,
204
+ 199,
205
+ 200,
206
+ 201,
207
+ 202,
208
+ 203,
209
+ 204,
210
+ 205,
211
+ 206,
212
+ 207,
213
+ 208,
214
+ 209,
215
+ 211,
216
+ 212,
217
+ 213,
218
+ 214,
219
+ 215,
220
+ 216,
221
+ 217,
222
+ 218,
223
+ 219,
224
+ 220,
225
+ 221,
226
+ 222,
227
+ 223,
228
+ 224,
229
+ 225,
230
+ 226,
231
+ 227,
232
+ 228,
233
+ 229,
234
+ 230,
235
+ 231,
236
+ 232,
237
+ 233,
238
+ 234,
239
+ 235,
240
+ 236,
241
+ 237,
242
+ 238,
243
+ 239,
244
+ 240,
245
+ 241,
246
+ 242,
247
+ 243,
248
+ 244,
249
+ 245,
250
+ 246,
251
+ 247,
252
+ 248,
253
+ 249,
254
+ 250,
255
+ 251,
256
+ 252,
257
+ 253,
258
+ 254,
259
+ 255,
260
+ 256,
261
+ 257,
262
+ 258,
263
+ 259,
264
+ 260,
265
+ 261,
266
+ 262,
267
+ 263,
268
+ 264,
269
+ 265,
270
+ 266,
271
+ 267,
272
+ 268,
273
+ 269,
274
+ 270,
275
+ 271,
276
+ 272,
277
+ 273,
278
+ 274,
279
+ 275,
280
+ 276,
281
+ 277,
282
+ 278,
283
+ 279,
284
+ 280,
285
+ 281,
286
+ 282,
287
+ 283,
288
+ 284,
289
+ 285,
290
+ 287,
291
+ 288,
292
+ 290,
293
+ 291,
294
+ 292,
295
+ 293,
296
+ 294,
297
+ 295,
298
+ 296,
299
+ 297,
300
+ 298,
301
+ 299,
302
+ 300,
303
+ 301,
304
+ 302,
305
+ 303,
306
+ 304,
307
+ 305,
308
+ 306,
309
+ 307,
310
+ 308,
311
+ 309,
312
+ 310,
313
+ 312,
314
+ 313,
315
+ 314,
316
+ 315,
317
+ 316,
318
+ 317,
319
+ 318,
320
+ 319,
321
+ 320,
322
+ 321,
323
+ 322,
324
+ 323,
325
+ 324,
326
+ 326,
327
+ 327,
328
+ 328,
329
+ 329,
330
+ 330,
331
+ 331,
332
+ 332,
333
+ 333,
334
+ 334,
335
+ 336,
336
+ 337,
337
+ 338,
338
+ 339,
339
+ 340,
340
+ 341,
341
+ 342,
342
+ 343,
343
+ 344,
344
+ 345,
345
+ 346,
346
+ 347,
347
+ 348,
348
+ 349,
349
+ 350,
350
+ 351,
351
+ 352,
352
+ 354,
353
+ 355,
354
+ 357,
355
+ 358,
356
+ 359,
357
+ 360,
358
+ 361,
359
+ 363,
360
+ 364,
361
+ 365,
362
+ 366,
363
+ 367,
364
+ 368,
365
+ 369,
366
+ 370,
367
+ 371,
368
+ 372,
369
+ 373,
370
+ 374,
371
+ 375,
372
+ 376,
373
+ 377,
374
+ 378,
375
+ 379,
376
+ 380,
377
+ 381,
378
+ 382,
379
+ 383,
380
+ 384,
381
+ 385,
382
+ 386,
383
+ 387,
384
+ 388,
385
+ 389,
386
+ 390,
387
+ 391,
388
+ 392,
389
+ 393,
390
+ 394,
391
+ 395,
392
+ 396,
393
+ 397,
394
+ 398,
395
+ 399,
396
+ 400,
397
+ 401,
398
+ 402,
399
+ 403,
400
+ 404,
401
+ 405,
402
+ 406,
403
+ 407,
404
+ 409,
405
+ 410,
406
+ 411,
407
+ 412,
408
+ 413,
409
+ 414,
410
+ 415,
411
+ 416,
412
+ 417,
413
+ 418,
414
+ 419,
415
+ 420,
416
+ 421,
417
+ 422,
418
+ 423,
419
+ 424,
420
+ 425,
421
+ 426,
422
+ 427,
423
+ 428,
424
+ 429,
425
+ 430,
426
+ 431,
427
+ 432,
428
+ 433,
429
+ 434,
430
+ 435,
431
+ 436,
432
+ 437,
433
+ 438,
434
+ 439,
435
+ 440,
436
+ 441,
437
+ 442,
438
+ 443,
439
+ 444,
440
+ 445,
441
+ 446,
442
+ 447,
443
+ 448,
444
+ 449,
445
+ 450,
446
+ 451,
447
+ 452,
448
+ 453,
449
+ 454,
450
+ 455,
451
+ 456,
452
+ 457,
453
+ 458,
454
+ 459,
455
+ 460,
456
+ 461,
457
+ 462,
458
+ 463,
459
+ 464,
460
+ 465,
461
+ 466,
462
+ 467,
463
+ 468,
464
+ 469,
465
+ 470,
466
+ 471,
467
+ 472,
468
+ 473,
469
+ 474,
470
+ 475,
471
+ 476,
472
+ 477,
473
+ 478,
474
+ 479,
475
+ 480,
476
+ 481,
477
+ 482,
478
+ 483,
479
+ 484,
480
+ 485,
481
+ 486,
482
+ 487,
483
+ 488,
484
+ 489,
485
+ 490,
486
+ 491,
487
+ 492,
488
+ 493,
489
+ 494,
490
+ 495,
491
+ 496,
492
+ 497,
493
+ 498,
494
+ 499,
495
+ 500,
496
+ 501,
497
+ 502,
498
+ 503,
499
+ 504,
500
+ 505,
501
+ 506,
502
+ 507,
503
+ 508,
504
+ 509,
505
+ 510,
506
+ 511,
507
+ 512,
508
+ 514,
509
+ 515,
510
+ 516,
511
+ 517,
512
+ 518,
513
+ 519,
514
+ 520,
515
+ 521,
516
+ 522,
517
+ 523,
518
+ 524,
519
+ 525,
520
+ 527,
521
+ 529,
522
+ 530,
523
+ 531,
524
+ 532,
525
+ 533,
526
+ 534,
527
+ 535,
528
+ 536,
529
+ 537,
530
+ 538,
531
+ 539,
532
+ 540,
533
+ 541,
534
+ 542,
535
+ 543,
536
+ 544,
537
+ 545,
538
+ 546,
539
+ 547,
540
+ 548,
541
+ 549,
542
+ 550,
543
+ 551,
544
+ 552,
545
+ 553,
546
+ 554,
547
+ 555,
548
+ 556,
549
+ 557,
550
+ 558,
551
+ 559,
552
+ 560,
553
+ 561,
554
+ 562,
555
+ 563,
556
+ 564,
557
+ 565,
558
+ 566,
559
+ 567,
560
+ 568,
561
+ 569,
562
+ 570,
563
+ 571,
564
+ 572,
565
+ 573,
566
+ 574,
567
+ 575,
568
+ 576,
569
+ 577,
570
+ 578,
571
+ 579,
572
+ 580,
573
+ 581,
574
+ 582,
575
+ 583,
576
+ 584,
577
+ 585,
578
+ 586,
579
+ 587,
580
+ 588,
581
+ 589,
582
+ 590,
583
+ 591,
584
+ 594,
585
+ 595,
586
+ 596,
587
+ 597,
588
+ 599,
589
+ 600,
590
+ 601,
591
+ 602,
592
+ 603,
593
+ 604,
594
+ 605,
595
+ 606,
596
+ 607,
597
+ 608,
598
+ 609,
599
+ 610,
600
+ 611,
601
+ 612,
602
+ 613,
603
+ 614,
604
+ 615,
605
+ 616,
606
+ 617,
607
+ 618,
608
+ 619,
609
+ 620,
610
+ 621,
611
+ 622,
612
+ 623,
613
+ 624,
614
+ 625,
615
+ 626,
616
+ 627,
617
+ 629,
618
+ 630,
619
+ 631,
620
+ 632,
621
+ 633,
622
+ 634,
623
+ 635,
624
+ 636,
625
+ 637,
626
+ 638,
627
+ 639,
628
+ 640,
629
+ 641,
630
+ 642,
631
+ 643,
632
+ 644,
633
+ 645,
634
+ 646,
635
+ 647,
636
+ 648,
637
+ 649,
638
+ 650,
639
+ 651,
640
+ 652,
641
+ 653,
642
+ 654,
643
+ 655,
644
+ 656,
645
+ 657,
646
+ 658,
647
+ 659,
648
+ 660,
649
+ 661,
650
+ 662,
651
+ 663,
652
+ 664,
653
+ 665,
654
+ 666,
655
+ 667,
656
+ 668,
657
+ 669,
658
+ 670,
659
+ 671,
660
+ 672,
661
+ 673,
662
+ 674,
663
+ 675,
664
+ 676,
665
+ 677,
666
+ 678,
667
+ 679,
668
+ 680,
669
+ 681,
670
+ 682,
671
+ 683,
672
+ 684,
673
+ 685,
674
+ 686,
675
+ 687,
676
+ 688,
677
+ 689,
678
+ 690,
679
+ 691,
680
+ 692,
681
+ 693,
682
+ 694,
683
+ 696,
684
+ 697,
685
+ 698,
686
+ 699,
687
+ 701,
688
+ 702,
689
+ 703,
690
+ 704,
691
+ 705,
692
+ 706,
693
+ 707,
694
+ 708,
695
+ 709,
696
+ 710,
697
+ 711,
698
+ 712,
699
+ 713,
700
+ 714,
701
+ 715,
702
+ 716,
703
+ 717,
704
+ 718,
705
+ 719,
706
+ 720,
707
+ 721,
708
+ 722,
709
+ 723,
710
+ 724,
711
+ 725,
712
+ 726,
713
+ 727,
714
+ 728,
715
+ 729,
716
+ 730,
717
+ 731,
718
+ 732,
719
+ 733,
720
+ 734,
721
+ 735,
722
+ 736,
723
+ 737,
724
+ 738,
725
+ 739,
726
+ 740,
727
+ 741,
728
+ 742,
729
+ 743,
730
+ 744,
731
+ 745,
732
+ 746,
733
+ 747,
734
+ 748,
735
+ 749,
736
+ 750,
737
+ 751,
738
+ 752,
739
+ 753,
740
+ 754,
741
+ 755,
742
+ 756,
743
+ 757,
744
+ 758,
745
+ 759,
746
+ 760,
747
+ 761,
748
+ 762,
749
+ 763,
750
+ 764,
751
+ 765,
752
+ 766,
753
+ 767,
754
+ 768,
755
+ 769,
756
+ 770,
757
+ 771,
758
+ 772,
759
+ 773,
760
+ 774,
761
+ 775,
762
+ 776,
763
+ 777,
764
+ 779,
765
+ 780,
766
+ 781,
767
+ 782,
768
+ 783,
769
+ 785,
770
+ 786,
771
+ 787,
772
+ 788,
773
+ 789,
774
+ 790,
775
+ 791,
776
+ 792,
777
+ 793,
778
+ 794,
779
+ 795,
780
+ 796,
781
+ 797,
782
+ 798,
783
+ 799,
784
+ 800,
785
+ 801,
786
+ 802,
787
+ 803,
788
+ 804,
789
+ 805,
790
+ 806,
791
+ 807,
792
+ 808,
793
+ 809,
794
+ 810,
795
+ 812,
796
+ 813,
797
+ 814,
798
+ 815,
799
+ 816,
800
+ 817,
801
+ 818,
802
+ 819,
803
+ 820,
804
+ 821,
805
+ 822,
806
+ 823,
807
+ 824,
808
+ 825,
809
+ 826,
810
+ 827,
811
+ 828,
812
+ 829,
813
+ 830,
814
+ 831,
815
+ 832,
816
+ 833,
817
+ 834,
818
+ 835,
819
+ 836,
820
+ 838,
821
+ 839,
822
+ 840,
823
+ 841,
824
+ 843,
825
+ 844,
826
+ 845,
827
+ 846,
828
+ 847,
829
+ 848,
830
+ 849,
831
+ 850,
832
+ 851,
833
+ 853,
834
+ 854,
835
+ 855,
836
+ 856,
837
+ 857,
838
+ 858,
839
+ 859,
840
+ 861,
841
+ 862,
842
+ 863,
843
+ 864,
844
+ 865,
845
+ 866,
846
+ 867,
847
+ 868,
848
+ 869,
849
+ 870,
850
+ 871,
851
+ 872,
852
+ 873,
853
+ 874,
854
+ 875,
855
+ 876,
856
+ 877,
857
+ 878,
858
+ 879,
859
+ 880,
860
+ 881,
861
+ 882,
862
+ 883,
863
+ 884,
864
+ 885,
865
+ 886,
866
+ 887,
867
+ 888,
868
+ 889,
869
+ 890,
870
+ 891,
871
+ 892,
872
+ 893,
873
+ 894,
874
+ 895,
875
+ 896,
876
+ 897,
877
+ 898,
878
+ 899,
879
+ 900,
880
+ 901,
881
+ 902,
882
+ 903,
883
+ 904,
884
+ 905,
885
+ 906,
886
+ 907,
887
+ 908,
888
+ 909,
889
+ 910,
890
+ 911,
891
+ 913,
892
+ 914,
893
+ 915,
894
+ 916,
895
+ 917,
896
+ 918,
897
+ 920,
898
+ 921,
899
+ 922,
900
+ 923,
901
+ 924,
902
+ 925,
903
+ 926,
904
+ 927,
905
+ 929,
906
+ 930,
907
+ 931,
908
+ 932,
909
+ 933,
910
+ 934,
911
+ 935,
912
+ 936,
913
+ 938,
914
+ 939,
915
+ 940,
916
+ 941,
917
+ 942,
918
+ 944,
919
+ 945,
920
+ 946,
921
+ 947,
922
+ 948,
923
+ 949,
924
+ 950,
925
+ 951,
926
+ 952,
927
+ 953,
928
+ 954,
929
+ 955,
930
+ 956,
931
+ 957,
932
+ 958,
933
+ 959,
934
+ 960,
935
+ 961,
936
+ 962,
937
+ 963,
938
+ 964,
939
+ 965,
940
+ 966,
941
+ 967,
942
+ 968,
943
+ 969,
944
+ 970,
945
+ 971,
946
+ 972,
947
+ 973,
948
+ 975,
949
+ 976,
950
+ 977,
951
+ 978,
952
+ 979,
953
+ 980,
954
+ 981,
955
+ 982,
956
+ 983,
957
+ 984,
958
+ 985,
959
+ 986,
960
+ 987,
961
+ 988,
962
+ 990,
963
+ 991,
964
+ 992,
965
+ 993,
966
+ 994,
967
+ 995,
968
+ 996,
969
+ 997,
970
+ 998,
971
+ 999
972
+ ],
973
+ "not_both_correct_indices": [
974
+ 64,
975
+ 73,
976
+ 81,
977
+ 112,
978
+ 122,
979
+ 176,
980
+ 210,
981
+ 286,
982
+ 289,
983
+ 311,
984
+ 325,
985
+ 335,
986
+ 353,
987
+ 356,
988
+ 362,
989
+ 408,
990
+ 513,
991
+ 526,
992
+ 528,
993
+ 592,
994
+ 593,
995
+ 598,
996
+ 628,
997
+ 695,
998
+ 700,
999
+ 778,
1000
+ 784,
1001
+ 811,
1002
+ 837,
1003
+ 842,
1004
+ 852,
1005
+ 860,
1006
+ 912,
1007
+ 919,
1008
+ 928,
1009
+ 937,
1010
+ 943,
1011
+ 974,
1012
+ 989
1013
+ ],
1014
+ "clean_baseline": 10.46875,
1015
+ "corrupted_baseline": -10.484375
1016
+ }
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_symbolic/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:d7c00e7a6506161e928e749c0b0f9a9c80e298926c85dcf30b779789722c3cbc
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_symbolic/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:31e7e08aa01dba81571dc4c5a335f30b65326bcbd6a7ad3f2019a4c6d5199fba
3
+ size 10049704
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_verbal/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_verbal/baselines.json ADDED
@@ -0,0 +1,1017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 269,
4
+ "token_misaligned_indices": [
5
+ 1,
6
+ 3,
7
+ 4,
8
+ 9,
9
+ 11,
10
+ 15,
11
+ 22,
12
+ 23,
13
+ 24,
14
+ 26,
15
+ 27,
16
+ 32,
17
+ 36,
18
+ 37,
19
+ 40,
20
+ 46,
21
+ 48,
22
+ 49,
23
+ 53,
24
+ 55,
25
+ 58,
26
+ 61,
27
+ 63,
28
+ 66,
29
+ 70,
30
+ 72,
31
+ 73,
32
+ 77,
33
+ 82,
34
+ 85,
35
+ 93,
36
+ 94,
37
+ 97,
38
+ 99,
39
+ 101,
40
+ 102,
41
+ 112,
42
+ 119,
43
+ 120,
44
+ 124,
45
+ 125,
46
+ 128,
47
+ 129,
48
+ 133,
49
+ 141,
50
+ 148,
51
+ 152,
52
+ 157,
53
+ 158,
54
+ 160,
55
+ 167,
56
+ 172,
57
+ 176,
58
+ 179,
59
+ 183,
60
+ 188,
61
+ 190,
62
+ 197,
63
+ 198,
64
+ 199,
65
+ 204,
66
+ 207,
67
+ 208,
68
+ 209,
69
+ 213,
70
+ 214,
71
+ 216,
72
+ 217,
73
+ 218,
74
+ 219,
75
+ 220,
76
+ 221,
77
+ 231,
78
+ 233,
79
+ 234,
80
+ 235,
81
+ 236,
82
+ 237,
83
+ 257,
84
+ 266,
85
+ 267,
86
+ 273,
87
+ 283,
88
+ 287,
89
+ 292,
90
+ 296,
91
+ 309,
92
+ 317,
93
+ 318,
94
+ 320,
95
+ 321,
96
+ 324,
97
+ 325,
98
+ 334,
99
+ 342,
100
+ 351,
101
+ 354,
102
+ 358,
103
+ 360,
104
+ 363,
105
+ 365,
106
+ 366,
107
+ 372,
108
+ 378,
109
+ 383,
110
+ 384,
111
+ 390,
112
+ 391,
113
+ 398,
114
+ 402,
115
+ 403,
116
+ 406,
117
+ 414,
118
+ 416,
119
+ 422,
120
+ 424,
121
+ 425,
122
+ 427,
123
+ 428,
124
+ 429,
125
+ 437,
126
+ 442,
127
+ 445,
128
+ 447,
129
+ 449,
130
+ 453,
131
+ 460,
132
+ 466,
133
+ 470,
134
+ 471,
135
+ 475,
136
+ 477,
137
+ 480,
138
+ 486,
139
+ 494,
140
+ 496,
141
+ 500,
142
+ 507,
143
+ 509,
144
+ 512,
145
+ 513,
146
+ 524,
147
+ 534,
148
+ 539,
149
+ 540,
150
+ 542,
151
+ 544,
152
+ 546,
153
+ 557,
154
+ 561,
155
+ 563,
156
+ 569,
157
+ 577,
158
+ 593,
159
+ 599,
160
+ 601,
161
+ 603,
162
+ 607,
163
+ 609,
164
+ 616,
165
+ 619,
166
+ 620,
167
+ 621,
168
+ 627,
169
+ 634,
170
+ 636,
171
+ 639,
172
+ 640,
173
+ 641,
174
+ 642,
175
+ 643,
176
+ 645,
177
+ 647,
178
+ 649,
179
+ 657,
180
+ 658,
181
+ 659,
182
+ 664,
183
+ 665,
184
+ 666,
185
+ 667,
186
+ 678,
187
+ 679,
188
+ 680,
189
+ 684,
190
+ 688,
191
+ 691,
192
+ 692,
193
+ 695,
194
+ 704,
195
+ 705,
196
+ 709,
197
+ 711,
198
+ 720,
199
+ 726,
200
+ 731,
201
+ 749,
202
+ 751,
203
+ 754,
204
+ 762,
205
+ 763,
206
+ 764,
207
+ 766,
208
+ 767,
209
+ 768,
210
+ 773,
211
+ 778,
212
+ 779,
213
+ 787,
214
+ 789,
215
+ 792,
216
+ 798,
217
+ 801,
218
+ 802,
219
+ 816,
220
+ 817,
221
+ 828,
222
+ 829,
223
+ 834,
224
+ 846,
225
+ 849,
226
+ 851,
227
+ 852,
228
+ 854,
229
+ 860,
230
+ 862,
231
+ 864,
232
+ 867,
233
+ 875,
234
+ 883,
235
+ 888,
236
+ 891,
237
+ 892,
238
+ 894,
239
+ 895,
240
+ 897,
241
+ 901,
242
+ 902,
243
+ 903,
244
+ 905,
245
+ 907,
246
+ 908,
247
+ 909,
248
+ 910,
249
+ 915,
250
+ 918,
251
+ 921,
252
+ 922,
253
+ 925,
254
+ 929,
255
+ 930,
256
+ 938,
257
+ 939,
258
+ 944,
259
+ 945,
260
+ 947,
261
+ 948,
262
+ 949,
263
+ 954,
264
+ 959,
265
+ 960,
266
+ 961,
267
+ 962,
268
+ 971,
269
+ 975,
270
+ 986,
271
+ 988,
272
+ 993,
273
+ 996
274
+ ],
275
+ "n_after_alignment_filter": 731,
276
+ "clean_accuracy": 0.9110807113543091,
277
+ "corrupted_accuracy": 0.8823529411764706,
278
+ "both_correct_accuracy": 0.8002735978112175,
279
+ "n_both_correct": 585,
280
+ "both_correct_indices": [
281
+ 0,
282
+ 2,
283
+ 6,
284
+ 7,
285
+ 8,
286
+ 12,
287
+ 14,
288
+ 17,
289
+ 18,
290
+ 19,
291
+ 20,
292
+ 25,
293
+ 29,
294
+ 30,
295
+ 31,
296
+ 33,
297
+ 34,
298
+ 35,
299
+ 38,
300
+ 39,
301
+ 41,
302
+ 44,
303
+ 45,
304
+ 47,
305
+ 50,
306
+ 54,
307
+ 56,
308
+ 59,
309
+ 62,
310
+ 64,
311
+ 65,
312
+ 67,
313
+ 68,
314
+ 69,
315
+ 71,
316
+ 74,
317
+ 75,
318
+ 76,
319
+ 78,
320
+ 79,
321
+ 80,
322
+ 84,
323
+ 86,
324
+ 88,
325
+ 89,
326
+ 90,
327
+ 91,
328
+ 95,
329
+ 96,
330
+ 98,
331
+ 100,
332
+ 103,
333
+ 104,
334
+ 106,
335
+ 107,
336
+ 108,
337
+ 109,
338
+ 110,
339
+ 111,
340
+ 113,
341
+ 114,
342
+ 115,
343
+ 116,
344
+ 117,
345
+ 122,
346
+ 126,
347
+ 130,
348
+ 131,
349
+ 134,
350
+ 135,
351
+ 136,
352
+ 137,
353
+ 138,
354
+ 139,
355
+ 142,
356
+ 143,
357
+ 144,
358
+ 146,
359
+ 147,
360
+ 150,
361
+ 151,
362
+ 153,
363
+ 156,
364
+ 159,
365
+ 161,
366
+ 162,
367
+ 164,
368
+ 165,
369
+ 166,
370
+ 168,
371
+ 169,
372
+ 170,
373
+ 171,
374
+ 173,
375
+ 174,
376
+ 175,
377
+ 177,
378
+ 178,
379
+ 180,
380
+ 181,
381
+ 184,
382
+ 185,
383
+ 186,
384
+ 187,
385
+ 189,
386
+ 191,
387
+ 192,
388
+ 193,
389
+ 194,
390
+ 195,
391
+ 196,
392
+ 200,
393
+ 201,
394
+ 203,
395
+ 205,
396
+ 206,
397
+ 210,
398
+ 211,
399
+ 212,
400
+ 215,
401
+ 222,
402
+ 223,
403
+ 224,
404
+ 225,
405
+ 226,
406
+ 227,
407
+ 228,
408
+ 229,
409
+ 230,
410
+ 232,
411
+ 238,
412
+ 239,
413
+ 240,
414
+ 242,
415
+ 244,
416
+ 245,
417
+ 247,
418
+ 248,
419
+ 249,
420
+ 250,
421
+ 252,
422
+ 253,
423
+ 254,
424
+ 255,
425
+ 256,
426
+ 258,
427
+ 261,
428
+ 262,
429
+ 263,
430
+ 264,
431
+ 265,
432
+ 268,
433
+ 269,
434
+ 270,
435
+ 271,
436
+ 272,
437
+ 274,
438
+ 276,
439
+ 277,
440
+ 278,
441
+ 279,
442
+ 280,
443
+ 281,
444
+ 282,
445
+ 284,
446
+ 285,
447
+ 286,
448
+ 288,
449
+ 290,
450
+ 291,
451
+ 294,
452
+ 295,
453
+ 297,
454
+ 298,
455
+ 301,
456
+ 302,
457
+ 304,
458
+ 305,
459
+ 306,
460
+ 307,
461
+ 308,
462
+ 310,
463
+ 311,
464
+ 312,
465
+ 313,
466
+ 315,
467
+ 316,
468
+ 319,
469
+ 328,
470
+ 330,
471
+ 331,
472
+ 333,
473
+ 336,
474
+ 338,
475
+ 339,
476
+ 340,
477
+ 341,
478
+ 343,
479
+ 344,
480
+ 345,
481
+ 347,
482
+ 348,
483
+ 349,
484
+ 353,
485
+ 355,
486
+ 356,
487
+ 357,
488
+ 359,
489
+ 361,
490
+ 364,
491
+ 367,
492
+ 369,
493
+ 371,
494
+ 373,
495
+ 374,
496
+ 375,
497
+ 376,
498
+ 377,
499
+ 379,
500
+ 380,
501
+ 381,
502
+ 382,
503
+ 386,
504
+ 387,
505
+ 388,
506
+ 389,
507
+ 392,
508
+ 393,
509
+ 395,
510
+ 396,
511
+ 397,
512
+ 399,
513
+ 400,
514
+ 404,
515
+ 405,
516
+ 407,
517
+ 408,
518
+ 410,
519
+ 411,
520
+ 412,
521
+ 413,
522
+ 419,
523
+ 420,
524
+ 421,
525
+ 423,
526
+ 426,
527
+ 430,
528
+ 431,
529
+ 432,
530
+ 433,
531
+ 434,
532
+ 435,
533
+ 436,
534
+ 438,
535
+ 439,
536
+ 440,
537
+ 441,
538
+ 443,
539
+ 444,
540
+ 446,
541
+ 448,
542
+ 451,
543
+ 452,
544
+ 454,
545
+ 455,
546
+ 457,
547
+ 458,
548
+ 459,
549
+ 461,
550
+ 462,
551
+ 463,
552
+ 465,
553
+ 467,
554
+ 472,
555
+ 473,
556
+ 474,
557
+ 476,
558
+ 478,
559
+ 479,
560
+ 482,
561
+ 483,
562
+ 485,
563
+ 487,
564
+ 488,
565
+ 489,
566
+ 490,
567
+ 491,
568
+ 492,
569
+ 493,
570
+ 495,
571
+ 497,
572
+ 498,
573
+ 501,
574
+ 502,
575
+ 503,
576
+ 504,
577
+ 506,
578
+ 508,
579
+ 510,
580
+ 511,
581
+ 515,
582
+ 516,
583
+ 517,
584
+ 518,
585
+ 519,
586
+ 520,
587
+ 521,
588
+ 522,
589
+ 523,
590
+ 525,
591
+ 526,
592
+ 528,
593
+ 529,
594
+ 530,
595
+ 531,
596
+ 532,
597
+ 533,
598
+ 535,
599
+ 537,
600
+ 538,
601
+ 543,
602
+ 548,
603
+ 549,
604
+ 550,
605
+ 551,
606
+ 552,
607
+ 553,
608
+ 554,
609
+ 555,
610
+ 558,
611
+ 559,
612
+ 560,
613
+ 562,
614
+ 565,
615
+ 566,
616
+ 567,
617
+ 568,
618
+ 570,
619
+ 571,
620
+ 572,
621
+ 573,
622
+ 576,
623
+ 578,
624
+ 580,
625
+ 582,
626
+ 583,
627
+ 584,
628
+ 586,
629
+ 587,
630
+ 588,
631
+ 590,
632
+ 592,
633
+ 594,
634
+ 595,
635
+ 596,
636
+ 597,
637
+ 598,
638
+ 600,
639
+ 602,
640
+ 604,
641
+ 605,
642
+ 606,
643
+ 608,
644
+ 610,
645
+ 612,
646
+ 613,
647
+ 614,
648
+ 615,
649
+ 617,
650
+ 623,
651
+ 624,
652
+ 625,
653
+ 628,
654
+ 630,
655
+ 631,
656
+ 633,
657
+ 646,
658
+ 648,
659
+ 650,
660
+ 652,
661
+ 653,
662
+ 654,
663
+ 655,
664
+ 660,
665
+ 661,
666
+ 662,
667
+ 663,
668
+ 668,
669
+ 669,
670
+ 670,
671
+ 671,
672
+ 672,
673
+ 674,
674
+ 675,
675
+ 676,
676
+ 681,
677
+ 682,
678
+ 683,
679
+ 685,
680
+ 686,
681
+ 687,
682
+ 689,
683
+ 690,
684
+ 693,
685
+ 694,
686
+ 696,
687
+ 699,
688
+ 701,
689
+ 702,
690
+ 706,
691
+ 707,
692
+ 708,
693
+ 710,
694
+ 712,
695
+ 713,
696
+ 714,
697
+ 715,
698
+ 717,
699
+ 718,
700
+ 719,
701
+ 721,
702
+ 722,
703
+ 723,
704
+ 724,
705
+ 725,
706
+ 727,
707
+ 728,
708
+ 729,
709
+ 730,
710
+ 732,
711
+ 733,
712
+ 734,
713
+ 735,
714
+ 736,
715
+ 737,
716
+ 739,
717
+ 740,
718
+ 741,
719
+ 743,
720
+ 744,
721
+ 745,
722
+ 746,
723
+ 748,
724
+ 752,
725
+ 753,
726
+ 755,
727
+ 756,
728
+ 757,
729
+ 758,
730
+ 759,
731
+ 760,
732
+ 761,
733
+ 765,
734
+ 771,
735
+ 774,
736
+ 775,
737
+ 776,
738
+ 777,
739
+ 780,
740
+ 781,
741
+ 782,
742
+ 784,
743
+ 785,
744
+ 788,
745
+ 790,
746
+ 791,
747
+ 793,
748
+ 794,
749
+ 795,
750
+ 797,
751
+ 799,
752
+ 800,
753
+ 803,
754
+ 804,
755
+ 805,
756
+ 806,
757
+ 807,
758
+ 808,
759
+ 810,
760
+ 811,
761
+ 812,
762
+ 813,
763
+ 814,
764
+ 815,
765
+ 818,
766
+ 819,
767
+ 820,
768
+ 821,
769
+ 822,
770
+ 823,
771
+ 826,
772
+ 827,
773
+ 830,
774
+ 831,
775
+ 832,
776
+ 833,
777
+ 836,
778
+ 837,
779
+ 838,
780
+ 839,
781
+ 840,
782
+ 841,
783
+ 842,
784
+ 843,
785
+ 844,
786
+ 845,
787
+ 847,
788
+ 848,
789
+ 853,
790
+ 857,
791
+ 858,
792
+ 859,
793
+ 861,
794
+ 865,
795
+ 866,
796
+ 868,
797
+ 869,
798
+ 873,
799
+ 874,
800
+ 877,
801
+ 878,
802
+ 879,
803
+ 880,
804
+ 882,
805
+ 884,
806
+ 886,
807
+ 887,
808
+ 889,
809
+ 893,
810
+ 899,
811
+ 900,
812
+ 904,
813
+ 906,
814
+ 911,
815
+ 912,
816
+ 913,
817
+ 914,
818
+ 916,
819
+ 919,
820
+ 920,
821
+ 923,
822
+ 924,
823
+ 926,
824
+ 928,
825
+ 931,
826
+ 932,
827
+ 933,
828
+ 934,
829
+ 935,
830
+ 937,
831
+ 940,
832
+ 941,
833
+ 942,
834
+ 943,
835
+ 946,
836
+ 951,
837
+ 952,
838
+ 953,
839
+ 955,
840
+ 956,
841
+ 958,
842
+ 964,
843
+ 965,
844
+ 967,
845
+ 969,
846
+ 970,
847
+ 973,
848
+ 974,
849
+ 977,
850
+ 978,
851
+ 979,
852
+ 980,
853
+ 981,
854
+ 982,
855
+ 983,
856
+ 984,
857
+ 985,
858
+ 987,
859
+ 989,
860
+ 990,
861
+ 991,
862
+ 992,
863
+ 994,
864
+ 995,
865
+ 998
866
+ ],
867
+ "not_both_correct_indices": [
868
+ 5,
869
+ 10,
870
+ 13,
871
+ 16,
872
+ 21,
873
+ 28,
874
+ 42,
875
+ 43,
876
+ 51,
877
+ 52,
878
+ 57,
879
+ 60,
880
+ 81,
881
+ 83,
882
+ 87,
883
+ 92,
884
+ 105,
885
+ 118,
886
+ 121,
887
+ 123,
888
+ 127,
889
+ 132,
890
+ 140,
891
+ 145,
892
+ 149,
893
+ 154,
894
+ 155,
895
+ 163,
896
+ 182,
897
+ 202,
898
+ 241,
899
+ 243,
900
+ 246,
901
+ 251,
902
+ 259,
903
+ 260,
904
+ 275,
905
+ 289,
906
+ 293,
907
+ 299,
908
+ 300,
909
+ 303,
910
+ 314,
911
+ 322,
912
+ 323,
913
+ 326,
914
+ 327,
915
+ 329,
916
+ 332,
917
+ 335,
918
+ 337,
919
+ 346,
920
+ 350,
921
+ 352,
922
+ 362,
923
+ 368,
924
+ 370,
925
+ 385,
926
+ 394,
927
+ 401,
928
+ 409,
929
+ 415,
930
+ 417,
931
+ 418,
932
+ 450,
933
+ 456,
934
+ 464,
935
+ 468,
936
+ 469,
937
+ 481,
938
+ 484,
939
+ 499,
940
+ 505,
941
+ 514,
942
+ 527,
943
+ 536,
944
+ 541,
945
+ 545,
946
+ 547,
947
+ 556,
948
+ 564,
949
+ 574,
950
+ 575,
951
+ 579,
952
+ 581,
953
+ 585,
954
+ 589,
955
+ 591,
956
+ 611,
957
+ 618,
958
+ 622,
959
+ 626,
960
+ 629,
961
+ 632,
962
+ 635,
963
+ 637,
964
+ 638,
965
+ 644,
966
+ 651,
967
+ 656,
968
+ 673,
969
+ 677,
970
+ 697,
971
+ 698,
972
+ 700,
973
+ 703,
974
+ 716,
975
+ 738,
976
+ 742,
977
+ 747,
978
+ 750,
979
+ 769,
980
+ 770,
981
+ 772,
982
+ 783,
983
+ 786,
984
+ 796,
985
+ 809,
986
+ 824,
987
+ 825,
988
+ 835,
989
+ 850,
990
+ 855,
991
+ 856,
992
+ 863,
993
+ 870,
994
+ 871,
995
+ 872,
996
+ 876,
997
+ 881,
998
+ 885,
999
+ 890,
1000
+ 896,
1001
+ 898,
1002
+ 917,
1003
+ 927,
1004
+ 936,
1005
+ 950,
1006
+ 957,
1007
+ 963,
1008
+ 966,
1009
+ 968,
1010
+ 972,
1011
+ 976,
1012
+ 997,
1013
+ 999
1014
+ ],
1015
+ "clean_baseline": 10.703125,
1016
+ "corrupted_baseline": -10.7890625
1017
+ }
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_verbal/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:16d60dee982abc3f88104a5e8aa6b5a6aef6cf51cce7692dc4db65412dab3006
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/MD/add_sub_3op_verbal/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4538dc38b165cebb83b32781fc6bb9f5215989362527d086629dbee597aa4afe
3
+ size 10063560
results/mistralai_Mistral-Large-Instruct-2407/MD/code_A/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/MD/code_A/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.947,
7
+ "corrupted_accuracy": 0.95,
8
+ "both_correct_accuracy": 0.9,
9
+ "n_both_correct": 900,
10
+ "both_correct_indices": [
11
+ 1,
12
+ 4,
13
+ 5,
14
+ 6,
15
+ 7,
16
+ 8,
17
+ 9,
18
+ 10,
19
+ 11,
20
+ 12,
21
+ 13,
22
+ 14,
23
+ 15,
24
+ 16,
25
+ 17,
26
+ 18,
27
+ 19,
28
+ 20,
29
+ 21,
30
+ 22,
31
+ 23,
32
+ 24,
33
+ 25,
34
+ 27,
35
+ 28,
36
+ 30,
37
+ 31,
38
+ 32,
39
+ 33,
40
+ 34,
41
+ 35,
42
+ 36,
43
+ 37,
44
+ 38,
45
+ 39,
46
+ 40,
47
+ 41,
48
+ 42,
49
+ 43,
50
+ 45,
51
+ 46,
52
+ 47,
53
+ 48,
54
+ 49,
55
+ 50,
56
+ 51,
57
+ 52,
58
+ 53,
59
+ 54,
60
+ 55,
61
+ 56,
62
+ 57,
63
+ 60,
64
+ 61,
65
+ 62,
66
+ 63,
67
+ 64,
68
+ 66,
69
+ 67,
70
+ 68,
71
+ 70,
72
+ 71,
73
+ 72,
74
+ 73,
75
+ 74,
76
+ 75,
77
+ 76,
78
+ 77,
79
+ 78,
80
+ 79,
81
+ 80,
82
+ 81,
83
+ 82,
84
+ 83,
85
+ 84,
86
+ 85,
87
+ 86,
88
+ 87,
89
+ 88,
90
+ 89,
91
+ 90,
92
+ 91,
93
+ 92,
94
+ 93,
95
+ 94,
96
+ 95,
97
+ 96,
98
+ 97,
99
+ 99,
100
+ 100,
101
+ 101,
102
+ 102,
103
+ 103,
104
+ 104,
105
+ 105,
106
+ 106,
107
+ 107,
108
+ 108,
109
+ 111,
110
+ 112,
111
+ 113,
112
+ 115,
113
+ 116,
114
+ 117,
115
+ 118,
116
+ 119,
117
+ 120,
118
+ 121,
119
+ 123,
120
+ 124,
121
+ 125,
122
+ 126,
123
+ 127,
124
+ 128,
125
+ 130,
126
+ 131,
127
+ 132,
128
+ 133,
129
+ 134,
130
+ 135,
131
+ 136,
132
+ 137,
133
+ 138,
134
+ 139,
135
+ 142,
136
+ 143,
137
+ 144,
138
+ 145,
139
+ 146,
140
+ 147,
141
+ 148,
142
+ 149,
143
+ 150,
144
+ 151,
145
+ 152,
146
+ 153,
147
+ 154,
148
+ 155,
149
+ 156,
150
+ 157,
151
+ 158,
152
+ 159,
153
+ 160,
154
+ 161,
155
+ 162,
156
+ 163,
157
+ 164,
158
+ 165,
159
+ 166,
160
+ 167,
161
+ 168,
162
+ 169,
163
+ 170,
164
+ 171,
165
+ 172,
166
+ 173,
167
+ 174,
168
+ 176,
169
+ 177,
170
+ 178,
171
+ 179,
172
+ 180,
173
+ 181,
174
+ 182,
175
+ 183,
176
+ 184,
177
+ 185,
178
+ 186,
179
+ 187,
180
+ 188,
181
+ 189,
182
+ 190,
183
+ 191,
184
+ 194,
185
+ 195,
186
+ 196,
187
+ 197,
188
+ 198,
189
+ 199,
190
+ 200,
191
+ 202,
192
+ 203,
193
+ 204,
194
+ 205,
195
+ 206,
196
+ 207,
197
+ 208,
198
+ 209,
199
+ 210,
200
+ 211,
201
+ 213,
202
+ 214,
203
+ 215,
204
+ 216,
205
+ 217,
206
+ 218,
207
+ 219,
208
+ 220,
209
+ 221,
210
+ 222,
211
+ 223,
212
+ 224,
213
+ 225,
214
+ 226,
215
+ 228,
216
+ 229,
217
+ 231,
218
+ 233,
219
+ 234,
220
+ 235,
221
+ 236,
222
+ 237,
223
+ 238,
224
+ 239,
225
+ 240,
226
+ 241,
227
+ 242,
228
+ 243,
229
+ 244,
230
+ 245,
231
+ 246,
232
+ 247,
233
+ 248,
234
+ 249,
235
+ 250,
236
+ 251,
237
+ 252,
238
+ 253,
239
+ 254,
240
+ 256,
241
+ 257,
242
+ 258,
243
+ 259,
244
+ 260,
245
+ 261,
246
+ 263,
247
+ 264,
248
+ 265,
249
+ 267,
250
+ 268,
251
+ 269,
252
+ 270,
253
+ 271,
254
+ 274,
255
+ 275,
256
+ 276,
257
+ 277,
258
+ 278,
259
+ 279,
260
+ 280,
261
+ 282,
262
+ 283,
263
+ 284,
264
+ 286,
265
+ 287,
266
+ 288,
267
+ 289,
268
+ 291,
269
+ 292,
270
+ 293,
271
+ 294,
272
+ 295,
273
+ 296,
274
+ 297,
275
+ 298,
276
+ 299,
277
+ 300,
278
+ 301,
279
+ 302,
280
+ 304,
281
+ 305,
282
+ 306,
283
+ 307,
284
+ 309,
285
+ 310,
286
+ 311,
287
+ 312,
288
+ 313,
289
+ 314,
290
+ 315,
291
+ 316,
292
+ 317,
293
+ 318,
294
+ 319,
295
+ 320,
296
+ 321,
297
+ 322,
298
+ 323,
299
+ 324,
300
+ 325,
301
+ 326,
302
+ 327,
303
+ 328,
304
+ 329,
305
+ 330,
306
+ 331,
307
+ 332,
308
+ 333,
309
+ 334,
310
+ 335,
311
+ 336,
312
+ 337,
313
+ 338,
314
+ 339,
315
+ 340,
316
+ 342,
317
+ 343,
318
+ 344,
319
+ 345,
320
+ 346,
321
+ 347,
322
+ 348,
323
+ 349,
324
+ 350,
325
+ 351,
326
+ 352,
327
+ 353,
328
+ 354,
329
+ 355,
330
+ 356,
331
+ 357,
332
+ 358,
333
+ 359,
334
+ 360,
335
+ 362,
336
+ 363,
337
+ 364,
338
+ 365,
339
+ 366,
340
+ 367,
341
+ 368,
342
+ 369,
343
+ 370,
344
+ 371,
345
+ 372,
346
+ 373,
347
+ 374,
348
+ 375,
349
+ 376,
350
+ 378,
351
+ 380,
352
+ 381,
353
+ 382,
354
+ 383,
355
+ 384,
356
+ 385,
357
+ 386,
358
+ 387,
359
+ 389,
360
+ 390,
361
+ 391,
362
+ 392,
363
+ 393,
364
+ 394,
365
+ 395,
366
+ 398,
367
+ 399,
368
+ 400,
369
+ 401,
370
+ 402,
371
+ 403,
372
+ 404,
373
+ 405,
374
+ 406,
375
+ 407,
376
+ 408,
377
+ 409,
378
+ 410,
379
+ 411,
380
+ 412,
381
+ 413,
382
+ 414,
383
+ 415,
384
+ 417,
385
+ 418,
386
+ 419,
387
+ 420,
388
+ 421,
389
+ 422,
390
+ 423,
391
+ 424,
392
+ 425,
393
+ 426,
394
+ 427,
395
+ 428,
396
+ 429,
397
+ 430,
398
+ 431,
399
+ 433,
400
+ 434,
401
+ 435,
402
+ 436,
403
+ 438,
404
+ 439,
405
+ 440,
406
+ 441,
407
+ 442,
408
+ 443,
409
+ 445,
410
+ 447,
411
+ 448,
412
+ 449,
413
+ 451,
414
+ 452,
415
+ 453,
416
+ 454,
417
+ 455,
418
+ 456,
419
+ 457,
420
+ 458,
421
+ 459,
422
+ 460,
423
+ 461,
424
+ 462,
425
+ 464,
426
+ 465,
427
+ 466,
428
+ 467,
429
+ 468,
430
+ 469,
431
+ 470,
432
+ 471,
433
+ 472,
434
+ 473,
435
+ 474,
436
+ 475,
437
+ 476,
438
+ 477,
439
+ 478,
440
+ 479,
441
+ 480,
442
+ 481,
443
+ 482,
444
+ 483,
445
+ 484,
446
+ 485,
447
+ 486,
448
+ 487,
449
+ 488,
450
+ 489,
451
+ 490,
452
+ 491,
453
+ 493,
454
+ 494,
455
+ 495,
456
+ 497,
457
+ 498,
458
+ 499,
459
+ 500,
460
+ 501,
461
+ 502,
462
+ 503,
463
+ 504,
464
+ 505,
465
+ 506,
466
+ 507,
467
+ 508,
468
+ 509,
469
+ 510,
470
+ 511,
471
+ 512,
472
+ 513,
473
+ 514,
474
+ 515,
475
+ 516,
476
+ 517,
477
+ 518,
478
+ 519,
479
+ 520,
480
+ 521,
481
+ 522,
482
+ 523,
483
+ 524,
484
+ 525,
485
+ 526,
486
+ 527,
487
+ 528,
488
+ 529,
489
+ 531,
490
+ 532,
491
+ 533,
492
+ 534,
493
+ 535,
494
+ 536,
495
+ 537,
496
+ 538,
497
+ 539,
498
+ 540,
499
+ 541,
500
+ 542,
501
+ 543,
502
+ 546,
503
+ 547,
504
+ 548,
505
+ 550,
506
+ 551,
507
+ 552,
508
+ 554,
509
+ 555,
510
+ 558,
511
+ 559,
512
+ 561,
513
+ 562,
514
+ 563,
515
+ 564,
516
+ 566,
517
+ 567,
518
+ 568,
519
+ 570,
520
+ 571,
521
+ 572,
522
+ 573,
523
+ 574,
524
+ 575,
525
+ 576,
526
+ 577,
527
+ 578,
528
+ 580,
529
+ 581,
530
+ 582,
531
+ 583,
532
+ 584,
533
+ 585,
534
+ 586,
535
+ 587,
536
+ 588,
537
+ 589,
538
+ 590,
539
+ 591,
540
+ 592,
541
+ 593,
542
+ 594,
543
+ 595,
544
+ 596,
545
+ 597,
546
+ 598,
547
+ 600,
548
+ 601,
549
+ 602,
550
+ 603,
551
+ 604,
552
+ 605,
553
+ 607,
554
+ 608,
555
+ 609,
556
+ 610,
557
+ 611,
558
+ 612,
559
+ 613,
560
+ 614,
561
+ 615,
562
+ 616,
563
+ 617,
564
+ 618,
565
+ 619,
566
+ 620,
567
+ 623,
568
+ 624,
569
+ 625,
570
+ 626,
571
+ 627,
572
+ 628,
573
+ 629,
574
+ 631,
575
+ 632,
576
+ 633,
577
+ 634,
578
+ 635,
579
+ 636,
580
+ 637,
581
+ 639,
582
+ 640,
583
+ 641,
584
+ 642,
585
+ 643,
586
+ 644,
587
+ 645,
588
+ 646,
589
+ 647,
590
+ 648,
591
+ 650,
592
+ 651,
593
+ 652,
594
+ 653,
595
+ 654,
596
+ 655,
597
+ 656,
598
+ 658,
599
+ 659,
600
+ 660,
601
+ 662,
602
+ 663,
603
+ 665,
604
+ 666,
605
+ 667,
606
+ 668,
607
+ 669,
608
+ 670,
609
+ 671,
610
+ 672,
611
+ 673,
612
+ 674,
613
+ 675,
614
+ 677,
615
+ 679,
616
+ 680,
617
+ 681,
618
+ 682,
619
+ 683,
620
+ 685,
621
+ 686,
622
+ 687,
623
+ 688,
624
+ 689,
625
+ 690,
626
+ 691,
627
+ 692,
628
+ 693,
629
+ 694,
630
+ 695,
631
+ 696,
632
+ 697,
633
+ 698,
634
+ 699,
635
+ 701,
636
+ 702,
637
+ 703,
638
+ 704,
639
+ 705,
640
+ 706,
641
+ 707,
642
+ 708,
643
+ 709,
644
+ 710,
645
+ 711,
646
+ 712,
647
+ 713,
648
+ 714,
649
+ 715,
650
+ 716,
651
+ 717,
652
+ 718,
653
+ 719,
654
+ 720,
655
+ 721,
656
+ 722,
657
+ 723,
658
+ 724,
659
+ 725,
660
+ 727,
661
+ 728,
662
+ 729,
663
+ 730,
664
+ 731,
665
+ 732,
666
+ 733,
667
+ 734,
668
+ 735,
669
+ 737,
670
+ 738,
671
+ 739,
672
+ 740,
673
+ 741,
674
+ 742,
675
+ 743,
676
+ 744,
677
+ 745,
678
+ 746,
679
+ 747,
680
+ 749,
681
+ 750,
682
+ 751,
683
+ 752,
684
+ 753,
685
+ 755,
686
+ 756,
687
+ 757,
688
+ 758,
689
+ 759,
690
+ 760,
691
+ 761,
692
+ 762,
693
+ 763,
694
+ 767,
695
+ 768,
696
+ 770,
697
+ 771,
698
+ 772,
699
+ 773,
700
+ 774,
701
+ 775,
702
+ 776,
703
+ 777,
704
+ 778,
705
+ 780,
706
+ 781,
707
+ 782,
708
+ 783,
709
+ 784,
710
+ 785,
711
+ 786,
712
+ 787,
713
+ 788,
714
+ 790,
715
+ 791,
716
+ 792,
717
+ 793,
718
+ 794,
719
+ 795,
720
+ 796,
721
+ 797,
722
+ 798,
723
+ 799,
724
+ 800,
725
+ 801,
726
+ 802,
727
+ 803,
728
+ 804,
729
+ 805,
730
+ 806,
731
+ 808,
732
+ 809,
733
+ 811,
734
+ 812,
735
+ 813,
736
+ 814,
737
+ 815,
738
+ 816,
739
+ 817,
740
+ 818,
741
+ 819,
742
+ 820,
743
+ 821,
744
+ 822,
745
+ 823,
746
+ 824,
747
+ 825,
748
+ 826,
749
+ 827,
750
+ 829,
751
+ 830,
752
+ 831,
753
+ 832,
754
+ 833,
755
+ 834,
756
+ 835,
757
+ 837,
758
+ 838,
759
+ 839,
760
+ 840,
761
+ 841,
762
+ 842,
763
+ 843,
764
+ 844,
765
+ 845,
766
+ 846,
767
+ 847,
768
+ 848,
769
+ 849,
770
+ 850,
771
+ 851,
772
+ 852,
773
+ 853,
774
+ 854,
775
+ 855,
776
+ 856,
777
+ 857,
778
+ 858,
779
+ 859,
780
+ 860,
781
+ 861,
782
+ 862,
783
+ 863,
784
+ 864,
785
+ 866,
786
+ 868,
787
+ 869,
788
+ 870,
789
+ 872,
790
+ 873,
791
+ 874,
792
+ 875,
793
+ 876,
794
+ 877,
795
+ 878,
796
+ 879,
797
+ 880,
798
+ 881,
799
+ 882,
800
+ 883,
801
+ 884,
802
+ 885,
803
+ 886,
804
+ 887,
805
+ 888,
806
+ 889,
807
+ 890,
808
+ 891,
809
+ 892,
810
+ 893,
811
+ 894,
812
+ 895,
813
+ 896,
814
+ 897,
815
+ 898,
816
+ 899,
817
+ 900,
818
+ 901,
819
+ 903,
820
+ 904,
821
+ 905,
822
+ 906,
823
+ 907,
824
+ 908,
825
+ 909,
826
+ 910,
827
+ 911,
828
+ 912,
829
+ 913,
830
+ 914,
831
+ 915,
832
+ 916,
833
+ 917,
834
+ 918,
835
+ 919,
836
+ 920,
837
+ 921,
838
+ 922,
839
+ 923,
840
+ 924,
841
+ 925,
842
+ 926,
843
+ 927,
844
+ 928,
845
+ 929,
846
+ 930,
847
+ 931,
848
+ 932,
849
+ 933,
850
+ 934,
851
+ 935,
852
+ 936,
853
+ 937,
854
+ 938,
855
+ 939,
856
+ 940,
857
+ 941,
858
+ 942,
859
+ 943,
860
+ 944,
861
+ 945,
862
+ 947,
863
+ 948,
864
+ 949,
865
+ 950,
866
+ 951,
867
+ 952,
868
+ 953,
869
+ 954,
870
+ 955,
871
+ 956,
872
+ 957,
873
+ 958,
874
+ 959,
875
+ 960,
876
+ 961,
877
+ 962,
878
+ 963,
879
+ 964,
880
+ 966,
881
+ 967,
882
+ 969,
883
+ 970,
884
+ 971,
885
+ 972,
886
+ 973,
887
+ 974,
888
+ 975,
889
+ 976,
890
+ 977,
891
+ 978,
892
+ 979,
893
+ 980,
894
+ 981,
895
+ 982,
896
+ 983,
897
+ 985,
898
+ 986,
899
+ 987,
900
+ 988,
901
+ 989,
902
+ 991,
903
+ 992,
904
+ 993,
905
+ 994,
906
+ 995,
907
+ 996,
908
+ 997,
909
+ 998,
910
+ 999
911
+ ],
912
+ "not_both_correct_indices": [
913
+ 0,
914
+ 2,
915
+ 3,
916
+ 26,
917
+ 29,
918
+ 44,
919
+ 58,
920
+ 59,
921
+ 65,
922
+ 69,
923
+ 98,
924
+ 109,
925
+ 110,
926
+ 114,
927
+ 122,
928
+ 129,
929
+ 140,
930
+ 141,
931
+ 175,
932
+ 192,
933
+ 193,
934
+ 201,
935
+ 212,
936
+ 227,
937
+ 230,
938
+ 232,
939
+ 255,
940
+ 262,
941
+ 266,
942
+ 272,
943
+ 273,
944
+ 281,
945
+ 285,
946
+ 290,
947
+ 303,
948
+ 308,
949
+ 341,
950
+ 361,
951
+ 377,
952
+ 379,
953
+ 388,
954
+ 396,
955
+ 397,
956
+ 416,
957
+ 432,
958
+ 437,
959
+ 444,
960
+ 446,
961
+ 450,
962
+ 463,
963
+ 492,
964
+ 496,
965
+ 530,
966
+ 544,
967
+ 545,
968
+ 549,
969
+ 553,
970
+ 556,
971
+ 557,
972
+ 560,
973
+ 565,
974
+ 569,
975
+ 579,
976
+ 599,
977
+ 606,
978
+ 621,
979
+ 622,
980
+ 630,
981
+ 638,
982
+ 649,
983
+ 657,
984
+ 661,
985
+ 664,
986
+ 676,
987
+ 678,
988
+ 684,
989
+ 700,
990
+ 726,
991
+ 736,
992
+ 748,
993
+ 754,
994
+ 764,
995
+ 765,
996
+ 766,
997
+ 769,
998
+ 779,
999
+ 789,
1000
+ 807,
1001
+ 810,
1002
+ 828,
1003
+ 836,
1004
+ 865,
1005
+ 867,
1006
+ 871,
1007
+ 902,
1008
+ 946,
1009
+ 965,
1010
+ 968,
1011
+ 984,
1012
+ 990
1013
+ ],
1014
+ "clean_baseline": 7.96875,
1015
+ "corrupted_baseline": -7.95703125
1016
+ }
results/mistralai_Mistral-Large-Instruct-2407/MD/code_A/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:66dd0602ef2d29b94d0e63309964019bac71b757e83cbbecbeb253da02a8344a
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/MD/code_A/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:9a8972f2d89aa76bdb8be4bee19a80140166e9abb0c1eda4d4c83cd340a14d49
3
+ size 10087128
results/mistralai_Mistral-Large-Instruct-2407/MD/code_B/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/MD/code_B/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.963,
7
+ "corrupted_accuracy": 0.961,
8
+ "both_correct_accuracy": 0.924,
9
+ "n_both_correct": 924,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 5,
16
+ 6,
17
+ 7,
18
+ 8,
19
+ 9,
20
+ 10,
21
+ 11,
22
+ 12,
23
+ 13,
24
+ 14,
25
+ 15,
26
+ 16,
27
+ 17,
28
+ 18,
29
+ 19,
30
+ 20,
31
+ 21,
32
+ 22,
33
+ 23,
34
+ 24,
35
+ 25,
36
+ 26,
37
+ 27,
38
+ 28,
39
+ 29,
40
+ 30,
41
+ 31,
42
+ 32,
43
+ 33,
44
+ 34,
45
+ 35,
46
+ 36,
47
+ 37,
48
+ 38,
49
+ 39,
50
+ 40,
51
+ 41,
52
+ 42,
53
+ 43,
54
+ 44,
55
+ 45,
56
+ 46,
57
+ 47,
58
+ 49,
59
+ 50,
60
+ 52,
61
+ 53,
62
+ 54,
63
+ 55,
64
+ 56,
65
+ 57,
66
+ 58,
67
+ 59,
68
+ 60,
69
+ 61,
70
+ 62,
71
+ 63,
72
+ 64,
73
+ 65,
74
+ 66,
75
+ 67,
76
+ 68,
77
+ 69,
78
+ 70,
79
+ 71,
80
+ 72,
81
+ 73,
82
+ 75,
83
+ 76,
84
+ 77,
85
+ 78,
86
+ 79,
87
+ 81,
88
+ 82,
89
+ 83,
90
+ 84,
91
+ 85,
92
+ 86,
93
+ 87,
94
+ 88,
95
+ 89,
96
+ 91,
97
+ 92,
98
+ 93,
99
+ 94,
100
+ 96,
101
+ 97,
102
+ 98,
103
+ 99,
104
+ 100,
105
+ 101,
106
+ 102,
107
+ 103,
108
+ 104,
109
+ 105,
110
+ 106,
111
+ 107,
112
+ 108,
113
+ 109,
114
+ 110,
115
+ 111,
116
+ 112,
117
+ 113,
118
+ 114,
119
+ 115,
120
+ 116,
121
+ 117,
122
+ 118,
123
+ 119,
124
+ 120,
125
+ 121,
126
+ 122,
127
+ 123,
128
+ 124,
129
+ 125,
130
+ 126,
131
+ 127,
132
+ 128,
133
+ 129,
134
+ 130,
135
+ 131,
136
+ 132,
137
+ 133,
138
+ 134,
139
+ 135,
140
+ 136,
141
+ 138,
142
+ 140,
143
+ 141,
144
+ 142,
145
+ 143,
146
+ 144,
147
+ 145,
148
+ 146,
149
+ 147,
150
+ 148,
151
+ 149,
152
+ 150,
153
+ 151,
154
+ 152,
155
+ 153,
156
+ 154,
157
+ 155,
158
+ 156,
159
+ 157,
160
+ 158,
161
+ 159,
162
+ 161,
163
+ 163,
164
+ 164,
165
+ 165,
166
+ 167,
167
+ 168,
168
+ 169,
169
+ 170,
170
+ 171,
171
+ 172,
172
+ 173,
173
+ 175,
174
+ 176,
175
+ 177,
176
+ 178,
177
+ 179,
178
+ 180,
179
+ 181,
180
+ 182,
181
+ 183,
182
+ 184,
183
+ 185,
184
+ 186,
185
+ 187,
186
+ 189,
187
+ 190,
188
+ 191,
189
+ 192,
190
+ 193,
191
+ 194,
192
+ 195,
193
+ 196,
194
+ 197,
195
+ 198,
196
+ 199,
197
+ 200,
198
+ 201,
199
+ 202,
200
+ 203,
201
+ 204,
202
+ 205,
203
+ 206,
204
+ 207,
205
+ 208,
206
+ 209,
207
+ 210,
208
+ 212,
209
+ 213,
210
+ 214,
211
+ 216,
212
+ 217,
213
+ 218,
214
+ 219,
215
+ 220,
216
+ 221,
217
+ 222,
218
+ 223,
219
+ 224,
220
+ 225,
221
+ 227,
222
+ 228,
223
+ 229,
224
+ 230,
225
+ 231,
226
+ 232,
227
+ 233,
228
+ 235,
229
+ 236,
230
+ 237,
231
+ 238,
232
+ 239,
233
+ 240,
234
+ 241,
235
+ 243,
236
+ 244,
237
+ 245,
238
+ 247,
239
+ 248,
240
+ 250,
241
+ 251,
242
+ 252,
243
+ 253,
244
+ 254,
245
+ 255,
246
+ 256,
247
+ 257,
248
+ 258,
249
+ 259,
250
+ 260,
251
+ 261,
252
+ 262,
253
+ 263,
254
+ 264,
255
+ 266,
256
+ 267,
257
+ 268,
258
+ 269,
259
+ 270,
260
+ 271,
261
+ 272,
262
+ 273,
263
+ 274,
264
+ 275,
265
+ 277,
266
+ 278,
267
+ 279,
268
+ 280,
269
+ 281,
270
+ 283,
271
+ 285,
272
+ 287,
273
+ 288,
274
+ 289,
275
+ 290,
276
+ 291,
277
+ 292,
278
+ 293,
279
+ 294,
280
+ 295,
281
+ 296,
282
+ 297,
283
+ 298,
284
+ 299,
285
+ 301,
286
+ 302,
287
+ 303,
288
+ 304,
289
+ 305,
290
+ 306,
291
+ 307,
292
+ 308,
293
+ 309,
294
+ 310,
295
+ 311,
296
+ 312,
297
+ 313,
298
+ 314,
299
+ 315,
300
+ 316,
301
+ 317,
302
+ 318,
303
+ 319,
304
+ 320,
305
+ 321,
306
+ 322,
307
+ 323,
308
+ 324,
309
+ 325,
310
+ 327,
311
+ 328,
312
+ 329,
313
+ 330,
314
+ 331,
315
+ 333,
316
+ 334,
317
+ 335,
318
+ 336,
319
+ 337,
320
+ 338,
321
+ 339,
322
+ 341,
323
+ 342,
324
+ 344,
325
+ 345,
326
+ 346,
327
+ 347,
328
+ 348,
329
+ 349,
330
+ 350,
331
+ 351,
332
+ 352,
333
+ 353,
334
+ 354,
335
+ 355,
336
+ 356,
337
+ 357,
338
+ 358,
339
+ 359,
340
+ 360,
341
+ 361,
342
+ 362,
343
+ 363,
344
+ 364,
345
+ 365,
346
+ 366,
347
+ 367,
348
+ 368,
349
+ 369,
350
+ 370,
351
+ 371,
352
+ 372,
353
+ 373,
354
+ 374,
355
+ 375,
356
+ 376,
357
+ 377,
358
+ 378,
359
+ 379,
360
+ 380,
361
+ 381,
362
+ 382,
363
+ 383,
364
+ 384,
365
+ 385,
366
+ 386,
367
+ 387,
368
+ 388,
369
+ 389,
370
+ 390,
371
+ 392,
372
+ 393,
373
+ 394,
374
+ 395,
375
+ 396,
376
+ 397,
377
+ 398,
378
+ 399,
379
+ 400,
380
+ 401,
381
+ 402,
382
+ 403,
383
+ 404,
384
+ 405,
385
+ 406,
386
+ 407,
387
+ 409,
388
+ 411,
389
+ 412,
390
+ 413,
391
+ 414,
392
+ 415,
393
+ 416,
394
+ 417,
395
+ 418,
396
+ 419,
397
+ 420,
398
+ 421,
399
+ 422,
400
+ 423,
401
+ 424,
402
+ 425,
403
+ 426,
404
+ 427,
405
+ 428,
406
+ 429,
407
+ 430,
408
+ 431,
409
+ 432,
410
+ 433,
411
+ 434,
412
+ 435,
413
+ 436,
414
+ 437,
415
+ 438,
416
+ 439,
417
+ 440,
418
+ 441,
419
+ 442,
420
+ 443,
421
+ 444,
422
+ 445,
423
+ 446,
424
+ 447,
425
+ 450,
426
+ 452,
427
+ 453,
428
+ 454,
429
+ 455,
430
+ 456,
431
+ 457,
432
+ 458,
433
+ 459,
434
+ 460,
435
+ 461,
436
+ 462,
437
+ 463,
438
+ 464,
439
+ 465,
440
+ 466,
441
+ 467,
442
+ 469,
443
+ 470,
444
+ 471,
445
+ 472,
446
+ 473,
447
+ 474,
448
+ 475,
449
+ 476,
450
+ 477,
451
+ 478,
452
+ 479,
453
+ 480,
454
+ 481,
455
+ 482,
456
+ 483,
457
+ 484,
458
+ 485,
459
+ 486,
460
+ 487,
461
+ 489,
462
+ 490,
463
+ 491,
464
+ 492,
465
+ 493,
466
+ 494,
467
+ 495,
468
+ 496,
469
+ 497,
470
+ 498,
471
+ 499,
472
+ 500,
473
+ 501,
474
+ 502,
475
+ 504,
476
+ 505,
477
+ 507,
478
+ 509,
479
+ 510,
480
+ 511,
481
+ 512,
482
+ 513,
483
+ 514,
484
+ 515,
485
+ 516,
486
+ 517,
487
+ 518,
488
+ 519,
489
+ 520,
490
+ 521,
491
+ 523,
492
+ 524,
493
+ 525,
494
+ 526,
495
+ 527,
496
+ 528,
497
+ 529,
498
+ 530,
499
+ 531,
500
+ 532,
501
+ 533,
502
+ 534,
503
+ 535,
504
+ 536,
505
+ 537,
506
+ 538,
507
+ 539,
508
+ 540,
509
+ 541,
510
+ 542,
511
+ 543,
512
+ 544,
513
+ 545,
514
+ 546,
515
+ 548,
516
+ 549,
517
+ 550,
518
+ 551,
519
+ 552,
520
+ 554,
521
+ 555,
522
+ 556,
523
+ 557,
524
+ 558,
525
+ 559,
526
+ 560,
527
+ 561,
528
+ 562,
529
+ 563,
530
+ 564,
531
+ 565,
532
+ 566,
533
+ 567,
534
+ 568,
535
+ 569,
536
+ 570,
537
+ 571,
538
+ 572,
539
+ 573,
540
+ 574,
541
+ 575,
542
+ 576,
543
+ 577,
544
+ 578,
545
+ 579,
546
+ 580,
547
+ 582,
548
+ 583,
549
+ 584,
550
+ 585,
551
+ 586,
552
+ 588,
553
+ 589,
554
+ 590,
555
+ 591,
556
+ 592,
557
+ 593,
558
+ 594,
559
+ 595,
560
+ 597,
561
+ 598,
562
+ 599,
563
+ 600,
564
+ 601,
565
+ 602,
566
+ 604,
567
+ 605,
568
+ 606,
569
+ 607,
570
+ 609,
571
+ 610,
572
+ 611,
573
+ 612,
574
+ 613,
575
+ 614,
576
+ 615,
577
+ 617,
578
+ 618,
579
+ 619,
580
+ 620,
581
+ 621,
582
+ 622,
583
+ 623,
584
+ 624,
585
+ 625,
586
+ 626,
587
+ 627,
588
+ 628,
589
+ 629,
590
+ 631,
591
+ 632,
592
+ 633,
593
+ 635,
594
+ 636,
595
+ 637,
596
+ 638,
597
+ 639,
598
+ 641,
599
+ 642,
600
+ 643,
601
+ 645,
602
+ 646,
603
+ 647,
604
+ 648,
605
+ 649,
606
+ 650,
607
+ 652,
608
+ 653,
609
+ 654,
610
+ 655,
611
+ 656,
612
+ 657,
613
+ 658,
614
+ 659,
615
+ 660,
616
+ 661,
617
+ 662,
618
+ 663,
619
+ 664,
620
+ 665,
621
+ 666,
622
+ 667,
623
+ 668,
624
+ 669,
625
+ 670,
626
+ 671,
627
+ 672,
628
+ 673,
629
+ 674,
630
+ 675,
631
+ 676,
632
+ 677,
633
+ 679,
634
+ 680,
635
+ 681,
636
+ 682,
637
+ 683,
638
+ 684,
639
+ 685,
640
+ 686,
641
+ 687,
642
+ 688,
643
+ 689,
644
+ 690,
645
+ 691,
646
+ 692,
647
+ 693,
648
+ 694,
649
+ 695,
650
+ 696,
651
+ 697,
652
+ 698,
653
+ 699,
654
+ 700,
655
+ 701,
656
+ 702,
657
+ 703,
658
+ 704,
659
+ 705,
660
+ 706,
661
+ 707,
662
+ 708,
663
+ 709,
664
+ 710,
665
+ 711,
666
+ 712,
667
+ 713,
668
+ 714,
669
+ 715,
670
+ 716,
671
+ 717,
672
+ 718,
673
+ 719,
674
+ 720,
675
+ 721,
676
+ 722,
677
+ 723,
678
+ 724,
679
+ 725,
680
+ 726,
681
+ 727,
682
+ 729,
683
+ 730,
684
+ 731,
685
+ 732,
686
+ 733,
687
+ 736,
688
+ 737,
689
+ 738,
690
+ 739,
691
+ 740,
692
+ 741,
693
+ 742,
694
+ 743,
695
+ 744,
696
+ 745,
697
+ 746,
698
+ 747,
699
+ 748,
700
+ 749,
701
+ 750,
702
+ 751,
703
+ 752,
704
+ 753,
705
+ 755,
706
+ 756,
707
+ 757,
708
+ 759,
709
+ 760,
710
+ 761,
711
+ 762,
712
+ 763,
713
+ 764,
714
+ 765,
715
+ 766,
716
+ 767,
717
+ 768,
718
+ 769,
719
+ 770,
720
+ 771,
721
+ 773,
722
+ 775,
723
+ 776,
724
+ 777,
725
+ 778,
726
+ 780,
727
+ 781,
728
+ 782,
729
+ 783,
730
+ 784,
731
+ 785,
732
+ 786,
733
+ 787,
734
+ 788,
735
+ 789,
736
+ 791,
737
+ 792,
738
+ 793,
739
+ 794,
740
+ 795,
741
+ 796,
742
+ 797,
743
+ 798,
744
+ 799,
745
+ 800,
746
+ 801,
747
+ 802,
748
+ 803,
749
+ 804,
750
+ 805,
751
+ 806,
752
+ 807,
753
+ 808,
754
+ 809,
755
+ 810,
756
+ 811,
757
+ 812,
758
+ 813,
759
+ 814,
760
+ 815,
761
+ 816,
762
+ 817,
763
+ 818,
764
+ 819,
765
+ 820,
766
+ 821,
767
+ 822,
768
+ 823,
769
+ 825,
770
+ 826,
771
+ 827,
772
+ 828,
773
+ 829,
774
+ 830,
775
+ 831,
776
+ 832,
777
+ 833,
778
+ 834,
779
+ 835,
780
+ 836,
781
+ 837,
782
+ 838,
783
+ 839,
784
+ 840,
785
+ 841,
786
+ 842,
787
+ 843,
788
+ 844,
789
+ 845,
790
+ 846,
791
+ 847,
792
+ 848,
793
+ 849,
794
+ 850,
795
+ 851,
796
+ 852,
797
+ 854,
798
+ 855,
799
+ 856,
800
+ 857,
801
+ 858,
802
+ 859,
803
+ 860,
804
+ 861,
805
+ 862,
806
+ 863,
807
+ 864,
808
+ 865,
809
+ 866,
810
+ 867,
811
+ 868,
812
+ 869,
813
+ 870,
814
+ 871,
815
+ 872,
816
+ 873,
817
+ 875,
818
+ 877,
819
+ 878,
820
+ 879,
821
+ 880,
822
+ 881,
823
+ 882,
824
+ 883,
825
+ 884,
826
+ 885,
827
+ 886,
828
+ 887,
829
+ 888,
830
+ 889,
831
+ 890,
832
+ 891,
833
+ 892,
834
+ 893,
835
+ 894,
836
+ 895,
837
+ 896,
838
+ 897,
839
+ 898,
840
+ 899,
841
+ 900,
842
+ 901,
843
+ 902,
844
+ 903,
845
+ 904,
846
+ 905,
847
+ 906,
848
+ 908,
849
+ 909,
850
+ 910,
851
+ 911,
852
+ 912,
853
+ 913,
854
+ 914,
855
+ 915,
856
+ 916,
857
+ 917,
858
+ 919,
859
+ 920,
860
+ 922,
861
+ 923,
862
+ 924,
863
+ 925,
864
+ 926,
865
+ 927,
866
+ 928,
867
+ 929,
868
+ 930,
869
+ 931,
870
+ 932,
871
+ 933,
872
+ 934,
873
+ 935,
874
+ 936,
875
+ 937,
876
+ 938,
877
+ 939,
878
+ 941,
879
+ 942,
880
+ 943,
881
+ 945,
882
+ 946,
883
+ 947,
884
+ 948,
885
+ 949,
886
+ 950,
887
+ 951,
888
+ 952,
889
+ 953,
890
+ 954,
891
+ 955,
892
+ 956,
893
+ 957,
894
+ 958,
895
+ 959,
896
+ 960,
897
+ 961,
898
+ 962,
899
+ 963,
900
+ 964,
901
+ 965,
902
+ 966,
903
+ 967,
904
+ 968,
905
+ 969,
906
+ 970,
907
+ 971,
908
+ 972,
909
+ 973,
910
+ 974,
911
+ 975,
912
+ 976,
913
+ 977,
914
+ 978,
915
+ 979,
916
+ 980,
917
+ 981,
918
+ 982,
919
+ 983,
920
+ 984,
921
+ 985,
922
+ 986,
923
+ 987,
924
+ 988,
925
+ 990,
926
+ 991,
927
+ 992,
928
+ 993,
929
+ 994,
930
+ 995,
931
+ 996,
932
+ 997,
933
+ 998,
934
+ 999
935
+ ],
936
+ "not_both_correct_indices": [
937
+ 4,
938
+ 48,
939
+ 51,
940
+ 74,
941
+ 80,
942
+ 90,
943
+ 95,
944
+ 137,
945
+ 139,
946
+ 160,
947
+ 162,
948
+ 166,
949
+ 174,
950
+ 188,
951
+ 211,
952
+ 215,
953
+ 226,
954
+ 234,
955
+ 242,
956
+ 246,
957
+ 249,
958
+ 265,
959
+ 276,
960
+ 282,
961
+ 284,
962
+ 286,
963
+ 300,
964
+ 326,
965
+ 332,
966
+ 340,
967
+ 343,
968
+ 391,
969
+ 408,
970
+ 410,
971
+ 448,
972
+ 449,
973
+ 451,
974
+ 468,
975
+ 488,
976
+ 503,
977
+ 506,
978
+ 508,
979
+ 522,
980
+ 547,
981
+ 553,
982
+ 581,
983
+ 587,
984
+ 596,
985
+ 603,
986
+ 608,
987
+ 616,
988
+ 630,
989
+ 634,
990
+ 640,
991
+ 644,
992
+ 651,
993
+ 678,
994
+ 728,
995
+ 734,
996
+ 735,
997
+ 754,
998
+ 758,
999
+ 772,
1000
+ 774,
1001
+ 779,
1002
+ 790,
1003
+ 824,
1004
+ 853,
1005
+ 874,
1006
+ 876,
1007
+ 907,
1008
+ 918,
1009
+ 921,
1010
+ 940,
1011
+ 944,
1012
+ 989
1013
+ ],
1014
+ "clean_baseline": 7.16796875,
1015
+ "corrupted_baseline": -7.19140625
1016
+ }
results/mistralai_Mistral-Large-Instruct-2407/MD/code_B/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:13b6161d8c85fad27d78a81dfd0e20f3ca3e2fca73cfef876d3002c090123e78
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/MD/code_B/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:eac4f033ad806bbfab723f8c81af630ee39dc607c1250578f49b1a90906781f6
3
+ size 10212136
results/mistralai_Mistral-Large-Instruct-2407/MD/code_conditional/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/MD/code_conditional/baselines.json ADDED
@@ -0,0 +1,1015 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 1.0,
7
+ "corrupted_accuracy": 1.0,
8
+ "both_correct_accuracy": 1.0,
9
+ "n_both_correct": 1000,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 129,
141
+ 130,
142
+ 131,
143
+ 132,
144
+ 133,
145
+ 134,
146
+ 135,
147
+ 136,
148
+ 137,
149
+ 138,
150
+ 139,
151
+ 140,
152
+ 141,
153
+ 142,
154
+ 143,
155
+ 144,
156
+ 145,
157
+ 146,
158
+ 147,
159
+ 148,
160
+ 149,
161
+ 150,
162
+ 151,
163
+ 152,
164
+ 153,
165
+ 154,
166
+ 155,
167
+ 156,
168
+ 157,
169
+ 158,
170
+ 159,
171
+ 160,
172
+ 161,
173
+ 162,
174
+ 163,
175
+ 164,
176
+ 165,
177
+ 166,
178
+ 167,
179
+ 168,
180
+ 169,
181
+ 170,
182
+ 171,
183
+ 172,
184
+ 173,
185
+ 174,
186
+ 175,
187
+ 176,
188
+ 177,
189
+ 178,
190
+ 179,
191
+ 180,
192
+ 181,
193
+ 182,
194
+ 183,
195
+ 184,
196
+ 185,
197
+ 186,
198
+ 187,
199
+ 188,
200
+ 189,
201
+ 190,
202
+ 191,
203
+ 192,
204
+ 193,
205
+ 194,
206
+ 195,
207
+ 196,
208
+ 197,
209
+ 198,
210
+ 199,
211
+ 200,
212
+ 201,
213
+ 202,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 209,
221
+ 210,
222
+ 211,
223
+ 212,
224
+ 213,
225
+ 214,
226
+ 215,
227
+ 216,
228
+ 217,
229
+ 218,
230
+ 219,
231
+ 220,
232
+ 221,
233
+ 222,
234
+ 223,
235
+ 224,
236
+ 225,
237
+ 226,
238
+ 227,
239
+ 228,
240
+ 229,
241
+ 230,
242
+ 231,
243
+ 232,
244
+ 233,
245
+ 234,
246
+ 235,
247
+ 236,
248
+ 237,
249
+ 238,
250
+ 239,
251
+ 240,
252
+ 241,
253
+ 242,
254
+ 243,
255
+ 244,
256
+ 245,
257
+ 246,
258
+ 247,
259
+ 248,
260
+ 249,
261
+ 250,
262
+ 251,
263
+ 252,
264
+ 253,
265
+ 254,
266
+ 255,
267
+ 256,
268
+ 257,
269
+ 258,
270
+ 259,
271
+ 260,
272
+ 261,
273
+ 262,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 274,
286
+ 275,
287
+ 276,
288
+ 277,
289
+ 278,
290
+ 279,
291
+ 280,
292
+ 281,
293
+ 282,
294
+ 283,
295
+ 284,
296
+ 285,
297
+ 286,
298
+ 287,
299
+ 288,
300
+ 289,
301
+ 290,
302
+ 291,
303
+ 292,
304
+ 293,
305
+ 294,
306
+ 295,
307
+ 296,
308
+ 297,
309
+ 298,
310
+ 299,
311
+ 300,
312
+ 301,
313
+ 302,
314
+ 303,
315
+ 304,
316
+ 305,
317
+ 306,
318
+ 307,
319
+ 308,
320
+ 309,
321
+ 310,
322
+ 311,
323
+ 312,
324
+ 313,
325
+ 314,
326
+ 315,
327
+ 316,
328
+ 317,
329
+ 318,
330
+ 319,
331
+ 320,
332
+ 321,
333
+ 322,
334
+ 323,
335
+ 324,
336
+ 325,
337
+ 326,
338
+ 327,
339
+ 328,
340
+ 329,
341
+ 330,
342
+ 331,
343
+ 332,
344
+ 333,
345
+ 334,
346
+ 335,
347
+ 336,
348
+ 337,
349
+ 338,
350
+ 339,
351
+ 340,
352
+ 341,
353
+ 342,
354
+ 343,
355
+ 344,
356
+ 345,
357
+ 346,
358
+ 347,
359
+ 348,
360
+ 349,
361
+ 350,
362
+ 351,
363
+ 352,
364
+ 353,
365
+ 354,
366
+ 355,
367
+ 356,
368
+ 357,
369
+ 358,
370
+ 359,
371
+ 360,
372
+ 361,
373
+ 362,
374
+ 363,
375
+ 364,
376
+ 365,
377
+ 366,
378
+ 367,
379
+ 368,
380
+ 369,
381
+ 370,
382
+ 371,
383
+ 372,
384
+ 373,
385
+ 374,
386
+ 375,
387
+ 376,
388
+ 377,
389
+ 378,
390
+ 379,
391
+ 380,
392
+ 381,
393
+ 382,
394
+ 383,
395
+ 384,
396
+ 385,
397
+ 386,
398
+ 387,
399
+ 388,
400
+ 389,
401
+ 390,
402
+ 391,
403
+ 392,
404
+ 393,
405
+ 394,
406
+ 395,
407
+ 396,
408
+ 397,
409
+ 398,
410
+ 399,
411
+ 400,
412
+ 401,
413
+ 402,
414
+ 403,
415
+ 404,
416
+ 405,
417
+ 406,
418
+ 407,
419
+ 408,
420
+ 409,
421
+ 410,
422
+ 411,
423
+ 412,
424
+ 413,
425
+ 414,
426
+ 415,
427
+ 416,
428
+ 417,
429
+ 418,
430
+ 419,
431
+ 420,
432
+ 421,
433
+ 422,
434
+ 423,
435
+ 424,
436
+ 425,
437
+ 426,
438
+ 427,
439
+ 428,
440
+ 429,
441
+ 430,
442
+ 431,
443
+ 432,
444
+ 433,
445
+ 434,
446
+ 435,
447
+ 436,
448
+ 437,
449
+ 438,
450
+ 439,
451
+ 440,
452
+ 441,
453
+ 442,
454
+ 443,
455
+ 444,
456
+ 445,
457
+ 446,
458
+ 447,
459
+ 448,
460
+ 449,
461
+ 450,
462
+ 451,
463
+ 452,
464
+ 453,
465
+ 454,
466
+ 455,
467
+ 456,
468
+ 457,
469
+ 458,
470
+ 459,
471
+ 460,
472
+ 461,
473
+ 462,
474
+ 463,
475
+ 464,
476
+ 465,
477
+ 466,
478
+ 467,
479
+ 468,
480
+ 469,
481
+ 470,
482
+ 471,
483
+ 472,
484
+ 473,
485
+ 474,
486
+ 475,
487
+ 476,
488
+ 477,
489
+ 478,
490
+ 479,
491
+ 480,
492
+ 481,
493
+ 482,
494
+ 483,
495
+ 484,
496
+ 485,
497
+ 486,
498
+ 487,
499
+ 488,
500
+ 489,
501
+ 490,
502
+ 491,
503
+ 492,
504
+ 493,
505
+ 494,
506
+ 495,
507
+ 496,
508
+ 497,
509
+ 498,
510
+ 499,
511
+ 500,
512
+ 501,
513
+ 502,
514
+ 503,
515
+ 504,
516
+ 505,
517
+ 506,
518
+ 507,
519
+ 508,
520
+ 509,
521
+ 510,
522
+ 511,
523
+ 512,
524
+ 513,
525
+ 514,
526
+ 515,
527
+ 516,
528
+ 517,
529
+ 518,
530
+ 519,
531
+ 520,
532
+ 521,
533
+ 522,
534
+ 523,
535
+ 524,
536
+ 525,
537
+ 526,
538
+ 527,
539
+ 528,
540
+ 529,
541
+ 530,
542
+ 531,
543
+ 532,
544
+ 533,
545
+ 534,
546
+ 535,
547
+ 536,
548
+ 537,
549
+ 538,
550
+ 539,
551
+ 540,
552
+ 541,
553
+ 542,
554
+ 543,
555
+ 544,
556
+ 545,
557
+ 546,
558
+ 547,
559
+ 548,
560
+ 549,
561
+ 550,
562
+ 551,
563
+ 552,
564
+ 553,
565
+ 554,
566
+ 555,
567
+ 556,
568
+ 557,
569
+ 558,
570
+ 559,
571
+ 560,
572
+ 561,
573
+ 562,
574
+ 563,
575
+ 564,
576
+ 565,
577
+ 566,
578
+ 567,
579
+ 568,
580
+ 569,
581
+ 570,
582
+ 571,
583
+ 572,
584
+ 573,
585
+ 574,
586
+ 575,
587
+ 576,
588
+ 577,
589
+ 578,
590
+ 579,
591
+ 580,
592
+ 581,
593
+ 582,
594
+ 583,
595
+ 584,
596
+ 585,
597
+ 586,
598
+ 587,
599
+ 588,
600
+ 589,
601
+ 590,
602
+ 591,
603
+ 592,
604
+ 593,
605
+ 594,
606
+ 595,
607
+ 596,
608
+ 597,
609
+ 598,
610
+ 599,
611
+ 600,
612
+ 601,
613
+ 602,
614
+ 603,
615
+ 604,
616
+ 605,
617
+ 606,
618
+ 607,
619
+ 608,
620
+ 609,
621
+ 610,
622
+ 611,
623
+ 612,
624
+ 613,
625
+ 614,
626
+ 615,
627
+ 616,
628
+ 617,
629
+ 618,
630
+ 619,
631
+ 620,
632
+ 621,
633
+ 622,
634
+ 623,
635
+ 624,
636
+ 625,
637
+ 626,
638
+ 627,
639
+ 628,
640
+ 629,
641
+ 630,
642
+ 631,
643
+ 632,
644
+ 633,
645
+ 634,
646
+ 635,
647
+ 636,
648
+ 637,
649
+ 638,
650
+ 639,
651
+ 640,
652
+ 641,
653
+ 642,
654
+ 643,
655
+ 644,
656
+ 645,
657
+ 646,
658
+ 647,
659
+ 648,
660
+ 649,
661
+ 650,
662
+ 651,
663
+ 652,
664
+ 653,
665
+ 654,
666
+ 655,
667
+ 656,
668
+ 657,
669
+ 658,
670
+ 659,
671
+ 660,
672
+ 661,
673
+ 662,
674
+ 663,
675
+ 664,
676
+ 665,
677
+ 666,
678
+ 667,
679
+ 668,
680
+ 669,
681
+ 670,
682
+ 671,
683
+ 672,
684
+ 673,
685
+ 674,
686
+ 675,
687
+ 676,
688
+ 677,
689
+ 678,
690
+ 679,
691
+ 680,
692
+ 681,
693
+ 682,
694
+ 683,
695
+ 684,
696
+ 685,
697
+ 686,
698
+ 687,
699
+ 688,
700
+ 689,
701
+ 690,
702
+ 691,
703
+ 692,
704
+ 693,
705
+ 694,
706
+ 695,
707
+ 696,
708
+ 697,
709
+ 698,
710
+ 699,
711
+ 700,
712
+ 701,
713
+ 702,
714
+ 703,
715
+ 704,
716
+ 705,
717
+ 706,
718
+ 707,
719
+ 708,
720
+ 709,
721
+ 710,
722
+ 711,
723
+ 712,
724
+ 713,
725
+ 714,
726
+ 715,
727
+ 716,
728
+ 717,
729
+ 718,
730
+ 719,
731
+ 720,
732
+ 721,
733
+ 722,
734
+ 723,
735
+ 724,
736
+ 725,
737
+ 726,
738
+ 727,
739
+ 728,
740
+ 729,
741
+ 730,
742
+ 731,
743
+ 732,
744
+ 733,
745
+ 734,
746
+ 735,
747
+ 736,
748
+ 737,
749
+ 738,
750
+ 739,
751
+ 740,
752
+ 741,
753
+ 742,
754
+ 743,
755
+ 744,
756
+ 745,
757
+ 746,
758
+ 747,
759
+ 748,
760
+ 749,
761
+ 750,
762
+ 751,
763
+ 752,
764
+ 753,
765
+ 754,
766
+ 755,
767
+ 756,
768
+ 757,
769
+ 758,
770
+ 759,
771
+ 760,
772
+ 761,
773
+ 762,
774
+ 763,
775
+ 764,
776
+ 765,
777
+ 766,
778
+ 767,
779
+ 768,
780
+ 769,
781
+ 770,
782
+ 771,
783
+ 772,
784
+ 773,
785
+ 774,
786
+ 775,
787
+ 776,
788
+ 777,
789
+ 778,
790
+ 779,
791
+ 780,
792
+ 781,
793
+ 782,
794
+ 783,
795
+ 784,
796
+ 785,
797
+ 786,
798
+ 787,
799
+ 788,
800
+ 789,
801
+ 790,
802
+ 791,
803
+ 792,
804
+ 793,
805
+ 794,
806
+ 795,
807
+ 796,
808
+ 797,
809
+ 798,
810
+ 799,
811
+ 800,
812
+ 801,
813
+ 802,
814
+ 803,
815
+ 804,
816
+ 805,
817
+ 806,
818
+ 807,
819
+ 808,
820
+ 809,
821
+ 810,
822
+ 811,
823
+ 812,
824
+ 813,
825
+ 814,
826
+ 815,
827
+ 816,
828
+ 817,
829
+ 818,
830
+ 819,
831
+ 820,
832
+ 821,
833
+ 822,
834
+ 823,
835
+ 824,
836
+ 825,
837
+ 826,
838
+ 827,
839
+ 828,
840
+ 829,
841
+ 830,
842
+ 831,
843
+ 832,
844
+ 833,
845
+ 834,
846
+ 835,
847
+ 836,
848
+ 837,
849
+ 838,
850
+ 839,
851
+ 840,
852
+ 841,
853
+ 842,
854
+ 843,
855
+ 844,
856
+ 845,
857
+ 846,
858
+ 847,
859
+ 848,
860
+ 849,
861
+ 850,
862
+ 851,
863
+ 852,
864
+ 853,
865
+ 854,
866
+ 855,
867
+ 856,
868
+ 857,
869
+ 858,
870
+ 859,
871
+ 860,
872
+ 861,
873
+ 862,
874
+ 863,
875
+ 864,
876
+ 865,
877
+ 866,
878
+ 867,
879
+ 868,
880
+ 869,
881
+ 870,
882
+ 871,
883
+ 872,
884
+ 873,
885
+ 874,
886
+ 875,
887
+ 876,
888
+ 877,
889
+ 878,
890
+ 879,
891
+ 880,
892
+ 881,
893
+ 882,
894
+ 883,
895
+ 884,
896
+ 885,
897
+ 886,
898
+ 887,
899
+ 888,
900
+ 889,
901
+ 890,
902
+ 891,
903
+ 892,
904
+ 893,
905
+ 894,
906
+ 895,
907
+ 896,
908
+ 897,
909
+ 898,
910
+ 899,
911
+ 900,
912
+ 901,
913
+ 902,
914
+ 903,
915
+ 904,
916
+ 905,
917
+ 906,
918
+ 907,
919
+ 908,
920
+ 909,
921
+ 910,
922
+ 911,
923
+ 912,
924
+ 913,
925
+ 914,
926
+ 915,
927
+ 916,
928
+ 917,
929
+ 918,
930
+ 919,
931
+ 920,
932
+ 921,
933
+ 922,
934
+ 923,
935
+ 924,
936
+ 925,
937
+ 926,
938
+ 927,
939
+ 928,
940
+ 929,
941
+ 930,
942
+ 931,
943
+ 932,
944
+ 933,
945
+ 934,
946
+ 935,
947
+ 936,
948
+ 937,
949
+ 938,
950
+ 939,
951
+ 940,
952
+ 941,
953
+ 942,
954
+ 943,
955
+ 944,
956
+ 945,
957
+ 946,
958
+ 947,
959
+ 948,
960
+ 949,
961
+ 950,
962
+ 951,
963
+ 952,
964
+ 953,
965
+ 954,
966
+ 955,
967
+ 956,
968
+ 957,
969
+ 958,
970
+ 959,
971
+ 960,
972
+ 961,
973
+ 962,
974
+ 963,
975
+ 964,
976
+ 965,
977
+ 966,
978
+ 967,
979
+ 968,
980
+ 969,
981
+ 970,
982
+ 971,
983
+ 972,
984
+ 973,
985
+ 974,
986
+ 975,
987
+ 976,
988
+ 977,
989
+ 978,
990
+ 979,
991
+ 980,
992
+ 981,
993
+ 982,
994
+ 983,
995
+ 984,
996
+ 985,
997
+ 986,
998
+ 987,
999
+ 988,
1000
+ 989,
1001
+ 990,
1002
+ 991,
1003
+ 992,
1004
+ 993,
1005
+ 994,
1006
+ 995,
1007
+ 996,
1008
+ 997,
1009
+ 998,
1010
+ 999
1011
+ ],
1012
+ "not_both_correct_indices": [],
1013
+ "clean_baseline": 7.2109375,
1014
+ "corrupted_baseline": -7.36328125
1015
+ }
results/mistralai_Mistral-Large-Instruct-2407/MD/code_conditional/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:617848a302740a457a967d55ecf6a9511252fe8ec23ec3259a54fef1b0e55b98
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/MD/code_conditional/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ebdbfc8f1faa26403d0a9a0d95fba914987cb1e366b8e6946a663a60af70b50a
3
+ size 10005816
results/mistralai_Mistral-Large-Instruct-2407/MD/code_list/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/MD/code_list/baselines.json ADDED
@@ -0,0 +1,1015 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 1.0,
7
+ "corrupted_accuracy": 1.0,
8
+ "both_correct_accuracy": 1.0,
9
+ "n_both_correct": 1000,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 129,
141
+ 130,
142
+ 131,
143
+ 132,
144
+ 133,
145
+ 134,
146
+ 135,
147
+ 136,
148
+ 137,
149
+ 138,
150
+ 139,
151
+ 140,
152
+ 141,
153
+ 142,
154
+ 143,
155
+ 144,
156
+ 145,
157
+ 146,
158
+ 147,
159
+ 148,
160
+ 149,
161
+ 150,
162
+ 151,
163
+ 152,
164
+ 153,
165
+ 154,
166
+ 155,
167
+ 156,
168
+ 157,
169
+ 158,
170
+ 159,
171
+ 160,
172
+ 161,
173
+ 162,
174
+ 163,
175
+ 164,
176
+ 165,
177
+ 166,
178
+ 167,
179
+ 168,
180
+ 169,
181
+ 170,
182
+ 171,
183
+ 172,
184
+ 173,
185
+ 174,
186
+ 175,
187
+ 176,
188
+ 177,
189
+ 178,
190
+ 179,
191
+ 180,
192
+ 181,
193
+ 182,
194
+ 183,
195
+ 184,
196
+ 185,
197
+ 186,
198
+ 187,
199
+ 188,
200
+ 189,
201
+ 190,
202
+ 191,
203
+ 192,
204
+ 193,
205
+ 194,
206
+ 195,
207
+ 196,
208
+ 197,
209
+ 198,
210
+ 199,
211
+ 200,
212
+ 201,
213
+ 202,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 209,
221
+ 210,
222
+ 211,
223
+ 212,
224
+ 213,
225
+ 214,
226
+ 215,
227
+ 216,
228
+ 217,
229
+ 218,
230
+ 219,
231
+ 220,
232
+ 221,
233
+ 222,
234
+ 223,
235
+ 224,
236
+ 225,
237
+ 226,
238
+ 227,
239
+ 228,
240
+ 229,
241
+ 230,
242
+ 231,
243
+ 232,
244
+ 233,
245
+ 234,
246
+ 235,
247
+ 236,
248
+ 237,
249
+ 238,
250
+ 239,
251
+ 240,
252
+ 241,
253
+ 242,
254
+ 243,
255
+ 244,
256
+ 245,
257
+ 246,
258
+ 247,
259
+ 248,
260
+ 249,
261
+ 250,
262
+ 251,
263
+ 252,
264
+ 253,
265
+ 254,
266
+ 255,
267
+ 256,
268
+ 257,
269
+ 258,
270
+ 259,
271
+ 260,
272
+ 261,
273
+ 262,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 274,
286
+ 275,
287
+ 276,
288
+ 277,
289
+ 278,
290
+ 279,
291
+ 280,
292
+ 281,
293
+ 282,
294
+ 283,
295
+ 284,
296
+ 285,
297
+ 286,
298
+ 287,
299
+ 288,
300
+ 289,
301
+ 290,
302
+ 291,
303
+ 292,
304
+ 293,
305
+ 294,
306
+ 295,
307
+ 296,
308
+ 297,
309
+ 298,
310
+ 299,
311
+ 300,
312
+ 301,
313
+ 302,
314
+ 303,
315
+ 304,
316
+ 305,
317
+ 306,
318
+ 307,
319
+ 308,
320
+ 309,
321
+ 310,
322
+ 311,
323
+ 312,
324
+ 313,
325
+ 314,
326
+ 315,
327
+ 316,
328
+ 317,
329
+ 318,
330
+ 319,
331
+ 320,
332
+ 321,
333
+ 322,
334
+ 323,
335
+ 324,
336
+ 325,
337
+ 326,
338
+ 327,
339
+ 328,
340
+ 329,
341
+ 330,
342
+ 331,
343
+ 332,
344
+ 333,
345
+ 334,
346
+ 335,
347
+ 336,
348
+ 337,
349
+ 338,
350
+ 339,
351
+ 340,
352
+ 341,
353
+ 342,
354
+ 343,
355
+ 344,
356
+ 345,
357
+ 346,
358
+ 347,
359
+ 348,
360
+ 349,
361
+ 350,
362
+ 351,
363
+ 352,
364
+ 353,
365
+ 354,
366
+ 355,
367
+ 356,
368
+ 357,
369
+ 358,
370
+ 359,
371
+ 360,
372
+ 361,
373
+ 362,
374
+ 363,
375
+ 364,
376
+ 365,
377
+ 366,
378
+ 367,
379
+ 368,
380
+ 369,
381
+ 370,
382
+ 371,
383
+ 372,
384
+ 373,
385
+ 374,
386
+ 375,
387
+ 376,
388
+ 377,
389
+ 378,
390
+ 379,
391
+ 380,
392
+ 381,
393
+ 382,
394
+ 383,
395
+ 384,
396
+ 385,
397
+ 386,
398
+ 387,
399
+ 388,
400
+ 389,
401
+ 390,
402
+ 391,
403
+ 392,
404
+ 393,
405
+ 394,
406
+ 395,
407
+ 396,
408
+ 397,
409
+ 398,
410
+ 399,
411
+ 400,
412
+ 401,
413
+ 402,
414
+ 403,
415
+ 404,
416
+ 405,
417
+ 406,
418
+ 407,
419
+ 408,
420
+ 409,
421
+ 410,
422
+ 411,
423
+ 412,
424
+ 413,
425
+ 414,
426
+ 415,
427
+ 416,
428
+ 417,
429
+ 418,
430
+ 419,
431
+ 420,
432
+ 421,
433
+ 422,
434
+ 423,
435
+ 424,
436
+ 425,
437
+ 426,
438
+ 427,
439
+ 428,
440
+ 429,
441
+ 430,
442
+ 431,
443
+ 432,
444
+ 433,
445
+ 434,
446
+ 435,
447
+ 436,
448
+ 437,
449
+ 438,
450
+ 439,
451
+ 440,
452
+ 441,
453
+ 442,
454
+ 443,
455
+ 444,
456
+ 445,
457
+ 446,
458
+ 447,
459
+ 448,
460
+ 449,
461
+ 450,
462
+ 451,
463
+ 452,
464
+ 453,
465
+ 454,
466
+ 455,
467
+ 456,
468
+ 457,
469
+ 458,
470
+ 459,
471
+ 460,
472
+ 461,
473
+ 462,
474
+ 463,
475
+ 464,
476
+ 465,
477
+ 466,
478
+ 467,
479
+ 468,
480
+ 469,
481
+ 470,
482
+ 471,
483
+ 472,
484
+ 473,
485
+ 474,
486
+ 475,
487
+ 476,
488
+ 477,
489
+ 478,
490
+ 479,
491
+ 480,
492
+ 481,
493
+ 482,
494
+ 483,
495
+ 484,
496
+ 485,
497
+ 486,
498
+ 487,
499
+ 488,
500
+ 489,
501
+ 490,
502
+ 491,
503
+ 492,
504
+ 493,
505
+ 494,
506
+ 495,
507
+ 496,
508
+ 497,
509
+ 498,
510
+ 499,
511
+ 500,
512
+ 501,
513
+ 502,
514
+ 503,
515
+ 504,
516
+ 505,
517
+ 506,
518
+ 507,
519
+ 508,
520
+ 509,
521
+ 510,
522
+ 511,
523
+ 512,
524
+ 513,
525
+ 514,
526
+ 515,
527
+ 516,
528
+ 517,
529
+ 518,
530
+ 519,
531
+ 520,
532
+ 521,
533
+ 522,
534
+ 523,
535
+ 524,
536
+ 525,
537
+ 526,
538
+ 527,
539
+ 528,
540
+ 529,
541
+ 530,
542
+ 531,
543
+ 532,
544
+ 533,
545
+ 534,
546
+ 535,
547
+ 536,
548
+ 537,
549
+ 538,
550
+ 539,
551
+ 540,
552
+ 541,
553
+ 542,
554
+ 543,
555
+ 544,
556
+ 545,
557
+ 546,
558
+ 547,
559
+ 548,
560
+ 549,
561
+ 550,
562
+ 551,
563
+ 552,
564
+ 553,
565
+ 554,
566
+ 555,
567
+ 556,
568
+ 557,
569
+ 558,
570
+ 559,
571
+ 560,
572
+ 561,
573
+ 562,
574
+ 563,
575
+ 564,
576
+ 565,
577
+ 566,
578
+ 567,
579
+ 568,
580
+ 569,
581
+ 570,
582
+ 571,
583
+ 572,
584
+ 573,
585
+ 574,
586
+ 575,
587
+ 576,
588
+ 577,
589
+ 578,
590
+ 579,
591
+ 580,
592
+ 581,
593
+ 582,
594
+ 583,
595
+ 584,
596
+ 585,
597
+ 586,
598
+ 587,
599
+ 588,
600
+ 589,
601
+ 590,
602
+ 591,
603
+ 592,
604
+ 593,
605
+ 594,
606
+ 595,
607
+ 596,
608
+ 597,
609
+ 598,
610
+ 599,
611
+ 600,
612
+ 601,
613
+ 602,
614
+ 603,
615
+ 604,
616
+ 605,
617
+ 606,
618
+ 607,
619
+ 608,
620
+ 609,
621
+ 610,
622
+ 611,
623
+ 612,
624
+ 613,
625
+ 614,
626
+ 615,
627
+ 616,
628
+ 617,
629
+ 618,
630
+ 619,
631
+ 620,
632
+ 621,
633
+ 622,
634
+ 623,
635
+ 624,
636
+ 625,
637
+ 626,
638
+ 627,
639
+ 628,
640
+ 629,
641
+ 630,
642
+ 631,
643
+ 632,
644
+ 633,
645
+ 634,
646
+ 635,
647
+ 636,
648
+ 637,
649
+ 638,
650
+ 639,
651
+ 640,
652
+ 641,
653
+ 642,
654
+ 643,
655
+ 644,
656
+ 645,
657
+ 646,
658
+ 647,
659
+ 648,
660
+ 649,
661
+ 650,
662
+ 651,
663
+ 652,
664
+ 653,
665
+ 654,
666
+ 655,
667
+ 656,
668
+ 657,
669
+ 658,
670
+ 659,
671
+ 660,
672
+ 661,
673
+ 662,
674
+ 663,
675
+ 664,
676
+ 665,
677
+ 666,
678
+ 667,
679
+ 668,
680
+ 669,
681
+ 670,
682
+ 671,
683
+ 672,
684
+ 673,
685
+ 674,
686
+ 675,
687
+ 676,
688
+ 677,
689
+ 678,
690
+ 679,
691
+ 680,
692
+ 681,
693
+ 682,
694
+ 683,
695
+ 684,
696
+ 685,
697
+ 686,
698
+ 687,
699
+ 688,
700
+ 689,
701
+ 690,
702
+ 691,
703
+ 692,
704
+ 693,
705
+ 694,
706
+ 695,
707
+ 696,
708
+ 697,
709
+ 698,
710
+ 699,
711
+ 700,
712
+ 701,
713
+ 702,
714
+ 703,
715
+ 704,
716
+ 705,
717
+ 706,
718
+ 707,
719
+ 708,
720
+ 709,
721
+ 710,
722
+ 711,
723
+ 712,
724
+ 713,
725
+ 714,
726
+ 715,
727
+ 716,
728
+ 717,
729
+ 718,
730
+ 719,
731
+ 720,
732
+ 721,
733
+ 722,
734
+ 723,
735
+ 724,
736
+ 725,
737
+ 726,
738
+ 727,
739
+ 728,
740
+ 729,
741
+ 730,
742
+ 731,
743
+ 732,
744
+ 733,
745
+ 734,
746
+ 735,
747
+ 736,
748
+ 737,
749
+ 738,
750
+ 739,
751
+ 740,
752
+ 741,
753
+ 742,
754
+ 743,
755
+ 744,
756
+ 745,
757
+ 746,
758
+ 747,
759
+ 748,
760
+ 749,
761
+ 750,
762
+ 751,
763
+ 752,
764
+ 753,
765
+ 754,
766
+ 755,
767
+ 756,
768
+ 757,
769
+ 758,
770
+ 759,
771
+ 760,
772
+ 761,
773
+ 762,
774
+ 763,
775
+ 764,
776
+ 765,
777
+ 766,
778
+ 767,
779
+ 768,
780
+ 769,
781
+ 770,
782
+ 771,
783
+ 772,
784
+ 773,
785
+ 774,
786
+ 775,
787
+ 776,
788
+ 777,
789
+ 778,
790
+ 779,
791
+ 780,
792
+ 781,
793
+ 782,
794
+ 783,
795
+ 784,
796
+ 785,
797
+ 786,
798
+ 787,
799
+ 788,
800
+ 789,
801
+ 790,
802
+ 791,
803
+ 792,
804
+ 793,
805
+ 794,
806
+ 795,
807
+ 796,
808
+ 797,
809
+ 798,
810
+ 799,
811
+ 800,
812
+ 801,
813
+ 802,
814
+ 803,
815
+ 804,
816
+ 805,
817
+ 806,
818
+ 807,
819
+ 808,
820
+ 809,
821
+ 810,
822
+ 811,
823
+ 812,
824
+ 813,
825
+ 814,
826
+ 815,
827
+ 816,
828
+ 817,
829
+ 818,
830
+ 819,
831
+ 820,
832
+ 821,
833
+ 822,
834
+ 823,
835
+ 824,
836
+ 825,
837
+ 826,
838
+ 827,
839
+ 828,
840
+ 829,
841
+ 830,
842
+ 831,
843
+ 832,
844
+ 833,
845
+ 834,
846
+ 835,
847
+ 836,
848
+ 837,
849
+ 838,
850
+ 839,
851
+ 840,
852
+ 841,
853
+ 842,
854
+ 843,
855
+ 844,
856
+ 845,
857
+ 846,
858
+ 847,
859
+ 848,
860
+ 849,
861
+ 850,
862
+ 851,
863
+ 852,
864
+ 853,
865
+ 854,
866
+ 855,
867
+ 856,
868
+ 857,
869
+ 858,
870
+ 859,
871
+ 860,
872
+ 861,
873
+ 862,
874
+ 863,
875
+ 864,
876
+ 865,
877
+ 866,
878
+ 867,
879
+ 868,
880
+ 869,
881
+ 870,
882
+ 871,
883
+ 872,
884
+ 873,
885
+ 874,
886
+ 875,
887
+ 876,
888
+ 877,
889
+ 878,
890
+ 879,
891
+ 880,
892
+ 881,
893
+ 882,
894
+ 883,
895
+ 884,
896
+ 885,
897
+ 886,
898
+ 887,
899
+ 888,
900
+ 889,
901
+ 890,
902
+ 891,
903
+ 892,
904
+ 893,
905
+ 894,
906
+ 895,
907
+ 896,
908
+ 897,
909
+ 898,
910
+ 899,
911
+ 900,
912
+ 901,
913
+ 902,
914
+ 903,
915
+ 904,
916
+ 905,
917
+ 906,
918
+ 907,
919
+ 908,
920
+ 909,
921
+ 910,
922
+ 911,
923
+ 912,
924
+ 913,
925
+ 914,
926
+ 915,
927
+ 916,
928
+ 917,
929
+ 918,
930
+ 919,
931
+ 920,
932
+ 921,
933
+ 922,
934
+ 923,
935
+ 924,
936
+ 925,
937
+ 926,
938
+ 927,
939
+ 928,
940
+ 929,
941
+ 930,
942
+ 931,
943
+ 932,
944
+ 933,
945
+ 934,
946
+ 935,
947
+ 936,
948
+ 937,
949
+ 938,
950
+ 939,
951
+ 940,
952
+ 941,
953
+ 942,
954
+ 943,
955
+ 944,
956
+ 945,
957
+ 946,
958
+ 947,
959
+ 948,
960
+ 949,
961
+ 950,
962
+ 951,
963
+ 952,
964
+ 953,
965
+ 954,
966
+ 955,
967
+ 956,
968
+ 957,
969
+ 958,
970
+ 959,
971
+ 960,
972
+ 961,
973
+ 962,
974
+ 963,
975
+ 964,
976
+ 965,
977
+ 966,
978
+ 967,
979
+ 968,
980
+ 969,
981
+ 970,
982
+ 971,
983
+ 972,
984
+ 973,
985
+ 974,
986
+ 975,
987
+ 976,
988
+ 977,
989
+ 978,
990
+ 979,
991
+ 980,
992
+ 981,
993
+ 982,
994
+ 983,
995
+ 984,
996
+ 985,
997
+ 986,
998
+ 987,
999
+ 988,
1000
+ 989,
1001
+ 990,
1002
+ 991,
1003
+ 992,
1004
+ 993,
1005
+ 994,
1006
+ 995,
1007
+ 996,
1008
+ 997,
1009
+ 998,
1010
+ 999
1011
+ ],
1012
+ "not_both_correct_indices": [],
1013
+ "clean_baseline": 8.234375,
1014
+ "corrupted_baseline": -8.25
1015
+ }
results/mistralai_Mistral-Large-Instruct-2407/MD/code_list/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:38468bbeef0f2b8f82cbc606de23c69fc27aaba0ecddf6af5a563fdbbf4158df
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/MD/code_list/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:8f55f317d50a50f2f612acc7db38557e4a386f279d9f6c2728554dd5256c5d27
3
+ size 10194840
results/mistralai_Mistral-Large-Instruct-2407/MD/code_loop/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/MD/code_loop/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.945,
7
+ "corrupted_accuracy": 0.939,
8
+ "both_correct_accuracy": 0.884,
9
+ "n_both_correct": 884,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 15,
26
+ 16,
27
+ 17,
28
+ 18,
29
+ 19,
30
+ 20,
31
+ 21,
32
+ 22,
33
+ 23,
34
+ 24,
35
+ 25,
36
+ 27,
37
+ 28,
38
+ 29,
39
+ 30,
40
+ 31,
41
+ 32,
42
+ 33,
43
+ 34,
44
+ 35,
45
+ 36,
46
+ 37,
47
+ 39,
48
+ 40,
49
+ 41,
50
+ 43,
51
+ 46,
52
+ 47,
53
+ 48,
54
+ 49,
55
+ 50,
56
+ 51,
57
+ 52,
58
+ 53,
59
+ 54,
60
+ 55,
61
+ 56,
62
+ 57,
63
+ 59,
64
+ 60,
65
+ 61,
66
+ 62,
67
+ 63,
68
+ 64,
69
+ 65,
70
+ 66,
71
+ 67,
72
+ 68,
73
+ 69,
74
+ 70,
75
+ 71,
76
+ 72,
77
+ 73,
78
+ 74,
79
+ 75,
80
+ 76,
81
+ 77,
82
+ 78,
83
+ 79,
84
+ 80,
85
+ 81,
86
+ 83,
87
+ 84,
88
+ 85,
89
+ 86,
90
+ 88,
91
+ 89,
92
+ 90,
93
+ 91,
94
+ 92,
95
+ 93,
96
+ 94,
97
+ 95,
98
+ 96,
99
+ 97,
100
+ 98,
101
+ 100,
102
+ 101,
103
+ 103,
104
+ 105,
105
+ 106,
106
+ 107,
107
+ 108,
108
+ 109,
109
+ 110,
110
+ 111,
111
+ 112,
112
+ 113,
113
+ 114,
114
+ 115,
115
+ 116,
116
+ 117,
117
+ 119,
118
+ 120,
119
+ 121,
120
+ 122,
121
+ 123,
122
+ 124,
123
+ 126,
124
+ 127,
125
+ 128,
126
+ 129,
127
+ 130,
128
+ 131,
129
+ 133,
130
+ 134,
131
+ 135,
132
+ 136,
133
+ 137,
134
+ 138,
135
+ 139,
136
+ 140,
137
+ 141,
138
+ 143,
139
+ 144,
140
+ 145,
141
+ 146,
142
+ 147,
143
+ 148,
144
+ 149,
145
+ 150,
146
+ 152,
147
+ 153,
148
+ 154,
149
+ 155,
150
+ 157,
151
+ 158,
152
+ 159,
153
+ 160,
154
+ 161,
155
+ 163,
156
+ 164,
157
+ 165,
158
+ 166,
159
+ 167,
160
+ 168,
161
+ 169,
162
+ 170,
163
+ 171,
164
+ 172,
165
+ 173,
166
+ 175,
167
+ 176,
168
+ 177,
169
+ 178,
170
+ 179,
171
+ 180,
172
+ 181,
173
+ 182,
174
+ 185,
175
+ 186,
176
+ 187,
177
+ 188,
178
+ 189,
179
+ 190,
180
+ 191,
181
+ 192,
182
+ 193,
183
+ 194,
184
+ 195,
185
+ 196,
186
+ 197,
187
+ 198,
188
+ 199,
189
+ 200,
190
+ 202,
191
+ 203,
192
+ 204,
193
+ 205,
194
+ 206,
195
+ 207,
196
+ 208,
197
+ 209,
198
+ 210,
199
+ 211,
200
+ 212,
201
+ 213,
202
+ 214,
203
+ 215,
204
+ 216,
205
+ 217,
206
+ 218,
207
+ 219,
208
+ 220,
209
+ 221,
210
+ 222,
211
+ 223,
212
+ 224,
213
+ 225,
214
+ 227,
215
+ 228,
216
+ 229,
217
+ 230,
218
+ 231,
219
+ 232,
220
+ 233,
221
+ 235,
222
+ 236,
223
+ 237,
224
+ 238,
225
+ 239,
226
+ 240,
227
+ 241,
228
+ 242,
229
+ 243,
230
+ 244,
231
+ 246,
232
+ 247,
233
+ 248,
234
+ 249,
235
+ 250,
236
+ 251,
237
+ 252,
238
+ 254,
239
+ 255,
240
+ 256,
241
+ 257,
242
+ 258,
243
+ 259,
244
+ 260,
245
+ 261,
246
+ 262,
247
+ 263,
248
+ 264,
249
+ 265,
250
+ 266,
251
+ 268,
252
+ 269,
253
+ 270,
254
+ 271,
255
+ 272,
256
+ 273,
257
+ 274,
258
+ 275,
259
+ 276,
260
+ 277,
261
+ 278,
262
+ 279,
263
+ 280,
264
+ 281,
265
+ 282,
266
+ 283,
267
+ 284,
268
+ 285,
269
+ 286,
270
+ 287,
271
+ 289,
272
+ 290,
273
+ 291,
274
+ 294,
275
+ 295,
276
+ 296,
277
+ 297,
278
+ 298,
279
+ 299,
280
+ 300,
281
+ 301,
282
+ 302,
283
+ 303,
284
+ 304,
285
+ 305,
286
+ 306,
287
+ 307,
288
+ 309,
289
+ 310,
290
+ 311,
291
+ 312,
292
+ 313,
293
+ 314,
294
+ 315,
295
+ 316,
296
+ 317,
297
+ 318,
298
+ 319,
299
+ 320,
300
+ 321,
301
+ 322,
302
+ 323,
303
+ 325,
304
+ 328,
305
+ 329,
306
+ 330,
307
+ 331,
308
+ 332,
309
+ 333,
310
+ 334,
311
+ 335,
312
+ 336,
313
+ 337,
314
+ 338,
315
+ 339,
316
+ 340,
317
+ 341,
318
+ 342,
319
+ 343,
320
+ 344,
321
+ 345,
322
+ 346,
323
+ 348,
324
+ 349,
325
+ 350,
326
+ 351,
327
+ 352,
328
+ 353,
329
+ 354,
330
+ 355,
331
+ 356,
332
+ 357,
333
+ 358,
334
+ 360,
335
+ 361,
336
+ 362,
337
+ 363,
338
+ 364,
339
+ 365,
340
+ 366,
341
+ 367,
342
+ 368,
343
+ 369,
344
+ 370,
345
+ 371,
346
+ 373,
347
+ 374,
348
+ 375,
349
+ 376,
350
+ 377,
351
+ 378,
352
+ 379,
353
+ 380,
354
+ 381,
355
+ 383,
356
+ 384,
357
+ 385,
358
+ 387,
359
+ 388,
360
+ 390,
361
+ 391,
362
+ 392,
363
+ 393,
364
+ 394,
365
+ 395,
366
+ 396,
367
+ 398,
368
+ 399,
369
+ 400,
370
+ 403,
371
+ 404,
372
+ 405,
373
+ 407,
374
+ 408,
375
+ 409,
376
+ 410,
377
+ 412,
378
+ 413,
379
+ 414,
380
+ 415,
381
+ 416,
382
+ 417,
383
+ 418,
384
+ 419,
385
+ 420,
386
+ 421,
387
+ 422,
388
+ 423,
389
+ 424,
390
+ 425,
391
+ 426,
392
+ 427,
393
+ 428,
394
+ 429,
395
+ 430,
396
+ 432,
397
+ 433,
398
+ 436,
399
+ 437,
400
+ 438,
401
+ 439,
402
+ 440,
403
+ 442,
404
+ 444,
405
+ 445,
406
+ 446,
407
+ 447,
408
+ 448,
409
+ 449,
410
+ 450,
411
+ 451,
412
+ 453,
413
+ 454,
414
+ 455,
415
+ 456,
416
+ 457,
417
+ 458,
418
+ 459,
419
+ 460,
420
+ 463,
421
+ 464,
422
+ 465,
423
+ 466,
424
+ 467,
425
+ 468,
426
+ 469,
427
+ 470,
428
+ 471,
429
+ 472,
430
+ 473,
431
+ 474,
432
+ 475,
433
+ 476,
434
+ 478,
435
+ 479,
436
+ 481,
437
+ 482,
438
+ 483,
439
+ 484,
440
+ 485,
441
+ 486,
442
+ 488,
443
+ 489,
444
+ 490,
445
+ 491,
446
+ 492,
447
+ 493,
448
+ 494,
449
+ 496,
450
+ 497,
451
+ 498,
452
+ 499,
453
+ 500,
454
+ 501,
455
+ 502,
456
+ 503,
457
+ 504,
458
+ 505,
459
+ 506,
460
+ 507,
461
+ 508,
462
+ 509,
463
+ 510,
464
+ 511,
465
+ 512,
466
+ 513,
467
+ 514,
468
+ 515,
469
+ 517,
470
+ 518,
471
+ 519,
472
+ 521,
473
+ 522,
474
+ 523,
475
+ 525,
476
+ 527,
477
+ 528,
478
+ 529,
479
+ 530,
480
+ 532,
481
+ 533,
482
+ 534,
483
+ 535,
484
+ 536,
485
+ 538,
486
+ 539,
487
+ 540,
488
+ 541,
489
+ 542,
490
+ 543,
491
+ 544,
492
+ 545,
493
+ 546,
494
+ 547,
495
+ 548,
496
+ 549,
497
+ 550,
498
+ 551,
499
+ 552,
500
+ 553,
501
+ 554,
502
+ 555,
503
+ 556,
504
+ 557,
505
+ 558,
506
+ 559,
507
+ 560,
508
+ 561,
509
+ 562,
510
+ 563,
511
+ 564,
512
+ 565,
513
+ 566,
514
+ 567,
515
+ 568,
516
+ 569,
517
+ 571,
518
+ 572,
519
+ 573,
520
+ 574,
521
+ 575,
522
+ 576,
523
+ 577,
524
+ 578,
525
+ 579,
526
+ 580,
527
+ 582,
528
+ 583,
529
+ 585,
530
+ 586,
531
+ 587,
532
+ 588,
533
+ 590,
534
+ 591,
535
+ 592,
536
+ 593,
537
+ 594,
538
+ 596,
539
+ 597,
540
+ 598,
541
+ 599,
542
+ 600,
543
+ 601,
544
+ 602,
545
+ 603,
546
+ 604,
547
+ 605,
548
+ 606,
549
+ 607,
550
+ 608,
551
+ 610,
552
+ 612,
553
+ 613,
554
+ 614,
555
+ 615,
556
+ 616,
557
+ 618,
558
+ 619,
559
+ 620,
560
+ 621,
561
+ 622,
562
+ 623,
563
+ 624,
564
+ 625,
565
+ 626,
566
+ 627,
567
+ 628,
568
+ 629,
569
+ 630,
570
+ 631,
571
+ 632,
572
+ 633,
573
+ 634,
574
+ 635,
575
+ 636,
576
+ 637,
577
+ 638,
578
+ 639,
579
+ 640,
580
+ 641,
581
+ 642,
582
+ 643,
583
+ 644,
584
+ 645,
585
+ 646,
586
+ 647,
587
+ 648,
588
+ 649,
589
+ 650,
590
+ 652,
591
+ 653,
592
+ 654,
593
+ 655,
594
+ 656,
595
+ 657,
596
+ 658,
597
+ 659,
598
+ 660,
599
+ 661,
600
+ 662,
601
+ 663,
602
+ 665,
603
+ 666,
604
+ 667,
605
+ 668,
606
+ 669,
607
+ 670,
608
+ 671,
609
+ 672,
610
+ 674,
611
+ 675,
612
+ 676,
613
+ 677,
614
+ 678,
615
+ 680,
616
+ 681,
617
+ 682,
618
+ 683,
619
+ 684,
620
+ 685,
621
+ 686,
622
+ 688,
623
+ 689,
624
+ 690,
625
+ 691,
626
+ 693,
627
+ 694,
628
+ 695,
629
+ 697,
630
+ 698,
631
+ 699,
632
+ 700,
633
+ 702,
634
+ 703,
635
+ 704,
636
+ 705,
637
+ 706,
638
+ 707,
639
+ 708,
640
+ 709,
641
+ 711,
642
+ 712,
643
+ 713,
644
+ 714,
645
+ 715,
646
+ 716,
647
+ 717,
648
+ 718,
649
+ 720,
650
+ 721,
651
+ 722,
652
+ 723,
653
+ 725,
654
+ 726,
655
+ 727,
656
+ 728,
657
+ 729,
658
+ 730,
659
+ 731,
660
+ 732,
661
+ 733,
662
+ 736,
663
+ 737,
664
+ 738,
665
+ 739,
666
+ 740,
667
+ 741,
668
+ 742,
669
+ 743,
670
+ 744,
671
+ 745,
672
+ 746,
673
+ 747,
674
+ 748,
675
+ 749,
676
+ 750,
677
+ 752,
678
+ 753,
679
+ 754,
680
+ 755,
681
+ 757,
682
+ 758,
683
+ 759,
684
+ 760,
685
+ 761,
686
+ 762,
687
+ 763,
688
+ 764,
689
+ 765,
690
+ 766,
691
+ 767,
692
+ 768,
693
+ 769,
694
+ 770,
695
+ 771,
696
+ 772,
697
+ 773,
698
+ 774,
699
+ 775,
700
+ 776,
701
+ 777,
702
+ 778,
703
+ 779,
704
+ 780,
705
+ 781,
706
+ 782,
707
+ 783,
708
+ 784,
709
+ 785,
710
+ 786,
711
+ 787,
712
+ 788,
713
+ 789,
714
+ 790,
715
+ 791,
716
+ 792,
717
+ 793,
718
+ 794,
719
+ 795,
720
+ 797,
721
+ 798,
722
+ 799,
723
+ 800,
724
+ 801,
725
+ 804,
726
+ 805,
727
+ 807,
728
+ 809,
729
+ 810,
730
+ 811,
731
+ 812,
732
+ 813,
733
+ 814,
734
+ 816,
735
+ 817,
736
+ 818,
737
+ 820,
738
+ 821,
739
+ 822,
740
+ 823,
741
+ 824,
742
+ 825,
743
+ 826,
744
+ 827,
745
+ 828,
746
+ 829,
747
+ 830,
748
+ 831,
749
+ 832,
750
+ 833,
751
+ 835,
752
+ 836,
753
+ 837,
754
+ 838,
755
+ 839,
756
+ 840,
757
+ 841,
758
+ 842,
759
+ 843,
760
+ 844,
761
+ 845,
762
+ 846,
763
+ 847,
764
+ 848,
765
+ 849,
766
+ 851,
767
+ 852,
768
+ 853,
769
+ 854,
770
+ 855,
771
+ 856,
772
+ 858,
773
+ 859,
774
+ 860,
775
+ 861,
776
+ 862,
777
+ 863,
778
+ 864,
779
+ 865,
780
+ 866,
781
+ 867,
782
+ 868,
783
+ 870,
784
+ 871,
785
+ 872,
786
+ 873,
787
+ 875,
788
+ 876,
789
+ 877,
790
+ 878,
791
+ 879,
792
+ 880,
793
+ 881,
794
+ 882,
795
+ 883,
796
+ 884,
797
+ 886,
798
+ 887,
799
+ 888,
800
+ 889,
801
+ 890,
802
+ 891,
803
+ 892,
804
+ 893,
805
+ 895,
806
+ 896,
807
+ 897,
808
+ 898,
809
+ 899,
810
+ 900,
811
+ 901,
812
+ 902,
813
+ 904,
814
+ 906,
815
+ 909,
816
+ 910,
817
+ 911,
818
+ 912,
819
+ 913,
820
+ 914,
821
+ 915,
822
+ 916,
823
+ 919,
824
+ 920,
825
+ 922,
826
+ 923,
827
+ 924,
828
+ 925,
829
+ 926,
830
+ 927,
831
+ 928,
832
+ 929,
833
+ 930,
834
+ 931,
835
+ 932,
836
+ 933,
837
+ 934,
838
+ 935,
839
+ 936,
840
+ 937,
841
+ 939,
842
+ 940,
843
+ 941,
844
+ 942,
845
+ 943,
846
+ 944,
847
+ 945,
848
+ 946,
849
+ 947,
850
+ 948,
851
+ 950,
852
+ 952,
853
+ 953,
854
+ 955,
855
+ 957,
856
+ 958,
857
+ 959,
858
+ 960,
859
+ 962,
860
+ 963,
861
+ 964,
862
+ 965,
863
+ 966,
864
+ 967,
865
+ 968,
866
+ 969,
867
+ 970,
868
+ 971,
869
+ 972,
870
+ 973,
871
+ 974,
872
+ 975,
873
+ 976,
874
+ 977,
875
+ 978,
876
+ 979,
877
+ 980,
878
+ 981,
879
+ 982,
880
+ 983,
881
+ 984,
882
+ 985,
883
+ 986,
884
+ 987,
885
+ 988,
886
+ 989,
887
+ 991,
888
+ 992,
889
+ 993,
890
+ 995,
891
+ 996,
892
+ 997,
893
+ 998,
894
+ 999
895
+ ],
896
+ "not_both_correct_indices": [
897
+ 14,
898
+ 26,
899
+ 38,
900
+ 42,
901
+ 44,
902
+ 45,
903
+ 58,
904
+ 82,
905
+ 87,
906
+ 99,
907
+ 102,
908
+ 104,
909
+ 118,
910
+ 125,
911
+ 132,
912
+ 142,
913
+ 151,
914
+ 156,
915
+ 162,
916
+ 174,
917
+ 183,
918
+ 184,
919
+ 201,
920
+ 226,
921
+ 234,
922
+ 245,
923
+ 253,
924
+ 267,
925
+ 288,
926
+ 292,
927
+ 293,
928
+ 308,
929
+ 324,
930
+ 326,
931
+ 327,
932
+ 347,
933
+ 359,
934
+ 372,
935
+ 382,
936
+ 386,
937
+ 389,
938
+ 397,
939
+ 401,
940
+ 402,
941
+ 406,
942
+ 411,
943
+ 431,
944
+ 434,
945
+ 435,
946
+ 441,
947
+ 443,
948
+ 452,
949
+ 461,
950
+ 462,
951
+ 477,
952
+ 480,
953
+ 487,
954
+ 495,
955
+ 516,
956
+ 520,
957
+ 524,
958
+ 526,
959
+ 531,
960
+ 537,
961
+ 570,
962
+ 581,
963
+ 584,
964
+ 589,
965
+ 595,
966
+ 609,
967
+ 611,
968
+ 617,
969
+ 651,
970
+ 664,
971
+ 673,
972
+ 679,
973
+ 687,
974
+ 692,
975
+ 696,
976
+ 701,
977
+ 710,
978
+ 719,
979
+ 724,
980
+ 734,
981
+ 735,
982
+ 751,
983
+ 756,
984
+ 796,
985
+ 802,
986
+ 803,
987
+ 806,
988
+ 808,
989
+ 815,
990
+ 819,
991
+ 834,
992
+ 850,
993
+ 857,
994
+ 869,
995
+ 874,
996
+ 885,
997
+ 894,
998
+ 903,
999
+ 905,
1000
+ 907,
1001
+ 908,
1002
+ 917,
1003
+ 918,
1004
+ 921,
1005
+ 938,
1006
+ 949,
1007
+ 951,
1008
+ 954,
1009
+ 956,
1010
+ 961,
1011
+ 990,
1012
+ 994
1013
+ ],
1014
+ "clean_baseline": 8.125,
1015
+ "corrupted_baseline": -7.90625
1016
+ }
results/mistralai_Mistral-Large-Instruct-2407/MD/code_loop/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:b8fc2e18b86a32e33934dd7c9ae24eefd4793fbe30af21a74c6bb031c468621c
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/MD/code_loop/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fbdc3f94f9942bd3d5b22fe31a48b65063201fb92d02fccb026657e0beef6a37
3
+ size 10015224
results/mistralai_Mistral-Large-Instruct-2407/MD/logic_propositional_1/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/MD/logic_propositional_1/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.834,
7
+ "corrupted_accuracy": 0.849,
8
+ "both_correct_accuracy": 0.69,
9
+ "n_both_correct": 690,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 4,
15
+ 5,
16
+ 7,
17
+ 11,
18
+ 12,
19
+ 14,
20
+ 15,
21
+ 16,
22
+ 18,
23
+ 19,
24
+ 21,
25
+ 26,
26
+ 27,
27
+ 28,
28
+ 29,
29
+ 30,
30
+ 31,
31
+ 32,
32
+ 33,
33
+ 35,
34
+ 37,
35
+ 38,
36
+ 40,
37
+ 41,
38
+ 42,
39
+ 47,
40
+ 48,
41
+ 51,
42
+ 52,
43
+ 54,
44
+ 57,
45
+ 60,
46
+ 65,
47
+ 66,
48
+ 67,
49
+ 69,
50
+ 72,
51
+ 75,
52
+ 76,
53
+ 77,
54
+ 78,
55
+ 79,
56
+ 80,
57
+ 83,
58
+ 84,
59
+ 85,
60
+ 86,
61
+ 87,
62
+ 88,
63
+ 89,
64
+ 91,
65
+ 93,
66
+ 96,
67
+ 97,
68
+ 98,
69
+ 102,
70
+ 103,
71
+ 104,
72
+ 105,
73
+ 106,
74
+ 107,
75
+ 108,
76
+ 110,
77
+ 112,
78
+ 113,
79
+ 114,
80
+ 115,
81
+ 116,
82
+ 117,
83
+ 118,
84
+ 119,
85
+ 121,
86
+ 122,
87
+ 124,
88
+ 125,
89
+ 126,
90
+ 128,
91
+ 129,
92
+ 130,
93
+ 131,
94
+ 135,
95
+ 136,
96
+ 137,
97
+ 138,
98
+ 139,
99
+ 140,
100
+ 142,
101
+ 144,
102
+ 145,
103
+ 147,
104
+ 148,
105
+ 149,
106
+ 151,
107
+ 152,
108
+ 153,
109
+ 154,
110
+ 155,
111
+ 157,
112
+ 158,
113
+ 159,
114
+ 160,
115
+ 163,
116
+ 164,
117
+ 165,
118
+ 167,
119
+ 168,
120
+ 169,
121
+ 170,
122
+ 172,
123
+ 173,
124
+ 175,
125
+ 176,
126
+ 177,
127
+ 178,
128
+ 179,
129
+ 181,
130
+ 182,
131
+ 184,
132
+ 185,
133
+ 187,
134
+ 188,
135
+ 189,
136
+ 190,
137
+ 191,
138
+ 192,
139
+ 193,
140
+ 194,
141
+ 195,
142
+ 197,
143
+ 198,
144
+ 199,
145
+ 200,
146
+ 201,
147
+ 203,
148
+ 204,
149
+ 206,
150
+ 208,
151
+ 210,
152
+ 211,
153
+ 214,
154
+ 215,
155
+ 217,
156
+ 218,
157
+ 220,
158
+ 221,
159
+ 222,
160
+ 225,
161
+ 226,
162
+ 227,
163
+ 228,
164
+ 229,
165
+ 231,
166
+ 234,
167
+ 235,
168
+ 237,
169
+ 238,
170
+ 240,
171
+ 241,
172
+ 245,
173
+ 246,
174
+ 247,
175
+ 249,
176
+ 250,
177
+ 252,
178
+ 253,
179
+ 254,
180
+ 257,
181
+ 258,
182
+ 259,
183
+ 260,
184
+ 261,
185
+ 262,
186
+ 263,
187
+ 264,
188
+ 265,
189
+ 266,
190
+ 267,
191
+ 269,
192
+ 271,
193
+ 272,
194
+ 273,
195
+ 274,
196
+ 275,
197
+ 276,
198
+ 277,
199
+ 278,
200
+ 279,
201
+ 280,
202
+ 282,
203
+ 284,
204
+ 285,
205
+ 287,
206
+ 290,
207
+ 291,
208
+ 293,
209
+ 294,
210
+ 297,
211
+ 298,
212
+ 299,
213
+ 300,
214
+ 301,
215
+ 302,
216
+ 303,
217
+ 304,
218
+ 305,
219
+ 307,
220
+ 308,
221
+ 310,
222
+ 311,
223
+ 312,
224
+ 316,
225
+ 317,
226
+ 319,
227
+ 321,
228
+ 322,
229
+ 323,
230
+ 324,
231
+ 325,
232
+ 328,
233
+ 330,
234
+ 331,
235
+ 332,
236
+ 333,
237
+ 334,
238
+ 335,
239
+ 336,
240
+ 338,
241
+ 339,
242
+ 340,
243
+ 341,
244
+ 342,
245
+ 345,
246
+ 346,
247
+ 347,
248
+ 350,
249
+ 351,
250
+ 352,
251
+ 353,
252
+ 354,
253
+ 355,
254
+ 356,
255
+ 357,
256
+ 358,
257
+ 359,
258
+ 360,
259
+ 361,
260
+ 362,
261
+ 364,
262
+ 365,
263
+ 366,
264
+ 367,
265
+ 368,
266
+ 369,
267
+ 371,
268
+ 375,
269
+ 376,
270
+ 377,
271
+ 378,
272
+ 379,
273
+ 380,
274
+ 382,
275
+ 384,
276
+ 385,
277
+ 386,
278
+ 387,
279
+ 388,
280
+ 389,
281
+ 390,
282
+ 391,
283
+ 392,
284
+ 394,
285
+ 396,
286
+ 398,
287
+ 400,
288
+ 403,
289
+ 404,
290
+ 405,
291
+ 407,
292
+ 409,
293
+ 410,
294
+ 411,
295
+ 412,
296
+ 413,
297
+ 414,
298
+ 415,
299
+ 416,
300
+ 417,
301
+ 418,
302
+ 419,
303
+ 421,
304
+ 423,
305
+ 424,
306
+ 426,
307
+ 427,
308
+ 428,
309
+ 429,
310
+ 430,
311
+ 432,
312
+ 434,
313
+ 435,
314
+ 436,
315
+ 437,
316
+ 439,
317
+ 440,
318
+ 442,
319
+ 443,
320
+ 446,
321
+ 447,
322
+ 448,
323
+ 451,
324
+ 453,
325
+ 454,
326
+ 455,
327
+ 456,
328
+ 457,
329
+ 458,
330
+ 460,
331
+ 461,
332
+ 462,
333
+ 463,
334
+ 464,
335
+ 465,
336
+ 466,
337
+ 468,
338
+ 469,
339
+ 470,
340
+ 471,
341
+ 473,
342
+ 474,
343
+ 475,
344
+ 476,
345
+ 478,
346
+ 479,
347
+ 482,
348
+ 484,
349
+ 487,
350
+ 489,
351
+ 490,
352
+ 492,
353
+ 493,
354
+ 494,
355
+ 495,
356
+ 496,
357
+ 497,
358
+ 498,
359
+ 499,
360
+ 500,
361
+ 502,
362
+ 503,
363
+ 504,
364
+ 505,
365
+ 506,
366
+ 507,
367
+ 508,
368
+ 509,
369
+ 510,
370
+ 511,
371
+ 512,
372
+ 515,
373
+ 516,
374
+ 517,
375
+ 518,
376
+ 519,
377
+ 520,
378
+ 521,
379
+ 523,
380
+ 526,
381
+ 527,
382
+ 530,
383
+ 532,
384
+ 533,
385
+ 534,
386
+ 536,
387
+ 538,
388
+ 540,
389
+ 541,
390
+ 542,
391
+ 544,
392
+ 545,
393
+ 546,
394
+ 547,
395
+ 548,
396
+ 549,
397
+ 550,
398
+ 552,
399
+ 554,
400
+ 556,
401
+ 557,
402
+ 558,
403
+ 560,
404
+ 561,
405
+ 562,
406
+ 563,
407
+ 564,
408
+ 566,
409
+ 567,
410
+ 569,
411
+ 572,
412
+ 574,
413
+ 575,
414
+ 576,
415
+ 581,
416
+ 582,
417
+ 583,
418
+ 584,
419
+ 586,
420
+ 587,
421
+ 588,
422
+ 589,
423
+ 590,
424
+ 591,
425
+ 592,
426
+ 594,
427
+ 597,
428
+ 598,
429
+ 599,
430
+ 600,
431
+ 601,
432
+ 602,
433
+ 603,
434
+ 605,
435
+ 606,
436
+ 607,
437
+ 608,
438
+ 609,
439
+ 611,
440
+ 615,
441
+ 616,
442
+ 617,
443
+ 618,
444
+ 619,
445
+ 620,
446
+ 621,
447
+ 622,
448
+ 623,
449
+ 624,
450
+ 626,
451
+ 631,
452
+ 633,
453
+ 634,
454
+ 635,
455
+ 636,
456
+ 638,
457
+ 639,
458
+ 640,
459
+ 641,
460
+ 642,
461
+ 643,
462
+ 645,
463
+ 648,
464
+ 649,
465
+ 651,
466
+ 654,
467
+ 655,
468
+ 656,
469
+ 657,
470
+ 658,
471
+ 659,
472
+ 663,
473
+ 665,
474
+ 666,
475
+ 668,
476
+ 669,
477
+ 673,
478
+ 674,
479
+ 675,
480
+ 676,
481
+ 677,
482
+ 679,
483
+ 680,
484
+ 682,
485
+ 684,
486
+ 685,
487
+ 688,
488
+ 689,
489
+ 691,
490
+ 692,
491
+ 693,
492
+ 694,
493
+ 695,
494
+ 697,
495
+ 698,
496
+ 699,
497
+ 701,
498
+ 702,
499
+ 703,
500
+ 704,
501
+ 705,
502
+ 706,
503
+ 707,
504
+ 708,
505
+ 709,
506
+ 710,
507
+ 712,
508
+ 714,
509
+ 715,
510
+ 716,
511
+ 717,
512
+ 719,
513
+ 720,
514
+ 721,
515
+ 722,
516
+ 723,
517
+ 724,
518
+ 725,
519
+ 726,
520
+ 727,
521
+ 730,
522
+ 732,
523
+ 733,
524
+ 734,
525
+ 735,
526
+ 736,
527
+ 737,
528
+ 738,
529
+ 739,
530
+ 740,
531
+ 741,
532
+ 746,
533
+ 747,
534
+ 748,
535
+ 749,
536
+ 750,
537
+ 751,
538
+ 752,
539
+ 753,
540
+ 755,
541
+ 756,
542
+ 758,
543
+ 759,
544
+ 762,
545
+ 763,
546
+ 764,
547
+ 766,
548
+ 769,
549
+ 770,
550
+ 771,
551
+ 773,
552
+ 774,
553
+ 776,
554
+ 777,
555
+ 779,
556
+ 780,
557
+ 782,
558
+ 783,
559
+ 784,
560
+ 786,
561
+ 787,
562
+ 790,
563
+ 791,
564
+ 792,
565
+ 793,
566
+ 796,
567
+ 797,
568
+ 798,
569
+ 800,
570
+ 802,
571
+ 804,
572
+ 807,
573
+ 808,
574
+ 809,
575
+ 811,
576
+ 812,
577
+ 813,
578
+ 814,
579
+ 815,
580
+ 816,
581
+ 817,
582
+ 818,
583
+ 819,
584
+ 820,
585
+ 821,
586
+ 822,
587
+ 823,
588
+ 824,
589
+ 825,
590
+ 826,
591
+ 827,
592
+ 829,
593
+ 830,
594
+ 831,
595
+ 832,
596
+ 833,
597
+ 835,
598
+ 836,
599
+ 838,
600
+ 839,
601
+ 843,
602
+ 847,
603
+ 849,
604
+ 852,
605
+ 854,
606
+ 855,
607
+ 856,
608
+ 857,
609
+ 858,
610
+ 859,
611
+ 862,
612
+ 863,
613
+ 864,
614
+ 865,
615
+ 866,
616
+ 867,
617
+ 868,
618
+ 869,
619
+ 870,
620
+ 872,
621
+ 873,
622
+ 875,
623
+ 877,
624
+ 879,
625
+ 880,
626
+ 881,
627
+ 882,
628
+ 883,
629
+ 884,
630
+ 885,
631
+ 888,
632
+ 889,
633
+ 890,
634
+ 891,
635
+ 893,
636
+ 894,
637
+ 895,
638
+ 896,
639
+ 897,
640
+ 902,
641
+ 903,
642
+ 905,
643
+ 908,
644
+ 909,
645
+ 910,
646
+ 912,
647
+ 913,
648
+ 915,
649
+ 916,
650
+ 920,
651
+ 921,
652
+ 922,
653
+ 923,
654
+ 925,
655
+ 926,
656
+ 928,
657
+ 929,
658
+ 930,
659
+ 931,
660
+ 934,
661
+ 935,
662
+ 938,
663
+ 939,
664
+ 945,
665
+ 946,
666
+ 947,
667
+ 948,
668
+ 951,
669
+ 952,
670
+ 953,
671
+ 954,
672
+ 955,
673
+ 960,
674
+ 961,
675
+ 963,
676
+ 964,
677
+ 965,
678
+ 966,
679
+ 969,
680
+ 970,
681
+ 971,
682
+ 972,
683
+ 973,
684
+ 974,
685
+ 976,
686
+ 977,
687
+ 978,
688
+ 979,
689
+ 980,
690
+ 983,
691
+ 985,
692
+ 987,
693
+ 988,
694
+ 989,
695
+ 990,
696
+ 991,
697
+ 992,
698
+ 994,
699
+ 997,
700
+ 998
701
+ ],
702
+ "not_both_correct_indices": [
703
+ 3,
704
+ 6,
705
+ 8,
706
+ 9,
707
+ 10,
708
+ 13,
709
+ 17,
710
+ 20,
711
+ 22,
712
+ 23,
713
+ 24,
714
+ 25,
715
+ 34,
716
+ 36,
717
+ 39,
718
+ 43,
719
+ 44,
720
+ 45,
721
+ 46,
722
+ 49,
723
+ 50,
724
+ 53,
725
+ 55,
726
+ 56,
727
+ 58,
728
+ 59,
729
+ 61,
730
+ 62,
731
+ 63,
732
+ 64,
733
+ 68,
734
+ 70,
735
+ 71,
736
+ 73,
737
+ 74,
738
+ 81,
739
+ 82,
740
+ 90,
741
+ 92,
742
+ 94,
743
+ 95,
744
+ 99,
745
+ 100,
746
+ 101,
747
+ 109,
748
+ 111,
749
+ 120,
750
+ 123,
751
+ 127,
752
+ 132,
753
+ 133,
754
+ 134,
755
+ 141,
756
+ 143,
757
+ 146,
758
+ 150,
759
+ 156,
760
+ 161,
761
+ 162,
762
+ 166,
763
+ 171,
764
+ 174,
765
+ 180,
766
+ 183,
767
+ 186,
768
+ 196,
769
+ 202,
770
+ 205,
771
+ 207,
772
+ 209,
773
+ 212,
774
+ 213,
775
+ 216,
776
+ 219,
777
+ 223,
778
+ 224,
779
+ 230,
780
+ 232,
781
+ 233,
782
+ 236,
783
+ 239,
784
+ 242,
785
+ 243,
786
+ 244,
787
+ 248,
788
+ 251,
789
+ 255,
790
+ 256,
791
+ 268,
792
+ 270,
793
+ 281,
794
+ 283,
795
+ 286,
796
+ 288,
797
+ 289,
798
+ 292,
799
+ 295,
800
+ 296,
801
+ 306,
802
+ 309,
803
+ 313,
804
+ 314,
805
+ 315,
806
+ 318,
807
+ 320,
808
+ 326,
809
+ 327,
810
+ 329,
811
+ 337,
812
+ 343,
813
+ 344,
814
+ 348,
815
+ 349,
816
+ 363,
817
+ 370,
818
+ 372,
819
+ 373,
820
+ 374,
821
+ 381,
822
+ 383,
823
+ 393,
824
+ 395,
825
+ 397,
826
+ 399,
827
+ 401,
828
+ 402,
829
+ 406,
830
+ 408,
831
+ 420,
832
+ 422,
833
+ 425,
834
+ 431,
835
+ 433,
836
+ 438,
837
+ 441,
838
+ 444,
839
+ 445,
840
+ 449,
841
+ 450,
842
+ 452,
843
+ 459,
844
+ 467,
845
+ 472,
846
+ 477,
847
+ 480,
848
+ 481,
849
+ 483,
850
+ 485,
851
+ 486,
852
+ 488,
853
+ 491,
854
+ 501,
855
+ 513,
856
+ 514,
857
+ 522,
858
+ 524,
859
+ 525,
860
+ 528,
861
+ 529,
862
+ 531,
863
+ 535,
864
+ 537,
865
+ 539,
866
+ 543,
867
+ 551,
868
+ 553,
869
+ 555,
870
+ 559,
871
+ 565,
872
+ 568,
873
+ 570,
874
+ 571,
875
+ 573,
876
+ 577,
877
+ 578,
878
+ 579,
879
+ 580,
880
+ 585,
881
+ 593,
882
+ 595,
883
+ 596,
884
+ 604,
885
+ 610,
886
+ 612,
887
+ 613,
888
+ 614,
889
+ 625,
890
+ 627,
891
+ 628,
892
+ 629,
893
+ 630,
894
+ 632,
895
+ 637,
896
+ 644,
897
+ 646,
898
+ 647,
899
+ 650,
900
+ 652,
901
+ 653,
902
+ 660,
903
+ 661,
904
+ 662,
905
+ 664,
906
+ 667,
907
+ 670,
908
+ 671,
909
+ 672,
910
+ 678,
911
+ 681,
912
+ 683,
913
+ 686,
914
+ 687,
915
+ 690,
916
+ 696,
917
+ 700,
918
+ 711,
919
+ 713,
920
+ 718,
921
+ 728,
922
+ 729,
923
+ 731,
924
+ 742,
925
+ 743,
926
+ 744,
927
+ 745,
928
+ 754,
929
+ 757,
930
+ 760,
931
+ 761,
932
+ 765,
933
+ 767,
934
+ 768,
935
+ 772,
936
+ 775,
937
+ 778,
938
+ 781,
939
+ 785,
940
+ 788,
941
+ 789,
942
+ 794,
943
+ 795,
944
+ 799,
945
+ 801,
946
+ 803,
947
+ 805,
948
+ 806,
949
+ 810,
950
+ 828,
951
+ 834,
952
+ 837,
953
+ 840,
954
+ 841,
955
+ 842,
956
+ 844,
957
+ 845,
958
+ 846,
959
+ 848,
960
+ 850,
961
+ 851,
962
+ 853,
963
+ 860,
964
+ 861,
965
+ 871,
966
+ 874,
967
+ 876,
968
+ 878,
969
+ 886,
970
+ 887,
971
+ 892,
972
+ 898,
973
+ 899,
974
+ 900,
975
+ 901,
976
+ 904,
977
+ 906,
978
+ 907,
979
+ 911,
980
+ 914,
981
+ 917,
982
+ 918,
983
+ 919,
984
+ 924,
985
+ 927,
986
+ 932,
987
+ 933,
988
+ 936,
989
+ 937,
990
+ 940,
991
+ 941,
992
+ 942,
993
+ 943,
994
+ 944,
995
+ 949,
996
+ 950,
997
+ 956,
998
+ 957,
999
+ 958,
1000
+ 959,
1001
+ 962,
1002
+ 967,
1003
+ 968,
1004
+ 975,
1005
+ 981,
1006
+ 982,
1007
+ 984,
1008
+ 986,
1009
+ 993,
1010
+ 995,
1011
+ 996,
1012
+ 999
1013
+ ],
1014
+ "clean_baseline": 5.00390625,
1015
+ "corrupted_baseline": -5.15625
1016
+ }
results/mistralai_Mistral-Large-Instruct-2407/MD/logic_propositional_1/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:9aaf6b8850e3c6ef519fd30fbcfe70fac07ab902464ce1cc6dd10bcd56935dfb
3
+ size 20186742
results/mistralai_Mistral-Large-Instruct-2407/MD/logic_propositional_1/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:c069bd3d08c1c3fd239e0ad56a1c1c95c52854b650fa5e1a52ddf7f3592dc961
3
+ size 10056408
results/mistralai_Mistral-Large-Instruct-2407/MD/logic_propositional_symbolic/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2523136, "num_layers": 88, "num_units": 28672}
results/mistralai_Mistral-Large-Instruct-2407/MD/logic_propositional_symbolic/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.914,
7
+ "corrupted_accuracy": 0.927,
8
+ "both_correct_accuracy": 0.847,
9
+ "n_both_correct": 847,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 9,
20
+ 10,
21
+ 11,
22
+ 12,
23
+ 14,
24
+ 17,
25
+ 18,
26
+ 19,
27
+ 22,
28
+ 24,
29
+ 26,
30
+ 27,
31
+ 28,
32
+ 29,
33
+ 30,
34
+ 32,
35
+ 34,
36
+ 35,
37
+ 36,
38
+ 37,
39
+ 38,
40
+ 40,
41
+ 41,
42
+ 42,
43
+ 43,
44
+ 44,
45
+ 45,
46
+ 46,
47
+ 47,
48
+ 48,
49
+ 50,
50
+ 52,
51
+ 53,
52
+ 54,
53
+ 55,
54
+ 56,
55
+ 57,
56
+ 58,
57
+ 60,
58
+ 61,
59
+ 62,
60
+ 63,
61
+ 64,
62
+ 65,
63
+ 66,
64
+ 67,
65
+ 68,
66
+ 69,
67
+ 70,
68
+ 72,
69
+ 73,
70
+ 74,
71
+ 75,
72
+ 76,
73
+ 77,
74
+ 80,
75
+ 81,
76
+ 82,
77
+ 83,
78
+ 84,
79
+ 85,
80
+ 86,
81
+ 87,
82
+ 88,
83
+ 90,
84
+ 91,
85
+ 92,
86
+ 93,
87
+ 94,
88
+ 95,
89
+ 96,
90
+ 98,
91
+ 99,
92
+ 100,
93
+ 101,
94
+ 102,
95
+ 103,
96
+ 104,
97
+ 105,
98
+ 107,
99
+ 108,
100
+ 110,
101
+ 111,
102
+ 112,
103
+ 113,
104
+ 114,
105
+ 115,
106
+ 116,
107
+ 117,
108
+ 118,
109
+ 119,
110
+ 120,
111
+ 121,
112
+ 122,
113
+ 123,
114
+ 124,
115
+ 126,
116
+ 127,
117
+ 129,
118
+ 130,
119
+ 131,
120
+ 132,
121
+ 134,
122
+ 135,
123
+ 136,
124
+ 137,
125
+ 138,
126
+ 139,
127
+ 140,
128
+ 142,
129
+ 143,
130
+ 144,
131
+ 145,
132
+ 146,
133
+ 147,
134
+ 148,
135
+ 149,
136
+ 151,
137
+ 152,
138
+ 154,
139
+ 155,
140
+ 156,
141
+ 158,
142
+ 159,
143
+ 160,
144
+ 161,
145
+ 162,
146
+ 164,
147
+ 165,
148
+ 166,
149
+ 167,
150
+ 168,
151
+ 169,
152
+ 170,
153
+ 171,
154
+ 172,
155
+ 173,
156
+ 174,
157
+ 175,
158
+ 176,
159
+ 177,
160
+ 178,
161
+ 179,
162
+ 180,
163
+ 181,
164
+ 182,
165
+ 183,
166
+ 184,
167
+ 185,
168
+ 186,
169
+ 187,
170
+ 188,
171
+ 189,
172
+ 190,
173
+ 191,
174
+ 192,
175
+ 193,
176
+ 194,
177
+ 196,
178
+ 197,
179
+ 198,
180
+ 199,
181
+ 201,
182
+ 202,
183
+ 203,
184
+ 205,
185
+ 207,
186
+ 208,
187
+ 209,
188
+ 210,
189
+ 211,
190
+ 213,
191
+ 214,
192
+ 215,
193
+ 216,
194
+ 218,
195
+ 219,
196
+ 220,
197
+ 221,
198
+ 222,
199
+ 223,
200
+ 224,
201
+ 225,
202
+ 226,
203
+ 227,
204
+ 228,
205
+ 229,
206
+ 230,
207
+ 232,
208
+ 234,
209
+ 235,
210
+ 236,
211
+ 237,
212
+ 239,
213
+ 240,
214
+ 241,
215
+ 242,
216
+ 243,
217
+ 244,
218
+ 245,
219
+ 246,
220
+ 247,
221
+ 248,
222
+ 249,
223
+ 250,
224
+ 251,
225
+ 252,
226
+ 253,
227
+ 254,
228
+ 256,
229
+ 257,
230
+ 258,
231
+ 259,
232
+ 260,
233
+ 261,
234
+ 263,
235
+ 264,
236
+ 265,
237
+ 266,
238
+ 267,
239
+ 268,
240
+ 270,
241
+ 271,
242
+ 272,
243
+ 273,
244
+ 274,
245
+ 275,
246
+ 276,
247
+ 279,
248
+ 280,
249
+ 281,
250
+ 283,
251
+ 284,
252
+ 287,
253
+ 288,
254
+ 289,
255
+ 290,
256
+ 291,
257
+ 293,
258
+ 294,
259
+ 295,
260
+ 296,
261
+ 297,
262
+ 299,
263
+ 300,
264
+ 301,
265
+ 303,
266
+ 304,
267
+ 305,
268
+ 307,
269
+ 309,
270
+ 310,
271
+ 312,
272
+ 313,
273
+ 314,
274
+ 315,
275
+ 316,
276
+ 318,
277
+ 319,
278
+ 320,
279
+ 321,
280
+ 322,
281
+ 323,
282
+ 324,
283
+ 326,
284
+ 328,
285
+ 329,
286
+ 330,
287
+ 331,
288
+ 333,
289
+ 334,
290
+ 335,
291
+ 336,
292
+ 337,
293
+ 338,
294
+ 339,
295
+ 340,
296
+ 341,
297
+ 342,
298
+ 343,
299
+ 344,
300
+ 345,
301
+ 346,
302
+ 347,
303
+ 349,
304
+ 351,
305
+ 355,
306
+ 356,
307
+ 357,
308
+ 358,
309
+ 359,
310
+ 360,
311
+ 361,
312
+ 362,
313
+ 365,
314
+ 366,
315
+ 367,
316
+ 369,
317
+ 370,
318
+ 371,
319
+ 372,
320
+ 373,
321
+ 375,
322
+ 376,
323
+ 377,
324
+ 378,
325
+ 379,
326
+ 380,
327
+ 381,
328
+ 383,
329
+ 384,
330
+ 386,
331
+ 387,
332
+ 388,
333
+ 389,
334
+ 390,
335
+ 391,
336
+ 392,
337
+ 393,
338
+ 394,
339
+ 395,
340
+ 396,
341
+ 397,
342
+ 398,
343
+ 399,
344
+ 400,
345
+ 401,
346
+ 402,
347
+ 403,
348
+ 404,
349
+ 405,
350
+ 406,
351
+ 407,
352
+ 408,
353
+ 409,
354
+ 410,
355
+ 412,
356
+ 413,
357
+ 414,
358
+ 415,
359
+ 416,
360
+ 417,
361
+ 418,
362
+ 420,
363
+ 421,
364
+ 422,
365
+ 423,
366
+ 424,
367
+ 426,
368
+ 428,
369
+ 429,
370
+ 430,
371
+ 431,
372
+ 432,
373
+ 433,
374
+ 434,
375
+ 435,
376
+ 436,
377
+ 438,
378
+ 439,
379
+ 441,
380
+ 442,
381
+ 443,
382
+ 444,
383
+ 445,
384
+ 446,
385
+ 447,
386
+ 448,
387
+ 449,
388
+ 450,
389
+ 451,
390
+ 452,
391
+ 453,
392
+ 454,
393
+ 455,
394
+ 456,
395
+ 458,
396
+ 459,
397
+ 460,
398
+ 461,
399
+ 462,
400
+ 463,
401
+ 464,
402
+ 465,
403
+ 466,
404
+ 467,
405
+ 469,
406
+ 471,
407
+ 472,
408
+ 474,
409
+ 475,
410
+ 476,
411
+ 477,
412
+ 478,
413
+ 479,
414
+ 480,
415
+ 481,
416
+ 482,
417
+ 483,
418
+ 485,
419
+ 486,
420
+ 488,
421
+ 489,
422
+ 490,
423
+ 492,
424
+ 493,
425
+ 494,
426
+ 495,
427
+ 496,
428
+ 497,
429
+ 498,
430
+ 499,
431
+ 501,
432
+ 502,
433
+ 503,
434
+ 504,
435
+ 507,
436
+ 509,
437
+ 511,
438
+ 512,
439
+ 513,
440
+ 514,
441
+ 515,
442
+ 516,
443
+ 517,
444
+ 518,
445
+ 519,
446
+ 520,
447
+ 523,
448
+ 524,
449
+ 525,
450
+ 526,
451
+ 527,
452
+ 528,
453
+ 529,
454
+ 530,
455
+ 531,
456
+ 532,
457
+ 533,
458
+ 534,
459
+ 535,
460
+ 536,
461
+ 537,
462
+ 538,
463
+ 539,
464
+ 540,
465
+ 542,
466
+ 543,
467
+ 544,
468
+ 545,
469
+ 546,
470
+ 547,
471
+ 548,
472
+ 549,
473
+ 550,
474
+ 551,
475
+ 552,
476
+ 553,
477
+ 554,
478
+ 555,
479
+ 557,
480
+ 558,
481
+ 559,
482
+ 560,
483
+ 561,
484
+ 562,
485
+ 563,
486
+ 564,
487
+ 565,
488
+ 567,
489
+ 568,
490
+ 569,
491
+ 570,
492
+ 571,
493
+ 572,
494
+ 573,
495
+ 574,
496
+ 575,
497
+ 576,
498
+ 577,
499
+ 578,
500
+ 579,
501
+ 580,
502
+ 582,
503
+ 583,
504
+ 584,
505
+ 585,
506
+ 586,
507
+ 587,
508
+ 588,
509
+ 590,
510
+ 592,
511
+ 593,
512
+ 594,
513
+ 595,
514
+ 596,
515
+ 599,
516
+ 600,
517
+ 601,
518
+ 602,
519
+ 603,
520
+ 604,
521
+ 606,
522
+ 607,
523
+ 608,
524
+ 609,
525
+ 610,
526
+ 611,
527
+ 613,
528
+ 614,
529
+ 615,
530
+ 616,
531
+ 617,
532
+ 619,
533
+ 620,
534
+ 621,
535
+ 623,
536
+ 625,
537
+ 626,
538
+ 627,
539
+ 628,
540
+ 629,
541
+ 630,
542
+ 631,
543
+ 633,
544
+ 634,
545
+ 635,
546
+ 636,
547
+ 637,
548
+ 638,
549
+ 640,
550
+ 641,
551
+ 642,
552
+ 643,
553
+ 644,
554
+ 645,
555
+ 646,
556
+ 648,
557
+ 649,
558
+ 650,
559
+ 652,
560
+ 653,
561
+ 654,
562
+ 658,
563
+ 660,
564
+ 661,
565
+ 663,
566
+ 664,
567
+ 665,
568
+ 666,
569
+ 668,
570
+ 669,
571
+ 671,
572
+ 673,
573
+ 674,
574
+ 675,
575
+ 676,
576
+ 677,
577
+ 678,
578
+ 679,
579
+ 680,
580
+ 681,
581
+ 682,
582
+ 683,
583
+ 684,
584
+ 685,
585
+ 686,
586
+ 687,
587
+ 688,
588
+ 689,
589
+ 690,
590
+ 692,
591
+ 693,
592
+ 694,
593
+ 695,
594
+ 696,
595
+ 697,
596
+ 698,
597
+ 699,
598
+ 700,
599
+ 701,
600
+ 702,
601
+ 704,
602
+ 706,
603
+ 707,
604
+ 708,
605
+ 710,
606
+ 711,
607
+ 712,
608
+ 713,
609
+ 714,
610
+ 715,
611
+ 716,
612
+ 717,
613
+ 718,
614
+ 719,
615
+ 720,
616
+ 722,
617
+ 723,
618
+ 724,
619
+ 725,
620
+ 726,
621
+ 727,
622
+ 728,
623
+ 730,
624
+ 731,
625
+ 732,
626
+ 733,
627
+ 734,
628
+ 735,
629
+ 736,
630
+ 737,
631
+ 738,
632
+ 739,
633
+ 740,
634
+ 742,
635
+ 743,
636
+ 744,
637
+ 746,
638
+ 747,
639
+ 748,
640
+ 749,
641
+ 752,
642
+ 755,
643
+ 756,
644
+ 757,
645
+ 759,
646
+ 761,
647
+ 762,
648
+ 763,
649
+ 764,
650
+ 765,
651
+ 766,
652
+ 767,
653
+ 768,
654
+ 769,
655
+ 770,
656
+ 771,
657
+ 772,
658
+ 773,
659
+ 774,
660
+ 775,
661
+ 776,
662
+ 777,
663
+ 780,
664
+ 781,
665
+ 782,
666
+ 783,
667
+ 784,
668
+ 785,
669
+ 786,
670
+ 787,
671
+ 788,
672
+ 789,
673
+ 793,
674
+ 794,
675
+ 795,
676
+ 796,
677
+ 798,
678
+ 799,
679
+ 800,
680
+ 801,
681
+ 802,
682
+ 803,
683
+ 804,
684
+ 805,
685
+ 806,
686
+ 807,
687
+ 808,
688
+ 809,
689
+ 810,
690
+ 811,
691
+ 812,
692
+ 813,
693
+ 814,
694
+ 815,
695
+ 816,
696
+ 817,
697
+ 818,
698
+ 819,
699
+ 820,
700
+ 821,
701
+ 822,
702
+ 823,
703
+ 824,
704
+ 825,
705
+ 826,
706
+ 827,
707
+ 828,
708
+ 830,
709
+ 831,
710
+ 832,
711
+ 833,
712
+ 834,
713
+ 835,
714
+ 836,
715
+ 837,
716
+ 838,
717
+ 839,
718
+ 840,
719
+ 841,
720
+ 842,
721
+ 843,
722
+ 844,
723
+ 845,
724
+ 846,
725
+ 847,
726
+ 848,
727
+ 849,
728
+ 850,
729
+ 851,
730
+ 852,
731
+ 853,
732
+ 854,
733
+ 856,
734
+ 857,
735
+ 858,
736
+ 859,
737
+ 860,
738
+ 861,
739
+ 862,
740
+ 863,
741
+ 864,
742
+ 866,
743
+ 867,
744
+ 868,
745
+ 869,
746
+ 870,
747
+ 871,
748
+ 872,
749
+ 873,
750
+ 874,
751
+ 875,
752
+ 877,
753
+ 878,
754
+ 879,
755
+ 880,
756
+ 881,
757
+ 882,
758
+ 883,
759
+ 884,
760
+ 885,
761
+ 886,
762
+ 887,
763
+ 888,
764
+ 889,
765
+ 890,
766
+ 893,
767
+ 894,
768
+ 895,
769
+ 896,
770
+ 897,
771
+ 898,
772
+ 900,
773
+ 901,
774
+ 902,
775
+ 903,
776
+ 904,
777
+ 905,
778
+ 906,
779
+ 907,
780
+ 909,
781
+ 911,
782
+ 912,
783
+ 913,
784
+ 914,
785
+ 915,
786
+ 917,
787
+ 918,
788
+ 920,
789
+ 921,
790
+ 922,
791
+ 923,
792
+ 924,
793
+ 925,
794
+ 926,
795
+ 927,
796
+ 928,
797
+ 929,
798
+ 930,
799
+ 931,
800
+ 932,
801
+ 933,
802
+ 934,
803
+ 935,
804
+ 936,
805
+ 937,
806
+ 938,
807
+ 939,
808
+ 941,
809
+ 942,
810
+ 943,
811
+ 944,
812
+ 945,
813
+ 946,
814
+ 948,
815
+ 949,
816
+ 951,
817
+ 952,
818
+ 953,
819
+ 954,
820
+ 955,
821
+ 957,
822
+ 959,
823
+ 960,
824
+ 961,
825
+ 962,
826
+ 963,
827
+ 964,
828
+ 965,
829
+ 966,
830
+ 967,
831
+ 968,
832
+ 970,
833
+ 971,
834
+ 972,
835
+ 973,
836
+ 974,
837
+ 975,
838
+ 976,
839
+ 978,
840
+ 979,
841
+ 980,
842
+ 981,
843
+ 983,
844
+ 984,
845
+ 985,
846
+ 986,
847
+ 987,
848
+ 988,
849
+ 989,
850
+ 990,
851
+ 993,
852
+ 994,
853
+ 995,
854
+ 996,
855
+ 997,
856
+ 998,
857
+ 999
858
+ ],
859
+ "not_both_correct_indices": [
860
+ 8,
861
+ 13,
862
+ 15,
863
+ 16,
864
+ 20,
865
+ 21,
866
+ 23,
867
+ 25,
868
+ 31,
869
+ 33,
870
+ 39,
871
+ 49,
872
+ 51,
873
+ 59,
874
+ 71,
875
+ 78,
876
+ 79,
877
+ 89,
878
+ 97,
879
+ 106,
880
+ 109,
881
+ 125,
882
+ 128,
883
+ 133,
884
+ 141,
885
+ 150,
886
+ 153,
887
+ 157,
888
+ 163,
889
+ 195,
890
+ 200,
891
+ 204,
892
+ 206,
893
+ 212,
894
+ 217,
895
+ 231,
896
+ 233,
897
+ 238,
898
+ 255,
899
+ 262,
900
+ 269,
901
+ 277,
902
+ 278,
903
+ 282,
904
+ 285,
905
+ 286,
906
+ 292,
907
+ 298,
908
+ 302,
909
+ 306,
910
+ 308,
911
+ 311,
912
+ 317,
913
+ 325,
914
+ 327,
915
+ 332,
916
+ 348,
917
+ 350,
918
+ 352,
919
+ 353,
920
+ 354,
921
+ 363,
922
+ 364,
923
+ 368,
924
+ 374,
925
+ 382,
926
+ 385,
927
+ 411,
928
+ 419,
929
+ 425,
930
+ 427,
931
+ 437,
932
+ 440,
933
+ 457,
934
+ 468,
935
+ 470,
936
+ 473,
937
+ 484,
938
+ 487,
939
+ 491,
940
+ 500,
941
+ 505,
942
+ 506,
943
+ 508,
944
+ 510,
945
+ 521,
946
+ 522,
947
+ 541,
948
+ 556,
949
+ 566,
950
+ 581,
951
+ 589,
952
+ 591,
953
+ 597,
954
+ 598,
955
+ 605,
956
+ 612,
957
+ 618,
958
+ 622,
959
+ 624,
960
+ 632,
961
+ 639,
962
+ 647,
963
+ 651,
964
+ 655,
965
+ 656,
966
+ 657,
967
+ 659,
968
+ 662,
969
+ 667,
970
+ 670,
971
+ 672,
972
+ 691,
973
+ 703,
974
+ 705,
975
+ 709,
976
+ 721,
977
+ 729,
978
+ 741,
979
+ 745,
980
+ 750,
981
+ 751,
982
+ 753,
983
+ 754,
984
+ 758,
985
+ 760,
986
+ 778,
987
+ 779,
988
+ 790,
989
+ 791,
990
+ 792,
991
+ 797,
992
+ 829,
993
+ 855,
994
+ 865,
995
+ 876,
996
+ 891,
997
+ 892,
998
+ 899,
999
+ 908,
1000
+ 910,
1001
+ 916,
1002
+ 919,
1003
+ 940,
1004
+ 947,
1005
+ 950,
1006
+ 956,
1007
+ 958,
1008
+ 969,
1009
+ 977,
1010
+ 982,
1011
+ 991,
1012
+ 992
1013
+ ],
1014
+ "clean_baseline": 4.26171875,
1015
+ "corrupted_baseline": -4.19140625
1016
+ }