barryhpr commited on
Commit
ad5642c
·
verified ·
1 Parent(s): 4f33336

Add attribution tensors (401-500 of 993)

Browse files
This view is limited to 50 files because it contains too many changes.   See raw diff
Files changed (50) hide show
  1. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_A/attribution_meta.json +1 -0
  2. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_A/baselines.json +1016 -0
  3. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_A/neuron_attribution.pt +3 -0
  4. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_A/sorted_indices_positive.npy +3 -0
  5. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_B/attribution_meta.json +1 -0
  6. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_B/baselines.json +1016 -0
  7. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_B/neuron_attribution.pt +3 -0
  8. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_B/sorted_indices_positive.npy +3 -0
  9. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_conditional/attribution_meta.json +1 -0
  10. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_conditional/baselines.json +1016 -0
  11. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_conditional/neuron_attribution.pt +3 -0
  12. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_conditional/sorted_indices_positive.npy +3 -0
  13. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_list/attribution_meta.json +1 -0
  14. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_list/baselines.json +1016 -0
  15. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_list/neuron_attribution.pt +3 -0
  16. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_list/sorted_indices_positive.npy +3 -0
  17. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_loop/attribution_meta.json +1 -0
  18. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_loop/baselines.json +1016 -0
  19. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_loop/neuron_attribution.pt +3 -0
  20. results/allenai_OLMo-2-0325-32B-Instruct/MD/code_loop/sorted_indices_positive.npy +3 -0
  21. results/allenai_OLMo-2-0325-32B-Instruct/MD/logic_syllogism_1/attribution_meta.json +1 -0
  22. results/allenai_OLMo-2-0325-32B-Instruct/MD/logic_syllogism_1/baselines.json +1016 -0
  23. results/allenai_OLMo-2-0325-32B-Instruct/MD/logic_syllogism_1/neuron_attribution.pt +3 -0
  24. results/allenai_OLMo-2-0325-32B-Instruct/MD/logic_syllogism_1/sorted_indices_positive.npy +3 -0
  25. results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_symbolic/attribution_meta.json +1 -0
  26. results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_symbolic/baselines.json +1017 -0
  27. results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_symbolic/neuron_attribution.pt +3 -0
  28. results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_symbolic/sorted_indices_positive.npy +3 -0
  29. results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_verbal/attribution_meta.json +1 -0
  30. results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_verbal/baselines.json +1017 -0
  31. results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_verbal/neuron_attribution.pt +3 -0
  32. results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_verbal/sorted_indices_positive.npy +3 -0
  33. results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_3op_symbolic/attribution_meta.json +1 -0
  34. results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_3op_symbolic/baselines.json +1016 -0
  35. results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_3op_symbolic/neuron_attribution.pt +3 -0
  36. results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_3op_symbolic/sorted_indices_positive.npy +3 -0
  37. results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sequence/attribution_meta.json +1 -0
  38. results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sequence/baselines.json +962 -0
  39. results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sequence/neuron_attribution.pt +3 -0
  40. results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sequence/sorted_indices_positive.npy +3 -0
  41. results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sorting/attribution_meta.json +1 -0
  42. results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sorting/baselines.json +1016 -0
  43. results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sorting/neuron_attribution.pt +3 -0
  44. results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sorting/sorted_indices_positive.npy +3 -0
  45. results/allenai_OLMo-2-0325-32B-Instruct/MD/simple_equation/attribution_meta.json +1 -0
  46. results/allenai_OLMo-2-0325-32B-Instruct/MD/simple_equation/baselines.json +1011 -0
  47. results/allenai_OLMo-2-0325-32B-Instruct/MD/simple_equation/neuron_attribution.pt +3 -0
  48. results/allenai_OLMo-2-0325-32B-Instruct/MD/simple_equation/sorted_indices_positive.npy +3 -0
  49. results/allenai_OLMo-2-0325-32B-Instruct/ToM/agent/attribution_meta.json +1 -0
  50. results/allenai_OLMo-2-0325-32B-Instruct/ToM/agent/baselines.json +961 -0
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_A/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_A/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.948,
7
+ "corrupted_accuracy": 0.944,
8
+ "both_correct_accuracy": 0.895,
9
+ "n_both_correct": 895,
10
+ "both_correct_indices": [
11
+ 1,
12
+ 4,
13
+ 5,
14
+ 6,
15
+ 7,
16
+ 8,
17
+ 9,
18
+ 10,
19
+ 11,
20
+ 12,
21
+ 13,
22
+ 14,
23
+ 15,
24
+ 16,
25
+ 17,
26
+ 18,
27
+ 19,
28
+ 20,
29
+ 21,
30
+ 22,
31
+ 23,
32
+ 24,
33
+ 25,
34
+ 27,
35
+ 30,
36
+ 31,
37
+ 32,
38
+ 33,
39
+ 34,
40
+ 35,
41
+ 36,
42
+ 37,
43
+ 39,
44
+ 40,
45
+ 41,
46
+ 42,
47
+ 43,
48
+ 45,
49
+ 46,
50
+ 47,
51
+ 48,
52
+ 49,
53
+ 50,
54
+ 51,
55
+ 52,
56
+ 53,
57
+ 54,
58
+ 55,
59
+ 56,
60
+ 57,
61
+ 60,
62
+ 61,
63
+ 62,
64
+ 63,
65
+ 64,
66
+ 65,
67
+ 66,
68
+ 67,
69
+ 68,
70
+ 70,
71
+ 71,
72
+ 72,
73
+ 73,
74
+ 74,
75
+ 75,
76
+ 76,
77
+ 77,
78
+ 78,
79
+ 79,
80
+ 80,
81
+ 81,
82
+ 82,
83
+ 83,
84
+ 84,
85
+ 85,
86
+ 86,
87
+ 87,
88
+ 88,
89
+ 89,
90
+ 90,
91
+ 91,
92
+ 92,
93
+ 93,
94
+ 94,
95
+ 95,
96
+ 96,
97
+ 97,
98
+ 98,
99
+ 99,
100
+ 100,
101
+ 101,
102
+ 102,
103
+ 104,
104
+ 105,
105
+ 106,
106
+ 107,
107
+ 108,
108
+ 110,
109
+ 111,
110
+ 112,
111
+ 113,
112
+ 115,
113
+ 117,
114
+ 118,
115
+ 119,
116
+ 120,
117
+ 121,
118
+ 123,
119
+ 124,
120
+ 126,
121
+ 127,
122
+ 128,
123
+ 130,
124
+ 131,
125
+ 132,
126
+ 133,
127
+ 134,
128
+ 135,
129
+ 136,
130
+ 137,
131
+ 138,
132
+ 139,
133
+ 142,
134
+ 143,
135
+ 144,
136
+ 145,
137
+ 146,
138
+ 147,
139
+ 148,
140
+ 149,
141
+ 150,
142
+ 151,
143
+ 152,
144
+ 153,
145
+ 154,
146
+ 155,
147
+ 156,
148
+ 157,
149
+ 158,
150
+ 159,
151
+ 160,
152
+ 161,
153
+ 162,
154
+ 163,
155
+ 164,
156
+ 165,
157
+ 166,
158
+ 167,
159
+ 168,
160
+ 169,
161
+ 170,
162
+ 171,
163
+ 172,
164
+ 173,
165
+ 174,
166
+ 176,
167
+ 177,
168
+ 178,
169
+ 179,
170
+ 180,
171
+ 181,
172
+ 182,
173
+ 183,
174
+ 184,
175
+ 185,
176
+ 186,
177
+ 187,
178
+ 188,
179
+ 189,
180
+ 190,
181
+ 191,
182
+ 194,
183
+ 196,
184
+ 197,
185
+ 198,
186
+ 199,
187
+ 200,
188
+ 202,
189
+ 203,
190
+ 204,
191
+ 205,
192
+ 206,
193
+ 207,
194
+ 208,
195
+ 209,
196
+ 210,
197
+ 211,
198
+ 212,
199
+ 213,
200
+ 214,
201
+ 215,
202
+ 216,
203
+ 217,
204
+ 218,
205
+ 219,
206
+ 220,
207
+ 221,
208
+ 222,
209
+ 223,
210
+ 224,
211
+ 225,
212
+ 226,
213
+ 227,
214
+ 228,
215
+ 229,
216
+ 230,
217
+ 231,
218
+ 233,
219
+ 234,
220
+ 235,
221
+ 236,
222
+ 237,
223
+ 238,
224
+ 239,
225
+ 240,
226
+ 241,
227
+ 242,
228
+ 243,
229
+ 244,
230
+ 245,
231
+ 246,
232
+ 247,
233
+ 248,
234
+ 249,
235
+ 250,
236
+ 251,
237
+ 252,
238
+ 253,
239
+ 254,
240
+ 255,
241
+ 256,
242
+ 257,
243
+ 258,
244
+ 259,
245
+ 260,
246
+ 261,
247
+ 263,
248
+ 264,
249
+ 265,
250
+ 266,
251
+ 267,
252
+ 268,
253
+ 270,
254
+ 274,
255
+ 275,
256
+ 276,
257
+ 279,
258
+ 280,
259
+ 281,
260
+ 282,
261
+ 283,
262
+ 284,
263
+ 286,
264
+ 287,
265
+ 288,
266
+ 289,
267
+ 290,
268
+ 291,
269
+ 292,
270
+ 293,
271
+ 294,
272
+ 295,
273
+ 296,
274
+ 297,
275
+ 299,
276
+ 300,
277
+ 301,
278
+ 302,
279
+ 304,
280
+ 306,
281
+ 307,
282
+ 308,
283
+ 309,
284
+ 310,
285
+ 311,
286
+ 312,
287
+ 313,
288
+ 314,
289
+ 315,
290
+ 316,
291
+ 317,
292
+ 318,
293
+ 319,
294
+ 320,
295
+ 321,
296
+ 322,
297
+ 323,
298
+ 324,
299
+ 325,
300
+ 327,
301
+ 328,
302
+ 329,
303
+ 330,
304
+ 331,
305
+ 332,
306
+ 333,
307
+ 334,
308
+ 335,
309
+ 336,
310
+ 337,
311
+ 338,
312
+ 339,
313
+ 340,
314
+ 341,
315
+ 342,
316
+ 343,
317
+ 344,
318
+ 345,
319
+ 346,
320
+ 347,
321
+ 348,
322
+ 349,
323
+ 350,
324
+ 351,
325
+ 352,
326
+ 353,
327
+ 354,
328
+ 355,
329
+ 356,
330
+ 357,
331
+ 358,
332
+ 359,
333
+ 360,
334
+ 362,
335
+ 363,
336
+ 364,
337
+ 365,
338
+ 366,
339
+ 367,
340
+ 368,
341
+ 369,
342
+ 370,
343
+ 371,
344
+ 372,
345
+ 373,
346
+ 374,
347
+ 375,
348
+ 378,
349
+ 379,
350
+ 380,
351
+ 381,
352
+ 382,
353
+ 383,
354
+ 384,
355
+ 385,
356
+ 386,
357
+ 387,
358
+ 388,
359
+ 389,
360
+ 390,
361
+ 392,
362
+ 393,
363
+ 394,
364
+ 395,
365
+ 399,
366
+ 400,
367
+ 401,
368
+ 402,
369
+ 403,
370
+ 404,
371
+ 405,
372
+ 406,
373
+ 407,
374
+ 408,
375
+ 409,
376
+ 410,
377
+ 411,
378
+ 412,
379
+ 413,
380
+ 414,
381
+ 415,
382
+ 416,
383
+ 418,
384
+ 419,
385
+ 420,
386
+ 421,
387
+ 422,
388
+ 423,
389
+ 424,
390
+ 425,
391
+ 426,
392
+ 427,
393
+ 428,
394
+ 429,
395
+ 430,
396
+ 431,
397
+ 432,
398
+ 433,
399
+ 434,
400
+ 435,
401
+ 436,
402
+ 438,
403
+ 439,
404
+ 440,
405
+ 441,
406
+ 442,
407
+ 443,
408
+ 445,
409
+ 447,
410
+ 448,
411
+ 449,
412
+ 451,
413
+ 452,
414
+ 453,
415
+ 454,
416
+ 455,
417
+ 456,
418
+ 457,
419
+ 458,
420
+ 459,
421
+ 460,
422
+ 461,
423
+ 462,
424
+ 463,
425
+ 464,
426
+ 465,
427
+ 466,
428
+ 467,
429
+ 468,
430
+ 469,
431
+ 470,
432
+ 471,
433
+ 472,
434
+ 473,
435
+ 474,
436
+ 475,
437
+ 476,
438
+ 477,
439
+ 478,
440
+ 479,
441
+ 480,
442
+ 481,
443
+ 482,
444
+ 483,
445
+ 484,
446
+ 485,
447
+ 486,
448
+ 487,
449
+ 488,
450
+ 489,
451
+ 490,
452
+ 491,
453
+ 493,
454
+ 494,
455
+ 495,
456
+ 497,
457
+ 498,
458
+ 499,
459
+ 500,
460
+ 501,
461
+ 502,
462
+ 503,
463
+ 504,
464
+ 505,
465
+ 506,
466
+ 507,
467
+ 508,
468
+ 510,
469
+ 511,
470
+ 512,
471
+ 513,
472
+ 514,
473
+ 515,
474
+ 516,
475
+ 517,
476
+ 518,
477
+ 519,
478
+ 520,
479
+ 521,
480
+ 522,
481
+ 523,
482
+ 524,
483
+ 525,
484
+ 526,
485
+ 527,
486
+ 528,
487
+ 529,
488
+ 530,
489
+ 531,
490
+ 532,
491
+ 533,
492
+ 534,
493
+ 535,
494
+ 536,
495
+ 537,
496
+ 538,
497
+ 539,
498
+ 540,
499
+ 541,
500
+ 542,
501
+ 543,
502
+ 544,
503
+ 545,
504
+ 546,
505
+ 547,
506
+ 548,
507
+ 549,
508
+ 550,
509
+ 551,
510
+ 552,
511
+ 554,
512
+ 555,
513
+ 558,
514
+ 559,
515
+ 560,
516
+ 561,
517
+ 562,
518
+ 563,
519
+ 564,
520
+ 565,
521
+ 566,
522
+ 567,
523
+ 568,
524
+ 569,
525
+ 570,
526
+ 571,
527
+ 572,
528
+ 573,
529
+ 574,
530
+ 575,
531
+ 577,
532
+ 578,
533
+ 579,
534
+ 580,
535
+ 581,
536
+ 582,
537
+ 583,
538
+ 584,
539
+ 585,
540
+ 586,
541
+ 587,
542
+ 588,
543
+ 589,
544
+ 590,
545
+ 591,
546
+ 592,
547
+ 593,
548
+ 594,
549
+ 595,
550
+ 596,
551
+ 597,
552
+ 598,
553
+ 600,
554
+ 601,
555
+ 602,
556
+ 603,
557
+ 604,
558
+ 605,
559
+ 607,
560
+ 608,
561
+ 609,
562
+ 610,
563
+ 611,
564
+ 612,
565
+ 613,
566
+ 615,
567
+ 616,
568
+ 617,
569
+ 618,
570
+ 620,
571
+ 622,
572
+ 623,
573
+ 624,
574
+ 625,
575
+ 626,
576
+ 627,
577
+ 629,
578
+ 631,
579
+ 632,
580
+ 634,
581
+ 635,
582
+ 636,
583
+ 639,
584
+ 640,
585
+ 641,
586
+ 642,
587
+ 643,
588
+ 644,
589
+ 645,
590
+ 646,
591
+ 647,
592
+ 648,
593
+ 650,
594
+ 651,
595
+ 652,
596
+ 653,
597
+ 654,
598
+ 655,
599
+ 656,
600
+ 658,
601
+ 659,
602
+ 660,
603
+ 662,
604
+ 663,
605
+ 665,
606
+ 666,
607
+ 667,
608
+ 668,
609
+ 669,
610
+ 671,
611
+ 672,
612
+ 674,
613
+ 675,
614
+ 677,
615
+ 679,
616
+ 680,
617
+ 681,
618
+ 682,
619
+ 683,
620
+ 684,
621
+ 685,
622
+ 686,
623
+ 687,
624
+ 688,
625
+ 689,
626
+ 690,
627
+ 692,
628
+ 693,
629
+ 694,
630
+ 695,
631
+ 696,
632
+ 697,
633
+ 698,
634
+ 699,
635
+ 701,
636
+ 702,
637
+ 703,
638
+ 704,
639
+ 705,
640
+ 706,
641
+ 707,
642
+ 708,
643
+ 709,
644
+ 710,
645
+ 711,
646
+ 712,
647
+ 713,
648
+ 714,
649
+ 715,
650
+ 716,
651
+ 717,
652
+ 718,
653
+ 719,
654
+ 720,
655
+ 721,
656
+ 722,
657
+ 723,
658
+ 724,
659
+ 725,
660
+ 727,
661
+ 728,
662
+ 729,
663
+ 730,
664
+ 731,
665
+ 732,
666
+ 733,
667
+ 735,
668
+ 736,
669
+ 737,
670
+ 738,
671
+ 740,
672
+ 741,
673
+ 742,
674
+ 743,
675
+ 745,
676
+ 746,
677
+ 747,
678
+ 749,
679
+ 750,
680
+ 751,
681
+ 752,
682
+ 753,
683
+ 754,
684
+ 755,
685
+ 757,
686
+ 758,
687
+ 759,
688
+ 760,
689
+ 762,
690
+ 763,
691
+ 766,
692
+ 767,
693
+ 768,
694
+ 771,
695
+ 772,
696
+ 773,
697
+ 774,
698
+ 775,
699
+ 776,
700
+ 777,
701
+ 778,
702
+ 779,
703
+ 780,
704
+ 781,
705
+ 783,
706
+ 784,
707
+ 785,
708
+ 786,
709
+ 787,
710
+ 788,
711
+ 789,
712
+ 790,
713
+ 791,
714
+ 792,
715
+ 793,
716
+ 794,
717
+ 795,
718
+ 796,
719
+ 797,
720
+ 798,
721
+ 799,
722
+ 800,
723
+ 801,
724
+ 802,
725
+ 803,
726
+ 804,
727
+ 805,
728
+ 806,
729
+ 808,
730
+ 809,
731
+ 811,
732
+ 812,
733
+ 813,
734
+ 814,
735
+ 815,
736
+ 816,
737
+ 817,
738
+ 818,
739
+ 819,
740
+ 820,
741
+ 821,
742
+ 822,
743
+ 823,
744
+ 824,
745
+ 825,
746
+ 826,
747
+ 827,
748
+ 829,
749
+ 830,
750
+ 831,
751
+ 832,
752
+ 834,
753
+ 835,
754
+ 836,
755
+ 837,
756
+ 838,
757
+ 840,
758
+ 841,
759
+ 842,
760
+ 843,
761
+ 844,
762
+ 845,
763
+ 847,
764
+ 848,
765
+ 849,
766
+ 850,
767
+ 851,
768
+ 852,
769
+ 853,
770
+ 855,
771
+ 856,
772
+ 857,
773
+ 858,
774
+ 859,
775
+ 860,
776
+ 861,
777
+ 862,
778
+ 863,
779
+ 864,
780
+ 865,
781
+ 866,
782
+ 868,
783
+ 869,
784
+ 870,
785
+ 871,
786
+ 872,
787
+ 873,
788
+ 874,
789
+ 875,
790
+ 876,
791
+ 877,
792
+ 878,
793
+ 879,
794
+ 880,
795
+ 881,
796
+ 882,
797
+ 883,
798
+ 884,
799
+ 885,
800
+ 886,
801
+ 887,
802
+ 888,
803
+ 889,
804
+ 890,
805
+ 891,
806
+ 892,
807
+ 893,
808
+ 894,
809
+ 895,
810
+ 896,
811
+ 897,
812
+ 898,
813
+ 899,
814
+ 900,
815
+ 901,
816
+ 903,
817
+ 904,
818
+ 905,
819
+ 906,
820
+ 907,
821
+ 908,
822
+ 909,
823
+ 910,
824
+ 911,
825
+ 912,
826
+ 913,
827
+ 914,
828
+ 915,
829
+ 916,
830
+ 917,
831
+ 918,
832
+ 919,
833
+ 920,
834
+ 921,
835
+ 922,
836
+ 923,
837
+ 924,
838
+ 925,
839
+ 926,
840
+ 927,
841
+ 928,
842
+ 929,
843
+ 930,
844
+ 931,
845
+ 932,
846
+ 933,
847
+ 934,
848
+ 937,
849
+ 938,
850
+ 939,
851
+ 940,
852
+ 941,
853
+ 942,
854
+ 943,
855
+ 944,
856
+ 945,
857
+ 946,
858
+ 947,
859
+ 948,
860
+ 949,
861
+ 950,
862
+ 951,
863
+ 952,
864
+ 953,
865
+ 954,
866
+ 955,
867
+ 956,
868
+ 957,
869
+ 959,
870
+ 960,
871
+ 961,
872
+ 962,
873
+ 963,
874
+ 964,
875
+ 966,
876
+ 967,
877
+ 968,
878
+ 969,
879
+ 970,
880
+ 971,
881
+ 972,
882
+ 973,
883
+ 974,
884
+ 975,
885
+ 976,
886
+ 977,
887
+ 978,
888
+ 979,
889
+ 980,
890
+ 981,
891
+ 982,
892
+ 985,
893
+ 986,
894
+ 987,
895
+ 988,
896
+ 989,
897
+ 991,
898
+ 992,
899
+ 993,
900
+ 994,
901
+ 995,
902
+ 996,
903
+ 997,
904
+ 998,
905
+ 999
906
+ ],
907
+ "not_both_correct_indices": [
908
+ 0,
909
+ 2,
910
+ 3,
911
+ 26,
912
+ 28,
913
+ 29,
914
+ 38,
915
+ 44,
916
+ 58,
917
+ 59,
918
+ 69,
919
+ 103,
920
+ 109,
921
+ 114,
922
+ 116,
923
+ 122,
924
+ 125,
925
+ 129,
926
+ 140,
927
+ 141,
928
+ 175,
929
+ 192,
930
+ 193,
931
+ 195,
932
+ 201,
933
+ 232,
934
+ 262,
935
+ 269,
936
+ 271,
937
+ 272,
938
+ 273,
939
+ 277,
940
+ 278,
941
+ 285,
942
+ 298,
943
+ 303,
944
+ 305,
945
+ 326,
946
+ 361,
947
+ 376,
948
+ 377,
949
+ 391,
950
+ 396,
951
+ 397,
952
+ 398,
953
+ 417,
954
+ 437,
955
+ 444,
956
+ 446,
957
+ 450,
958
+ 492,
959
+ 496,
960
+ 509,
961
+ 553,
962
+ 556,
963
+ 557,
964
+ 576,
965
+ 599,
966
+ 606,
967
+ 614,
968
+ 619,
969
+ 621,
970
+ 628,
971
+ 630,
972
+ 633,
973
+ 637,
974
+ 638,
975
+ 649,
976
+ 657,
977
+ 661,
978
+ 664,
979
+ 670,
980
+ 673,
981
+ 676,
982
+ 678,
983
+ 691,
984
+ 700,
985
+ 726,
986
+ 734,
987
+ 739,
988
+ 744,
989
+ 748,
990
+ 756,
991
+ 761,
992
+ 764,
993
+ 765,
994
+ 769,
995
+ 770,
996
+ 782,
997
+ 807,
998
+ 810,
999
+ 828,
1000
+ 833,
1001
+ 839,
1002
+ 846,
1003
+ 854,
1004
+ 867,
1005
+ 902,
1006
+ 935,
1007
+ 936,
1008
+ 958,
1009
+ 965,
1010
+ 983,
1011
+ 984,
1012
+ 990
1013
+ ],
1014
+ "clean_baseline": 13.2265625,
1015
+ "corrupted_baseline": -13.1015625
1016
+ }
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_A/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:20fe6f7b7243ce097799ea471392ff9f5f4630f40fb57e99571b11c34999132a
3
+ size 14157430
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_A/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:5485be3c59d5ee70e48308a2d7e823a1fa2b1f45279d3373b801f5c4c1041ffd
3
+ size 6372632
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_B/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_B/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.903,
7
+ "corrupted_accuracy": 0.9,
8
+ "both_correct_accuracy": 0.803,
9
+ "n_both_correct": 803,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 6,
15
+ 7,
16
+ 8,
17
+ 9,
18
+ 10,
19
+ 12,
20
+ 13,
21
+ 14,
22
+ 15,
23
+ 18,
24
+ 19,
25
+ 20,
26
+ 21,
27
+ 22,
28
+ 23,
29
+ 24,
30
+ 25,
31
+ 26,
32
+ 27,
33
+ 28,
34
+ 29,
35
+ 30,
36
+ 32,
37
+ 33,
38
+ 34,
39
+ 35,
40
+ 36,
41
+ 37,
42
+ 38,
43
+ 39,
44
+ 40,
45
+ 41,
46
+ 42,
47
+ 43,
48
+ 44,
49
+ 45,
50
+ 46,
51
+ 47,
52
+ 49,
53
+ 50,
54
+ 52,
55
+ 53,
56
+ 54,
57
+ 55,
58
+ 56,
59
+ 57,
60
+ 58,
61
+ 61,
62
+ 62,
63
+ 63,
64
+ 64,
65
+ 65,
66
+ 66,
67
+ 67,
68
+ 68,
69
+ 69,
70
+ 70,
71
+ 71,
72
+ 72,
73
+ 73,
74
+ 75,
75
+ 77,
76
+ 78,
77
+ 79,
78
+ 81,
79
+ 82,
80
+ 84,
81
+ 85,
82
+ 86,
83
+ 87,
84
+ 88,
85
+ 89,
86
+ 91,
87
+ 92,
88
+ 93,
89
+ 96,
90
+ 97,
91
+ 98,
92
+ 99,
93
+ 100,
94
+ 101,
95
+ 102,
96
+ 104,
97
+ 105,
98
+ 106,
99
+ 107,
100
+ 108,
101
+ 109,
102
+ 110,
103
+ 111,
104
+ 112,
105
+ 113,
106
+ 114,
107
+ 115,
108
+ 116,
109
+ 117,
110
+ 118,
111
+ 119,
112
+ 122,
113
+ 123,
114
+ 124,
115
+ 125,
116
+ 126,
117
+ 127,
118
+ 128,
119
+ 130,
120
+ 131,
121
+ 133,
122
+ 134,
123
+ 135,
124
+ 136,
125
+ 138,
126
+ 139,
127
+ 140,
128
+ 141,
129
+ 143,
130
+ 144,
131
+ 146,
132
+ 147,
133
+ 149,
134
+ 150,
135
+ 152,
136
+ 153,
137
+ 154,
138
+ 155,
139
+ 156,
140
+ 157,
141
+ 158,
142
+ 159,
143
+ 161,
144
+ 162,
145
+ 164,
146
+ 165,
147
+ 168,
148
+ 169,
149
+ 170,
150
+ 171,
151
+ 173,
152
+ 175,
153
+ 176,
154
+ 177,
155
+ 178,
156
+ 179,
157
+ 181,
158
+ 182,
159
+ 183,
160
+ 184,
161
+ 185,
162
+ 186,
163
+ 189,
164
+ 190,
165
+ 191,
166
+ 192,
167
+ 193,
168
+ 194,
169
+ 195,
170
+ 196,
171
+ 197,
172
+ 198,
173
+ 199,
174
+ 200,
175
+ 201,
176
+ 202,
177
+ 203,
178
+ 204,
179
+ 205,
180
+ 206,
181
+ 207,
182
+ 208,
183
+ 209,
184
+ 210,
185
+ 212,
186
+ 213,
187
+ 214,
188
+ 216,
189
+ 217,
190
+ 219,
191
+ 220,
192
+ 221,
193
+ 222,
194
+ 223,
195
+ 224,
196
+ 225,
197
+ 226,
198
+ 227,
199
+ 230,
200
+ 231,
201
+ 233,
202
+ 234,
203
+ 235,
204
+ 237,
205
+ 238,
206
+ 239,
207
+ 240,
208
+ 241,
209
+ 242,
210
+ 243,
211
+ 244,
212
+ 245,
213
+ 247,
214
+ 250,
215
+ 251,
216
+ 253,
217
+ 254,
218
+ 255,
219
+ 256,
220
+ 257,
221
+ 258,
222
+ 259,
223
+ 260,
224
+ 261,
225
+ 262,
226
+ 264,
227
+ 266,
228
+ 267,
229
+ 268,
230
+ 270,
231
+ 271,
232
+ 273,
233
+ 274,
234
+ 275,
235
+ 277,
236
+ 278,
237
+ 279,
238
+ 281,
239
+ 282,
240
+ 283,
241
+ 284,
242
+ 286,
243
+ 287,
244
+ 288,
245
+ 289,
246
+ 290,
247
+ 292,
248
+ 293,
249
+ 294,
250
+ 296,
251
+ 297,
252
+ 298,
253
+ 299,
254
+ 300,
255
+ 301,
256
+ 302,
257
+ 304,
258
+ 305,
259
+ 306,
260
+ 307,
261
+ 308,
262
+ 309,
263
+ 310,
264
+ 311,
265
+ 312,
266
+ 313,
267
+ 314,
268
+ 315,
269
+ 316,
270
+ 317,
271
+ 318,
272
+ 319,
273
+ 320,
274
+ 322,
275
+ 323,
276
+ 324,
277
+ 328,
278
+ 329,
279
+ 330,
280
+ 331,
281
+ 333,
282
+ 334,
283
+ 336,
284
+ 337,
285
+ 340,
286
+ 341,
287
+ 342,
288
+ 344,
289
+ 345,
290
+ 346,
291
+ 347,
292
+ 348,
293
+ 350,
294
+ 351,
295
+ 352,
296
+ 353,
297
+ 354,
298
+ 356,
299
+ 357,
300
+ 358,
301
+ 359,
302
+ 360,
303
+ 361,
304
+ 363,
305
+ 364,
306
+ 365,
307
+ 366,
308
+ 367,
309
+ 368,
310
+ 369,
311
+ 370,
312
+ 371,
313
+ 372,
314
+ 373,
315
+ 374,
316
+ 375,
317
+ 376,
318
+ 377,
319
+ 378,
320
+ 379,
321
+ 380,
322
+ 381,
323
+ 382,
324
+ 383,
325
+ 384,
326
+ 385,
327
+ 386,
328
+ 387,
329
+ 388,
330
+ 389,
331
+ 390,
332
+ 392,
333
+ 393,
334
+ 394,
335
+ 395,
336
+ 396,
337
+ 397,
338
+ 398,
339
+ 399,
340
+ 400,
341
+ 401,
342
+ 402,
343
+ 405,
344
+ 406,
345
+ 409,
346
+ 411,
347
+ 412,
348
+ 413,
349
+ 414,
350
+ 415,
351
+ 416,
352
+ 417,
353
+ 418,
354
+ 419,
355
+ 420,
356
+ 421,
357
+ 422,
358
+ 423,
359
+ 424,
360
+ 425,
361
+ 426,
362
+ 427,
363
+ 428,
364
+ 429,
365
+ 430,
366
+ 431,
367
+ 432,
368
+ 433,
369
+ 434,
370
+ 435,
371
+ 436,
372
+ 437,
373
+ 438,
374
+ 439,
375
+ 441,
376
+ 442,
377
+ 445,
378
+ 446,
379
+ 447,
380
+ 450,
381
+ 452,
382
+ 453,
383
+ 454,
384
+ 455,
385
+ 456,
386
+ 457,
387
+ 458,
388
+ 460,
389
+ 462,
390
+ 463,
391
+ 464,
392
+ 465,
393
+ 466,
394
+ 467,
395
+ 468,
396
+ 469,
397
+ 470,
398
+ 472,
399
+ 473,
400
+ 475,
401
+ 476,
402
+ 477,
403
+ 478,
404
+ 479,
405
+ 480,
406
+ 483,
407
+ 484,
408
+ 485,
409
+ 487,
410
+ 491,
411
+ 492,
412
+ 493,
413
+ 495,
414
+ 496,
415
+ 497,
416
+ 498,
417
+ 501,
418
+ 502,
419
+ 504,
420
+ 505,
421
+ 507,
422
+ 508,
423
+ 509,
424
+ 510,
425
+ 511,
426
+ 512,
427
+ 513,
428
+ 514,
429
+ 515,
430
+ 516,
431
+ 517,
432
+ 519,
433
+ 520,
434
+ 521,
435
+ 523,
436
+ 524,
437
+ 525,
438
+ 526,
439
+ 527,
440
+ 528,
441
+ 529,
442
+ 530,
443
+ 531,
444
+ 533,
445
+ 534,
446
+ 535,
447
+ 538,
448
+ 539,
449
+ 540,
450
+ 542,
451
+ 543,
452
+ 544,
453
+ 545,
454
+ 546,
455
+ 547,
456
+ 548,
457
+ 549,
458
+ 550,
459
+ 551,
460
+ 552,
461
+ 554,
462
+ 555,
463
+ 556,
464
+ 557,
465
+ 558,
466
+ 559,
467
+ 560,
468
+ 561,
469
+ 562,
470
+ 564,
471
+ 565,
472
+ 568,
473
+ 570,
474
+ 571,
475
+ 572,
476
+ 573,
477
+ 574,
478
+ 575,
479
+ 576,
480
+ 577,
481
+ 578,
482
+ 579,
483
+ 580,
484
+ 582,
485
+ 583,
486
+ 584,
487
+ 585,
488
+ 586,
489
+ 588,
490
+ 589,
491
+ 591,
492
+ 592,
493
+ 593,
494
+ 594,
495
+ 597,
496
+ 598,
497
+ 599,
498
+ 600,
499
+ 601,
500
+ 602,
501
+ 604,
502
+ 605,
503
+ 606,
504
+ 607,
505
+ 609,
506
+ 610,
507
+ 611,
508
+ 612,
509
+ 613,
510
+ 614,
511
+ 615,
512
+ 617,
513
+ 618,
514
+ 619,
515
+ 620,
516
+ 622,
517
+ 623,
518
+ 625,
519
+ 626,
520
+ 627,
521
+ 628,
522
+ 629,
523
+ 630,
524
+ 631,
525
+ 632,
526
+ 633,
527
+ 634,
528
+ 635,
529
+ 636,
530
+ 637,
531
+ 639,
532
+ 641,
533
+ 642,
534
+ 643,
535
+ 645,
536
+ 647,
537
+ 648,
538
+ 649,
539
+ 650,
540
+ 652,
541
+ 653,
542
+ 654,
543
+ 655,
544
+ 656,
545
+ 657,
546
+ 658,
547
+ 659,
548
+ 660,
549
+ 661,
550
+ 663,
551
+ 664,
552
+ 665,
553
+ 666,
554
+ 667,
555
+ 668,
556
+ 669,
557
+ 670,
558
+ 671,
559
+ 672,
560
+ 674,
561
+ 675,
562
+ 676,
563
+ 679,
564
+ 681,
565
+ 682,
566
+ 683,
567
+ 684,
568
+ 685,
569
+ 686,
570
+ 687,
571
+ 688,
572
+ 689,
573
+ 690,
574
+ 691,
575
+ 693,
576
+ 694,
577
+ 695,
578
+ 696,
579
+ 698,
580
+ 699,
581
+ 700,
582
+ 701,
583
+ 703,
584
+ 704,
585
+ 706,
586
+ 707,
587
+ 708,
588
+ 709,
589
+ 711,
590
+ 712,
591
+ 713,
592
+ 714,
593
+ 715,
594
+ 716,
595
+ 717,
596
+ 718,
597
+ 719,
598
+ 720,
599
+ 721,
600
+ 723,
601
+ 724,
602
+ 726,
603
+ 729,
604
+ 730,
605
+ 731,
606
+ 732,
607
+ 733,
608
+ 734,
609
+ 736,
610
+ 737,
611
+ 738,
612
+ 739,
613
+ 740,
614
+ 741,
615
+ 742,
616
+ 743,
617
+ 744,
618
+ 745,
619
+ 746,
620
+ 747,
621
+ 748,
622
+ 749,
623
+ 750,
624
+ 753,
625
+ 757,
626
+ 759,
627
+ 760,
628
+ 761,
629
+ 762,
630
+ 763,
631
+ 764,
632
+ 765,
633
+ 767,
634
+ 769,
635
+ 770,
636
+ 771,
637
+ 773,
638
+ 775,
639
+ 776,
640
+ 777,
641
+ 779,
642
+ 780,
643
+ 781,
644
+ 782,
645
+ 783,
646
+ 785,
647
+ 786,
648
+ 787,
649
+ 788,
650
+ 791,
651
+ 792,
652
+ 793,
653
+ 794,
654
+ 795,
655
+ 796,
656
+ 797,
657
+ 798,
658
+ 799,
659
+ 800,
660
+ 801,
661
+ 802,
662
+ 803,
663
+ 804,
664
+ 805,
665
+ 806,
666
+ 808,
667
+ 809,
668
+ 810,
669
+ 811,
670
+ 813,
671
+ 814,
672
+ 816,
673
+ 817,
674
+ 818,
675
+ 819,
676
+ 820,
677
+ 821,
678
+ 822,
679
+ 826,
680
+ 827,
681
+ 829,
682
+ 830,
683
+ 835,
684
+ 836,
685
+ 837,
686
+ 838,
687
+ 839,
688
+ 842,
689
+ 843,
690
+ 844,
691
+ 846,
692
+ 847,
693
+ 848,
694
+ 849,
695
+ 850,
696
+ 851,
697
+ 854,
698
+ 855,
699
+ 857,
700
+ 858,
701
+ 859,
702
+ 861,
703
+ 862,
704
+ 863,
705
+ 864,
706
+ 865,
707
+ 866,
708
+ 868,
709
+ 869,
710
+ 871,
711
+ 872,
712
+ 873,
713
+ 874,
714
+ 875,
715
+ 877,
716
+ 878,
717
+ 879,
718
+ 881,
719
+ 883,
720
+ 884,
721
+ 885,
722
+ 886,
723
+ 887,
724
+ 888,
725
+ 889,
726
+ 890,
727
+ 891,
728
+ 892,
729
+ 893,
730
+ 894,
731
+ 895,
732
+ 896,
733
+ 898,
734
+ 899,
735
+ 901,
736
+ 902,
737
+ 903,
738
+ 904,
739
+ 905,
740
+ 906,
741
+ 908,
742
+ 909,
743
+ 911,
744
+ 912,
745
+ 914,
746
+ 916,
747
+ 917,
748
+ 919,
749
+ 920,
750
+ 922,
751
+ 923,
752
+ 924,
753
+ 925,
754
+ 926,
755
+ 928,
756
+ 929,
757
+ 931,
758
+ 932,
759
+ 933,
760
+ 934,
761
+ 935,
762
+ 936,
763
+ 937,
764
+ 938,
765
+ 941,
766
+ 942,
767
+ 943,
768
+ 945,
769
+ 946,
770
+ 947,
771
+ 948,
772
+ 949,
773
+ 950,
774
+ 951,
775
+ 953,
776
+ 954,
777
+ 955,
778
+ 956,
779
+ 957,
780
+ 958,
781
+ 960,
782
+ 961,
783
+ 962,
784
+ 963,
785
+ 964,
786
+ 965,
787
+ 966,
788
+ 967,
789
+ 968,
790
+ 971,
791
+ 972,
792
+ 973,
793
+ 974,
794
+ 975,
795
+ 976,
796
+ 977,
797
+ 978,
798
+ 979,
799
+ 980,
800
+ 982,
801
+ 983,
802
+ 984,
803
+ 985,
804
+ 987,
805
+ 988,
806
+ 990,
807
+ 991,
808
+ 993,
809
+ 995,
810
+ 996,
811
+ 997,
812
+ 998,
813
+ 999
814
+ ],
815
+ "not_both_correct_indices": [
816
+ 3,
817
+ 4,
818
+ 5,
819
+ 11,
820
+ 16,
821
+ 17,
822
+ 31,
823
+ 48,
824
+ 51,
825
+ 59,
826
+ 60,
827
+ 74,
828
+ 76,
829
+ 80,
830
+ 83,
831
+ 90,
832
+ 94,
833
+ 95,
834
+ 103,
835
+ 120,
836
+ 121,
837
+ 129,
838
+ 132,
839
+ 137,
840
+ 142,
841
+ 145,
842
+ 148,
843
+ 151,
844
+ 160,
845
+ 163,
846
+ 166,
847
+ 167,
848
+ 172,
849
+ 174,
850
+ 180,
851
+ 187,
852
+ 188,
853
+ 211,
854
+ 215,
855
+ 218,
856
+ 228,
857
+ 229,
858
+ 232,
859
+ 236,
860
+ 246,
861
+ 248,
862
+ 249,
863
+ 252,
864
+ 263,
865
+ 265,
866
+ 269,
867
+ 272,
868
+ 276,
869
+ 280,
870
+ 285,
871
+ 291,
872
+ 295,
873
+ 303,
874
+ 321,
875
+ 325,
876
+ 326,
877
+ 327,
878
+ 332,
879
+ 335,
880
+ 338,
881
+ 339,
882
+ 343,
883
+ 349,
884
+ 355,
885
+ 362,
886
+ 391,
887
+ 403,
888
+ 404,
889
+ 407,
890
+ 408,
891
+ 410,
892
+ 440,
893
+ 443,
894
+ 444,
895
+ 448,
896
+ 449,
897
+ 451,
898
+ 459,
899
+ 461,
900
+ 471,
901
+ 474,
902
+ 481,
903
+ 482,
904
+ 486,
905
+ 488,
906
+ 489,
907
+ 490,
908
+ 494,
909
+ 499,
910
+ 500,
911
+ 503,
912
+ 506,
913
+ 518,
914
+ 522,
915
+ 532,
916
+ 536,
917
+ 537,
918
+ 541,
919
+ 553,
920
+ 563,
921
+ 566,
922
+ 567,
923
+ 569,
924
+ 581,
925
+ 587,
926
+ 590,
927
+ 595,
928
+ 596,
929
+ 603,
930
+ 608,
931
+ 616,
932
+ 621,
933
+ 624,
934
+ 638,
935
+ 640,
936
+ 644,
937
+ 646,
938
+ 651,
939
+ 662,
940
+ 673,
941
+ 677,
942
+ 678,
943
+ 680,
944
+ 692,
945
+ 697,
946
+ 702,
947
+ 705,
948
+ 710,
949
+ 722,
950
+ 725,
951
+ 727,
952
+ 728,
953
+ 735,
954
+ 751,
955
+ 752,
956
+ 754,
957
+ 755,
958
+ 756,
959
+ 758,
960
+ 766,
961
+ 768,
962
+ 772,
963
+ 774,
964
+ 778,
965
+ 784,
966
+ 789,
967
+ 790,
968
+ 807,
969
+ 812,
970
+ 815,
971
+ 823,
972
+ 824,
973
+ 825,
974
+ 828,
975
+ 831,
976
+ 832,
977
+ 833,
978
+ 834,
979
+ 840,
980
+ 841,
981
+ 845,
982
+ 852,
983
+ 853,
984
+ 856,
985
+ 860,
986
+ 867,
987
+ 870,
988
+ 876,
989
+ 880,
990
+ 882,
991
+ 897,
992
+ 900,
993
+ 907,
994
+ 910,
995
+ 913,
996
+ 915,
997
+ 918,
998
+ 921,
999
+ 927,
1000
+ 930,
1001
+ 939,
1002
+ 940,
1003
+ 944,
1004
+ 952,
1005
+ 959,
1006
+ 969,
1007
+ 970,
1008
+ 981,
1009
+ 986,
1010
+ 989,
1011
+ 992,
1012
+ 994
1013
+ ],
1014
+ "clean_baseline": 10.78125,
1015
+ "corrupted_baseline": -10.8984375
1016
+ }
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_B/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:c71ee12d029bd8cb1506482f8fb9b1a5fe09ce4bb3f73f44e19293b0d494b9b6
3
+ size 14157430
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_B/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:dfd0e82adb08e96f996eda399d2829c04dc47a8896760d41b9edb7fc057b3a1e
3
+ size 6252336
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_conditional/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_conditional/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.987,
7
+ "corrupted_accuracy": 0.977,
8
+ "both_correct_accuracy": 0.964,
9
+ "n_both_correct": 964,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 9,
20
+ 10,
21
+ 11,
22
+ 12,
23
+ 13,
24
+ 14,
25
+ 15,
26
+ 16,
27
+ 17,
28
+ 18,
29
+ 19,
30
+ 20,
31
+ 21,
32
+ 22,
33
+ 23,
34
+ 24,
35
+ 25,
36
+ 26,
37
+ 27,
38
+ 28,
39
+ 29,
40
+ 30,
41
+ 32,
42
+ 33,
43
+ 34,
44
+ 35,
45
+ 37,
46
+ 38,
47
+ 39,
48
+ 40,
49
+ 41,
50
+ 42,
51
+ 43,
52
+ 44,
53
+ 45,
54
+ 46,
55
+ 47,
56
+ 48,
57
+ 49,
58
+ 50,
59
+ 51,
60
+ 52,
61
+ 53,
62
+ 54,
63
+ 55,
64
+ 56,
65
+ 57,
66
+ 58,
67
+ 59,
68
+ 60,
69
+ 61,
70
+ 62,
71
+ 63,
72
+ 64,
73
+ 65,
74
+ 67,
75
+ 68,
76
+ 69,
77
+ 70,
78
+ 71,
79
+ 72,
80
+ 73,
81
+ 74,
82
+ 75,
83
+ 76,
84
+ 77,
85
+ 78,
86
+ 79,
87
+ 80,
88
+ 81,
89
+ 83,
90
+ 84,
91
+ 85,
92
+ 86,
93
+ 88,
94
+ 89,
95
+ 90,
96
+ 91,
97
+ 92,
98
+ 93,
99
+ 94,
100
+ 95,
101
+ 96,
102
+ 97,
103
+ 98,
104
+ 99,
105
+ 100,
106
+ 101,
107
+ 102,
108
+ 103,
109
+ 104,
110
+ 105,
111
+ 106,
112
+ 107,
113
+ 108,
114
+ 109,
115
+ 110,
116
+ 111,
117
+ 112,
118
+ 113,
119
+ 114,
120
+ 115,
121
+ 117,
122
+ 118,
123
+ 119,
124
+ 120,
125
+ 121,
126
+ 122,
127
+ 123,
128
+ 124,
129
+ 125,
130
+ 126,
131
+ 127,
132
+ 128,
133
+ 129,
134
+ 130,
135
+ 131,
136
+ 132,
137
+ 133,
138
+ 134,
139
+ 135,
140
+ 136,
141
+ 137,
142
+ 138,
143
+ 139,
144
+ 140,
145
+ 141,
146
+ 142,
147
+ 143,
148
+ 144,
149
+ 145,
150
+ 146,
151
+ 147,
152
+ 148,
153
+ 149,
154
+ 150,
155
+ 151,
156
+ 153,
157
+ 154,
158
+ 155,
159
+ 156,
160
+ 157,
161
+ 158,
162
+ 159,
163
+ 160,
164
+ 161,
165
+ 162,
166
+ 163,
167
+ 164,
168
+ 165,
169
+ 166,
170
+ 167,
171
+ 168,
172
+ 169,
173
+ 170,
174
+ 171,
175
+ 172,
176
+ 173,
177
+ 174,
178
+ 175,
179
+ 176,
180
+ 177,
181
+ 178,
182
+ 179,
183
+ 180,
184
+ 181,
185
+ 183,
186
+ 184,
187
+ 185,
188
+ 186,
189
+ 187,
190
+ 188,
191
+ 189,
192
+ 190,
193
+ 191,
194
+ 192,
195
+ 193,
196
+ 194,
197
+ 195,
198
+ 196,
199
+ 197,
200
+ 198,
201
+ 199,
202
+ 200,
203
+ 201,
204
+ 202,
205
+ 203,
206
+ 204,
207
+ 205,
208
+ 206,
209
+ 207,
210
+ 208,
211
+ 209,
212
+ 210,
213
+ 211,
214
+ 212,
215
+ 213,
216
+ 214,
217
+ 215,
218
+ 216,
219
+ 217,
220
+ 218,
221
+ 219,
222
+ 220,
223
+ 221,
224
+ 222,
225
+ 223,
226
+ 224,
227
+ 225,
228
+ 226,
229
+ 227,
230
+ 228,
231
+ 229,
232
+ 230,
233
+ 231,
234
+ 232,
235
+ 233,
236
+ 234,
237
+ 235,
238
+ 237,
239
+ 238,
240
+ 239,
241
+ 240,
242
+ 241,
243
+ 242,
244
+ 243,
245
+ 244,
246
+ 245,
247
+ 246,
248
+ 247,
249
+ 248,
250
+ 249,
251
+ 250,
252
+ 251,
253
+ 252,
254
+ 253,
255
+ 254,
256
+ 256,
257
+ 257,
258
+ 258,
259
+ 259,
260
+ 260,
261
+ 261,
262
+ 262,
263
+ 263,
264
+ 264,
265
+ 265,
266
+ 266,
267
+ 267,
268
+ 268,
269
+ 269,
270
+ 271,
271
+ 272,
272
+ 273,
273
+ 274,
274
+ 275,
275
+ 276,
276
+ 277,
277
+ 278,
278
+ 279,
279
+ 280,
280
+ 281,
281
+ 282,
282
+ 283,
283
+ 284,
284
+ 285,
285
+ 286,
286
+ 287,
287
+ 288,
288
+ 289,
289
+ 290,
290
+ 291,
291
+ 292,
292
+ 293,
293
+ 294,
294
+ 295,
295
+ 296,
296
+ 297,
297
+ 298,
298
+ 299,
299
+ 300,
300
+ 301,
301
+ 303,
302
+ 304,
303
+ 305,
304
+ 306,
305
+ 307,
306
+ 308,
307
+ 309,
308
+ 310,
309
+ 311,
310
+ 312,
311
+ 313,
312
+ 314,
313
+ 315,
314
+ 316,
315
+ 317,
316
+ 318,
317
+ 319,
318
+ 320,
319
+ 321,
320
+ 322,
321
+ 323,
322
+ 324,
323
+ 325,
324
+ 326,
325
+ 327,
326
+ 328,
327
+ 329,
328
+ 330,
329
+ 331,
330
+ 332,
331
+ 333,
332
+ 334,
333
+ 335,
334
+ 336,
335
+ 337,
336
+ 338,
337
+ 339,
338
+ 340,
339
+ 341,
340
+ 342,
341
+ 343,
342
+ 345,
343
+ 346,
344
+ 348,
345
+ 349,
346
+ 350,
347
+ 351,
348
+ 352,
349
+ 353,
350
+ 354,
351
+ 355,
352
+ 356,
353
+ 357,
354
+ 358,
355
+ 359,
356
+ 360,
357
+ 361,
358
+ 362,
359
+ 363,
360
+ 364,
361
+ 365,
362
+ 366,
363
+ 367,
364
+ 368,
365
+ 369,
366
+ 370,
367
+ 371,
368
+ 372,
369
+ 373,
370
+ 374,
371
+ 375,
372
+ 376,
373
+ 377,
374
+ 378,
375
+ 379,
376
+ 380,
377
+ 382,
378
+ 383,
379
+ 384,
380
+ 385,
381
+ 386,
382
+ 387,
383
+ 388,
384
+ 389,
385
+ 390,
386
+ 392,
387
+ 393,
388
+ 394,
389
+ 395,
390
+ 396,
391
+ 397,
392
+ 398,
393
+ 399,
394
+ 400,
395
+ 401,
396
+ 402,
397
+ 403,
398
+ 404,
399
+ 405,
400
+ 406,
401
+ 407,
402
+ 408,
403
+ 409,
404
+ 410,
405
+ 411,
406
+ 412,
407
+ 413,
408
+ 414,
409
+ 415,
410
+ 416,
411
+ 417,
412
+ 418,
413
+ 419,
414
+ 420,
415
+ 421,
416
+ 422,
417
+ 423,
418
+ 424,
419
+ 425,
420
+ 426,
421
+ 427,
422
+ 428,
423
+ 429,
424
+ 430,
425
+ 431,
426
+ 432,
427
+ 433,
428
+ 434,
429
+ 435,
430
+ 436,
431
+ 437,
432
+ 438,
433
+ 439,
434
+ 440,
435
+ 441,
436
+ 442,
437
+ 443,
438
+ 444,
439
+ 445,
440
+ 446,
441
+ 447,
442
+ 448,
443
+ 449,
444
+ 450,
445
+ 452,
446
+ 453,
447
+ 454,
448
+ 455,
449
+ 456,
450
+ 457,
451
+ 458,
452
+ 459,
453
+ 460,
454
+ 461,
455
+ 462,
456
+ 463,
457
+ 464,
458
+ 465,
459
+ 466,
460
+ 467,
461
+ 468,
462
+ 469,
463
+ 470,
464
+ 471,
465
+ 473,
466
+ 474,
467
+ 475,
468
+ 476,
469
+ 477,
470
+ 478,
471
+ 479,
472
+ 480,
473
+ 481,
474
+ 482,
475
+ 483,
476
+ 484,
477
+ 485,
478
+ 486,
479
+ 487,
480
+ 488,
481
+ 489,
482
+ 490,
483
+ 491,
484
+ 493,
485
+ 494,
486
+ 495,
487
+ 496,
488
+ 497,
489
+ 498,
490
+ 499,
491
+ 500,
492
+ 501,
493
+ 502,
494
+ 503,
495
+ 504,
496
+ 505,
497
+ 506,
498
+ 508,
499
+ 509,
500
+ 510,
501
+ 511,
502
+ 513,
503
+ 514,
504
+ 515,
505
+ 516,
506
+ 517,
507
+ 518,
508
+ 519,
509
+ 520,
510
+ 521,
511
+ 522,
512
+ 523,
513
+ 524,
514
+ 525,
515
+ 526,
516
+ 527,
517
+ 528,
518
+ 529,
519
+ 530,
520
+ 531,
521
+ 532,
522
+ 533,
523
+ 534,
524
+ 535,
525
+ 536,
526
+ 537,
527
+ 538,
528
+ 539,
529
+ 540,
530
+ 541,
531
+ 542,
532
+ 543,
533
+ 544,
534
+ 545,
535
+ 546,
536
+ 547,
537
+ 548,
538
+ 549,
539
+ 550,
540
+ 551,
541
+ 552,
542
+ 553,
543
+ 554,
544
+ 555,
545
+ 556,
546
+ 557,
547
+ 558,
548
+ 559,
549
+ 560,
550
+ 561,
551
+ 562,
552
+ 563,
553
+ 564,
554
+ 566,
555
+ 567,
556
+ 568,
557
+ 569,
558
+ 570,
559
+ 571,
560
+ 572,
561
+ 573,
562
+ 574,
563
+ 575,
564
+ 576,
565
+ 577,
566
+ 578,
567
+ 579,
568
+ 580,
569
+ 581,
570
+ 582,
571
+ 583,
572
+ 584,
573
+ 585,
574
+ 586,
575
+ 587,
576
+ 588,
577
+ 589,
578
+ 590,
579
+ 591,
580
+ 592,
581
+ 593,
582
+ 594,
583
+ 595,
584
+ 596,
585
+ 597,
586
+ 598,
587
+ 599,
588
+ 600,
589
+ 601,
590
+ 602,
591
+ 603,
592
+ 604,
593
+ 605,
594
+ 606,
595
+ 607,
596
+ 608,
597
+ 609,
598
+ 610,
599
+ 611,
600
+ 612,
601
+ 613,
602
+ 614,
603
+ 615,
604
+ 616,
605
+ 617,
606
+ 618,
607
+ 619,
608
+ 620,
609
+ 621,
610
+ 622,
611
+ 623,
612
+ 624,
613
+ 625,
614
+ 626,
615
+ 627,
616
+ 628,
617
+ 629,
618
+ 630,
619
+ 631,
620
+ 632,
621
+ 633,
622
+ 634,
623
+ 635,
624
+ 636,
625
+ 637,
626
+ 638,
627
+ 639,
628
+ 640,
629
+ 641,
630
+ 642,
631
+ 643,
632
+ 644,
633
+ 645,
634
+ 647,
635
+ 648,
636
+ 649,
637
+ 650,
638
+ 651,
639
+ 652,
640
+ 653,
641
+ 654,
642
+ 656,
643
+ 657,
644
+ 658,
645
+ 659,
646
+ 660,
647
+ 661,
648
+ 662,
649
+ 663,
650
+ 664,
651
+ 665,
652
+ 666,
653
+ 667,
654
+ 668,
655
+ 669,
656
+ 670,
657
+ 671,
658
+ 672,
659
+ 673,
660
+ 674,
661
+ 675,
662
+ 676,
663
+ 677,
664
+ 678,
665
+ 679,
666
+ 680,
667
+ 681,
668
+ 682,
669
+ 683,
670
+ 684,
671
+ 685,
672
+ 686,
673
+ 687,
674
+ 688,
675
+ 689,
676
+ 690,
677
+ 691,
678
+ 692,
679
+ 693,
680
+ 694,
681
+ 695,
682
+ 696,
683
+ 697,
684
+ 698,
685
+ 700,
686
+ 701,
687
+ 702,
688
+ 703,
689
+ 704,
690
+ 705,
691
+ 706,
692
+ 707,
693
+ 708,
694
+ 709,
695
+ 710,
696
+ 711,
697
+ 712,
698
+ 713,
699
+ 715,
700
+ 716,
701
+ 717,
702
+ 718,
703
+ 719,
704
+ 720,
705
+ 721,
706
+ 722,
707
+ 723,
708
+ 724,
709
+ 725,
710
+ 726,
711
+ 727,
712
+ 728,
713
+ 729,
714
+ 730,
715
+ 731,
716
+ 732,
717
+ 733,
718
+ 734,
719
+ 735,
720
+ 736,
721
+ 737,
722
+ 738,
723
+ 739,
724
+ 740,
725
+ 741,
726
+ 743,
727
+ 744,
728
+ 746,
729
+ 747,
730
+ 748,
731
+ 749,
732
+ 750,
733
+ 751,
734
+ 752,
735
+ 753,
736
+ 754,
737
+ 755,
738
+ 756,
739
+ 757,
740
+ 758,
741
+ 759,
742
+ 760,
743
+ 761,
744
+ 762,
745
+ 763,
746
+ 764,
747
+ 765,
748
+ 766,
749
+ 767,
750
+ 769,
751
+ 770,
752
+ 771,
753
+ 772,
754
+ 773,
755
+ 774,
756
+ 775,
757
+ 776,
758
+ 777,
759
+ 778,
760
+ 780,
761
+ 781,
762
+ 782,
763
+ 783,
764
+ 784,
765
+ 785,
766
+ 786,
767
+ 787,
768
+ 788,
769
+ 789,
770
+ 790,
771
+ 791,
772
+ 792,
773
+ 793,
774
+ 794,
775
+ 795,
776
+ 796,
777
+ 797,
778
+ 798,
779
+ 799,
780
+ 800,
781
+ 801,
782
+ 802,
783
+ 803,
784
+ 804,
785
+ 805,
786
+ 806,
787
+ 807,
788
+ 808,
789
+ 809,
790
+ 810,
791
+ 811,
792
+ 812,
793
+ 813,
794
+ 814,
795
+ 815,
796
+ 816,
797
+ 817,
798
+ 819,
799
+ 820,
800
+ 821,
801
+ 822,
802
+ 823,
803
+ 824,
804
+ 825,
805
+ 826,
806
+ 827,
807
+ 828,
808
+ 829,
809
+ 830,
810
+ 831,
811
+ 832,
812
+ 833,
813
+ 834,
814
+ 835,
815
+ 836,
816
+ 837,
817
+ 838,
818
+ 839,
819
+ 840,
820
+ 841,
821
+ 842,
822
+ 843,
823
+ 844,
824
+ 845,
825
+ 847,
826
+ 848,
827
+ 849,
828
+ 850,
829
+ 851,
830
+ 852,
831
+ 853,
832
+ 854,
833
+ 855,
834
+ 856,
835
+ 857,
836
+ 858,
837
+ 859,
838
+ 860,
839
+ 861,
840
+ 862,
841
+ 863,
842
+ 864,
843
+ 865,
844
+ 866,
845
+ 867,
846
+ 868,
847
+ 869,
848
+ 870,
849
+ 871,
850
+ 872,
851
+ 874,
852
+ 875,
853
+ 876,
854
+ 877,
855
+ 878,
856
+ 879,
857
+ 880,
858
+ 881,
859
+ 882,
860
+ 883,
861
+ 884,
862
+ 885,
863
+ 886,
864
+ 887,
865
+ 888,
866
+ 889,
867
+ 890,
868
+ 891,
869
+ 892,
870
+ 893,
871
+ 894,
872
+ 895,
873
+ 896,
874
+ 897,
875
+ 898,
876
+ 899,
877
+ 900,
878
+ 901,
879
+ 902,
880
+ 903,
881
+ 904,
882
+ 905,
883
+ 906,
884
+ 907,
885
+ 908,
886
+ 909,
887
+ 910,
888
+ 911,
889
+ 912,
890
+ 913,
891
+ 914,
892
+ 915,
893
+ 916,
894
+ 917,
895
+ 918,
896
+ 919,
897
+ 920,
898
+ 921,
899
+ 922,
900
+ 924,
901
+ 925,
902
+ 926,
903
+ 927,
904
+ 928,
905
+ 929,
906
+ 930,
907
+ 931,
908
+ 932,
909
+ 933,
910
+ 934,
911
+ 935,
912
+ 936,
913
+ 937,
914
+ 938,
915
+ 939,
916
+ 940,
917
+ 941,
918
+ 942,
919
+ 943,
920
+ 944,
921
+ 945,
922
+ 946,
923
+ 947,
924
+ 948,
925
+ 949,
926
+ 950,
927
+ 951,
928
+ 952,
929
+ 953,
930
+ 954,
931
+ 955,
932
+ 956,
933
+ 957,
934
+ 958,
935
+ 959,
936
+ 960,
937
+ 961,
938
+ 962,
939
+ 963,
940
+ 964,
941
+ 965,
942
+ 966,
943
+ 967,
944
+ 968,
945
+ 969,
946
+ 970,
947
+ 972,
948
+ 973,
949
+ 974,
950
+ 975,
951
+ 976,
952
+ 977,
953
+ 978,
954
+ 979,
955
+ 980,
956
+ 981,
957
+ 982,
958
+ 983,
959
+ 984,
960
+ 985,
961
+ 986,
962
+ 987,
963
+ 988,
964
+ 989,
965
+ 990,
966
+ 991,
967
+ 992,
968
+ 993,
969
+ 994,
970
+ 995,
971
+ 996,
972
+ 997,
973
+ 998,
974
+ 999
975
+ ],
976
+ "not_both_correct_indices": [
977
+ 8,
978
+ 31,
979
+ 36,
980
+ 66,
981
+ 82,
982
+ 87,
983
+ 116,
984
+ 152,
985
+ 182,
986
+ 236,
987
+ 255,
988
+ 270,
989
+ 302,
990
+ 344,
991
+ 347,
992
+ 381,
993
+ 391,
994
+ 451,
995
+ 472,
996
+ 492,
997
+ 507,
998
+ 512,
999
+ 565,
1000
+ 646,
1001
+ 655,
1002
+ 699,
1003
+ 714,
1004
+ 742,
1005
+ 745,
1006
+ 768,
1007
+ 779,
1008
+ 818,
1009
+ 846,
1010
+ 873,
1011
+ 923,
1012
+ 971
1013
+ ],
1014
+ "clean_baseline": 9.1328125,
1015
+ "corrupted_baseline": -9.0703125
1016
+ }
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_conditional/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fe176128633e70a577dc020ff9e8c1ec9246b30fae313ab2f465fb5a34ced887
3
+ size 14157430
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_conditional/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f5be74e89ea650eef287d2434ac813b463af2f0f834019f944975a6ff46fc0d9
3
+ size 6105768
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_list/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_list/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.982,
7
+ "corrupted_accuracy": 0.987,
8
+ "both_correct_accuracy": 0.97,
9
+ "n_both_correct": 970,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 27,
38
+ 28,
39
+ 29,
40
+ 30,
41
+ 31,
42
+ 32,
43
+ 33,
44
+ 34,
45
+ 35,
46
+ 36,
47
+ 37,
48
+ 38,
49
+ 39,
50
+ 40,
51
+ 41,
52
+ 42,
53
+ 43,
54
+ 44,
55
+ 45,
56
+ 46,
57
+ 47,
58
+ 48,
59
+ 49,
60
+ 50,
61
+ 51,
62
+ 52,
63
+ 53,
64
+ 54,
65
+ 55,
66
+ 56,
67
+ 57,
68
+ 59,
69
+ 60,
70
+ 61,
71
+ 62,
72
+ 63,
73
+ 64,
74
+ 65,
75
+ 66,
76
+ 67,
77
+ 69,
78
+ 70,
79
+ 71,
80
+ 72,
81
+ 74,
82
+ 75,
83
+ 76,
84
+ 77,
85
+ 78,
86
+ 79,
87
+ 80,
88
+ 81,
89
+ 82,
90
+ 83,
91
+ 84,
92
+ 85,
93
+ 86,
94
+ 87,
95
+ 88,
96
+ 89,
97
+ 90,
98
+ 91,
99
+ 92,
100
+ 93,
101
+ 94,
102
+ 95,
103
+ 96,
104
+ 97,
105
+ 98,
106
+ 99,
107
+ 100,
108
+ 101,
109
+ 102,
110
+ 103,
111
+ 104,
112
+ 105,
113
+ 106,
114
+ 107,
115
+ 108,
116
+ 109,
117
+ 110,
118
+ 111,
119
+ 112,
120
+ 113,
121
+ 114,
122
+ 115,
123
+ 116,
124
+ 117,
125
+ 118,
126
+ 119,
127
+ 120,
128
+ 121,
129
+ 122,
130
+ 123,
131
+ 124,
132
+ 125,
133
+ 126,
134
+ 127,
135
+ 128,
136
+ 129,
137
+ 130,
138
+ 131,
139
+ 132,
140
+ 133,
141
+ 134,
142
+ 135,
143
+ 136,
144
+ 137,
145
+ 138,
146
+ 139,
147
+ 140,
148
+ 141,
149
+ 142,
150
+ 143,
151
+ 144,
152
+ 145,
153
+ 146,
154
+ 147,
155
+ 148,
156
+ 149,
157
+ 150,
158
+ 151,
159
+ 152,
160
+ 153,
161
+ 154,
162
+ 155,
163
+ 156,
164
+ 157,
165
+ 158,
166
+ 159,
167
+ 160,
168
+ 161,
169
+ 162,
170
+ 163,
171
+ 164,
172
+ 165,
173
+ 166,
174
+ 167,
175
+ 169,
176
+ 170,
177
+ 171,
178
+ 172,
179
+ 173,
180
+ 174,
181
+ 175,
182
+ 176,
183
+ 177,
184
+ 178,
185
+ 179,
186
+ 180,
187
+ 181,
188
+ 182,
189
+ 183,
190
+ 184,
191
+ 185,
192
+ 186,
193
+ 187,
194
+ 188,
195
+ 189,
196
+ 190,
197
+ 191,
198
+ 192,
199
+ 193,
200
+ 194,
201
+ 195,
202
+ 196,
203
+ 197,
204
+ 198,
205
+ 199,
206
+ 200,
207
+ 201,
208
+ 202,
209
+ 203,
210
+ 204,
211
+ 205,
212
+ 206,
213
+ 207,
214
+ 208,
215
+ 209,
216
+ 210,
217
+ 211,
218
+ 212,
219
+ 213,
220
+ 214,
221
+ 215,
222
+ 216,
223
+ 217,
224
+ 218,
225
+ 219,
226
+ 220,
227
+ 221,
228
+ 222,
229
+ 223,
230
+ 224,
231
+ 225,
232
+ 226,
233
+ 228,
234
+ 229,
235
+ 230,
236
+ 231,
237
+ 232,
238
+ 233,
239
+ 234,
240
+ 235,
241
+ 236,
242
+ 237,
243
+ 238,
244
+ 239,
245
+ 240,
246
+ 241,
247
+ 242,
248
+ 243,
249
+ 244,
250
+ 245,
251
+ 246,
252
+ 247,
253
+ 248,
254
+ 249,
255
+ 250,
256
+ 251,
257
+ 253,
258
+ 254,
259
+ 255,
260
+ 256,
261
+ 257,
262
+ 259,
263
+ 260,
264
+ 261,
265
+ 262,
266
+ 263,
267
+ 264,
268
+ 265,
269
+ 266,
270
+ 267,
271
+ 268,
272
+ 269,
273
+ 270,
274
+ 271,
275
+ 272,
276
+ 273,
277
+ 274,
278
+ 275,
279
+ 277,
280
+ 278,
281
+ 279,
282
+ 280,
283
+ 281,
284
+ 282,
285
+ 283,
286
+ 284,
287
+ 285,
288
+ 286,
289
+ 287,
290
+ 288,
291
+ 289,
292
+ 290,
293
+ 291,
294
+ 292,
295
+ 293,
296
+ 294,
297
+ 295,
298
+ 296,
299
+ 297,
300
+ 299,
301
+ 300,
302
+ 301,
303
+ 302,
304
+ 303,
305
+ 304,
306
+ 305,
307
+ 306,
308
+ 307,
309
+ 308,
310
+ 309,
311
+ 310,
312
+ 311,
313
+ 312,
314
+ 313,
315
+ 314,
316
+ 315,
317
+ 316,
318
+ 317,
319
+ 318,
320
+ 319,
321
+ 320,
322
+ 321,
323
+ 322,
324
+ 323,
325
+ 324,
326
+ 325,
327
+ 326,
328
+ 327,
329
+ 328,
330
+ 330,
331
+ 331,
332
+ 332,
333
+ 333,
334
+ 334,
335
+ 335,
336
+ 336,
337
+ 337,
338
+ 338,
339
+ 339,
340
+ 340,
341
+ 341,
342
+ 342,
343
+ 343,
344
+ 344,
345
+ 345,
346
+ 346,
347
+ 347,
348
+ 348,
349
+ 349,
350
+ 350,
351
+ 351,
352
+ 352,
353
+ 353,
354
+ 354,
355
+ 355,
356
+ 356,
357
+ 357,
358
+ 358,
359
+ 359,
360
+ 360,
361
+ 361,
362
+ 362,
363
+ 363,
364
+ 364,
365
+ 365,
366
+ 366,
367
+ 367,
368
+ 368,
369
+ 369,
370
+ 370,
371
+ 371,
372
+ 372,
373
+ 373,
374
+ 374,
375
+ 375,
376
+ 376,
377
+ 377,
378
+ 378,
379
+ 379,
380
+ 380,
381
+ 381,
382
+ 382,
383
+ 383,
384
+ 384,
385
+ 385,
386
+ 386,
387
+ 387,
388
+ 388,
389
+ 389,
390
+ 390,
391
+ 391,
392
+ 392,
393
+ 393,
394
+ 394,
395
+ 395,
396
+ 396,
397
+ 397,
398
+ 398,
399
+ 399,
400
+ 400,
401
+ 401,
402
+ 402,
403
+ 403,
404
+ 404,
405
+ 405,
406
+ 406,
407
+ 407,
408
+ 408,
409
+ 409,
410
+ 410,
411
+ 411,
412
+ 412,
413
+ 413,
414
+ 414,
415
+ 415,
416
+ 416,
417
+ 417,
418
+ 418,
419
+ 419,
420
+ 420,
421
+ 421,
422
+ 422,
423
+ 423,
424
+ 424,
425
+ 425,
426
+ 426,
427
+ 427,
428
+ 428,
429
+ 429,
430
+ 430,
431
+ 431,
432
+ 432,
433
+ 433,
434
+ 434,
435
+ 435,
436
+ 436,
437
+ 438,
438
+ 439,
439
+ 440,
440
+ 441,
441
+ 442,
442
+ 443,
443
+ 444,
444
+ 445,
445
+ 446,
446
+ 447,
447
+ 448,
448
+ 449,
449
+ 450,
450
+ 451,
451
+ 452,
452
+ 453,
453
+ 454,
454
+ 455,
455
+ 456,
456
+ 457,
457
+ 458,
458
+ 459,
459
+ 460,
460
+ 461,
461
+ 462,
462
+ 463,
463
+ 464,
464
+ 465,
465
+ 466,
466
+ 467,
467
+ 468,
468
+ 469,
469
+ 470,
470
+ 471,
471
+ 472,
472
+ 473,
473
+ 474,
474
+ 475,
475
+ 476,
476
+ 478,
477
+ 479,
478
+ 480,
479
+ 481,
480
+ 482,
481
+ 483,
482
+ 484,
483
+ 485,
484
+ 486,
485
+ 487,
486
+ 488,
487
+ 489,
488
+ 490,
489
+ 491,
490
+ 493,
491
+ 494,
492
+ 495,
493
+ 496,
494
+ 497,
495
+ 498,
496
+ 499,
497
+ 500,
498
+ 501,
499
+ 502,
500
+ 503,
501
+ 505,
502
+ 506,
503
+ 507,
504
+ 508,
505
+ 509,
506
+ 510,
507
+ 511,
508
+ 512,
509
+ 513,
510
+ 514,
511
+ 515,
512
+ 516,
513
+ 517,
514
+ 518,
515
+ 519,
516
+ 520,
517
+ 521,
518
+ 522,
519
+ 523,
520
+ 524,
521
+ 525,
522
+ 526,
523
+ 527,
524
+ 528,
525
+ 529,
526
+ 530,
527
+ 531,
528
+ 532,
529
+ 533,
530
+ 534,
531
+ 535,
532
+ 536,
533
+ 537,
534
+ 538,
535
+ 539,
536
+ 540,
537
+ 541,
538
+ 542,
539
+ 543,
540
+ 544,
541
+ 545,
542
+ 546,
543
+ 547,
544
+ 548,
545
+ 549,
546
+ 550,
547
+ 551,
548
+ 552,
549
+ 553,
550
+ 554,
551
+ 555,
552
+ 556,
553
+ 557,
554
+ 558,
555
+ 559,
556
+ 560,
557
+ 561,
558
+ 562,
559
+ 563,
560
+ 564,
561
+ 565,
562
+ 566,
563
+ 567,
564
+ 568,
565
+ 569,
566
+ 570,
567
+ 571,
568
+ 572,
569
+ 573,
570
+ 574,
571
+ 575,
572
+ 576,
573
+ 577,
574
+ 578,
575
+ 579,
576
+ 580,
577
+ 581,
578
+ 582,
579
+ 583,
580
+ 584,
581
+ 585,
582
+ 586,
583
+ 587,
584
+ 588,
585
+ 589,
586
+ 590,
587
+ 591,
588
+ 593,
589
+ 594,
590
+ 595,
591
+ 596,
592
+ 597,
593
+ 598,
594
+ 599,
595
+ 600,
596
+ 601,
597
+ 602,
598
+ 603,
599
+ 604,
600
+ 605,
601
+ 606,
602
+ 607,
603
+ 608,
604
+ 609,
605
+ 610,
606
+ 611,
607
+ 612,
608
+ 613,
609
+ 614,
610
+ 615,
611
+ 616,
612
+ 617,
613
+ 618,
614
+ 619,
615
+ 620,
616
+ 621,
617
+ 622,
618
+ 623,
619
+ 624,
620
+ 625,
621
+ 627,
622
+ 628,
623
+ 630,
624
+ 631,
625
+ 632,
626
+ 633,
627
+ 634,
628
+ 635,
629
+ 636,
630
+ 637,
631
+ 638,
632
+ 639,
633
+ 640,
634
+ 641,
635
+ 642,
636
+ 643,
637
+ 644,
638
+ 645,
639
+ 646,
640
+ 647,
641
+ 648,
642
+ 649,
643
+ 650,
644
+ 651,
645
+ 652,
646
+ 653,
647
+ 654,
648
+ 655,
649
+ 656,
650
+ 657,
651
+ 658,
652
+ 659,
653
+ 660,
654
+ 661,
655
+ 662,
656
+ 663,
657
+ 664,
658
+ 665,
659
+ 666,
660
+ 667,
661
+ 669,
662
+ 670,
663
+ 671,
664
+ 672,
665
+ 673,
666
+ 674,
667
+ 675,
668
+ 676,
669
+ 677,
670
+ 678,
671
+ 680,
672
+ 681,
673
+ 682,
674
+ 683,
675
+ 684,
676
+ 685,
677
+ 686,
678
+ 687,
679
+ 688,
680
+ 689,
681
+ 690,
682
+ 691,
683
+ 692,
684
+ 693,
685
+ 695,
686
+ 696,
687
+ 697,
688
+ 698,
689
+ 699,
690
+ 700,
691
+ 701,
692
+ 703,
693
+ 704,
694
+ 705,
695
+ 706,
696
+ 707,
697
+ 708,
698
+ 709,
699
+ 710,
700
+ 711,
701
+ 712,
702
+ 713,
703
+ 714,
704
+ 715,
705
+ 716,
706
+ 717,
707
+ 718,
708
+ 719,
709
+ 720,
710
+ 721,
711
+ 723,
712
+ 724,
713
+ 725,
714
+ 726,
715
+ 727,
716
+ 728,
717
+ 729,
718
+ 730,
719
+ 731,
720
+ 732,
721
+ 733,
722
+ 734,
723
+ 735,
724
+ 736,
725
+ 737,
726
+ 738,
727
+ 739,
728
+ 740,
729
+ 741,
730
+ 742,
731
+ 743,
732
+ 744,
733
+ 745,
734
+ 746,
735
+ 747,
736
+ 748,
737
+ 749,
738
+ 750,
739
+ 751,
740
+ 752,
741
+ 753,
742
+ 754,
743
+ 755,
744
+ 756,
745
+ 757,
746
+ 758,
747
+ 759,
748
+ 760,
749
+ 761,
750
+ 762,
751
+ 763,
752
+ 764,
753
+ 765,
754
+ 766,
755
+ 767,
756
+ 768,
757
+ 769,
758
+ 770,
759
+ 771,
760
+ 772,
761
+ 773,
762
+ 774,
763
+ 775,
764
+ 776,
765
+ 777,
766
+ 778,
767
+ 779,
768
+ 780,
769
+ 781,
770
+ 782,
771
+ 783,
772
+ 784,
773
+ 785,
774
+ 786,
775
+ 787,
776
+ 788,
777
+ 789,
778
+ 790,
779
+ 791,
780
+ 792,
781
+ 793,
782
+ 794,
783
+ 795,
784
+ 796,
785
+ 797,
786
+ 798,
787
+ 799,
788
+ 800,
789
+ 801,
790
+ 802,
791
+ 803,
792
+ 804,
793
+ 805,
794
+ 806,
795
+ 807,
796
+ 808,
797
+ 809,
798
+ 810,
799
+ 811,
800
+ 812,
801
+ 813,
802
+ 814,
803
+ 815,
804
+ 816,
805
+ 817,
806
+ 818,
807
+ 819,
808
+ 820,
809
+ 821,
810
+ 822,
811
+ 823,
812
+ 824,
813
+ 825,
814
+ 826,
815
+ 827,
816
+ 828,
817
+ 829,
818
+ 830,
819
+ 831,
820
+ 832,
821
+ 833,
822
+ 834,
823
+ 835,
824
+ 836,
825
+ 837,
826
+ 838,
827
+ 839,
828
+ 840,
829
+ 841,
830
+ 842,
831
+ 843,
832
+ 844,
833
+ 845,
834
+ 846,
835
+ 847,
836
+ 848,
837
+ 849,
838
+ 850,
839
+ 851,
840
+ 852,
841
+ 853,
842
+ 854,
843
+ 855,
844
+ 856,
845
+ 857,
846
+ 858,
847
+ 859,
848
+ 860,
849
+ 861,
850
+ 862,
851
+ 863,
852
+ 864,
853
+ 865,
854
+ 866,
855
+ 867,
856
+ 868,
857
+ 869,
858
+ 870,
859
+ 871,
860
+ 872,
861
+ 873,
862
+ 874,
863
+ 875,
864
+ 876,
865
+ 877,
866
+ 878,
867
+ 879,
868
+ 880,
869
+ 881,
870
+ 882,
871
+ 883,
872
+ 884,
873
+ 885,
874
+ 886,
875
+ 887,
876
+ 888,
877
+ 889,
878
+ 890,
879
+ 891,
880
+ 892,
881
+ 893,
882
+ 894,
883
+ 895,
884
+ 896,
885
+ 897,
886
+ 898,
887
+ 899,
888
+ 900,
889
+ 901,
890
+ 902,
891
+ 903,
892
+ 904,
893
+ 905,
894
+ 906,
895
+ 907,
896
+ 908,
897
+ 909,
898
+ 910,
899
+ 911,
900
+ 912,
901
+ 913,
902
+ 914,
903
+ 915,
904
+ 916,
905
+ 917,
906
+ 918,
907
+ 919,
908
+ 920,
909
+ 921,
910
+ 922,
911
+ 923,
912
+ 924,
913
+ 925,
914
+ 926,
915
+ 927,
916
+ 928,
917
+ 929,
918
+ 930,
919
+ 931,
920
+ 932,
921
+ 933,
922
+ 934,
923
+ 935,
924
+ 936,
925
+ 937,
926
+ 938,
927
+ 940,
928
+ 941,
929
+ 942,
930
+ 943,
931
+ 944,
932
+ 945,
933
+ 946,
934
+ 947,
935
+ 948,
936
+ 949,
937
+ 951,
938
+ 952,
939
+ 955,
940
+ 956,
941
+ 957,
942
+ 958,
943
+ 959,
944
+ 960,
945
+ 961,
946
+ 962,
947
+ 963,
948
+ 964,
949
+ 965,
950
+ 966,
951
+ 967,
952
+ 968,
953
+ 970,
954
+ 971,
955
+ 972,
956
+ 973,
957
+ 975,
958
+ 976,
959
+ 977,
960
+ 978,
961
+ 979,
962
+ 980,
963
+ 981,
964
+ 982,
965
+ 984,
966
+ 985,
967
+ 986,
968
+ 987,
969
+ 988,
970
+ 989,
971
+ 990,
972
+ 991,
973
+ 992,
974
+ 993,
975
+ 994,
976
+ 995,
977
+ 996,
978
+ 997,
979
+ 998,
980
+ 999
981
+ ],
982
+ "not_both_correct_indices": [
983
+ 26,
984
+ 58,
985
+ 68,
986
+ 73,
987
+ 168,
988
+ 227,
989
+ 252,
990
+ 258,
991
+ 276,
992
+ 298,
993
+ 329,
994
+ 437,
995
+ 477,
996
+ 492,
997
+ 504,
998
+ 592,
999
+ 626,
1000
+ 629,
1001
+ 668,
1002
+ 679,
1003
+ 694,
1004
+ 702,
1005
+ 722,
1006
+ 939,
1007
+ 950,
1008
+ 953,
1009
+ 954,
1010
+ 969,
1011
+ 974,
1012
+ 983
1013
+ ],
1014
+ "clean_baseline": 12.171875,
1015
+ "corrupted_baseline": -12.3515625
1016
+ }
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_list/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:59d72a012fc9888a273993ca6cbed0845bf080d219522ff0e742df4f447bb792
3
+ size 14157430
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_list/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4169fe3cdf69f55ca18b84acc02776b9ce74d96ffc5223e0fda06ccdb30ce883
3
+ size 5950816
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_loop/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_loop/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.915,
7
+ "corrupted_accuracy": 0.936,
8
+ "both_correct_accuracy": 0.855,
9
+ "n_both_correct": 855,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 2,
13
+ 3,
14
+ 4,
15
+ 5,
16
+ 6,
17
+ 7,
18
+ 8,
19
+ 9,
20
+ 10,
21
+ 12,
22
+ 13,
23
+ 14,
24
+ 16,
25
+ 17,
26
+ 18,
27
+ 19,
28
+ 20,
29
+ 23,
30
+ 24,
31
+ 26,
32
+ 28,
33
+ 29,
34
+ 30,
35
+ 31,
36
+ 32,
37
+ 33,
38
+ 34,
39
+ 35,
40
+ 37,
41
+ 38,
42
+ 39,
43
+ 40,
44
+ 41,
45
+ 42,
46
+ 43,
47
+ 44,
48
+ 45,
49
+ 47,
50
+ 48,
51
+ 52,
52
+ 53,
53
+ 54,
54
+ 55,
55
+ 56,
56
+ 57,
57
+ 58,
58
+ 59,
59
+ 60,
60
+ 61,
61
+ 62,
62
+ 63,
63
+ 64,
64
+ 65,
65
+ 66,
66
+ 67,
67
+ 68,
68
+ 69,
69
+ 70,
70
+ 71,
71
+ 72,
72
+ 73,
73
+ 74,
74
+ 75,
75
+ 76,
76
+ 77,
77
+ 78,
78
+ 79,
79
+ 80,
80
+ 81,
81
+ 82,
82
+ 83,
83
+ 84,
84
+ 85,
85
+ 86,
86
+ 87,
87
+ 88,
88
+ 89,
89
+ 92,
90
+ 94,
91
+ 96,
92
+ 97,
93
+ 98,
94
+ 99,
95
+ 100,
96
+ 102,
97
+ 103,
98
+ 104,
99
+ 105,
100
+ 106,
101
+ 107,
102
+ 108,
103
+ 109,
104
+ 110,
105
+ 111,
106
+ 112,
107
+ 113,
108
+ 114,
109
+ 116,
110
+ 117,
111
+ 118,
112
+ 119,
113
+ 120,
114
+ 123,
115
+ 124,
116
+ 125,
117
+ 126,
118
+ 127,
119
+ 128,
120
+ 129,
121
+ 130,
122
+ 131,
123
+ 132,
124
+ 133,
125
+ 134,
126
+ 135,
127
+ 136,
128
+ 137,
129
+ 138,
130
+ 139,
131
+ 140,
132
+ 141,
133
+ 142,
134
+ 143,
135
+ 144,
136
+ 145,
137
+ 146,
138
+ 147,
139
+ 148,
140
+ 149,
141
+ 150,
142
+ 151,
143
+ 152,
144
+ 153,
145
+ 154,
146
+ 155,
147
+ 156,
148
+ 157,
149
+ 158,
150
+ 159,
151
+ 160,
152
+ 162,
153
+ 163,
154
+ 164,
155
+ 165,
156
+ 168,
157
+ 169,
158
+ 170,
159
+ 171,
160
+ 172,
161
+ 173,
162
+ 174,
163
+ 175,
164
+ 176,
165
+ 177,
166
+ 178,
167
+ 180,
168
+ 181,
169
+ 182,
170
+ 184,
171
+ 186,
172
+ 187,
173
+ 188,
174
+ 189,
175
+ 190,
176
+ 191,
177
+ 193,
178
+ 194,
179
+ 195,
180
+ 196,
181
+ 197,
182
+ 198,
183
+ 199,
184
+ 201,
185
+ 202,
186
+ 203,
187
+ 204,
188
+ 206,
189
+ 207,
190
+ 208,
191
+ 209,
192
+ 210,
193
+ 211,
194
+ 212,
195
+ 214,
196
+ 215,
197
+ 216,
198
+ 217,
199
+ 218,
200
+ 219,
201
+ 220,
202
+ 223,
203
+ 224,
204
+ 226,
205
+ 227,
206
+ 228,
207
+ 230,
208
+ 231,
209
+ 232,
210
+ 233,
211
+ 234,
212
+ 235,
213
+ 236,
214
+ 237,
215
+ 238,
216
+ 239,
217
+ 240,
218
+ 241,
219
+ 243,
220
+ 244,
221
+ 245,
222
+ 246,
223
+ 247,
224
+ 248,
225
+ 250,
226
+ 251,
227
+ 252,
228
+ 254,
229
+ 255,
230
+ 256,
231
+ 257,
232
+ 258,
233
+ 259,
234
+ 260,
235
+ 261,
236
+ 263,
237
+ 265,
238
+ 266,
239
+ 267,
240
+ 268,
241
+ 269,
242
+ 270,
243
+ 271,
244
+ 272,
245
+ 273,
246
+ 274,
247
+ 275,
248
+ 276,
249
+ 278,
250
+ 280,
251
+ 282,
252
+ 283,
253
+ 284,
254
+ 285,
255
+ 286,
256
+ 287,
257
+ 288,
258
+ 289,
259
+ 290,
260
+ 291,
261
+ 292,
262
+ 293,
263
+ 294,
264
+ 295,
265
+ 296,
266
+ 297,
267
+ 298,
268
+ 299,
269
+ 300,
270
+ 302,
271
+ 304,
272
+ 305,
273
+ 307,
274
+ 308,
275
+ 309,
276
+ 310,
277
+ 312,
278
+ 313,
279
+ 314,
280
+ 316,
281
+ 317,
282
+ 318,
283
+ 319,
284
+ 320,
285
+ 321,
286
+ 322,
287
+ 323,
288
+ 324,
289
+ 325,
290
+ 326,
291
+ 327,
292
+ 330,
293
+ 331,
294
+ 332,
295
+ 333,
296
+ 334,
297
+ 335,
298
+ 336,
299
+ 338,
300
+ 339,
301
+ 340,
302
+ 341,
303
+ 342,
304
+ 344,
305
+ 345,
306
+ 346,
307
+ 347,
308
+ 348,
309
+ 349,
310
+ 350,
311
+ 351,
312
+ 352,
313
+ 353,
314
+ 354,
315
+ 355,
316
+ 356,
317
+ 357,
318
+ 358,
319
+ 359,
320
+ 360,
321
+ 362,
322
+ 363,
323
+ 364,
324
+ 366,
325
+ 367,
326
+ 368,
327
+ 369,
328
+ 370,
329
+ 372,
330
+ 373,
331
+ 374,
332
+ 375,
333
+ 376,
334
+ 378,
335
+ 379,
336
+ 380,
337
+ 382,
338
+ 384,
339
+ 386,
340
+ 387,
341
+ 388,
342
+ 389,
343
+ 390,
344
+ 391,
345
+ 392,
346
+ 393,
347
+ 394,
348
+ 395,
349
+ 396,
350
+ 397,
351
+ 398,
352
+ 399,
353
+ 400,
354
+ 401,
355
+ 402,
356
+ 403,
357
+ 404,
358
+ 405,
359
+ 406,
360
+ 407,
361
+ 408,
362
+ 411,
363
+ 412,
364
+ 413,
365
+ 414,
366
+ 415,
367
+ 416,
368
+ 418,
369
+ 419,
370
+ 421,
371
+ 422,
372
+ 423,
373
+ 425,
374
+ 426,
375
+ 427,
376
+ 429,
377
+ 430,
378
+ 431,
379
+ 432,
380
+ 433,
381
+ 434,
382
+ 435,
383
+ 436,
384
+ 437,
385
+ 438,
386
+ 439,
387
+ 440,
388
+ 442,
389
+ 443,
390
+ 444,
391
+ 445,
392
+ 447,
393
+ 449,
394
+ 450,
395
+ 451,
396
+ 452,
397
+ 453,
398
+ 454,
399
+ 455,
400
+ 456,
401
+ 457,
402
+ 458,
403
+ 459,
404
+ 460,
405
+ 461,
406
+ 462,
407
+ 463,
408
+ 464,
409
+ 465,
410
+ 466,
411
+ 467,
412
+ 468,
413
+ 469,
414
+ 471,
415
+ 472,
416
+ 473,
417
+ 474,
418
+ 475,
419
+ 477,
420
+ 479,
421
+ 480,
422
+ 481,
423
+ 483,
424
+ 485,
425
+ 486,
426
+ 487,
427
+ 488,
428
+ 489,
429
+ 491,
430
+ 492,
431
+ 493,
432
+ 494,
433
+ 495,
434
+ 496,
435
+ 497,
436
+ 498,
437
+ 499,
438
+ 500,
439
+ 501,
440
+ 503,
441
+ 504,
442
+ 505,
443
+ 506,
444
+ 507,
445
+ 509,
446
+ 510,
447
+ 511,
448
+ 512,
449
+ 513,
450
+ 514,
451
+ 515,
452
+ 516,
453
+ 517,
454
+ 518,
455
+ 519,
456
+ 520,
457
+ 522,
458
+ 523,
459
+ 524,
460
+ 525,
461
+ 526,
462
+ 528,
463
+ 529,
464
+ 530,
465
+ 531,
466
+ 532,
467
+ 533,
468
+ 535,
469
+ 536,
470
+ 538,
471
+ 539,
472
+ 540,
473
+ 541,
474
+ 542,
475
+ 543,
476
+ 544,
477
+ 546,
478
+ 547,
479
+ 548,
480
+ 549,
481
+ 550,
482
+ 551,
483
+ 553,
484
+ 554,
485
+ 555,
486
+ 556,
487
+ 557,
488
+ 558,
489
+ 559,
490
+ 560,
491
+ 561,
492
+ 562,
493
+ 563,
494
+ 565,
495
+ 570,
496
+ 571,
497
+ 572,
498
+ 573,
499
+ 574,
500
+ 575,
501
+ 576,
502
+ 577,
503
+ 578,
504
+ 579,
505
+ 581,
506
+ 582,
507
+ 583,
508
+ 584,
509
+ 585,
510
+ 586,
511
+ 587,
512
+ 588,
513
+ 590,
514
+ 594,
515
+ 595,
516
+ 596,
517
+ 597,
518
+ 598,
519
+ 599,
520
+ 600,
521
+ 602,
522
+ 603,
523
+ 605,
524
+ 606,
525
+ 608,
526
+ 609,
527
+ 610,
528
+ 611,
529
+ 612,
530
+ 613,
531
+ 614,
532
+ 615,
533
+ 616,
534
+ 617,
535
+ 618,
536
+ 619,
537
+ 620,
538
+ 621,
539
+ 623,
540
+ 624,
541
+ 625,
542
+ 626,
543
+ 627,
544
+ 628,
545
+ 629,
546
+ 630,
547
+ 631,
548
+ 632,
549
+ 633,
550
+ 634,
551
+ 635,
552
+ 639,
553
+ 640,
554
+ 641,
555
+ 642,
556
+ 643,
557
+ 644,
558
+ 646,
559
+ 648,
560
+ 649,
561
+ 650,
562
+ 651,
563
+ 652,
564
+ 653,
565
+ 654,
566
+ 655,
567
+ 656,
568
+ 657,
569
+ 658,
570
+ 659,
571
+ 660,
572
+ 662,
573
+ 663,
574
+ 664,
575
+ 665,
576
+ 666,
577
+ 667,
578
+ 668,
579
+ 669,
580
+ 670,
581
+ 671,
582
+ 673,
583
+ 674,
584
+ 675,
585
+ 677,
586
+ 678,
587
+ 679,
588
+ 680,
589
+ 682,
590
+ 683,
591
+ 684,
592
+ 685,
593
+ 686,
594
+ 687,
595
+ 688,
596
+ 689,
597
+ 690,
598
+ 692,
599
+ 693,
600
+ 694,
601
+ 696,
602
+ 698,
603
+ 699,
604
+ 700,
605
+ 701,
606
+ 702,
607
+ 703,
608
+ 704,
609
+ 705,
610
+ 707,
611
+ 708,
612
+ 709,
613
+ 711,
614
+ 712,
615
+ 713,
616
+ 714,
617
+ 715,
618
+ 716,
619
+ 717,
620
+ 718,
621
+ 719,
622
+ 720,
623
+ 721,
624
+ 722,
625
+ 723,
626
+ 724,
627
+ 725,
628
+ 726,
629
+ 727,
630
+ 728,
631
+ 729,
632
+ 730,
633
+ 731,
634
+ 732,
635
+ 733,
636
+ 734,
637
+ 735,
638
+ 736,
639
+ 737,
640
+ 738,
641
+ 739,
642
+ 741,
643
+ 742,
644
+ 743,
645
+ 744,
646
+ 746,
647
+ 748,
648
+ 749,
649
+ 750,
650
+ 751,
651
+ 752,
652
+ 753,
653
+ 754,
654
+ 756,
655
+ 757,
656
+ 758,
657
+ 759,
658
+ 760,
659
+ 761,
660
+ 763,
661
+ 764,
662
+ 765,
663
+ 766,
664
+ 767,
665
+ 770,
666
+ 771,
667
+ 772,
668
+ 774,
669
+ 776,
670
+ 777,
671
+ 779,
672
+ 781,
673
+ 782,
674
+ 784,
675
+ 785,
676
+ 786,
677
+ 787,
678
+ 788,
679
+ 790,
680
+ 791,
681
+ 792,
682
+ 793,
683
+ 794,
684
+ 795,
685
+ 796,
686
+ 797,
687
+ 798,
688
+ 799,
689
+ 800,
690
+ 801,
691
+ 802,
692
+ 803,
693
+ 804,
694
+ 806,
695
+ 807,
696
+ 808,
697
+ 809,
698
+ 811,
699
+ 812,
700
+ 813,
701
+ 814,
702
+ 815,
703
+ 816,
704
+ 817,
705
+ 818,
706
+ 819,
707
+ 820,
708
+ 821,
709
+ 822,
710
+ 823,
711
+ 824,
712
+ 825,
713
+ 827,
714
+ 828,
715
+ 830,
716
+ 831,
717
+ 832,
718
+ 833,
719
+ 834,
720
+ 835,
721
+ 837,
722
+ 838,
723
+ 839,
724
+ 840,
725
+ 841,
726
+ 842,
727
+ 843,
728
+ 844,
729
+ 845,
730
+ 846,
731
+ 847,
732
+ 848,
733
+ 849,
734
+ 850,
735
+ 851,
736
+ 852,
737
+ 854,
738
+ 855,
739
+ 856,
740
+ 857,
741
+ 858,
742
+ 859,
743
+ 860,
744
+ 861,
745
+ 862,
746
+ 863,
747
+ 864,
748
+ 865,
749
+ 866,
750
+ 868,
751
+ 869,
752
+ 871,
753
+ 872,
754
+ 873,
755
+ 874,
756
+ 875,
757
+ 876,
758
+ 878,
759
+ 879,
760
+ 881,
761
+ 882,
762
+ 883,
763
+ 885,
764
+ 886,
765
+ 887,
766
+ 888,
767
+ 889,
768
+ 890,
769
+ 891,
770
+ 892,
771
+ 893,
772
+ 894,
773
+ 895,
774
+ 897,
775
+ 898,
776
+ 899,
777
+ 900,
778
+ 901,
779
+ 902,
780
+ 903,
781
+ 904,
782
+ 906,
783
+ 907,
784
+ 908,
785
+ 909,
786
+ 910,
787
+ 911,
788
+ 912,
789
+ 913,
790
+ 914,
791
+ 915,
792
+ 916,
793
+ 917,
794
+ 918,
795
+ 919,
796
+ 920,
797
+ 921,
798
+ 922,
799
+ 923,
800
+ 924,
801
+ 926,
802
+ 929,
803
+ 930,
804
+ 931,
805
+ 932,
806
+ 934,
807
+ 936,
808
+ 937,
809
+ 938,
810
+ 940,
811
+ 941,
812
+ 942,
813
+ 943,
814
+ 944,
815
+ 945,
816
+ 946,
817
+ 947,
818
+ 948,
819
+ 949,
820
+ 950,
821
+ 951,
822
+ 952,
823
+ 953,
824
+ 954,
825
+ 955,
826
+ 956,
827
+ 957,
828
+ 958,
829
+ 959,
830
+ 960,
831
+ 961,
832
+ 962,
833
+ 963,
834
+ 964,
835
+ 965,
836
+ 966,
837
+ 968,
838
+ 969,
839
+ 970,
840
+ 971,
841
+ 972,
842
+ 973,
843
+ 975,
844
+ 976,
845
+ 978,
846
+ 979,
847
+ 981,
848
+ 982,
849
+ 983,
850
+ 984,
851
+ 985,
852
+ 986,
853
+ 987,
854
+ 988,
855
+ 989,
856
+ 990,
857
+ 991,
858
+ 992,
859
+ 993,
860
+ 994,
861
+ 995,
862
+ 996,
863
+ 997,
864
+ 998,
865
+ 999
866
+ ],
867
+ "not_both_correct_indices": [
868
+ 1,
869
+ 11,
870
+ 15,
871
+ 21,
872
+ 22,
873
+ 25,
874
+ 27,
875
+ 36,
876
+ 46,
877
+ 49,
878
+ 50,
879
+ 51,
880
+ 90,
881
+ 91,
882
+ 93,
883
+ 95,
884
+ 101,
885
+ 115,
886
+ 121,
887
+ 122,
888
+ 161,
889
+ 166,
890
+ 167,
891
+ 179,
892
+ 183,
893
+ 185,
894
+ 192,
895
+ 200,
896
+ 205,
897
+ 213,
898
+ 221,
899
+ 222,
900
+ 225,
901
+ 229,
902
+ 242,
903
+ 249,
904
+ 253,
905
+ 262,
906
+ 264,
907
+ 277,
908
+ 279,
909
+ 281,
910
+ 301,
911
+ 303,
912
+ 306,
913
+ 311,
914
+ 315,
915
+ 328,
916
+ 329,
917
+ 337,
918
+ 343,
919
+ 361,
920
+ 365,
921
+ 371,
922
+ 377,
923
+ 381,
924
+ 383,
925
+ 385,
926
+ 409,
927
+ 410,
928
+ 417,
929
+ 420,
930
+ 424,
931
+ 428,
932
+ 441,
933
+ 446,
934
+ 448,
935
+ 470,
936
+ 476,
937
+ 478,
938
+ 482,
939
+ 484,
940
+ 490,
941
+ 502,
942
+ 508,
943
+ 521,
944
+ 527,
945
+ 534,
946
+ 537,
947
+ 545,
948
+ 552,
949
+ 564,
950
+ 566,
951
+ 567,
952
+ 568,
953
+ 569,
954
+ 580,
955
+ 589,
956
+ 591,
957
+ 592,
958
+ 593,
959
+ 601,
960
+ 604,
961
+ 607,
962
+ 622,
963
+ 636,
964
+ 637,
965
+ 638,
966
+ 645,
967
+ 647,
968
+ 661,
969
+ 672,
970
+ 676,
971
+ 681,
972
+ 691,
973
+ 695,
974
+ 697,
975
+ 706,
976
+ 710,
977
+ 740,
978
+ 745,
979
+ 747,
980
+ 755,
981
+ 762,
982
+ 768,
983
+ 769,
984
+ 773,
985
+ 775,
986
+ 778,
987
+ 780,
988
+ 783,
989
+ 789,
990
+ 805,
991
+ 810,
992
+ 826,
993
+ 829,
994
+ 836,
995
+ 853,
996
+ 867,
997
+ 870,
998
+ 877,
999
+ 880,
1000
+ 884,
1001
+ 896,
1002
+ 905,
1003
+ 925,
1004
+ 927,
1005
+ 928,
1006
+ 933,
1007
+ 935,
1008
+ 939,
1009
+ 967,
1010
+ 974,
1011
+ 977,
1012
+ 980
1013
+ ],
1014
+ "clean_baseline": 9.7578125,
1015
+ "corrupted_baseline": -9.953125
1016
+ }
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_loop/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:1216f94d8c3f0149cd0479d1653d1c6359abc41e954a2112311257fba013fe4f
3
+ size 14157430
results/allenai_OLMo-2-0325-32B-Instruct/MD/code_loop/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:0465c45a293f6efc61742e404916810e7423746c7f0f77ec2a5814ced129e271
3
+ size 5955520
results/allenai_OLMo-2-0325-32B-Instruct/MD/logic_syllogism_1/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/allenai_OLMo-2-0325-32B-Instruct/MD/logic_syllogism_1/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.85,
7
+ "corrupted_accuracy": 0.839,
8
+ "both_correct_accuracy": 0.689,
9
+ "n_both_correct": 689,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 5,
15
+ 8,
16
+ 9,
17
+ 12,
18
+ 13,
19
+ 14,
20
+ 16,
21
+ 17,
22
+ 18,
23
+ 19,
24
+ 20,
25
+ 21,
26
+ 22,
27
+ 23,
28
+ 24,
29
+ 25,
30
+ 27,
31
+ 28,
32
+ 29,
33
+ 31,
34
+ 32,
35
+ 33,
36
+ 34,
37
+ 35,
38
+ 36,
39
+ 37,
40
+ 38,
41
+ 39,
42
+ 40,
43
+ 42,
44
+ 43,
45
+ 44,
46
+ 45,
47
+ 46,
48
+ 47,
49
+ 50,
50
+ 53,
51
+ 54,
52
+ 55,
53
+ 56,
54
+ 57,
55
+ 58,
56
+ 61,
57
+ 62,
58
+ 64,
59
+ 65,
60
+ 66,
61
+ 67,
62
+ 68,
63
+ 70,
64
+ 71,
65
+ 75,
66
+ 77,
67
+ 78,
68
+ 81,
69
+ 83,
70
+ 86,
71
+ 87,
72
+ 88,
73
+ 90,
74
+ 91,
75
+ 92,
76
+ 94,
77
+ 96,
78
+ 97,
79
+ 98,
80
+ 101,
81
+ 102,
82
+ 105,
83
+ 107,
84
+ 108,
85
+ 110,
86
+ 111,
87
+ 113,
88
+ 114,
89
+ 116,
90
+ 117,
91
+ 118,
92
+ 120,
93
+ 125,
94
+ 127,
95
+ 130,
96
+ 131,
97
+ 133,
98
+ 134,
99
+ 137,
100
+ 138,
101
+ 139,
102
+ 140,
103
+ 141,
104
+ 143,
105
+ 144,
106
+ 145,
107
+ 146,
108
+ 147,
109
+ 148,
110
+ 149,
111
+ 150,
112
+ 151,
113
+ 152,
114
+ 153,
115
+ 154,
116
+ 155,
117
+ 157,
118
+ 159,
119
+ 163,
120
+ 164,
121
+ 166,
122
+ 168,
123
+ 169,
124
+ 170,
125
+ 171,
126
+ 172,
127
+ 173,
128
+ 174,
129
+ 175,
130
+ 177,
131
+ 178,
132
+ 179,
133
+ 180,
134
+ 181,
135
+ 184,
136
+ 185,
137
+ 187,
138
+ 188,
139
+ 189,
140
+ 191,
141
+ 194,
142
+ 195,
143
+ 196,
144
+ 197,
145
+ 198,
146
+ 199,
147
+ 200,
148
+ 201,
149
+ 202,
150
+ 203,
151
+ 206,
152
+ 207,
153
+ 210,
154
+ 211,
155
+ 212,
156
+ 213,
157
+ 215,
158
+ 217,
159
+ 218,
160
+ 220,
161
+ 223,
162
+ 225,
163
+ 227,
164
+ 228,
165
+ 229,
166
+ 230,
167
+ 233,
168
+ 234,
169
+ 236,
170
+ 237,
171
+ 239,
172
+ 240,
173
+ 241,
174
+ 242,
175
+ 243,
176
+ 245,
177
+ 246,
178
+ 247,
179
+ 248,
180
+ 250,
181
+ 251,
182
+ 252,
183
+ 254,
184
+ 256,
185
+ 258,
186
+ 259,
187
+ 261,
188
+ 263,
189
+ 265,
190
+ 269,
191
+ 272,
192
+ 274,
193
+ 278,
194
+ 280,
195
+ 281,
196
+ 283,
197
+ 285,
198
+ 286,
199
+ 287,
200
+ 289,
201
+ 291,
202
+ 292,
203
+ 293,
204
+ 294,
205
+ 295,
206
+ 298,
207
+ 299,
208
+ 301,
209
+ 302,
210
+ 303,
211
+ 305,
212
+ 306,
213
+ 307,
214
+ 308,
215
+ 310,
216
+ 311,
217
+ 312,
218
+ 313,
219
+ 314,
220
+ 315,
221
+ 317,
222
+ 318,
223
+ 320,
224
+ 321,
225
+ 323,
226
+ 324,
227
+ 327,
228
+ 329,
229
+ 330,
230
+ 332,
231
+ 333,
232
+ 334,
233
+ 335,
234
+ 336,
235
+ 337,
236
+ 341,
237
+ 343,
238
+ 344,
239
+ 345,
240
+ 346,
241
+ 347,
242
+ 348,
243
+ 349,
244
+ 350,
245
+ 351,
246
+ 352,
247
+ 353,
248
+ 354,
249
+ 356,
250
+ 357,
251
+ 358,
252
+ 359,
253
+ 361,
254
+ 362,
255
+ 363,
256
+ 366,
257
+ 367,
258
+ 368,
259
+ 369,
260
+ 370,
261
+ 371,
262
+ 372,
263
+ 373,
264
+ 374,
265
+ 375,
266
+ 376,
267
+ 377,
268
+ 380,
269
+ 381,
270
+ 382,
271
+ 383,
272
+ 384,
273
+ 385,
274
+ 387,
275
+ 388,
276
+ 389,
277
+ 390,
278
+ 391,
279
+ 392,
280
+ 393,
281
+ 396,
282
+ 397,
283
+ 398,
284
+ 400,
285
+ 401,
286
+ 402,
287
+ 404,
288
+ 407,
289
+ 410,
290
+ 411,
291
+ 412,
292
+ 415,
293
+ 417,
294
+ 418,
295
+ 419,
296
+ 423,
297
+ 424,
298
+ 426,
299
+ 428,
300
+ 430,
301
+ 432,
302
+ 433,
303
+ 435,
304
+ 437,
305
+ 439,
306
+ 440,
307
+ 441,
308
+ 442,
309
+ 443,
310
+ 444,
311
+ 446,
312
+ 447,
313
+ 450,
314
+ 452,
315
+ 453,
316
+ 455,
317
+ 457,
318
+ 458,
319
+ 459,
320
+ 460,
321
+ 461,
322
+ 464,
323
+ 465,
324
+ 466,
325
+ 468,
326
+ 470,
327
+ 471,
328
+ 472,
329
+ 473,
330
+ 474,
331
+ 475,
332
+ 477,
333
+ 478,
334
+ 479,
335
+ 480,
336
+ 481,
337
+ 482,
338
+ 483,
339
+ 484,
340
+ 485,
341
+ 486,
342
+ 487,
343
+ 488,
344
+ 489,
345
+ 490,
346
+ 491,
347
+ 492,
348
+ 493,
349
+ 494,
350
+ 496,
351
+ 499,
352
+ 500,
353
+ 502,
354
+ 503,
355
+ 506,
356
+ 507,
357
+ 508,
358
+ 509,
359
+ 510,
360
+ 511,
361
+ 515,
362
+ 516,
363
+ 517,
364
+ 519,
365
+ 520,
366
+ 523,
367
+ 524,
368
+ 527,
369
+ 528,
370
+ 530,
371
+ 531,
372
+ 532,
373
+ 536,
374
+ 537,
375
+ 538,
376
+ 540,
377
+ 544,
378
+ 546,
379
+ 549,
380
+ 550,
381
+ 551,
382
+ 554,
383
+ 556,
384
+ 559,
385
+ 560,
386
+ 561,
387
+ 562,
388
+ 563,
389
+ 565,
390
+ 567,
391
+ 569,
392
+ 570,
393
+ 571,
394
+ 573,
395
+ 574,
396
+ 575,
397
+ 576,
398
+ 577,
399
+ 579,
400
+ 582,
401
+ 584,
402
+ 586,
403
+ 587,
404
+ 589,
405
+ 590,
406
+ 591,
407
+ 593,
408
+ 594,
409
+ 595,
410
+ 596,
411
+ 597,
412
+ 598,
413
+ 599,
414
+ 600,
415
+ 602,
416
+ 603,
417
+ 605,
418
+ 607,
419
+ 608,
420
+ 609,
421
+ 610,
422
+ 612,
423
+ 613,
424
+ 614,
425
+ 615,
426
+ 618,
427
+ 619,
428
+ 620,
429
+ 621,
430
+ 623,
431
+ 624,
432
+ 626,
433
+ 627,
434
+ 628,
435
+ 629,
436
+ 630,
437
+ 631,
438
+ 632,
439
+ 636,
440
+ 639,
441
+ 640,
442
+ 641,
443
+ 643,
444
+ 645,
445
+ 646,
446
+ 647,
447
+ 648,
448
+ 649,
449
+ 651,
450
+ 652,
451
+ 655,
452
+ 656,
453
+ 657,
454
+ 660,
455
+ 661,
456
+ 662,
457
+ 663,
458
+ 664,
459
+ 665,
460
+ 666,
461
+ 667,
462
+ 668,
463
+ 669,
464
+ 670,
465
+ 671,
466
+ 672,
467
+ 674,
468
+ 675,
469
+ 676,
470
+ 677,
471
+ 678,
472
+ 679,
473
+ 680,
474
+ 681,
475
+ 682,
476
+ 683,
477
+ 685,
478
+ 686,
479
+ 688,
480
+ 689,
481
+ 690,
482
+ 691,
483
+ 692,
484
+ 694,
485
+ 699,
486
+ 701,
487
+ 702,
488
+ 703,
489
+ 704,
490
+ 705,
491
+ 707,
492
+ 708,
493
+ 711,
494
+ 712,
495
+ 713,
496
+ 714,
497
+ 715,
498
+ 716,
499
+ 717,
500
+ 721,
501
+ 722,
502
+ 723,
503
+ 726,
504
+ 727,
505
+ 728,
506
+ 729,
507
+ 730,
508
+ 731,
509
+ 733,
510
+ 735,
511
+ 736,
512
+ 739,
513
+ 741,
514
+ 742,
515
+ 743,
516
+ 744,
517
+ 746,
518
+ 747,
519
+ 748,
520
+ 749,
521
+ 750,
522
+ 751,
523
+ 752,
524
+ 753,
525
+ 754,
526
+ 755,
527
+ 756,
528
+ 757,
529
+ 758,
530
+ 759,
531
+ 760,
532
+ 761,
533
+ 762,
534
+ 763,
535
+ 765,
536
+ 767,
537
+ 768,
538
+ 769,
539
+ 771,
540
+ 772,
541
+ 773,
542
+ 774,
543
+ 775,
544
+ 776,
545
+ 778,
546
+ 780,
547
+ 781,
548
+ 782,
549
+ 784,
550
+ 785,
551
+ 786,
552
+ 789,
553
+ 790,
554
+ 791,
555
+ 792,
556
+ 793,
557
+ 794,
558
+ 796,
559
+ 797,
560
+ 798,
561
+ 799,
562
+ 800,
563
+ 801,
564
+ 802,
565
+ 803,
566
+ 804,
567
+ 806,
568
+ 808,
569
+ 809,
570
+ 811,
571
+ 812,
572
+ 813,
573
+ 814,
574
+ 817,
575
+ 820,
576
+ 821,
577
+ 822,
578
+ 823,
579
+ 825,
580
+ 830,
581
+ 831,
582
+ 833,
583
+ 834,
584
+ 835,
585
+ 837,
586
+ 838,
587
+ 839,
588
+ 841,
589
+ 842,
590
+ 843,
591
+ 844,
592
+ 845,
593
+ 846,
594
+ 847,
595
+ 849,
596
+ 852,
597
+ 853,
598
+ 854,
599
+ 856,
600
+ 857,
601
+ 859,
602
+ 860,
603
+ 861,
604
+ 862,
605
+ 865,
606
+ 868,
607
+ 869,
608
+ 870,
609
+ 871,
610
+ 872,
611
+ 873,
612
+ 874,
613
+ 876,
614
+ 878,
615
+ 882,
616
+ 883,
617
+ 885,
618
+ 887,
619
+ 888,
620
+ 889,
621
+ 890,
622
+ 892,
623
+ 894,
624
+ 895,
625
+ 896,
626
+ 897,
627
+ 898,
628
+ 899,
629
+ 900,
630
+ 901,
631
+ 903,
632
+ 904,
633
+ 905,
634
+ 907,
635
+ 908,
636
+ 909,
637
+ 910,
638
+ 914,
639
+ 915,
640
+ 916,
641
+ 917,
642
+ 918,
643
+ 920,
644
+ 921,
645
+ 922,
646
+ 923,
647
+ 924,
648
+ 925,
649
+ 926,
650
+ 928,
651
+ 929,
652
+ 932,
653
+ 934,
654
+ 935,
655
+ 936,
656
+ 937,
657
+ 938,
658
+ 941,
659
+ 942,
660
+ 943,
661
+ 944,
662
+ 945,
663
+ 946,
664
+ 948,
665
+ 949,
666
+ 950,
667
+ 951,
668
+ 952,
669
+ 953,
670
+ 956,
671
+ 957,
672
+ 958,
673
+ 959,
674
+ 960,
675
+ 961,
676
+ 962,
677
+ 963,
678
+ 965,
679
+ 967,
680
+ 968,
681
+ 969,
682
+ 970,
683
+ 972,
684
+ 973,
685
+ 975,
686
+ 976,
687
+ 977,
688
+ 978,
689
+ 980,
690
+ 981,
691
+ 984,
692
+ 985,
693
+ 987,
694
+ 989,
695
+ 990,
696
+ 991,
697
+ 992,
698
+ 994,
699
+ 999
700
+ ],
701
+ "not_both_correct_indices": [
702
+ 3,
703
+ 4,
704
+ 6,
705
+ 7,
706
+ 10,
707
+ 11,
708
+ 15,
709
+ 26,
710
+ 30,
711
+ 41,
712
+ 48,
713
+ 49,
714
+ 51,
715
+ 52,
716
+ 59,
717
+ 60,
718
+ 63,
719
+ 69,
720
+ 72,
721
+ 73,
722
+ 74,
723
+ 76,
724
+ 79,
725
+ 80,
726
+ 82,
727
+ 84,
728
+ 85,
729
+ 89,
730
+ 93,
731
+ 95,
732
+ 99,
733
+ 100,
734
+ 103,
735
+ 104,
736
+ 106,
737
+ 109,
738
+ 112,
739
+ 115,
740
+ 119,
741
+ 121,
742
+ 122,
743
+ 123,
744
+ 124,
745
+ 126,
746
+ 128,
747
+ 129,
748
+ 132,
749
+ 135,
750
+ 136,
751
+ 142,
752
+ 156,
753
+ 158,
754
+ 160,
755
+ 161,
756
+ 162,
757
+ 165,
758
+ 167,
759
+ 176,
760
+ 182,
761
+ 183,
762
+ 186,
763
+ 190,
764
+ 192,
765
+ 193,
766
+ 204,
767
+ 205,
768
+ 208,
769
+ 209,
770
+ 214,
771
+ 216,
772
+ 219,
773
+ 221,
774
+ 222,
775
+ 224,
776
+ 226,
777
+ 231,
778
+ 232,
779
+ 235,
780
+ 238,
781
+ 244,
782
+ 249,
783
+ 253,
784
+ 255,
785
+ 257,
786
+ 260,
787
+ 262,
788
+ 264,
789
+ 266,
790
+ 267,
791
+ 268,
792
+ 270,
793
+ 271,
794
+ 273,
795
+ 275,
796
+ 276,
797
+ 277,
798
+ 279,
799
+ 282,
800
+ 284,
801
+ 288,
802
+ 290,
803
+ 296,
804
+ 297,
805
+ 300,
806
+ 304,
807
+ 309,
808
+ 316,
809
+ 319,
810
+ 322,
811
+ 325,
812
+ 326,
813
+ 328,
814
+ 331,
815
+ 338,
816
+ 339,
817
+ 340,
818
+ 342,
819
+ 355,
820
+ 360,
821
+ 364,
822
+ 365,
823
+ 378,
824
+ 379,
825
+ 386,
826
+ 394,
827
+ 395,
828
+ 399,
829
+ 403,
830
+ 405,
831
+ 406,
832
+ 408,
833
+ 409,
834
+ 413,
835
+ 414,
836
+ 416,
837
+ 420,
838
+ 421,
839
+ 422,
840
+ 425,
841
+ 427,
842
+ 429,
843
+ 431,
844
+ 434,
845
+ 436,
846
+ 438,
847
+ 445,
848
+ 448,
849
+ 449,
850
+ 451,
851
+ 454,
852
+ 456,
853
+ 462,
854
+ 463,
855
+ 467,
856
+ 469,
857
+ 476,
858
+ 495,
859
+ 497,
860
+ 498,
861
+ 501,
862
+ 504,
863
+ 505,
864
+ 512,
865
+ 513,
866
+ 514,
867
+ 518,
868
+ 521,
869
+ 522,
870
+ 525,
871
+ 526,
872
+ 529,
873
+ 533,
874
+ 534,
875
+ 535,
876
+ 539,
877
+ 541,
878
+ 542,
879
+ 543,
880
+ 545,
881
+ 547,
882
+ 548,
883
+ 552,
884
+ 553,
885
+ 555,
886
+ 557,
887
+ 558,
888
+ 564,
889
+ 566,
890
+ 568,
891
+ 572,
892
+ 578,
893
+ 580,
894
+ 581,
895
+ 583,
896
+ 585,
897
+ 588,
898
+ 592,
899
+ 601,
900
+ 604,
901
+ 606,
902
+ 611,
903
+ 616,
904
+ 617,
905
+ 622,
906
+ 625,
907
+ 633,
908
+ 634,
909
+ 635,
910
+ 637,
911
+ 638,
912
+ 642,
913
+ 644,
914
+ 650,
915
+ 653,
916
+ 654,
917
+ 658,
918
+ 659,
919
+ 673,
920
+ 684,
921
+ 687,
922
+ 693,
923
+ 695,
924
+ 696,
925
+ 697,
926
+ 698,
927
+ 700,
928
+ 706,
929
+ 709,
930
+ 710,
931
+ 718,
932
+ 719,
933
+ 720,
934
+ 724,
935
+ 725,
936
+ 732,
937
+ 734,
938
+ 737,
939
+ 738,
940
+ 740,
941
+ 745,
942
+ 764,
943
+ 766,
944
+ 770,
945
+ 777,
946
+ 779,
947
+ 783,
948
+ 787,
949
+ 788,
950
+ 795,
951
+ 805,
952
+ 807,
953
+ 810,
954
+ 815,
955
+ 816,
956
+ 818,
957
+ 819,
958
+ 824,
959
+ 826,
960
+ 827,
961
+ 828,
962
+ 829,
963
+ 832,
964
+ 836,
965
+ 840,
966
+ 848,
967
+ 850,
968
+ 851,
969
+ 855,
970
+ 858,
971
+ 863,
972
+ 864,
973
+ 866,
974
+ 867,
975
+ 875,
976
+ 877,
977
+ 879,
978
+ 880,
979
+ 881,
980
+ 884,
981
+ 886,
982
+ 891,
983
+ 893,
984
+ 902,
985
+ 906,
986
+ 911,
987
+ 912,
988
+ 913,
989
+ 919,
990
+ 927,
991
+ 930,
992
+ 931,
993
+ 933,
994
+ 939,
995
+ 940,
996
+ 947,
997
+ 954,
998
+ 955,
999
+ 964,
1000
+ 966,
1001
+ 971,
1002
+ 974,
1003
+ 979,
1004
+ 982,
1005
+ 983,
1006
+ 986,
1007
+ 988,
1008
+ 993,
1009
+ 995,
1010
+ 996,
1011
+ 997,
1012
+ 998
1013
+ ],
1014
+ "clean_baseline": 3.87890625,
1015
+ "corrupted_baseline": -3.923828125
1016
+ }
results/allenai_OLMo-2-0325-32B-Instruct/MD/logic_syllogism_1/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fa4edd7c233c2f9e7264e6390dc7463533e425ced194d4a63b22b06b4a0fab18
3
+ size 14157430
results/allenai_OLMo-2-0325-32B-Instruct/MD/logic_syllogism_1/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:68077287844b523edb1420f7b17dee8c57552d8231e8a288551951e5e551ff9f
3
+ size 6626056
results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_symbolic/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_symbolic/baselines.json ADDED
@@ -0,0 +1,1017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 21,
4
+ "token_misaligned_indices": [
5
+ 3,
6
+ 14,
7
+ 25,
8
+ 91,
9
+ 105,
10
+ 127,
11
+ 188,
12
+ 213,
13
+ 251,
14
+ 290,
15
+ 313,
16
+ 333,
17
+ 382,
18
+ 506,
19
+ 562,
20
+ 671,
21
+ 738,
22
+ 801,
23
+ 839,
24
+ 928,
25
+ 979
26
+ ],
27
+ "n_after_alignment_filter": 979,
28
+ "clean_accuracy": 0.9959141981613892,
29
+ "corrupted_accuracy": 0.9969356486210419,
30
+ "both_correct_accuracy": 0.992849846782431,
31
+ "n_both_correct": 972,
32
+ "both_correct_indices": [
33
+ 0,
34
+ 1,
35
+ 2,
36
+ 4,
37
+ 5,
38
+ 6,
39
+ 7,
40
+ 8,
41
+ 9,
42
+ 10,
43
+ 11,
44
+ 12,
45
+ 13,
46
+ 15,
47
+ 16,
48
+ 17,
49
+ 18,
50
+ 19,
51
+ 20,
52
+ 21,
53
+ 22,
54
+ 23,
55
+ 24,
56
+ 26,
57
+ 27,
58
+ 28,
59
+ 29,
60
+ 30,
61
+ 31,
62
+ 32,
63
+ 33,
64
+ 34,
65
+ 35,
66
+ 36,
67
+ 37,
68
+ 38,
69
+ 39,
70
+ 40,
71
+ 41,
72
+ 42,
73
+ 43,
74
+ 44,
75
+ 45,
76
+ 46,
77
+ 47,
78
+ 48,
79
+ 49,
80
+ 50,
81
+ 51,
82
+ 52,
83
+ 53,
84
+ 54,
85
+ 55,
86
+ 56,
87
+ 57,
88
+ 58,
89
+ 59,
90
+ 60,
91
+ 61,
92
+ 62,
93
+ 63,
94
+ 64,
95
+ 65,
96
+ 66,
97
+ 67,
98
+ 68,
99
+ 69,
100
+ 70,
101
+ 71,
102
+ 72,
103
+ 73,
104
+ 74,
105
+ 75,
106
+ 76,
107
+ 77,
108
+ 78,
109
+ 79,
110
+ 80,
111
+ 81,
112
+ 82,
113
+ 83,
114
+ 84,
115
+ 85,
116
+ 86,
117
+ 87,
118
+ 88,
119
+ 89,
120
+ 90,
121
+ 92,
122
+ 93,
123
+ 94,
124
+ 95,
125
+ 96,
126
+ 97,
127
+ 98,
128
+ 99,
129
+ 100,
130
+ 101,
131
+ 102,
132
+ 103,
133
+ 104,
134
+ 106,
135
+ 107,
136
+ 108,
137
+ 109,
138
+ 110,
139
+ 111,
140
+ 112,
141
+ 113,
142
+ 114,
143
+ 115,
144
+ 116,
145
+ 117,
146
+ 118,
147
+ 119,
148
+ 120,
149
+ 121,
150
+ 122,
151
+ 123,
152
+ 124,
153
+ 125,
154
+ 126,
155
+ 128,
156
+ 129,
157
+ 130,
158
+ 131,
159
+ 132,
160
+ 133,
161
+ 134,
162
+ 135,
163
+ 136,
164
+ 137,
165
+ 138,
166
+ 139,
167
+ 140,
168
+ 141,
169
+ 142,
170
+ 143,
171
+ 144,
172
+ 145,
173
+ 146,
174
+ 147,
175
+ 148,
176
+ 149,
177
+ 150,
178
+ 151,
179
+ 152,
180
+ 153,
181
+ 154,
182
+ 155,
183
+ 156,
184
+ 157,
185
+ 158,
186
+ 159,
187
+ 160,
188
+ 161,
189
+ 162,
190
+ 163,
191
+ 164,
192
+ 165,
193
+ 166,
194
+ 167,
195
+ 168,
196
+ 169,
197
+ 170,
198
+ 171,
199
+ 172,
200
+ 173,
201
+ 174,
202
+ 175,
203
+ 176,
204
+ 177,
205
+ 178,
206
+ 179,
207
+ 180,
208
+ 181,
209
+ 182,
210
+ 183,
211
+ 184,
212
+ 185,
213
+ 186,
214
+ 187,
215
+ 189,
216
+ 190,
217
+ 191,
218
+ 192,
219
+ 193,
220
+ 194,
221
+ 195,
222
+ 196,
223
+ 197,
224
+ 198,
225
+ 199,
226
+ 200,
227
+ 201,
228
+ 202,
229
+ 203,
230
+ 204,
231
+ 205,
232
+ 206,
233
+ 207,
234
+ 208,
235
+ 209,
236
+ 210,
237
+ 211,
238
+ 212,
239
+ 214,
240
+ 215,
241
+ 216,
242
+ 217,
243
+ 218,
244
+ 219,
245
+ 220,
246
+ 221,
247
+ 222,
248
+ 223,
249
+ 224,
250
+ 225,
251
+ 226,
252
+ 227,
253
+ 228,
254
+ 229,
255
+ 230,
256
+ 231,
257
+ 232,
258
+ 233,
259
+ 234,
260
+ 235,
261
+ 236,
262
+ 237,
263
+ 238,
264
+ 239,
265
+ 240,
266
+ 241,
267
+ 242,
268
+ 243,
269
+ 244,
270
+ 245,
271
+ 246,
272
+ 247,
273
+ 248,
274
+ 249,
275
+ 250,
276
+ 252,
277
+ 253,
278
+ 254,
279
+ 255,
280
+ 256,
281
+ 257,
282
+ 258,
283
+ 259,
284
+ 260,
285
+ 261,
286
+ 262,
287
+ 263,
288
+ 264,
289
+ 265,
290
+ 266,
291
+ 268,
292
+ 269,
293
+ 270,
294
+ 271,
295
+ 272,
296
+ 273,
297
+ 274,
298
+ 275,
299
+ 276,
300
+ 277,
301
+ 278,
302
+ 279,
303
+ 280,
304
+ 281,
305
+ 282,
306
+ 283,
307
+ 284,
308
+ 285,
309
+ 286,
310
+ 287,
311
+ 288,
312
+ 289,
313
+ 291,
314
+ 292,
315
+ 293,
316
+ 294,
317
+ 295,
318
+ 296,
319
+ 297,
320
+ 298,
321
+ 299,
322
+ 300,
323
+ 301,
324
+ 302,
325
+ 303,
326
+ 304,
327
+ 305,
328
+ 306,
329
+ 307,
330
+ 308,
331
+ 309,
332
+ 310,
333
+ 311,
334
+ 312,
335
+ 314,
336
+ 315,
337
+ 316,
338
+ 317,
339
+ 318,
340
+ 319,
341
+ 320,
342
+ 321,
343
+ 322,
344
+ 323,
345
+ 324,
346
+ 325,
347
+ 326,
348
+ 327,
349
+ 328,
350
+ 329,
351
+ 330,
352
+ 331,
353
+ 332,
354
+ 334,
355
+ 335,
356
+ 336,
357
+ 337,
358
+ 338,
359
+ 339,
360
+ 340,
361
+ 341,
362
+ 342,
363
+ 343,
364
+ 344,
365
+ 345,
366
+ 346,
367
+ 347,
368
+ 348,
369
+ 349,
370
+ 350,
371
+ 351,
372
+ 352,
373
+ 353,
374
+ 354,
375
+ 355,
376
+ 356,
377
+ 357,
378
+ 358,
379
+ 359,
380
+ 360,
381
+ 361,
382
+ 362,
383
+ 363,
384
+ 364,
385
+ 365,
386
+ 366,
387
+ 367,
388
+ 368,
389
+ 369,
390
+ 370,
391
+ 371,
392
+ 372,
393
+ 373,
394
+ 374,
395
+ 375,
396
+ 376,
397
+ 377,
398
+ 378,
399
+ 379,
400
+ 380,
401
+ 381,
402
+ 383,
403
+ 384,
404
+ 385,
405
+ 386,
406
+ 387,
407
+ 388,
408
+ 389,
409
+ 390,
410
+ 391,
411
+ 392,
412
+ 393,
413
+ 394,
414
+ 395,
415
+ 396,
416
+ 397,
417
+ 398,
418
+ 399,
419
+ 400,
420
+ 401,
421
+ 402,
422
+ 403,
423
+ 404,
424
+ 405,
425
+ 406,
426
+ 407,
427
+ 408,
428
+ 409,
429
+ 410,
430
+ 411,
431
+ 412,
432
+ 413,
433
+ 414,
434
+ 415,
435
+ 416,
436
+ 417,
437
+ 418,
438
+ 419,
439
+ 420,
440
+ 421,
441
+ 422,
442
+ 423,
443
+ 424,
444
+ 425,
445
+ 426,
446
+ 427,
447
+ 428,
448
+ 429,
449
+ 430,
450
+ 431,
451
+ 432,
452
+ 433,
453
+ 434,
454
+ 435,
455
+ 436,
456
+ 437,
457
+ 438,
458
+ 439,
459
+ 440,
460
+ 441,
461
+ 443,
462
+ 444,
463
+ 445,
464
+ 446,
465
+ 447,
466
+ 448,
467
+ 449,
468
+ 450,
469
+ 451,
470
+ 452,
471
+ 453,
472
+ 454,
473
+ 455,
474
+ 456,
475
+ 457,
476
+ 458,
477
+ 459,
478
+ 460,
479
+ 461,
480
+ 462,
481
+ 463,
482
+ 464,
483
+ 465,
484
+ 466,
485
+ 467,
486
+ 468,
487
+ 469,
488
+ 470,
489
+ 471,
490
+ 473,
491
+ 474,
492
+ 475,
493
+ 476,
494
+ 477,
495
+ 478,
496
+ 479,
497
+ 480,
498
+ 481,
499
+ 482,
500
+ 483,
501
+ 484,
502
+ 485,
503
+ 486,
504
+ 487,
505
+ 488,
506
+ 489,
507
+ 490,
508
+ 491,
509
+ 492,
510
+ 493,
511
+ 494,
512
+ 495,
513
+ 496,
514
+ 498,
515
+ 499,
516
+ 500,
517
+ 501,
518
+ 502,
519
+ 503,
520
+ 504,
521
+ 505,
522
+ 507,
523
+ 508,
524
+ 509,
525
+ 510,
526
+ 511,
527
+ 512,
528
+ 513,
529
+ 514,
530
+ 515,
531
+ 516,
532
+ 517,
533
+ 518,
534
+ 519,
535
+ 520,
536
+ 521,
537
+ 522,
538
+ 523,
539
+ 524,
540
+ 525,
541
+ 526,
542
+ 527,
543
+ 528,
544
+ 529,
545
+ 530,
546
+ 531,
547
+ 532,
548
+ 533,
549
+ 534,
550
+ 535,
551
+ 536,
552
+ 537,
553
+ 538,
554
+ 539,
555
+ 540,
556
+ 541,
557
+ 542,
558
+ 543,
559
+ 544,
560
+ 545,
561
+ 546,
562
+ 547,
563
+ 548,
564
+ 549,
565
+ 550,
566
+ 551,
567
+ 552,
568
+ 553,
569
+ 554,
570
+ 555,
571
+ 556,
572
+ 557,
573
+ 558,
574
+ 559,
575
+ 560,
576
+ 561,
577
+ 563,
578
+ 564,
579
+ 565,
580
+ 566,
581
+ 567,
582
+ 568,
583
+ 569,
584
+ 570,
585
+ 571,
586
+ 572,
587
+ 573,
588
+ 574,
589
+ 575,
590
+ 576,
591
+ 577,
592
+ 578,
593
+ 579,
594
+ 580,
595
+ 581,
596
+ 582,
597
+ 583,
598
+ 584,
599
+ 585,
600
+ 586,
601
+ 587,
602
+ 588,
603
+ 589,
604
+ 590,
605
+ 591,
606
+ 592,
607
+ 593,
608
+ 594,
609
+ 595,
610
+ 596,
611
+ 597,
612
+ 598,
613
+ 599,
614
+ 600,
615
+ 601,
616
+ 602,
617
+ 603,
618
+ 604,
619
+ 605,
620
+ 606,
621
+ 607,
622
+ 608,
623
+ 609,
624
+ 610,
625
+ 611,
626
+ 612,
627
+ 613,
628
+ 614,
629
+ 615,
630
+ 616,
631
+ 617,
632
+ 618,
633
+ 619,
634
+ 620,
635
+ 621,
636
+ 622,
637
+ 623,
638
+ 624,
639
+ 625,
640
+ 626,
641
+ 627,
642
+ 628,
643
+ 629,
644
+ 630,
645
+ 631,
646
+ 632,
647
+ 634,
648
+ 635,
649
+ 636,
650
+ 637,
651
+ 638,
652
+ 639,
653
+ 640,
654
+ 641,
655
+ 642,
656
+ 643,
657
+ 644,
658
+ 645,
659
+ 646,
660
+ 647,
661
+ 648,
662
+ 649,
663
+ 650,
664
+ 651,
665
+ 652,
666
+ 653,
667
+ 654,
668
+ 655,
669
+ 656,
670
+ 657,
671
+ 658,
672
+ 659,
673
+ 660,
674
+ 661,
675
+ 662,
676
+ 663,
677
+ 664,
678
+ 665,
679
+ 666,
680
+ 667,
681
+ 668,
682
+ 669,
683
+ 670,
684
+ 672,
685
+ 673,
686
+ 674,
687
+ 675,
688
+ 676,
689
+ 677,
690
+ 678,
691
+ 679,
692
+ 680,
693
+ 681,
694
+ 682,
695
+ 683,
696
+ 684,
697
+ 685,
698
+ 686,
699
+ 687,
700
+ 688,
701
+ 689,
702
+ 690,
703
+ 691,
704
+ 692,
705
+ 693,
706
+ 694,
707
+ 695,
708
+ 696,
709
+ 697,
710
+ 698,
711
+ 699,
712
+ 700,
713
+ 701,
714
+ 702,
715
+ 703,
716
+ 704,
717
+ 705,
718
+ 706,
719
+ 707,
720
+ 708,
721
+ 709,
722
+ 710,
723
+ 711,
724
+ 712,
725
+ 713,
726
+ 714,
727
+ 715,
728
+ 716,
729
+ 717,
730
+ 718,
731
+ 719,
732
+ 720,
733
+ 721,
734
+ 722,
735
+ 723,
736
+ 724,
737
+ 725,
738
+ 726,
739
+ 727,
740
+ 728,
741
+ 729,
742
+ 730,
743
+ 731,
744
+ 732,
745
+ 733,
746
+ 734,
747
+ 735,
748
+ 736,
749
+ 737,
750
+ 739,
751
+ 740,
752
+ 741,
753
+ 742,
754
+ 743,
755
+ 744,
756
+ 745,
757
+ 746,
758
+ 747,
759
+ 748,
760
+ 749,
761
+ 750,
762
+ 751,
763
+ 752,
764
+ 753,
765
+ 754,
766
+ 755,
767
+ 756,
768
+ 757,
769
+ 758,
770
+ 759,
771
+ 760,
772
+ 761,
773
+ 762,
774
+ 763,
775
+ 764,
776
+ 765,
777
+ 766,
778
+ 767,
779
+ 768,
780
+ 769,
781
+ 770,
782
+ 771,
783
+ 772,
784
+ 773,
785
+ 774,
786
+ 775,
787
+ 776,
788
+ 777,
789
+ 778,
790
+ 779,
791
+ 780,
792
+ 781,
793
+ 782,
794
+ 783,
795
+ 784,
796
+ 785,
797
+ 786,
798
+ 787,
799
+ 788,
800
+ 789,
801
+ 790,
802
+ 791,
803
+ 792,
804
+ 793,
805
+ 794,
806
+ 795,
807
+ 796,
808
+ 797,
809
+ 798,
810
+ 799,
811
+ 800,
812
+ 802,
813
+ 803,
814
+ 804,
815
+ 805,
816
+ 806,
817
+ 807,
818
+ 808,
819
+ 809,
820
+ 810,
821
+ 811,
822
+ 812,
823
+ 813,
824
+ 814,
825
+ 815,
826
+ 816,
827
+ 817,
828
+ 818,
829
+ 819,
830
+ 820,
831
+ 821,
832
+ 822,
833
+ 823,
834
+ 824,
835
+ 825,
836
+ 826,
837
+ 827,
838
+ 828,
839
+ 829,
840
+ 830,
841
+ 831,
842
+ 832,
843
+ 833,
844
+ 834,
845
+ 835,
846
+ 836,
847
+ 837,
848
+ 838,
849
+ 840,
850
+ 841,
851
+ 842,
852
+ 843,
853
+ 844,
854
+ 845,
855
+ 846,
856
+ 847,
857
+ 848,
858
+ 849,
859
+ 850,
860
+ 851,
861
+ 852,
862
+ 853,
863
+ 854,
864
+ 855,
865
+ 856,
866
+ 857,
867
+ 858,
868
+ 859,
869
+ 860,
870
+ 861,
871
+ 862,
872
+ 863,
873
+ 864,
874
+ 865,
875
+ 866,
876
+ 867,
877
+ 868,
878
+ 869,
879
+ 870,
880
+ 871,
881
+ 872,
882
+ 873,
883
+ 874,
884
+ 875,
885
+ 876,
886
+ 877,
887
+ 878,
888
+ 879,
889
+ 880,
890
+ 881,
891
+ 882,
892
+ 883,
893
+ 884,
894
+ 885,
895
+ 886,
896
+ 887,
897
+ 888,
898
+ 889,
899
+ 890,
900
+ 891,
901
+ 892,
902
+ 893,
903
+ 894,
904
+ 895,
905
+ 896,
906
+ 897,
907
+ 898,
908
+ 899,
909
+ 900,
910
+ 901,
911
+ 902,
912
+ 903,
913
+ 904,
914
+ 905,
915
+ 906,
916
+ 907,
917
+ 908,
918
+ 909,
919
+ 910,
920
+ 911,
921
+ 912,
922
+ 913,
923
+ 914,
924
+ 915,
925
+ 916,
926
+ 917,
927
+ 918,
928
+ 919,
929
+ 920,
930
+ 921,
931
+ 922,
932
+ 923,
933
+ 924,
934
+ 925,
935
+ 926,
936
+ 927,
937
+ 929,
938
+ 930,
939
+ 931,
940
+ 932,
941
+ 933,
942
+ 934,
943
+ 936,
944
+ 937,
945
+ 938,
946
+ 939,
947
+ 940,
948
+ 941,
949
+ 942,
950
+ 943,
951
+ 944,
952
+ 945,
953
+ 946,
954
+ 947,
955
+ 948,
956
+ 949,
957
+ 950,
958
+ 951,
959
+ 952,
960
+ 953,
961
+ 954,
962
+ 955,
963
+ 956,
964
+ 957,
965
+ 958,
966
+ 959,
967
+ 960,
968
+ 961,
969
+ 962,
970
+ 963,
971
+ 965,
972
+ 966,
973
+ 967,
974
+ 968,
975
+ 969,
976
+ 970,
977
+ 971,
978
+ 972,
979
+ 973,
980
+ 974,
981
+ 975,
982
+ 976,
983
+ 977,
984
+ 978,
985
+ 980,
986
+ 981,
987
+ 982,
988
+ 983,
989
+ 984,
990
+ 985,
991
+ 986,
992
+ 987,
993
+ 988,
994
+ 989,
995
+ 990,
996
+ 991,
997
+ 992,
998
+ 993,
999
+ 994,
1000
+ 995,
1001
+ 996,
1002
+ 997,
1003
+ 998,
1004
+ 999
1005
+ ],
1006
+ "not_both_correct_indices": [
1007
+ 267,
1008
+ 442,
1009
+ 472,
1010
+ 497,
1011
+ 633,
1012
+ 935,
1013
+ 964
1014
+ ],
1015
+ "clean_baseline": 17.828125,
1016
+ "corrupted_baseline": -17.8125
1017
+ }
results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_symbolic/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:68ee20c8b55fc439643dd400fd9c8fe978a22f5d37dac2e8ff44908d60c7717b
3
+ size 14157430
results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_symbolic/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:af35956a8b8bc8d3545f908e13027d2cadf0db9d70a802a2345e9ab8f8c50fcd
3
+ size 6635928
results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_verbal/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_verbal/baselines.json ADDED
@@ -0,0 +1,1017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 160,
4
+ "token_misaligned_indices": [
5
+ 12,
6
+ 15,
7
+ 21,
8
+ 23,
9
+ 26,
10
+ 28,
11
+ 37,
12
+ 45,
13
+ 51,
14
+ 53,
15
+ 70,
16
+ 79,
17
+ 88,
18
+ 95,
19
+ 100,
20
+ 118,
21
+ 126,
22
+ 128,
23
+ 131,
24
+ 132,
25
+ 140,
26
+ 146,
27
+ 151,
28
+ 152,
29
+ 153,
30
+ 158,
31
+ 164,
32
+ 167,
33
+ 170,
34
+ 174,
35
+ 176,
36
+ 180,
37
+ 181,
38
+ 202,
39
+ 203,
40
+ 209,
41
+ 215,
42
+ 216,
43
+ 224,
44
+ 225,
45
+ 228,
46
+ 231,
47
+ 234,
48
+ 243,
49
+ 263,
50
+ 276,
51
+ 283,
52
+ 306,
53
+ 309,
54
+ 329,
55
+ 331,
56
+ 333,
57
+ 340,
58
+ 347,
59
+ 356,
60
+ 357,
61
+ 358,
62
+ 359,
63
+ 360,
64
+ 366,
65
+ 370,
66
+ 388,
67
+ 397,
68
+ 403,
69
+ 407,
70
+ 417,
71
+ 421,
72
+ 422,
73
+ 429,
74
+ 437,
75
+ 440,
76
+ 441,
77
+ 444,
78
+ 450,
79
+ 456,
80
+ 471,
81
+ 475,
82
+ 478,
83
+ 492,
84
+ 507,
85
+ 513,
86
+ 515,
87
+ 523,
88
+ 528,
89
+ 540,
90
+ 544,
91
+ 551,
92
+ 560,
93
+ 566,
94
+ 589,
95
+ 591,
96
+ 593,
97
+ 604,
98
+ 606,
99
+ 609,
100
+ 610,
101
+ 617,
102
+ 619,
103
+ 620,
104
+ 623,
105
+ 630,
106
+ 635,
107
+ 640,
108
+ 641,
109
+ 661,
110
+ 662,
111
+ 665,
112
+ 675,
113
+ 683,
114
+ 684,
115
+ 700,
116
+ 710,
117
+ 715,
118
+ 730,
119
+ 732,
120
+ 735,
121
+ 744,
122
+ 751,
123
+ 754,
124
+ 784,
125
+ 785,
126
+ 800,
127
+ 802,
128
+ 820,
129
+ 823,
130
+ 826,
131
+ 840,
132
+ 848,
133
+ 851,
134
+ 853,
135
+ 855,
136
+ 861,
137
+ 866,
138
+ 868,
139
+ 869,
140
+ 873,
141
+ 882,
142
+ 885,
143
+ 890,
144
+ 891,
145
+ 893,
146
+ 897,
147
+ 898,
148
+ 912,
149
+ 914,
150
+ 920,
151
+ 921,
152
+ 926,
153
+ 928,
154
+ 937,
155
+ 944,
156
+ 945,
157
+ 966,
158
+ 972,
159
+ 975,
160
+ 988,
161
+ 992,
162
+ 993,
163
+ 995,
164
+ 998
165
+ ],
166
+ "n_after_alignment_filter": 840,
167
+ "clean_accuracy": 0.8166666666666667,
168
+ "corrupted_accuracy": 0.8214285714285714,
169
+ "both_correct_accuracy": 0.6511904761904762,
170
+ "n_both_correct": 547,
171
+ "both_correct_indices": [
172
+ 0,
173
+ 1,
174
+ 2,
175
+ 4,
176
+ 5,
177
+ 6,
178
+ 7,
179
+ 8,
180
+ 11,
181
+ 14,
182
+ 17,
183
+ 20,
184
+ 22,
185
+ 24,
186
+ 25,
187
+ 30,
188
+ 32,
189
+ 33,
190
+ 35,
191
+ 40,
192
+ 41,
193
+ 42,
194
+ 44,
195
+ 46,
196
+ 49,
197
+ 50,
198
+ 54,
199
+ 56,
200
+ 57,
201
+ 58,
202
+ 60,
203
+ 63,
204
+ 64,
205
+ 66,
206
+ 67,
207
+ 68,
208
+ 69,
209
+ 73,
210
+ 74,
211
+ 76,
212
+ 81,
213
+ 82,
214
+ 83,
215
+ 84,
216
+ 85,
217
+ 86,
218
+ 91,
219
+ 92,
220
+ 93,
221
+ 94,
222
+ 96,
223
+ 97,
224
+ 101,
225
+ 103,
226
+ 105,
227
+ 106,
228
+ 107,
229
+ 111,
230
+ 112,
231
+ 113,
232
+ 114,
233
+ 115,
234
+ 117,
235
+ 119,
236
+ 120,
237
+ 121,
238
+ 122,
239
+ 124,
240
+ 125,
241
+ 129,
242
+ 130,
243
+ 134,
244
+ 135,
245
+ 137,
246
+ 138,
247
+ 144,
248
+ 145,
249
+ 147,
250
+ 150,
251
+ 155,
252
+ 156,
253
+ 157,
254
+ 159,
255
+ 161,
256
+ 162,
257
+ 163,
258
+ 166,
259
+ 168,
260
+ 169,
261
+ 171,
262
+ 172,
263
+ 173,
264
+ 177,
265
+ 178,
266
+ 179,
267
+ 182,
268
+ 184,
269
+ 186,
270
+ 188,
271
+ 190,
272
+ 191,
273
+ 192,
274
+ 193,
275
+ 196,
276
+ 197,
277
+ 201,
278
+ 205,
279
+ 206,
280
+ 207,
281
+ 208,
282
+ 211,
283
+ 213,
284
+ 220,
285
+ 221,
286
+ 222,
287
+ 223,
288
+ 226,
289
+ 230,
290
+ 232,
291
+ 237,
292
+ 238,
293
+ 239,
294
+ 242,
295
+ 244,
296
+ 245,
297
+ 247,
298
+ 249,
299
+ 250,
300
+ 254,
301
+ 258,
302
+ 259,
303
+ 260,
304
+ 261,
305
+ 262,
306
+ 266,
307
+ 269,
308
+ 270,
309
+ 274,
310
+ 275,
311
+ 277,
312
+ 278,
313
+ 279,
314
+ 280,
315
+ 282,
316
+ 285,
317
+ 286,
318
+ 288,
319
+ 289,
320
+ 290,
321
+ 291,
322
+ 294,
323
+ 295,
324
+ 296,
325
+ 297,
326
+ 299,
327
+ 300,
328
+ 301,
329
+ 302,
330
+ 304,
331
+ 305,
332
+ 307,
333
+ 308,
334
+ 311,
335
+ 312,
336
+ 313,
337
+ 318,
338
+ 319,
339
+ 320,
340
+ 322,
341
+ 323,
342
+ 324,
343
+ 326,
344
+ 327,
345
+ 330,
346
+ 332,
347
+ 334,
348
+ 335,
349
+ 336,
350
+ 337,
351
+ 341,
352
+ 342,
353
+ 344,
354
+ 345,
355
+ 348,
356
+ 349,
357
+ 350,
358
+ 351,
359
+ 353,
360
+ 354,
361
+ 355,
362
+ 361,
363
+ 362,
364
+ 363,
365
+ 364,
366
+ 365,
367
+ 368,
368
+ 369,
369
+ 372,
370
+ 373,
371
+ 375,
372
+ 377,
373
+ 378,
374
+ 379,
375
+ 382,
376
+ 384,
377
+ 385,
378
+ 386,
379
+ 387,
380
+ 389,
381
+ 390,
382
+ 391,
383
+ 393,
384
+ 394,
385
+ 395,
386
+ 396,
387
+ 398,
388
+ 399,
389
+ 400,
390
+ 401,
391
+ 404,
392
+ 405,
393
+ 406,
394
+ 408,
395
+ 411,
396
+ 413,
397
+ 415,
398
+ 416,
399
+ 418,
400
+ 419,
401
+ 420,
402
+ 424,
403
+ 431,
404
+ 432,
405
+ 439,
406
+ 442,
407
+ 446,
408
+ 447,
409
+ 451,
410
+ 452,
411
+ 457,
412
+ 458,
413
+ 460,
414
+ 461,
415
+ 462,
416
+ 463,
417
+ 465,
418
+ 466,
419
+ 467,
420
+ 468,
421
+ 469,
422
+ 472,
423
+ 474,
424
+ 476,
425
+ 477,
426
+ 479,
427
+ 480,
428
+ 481,
429
+ 482,
430
+ 483,
431
+ 484,
432
+ 486,
433
+ 487,
434
+ 488,
435
+ 489,
436
+ 490,
437
+ 491,
438
+ 493,
439
+ 496,
440
+ 498,
441
+ 499,
442
+ 500,
443
+ 501,
444
+ 503,
445
+ 504,
446
+ 505,
447
+ 510,
448
+ 516,
449
+ 517,
450
+ 518,
451
+ 521,
452
+ 522,
453
+ 524,
454
+ 525,
455
+ 526,
456
+ 527,
457
+ 530,
458
+ 531,
459
+ 532,
460
+ 534,
461
+ 536,
462
+ 537,
463
+ 538,
464
+ 542,
465
+ 543,
466
+ 545,
467
+ 546,
468
+ 547,
469
+ 548,
470
+ 549,
471
+ 552,
472
+ 553,
473
+ 554,
474
+ 556,
475
+ 557,
476
+ 558,
477
+ 559,
478
+ 561,
479
+ 564,
480
+ 565,
481
+ 567,
482
+ 569,
483
+ 570,
484
+ 571,
485
+ 573,
486
+ 574,
487
+ 575,
488
+ 576,
489
+ 580,
490
+ 582,
491
+ 583,
492
+ 585,
493
+ 586,
494
+ 587,
495
+ 590,
496
+ 594,
497
+ 597,
498
+ 598,
499
+ 599,
500
+ 600,
501
+ 603,
502
+ 605,
503
+ 607,
504
+ 608,
505
+ 611,
506
+ 614,
507
+ 616,
508
+ 621,
509
+ 622,
510
+ 627,
511
+ 628,
512
+ 629,
513
+ 631,
514
+ 632,
515
+ 634,
516
+ 636,
517
+ 638,
518
+ 639,
519
+ 643,
520
+ 645,
521
+ 650,
522
+ 651,
523
+ 652,
524
+ 653,
525
+ 654,
526
+ 656,
527
+ 658,
528
+ 659,
529
+ 660,
530
+ 663,
531
+ 666,
532
+ 667,
533
+ 669,
534
+ 670,
535
+ 671,
536
+ 673,
537
+ 674,
538
+ 677,
539
+ 678,
540
+ 679,
541
+ 680,
542
+ 682,
543
+ 687,
544
+ 688,
545
+ 689,
546
+ 690,
547
+ 691,
548
+ 692,
549
+ 694,
550
+ 695,
551
+ 696,
552
+ 697,
553
+ 698,
554
+ 704,
555
+ 706,
556
+ 707,
557
+ 708,
558
+ 709,
559
+ 711,
560
+ 713,
561
+ 714,
562
+ 716,
563
+ 717,
564
+ 719,
565
+ 722,
566
+ 723,
567
+ 724,
568
+ 725,
569
+ 726,
570
+ 727,
571
+ 733,
572
+ 736,
573
+ 737,
574
+ 738,
575
+ 739,
576
+ 740,
577
+ 741,
578
+ 742,
579
+ 746,
580
+ 748,
581
+ 750,
582
+ 753,
583
+ 757,
584
+ 759,
585
+ 760,
586
+ 762,
587
+ 763,
588
+ 764,
589
+ 765,
590
+ 769,
591
+ 770,
592
+ 772,
593
+ 775,
594
+ 777,
595
+ 778,
596
+ 780,
597
+ 781,
598
+ 782,
599
+ 783,
600
+ 786,
601
+ 788,
602
+ 789,
603
+ 790,
604
+ 791,
605
+ 792,
606
+ 793,
607
+ 796,
608
+ 797,
609
+ 798,
610
+ 799,
611
+ 804,
612
+ 805,
613
+ 806,
614
+ 807,
615
+ 808,
616
+ 809,
617
+ 810,
618
+ 812,
619
+ 814,
620
+ 816,
621
+ 818,
622
+ 819,
623
+ 825,
624
+ 827,
625
+ 828,
626
+ 829,
627
+ 830,
628
+ 832,
629
+ 833,
630
+ 834,
631
+ 835,
632
+ 836,
633
+ 837,
634
+ 841,
635
+ 842,
636
+ 843,
637
+ 844,
638
+ 845,
639
+ 846,
640
+ 849,
641
+ 854,
642
+ 856,
643
+ 858,
644
+ 859,
645
+ 860,
646
+ 863,
647
+ 865,
648
+ 867,
649
+ 874,
650
+ 875,
651
+ 876,
652
+ 877,
653
+ 878,
654
+ 880,
655
+ 881,
656
+ 886,
657
+ 887,
658
+ 888,
659
+ 895,
660
+ 896,
661
+ 899,
662
+ 901,
663
+ 902,
664
+ 903,
665
+ 904,
666
+ 905,
667
+ 906,
668
+ 907,
669
+ 908,
670
+ 911,
671
+ 913,
672
+ 915,
673
+ 917,
674
+ 918,
675
+ 919,
676
+ 924,
677
+ 925,
678
+ 927,
679
+ 929,
680
+ 931,
681
+ 932,
682
+ 933,
683
+ 934,
684
+ 935,
685
+ 936,
686
+ 938,
687
+ 941,
688
+ 942,
689
+ 943,
690
+ 946,
691
+ 949,
692
+ 951,
693
+ 952,
694
+ 954,
695
+ 957,
696
+ 958,
697
+ 959,
698
+ 960,
699
+ 962,
700
+ 967,
701
+ 968,
702
+ 969,
703
+ 970,
704
+ 971,
705
+ 977,
706
+ 978,
707
+ 979,
708
+ 981,
709
+ 983,
710
+ 985,
711
+ 986,
712
+ 987,
713
+ 989,
714
+ 990,
715
+ 991,
716
+ 996,
717
+ 997,
718
+ 999
719
+ ],
720
+ "not_both_correct_indices": [
721
+ 3,
722
+ 9,
723
+ 10,
724
+ 13,
725
+ 16,
726
+ 18,
727
+ 19,
728
+ 27,
729
+ 29,
730
+ 31,
731
+ 34,
732
+ 36,
733
+ 38,
734
+ 39,
735
+ 43,
736
+ 47,
737
+ 48,
738
+ 52,
739
+ 55,
740
+ 59,
741
+ 61,
742
+ 62,
743
+ 65,
744
+ 71,
745
+ 72,
746
+ 75,
747
+ 77,
748
+ 78,
749
+ 80,
750
+ 87,
751
+ 89,
752
+ 90,
753
+ 98,
754
+ 99,
755
+ 102,
756
+ 104,
757
+ 108,
758
+ 109,
759
+ 110,
760
+ 116,
761
+ 123,
762
+ 127,
763
+ 133,
764
+ 136,
765
+ 139,
766
+ 141,
767
+ 142,
768
+ 143,
769
+ 148,
770
+ 149,
771
+ 154,
772
+ 160,
773
+ 165,
774
+ 175,
775
+ 183,
776
+ 185,
777
+ 187,
778
+ 189,
779
+ 194,
780
+ 195,
781
+ 198,
782
+ 199,
783
+ 200,
784
+ 204,
785
+ 210,
786
+ 212,
787
+ 214,
788
+ 217,
789
+ 218,
790
+ 219,
791
+ 227,
792
+ 229,
793
+ 233,
794
+ 235,
795
+ 236,
796
+ 240,
797
+ 241,
798
+ 246,
799
+ 248,
800
+ 251,
801
+ 252,
802
+ 253,
803
+ 255,
804
+ 256,
805
+ 257,
806
+ 264,
807
+ 265,
808
+ 267,
809
+ 268,
810
+ 271,
811
+ 272,
812
+ 273,
813
+ 281,
814
+ 284,
815
+ 287,
816
+ 292,
817
+ 293,
818
+ 298,
819
+ 303,
820
+ 310,
821
+ 314,
822
+ 315,
823
+ 316,
824
+ 317,
825
+ 321,
826
+ 325,
827
+ 328,
828
+ 338,
829
+ 339,
830
+ 343,
831
+ 346,
832
+ 352,
833
+ 367,
834
+ 371,
835
+ 374,
836
+ 376,
837
+ 380,
838
+ 381,
839
+ 383,
840
+ 392,
841
+ 402,
842
+ 409,
843
+ 410,
844
+ 412,
845
+ 414,
846
+ 423,
847
+ 425,
848
+ 426,
849
+ 427,
850
+ 428,
851
+ 430,
852
+ 433,
853
+ 434,
854
+ 435,
855
+ 436,
856
+ 438,
857
+ 443,
858
+ 445,
859
+ 448,
860
+ 449,
861
+ 453,
862
+ 454,
863
+ 455,
864
+ 459,
865
+ 464,
866
+ 470,
867
+ 473,
868
+ 485,
869
+ 494,
870
+ 495,
871
+ 497,
872
+ 502,
873
+ 506,
874
+ 508,
875
+ 509,
876
+ 511,
877
+ 512,
878
+ 514,
879
+ 519,
880
+ 520,
881
+ 529,
882
+ 533,
883
+ 535,
884
+ 539,
885
+ 541,
886
+ 550,
887
+ 555,
888
+ 562,
889
+ 563,
890
+ 568,
891
+ 572,
892
+ 577,
893
+ 578,
894
+ 579,
895
+ 581,
896
+ 584,
897
+ 588,
898
+ 592,
899
+ 595,
900
+ 596,
901
+ 601,
902
+ 602,
903
+ 612,
904
+ 613,
905
+ 615,
906
+ 618,
907
+ 624,
908
+ 625,
909
+ 626,
910
+ 633,
911
+ 637,
912
+ 642,
913
+ 644,
914
+ 646,
915
+ 647,
916
+ 648,
917
+ 649,
918
+ 655,
919
+ 657,
920
+ 664,
921
+ 668,
922
+ 672,
923
+ 676,
924
+ 681,
925
+ 685,
926
+ 686,
927
+ 693,
928
+ 699,
929
+ 701,
930
+ 702,
931
+ 703,
932
+ 705,
933
+ 712,
934
+ 718,
935
+ 720,
936
+ 721,
937
+ 728,
938
+ 729,
939
+ 731,
940
+ 734,
941
+ 743,
942
+ 745,
943
+ 747,
944
+ 749,
945
+ 752,
946
+ 755,
947
+ 756,
948
+ 758,
949
+ 761,
950
+ 766,
951
+ 767,
952
+ 768,
953
+ 771,
954
+ 773,
955
+ 774,
956
+ 776,
957
+ 779,
958
+ 787,
959
+ 794,
960
+ 795,
961
+ 801,
962
+ 803,
963
+ 811,
964
+ 813,
965
+ 815,
966
+ 817,
967
+ 821,
968
+ 822,
969
+ 824,
970
+ 831,
971
+ 838,
972
+ 839,
973
+ 847,
974
+ 850,
975
+ 852,
976
+ 857,
977
+ 862,
978
+ 864,
979
+ 870,
980
+ 871,
981
+ 872,
982
+ 879,
983
+ 883,
984
+ 884,
985
+ 889,
986
+ 892,
987
+ 894,
988
+ 900,
989
+ 909,
990
+ 910,
991
+ 916,
992
+ 922,
993
+ 923,
994
+ 930,
995
+ 939,
996
+ 940,
997
+ 947,
998
+ 948,
999
+ 950,
1000
+ 953,
1001
+ 955,
1002
+ 956,
1003
+ 961,
1004
+ 963,
1005
+ 964,
1006
+ 965,
1007
+ 973,
1008
+ 974,
1009
+ 976,
1010
+ 980,
1011
+ 982,
1012
+ 984,
1013
+ 994
1014
+ ],
1015
+ "clean_baseline": 11.9765625,
1016
+ "corrupted_baseline": -11.671875
1017
+ }
results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_verbal/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:8b32275f47f2a828bbb4674563b2f3d42e859f4961327bdcac42ea3234eb0faf
3
+ size 14157430
results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_2op_verbal/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:1b96ef8c1d12cfd4a368e84d6e72de9d6a142be023b48ca1b94993e5f476f972
3
+ size 6814712
results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_3op_symbolic/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_3op_symbolic/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.85,
7
+ "corrupted_accuracy": 0.842,
8
+ "both_correct_accuracy": 0.7,
9
+ "n_both_correct": 700,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 10,
21
+ 12,
22
+ 14,
23
+ 15,
24
+ 16,
25
+ 17,
26
+ 18,
27
+ 19,
28
+ 20,
29
+ 22,
30
+ 24,
31
+ 26,
32
+ 27,
33
+ 28,
34
+ 30,
35
+ 31,
36
+ 32,
37
+ 33,
38
+ 34,
39
+ 35,
40
+ 36,
41
+ 37,
42
+ 38,
43
+ 39,
44
+ 40,
45
+ 43,
46
+ 44,
47
+ 46,
48
+ 47,
49
+ 49,
50
+ 50,
51
+ 51,
52
+ 52,
53
+ 53,
54
+ 54,
55
+ 57,
56
+ 58,
57
+ 59,
58
+ 60,
59
+ 61,
60
+ 65,
61
+ 66,
62
+ 68,
63
+ 69,
64
+ 70,
65
+ 71,
66
+ 73,
67
+ 75,
68
+ 76,
69
+ 77,
70
+ 78,
71
+ 79,
72
+ 80,
73
+ 81,
74
+ 82,
75
+ 84,
76
+ 86,
77
+ 87,
78
+ 88,
79
+ 89,
80
+ 90,
81
+ 91,
82
+ 92,
83
+ 93,
84
+ 94,
85
+ 98,
86
+ 99,
87
+ 100,
88
+ 102,
89
+ 104,
90
+ 105,
91
+ 108,
92
+ 109,
93
+ 110,
94
+ 111,
95
+ 112,
96
+ 114,
97
+ 117,
98
+ 118,
99
+ 119,
100
+ 120,
101
+ 122,
102
+ 123,
103
+ 124,
104
+ 125,
105
+ 126,
106
+ 127,
107
+ 128,
108
+ 129,
109
+ 131,
110
+ 133,
111
+ 134,
112
+ 135,
113
+ 136,
114
+ 137,
115
+ 138,
116
+ 139,
117
+ 140,
118
+ 141,
119
+ 142,
120
+ 143,
121
+ 144,
122
+ 146,
123
+ 147,
124
+ 148,
125
+ 150,
126
+ 152,
127
+ 156,
128
+ 157,
129
+ 158,
130
+ 160,
131
+ 162,
132
+ 163,
133
+ 165,
134
+ 166,
135
+ 168,
136
+ 170,
137
+ 171,
138
+ 172,
139
+ 174,
140
+ 175,
141
+ 176,
142
+ 177,
143
+ 178,
144
+ 180,
145
+ 181,
146
+ 183,
147
+ 186,
148
+ 187,
149
+ 188,
150
+ 191,
151
+ 192,
152
+ 193,
153
+ 194,
154
+ 196,
155
+ 198,
156
+ 200,
157
+ 203,
158
+ 204,
159
+ 207,
160
+ 208,
161
+ 209,
162
+ 210,
163
+ 211,
164
+ 212,
165
+ 213,
166
+ 214,
167
+ 215,
168
+ 216,
169
+ 217,
170
+ 218,
171
+ 220,
172
+ 221,
173
+ 222,
174
+ 223,
175
+ 226,
176
+ 227,
177
+ 228,
178
+ 229,
179
+ 230,
180
+ 231,
181
+ 232,
182
+ 234,
183
+ 235,
184
+ 239,
185
+ 240,
186
+ 241,
187
+ 242,
188
+ 243,
189
+ 244,
190
+ 245,
191
+ 247,
192
+ 248,
193
+ 249,
194
+ 251,
195
+ 252,
196
+ 254,
197
+ 255,
198
+ 256,
199
+ 257,
200
+ 259,
201
+ 260,
202
+ 261,
203
+ 262,
204
+ 263,
205
+ 264,
206
+ 266,
207
+ 267,
208
+ 269,
209
+ 270,
210
+ 271,
211
+ 272,
212
+ 274,
213
+ 275,
214
+ 276,
215
+ 277,
216
+ 278,
217
+ 279,
218
+ 281,
219
+ 284,
220
+ 285,
221
+ 288,
222
+ 289,
223
+ 290,
224
+ 291,
225
+ 292,
226
+ 294,
227
+ 295,
228
+ 298,
229
+ 299,
230
+ 300,
231
+ 301,
232
+ 304,
233
+ 307,
234
+ 308,
235
+ 311,
236
+ 312,
237
+ 313,
238
+ 314,
239
+ 315,
240
+ 316,
241
+ 317,
242
+ 318,
243
+ 320,
244
+ 322,
245
+ 324,
246
+ 326,
247
+ 327,
248
+ 328,
249
+ 330,
250
+ 331,
251
+ 334,
252
+ 335,
253
+ 337,
254
+ 338,
255
+ 339,
256
+ 340,
257
+ 341,
258
+ 342,
259
+ 343,
260
+ 344,
261
+ 345,
262
+ 346,
263
+ 348,
264
+ 350,
265
+ 351,
266
+ 352,
267
+ 353,
268
+ 354,
269
+ 355,
270
+ 358,
271
+ 359,
272
+ 360,
273
+ 361,
274
+ 362,
275
+ 363,
276
+ 366,
277
+ 367,
278
+ 370,
279
+ 372,
280
+ 373,
281
+ 374,
282
+ 376,
283
+ 378,
284
+ 380,
285
+ 381,
286
+ 382,
287
+ 383,
288
+ 385,
289
+ 386,
290
+ 387,
291
+ 390,
292
+ 392,
293
+ 393,
294
+ 394,
295
+ 395,
296
+ 396,
297
+ 397,
298
+ 398,
299
+ 400,
300
+ 402,
301
+ 403,
302
+ 404,
303
+ 406,
304
+ 407,
305
+ 408,
306
+ 409,
307
+ 410,
308
+ 411,
309
+ 414,
310
+ 415,
311
+ 416,
312
+ 417,
313
+ 419,
314
+ 420,
315
+ 422,
316
+ 423,
317
+ 424,
318
+ 425,
319
+ 426,
320
+ 427,
321
+ 428,
322
+ 429,
323
+ 430,
324
+ 431,
325
+ 432,
326
+ 433,
327
+ 435,
328
+ 436,
329
+ 438,
330
+ 439,
331
+ 442,
332
+ 443,
333
+ 444,
334
+ 445,
335
+ 446,
336
+ 447,
337
+ 449,
338
+ 450,
339
+ 451,
340
+ 452,
341
+ 454,
342
+ 456,
343
+ 459,
344
+ 460,
345
+ 462,
346
+ 463,
347
+ 464,
348
+ 468,
349
+ 472,
350
+ 474,
351
+ 475,
352
+ 476,
353
+ 479,
354
+ 480,
355
+ 481,
356
+ 482,
357
+ 484,
358
+ 486,
359
+ 487,
360
+ 488,
361
+ 490,
362
+ 491,
363
+ 492,
364
+ 494,
365
+ 495,
366
+ 498,
367
+ 500,
368
+ 501,
369
+ 502,
370
+ 504,
371
+ 506,
372
+ 507,
373
+ 508,
374
+ 509,
375
+ 510,
376
+ 512,
377
+ 514,
378
+ 515,
379
+ 516,
380
+ 518,
381
+ 520,
382
+ 522,
383
+ 523,
384
+ 524,
385
+ 525,
386
+ 528,
387
+ 529,
388
+ 531,
389
+ 532,
390
+ 534,
391
+ 535,
392
+ 536,
393
+ 538,
394
+ 539,
395
+ 540,
396
+ 542,
397
+ 543,
398
+ 544,
399
+ 545,
400
+ 547,
401
+ 548,
402
+ 549,
403
+ 550,
404
+ 551,
405
+ 553,
406
+ 554,
407
+ 556,
408
+ 557,
409
+ 558,
410
+ 559,
411
+ 560,
412
+ 561,
413
+ 562,
414
+ 564,
415
+ 565,
416
+ 566,
417
+ 568,
418
+ 569,
419
+ 570,
420
+ 571,
421
+ 572,
422
+ 573,
423
+ 574,
424
+ 575,
425
+ 576,
426
+ 578,
427
+ 579,
428
+ 580,
429
+ 582,
430
+ 583,
431
+ 584,
432
+ 585,
433
+ 586,
434
+ 588,
435
+ 590,
436
+ 594,
437
+ 595,
438
+ 596,
439
+ 599,
440
+ 600,
441
+ 602,
442
+ 603,
443
+ 605,
444
+ 606,
445
+ 607,
446
+ 608,
447
+ 609,
448
+ 610,
449
+ 612,
450
+ 614,
451
+ 616,
452
+ 618,
453
+ 619,
454
+ 620,
455
+ 621,
456
+ 622,
457
+ 623,
458
+ 624,
459
+ 625,
460
+ 626,
461
+ 628,
462
+ 630,
463
+ 632,
464
+ 634,
465
+ 635,
466
+ 637,
467
+ 638,
468
+ 639,
469
+ 640,
470
+ 641,
471
+ 642,
472
+ 643,
473
+ 644,
474
+ 645,
475
+ 646,
476
+ 647,
477
+ 648,
478
+ 649,
479
+ 651,
480
+ 652,
481
+ 653,
482
+ 654,
483
+ 656,
484
+ 658,
485
+ 660,
486
+ 662,
487
+ 663,
488
+ 664,
489
+ 666,
490
+ 668,
491
+ 669,
492
+ 671,
493
+ 672,
494
+ 675,
495
+ 676,
496
+ 678,
497
+ 679,
498
+ 680,
499
+ 682,
500
+ 683,
501
+ 684,
502
+ 685,
503
+ 686,
504
+ 687,
505
+ 688,
506
+ 689,
507
+ 690,
508
+ 692,
509
+ 694,
510
+ 695,
511
+ 697,
512
+ 698,
513
+ 699,
514
+ 700,
515
+ 703,
516
+ 704,
517
+ 706,
518
+ 707,
519
+ 708,
520
+ 709,
521
+ 710,
522
+ 712,
523
+ 714,
524
+ 715,
525
+ 716,
526
+ 718,
527
+ 720,
528
+ 721,
529
+ 724,
530
+ 725,
531
+ 726,
532
+ 728,
533
+ 729,
534
+ 730,
535
+ 732,
536
+ 734,
537
+ 738,
538
+ 740,
539
+ 741,
540
+ 743,
541
+ 744,
542
+ 745,
543
+ 746,
544
+ 748,
545
+ 750,
546
+ 752,
547
+ 753,
548
+ 754,
549
+ 756,
550
+ 757,
551
+ 758,
552
+ 759,
553
+ 760,
554
+ 762,
555
+ 764,
556
+ 765,
557
+ 766,
558
+ 767,
559
+ 773,
560
+ 774,
561
+ 775,
562
+ 776,
563
+ 778,
564
+ 780,
565
+ 781,
566
+ 784,
567
+ 786,
568
+ 789,
569
+ 790,
570
+ 791,
571
+ 792,
572
+ 794,
573
+ 796,
574
+ 797,
575
+ 798,
576
+ 800,
577
+ 802,
578
+ 804,
579
+ 806,
580
+ 807,
581
+ 808,
582
+ 810,
583
+ 811,
584
+ 812,
585
+ 813,
586
+ 814,
587
+ 815,
588
+ 817,
589
+ 820,
590
+ 821,
591
+ 822,
592
+ 823,
593
+ 824,
594
+ 826,
595
+ 827,
596
+ 828,
597
+ 830,
598
+ 831,
599
+ 832,
600
+ 833,
601
+ 834,
602
+ 835,
603
+ 838,
604
+ 839,
605
+ 840,
606
+ 842,
607
+ 846,
608
+ 847,
609
+ 848,
610
+ 849,
611
+ 850,
612
+ 852,
613
+ 855,
614
+ 856,
615
+ 857,
616
+ 859,
617
+ 860,
618
+ 861,
619
+ 862,
620
+ 863,
621
+ 864,
622
+ 866,
623
+ 867,
624
+ 869,
625
+ 872,
626
+ 874,
627
+ 875,
628
+ 877,
629
+ 878,
630
+ 880,
631
+ 882,
632
+ 883,
633
+ 884,
634
+ 886,
635
+ 888,
636
+ 889,
637
+ 890,
638
+ 895,
639
+ 896,
640
+ 897,
641
+ 898,
642
+ 900,
643
+ 903,
644
+ 904,
645
+ 906,
646
+ 908,
647
+ 909,
648
+ 911,
649
+ 912,
650
+ 913,
651
+ 916,
652
+ 917,
653
+ 918,
654
+ 919,
655
+ 922,
656
+ 923,
657
+ 925,
658
+ 926,
659
+ 928,
660
+ 929,
661
+ 930,
662
+ 931,
663
+ 932,
664
+ 936,
665
+ 937,
666
+ 938,
667
+ 939,
668
+ 940,
669
+ 941,
670
+ 942,
671
+ 943,
672
+ 944,
673
+ 946,
674
+ 947,
675
+ 948,
676
+ 949,
677
+ 952,
678
+ 954,
679
+ 955,
680
+ 958,
681
+ 959,
682
+ 960,
683
+ 962,
684
+ 968,
685
+ 970,
686
+ 971,
687
+ 972,
688
+ 973,
689
+ 974,
690
+ 976,
691
+ 978,
692
+ 979,
693
+ 980,
694
+ 981,
695
+ 982,
696
+ 983,
697
+ 984,
698
+ 985,
699
+ 986,
700
+ 987,
701
+ 988,
702
+ 989,
703
+ 990,
704
+ 991,
705
+ 992,
706
+ 993,
707
+ 995,
708
+ 996,
709
+ 998,
710
+ 999
711
+ ],
712
+ "not_both_correct_indices": [
713
+ 9,
714
+ 11,
715
+ 13,
716
+ 21,
717
+ 23,
718
+ 25,
719
+ 29,
720
+ 41,
721
+ 42,
722
+ 45,
723
+ 48,
724
+ 55,
725
+ 56,
726
+ 62,
727
+ 63,
728
+ 64,
729
+ 67,
730
+ 72,
731
+ 74,
732
+ 83,
733
+ 85,
734
+ 95,
735
+ 96,
736
+ 97,
737
+ 101,
738
+ 103,
739
+ 106,
740
+ 107,
741
+ 113,
742
+ 115,
743
+ 116,
744
+ 121,
745
+ 130,
746
+ 132,
747
+ 145,
748
+ 149,
749
+ 151,
750
+ 153,
751
+ 154,
752
+ 155,
753
+ 159,
754
+ 161,
755
+ 164,
756
+ 167,
757
+ 169,
758
+ 173,
759
+ 179,
760
+ 182,
761
+ 184,
762
+ 185,
763
+ 189,
764
+ 190,
765
+ 195,
766
+ 197,
767
+ 199,
768
+ 201,
769
+ 202,
770
+ 205,
771
+ 206,
772
+ 219,
773
+ 224,
774
+ 225,
775
+ 233,
776
+ 236,
777
+ 237,
778
+ 238,
779
+ 246,
780
+ 250,
781
+ 253,
782
+ 258,
783
+ 265,
784
+ 268,
785
+ 273,
786
+ 280,
787
+ 282,
788
+ 283,
789
+ 286,
790
+ 287,
791
+ 293,
792
+ 296,
793
+ 297,
794
+ 302,
795
+ 303,
796
+ 305,
797
+ 306,
798
+ 309,
799
+ 310,
800
+ 319,
801
+ 321,
802
+ 323,
803
+ 325,
804
+ 329,
805
+ 332,
806
+ 333,
807
+ 336,
808
+ 347,
809
+ 349,
810
+ 356,
811
+ 357,
812
+ 364,
813
+ 365,
814
+ 368,
815
+ 369,
816
+ 371,
817
+ 375,
818
+ 377,
819
+ 379,
820
+ 384,
821
+ 388,
822
+ 389,
823
+ 391,
824
+ 399,
825
+ 401,
826
+ 405,
827
+ 412,
828
+ 413,
829
+ 418,
830
+ 421,
831
+ 434,
832
+ 437,
833
+ 440,
834
+ 441,
835
+ 448,
836
+ 453,
837
+ 455,
838
+ 457,
839
+ 458,
840
+ 461,
841
+ 465,
842
+ 466,
843
+ 467,
844
+ 469,
845
+ 470,
846
+ 471,
847
+ 473,
848
+ 477,
849
+ 478,
850
+ 483,
851
+ 485,
852
+ 489,
853
+ 493,
854
+ 496,
855
+ 497,
856
+ 499,
857
+ 503,
858
+ 505,
859
+ 511,
860
+ 513,
861
+ 517,
862
+ 519,
863
+ 521,
864
+ 526,
865
+ 527,
866
+ 530,
867
+ 533,
868
+ 537,
869
+ 541,
870
+ 546,
871
+ 552,
872
+ 555,
873
+ 563,
874
+ 567,
875
+ 577,
876
+ 581,
877
+ 587,
878
+ 589,
879
+ 591,
880
+ 592,
881
+ 593,
882
+ 597,
883
+ 598,
884
+ 601,
885
+ 604,
886
+ 611,
887
+ 613,
888
+ 615,
889
+ 617,
890
+ 627,
891
+ 629,
892
+ 631,
893
+ 633,
894
+ 636,
895
+ 650,
896
+ 655,
897
+ 657,
898
+ 659,
899
+ 661,
900
+ 665,
901
+ 667,
902
+ 670,
903
+ 673,
904
+ 674,
905
+ 677,
906
+ 681,
907
+ 691,
908
+ 693,
909
+ 696,
910
+ 701,
911
+ 702,
912
+ 705,
913
+ 711,
914
+ 713,
915
+ 717,
916
+ 719,
917
+ 722,
918
+ 723,
919
+ 727,
920
+ 731,
921
+ 733,
922
+ 735,
923
+ 736,
924
+ 737,
925
+ 739,
926
+ 742,
927
+ 747,
928
+ 749,
929
+ 751,
930
+ 755,
931
+ 761,
932
+ 763,
933
+ 768,
934
+ 769,
935
+ 770,
936
+ 771,
937
+ 772,
938
+ 777,
939
+ 779,
940
+ 782,
941
+ 783,
942
+ 785,
943
+ 787,
944
+ 788,
945
+ 793,
946
+ 795,
947
+ 799,
948
+ 801,
949
+ 803,
950
+ 805,
951
+ 809,
952
+ 816,
953
+ 818,
954
+ 819,
955
+ 825,
956
+ 829,
957
+ 836,
958
+ 837,
959
+ 841,
960
+ 843,
961
+ 844,
962
+ 845,
963
+ 851,
964
+ 853,
965
+ 854,
966
+ 858,
967
+ 865,
968
+ 868,
969
+ 870,
970
+ 871,
971
+ 873,
972
+ 876,
973
+ 879,
974
+ 881,
975
+ 885,
976
+ 887,
977
+ 891,
978
+ 892,
979
+ 893,
980
+ 894,
981
+ 899,
982
+ 901,
983
+ 902,
984
+ 905,
985
+ 907,
986
+ 910,
987
+ 914,
988
+ 915,
989
+ 920,
990
+ 921,
991
+ 924,
992
+ 927,
993
+ 933,
994
+ 934,
995
+ 935,
996
+ 945,
997
+ 950,
998
+ 951,
999
+ 953,
1000
+ 956,
1001
+ 957,
1002
+ 961,
1003
+ 963,
1004
+ 964,
1005
+ 965,
1006
+ 966,
1007
+ 967,
1008
+ 969,
1009
+ 975,
1010
+ 977,
1011
+ 994,
1012
+ 997
1013
+ ],
1014
+ "clean_baseline": 7.7734375,
1015
+ "corrupted_baseline": -7.8203125
1016
+ }
results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_3op_symbolic/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:13309f9862329121b5fb385277d3e60dec288512064fe11a07ef2943ee5bb2cf
3
+ size 14157430
results/allenai_OLMo-2-0325-32B-Instruct/MD/mul_div_3op_symbolic/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:8471b5147db1bcd8e8108c01afe9d2fdf05958f00dc155cea9f1cce759e3a85e
3
+ size 6862024
results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sequence/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sequence/baselines.json ADDED
@@ -0,0 +1,962 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 946,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 946,
6
+ "clean_accuracy": 0.9059196617336153,
7
+ "corrupted_accuracy": 0.9038054968287527,
8
+ "both_correct_accuracy": 0.8150105708245243,
9
+ "n_both_correct": 771,
10
+ "both_correct_indices": [
11
+ 1,
12
+ 5,
13
+ 8,
14
+ 9,
15
+ 10,
16
+ 11,
17
+ 14,
18
+ 15,
19
+ 16,
20
+ 17,
21
+ 18,
22
+ 19,
23
+ 20,
24
+ 21,
25
+ 23,
26
+ 24,
27
+ 26,
28
+ 27,
29
+ 28,
30
+ 29,
31
+ 30,
32
+ 31,
33
+ 32,
34
+ 33,
35
+ 34,
36
+ 35,
37
+ 36,
38
+ 37,
39
+ 38,
40
+ 40,
41
+ 42,
42
+ 43,
43
+ 44,
44
+ 45,
45
+ 46,
46
+ 47,
47
+ 48,
48
+ 49,
49
+ 50,
50
+ 51,
51
+ 55,
52
+ 56,
53
+ 57,
54
+ 58,
55
+ 59,
56
+ 60,
57
+ 64,
58
+ 65,
59
+ 67,
60
+ 68,
61
+ 69,
62
+ 70,
63
+ 71,
64
+ 72,
65
+ 73,
66
+ 74,
67
+ 75,
68
+ 76,
69
+ 78,
70
+ 79,
71
+ 80,
72
+ 81,
73
+ 84,
74
+ 85,
75
+ 86,
76
+ 87,
77
+ 88,
78
+ 89,
79
+ 90,
80
+ 92,
81
+ 93,
82
+ 94,
83
+ 95,
84
+ 97,
85
+ 98,
86
+ 102,
87
+ 103,
88
+ 104,
89
+ 105,
90
+ 106,
91
+ 107,
92
+ 108,
93
+ 109,
94
+ 110,
95
+ 111,
96
+ 112,
97
+ 113,
98
+ 114,
99
+ 116,
100
+ 117,
101
+ 118,
102
+ 119,
103
+ 121,
104
+ 122,
105
+ 123,
106
+ 125,
107
+ 126,
108
+ 127,
109
+ 128,
110
+ 129,
111
+ 130,
112
+ 131,
113
+ 133,
114
+ 134,
115
+ 135,
116
+ 136,
117
+ 137,
118
+ 139,
119
+ 140,
120
+ 141,
121
+ 142,
122
+ 143,
123
+ 144,
124
+ 145,
125
+ 146,
126
+ 147,
127
+ 148,
128
+ 149,
129
+ 150,
130
+ 151,
131
+ 152,
132
+ 153,
133
+ 154,
134
+ 156,
135
+ 158,
136
+ 159,
137
+ 161,
138
+ 162,
139
+ 164,
140
+ 165,
141
+ 166,
142
+ 167,
143
+ 168,
144
+ 169,
145
+ 171,
146
+ 172,
147
+ 173,
148
+ 174,
149
+ 175,
150
+ 176,
151
+ 177,
152
+ 178,
153
+ 179,
154
+ 180,
155
+ 181,
156
+ 182,
157
+ 183,
158
+ 184,
159
+ 185,
160
+ 187,
161
+ 188,
162
+ 189,
163
+ 190,
164
+ 191,
165
+ 192,
166
+ 193,
167
+ 195,
168
+ 197,
169
+ 198,
170
+ 200,
171
+ 202,
172
+ 203,
173
+ 204,
174
+ 205,
175
+ 206,
176
+ 207,
177
+ 208,
178
+ 209,
179
+ 210,
180
+ 211,
181
+ 212,
182
+ 213,
183
+ 214,
184
+ 215,
185
+ 216,
186
+ 218,
187
+ 219,
188
+ 220,
189
+ 221,
190
+ 222,
191
+ 223,
192
+ 224,
193
+ 225,
194
+ 226,
195
+ 227,
196
+ 228,
197
+ 229,
198
+ 230,
199
+ 231,
200
+ 232,
201
+ 233,
202
+ 234,
203
+ 236,
204
+ 238,
205
+ 239,
206
+ 242,
207
+ 244,
208
+ 245,
209
+ 246,
210
+ 247,
211
+ 248,
212
+ 249,
213
+ 250,
214
+ 251,
215
+ 252,
216
+ 253,
217
+ 254,
218
+ 255,
219
+ 256,
220
+ 257,
221
+ 258,
222
+ 259,
223
+ 261,
224
+ 262,
225
+ 264,
226
+ 266,
227
+ 267,
228
+ 268,
229
+ 269,
230
+ 270,
231
+ 271,
232
+ 272,
233
+ 273,
234
+ 274,
235
+ 275,
236
+ 276,
237
+ 277,
238
+ 278,
239
+ 280,
240
+ 281,
241
+ 282,
242
+ 285,
243
+ 286,
244
+ 287,
245
+ 288,
246
+ 289,
247
+ 291,
248
+ 292,
249
+ 293,
250
+ 294,
251
+ 295,
252
+ 296,
253
+ 297,
254
+ 298,
255
+ 299,
256
+ 300,
257
+ 301,
258
+ 302,
259
+ 304,
260
+ 305,
261
+ 306,
262
+ 307,
263
+ 309,
264
+ 310,
265
+ 311,
266
+ 312,
267
+ 314,
268
+ 315,
269
+ 316,
270
+ 317,
271
+ 318,
272
+ 320,
273
+ 321,
274
+ 323,
275
+ 325,
276
+ 326,
277
+ 327,
278
+ 329,
279
+ 330,
280
+ 331,
281
+ 332,
282
+ 334,
283
+ 335,
284
+ 336,
285
+ 337,
286
+ 338,
287
+ 339,
288
+ 340,
289
+ 341,
290
+ 343,
291
+ 344,
292
+ 345,
293
+ 346,
294
+ 347,
295
+ 348,
296
+ 349,
297
+ 350,
298
+ 351,
299
+ 352,
300
+ 353,
301
+ 354,
302
+ 355,
303
+ 357,
304
+ 358,
305
+ 359,
306
+ 361,
307
+ 363,
308
+ 364,
309
+ 365,
310
+ 366,
311
+ 367,
312
+ 369,
313
+ 371,
314
+ 372,
315
+ 373,
316
+ 374,
317
+ 375,
318
+ 376,
319
+ 377,
320
+ 378,
321
+ 379,
322
+ 380,
323
+ 381,
324
+ 383,
325
+ 384,
326
+ 385,
327
+ 387,
328
+ 388,
329
+ 389,
330
+ 391,
331
+ 392,
332
+ 393,
333
+ 394,
334
+ 397,
335
+ 398,
336
+ 399,
337
+ 400,
338
+ 401,
339
+ 402,
340
+ 403,
341
+ 404,
342
+ 405,
343
+ 406,
344
+ 407,
345
+ 408,
346
+ 409,
347
+ 410,
348
+ 411,
349
+ 412,
350
+ 413,
351
+ 414,
352
+ 415,
353
+ 416,
354
+ 418,
355
+ 419,
356
+ 421,
357
+ 423,
358
+ 424,
359
+ 425,
360
+ 426,
361
+ 428,
362
+ 429,
363
+ 430,
364
+ 431,
365
+ 432,
366
+ 435,
367
+ 436,
368
+ 437,
369
+ 439,
370
+ 440,
371
+ 441,
372
+ 443,
373
+ 444,
374
+ 445,
375
+ 447,
376
+ 448,
377
+ 450,
378
+ 451,
379
+ 452,
380
+ 453,
381
+ 454,
382
+ 455,
383
+ 457,
384
+ 458,
385
+ 459,
386
+ 460,
387
+ 461,
388
+ 462,
389
+ 463,
390
+ 464,
391
+ 465,
392
+ 466,
393
+ 467,
394
+ 468,
395
+ 469,
396
+ 470,
397
+ 471,
398
+ 472,
399
+ 473,
400
+ 474,
401
+ 476,
402
+ 477,
403
+ 478,
404
+ 479,
405
+ 480,
406
+ 481,
407
+ 482,
408
+ 483,
409
+ 484,
410
+ 485,
411
+ 487,
412
+ 488,
413
+ 490,
414
+ 491,
415
+ 493,
416
+ 494,
417
+ 496,
418
+ 497,
419
+ 498,
420
+ 500,
421
+ 501,
422
+ 503,
423
+ 505,
424
+ 506,
425
+ 507,
426
+ 510,
427
+ 511,
428
+ 515,
429
+ 516,
430
+ 517,
431
+ 518,
432
+ 519,
433
+ 520,
434
+ 522,
435
+ 523,
436
+ 525,
437
+ 526,
438
+ 528,
439
+ 529,
440
+ 531,
441
+ 532,
442
+ 534,
443
+ 535,
444
+ 536,
445
+ 538,
446
+ 539,
447
+ 540,
448
+ 541,
449
+ 542,
450
+ 544,
451
+ 545,
452
+ 546,
453
+ 547,
454
+ 548,
455
+ 549,
456
+ 551,
457
+ 552,
458
+ 553,
459
+ 554,
460
+ 555,
461
+ 556,
462
+ 557,
463
+ 558,
464
+ 559,
465
+ 560,
466
+ 561,
467
+ 562,
468
+ 563,
469
+ 564,
470
+ 565,
471
+ 566,
472
+ 567,
473
+ 568,
474
+ 569,
475
+ 570,
476
+ 571,
477
+ 572,
478
+ 573,
479
+ 575,
480
+ 576,
481
+ 577,
482
+ 578,
483
+ 580,
484
+ 581,
485
+ 582,
486
+ 583,
487
+ 584,
488
+ 585,
489
+ 586,
490
+ 587,
491
+ 588,
492
+ 590,
493
+ 591,
494
+ 593,
495
+ 594,
496
+ 595,
497
+ 596,
498
+ 597,
499
+ 598,
500
+ 599,
501
+ 602,
502
+ 603,
503
+ 604,
504
+ 605,
505
+ 607,
506
+ 608,
507
+ 609,
508
+ 610,
509
+ 611,
510
+ 612,
511
+ 613,
512
+ 614,
513
+ 615,
514
+ 616,
515
+ 617,
516
+ 618,
517
+ 619,
518
+ 620,
519
+ 621,
520
+ 622,
521
+ 623,
522
+ 624,
523
+ 626,
524
+ 628,
525
+ 629,
526
+ 630,
527
+ 631,
528
+ 632,
529
+ 633,
530
+ 635,
531
+ 637,
532
+ 638,
533
+ 639,
534
+ 640,
535
+ 641,
536
+ 642,
537
+ 643,
538
+ 644,
539
+ 645,
540
+ 646,
541
+ 647,
542
+ 648,
543
+ 649,
544
+ 650,
545
+ 651,
546
+ 652,
547
+ 653,
548
+ 654,
549
+ 655,
550
+ 656,
551
+ 657,
552
+ 658,
553
+ 659,
554
+ 660,
555
+ 661,
556
+ 662,
557
+ 663,
558
+ 664,
559
+ 666,
560
+ 667,
561
+ 669,
562
+ 670,
563
+ 672,
564
+ 673,
565
+ 674,
566
+ 675,
567
+ 676,
568
+ 677,
569
+ 678,
570
+ 679,
571
+ 680,
572
+ 681,
573
+ 683,
574
+ 684,
575
+ 685,
576
+ 687,
577
+ 688,
578
+ 689,
579
+ 690,
580
+ 691,
581
+ 693,
582
+ 694,
583
+ 696,
584
+ 699,
585
+ 702,
586
+ 703,
587
+ 704,
588
+ 705,
589
+ 706,
590
+ 707,
591
+ 708,
592
+ 709,
593
+ 710,
594
+ 711,
595
+ 712,
596
+ 714,
597
+ 715,
598
+ 716,
599
+ 717,
600
+ 720,
601
+ 721,
602
+ 722,
603
+ 723,
604
+ 724,
605
+ 725,
606
+ 726,
607
+ 727,
608
+ 728,
609
+ 730,
610
+ 731,
611
+ 733,
612
+ 734,
613
+ 735,
614
+ 736,
615
+ 737,
616
+ 739,
617
+ 740,
618
+ 741,
619
+ 742,
620
+ 744,
621
+ 745,
622
+ 746,
623
+ 747,
624
+ 748,
625
+ 749,
626
+ 750,
627
+ 751,
628
+ 752,
629
+ 753,
630
+ 754,
631
+ 755,
632
+ 756,
633
+ 757,
634
+ 758,
635
+ 760,
636
+ 761,
637
+ 762,
638
+ 763,
639
+ 766,
640
+ 768,
641
+ 769,
642
+ 770,
643
+ 771,
644
+ 772,
645
+ 773,
646
+ 774,
647
+ 776,
648
+ 777,
649
+ 779,
650
+ 780,
651
+ 782,
652
+ 783,
653
+ 784,
654
+ 785,
655
+ 786,
656
+ 788,
657
+ 789,
658
+ 791,
659
+ 792,
660
+ 793,
661
+ 794,
662
+ 795,
663
+ 796,
664
+ 797,
665
+ 798,
666
+ 799,
667
+ 800,
668
+ 801,
669
+ 803,
670
+ 804,
671
+ 805,
672
+ 806,
673
+ 808,
674
+ 809,
675
+ 810,
676
+ 812,
677
+ 814,
678
+ 815,
679
+ 816,
680
+ 817,
681
+ 818,
682
+ 819,
683
+ 820,
684
+ 822,
685
+ 823,
686
+ 824,
687
+ 826,
688
+ 827,
689
+ 828,
690
+ 829,
691
+ 830,
692
+ 832,
693
+ 834,
694
+ 835,
695
+ 836,
696
+ 837,
697
+ 838,
698
+ 839,
699
+ 840,
700
+ 841,
701
+ 842,
702
+ 845,
703
+ 847,
704
+ 848,
705
+ 850,
706
+ 851,
707
+ 852,
708
+ 853,
709
+ 855,
710
+ 856,
711
+ 857,
712
+ 858,
713
+ 859,
714
+ 860,
715
+ 862,
716
+ 863,
717
+ 865,
718
+ 866,
719
+ 867,
720
+ 868,
721
+ 869,
722
+ 870,
723
+ 871,
724
+ 872,
725
+ 873,
726
+ 874,
727
+ 875,
728
+ 876,
729
+ 877,
730
+ 878,
731
+ 879,
732
+ 880,
733
+ 881,
734
+ 882,
735
+ 883,
736
+ 884,
737
+ 885,
738
+ 886,
739
+ 887,
740
+ 888,
741
+ 889,
742
+ 890,
743
+ 892,
744
+ 895,
745
+ 896,
746
+ 897,
747
+ 898,
748
+ 899,
749
+ 900,
750
+ 902,
751
+ 903,
752
+ 904,
753
+ 905,
754
+ 906,
755
+ 907,
756
+ 908,
757
+ 910,
758
+ 911,
759
+ 914,
760
+ 915,
761
+ 920,
762
+ 921,
763
+ 922,
764
+ 924,
765
+ 926,
766
+ 927,
767
+ 930,
768
+ 931,
769
+ 932,
770
+ 933,
771
+ 935,
772
+ 936,
773
+ 937,
774
+ 938,
775
+ 939,
776
+ 940,
777
+ 941,
778
+ 942,
779
+ 943,
780
+ 944,
781
+ 945
782
+ ],
783
+ "not_both_correct_indices": [
784
+ 0,
785
+ 2,
786
+ 3,
787
+ 4,
788
+ 6,
789
+ 7,
790
+ 12,
791
+ 13,
792
+ 22,
793
+ 25,
794
+ 39,
795
+ 41,
796
+ 52,
797
+ 53,
798
+ 54,
799
+ 61,
800
+ 62,
801
+ 63,
802
+ 66,
803
+ 77,
804
+ 82,
805
+ 83,
806
+ 91,
807
+ 96,
808
+ 99,
809
+ 100,
810
+ 101,
811
+ 115,
812
+ 120,
813
+ 124,
814
+ 132,
815
+ 138,
816
+ 155,
817
+ 157,
818
+ 160,
819
+ 163,
820
+ 170,
821
+ 186,
822
+ 194,
823
+ 196,
824
+ 199,
825
+ 201,
826
+ 217,
827
+ 235,
828
+ 237,
829
+ 240,
830
+ 241,
831
+ 243,
832
+ 260,
833
+ 263,
834
+ 265,
835
+ 279,
836
+ 283,
837
+ 284,
838
+ 290,
839
+ 303,
840
+ 308,
841
+ 313,
842
+ 319,
843
+ 322,
844
+ 324,
845
+ 328,
846
+ 333,
847
+ 342,
848
+ 356,
849
+ 360,
850
+ 362,
851
+ 368,
852
+ 370,
853
+ 382,
854
+ 386,
855
+ 390,
856
+ 395,
857
+ 396,
858
+ 417,
859
+ 420,
860
+ 422,
861
+ 427,
862
+ 433,
863
+ 434,
864
+ 438,
865
+ 442,
866
+ 446,
867
+ 449,
868
+ 456,
869
+ 475,
870
+ 486,
871
+ 489,
872
+ 492,
873
+ 495,
874
+ 499,
875
+ 502,
876
+ 504,
877
+ 508,
878
+ 509,
879
+ 512,
880
+ 513,
881
+ 514,
882
+ 521,
883
+ 524,
884
+ 527,
885
+ 530,
886
+ 533,
887
+ 537,
888
+ 543,
889
+ 550,
890
+ 574,
891
+ 579,
892
+ 589,
893
+ 592,
894
+ 600,
895
+ 601,
896
+ 606,
897
+ 625,
898
+ 627,
899
+ 634,
900
+ 636,
901
+ 665,
902
+ 668,
903
+ 671,
904
+ 682,
905
+ 686,
906
+ 692,
907
+ 695,
908
+ 697,
909
+ 698,
910
+ 700,
911
+ 701,
912
+ 713,
913
+ 718,
914
+ 719,
915
+ 729,
916
+ 732,
917
+ 738,
918
+ 743,
919
+ 759,
920
+ 764,
921
+ 765,
922
+ 767,
923
+ 775,
924
+ 778,
925
+ 781,
926
+ 787,
927
+ 790,
928
+ 802,
929
+ 807,
930
+ 811,
931
+ 813,
932
+ 821,
933
+ 825,
934
+ 831,
935
+ 833,
936
+ 843,
937
+ 844,
938
+ 846,
939
+ 849,
940
+ 854,
941
+ 861,
942
+ 864,
943
+ 891,
944
+ 893,
945
+ 894,
946
+ 901,
947
+ 909,
948
+ 912,
949
+ 913,
950
+ 916,
951
+ 917,
952
+ 918,
953
+ 919,
954
+ 923,
955
+ 925,
956
+ 928,
957
+ 929,
958
+ 934
959
+ ],
960
+ "clean_baseline": 6.765625,
961
+ "corrupted_baseline": -6.75
962
+ }
results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sequence/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:03ecd71fe6ddb643a9b1475bb96533c00de3ff4bd7fc8aa8b36067eb2f6d7a25
3
+ size 14157430
results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sequence/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:c2b07247b5206843b8e223aca99ad1c9f3e3af3f9f3aaa918b4596bf50690d4e
3
+ size 6996400
results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sorting/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sorting/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.9,
7
+ "corrupted_accuracy": 0.902,
8
+ "both_correct_accuracy": 0.803,
9
+ "n_both_correct": 803,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 4,
14
+ 5,
15
+ 6,
16
+ 7,
17
+ 8,
18
+ 9,
19
+ 10,
20
+ 11,
21
+ 13,
22
+ 14,
23
+ 15,
24
+ 16,
25
+ 18,
26
+ 19,
27
+ 20,
28
+ 22,
29
+ 23,
30
+ 24,
31
+ 25,
32
+ 26,
33
+ 28,
34
+ 29,
35
+ 30,
36
+ 32,
37
+ 33,
38
+ 36,
39
+ 38,
40
+ 39,
41
+ 40,
42
+ 42,
43
+ 43,
44
+ 44,
45
+ 45,
46
+ 46,
47
+ 48,
48
+ 49,
49
+ 50,
50
+ 51,
51
+ 52,
52
+ 53,
53
+ 54,
54
+ 55,
55
+ 56,
56
+ 57,
57
+ 58,
58
+ 59,
59
+ 60,
60
+ 61,
61
+ 62,
62
+ 63,
63
+ 64,
64
+ 65,
65
+ 66,
66
+ 67,
67
+ 68,
68
+ 69,
69
+ 70,
70
+ 71,
71
+ 72,
72
+ 73,
73
+ 74,
74
+ 76,
75
+ 77,
76
+ 78,
77
+ 79,
78
+ 80,
79
+ 82,
80
+ 83,
81
+ 85,
82
+ 86,
83
+ 87,
84
+ 88,
85
+ 90,
86
+ 91,
87
+ 95,
88
+ 97,
89
+ 98,
90
+ 99,
91
+ 101,
92
+ 102,
93
+ 103,
94
+ 104,
95
+ 105,
96
+ 106,
97
+ 108,
98
+ 109,
99
+ 110,
100
+ 111,
101
+ 112,
102
+ 113,
103
+ 114,
104
+ 116,
105
+ 117,
106
+ 118,
107
+ 120,
108
+ 122,
109
+ 123,
110
+ 124,
111
+ 125,
112
+ 126,
113
+ 127,
114
+ 128,
115
+ 129,
116
+ 130,
117
+ 131,
118
+ 133,
119
+ 134,
120
+ 135,
121
+ 136,
122
+ 138,
123
+ 139,
124
+ 140,
125
+ 141,
126
+ 142,
127
+ 143,
128
+ 144,
129
+ 145,
130
+ 147,
131
+ 148,
132
+ 149,
133
+ 150,
134
+ 151,
135
+ 152,
136
+ 153,
137
+ 154,
138
+ 156,
139
+ 157,
140
+ 158,
141
+ 159,
142
+ 160,
143
+ 162,
144
+ 163,
145
+ 164,
146
+ 165,
147
+ 166,
148
+ 167,
149
+ 168,
150
+ 169,
151
+ 170,
152
+ 172,
153
+ 173,
154
+ 174,
155
+ 175,
156
+ 177,
157
+ 178,
158
+ 179,
159
+ 181,
160
+ 183,
161
+ 184,
162
+ 185,
163
+ 186,
164
+ 187,
165
+ 188,
166
+ 189,
167
+ 191,
168
+ 192,
169
+ 194,
170
+ 195,
171
+ 199,
172
+ 200,
173
+ 202,
174
+ 203,
175
+ 205,
176
+ 206,
177
+ 207,
178
+ 208,
179
+ 209,
180
+ 210,
181
+ 211,
182
+ 212,
183
+ 213,
184
+ 215,
185
+ 216,
186
+ 217,
187
+ 219,
188
+ 220,
189
+ 221,
190
+ 222,
191
+ 223,
192
+ 224,
193
+ 225,
194
+ 226,
195
+ 227,
196
+ 228,
197
+ 229,
198
+ 230,
199
+ 231,
200
+ 233,
201
+ 234,
202
+ 235,
203
+ 236,
204
+ 238,
205
+ 239,
206
+ 240,
207
+ 241,
208
+ 242,
209
+ 246,
210
+ 247,
211
+ 248,
212
+ 249,
213
+ 250,
214
+ 251,
215
+ 252,
216
+ 253,
217
+ 254,
218
+ 256,
219
+ 257,
220
+ 259,
221
+ 260,
222
+ 263,
223
+ 264,
224
+ 265,
225
+ 269,
226
+ 276,
227
+ 277,
228
+ 279,
229
+ 280,
230
+ 281,
231
+ 283,
232
+ 284,
233
+ 285,
234
+ 286,
235
+ 289,
236
+ 290,
237
+ 292,
238
+ 293,
239
+ 294,
240
+ 295,
241
+ 296,
242
+ 297,
243
+ 298,
244
+ 299,
245
+ 300,
246
+ 301,
247
+ 302,
248
+ 303,
249
+ 304,
250
+ 305,
251
+ 306,
252
+ 307,
253
+ 308,
254
+ 309,
255
+ 310,
256
+ 311,
257
+ 312,
258
+ 313,
259
+ 314,
260
+ 316,
261
+ 317,
262
+ 318,
263
+ 319,
264
+ 320,
265
+ 321,
266
+ 322,
267
+ 323,
268
+ 324,
269
+ 325,
270
+ 327,
271
+ 328,
272
+ 329,
273
+ 330,
274
+ 331,
275
+ 332,
276
+ 334,
277
+ 335,
278
+ 336,
279
+ 337,
280
+ 339,
281
+ 341,
282
+ 342,
283
+ 343,
284
+ 344,
285
+ 345,
286
+ 346,
287
+ 347,
288
+ 348,
289
+ 350,
290
+ 351,
291
+ 353,
292
+ 354,
293
+ 355,
294
+ 356,
295
+ 358,
296
+ 359,
297
+ 360,
298
+ 361,
299
+ 362,
300
+ 363,
301
+ 364,
302
+ 365,
303
+ 366,
304
+ 367,
305
+ 368,
306
+ 369,
307
+ 370,
308
+ 372,
309
+ 373,
310
+ 374,
311
+ 377,
312
+ 378,
313
+ 379,
314
+ 380,
315
+ 381,
316
+ 383,
317
+ 385,
318
+ 386,
319
+ 388,
320
+ 389,
321
+ 390,
322
+ 391,
323
+ 396,
324
+ 397,
325
+ 398,
326
+ 399,
327
+ 400,
328
+ 402,
329
+ 403,
330
+ 404,
331
+ 405,
332
+ 406,
333
+ 408,
334
+ 409,
335
+ 410,
336
+ 411,
337
+ 412,
338
+ 413,
339
+ 415,
340
+ 416,
341
+ 417,
342
+ 418,
343
+ 420,
344
+ 421,
345
+ 422,
346
+ 423,
347
+ 424,
348
+ 425,
349
+ 427,
350
+ 428,
351
+ 429,
352
+ 430,
353
+ 431,
354
+ 432,
355
+ 433,
356
+ 434,
357
+ 435,
358
+ 436,
359
+ 437,
360
+ 438,
361
+ 439,
362
+ 440,
363
+ 442,
364
+ 446,
365
+ 447,
366
+ 448,
367
+ 449,
368
+ 450,
369
+ 451,
370
+ 452,
371
+ 453,
372
+ 454,
373
+ 455,
374
+ 456,
375
+ 458,
376
+ 460,
377
+ 461,
378
+ 462,
379
+ 464,
380
+ 465,
381
+ 466,
382
+ 467,
383
+ 468,
384
+ 469,
385
+ 470,
386
+ 471,
387
+ 473,
388
+ 474,
389
+ 475,
390
+ 476,
391
+ 477,
392
+ 479,
393
+ 481,
394
+ 482,
395
+ 483,
396
+ 485,
397
+ 486,
398
+ 487,
399
+ 489,
400
+ 490,
401
+ 492,
402
+ 493,
403
+ 494,
404
+ 496,
405
+ 497,
406
+ 498,
407
+ 500,
408
+ 501,
409
+ 502,
410
+ 503,
411
+ 504,
412
+ 506,
413
+ 507,
414
+ 508,
415
+ 509,
416
+ 510,
417
+ 512,
418
+ 514,
419
+ 515,
420
+ 516,
421
+ 517,
422
+ 518,
423
+ 519,
424
+ 521,
425
+ 523,
426
+ 524,
427
+ 525,
428
+ 526,
429
+ 527,
430
+ 531,
431
+ 532,
432
+ 533,
433
+ 534,
434
+ 535,
435
+ 536,
436
+ 537,
437
+ 538,
438
+ 539,
439
+ 540,
440
+ 541,
441
+ 542,
442
+ 545,
443
+ 546,
444
+ 548,
445
+ 551,
446
+ 552,
447
+ 554,
448
+ 555,
449
+ 556,
450
+ 557,
451
+ 559,
452
+ 561,
453
+ 562,
454
+ 563,
455
+ 564,
456
+ 565,
457
+ 566,
458
+ 567,
459
+ 569,
460
+ 570,
461
+ 571,
462
+ 572,
463
+ 573,
464
+ 574,
465
+ 576,
466
+ 577,
467
+ 578,
468
+ 579,
469
+ 580,
470
+ 581,
471
+ 582,
472
+ 584,
473
+ 585,
474
+ 586,
475
+ 587,
476
+ 588,
477
+ 589,
478
+ 590,
479
+ 592,
480
+ 593,
481
+ 594,
482
+ 596,
483
+ 597,
484
+ 598,
485
+ 599,
486
+ 600,
487
+ 601,
488
+ 602,
489
+ 603,
490
+ 604,
491
+ 605,
492
+ 606,
493
+ 607,
494
+ 608,
495
+ 609,
496
+ 610,
497
+ 611,
498
+ 612,
499
+ 613,
500
+ 614,
501
+ 616,
502
+ 618,
503
+ 619,
504
+ 620,
505
+ 621,
506
+ 622,
507
+ 623,
508
+ 624,
509
+ 626,
510
+ 627,
511
+ 632,
512
+ 633,
513
+ 634,
514
+ 635,
515
+ 636,
516
+ 637,
517
+ 638,
518
+ 639,
519
+ 641,
520
+ 642,
521
+ 643,
522
+ 644,
523
+ 645,
524
+ 647,
525
+ 648,
526
+ 649,
527
+ 650,
528
+ 652,
529
+ 653,
530
+ 654,
531
+ 655,
532
+ 656,
533
+ 658,
534
+ 659,
535
+ 660,
536
+ 661,
537
+ 662,
538
+ 663,
539
+ 664,
540
+ 665,
541
+ 666,
542
+ 667,
543
+ 668,
544
+ 669,
545
+ 671,
546
+ 674,
547
+ 675,
548
+ 676,
549
+ 677,
550
+ 678,
551
+ 679,
552
+ 682,
553
+ 683,
554
+ 684,
555
+ 685,
556
+ 686,
557
+ 687,
558
+ 688,
559
+ 689,
560
+ 690,
561
+ 691,
562
+ 692,
563
+ 693,
564
+ 694,
565
+ 695,
566
+ 696,
567
+ 697,
568
+ 698,
569
+ 699,
570
+ 700,
571
+ 701,
572
+ 702,
573
+ 703,
574
+ 704,
575
+ 705,
576
+ 707,
577
+ 708,
578
+ 709,
579
+ 710,
580
+ 712,
581
+ 713,
582
+ 714,
583
+ 715,
584
+ 716,
585
+ 717,
586
+ 719,
587
+ 721,
588
+ 722,
589
+ 723,
590
+ 724,
591
+ 725,
592
+ 726,
593
+ 727,
594
+ 728,
595
+ 730,
596
+ 731,
597
+ 732,
598
+ 733,
599
+ 734,
600
+ 735,
601
+ 736,
602
+ 738,
603
+ 739,
604
+ 740,
605
+ 741,
606
+ 742,
607
+ 744,
608
+ 746,
609
+ 747,
610
+ 748,
611
+ 750,
612
+ 751,
613
+ 752,
614
+ 753,
615
+ 755,
616
+ 757,
617
+ 758,
618
+ 759,
619
+ 760,
620
+ 762,
621
+ 763,
622
+ 764,
623
+ 765,
624
+ 766,
625
+ 767,
626
+ 768,
627
+ 769,
628
+ 774,
629
+ 775,
630
+ 776,
631
+ 777,
632
+ 778,
633
+ 779,
634
+ 780,
635
+ 781,
636
+ 782,
637
+ 783,
638
+ 784,
639
+ 785,
640
+ 787,
641
+ 788,
642
+ 789,
643
+ 790,
644
+ 791,
645
+ 792,
646
+ 793,
647
+ 794,
648
+ 795,
649
+ 796,
650
+ 797,
651
+ 798,
652
+ 799,
653
+ 801,
654
+ 802,
655
+ 803,
656
+ 804,
657
+ 805,
658
+ 806,
659
+ 807,
660
+ 808,
661
+ 811,
662
+ 812,
663
+ 813,
664
+ 814,
665
+ 815,
666
+ 817,
667
+ 819,
668
+ 820,
669
+ 821,
670
+ 822,
671
+ 823,
672
+ 824,
673
+ 825,
674
+ 827,
675
+ 828,
676
+ 829,
677
+ 830,
678
+ 831,
679
+ 833,
680
+ 835,
681
+ 836,
682
+ 837,
683
+ 838,
684
+ 839,
685
+ 840,
686
+ 841,
687
+ 842,
688
+ 843,
689
+ 844,
690
+ 846,
691
+ 847,
692
+ 848,
693
+ 849,
694
+ 850,
695
+ 851,
696
+ 852,
697
+ 853,
698
+ 854,
699
+ 855,
700
+ 856,
701
+ 858,
702
+ 859,
703
+ 860,
704
+ 861,
705
+ 862,
706
+ 863,
707
+ 866,
708
+ 867,
709
+ 868,
710
+ 869,
711
+ 870,
712
+ 872,
713
+ 873,
714
+ 874,
715
+ 876,
716
+ 879,
717
+ 880,
718
+ 881,
719
+ 882,
720
+ 883,
721
+ 884,
722
+ 885,
723
+ 886,
724
+ 887,
725
+ 888,
726
+ 889,
727
+ 890,
728
+ 891,
729
+ 893,
730
+ 894,
731
+ 895,
732
+ 896,
733
+ 898,
734
+ 899,
735
+ 900,
736
+ 901,
737
+ 902,
738
+ 903,
739
+ 904,
740
+ 905,
741
+ 906,
742
+ 907,
743
+ 908,
744
+ 912,
745
+ 913,
746
+ 914,
747
+ 915,
748
+ 916,
749
+ 917,
750
+ 918,
751
+ 919,
752
+ 921,
753
+ 922,
754
+ 923,
755
+ 925,
756
+ 927,
757
+ 928,
758
+ 931,
759
+ 933,
760
+ 934,
761
+ 935,
762
+ 936,
763
+ 938,
764
+ 939,
765
+ 940,
766
+ 941,
767
+ 942,
768
+ 943,
769
+ 944,
770
+ 945,
771
+ 946,
772
+ 947,
773
+ 948,
774
+ 949,
775
+ 950,
776
+ 951,
777
+ 952,
778
+ 953,
779
+ 955,
780
+ 957,
781
+ 958,
782
+ 959,
783
+ 960,
784
+ 961,
785
+ 962,
786
+ 963,
787
+ 964,
788
+ 965,
789
+ 966,
790
+ 967,
791
+ 968,
792
+ 969,
793
+ 971,
794
+ 973,
795
+ 974,
796
+ 975,
797
+ 976,
798
+ 977,
799
+ 978,
800
+ 979,
801
+ 981,
802
+ 984,
803
+ 985,
804
+ 986,
805
+ 987,
806
+ 988,
807
+ 989,
808
+ 990,
809
+ 992,
810
+ 994,
811
+ 995,
812
+ 997,
813
+ 998
814
+ ],
815
+ "not_both_correct_indices": [
816
+ 2,
817
+ 3,
818
+ 12,
819
+ 17,
820
+ 21,
821
+ 27,
822
+ 31,
823
+ 34,
824
+ 35,
825
+ 37,
826
+ 41,
827
+ 47,
828
+ 75,
829
+ 81,
830
+ 84,
831
+ 89,
832
+ 92,
833
+ 93,
834
+ 94,
835
+ 96,
836
+ 100,
837
+ 107,
838
+ 115,
839
+ 119,
840
+ 121,
841
+ 132,
842
+ 137,
843
+ 146,
844
+ 155,
845
+ 161,
846
+ 171,
847
+ 176,
848
+ 180,
849
+ 182,
850
+ 190,
851
+ 193,
852
+ 196,
853
+ 197,
854
+ 198,
855
+ 201,
856
+ 204,
857
+ 214,
858
+ 218,
859
+ 232,
860
+ 237,
861
+ 243,
862
+ 244,
863
+ 245,
864
+ 255,
865
+ 258,
866
+ 261,
867
+ 262,
868
+ 266,
869
+ 267,
870
+ 268,
871
+ 270,
872
+ 271,
873
+ 272,
874
+ 273,
875
+ 274,
876
+ 275,
877
+ 278,
878
+ 282,
879
+ 287,
880
+ 288,
881
+ 291,
882
+ 315,
883
+ 326,
884
+ 333,
885
+ 338,
886
+ 340,
887
+ 349,
888
+ 352,
889
+ 357,
890
+ 371,
891
+ 375,
892
+ 376,
893
+ 382,
894
+ 384,
895
+ 387,
896
+ 392,
897
+ 393,
898
+ 394,
899
+ 395,
900
+ 401,
901
+ 407,
902
+ 414,
903
+ 419,
904
+ 426,
905
+ 441,
906
+ 443,
907
+ 444,
908
+ 445,
909
+ 457,
910
+ 459,
911
+ 463,
912
+ 472,
913
+ 478,
914
+ 480,
915
+ 484,
916
+ 488,
917
+ 491,
918
+ 495,
919
+ 499,
920
+ 505,
921
+ 511,
922
+ 513,
923
+ 520,
924
+ 522,
925
+ 528,
926
+ 529,
927
+ 530,
928
+ 543,
929
+ 544,
930
+ 547,
931
+ 549,
932
+ 550,
933
+ 553,
934
+ 558,
935
+ 560,
936
+ 568,
937
+ 575,
938
+ 583,
939
+ 591,
940
+ 595,
941
+ 615,
942
+ 617,
943
+ 625,
944
+ 628,
945
+ 629,
946
+ 630,
947
+ 631,
948
+ 640,
949
+ 646,
950
+ 651,
951
+ 657,
952
+ 670,
953
+ 672,
954
+ 673,
955
+ 680,
956
+ 681,
957
+ 706,
958
+ 711,
959
+ 718,
960
+ 720,
961
+ 729,
962
+ 737,
963
+ 743,
964
+ 745,
965
+ 749,
966
+ 754,
967
+ 756,
968
+ 761,
969
+ 770,
970
+ 771,
971
+ 772,
972
+ 773,
973
+ 786,
974
+ 800,
975
+ 809,
976
+ 810,
977
+ 816,
978
+ 818,
979
+ 826,
980
+ 832,
981
+ 834,
982
+ 845,
983
+ 857,
984
+ 864,
985
+ 865,
986
+ 871,
987
+ 875,
988
+ 877,
989
+ 878,
990
+ 892,
991
+ 897,
992
+ 909,
993
+ 910,
994
+ 911,
995
+ 920,
996
+ 924,
997
+ 926,
998
+ 929,
999
+ 930,
1000
+ 932,
1001
+ 937,
1002
+ 954,
1003
+ 956,
1004
+ 970,
1005
+ 972,
1006
+ 980,
1007
+ 982,
1008
+ 983,
1009
+ 991,
1010
+ 993,
1011
+ 996,
1012
+ 999
1013
+ ],
1014
+ "clean_baseline": 15.984375,
1015
+ "corrupted_baseline": -16.09375
1016
+ }
results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sorting/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:56390e9793d311ff09c6768256a136ec6732f7b0d6b2523f67df5703415d9ddc
3
+ size 14157430
results/allenai_OLMo-2-0325-32B-Instruct/MD/number_sorting/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:dae4fd36dba0437e8e6f16a7548ed4c815efe575b0848aafaece93505350e2ae
3
+ size 6035080
results/allenai_OLMo-2-0325-32B-Instruct/MD/simple_equation/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/allenai_OLMo-2-0325-32B-Instruct/MD/simple_equation/baselines.json ADDED
@@ -0,0 +1,1011 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 995,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 995,
6
+ "clean_accuracy": 0.8582914572864322,
7
+ "corrupted_accuracy": 0.8391959798994975,
8
+ "both_correct_accuracy": 0.7326633165829146,
9
+ "n_both_correct": 729,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 2,
13
+ 3,
14
+ 4,
15
+ 5,
16
+ 6,
17
+ 7,
18
+ 8,
19
+ 9,
20
+ 10,
21
+ 11,
22
+ 12,
23
+ 13,
24
+ 15,
25
+ 17,
26
+ 19,
27
+ 20,
28
+ 22,
29
+ 24,
30
+ 25,
31
+ 28,
32
+ 29,
33
+ 31,
34
+ 34,
35
+ 35,
36
+ 36,
37
+ 37,
38
+ 40,
39
+ 41,
40
+ 42,
41
+ 44,
42
+ 45,
43
+ 46,
44
+ 47,
45
+ 49,
46
+ 51,
47
+ 52,
48
+ 53,
49
+ 55,
50
+ 56,
51
+ 57,
52
+ 58,
53
+ 59,
54
+ 60,
55
+ 61,
56
+ 62,
57
+ 63,
58
+ 64,
59
+ 65,
60
+ 66,
61
+ 67,
62
+ 71,
63
+ 73,
64
+ 74,
65
+ 75,
66
+ 78,
67
+ 79,
68
+ 80,
69
+ 81,
70
+ 83,
71
+ 85,
72
+ 86,
73
+ 87,
74
+ 88,
75
+ 89,
76
+ 90,
77
+ 91,
78
+ 92,
79
+ 93,
80
+ 95,
81
+ 97,
82
+ 98,
83
+ 100,
84
+ 102,
85
+ 103,
86
+ 106,
87
+ 108,
88
+ 109,
89
+ 112,
90
+ 114,
91
+ 115,
92
+ 116,
93
+ 117,
94
+ 119,
95
+ 121,
96
+ 122,
97
+ 123,
98
+ 124,
99
+ 125,
100
+ 126,
101
+ 127,
102
+ 128,
103
+ 130,
104
+ 131,
105
+ 132,
106
+ 133,
107
+ 135,
108
+ 137,
109
+ 139,
110
+ 142,
111
+ 143,
112
+ 145,
113
+ 146,
114
+ 147,
115
+ 148,
116
+ 149,
117
+ 150,
118
+ 151,
119
+ 152,
120
+ 153,
121
+ 154,
122
+ 155,
123
+ 156,
124
+ 157,
125
+ 160,
126
+ 161,
127
+ 163,
128
+ 164,
129
+ 165,
130
+ 168,
131
+ 169,
132
+ 172,
133
+ 173,
134
+ 174,
135
+ 175,
136
+ 176,
137
+ 180,
138
+ 182,
139
+ 183,
140
+ 184,
141
+ 185,
142
+ 186,
143
+ 187,
144
+ 190,
145
+ 191,
146
+ 193,
147
+ 194,
148
+ 195,
149
+ 196,
150
+ 197,
151
+ 198,
152
+ 200,
153
+ 201,
154
+ 204,
155
+ 205,
156
+ 206,
157
+ 207,
158
+ 208,
159
+ 210,
160
+ 211,
161
+ 212,
162
+ 213,
163
+ 214,
164
+ 215,
165
+ 216,
166
+ 217,
167
+ 218,
168
+ 220,
169
+ 221,
170
+ 222,
171
+ 223,
172
+ 224,
173
+ 225,
174
+ 226,
175
+ 227,
176
+ 228,
177
+ 229,
178
+ 230,
179
+ 232,
180
+ 233,
181
+ 234,
182
+ 235,
183
+ 236,
184
+ 237,
185
+ 238,
186
+ 239,
187
+ 240,
188
+ 241,
189
+ 245,
190
+ 246,
191
+ 247,
192
+ 248,
193
+ 249,
194
+ 250,
195
+ 251,
196
+ 252,
197
+ 253,
198
+ 254,
199
+ 255,
200
+ 259,
201
+ 261,
202
+ 262,
203
+ 263,
204
+ 264,
205
+ 265,
206
+ 267,
207
+ 268,
208
+ 269,
209
+ 270,
210
+ 271,
211
+ 274,
212
+ 275,
213
+ 278,
214
+ 279,
215
+ 280,
216
+ 282,
217
+ 283,
218
+ 284,
219
+ 285,
220
+ 286,
221
+ 287,
222
+ 288,
223
+ 289,
224
+ 291,
225
+ 292,
226
+ 294,
227
+ 295,
228
+ 297,
229
+ 298,
230
+ 300,
231
+ 303,
232
+ 306,
233
+ 307,
234
+ 308,
235
+ 309,
236
+ 311,
237
+ 312,
238
+ 313,
239
+ 314,
240
+ 315,
241
+ 316,
242
+ 317,
243
+ 319,
244
+ 321,
245
+ 322,
246
+ 323,
247
+ 324,
248
+ 325,
249
+ 326,
250
+ 327,
251
+ 328,
252
+ 329,
253
+ 330,
254
+ 331,
255
+ 332,
256
+ 334,
257
+ 335,
258
+ 336,
259
+ 339,
260
+ 340,
261
+ 342,
262
+ 343,
263
+ 345,
264
+ 346,
265
+ 347,
266
+ 348,
267
+ 349,
268
+ 350,
269
+ 351,
270
+ 352,
271
+ 353,
272
+ 354,
273
+ 355,
274
+ 356,
275
+ 357,
276
+ 358,
277
+ 360,
278
+ 361,
279
+ 362,
280
+ 363,
281
+ 364,
282
+ 366,
283
+ 367,
284
+ 368,
285
+ 369,
286
+ 370,
287
+ 372,
288
+ 373,
289
+ 374,
290
+ 376,
291
+ 377,
292
+ 378,
293
+ 379,
294
+ 380,
295
+ 381,
296
+ 382,
297
+ 383,
298
+ 384,
299
+ 385,
300
+ 386,
301
+ 387,
302
+ 388,
303
+ 389,
304
+ 391,
305
+ 392,
306
+ 393,
307
+ 395,
308
+ 398,
309
+ 399,
310
+ 400,
311
+ 401,
312
+ 403,
313
+ 404,
314
+ 406,
315
+ 408,
316
+ 409,
317
+ 410,
318
+ 411,
319
+ 412,
320
+ 413,
321
+ 417,
322
+ 418,
323
+ 420,
324
+ 421,
325
+ 425,
326
+ 426,
327
+ 427,
328
+ 428,
329
+ 429,
330
+ 430,
331
+ 431,
332
+ 432,
333
+ 433,
334
+ 435,
335
+ 436,
336
+ 437,
337
+ 439,
338
+ 440,
339
+ 441,
340
+ 442,
341
+ 443,
342
+ 444,
343
+ 445,
344
+ 447,
345
+ 448,
346
+ 450,
347
+ 451,
348
+ 452,
349
+ 453,
350
+ 454,
351
+ 459,
352
+ 461,
353
+ 462,
354
+ 464,
355
+ 465,
356
+ 466,
357
+ 467,
358
+ 469,
359
+ 470,
360
+ 471,
361
+ 472,
362
+ 473,
363
+ 474,
364
+ 475,
365
+ 477,
366
+ 478,
367
+ 480,
368
+ 481,
369
+ 483,
370
+ 485,
371
+ 488,
372
+ 491,
373
+ 492,
374
+ 493,
375
+ 494,
376
+ 495,
377
+ 496,
378
+ 497,
379
+ 498,
380
+ 499,
381
+ 500,
382
+ 501,
383
+ 503,
384
+ 504,
385
+ 505,
386
+ 506,
387
+ 507,
388
+ 508,
389
+ 509,
390
+ 510,
391
+ 511,
392
+ 512,
393
+ 513,
394
+ 516,
395
+ 519,
396
+ 520,
397
+ 521,
398
+ 522,
399
+ 524,
400
+ 525,
401
+ 526,
402
+ 527,
403
+ 528,
404
+ 531,
405
+ 532,
406
+ 533,
407
+ 535,
408
+ 537,
409
+ 538,
410
+ 539,
411
+ 540,
412
+ 541,
413
+ 543,
414
+ 544,
415
+ 545,
416
+ 546,
417
+ 549,
418
+ 550,
419
+ 551,
420
+ 553,
421
+ 554,
422
+ 555,
423
+ 556,
424
+ 557,
425
+ 558,
426
+ 559,
427
+ 561,
428
+ 563,
429
+ 564,
430
+ 565,
431
+ 567,
432
+ 568,
433
+ 569,
434
+ 570,
435
+ 571,
436
+ 572,
437
+ 574,
438
+ 576,
439
+ 577,
440
+ 578,
441
+ 580,
442
+ 581,
443
+ 583,
444
+ 584,
445
+ 585,
446
+ 586,
447
+ 587,
448
+ 588,
449
+ 589,
450
+ 590,
451
+ 591,
452
+ 592,
453
+ 593,
454
+ 594,
455
+ 595,
456
+ 596,
457
+ 597,
458
+ 598,
459
+ 601,
460
+ 602,
461
+ 604,
462
+ 607,
463
+ 609,
464
+ 610,
465
+ 612,
466
+ 613,
467
+ 614,
468
+ 616,
469
+ 617,
470
+ 619,
471
+ 622,
472
+ 623,
473
+ 624,
474
+ 625,
475
+ 626,
476
+ 627,
477
+ 628,
478
+ 629,
479
+ 630,
480
+ 631,
481
+ 632,
482
+ 634,
483
+ 635,
484
+ 636,
485
+ 637,
486
+ 638,
487
+ 639,
488
+ 640,
489
+ 643,
490
+ 644,
491
+ 645,
492
+ 646,
493
+ 647,
494
+ 648,
495
+ 650,
496
+ 651,
497
+ 652,
498
+ 653,
499
+ 654,
500
+ 655,
501
+ 656,
502
+ 658,
503
+ 659,
504
+ 660,
505
+ 661,
506
+ 663,
507
+ 665,
508
+ 666,
509
+ 667,
510
+ 669,
511
+ 670,
512
+ 671,
513
+ 672,
514
+ 673,
515
+ 674,
516
+ 675,
517
+ 676,
518
+ 678,
519
+ 679,
520
+ 680,
521
+ 681,
522
+ 682,
523
+ 683,
524
+ 684,
525
+ 686,
526
+ 687,
527
+ 688,
528
+ 689,
529
+ 690,
530
+ 691,
531
+ 693,
532
+ 694,
533
+ 695,
534
+ 696,
535
+ 697,
536
+ 698,
537
+ 700,
538
+ 701,
539
+ 702,
540
+ 703,
541
+ 704,
542
+ 706,
543
+ 708,
544
+ 709,
545
+ 711,
546
+ 712,
547
+ 713,
548
+ 714,
549
+ 717,
550
+ 718,
551
+ 719,
552
+ 720,
553
+ 722,
554
+ 725,
555
+ 726,
556
+ 728,
557
+ 729,
558
+ 730,
559
+ 732,
560
+ 733,
561
+ 736,
562
+ 737,
563
+ 738,
564
+ 740,
565
+ 741,
566
+ 742,
567
+ 743,
568
+ 744,
569
+ 745,
570
+ 746,
571
+ 747,
572
+ 748,
573
+ 751,
574
+ 752,
575
+ 753,
576
+ 754,
577
+ 756,
578
+ 757,
579
+ 759,
580
+ 760,
581
+ 762,
582
+ 763,
583
+ 764,
584
+ 765,
585
+ 766,
586
+ 767,
587
+ 768,
588
+ 769,
589
+ 770,
590
+ 771,
591
+ 775,
592
+ 776,
593
+ 778,
594
+ 779,
595
+ 780,
596
+ 781,
597
+ 782,
598
+ 783,
599
+ 785,
600
+ 788,
601
+ 790,
602
+ 793,
603
+ 794,
604
+ 795,
605
+ 796,
606
+ 798,
607
+ 799,
608
+ 800,
609
+ 801,
610
+ 802,
611
+ 804,
612
+ 805,
613
+ 806,
614
+ 807,
615
+ 809,
616
+ 810,
617
+ 811,
618
+ 812,
619
+ 813,
620
+ 815,
621
+ 817,
622
+ 818,
623
+ 819,
624
+ 820,
625
+ 821,
626
+ 822,
627
+ 824,
628
+ 829,
629
+ 831,
630
+ 832,
631
+ 833,
632
+ 834,
633
+ 835,
634
+ 836,
635
+ 838,
636
+ 840,
637
+ 842,
638
+ 844,
639
+ 845,
640
+ 847,
641
+ 848,
642
+ 851,
643
+ 852,
644
+ 853,
645
+ 854,
646
+ 855,
647
+ 857,
648
+ 858,
649
+ 860,
650
+ 861,
651
+ 863,
652
+ 864,
653
+ 865,
654
+ 866,
655
+ 867,
656
+ 870,
657
+ 871,
658
+ 872,
659
+ 873,
660
+ 874,
661
+ 875,
662
+ 876,
663
+ 877,
664
+ 878,
665
+ 879,
666
+ 880,
667
+ 881,
668
+ 884,
669
+ 886,
670
+ 887,
671
+ 889,
672
+ 890,
673
+ 892,
674
+ 895,
675
+ 896,
676
+ 898,
677
+ 899,
678
+ 900,
679
+ 901,
680
+ 905,
681
+ 906,
682
+ 910,
683
+ 911,
684
+ 912,
685
+ 913,
686
+ 914,
687
+ 916,
688
+ 918,
689
+ 919,
690
+ 921,
691
+ 923,
692
+ 925,
693
+ 927,
694
+ 928,
695
+ 929,
696
+ 931,
697
+ 932,
698
+ 933,
699
+ 934,
700
+ 935,
701
+ 937,
702
+ 939,
703
+ 941,
704
+ 943,
705
+ 945,
706
+ 947,
707
+ 949,
708
+ 950,
709
+ 951,
710
+ 952,
711
+ 953,
712
+ 954,
713
+ 955,
714
+ 957,
715
+ 959,
716
+ 960,
717
+ 961,
718
+ 964,
719
+ 965,
720
+ 966,
721
+ 967,
722
+ 969,
723
+ 970,
724
+ 972,
725
+ 973,
726
+ 974,
727
+ 976,
728
+ 980,
729
+ 982,
730
+ 983,
731
+ 984,
732
+ 985,
733
+ 986,
734
+ 989,
735
+ 990,
736
+ 991,
737
+ 992,
738
+ 993,
739
+ 994
740
+ ],
741
+ "not_both_correct_indices": [
742
+ 1,
743
+ 14,
744
+ 16,
745
+ 18,
746
+ 21,
747
+ 23,
748
+ 26,
749
+ 27,
750
+ 30,
751
+ 32,
752
+ 33,
753
+ 38,
754
+ 39,
755
+ 43,
756
+ 48,
757
+ 50,
758
+ 54,
759
+ 68,
760
+ 69,
761
+ 70,
762
+ 72,
763
+ 76,
764
+ 77,
765
+ 82,
766
+ 84,
767
+ 94,
768
+ 96,
769
+ 99,
770
+ 101,
771
+ 104,
772
+ 105,
773
+ 107,
774
+ 110,
775
+ 111,
776
+ 113,
777
+ 118,
778
+ 120,
779
+ 129,
780
+ 134,
781
+ 136,
782
+ 138,
783
+ 140,
784
+ 141,
785
+ 144,
786
+ 158,
787
+ 159,
788
+ 162,
789
+ 166,
790
+ 167,
791
+ 170,
792
+ 171,
793
+ 177,
794
+ 178,
795
+ 179,
796
+ 181,
797
+ 188,
798
+ 189,
799
+ 192,
800
+ 199,
801
+ 202,
802
+ 203,
803
+ 209,
804
+ 219,
805
+ 231,
806
+ 242,
807
+ 243,
808
+ 244,
809
+ 256,
810
+ 257,
811
+ 258,
812
+ 260,
813
+ 266,
814
+ 272,
815
+ 273,
816
+ 276,
817
+ 277,
818
+ 281,
819
+ 290,
820
+ 293,
821
+ 296,
822
+ 299,
823
+ 301,
824
+ 302,
825
+ 304,
826
+ 305,
827
+ 310,
828
+ 318,
829
+ 320,
830
+ 333,
831
+ 337,
832
+ 338,
833
+ 341,
834
+ 344,
835
+ 359,
836
+ 365,
837
+ 371,
838
+ 375,
839
+ 390,
840
+ 394,
841
+ 396,
842
+ 397,
843
+ 402,
844
+ 405,
845
+ 407,
846
+ 414,
847
+ 415,
848
+ 416,
849
+ 419,
850
+ 422,
851
+ 423,
852
+ 424,
853
+ 434,
854
+ 438,
855
+ 446,
856
+ 449,
857
+ 455,
858
+ 456,
859
+ 457,
860
+ 458,
861
+ 460,
862
+ 463,
863
+ 468,
864
+ 476,
865
+ 479,
866
+ 482,
867
+ 484,
868
+ 486,
869
+ 487,
870
+ 489,
871
+ 490,
872
+ 502,
873
+ 514,
874
+ 515,
875
+ 517,
876
+ 518,
877
+ 523,
878
+ 529,
879
+ 530,
880
+ 534,
881
+ 536,
882
+ 542,
883
+ 547,
884
+ 548,
885
+ 552,
886
+ 560,
887
+ 562,
888
+ 566,
889
+ 573,
890
+ 575,
891
+ 579,
892
+ 582,
893
+ 599,
894
+ 600,
895
+ 603,
896
+ 605,
897
+ 606,
898
+ 608,
899
+ 611,
900
+ 615,
901
+ 618,
902
+ 620,
903
+ 621,
904
+ 633,
905
+ 641,
906
+ 642,
907
+ 649,
908
+ 657,
909
+ 662,
910
+ 664,
911
+ 668,
912
+ 677,
913
+ 685,
914
+ 692,
915
+ 699,
916
+ 705,
917
+ 707,
918
+ 710,
919
+ 715,
920
+ 716,
921
+ 721,
922
+ 723,
923
+ 724,
924
+ 727,
925
+ 731,
926
+ 734,
927
+ 735,
928
+ 739,
929
+ 749,
930
+ 750,
931
+ 755,
932
+ 758,
933
+ 761,
934
+ 772,
935
+ 773,
936
+ 774,
937
+ 777,
938
+ 784,
939
+ 786,
940
+ 787,
941
+ 789,
942
+ 791,
943
+ 792,
944
+ 797,
945
+ 803,
946
+ 808,
947
+ 814,
948
+ 816,
949
+ 823,
950
+ 825,
951
+ 826,
952
+ 827,
953
+ 828,
954
+ 830,
955
+ 837,
956
+ 839,
957
+ 841,
958
+ 843,
959
+ 846,
960
+ 849,
961
+ 850,
962
+ 856,
963
+ 859,
964
+ 862,
965
+ 868,
966
+ 869,
967
+ 882,
968
+ 883,
969
+ 885,
970
+ 888,
971
+ 891,
972
+ 893,
973
+ 894,
974
+ 897,
975
+ 902,
976
+ 903,
977
+ 904,
978
+ 907,
979
+ 908,
980
+ 909,
981
+ 915,
982
+ 917,
983
+ 920,
984
+ 922,
985
+ 924,
986
+ 926,
987
+ 930,
988
+ 936,
989
+ 938,
990
+ 940,
991
+ 942,
992
+ 944,
993
+ 946,
994
+ 948,
995
+ 956,
996
+ 958,
997
+ 962,
998
+ 963,
999
+ 968,
1000
+ 971,
1001
+ 975,
1002
+ 977,
1003
+ 978,
1004
+ 979,
1005
+ 981,
1006
+ 987,
1007
+ 988
1008
+ ],
1009
+ "clean_baseline": 7.55859375,
1010
+ "corrupted_baseline": -7.57421875
1011
+ }
results/allenai_OLMo-2-0325-32B-Instruct/MD/simple_equation/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:0019b83bc9df14d96cc31fc06297ec31c3830d4e4e046e06bda7e355136827da
3
+ size 14157430
results/allenai_OLMo-2-0325-32B-Instruct/MD/simple_equation/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:83161d2296af52e85e20f5272549bf38600ca72aca12ac7e95961a5258e33e91
3
+ size 6860168
results/allenai_OLMo-2-0325-32B-Instruct/ToM/agent/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/allenai_OLMo-2-0325-32B-Instruct/ToM/agent/baselines.json ADDED
@@ -0,0 +1,961 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 945,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 945,
6
+ "clean_accuracy": 0.8952380952380953,
7
+ "corrupted_accuracy": 0.9142857142857143,
8
+ "both_correct_accuracy": 0.8222222222222222,
9
+ "n_both_correct": 777,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 4,
14
+ 6,
15
+ 7,
16
+ 8,
17
+ 9,
18
+ 10,
19
+ 12,
20
+ 13,
21
+ 14,
22
+ 16,
23
+ 17,
24
+ 18,
25
+ 19,
26
+ 21,
27
+ 22,
28
+ 23,
29
+ 24,
30
+ 26,
31
+ 28,
32
+ 30,
33
+ 31,
34
+ 32,
35
+ 36,
36
+ 37,
37
+ 38,
38
+ 39,
39
+ 40,
40
+ 41,
41
+ 42,
42
+ 43,
43
+ 45,
44
+ 46,
45
+ 47,
46
+ 48,
47
+ 49,
48
+ 50,
49
+ 51,
50
+ 52,
51
+ 53,
52
+ 54,
53
+ 55,
54
+ 56,
55
+ 57,
56
+ 59,
57
+ 60,
58
+ 61,
59
+ 62,
60
+ 63,
61
+ 64,
62
+ 65,
63
+ 66,
64
+ 68,
65
+ 70,
66
+ 71,
67
+ 72,
68
+ 73,
69
+ 74,
70
+ 75,
71
+ 76,
72
+ 77,
73
+ 79,
74
+ 80,
75
+ 81,
76
+ 82,
77
+ 83,
78
+ 84,
79
+ 85,
80
+ 86,
81
+ 87,
82
+ 88,
83
+ 90,
84
+ 91,
85
+ 92,
86
+ 93,
87
+ 94,
88
+ 95,
89
+ 96,
90
+ 97,
91
+ 99,
92
+ 100,
93
+ 101,
94
+ 102,
95
+ 103,
96
+ 104,
97
+ 105,
98
+ 107,
99
+ 108,
100
+ 109,
101
+ 110,
102
+ 111,
103
+ 112,
104
+ 113,
105
+ 114,
106
+ 115,
107
+ 116,
108
+ 117,
109
+ 118,
110
+ 119,
111
+ 120,
112
+ 121,
113
+ 122,
114
+ 123,
115
+ 124,
116
+ 125,
117
+ 126,
118
+ 127,
119
+ 128,
120
+ 129,
121
+ 131,
122
+ 132,
123
+ 133,
124
+ 136,
125
+ 137,
126
+ 138,
127
+ 139,
128
+ 140,
129
+ 141,
130
+ 143,
131
+ 144,
132
+ 145,
133
+ 146,
134
+ 147,
135
+ 148,
136
+ 149,
137
+ 150,
138
+ 151,
139
+ 153,
140
+ 154,
141
+ 155,
142
+ 156,
143
+ 157,
144
+ 158,
145
+ 159,
146
+ 160,
147
+ 161,
148
+ 162,
149
+ 163,
150
+ 164,
151
+ 165,
152
+ 166,
153
+ 167,
154
+ 168,
155
+ 169,
156
+ 170,
157
+ 171,
158
+ 172,
159
+ 173,
160
+ 175,
161
+ 176,
162
+ 177,
163
+ 178,
164
+ 179,
165
+ 180,
166
+ 181,
167
+ 182,
168
+ 183,
169
+ 184,
170
+ 185,
171
+ 186,
172
+ 187,
173
+ 188,
174
+ 189,
175
+ 190,
176
+ 191,
177
+ 192,
178
+ 193,
179
+ 194,
180
+ 195,
181
+ 197,
182
+ 198,
183
+ 199,
184
+ 200,
185
+ 201,
186
+ 202,
187
+ 204,
188
+ 207,
189
+ 214,
190
+ 216,
191
+ 218,
192
+ 221,
193
+ 222,
194
+ 223,
195
+ 224,
196
+ 225,
197
+ 226,
198
+ 227,
199
+ 228,
200
+ 229,
201
+ 230,
202
+ 231,
203
+ 233,
204
+ 237,
205
+ 238,
206
+ 240,
207
+ 241,
208
+ 242,
209
+ 243,
210
+ 244,
211
+ 245,
212
+ 246,
213
+ 247,
214
+ 248,
215
+ 249,
216
+ 250,
217
+ 254,
218
+ 256,
219
+ 257,
220
+ 258,
221
+ 259,
222
+ 260,
223
+ 263,
224
+ 265,
225
+ 268,
226
+ 270,
227
+ 272,
228
+ 273,
229
+ 274,
230
+ 275,
231
+ 276,
232
+ 277,
233
+ 281,
234
+ 283,
235
+ 284,
236
+ 285,
237
+ 286,
238
+ 287,
239
+ 288,
240
+ 289,
241
+ 292,
242
+ 293,
243
+ 294,
244
+ 295,
245
+ 296,
246
+ 297,
247
+ 298,
248
+ 299,
249
+ 300,
250
+ 301,
251
+ 302,
252
+ 303,
253
+ 305,
254
+ 306,
255
+ 307,
256
+ 308,
257
+ 309,
258
+ 310,
259
+ 311,
260
+ 314,
261
+ 316,
262
+ 317,
263
+ 318,
264
+ 319,
265
+ 320,
266
+ 321,
267
+ 322,
268
+ 323,
269
+ 325,
270
+ 326,
271
+ 327,
272
+ 328,
273
+ 329,
274
+ 330,
275
+ 331,
276
+ 332,
277
+ 333,
278
+ 334,
279
+ 340,
280
+ 341,
281
+ 342,
282
+ 344,
283
+ 345,
284
+ 346,
285
+ 347,
286
+ 348,
287
+ 349,
288
+ 350,
289
+ 351,
290
+ 352,
291
+ 353,
292
+ 354,
293
+ 356,
294
+ 357,
295
+ 362,
296
+ 363,
297
+ 364,
298
+ 365,
299
+ 366,
300
+ 367,
301
+ 368,
302
+ 369,
303
+ 370,
304
+ 371,
305
+ 372,
306
+ 373,
307
+ 374,
308
+ 375,
309
+ 376,
310
+ 378,
311
+ 379,
312
+ 380,
313
+ 384,
314
+ 385,
315
+ 386,
316
+ 387,
317
+ 388,
318
+ 389,
319
+ 390,
320
+ 391,
321
+ 392,
322
+ 393,
323
+ 394,
324
+ 395,
325
+ 396,
326
+ 397,
327
+ 398,
328
+ 400,
329
+ 401,
330
+ 406,
331
+ 407,
332
+ 408,
333
+ 409,
334
+ 410,
335
+ 411,
336
+ 412,
337
+ 413,
338
+ 414,
339
+ 415,
340
+ 416,
341
+ 417,
342
+ 418,
343
+ 419,
344
+ 420,
345
+ 422,
346
+ 423,
347
+ 424,
348
+ 425,
349
+ 428,
350
+ 429,
351
+ 430,
352
+ 431,
353
+ 432,
354
+ 433,
355
+ 434,
356
+ 435,
357
+ 436,
358
+ 437,
359
+ 438,
360
+ 439,
361
+ 440,
362
+ 441,
363
+ 442,
364
+ 443,
365
+ 444,
366
+ 445,
367
+ 449,
368
+ 451,
369
+ 452,
370
+ 453,
371
+ 455,
372
+ 456,
373
+ 457,
374
+ 458,
375
+ 459,
376
+ 460,
377
+ 461,
378
+ 462,
379
+ 463,
380
+ 465,
381
+ 467,
382
+ 468,
383
+ 471,
384
+ 472,
385
+ 473,
386
+ 474,
387
+ 475,
388
+ 477,
389
+ 478,
390
+ 479,
391
+ 480,
392
+ 481,
393
+ 482,
394
+ 483,
395
+ 485,
396
+ 486,
397
+ 487,
398
+ 488,
399
+ 489,
400
+ 490,
401
+ 493,
402
+ 495,
403
+ 496,
404
+ 497,
405
+ 498,
406
+ 499,
407
+ 500,
408
+ 501,
409
+ 502,
410
+ 503,
411
+ 504,
412
+ 505,
413
+ 506,
414
+ 507,
415
+ 508,
416
+ 509,
417
+ 510,
418
+ 511,
419
+ 513,
420
+ 515,
421
+ 517,
422
+ 518,
423
+ 519,
424
+ 521,
425
+ 523,
426
+ 524,
427
+ 525,
428
+ 526,
429
+ 527,
430
+ 529,
431
+ 530,
432
+ 531,
433
+ 532,
434
+ 533,
435
+ 534,
436
+ 537,
437
+ 539,
438
+ 540,
439
+ 541,
440
+ 543,
441
+ 544,
442
+ 545,
443
+ 546,
444
+ 547,
445
+ 548,
446
+ 549,
447
+ 551,
448
+ 552,
449
+ 553,
450
+ 554,
451
+ 555,
452
+ 556,
453
+ 558,
454
+ 559,
455
+ 566,
456
+ 567,
457
+ 568,
458
+ 570,
459
+ 571,
460
+ 572,
461
+ 573,
462
+ 574,
463
+ 575,
464
+ 578,
465
+ 579,
466
+ 580,
467
+ 581,
468
+ 582,
469
+ 583,
470
+ 584,
471
+ 585,
472
+ 586,
473
+ 587,
474
+ 588,
475
+ 589,
476
+ 590,
477
+ 591,
478
+ 592,
479
+ 593,
480
+ 594,
481
+ 595,
482
+ 596,
483
+ 597,
484
+ 598,
485
+ 599,
486
+ 600,
487
+ 601,
488
+ 602,
489
+ 603,
490
+ 610,
491
+ 611,
492
+ 612,
493
+ 613,
494
+ 614,
495
+ 615,
496
+ 616,
497
+ 617,
498
+ 618,
499
+ 619,
500
+ 622,
501
+ 623,
502
+ 624,
503
+ 626,
504
+ 627,
505
+ 628,
506
+ 629,
507
+ 630,
508
+ 631,
509
+ 632,
510
+ 633,
511
+ 634,
512
+ 635,
513
+ 636,
514
+ 638,
515
+ 639,
516
+ 640,
517
+ 641,
518
+ 642,
519
+ 643,
520
+ 644,
521
+ 645,
522
+ 646,
523
+ 647,
524
+ 648,
525
+ 651,
526
+ 654,
527
+ 655,
528
+ 656,
529
+ 657,
530
+ 658,
531
+ 659,
532
+ 660,
533
+ 661,
534
+ 662,
535
+ 663,
536
+ 666,
537
+ 667,
538
+ 668,
539
+ 669,
540
+ 670,
541
+ 671,
542
+ 672,
543
+ 673,
544
+ 674,
545
+ 675,
546
+ 676,
547
+ 677,
548
+ 678,
549
+ 679,
550
+ 680,
551
+ 681,
552
+ 682,
553
+ 683,
554
+ 684,
555
+ 686,
556
+ 687,
557
+ 688,
558
+ 689,
559
+ 690,
560
+ 691,
561
+ 692,
562
+ 698,
563
+ 699,
564
+ 700,
565
+ 701,
566
+ 702,
567
+ 703,
568
+ 704,
569
+ 705,
570
+ 706,
571
+ 707,
572
+ 708,
573
+ 709,
574
+ 710,
575
+ 711,
576
+ 712,
577
+ 713,
578
+ 714,
579
+ 715,
580
+ 716,
581
+ 717,
582
+ 718,
583
+ 719,
584
+ 720,
585
+ 721,
586
+ 722,
587
+ 723,
588
+ 724,
589
+ 725,
590
+ 726,
591
+ 727,
592
+ 728,
593
+ 729,
594
+ 730,
595
+ 731,
596
+ 732,
597
+ 733,
598
+ 734,
599
+ 735,
600
+ 736,
601
+ 737,
602
+ 739,
603
+ 742,
604
+ 743,
605
+ 744,
606
+ 745,
607
+ 746,
608
+ 747,
609
+ 748,
610
+ 749,
611
+ 750,
612
+ 751,
613
+ 752,
614
+ 754,
615
+ 755,
616
+ 756,
617
+ 757,
618
+ 758,
619
+ 759,
620
+ 760,
621
+ 761,
622
+ 762,
623
+ 763,
624
+ 764,
625
+ 765,
626
+ 766,
627
+ 767,
628
+ 768,
629
+ 769,
630
+ 770,
631
+ 771,
632
+ 772,
633
+ 773,
634
+ 774,
635
+ 775,
636
+ 776,
637
+ 777,
638
+ 778,
639
+ 779,
640
+ 780,
641
+ 781,
642
+ 782,
643
+ 783,
644
+ 784,
645
+ 785,
646
+ 786,
647
+ 787,
648
+ 788,
649
+ 789,
650
+ 790,
651
+ 791,
652
+ 792,
653
+ 793,
654
+ 794,
655
+ 795,
656
+ 796,
657
+ 797,
658
+ 798,
659
+ 799,
660
+ 800,
661
+ 801,
662
+ 802,
663
+ 803,
664
+ 804,
665
+ 805,
666
+ 806,
667
+ 807,
668
+ 808,
669
+ 809,
670
+ 810,
671
+ 811,
672
+ 812,
673
+ 813,
674
+ 814,
675
+ 815,
676
+ 816,
677
+ 817,
678
+ 818,
679
+ 819,
680
+ 820,
681
+ 821,
682
+ 822,
683
+ 823,
684
+ 824,
685
+ 825,
686
+ 826,
687
+ 827,
688
+ 828,
689
+ 829,
690
+ 830,
691
+ 831,
692
+ 832,
693
+ 833,
694
+ 834,
695
+ 835,
696
+ 836,
697
+ 837,
698
+ 838,
699
+ 839,
700
+ 840,
701
+ 842,
702
+ 844,
703
+ 846,
704
+ 848,
705
+ 849,
706
+ 850,
707
+ 852,
708
+ 853,
709
+ 854,
710
+ 855,
711
+ 857,
712
+ 858,
713
+ 859,
714
+ 860,
715
+ 861,
716
+ 862,
717
+ 863,
718
+ 864,
719
+ 865,
720
+ 866,
721
+ 867,
722
+ 868,
723
+ 869,
724
+ 870,
725
+ 871,
726
+ 872,
727
+ 873,
728
+ 874,
729
+ 875,
730
+ 876,
731
+ 877,
732
+ 878,
733
+ 879,
734
+ 880,
735
+ 881,
736
+ 882,
737
+ 883,
738
+ 884,
739
+ 885,
740
+ 886,
741
+ 887,
742
+ 888,
743
+ 889,
744
+ 891,
745
+ 892,
746
+ 893,
747
+ 894,
748
+ 895,
749
+ 896,
750
+ 897,
751
+ 898,
752
+ 899,
753
+ 900,
754
+ 901,
755
+ 902,
756
+ 903,
757
+ 904,
758
+ 905,
759
+ 907,
760
+ 910,
761
+ 911,
762
+ 912,
763
+ 913,
764
+ 914,
765
+ 915,
766
+ 916,
767
+ 917,
768
+ 918,
769
+ 919,
770
+ 920,
771
+ 921,
772
+ 922,
773
+ 923,
774
+ 924,
775
+ 927,
776
+ 928,
777
+ 929,
778
+ 930,
779
+ 931,
780
+ 932,
781
+ 933,
782
+ 934,
783
+ 935,
784
+ 936,
785
+ 937,
786
+ 938,
787
+ 939
788
+ ],
789
+ "not_both_correct_indices": [
790
+ 2,
791
+ 3,
792
+ 5,
793
+ 11,
794
+ 15,
795
+ 20,
796
+ 25,
797
+ 27,
798
+ 29,
799
+ 33,
800
+ 34,
801
+ 35,
802
+ 44,
803
+ 58,
804
+ 67,
805
+ 69,
806
+ 78,
807
+ 89,
808
+ 98,
809
+ 106,
810
+ 130,
811
+ 134,
812
+ 135,
813
+ 142,
814
+ 152,
815
+ 174,
816
+ 196,
817
+ 203,
818
+ 205,
819
+ 206,
820
+ 208,
821
+ 209,
822
+ 210,
823
+ 211,
824
+ 212,
825
+ 213,
826
+ 215,
827
+ 217,
828
+ 219,
829
+ 220,
830
+ 232,
831
+ 234,
832
+ 235,
833
+ 236,
834
+ 239,
835
+ 251,
836
+ 252,
837
+ 253,
838
+ 255,
839
+ 261,
840
+ 262,
841
+ 264,
842
+ 266,
843
+ 267,
844
+ 269,
845
+ 271,
846
+ 278,
847
+ 279,
848
+ 280,
849
+ 282,
850
+ 290,
851
+ 291,
852
+ 304,
853
+ 312,
854
+ 313,
855
+ 315,
856
+ 324,
857
+ 335,
858
+ 336,
859
+ 337,
860
+ 338,
861
+ 339,
862
+ 343,
863
+ 355,
864
+ 358,
865
+ 359,
866
+ 360,
867
+ 361,
868
+ 377,
869
+ 381,
870
+ 382,
871
+ 383,
872
+ 399,
873
+ 402,
874
+ 403,
875
+ 404,
876
+ 405,
877
+ 421,
878
+ 426,
879
+ 427,
880
+ 446,
881
+ 447,
882
+ 448,
883
+ 450,
884
+ 454,
885
+ 464,
886
+ 466,
887
+ 469,
888
+ 470,
889
+ 476,
890
+ 484,
891
+ 491,
892
+ 492,
893
+ 494,
894
+ 512,
895
+ 514,
896
+ 516,
897
+ 520,
898
+ 522,
899
+ 528,
900
+ 535,
901
+ 536,
902
+ 538,
903
+ 542,
904
+ 550,
905
+ 557,
906
+ 560,
907
+ 561,
908
+ 562,
909
+ 563,
910
+ 564,
911
+ 565,
912
+ 569,
913
+ 576,
914
+ 577,
915
+ 604,
916
+ 605,
917
+ 606,
918
+ 607,
919
+ 608,
920
+ 609,
921
+ 620,
922
+ 621,
923
+ 625,
924
+ 637,
925
+ 649,
926
+ 650,
927
+ 652,
928
+ 653,
929
+ 664,
930
+ 665,
931
+ 685,
932
+ 693,
933
+ 694,
934
+ 695,
935
+ 696,
936
+ 697,
937
+ 738,
938
+ 740,
939
+ 741,
940
+ 753,
941
+ 841,
942
+ 843,
943
+ 845,
944
+ 847,
945
+ 851,
946
+ 856,
947
+ 890,
948
+ 906,
949
+ 908,
950
+ 909,
951
+ 925,
952
+ 926,
953
+ 940,
954
+ 941,
955
+ 942,
956
+ 943,
957
+ 944
958
+ ],
959
+ "clean_baseline": 10.28125,
960
+ "corrupted_baseline": -10.984375
961
+ }