barryhpr commited on
Commit
40d7667
·
verified ·
1 Parent(s): ad5642c

Add attribution tensors (501-600 of 993)

Browse files
This view is limited to 50 files because it contains too many changes.   See raw diff
Files changed (50) hide show
  1. results/allenai_OLMo-2-0325-32B-Instruct/phys/physics_temperature/attribution_meta.json +1 -0
  2. results/allenai_OLMo-2-0325-32B-Instruct/phys/physics_temperature/baselines.json +1016 -0
  3. results/allenai_OLMo-2-0325-32B-Instruct/phys/physics_temperature/neuron_attribution.pt +3 -0
  4. results/allenai_OLMo-2-0325-32B-Instruct/phys/physics_temperature/sorted_indices_positive.npy +3 -0
  5. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/anaphor_gender_agreement/attribution_meta.json +1 -0
  6. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/anaphor_gender_agreement/baselines.json +1116 -0
  7. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/anaphor_gender_agreement/neuron_attribution.pt +3 -0
  8. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/anaphor_gender_agreement/sorted_indices_positive.npy +3 -0
  9. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_irregular/attribution_meta.json +1 -0
  10. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_irregular/baselines.json +948 -0
  11. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_irregular/neuron_attribution.pt +3 -0
  12. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_irregular/sorted_indices_positive.npy +3 -0
  13. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_regular/attribution_meta.json +1 -0
  14. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_regular/baselines.json +1116 -0
  15. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_regular/neuron_attribution.pt +3 -0
  16. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_regular/sorted_indices_positive.npy +3 -0
  17. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_with_adjective/attribution_meta.json +1 -0
  18. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_with_adjective/baselines.json +1116 -0
  19. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_with_adjective/neuron_attribution.pt +3 -0
  20. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_with_adjective/sorted_indices_positive.npy +3 -0
  21. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/hypernymy/attribution_meta.json +1 -0
  22. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/hypernymy/baselines.json +593 -0
  23. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/hypernymy/neuron_attribution.pt +3 -0
  24. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/hypernymy/sorted_indices_positive.npy +3 -0
  25. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/npi/attribution_meta.json +1 -0
  26. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/npi/baselines.json +320 -0
  27. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/npi/neuron_attribution.pt +3 -0
  28. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/npi/sorted_indices_positive.npy +3 -0
  29. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/wug/attribution_meta.json +1 -0
  30. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/wug/baselines.json +2680 -0
  31. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/wug/neuron_attribution.pt +3 -0
  32. results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/wug/sorted_indices_positive.npy +3 -0
  33. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_symbolic/attribution_meta.json +1 -0
  34. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_symbolic/baselines.json +1015 -0
  35. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_symbolic/neuron_attribution.pt +3 -0
  36. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_symbolic/sorted_indices_positive.npy +3 -0
  37. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_verbal/attribution_meta.json +1 -0
  38. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_verbal/baselines.json +1017 -0
  39. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_verbal/neuron_attribution.pt +3 -0
  40. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_verbal/sorted_indices_positive.npy +3 -0
  41. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_symbolic/attribution_meta.json +1 -0
  42. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_symbolic/baselines.json +1016 -0
  43. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_symbolic/neuron_attribution.pt +3 -0
  44. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_symbolic/sorted_indices_positive.npy +3 -0
  45. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_verbal/attribution_meta.json +1 -0
  46. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_verbal/baselines.json +1017 -0
  47. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_verbal/neuron_attribution.pt +3 -0
  48. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_verbal/sorted_indices_positive.npy +3 -0
  49. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/code_A/attribution_meta.json +1 -0
  50. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/code_A/baselines.json +1016 -0
results/allenai_OLMo-2-0325-32B-Instruct/phys/physics_temperature/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/allenai_OLMo-2-0325-32B-Instruct/phys/physics_temperature/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 211,
4
+ "token_misaligned_indices": [
5
+ 15,
6
+ 21,
7
+ 27,
8
+ 29,
9
+ 41,
10
+ 42,
11
+ 43,
12
+ 44,
13
+ 46,
14
+ 57,
15
+ 59,
16
+ 70,
17
+ 73,
18
+ 75,
19
+ 91,
20
+ 92,
21
+ 94,
22
+ 98,
23
+ 100,
24
+ 103,
25
+ 108,
26
+ 111,
27
+ 113,
28
+ 114,
29
+ 119,
30
+ 140,
31
+ 142,
32
+ 143,
33
+ 148,
34
+ 160,
35
+ 166,
36
+ 169,
37
+ 172,
38
+ 174,
39
+ 178,
40
+ 179,
41
+ 187,
42
+ 198,
43
+ 202,
44
+ 205,
45
+ 215,
46
+ 217,
47
+ 218,
48
+ 221,
49
+ 223,
50
+ 231,
51
+ 237,
52
+ 238,
53
+ 241,
54
+ 246,
55
+ 248,
56
+ 251,
57
+ 256,
58
+ 261,
59
+ 263,
60
+ 271,
61
+ 272,
62
+ 273,
63
+ 278,
64
+ 280,
65
+ 284,
66
+ 288,
67
+ 290,
68
+ 300,
69
+ 303,
70
+ 304,
71
+ 306,
72
+ 308,
73
+ 314,
74
+ 329,
75
+ 339,
76
+ 343,
77
+ 348,
78
+ 349,
79
+ 351,
80
+ 364,
81
+ 369,
82
+ 370,
83
+ 371,
84
+ 377,
85
+ 378,
86
+ 379,
87
+ 387,
88
+ 393,
89
+ 396,
90
+ 406,
91
+ 419,
92
+ 421,
93
+ 430,
94
+ 440,
95
+ 442,
96
+ 443,
97
+ 464,
98
+ 466,
99
+ 467,
100
+ 471,
101
+ 474,
102
+ 476,
103
+ 477,
104
+ 478,
105
+ 491,
106
+ 496,
107
+ 501,
108
+ 503,
109
+ 504,
110
+ 505,
111
+ 506,
112
+ 508,
113
+ 509,
114
+ 510,
115
+ 511,
116
+ 524,
117
+ 525,
118
+ 534,
119
+ 536,
120
+ 551,
121
+ 553,
122
+ 555,
123
+ 558,
124
+ 565,
125
+ 567,
126
+ 568,
127
+ 570,
128
+ 572,
129
+ 578,
130
+ 584,
131
+ 596,
132
+ 597,
133
+ 601,
134
+ 608,
135
+ 618,
136
+ 625,
137
+ 626,
138
+ 627,
139
+ 629,
140
+ 639,
141
+ 644,
142
+ 649,
143
+ 651,
144
+ 653,
145
+ 668,
146
+ 669,
147
+ 686,
148
+ 688,
149
+ 697,
150
+ 700,
151
+ 709,
152
+ 711,
153
+ 713,
154
+ 714,
155
+ 717,
156
+ 718,
157
+ 727,
158
+ 729,
159
+ 734,
160
+ 739,
161
+ 747,
162
+ 751,
163
+ 757,
164
+ 761,
165
+ 767,
166
+ 769,
167
+ 778,
168
+ 783,
169
+ 785,
170
+ 787,
171
+ 793,
172
+ 794,
173
+ 799,
174
+ 807,
175
+ 812,
176
+ 816,
177
+ 817,
178
+ 818,
179
+ 819,
180
+ 820,
181
+ 827,
182
+ 833,
183
+ 834,
184
+ 842,
185
+ 851,
186
+ 854,
187
+ 855,
188
+ 861,
189
+ 864,
190
+ 867,
191
+ 868,
192
+ 871,
193
+ 874,
194
+ 878,
195
+ 888,
196
+ 892,
197
+ 916,
198
+ 920,
199
+ 924,
200
+ 927,
201
+ 928,
202
+ 930,
203
+ 934,
204
+ 950,
205
+ 952,
206
+ 953,
207
+ 957,
208
+ 962,
209
+ 963,
210
+ 979,
211
+ 981,
212
+ 985,
213
+ 986,
214
+ 988,
215
+ 997
216
+ ],
217
+ "n_after_alignment_filter": 789,
218
+ "clean_accuracy": 1.0,
219
+ "corrupted_accuracy": 1.0,
220
+ "both_correct_accuracy": 1.0,
221
+ "n_both_correct": 789,
222
+ "both_correct_indices": [
223
+ 0,
224
+ 1,
225
+ 2,
226
+ 3,
227
+ 4,
228
+ 5,
229
+ 6,
230
+ 7,
231
+ 8,
232
+ 9,
233
+ 10,
234
+ 11,
235
+ 12,
236
+ 13,
237
+ 14,
238
+ 16,
239
+ 17,
240
+ 18,
241
+ 19,
242
+ 20,
243
+ 22,
244
+ 23,
245
+ 24,
246
+ 25,
247
+ 26,
248
+ 28,
249
+ 30,
250
+ 31,
251
+ 32,
252
+ 33,
253
+ 34,
254
+ 35,
255
+ 36,
256
+ 37,
257
+ 38,
258
+ 39,
259
+ 40,
260
+ 45,
261
+ 47,
262
+ 48,
263
+ 49,
264
+ 50,
265
+ 51,
266
+ 52,
267
+ 53,
268
+ 54,
269
+ 55,
270
+ 56,
271
+ 58,
272
+ 60,
273
+ 61,
274
+ 62,
275
+ 63,
276
+ 64,
277
+ 65,
278
+ 66,
279
+ 67,
280
+ 68,
281
+ 69,
282
+ 71,
283
+ 72,
284
+ 74,
285
+ 76,
286
+ 77,
287
+ 78,
288
+ 79,
289
+ 80,
290
+ 81,
291
+ 82,
292
+ 83,
293
+ 84,
294
+ 85,
295
+ 86,
296
+ 87,
297
+ 88,
298
+ 89,
299
+ 90,
300
+ 93,
301
+ 95,
302
+ 96,
303
+ 97,
304
+ 99,
305
+ 101,
306
+ 102,
307
+ 104,
308
+ 105,
309
+ 106,
310
+ 107,
311
+ 109,
312
+ 110,
313
+ 112,
314
+ 115,
315
+ 116,
316
+ 117,
317
+ 118,
318
+ 120,
319
+ 121,
320
+ 122,
321
+ 123,
322
+ 124,
323
+ 125,
324
+ 126,
325
+ 127,
326
+ 128,
327
+ 129,
328
+ 130,
329
+ 131,
330
+ 132,
331
+ 133,
332
+ 134,
333
+ 135,
334
+ 136,
335
+ 137,
336
+ 138,
337
+ 139,
338
+ 141,
339
+ 144,
340
+ 145,
341
+ 146,
342
+ 147,
343
+ 149,
344
+ 150,
345
+ 151,
346
+ 152,
347
+ 153,
348
+ 154,
349
+ 155,
350
+ 156,
351
+ 157,
352
+ 158,
353
+ 159,
354
+ 161,
355
+ 162,
356
+ 163,
357
+ 164,
358
+ 165,
359
+ 167,
360
+ 168,
361
+ 170,
362
+ 171,
363
+ 173,
364
+ 175,
365
+ 176,
366
+ 177,
367
+ 180,
368
+ 181,
369
+ 182,
370
+ 183,
371
+ 184,
372
+ 185,
373
+ 186,
374
+ 188,
375
+ 189,
376
+ 190,
377
+ 191,
378
+ 192,
379
+ 193,
380
+ 194,
381
+ 195,
382
+ 196,
383
+ 197,
384
+ 199,
385
+ 200,
386
+ 201,
387
+ 203,
388
+ 204,
389
+ 206,
390
+ 207,
391
+ 208,
392
+ 209,
393
+ 210,
394
+ 211,
395
+ 212,
396
+ 213,
397
+ 214,
398
+ 216,
399
+ 219,
400
+ 220,
401
+ 222,
402
+ 224,
403
+ 225,
404
+ 226,
405
+ 227,
406
+ 228,
407
+ 229,
408
+ 230,
409
+ 232,
410
+ 233,
411
+ 234,
412
+ 235,
413
+ 236,
414
+ 239,
415
+ 240,
416
+ 242,
417
+ 243,
418
+ 244,
419
+ 245,
420
+ 247,
421
+ 249,
422
+ 250,
423
+ 252,
424
+ 253,
425
+ 254,
426
+ 255,
427
+ 257,
428
+ 258,
429
+ 259,
430
+ 260,
431
+ 262,
432
+ 264,
433
+ 265,
434
+ 266,
435
+ 267,
436
+ 268,
437
+ 269,
438
+ 270,
439
+ 274,
440
+ 275,
441
+ 276,
442
+ 277,
443
+ 279,
444
+ 281,
445
+ 282,
446
+ 283,
447
+ 285,
448
+ 286,
449
+ 287,
450
+ 289,
451
+ 291,
452
+ 292,
453
+ 293,
454
+ 294,
455
+ 295,
456
+ 296,
457
+ 297,
458
+ 298,
459
+ 299,
460
+ 301,
461
+ 302,
462
+ 305,
463
+ 307,
464
+ 309,
465
+ 310,
466
+ 311,
467
+ 312,
468
+ 313,
469
+ 315,
470
+ 316,
471
+ 317,
472
+ 318,
473
+ 319,
474
+ 320,
475
+ 321,
476
+ 322,
477
+ 323,
478
+ 324,
479
+ 325,
480
+ 326,
481
+ 327,
482
+ 328,
483
+ 330,
484
+ 331,
485
+ 332,
486
+ 333,
487
+ 334,
488
+ 335,
489
+ 336,
490
+ 337,
491
+ 338,
492
+ 340,
493
+ 341,
494
+ 342,
495
+ 344,
496
+ 345,
497
+ 346,
498
+ 347,
499
+ 350,
500
+ 352,
501
+ 353,
502
+ 354,
503
+ 355,
504
+ 356,
505
+ 357,
506
+ 358,
507
+ 359,
508
+ 360,
509
+ 361,
510
+ 362,
511
+ 363,
512
+ 365,
513
+ 366,
514
+ 367,
515
+ 368,
516
+ 372,
517
+ 373,
518
+ 374,
519
+ 375,
520
+ 376,
521
+ 380,
522
+ 381,
523
+ 382,
524
+ 383,
525
+ 384,
526
+ 385,
527
+ 386,
528
+ 388,
529
+ 389,
530
+ 390,
531
+ 391,
532
+ 392,
533
+ 394,
534
+ 395,
535
+ 397,
536
+ 398,
537
+ 399,
538
+ 400,
539
+ 401,
540
+ 402,
541
+ 403,
542
+ 404,
543
+ 405,
544
+ 407,
545
+ 408,
546
+ 409,
547
+ 410,
548
+ 411,
549
+ 412,
550
+ 413,
551
+ 414,
552
+ 415,
553
+ 416,
554
+ 417,
555
+ 418,
556
+ 420,
557
+ 422,
558
+ 423,
559
+ 424,
560
+ 425,
561
+ 426,
562
+ 427,
563
+ 428,
564
+ 429,
565
+ 431,
566
+ 432,
567
+ 433,
568
+ 434,
569
+ 435,
570
+ 436,
571
+ 437,
572
+ 438,
573
+ 439,
574
+ 441,
575
+ 444,
576
+ 445,
577
+ 446,
578
+ 447,
579
+ 448,
580
+ 449,
581
+ 450,
582
+ 451,
583
+ 452,
584
+ 453,
585
+ 454,
586
+ 455,
587
+ 456,
588
+ 457,
589
+ 458,
590
+ 459,
591
+ 460,
592
+ 461,
593
+ 462,
594
+ 463,
595
+ 465,
596
+ 468,
597
+ 469,
598
+ 470,
599
+ 472,
600
+ 473,
601
+ 475,
602
+ 479,
603
+ 480,
604
+ 481,
605
+ 482,
606
+ 483,
607
+ 484,
608
+ 485,
609
+ 486,
610
+ 487,
611
+ 488,
612
+ 489,
613
+ 490,
614
+ 492,
615
+ 493,
616
+ 494,
617
+ 495,
618
+ 497,
619
+ 498,
620
+ 499,
621
+ 500,
622
+ 502,
623
+ 507,
624
+ 512,
625
+ 513,
626
+ 514,
627
+ 515,
628
+ 516,
629
+ 517,
630
+ 518,
631
+ 519,
632
+ 520,
633
+ 521,
634
+ 522,
635
+ 523,
636
+ 526,
637
+ 527,
638
+ 528,
639
+ 529,
640
+ 530,
641
+ 531,
642
+ 532,
643
+ 533,
644
+ 535,
645
+ 537,
646
+ 538,
647
+ 539,
648
+ 540,
649
+ 541,
650
+ 542,
651
+ 543,
652
+ 544,
653
+ 545,
654
+ 546,
655
+ 547,
656
+ 548,
657
+ 549,
658
+ 550,
659
+ 552,
660
+ 554,
661
+ 556,
662
+ 557,
663
+ 559,
664
+ 560,
665
+ 561,
666
+ 562,
667
+ 563,
668
+ 564,
669
+ 566,
670
+ 569,
671
+ 571,
672
+ 573,
673
+ 574,
674
+ 575,
675
+ 576,
676
+ 577,
677
+ 579,
678
+ 580,
679
+ 581,
680
+ 582,
681
+ 583,
682
+ 585,
683
+ 586,
684
+ 587,
685
+ 588,
686
+ 589,
687
+ 590,
688
+ 591,
689
+ 592,
690
+ 593,
691
+ 594,
692
+ 595,
693
+ 598,
694
+ 599,
695
+ 600,
696
+ 602,
697
+ 603,
698
+ 604,
699
+ 605,
700
+ 606,
701
+ 607,
702
+ 609,
703
+ 610,
704
+ 611,
705
+ 612,
706
+ 613,
707
+ 614,
708
+ 615,
709
+ 616,
710
+ 617,
711
+ 619,
712
+ 620,
713
+ 621,
714
+ 622,
715
+ 623,
716
+ 624,
717
+ 628,
718
+ 630,
719
+ 631,
720
+ 632,
721
+ 633,
722
+ 634,
723
+ 635,
724
+ 636,
725
+ 637,
726
+ 638,
727
+ 640,
728
+ 641,
729
+ 642,
730
+ 643,
731
+ 645,
732
+ 646,
733
+ 647,
734
+ 648,
735
+ 650,
736
+ 652,
737
+ 654,
738
+ 655,
739
+ 656,
740
+ 657,
741
+ 658,
742
+ 659,
743
+ 660,
744
+ 661,
745
+ 662,
746
+ 663,
747
+ 664,
748
+ 665,
749
+ 666,
750
+ 667,
751
+ 670,
752
+ 671,
753
+ 672,
754
+ 673,
755
+ 674,
756
+ 675,
757
+ 676,
758
+ 677,
759
+ 678,
760
+ 679,
761
+ 680,
762
+ 681,
763
+ 682,
764
+ 683,
765
+ 684,
766
+ 685,
767
+ 687,
768
+ 689,
769
+ 690,
770
+ 691,
771
+ 692,
772
+ 693,
773
+ 694,
774
+ 695,
775
+ 696,
776
+ 698,
777
+ 699,
778
+ 701,
779
+ 702,
780
+ 703,
781
+ 704,
782
+ 705,
783
+ 706,
784
+ 707,
785
+ 708,
786
+ 710,
787
+ 712,
788
+ 715,
789
+ 716,
790
+ 719,
791
+ 720,
792
+ 721,
793
+ 722,
794
+ 723,
795
+ 724,
796
+ 725,
797
+ 726,
798
+ 728,
799
+ 730,
800
+ 731,
801
+ 732,
802
+ 733,
803
+ 735,
804
+ 736,
805
+ 737,
806
+ 738,
807
+ 740,
808
+ 741,
809
+ 742,
810
+ 743,
811
+ 744,
812
+ 745,
813
+ 746,
814
+ 748,
815
+ 749,
816
+ 750,
817
+ 752,
818
+ 753,
819
+ 754,
820
+ 755,
821
+ 756,
822
+ 758,
823
+ 759,
824
+ 760,
825
+ 762,
826
+ 763,
827
+ 764,
828
+ 765,
829
+ 766,
830
+ 768,
831
+ 770,
832
+ 771,
833
+ 772,
834
+ 773,
835
+ 774,
836
+ 775,
837
+ 776,
838
+ 777,
839
+ 779,
840
+ 780,
841
+ 781,
842
+ 782,
843
+ 784,
844
+ 786,
845
+ 788,
846
+ 789,
847
+ 790,
848
+ 791,
849
+ 792,
850
+ 795,
851
+ 796,
852
+ 797,
853
+ 798,
854
+ 800,
855
+ 801,
856
+ 802,
857
+ 803,
858
+ 804,
859
+ 805,
860
+ 806,
861
+ 808,
862
+ 809,
863
+ 810,
864
+ 811,
865
+ 813,
866
+ 814,
867
+ 815,
868
+ 821,
869
+ 822,
870
+ 823,
871
+ 824,
872
+ 825,
873
+ 826,
874
+ 828,
875
+ 829,
876
+ 830,
877
+ 831,
878
+ 832,
879
+ 835,
880
+ 836,
881
+ 837,
882
+ 838,
883
+ 839,
884
+ 840,
885
+ 841,
886
+ 843,
887
+ 844,
888
+ 845,
889
+ 846,
890
+ 847,
891
+ 848,
892
+ 849,
893
+ 850,
894
+ 852,
895
+ 853,
896
+ 856,
897
+ 857,
898
+ 858,
899
+ 859,
900
+ 860,
901
+ 862,
902
+ 863,
903
+ 865,
904
+ 866,
905
+ 869,
906
+ 870,
907
+ 872,
908
+ 873,
909
+ 875,
910
+ 876,
911
+ 877,
912
+ 879,
913
+ 880,
914
+ 881,
915
+ 882,
916
+ 883,
917
+ 884,
918
+ 885,
919
+ 886,
920
+ 887,
921
+ 889,
922
+ 890,
923
+ 891,
924
+ 893,
925
+ 894,
926
+ 895,
927
+ 896,
928
+ 897,
929
+ 898,
930
+ 899,
931
+ 900,
932
+ 901,
933
+ 902,
934
+ 903,
935
+ 904,
936
+ 905,
937
+ 906,
938
+ 907,
939
+ 908,
940
+ 909,
941
+ 910,
942
+ 911,
943
+ 912,
944
+ 913,
945
+ 914,
946
+ 915,
947
+ 917,
948
+ 918,
949
+ 919,
950
+ 921,
951
+ 922,
952
+ 923,
953
+ 925,
954
+ 926,
955
+ 929,
956
+ 931,
957
+ 932,
958
+ 933,
959
+ 935,
960
+ 936,
961
+ 937,
962
+ 938,
963
+ 939,
964
+ 940,
965
+ 941,
966
+ 942,
967
+ 943,
968
+ 944,
969
+ 945,
970
+ 946,
971
+ 947,
972
+ 948,
973
+ 949,
974
+ 951,
975
+ 954,
976
+ 955,
977
+ 956,
978
+ 958,
979
+ 959,
980
+ 960,
981
+ 961,
982
+ 964,
983
+ 965,
984
+ 966,
985
+ 967,
986
+ 968,
987
+ 969,
988
+ 970,
989
+ 971,
990
+ 972,
991
+ 973,
992
+ 974,
993
+ 975,
994
+ 976,
995
+ 977,
996
+ 978,
997
+ 980,
998
+ 982,
999
+ 983,
1000
+ 984,
1001
+ 987,
1002
+ 989,
1003
+ 990,
1004
+ 991,
1005
+ 992,
1006
+ 993,
1007
+ 994,
1008
+ 995,
1009
+ 996,
1010
+ 998,
1011
+ 999
1012
+ ],
1013
+ "not_both_correct_indices": [],
1014
+ "clean_baseline": 11.7421875,
1015
+ "corrupted_baseline": -11.84375
1016
+ }
results/allenai_OLMo-2-0325-32B-Instruct/phys/physics_temperature/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4354fe17ede4c48194a609f40e49094d162ca566d2258dfad49e5fd93f4ae296
3
+ size 14157430
results/allenai_OLMo-2-0325-32B-Instruct/phys/physics_temperature/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:32b1c6b6689633bfcc2fa2881cf82b14b7781707a081765eb99952de10a744bd
3
+ size 6777776
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/anaphor_gender_agreement/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/anaphor_gender_agreement/baselines.json ADDED
@@ -0,0 +1,1116 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1100,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1100,
6
+ "clean_accuracy": 0.8545454545454545,
7
+ "corrupted_accuracy": 0.8745454545454545,
8
+ "both_correct_accuracy": 0.7290909090909091,
9
+ "n_both_correct": 802,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 5,
14
+ 7,
15
+ 8,
16
+ 9,
17
+ 10,
18
+ 11,
19
+ 13,
20
+ 16,
21
+ 18,
22
+ 19,
23
+ 22,
24
+ 24,
25
+ 25,
26
+ 26,
27
+ 29,
28
+ 30,
29
+ 32,
30
+ 33,
31
+ 34,
32
+ 35,
33
+ 36,
34
+ 37,
35
+ 39,
36
+ 40,
37
+ 41,
38
+ 42,
39
+ 43,
40
+ 44,
41
+ 45,
42
+ 46,
43
+ 47,
44
+ 48,
45
+ 49,
46
+ 50,
47
+ 51,
48
+ 52,
49
+ 53,
50
+ 55,
51
+ 56,
52
+ 57,
53
+ 62,
54
+ 63,
55
+ 64,
56
+ 65,
57
+ 66,
58
+ 67,
59
+ 68,
60
+ 69,
61
+ 71,
62
+ 73,
63
+ 74,
64
+ 75,
65
+ 76,
66
+ 77,
67
+ 78,
68
+ 80,
69
+ 84,
70
+ 85,
71
+ 87,
72
+ 89,
73
+ 90,
74
+ 91,
75
+ 92,
76
+ 93,
77
+ 94,
78
+ 95,
79
+ 98,
80
+ 99,
81
+ 101,
82
+ 102,
83
+ 103,
84
+ 104,
85
+ 105,
86
+ 106,
87
+ 107,
88
+ 108,
89
+ 112,
90
+ 113,
91
+ 114,
92
+ 115,
93
+ 116,
94
+ 117,
95
+ 118,
96
+ 119,
97
+ 122,
98
+ 124,
99
+ 126,
100
+ 127,
101
+ 128,
102
+ 132,
103
+ 133,
104
+ 134,
105
+ 135,
106
+ 136,
107
+ 137,
108
+ 139,
109
+ 140,
110
+ 141,
111
+ 144,
112
+ 145,
113
+ 146,
114
+ 147,
115
+ 149,
116
+ 150,
117
+ 151,
118
+ 152,
119
+ 154,
120
+ 155,
121
+ 156,
122
+ 157,
123
+ 158,
124
+ 159,
125
+ 160,
126
+ 161,
127
+ 162,
128
+ 163,
129
+ 164,
130
+ 165,
131
+ 166,
132
+ 167,
133
+ 168,
134
+ 170,
135
+ 171,
136
+ 172,
137
+ 175,
138
+ 176,
139
+ 177,
140
+ 178,
141
+ 180,
142
+ 183,
143
+ 185,
144
+ 187,
145
+ 189,
146
+ 190,
147
+ 191,
148
+ 194,
149
+ 197,
150
+ 199,
151
+ 201,
152
+ 202,
153
+ 203,
154
+ 206,
155
+ 207,
156
+ 208,
157
+ 209,
158
+ 210,
159
+ 211,
160
+ 212,
161
+ 213,
162
+ 214,
163
+ 216,
164
+ 218,
165
+ 219,
166
+ 221,
167
+ 222,
168
+ 223,
169
+ 224,
170
+ 226,
171
+ 227,
172
+ 230,
173
+ 231,
174
+ 233,
175
+ 234,
176
+ 235,
177
+ 237,
178
+ 238,
179
+ 239,
180
+ 240,
181
+ 241,
182
+ 246,
183
+ 247,
184
+ 248,
185
+ 249,
186
+ 250,
187
+ 251,
188
+ 252,
189
+ 253,
190
+ 254,
191
+ 257,
192
+ 258,
193
+ 259,
194
+ 260,
195
+ 261,
196
+ 262,
197
+ 264,
198
+ 266,
199
+ 267,
200
+ 272,
201
+ 274,
202
+ 276,
203
+ 278,
204
+ 279,
205
+ 280,
206
+ 281,
207
+ 282,
208
+ 283,
209
+ 284,
210
+ 285,
211
+ 287,
212
+ 288,
213
+ 289,
214
+ 290,
215
+ 291,
216
+ 292,
217
+ 293,
218
+ 294,
219
+ 295,
220
+ 296,
221
+ 297,
222
+ 298,
223
+ 299,
224
+ 300,
225
+ 301,
226
+ 302,
227
+ 303,
228
+ 305,
229
+ 306,
230
+ 307,
231
+ 308,
232
+ 309,
233
+ 311,
234
+ 312,
235
+ 316,
236
+ 317,
237
+ 319,
238
+ 321,
239
+ 322,
240
+ 323,
241
+ 326,
242
+ 328,
243
+ 329,
244
+ 330,
245
+ 331,
246
+ 332,
247
+ 333,
248
+ 336,
249
+ 338,
250
+ 339,
251
+ 341,
252
+ 344,
253
+ 345,
254
+ 347,
255
+ 348,
256
+ 350,
257
+ 351,
258
+ 352,
259
+ 353,
260
+ 354,
261
+ 358,
262
+ 359,
263
+ 361,
264
+ 362,
265
+ 364,
266
+ 365,
267
+ 366,
268
+ 368,
269
+ 369,
270
+ 373,
271
+ 374,
272
+ 375,
273
+ 376,
274
+ 377,
275
+ 378,
276
+ 379,
277
+ 380,
278
+ 381,
279
+ 382,
280
+ 383,
281
+ 384,
282
+ 386,
283
+ 388,
284
+ 389,
285
+ 390,
286
+ 391,
287
+ 392,
288
+ 393,
289
+ 395,
290
+ 397,
291
+ 398,
292
+ 400,
293
+ 401,
294
+ 402,
295
+ 403,
296
+ 404,
297
+ 405,
298
+ 406,
299
+ 407,
300
+ 409,
301
+ 410,
302
+ 414,
303
+ 416,
304
+ 417,
305
+ 418,
306
+ 420,
307
+ 421,
308
+ 422,
309
+ 423,
310
+ 424,
311
+ 425,
312
+ 427,
313
+ 428,
314
+ 429,
315
+ 431,
316
+ 432,
317
+ 433,
318
+ 434,
319
+ 435,
320
+ 436,
321
+ 437,
322
+ 438,
323
+ 439,
324
+ 440,
325
+ 442,
326
+ 444,
327
+ 446,
328
+ 448,
329
+ 449,
330
+ 451,
331
+ 452,
332
+ 453,
333
+ 454,
334
+ 455,
335
+ 457,
336
+ 458,
337
+ 459,
338
+ 461,
339
+ 462,
340
+ 464,
341
+ 465,
342
+ 467,
343
+ 469,
344
+ 470,
345
+ 471,
346
+ 472,
347
+ 473,
348
+ 475,
349
+ 477,
350
+ 478,
351
+ 480,
352
+ 481,
353
+ 482,
354
+ 483,
355
+ 484,
356
+ 485,
357
+ 486,
358
+ 487,
359
+ 489,
360
+ 490,
361
+ 491,
362
+ 493,
363
+ 494,
364
+ 496,
365
+ 498,
366
+ 499,
367
+ 500,
368
+ 501,
369
+ 502,
370
+ 504,
371
+ 505,
372
+ 507,
373
+ 508,
374
+ 510,
375
+ 511,
376
+ 513,
377
+ 514,
378
+ 515,
379
+ 516,
380
+ 517,
381
+ 519,
382
+ 520,
383
+ 521,
384
+ 522,
385
+ 523,
386
+ 524,
387
+ 525,
388
+ 526,
389
+ 528,
390
+ 531,
391
+ 536,
392
+ 537,
393
+ 538,
394
+ 539,
395
+ 542,
396
+ 544,
397
+ 545,
398
+ 546,
399
+ 548,
400
+ 549,
401
+ 550,
402
+ 552,
403
+ 553,
404
+ 554,
405
+ 555,
406
+ 556,
407
+ 558,
408
+ 559,
409
+ 560,
410
+ 561,
411
+ 563,
412
+ 564,
413
+ 565,
414
+ 566,
415
+ 567,
416
+ 568,
417
+ 569,
418
+ 570,
419
+ 571,
420
+ 573,
421
+ 574,
422
+ 575,
423
+ 576,
424
+ 577,
425
+ 579,
426
+ 580,
427
+ 581,
428
+ 582,
429
+ 583,
430
+ 584,
431
+ 585,
432
+ 586,
433
+ 587,
434
+ 588,
435
+ 589,
436
+ 592,
437
+ 593,
438
+ 594,
439
+ 595,
440
+ 596,
441
+ 597,
442
+ 598,
443
+ 599,
444
+ 600,
445
+ 602,
446
+ 605,
447
+ 606,
448
+ 607,
449
+ 608,
450
+ 609,
451
+ 610,
452
+ 611,
453
+ 612,
454
+ 613,
455
+ 614,
456
+ 615,
457
+ 616,
458
+ 617,
459
+ 618,
460
+ 619,
461
+ 620,
462
+ 621,
463
+ 622,
464
+ 624,
465
+ 626,
466
+ 627,
467
+ 629,
468
+ 631,
469
+ 632,
470
+ 634,
471
+ 635,
472
+ 638,
473
+ 640,
474
+ 641,
475
+ 642,
476
+ 643,
477
+ 644,
478
+ 646,
479
+ 647,
480
+ 648,
481
+ 651,
482
+ 654,
483
+ 655,
484
+ 656,
485
+ 657,
486
+ 658,
487
+ 660,
488
+ 663,
489
+ 665,
490
+ 666,
491
+ 668,
492
+ 669,
493
+ 670,
494
+ 671,
495
+ 672,
496
+ 673,
497
+ 674,
498
+ 675,
499
+ 676,
500
+ 679,
501
+ 680,
502
+ 682,
503
+ 683,
504
+ 684,
505
+ 686,
506
+ 687,
507
+ 688,
508
+ 690,
509
+ 692,
510
+ 693,
511
+ 695,
512
+ 696,
513
+ 697,
514
+ 699,
515
+ 700,
516
+ 702,
517
+ 703,
518
+ 704,
519
+ 705,
520
+ 708,
521
+ 710,
522
+ 711,
523
+ 713,
524
+ 714,
525
+ 715,
526
+ 717,
527
+ 718,
528
+ 719,
529
+ 720,
530
+ 724,
531
+ 725,
532
+ 727,
533
+ 728,
534
+ 729,
535
+ 731,
536
+ 732,
537
+ 734,
538
+ 736,
539
+ 738,
540
+ 739,
541
+ 740,
542
+ 741,
543
+ 743,
544
+ 744,
545
+ 745,
546
+ 747,
547
+ 750,
548
+ 752,
549
+ 753,
550
+ 754,
551
+ 755,
552
+ 757,
553
+ 758,
554
+ 759,
555
+ 760,
556
+ 761,
557
+ 762,
558
+ 763,
559
+ 764,
560
+ 765,
561
+ 766,
562
+ 767,
563
+ 768,
564
+ 769,
565
+ 771,
566
+ 773,
567
+ 774,
568
+ 775,
569
+ 776,
570
+ 777,
571
+ 778,
572
+ 781,
573
+ 783,
574
+ 785,
575
+ 786,
576
+ 787,
577
+ 788,
578
+ 789,
579
+ 790,
580
+ 791,
581
+ 792,
582
+ 793,
583
+ 795,
584
+ 796,
585
+ 797,
586
+ 798,
587
+ 799,
588
+ 800,
589
+ 802,
590
+ 803,
591
+ 805,
592
+ 806,
593
+ 807,
594
+ 808,
595
+ 809,
596
+ 810,
597
+ 811,
598
+ 812,
599
+ 814,
600
+ 815,
601
+ 816,
602
+ 817,
603
+ 821,
604
+ 823,
605
+ 824,
606
+ 825,
607
+ 826,
608
+ 827,
609
+ 828,
610
+ 829,
611
+ 830,
612
+ 832,
613
+ 834,
614
+ 835,
615
+ 836,
616
+ 838,
617
+ 839,
618
+ 841,
619
+ 843,
620
+ 845,
621
+ 846,
622
+ 847,
623
+ 848,
624
+ 849,
625
+ 850,
626
+ 851,
627
+ 852,
628
+ 853,
629
+ 855,
630
+ 856,
631
+ 858,
632
+ 859,
633
+ 860,
634
+ 861,
635
+ 862,
636
+ 863,
637
+ 864,
638
+ 866,
639
+ 867,
640
+ 868,
641
+ 869,
642
+ 871,
643
+ 872,
644
+ 873,
645
+ 874,
646
+ 876,
647
+ 877,
648
+ 878,
649
+ 879,
650
+ 880,
651
+ 882,
652
+ 883,
653
+ 884,
654
+ 885,
655
+ 887,
656
+ 888,
657
+ 889,
658
+ 890,
659
+ 891,
660
+ 892,
661
+ 893,
662
+ 894,
663
+ 896,
664
+ 897,
665
+ 898,
666
+ 900,
667
+ 901,
668
+ 903,
669
+ 905,
670
+ 906,
671
+ 907,
672
+ 909,
673
+ 910,
674
+ 912,
675
+ 913,
676
+ 914,
677
+ 915,
678
+ 917,
679
+ 918,
680
+ 919,
681
+ 920,
682
+ 921,
683
+ 922,
684
+ 923,
685
+ 924,
686
+ 927,
687
+ 928,
688
+ 929,
689
+ 930,
690
+ 931,
691
+ 932,
692
+ 933,
693
+ 935,
694
+ 938,
695
+ 940,
696
+ 942,
697
+ 943,
698
+ 944,
699
+ 945,
700
+ 947,
701
+ 948,
702
+ 950,
703
+ 951,
704
+ 952,
705
+ 953,
706
+ 956,
707
+ 957,
708
+ 958,
709
+ 960,
710
+ 961,
711
+ 962,
712
+ 963,
713
+ 965,
714
+ 966,
715
+ 967,
716
+ 968,
717
+ 970,
718
+ 971,
719
+ 972,
720
+ 974,
721
+ 975,
722
+ 976,
723
+ 977,
724
+ 978,
725
+ 979,
726
+ 981,
727
+ 982,
728
+ 983,
729
+ 984,
730
+ 985,
731
+ 986,
732
+ 988,
733
+ 989,
734
+ 990,
735
+ 991,
736
+ 992,
737
+ 993,
738
+ 994,
739
+ 996,
740
+ 999,
741
+ 1000,
742
+ 1001,
743
+ 1002,
744
+ 1003,
745
+ 1004,
746
+ 1005,
747
+ 1007,
748
+ 1008,
749
+ 1009,
750
+ 1012,
751
+ 1014,
752
+ 1015,
753
+ 1016,
754
+ 1017,
755
+ 1018,
756
+ 1019,
757
+ 1020,
758
+ 1021,
759
+ 1022,
760
+ 1023,
761
+ 1024,
762
+ 1025,
763
+ 1026,
764
+ 1027,
765
+ 1028,
766
+ 1029,
767
+ 1031,
768
+ 1032,
769
+ 1033,
770
+ 1034,
771
+ 1037,
772
+ 1039,
773
+ 1041,
774
+ 1042,
775
+ 1045,
776
+ 1047,
777
+ 1048,
778
+ 1049,
779
+ 1050,
780
+ 1051,
781
+ 1053,
782
+ 1054,
783
+ 1055,
784
+ 1058,
785
+ 1061,
786
+ 1062,
787
+ 1064,
788
+ 1065,
789
+ 1066,
790
+ 1068,
791
+ 1071,
792
+ 1072,
793
+ 1073,
794
+ 1074,
795
+ 1075,
796
+ 1076,
797
+ 1077,
798
+ 1078,
799
+ 1080,
800
+ 1081,
801
+ 1082,
802
+ 1084,
803
+ 1085,
804
+ 1088,
805
+ 1090,
806
+ 1091,
807
+ 1092,
808
+ 1094,
809
+ 1096,
810
+ 1097,
811
+ 1098,
812
+ 1099
813
+ ],
814
+ "not_both_correct_indices": [
815
+ 2,
816
+ 3,
817
+ 4,
818
+ 6,
819
+ 12,
820
+ 14,
821
+ 15,
822
+ 17,
823
+ 20,
824
+ 21,
825
+ 23,
826
+ 27,
827
+ 28,
828
+ 31,
829
+ 38,
830
+ 54,
831
+ 58,
832
+ 59,
833
+ 60,
834
+ 61,
835
+ 70,
836
+ 72,
837
+ 79,
838
+ 81,
839
+ 82,
840
+ 83,
841
+ 86,
842
+ 88,
843
+ 96,
844
+ 97,
845
+ 100,
846
+ 109,
847
+ 110,
848
+ 111,
849
+ 120,
850
+ 121,
851
+ 123,
852
+ 125,
853
+ 129,
854
+ 130,
855
+ 131,
856
+ 138,
857
+ 142,
858
+ 143,
859
+ 148,
860
+ 153,
861
+ 169,
862
+ 173,
863
+ 174,
864
+ 179,
865
+ 181,
866
+ 182,
867
+ 184,
868
+ 186,
869
+ 188,
870
+ 192,
871
+ 193,
872
+ 195,
873
+ 196,
874
+ 198,
875
+ 200,
876
+ 204,
877
+ 205,
878
+ 215,
879
+ 217,
880
+ 220,
881
+ 225,
882
+ 228,
883
+ 229,
884
+ 232,
885
+ 236,
886
+ 242,
887
+ 243,
888
+ 244,
889
+ 245,
890
+ 255,
891
+ 256,
892
+ 263,
893
+ 265,
894
+ 268,
895
+ 269,
896
+ 270,
897
+ 271,
898
+ 273,
899
+ 275,
900
+ 277,
901
+ 286,
902
+ 304,
903
+ 310,
904
+ 313,
905
+ 314,
906
+ 315,
907
+ 318,
908
+ 320,
909
+ 324,
910
+ 325,
911
+ 327,
912
+ 334,
913
+ 335,
914
+ 337,
915
+ 340,
916
+ 342,
917
+ 343,
918
+ 346,
919
+ 349,
920
+ 355,
921
+ 356,
922
+ 357,
923
+ 360,
924
+ 363,
925
+ 367,
926
+ 370,
927
+ 371,
928
+ 372,
929
+ 385,
930
+ 387,
931
+ 394,
932
+ 396,
933
+ 399,
934
+ 408,
935
+ 411,
936
+ 412,
937
+ 413,
938
+ 415,
939
+ 419,
940
+ 426,
941
+ 430,
942
+ 441,
943
+ 443,
944
+ 445,
945
+ 447,
946
+ 450,
947
+ 456,
948
+ 460,
949
+ 463,
950
+ 466,
951
+ 468,
952
+ 474,
953
+ 476,
954
+ 479,
955
+ 488,
956
+ 492,
957
+ 495,
958
+ 497,
959
+ 503,
960
+ 506,
961
+ 509,
962
+ 512,
963
+ 518,
964
+ 527,
965
+ 529,
966
+ 530,
967
+ 532,
968
+ 533,
969
+ 534,
970
+ 535,
971
+ 540,
972
+ 541,
973
+ 543,
974
+ 547,
975
+ 551,
976
+ 557,
977
+ 562,
978
+ 572,
979
+ 578,
980
+ 590,
981
+ 591,
982
+ 601,
983
+ 603,
984
+ 604,
985
+ 623,
986
+ 625,
987
+ 628,
988
+ 630,
989
+ 633,
990
+ 636,
991
+ 637,
992
+ 639,
993
+ 645,
994
+ 649,
995
+ 650,
996
+ 652,
997
+ 653,
998
+ 659,
999
+ 661,
1000
+ 662,
1001
+ 664,
1002
+ 667,
1003
+ 677,
1004
+ 678,
1005
+ 681,
1006
+ 685,
1007
+ 689,
1008
+ 691,
1009
+ 694,
1010
+ 698,
1011
+ 701,
1012
+ 706,
1013
+ 707,
1014
+ 709,
1015
+ 712,
1016
+ 716,
1017
+ 721,
1018
+ 722,
1019
+ 723,
1020
+ 726,
1021
+ 730,
1022
+ 733,
1023
+ 735,
1024
+ 737,
1025
+ 742,
1026
+ 746,
1027
+ 748,
1028
+ 749,
1029
+ 751,
1030
+ 756,
1031
+ 770,
1032
+ 772,
1033
+ 779,
1034
+ 780,
1035
+ 782,
1036
+ 784,
1037
+ 794,
1038
+ 801,
1039
+ 804,
1040
+ 813,
1041
+ 818,
1042
+ 819,
1043
+ 820,
1044
+ 822,
1045
+ 831,
1046
+ 833,
1047
+ 837,
1048
+ 840,
1049
+ 842,
1050
+ 844,
1051
+ 854,
1052
+ 857,
1053
+ 865,
1054
+ 870,
1055
+ 875,
1056
+ 881,
1057
+ 886,
1058
+ 895,
1059
+ 899,
1060
+ 902,
1061
+ 904,
1062
+ 908,
1063
+ 911,
1064
+ 916,
1065
+ 925,
1066
+ 926,
1067
+ 934,
1068
+ 936,
1069
+ 937,
1070
+ 939,
1071
+ 941,
1072
+ 946,
1073
+ 949,
1074
+ 954,
1075
+ 955,
1076
+ 959,
1077
+ 964,
1078
+ 969,
1079
+ 973,
1080
+ 980,
1081
+ 987,
1082
+ 995,
1083
+ 997,
1084
+ 998,
1085
+ 1006,
1086
+ 1010,
1087
+ 1011,
1088
+ 1013,
1089
+ 1030,
1090
+ 1035,
1091
+ 1036,
1092
+ 1038,
1093
+ 1040,
1094
+ 1043,
1095
+ 1044,
1096
+ 1046,
1097
+ 1052,
1098
+ 1056,
1099
+ 1057,
1100
+ 1059,
1101
+ 1060,
1102
+ 1063,
1103
+ 1067,
1104
+ 1069,
1105
+ 1070,
1106
+ 1079,
1107
+ 1083,
1108
+ 1086,
1109
+ 1087,
1110
+ 1089,
1111
+ 1093,
1112
+ 1095
1113
+ ],
1114
+ "clean_baseline": 2.099609375,
1115
+ "corrupted_baseline": -2.025390625
1116
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/anaphor_gender_agreement/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f0e266ef8d7752b5065652b482a4c16af9dd1c055bab629dfdedfb34300348aa
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/anaphor_gender_agreement/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ddeb207a98a440d9ba23e63eb18a3ce7e4bdb1d4084977d68769250c7d13b041
3
+ size 9165888
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_irregular/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_irregular/baselines.json ADDED
@@ -0,0 +1,948 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 932,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 932,
6
+ "clean_accuracy": 0.9141630901287554,
7
+ "corrupted_accuracy": 0.9163090128755365,
8
+ "both_correct_accuracy": 0.8304721030042919,
9
+ "n_both_correct": 774,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 6,
17
+ 8,
18
+ 9,
19
+ 10,
20
+ 12,
21
+ 13,
22
+ 14,
23
+ 15,
24
+ 16,
25
+ 17,
26
+ 18,
27
+ 19,
28
+ 20,
29
+ 21,
30
+ 22,
31
+ 23,
32
+ 24,
33
+ 25,
34
+ 26,
35
+ 28,
36
+ 30,
37
+ 32,
38
+ 33,
39
+ 34,
40
+ 35,
41
+ 37,
42
+ 38,
43
+ 39,
44
+ 41,
45
+ 42,
46
+ 43,
47
+ 44,
48
+ 45,
49
+ 46,
50
+ 47,
51
+ 48,
52
+ 49,
53
+ 50,
54
+ 53,
55
+ 54,
56
+ 55,
57
+ 56,
58
+ 57,
59
+ 58,
60
+ 59,
61
+ 60,
62
+ 61,
63
+ 62,
64
+ 63,
65
+ 64,
66
+ 66,
67
+ 68,
68
+ 69,
69
+ 70,
70
+ 71,
71
+ 72,
72
+ 73,
73
+ 74,
74
+ 75,
75
+ 76,
76
+ 77,
77
+ 78,
78
+ 79,
79
+ 80,
80
+ 81,
81
+ 82,
82
+ 83,
83
+ 84,
84
+ 85,
85
+ 87,
86
+ 88,
87
+ 92,
88
+ 93,
89
+ 94,
90
+ 95,
91
+ 96,
92
+ 97,
93
+ 98,
94
+ 99,
95
+ 100,
96
+ 101,
97
+ 102,
98
+ 104,
99
+ 105,
100
+ 106,
101
+ 107,
102
+ 108,
103
+ 110,
104
+ 111,
105
+ 112,
106
+ 113,
107
+ 114,
108
+ 115,
109
+ 116,
110
+ 117,
111
+ 118,
112
+ 119,
113
+ 120,
114
+ 121,
115
+ 123,
116
+ 125,
117
+ 126,
118
+ 127,
119
+ 128,
120
+ 130,
121
+ 131,
122
+ 132,
123
+ 133,
124
+ 134,
125
+ 136,
126
+ 138,
127
+ 139,
128
+ 140,
129
+ 141,
130
+ 142,
131
+ 143,
132
+ 145,
133
+ 146,
134
+ 147,
135
+ 148,
136
+ 149,
137
+ 150,
138
+ 151,
139
+ 152,
140
+ 154,
141
+ 155,
142
+ 156,
143
+ 157,
144
+ 158,
145
+ 159,
146
+ 160,
147
+ 161,
148
+ 163,
149
+ 165,
150
+ 166,
151
+ 167,
152
+ 168,
153
+ 169,
154
+ 170,
155
+ 171,
156
+ 173,
157
+ 175,
158
+ 177,
159
+ 178,
160
+ 179,
161
+ 180,
162
+ 181,
163
+ 182,
164
+ 183,
165
+ 184,
166
+ 185,
167
+ 186,
168
+ 188,
169
+ 189,
170
+ 190,
171
+ 191,
172
+ 192,
173
+ 193,
174
+ 194,
175
+ 195,
176
+ 196,
177
+ 197,
178
+ 199,
179
+ 200,
180
+ 201,
181
+ 202,
182
+ 204,
183
+ 205,
184
+ 206,
185
+ 207,
186
+ 209,
187
+ 210,
188
+ 211,
189
+ 213,
190
+ 214,
191
+ 215,
192
+ 216,
193
+ 218,
194
+ 219,
195
+ 220,
196
+ 221,
197
+ 222,
198
+ 223,
199
+ 226,
200
+ 228,
201
+ 229,
202
+ 230,
203
+ 231,
204
+ 232,
205
+ 233,
206
+ 234,
207
+ 235,
208
+ 236,
209
+ 237,
210
+ 238,
211
+ 239,
212
+ 240,
213
+ 242,
214
+ 244,
215
+ 245,
216
+ 246,
217
+ 247,
218
+ 248,
219
+ 249,
220
+ 250,
221
+ 251,
222
+ 252,
223
+ 253,
224
+ 254,
225
+ 255,
226
+ 257,
227
+ 258,
228
+ 259,
229
+ 260,
230
+ 261,
231
+ 262,
232
+ 263,
233
+ 264,
234
+ 265,
235
+ 267,
236
+ 268,
237
+ 269,
238
+ 270,
239
+ 271,
240
+ 272,
241
+ 273,
242
+ 274,
243
+ 275,
244
+ 276,
245
+ 277,
246
+ 278,
247
+ 279,
248
+ 280,
249
+ 281,
250
+ 282,
251
+ 283,
252
+ 284,
253
+ 286,
254
+ 287,
255
+ 288,
256
+ 289,
257
+ 290,
258
+ 291,
259
+ 292,
260
+ 293,
261
+ 294,
262
+ 295,
263
+ 299,
264
+ 300,
265
+ 302,
266
+ 303,
267
+ 304,
268
+ 305,
269
+ 306,
270
+ 307,
271
+ 308,
272
+ 309,
273
+ 310,
274
+ 311,
275
+ 312,
276
+ 313,
277
+ 314,
278
+ 317,
279
+ 318,
280
+ 320,
281
+ 321,
282
+ 322,
283
+ 323,
284
+ 324,
285
+ 325,
286
+ 326,
287
+ 327,
288
+ 328,
289
+ 329,
290
+ 330,
291
+ 331,
292
+ 332,
293
+ 333,
294
+ 334,
295
+ 335,
296
+ 336,
297
+ 337,
298
+ 338,
299
+ 339,
300
+ 340,
301
+ 341,
302
+ 342,
303
+ 343,
304
+ 344,
305
+ 345,
306
+ 346,
307
+ 348,
308
+ 349,
309
+ 350,
310
+ 351,
311
+ 352,
312
+ 353,
313
+ 354,
314
+ 355,
315
+ 356,
316
+ 358,
317
+ 359,
318
+ 360,
319
+ 361,
320
+ 362,
321
+ 363,
322
+ 364,
323
+ 365,
324
+ 366,
325
+ 367,
326
+ 368,
327
+ 369,
328
+ 370,
329
+ 371,
330
+ 373,
331
+ 374,
332
+ 375,
333
+ 376,
334
+ 377,
335
+ 378,
336
+ 379,
337
+ 380,
338
+ 381,
339
+ 382,
340
+ 383,
341
+ 385,
342
+ 386,
343
+ 387,
344
+ 388,
345
+ 389,
346
+ 390,
347
+ 392,
348
+ 394,
349
+ 395,
350
+ 398,
351
+ 399,
352
+ 400,
353
+ 401,
354
+ 402,
355
+ 404,
356
+ 406,
357
+ 407,
358
+ 408,
359
+ 410,
360
+ 411,
361
+ 413,
362
+ 415,
363
+ 417,
364
+ 418,
365
+ 419,
366
+ 420,
367
+ 421,
368
+ 422,
369
+ 424,
370
+ 426,
371
+ 427,
372
+ 428,
373
+ 429,
374
+ 430,
375
+ 431,
376
+ 432,
377
+ 436,
378
+ 437,
379
+ 438,
380
+ 441,
381
+ 442,
382
+ 443,
383
+ 445,
384
+ 448,
385
+ 449,
386
+ 450,
387
+ 451,
388
+ 452,
389
+ 454,
390
+ 455,
391
+ 456,
392
+ 457,
393
+ 458,
394
+ 460,
395
+ 461,
396
+ 462,
397
+ 463,
398
+ 464,
399
+ 465,
400
+ 466,
401
+ 467,
402
+ 468,
403
+ 469,
404
+ 470,
405
+ 471,
406
+ 473,
407
+ 474,
408
+ 476,
409
+ 477,
410
+ 478,
411
+ 479,
412
+ 481,
413
+ 482,
414
+ 483,
415
+ 484,
416
+ 485,
417
+ 486,
418
+ 487,
419
+ 488,
420
+ 489,
421
+ 490,
422
+ 491,
423
+ 492,
424
+ 493,
425
+ 494,
426
+ 495,
427
+ 497,
428
+ 498,
429
+ 499,
430
+ 501,
431
+ 502,
432
+ 503,
433
+ 506,
434
+ 507,
435
+ 508,
436
+ 509,
437
+ 511,
438
+ 512,
439
+ 513,
440
+ 514,
441
+ 515,
442
+ 516,
443
+ 517,
444
+ 518,
445
+ 519,
446
+ 520,
447
+ 521,
448
+ 522,
449
+ 523,
450
+ 524,
451
+ 526,
452
+ 527,
453
+ 528,
454
+ 529,
455
+ 530,
456
+ 531,
457
+ 534,
458
+ 535,
459
+ 536,
460
+ 538,
461
+ 539,
462
+ 540,
463
+ 541,
464
+ 544,
465
+ 545,
466
+ 546,
467
+ 548,
468
+ 549,
469
+ 550,
470
+ 551,
471
+ 552,
472
+ 553,
473
+ 555,
474
+ 556,
475
+ 558,
476
+ 559,
477
+ 560,
478
+ 561,
479
+ 562,
480
+ 565,
481
+ 566,
482
+ 567,
483
+ 568,
484
+ 569,
485
+ 572,
486
+ 573,
487
+ 574,
488
+ 575,
489
+ 576,
490
+ 578,
491
+ 579,
492
+ 580,
493
+ 581,
494
+ 582,
495
+ 583,
496
+ 584,
497
+ 585,
498
+ 586,
499
+ 587,
500
+ 588,
501
+ 589,
502
+ 590,
503
+ 591,
504
+ 592,
505
+ 593,
506
+ 594,
507
+ 595,
508
+ 597,
509
+ 598,
510
+ 599,
511
+ 600,
512
+ 602,
513
+ 603,
514
+ 605,
515
+ 606,
516
+ 608,
517
+ 609,
518
+ 610,
519
+ 611,
520
+ 612,
521
+ 613,
522
+ 614,
523
+ 616,
524
+ 617,
525
+ 618,
526
+ 619,
527
+ 620,
528
+ 621,
529
+ 622,
530
+ 623,
531
+ 624,
532
+ 625,
533
+ 626,
534
+ 628,
535
+ 629,
536
+ 630,
537
+ 632,
538
+ 633,
539
+ 634,
540
+ 635,
541
+ 636,
542
+ 637,
543
+ 638,
544
+ 639,
545
+ 640,
546
+ 641,
547
+ 642,
548
+ 643,
549
+ 644,
550
+ 645,
551
+ 647,
552
+ 648,
553
+ 649,
554
+ 650,
555
+ 651,
556
+ 652,
557
+ 654,
558
+ 655,
559
+ 656,
560
+ 657,
561
+ 658,
562
+ 659,
563
+ 660,
564
+ 661,
565
+ 662,
566
+ 663,
567
+ 664,
568
+ 665,
569
+ 666,
570
+ 668,
571
+ 669,
572
+ 670,
573
+ 672,
574
+ 673,
575
+ 674,
576
+ 675,
577
+ 676,
578
+ 677,
579
+ 678,
580
+ 679,
581
+ 680,
582
+ 683,
583
+ 685,
584
+ 686,
585
+ 688,
586
+ 690,
587
+ 692,
588
+ 693,
589
+ 694,
590
+ 695,
591
+ 696,
592
+ 697,
593
+ 698,
594
+ 699,
595
+ 700,
596
+ 701,
597
+ 702,
598
+ 703,
599
+ 704,
600
+ 706,
601
+ 707,
602
+ 708,
603
+ 709,
604
+ 710,
605
+ 711,
606
+ 713,
607
+ 714,
608
+ 715,
609
+ 717,
610
+ 718,
611
+ 719,
612
+ 720,
613
+ 721,
614
+ 722,
615
+ 724,
616
+ 725,
617
+ 726,
618
+ 727,
619
+ 728,
620
+ 729,
621
+ 730,
622
+ 733,
623
+ 735,
624
+ 736,
625
+ 737,
626
+ 738,
627
+ 739,
628
+ 740,
629
+ 742,
630
+ 744,
631
+ 745,
632
+ 746,
633
+ 747,
634
+ 748,
635
+ 751,
636
+ 753,
637
+ 755,
638
+ 757,
639
+ 758,
640
+ 760,
641
+ 761,
642
+ 762,
643
+ 763,
644
+ 764,
645
+ 765,
646
+ 767,
647
+ 768,
648
+ 769,
649
+ 770,
650
+ 771,
651
+ 774,
652
+ 775,
653
+ 776,
654
+ 777,
655
+ 778,
656
+ 779,
657
+ 781,
658
+ 782,
659
+ 783,
660
+ 784,
661
+ 786,
662
+ 788,
663
+ 789,
664
+ 790,
665
+ 791,
666
+ 792,
667
+ 793,
668
+ 794,
669
+ 795,
670
+ 796,
671
+ 797,
672
+ 798,
673
+ 799,
674
+ 801,
675
+ 802,
676
+ 803,
677
+ 804,
678
+ 805,
679
+ 806,
680
+ 807,
681
+ 808,
682
+ 809,
683
+ 810,
684
+ 813,
685
+ 814,
686
+ 815,
687
+ 816,
688
+ 817,
689
+ 818,
690
+ 819,
691
+ 820,
692
+ 821,
693
+ 822,
694
+ 823,
695
+ 824,
696
+ 826,
697
+ 827,
698
+ 828,
699
+ 829,
700
+ 830,
701
+ 831,
702
+ 832,
703
+ 833,
704
+ 834,
705
+ 835,
706
+ 836,
707
+ 839,
708
+ 840,
709
+ 842,
710
+ 843,
711
+ 845,
712
+ 846,
713
+ 847,
714
+ 850,
715
+ 851,
716
+ 852,
717
+ 853,
718
+ 854,
719
+ 855,
720
+ 856,
721
+ 857,
722
+ 858,
723
+ 859,
724
+ 860,
725
+ 861,
726
+ 862,
727
+ 864,
728
+ 865,
729
+ 866,
730
+ 868,
731
+ 870,
732
+ 871,
733
+ 872,
734
+ 873,
735
+ 874,
736
+ 875,
737
+ 876,
738
+ 877,
739
+ 878,
740
+ 880,
741
+ 881,
742
+ 882,
743
+ 884,
744
+ 885,
745
+ 886,
746
+ 888,
747
+ 889,
748
+ 891,
749
+ 892,
750
+ 893,
751
+ 894,
752
+ 895,
753
+ 896,
754
+ 897,
755
+ 898,
756
+ 899,
757
+ 900,
758
+ 901,
759
+ 902,
760
+ 903,
761
+ 905,
762
+ 906,
763
+ 907,
764
+ 908,
765
+ 911,
766
+ 912,
767
+ 913,
768
+ 914,
769
+ 915,
770
+ 916,
771
+ 918,
772
+ 919,
773
+ 920,
774
+ 921,
775
+ 922,
776
+ 923,
777
+ 924,
778
+ 925,
779
+ 926,
780
+ 927,
781
+ 928,
782
+ 929,
783
+ 930,
784
+ 931
785
+ ],
786
+ "not_both_correct_indices": [
787
+ 5,
788
+ 7,
789
+ 11,
790
+ 27,
791
+ 29,
792
+ 31,
793
+ 36,
794
+ 40,
795
+ 51,
796
+ 52,
797
+ 65,
798
+ 67,
799
+ 86,
800
+ 89,
801
+ 90,
802
+ 91,
803
+ 103,
804
+ 109,
805
+ 122,
806
+ 124,
807
+ 129,
808
+ 135,
809
+ 137,
810
+ 144,
811
+ 153,
812
+ 162,
813
+ 164,
814
+ 172,
815
+ 174,
816
+ 176,
817
+ 187,
818
+ 198,
819
+ 203,
820
+ 208,
821
+ 212,
822
+ 217,
823
+ 224,
824
+ 225,
825
+ 227,
826
+ 241,
827
+ 243,
828
+ 256,
829
+ 266,
830
+ 285,
831
+ 296,
832
+ 297,
833
+ 298,
834
+ 301,
835
+ 315,
836
+ 316,
837
+ 319,
838
+ 347,
839
+ 357,
840
+ 372,
841
+ 384,
842
+ 391,
843
+ 393,
844
+ 396,
845
+ 397,
846
+ 403,
847
+ 405,
848
+ 409,
849
+ 412,
850
+ 414,
851
+ 416,
852
+ 423,
853
+ 425,
854
+ 433,
855
+ 434,
856
+ 435,
857
+ 439,
858
+ 440,
859
+ 444,
860
+ 446,
861
+ 447,
862
+ 453,
863
+ 459,
864
+ 472,
865
+ 475,
866
+ 480,
867
+ 496,
868
+ 500,
869
+ 504,
870
+ 505,
871
+ 510,
872
+ 525,
873
+ 532,
874
+ 533,
875
+ 537,
876
+ 542,
877
+ 543,
878
+ 547,
879
+ 554,
880
+ 557,
881
+ 563,
882
+ 564,
883
+ 570,
884
+ 571,
885
+ 577,
886
+ 596,
887
+ 601,
888
+ 604,
889
+ 607,
890
+ 615,
891
+ 627,
892
+ 631,
893
+ 646,
894
+ 653,
895
+ 667,
896
+ 671,
897
+ 681,
898
+ 682,
899
+ 684,
900
+ 687,
901
+ 689,
902
+ 691,
903
+ 705,
904
+ 712,
905
+ 716,
906
+ 723,
907
+ 731,
908
+ 732,
909
+ 734,
910
+ 741,
911
+ 743,
912
+ 749,
913
+ 750,
914
+ 752,
915
+ 754,
916
+ 756,
917
+ 759,
918
+ 766,
919
+ 772,
920
+ 773,
921
+ 780,
922
+ 785,
923
+ 787,
924
+ 800,
925
+ 811,
926
+ 812,
927
+ 825,
928
+ 837,
929
+ 838,
930
+ 841,
931
+ 844,
932
+ 848,
933
+ 849,
934
+ 863,
935
+ 867,
936
+ 869,
937
+ 879,
938
+ 883,
939
+ 887,
940
+ 890,
941
+ 904,
942
+ 909,
943
+ 910,
944
+ 917
945
+ ],
946
+ "clean_baseline": 2.853515625,
947
+ "corrupted_baseline": -2.744140625
948
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_irregular/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:0bb0da6ecc65c4de7ca9be89f575d3f78a669ab3e8d91f5b745fb02ccb670dad
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_irregular/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:2483be3e0275bcd23b22c644c99e340e9cf4fb198d8237c4316f62fc32e53ebc
3
+ size 9218504
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_regular/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_regular/baselines.json ADDED
@@ -0,0 +1,1116 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1100,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1100,
6
+ "clean_accuracy": 0.9336363636363636,
7
+ "corrupted_accuracy": 0.9409090909090909,
8
+ "both_correct_accuracy": 0.8763636363636363,
9
+ "n_both_correct": 964,
10
+ "both_correct_indices": [
11
+ 1,
12
+ 2,
13
+ 3,
14
+ 4,
15
+ 5,
16
+ 6,
17
+ 8,
18
+ 10,
19
+ 11,
20
+ 12,
21
+ 13,
22
+ 14,
23
+ 15,
24
+ 17,
25
+ 18,
26
+ 19,
27
+ 20,
28
+ 22,
29
+ 23,
30
+ 25,
31
+ 26,
32
+ 27,
33
+ 28,
34
+ 29,
35
+ 30,
36
+ 31,
37
+ 32,
38
+ 33,
39
+ 34,
40
+ 35,
41
+ 37,
42
+ 38,
43
+ 39,
44
+ 40,
45
+ 41,
46
+ 42,
47
+ 43,
48
+ 44,
49
+ 45,
50
+ 46,
51
+ 47,
52
+ 48,
53
+ 49,
54
+ 50,
55
+ 51,
56
+ 52,
57
+ 53,
58
+ 54,
59
+ 55,
60
+ 56,
61
+ 57,
62
+ 58,
63
+ 59,
64
+ 60,
65
+ 61,
66
+ 62,
67
+ 63,
68
+ 64,
69
+ 65,
70
+ 67,
71
+ 68,
72
+ 69,
73
+ 72,
74
+ 73,
75
+ 74,
76
+ 75,
77
+ 76,
78
+ 77,
79
+ 78,
80
+ 79,
81
+ 80,
82
+ 81,
83
+ 82,
84
+ 83,
85
+ 84,
86
+ 86,
87
+ 87,
88
+ 88,
89
+ 89,
90
+ 90,
91
+ 91,
92
+ 92,
93
+ 93,
94
+ 94,
95
+ 95,
96
+ 97,
97
+ 98,
98
+ 99,
99
+ 100,
100
+ 102,
101
+ 103,
102
+ 104,
103
+ 105,
104
+ 106,
105
+ 107,
106
+ 108,
107
+ 109,
108
+ 110,
109
+ 111,
110
+ 112,
111
+ 113,
112
+ 114,
113
+ 116,
114
+ 117,
115
+ 118,
116
+ 119,
117
+ 120,
118
+ 121,
119
+ 122,
120
+ 123,
121
+ 124,
122
+ 126,
123
+ 127,
124
+ 128,
125
+ 129,
126
+ 132,
127
+ 133,
128
+ 134,
129
+ 135,
130
+ 136,
131
+ 137,
132
+ 138,
133
+ 139,
134
+ 140,
135
+ 141,
136
+ 142,
137
+ 143,
138
+ 145,
139
+ 149,
140
+ 150,
141
+ 152,
142
+ 153,
143
+ 154,
144
+ 155,
145
+ 156,
146
+ 157,
147
+ 158,
148
+ 159,
149
+ 160,
150
+ 161,
151
+ 162,
152
+ 163,
153
+ 165,
154
+ 166,
155
+ 167,
156
+ 168,
157
+ 169,
158
+ 170,
159
+ 171,
160
+ 172,
161
+ 173,
162
+ 175,
163
+ 176,
164
+ 177,
165
+ 178,
166
+ 179,
167
+ 180,
168
+ 181,
169
+ 182,
170
+ 183,
171
+ 184,
172
+ 185,
173
+ 186,
174
+ 187,
175
+ 188,
176
+ 189,
177
+ 191,
178
+ 192,
179
+ 194,
180
+ 195,
181
+ 196,
182
+ 197,
183
+ 198,
184
+ 199,
185
+ 200,
186
+ 202,
187
+ 203,
188
+ 204,
189
+ 205,
190
+ 206,
191
+ 208,
192
+ 209,
193
+ 210,
194
+ 211,
195
+ 212,
196
+ 213,
197
+ 214,
198
+ 216,
199
+ 218,
200
+ 219,
201
+ 220,
202
+ 221,
203
+ 222,
204
+ 223,
205
+ 224,
206
+ 225,
207
+ 226,
208
+ 227,
209
+ 228,
210
+ 229,
211
+ 230,
212
+ 231,
213
+ 232,
214
+ 233,
215
+ 234,
216
+ 235,
217
+ 237,
218
+ 238,
219
+ 240,
220
+ 241,
221
+ 242,
222
+ 243,
223
+ 244,
224
+ 245,
225
+ 246,
226
+ 247,
227
+ 248,
228
+ 250,
229
+ 251,
230
+ 253,
231
+ 254,
232
+ 255,
233
+ 256,
234
+ 257,
235
+ 258,
236
+ 262,
237
+ 263,
238
+ 264,
239
+ 265,
240
+ 266,
241
+ 269,
242
+ 270,
243
+ 271,
244
+ 272,
245
+ 273,
246
+ 274,
247
+ 275,
248
+ 276,
249
+ 277,
250
+ 279,
251
+ 280,
252
+ 281,
253
+ 282,
254
+ 283,
255
+ 284,
256
+ 285,
257
+ 286,
258
+ 287,
259
+ 288,
260
+ 289,
261
+ 291,
262
+ 292,
263
+ 293,
264
+ 294,
265
+ 295,
266
+ 296,
267
+ 297,
268
+ 298,
269
+ 299,
270
+ 300,
271
+ 301,
272
+ 302,
273
+ 304,
274
+ 305,
275
+ 306,
276
+ 307,
277
+ 308,
278
+ 309,
279
+ 310,
280
+ 311,
281
+ 312,
282
+ 313,
283
+ 314,
284
+ 315,
285
+ 316,
286
+ 317,
287
+ 318,
288
+ 319,
289
+ 320,
290
+ 321,
291
+ 322,
292
+ 323,
293
+ 326,
294
+ 328,
295
+ 329,
296
+ 330,
297
+ 332,
298
+ 334,
299
+ 335,
300
+ 336,
301
+ 337,
302
+ 338,
303
+ 339,
304
+ 340,
305
+ 341,
306
+ 342,
307
+ 343,
308
+ 344,
309
+ 345,
310
+ 347,
311
+ 348,
312
+ 349,
313
+ 350,
314
+ 351,
315
+ 352,
316
+ 353,
317
+ 354,
318
+ 355,
319
+ 356,
320
+ 357,
321
+ 358,
322
+ 359,
323
+ 360,
324
+ 362,
325
+ 364,
326
+ 365,
327
+ 366,
328
+ 367,
329
+ 368,
330
+ 369,
331
+ 370,
332
+ 371,
333
+ 372,
334
+ 373,
335
+ 374,
336
+ 375,
337
+ 377,
338
+ 378,
339
+ 380,
340
+ 381,
341
+ 382,
342
+ 383,
343
+ 384,
344
+ 385,
345
+ 386,
346
+ 387,
347
+ 388,
348
+ 389,
349
+ 391,
350
+ 392,
351
+ 393,
352
+ 394,
353
+ 395,
354
+ 396,
355
+ 397,
356
+ 398,
357
+ 399,
358
+ 400,
359
+ 401,
360
+ 402,
361
+ 403,
362
+ 404,
363
+ 406,
364
+ 407,
365
+ 408,
366
+ 409,
367
+ 410,
368
+ 411,
369
+ 412,
370
+ 413,
371
+ 414,
372
+ 415,
373
+ 417,
374
+ 418,
375
+ 419,
376
+ 420,
377
+ 421,
378
+ 422,
379
+ 423,
380
+ 424,
381
+ 425,
382
+ 426,
383
+ 427,
384
+ 428,
385
+ 429,
386
+ 430,
387
+ 431,
388
+ 432,
389
+ 433,
390
+ 434,
391
+ 435,
392
+ 437,
393
+ 438,
394
+ 439,
395
+ 440,
396
+ 441,
397
+ 442,
398
+ 443,
399
+ 446,
400
+ 447,
401
+ 448,
402
+ 449,
403
+ 450,
404
+ 452,
405
+ 453,
406
+ 454,
407
+ 455,
408
+ 456,
409
+ 457,
410
+ 459,
411
+ 460,
412
+ 461,
413
+ 462,
414
+ 463,
415
+ 464,
416
+ 465,
417
+ 466,
418
+ 467,
419
+ 469,
420
+ 470,
421
+ 471,
422
+ 473,
423
+ 475,
424
+ 477,
425
+ 478,
426
+ 479,
427
+ 480,
428
+ 482,
429
+ 483,
430
+ 484,
431
+ 485,
432
+ 486,
433
+ 487,
434
+ 488,
435
+ 489,
436
+ 490,
437
+ 491,
438
+ 492,
439
+ 493,
440
+ 494,
441
+ 495,
442
+ 496,
443
+ 497,
444
+ 498,
445
+ 499,
446
+ 501,
447
+ 502,
448
+ 503,
449
+ 504,
450
+ 505,
451
+ 506,
452
+ 507,
453
+ 508,
454
+ 509,
455
+ 510,
456
+ 511,
457
+ 512,
458
+ 513,
459
+ 514,
460
+ 515,
461
+ 517,
462
+ 518,
463
+ 519,
464
+ 520,
465
+ 521,
466
+ 522,
467
+ 523,
468
+ 524,
469
+ 525,
470
+ 526,
471
+ 528,
472
+ 529,
473
+ 530,
474
+ 531,
475
+ 532,
476
+ 533,
477
+ 534,
478
+ 535,
479
+ 536,
480
+ 537,
481
+ 538,
482
+ 539,
483
+ 540,
484
+ 541,
485
+ 542,
486
+ 543,
487
+ 544,
488
+ 545,
489
+ 546,
490
+ 547,
491
+ 549,
492
+ 550,
493
+ 551,
494
+ 555,
495
+ 556,
496
+ 557,
497
+ 558,
498
+ 559,
499
+ 560,
500
+ 561,
501
+ 562,
502
+ 563,
503
+ 564,
504
+ 565,
505
+ 566,
506
+ 567,
507
+ 568,
508
+ 569,
509
+ 570,
510
+ 571,
511
+ 572,
512
+ 573,
513
+ 574,
514
+ 575,
515
+ 576,
516
+ 577,
517
+ 578,
518
+ 579,
519
+ 580,
520
+ 582,
521
+ 583,
522
+ 584,
523
+ 585,
524
+ 586,
525
+ 587,
526
+ 588,
527
+ 589,
528
+ 590,
529
+ 591,
530
+ 592,
531
+ 593,
532
+ 596,
533
+ 597,
534
+ 598,
535
+ 600,
536
+ 601,
537
+ 602,
538
+ 603,
539
+ 604,
540
+ 605,
541
+ 606,
542
+ 607,
543
+ 608,
544
+ 609,
545
+ 610,
546
+ 611,
547
+ 612,
548
+ 613,
549
+ 615,
550
+ 616,
551
+ 617,
552
+ 618,
553
+ 619,
554
+ 620,
555
+ 621,
556
+ 622,
557
+ 623,
558
+ 624,
559
+ 625,
560
+ 626,
561
+ 627,
562
+ 628,
563
+ 629,
564
+ 630,
565
+ 631,
566
+ 632,
567
+ 633,
568
+ 634,
569
+ 635,
570
+ 636,
571
+ 637,
572
+ 640,
573
+ 641,
574
+ 642,
575
+ 643,
576
+ 644,
577
+ 646,
578
+ 647,
579
+ 648,
580
+ 649,
581
+ 650,
582
+ 652,
583
+ 653,
584
+ 654,
585
+ 655,
586
+ 656,
587
+ 657,
588
+ 658,
589
+ 659,
590
+ 660,
591
+ 662,
592
+ 663,
593
+ 664,
594
+ 665,
595
+ 666,
596
+ 667,
597
+ 668,
598
+ 669,
599
+ 671,
600
+ 672,
601
+ 673,
602
+ 674,
603
+ 675,
604
+ 676,
605
+ 677,
606
+ 678,
607
+ 680,
608
+ 681,
609
+ 682,
610
+ 683,
611
+ 684,
612
+ 685,
613
+ 686,
614
+ 687,
615
+ 688,
616
+ 690,
617
+ 691,
618
+ 692,
619
+ 693,
620
+ 695,
621
+ 696,
622
+ 697,
623
+ 699,
624
+ 700,
625
+ 701,
626
+ 702,
627
+ 703,
628
+ 704,
629
+ 705,
630
+ 706,
631
+ 707,
632
+ 708,
633
+ 709,
634
+ 711,
635
+ 712,
636
+ 713,
637
+ 714,
638
+ 715,
639
+ 716,
640
+ 717,
641
+ 718,
642
+ 719,
643
+ 720,
644
+ 721,
645
+ 722,
646
+ 723,
647
+ 724,
648
+ 726,
649
+ 728,
650
+ 729,
651
+ 730,
652
+ 731,
653
+ 732,
654
+ 734,
655
+ 735,
656
+ 736,
657
+ 737,
658
+ 738,
659
+ 739,
660
+ 740,
661
+ 742,
662
+ 743,
663
+ 744,
664
+ 745,
665
+ 746,
666
+ 748,
667
+ 750,
668
+ 752,
669
+ 753,
670
+ 754,
671
+ 755,
672
+ 756,
673
+ 758,
674
+ 760,
675
+ 761,
676
+ 763,
677
+ 764,
678
+ 765,
679
+ 766,
680
+ 767,
681
+ 768,
682
+ 769,
683
+ 770,
684
+ 771,
685
+ 772,
686
+ 774,
687
+ 776,
688
+ 777,
689
+ 778,
690
+ 779,
691
+ 780,
692
+ 781,
693
+ 782,
694
+ 783,
695
+ 784,
696
+ 785,
697
+ 786,
698
+ 788,
699
+ 789,
700
+ 790,
701
+ 791,
702
+ 793,
703
+ 794,
704
+ 795,
705
+ 796,
706
+ 797,
707
+ 798,
708
+ 800,
709
+ 801,
710
+ 802,
711
+ 803,
712
+ 804,
713
+ 805,
714
+ 806,
715
+ 807,
716
+ 808,
717
+ 809,
718
+ 810,
719
+ 811,
720
+ 812,
721
+ 814,
722
+ 815,
723
+ 816,
724
+ 817,
725
+ 818,
726
+ 819,
727
+ 820,
728
+ 823,
729
+ 824,
730
+ 825,
731
+ 828,
732
+ 830,
733
+ 831,
734
+ 833,
735
+ 834,
736
+ 835,
737
+ 836,
738
+ 837,
739
+ 838,
740
+ 840,
741
+ 841,
742
+ 842,
743
+ 843,
744
+ 844,
745
+ 846,
746
+ 847,
747
+ 848,
748
+ 849,
749
+ 850,
750
+ 851,
751
+ 852,
752
+ 853,
753
+ 854,
754
+ 855,
755
+ 856,
756
+ 857,
757
+ 858,
758
+ 859,
759
+ 860,
760
+ 861,
761
+ 862,
762
+ 863,
763
+ 864,
764
+ 865,
765
+ 866,
766
+ 867,
767
+ 868,
768
+ 869,
769
+ 871,
770
+ 872,
771
+ 873,
772
+ 874,
773
+ 875,
774
+ 876,
775
+ 877,
776
+ 878,
777
+ 879,
778
+ 880,
779
+ 881,
780
+ 882,
781
+ 884,
782
+ 885,
783
+ 887,
784
+ 888,
785
+ 889,
786
+ 890,
787
+ 891,
788
+ 892,
789
+ 893,
790
+ 894,
791
+ 895,
792
+ 896,
793
+ 897,
794
+ 899,
795
+ 900,
796
+ 901,
797
+ 902,
798
+ 903,
799
+ 904,
800
+ 905,
801
+ 906,
802
+ 908,
803
+ 909,
804
+ 910,
805
+ 911,
806
+ 912,
807
+ 913,
808
+ 914,
809
+ 915,
810
+ 916,
811
+ 917,
812
+ 918,
813
+ 919,
814
+ 920,
815
+ 921,
816
+ 923,
817
+ 924,
818
+ 925,
819
+ 926,
820
+ 927,
821
+ 928,
822
+ 930,
823
+ 931,
824
+ 932,
825
+ 934,
826
+ 935,
827
+ 936,
828
+ 937,
829
+ 938,
830
+ 939,
831
+ 940,
832
+ 942,
833
+ 943,
834
+ 944,
835
+ 945,
836
+ 947,
837
+ 948,
838
+ 949,
839
+ 950,
840
+ 951,
841
+ 952,
842
+ 954,
843
+ 955,
844
+ 956,
845
+ 957,
846
+ 958,
847
+ 959,
848
+ 960,
849
+ 961,
850
+ 962,
851
+ 964,
852
+ 965,
853
+ 966,
854
+ 967,
855
+ 968,
856
+ 969,
857
+ 970,
858
+ 971,
859
+ 973,
860
+ 974,
861
+ 975,
862
+ 976,
863
+ 977,
864
+ 978,
865
+ 980,
866
+ 981,
867
+ 982,
868
+ 984,
869
+ 986,
870
+ 987,
871
+ 988,
872
+ 989,
873
+ 990,
874
+ 991,
875
+ 992,
876
+ 993,
877
+ 994,
878
+ 995,
879
+ 996,
880
+ 997,
881
+ 998,
882
+ 999,
883
+ 1000,
884
+ 1001,
885
+ 1002,
886
+ 1004,
887
+ 1005,
888
+ 1006,
889
+ 1007,
890
+ 1008,
891
+ 1009,
892
+ 1010,
893
+ 1011,
894
+ 1012,
895
+ 1013,
896
+ 1014,
897
+ 1015,
898
+ 1016,
899
+ 1017,
900
+ 1018,
901
+ 1019,
902
+ 1020,
903
+ 1021,
904
+ 1022,
905
+ 1023,
906
+ 1024,
907
+ 1025,
908
+ 1026,
909
+ 1027,
910
+ 1028,
911
+ 1029,
912
+ 1030,
913
+ 1031,
914
+ 1032,
915
+ 1033,
916
+ 1035,
917
+ 1036,
918
+ 1039,
919
+ 1040,
920
+ 1041,
921
+ 1042,
922
+ 1043,
923
+ 1044,
924
+ 1045,
925
+ 1046,
926
+ 1047,
927
+ 1048,
928
+ 1049,
929
+ 1050,
930
+ 1051,
931
+ 1052,
932
+ 1053,
933
+ 1054,
934
+ 1055,
935
+ 1056,
936
+ 1057,
937
+ 1058,
938
+ 1059,
939
+ 1060,
940
+ 1061,
941
+ 1062,
942
+ 1063,
943
+ 1064,
944
+ 1065,
945
+ 1066,
946
+ 1067,
947
+ 1068,
948
+ 1069,
949
+ 1070,
950
+ 1071,
951
+ 1072,
952
+ 1073,
953
+ 1074,
954
+ 1075,
955
+ 1076,
956
+ 1078,
957
+ 1079,
958
+ 1080,
959
+ 1081,
960
+ 1082,
961
+ 1083,
962
+ 1086,
963
+ 1087,
964
+ 1088,
965
+ 1089,
966
+ 1090,
967
+ 1092,
968
+ 1093,
969
+ 1094,
970
+ 1095,
971
+ 1096,
972
+ 1097,
973
+ 1098,
974
+ 1099
975
+ ],
976
+ "not_both_correct_indices": [
977
+ 0,
978
+ 7,
979
+ 9,
980
+ 16,
981
+ 21,
982
+ 24,
983
+ 36,
984
+ 66,
985
+ 70,
986
+ 71,
987
+ 85,
988
+ 96,
989
+ 101,
990
+ 115,
991
+ 125,
992
+ 130,
993
+ 131,
994
+ 144,
995
+ 146,
996
+ 147,
997
+ 148,
998
+ 151,
999
+ 164,
1000
+ 174,
1001
+ 190,
1002
+ 193,
1003
+ 201,
1004
+ 207,
1005
+ 215,
1006
+ 217,
1007
+ 236,
1008
+ 239,
1009
+ 249,
1010
+ 252,
1011
+ 259,
1012
+ 260,
1013
+ 261,
1014
+ 267,
1015
+ 268,
1016
+ 278,
1017
+ 290,
1018
+ 303,
1019
+ 324,
1020
+ 325,
1021
+ 327,
1022
+ 331,
1023
+ 333,
1024
+ 346,
1025
+ 361,
1026
+ 363,
1027
+ 376,
1028
+ 379,
1029
+ 390,
1030
+ 405,
1031
+ 416,
1032
+ 436,
1033
+ 444,
1034
+ 445,
1035
+ 451,
1036
+ 458,
1037
+ 468,
1038
+ 472,
1039
+ 474,
1040
+ 476,
1041
+ 481,
1042
+ 500,
1043
+ 516,
1044
+ 527,
1045
+ 548,
1046
+ 552,
1047
+ 553,
1048
+ 554,
1049
+ 581,
1050
+ 594,
1051
+ 595,
1052
+ 599,
1053
+ 614,
1054
+ 638,
1055
+ 639,
1056
+ 645,
1057
+ 651,
1058
+ 661,
1059
+ 670,
1060
+ 679,
1061
+ 689,
1062
+ 694,
1063
+ 698,
1064
+ 710,
1065
+ 725,
1066
+ 727,
1067
+ 733,
1068
+ 741,
1069
+ 747,
1070
+ 749,
1071
+ 751,
1072
+ 757,
1073
+ 759,
1074
+ 762,
1075
+ 773,
1076
+ 775,
1077
+ 787,
1078
+ 792,
1079
+ 799,
1080
+ 813,
1081
+ 821,
1082
+ 822,
1083
+ 826,
1084
+ 827,
1085
+ 829,
1086
+ 832,
1087
+ 839,
1088
+ 845,
1089
+ 870,
1090
+ 883,
1091
+ 886,
1092
+ 898,
1093
+ 907,
1094
+ 922,
1095
+ 929,
1096
+ 933,
1097
+ 941,
1098
+ 946,
1099
+ 953,
1100
+ 963,
1101
+ 972,
1102
+ 979,
1103
+ 983,
1104
+ 985,
1105
+ 1003,
1106
+ 1034,
1107
+ 1037,
1108
+ 1038,
1109
+ 1077,
1110
+ 1084,
1111
+ 1085,
1112
+ 1091
1113
+ ],
1114
+ "clean_baseline": 3.197265625,
1115
+ "corrupted_baseline": -3.10546875
1116
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_regular/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:d18b33e923b4b2121431d1f0a056b247d238f3a861308e4b60e9c761c72bc816
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_regular/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f55b31ee479c3b2628ad9c7c1bd619d7868d673ba327ed4868d68bb36d84ed76
3
+ size 9258448
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_with_adjective/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_with_adjective/baselines.json ADDED
@@ -0,0 +1,1116 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1100,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1100,
6
+ "clean_accuracy": 0.9145454545454546,
7
+ "corrupted_accuracy": 0.8136363636363636,
8
+ "both_correct_accuracy": 0.73,
9
+ "n_both_correct": 803,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 4,
15
+ 5,
16
+ 6,
17
+ 7,
18
+ 8,
19
+ 10,
20
+ 11,
21
+ 12,
22
+ 14,
23
+ 15,
24
+ 16,
25
+ 17,
26
+ 19,
27
+ 21,
28
+ 23,
29
+ 25,
30
+ 30,
31
+ 31,
32
+ 32,
33
+ 34,
34
+ 36,
35
+ 37,
36
+ 38,
37
+ 39,
38
+ 40,
39
+ 41,
40
+ 42,
41
+ 43,
42
+ 45,
43
+ 47,
44
+ 48,
45
+ 49,
46
+ 50,
47
+ 51,
48
+ 52,
49
+ 54,
50
+ 56,
51
+ 59,
52
+ 60,
53
+ 61,
54
+ 62,
55
+ 63,
56
+ 64,
57
+ 65,
58
+ 66,
59
+ 67,
60
+ 68,
61
+ 70,
62
+ 71,
63
+ 73,
64
+ 75,
65
+ 76,
66
+ 77,
67
+ 78,
68
+ 80,
69
+ 82,
70
+ 84,
71
+ 85,
72
+ 86,
73
+ 87,
74
+ 89,
75
+ 90,
76
+ 91,
77
+ 93,
78
+ 96,
79
+ 98,
80
+ 100,
81
+ 101,
82
+ 102,
83
+ 103,
84
+ 104,
85
+ 105,
86
+ 106,
87
+ 107,
88
+ 109,
89
+ 112,
90
+ 113,
91
+ 114,
92
+ 115,
93
+ 117,
94
+ 121,
95
+ 122,
96
+ 123,
97
+ 124,
98
+ 125,
99
+ 126,
100
+ 127,
101
+ 128,
102
+ 129,
103
+ 130,
104
+ 131,
105
+ 132,
106
+ 134,
107
+ 136,
108
+ 137,
109
+ 139,
110
+ 141,
111
+ 144,
112
+ 145,
113
+ 146,
114
+ 147,
115
+ 149,
116
+ 150,
117
+ 151,
118
+ 152,
119
+ 153,
120
+ 154,
121
+ 156,
122
+ 157,
123
+ 158,
124
+ 160,
125
+ 162,
126
+ 164,
127
+ 165,
128
+ 166,
129
+ 167,
130
+ 168,
131
+ 169,
132
+ 170,
133
+ 171,
134
+ 177,
135
+ 178,
136
+ 180,
137
+ 183,
138
+ 184,
139
+ 185,
140
+ 186,
141
+ 191,
142
+ 194,
143
+ 195,
144
+ 196,
145
+ 199,
146
+ 201,
147
+ 202,
148
+ 203,
149
+ 209,
150
+ 211,
151
+ 213,
152
+ 215,
153
+ 216,
154
+ 217,
155
+ 219,
156
+ 221,
157
+ 222,
158
+ 224,
159
+ 225,
160
+ 227,
161
+ 229,
162
+ 230,
163
+ 231,
164
+ 232,
165
+ 233,
166
+ 234,
167
+ 236,
168
+ 237,
169
+ 238,
170
+ 239,
171
+ 240,
172
+ 242,
173
+ 243,
174
+ 244,
175
+ 245,
176
+ 246,
177
+ 247,
178
+ 249,
179
+ 250,
180
+ 251,
181
+ 252,
182
+ 255,
183
+ 256,
184
+ 257,
185
+ 258,
186
+ 259,
187
+ 260,
188
+ 262,
189
+ 265,
190
+ 266,
191
+ 267,
192
+ 269,
193
+ 270,
194
+ 271,
195
+ 272,
196
+ 273,
197
+ 275,
198
+ 276,
199
+ 277,
200
+ 278,
201
+ 280,
202
+ 281,
203
+ 283,
204
+ 284,
205
+ 285,
206
+ 286,
207
+ 287,
208
+ 288,
209
+ 289,
210
+ 290,
211
+ 291,
212
+ 292,
213
+ 293,
214
+ 295,
215
+ 297,
216
+ 298,
217
+ 299,
218
+ 300,
219
+ 302,
220
+ 303,
221
+ 304,
222
+ 305,
223
+ 307,
224
+ 309,
225
+ 310,
226
+ 311,
227
+ 312,
228
+ 314,
229
+ 315,
230
+ 316,
231
+ 317,
232
+ 318,
233
+ 319,
234
+ 320,
235
+ 322,
236
+ 323,
237
+ 324,
238
+ 325,
239
+ 327,
240
+ 328,
241
+ 330,
242
+ 331,
243
+ 332,
244
+ 333,
245
+ 334,
246
+ 335,
247
+ 337,
248
+ 339,
249
+ 340,
250
+ 341,
251
+ 343,
252
+ 345,
253
+ 346,
254
+ 347,
255
+ 348,
256
+ 349,
257
+ 350,
258
+ 352,
259
+ 355,
260
+ 357,
261
+ 358,
262
+ 359,
263
+ 360,
264
+ 361,
265
+ 362,
266
+ 363,
267
+ 364,
268
+ 365,
269
+ 366,
270
+ 367,
271
+ 368,
272
+ 370,
273
+ 371,
274
+ 372,
275
+ 373,
276
+ 374,
277
+ 375,
278
+ 376,
279
+ 377,
280
+ 378,
281
+ 380,
282
+ 382,
283
+ 383,
284
+ 384,
285
+ 385,
286
+ 386,
287
+ 387,
288
+ 388,
289
+ 390,
290
+ 391,
291
+ 392,
292
+ 393,
293
+ 394,
294
+ 395,
295
+ 396,
296
+ 397,
297
+ 398,
298
+ 400,
299
+ 402,
300
+ 403,
301
+ 404,
302
+ 405,
303
+ 406,
304
+ 408,
305
+ 409,
306
+ 410,
307
+ 412,
308
+ 413,
309
+ 414,
310
+ 415,
311
+ 416,
312
+ 417,
313
+ 418,
314
+ 419,
315
+ 420,
316
+ 421,
317
+ 422,
318
+ 423,
319
+ 427,
320
+ 428,
321
+ 429,
322
+ 430,
323
+ 431,
324
+ 432,
325
+ 433,
326
+ 434,
327
+ 436,
328
+ 438,
329
+ 439,
330
+ 440,
331
+ 443,
332
+ 444,
333
+ 445,
334
+ 446,
335
+ 447,
336
+ 448,
337
+ 449,
338
+ 450,
339
+ 451,
340
+ 452,
341
+ 453,
342
+ 454,
343
+ 455,
344
+ 456,
345
+ 457,
346
+ 458,
347
+ 459,
348
+ 460,
349
+ 461,
350
+ 464,
351
+ 465,
352
+ 467,
353
+ 468,
354
+ 471,
355
+ 472,
356
+ 473,
357
+ 474,
358
+ 475,
359
+ 476,
360
+ 478,
361
+ 479,
362
+ 480,
363
+ 481,
364
+ 482,
365
+ 483,
366
+ 485,
367
+ 487,
368
+ 488,
369
+ 489,
370
+ 490,
371
+ 492,
372
+ 494,
373
+ 495,
374
+ 496,
375
+ 497,
376
+ 499,
377
+ 500,
378
+ 501,
379
+ 502,
380
+ 503,
381
+ 504,
382
+ 505,
383
+ 506,
384
+ 508,
385
+ 509,
386
+ 510,
387
+ 511,
388
+ 512,
389
+ 513,
390
+ 515,
391
+ 516,
392
+ 517,
393
+ 519,
394
+ 520,
395
+ 521,
396
+ 525,
397
+ 526,
398
+ 527,
399
+ 528,
400
+ 529,
401
+ 530,
402
+ 531,
403
+ 535,
404
+ 537,
405
+ 541,
406
+ 542,
407
+ 543,
408
+ 544,
409
+ 545,
410
+ 546,
411
+ 547,
412
+ 548,
413
+ 549,
414
+ 551,
415
+ 552,
416
+ 553,
417
+ 554,
418
+ 555,
419
+ 556,
420
+ 557,
421
+ 560,
422
+ 561,
423
+ 563,
424
+ 564,
425
+ 566,
426
+ 568,
427
+ 569,
428
+ 571,
429
+ 572,
430
+ 573,
431
+ 575,
432
+ 576,
433
+ 578,
434
+ 580,
435
+ 582,
436
+ 583,
437
+ 585,
438
+ 586,
439
+ 587,
440
+ 588,
441
+ 589,
442
+ 590,
443
+ 592,
444
+ 593,
445
+ 594,
446
+ 595,
447
+ 596,
448
+ 597,
449
+ 598,
450
+ 600,
451
+ 601,
452
+ 602,
453
+ 605,
454
+ 606,
455
+ 607,
456
+ 608,
457
+ 609,
458
+ 612,
459
+ 613,
460
+ 614,
461
+ 615,
462
+ 616,
463
+ 617,
464
+ 618,
465
+ 619,
466
+ 620,
467
+ 621,
468
+ 622,
469
+ 625,
470
+ 626,
471
+ 627,
472
+ 628,
473
+ 629,
474
+ 630,
475
+ 631,
476
+ 632,
477
+ 634,
478
+ 636,
479
+ 637,
480
+ 638,
481
+ 639,
482
+ 641,
483
+ 642,
484
+ 643,
485
+ 644,
486
+ 645,
487
+ 650,
488
+ 652,
489
+ 653,
490
+ 654,
491
+ 655,
492
+ 658,
493
+ 659,
494
+ 662,
495
+ 663,
496
+ 664,
497
+ 665,
498
+ 666,
499
+ 667,
500
+ 668,
501
+ 669,
502
+ 670,
503
+ 671,
504
+ 672,
505
+ 674,
506
+ 676,
507
+ 677,
508
+ 678,
509
+ 682,
510
+ 684,
511
+ 685,
512
+ 686,
513
+ 687,
514
+ 688,
515
+ 691,
516
+ 692,
517
+ 693,
518
+ 695,
519
+ 696,
520
+ 698,
521
+ 699,
522
+ 700,
523
+ 702,
524
+ 705,
525
+ 706,
526
+ 707,
527
+ 708,
528
+ 709,
529
+ 711,
530
+ 712,
531
+ 713,
532
+ 714,
533
+ 716,
534
+ 717,
535
+ 719,
536
+ 722,
537
+ 723,
538
+ 724,
539
+ 725,
540
+ 727,
541
+ 729,
542
+ 731,
543
+ 732,
544
+ 733,
545
+ 734,
546
+ 735,
547
+ 737,
548
+ 739,
549
+ 740,
550
+ 741,
551
+ 742,
552
+ 743,
553
+ 744,
554
+ 746,
555
+ 747,
556
+ 748,
557
+ 749,
558
+ 750,
559
+ 752,
560
+ 753,
561
+ 755,
562
+ 756,
563
+ 757,
564
+ 758,
565
+ 759,
566
+ 762,
567
+ 763,
568
+ 764,
569
+ 765,
570
+ 766,
571
+ 767,
572
+ 768,
573
+ 770,
574
+ 771,
575
+ 772,
576
+ 773,
577
+ 774,
578
+ 775,
579
+ 777,
580
+ 778,
581
+ 779,
582
+ 780,
583
+ 782,
584
+ 785,
585
+ 788,
586
+ 789,
587
+ 790,
588
+ 791,
589
+ 792,
590
+ 794,
591
+ 796,
592
+ 797,
593
+ 798,
594
+ 800,
595
+ 801,
596
+ 802,
597
+ 803,
598
+ 805,
599
+ 806,
600
+ 808,
601
+ 809,
602
+ 810,
603
+ 811,
604
+ 812,
605
+ 813,
606
+ 816,
607
+ 817,
608
+ 818,
609
+ 819,
610
+ 820,
611
+ 823,
612
+ 824,
613
+ 827,
614
+ 828,
615
+ 829,
616
+ 830,
617
+ 831,
618
+ 832,
619
+ 833,
620
+ 834,
621
+ 835,
622
+ 836,
623
+ 838,
624
+ 839,
625
+ 840,
626
+ 842,
627
+ 843,
628
+ 844,
629
+ 845,
630
+ 848,
631
+ 849,
632
+ 853,
633
+ 855,
634
+ 856,
635
+ 858,
636
+ 859,
637
+ 861,
638
+ 862,
639
+ 863,
640
+ 865,
641
+ 866,
642
+ 869,
643
+ 870,
644
+ 871,
645
+ 872,
646
+ 874,
647
+ 875,
648
+ 876,
649
+ 877,
650
+ 878,
651
+ 879,
652
+ 880,
653
+ 881,
654
+ 882,
655
+ 883,
656
+ 884,
657
+ 885,
658
+ 886,
659
+ 888,
660
+ 889,
661
+ 890,
662
+ 891,
663
+ 892,
664
+ 893,
665
+ 894,
666
+ 895,
667
+ 896,
668
+ 897,
669
+ 898,
670
+ 900,
671
+ 901,
672
+ 902,
673
+ 903,
674
+ 904,
675
+ 905,
676
+ 906,
677
+ 907,
678
+ 908,
679
+ 909,
680
+ 910,
681
+ 911,
682
+ 913,
683
+ 914,
684
+ 915,
685
+ 916,
686
+ 917,
687
+ 918,
688
+ 921,
689
+ 922,
690
+ 924,
691
+ 927,
692
+ 928,
693
+ 929,
694
+ 930,
695
+ 931,
696
+ 932,
697
+ 933,
698
+ 934,
699
+ 936,
700
+ 937,
701
+ 938,
702
+ 940,
703
+ 942,
704
+ 943,
705
+ 947,
706
+ 948,
707
+ 950,
708
+ 951,
709
+ 952,
710
+ 953,
711
+ 954,
712
+ 955,
713
+ 957,
714
+ 958,
715
+ 960,
716
+ 961,
717
+ 962,
718
+ 964,
719
+ 965,
720
+ 966,
721
+ 967,
722
+ 968,
723
+ 970,
724
+ 972,
725
+ 973,
726
+ 974,
727
+ 976,
728
+ 977,
729
+ 979,
730
+ 981,
731
+ 982,
732
+ 983,
733
+ 985,
734
+ 987,
735
+ 988,
736
+ 989,
737
+ 991,
738
+ 992,
739
+ 993,
740
+ 995,
741
+ 996,
742
+ 997,
743
+ 999,
744
+ 1001,
745
+ 1002,
746
+ 1003,
747
+ 1004,
748
+ 1005,
749
+ 1006,
750
+ 1009,
751
+ 1011,
752
+ 1012,
753
+ 1013,
754
+ 1014,
755
+ 1015,
756
+ 1016,
757
+ 1018,
758
+ 1020,
759
+ 1021,
760
+ 1022,
761
+ 1024,
762
+ 1027,
763
+ 1028,
764
+ 1029,
765
+ 1030,
766
+ 1031,
767
+ 1032,
768
+ 1033,
769
+ 1034,
770
+ 1035,
771
+ 1036,
772
+ 1038,
773
+ 1039,
774
+ 1040,
775
+ 1042,
776
+ 1043,
777
+ 1044,
778
+ 1046,
779
+ 1047,
780
+ 1049,
781
+ 1050,
782
+ 1052,
783
+ 1053,
784
+ 1054,
785
+ 1055,
786
+ 1060,
787
+ 1062,
788
+ 1063,
789
+ 1064,
790
+ 1065,
791
+ 1067,
792
+ 1068,
793
+ 1071,
794
+ 1072,
795
+ 1074,
796
+ 1076,
797
+ 1077,
798
+ 1078,
799
+ 1079,
800
+ 1080,
801
+ 1081,
802
+ 1082,
803
+ 1084,
804
+ 1085,
805
+ 1088,
806
+ 1089,
807
+ 1090,
808
+ 1091,
809
+ 1092,
810
+ 1094,
811
+ 1095,
812
+ 1096,
813
+ 1099
814
+ ],
815
+ "not_both_correct_indices": [
816
+ 3,
817
+ 9,
818
+ 13,
819
+ 18,
820
+ 20,
821
+ 22,
822
+ 24,
823
+ 26,
824
+ 27,
825
+ 28,
826
+ 29,
827
+ 33,
828
+ 35,
829
+ 44,
830
+ 46,
831
+ 53,
832
+ 55,
833
+ 57,
834
+ 58,
835
+ 69,
836
+ 72,
837
+ 74,
838
+ 79,
839
+ 81,
840
+ 83,
841
+ 88,
842
+ 92,
843
+ 94,
844
+ 95,
845
+ 97,
846
+ 99,
847
+ 108,
848
+ 110,
849
+ 111,
850
+ 116,
851
+ 118,
852
+ 119,
853
+ 120,
854
+ 133,
855
+ 135,
856
+ 138,
857
+ 140,
858
+ 142,
859
+ 143,
860
+ 148,
861
+ 155,
862
+ 159,
863
+ 161,
864
+ 163,
865
+ 172,
866
+ 173,
867
+ 174,
868
+ 175,
869
+ 176,
870
+ 179,
871
+ 181,
872
+ 182,
873
+ 187,
874
+ 188,
875
+ 189,
876
+ 190,
877
+ 192,
878
+ 193,
879
+ 197,
880
+ 198,
881
+ 200,
882
+ 204,
883
+ 205,
884
+ 206,
885
+ 207,
886
+ 208,
887
+ 210,
888
+ 212,
889
+ 214,
890
+ 218,
891
+ 220,
892
+ 223,
893
+ 226,
894
+ 228,
895
+ 235,
896
+ 241,
897
+ 248,
898
+ 253,
899
+ 254,
900
+ 261,
901
+ 263,
902
+ 264,
903
+ 268,
904
+ 274,
905
+ 279,
906
+ 282,
907
+ 294,
908
+ 296,
909
+ 301,
910
+ 306,
911
+ 308,
912
+ 313,
913
+ 321,
914
+ 326,
915
+ 329,
916
+ 336,
917
+ 338,
918
+ 342,
919
+ 344,
920
+ 351,
921
+ 353,
922
+ 354,
923
+ 356,
924
+ 369,
925
+ 379,
926
+ 381,
927
+ 389,
928
+ 399,
929
+ 401,
930
+ 407,
931
+ 411,
932
+ 424,
933
+ 425,
934
+ 426,
935
+ 435,
936
+ 437,
937
+ 441,
938
+ 442,
939
+ 462,
940
+ 463,
941
+ 466,
942
+ 469,
943
+ 470,
944
+ 477,
945
+ 484,
946
+ 486,
947
+ 491,
948
+ 493,
949
+ 498,
950
+ 507,
951
+ 514,
952
+ 518,
953
+ 522,
954
+ 523,
955
+ 524,
956
+ 532,
957
+ 533,
958
+ 534,
959
+ 536,
960
+ 538,
961
+ 539,
962
+ 540,
963
+ 550,
964
+ 558,
965
+ 559,
966
+ 562,
967
+ 565,
968
+ 567,
969
+ 570,
970
+ 574,
971
+ 577,
972
+ 579,
973
+ 581,
974
+ 584,
975
+ 591,
976
+ 599,
977
+ 603,
978
+ 604,
979
+ 610,
980
+ 611,
981
+ 623,
982
+ 624,
983
+ 633,
984
+ 635,
985
+ 640,
986
+ 646,
987
+ 647,
988
+ 648,
989
+ 649,
990
+ 651,
991
+ 656,
992
+ 657,
993
+ 660,
994
+ 661,
995
+ 673,
996
+ 675,
997
+ 679,
998
+ 680,
999
+ 681,
1000
+ 683,
1001
+ 689,
1002
+ 690,
1003
+ 694,
1004
+ 697,
1005
+ 701,
1006
+ 703,
1007
+ 704,
1008
+ 710,
1009
+ 715,
1010
+ 718,
1011
+ 720,
1012
+ 721,
1013
+ 726,
1014
+ 728,
1015
+ 730,
1016
+ 736,
1017
+ 738,
1018
+ 745,
1019
+ 751,
1020
+ 754,
1021
+ 760,
1022
+ 761,
1023
+ 769,
1024
+ 776,
1025
+ 781,
1026
+ 783,
1027
+ 784,
1028
+ 786,
1029
+ 787,
1030
+ 793,
1031
+ 795,
1032
+ 799,
1033
+ 804,
1034
+ 807,
1035
+ 814,
1036
+ 815,
1037
+ 821,
1038
+ 822,
1039
+ 825,
1040
+ 826,
1041
+ 837,
1042
+ 841,
1043
+ 846,
1044
+ 847,
1045
+ 850,
1046
+ 851,
1047
+ 852,
1048
+ 854,
1049
+ 857,
1050
+ 860,
1051
+ 864,
1052
+ 867,
1053
+ 868,
1054
+ 873,
1055
+ 887,
1056
+ 899,
1057
+ 912,
1058
+ 919,
1059
+ 920,
1060
+ 923,
1061
+ 925,
1062
+ 926,
1063
+ 935,
1064
+ 939,
1065
+ 941,
1066
+ 944,
1067
+ 945,
1068
+ 946,
1069
+ 949,
1070
+ 956,
1071
+ 959,
1072
+ 963,
1073
+ 969,
1074
+ 971,
1075
+ 975,
1076
+ 978,
1077
+ 980,
1078
+ 984,
1079
+ 986,
1080
+ 990,
1081
+ 994,
1082
+ 998,
1083
+ 1000,
1084
+ 1007,
1085
+ 1008,
1086
+ 1010,
1087
+ 1017,
1088
+ 1019,
1089
+ 1023,
1090
+ 1025,
1091
+ 1026,
1092
+ 1037,
1093
+ 1041,
1094
+ 1045,
1095
+ 1048,
1096
+ 1051,
1097
+ 1056,
1098
+ 1057,
1099
+ 1058,
1100
+ 1059,
1101
+ 1061,
1102
+ 1066,
1103
+ 1069,
1104
+ 1070,
1105
+ 1073,
1106
+ 1075,
1107
+ 1083,
1108
+ 1086,
1109
+ 1087,
1110
+ 1093,
1111
+ 1097,
1112
+ 1098
1113
+ ],
1114
+ "clean_baseline": 2.884765625,
1115
+ "corrupted_baseline": -2.67578125
1116
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_with_adjective/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:3accf03b03db3d71d3c88a639b6ff7a287bbe63437dacff08a433bee3a03e656
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/det_noun_agreement_with_adjective/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:b560e053dc64b0d5dedc3c9b9e513b773a6042b3257cfeb58d446bc9e22feaf9
3
+ size 9272176
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/hypernymy/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/hypernymy/baselines.json ADDED
@@ -0,0 +1,593 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 577,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 577,
6
+ "clean_accuracy": 0.9462738301559792,
7
+ "corrupted_accuracy": 0.92894280762565,
8
+ "both_correct_accuracy": 0.8752166377816292,
9
+ "n_both_correct": 505,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 2,
13
+ 3,
14
+ 4,
15
+ 5,
16
+ 6,
17
+ 9,
18
+ 10,
19
+ 11,
20
+ 12,
21
+ 13,
22
+ 14,
23
+ 16,
24
+ 18,
25
+ 20,
26
+ 21,
27
+ 22,
28
+ 23,
29
+ 24,
30
+ 26,
31
+ 27,
32
+ 28,
33
+ 29,
34
+ 30,
35
+ 31,
36
+ 32,
37
+ 33,
38
+ 34,
39
+ 35,
40
+ 36,
41
+ 38,
42
+ 39,
43
+ 40,
44
+ 41,
45
+ 42,
46
+ 43,
47
+ 44,
48
+ 45,
49
+ 46,
50
+ 47,
51
+ 48,
52
+ 49,
53
+ 50,
54
+ 52,
55
+ 53,
56
+ 54,
57
+ 55,
58
+ 57,
59
+ 59,
60
+ 60,
61
+ 61,
62
+ 62,
63
+ 63,
64
+ 66,
65
+ 67,
66
+ 68,
67
+ 70,
68
+ 71,
69
+ 72,
70
+ 73,
71
+ 74,
72
+ 75,
73
+ 76,
74
+ 77,
75
+ 78,
76
+ 79,
77
+ 80,
78
+ 81,
79
+ 82,
80
+ 83,
81
+ 85,
82
+ 87,
83
+ 90,
84
+ 91,
85
+ 92,
86
+ 93,
87
+ 94,
88
+ 95,
89
+ 96,
90
+ 97,
91
+ 98,
92
+ 100,
93
+ 101,
94
+ 102,
95
+ 103,
96
+ 104,
97
+ 105,
98
+ 106,
99
+ 107,
100
+ 110,
101
+ 112,
102
+ 113,
103
+ 114,
104
+ 115,
105
+ 116,
106
+ 117,
107
+ 118,
108
+ 119,
109
+ 120,
110
+ 121,
111
+ 122,
112
+ 123,
113
+ 124,
114
+ 125,
115
+ 126,
116
+ 127,
117
+ 128,
118
+ 129,
119
+ 130,
120
+ 131,
121
+ 132,
122
+ 133,
123
+ 134,
124
+ 135,
125
+ 137,
126
+ 138,
127
+ 139,
128
+ 141,
129
+ 142,
130
+ 143,
131
+ 144,
132
+ 145,
133
+ 146,
134
+ 147,
135
+ 148,
136
+ 150,
137
+ 151,
138
+ 152,
139
+ 153,
140
+ 154,
141
+ 155,
142
+ 156,
143
+ 157,
144
+ 158,
145
+ 159,
146
+ 160,
147
+ 161,
148
+ 162,
149
+ 163,
150
+ 164,
151
+ 165,
152
+ 166,
153
+ 169,
154
+ 170,
155
+ 171,
156
+ 172,
157
+ 173,
158
+ 174,
159
+ 175,
160
+ 176,
161
+ 178,
162
+ 179,
163
+ 180,
164
+ 181,
165
+ 182,
166
+ 183,
167
+ 185,
168
+ 186,
169
+ 187,
170
+ 188,
171
+ 189,
172
+ 190,
173
+ 191,
174
+ 193,
175
+ 194,
176
+ 195,
177
+ 197,
178
+ 198,
179
+ 199,
180
+ 200,
181
+ 201,
182
+ 202,
183
+ 203,
184
+ 204,
185
+ 206,
186
+ 207,
187
+ 209,
188
+ 210,
189
+ 211,
190
+ 212,
191
+ 213,
192
+ 214,
193
+ 215,
194
+ 216,
195
+ 217,
196
+ 218,
197
+ 219,
198
+ 220,
199
+ 221,
200
+ 222,
201
+ 223,
202
+ 224,
203
+ 225,
204
+ 226,
205
+ 227,
206
+ 228,
207
+ 229,
208
+ 230,
209
+ 231,
210
+ 232,
211
+ 233,
212
+ 234,
213
+ 235,
214
+ 236,
215
+ 237,
216
+ 238,
217
+ 240,
218
+ 242,
219
+ 244,
220
+ 245,
221
+ 246,
222
+ 247,
223
+ 248,
224
+ 249,
225
+ 252,
226
+ 253,
227
+ 254,
228
+ 255,
229
+ 256,
230
+ 259,
231
+ 260,
232
+ 261,
233
+ 263,
234
+ 264,
235
+ 265,
236
+ 266,
237
+ 267,
238
+ 268,
239
+ 269,
240
+ 270,
241
+ 271,
242
+ 272,
243
+ 273,
244
+ 274,
245
+ 275,
246
+ 276,
247
+ 277,
248
+ 278,
249
+ 279,
250
+ 280,
251
+ 281,
252
+ 282,
253
+ 283,
254
+ 284,
255
+ 285,
256
+ 286,
257
+ 287,
258
+ 288,
259
+ 290,
260
+ 291,
261
+ 292,
262
+ 293,
263
+ 294,
264
+ 295,
265
+ 296,
266
+ 297,
267
+ 298,
268
+ 299,
269
+ 300,
270
+ 301,
271
+ 302,
272
+ 303,
273
+ 304,
274
+ 305,
275
+ 306,
276
+ 307,
277
+ 308,
278
+ 309,
279
+ 310,
280
+ 311,
281
+ 312,
282
+ 313,
283
+ 314,
284
+ 315,
285
+ 316,
286
+ 317,
287
+ 318,
288
+ 319,
289
+ 320,
290
+ 321,
291
+ 322,
292
+ 323,
293
+ 324,
294
+ 325,
295
+ 326,
296
+ 327,
297
+ 328,
298
+ 329,
299
+ 330,
300
+ 331,
301
+ 332,
302
+ 333,
303
+ 334,
304
+ 335,
305
+ 336,
306
+ 337,
307
+ 338,
308
+ 341,
309
+ 342,
310
+ 343,
311
+ 344,
312
+ 345,
313
+ 346,
314
+ 347,
315
+ 348,
316
+ 349,
317
+ 350,
318
+ 351,
319
+ 352,
320
+ 353,
321
+ 354,
322
+ 355,
323
+ 356,
324
+ 357,
325
+ 358,
326
+ 360,
327
+ 361,
328
+ 362,
329
+ 363,
330
+ 364,
331
+ 365,
332
+ 366,
333
+ 368,
334
+ 369,
335
+ 370,
336
+ 371,
337
+ 372,
338
+ 373,
339
+ 375,
340
+ 376,
341
+ 377,
342
+ 380,
343
+ 381,
344
+ 382,
345
+ 384,
346
+ 385,
347
+ 386,
348
+ 387,
349
+ 388,
350
+ 389,
351
+ 390,
352
+ 391,
353
+ 392,
354
+ 393,
355
+ 394,
356
+ 395,
357
+ 396,
358
+ 397,
359
+ 398,
360
+ 399,
361
+ 400,
362
+ 401,
363
+ 402,
364
+ 403,
365
+ 404,
366
+ 405,
367
+ 406,
368
+ 407,
369
+ 408,
370
+ 409,
371
+ 410,
372
+ 412,
373
+ 413,
374
+ 414,
375
+ 415,
376
+ 416,
377
+ 417,
378
+ 418,
379
+ 419,
380
+ 420,
381
+ 422,
382
+ 423,
383
+ 424,
384
+ 425,
385
+ 426,
386
+ 428,
387
+ 429,
388
+ 431,
389
+ 432,
390
+ 433,
391
+ 434,
392
+ 435,
393
+ 436,
394
+ 437,
395
+ 438,
396
+ 439,
397
+ 440,
398
+ 442,
399
+ 443,
400
+ 444,
401
+ 446,
402
+ 447,
403
+ 448,
404
+ 450,
405
+ 451,
406
+ 452,
407
+ 453,
408
+ 454,
409
+ 455,
410
+ 456,
411
+ 457,
412
+ 458,
413
+ 459,
414
+ 460,
415
+ 461,
416
+ 462,
417
+ 463,
418
+ 464,
419
+ 465,
420
+ 466,
421
+ 467,
422
+ 468,
423
+ 469,
424
+ 470,
425
+ 471,
426
+ 472,
427
+ 473,
428
+ 474,
429
+ 475,
430
+ 476,
431
+ 477,
432
+ 478,
433
+ 479,
434
+ 480,
435
+ 482,
436
+ 483,
437
+ 485,
438
+ 486,
439
+ 487,
440
+ 488,
441
+ 489,
442
+ 490,
443
+ 491,
444
+ 493,
445
+ 494,
446
+ 496,
447
+ 498,
448
+ 499,
449
+ 500,
450
+ 501,
451
+ 502,
452
+ 503,
453
+ 504,
454
+ 505,
455
+ 506,
456
+ 507,
457
+ 508,
458
+ 509,
459
+ 511,
460
+ 512,
461
+ 513,
462
+ 515,
463
+ 516,
464
+ 518,
465
+ 519,
466
+ 520,
467
+ 521,
468
+ 524,
469
+ 525,
470
+ 526,
471
+ 527,
472
+ 529,
473
+ 531,
474
+ 532,
475
+ 533,
476
+ 534,
477
+ 535,
478
+ 536,
479
+ 537,
480
+ 538,
481
+ 539,
482
+ 540,
483
+ 542,
484
+ 543,
485
+ 544,
486
+ 545,
487
+ 546,
488
+ 547,
489
+ 548,
490
+ 549,
491
+ 550,
492
+ 551,
493
+ 552,
494
+ 553,
495
+ 554,
496
+ 555,
497
+ 556,
498
+ 557,
499
+ 559,
500
+ 560,
501
+ 562,
502
+ 563,
503
+ 564,
504
+ 565,
505
+ 566,
506
+ 567,
507
+ 568,
508
+ 569,
509
+ 570,
510
+ 571,
511
+ 572,
512
+ 573,
513
+ 574,
514
+ 575,
515
+ 576
516
+ ],
517
+ "not_both_correct_indices": [
518
+ 1,
519
+ 7,
520
+ 8,
521
+ 15,
522
+ 17,
523
+ 19,
524
+ 25,
525
+ 37,
526
+ 51,
527
+ 56,
528
+ 58,
529
+ 64,
530
+ 65,
531
+ 69,
532
+ 84,
533
+ 86,
534
+ 88,
535
+ 89,
536
+ 99,
537
+ 108,
538
+ 109,
539
+ 111,
540
+ 136,
541
+ 140,
542
+ 149,
543
+ 167,
544
+ 168,
545
+ 177,
546
+ 184,
547
+ 192,
548
+ 196,
549
+ 205,
550
+ 208,
551
+ 239,
552
+ 241,
553
+ 243,
554
+ 250,
555
+ 251,
556
+ 257,
557
+ 258,
558
+ 262,
559
+ 289,
560
+ 339,
561
+ 340,
562
+ 359,
563
+ 367,
564
+ 374,
565
+ 378,
566
+ 379,
567
+ 383,
568
+ 411,
569
+ 421,
570
+ 427,
571
+ 430,
572
+ 441,
573
+ 445,
574
+ 449,
575
+ 481,
576
+ 484,
577
+ 492,
578
+ 495,
579
+ 497,
580
+ 510,
581
+ 514,
582
+ 517,
583
+ 522,
584
+ 523,
585
+ 528,
586
+ 530,
587
+ 541,
588
+ 558,
589
+ 561
590
+ ],
591
+ "clean_baseline": 6.31640625,
592
+ "corrupted_baseline": -6.328125
593
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/hypernymy/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:1cb57bcbc91edbe2531f19c570d7225e20d40cb180a298b41be40f315e216888
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/hypernymy/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:23d94969c810855577b990733106aabb42ce7e409efe18300840f908b9689a2f
3
+ size 9332688
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/npi/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/npi/baselines.json ADDED
@@ -0,0 +1,320 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 304,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 304,
6
+ "clean_accuracy": 0.9605263157894737,
7
+ "corrupted_accuracy": 0.9473684210526315,
8
+ "both_correct_accuracy": 0.9078947368421053,
9
+ "n_both_correct": 276,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 60,
70
+ 61,
71
+ 62,
72
+ 63,
73
+ 66,
74
+ 67,
75
+ 68,
76
+ 69,
77
+ 70,
78
+ 71,
79
+ 72,
80
+ 73,
81
+ 76,
82
+ 77,
83
+ 78,
84
+ 79,
85
+ 80,
86
+ 81,
87
+ 82,
88
+ 83,
89
+ 84,
90
+ 85,
91
+ 86,
92
+ 87,
93
+ 88,
94
+ 89,
95
+ 90,
96
+ 91,
97
+ 92,
98
+ 93,
99
+ 94,
100
+ 95,
101
+ 96,
102
+ 97,
103
+ 98,
104
+ 99,
105
+ 100,
106
+ 101,
107
+ 102,
108
+ 103,
109
+ 104,
110
+ 105,
111
+ 106,
112
+ 107,
113
+ 108,
114
+ 109,
115
+ 110,
116
+ 111,
117
+ 114,
118
+ 115,
119
+ 116,
120
+ 117,
121
+ 118,
122
+ 119,
123
+ 120,
124
+ 121,
125
+ 122,
126
+ 123,
127
+ 124,
128
+ 125,
129
+ 126,
130
+ 127,
131
+ 128,
132
+ 129,
133
+ 130,
134
+ 131,
135
+ 132,
136
+ 133,
137
+ 134,
138
+ 135,
139
+ 136,
140
+ 137,
141
+ 138,
142
+ 139,
143
+ 140,
144
+ 141,
145
+ 142,
146
+ 143,
147
+ 144,
148
+ 145,
149
+ 146,
150
+ 147,
151
+ 148,
152
+ 149,
153
+ 152,
154
+ 153,
155
+ 154,
156
+ 155,
157
+ 156,
158
+ 157,
159
+ 158,
160
+ 159,
161
+ 160,
162
+ 161,
163
+ 162,
164
+ 163,
165
+ 164,
166
+ 165,
167
+ 166,
168
+ 167,
169
+ 168,
170
+ 169,
171
+ 170,
172
+ 171,
173
+ 172,
174
+ 173,
175
+ 174,
176
+ 175,
177
+ 176,
178
+ 177,
179
+ 180,
180
+ 181,
181
+ 182,
182
+ 183,
183
+ 186,
184
+ 187,
185
+ 188,
186
+ 189,
187
+ 192,
188
+ 193,
189
+ 194,
190
+ 195,
191
+ 196,
192
+ 197,
193
+ 198,
194
+ 199,
195
+ 200,
196
+ 201,
197
+ 202,
198
+ 203,
199
+ 204,
200
+ 205,
201
+ 206,
202
+ 207,
203
+ 208,
204
+ 209,
205
+ 210,
206
+ 211,
207
+ 214,
208
+ 215,
209
+ 216,
210
+ 217,
211
+ 218,
212
+ 219,
213
+ 220,
214
+ 221,
215
+ 222,
216
+ 223,
217
+ 224,
218
+ 225,
219
+ 226,
220
+ 227,
221
+ 228,
222
+ 229,
223
+ 232,
224
+ 233,
225
+ 234,
226
+ 235,
227
+ 236,
228
+ 237,
229
+ 238,
230
+ 239,
231
+ 242,
232
+ 243,
233
+ 244,
234
+ 245,
235
+ 246,
236
+ 247,
237
+ 248,
238
+ 249,
239
+ 252,
240
+ 253,
241
+ 254,
242
+ 255,
243
+ 256,
244
+ 257,
245
+ 258,
246
+ 259,
247
+ 260,
248
+ 261,
249
+ 262,
250
+ 263,
251
+ 264,
252
+ 265,
253
+ 266,
254
+ 267,
255
+ 268,
256
+ 269,
257
+ 270,
258
+ 271,
259
+ 272,
260
+ 273,
261
+ 274,
262
+ 275,
263
+ 276,
264
+ 277,
265
+ 278,
266
+ 279,
267
+ 280,
268
+ 281,
269
+ 282,
270
+ 283,
271
+ 284,
272
+ 285,
273
+ 286,
274
+ 287,
275
+ 288,
276
+ 289,
277
+ 292,
278
+ 293,
279
+ 294,
280
+ 295,
281
+ 296,
282
+ 297,
283
+ 298,
284
+ 299,
285
+ 302,
286
+ 303
287
+ ],
288
+ "not_both_correct_indices": [
289
+ 58,
290
+ 59,
291
+ 64,
292
+ 65,
293
+ 74,
294
+ 75,
295
+ 112,
296
+ 113,
297
+ 150,
298
+ 151,
299
+ 178,
300
+ 179,
301
+ 184,
302
+ 185,
303
+ 190,
304
+ 191,
305
+ 212,
306
+ 213,
307
+ 230,
308
+ 231,
309
+ 240,
310
+ 241,
311
+ 250,
312
+ 251,
313
+ 290,
314
+ 291,
315
+ 300,
316
+ 301
317
+ ],
318
+ "clean_baseline": 2.47265625,
319
+ "corrupted_baseline": -2.474609375
320
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/npi/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:570a25433b48d9df4619880605aeb10892f46b2eb5e6ac437927a5fe9381b87b
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/npi/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:2e264619139f68462fd2ad16b8c4b7610880240900c57ea892cbec2962b80875
3
+ size 9206424
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/wug/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/wug/baselines.json ADDED
@@ -0,0 +1,2680 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 2664,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 2664,
6
+ "clean_accuracy": 0.941066066066066,
7
+ "corrupted_accuracy": 0.941066066066066,
8
+ "both_correct_accuracy": 0.8888888888888888,
9
+ "n_both_correct": 2368,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 8,
18
+ 9,
19
+ 10,
20
+ 11,
21
+ 12,
22
+ 13,
23
+ 16,
24
+ 17,
25
+ 18,
26
+ 19,
27
+ 20,
28
+ 21,
29
+ 22,
30
+ 23,
31
+ 24,
32
+ 25,
33
+ 26,
34
+ 27,
35
+ 28,
36
+ 29,
37
+ 30,
38
+ 31,
39
+ 32,
40
+ 33,
41
+ 34,
42
+ 35,
43
+ 36,
44
+ 37,
45
+ 38,
46
+ 39,
47
+ 40,
48
+ 41,
49
+ 42,
50
+ 43,
51
+ 44,
52
+ 45,
53
+ 46,
54
+ 47,
55
+ 50,
56
+ 51,
57
+ 52,
58
+ 53,
59
+ 54,
60
+ 55,
61
+ 56,
62
+ 57,
63
+ 58,
64
+ 59,
65
+ 60,
66
+ 61,
67
+ 62,
68
+ 63,
69
+ 64,
70
+ 65,
71
+ 66,
72
+ 67,
73
+ 68,
74
+ 69,
75
+ 70,
76
+ 71,
77
+ 72,
78
+ 73,
79
+ 74,
80
+ 75,
81
+ 76,
82
+ 77,
83
+ 78,
84
+ 79,
85
+ 80,
86
+ 81,
87
+ 82,
88
+ 83,
89
+ 84,
90
+ 85,
91
+ 86,
92
+ 87,
93
+ 88,
94
+ 89,
95
+ 90,
96
+ 91,
97
+ 92,
98
+ 93,
99
+ 94,
100
+ 95,
101
+ 96,
102
+ 97,
103
+ 98,
104
+ 99,
105
+ 100,
106
+ 101,
107
+ 102,
108
+ 103,
109
+ 104,
110
+ 105,
111
+ 106,
112
+ 107,
113
+ 108,
114
+ 109,
115
+ 110,
116
+ 111,
117
+ 112,
118
+ 113,
119
+ 114,
120
+ 115,
121
+ 116,
122
+ 117,
123
+ 118,
124
+ 119,
125
+ 120,
126
+ 121,
127
+ 122,
128
+ 123,
129
+ 124,
130
+ 125,
131
+ 126,
132
+ 127,
133
+ 128,
134
+ 129,
135
+ 130,
136
+ 131,
137
+ 132,
138
+ 133,
139
+ 134,
140
+ 135,
141
+ 138,
142
+ 139,
143
+ 140,
144
+ 141,
145
+ 142,
146
+ 143,
147
+ 144,
148
+ 145,
149
+ 146,
150
+ 147,
151
+ 148,
152
+ 149,
153
+ 150,
154
+ 151,
155
+ 152,
156
+ 153,
157
+ 154,
158
+ 155,
159
+ 156,
160
+ 157,
161
+ 158,
162
+ 159,
163
+ 160,
164
+ 161,
165
+ 162,
166
+ 163,
167
+ 164,
168
+ 165,
169
+ 166,
170
+ 167,
171
+ 168,
172
+ 169,
173
+ 172,
174
+ 173,
175
+ 174,
176
+ 175,
177
+ 176,
178
+ 177,
179
+ 178,
180
+ 179,
181
+ 180,
182
+ 181,
183
+ 182,
184
+ 183,
185
+ 184,
186
+ 185,
187
+ 186,
188
+ 187,
189
+ 188,
190
+ 189,
191
+ 190,
192
+ 191,
193
+ 192,
194
+ 193,
195
+ 194,
196
+ 195,
197
+ 198,
198
+ 199,
199
+ 200,
200
+ 201,
201
+ 202,
202
+ 203,
203
+ 206,
204
+ 207,
205
+ 208,
206
+ 209,
207
+ 210,
208
+ 211,
209
+ 212,
210
+ 213,
211
+ 214,
212
+ 215,
213
+ 216,
214
+ 217,
215
+ 218,
216
+ 219,
217
+ 220,
218
+ 221,
219
+ 222,
220
+ 223,
221
+ 224,
222
+ 225,
223
+ 226,
224
+ 227,
225
+ 228,
226
+ 229,
227
+ 230,
228
+ 231,
229
+ 232,
230
+ 233,
231
+ 234,
232
+ 235,
233
+ 236,
234
+ 237,
235
+ 238,
236
+ 239,
237
+ 240,
238
+ 241,
239
+ 242,
240
+ 243,
241
+ 244,
242
+ 245,
243
+ 248,
244
+ 249,
245
+ 250,
246
+ 251,
247
+ 254,
248
+ 255,
249
+ 256,
250
+ 257,
251
+ 258,
252
+ 259,
253
+ 260,
254
+ 261,
255
+ 262,
256
+ 263,
257
+ 264,
258
+ 265,
259
+ 268,
260
+ 269,
261
+ 270,
262
+ 271,
263
+ 272,
264
+ 273,
265
+ 274,
266
+ 275,
267
+ 276,
268
+ 277,
269
+ 280,
270
+ 281,
271
+ 284,
272
+ 285,
273
+ 286,
274
+ 287,
275
+ 290,
276
+ 291,
277
+ 294,
278
+ 295,
279
+ 296,
280
+ 297,
281
+ 298,
282
+ 299,
283
+ 300,
284
+ 301,
285
+ 302,
286
+ 303,
287
+ 306,
288
+ 307,
289
+ 310,
290
+ 311,
291
+ 314,
292
+ 315,
293
+ 316,
294
+ 317,
295
+ 318,
296
+ 319,
297
+ 320,
298
+ 321,
299
+ 322,
300
+ 323,
301
+ 324,
302
+ 325,
303
+ 326,
304
+ 327,
305
+ 328,
306
+ 329,
307
+ 330,
308
+ 331,
309
+ 332,
310
+ 333,
311
+ 334,
312
+ 335,
313
+ 338,
314
+ 339,
315
+ 344,
316
+ 345,
317
+ 346,
318
+ 347,
319
+ 348,
320
+ 349,
321
+ 350,
322
+ 351,
323
+ 356,
324
+ 357,
325
+ 358,
326
+ 359,
327
+ 360,
328
+ 361,
329
+ 362,
330
+ 363,
331
+ 364,
332
+ 365,
333
+ 368,
334
+ 369,
335
+ 370,
336
+ 371,
337
+ 372,
338
+ 373,
339
+ 376,
340
+ 377,
341
+ 378,
342
+ 379,
343
+ 380,
344
+ 381,
345
+ 382,
346
+ 383,
347
+ 384,
348
+ 385,
349
+ 386,
350
+ 387,
351
+ 388,
352
+ 389,
353
+ 390,
354
+ 391,
355
+ 394,
356
+ 395,
357
+ 398,
358
+ 399,
359
+ 400,
360
+ 401,
361
+ 402,
362
+ 403,
363
+ 404,
364
+ 405,
365
+ 406,
366
+ 407,
367
+ 408,
368
+ 409,
369
+ 412,
370
+ 413,
371
+ 414,
372
+ 415,
373
+ 416,
374
+ 417,
375
+ 418,
376
+ 419,
377
+ 420,
378
+ 421,
379
+ 422,
380
+ 423,
381
+ 424,
382
+ 425,
383
+ 426,
384
+ 427,
385
+ 430,
386
+ 431,
387
+ 432,
388
+ 433,
389
+ 434,
390
+ 435,
391
+ 436,
392
+ 437,
393
+ 438,
394
+ 439,
395
+ 440,
396
+ 441,
397
+ 442,
398
+ 443,
399
+ 444,
400
+ 445,
401
+ 446,
402
+ 447,
403
+ 450,
404
+ 451,
405
+ 452,
406
+ 453,
407
+ 460,
408
+ 461,
409
+ 462,
410
+ 463,
411
+ 464,
412
+ 465,
413
+ 466,
414
+ 467,
415
+ 470,
416
+ 471,
417
+ 472,
418
+ 473,
419
+ 474,
420
+ 475,
421
+ 476,
422
+ 477,
423
+ 478,
424
+ 479,
425
+ 480,
426
+ 481,
427
+ 482,
428
+ 483,
429
+ 484,
430
+ 485,
431
+ 486,
432
+ 487,
433
+ 490,
434
+ 491,
435
+ 492,
436
+ 493,
437
+ 494,
438
+ 495,
439
+ 496,
440
+ 497,
441
+ 498,
442
+ 499,
443
+ 500,
444
+ 501,
445
+ 502,
446
+ 503,
447
+ 504,
448
+ 505,
449
+ 506,
450
+ 507,
451
+ 508,
452
+ 509,
453
+ 510,
454
+ 511,
455
+ 512,
456
+ 513,
457
+ 514,
458
+ 515,
459
+ 516,
460
+ 517,
461
+ 518,
462
+ 519,
463
+ 520,
464
+ 521,
465
+ 522,
466
+ 523,
467
+ 524,
468
+ 525,
469
+ 528,
470
+ 529,
471
+ 530,
472
+ 531,
473
+ 534,
474
+ 535,
475
+ 536,
476
+ 537,
477
+ 538,
478
+ 539,
479
+ 540,
480
+ 541,
481
+ 542,
482
+ 543,
483
+ 544,
484
+ 545,
485
+ 546,
486
+ 547,
487
+ 548,
488
+ 549,
489
+ 550,
490
+ 551,
491
+ 552,
492
+ 553,
493
+ 554,
494
+ 555,
495
+ 556,
496
+ 557,
497
+ 558,
498
+ 559,
499
+ 560,
500
+ 561,
501
+ 562,
502
+ 563,
503
+ 564,
504
+ 565,
505
+ 566,
506
+ 567,
507
+ 568,
508
+ 569,
509
+ 570,
510
+ 571,
511
+ 572,
512
+ 573,
513
+ 574,
514
+ 575,
515
+ 576,
516
+ 577,
517
+ 578,
518
+ 579,
519
+ 580,
520
+ 581,
521
+ 582,
522
+ 583,
523
+ 584,
524
+ 585,
525
+ 586,
526
+ 587,
527
+ 588,
528
+ 589,
529
+ 590,
530
+ 591,
531
+ 592,
532
+ 593,
533
+ 594,
534
+ 595,
535
+ 596,
536
+ 597,
537
+ 598,
538
+ 599,
539
+ 602,
540
+ 603,
541
+ 604,
542
+ 605,
543
+ 608,
544
+ 609,
545
+ 610,
546
+ 611,
547
+ 612,
548
+ 613,
549
+ 614,
550
+ 615,
551
+ 616,
552
+ 617,
553
+ 618,
554
+ 619,
555
+ 624,
556
+ 625,
557
+ 626,
558
+ 627,
559
+ 628,
560
+ 629,
561
+ 630,
562
+ 631,
563
+ 632,
564
+ 633,
565
+ 634,
566
+ 635,
567
+ 636,
568
+ 637,
569
+ 638,
570
+ 639,
571
+ 640,
572
+ 641,
573
+ 642,
574
+ 643,
575
+ 644,
576
+ 645,
577
+ 646,
578
+ 647,
579
+ 650,
580
+ 651,
581
+ 652,
582
+ 653,
583
+ 654,
584
+ 655,
585
+ 656,
586
+ 657,
587
+ 658,
588
+ 659,
589
+ 660,
590
+ 661,
591
+ 662,
592
+ 663,
593
+ 666,
594
+ 667,
595
+ 668,
596
+ 669,
597
+ 670,
598
+ 671,
599
+ 672,
600
+ 673,
601
+ 674,
602
+ 675,
603
+ 676,
604
+ 677,
605
+ 678,
606
+ 679,
607
+ 680,
608
+ 681,
609
+ 682,
610
+ 683,
611
+ 684,
612
+ 685,
613
+ 686,
614
+ 687,
615
+ 688,
616
+ 689,
617
+ 690,
618
+ 691,
619
+ 692,
620
+ 693,
621
+ 694,
622
+ 695,
623
+ 696,
624
+ 697,
625
+ 698,
626
+ 699,
627
+ 700,
628
+ 701,
629
+ 702,
630
+ 703,
631
+ 704,
632
+ 705,
633
+ 706,
634
+ 707,
635
+ 708,
636
+ 709,
637
+ 710,
638
+ 711,
639
+ 712,
640
+ 713,
641
+ 714,
642
+ 715,
643
+ 718,
644
+ 719,
645
+ 720,
646
+ 721,
647
+ 722,
648
+ 723,
649
+ 724,
650
+ 725,
651
+ 728,
652
+ 729,
653
+ 732,
654
+ 733,
655
+ 734,
656
+ 735,
657
+ 736,
658
+ 737,
659
+ 740,
660
+ 741,
661
+ 742,
662
+ 743,
663
+ 744,
664
+ 745,
665
+ 746,
666
+ 747,
667
+ 748,
668
+ 749,
669
+ 750,
670
+ 751,
671
+ 752,
672
+ 753,
673
+ 754,
674
+ 755,
675
+ 756,
676
+ 757,
677
+ 758,
678
+ 759,
679
+ 760,
680
+ 761,
681
+ 762,
682
+ 763,
683
+ 764,
684
+ 765,
685
+ 768,
686
+ 769,
687
+ 770,
688
+ 771,
689
+ 772,
690
+ 773,
691
+ 774,
692
+ 775,
693
+ 776,
694
+ 777,
695
+ 778,
696
+ 779,
697
+ 780,
698
+ 781,
699
+ 782,
700
+ 783,
701
+ 788,
702
+ 789,
703
+ 790,
704
+ 791,
705
+ 792,
706
+ 793,
707
+ 794,
708
+ 795,
709
+ 796,
710
+ 797,
711
+ 798,
712
+ 799,
713
+ 800,
714
+ 801,
715
+ 802,
716
+ 803,
717
+ 804,
718
+ 805,
719
+ 806,
720
+ 807,
721
+ 810,
722
+ 811,
723
+ 812,
724
+ 813,
725
+ 814,
726
+ 815,
727
+ 816,
728
+ 817,
729
+ 818,
730
+ 819,
731
+ 820,
732
+ 821,
733
+ 822,
734
+ 823,
735
+ 824,
736
+ 825,
737
+ 826,
738
+ 827,
739
+ 828,
740
+ 829,
741
+ 830,
742
+ 831,
743
+ 832,
744
+ 833,
745
+ 834,
746
+ 835,
747
+ 836,
748
+ 837,
749
+ 838,
750
+ 839,
751
+ 840,
752
+ 841,
753
+ 842,
754
+ 843,
755
+ 844,
756
+ 845,
757
+ 846,
758
+ 847,
759
+ 848,
760
+ 849,
761
+ 850,
762
+ 851,
763
+ 852,
764
+ 853,
765
+ 854,
766
+ 855,
767
+ 856,
768
+ 857,
769
+ 858,
770
+ 859,
771
+ 860,
772
+ 861,
773
+ 862,
774
+ 863,
775
+ 864,
776
+ 865,
777
+ 868,
778
+ 869,
779
+ 870,
780
+ 871,
781
+ 872,
782
+ 873,
783
+ 874,
784
+ 875,
785
+ 876,
786
+ 877,
787
+ 878,
788
+ 879,
789
+ 880,
790
+ 881,
791
+ 882,
792
+ 883,
793
+ 884,
794
+ 885,
795
+ 886,
796
+ 887,
797
+ 888,
798
+ 889,
799
+ 890,
800
+ 891,
801
+ 892,
802
+ 893,
803
+ 894,
804
+ 895,
805
+ 896,
806
+ 897,
807
+ 898,
808
+ 899,
809
+ 900,
810
+ 901,
811
+ 902,
812
+ 903,
813
+ 904,
814
+ 905,
815
+ 906,
816
+ 907,
817
+ 908,
818
+ 909,
819
+ 910,
820
+ 911,
821
+ 912,
822
+ 913,
823
+ 914,
824
+ 915,
825
+ 916,
826
+ 917,
827
+ 920,
828
+ 921,
829
+ 922,
830
+ 923,
831
+ 924,
832
+ 925,
833
+ 926,
834
+ 927,
835
+ 928,
836
+ 929,
837
+ 930,
838
+ 931,
839
+ 932,
840
+ 933,
841
+ 936,
842
+ 937,
843
+ 938,
844
+ 939,
845
+ 940,
846
+ 941,
847
+ 942,
848
+ 943,
849
+ 944,
850
+ 945,
851
+ 946,
852
+ 947,
853
+ 948,
854
+ 949,
855
+ 952,
856
+ 953,
857
+ 954,
858
+ 955,
859
+ 956,
860
+ 957,
861
+ 958,
862
+ 959,
863
+ 960,
864
+ 961,
865
+ 962,
866
+ 963,
867
+ 964,
868
+ 965,
869
+ 968,
870
+ 969,
871
+ 970,
872
+ 971,
873
+ 972,
874
+ 973,
875
+ 974,
876
+ 975,
877
+ 978,
878
+ 979,
879
+ 980,
880
+ 981,
881
+ 982,
882
+ 983,
883
+ 984,
884
+ 985,
885
+ 986,
886
+ 987,
887
+ 988,
888
+ 989,
889
+ 990,
890
+ 991,
891
+ 992,
892
+ 993,
893
+ 994,
894
+ 995,
895
+ 996,
896
+ 997,
897
+ 998,
898
+ 999,
899
+ 1000,
900
+ 1001,
901
+ 1002,
902
+ 1003,
903
+ 1004,
904
+ 1005,
905
+ 1006,
906
+ 1007,
907
+ 1008,
908
+ 1009,
909
+ 1010,
910
+ 1011,
911
+ 1012,
912
+ 1013,
913
+ 1014,
914
+ 1015,
915
+ 1016,
916
+ 1017,
917
+ 1018,
918
+ 1019,
919
+ 1022,
920
+ 1023,
921
+ 1024,
922
+ 1025,
923
+ 1026,
924
+ 1027,
925
+ 1028,
926
+ 1029,
927
+ 1030,
928
+ 1031,
929
+ 1032,
930
+ 1033,
931
+ 1036,
932
+ 1037,
933
+ 1038,
934
+ 1039,
935
+ 1040,
936
+ 1041,
937
+ 1042,
938
+ 1043,
939
+ 1044,
940
+ 1045,
941
+ 1046,
942
+ 1047,
943
+ 1048,
944
+ 1049,
945
+ 1050,
946
+ 1051,
947
+ 1054,
948
+ 1055,
949
+ 1056,
950
+ 1057,
951
+ 1058,
952
+ 1059,
953
+ 1060,
954
+ 1061,
955
+ 1062,
956
+ 1063,
957
+ 1064,
958
+ 1065,
959
+ 1066,
960
+ 1067,
961
+ 1070,
962
+ 1071,
963
+ 1072,
964
+ 1073,
965
+ 1074,
966
+ 1075,
967
+ 1076,
968
+ 1077,
969
+ 1078,
970
+ 1079,
971
+ 1080,
972
+ 1081,
973
+ 1084,
974
+ 1085,
975
+ 1086,
976
+ 1087,
977
+ 1088,
978
+ 1089,
979
+ 1090,
980
+ 1091,
981
+ 1092,
982
+ 1093,
983
+ 1094,
984
+ 1095,
985
+ 1096,
986
+ 1097,
987
+ 1098,
988
+ 1099,
989
+ 1100,
990
+ 1101,
991
+ 1102,
992
+ 1103,
993
+ 1104,
994
+ 1105,
995
+ 1106,
996
+ 1107,
997
+ 1108,
998
+ 1109,
999
+ 1110,
1000
+ 1111,
1001
+ 1112,
1002
+ 1113,
1003
+ 1114,
1004
+ 1115,
1005
+ 1120,
1006
+ 1121,
1007
+ 1122,
1008
+ 1123,
1009
+ 1124,
1010
+ 1125,
1011
+ 1126,
1012
+ 1127,
1013
+ 1128,
1014
+ 1129,
1015
+ 1130,
1016
+ 1131,
1017
+ 1132,
1018
+ 1133,
1019
+ 1134,
1020
+ 1135,
1021
+ 1138,
1022
+ 1139,
1023
+ 1140,
1024
+ 1141,
1025
+ 1142,
1026
+ 1143,
1027
+ 1144,
1028
+ 1145,
1029
+ 1146,
1030
+ 1147,
1031
+ 1148,
1032
+ 1149,
1033
+ 1150,
1034
+ 1151,
1035
+ 1152,
1036
+ 1153,
1037
+ 1154,
1038
+ 1155,
1039
+ 1156,
1040
+ 1157,
1041
+ 1158,
1042
+ 1159,
1043
+ 1162,
1044
+ 1163,
1045
+ 1164,
1046
+ 1165,
1047
+ 1166,
1048
+ 1167,
1049
+ 1168,
1050
+ 1169,
1051
+ 1170,
1052
+ 1171,
1053
+ 1172,
1054
+ 1173,
1055
+ 1174,
1056
+ 1175,
1057
+ 1176,
1058
+ 1177,
1059
+ 1178,
1060
+ 1179,
1061
+ 1180,
1062
+ 1181,
1063
+ 1182,
1064
+ 1183,
1065
+ 1184,
1066
+ 1185,
1067
+ 1186,
1068
+ 1187,
1069
+ 1188,
1070
+ 1189,
1071
+ 1190,
1072
+ 1191,
1073
+ 1192,
1074
+ 1193,
1075
+ 1196,
1076
+ 1197,
1077
+ 1198,
1078
+ 1199,
1079
+ 1200,
1080
+ 1201,
1081
+ 1202,
1082
+ 1203,
1083
+ 1204,
1084
+ 1205,
1085
+ 1206,
1086
+ 1207,
1087
+ 1208,
1088
+ 1209,
1089
+ 1212,
1090
+ 1213,
1091
+ 1214,
1092
+ 1215,
1093
+ 1218,
1094
+ 1219,
1095
+ 1220,
1096
+ 1221,
1097
+ 1222,
1098
+ 1223,
1099
+ 1224,
1100
+ 1225,
1101
+ 1226,
1102
+ 1227,
1103
+ 1228,
1104
+ 1229,
1105
+ 1230,
1106
+ 1231,
1107
+ 1232,
1108
+ 1233,
1109
+ 1234,
1110
+ 1235,
1111
+ 1236,
1112
+ 1237,
1113
+ 1238,
1114
+ 1239,
1115
+ 1240,
1116
+ 1241,
1117
+ 1242,
1118
+ 1243,
1119
+ 1244,
1120
+ 1245,
1121
+ 1246,
1122
+ 1247,
1123
+ 1248,
1124
+ 1249,
1125
+ 1250,
1126
+ 1251,
1127
+ 1252,
1128
+ 1253,
1129
+ 1254,
1130
+ 1255,
1131
+ 1256,
1132
+ 1257,
1133
+ 1258,
1134
+ 1259,
1135
+ 1260,
1136
+ 1261,
1137
+ 1262,
1138
+ 1263,
1139
+ 1264,
1140
+ 1265,
1141
+ 1266,
1142
+ 1267,
1143
+ 1270,
1144
+ 1271,
1145
+ 1276,
1146
+ 1277,
1147
+ 1278,
1148
+ 1279,
1149
+ 1280,
1150
+ 1281,
1151
+ 1282,
1152
+ 1283,
1153
+ 1284,
1154
+ 1285,
1155
+ 1286,
1156
+ 1287,
1157
+ 1290,
1158
+ 1291,
1159
+ 1292,
1160
+ 1293,
1161
+ 1294,
1162
+ 1295,
1163
+ 1296,
1164
+ 1297,
1165
+ 1300,
1166
+ 1301,
1167
+ 1302,
1168
+ 1303,
1169
+ 1304,
1170
+ 1305,
1171
+ 1306,
1172
+ 1307,
1173
+ 1308,
1174
+ 1309,
1175
+ 1310,
1176
+ 1311,
1177
+ 1312,
1178
+ 1313,
1179
+ 1314,
1180
+ 1315,
1181
+ 1316,
1182
+ 1317,
1183
+ 1318,
1184
+ 1319,
1185
+ 1320,
1186
+ 1321,
1187
+ 1322,
1188
+ 1323,
1189
+ 1324,
1190
+ 1325,
1191
+ 1326,
1192
+ 1327,
1193
+ 1328,
1194
+ 1329,
1195
+ 1330,
1196
+ 1331,
1197
+ 1334,
1198
+ 1335,
1199
+ 1336,
1200
+ 1337,
1201
+ 1338,
1202
+ 1339,
1203
+ 1340,
1204
+ 1341,
1205
+ 1342,
1206
+ 1343,
1207
+ 1344,
1208
+ 1345,
1209
+ 1348,
1210
+ 1349,
1211
+ 1350,
1212
+ 1351,
1213
+ 1352,
1214
+ 1353,
1215
+ 1354,
1216
+ 1355,
1217
+ 1356,
1218
+ 1357,
1219
+ 1358,
1220
+ 1359,
1221
+ 1360,
1222
+ 1361,
1223
+ 1362,
1224
+ 1363,
1225
+ 1364,
1226
+ 1365,
1227
+ 1366,
1228
+ 1367,
1229
+ 1368,
1230
+ 1369,
1231
+ 1370,
1232
+ 1371,
1233
+ 1372,
1234
+ 1373,
1235
+ 1374,
1236
+ 1375,
1237
+ 1376,
1238
+ 1377,
1239
+ 1378,
1240
+ 1379,
1241
+ 1380,
1242
+ 1381,
1243
+ 1382,
1244
+ 1383,
1245
+ 1384,
1246
+ 1385,
1247
+ 1388,
1248
+ 1389,
1249
+ 1390,
1250
+ 1391,
1251
+ 1392,
1252
+ 1393,
1253
+ 1394,
1254
+ 1395,
1255
+ 1396,
1256
+ 1397,
1257
+ 1398,
1258
+ 1399,
1259
+ 1400,
1260
+ 1401,
1261
+ 1402,
1262
+ 1403,
1263
+ 1404,
1264
+ 1405,
1265
+ 1406,
1266
+ 1407,
1267
+ 1408,
1268
+ 1409,
1269
+ 1410,
1270
+ 1411,
1271
+ 1412,
1272
+ 1413,
1273
+ 1414,
1274
+ 1415,
1275
+ 1418,
1276
+ 1419,
1277
+ 1420,
1278
+ 1421,
1279
+ 1422,
1280
+ 1423,
1281
+ 1424,
1282
+ 1425,
1283
+ 1426,
1284
+ 1427,
1285
+ 1428,
1286
+ 1429,
1287
+ 1430,
1288
+ 1431,
1289
+ 1432,
1290
+ 1433,
1291
+ 1434,
1292
+ 1435,
1293
+ 1436,
1294
+ 1437,
1295
+ 1438,
1296
+ 1439,
1297
+ 1440,
1298
+ 1441,
1299
+ 1442,
1300
+ 1443,
1301
+ 1444,
1302
+ 1445,
1303
+ 1446,
1304
+ 1447,
1305
+ 1448,
1306
+ 1449,
1307
+ 1450,
1308
+ 1451,
1309
+ 1454,
1310
+ 1455,
1311
+ 1456,
1312
+ 1457,
1313
+ 1458,
1314
+ 1459,
1315
+ 1460,
1316
+ 1461,
1317
+ 1462,
1318
+ 1463,
1319
+ 1464,
1320
+ 1465,
1321
+ 1466,
1322
+ 1467,
1323
+ 1468,
1324
+ 1469,
1325
+ 1470,
1326
+ 1471,
1327
+ 1472,
1328
+ 1473,
1329
+ 1476,
1330
+ 1477,
1331
+ 1478,
1332
+ 1479,
1333
+ 1480,
1334
+ 1481,
1335
+ 1484,
1336
+ 1485,
1337
+ 1486,
1338
+ 1487,
1339
+ 1488,
1340
+ 1489,
1341
+ 1490,
1342
+ 1491,
1343
+ 1494,
1344
+ 1495,
1345
+ 1498,
1346
+ 1499,
1347
+ 1500,
1348
+ 1501,
1349
+ 1502,
1350
+ 1503,
1351
+ 1504,
1352
+ 1505,
1353
+ 1506,
1354
+ 1507,
1355
+ 1508,
1356
+ 1509,
1357
+ 1510,
1358
+ 1511,
1359
+ 1514,
1360
+ 1515,
1361
+ 1516,
1362
+ 1517,
1363
+ 1518,
1364
+ 1519,
1365
+ 1520,
1366
+ 1521,
1367
+ 1524,
1368
+ 1525,
1369
+ 1528,
1370
+ 1529,
1371
+ 1530,
1372
+ 1531,
1373
+ 1532,
1374
+ 1533,
1375
+ 1534,
1376
+ 1535,
1377
+ 1536,
1378
+ 1537,
1379
+ 1538,
1380
+ 1539,
1381
+ 1540,
1382
+ 1541,
1383
+ 1542,
1384
+ 1543,
1385
+ 1544,
1386
+ 1545,
1387
+ 1546,
1388
+ 1547,
1389
+ 1548,
1390
+ 1549,
1391
+ 1550,
1392
+ 1551,
1393
+ 1552,
1394
+ 1553,
1395
+ 1554,
1396
+ 1555,
1397
+ 1556,
1398
+ 1557,
1399
+ 1558,
1400
+ 1559,
1401
+ 1560,
1402
+ 1561,
1403
+ 1562,
1404
+ 1563,
1405
+ 1564,
1406
+ 1565,
1407
+ 1568,
1408
+ 1569,
1409
+ 1570,
1410
+ 1571,
1411
+ 1572,
1412
+ 1573,
1413
+ 1574,
1414
+ 1575,
1415
+ 1576,
1416
+ 1577,
1417
+ 1580,
1418
+ 1581,
1419
+ 1582,
1420
+ 1583,
1421
+ 1584,
1422
+ 1585,
1423
+ 1586,
1424
+ 1587,
1425
+ 1588,
1426
+ 1589,
1427
+ 1590,
1428
+ 1591,
1429
+ 1592,
1430
+ 1593,
1431
+ 1594,
1432
+ 1595,
1433
+ 1596,
1434
+ 1597,
1435
+ 1600,
1436
+ 1601,
1437
+ 1602,
1438
+ 1603,
1439
+ 1604,
1440
+ 1605,
1441
+ 1606,
1442
+ 1607,
1443
+ 1608,
1444
+ 1609,
1445
+ 1616,
1446
+ 1617,
1447
+ 1618,
1448
+ 1619,
1449
+ 1620,
1450
+ 1621,
1451
+ 1622,
1452
+ 1623,
1453
+ 1624,
1454
+ 1625,
1455
+ 1628,
1456
+ 1629,
1457
+ 1630,
1458
+ 1631,
1459
+ 1632,
1460
+ 1633,
1461
+ 1634,
1462
+ 1635,
1463
+ 1636,
1464
+ 1637,
1465
+ 1638,
1466
+ 1639,
1467
+ 1640,
1468
+ 1641,
1469
+ 1644,
1470
+ 1645,
1471
+ 1646,
1472
+ 1647,
1473
+ 1648,
1474
+ 1649,
1475
+ 1650,
1476
+ 1651,
1477
+ 1652,
1478
+ 1653,
1479
+ 1654,
1480
+ 1655,
1481
+ 1656,
1482
+ 1657,
1483
+ 1658,
1484
+ 1659,
1485
+ 1660,
1486
+ 1661,
1487
+ 1662,
1488
+ 1663,
1489
+ 1664,
1490
+ 1665,
1491
+ 1666,
1492
+ 1667,
1493
+ 1668,
1494
+ 1669,
1495
+ 1670,
1496
+ 1671,
1497
+ 1672,
1498
+ 1673,
1499
+ 1674,
1500
+ 1675,
1501
+ 1676,
1502
+ 1677,
1503
+ 1678,
1504
+ 1679,
1505
+ 1680,
1506
+ 1681,
1507
+ 1682,
1508
+ 1683,
1509
+ 1684,
1510
+ 1685,
1511
+ 1686,
1512
+ 1687,
1513
+ 1688,
1514
+ 1689,
1515
+ 1690,
1516
+ 1691,
1517
+ 1692,
1518
+ 1693,
1519
+ 1694,
1520
+ 1695,
1521
+ 1696,
1522
+ 1697,
1523
+ 1698,
1524
+ 1699,
1525
+ 1700,
1526
+ 1701,
1527
+ 1702,
1528
+ 1703,
1529
+ 1704,
1530
+ 1705,
1531
+ 1706,
1532
+ 1707,
1533
+ 1708,
1534
+ 1709,
1535
+ 1712,
1536
+ 1713,
1537
+ 1714,
1538
+ 1715,
1539
+ 1716,
1540
+ 1717,
1541
+ 1718,
1542
+ 1719,
1543
+ 1720,
1544
+ 1721,
1545
+ 1724,
1546
+ 1725,
1547
+ 1726,
1548
+ 1727,
1549
+ 1728,
1550
+ 1729,
1551
+ 1730,
1552
+ 1731,
1553
+ 1732,
1554
+ 1733,
1555
+ 1734,
1556
+ 1735,
1557
+ 1736,
1558
+ 1737,
1559
+ 1738,
1560
+ 1739,
1561
+ 1740,
1562
+ 1741,
1563
+ 1742,
1564
+ 1743,
1565
+ 1750,
1566
+ 1751,
1567
+ 1752,
1568
+ 1753,
1569
+ 1754,
1570
+ 1755,
1571
+ 1756,
1572
+ 1757,
1573
+ 1758,
1574
+ 1759,
1575
+ 1760,
1576
+ 1761,
1577
+ 1762,
1578
+ 1763,
1579
+ 1764,
1580
+ 1765,
1581
+ 1766,
1582
+ 1767,
1583
+ 1768,
1584
+ 1769,
1585
+ 1772,
1586
+ 1773,
1587
+ 1776,
1588
+ 1777,
1589
+ 1778,
1590
+ 1779,
1591
+ 1780,
1592
+ 1781,
1593
+ 1782,
1594
+ 1783,
1595
+ 1784,
1596
+ 1785,
1597
+ 1786,
1598
+ 1787,
1599
+ 1788,
1600
+ 1789,
1601
+ 1790,
1602
+ 1791,
1603
+ 1792,
1604
+ 1793,
1605
+ 1794,
1606
+ 1795,
1607
+ 1796,
1608
+ 1797,
1609
+ 1798,
1610
+ 1799,
1611
+ 1800,
1612
+ 1801,
1613
+ 1804,
1614
+ 1805,
1615
+ 1808,
1616
+ 1809,
1617
+ 1810,
1618
+ 1811,
1619
+ 1812,
1620
+ 1813,
1621
+ 1814,
1622
+ 1815,
1623
+ 1820,
1624
+ 1821,
1625
+ 1822,
1626
+ 1823,
1627
+ 1826,
1628
+ 1827,
1629
+ 1828,
1630
+ 1829,
1631
+ 1830,
1632
+ 1831,
1633
+ 1834,
1634
+ 1835,
1635
+ 1836,
1636
+ 1837,
1637
+ 1838,
1638
+ 1839,
1639
+ 1840,
1640
+ 1841,
1641
+ 1842,
1642
+ 1843,
1643
+ 1844,
1644
+ 1845,
1645
+ 1846,
1646
+ 1847,
1647
+ 1848,
1648
+ 1849,
1649
+ 1850,
1650
+ 1851,
1651
+ 1852,
1652
+ 1853,
1653
+ 1854,
1654
+ 1855,
1655
+ 1856,
1656
+ 1857,
1657
+ 1860,
1658
+ 1861,
1659
+ 1862,
1660
+ 1863,
1661
+ 1864,
1662
+ 1865,
1663
+ 1866,
1664
+ 1867,
1665
+ 1868,
1666
+ 1869,
1667
+ 1870,
1668
+ 1871,
1669
+ 1872,
1670
+ 1873,
1671
+ 1874,
1672
+ 1875,
1673
+ 1876,
1674
+ 1877,
1675
+ 1878,
1676
+ 1879,
1677
+ 1880,
1678
+ 1881,
1679
+ 1882,
1680
+ 1883,
1681
+ 1884,
1682
+ 1885,
1683
+ 1886,
1684
+ 1887,
1685
+ 1888,
1686
+ 1889,
1687
+ 1890,
1688
+ 1891,
1689
+ 1892,
1690
+ 1893,
1691
+ 1898,
1692
+ 1899,
1693
+ 1904,
1694
+ 1905,
1695
+ 1906,
1696
+ 1907,
1697
+ 1908,
1698
+ 1909,
1699
+ 1912,
1700
+ 1913,
1701
+ 1914,
1702
+ 1915,
1703
+ 1916,
1704
+ 1917,
1705
+ 1918,
1706
+ 1919,
1707
+ 1922,
1708
+ 1923,
1709
+ 1924,
1710
+ 1925,
1711
+ 1926,
1712
+ 1927,
1713
+ 1928,
1714
+ 1929,
1715
+ 1930,
1716
+ 1931,
1717
+ 1932,
1718
+ 1933,
1719
+ 1936,
1720
+ 1937,
1721
+ 1938,
1722
+ 1939,
1723
+ 1940,
1724
+ 1941,
1725
+ 1942,
1726
+ 1943,
1727
+ 1944,
1728
+ 1945,
1729
+ 1946,
1730
+ 1947,
1731
+ 1948,
1732
+ 1949,
1733
+ 1950,
1734
+ 1951,
1735
+ 1952,
1736
+ 1953,
1737
+ 1954,
1738
+ 1955,
1739
+ 1956,
1740
+ 1957,
1741
+ 1958,
1742
+ 1959,
1743
+ 1960,
1744
+ 1961,
1745
+ 1962,
1746
+ 1963,
1747
+ 1964,
1748
+ 1965,
1749
+ 1968,
1750
+ 1969,
1751
+ 1970,
1752
+ 1971,
1753
+ 1972,
1754
+ 1973,
1755
+ 1976,
1756
+ 1977,
1757
+ 1978,
1758
+ 1979,
1759
+ 1980,
1760
+ 1981,
1761
+ 1982,
1762
+ 1983,
1763
+ 1984,
1764
+ 1985,
1765
+ 1986,
1766
+ 1987,
1767
+ 1988,
1768
+ 1989,
1769
+ 1990,
1770
+ 1991,
1771
+ 1992,
1772
+ 1993,
1773
+ 1994,
1774
+ 1995,
1775
+ 1996,
1776
+ 1997,
1777
+ 1998,
1778
+ 1999,
1779
+ 2000,
1780
+ 2001,
1781
+ 2002,
1782
+ 2003,
1783
+ 2004,
1784
+ 2005,
1785
+ 2006,
1786
+ 2007,
1787
+ 2010,
1788
+ 2011,
1789
+ 2012,
1790
+ 2013,
1791
+ 2014,
1792
+ 2015,
1793
+ 2016,
1794
+ 2017,
1795
+ 2018,
1796
+ 2019,
1797
+ 2020,
1798
+ 2021,
1799
+ 2022,
1800
+ 2023,
1801
+ 2024,
1802
+ 2025,
1803
+ 2026,
1804
+ 2027,
1805
+ 2028,
1806
+ 2029,
1807
+ 2030,
1808
+ 2031,
1809
+ 2032,
1810
+ 2033,
1811
+ 2034,
1812
+ 2035,
1813
+ 2038,
1814
+ 2039,
1815
+ 2040,
1816
+ 2041,
1817
+ 2042,
1818
+ 2043,
1819
+ 2044,
1820
+ 2045,
1821
+ 2046,
1822
+ 2047,
1823
+ 2048,
1824
+ 2049,
1825
+ 2050,
1826
+ 2051,
1827
+ 2052,
1828
+ 2053,
1829
+ 2054,
1830
+ 2055,
1831
+ 2056,
1832
+ 2057,
1833
+ 2058,
1834
+ 2059,
1835
+ 2060,
1836
+ 2061,
1837
+ 2062,
1838
+ 2063,
1839
+ 2064,
1840
+ 2065,
1841
+ 2066,
1842
+ 2067,
1843
+ 2068,
1844
+ 2069,
1845
+ 2070,
1846
+ 2071,
1847
+ 2072,
1848
+ 2073,
1849
+ 2074,
1850
+ 2075,
1851
+ 2076,
1852
+ 2077,
1853
+ 2078,
1854
+ 2079,
1855
+ 2080,
1856
+ 2081,
1857
+ 2082,
1858
+ 2083,
1859
+ 2084,
1860
+ 2085,
1861
+ 2086,
1862
+ 2087,
1863
+ 2088,
1864
+ 2089,
1865
+ 2090,
1866
+ 2091,
1867
+ 2092,
1868
+ 2093,
1869
+ 2098,
1870
+ 2099,
1871
+ 2100,
1872
+ 2101,
1873
+ 2102,
1874
+ 2103,
1875
+ 2104,
1876
+ 2105,
1877
+ 2106,
1878
+ 2107,
1879
+ 2110,
1880
+ 2111,
1881
+ 2112,
1882
+ 2113,
1883
+ 2114,
1884
+ 2115,
1885
+ 2118,
1886
+ 2119,
1887
+ 2120,
1888
+ 2121,
1889
+ 2122,
1890
+ 2123,
1891
+ 2124,
1892
+ 2125,
1893
+ 2126,
1894
+ 2127,
1895
+ 2128,
1896
+ 2129,
1897
+ 2130,
1898
+ 2131,
1899
+ 2132,
1900
+ 2133,
1901
+ 2136,
1902
+ 2137,
1903
+ 2138,
1904
+ 2139,
1905
+ 2140,
1906
+ 2141,
1907
+ 2142,
1908
+ 2143,
1909
+ 2144,
1910
+ 2145,
1911
+ 2146,
1912
+ 2147,
1913
+ 2148,
1914
+ 2149,
1915
+ 2150,
1916
+ 2151,
1917
+ 2152,
1918
+ 2153,
1919
+ 2154,
1920
+ 2155,
1921
+ 2156,
1922
+ 2157,
1923
+ 2158,
1924
+ 2159,
1925
+ 2160,
1926
+ 2161,
1927
+ 2162,
1928
+ 2163,
1929
+ 2166,
1930
+ 2167,
1931
+ 2170,
1932
+ 2171,
1933
+ 2172,
1934
+ 2173,
1935
+ 2176,
1936
+ 2177,
1937
+ 2178,
1938
+ 2179,
1939
+ 2180,
1940
+ 2181,
1941
+ 2182,
1942
+ 2183,
1943
+ 2184,
1944
+ 2185,
1945
+ 2188,
1946
+ 2189,
1947
+ 2190,
1948
+ 2191,
1949
+ 2192,
1950
+ 2193,
1951
+ 2196,
1952
+ 2197,
1953
+ 2198,
1954
+ 2199,
1955
+ 2200,
1956
+ 2201,
1957
+ 2202,
1958
+ 2203,
1959
+ 2204,
1960
+ 2205,
1961
+ 2206,
1962
+ 2207,
1963
+ 2208,
1964
+ 2209,
1965
+ 2210,
1966
+ 2211,
1967
+ 2212,
1968
+ 2213,
1969
+ 2214,
1970
+ 2215,
1971
+ 2216,
1972
+ 2217,
1973
+ 2218,
1974
+ 2219,
1975
+ 2220,
1976
+ 2221,
1977
+ 2222,
1978
+ 2223,
1979
+ 2226,
1980
+ 2227,
1981
+ 2228,
1982
+ 2229,
1983
+ 2230,
1984
+ 2231,
1985
+ 2232,
1986
+ 2233,
1987
+ 2234,
1988
+ 2235,
1989
+ 2236,
1990
+ 2237,
1991
+ 2238,
1992
+ 2239,
1993
+ 2240,
1994
+ 2241,
1995
+ 2242,
1996
+ 2243,
1997
+ 2244,
1998
+ 2245,
1999
+ 2246,
2000
+ 2247,
2001
+ 2250,
2002
+ 2251,
2003
+ 2252,
2004
+ 2253,
2005
+ 2254,
2006
+ 2255,
2007
+ 2256,
2008
+ 2257,
2009
+ 2258,
2010
+ 2259,
2011
+ 2260,
2012
+ 2261,
2013
+ 2262,
2014
+ 2263,
2015
+ 2264,
2016
+ 2265,
2017
+ 2266,
2018
+ 2267,
2019
+ 2268,
2020
+ 2269,
2021
+ 2270,
2022
+ 2271,
2023
+ 2272,
2024
+ 2273,
2025
+ 2276,
2026
+ 2277,
2027
+ 2278,
2028
+ 2279,
2029
+ 2280,
2030
+ 2281,
2031
+ 2282,
2032
+ 2283,
2033
+ 2284,
2034
+ 2285,
2035
+ 2286,
2036
+ 2287,
2037
+ 2288,
2038
+ 2289,
2039
+ 2290,
2040
+ 2291,
2041
+ 2292,
2042
+ 2293,
2043
+ 2294,
2044
+ 2295,
2045
+ 2296,
2046
+ 2297,
2047
+ 2298,
2048
+ 2299,
2049
+ 2302,
2050
+ 2303,
2051
+ 2304,
2052
+ 2305,
2053
+ 2306,
2054
+ 2307,
2055
+ 2308,
2056
+ 2309,
2057
+ 2312,
2058
+ 2313,
2059
+ 2316,
2060
+ 2317,
2061
+ 2318,
2062
+ 2319,
2063
+ 2320,
2064
+ 2321,
2065
+ 2324,
2066
+ 2325,
2067
+ 2326,
2068
+ 2327,
2069
+ 2328,
2070
+ 2329,
2071
+ 2330,
2072
+ 2331,
2073
+ 2332,
2074
+ 2333,
2075
+ 2334,
2076
+ 2335,
2077
+ 2336,
2078
+ 2337,
2079
+ 2338,
2080
+ 2339,
2081
+ 2340,
2082
+ 2341,
2083
+ 2342,
2084
+ 2343,
2085
+ 2344,
2086
+ 2345,
2087
+ 2346,
2088
+ 2347,
2089
+ 2348,
2090
+ 2349,
2091
+ 2350,
2092
+ 2351,
2093
+ 2354,
2094
+ 2355,
2095
+ 2356,
2096
+ 2357,
2097
+ 2358,
2098
+ 2359,
2099
+ 2360,
2100
+ 2361,
2101
+ 2362,
2102
+ 2363,
2103
+ 2364,
2104
+ 2365,
2105
+ 2366,
2106
+ 2367,
2107
+ 2368,
2108
+ 2369,
2109
+ 2372,
2110
+ 2373,
2111
+ 2374,
2112
+ 2375,
2113
+ 2376,
2114
+ 2377,
2115
+ 2378,
2116
+ 2379,
2117
+ 2380,
2118
+ 2381,
2119
+ 2382,
2120
+ 2383,
2121
+ 2384,
2122
+ 2385,
2123
+ 2386,
2124
+ 2387,
2125
+ 2388,
2126
+ 2389,
2127
+ 2390,
2128
+ 2391,
2129
+ 2392,
2130
+ 2393,
2131
+ 2394,
2132
+ 2395,
2133
+ 2396,
2134
+ 2397,
2135
+ 2398,
2136
+ 2399,
2137
+ 2400,
2138
+ 2401,
2139
+ 2402,
2140
+ 2403,
2141
+ 2404,
2142
+ 2405,
2143
+ 2406,
2144
+ 2407,
2145
+ 2408,
2146
+ 2409,
2147
+ 2410,
2148
+ 2411,
2149
+ 2412,
2150
+ 2413,
2151
+ 2414,
2152
+ 2415,
2153
+ 2416,
2154
+ 2417,
2155
+ 2418,
2156
+ 2419,
2157
+ 2420,
2158
+ 2421,
2159
+ 2422,
2160
+ 2423,
2161
+ 2424,
2162
+ 2425,
2163
+ 2426,
2164
+ 2427,
2165
+ 2428,
2166
+ 2429,
2167
+ 2430,
2168
+ 2431,
2169
+ 2432,
2170
+ 2433,
2171
+ 2434,
2172
+ 2435,
2173
+ 2436,
2174
+ 2437,
2175
+ 2440,
2176
+ 2441,
2177
+ 2442,
2178
+ 2443,
2179
+ 2444,
2180
+ 2445,
2181
+ 2446,
2182
+ 2447,
2183
+ 2448,
2184
+ 2449,
2185
+ 2452,
2186
+ 2453,
2187
+ 2456,
2188
+ 2457,
2189
+ 2458,
2190
+ 2459,
2191
+ 2460,
2192
+ 2461,
2193
+ 2462,
2194
+ 2463,
2195
+ 2464,
2196
+ 2465,
2197
+ 2466,
2198
+ 2467,
2199
+ 2468,
2200
+ 2469,
2201
+ 2470,
2202
+ 2471,
2203
+ 2472,
2204
+ 2473,
2205
+ 2474,
2206
+ 2475,
2207
+ 2476,
2208
+ 2477,
2209
+ 2478,
2210
+ 2479,
2211
+ 2480,
2212
+ 2481,
2213
+ 2482,
2214
+ 2483,
2215
+ 2484,
2216
+ 2485,
2217
+ 2486,
2218
+ 2487,
2219
+ 2488,
2220
+ 2489,
2221
+ 2490,
2222
+ 2491,
2223
+ 2492,
2224
+ 2493,
2225
+ 2494,
2226
+ 2495,
2227
+ 2496,
2228
+ 2497,
2229
+ 2498,
2230
+ 2499,
2231
+ 2500,
2232
+ 2501,
2233
+ 2502,
2234
+ 2503,
2235
+ 2504,
2236
+ 2505,
2237
+ 2506,
2238
+ 2507,
2239
+ 2508,
2240
+ 2509,
2241
+ 2510,
2242
+ 2511,
2243
+ 2512,
2244
+ 2513,
2245
+ 2514,
2246
+ 2515,
2247
+ 2516,
2248
+ 2517,
2249
+ 2518,
2250
+ 2519,
2251
+ 2522,
2252
+ 2523,
2253
+ 2524,
2254
+ 2525,
2255
+ 2526,
2256
+ 2527,
2257
+ 2528,
2258
+ 2529,
2259
+ 2530,
2260
+ 2531,
2261
+ 2532,
2262
+ 2533,
2263
+ 2534,
2264
+ 2535,
2265
+ 2536,
2266
+ 2537,
2267
+ 2538,
2268
+ 2539,
2269
+ 2540,
2270
+ 2541,
2271
+ 2546,
2272
+ 2547,
2273
+ 2548,
2274
+ 2549,
2275
+ 2550,
2276
+ 2551,
2277
+ 2552,
2278
+ 2553,
2279
+ 2554,
2280
+ 2555,
2281
+ 2556,
2282
+ 2557,
2283
+ 2558,
2284
+ 2559,
2285
+ 2560,
2286
+ 2561,
2287
+ 2562,
2288
+ 2563,
2289
+ 2564,
2290
+ 2565,
2291
+ 2566,
2292
+ 2567,
2293
+ 2568,
2294
+ 2569,
2295
+ 2570,
2296
+ 2571,
2297
+ 2572,
2298
+ 2573,
2299
+ 2574,
2300
+ 2575,
2301
+ 2578,
2302
+ 2579,
2303
+ 2580,
2304
+ 2581,
2305
+ 2582,
2306
+ 2583,
2307
+ 2584,
2308
+ 2585,
2309
+ 2586,
2310
+ 2587,
2311
+ 2588,
2312
+ 2589,
2313
+ 2590,
2314
+ 2591,
2315
+ 2592,
2316
+ 2593,
2317
+ 2594,
2318
+ 2595,
2319
+ 2596,
2320
+ 2597,
2321
+ 2598,
2322
+ 2599,
2323
+ 2600,
2324
+ 2601,
2325
+ 2602,
2326
+ 2603,
2327
+ 2604,
2328
+ 2605,
2329
+ 2606,
2330
+ 2607,
2331
+ 2608,
2332
+ 2609,
2333
+ 2610,
2334
+ 2611,
2335
+ 2612,
2336
+ 2613,
2337
+ 2614,
2338
+ 2615,
2339
+ 2618,
2340
+ 2619,
2341
+ 2620,
2342
+ 2621,
2343
+ 2622,
2344
+ 2623,
2345
+ 2624,
2346
+ 2625,
2347
+ 2626,
2348
+ 2627,
2349
+ 2630,
2350
+ 2631,
2351
+ 2632,
2352
+ 2633,
2353
+ 2634,
2354
+ 2635,
2355
+ 2636,
2356
+ 2637,
2357
+ 2640,
2358
+ 2641,
2359
+ 2642,
2360
+ 2643,
2361
+ 2646,
2362
+ 2647,
2363
+ 2648,
2364
+ 2649,
2365
+ 2650,
2366
+ 2651,
2367
+ 2652,
2368
+ 2653,
2369
+ 2654,
2370
+ 2655,
2371
+ 2656,
2372
+ 2657,
2373
+ 2658,
2374
+ 2659,
2375
+ 2660,
2376
+ 2661,
2377
+ 2662,
2378
+ 2663
2379
+ ],
2380
+ "not_both_correct_indices": [
2381
+ 6,
2382
+ 7,
2383
+ 14,
2384
+ 15,
2385
+ 48,
2386
+ 49,
2387
+ 136,
2388
+ 137,
2389
+ 170,
2390
+ 171,
2391
+ 196,
2392
+ 197,
2393
+ 204,
2394
+ 205,
2395
+ 246,
2396
+ 247,
2397
+ 252,
2398
+ 253,
2399
+ 266,
2400
+ 267,
2401
+ 278,
2402
+ 279,
2403
+ 282,
2404
+ 283,
2405
+ 288,
2406
+ 289,
2407
+ 292,
2408
+ 293,
2409
+ 304,
2410
+ 305,
2411
+ 308,
2412
+ 309,
2413
+ 312,
2414
+ 313,
2415
+ 336,
2416
+ 337,
2417
+ 340,
2418
+ 341,
2419
+ 342,
2420
+ 343,
2421
+ 352,
2422
+ 353,
2423
+ 354,
2424
+ 355,
2425
+ 366,
2426
+ 367,
2427
+ 374,
2428
+ 375,
2429
+ 392,
2430
+ 393,
2431
+ 396,
2432
+ 397,
2433
+ 410,
2434
+ 411,
2435
+ 428,
2436
+ 429,
2437
+ 448,
2438
+ 449,
2439
+ 454,
2440
+ 455,
2441
+ 456,
2442
+ 457,
2443
+ 458,
2444
+ 459,
2445
+ 468,
2446
+ 469,
2447
+ 488,
2448
+ 489,
2449
+ 526,
2450
+ 527,
2451
+ 532,
2452
+ 533,
2453
+ 600,
2454
+ 601,
2455
+ 606,
2456
+ 607,
2457
+ 620,
2458
+ 621,
2459
+ 622,
2460
+ 623,
2461
+ 648,
2462
+ 649,
2463
+ 664,
2464
+ 665,
2465
+ 716,
2466
+ 717,
2467
+ 726,
2468
+ 727,
2469
+ 730,
2470
+ 731,
2471
+ 738,
2472
+ 739,
2473
+ 766,
2474
+ 767,
2475
+ 784,
2476
+ 785,
2477
+ 786,
2478
+ 787,
2479
+ 808,
2480
+ 809,
2481
+ 866,
2482
+ 867,
2483
+ 918,
2484
+ 919,
2485
+ 934,
2486
+ 935,
2487
+ 950,
2488
+ 951,
2489
+ 966,
2490
+ 967,
2491
+ 976,
2492
+ 977,
2493
+ 1020,
2494
+ 1021,
2495
+ 1034,
2496
+ 1035,
2497
+ 1052,
2498
+ 1053,
2499
+ 1068,
2500
+ 1069,
2501
+ 1082,
2502
+ 1083,
2503
+ 1116,
2504
+ 1117,
2505
+ 1118,
2506
+ 1119,
2507
+ 1136,
2508
+ 1137,
2509
+ 1160,
2510
+ 1161,
2511
+ 1194,
2512
+ 1195,
2513
+ 1210,
2514
+ 1211,
2515
+ 1216,
2516
+ 1217,
2517
+ 1268,
2518
+ 1269,
2519
+ 1272,
2520
+ 1273,
2521
+ 1274,
2522
+ 1275,
2523
+ 1288,
2524
+ 1289,
2525
+ 1298,
2526
+ 1299,
2527
+ 1332,
2528
+ 1333,
2529
+ 1346,
2530
+ 1347,
2531
+ 1386,
2532
+ 1387,
2533
+ 1416,
2534
+ 1417,
2535
+ 1452,
2536
+ 1453,
2537
+ 1474,
2538
+ 1475,
2539
+ 1482,
2540
+ 1483,
2541
+ 1492,
2542
+ 1493,
2543
+ 1496,
2544
+ 1497,
2545
+ 1512,
2546
+ 1513,
2547
+ 1522,
2548
+ 1523,
2549
+ 1526,
2550
+ 1527,
2551
+ 1566,
2552
+ 1567,
2553
+ 1578,
2554
+ 1579,
2555
+ 1598,
2556
+ 1599,
2557
+ 1610,
2558
+ 1611,
2559
+ 1612,
2560
+ 1613,
2561
+ 1614,
2562
+ 1615,
2563
+ 1626,
2564
+ 1627,
2565
+ 1642,
2566
+ 1643,
2567
+ 1710,
2568
+ 1711,
2569
+ 1722,
2570
+ 1723,
2571
+ 1744,
2572
+ 1745,
2573
+ 1746,
2574
+ 1747,
2575
+ 1748,
2576
+ 1749,
2577
+ 1770,
2578
+ 1771,
2579
+ 1774,
2580
+ 1775,
2581
+ 1802,
2582
+ 1803,
2583
+ 1806,
2584
+ 1807,
2585
+ 1816,
2586
+ 1817,
2587
+ 1818,
2588
+ 1819,
2589
+ 1824,
2590
+ 1825,
2591
+ 1832,
2592
+ 1833,
2593
+ 1858,
2594
+ 1859,
2595
+ 1894,
2596
+ 1895,
2597
+ 1896,
2598
+ 1897,
2599
+ 1900,
2600
+ 1901,
2601
+ 1902,
2602
+ 1903,
2603
+ 1910,
2604
+ 1911,
2605
+ 1920,
2606
+ 1921,
2607
+ 1934,
2608
+ 1935,
2609
+ 1966,
2610
+ 1967,
2611
+ 1974,
2612
+ 1975,
2613
+ 2008,
2614
+ 2009,
2615
+ 2036,
2616
+ 2037,
2617
+ 2094,
2618
+ 2095,
2619
+ 2096,
2620
+ 2097,
2621
+ 2108,
2622
+ 2109,
2623
+ 2116,
2624
+ 2117,
2625
+ 2134,
2626
+ 2135,
2627
+ 2164,
2628
+ 2165,
2629
+ 2168,
2630
+ 2169,
2631
+ 2174,
2632
+ 2175,
2633
+ 2186,
2634
+ 2187,
2635
+ 2194,
2636
+ 2195,
2637
+ 2224,
2638
+ 2225,
2639
+ 2248,
2640
+ 2249,
2641
+ 2274,
2642
+ 2275,
2643
+ 2300,
2644
+ 2301,
2645
+ 2310,
2646
+ 2311,
2647
+ 2314,
2648
+ 2315,
2649
+ 2322,
2650
+ 2323,
2651
+ 2352,
2652
+ 2353,
2653
+ 2370,
2654
+ 2371,
2655
+ 2438,
2656
+ 2439,
2657
+ 2450,
2658
+ 2451,
2659
+ 2454,
2660
+ 2455,
2661
+ 2520,
2662
+ 2521,
2663
+ 2542,
2664
+ 2543,
2665
+ 2544,
2666
+ 2545,
2667
+ 2576,
2668
+ 2577,
2669
+ 2616,
2670
+ 2617,
2671
+ 2628,
2672
+ 2629,
2673
+ 2638,
2674
+ 2639,
2675
+ 2644,
2676
+ 2645
2677
+ ],
2678
+ "clean_baseline": 3.31640625,
2679
+ "corrupted_baseline": -3.31640625
2680
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/wug/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:6049968b37a780e7b1f32ce858aa171dc821437f961647930145861c0484a283
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/Lan/wug/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:3d766713d0490405e8f859fd7afc4145556450ba9ca9691efb56fa76c693b7da
3
+ size 9231776
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_symbolic/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_symbolic/baselines.json ADDED
@@ -0,0 +1,1015 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 1.0,
7
+ "corrupted_accuracy": 1.0,
8
+ "both_correct_accuracy": 1.0,
9
+ "n_both_correct": 1000,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 129,
141
+ 130,
142
+ 131,
143
+ 132,
144
+ 133,
145
+ 134,
146
+ 135,
147
+ 136,
148
+ 137,
149
+ 138,
150
+ 139,
151
+ 140,
152
+ 141,
153
+ 142,
154
+ 143,
155
+ 144,
156
+ 145,
157
+ 146,
158
+ 147,
159
+ 148,
160
+ 149,
161
+ 150,
162
+ 151,
163
+ 152,
164
+ 153,
165
+ 154,
166
+ 155,
167
+ 156,
168
+ 157,
169
+ 158,
170
+ 159,
171
+ 160,
172
+ 161,
173
+ 162,
174
+ 163,
175
+ 164,
176
+ 165,
177
+ 166,
178
+ 167,
179
+ 168,
180
+ 169,
181
+ 170,
182
+ 171,
183
+ 172,
184
+ 173,
185
+ 174,
186
+ 175,
187
+ 176,
188
+ 177,
189
+ 178,
190
+ 179,
191
+ 180,
192
+ 181,
193
+ 182,
194
+ 183,
195
+ 184,
196
+ 185,
197
+ 186,
198
+ 187,
199
+ 188,
200
+ 189,
201
+ 190,
202
+ 191,
203
+ 192,
204
+ 193,
205
+ 194,
206
+ 195,
207
+ 196,
208
+ 197,
209
+ 198,
210
+ 199,
211
+ 200,
212
+ 201,
213
+ 202,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 209,
221
+ 210,
222
+ 211,
223
+ 212,
224
+ 213,
225
+ 214,
226
+ 215,
227
+ 216,
228
+ 217,
229
+ 218,
230
+ 219,
231
+ 220,
232
+ 221,
233
+ 222,
234
+ 223,
235
+ 224,
236
+ 225,
237
+ 226,
238
+ 227,
239
+ 228,
240
+ 229,
241
+ 230,
242
+ 231,
243
+ 232,
244
+ 233,
245
+ 234,
246
+ 235,
247
+ 236,
248
+ 237,
249
+ 238,
250
+ 239,
251
+ 240,
252
+ 241,
253
+ 242,
254
+ 243,
255
+ 244,
256
+ 245,
257
+ 246,
258
+ 247,
259
+ 248,
260
+ 249,
261
+ 250,
262
+ 251,
263
+ 252,
264
+ 253,
265
+ 254,
266
+ 255,
267
+ 256,
268
+ 257,
269
+ 258,
270
+ 259,
271
+ 260,
272
+ 261,
273
+ 262,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 274,
286
+ 275,
287
+ 276,
288
+ 277,
289
+ 278,
290
+ 279,
291
+ 280,
292
+ 281,
293
+ 282,
294
+ 283,
295
+ 284,
296
+ 285,
297
+ 286,
298
+ 287,
299
+ 288,
300
+ 289,
301
+ 290,
302
+ 291,
303
+ 292,
304
+ 293,
305
+ 294,
306
+ 295,
307
+ 296,
308
+ 297,
309
+ 298,
310
+ 299,
311
+ 300,
312
+ 301,
313
+ 302,
314
+ 303,
315
+ 304,
316
+ 305,
317
+ 306,
318
+ 307,
319
+ 308,
320
+ 309,
321
+ 310,
322
+ 311,
323
+ 312,
324
+ 313,
325
+ 314,
326
+ 315,
327
+ 316,
328
+ 317,
329
+ 318,
330
+ 319,
331
+ 320,
332
+ 321,
333
+ 322,
334
+ 323,
335
+ 324,
336
+ 325,
337
+ 326,
338
+ 327,
339
+ 328,
340
+ 329,
341
+ 330,
342
+ 331,
343
+ 332,
344
+ 333,
345
+ 334,
346
+ 335,
347
+ 336,
348
+ 337,
349
+ 338,
350
+ 339,
351
+ 340,
352
+ 341,
353
+ 342,
354
+ 343,
355
+ 344,
356
+ 345,
357
+ 346,
358
+ 347,
359
+ 348,
360
+ 349,
361
+ 350,
362
+ 351,
363
+ 352,
364
+ 353,
365
+ 354,
366
+ 355,
367
+ 356,
368
+ 357,
369
+ 358,
370
+ 359,
371
+ 360,
372
+ 361,
373
+ 362,
374
+ 363,
375
+ 364,
376
+ 365,
377
+ 366,
378
+ 367,
379
+ 368,
380
+ 369,
381
+ 370,
382
+ 371,
383
+ 372,
384
+ 373,
385
+ 374,
386
+ 375,
387
+ 376,
388
+ 377,
389
+ 378,
390
+ 379,
391
+ 380,
392
+ 381,
393
+ 382,
394
+ 383,
395
+ 384,
396
+ 385,
397
+ 386,
398
+ 387,
399
+ 388,
400
+ 389,
401
+ 390,
402
+ 391,
403
+ 392,
404
+ 393,
405
+ 394,
406
+ 395,
407
+ 396,
408
+ 397,
409
+ 398,
410
+ 399,
411
+ 400,
412
+ 401,
413
+ 402,
414
+ 403,
415
+ 404,
416
+ 405,
417
+ 406,
418
+ 407,
419
+ 408,
420
+ 409,
421
+ 410,
422
+ 411,
423
+ 412,
424
+ 413,
425
+ 414,
426
+ 415,
427
+ 416,
428
+ 417,
429
+ 418,
430
+ 419,
431
+ 420,
432
+ 421,
433
+ 422,
434
+ 423,
435
+ 424,
436
+ 425,
437
+ 426,
438
+ 427,
439
+ 428,
440
+ 429,
441
+ 430,
442
+ 431,
443
+ 432,
444
+ 433,
445
+ 434,
446
+ 435,
447
+ 436,
448
+ 437,
449
+ 438,
450
+ 439,
451
+ 440,
452
+ 441,
453
+ 442,
454
+ 443,
455
+ 444,
456
+ 445,
457
+ 446,
458
+ 447,
459
+ 448,
460
+ 449,
461
+ 450,
462
+ 451,
463
+ 452,
464
+ 453,
465
+ 454,
466
+ 455,
467
+ 456,
468
+ 457,
469
+ 458,
470
+ 459,
471
+ 460,
472
+ 461,
473
+ 462,
474
+ 463,
475
+ 464,
476
+ 465,
477
+ 466,
478
+ 467,
479
+ 468,
480
+ 469,
481
+ 470,
482
+ 471,
483
+ 472,
484
+ 473,
485
+ 474,
486
+ 475,
487
+ 476,
488
+ 477,
489
+ 478,
490
+ 479,
491
+ 480,
492
+ 481,
493
+ 482,
494
+ 483,
495
+ 484,
496
+ 485,
497
+ 486,
498
+ 487,
499
+ 488,
500
+ 489,
501
+ 490,
502
+ 491,
503
+ 492,
504
+ 493,
505
+ 494,
506
+ 495,
507
+ 496,
508
+ 497,
509
+ 498,
510
+ 499,
511
+ 500,
512
+ 501,
513
+ 502,
514
+ 503,
515
+ 504,
516
+ 505,
517
+ 506,
518
+ 507,
519
+ 508,
520
+ 509,
521
+ 510,
522
+ 511,
523
+ 512,
524
+ 513,
525
+ 514,
526
+ 515,
527
+ 516,
528
+ 517,
529
+ 518,
530
+ 519,
531
+ 520,
532
+ 521,
533
+ 522,
534
+ 523,
535
+ 524,
536
+ 525,
537
+ 526,
538
+ 527,
539
+ 528,
540
+ 529,
541
+ 530,
542
+ 531,
543
+ 532,
544
+ 533,
545
+ 534,
546
+ 535,
547
+ 536,
548
+ 537,
549
+ 538,
550
+ 539,
551
+ 540,
552
+ 541,
553
+ 542,
554
+ 543,
555
+ 544,
556
+ 545,
557
+ 546,
558
+ 547,
559
+ 548,
560
+ 549,
561
+ 550,
562
+ 551,
563
+ 552,
564
+ 553,
565
+ 554,
566
+ 555,
567
+ 556,
568
+ 557,
569
+ 558,
570
+ 559,
571
+ 560,
572
+ 561,
573
+ 562,
574
+ 563,
575
+ 564,
576
+ 565,
577
+ 566,
578
+ 567,
579
+ 568,
580
+ 569,
581
+ 570,
582
+ 571,
583
+ 572,
584
+ 573,
585
+ 574,
586
+ 575,
587
+ 576,
588
+ 577,
589
+ 578,
590
+ 579,
591
+ 580,
592
+ 581,
593
+ 582,
594
+ 583,
595
+ 584,
596
+ 585,
597
+ 586,
598
+ 587,
599
+ 588,
600
+ 589,
601
+ 590,
602
+ 591,
603
+ 592,
604
+ 593,
605
+ 594,
606
+ 595,
607
+ 596,
608
+ 597,
609
+ 598,
610
+ 599,
611
+ 600,
612
+ 601,
613
+ 602,
614
+ 603,
615
+ 604,
616
+ 605,
617
+ 606,
618
+ 607,
619
+ 608,
620
+ 609,
621
+ 610,
622
+ 611,
623
+ 612,
624
+ 613,
625
+ 614,
626
+ 615,
627
+ 616,
628
+ 617,
629
+ 618,
630
+ 619,
631
+ 620,
632
+ 621,
633
+ 622,
634
+ 623,
635
+ 624,
636
+ 625,
637
+ 626,
638
+ 627,
639
+ 628,
640
+ 629,
641
+ 630,
642
+ 631,
643
+ 632,
644
+ 633,
645
+ 634,
646
+ 635,
647
+ 636,
648
+ 637,
649
+ 638,
650
+ 639,
651
+ 640,
652
+ 641,
653
+ 642,
654
+ 643,
655
+ 644,
656
+ 645,
657
+ 646,
658
+ 647,
659
+ 648,
660
+ 649,
661
+ 650,
662
+ 651,
663
+ 652,
664
+ 653,
665
+ 654,
666
+ 655,
667
+ 656,
668
+ 657,
669
+ 658,
670
+ 659,
671
+ 660,
672
+ 661,
673
+ 662,
674
+ 663,
675
+ 664,
676
+ 665,
677
+ 666,
678
+ 667,
679
+ 668,
680
+ 669,
681
+ 670,
682
+ 671,
683
+ 672,
684
+ 673,
685
+ 674,
686
+ 675,
687
+ 676,
688
+ 677,
689
+ 678,
690
+ 679,
691
+ 680,
692
+ 681,
693
+ 682,
694
+ 683,
695
+ 684,
696
+ 685,
697
+ 686,
698
+ 687,
699
+ 688,
700
+ 689,
701
+ 690,
702
+ 691,
703
+ 692,
704
+ 693,
705
+ 694,
706
+ 695,
707
+ 696,
708
+ 697,
709
+ 698,
710
+ 699,
711
+ 700,
712
+ 701,
713
+ 702,
714
+ 703,
715
+ 704,
716
+ 705,
717
+ 706,
718
+ 707,
719
+ 708,
720
+ 709,
721
+ 710,
722
+ 711,
723
+ 712,
724
+ 713,
725
+ 714,
726
+ 715,
727
+ 716,
728
+ 717,
729
+ 718,
730
+ 719,
731
+ 720,
732
+ 721,
733
+ 722,
734
+ 723,
735
+ 724,
736
+ 725,
737
+ 726,
738
+ 727,
739
+ 728,
740
+ 729,
741
+ 730,
742
+ 731,
743
+ 732,
744
+ 733,
745
+ 734,
746
+ 735,
747
+ 736,
748
+ 737,
749
+ 738,
750
+ 739,
751
+ 740,
752
+ 741,
753
+ 742,
754
+ 743,
755
+ 744,
756
+ 745,
757
+ 746,
758
+ 747,
759
+ 748,
760
+ 749,
761
+ 750,
762
+ 751,
763
+ 752,
764
+ 753,
765
+ 754,
766
+ 755,
767
+ 756,
768
+ 757,
769
+ 758,
770
+ 759,
771
+ 760,
772
+ 761,
773
+ 762,
774
+ 763,
775
+ 764,
776
+ 765,
777
+ 766,
778
+ 767,
779
+ 768,
780
+ 769,
781
+ 770,
782
+ 771,
783
+ 772,
784
+ 773,
785
+ 774,
786
+ 775,
787
+ 776,
788
+ 777,
789
+ 778,
790
+ 779,
791
+ 780,
792
+ 781,
793
+ 782,
794
+ 783,
795
+ 784,
796
+ 785,
797
+ 786,
798
+ 787,
799
+ 788,
800
+ 789,
801
+ 790,
802
+ 791,
803
+ 792,
804
+ 793,
805
+ 794,
806
+ 795,
807
+ 796,
808
+ 797,
809
+ 798,
810
+ 799,
811
+ 800,
812
+ 801,
813
+ 802,
814
+ 803,
815
+ 804,
816
+ 805,
817
+ 806,
818
+ 807,
819
+ 808,
820
+ 809,
821
+ 810,
822
+ 811,
823
+ 812,
824
+ 813,
825
+ 814,
826
+ 815,
827
+ 816,
828
+ 817,
829
+ 818,
830
+ 819,
831
+ 820,
832
+ 821,
833
+ 822,
834
+ 823,
835
+ 824,
836
+ 825,
837
+ 826,
838
+ 827,
839
+ 828,
840
+ 829,
841
+ 830,
842
+ 831,
843
+ 832,
844
+ 833,
845
+ 834,
846
+ 835,
847
+ 836,
848
+ 837,
849
+ 838,
850
+ 839,
851
+ 840,
852
+ 841,
853
+ 842,
854
+ 843,
855
+ 844,
856
+ 845,
857
+ 846,
858
+ 847,
859
+ 848,
860
+ 849,
861
+ 850,
862
+ 851,
863
+ 852,
864
+ 853,
865
+ 854,
866
+ 855,
867
+ 856,
868
+ 857,
869
+ 858,
870
+ 859,
871
+ 860,
872
+ 861,
873
+ 862,
874
+ 863,
875
+ 864,
876
+ 865,
877
+ 866,
878
+ 867,
879
+ 868,
880
+ 869,
881
+ 870,
882
+ 871,
883
+ 872,
884
+ 873,
885
+ 874,
886
+ 875,
887
+ 876,
888
+ 877,
889
+ 878,
890
+ 879,
891
+ 880,
892
+ 881,
893
+ 882,
894
+ 883,
895
+ 884,
896
+ 885,
897
+ 886,
898
+ 887,
899
+ 888,
900
+ 889,
901
+ 890,
902
+ 891,
903
+ 892,
904
+ 893,
905
+ 894,
906
+ 895,
907
+ 896,
908
+ 897,
909
+ 898,
910
+ 899,
911
+ 900,
912
+ 901,
913
+ 902,
914
+ 903,
915
+ 904,
916
+ 905,
917
+ 906,
918
+ 907,
919
+ 908,
920
+ 909,
921
+ 910,
922
+ 911,
923
+ 912,
924
+ 913,
925
+ 914,
926
+ 915,
927
+ 916,
928
+ 917,
929
+ 918,
930
+ 919,
931
+ 920,
932
+ 921,
933
+ 922,
934
+ 923,
935
+ 924,
936
+ 925,
937
+ 926,
938
+ 927,
939
+ 928,
940
+ 929,
941
+ 930,
942
+ 931,
943
+ 932,
944
+ 933,
945
+ 934,
946
+ 935,
947
+ 936,
948
+ 937,
949
+ 938,
950
+ 939,
951
+ 940,
952
+ 941,
953
+ 942,
954
+ 943,
955
+ 944,
956
+ 945,
957
+ 946,
958
+ 947,
959
+ 948,
960
+ 949,
961
+ 950,
962
+ 951,
963
+ 952,
964
+ 953,
965
+ 954,
966
+ 955,
967
+ 956,
968
+ 957,
969
+ 958,
970
+ 959,
971
+ 960,
972
+ 961,
973
+ 962,
974
+ 963,
975
+ 964,
976
+ 965,
977
+ 966,
978
+ 967,
979
+ 968,
980
+ 969,
981
+ 970,
982
+ 971,
983
+ 972,
984
+ 973,
985
+ 974,
986
+ 975,
987
+ 976,
988
+ 977,
989
+ 978,
990
+ 979,
991
+ 980,
992
+ 981,
993
+ 982,
994
+ 983,
995
+ 984,
996
+ 985,
997
+ 986,
998
+ 987,
999
+ 988,
1000
+ 989,
1001
+ 990,
1002
+ 991,
1003
+ 992,
1004
+ 993,
1005
+ 994,
1006
+ 995,
1007
+ 996,
1008
+ 997,
1009
+ 998,
1010
+ 999
1011
+ ],
1012
+ "not_both_correct_indices": [],
1013
+ "clean_baseline": 16.890625,
1014
+ "corrupted_baseline": -16.9375
1015
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_symbolic/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:bde72c61e57c5d4148d7e71fabfab3944bc1849521db4704f44a09181d617df9
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_symbolic/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:b9ff2f8d21bd580ce963b1635d446b66f52f33629ab7b2d7bd2cc350b542e625
3
+ size 8572416
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_verbal/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_verbal/baselines.json ADDED
@@ -0,0 +1,1017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 14,
4
+ "token_misaligned_indices": [
5
+ 100,
6
+ 247,
7
+ 272,
8
+ 384,
9
+ 493,
10
+ 523,
11
+ 558,
12
+ 613,
13
+ 630,
14
+ 655,
15
+ 678,
16
+ 750,
17
+ 813,
18
+ 935
19
+ ],
20
+ "n_after_alignment_filter": 986,
21
+ "clean_accuracy": 0.9726166328600405,
22
+ "corrupted_accuracy": 0.9756592292089249,
23
+ "both_correct_accuracy": 0.9482758620689655,
24
+ "n_both_correct": 935,
25
+ "both_correct_indices": [
26
+ 0,
27
+ 1,
28
+ 2,
29
+ 3,
30
+ 4,
31
+ 5,
32
+ 6,
33
+ 7,
34
+ 8,
35
+ 9,
36
+ 11,
37
+ 12,
38
+ 13,
39
+ 14,
40
+ 15,
41
+ 16,
42
+ 17,
43
+ 18,
44
+ 19,
45
+ 20,
46
+ 21,
47
+ 22,
48
+ 23,
49
+ 24,
50
+ 25,
51
+ 26,
52
+ 27,
53
+ 28,
54
+ 29,
55
+ 30,
56
+ 31,
57
+ 32,
58
+ 33,
59
+ 34,
60
+ 35,
61
+ 36,
62
+ 37,
63
+ 38,
64
+ 39,
65
+ 40,
66
+ 41,
67
+ 42,
68
+ 43,
69
+ 44,
70
+ 45,
71
+ 46,
72
+ 47,
73
+ 48,
74
+ 49,
75
+ 50,
76
+ 51,
77
+ 52,
78
+ 53,
79
+ 54,
80
+ 55,
81
+ 56,
82
+ 57,
83
+ 58,
84
+ 59,
85
+ 60,
86
+ 63,
87
+ 64,
88
+ 65,
89
+ 66,
90
+ 67,
91
+ 68,
92
+ 69,
93
+ 70,
94
+ 71,
95
+ 72,
96
+ 73,
97
+ 74,
98
+ 75,
99
+ 76,
100
+ 77,
101
+ 78,
102
+ 79,
103
+ 80,
104
+ 81,
105
+ 82,
106
+ 83,
107
+ 84,
108
+ 85,
109
+ 86,
110
+ 87,
111
+ 88,
112
+ 90,
113
+ 91,
114
+ 92,
115
+ 93,
116
+ 94,
117
+ 95,
118
+ 96,
119
+ 97,
120
+ 98,
121
+ 99,
122
+ 101,
123
+ 102,
124
+ 103,
125
+ 104,
126
+ 105,
127
+ 106,
128
+ 107,
129
+ 108,
130
+ 109,
131
+ 110,
132
+ 111,
133
+ 112,
134
+ 113,
135
+ 114,
136
+ 115,
137
+ 116,
138
+ 117,
139
+ 118,
140
+ 119,
141
+ 120,
142
+ 121,
143
+ 122,
144
+ 123,
145
+ 124,
146
+ 125,
147
+ 126,
148
+ 127,
149
+ 128,
150
+ 129,
151
+ 130,
152
+ 131,
153
+ 132,
154
+ 133,
155
+ 134,
156
+ 135,
157
+ 136,
158
+ 137,
159
+ 138,
160
+ 139,
161
+ 140,
162
+ 141,
163
+ 142,
164
+ 143,
165
+ 144,
166
+ 145,
167
+ 146,
168
+ 147,
169
+ 148,
170
+ 149,
171
+ 150,
172
+ 151,
173
+ 152,
174
+ 153,
175
+ 154,
176
+ 155,
177
+ 156,
178
+ 157,
179
+ 158,
180
+ 159,
181
+ 160,
182
+ 161,
183
+ 162,
184
+ 163,
185
+ 164,
186
+ 165,
187
+ 166,
188
+ 168,
189
+ 169,
190
+ 170,
191
+ 171,
192
+ 172,
193
+ 173,
194
+ 174,
195
+ 175,
196
+ 176,
197
+ 177,
198
+ 178,
199
+ 179,
200
+ 180,
201
+ 181,
202
+ 182,
203
+ 183,
204
+ 184,
205
+ 185,
206
+ 186,
207
+ 187,
208
+ 188,
209
+ 189,
210
+ 190,
211
+ 191,
212
+ 192,
213
+ 193,
214
+ 194,
215
+ 195,
216
+ 196,
217
+ 197,
218
+ 198,
219
+ 199,
220
+ 200,
221
+ 201,
222
+ 202,
223
+ 203,
224
+ 204,
225
+ 205,
226
+ 206,
227
+ 207,
228
+ 208,
229
+ 209,
230
+ 210,
231
+ 211,
232
+ 212,
233
+ 213,
234
+ 214,
235
+ 215,
236
+ 216,
237
+ 217,
238
+ 218,
239
+ 219,
240
+ 220,
241
+ 221,
242
+ 222,
243
+ 223,
244
+ 224,
245
+ 225,
246
+ 226,
247
+ 227,
248
+ 228,
249
+ 229,
250
+ 230,
251
+ 231,
252
+ 232,
253
+ 233,
254
+ 234,
255
+ 235,
256
+ 236,
257
+ 237,
258
+ 238,
259
+ 239,
260
+ 240,
261
+ 241,
262
+ 242,
263
+ 243,
264
+ 244,
265
+ 245,
266
+ 248,
267
+ 249,
268
+ 251,
269
+ 252,
270
+ 253,
271
+ 254,
272
+ 255,
273
+ 256,
274
+ 257,
275
+ 258,
276
+ 259,
277
+ 260,
278
+ 261,
279
+ 262,
280
+ 263,
281
+ 264,
282
+ 265,
283
+ 266,
284
+ 267,
285
+ 268,
286
+ 269,
287
+ 270,
288
+ 271,
289
+ 273,
290
+ 274,
291
+ 275,
292
+ 276,
293
+ 277,
294
+ 279,
295
+ 280,
296
+ 281,
297
+ 282,
298
+ 283,
299
+ 284,
300
+ 285,
301
+ 287,
302
+ 288,
303
+ 289,
304
+ 290,
305
+ 291,
306
+ 292,
307
+ 293,
308
+ 294,
309
+ 297,
310
+ 298,
311
+ 299,
312
+ 300,
313
+ 301,
314
+ 302,
315
+ 303,
316
+ 304,
317
+ 305,
318
+ 306,
319
+ 307,
320
+ 308,
321
+ 309,
322
+ 310,
323
+ 311,
324
+ 312,
325
+ 313,
326
+ 314,
327
+ 315,
328
+ 316,
329
+ 317,
330
+ 318,
331
+ 319,
332
+ 320,
333
+ 321,
334
+ 322,
335
+ 323,
336
+ 324,
337
+ 325,
338
+ 326,
339
+ 327,
340
+ 328,
341
+ 329,
342
+ 330,
343
+ 331,
344
+ 333,
345
+ 334,
346
+ 335,
347
+ 336,
348
+ 337,
349
+ 338,
350
+ 339,
351
+ 340,
352
+ 341,
353
+ 342,
354
+ 343,
355
+ 345,
356
+ 347,
357
+ 348,
358
+ 349,
359
+ 350,
360
+ 351,
361
+ 352,
362
+ 353,
363
+ 354,
364
+ 355,
365
+ 356,
366
+ 357,
367
+ 358,
368
+ 359,
369
+ 360,
370
+ 361,
371
+ 362,
372
+ 363,
373
+ 364,
374
+ 365,
375
+ 366,
376
+ 367,
377
+ 368,
378
+ 369,
379
+ 370,
380
+ 371,
381
+ 372,
382
+ 373,
383
+ 374,
384
+ 376,
385
+ 377,
386
+ 379,
387
+ 380,
388
+ 381,
389
+ 382,
390
+ 383,
391
+ 385,
392
+ 386,
393
+ 387,
394
+ 389,
395
+ 390,
396
+ 391,
397
+ 392,
398
+ 393,
399
+ 394,
400
+ 395,
401
+ 396,
402
+ 397,
403
+ 398,
404
+ 399,
405
+ 400,
406
+ 401,
407
+ 402,
408
+ 403,
409
+ 404,
410
+ 406,
411
+ 407,
412
+ 408,
413
+ 409,
414
+ 410,
415
+ 411,
416
+ 412,
417
+ 413,
418
+ 414,
419
+ 415,
420
+ 416,
421
+ 417,
422
+ 418,
423
+ 419,
424
+ 420,
425
+ 421,
426
+ 422,
427
+ 423,
428
+ 424,
429
+ 425,
430
+ 426,
431
+ 427,
432
+ 428,
433
+ 429,
434
+ 430,
435
+ 431,
436
+ 432,
437
+ 433,
438
+ 434,
439
+ 435,
440
+ 437,
441
+ 438,
442
+ 439,
443
+ 440,
444
+ 441,
445
+ 442,
446
+ 443,
447
+ 444,
448
+ 445,
449
+ 446,
450
+ 447,
451
+ 448,
452
+ 449,
453
+ 450,
454
+ 451,
455
+ 452,
456
+ 453,
457
+ 454,
458
+ 455,
459
+ 456,
460
+ 457,
461
+ 458,
462
+ 460,
463
+ 461,
464
+ 462,
465
+ 463,
466
+ 464,
467
+ 465,
468
+ 466,
469
+ 467,
470
+ 468,
471
+ 469,
472
+ 470,
473
+ 471,
474
+ 472,
475
+ 473,
476
+ 474,
477
+ 475,
478
+ 476,
479
+ 477,
480
+ 478,
481
+ 479,
482
+ 480,
483
+ 481,
484
+ 482,
485
+ 483,
486
+ 484,
487
+ 485,
488
+ 486,
489
+ 487,
490
+ 488,
491
+ 489,
492
+ 490,
493
+ 491,
494
+ 492,
495
+ 494,
496
+ 495,
497
+ 496,
498
+ 497,
499
+ 498,
500
+ 499,
501
+ 500,
502
+ 501,
503
+ 502,
504
+ 503,
505
+ 504,
506
+ 505,
507
+ 506,
508
+ 507,
509
+ 508,
510
+ 509,
511
+ 510,
512
+ 511,
513
+ 512,
514
+ 513,
515
+ 514,
516
+ 515,
517
+ 516,
518
+ 517,
519
+ 518,
520
+ 519,
521
+ 520,
522
+ 521,
523
+ 522,
524
+ 524,
525
+ 525,
526
+ 526,
527
+ 527,
528
+ 528,
529
+ 529,
530
+ 530,
531
+ 531,
532
+ 532,
533
+ 533,
534
+ 534,
535
+ 535,
536
+ 536,
537
+ 537,
538
+ 538,
539
+ 539,
540
+ 540,
541
+ 541,
542
+ 542,
543
+ 543,
544
+ 544,
545
+ 545,
546
+ 546,
547
+ 547,
548
+ 548,
549
+ 549,
550
+ 550,
551
+ 551,
552
+ 552,
553
+ 553,
554
+ 554,
555
+ 555,
556
+ 556,
557
+ 557,
558
+ 559,
559
+ 560,
560
+ 561,
561
+ 562,
562
+ 563,
563
+ 564,
564
+ 565,
565
+ 566,
566
+ 567,
567
+ 568,
568
+ 569,
569
+ 570,
570
+ 571,
571
+ 572,
572
+ 573,
573
+ 574,
574
+ 575,
575
+ 576,
576
+ 577,
577
+ 578,
578
+ 579,
579
+ 581,
580
+ 582,
581
+ 584,
582
+ 585,
583
+ 586,
584
+ 590,
585
+ 591,
586
+ 592,
587
+ 593,
588
+ 594,
589
+ 595,
590
+ 596,
591
+ 597,
592
+ 598,
593
+ 599,
594
+ 600,
595
+ 601,
596
+ 602,
597
+ 603,
598
+ 604,
599
+ 605,
600
+ 607,
601
+ 608,
602
+ 609,
603
+ 610,
604
+ 611,
605
+ 612,
606
+ 614,
607
+ 615,
608
+ 616,
609
+ 617,
610
+ 618,
611
+ 619,
612
+ 620,
613
+ 621,
614
+ 622,
615
+ 623,
616
+ 624,
617
+ 625,
618
+ 626,
619
+ 628,
620
+ 629,
621
+ 631,
622
+ 632,
623
+ 633,
624
+ 634,
625
+ 635,
626
+ 636,
627
+ 637,
628
+ 638,
629
+ 639,
630
+ 640,
631
+ 642,
632
+ 643,
633
+ 644,
634
+ 645,
635
+ 646,
636
+ 647,
637
+ 648,
638
+ 649,
639
+ 650,
640
+ 652,
641
+ 653,
642
+ 654,
643
+ 656,
644
+ 657,
645
+ 659,
646
+ 660,
647
+ 661,
648
+ 662,
649
+ 663,
650
+ 664,
651
+ 665,
652
+ 666,
653
+ 667,
654
+ 668,
655
+ 669,
656
+ 670,
657
+ 671,
658
+ 672,
659
+ 673,
660
+ 674,
661
+ 675,
662
+ 676,
663
+ 677,
664
+ 679,
665
+ 680,
666
+ 681,
667
+ 682,
668
+ 683,
669
+ 684,
670
+ 685,
671
+ 686,
672
+ 687,
673
+ 688,
674
+ 689,
675
+ 690,
676
+ 691,
677
+ 693,
678
+ 694,
679
+ 695,
680
+ 696,
681
+ 697,
682
+ 698,
683
+ 699,
684
+ 700,
685
+ 701,
686
+ 702,
687
+ 703,
688
+ 704,
689
+ 705,
690
+ 706,
691
+ 707,
692
+ 708,
693
+ 709,
694
+ 710,
695
+ 711,
696
+ 712,
697
+ 713,
698
+ 714,
699
+ 715,
700
+ 716,
701
+ 717,
702
+ 718,
703
+ 719,
704
+ 720,
705
+ 721,
706
+ 722,
707
+ 723,
708
+ 724,
709
+ 725,
710
+ 726,
711
+ 727,
712
+ 728,
713
+ 729,
714
+ 730,
715
+ 731,
716
+ 732,
717
+ 733,
718
+ 734,
719
+ 735,
720
+ 736,
721
+ 738,
722
+ 739,
723
+ 740,
724
+ 741,
725
+ 742,
726
+ 743,
727
+ 744,
728
+ 745,
729
+ 746,
730
+ 747,
731
+ 748,
732
+ 749,
733
+ 751,
734
+ 752,
735
+ 754,
736
+ 755,
737
+ 756,
738
+ 757,
739
+ 758,
740
+ 759,
741
+ 760,
742
+ 761,
743
+ 762,
744
+ 763,
745
+ 764,
746
+ 765,
747
+ 766,
748
+ 767,
749
+ 768,
750
+ 770,
751
+ 772,
752
+ 773,
753
+ 774,
754
+ 775,
755
+ 776,
756
+ 777,
757
+ 778,
758
+ 779,
759
+ 780,
760
+ 781,
761
+ 782,
762
+ 783,
763
+ 784,
764
+ 785,
765
+ 786,
766
+ 787,
767
+ 788,
768
+ 789,
769
+ 790,
770
+ 791,
771
+ 792,
772
+ 793,
773
+ 794,
774
+ 795,
775
+ 796,
776
+ 797,
777
+ 798,
778
+ 799,
779
+ 800,
780
+ 802,
781
+ 803,
782
+ 804,
783
+ 805,
784
+ 806,
785
+ 807,
786
+ 808,
787
+ 809,
788
+ 810,
789
+ 811,
790
+ 812,
791
+ 814,
792
+ 815,
793
+ 816,
794
+ 817,
795
+ 818,
796
+ 819,
797
+ 820,
798
+ 821,
799
+ 823,
800
+ 824,
801
+ 825,
802
+ 826,
803
+ 827,
804
+ 828,
805
+ 829,
806
+ 830,
807
+ 831,
808
+ 832,
809
+ 833,
810
+ 834,
811
+ 835,
812
+ 836,
813
+ 837,
814
+ 838,
815
+ 839,
816
+ 841,
817
+ 842,
818
+ 843,
819
+ 844,
820
+ 845,
821
+ 846,
822
+ 847,
823
+ 848,
824
+ 849,
825
+ 850,
826
+ 851,
827
+ 852,
828
+ 853,
829
+ 854,
830
+ 856,
831
+ 857,
832
+ 858,
833
+ 859,
834
+ 860,
835
+ 861,
836
+ 862,
837
+ 863,
838
+ 864,
839
+ 865,
840
+ 866,
841
+ 867,
842
+ 868,
843
+ 870,
844
+ 871,
845
+ 872,
846
+ 873,
847
+ 874,
848
+ 875,
849
+ 876,
850
+ 877,
851
+ 879,
852
+ 880,
853
+ 881,
854
+ 882,
855
+ 883,
856
+ 884,
857
+ 885,
858
+ 886,
859
+ 887,
860
+ 888,
861
+ 889,
862
+ 890,
863
+ 891,
864
+ 892,
865
+ 893,
866
+ 894,
867
+ 895,
868
+ 896,
869
+ 897,
870
+ 899,
871
+ 900,
872
+ 901,
873
+ 902,
874
+ 903,
875
+ 904,
876
+ 905,
877
+ 906,
878
+ 907,
879
+ 908,
880
+ 910,
881
+ 912,
882
+ 913,
883
+ 914,
884
+ 915,
885
+ 916,
886
+ 917,
887
+ 918,
888
+ 919,
889
+ 920,
890
+ 921,
891
+ 922,
892
+ 923,
893
+ 924,
894
+ 925,
895
+ 926,
896
+ 927,
897
+ 928,
898
+ 929,
899
+ 930,
900
+ 931,
901
+ 932,
902
+ 934,
903
+ 936,
904
+ 937,
905
+ 938,
906
+ 939,
907
+ 940,
908
+ 941,
909
+ 942,
910
+ 943,
911
+ 944,
912
+ 945,
913
+ 946,
914
+ 947,
915
+ 948,
916
+ 949,
917
+ 950,
918
+ 951,
919
+ 952,
920
+ 953,
921
+ 954,
922
+ 955,
923
+ 956,
924
+ 958,
925
+ 959,
926
+ 961,
927
+ 962,
928
+ 963,
929
+ 964,
930
+ 965,
931
+ 966,
932
+ 968,
933
+ 969,
934
+ 970,
935
+ 971,
936
+ 972,
937
+ 973,
938
+ 974,
939
+ 975,
940
+ 976,
941
+ 977,
942
+ 979,
943
+ 980,
944
+ 981,
945
+ 982,
946
+ 983,
947
+ 984,
948
+ 985,
949
+ 986,
950
+ 987,
951
+ 988,
952
+ 990,
953
+ 991,
954
+ 992,
955
+ 993,
956
+ 994,
957
+ 995,
958
+ 997,
959
+ 998,
960
+ 999
961
+ ],
962
+ "not_both_correct_indices": [
963
+ 10,
964
+ 61,
965
+ 62,
966
+ 89,
967
+ 167,
968
+ 246,
969
+ 250,
970
+ 278,
971
+ 286,
972
+ 295,
973
+ 296,
974
+ 332,
975
+ 344,
976
+ 346,
977
+ 375,
978
+ 378,
979
+ 388,
980
+ 405,
981
+ 436,
982
+ 459,
983
+ 580,
984
+ 583,
985
+ 587,
986
+ 588,
987
+ 589,
988
+ 606,
989
+ 627,
990
+ 641,
991
+ 651,
992
+ 658,
993
+ 692,
994
+ 737,
995
+ 753,
996
+ 769,
997
+ 771,
998
+ 801,
999
+ 822,
1000
+ 840,
1001
+ 855,
1002
+ 869,
1003
+ 878,
1004
+ 898,
1005
+ 909,
1006
+ 911,
1007
+ 933,
1008
+ 957,
1009
+ 960,
1010
+ 967,
1011
+ 978,
1012
+ 989,
1013
+ 996
1014
+ ],
1015
+ "clean_baseline": 13.2265625,
1016
+ "corrupted_baseline": -13.2734375
1017
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_verbal/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:2100c8fd887161c65bd1aebcf2d5c2cff82ed3c178ff71cdedd0f000b39063f1
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_2op_verbal/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:295267a275ba6f8e84d1617104cd28615ef1063d4e4809fd7ef250521b08a690
3
+ size 8309928
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_symbolic/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_symbolic/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.999,
7
+ "corrupted_accuracy": 1.0,
8
+ "both_correct_accuracy": 0.999,
9
+ "n_both_correct": 999,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 129,
141
+ 130,
142
+ 131,
143
+ 132,
144
+ 133,
145
+ 134,
146
+ 135,
147
+ 136,
148
+ 137,
149
+ 138,
150
+ 139,
151
+ 140,
152
+ 141,
153
+ 142,
154
+ 143,
155
+ 144,
156
+ 145,
157
+ 146,
158
+ 147,
159
+ 148,
160
+ 149,
161
+ 150,
162
+ 151,
163
+ 152,
164
+ 153,
165
+ 154,
166
+ 155,
167
+ 156,
168
+ 157,
169
+ 158,
170
+ 159,
171
+ 160,
172
+ 161,
173
+ 162,
174
+ 163,
175
+ 164,
176
+ 165,
177
+ 166,
178
+ 167,
179
+ 168,
180
+ 169,
181
+ 170,
182
+ 171,
183
+ 172,
184
+ 173,
185
+ 174,
186
+ 175,
187
+ 176,
188
+ 177,
189
+ 178,
190
+ 179,
191
+ 180,
192
+ 181,
193
+ 182,
194
+ 183,
195
+ 184,
196
+ 185,
197
+ 186,
198
+ 187,
199
+ 188,
200
+ 189,
201
+ 190,
202
+ 191,
203
+ 192,
204
+ 193,
205
+ 194,
206
+ 195,
207
+ 196,
208
+ 197,
209
+ 198,
210
+ 199,
211
+ 200,
212
+ 201,
213
+ 202,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 209,
221
+ 210,
222
+ 211,
223
+ 212,
224
+ 213,
225
+ 214,
226
+ 215,
227
+ 216,
228
+ 217,
229
+ 218,
230
+ 219,
231
+ 220,
232
+ 221,
233
+ 222,
234
+ 223,
235
+ 224,
236
+ 225,
237
+ 226,
238
+ 227,
239
+ 228,
240
+ 229,
241
+ 230,
242
+ 231,
243
+ 232,
244
+ 233,
245
+ 234,
246
+ 235,
247
+ 236,
248
+ 237,
249
+ 238,
250
+ 239,
251
+ 240,
252
+ 241,
253
+ 242,
254
+ 243,
255
+ 244,
256
+ 245,
257
+ 246,
258
+ 247,
259
+ 248,
260
+ 249,
261
+ 250,
262
+ 251,
263
+ 252,
264
+ 253,
265
+ 254,
266
+ 255,
267
+ 256,
268
+ 257,
269
+ 258,
270
+ 259,
271
+ 260,
272
+ 261,
273
+ 262,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 274,
286
+ 275,
287
+ 276,
288
+ 277,
289
+ 278,
290
+ 279,
291
+ 280,
292
+ 281,
293
+ 282,
294
+ 283,
295
+ 284,
296
+ 285,
297
+ 286,
298
+ 287,
299
+ 288,
300
+ 289,
301
+ 290,
302
+ 291,
303
+ 292,
304
+ 293,
305
+ 294,
306
+ 295,
307
+ 296,
308
+ 297,
309
+ 298,
310
+ 299,
311
+ 300,
312
+ 301,
313
+ 302,
314
+ 304,
315
+ 305,
316
+ 306,
317
+ 307,
318
+ 308,
319
+ 309,
320
+ 310,
321
+ 311,
322
+ 312,
323
+ 313,
324
+ 314,
325
+ 315,
326
+ 316,
327
+ 317,
328
+ 318,
329
+ 319,
330
+ 320,
331
+ 321,
332
+ 322,
333
+ 323,
334
+ 324,
335
+ 325,
336
+ 326,
337
+ 327,
338
+ 328,
339
+ 329,
340
+ 330,
341
+ 331,
342
+ 332,
343
+ 333,
344
+ 334,
345
+ 335,
346
+ 336,
347
+ 337,
348
+ 338,
349
+ 339,
350
+ 340,
351
+ 341,
352
+ 342,
353
+ 343,
354
+ 344,
355
+ 345,
356
+ 346,
357
+ 347,
358
+ 348,
359
+ 349,
360
+ 350,
361
+ 351,
362
+ 352,
363
+ 353,
364
+ 354,
365
+ 355,
366
+ 356,
367
+ 357,
368
+ 358,
369
+ 359,
370
+ 360,
371
+ 361,
372
+ 362,
373
+ 363,
374
+ 364,
375
+ 365,
376
+ 366,
377
+ 367,
378
+ 368,
379
+ 369,
380
+ 370,
381
+ 371,
382
+ 372,
383
+ 373,
384
+ 374,
385
+ 375,
386
+ 376,
387
+ 377,
388
+ 378,
389
+ 379,
390
+ 380,
391
+ 381,
392
+ 382,
393
+ 383,
394
+ 384,
395
+ 385,
396
+ 386,
397
+ 387,
398
+ 388,
399
+ 389,
400
+ 390,
401
+ 391,
402
+ 392,
403
+ 393,
404
+ 394,
405
+ 395,
406
+ 396,
407
+ 397,
408
+ 398,
409
+ 399,
410
+ 400,
411
+ 401,
412
+ 402,
413
+ 403,
414
+ 404,
415
+ 405,
416
+ 406,
417
+ 407,
418
+ 408,
419
+ 409,
420
+ 410,
421
+ 411,
422
+ 412,
423
+ 413,
424
+ 414,
425
+ 415,
426
+ 416,
427
+ 417,
428
+ 418,
429
+ 419,
430
+ 420,
431
+ 421,
432
+ 422,
433
+ 423,
434
+ 424,
435
+ 425,
436
+ 426,
437
+ 427,
438
+ 428,
439
+ 429,
440
+ 430,
441
+ 431,
442
+ 432,
443
+ 433,
444
+ 434,
445
+ 435,
446
+ 436,
447
+ 437,
448
+ 438,
449
+ 439,
450
+ 440,
451
+ 441,
452
+ 442,
453
+ 443,
454
+ 444,
455
+ 445,
456
+ 446,
457
+ 447,
458
+ 448,
459
+ 449,
460
+ 450,
461
+ 451,
462
+ 452,
463
+ 453,
464
+ 454,
465
+ 455,
466
+ 456,
467
+ 457,
468
+ 458,
469
+ 459,
470
+ 460,
471
+ 461,
472
+ 462,
473
+ 463,
474
+ 464,
475
+ 465,
476
+ 466,
477
+ 467,
478
+ 468,
479
+ 469,
480
+ 470,
481
+ 471,
482
+ 472,
483
+ 473,
484
+ 474,
485
+ 475,
486
+ 476,
487
+ 477,
488
+ 478,
489
+ 479,
490
+ 480,
491
+ 481,
492
+ 482,
493
+ 483,
494
+ 484,
495
+ 485,
496
+ 486,
497
+ 487,
498
+ 488,
499
+ 489,
500
+ 490,
501
+ 491,
502
+ 492,
503
+ 493,
504
+ 494,
505
+ 495,
506
+ 496,
507
+ 497,
508
+ 498,
509
+ 499,
510
+ 500,
511
+ 501,
512
+ 502,
513
+ 503,
514
+ 504,
515
+ 505,
516
+ 506,
517
+ 507,
518
+ 508,
519
+ 509,
520
+ 510,
521
+ 511,
522
+ 512,
523
+ 513,
524
+ 514,
525
+ 515,
526
+ 516,
527
+ 517,
528
+ 518,
529
+ 519,
530
+ 520,
531
+ 521,
532
+ 522,
533
+ 523,
534
+ 524,
535
+ 525,
536
+ 526,
537
+ 527,
538
+ 528,
539
+ 529,
540
+ 530,
541
+ 531,
542
+ 532,
543
+ 533,
544
+ 534,
545
+ 535,
546
+ 536,
547
+ 537,
548
+ 538,
549
+ 539,
550
+ 540,
551
+ 541,
552
+ 542,
553
+ 543,
554
+ 544,
555
+ 545,
556
+ 546,
557
+ 547,
558
+ 548,
559
+ 549,
560
+ 550,
561
+ 551,
562
+ 552,
563
+ 553,
564
+ 554,
565
+ 555,
566
+ 556,
567
+ 557,
568
+ 558,
569
+ 559,
570
+ 560,
571
+ 561,
572
+ 562,
573
+ 563,
574
+ 564,
575
+ 565,
576
+ 566,
577
+ 567,
578
+ 568,
579
+ 569,
580
+ 570,
581
+ 571,
582
+ 572,
583
+ 573,
584
+ 574,
585
+ 575,
586
+ 576,
587
+ 577,
588
+ 578,
589
+ 579,
590
+ 580,
591
+ 581,
592
+ 582,
593
+ 583,
594
+ 584,
595
+ 585,
596
+ 586,
597
+ 587,
598
+ 588,
599
+ 589,
600
+ 590,
601
+ 591,
602
+ 592,
603
+ 593,
604
+ 594,
605
+ 595,
606
+ 596,
607
+ 597,
608
+ 598,
609
+ 599,
610
+ 600,
611
+ 601,
612
+ 602,
613
+ 603,
614
+ 604,
615
+ 605,
616
+ 606,
617
+ 607,
618
+ 608,
619
+ 609,
620
+ 610,
621
+ 611,
622
+ 612,
623
+ 613,
624
+ 614,
625
+ 615,
626
+ 616,
627
+ 617,
628
+ 618,
629
+ 619,
630
+ 620,
631
+ 621,
632
+ 622,
633
+ 623,
634
+ 624,
635
+ 625,
636
+ 626,
637
+ 627,
638
+ 628,
639
+ 629,
640
+ 630,
641
+ 631,
642
+ 632,
643
+ 633,
644
+ 634,
645
+ 635,
646
+ 636,
647
+ 637,
648
+ 638,
649
+ 639,
650
+ 640,
651
+ 641,
652
+ 642,
653
+ 643,
654
+ 644,
655
+ 645,
656
+ 646,
657
+ 647,
658
+ 648,
659
+ 649,
660
+ 650,
661
+ 651,
662
+ 652,
663
+ 653,
664
+ 654,
665
+ 655,
666
+ 656,
667
+ 657,
668
+ 658,
669
+ 659,
670
+ 660,
671
+ 661,
672
+ 662,
673
+ 663,
674
+ 664,
675
+ 665,
676
+ 666,
677
+ 667,
678
+ 668,
679
+ 669,
680
+ 670,
681
+ 671,
682
+ 672,
683
+ 673,
684
+ 674,
685
+ 675,
686
+ 676,
687
+ 677,
688
+ 678,
689
+ 679,
690
+ 680,
691
+ 681,
692
+ 682,
693
+ 683,
694
+ 684,
695
+ 685,
696
+ 686,
697
+ 687,
698
+ 688,
699
+ 689,
700
+ 690,
701
+ 691,
702
+ 692,
703
+ 693,
704
+ 694,
705
+ 695,
706
+ 696,
707
+ 697,
708
+ 698,
709
+ 699,
710
+ 700,
711
+ 701,
712
+ 702,
713
+ 703,
714
+ 704,
715
+ 705,
716
+ 706,
717
+ 707,
718
+ 708,
719
+ 709,
720
+ 710,
721
+ 711,
722
+ 712,
723
+ 713,
724
+ 714,
725
+ 715,
726
+ 716,
727
+ 717,
728
+ 718,
729
+ 719,
730
+ 720,
731
+ 721,
732
+ 722,
733
+ 723,
734
+ 724,
735
+ 725,
736
+ 726,
737
+ 727,
738
+ 728,
739
+ 729,
740
+ 730,
741
+ 731,
742
+ 732,
743
+ 733,
744
+ 734,
745
+ 735,
746
+ 736,
747
+ 737,
748
+ 738,
749
+ 739,
750
+ 740,
751
+ 741,
752
+ 742,
753
+ 743,
754
+ 744,
755
+ 745,
756
+ 746,
757
+ 747,
758
+ 748,
759
+ 749,
760
+ 750,
761
+ 751,
762
+ 752,
763
+ 753,
764
+ 754,
765
+ 755,
766
+ 756,
767
+ 757,
768
+ 758,
769
+ 759,
770
+ 760,
771
+ 761,
772
+ 762,
773
+ 763,
774
+ 764,
775
+ 765,
776
+ 766,
777
+ 767,
778
+ 768,
779
+ 769,
780
+ 770,
781
+ 771,
782
+ 772,
783
+ 773,
784
+ 774,
785
+ 775,
786
+ 776,
787
+ 777,
788
+ 778,
789
+ 779,
790
+ 780,
791
+ 781,
792
+ 782,
793
+ 783,
794
+ 784,
795
+ 785,
796
+ 786,
797
+ 787,
798
+ 788,
799
+ 789,
800
+ 790,
801
+ 791,
802
+ 792,
803
+ 793,
804
+ 794,
805
+ 795,
806
+ 796,
807
+ 797,
808
+ 798,
809
+ 799,
810
+ 800,
811
+ 801,
812
+ 802,
813
+ 803,
814
+ 804,
815
+ 805,
816
+ 806,
817
+ 807,
818
+ 808,
819
+ 809,
820
+ 810,
821
+ 811,
822
+ 812,
823
+ 813,
824
+ 814,
825
+ 815,
826
+ 816,
827
+ 817,
828
+ 818,
829
+ 819,
830
+ 820,
831
+ 821,
832
+ 822,
833
+ 823,
834
+ 824,
835
+ 825,
836
+ 826,
837
+ 827,
838
+ 828,
839
+ 829,
840
+ 830,
841
+ 831,
842
+ 832,
843
+ 833,
844
+ 834,
845
+ 835,
846
+ 836,
847
+ 837,
848
+ 838,
849
+ 839,
850
+ 840,
851
+ 841,
852
+ 842,
853
+ 843,
854
+ 844,
855
+ 845,
856
+ 846,
857
+ 847,
858
+ 848,
859
+ 849,
860
+ 850,
861
+ 851,
862
+ 852,
863
+ 853,
864
+ 854,
865
+ 855,
866
+ 856,
867
+ 857,
868
+ 858,
869
+ 859,
870
+ 860,
871
+ 861,
872
+ 862,
873
+ 863,
874
+ 864,
875
+ 865,
876
+ 866,
877
+ 867,
878
+ 868,
879
+ 869,
880
+ 870,
881
+ 871,
882
+ 872,
883
+ 873,
884
+ 874,
885
+ 875,
886
+ 876,
887
+ 877,
888
+ 878,
889
+ 879,
890
+ 880,
891
+ 881,
892
+ 882,
893
+ 883,
894
+ 884,
895
+ 885,
896
+ 886,
897
+ 887,
898
+ 888,
899
+ 889,
900
+ 890,
901
+ 891,
902
+ 892,
903
+ 893,
904
+ 894,
905
+ 895,
906
+ 896,
907
+ 897,
908
+ 898,
909
+ 899,
910
+ 900,
911
+ 901,
912
+ 902,
913
+ 903,
914
+ 904,
915
+ 905,
916
+ 906,
917
+ 907,
918
+ 908,
919
+ 909,
920
+ 910,
921
+ 911,
922
+ 912,
923
+ 913,
924
+ 914,
925
+ 915,
926
+ 916,
927
+ 917,
928
+ 918,
929
+ 919,
930
+ 920,
931
+ 921,
932
+ 922,
933
+ 923,
934
+ 924,
935
+ 925,
936
+ 926,
937
+ 927,
938
+ 928,
939
+ 929,
940
+ 930,
941
+ 931,
942
+ 932,
943
+ 933,
944
+ 934,
945
+ 935,
946
+ 936,
947
+ 937,
948
+ 938,
949
+ 939,
950
+ 940,
951
+ 941,
952
+ 942,
953
+ 943,
954
+ 944,
955
+ 945,
956
+ 946,
957
+ 947,
958
+ 948,
959
+ 949,
960
+ 950,
961
+ 951,
962
+ 952,
963
+ 953,
964
+ 954,
965
+ 955,
966
+ 956,
967
+ 957,
968
+ 958,
969
+ 959,
970
+ 960,
971
+ 961,
972
+ 962,
973
+ 963,
974
+ 964,
975
+ 965,
976
+ 966,
977
+ 967,
978
+ 968,
979
+ 969,
980
+ 970,
981
+ 971,
982
+ 972,
983
+ 973,
984
+ 974,
985
+ 975,
986
+ 976,
987
+ 977,
988
+ 978,
989
+ 979,
990
+ 980,
991
+ 981,
992
+ 982,
993
+ 983,
994
+ 984,
995
+ 985,
996
+ 986,
997
+ 987,
998
+ 988,
999
+ 989,
1000
+ 990,
1001
+ 991,
1002
+ 992,
1003
+ 993,
1004
+ 994,
1005
+ 995,
1006
+ 996,
1007
+ 997,
1008
+ 998,
1009
+ 999
1010
+ ],
1011
+ "not_both_correct_indices": [
1012
+ 303
1013
+ ],
1014
+ "clean_baseline": 12.125,
1015
+ "corrupted_baseline": -12.1484375
1016
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_symbolic/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:806f0832bc2febc1ee69b23002568b47b8f3884fb46c48f3566c88c361308c1b
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_symbolic/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:6af775b4e04240f61a062d6ddf0e0ef2f9fce4a579b7e1a1436193f9f0a16540
3
+ size 8708096
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_verbal/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_verbal/baselines.json ADDED
@@ -0,0 +1,1017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 23,
4
+ "token_misaligned_indices": [
5
+ 32,
6
+ 58,
7
+ 97,
8
+ 183,
9
+ 188,
10
+ 197,
11
+ 309,
12
+ 449,
13
+ 500,
14
+ 539,
15
+ 577,
16
+ 641,
17
+ 647,
18
+ 709,
19
+ 754,
20
+ 764,
21
+ 792,
22
+ 802,
23
+ 829,
24
+ 915,
25
+ 929,
26
+ 938,
27
+ 959
28
+ ],
29
+ "n_after_alignment_filter": 977,
30
+ "clean_accuracy": 0.9508700102354145,
31
+ "corrupted_accuracy": 0.9477993858751279,
32
+ "both_correct_accuracy": 0.9007164790174002,
33
+ "n_both_correct": 880,
34
+ "both_correct_indices": [
35
+ 0,
36
+ 1,
37
+ 2,
38
+ 3,
39
+ 4,
40
+ 5,
41
+ 6,
42
+ 7,
43
+ 8,
44
+ 9,
45
+ 10,
46
+ 11,
47
+ 12,
48
+ 13,
49
+ 14,
50
+ 15,
51
+ 17,
52
+ 18,
53
+ 19,
54
+ 20,
55
+ 22,
56
+ 23,
57
+ 24,
58
+ 25,
59
+ 26,
60
+ 27,
61
+ 28,
62
+ 29,
63
+ 30,
64
+ 31,
65
+ 33,
66
+ 34,
67
+ 35,
68
+ 36,
69
+ 37,
70
+ 38,
71
+ 39,
72
+ 40,
73
+ 41,
74
+ 44,
75
+ 45,
76
+ 46,
77
+ 47,
78
+ 48,
79
+ 49,
80
+ 50,
81
+ 53,
82
+ 54,
83
+ 55,
84
+ 56,
85
+ 59,
86
+ 60,
87
+ 61,
88
+ 62,
89
+ 63,
90
+ 64,
91
+ 65,
92
+ 66,
93
+ 67,
94
+ 68,
95
+ 69,
96
+ 70,
97
+ 71,
98
+ 72,
99
+ 73,
100
+ 74,
101
+ 75,
102
+ 76,
103
+ 77,
104
+ 78,
105
+ 79,
106
+ 80,
107
+ 82,
108
+ 83,
109
+ 85,
110
+ 86,
111
+ 87,
112
+ 88,
113
+ 89,
114
+ 90,
115
+ 91,
116
+ 93,
117
+ 94,
118
+ 95,
119
+ 96,
120
+ 98,
121
+ 99,
122
+ 100,
123
+ 101,
124
+ 102,
125
+ 104,
126
+ 105,
127
+ 106,
128
+ 107,
129
+ 108,
130
+ 109,
131
+ 110,
132
+ 111,
133
+ 112,
134
+ 113,
135
+ 114,
136
+ 115,
137
+ 116,
138
+ 117,
139
+ 118,
140
+ 119,
141
+ 120,
142
+ 121,
143
+ 122,
144
+ 123,
145
+ 124,
146
+ 125,
147
+ 126,
148
+ 127,
149
+ 129,
150
+ 130,
151
+ 131,
152
+ 133,
153
+ 134,
154
+ 135,
155
+ 136,
156
+ 137,
157
+ 138,
158
+ 139,
159
+ 141,
160
+ 142,
161
+ 143,
162
+ 144,
163
+ 145,
164
+ 146,
165
+ 147,
166
+ 148,
167
+ 149,
168
+ 150,
169
+ 151,
170
+ 152,
171
+ 153,
172
+ 155,
173
+ 156,
174
+ 157,
175
+ 158,
176
+ 159,
177
+ 160,
178
+ 161,
179
+ 162,
180
+ 164,
181
+ 165,
182
+ 166,
183
+ 167,
184
+ 168,
185
+ 169,
186
+ 170,
187
+ 171,
188
+ 172,
189
+ 173,
190
+ 174,
191
+ 175,
192
+ 176,
193
+ 177,
194
+ 178,
195
+ 179,
196
+ 181,
197
+ 184,
198
+ 185,
199
+ 186,
200
+ 187,
201
+ 189,
202
+ 190,
203
+ 191,
204
+ 192,
205
+ 193,
206
+ 194,
207
+ 196,
208
+ 198,
209
+ 199,
210
+ 200,
211
+ 201,
212
+ 202,
213
+ 203,
214
+ 204,
215
+ 205,
216
+ 206,
217
+ 207,
218
+ 208,
219
+ 209,
220
+ 210,
221
+ 211,
222
+ 212,
223
+ 213,
224
+ 214,
225
+ 215,
226
+ 217,
227
+ 218,
228
+ 219,
229
+ 220,
230
+ 221,
231
+ 222,
232
+ 223,
233
+ 224,
234
+ 225,
235
+ 226,
236
+ 227,
237
+ 228,
238
+ 229,
239
+ 230,
240
+ 231,
241
+ 232,
242
+ 233,
243
+ 234,
244
+ 235,
245
+ 236,
246
+ 237,
247
+ 238,
248
+ 239,
249
+ 240,
250
+ 241,
251
+ 242,
252
+ 244,
253
+ 245,
254
+ 246,
255
+ 247,
256
+ 248,
257
+ 249,
258
+ 250,
259
+ 251,
260
+ 252,
261
+ 253,
262
+ 254,
263
+ 255,
264
+ 256,
265
+ 257,
266
+ 258,
267
+ 259,
268
+ 260,
269
+ 261,
270
+ 262,
271
+ 263,
272
+ 264,
273
+ 265,
274
+ 266,
275
+ 267,
276
+ 268,
277
+ 269,
278
+ 270,
279
+ 271,
280
+ 272,
281
+ 273,
282
+ 274,
283
+ 276,
284
+ 277,
285
+ 278,
286
+ 279,
287
+ 280,
288
+ 281,
289
+ 282,
290
+ 283,
291
+ 284,
292
+ 285,
293
+ 286,
294
+ 287,
295
+ 288,
296
+ 289,
297
+ 290,
298
+ 291,
299
+ 292,
300
+ 294,
301
+ 295,
302
+ 296,
303
+ 297,
304
+ 301,
305
+ 302,
306
+ 304,
307
+ 305,
308
+ 306,
309
+ 307,
310
+ 308,
311
+ 310,
312
+ 311,
313
+ 312,
314
+ 313,
315
+ 314,
316
+ 315,
317
+ 316,
318
+ 317,
319
+ 318,
320
+ 319,
321
+ 320,
322
+ 321,
323
+ 322,
324
+ 323,
325
+ 324,
326
+ 326,
327
+ 327,
328
+ 328,
329
+ 330,
330
+ 331,
331
+ 333,
332
+ 334,
333
+ 335,
334
+ 336,
335
+ 338,
336
+ 339,
337
+ 340,
338
+ 341,
339
+ 342,
340
+ 343,
341
+ 344,
342
+ 345,
343
+ 347,
344
+ 348,
345
+ 349,
346
+ 350,
347
+ 351,
348
+ 352,
349
+ 353,
350
+ 354,
351
+ 355,
352
+ 356,
353
+ 357,
354
+ 358,
355
+ 359,
356
+ 360,
357
+ 361,
358
+ 362,
359
+ 363,
360
+ 364,
361
+ 366,
362
+ 367,
363
+ 368,
364
+ 369,
365
+ 371,
366
+ 372,
367
+ 373,
368
+ 374,
369
+ 375,
370
+ 376,
371
+ 377,
372
+ 378,
373
+ 379,
374
+ 380,
375
+ 381,
376
+ 382,
377
+ 383,
378
+ 384,
379
+ 385,
380
+ 386,
381
+ 387,
382
+ 388,
383
+ 389,
384
+ 390,
385
+ 391,
386
+ 392,
387
+ 393,
388
+ 394,
389
+ 395,
390
+ 396,
391
+ 397,
392
+ 398,
393
+ 399,
394
+ 400,
395
+ 401,
396
+ 402,
397
+ 403,
398
+ 404,
399
+ 405,
400
+ 406,
401
+ 407,
402
+ 408,
403
+ 409,
404
+ 410,
405
+ 411,
406
+ 412,
407
+ 413,
408
+ 414,
409
+ 415,
410
+ 416,
411
+ 417,
412
+ 419,
413
+ 420,
414
+ 421,
415
+ 422,
416
+ 423,
417
+ 424,
418
+ 425,
419
+ 426,
420
+ 427,
421
+ 428,
422
+ 429,
423
+ 430,
424
+ 431,
425
+ 432,
426
+ 433,
427
+ 434,
428
+ 435,
429
+ 436,
430
+ 437,
431
+ 438,
432
+ 439,
433
+ 440,
434
+ 441,
435
+ 442,
436
+ 443,
437
+ 444,
438
+ 445,
439
+ 447,
440
+ 448,
441
+ 451,
442
+ 452,
443
+ 453,
444
+ 454,
445
+ 455,
446
+ 456,
447
+ 457,
448
+ 458,
449
+ 459,
450
+ 460,
451
+ 461,
452
+ 462,
453
+ 463,
454
+ 464,
455
+ 465,
456
+ 467,
457
+ 468,
458
+ 471,
459
+ 472,
460
+ 473,
461
+ 474,
462
+ 475,
463
+ 476,
464
+ 477,
465
+ 478,
466
+ 479,
467
+ 480,
468
+ 481,
469
+ 482,
470
+ 483,
471
+ 484,
472
+ 485,
473
+ 487,
474
+ 488,
475
+ 489,
476
+ 490,
477
+ 491,
478
+ 492,
479
+ 493,
480
+ 494,
481
+ 495,
482
+ 496,
483
+ 497,
484
+ 498,
485
+ 501,
486
+ 502,
487
+ 503,
488
+ 504,
489
+ 506,
490
+ 507,
491
+ 508,
492
+ 510,
493
+ 511,
494
+ 512,
495
+ 513,
496
+ 514,
497
+ 515,
498
+ 516,
499
+ 517,
500
+ 518,
501
+ 519,
502
+ 520,
503
+ 521,
504
+ 522,
505
+ 523,
506
+ 524,
507
+ 525,
508
+ 526,
509
+ 527,
510
+ 528,
511
+ 529,
512
+ 530,
513
+ 531,
514
+ 532,
515
+ 534,
516
+ 535,
517
+ 537,
518
+ 538,
519
+ 540,
520
+ 541,
521
+ 542,
522
+ 543,
523
+ 544,
524
+ 545,
525
+ 546,
526
+ 548,
527
+ 549,
528
+ 550,
529
+ 551,
530
+ 552,
531
+ 553,
532
+ 554,
533
+ 555,
534
+ 556,
535
+ 557,
536
+ 558,
537
+ 559,
538
+ 560,
539
+ 561,
540
+ 562,
541
+ 563,
542
+ 565,
543
+ 566,
544
+ 568,
545
+ 569,
546
+ 570,
547
+ 571,
548
+ 572,
549
+ 573,
550
+ 576,
551
+ 579,
552
+ 580,
553
+ 581,
554
+ 582,
555
+ 583,
556
+ 584,
557
+ 586,
558
+ 587,
559
+ 588,
560
+ 590,
561
+ 591,
562
+ 592,
563
+ 593,
564
+ 594,
565
+ 595,
566
+ 596,
567
+ 597,
568
+ 598,
569
+ 599,
570
+ 600,
571
+ 601,
572
+ 602,
573
+ 603,
574
+ 604,
575
+ 605,
576
+ 606,
577
+ 607,
578
+ 608,
579
+ 609,
580
+ 610,
581
+ 611,
582
+ 612,
583
+ 614,
584
+ 615,
585
+ 616,
586
+ 618,
587
+ 619,
588
+ 620,
589
+ 623,
590
+ 624,
591
+ 625,
592
+ 627,
593
+ 628,
594
+ 630,
595
+ 631,
596
+ 632,
597
+ 633,
598
+ 634,
599
+ 635,
600
+ 636,
601
+ 637,
602
+ 639,
603
+ 640,
604
+ 642,
605
+ 643,
606
+ 645,
607
+ 646,
608
+ 648,
609
+ 649,
610
+ 650,
611
+ 652,
612
+ 653,
613
+ 654,
614
+ 655,
615
+ 657,
616
+ 658,
617
+ 659,
618
+ 660,
619
+ 661,
620
+ 662,
621
+ 663,
622
+ 664,
623
+ 665,
624
+ 666,
625
+ 667,
626
+ 668,
627
+ 669,
628
+ 670,
629
+ 671,
630
+ 672,
631
+ 673,
632
+ 674,
633
+ 675,
634
+ 676,
635
+ 678,
636
+ 679,
637
+ 680,
638
+ 681,
639
+ 682,
640
+ 683,
641
+ 684,
642
+ 685,
643
+ 686,
644
+ 688,
645
+ 689,
646
+ 690,
647
+ 691,
648
+ 692,
649
+ 693,
650
+ 694,
651
+ 695,
652
+ 696,
653
+ 697,
654
+ 698,
655
+ 699,
656
+ 701,
657
+ 702,
658
+ 706,
659
+ 707,
660
+ 708,
661
+ 710,
662
+ 711,
663
+ 712,
664
+ 713,
665
+ 714,
666
+ 715,
667
+ 717,
668
+ 718,
669
+ 719,
670
+ 720,
671
+ 721,
672
+ 722,
673
+ 723,
674
+ 724,
675
+ 725,
676
+ 726,
677
+ 727,
678
+ 728,
679
+ 729,
680
+ 730,
681
+ 731,
682
+ 732,
683
+ 733,
684
+ 734,
685
+ 735,
686
+ 736,
687
+ 737,
688
+ 739,
689
+ 740,
690
+ 741,
691
+ 742,
692
+ 743,
693
+ 744,
694
+ 745,
695
+ 746,
696
+ 747,
697
+ 748,
698
+ 749,
699
+ 751,
700
+ 752,
701
+ 753,
702
+ 755,
703
+ 756,
704
+ 757,
705
+ 758,
706
+ 759,
707
+ 760,
708
+ 761,
709
+ 762,
710
+ 763,
711
+ 765,
712
+ 767,
713
+ 771,
714
+ 773,
715
+ 774,
716
+ 775,
717
+ 776,
718
+ 777,
719
+ 778,
720
+ 779,
721
+ 780,
722
+ 781,
723
+ 782,
724
+ 783,
725
+ 784,
726
+ 785,
727
+ 787,
728
+ 788,
729
+ 789,
730
+ 790,
731
+ 791,
732
+ 793,
733
+ 794,
734
+ 795,
735
+ 796,
736
+ 799,
737
+ 800,
738
+ 801,
739
+ 803,
740
+ 804,
741
+ 805,
742
+ 806,
743
+ 807,
744
+ 808,
745
+ 809,
746
+ 810,
747
+ 811,
748
+ 812,
749
+ 813,
750
+ 814,
751
+ 815,
752
+ 816,
753
+ 817,
754
+ 818,
755
+ 819,
756
+ 820,
757
+ 821,
758
+ 822,
759
+ 823,
760
+ 825,
761
+ 827,
762
+ 828,
763
+ 830,
764
+ 831,
765
+ 832,
766
+ 833,
767
+ 834,
768
+ 835,
769
+ 836,
770
+ 837,
771
+ 838,
772
+ 839,
773
+ 840,
774
+ 841,
775
+ 842,
776
+ 843,
777
+ 844,
778
+ 845,
779
+ 846,
780
+ 847,
781
+ 848,
782
+ 849,
783
+ 851,
784
+ 852,
785
+ 853,
786
+ 854,
787
+ 856,
788
+ 857,
789
+ 858,
790
+ 859,
791
+ 860,
792
+ 861,
793
+ 862,
794
+ 863,
795
+ 864,
796
+ 865,
797
+ 866,
798
+ 867,
799
+ 868,
800
+ 869,
801
+ 870,
802
+ 871,
803
+ 872,
804
+ 873,
805
+ 874,
806
+ 875,
807
+ 876,
808
+ 877,
809
+ 878,
810
+ 879,
811
+ 880,
812
+ 882,
813
+ 883,
814
+ 884,
815
+ 885,
816
+ 886,
817
+ 888,
818
+ 889,
819
+ 891,
820
+ 892,
821
+ 893,
822
+ 894,
823
+ 895,
824
+ 896,
825
+ 897,
826
+ 898,
827
+ 899,
828
+ 900,
829
+ 901,
830
+ 902,
831
+ 903,
832
+ 904,
833
+ 905,
834
+ 906,
835
+ 907,
836
+ 908,
837
+ 909,
838
+ 910,
839
+ 911,
840
+ 912,
841
+ 913,
842
+ 914,
843
+ 916,
844
+ 918,
845
+ 919,
846
+ 920,
847
+ 922,
848
+ 923,
849
+ 924,
850
+ 925,
851
+ 926,
852
+ 927,
853
+ 928,
854
+ 930,
855
+ 931,
856
+ 932,
857
+ 933,
858
+ 934,
859
+ 935,
860
+ 936,
861
+ 937,
862
+ 939,
863
+ 940,
864
+ 941,
865
+ 942,
866
+ 943,
867
+ 944,
868
+ 945,
869
+ 946,
870
+ 947,
871
+ 948,
872
+ 949,
873
+ 950,
874
+ 951,
875
+ 952,
876
+ 953,
877
+ 954,
878
+ 955,
879
+ 956,
880
+ 957,
881
+ 958,
882
+ 960,
883
+ 961,
884
+ 962,
885
+ 964,
886
+ 965,
887
+ 967,
888
+ 968,
889
+ 969,
890
+ 970,
891
+ 971,
892
+ 972,
893
+ 974,
894
+ 975,
895
+ 977,
896
+ 978,
897
+ 979,
898
+ 980,
899
+ 981,
900
+ 982,
901
+ 983,
902
+ 984,
903
+ 985,
904
+ 986,
905
+ 987,
906
+ 988,
907
+ 989,
908
+ 990,
909
+ 992,
910
+ 993,
911
+ 994,
912
+ 995,
913
+ 996,
914
+ 998
915
+ ],
916
+ "not_both_correct_indices": [
917
+ 16,
918
+ 21,
919
+ 42,
920
+ 43,
921
+ 51,
922
+ 52,
923
+ 57,
924
+ 81,
925
+ 84,
926
+ 92,
927
+ 103,
928
+ 128,
929
+ 132,
930
+ 140,
931
+ 154,
932
+ 163,
933
+ 180,
934
+ 182,
935
+ 195,
936
+ 216,
937
+ 243,
938
+ 275,
939
+ 293,
940
+ 298,
941
+ 299,
942
+ 300,
943
+ 303,
944
+ 325,
945
+ 329,
946
+ 332,
947
+ 337,
948
+ 346,
949
+ 365,
950
+ 370,
951
+ 418,
952
+ 446,
953
+ 450,
954
+ 466,
955
+ 469,
956
+ 470,
957
+ 486,
958
+ 499,
959
+ 505,
960
+ 509,
961
+ 533,
962
+ 536,
963
+ 547,
964
+ 564,
965
+ 567,
966
+ 574,
967
+ 575,
968
+ 578,
969
+ 585,
970
+ 589,
971
+ 613,
972
+ 617,
973
+ 621,
974
+ 622,
975
+ 626,
976
+ 629,
977
+ 638,
978
+ 644,
979
+ 651,
980
+ 656,
981
+ 677,
982
+ 687,
983
+ 700,
984
+ 703,
985
+ 704,
986
+ 705,
987
+ 716,
988
+ 738,
989
+ 750,
990
+ 766,
991
+ 768,
992
+ 769,
993
+ 770,
994
+ 772,
995
+ 786,
996
+ 797,
997
+ 798,
998
+ 824,
999
+ 826,
1000
+ 850,
1001
+ 855,
1002
+ 881,
1003
+ 887,
1004
+ 890,
1005
+ 917,
1006
+ 921,
1007
+ 963,
1008
+ 966,
1009
+ 973,
1010
+ 976,
1011
+ 991,
1012
+ 997,
1013
+ 999
1014
+ ],
1015
+ "clean_baseline": 9.875,
1016
+ "corrupted_baseline": -9.84375
1017
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_verbal/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:41b006154eea6fde3de86d41b4f90807f258100d45a2069ca73a81702ebc2326
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/add_sub_3op_verbal/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:1aa03c232b4429e466b03ec70afff47575ff009bd2328e79a822e2558bc57257
3
+ size 8634728
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/code_A/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/code_A/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.95,
7
+ "corrupted_accuracy": 0.961,
8
+ "both_correct_accuracy": 0.914,
9
+ "n_both_correct": 914,
10
+ "both_correct_indices": [
11
+ 1,
12
+ 4,
13
+ 5,
14
+ 6,
15
+ 7,
16
+ 8,
17
+ 9,
18
+ 10,
19
+ 11,
20
+ 12,
21
+ 13,
22
+ 14,
23
+ 15,
24
+ 16,
25
+ 17,
26
+ 18,
27
+ 19,
28
+ 20,
29
+ 21,
30
+ 22,
31
+ 23,
32
+ 24,
33
+ 25,
34
+ 27,
35
+ 29,
36
+ 30,
37
+ 32,
38
+ 33,
39
+ 34,
40
+ 35,
41
+ 36,
42
+ 37,
43
+ 38,
44
+ 39,
45
+ 40,
46
+ 41,
47
+ 42,
48
+ 43,
49
+ 45,
50
+ 46,
51
+ 47,
52
+ 48,
53
+ 49,
54
+ 50,
55
+ 51,
56
+ 52,
57
+ 53,
58
+ 54,
59
+ 55,
60
+ 56,
61
+ 57,
62
+ 60,
63
+ 61,
64
+ 62,
65
+ 63,
66
+ 64,
67
+ 66,
68
+ 67,
69
+ 68,
70
+ 69,
71
+ 70,
72
+ 71,
73
+ 72,
74
+ 73,
75
+ 74,
76
+ 75,
77
+ 76,
78
+ 77,
79
+ 78,
80
+ 79,
81
+ 80,
82
+ 81,
83
+ 82,
84
+ 83,
85
+ 84,
86
+ 85,
87
+ 86,
88
+ 87,
89
+ 88,
90
+ 89,
91
+ 90,
92
+ 91,
93
+ 92,
94
+ 93,
95
+ 94,
96
+ 95,
97
+ 96,
98
+ 97,
99
+ 98,
100
+ 100,
101
+ 101,
102
+ 102,
103
+ 104,
104
+ 105,
105
+ 106,
106
+ 107,
107
+ 108,
108
+ 110,
109
+ 111,
110
+ 112,
111
+ 113,
112
+ 115,
113
+ 116,
114
+ 117,
115
+ 118,
116
+ 119,
117
+ 120,
118
+ 121,
119
+ 123,
120
+ 124,
121
+ 125,
122
+ 126,
123
+ 127,
124
+ 128,
125
+ 130,
126
+ 131,
127
+ 132,
128
+ 133,
129
+ 134,
130
+ 135,
131
+ 136,
132
+ 137,
133
+ 138,
134
+ 139,
135
+ 141,
136
+ 142,
137
+ 143,
138
+ 144,
139
+ 145,
140
+ 146,
141
+ 147,
142
+ 148,
143
+ 149,
144
+ 150,
145
+ 151,
146
+ 152,
147
+ 153,
148
+ 154,
149
+ 155,
150
+ 156,
151
+ 157,
152
+ 158,
153
+ 159,
154
+ 160,
155
+ 161,
156
+ 162,
157
+ 163,
158
+ 164,
159
+ 165,
160
+ 166,
161
+ 167,
162
+ 168,
163
+ 169,
164
+ 170,
165
+ 171,
166
+ 172,
167
+ 173,
168
+ 174,
169
+ 176,
170
+ 177,
171
+ 178,
172
+ 179,
173
+ 180,
174
+ 181,
175
+ 182,
176
+ 183,
177
+ 184,
178
+ 185,
179
+ 186,
180
+ 187,
181
+ 188,
182
+ 189,
183
+ 190,
184
+ 191,
185
+ 194,
186
+ 195,
187
+ 196,
188
+ 197,
189
+ 198,
190
+ 199,
191
+ 200,
192
+ 202,
193
+ 203,
194
+ 204,
195
+ 205,
196
+ 206,
197
+ 207,
198
+ 208,
199
+ 209,
200
+ 210,
201
+ 211,
202
+ 212,
203
+ 213,
204
+ 214,
205
+ 215,
206
+ 216,
207
+ 217,
208
+ 218,
209
+ 219,
210
+ 220,
211
+ 221,
212
+ 222,
213
+ 223,
214
+ 224,
215
+ 225,
216
+ 226,
217
+ 228,
218
+ 229,
219
+ 230,
220
+ 231,
221
+ 233,
222
+ 234,
223
+ 235,
224
+ 236,
225
+ 237,
226
+ 238,
227
+ 239,
228
+ 240,
229
+ 241,
230
+ 242,
231
+ 243,
232
+ 244,
233
+ 245,
234
+ 246,
235
+ 247,
236
+ 248,
237
+ 249,
238
+ 250,
239
+ 251,
240
+ 252,
241
+ 253,
242
+ 254,
243
+ 255,
244
+ 256,
245
+ 257,
246
+ 258,
247
+ 259,
248
+ 260,
249
+ 261,
250
+ 262,
251
+ 263,
252
+ 264,
253
+ 265,
254
+ 266,
255
+ 267,
256
+ 268,
257
+ 269,
258
+ 270,
259
+ 274,
260
+ 275,
261
+ 276,
262
+ 277,
263
+ 278,
264
+ 279,
265
+ 280,
266
+ 281,
267
+ 282,
268
+ 283,
269
+ 284,
270
+ 285,
271
+ 286,
272
+ 287,
273
+ 288,
274
+ 289,
275
+ 291,
276
+ 292,
277
+ 293,
278
+ 294,
279
+ 295,
280
+ 296,
281
+ 297,
282
+ 299,
283
+ 300,
284
+ 301,
285
+ 302,
286
+ 304,
287
+ 305,
288
+ 306,
289
+ 307,
290
+ 308,
291
+ 309,
292
+ 310,
293
+ 311,
294
+ 312,
295
+ 313,
296
+ 314,
297
+ 315,
298
+ 316,
299
+ 317,
300
+ 318,
301
+ 319,
302
+ 320,
303
+ 321,
304
+ 322,
305
+ 323,
306
+ 324,
307
+ 325,
308
+ 326,
309
+ 328,
310
+ 329,
311
+ 330,
312
+ 331,
313
+ 332,
314
+ 333,
315
+ 334,
316
+ 335,
317
+ 336,
318
+ 337,
319
+ 338,
320
+ 339,
321
+ 340,
322
+ 341,
323
+ 342,
324
+ 343,
325
+ 344,
326
+ 345,
327
+ 346,
328
+ 347,
329
+ 348,
330
+ 349,
331
+ 350,
332
+ 351,
333
+ 352,
334
+ 353,
335
+ 354,
336
+ 355,
337
+ 356,
338
+ 357,
339
+ 358,
340
+ 360,
341
+ 362,
342
+ 363,
343
+ 364,
344
+ 365,
345
+ 366,
346
+ 368,
347
+ 369,
348
+ 370,
349
+ 371,
350
+ 372,
351
+ 373,
352
+ 374,
353
+ 375,
354
+ 376,
355
+ 378,
356
+ 379,
357
+ 380,
358
+ 381,
359
+ 383,
360
+ 384,
361
+ 385,
362
+ 386,
363
+ 387,
364
+ 388,
365
+ 389,
366
+ 390,
367
+ 391,
368
+ 392,
369
+ 393,
370
+ 394,
371
+ 395,
372
+ 396,
373
+ 398,
374
+ 399,
375
+ 400,
376
+ 401,
377
+ 402,
378
+ 403,
379
+ 404,
380
+ 405,
381
+ 406,
382
+ 407,
383
+ 408,
384
+ 409,
385
+ 410,
386
+ 411,
387
+ 412,
388
+ 413,
389
+ 414,
390
+ 415,
391
+ 417,
392
+ 418,
393
+ 419,
394
+ 420,
395
+ 421,
396
+ 422,
397
+ 423,
398
+ 424,
399
+ 425,
400
+ 426,
401
+ 427,
402
+ 428,
403
+ 429,
404
+ 430,
405
+ 431,
406
+ 432,
407
+ 433,
408
+ 434,
409
+ 436,
410
+ 438,
411
+ 439,
412
+ 440,
413
+ 441,
414
+ 442,
415
+ 443,
416
+ 445,
417
+ 446,
418
+ 447,
419
+ 448,
420
+ 449,
421
+ 451,
422
+ 452,
423
+ 453,
424
+ 454,
425
+ 455,
426
+ 456,
427
+ 457,
428
+ 458,
429
+ 460,
430
+ 461,
431
+ 462,
432
+ 463,
433
+ 464,
434
+ 465,
435
+ 466,
436
+ 467,
437
+ 468,
438
+ 469,
439
+ 470,
440
+ 471,
441
+ 472,
442
+ 473,
443
+ 474,
444
+ 475,
445
+ 476,
446
+ 477,
447
+ 478,
448
+ 479,
449
+ 480,
450
+ 481,
451
+ 482,
452
+ 483,
453
+ 484,
454
+ 485,
455
+ 486,
456
+ 487,
457
+ 488,
458
+ 489,
459
+ 490,
460
+ 491,
461
+ 493,
462
+ 494,
463
+ 495,
464
+ 497,
465
+ 498,
466
+ 499,
467
+ 500,
468
+ 501,
469
+ 502,
470
+ 503,
471
+ 504,
472
+ 505,
473
+ 506,
474
+ 507,
475
+ 508,
476
+ 510,
477
+ 511,
478
+ 512,
479
+ 513,
480
+ 514,
481
+ 515,
482
+ 516,
483
+ 517,
484
+ 518,
485
+ 519,
486
+ 520,
487
+ 521,
488
+ 522,
489
+ 523,
490
+ 524,
491
+ 525,
492
+ 526,
493
+ 527,
494
+ 528,
495
+ 529,
496
+ 531,
497
+ 532,
498
+ 533,
499
+ 534,
500
+ 535,
501
+ 536,
502
+ 537,
503
+ 538,
504
+ 539,
505
+ 540,
506
+ 541,
507
+ 542,
508
+ 543,
509
+ 544,
510
+ 546,
511
+ 547,
512
+ 548,
513
+ 550,
514
+ 551,
515
+ 552,
516
+ 554,
517
+ 555,
518
+ 557,
519
+ 558,
520
+ 559,
521
+ 560,
522
+ 561,
523
+ 562,
524
+ 563,
525
+ 564,
526
+ 565,
527
+ 566,
528
+ 567,
529
+ 568,
530
+ 569,
531
+ 570,
532
+ 571,
533
+ 572,
534
+ 573,
535
+ 574,
536
+ 575,
537
+ 576,
538
+ 577,
539
+ 578,
540
+ 579,
541
+ 580,
542
+ 581,
543
+ 582,
544
+ 583,
545
+ 584,
546
+ 585,
547
+ 586,
548
+ 587,
549
+ 588,
550
+ 589,
551
+ 590,
552
+ 591,
553
+ 592,
554
+ 593,
555
+ 594,
556
+ 595,
557
+ 596,
558
+ 597,
559
+ 598,
560
+ 600,
561
+ 601,
562
+ 602,
563
+ 603,
564
+ 604,
565
+ 605,
566
+ 607,
567
+ 608,
568
+ 609,
569
+ 610,
570
+ 611,
571
+ 612,
572
+ 613,
573
+ 614,
574
+ 615,
575
+ 616,
576
+ 617,
577
+ 618,
578
+ 619,
579
+ 620,
580
+ 622,
581
+ 623,
582
+ 624,
583
+ 625,
584
+ 626,
585
+ 627,
586
+ 628,
587
+ 629,
588
+ 631,
589
+ 632,
590
+ 633,
591
+ 634,
592
+ 635,
593
+ 636,
594
+ 637,
595
+ 638,
596
+ 639,
597
+ 640,
598
+ 641,
599
+ 642,
600
+ 643,
601
+ 644,
602
+ 645,
603
+ 646,
604
+ 647,
605
+ 648,
606
+ 650,
607
+ 651,
608
+ 652,
609
+ 654,
610
+ 655,
611
+ 656,
612
+ 658,
613
+ 659,
614
+ 660,
615
+ 662,
616
+ 663,
617
+ 665,
618
+ 666,
619
+ 667,
620
+ 668,
621
+ 669,
622
+ 670,
623
+ 671,
624
+ 672,
625
+ 673,
626
+ 674,
627
+ 675,
628
+ 677,
629
+ 678,
630
+ 679,
631
+ 680,
632
+ 681,
633
+ 682,
634
+ 683,
635
+ 684,
636
+ 685,
637
+ 686,
638
+ 687,
639
+ 688,
640
+ 689,
641
+ 690,
642
+ 692,
643
+ 693,
644
+ 694,
645
+ 695,
646
+ 696,
647
+ 697,
648
+ 698,
649
+ 699,
650
+ 700,
651
+ 701,
652
+ 702,
653
+ 703,
654
+ 704,
655
+ 705,
656
+ 706,
657
+ 707,
658
+ 708,
659
+ 709,
660
+ 710,
661
+ 711,
662
+ 712,
663
+ 713,
664
+ 714,
665
+ 715,
666
+ 716,
667
+ 717,
668
+ 718,
669
+ 719,
670
+ 720,
671
+ 721,
672
+ 722,
673
+ 723,
674
+ 724,
675
+ 725,
676
+ 727,
677
+ 728,
678
+ 729,
679
+ 730,
680
+ 731,
681
+ 732,
682
+ 733,
683
+ 734,
684
+ 735,
685
+ 737,
686
+ 738,
687
+ 740,
688
+ 741,
689
+ 743,
690
+ 744,
691
+ 745,
692
+ 746,
693
+ 747,
694
+ 749,
695
+ 750,
696
+ 751,
697
+ 752,
698
+ 753,
699
+ 754,
700
+ 755,
701
+ 756,
702
+ 757,
703
+ 758,
704
+ 759,
705
+ 760,
706
+ 761,
707
+ 762,
708
+ 763,
709
+ 767,
710
+ 768,
711
+ 770,
712
+ 771,
713
+ 772,
714
+ 773,
715
+ 774,
716
+ 775,
717
+ 776,
718
+ 777,
719
+ 778,
720
+ 780,
721
+ 781,
722
+ 782,
723
+ 783,
724
+ 784,
725
+ 785,
726
+ 786,
727
+ 787,
728
+ 788,
729
+ 789,
730
+ 790,
731
+ 791,
732
+ 792,
733
+ 793,
734
+ 794,
735
+ 795,
736
+ 796,
737
+ 797,
738
+ 798,
739
+ 799,
740
+ 800,
741
+ 802,
742
+ 803,
743
+ 804,
744
+ 805,
745
+ 806,
746
+ 808,
747
+ 809,
748
+ 811,
749
+ 812,
750
+ 813,
751
+ 814,
752
+ 815,
753
+ 816,
754
+ 817,
755
+ 818,
756
+ 819,
757
+ 820,
758
+ 821,
759
+ 822,
760
+ 823,
761
+ 824,
762
+ 825,
763
+ 826,
764
+ 827,
765
+ 829,
766
+ 830,
767
+ 832,
768
+ 833,
769
+ 834,
770
+ 835,
771
+ 836,
772
+ 837,
773
+ 838,
774
+ 839,
775
+ 840,
776
+ 841,
777
+ 842,
778
+ 843,
779
+ 844,
780
+ 845,
781
+ 846,
782
+ 847,
783
+ 848,
784
+ 849,
785
+ 850,
786
+ 851,
787
+ 852,
788
+ 853,
789
+ 855,
790
+ 856,
791
+ 857,
792
+ 858,
793
+ 859,
794
+ 860,
795
+ 861,
796
+ 862,
797
+ 863,
798
+ 864,
799
+ 866,
800
+ 867,
801
+ 868,
802
+ 869,
803
+ 870,
804
+ 872,
805
+ 873,
806
+ 874,
807
+ 875,
808
+ 876,
809
+ 877,
810
+ 878,
811
+ 879,
812
+ 881,
813
+ 882,
814
+ 883,
815
+ 884,
816
+ 885,
817
+ 886,
818
+ 887,
819
+ 888,
820
+ 889,
821
+ 890,
822
+ 891,
823
+ 892,
824
+ 893,
825
+ 894,
826
+ 895,
827
+ 896,
828
+ 897,
829
+ 898,
830
+ 899,
831
+ 900,
832
+ 901,
833
+ 903,
834
+ 904,
835
+ 905,
836
+ 906,
837
+ 907,
838
+ 908,
839
+ 909,
840
+ 910,
841
+ 911,
842
+ 912,
843
+ 913,
844
+ 914,
845
+ 915,
846
+ 916,
847
+ 917,
848
+ 918,
849
+ 919,
850
+ 920,
851
+ 921,
852
+ 922,
853
+ 923,
854
+ 924,
855
+ 925,
856
+ 926,
857
+ 927,
858
+ 928,
859
+ 929,
860
+ 930,
861
+ 931,
862
+ 932,
863
+ 933,
864
+ 934,
865
+ 935,
866
+ 936,
867
+ 937,
868
+ 938,
869
+ 939,
870
+ 940,
871
+ 941,
872
+ 942,
873
+ 943,
874
+ 944,
875
+ 945,
876
+ 946,
877
+ 947,
878
+ 948,
879
+ 949,
880
+ 950,
881
+ 951,
882
+ 952,
883
+ 953,
884
+ 954,
885
+ 955,
886
+ 956,
887
+ 957,
888
+ 958,
889
+ 959,
890
+ 961,
891
+ 963,
892
+ 964,
893
+ 966,
894
+ 967,
895
+ 968,
896
+ 969,
897
+ 971,
898
+ 972,
899
+ 973,
900
+ 974,
901
+ 975,
902
+ 976,
903
+ 977,
904
+ 978,
905
+ 979,
906
+ 980,
907
+ 981,
908
+ 982,
909
+ 983,
910
+ 984,
911
+ 985,
912
+ 986,
913
+ 987,
914
+ 988,
915
+ 989,
916
+ 990,
917
+ 991,
918
+ 992,
919
+ 993,
920
+ 994,
921
+ 995,
922
+ 996,
923
+ 998,
924
+ 999
925
+ ],
926
+ "not_both_correct_indices": [
927
+ 0,
928
+ 2,
929
+ 3,
930
+ 26,
931
+ 28,
932
+ 31,
933
+ 44,
934
+ 58,
935
+ 59,
936
+ 65,
937
+ 99,
938
+ 103,
939
+ 109,
940
+ 114,
941
+ 122,
942
+ 129,
943
+ 140,
944
+ 175,
945
+ 192,
946
+ 193,
947
+ 201,
948
+ 227,
949
+ 232,
950
+ 271,
951
+ 272,
952
+ 273,
953
+ 290,
954
+ 298,
955
+ 303,
956
+ 327,
957
+ 359,
958
+ 361,
959
+ 367,
960
+ 377,
961
+ 382,
962
+ 397,
963
+ 416,
964
+ 435,
965
+ 437,
966
+ 444,
967
+ 450,
968
+ 459,
969
+ 492,
970
+ 496,
971
+ 509,
972
+ 530,
973
+ 545,
974
+ 549,
975
+ 553,
976
+ 556,
977
+ 599,
978
+ 606,
979
+ 621,
980
+ 630,
981
+ 649,
982
+ 653,
983
+ 657,
984
+ 661,
985
+ 664,
986
+ 676,
987
+ 691,
988
+ 726,
989
+ 736,
990
+ 739,
991
+ 742,
992
+ 748,
993
+ 764,
994
+ 765,
995
+ 766,
996
+ 769,
997
+ 779,
998
+ 801,
999
+ 807,
1000
+ 810,
1001
+ 828,
1002
+ 831,
1003
+ 854,
1004
+ 865,
1005
+ 871,
1006
+ 880,
1007
+ 902,
1008
+ 960,
1009
+ 962,
1010
+ 965,
1011
+ 970,
1012
+ 997
1013
+ ],
1014
+ "clean_baseline": 13.515625,
1015
+ "corrupted_baseline": -13.28125
1016
+ }