barryhpr commited on
Commit
1d9cfab
·
verified ·
1 Parent(s): 40d7667

Add attribution tensors (601-700 of 993)

Browse files
This view is limited to 50 files because it contains too many changes.   See raw diff
Files changed (50) hide show
  1. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/simple_equation/attribution_meta.json +1 -0
  2. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/simple_equation/baselines.json +1011 -0
  3. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/simple_equation/neuron_attribution.pt +3 -0
  4. results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/simple_equation/sorted_indices_positive.npy +3 -0
  5. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/agent/attribution_meta.json +1 -0
  6. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/agent/baselines.json +961 -0
  7. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/agent/neuron_attribution.pt +3 -0
  8. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/agent/sorted_indices_positive.npy +3 -0
  9. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/desires_goals/attribution_meta.json +1 -0
  10. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/desires_goals/baselines.json +1096 -0
  11. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/desires_goals/neuron_attribution.pt +3 -0
  12. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/desires_goals/sorted_indices_positive.npy +3 -0
  13. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/emotion_fewshot/attribution_meta.json +1 -0
  14. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/emotion_fewshot/baselines.json +2017 -0
  15. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/emotion_fewshot/neuron_attribution.pt +3 -0
  16. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/emotion_fewshot/sorted_indices_positive.npy +3 -0
  17. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_appropriate/attribution_meta.json +1 -0
  18. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_appropriate/baselines.json +2015 -0
  19. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_appropriate/neuron_attribution.pt +3 -0
  20. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_appropriate/sorted_indices_positive.npy +3 -0
  21. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_moral/attribution_meta.json +1 -0
  22. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_moral/baselines.json +2016 -0
  23. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_moral/neuron_attribution.pt +3 -0
  24. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_moral/sorted_indices_positive.npy +3 -0
  25. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/primary_emotions/attribution_meta.json +1 -0
  26. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/primary_emotions/baselines.json +1311 -0
  27. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/primary_emotions/neuron_attribution.pt +3 -0
  28. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/primary_emotions/sorted_indices_positive.npy +3 -0
  29. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/secondary_emotions/attribution_meta.json +1 -0
  30. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/secondary_emotions/baselines.json +1616 -0
  31. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/secondary_emotions/neuron_attribution.pt +3 -0
  32. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/secondary_emotions/sorted_indices_positive.npy +3 -0
  33. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_interactions/attribution_meta.json +1 -0
  34. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_interactions/baselines.json +220 -0
  35. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_interactions/neuron_attribution.pt +3 -0
  36. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_interactions/sorted_indices_positive.npy +3 -0
  37. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_relations/attribution_meta.json +1 -0
  38. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_relations/baselines.json +304 -0
  39. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_relations/neuron_attribution.pt +3 -0
  40. results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_relations/sorted_indices_positive.npy +3 -0
  41. results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_newton/attribution_meta.json +1 -0
  42. results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_newton/baselines.json +1016 -0
  43. results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_newton/neuron_attribution.pt +3 -0
  44. results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_newton/sorted_indices_positive.npy +3 -0
  45. results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_prost/attribution_meta.json +1 -0
  46. results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_prost/baselines.json +1216 -0
  47. results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_prost/neuron_attribution.pt +3 -0
  48. results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_prost/sorted_indices_positive.npy +3 -0
  49. results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/physics_brightness/attribution_meta.json +1 -0
  50. results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/physics_brightness/baselines.json +1017 -0
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/simple_equation/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/simple_equation/baselines.json ADDED
@@ -0,0 +1,1011 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 995,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 995,
6
+ "clean_accuracy": 0.7889447236180904,
7
+ "corrupted_accuracy": 0.8010050251256281,
8
+ "both_correct_accuracy": 0.614070351758794,
9
+ "n_both_correct": 611,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 4,
15
+ 8,
16
+ 9,
17
+ 10,
18
+ 12,
19
+ 13,
20
+ 15,
21
+ 16,
22
+ 17,
23
+ 19,
24
+ 22,
25
+ 26,
26
+ 28,
27
+ 29,
28
+ 31,
29
+ 34,
30
+ 36,
31
+ 38,
32
+ 40,
33
+ 41,
34
+ 45,
35
+ 46,
36
+ 47,
37
+ 49,
38
+ 50,
39
+ 51,
40
+ 53,
41
+ 54,
42
+ 56,
43
+ 57,
44
+ 61,
45
+ 62,
46
+ 63,
47
+ 64,
48
+ 65,
49
+ 66,
50
+ 67,
51
+ 71,
52
+ 72,
53
+ 74,
54
+ 77,
55
+ 78,
56
+ 79,
57
+ 80,
58
+ 81,
59
+ 85,
60
+ 86,
61
+ 87,
62
+ 88,
63
+ 89,
64
+ 90,
65
+ 92,
66
+ 95,
67
+ 96,
68
+ 98,
69
+ 101,
70
+ 102,
71
+ 104,
72
+ 107,
73
+ 108,
74
+ 109,
75
+ 110,
76
+ 112,
77
+ 114,
78
+ 115,
79
+ 116,
80
+ 117,
81
+ 119,
82
+ 120,
83
+ 121,
84
+ 123,
85
+ 127,
86
+ 130,
87
+ 131,
88
+ 132,
89
+ 135,
90
+ 137,
91
+ 138,
92
+ 139,
93
+ 141,
94
+ 142,
95
+ 143,
96
+ 144,
97
+ 145,
98
+ 146,
99
+ 147,
100
+ 148,
101
+ 153,
102
+ 154,
103
+ 155,
104
+ 157,
105
+ 158,
106
+ 159,
107
+ 161,
108
+ 162,
109
+ 163,
110
+ 164,
111
+ 165,
112
+ 166,
113
+ 168,
114
+ 169,
115
+ 170,
116
+ 172,
117
+ 173,
118
+ 174,
119
+ 175,
120
+ 178,
121
+ 181,
122
+ 182,
123
+ 183,
124
+ 184,
125
+ 185,
126
+ 186,
127
+ 188,
128
+ 191,
129
+ 193,
130
+ 194,
131
+ 195,
132
+ 196,
133
+ 197,
134
+ 198,
135
+ 199,
136
+ 200,
137
+ 201,
138
+ 202,
139
+ 204,
140
+ 206,
141
+ 207,
142
+ 208,
143
+ 209,
144
+ 212,
145
+ 213,
146
+ 215,
147
+ 216,
148
+ 220,
149
+ 221,
150
+ 222,
151
+ 223,
152
+ 225,
153
+ 227,
154
+ 228,
155
+ 229,
156
+ 231,
157
+ 234,
158
+ 235,
159
+ 236,
160
+ 237,
161
+ 238,
162
+ 239,
163
+ 240,
164
+ 241,
165
+ 243,
166
+ 245,
167
+ 246,
168
+ 247,
169
+ 248,
170
+ 251,
171
+ 252,
172
+ 253,
173
+ 256,
174
+ 259,
175
+ 260,
176
+ 261,
177
+ 262,
178
+ 265,
179
+ 267,
180
+ 268,
181
+ 269,
182
+ 270,
183
+ 271,
184
+ 273,
185
+ 275,
186
+ 277,
187
+ 279,
188
+ 280,
189
+ 281,
190
+ 282,
191
+ 283,
192
+ 284,
193
+ 285,
194
+ 286,
195
+ 287,
196
+ 289,
197
+ 290,
198
+ 291,
199
+ 294,
200
+ 295,
201
+ 296,
202
+ 299,
203
+ 300,
204
+ 301,
205
+ 302,
206
+ 303,
207
+ 304,
208
+ 306,
209
+ 307,
210
+ 309,
211
+ 311,
212
+ 313,
213
+ 314,
214
+ 315,
215
+ 317,
216
+ 318,
217
+ 321,
218
+ 322,
219
+ 324,
220
+ 325,
221
+ 326,
222
+ 328,
223
+ 329,
224
+ 330,
225
+ 331,
226
+ 332,
227
+ 335,
228
+ 336,
229
+ 339,
230
+ 341,
231
+ 342,
232
+ 343,
233
+ 348,
234
+ 349,
235
+ 350,
236
+ 351,
237
+ 353,
238
+ 356,
239
+ 357,
240
+ 360,
241
+ 362,
242
+ 363,
243
+ 364,
244
+ 366,
245
+ 368,
246
+ 369,
247
+ 370,
248
+ 372,
249
+ 373,
250
+ 374,
251
+ 377,
252
+ 378,
253
+ 379,
254
+ 381,
255
+ 382,
256
+ 383,
257
+ 384,
258
+ 386,
259
+ 387,
260
+ 389,
261
+ 391,
262
+ 393,
263
+ 394,
264
+ 395,
265
+ 398,
266
+ 400,
267
+ 401,
268
+ 403,
269
+ 404,
270
+ 406,
271
+ 408,
272
+ 409,
273
+ 410,
274
+ 411,
275
+ 413,
276
+ 415,
277
+ 417,
278
+ 420,
279
+ 422,
280
+ 423,
281
+ 425,
282
+ 427,
283
+ 429,
284
+ 432,
285
+ 433,
286
+ 436,
287
+ 438,
288
+ 441,
289
+ 444,
290
+ 448,
291
+ 450,
292
+ 451,
293
+ 456,
294
+ 461,
295
+ 462,
296
+ 464,
297
+ 465,
298
+ 467,
299
+ 468,
300
+ 469,
301
+ 470,
302
+ 472,
303
+ 477,
304
+ 478,
305
+ 480,
306
+ 481,
307
+ 483,
308
+ 485,
309
+ 488,
310
+ 490,
311
+ 491,
312
+ 492,
313
+ 493,
314
+ 494,
315
+ 495,
316
+ 496,
317
+ 497,
318
+ 498,
319
+ 499,
320
+ 500,
321
+ 501,
322
+ 502,
323
+ 503,
324
+ 505,
325
+ 506,
326
+ 508,
327
+ 509,
328
+ 510,
329
+ 511,
330
+ 512,
331
+ 513,
332
+ 516,
333
+ 520,
334
+ 521,
335
+ 522,
336
+ 524,
337
+ 525,
338
+ 527,
339
+ 528,
340
+ 531,
341
+ 532,
342
+ 533,
343
+ 535,
344
+ 536,
345
+ 537,
346
+ 538,
347
+ 539,
348
+ 540,
349
+ 546,
350
+ 550,
351
+ 551,
352
+ 553,
353
+ 554,
354
+ 557,
355
+ 558,
356
+ 559,
357
+ 563,
358
+ 564,
359
+ 565,
360
+ 566,
361
+ 567,
362
+ 568,
363
+ 571,
364
+ 572,
365
+ 573,
366
+ 574,
367
+ 576,
368
+ 577,
369
+ 578,
370
+ 580,
371
+ 581,
372
+ 583,
373
+ 584,
374
+ 585,
375
+ 586,
376
+ 588,
377
+ 589,
378
+ 591,
379
+ 593,
380
+ 594,
381
+ 595,
382
+ 597,
383
+ 598,
384
+ 600,
385
+ 602,
386
+ 603,
387
+ 607,
388
+ 609,
389
+ 610,
390
+ 611,
391
+ 613,
392
+ 614,
393
+ 615,
394
+ 616,
395
+ 617,
396
+ 618,
397
+ 620,
398
+ 623,
399
+ 624,
400
+ 625,
401
+ 626,
402
+ 627,
403
+ 628,
404
+ 629,
405
+ 631,
406
+ 636,
407
+ 639,
408
+ 641,
409
+ 644,
410
+ 645,
411
+ 647,
412
+ 649,
413
+ 650,
414
+ 651,
415
+ 654,
416
+ 655,
417
+ 658,
418
+ 659,
419
+ 661,
420
+ 663,
421
+ 664,
422
+ 665,
423
+ 666,
424
+ 667,
425
+ 670,
426
+ 671,
427
+ 672,
428
+ 673,
429
+ 674,
430
+ 675,
431
+ 676,
432
+ 679,
433
+ 680,
434
+ 682,
435
+ 684,
436
+ 686,
437
+ 688,
438
+ 689,
439
+ 690,
440
+ 691,
441
+ 693,
442
+ 694,
443
+ 695,
444
+ 697,
445
+ 698,
446
+ 700,
447
+ 701,
448
+ 702,
449
+ 704,
450
+ 706,
451
+ 708,
452
+ 711,
453
+ 712,
454
+ 718,
455
+ 719,
456
+ 722,
457
+ 725,
458
+ 726,
459
+ 728,
460
+ 729,
461
+ 732,
462
+ 735,
463
+ 737,
464
+ 738,
465
+ 739,
466
+ 740,
467
+ 741,
468
+ 744,
469
+ 746,
470
+ 747,
471
+ 751,
472
+ 753,
473
+ 754,
474
+ 756,
475
+ 757,
476
+ 758,
477
+ 759,
478
+ 762,
479
+ 763,
480
+ 764,
481
+ 765,
482
+ 766,
483
+ 767,
484
+ 768,
485
+ 769,
486
+ 770,
487
+ 771,
488
+ 773,
489
+ 775,
490
+ 776,
491
+ 777,
492
+ 781,
493
+ 783,
494
+ 785,
495
+ 786,
496
+ 787,
497
+ 788,
498
+ 790,
499
+ 793,
500
+ 794,
501
+ 795,
502
+ 796,
503
+ 799,
504
+ 800,
505
+ 801,
506
+ 804,
507
+ 806,
508
+ 807,
509
+ 809,
510
+ 810,
511
+ 811,
512
+ 812,
513
+ 813,
514
+ 817,
515
+ 818,
516
+ 819,
517
+ 821,
518
+ 822,
519
+ 824,
520
+ 827,
521
+ 829,
522
+ 830,
523
+ 831,
524
+ 832,
525
+ 833,
526
+ 834,
527
+ 836,
528
+ 838,
529
+ 840,
530
+ 844,
531
+ 845,
532
+ 847,
533
+ 851,
534
+ 854,
535
+ 855,
536
+ 857,
537
+ 858,
538
+ 860,
539
+ 862,
540
+ 863,
541
+ 864,
542
+ 865,
543
+ 866,
544
+ 867,
545
+ 869,
546
+ 870,
547
+ 871,
548
+ 872,
549
+ 873,
550
+ 874,
551
+ 875,
552
+ 876,
553
+ 879,
554
+ 880,
555
+ 881,
556
+ 885,
557
+ 886,
558
+ 887,
559
+ 889,
560
+ 892,
561
+ 893,
562
+ 894,
563
+ 895,
564
+ 896,
565
+ 898,
566
+ 899,
567
+ 900,
568
+ 901,
569
+ 905,
570
+ 906,
571
+ 907,
572
+ 910,
573
+ 911,
574
+ 912,
575
+ 913,
576
+ 915,
577
+ 916,
578
+ 923,
579
+ 927,
580
+ 928,
581
+ 929,
582
+ 931,
583
+ 932,
584
+ 933,
585
+ 934,
586
+ 935,
587
+ 936,
588
+ 937,
589
+ 938,
590
+ 939,
591
+ 941,
592
+ 942,
593
+ 943,
594
+ 945,
595
+ 948,
596
+ 949,
597
+ 950,
598
+ 951,
599
+ 953,
600
+ 954,
601
+ 957,
602
+ 959,
603
+ 960,
604
+ 961,
605
+ 965,
606
+ 967,
607
+ 969,
608
+ 971,
609
+ 972,
610
+ 976,
611
+ 980,
612
+ 982,
613
+ 983,
614
+ 985,
615
+ 986,
616
+ 987,
617
+ 989,
618
+ 990,
619
+ 991,
620
+ 992,
621
+ 993
622
+ ],
623
+ "not_both_correct_indices": [
624
+ 3,
625
+ 5,
626
+ 6,
627
+ 7,
628
+ 11,
629
+ 14,
630
+ 18,
631
+ 20,
632
+ 21,
633
+ 23,
634
+ 24,
635
+ 25,
636
+ 27,
637
+ 30,
638
+ 32,
639
+ 33,
640
+ 35,
641
+ 37,
642
+ 39,
643
+ 42,
644
+ 43,
645
+ 44,
646
+ 48,
647
+ 52,
648
+ 55,
649
+ 58,
650
+ 59,
651
+ 60,
652
+ 68,
653
+ 69,
654
+ 70,
655
+ 73,
656
+ 75,
657
+ 76,
658
+ 82,
659
+ 83,
660
+ 84,
661
+ 91,
662
+ 93,
663
+ 94,
664
+ 97,
665
+ 99,
666
+ 100,
667
+ 103,
668
+ 105,
669
+ 106,
670
+ 111,
671
+ 113,
672
+ 118,
673
+ 122,
674
+ 124,
675
+ 125,
676
+ 126,
677
+ 128,
678
+ 129,
679
+ 133,
680
+ 134,
681
+ 136,
682
+ 140,
683
+ 149,
684
+ 150,
685
+ 151,
686
+ 152,
687
+ 156,
688
+ 160,
689
+ 167,
690
+ 171,
691
+ 176,
692
+ 177,
693
+ 179,
694
+ 180,
695
+ 187,
696
+ 189,
697
+ 190,
698
+ 192,
699
+ 203,
700
+ 205,
701
+ 210,
702
+ 211,
703
+ 214,
704
+ 217,
705
+ 218,
706
+ 219,
707
+ 224,
708
+ 226,
709
+ 230,
710
+ 232,
711
+ 233,
712
+ 242,
713
+ 244,
714
+ 249,
715
+ 250,
716
+ 254,
717
+ 255,
718
+ 257,
719
+ 258,
720
+ 263,
721
+ 264,
722
+ 266,
723
+ 272,
724
+ 274,
725
+ 276,
726
+ 278,
727
+ 288,
728
+ 292,
729
+ 293,
730
+ 297,
731
+ 298,
732
+ 305,
733
+ 308,
734
+ 310,
735
+ 312,
736
+ 316,
737
+ 319,
738
+ 320,
739
+ 323,
740
+ 327,
741
+ 333,
742
+ 334,
743
+ 337,
744
+ 338,
745
+ 340,
746
+ 344,
747
+ 345,
748
+ 346,
749
+ 347,
750
+ 352,
751
+ 354,
752
+ 355,
753
+ 358,
754
+ 359,
755
+ 361,
756
+ 365,
757
+ 367,
758
+ 371,
759
+ 375,
760
+ 376,
761
+ 380,
762
+ 385,
763
+ 388,
764
+ 390,
765
+ 392,
766
+ 396,
767
+ 397,
768
+ 399,
769
+ 402,
770
+ 405,
771
+ 407,
772
+ 412,
773
+ 414,
774
+ 416,
775
+ 418,
776
+ 419,
777
+ 421,
778
+ 424,
779
+ 426,
780
+ 428,
781
+ 430,
782
+ 431,
783
+ 434,
784
+ 435,
785
+ 437,
786
+ 439,
787
+ 440,
788
+ 442,
789
+ 443,
790
+ 445,
791
+ 446,
792
+ 447,
793
+ 449,
794
+ 452,
795
+ 453,
796
+ 454,
797
+ 455,
798
+ 457,
799
+ 458,
800
+ 459,
801
+ 460,
802
+ 463,
803
+ 466,
804
+ 471,
805
+ 473,
806
+ 474,
807
+ 475,
808
+ 476,
809
+ 479,
810
+ 482,
811
+ 484,
812
+ 486,
813
+ 487,
814
+ 489,
815
+ 504,
816
+ 507,
817
+ 514,
818
+ 515,
819
+ 517,
820
+ 518,
821
+ 519,
822
+ 523,
823
+ 526,
824
+ 529,
825
+ 530,
826
+ 534,
827
+ 541,
828
+ 542,
829
+ 543,
830
+ 544,
831
+ 545,
832
+ 547,
833
+ 548,
834
+ 549,
835
+ 552,
836
+ 555,
837
+ 556,
838
+ 560,
839
+ 561,
840
+ 562,
841
+ 569,
842
+ 570,
843
+ 575,
844
+ 579,
845
+ 582,
846
+ 587,
847
+ 590,
848
+ 592,
849
+ 596,
850
+ 599,
851
+ 601,
852
+ 604,
853
+ 605,
854
+ 606,
855
+ 608,
856
+ 612,
857
+ 619,
858
+ 621,
859
+ 622,
860
+ 630,
861
+ 632,
862
+ 633,
863
+ 634,
864
+ 635,
865
+ 637,
866
+ 638,
867
+ 640,
868
+ 642,
869
+ 643,
870
+ 646,
871
+ 648,
872
+ 652,
873
+ 653,
874
+ 656,
875
+ 657,
876
+ 660,
877
+ 662,
878
+ 668,
879
+ 669,
880
+ 677,
881
+ 678,
882
+ 681,
883
+ 683,
884
+ 685,
885
+ 687,
886
+ 692,
887
+ 696,
888
+ 699,
889
+ 703,
890
+ 705,
891
+ 707,
892
+ 709,
893
+ 710,
894
+ 713,
895
+ 714,
896
+ 715,
897
+ 716,
898
+ 717,
899
+ 720,
900
+ 721,
901
+ 723,
902
+ 724,
903
+ 727,
904
+ 730,
905
+ 731,
906
+ 733,
907
+ 734,
908
+ 736,
909
+ 742,
910
+ 743,
911
+ 745,
912
+ 748,
913
+ 749,
914
+ 750,
915
+ 752,
916
+ 755,
917
+ 760,
918
+ 761,
919
+ 772,
920
+ 774,
921
+ 778,
922
+ 779,
923
+ 780,
924
+ 782,
925
+ 784,
926
+ 789,
927
+ 791,
928
+ 792,
929
+ 797,
930
+ 798,
931
+ 802,
932
+ 803,
933
+ 805,
934
+ 808,
935
+ 814,
936
+ 815,
937
+ 816,
938
+ 820,
939
+ 823,
940
+ 825,
941
+ 826,
942
+ 828,
943
+ 835,
944
+ 837,
945
+ 839,
946
+ 841,
947
+ 842,
948
+ 843,
949
+ 846,
950
+ 848,
951
+ 849,
952
+ 850,
953
+ 852,
954
+ 853,
955
+ 856,
956
+ 859,
957
+ 861,
958
+ 868,
959
+ 877,
960
+ 878,
961
+ 882,
962
+ 883,
963
+ 884,
964
+ 888,
965
+ 890,
966
+ 891,
967
+ 897,
968
+ 902,
969
+ 903,
970
+ 904,
971
+ 908,
972
+ 909,
973
+ 914,
974
+ 917,
975
+ 918,
976
+ 919,
977
+ 920,
978
+ 921,
979
+ 922,
980
+ 924,
981
+ 925,
982
+ 926,
983
+ 930,
984
+ 940,
985
+ 944,
986
+ 946,
987
+ 947,
988
+ 952,
989
+ 955,
990
+ 956,
991
+ 958,
992
+ 962,
993
+ 963,
994
+ 964,
995
+ 966,
996
+ 968,
997
+ 970,
998
+ 973,
999
+ 974,
1000
+ 975,
1001
+ 977,
1002
+ 978,
1003
+ 979,
1004
+ 981,
1005
+ 984,
1006
+ 988,
1007
+ 994
1008
+ ],
1009
+ "clean_baseline": 5.66796875,
1010
+ "corrupted_baseline": -5.48046875
1011
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/simple_equation/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ee8685144e1f699d95ca04e385e7d31304c0a35bbce311b6bf535e813bf7018b
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/MD/simple_equation/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f7d533636df1dfa053818001b914a76614cd532444f6dd5734ef64761bd291cf
3
+ size 8817048
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/agent/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/agent/baselines.json ADDED
@@ -0,0 +1,961 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 945,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 945,
6
+ "clean_accuracy": 0.8560846560846561,
7
+ "corrupted_accuracy": 0.8899470899470899,
8
+ "both_correct_accuracy": 0.764021164021164,
9
+ "n_both_correct": 722,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 16,
27
+ 17,
28
+ 19,
29
+ 20,
30
+ 21,
31
+ 22,
32
+ 24,
33
+ 26,
34
+ 27,
35
+ 28,
36
+ 29,
37
+ 30,
38
+ 31,
39
+ 32,
40
+ 34,
41
+ 36,
42
+ 37,
43
+ 38,
44
+ 39,
45
+ 40,
46
+ 41,
47
+ 42,
48
+ 43,
49
+ 44,
50
+ 45,
51
+ 46,
52
+ 48,
53
+ 49,
54
+ 50,
55
+ 51,
56
+ 52,
57
+ 53,
58
+ 54,
59
+ 55,
60
+ 56,
61
+ 57,
62
+ 58,
63
+ 59,
64
+ 60,
65
+ 61,
66
+ 62,
67
+ 63,
68
+ 64,
69
+ 65,
70
+ 66,
71
+ 67,
72
+ 68,
73
+ 70,
74
+ 71,
75
+ 72,
76
+ 73,
77
+ 74,
78
+ 75,
79
+ 76,
80
+ 77,
81
+ 78,
82
+ 79,
83
+ 80,
84
+ 81,
85
+ 82,
86
+ 83,
87
+ 84,
88
+ 85,
89
+ 86,
90
+ 87,
91
+ 88,
92
+ 89,
93
+ 90,
94
+ 91,
95
+ 92,
96
+ 93,
97
+ 94,
98
+ 95,
99
+ 96,
100
+ 97,
101
+ 100,
102
+ 101,
103
+ 102,
104
+ 103,
105
+ 104,
106
+ 105,
107
+ 106,
108
+ 108,
109
+ 109,
110
+ 110,
111
+ 111,
112
+ 114,
113
+ 115,
114
+ 116,
115
+ 118,
116
+ 119,
117
+ 120,
118
+ 121,
119
+ 122,
120
+ 123,
121
+ 124,
122
+ 125,
123
+ 126,
124
+ 127,
125
+ 128,
126
+ 129,
127
+ 130,
128
+ 131,
129
+ 132,
130
+ 133,
131
+ 135,
132
+ 136,
133
+ 137,
134
+ 139,
135
+ 140,
136
+ 141,
137
+ 142,
138
+ 143,
139
+ 144,
140
+ 145,
141
+ 146,
142
+ 147,
143
+ 148,
144
+ 149,
145
+ 150,
146
+ 151,
147
+ 152,
148
+ 153,
149
+ 154,
150
+ 155,
151
+ 158,
152
+ 159,
153
+ 160,
154
+ 162,
155
+ 163,
156
+ 164,
157
+ 165,
158
+ 166,
159
+ 167,
160
+ 168,
161
+ 169,
162
+ 170,
163
+ 171,
164
+ 172,
165
+ 173,
166
+ 174,
167
+ 175,
168
+ 176,
169
+ 177,
170
+ 178,
171
+ 179,
172
+ 180,
173
+ 181,
174
+ 182,
175
+ 183,
176
+ 184,
177
+ 185,
178
+ 186,
179
+ 187,
180
+ 188,
181
+ 189,
182
+ 190,
183
+ 191,
184
+ 192,
185
+ 193,
186
+ 194,
187
+ 195,
188
+ 196,
189
+ 197,
190
+ 198,
191
+ 199,
192
+ 200,
193
+ 201,
194
+ 202,
195
+ 204,
196
+ 207,
197
+ 208,
198
+ 210,
199
+ 211,
200
+ 214,
201
+ 216,
202
+ 217,
203
+ 219,
204
+ 220,
205
+ 221,
206
+ 222,
207
+ 223,
208
+ 224,
209
+ 225,
210
+ 226,
211
+ 227,
212
+ 228,
213
+ 229,
214
+ 230,
215
+ 231,
216
+ 233,
217
+ 236,
218
+ 237,
219
+ 238,
220
+ 240,
221
+ 241,
222
+ 243,
223
+ 244,
224
+ 246,
225
+ 247,
226
+ 248,
227
+ 249,
228
+ 250,
229
+ 252,
230
+ 253,
231
+ 256,
232
+ 257,
233
+ 258,
234
+ 260,
235
+ 261,
236
+ 262,
237
+ 265,
238
+ 266,
239
+ 270,
240
+ 272,
241
+ 273,
242
+ 274,
243
+ 275,
244
+ 276,
245
+ 277,
246
+ 279,
247
+ 281,
248
+ 283,
249
+ 284,
250
+ 285,
251
+ 286,
252
+ 287,
253
+ 289,
254
+ 291,
255
+ 292,
256
+ 294,
257
+ 295,
258
+ 296,
259
+ 297,
260
+ 298,
261
+ 299,
262
+ 300,
263
+ 301,
264
+ 302,
265
+ 303,
266
+ 304,
267
+ 305,
268
+ 306,
269
+ 307,
270
+ 308,
271
+ 309,
272
+ 310,
273
+ 312,
274
+ 314,
275
+ 316,
276
+ 317,
277
+ 318,
278
+ 319,
279
+ 320,
280
+ 321,
281
+ 323,
282
+ 324,
283
+ 325,
284
+ 327,
285
+ 328,
286
+ 329,
287
+ 330,
288
+ 331,
289
+ 333,
290
+ 334,
291
+ 335,
292
+ 337,
293
+ 340,
294
+ 341,
295
+ 344,
296
+ 345,
297
+ 346,
298
+ 347,
299
+ 348,
300
+ 349,
301
+ 350,
302
+ 351,
303
+ 352,
304
+ 353,
305
+ 354,
306
+ 355,
307
+ 357,
308
+ 358,
309
+ 359,
310
+ 362,
311
+ 363,
312
+ 364,
313
+ 366,
314
+ 367,
315
+ 368,
316
+ 369,
317
+ 370,
318
+ 371,
319
+ 372,
320
+ 373,
321
+ 374,
322
+ 375,
323
+ 376,
324
+ 377,
325
+ 378,
326
+ 379,
327
+ 381,
328
+ 384,
329
+ 385,
330
+ 386,
331
+ 387,
332
+ 388,
333
+ 389,
334
+ 390,
335
+ 391,
336
+ 392,
337
+ 393,
338
+ 394,
339
+ 395,
340
+ 396,
341
+ 397,
342
+ 398,
343
+ 399,
344
+ 402,
345
+ 406,
346
+ 407,
347
+ 410,
348
+ 411,
349
+ 412,
350
+ 413,
351
+ 414,
352
+ 415,
353
+ 416,
354
+ 417,
355
+ 419,
356
+ 421,
357
+ 423,
358
+ 424,
359
+ 425,
360
+ 428,
361
+ 430,
362
+ 432,
363
+ 433,
364
+ 434,
365
+ 435,
366
+ 436,
367
+ 437,
368
+ 438,
369
+ 439,
370
+ 441,
371
+ 445,
372
+ 449,
373
+ 450,
374
+ 452,
375
+ 455,
376
+ 456,
377
+ 457,
378
+ 458,
379
+ 459,
380
+ 460,
381
+ 461,
382
+ 463,
383
+ 464,
384
+ 467,
385
+ 468,
386
+ 471,
387
+ 472,
388
+ 473,
389
+ 474,
390
+ 475,
391
+ 478,
392
+ 479,
393
+ 480,
394
+ 481,
395
+ 483,
396
+ 485,
397
+ 493,
398
+ 494,
399
+ 497,
400
+ 499,
401
+ 500,
402
+ 501,
403
+ 502,
404
+ 503,
405
+ 504,
406
+ 505,
407
+ 507,
408
+ 510,
409
+ 512,
410
+ 514,
411
+ 517,
412
+ 518,
413
+ 519,
414
+ 523,
415
+ 524,
416
+ 525,
417
+ 526,
418
+ 527,
419
+ 528,
420
+ 529,
421
+ 531,
422
+ 535,
423
+ 536,
424
+ 537,
425
+ 539,
426
+ 543,
427
+ 545,
428
+ 546,
429
+ 547,
430
+ 548,
431
+ 551,
432
+ 552,
433
+ 553,
434
+ 555,
435
+ 558,
436
+ 559,
437
+ 561,
438
+ 563,
439
+ 566,
440
+ 567,
441
+ 570,
442
+ 571,
443
+ 572,
444
+ 573,
445
+ 574,
446
+ 575,
447
+ 578,
448
+ 579,
449
+ 580,
450
+ 582,
451
+ 583,
452
+ 584,
453
+ 585,
454
+ 586,
455
+ 587,
456
+ 588,
457
+ 589,
458
+ 590,
459
+ 591,
460
+ 594,
461
+ 595,
462
+ 596,
463
+ 597,
464
+ 599,
465
+ 601,
466
+ 602,
467
+ 603,
468
+ 605,
469
+ 607,
470
+ 610,
471
+ 611,
472
+ 614,
473
+ 615,
474
+ 616,
475
+ 617,
476
+ 618,
477
+ 619,
478
+ 620,
479
+ 622,
480
+ 623,
481
+ 624,
482
+ 626,
483
+ 627,
484
+ 628,
485
+ 629,
486
+ 630,
487
+ 631,
488
+ 632,
489
+ 633,
490
+ 634,
491
+ 635,
492
+ 637,
493
+ 638,
494
+ 639,
495
+ 641,
496
+ 642,
497
+ 643,
498
+ 644,
499
+ 645,
500
+ 647,
501
+ 648,
502
+ 649,
503
+ 651,
504
+ 654,
505
+ 655,
506
+ 656,
507
+ 658,
508
+ 659,
509
+ 660,
510
+ 661,
511
+ 662,
512
+ 663,
513
+ 665,
514
+ 666,
515
+ 667,
516
+ 668,
517
+ 670,
518
+ 671,
519
+ 672,
520
+ 673,
521
+ 674,
522
+ 675,
523
+ 676,
524
+ 677,
525
+ 678,
526
+ 679,
527
+ 681,
528
+ 682,
529
+ 683,
530
+ 684,
531
+ 685,
532
+ 687,
533
+ 688,
534
+ 689,
535
+ 693,
536
+ 695,
537
+ 698,
538
+ 702,
539
+ 703,
540
+ 704,
541
+ 705,
542
+ 706,
543
+ 707,
544
+ 708,
545
+ 709,
546
+ 710,
547
+ 712,
548
+ 714,
549
+ 715,
550
+ 716,
551
+ 717,
552
+ 718,
553
+ 719,
554
+ 720,
555
+ 721,
556
+ 722,
557
+ 723,
558
+ 725,
559
+ 726,
560
+ 727,
561
+ 729,
562
+ 730,
563
+ 731,
564
+ 734,
565
+ 735,
566
+ 736,
567
+ 737,
568
+ 739,
569
+ 743,
570
+ 746,
571
+ 747,
572
+ 748,
573
+ 749,
574
+ 750,
575
+ 751,
576
+ 754,
577
+ 755,
578
+ 756,
579
+ 758,
580
+ 759,
581
+ 760,
582
+ 761,
583
+ 762,
584
+ 763,
585
+ 764,
586
+ 765,
587
+ 766,
588
+ 769,
589
+ 770,
590
+ 771,
591
+ 772,
592
+ 773,
593
+ 774,
594
+ 775,
595
+ 776,
596
+ 777,
597
+ 778,
598
+ 779,
599
+ 780,
600
+ 781,
601
+ 782,
602
+ 783,
603
+ 784,
604
+ 785,
605
+ 786,
606
+ 787,
607
+ 788,
608
+ 789,
609
+ 790,
610
+ 791,
611
+ 792,
612
+ 793,
613
+ 794,
614
+ 795,
615
+ 796,
616
+ 797,
617
+ 798,
618
+ 799,
619
+ 800,
620
+ 801,
621
+ 802,
622
+ 803,
623
+ 804,
624
+ 805,
625
+ 806,
626
+ 808,
627
+ 809,
628
+ 810,
629
+ 811,
630
+ 812,
631
+ 813,
632
+ 814,
633
+ 815,
634
+ 816,
635
+ 817,
636
+ 818,
637
+ 820,
638
+ 821,
639
+ 822,
640
+ 823,
641
+ 824,
642
+ 825,
643
+ 826,
644
+ 827,
645
+ 828,
646
+ 829,
647
+ 830,
648
+ 831,
649
+ 832,
650
+ 833,
651
+ 834,
652
+ 835,
653
+ 836,
654
+ 837,
655
+ 838,
656
+ 839,
657
+ 840,
658
+ 842,
659
+ 843,
660
+ 846,
661
+ 848,
662
+ 849,
663
+ 851,
664
+ 854,
665
+ 857,
666
+ 859,
667
+ 860,
668
+ 861,
669
+ 863,
670
+ 865,
671
+ 866,
672
+ 867,
673
+ 868,
674
+ 869,
675
+ 870,
676
+ 872,
677
+ 873,
678
+ 874,
679
+ 875,
680
+ 876,
681
+ 877,
682
+ 878,
683
+ 879,
684
+ 880,
685
+ 881,
686
+ 882,
687
+ 883,
688
+ 884,
689
+ 885,
690
+ 886,
691
+ 887,
692
+ 888,
693
+ 889,
694
+ 890,
695
+ 891,
696
+ 892,
697
+ 893,
698
+ 894,
699
+ 895,
700
+ 896,
701
+ 897,
702
+ 898,
703
+ 899,
704
+ 900,
705
+ 901,
706
+ 902,
707
+ 903,
708
+ 904,
709
+ 905,
710
+ 907,
711
+ 908,
712
+ 909,
713
+ 910,
714
+ 911,
715
+ 912,
716
+ 913,
717
+ 914,
718
+ 915,
719
+ 918,
720
+ 919,
721
+ 920,
722
+ 925,
723
+ 927,
724
+ 930,
725
+ 932,
726
+ 934,
727
+ 935,
728
+ 936,
729
+ 937,
730
+ 938,
731
+ 939,
732
+ 943
733
+ ],
734
+ "not_both_correct_indices": [
735
+ 15,
736
+ 18,
737
+ 23,
738
+ 25,
739
+ 33,
740
+ 35,
741
+ 47,
742
+ 69,
743
+ 98,
744
+ 99,
745
+ 107,
746
+ 112,
747
+ 113,
748
+ 117,
749
+ 134,
750
+ 138,
751
+ 156,
752
+ 157,
753
+ 161,
754
+ 203,
755
+ 205,
756
+ 206,
757
+ 209,
758
+ 212,
759
+ 213,
760
+ 215,
761
+ 218,
762
+ 232,
763
+ 234,
764
+ 235,
765
+ 239,
766
+ 242,
767
+ 245,
768
+ 251,
769
+ 254,
770
+ 255,
771
+ 259,
772
+ 263,
773
+ 264,
774
+ 267,
775
+ 268,
776
+ 269,
777
+ 271,
778
+ 278,
779
+ 280,
780
+ 282,
781
+ 288,
782
+ 290,
783
+ 293,
784
+ 311,
785
+ 313,
786
+ 315,
787
+ 322,
788
+ 326,
789
+ 332,
790
+ 336,
791
+ 338,
792
+ 339,
793
+ 342,
794
+ 343,
795
+ 356,
796
+ 360,
797
+ 361,
798
+ 365,
799
+ 380,
800
+ 382,
801
+ 383,
802
+ 400,
803
+ 401,
804
+ 403,
805
+ 404,
806
+ 405,
807
+ 408,
808
+ 409,
809
+ 418,
810
+ 420,
811
+ 422,
812
+ 426,
813
+ 427,
814
+ 429,
815
+ 431,
816
+ 440,
817
+ 442,
818
+ 443,
819
+ 444,
820
+ 446,
821
+ 447,
822
+ 448,
823
+ 451,
824
+ 453,
825
+ 454,
826
+ 462,
827
+ 465,
828
+ 466,
829
+ 469,
830
+ 470,
831
+ 476,
832
+ 477,
833
+ 482,
834
+ 484,
835
+ 486,
836
+ 487,
837
+ 488,
838
+ 489,
839
+ 490,
840
+ 491,
841
+ 492,
842
+ 495,
843
+ 496,
844
+ 498,
845
+ 506,
846
+ 508,
847
+ 509,
848
+ 511,
849
+ 513,
850
+ 515,
851
+ 516,
852
+ 520,
853
+ 521,
854
+ 522,
855
+ 530,
856
+ 532,
857
+ 533,
858
+ 534,
859
+ 538,
860
+ 540,
861
+ 541,
862
+ 542,
863
+ 544,
864
+ 549,
865
+ 550,
866
+ 554,
867
+ 556,
868
+ 557,
869
+ 560,
870
+ 562,
871
+ 564,
872
+ 565,
873
+ 568,
874
+ 569,
875
+ 576,
876
+ 577,
877
+ 581,
878
+ 592,
879
+ 593,
880
+ 598,
881
+ 600,
882
+ 604,
883
+ 606,
884
+ 608,
885
+ 609,
886
+ 612,
887
+ 613,
888
+ 621,
889
+ 625,
890
+ 636,
891
+ 640,
892
+ 646,
893
+ 650,
894
+ 652,
895
+ 653,
896
+ 657,
897
+ 664,
898
+ 669,
899
+ 680,
900
+ 686,
901
+ 690,
902
+ 691,
903
+ 692,
904
+ 694,
905
+ 696,
906
+ 697,
907
+ 699,
908
+ 700,
909
+ 701,
910
+ 711,
911
+ 713,
912
+ 724,
913
+ 728,
914
+ 732,
915
+ 733,
916
+ 738,
917
+ 740,
918
+ 741,
919
+ 742,
920
+ 744,
921
+ 745,
922
+ 752,
923
+ 753,
924
+ 757,
925
+ 767,
926
+ 768,
927
+ 807,
928
+ 819,
929
+ 841,
930
+ 844,
931
+ 845,
932
+ 847,
933
+ 850,
934
+ 852,
935
+ 853,
936
+ 855,
937
+ 856,
938
+ 858,
939
+ 862,
940
+ 864,
941
+ 871,
942
+ 906,
943
+ 916,
944
+ 917,
945
+ 921,
946
+ 922,
947
+ 923,
948
+ 924,
949
+ 926,
950
+ 928,
951
+ 929,
952
+ 931,
953
+ 933,
954
+ 940,
955
+ 941,
956
+ 942,
957
+ 944
958
+ ],
959
+ "clean_baseline": 6.125,
960
+ "corrupted_baseline": -6.40234375
961
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/agent/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:36b0947cf8506d709c844bfd139bd6bb29c63502cb13ab90a51b86fa3b945651
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/agent/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4987d9ba5d0c8cd0931f5abf6697c92e445c3b06cf2da1506626213d2de3ee81
3
+ size 9014512
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/desires_goals/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/desires_goals/baselines.json ADDED
@@ -0,0 +1,1096 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1080,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1080,
6
+ "clean_accuracy": 0.9138888888888889,
7
+ "corrupted_accuracy": 0.8944444444444445,
8
+ "both_correct_accuracy": 0.8083333333333333,
9
+ "n_both_correct": 873,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 130,
141
+ 131,
142
+ 132,
143
+ 133,
144
+ 134,
145
+ 135,
146
+ 136,
147
+ 137,
148
+ 138,
149
+ 139,
150
+ 140,
151
+ 142,
152
+ 143,
153
+ 144,
154
+ 145,
155
+ 146,
156
+ 147,
157
+ 148,
158
+ 149,
159
+ 150,
160
+ 151,
161
+ 152,
162
+ 153,
163
+ 154,
164
+ 155,
165
+ 156,
166
+ 157,
167
+ 159,
168
+ 160,
169
+ 161,
170
+ 162,
171
+ 163,
172
+ 164,
173
+ 166,
174
+ 168,
175
+ 169,
176
+ 170,
177
+ 171,
178
+ 172,
179
+ 173,
180
+ 174,
181
+ 175,
182
+ 176,
183
+ 177,
184
+ 178,
185
+ 179,
186
+ 180,
187
+ 181,
188
+ 182,
189
+ 183,
190
+ 184,
191
+ 185,
192
+ 186,
193
+ 187,
194
+ 188,
195
+ 190,
196
+ 191,
197
+ 192,
198
+ 193,
199
+ 194,
200
+ 195,
201
+ 196,
202
+ 198,
203
+ 199,
204
+ 200,
205
+ 201,
206
+ 202,
207
+ 203,
208
+ 210,
209
+ 212,
210
+ 215,
211
+ 217,
212
+ 218,
213
+ 219,
214
+ 222,
215
+ 223,
216
+ 224,
217
+ 227,
218
+ 236,
219
+ 239,
220
+ 240,
221
+ 241,
222
+ 242,
223
+ 243,
224
+ 244,
225
+ 245,
226
+ 246,
227
+ 247,
228
+ 248,
229
+ 249,
230
+ 250,
231
+ 251,
232
+ 252,
233
+ 253,
234
+ 254,
235
+ 255,
236
+ 256,
237
+ 257,
238
+ 258,
239
+ 259,
240
+ 260,
241
+ 261,
242
+ 262,
243
+ 263,
244
+ 264,
245
+ 265,
246
+ 266,
247
+ 267,
248
+ 268,
249
+ 269,
250
+ 270,
251
+ 271,
252
+ 272,
253
+ 273,
254
+ 274,
255
+ 275,
256
+ 276,
257
+ 277,
258
+ 278,
259
+ 279,
260
+ 280,
261
+ 281,
262
+ 282,
263
+ 283,
264
+ 284,
265
+ 285,
266
+ 286,
267
+ 287,
268
+ 288,
269
+ 289,
270
+ 290,
271
+ 291,
272
+ 292,
273
+ 293,
274
+ 294,
275
+ 295,
276
+ 296,
277
+ 297,
278
+ 298,
279
+ 299,
280
+ 300,
281
+ 301,
282
+ 302,
283
+ 303,
284
+ 304,
285
+ 305,
286
+ 306,
287
+ 307,
288
+ 308,
289
+ 309,
290
+ 310,
291
+ 311,
292
+ 312,
293
+ 313,
294
+ 314,
295
+ 315,
296
+ 316,
297
+ 317,
298
+ 318,
299
+ 319,
300
+ 320,
301
+ 321,
302
+ 322,
303
+ 323,
304
+ 324,
305
+ 325,
306
+ 326,
307
+ 327,
308
+ 328,
309
+ 329,
310
+ 330,
311
+ 331,
312
+ 332,
313
+ 333,
314
+ 334,
315
+ 335,
316
+ 336,
317
+ 337,
318
+ 338,
319
+ 339,
320
+ 340,
321
+ 341,
322
+ 342,
323
+ 343,
324
+ 344,
325
+ 345,
326
+ 346,
327
+ 347,
328
+ 348,
329
+ 349,
330
+ 350,
331
+ 351,
332
+ 352,
333
+ 353,
334
+ 354,
335
+ 355,
336
+ 356,
337
+ 357,
338
+ 358,
339
+ 359,
340
+ 360,
341
+ 361,
342
+ 362,
343
+ 363,
344
+ 364,
345
+ 365,
346
+ 366,
347
+ 367,
348
+ 368,
349
+ 369,
350
+ 370,
351
+ 371,
352
+ 372,
353
+ 373,
354
+ 374,
355
+ 375,
356
+ 376,
357
+ 377,
358
+ 378,
359
+ 379,
360
+ 380,
361
+ 381,
362
+ 382,
363
+ 383,
364
+ 384,
365
+ 385,
366
+ 386,
367
+ 387,
368
+ 388,
369
+ 389,
370
+ 390,
371
+ 391,
372
+ 392,
373
+ 393,
374
+ 394,
375
+ 395,
376
+ 396,
377
+ 397,
378
+ 398,
379
+ 399,
380
+ 400,
381
+ 401,
382
+ 402,
383
+ 403,
384
+ 404,
385
+ 405,
386
+ 406,
387
+ 407,
388
+ 408,
389
+ 409,
390
+ 410,
391
+ 411,
392
+ 412,
393
+ 413,
394
+ 414,
395
+ 415,
396
+ 416,
397
+ 417,
398
+ 418,
399
+ 419,
400
+ 480,
401
+ 481,
402
+ 482,
403
+ 483,
404
+ 484,
405
+ 485,
406
+ 486,
407
+ 487,
408
+ 488,
409
+ 489,
410
+ 490,
411
+ 491,
412
+ 492,
413
+ 493,
414
+ 494,
415
+ 495,
416
+ 496,
417
+ 497,
418
+ 498,
419
+ 499,
420
+ 500,
421
+ 501,
422
+ 502,
423
+ 503,
424
+ 504,
425
+ 505,
426
+ 506,
427
+ 507,
428
+ 508,
429
+ 509,
430
+ 510,
431
+ 511,
432
+ 512,
433
+ 513,
434
+ 514,
435
+ 515,
436
+ 516,
437
+ 517,
438
+ 518,
439
+ 519,
440
+ 520,
441
+ 521,
442
+ 522,
443
+ 523,
444
+ 524,
445
+ 525,
446
+ 526,
447
+ 527,
448
+ 528,
449
+ 529,
450
+ 530,
451
+ 531,
452
+ 532,
453
+ 533,
454
+ 534,
455
+ 535,
456
+ 536,
457
+ 537,
458
+ 538,
459
+ 539,
460
+ 553,
461
+ 554,
462
+ 556,
463
+ 557,
464
+ 558,
465
+ 559,
466
+ 560,
467
+ 561,
468
+ 562,
469
+ 563,
470
+ 565,
471
+ 566,
472
+ 569,
473
+ 570,
474
+ 571,
475
+ 573,
476
+ 574,
477
+ 575,
478
+ 600,
479
+ 601,
480
+ 602,
481
+ 603,
482
+ 604,
483
+ 605,
484
+ 606,
485
+ 607,
486
+ 608,
487
+ 609,
488
+ 610,
489
+ 611,
490
+ 612,
491
+ 613,
492
+ 614,
493
+ 615,
494
+ 616,
495
+ 617,
496
+ 618,
497
+ 619,
498
+ 620,
499
+ 621,
500
+ 622,
501
+ 623,
502
+ 624,
503
+ 625,
504
+ 626,
505
+ 627,
506
+ 628,
507
+ 629,
508
+ 630,
509
+ 631,
510
+ 632,
511
+ 633,
512
+ 634,
513
+ 635,
514
+ 636,
515
+ 637,
516
+ 638,
517
+ 639,
518
+ 640,
519
+ 641,
520
+ 642,
521
+ 643,
522
+ 644,
523
+ 645,
524
+ 646,
525
+ 647,
526
+ 648,
527
+ 649,
528
+ 650,
529
+ 651,
530
+ 652,
531
+ 653,
532
+ 654,
533
+ 655,
534
+ 656,
535
+ 657,
536
+ 658,
537
+ 659,
538
+ 720,
539
+ 721,
540
+ 722,
541
+ 723,
542
+ 724,
543
+ 725,
544
+ 726,
545
+ 727,
546
+ 728,
547
+ 729,
548
+ 730,
549
+ 731,
550
+ 732,
551
+ 733,
552
+ 734,
553
+ 735,
554
+ 736,
555
+ 737,
556
+ 738,
557
+ 739,
558
+ 740,
559
+ 741,
560
+ 742,
561
+ 743,
562
+ 744,
563
+ 745,
564
+ 746,
565
+ 747,
566
+ 748,
567
+ 749,
568
+ 750,
569
+ 751,
570
+ 752,
571
+ 753,
572
+ 754,
573
+ 755,
574
+ 756,
575
+ 757,
576
+ 758,
577
+ 759,
578
+ 760,
579
+ 761,
580
+ 762,
581
+ 763,
582
+ 764,
583
+ 765,
584
+ 766,
585
+ 767,
586
+ 768,
587
+ 769,
588
+ 770,
589
+ 771,
590
+ 772,
591
+ 773,
592
+ 774,
593
+ 775,
594
+ 776,
595
+ 777,
596
+ 778,
597
+ 779,
598
+ 780,
599
+ 781,
600
+ 782,
601
+ 783,
602
+ 784,
603
+ 785,
604
+ 786,
605
+ 787,
606
+ 788,
607
+ 789,
608
+ 790,
609
+ 791,
610
+ 792,
611
+ 793,
612
+ 794,
613
+ 795,
614
+ 796,
615
+ 797,
616
+ 798,
617
+ 799,
618
+ 800,
619
+ 801,
620
+ 802,
621
+ 803,
622
+ 804,
623
+ 805,
624
+ 806,
625
+ 807,
626
+ 808,
627
+ 809,
628
+ 810,
629
+ 811,
630
+ 812,
631
+ 813,
632
+ 814,
633
+ 815,
634
+ 816,
635
+ 817,
636
+ 818,
637
+ 819,
638
+ 820,
639
+ 821,
640
+ 822,
641
+ 823,
642
+ 824,
643
+ 825,
644
+ 826,
645
+ 827,
646
+ 828,
647
+ 829,
648
+ 830,
649
+ 831,
650
+ 832,
651
+ 833,
652
+ 834,
653
+ 835,
654
+ 836,
655
+ 837,
656
+ 838,
657
+ 839,
658
+ 840,
659
+ 841,
660
+ 842,
661
+ 843,
662
+ 844,
663
+ 845,
664
+ 846,
665
+ 847,
666
+ 848,
667
+ 849,
668
+ 850,
669
+ 851,
670
+ 853,
671
+ 854,
672
+ 855,
673
+ 856,
674
+ 857,
675
+ 858,
676
+ 859,
677
+ 860,
678
+ 861,
679
+ 862,
680
+ 864,
681
+ 865,
682
+ 866,
683
+ 867,
684
+ 868,
685
+ 869,
686
+ 870,
687
+ 871,
688
+ 872,
689
+ 873,
690
+ 874,
691
+ 875,
692
+ 876,
693
+ 877,
694
+ 878,
695
+ 879,
696
+ 880,
697
+ 881,
698
+ 882,
699
+ 883,
700
+ 884,
701
+ 885,
702
+ 886,
703
+ 887,
704
+ 888,
705
+ 889,
706
+ 890,
707
+ 891,
708
+ 892,
709
+ 893,
710
+ 894,
711
+ 895,
712
+ 896,
713
+ 897,
714
+ 898,
715
+ 899,
716
+ 900,
717
+ 901,
718
+ 902,
719
+ 903,
720
+ 904,
721
+ 905,
722
+ 906,
723
+ 907,
724
+ 908,
725
+ 909,
726
+ 910,
727
+ 911,
728
+ 912,
729
+ 913,
730
+ 914,
731
+ 915,
732
+ 916,
733
+ 918,
734
+ 919,
735
+ 921,
736
+ 922,
737
+ 923,
738
+ 924,
739
+ 925,
740
+ 926,
741
+ 927,
742
+ 928,
743
+ 929,
744
+ 930,
745
+ 931,
746
+ 932,
747
+ 933,
748
+ 934,
749
+ 935,
750
+ 936,
751
+ 937,
752
+ 938,
753
+ 939,
754
+ 940,
755
+ 941,
756
+ 942,
757
+ 943,
758
+ 944,
759
+ 945,
760
+ 946,
761
+ 947,
762
+ 948,
763
+ 949,
764
+ 950,
765
+ 951,
766
+ 952,
767
+ 953,
768
+ 954,
769
+ 955,
770
+ 956,
771
+ 957,
772
+ 958,
773
+ 959,
774
+ 960,
775
+ 961,
776
+ 962,
777
+ 963,
778
+ 964,
779
+ 965,
780
+ 966,
781
+ 967,
782
+ 968,
783
+ 969,
784
+ 970,
785
+ 971,
786
+ 972,
787
+ 973,
788
+ 974,
789
+ 975,
790
+ 976,
791
+ 977,
792
+ 978,
793
+ 979,
794
+ 980,
795
+ 981,
796
+ 982,
797
+ 983,
798
+ 984,
799
+ 985,
800
+ 986,
801
+ 987,
802
+ 988,
803
+ 989,
804
+ 990,
805
+ 991,
806
+ 992,
807
+ 993,
808
+ 994,
809
+ 995,
810
+ 996,
811
+ 997,
812
+ 998,
813
+ 999,
814
+ 1000,
815
+ 1001,
816
+ 1002,
817
+ 1003,
818
+ 1004,
819
+ 1005,
820
+ 1006,
821
+ 1007,
822
+ 1008,
823
+ 1009,
824
+ 1010,
825
+ 1011,
826
+ 1012,
827
+ 1013,
828
+ 1014,
829
+ 1015,
830
+ 1016,
831
+ 1017,
832
+ 1018,
833
+ 1019,
834
+ 1020,
835
+ 1030,
836
+ 1032,
837
+ 1033,
838
+ 1034,
839
+ 1035,
840
+ 1036,
841
+ 1037,
842
+ 1038,
843
+ 1039,
844
+ 1040,
845
+ 1041,
846
+ 1042,
847
+ 1043,
848
+ 1044,
849
+ 1045,
850
+ 1046,
851
+ 1047,
852
+ 1048,
853
+ 1049,
854
+ 1050,
855
+ 1051,
856
+ 1052,
857
+ 1053,
858
+ 1054,
859
+ 1055,
860
+ 1056,
861
+ 1057,
862
+ 1058,
863
+ 1059,
864
+ 1060,
865
+ 1061,
866
+ 1062,
867
+ 1063,
868
+ 1064,
869
+ 1065,
870
+ 1066,
871
+ 1067,
872
+ 1068,
873
+ 1069,
874
+ 1070,
875
+ 1071,
876
+ 1072,
877
+ 1073,
878
+ 1074,
879
+ 1075,
880
+ 1076,
881
+ 1077,
882
+ 1078,
883
+ 1079
884
+ ],
885
+ "not_both_correct_indices": [
886
+ 129,
887
+ 141,
888
+ 158,
889
+ 165,
890
+ 167,
891
+ 189,
892
+ 197,
893
+ 204,
894
+ 205,
895
+ 206,
896
+ 207,
897
+ 208,
898
+ 209,
899
+ 211,
900
+ 213,
901
+ 214,
902
+ 216,
903
+ 220,
904
+ 221,
905
+ 225,
906
+ 226,
907
+ 228,
908
+ 229,
909
+ 230,
910
+ 231,
911
+ 232,
912
+ 233,
913
+ 234,
914
+ 235,
915
+ 237,
916
+ 238,
917
+ 420,
918
+ 421,
919
+ 422,
920
+ 423,
921
+ 424,
922
+ 425,
923
+ 426,
924
+ 427,
925
+ 428,
926
+ 429,
927
+ 430,
928
+ 431,
929
+ 432,
930
+ 433,
931
+ 434,
932
+ 435,
933
+ 436,
934
+ 437,
935
+ 438,
936
+ 439,
937
+ 440,
938
+ 441,
939
+ 442,
940
+ 443,
941
+ 444,
942
+ 445,
943
+ 446,
944
+ 447,
945
+ 448,
946
+ 449,
947
+ 450,
948
+ 451,
949
+ 452,
950
+ 453,
951
+ 454,
952
+ 455,
953
+ 456,
954
+ 457,
955
+ 458,
956
+ 459,
957
+ 460,
958
+ 461,
959
+ 462,
960
+ 463,
961
+ 464,
962
+ 465,
963
+ 466,
964
+ 467,
965
+ 468,
966
+ 469,
967
+ 470,
968
+ 471,
969
+ 472,
970
+ 473,
971
+ 474,
972
+ 475,
973
+ 476,
974
+ 477,
975
+ 478,
976
+ 479,
977
+ 540,
978
+ 541,
979
+ 542,
980
+ 543,
981
+ 544,
982
+ 545,
983
+ 546,
984
+ 547,
985
+ 548,
986
+ 549,
987
+ 550,
988
+ 551,
989
+ 552,
990
+ 555,
991
+ 564,
992
+ 567,
993
+ 568,
994
+ 572,
995
+ 576,
996
+ 577,
997
+ 578,
998
+ 579,
999
+ 580,
1000
+ 581,
1001
+ 582,
1002
+ 583,
1003
+ 584,
1004
+ 585,
1005
+ 586,
1006
+ 587,
1007
+ 588,
1008
+ 589,
1009
+ 590,
1010
+ 591,
1011
+ 592,
1012
+ 593,
1013
+ 594,
1014
+ 595,
1015
+ 596,
1016
+ 597,
1017
+ 598,
1018
+ 599,
1019
+ 660,
1020
+ 661,
1021
+ 662,
1022
+ 663,
1023
+ 664,
1024
+ 665,
1025
+ 666,
1026
+ 667,
1027
+ 668,
1028
+ 669,
1029
+ 670,
1030
+ 671,
1031
+ 672,
1032
+ 673,
1033
+ 674,
1034
+ 675,
1035
+ 676,
1036
+ 677,
1037
+ 678,
1038
+ 679,
1039
+ 680,
1040
+ 681,
1041
+ 682,
1042
+ 683,
1043
+ 684,
1044
+ 685,
1045
+ 686,
1046
+ 687,
1047
+ 688,
1048
+ 689,
1049
+ 690,
1050
+ 691,
1051
+ 692,
1052
+ 693,
1053
+ 694,
1054
+ 695,
1055
+ 696,
1056
+ 697,
1057
+ 698,
1058
+ 699,
1059
+ 700,
1060
+ 701,
1061
+ 702,
1062
+ 703,
1063
+ 704,
1064
+ 705,
1065
+ 706,
1066
+ 707,
1067
+ 708,
1068
+ 709,
1069
+ 710,
1070
+ 711,
1071
+ 712,
1072
+ 713,
1073
+ 714,
1074
+ 715,
1075
+ 716,
1076
+ 717,
1077
+ 718,
1078
+ 719,
1079
+ 852,
1080
+ 863,
1081
+ 917,
1082
+ 920,
1083
+ 1021,
1084
+ 1022,
1085
+ 1023,
1086
+ 1024,
1087
+ 1025,
1088
+ 1026,
1089
+ 1027,
1090
+ 1028,
1091
+ 1029,
1092
+ 1031
1093
+ ],
1094
+ "clean_baseline": 8.7109375,
1095
+ "corrupted_baseline": -9.734375
1096
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/desires_goals/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:8de2ee0e706d8426fb3112970bdf91da6507aa7b935d470255a1afe29b2afa06
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/desires_goals/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:695d1182b1777e01538000520c77f3814b45db0d21ddbb8c3816dc8b23d47113
3
+ size 9110464
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/emotion_fewshot/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/emotion_fewshot/baselines.json ADDED
@@ -0,0 +1,2017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 2000,
3
+ "n_token_misaligned": 9,
4
+ "token_misaligned_indices": [
5
+ 20,
6
+ 137,
7
+ 142,
8
+ 180,
9
+ 506,
10
+ 1020,
11
+ 1056,
12
+ 1738,
13
+ 1795
14
+ ],
15
+ "n_after_alignment_filter": 1991,
16
+ "clean_accuracy": 0.9939728779507785,
17
+ "corrupted_accuracy": 0.9939728779507785,
18
+ "both_correct_accuracy": 0.987945755901557,
19
+ "n_both_correct": 1967,
20
+ "both_correct_indices": [
21
+ 0,
22
+ 1,
23
+ 2,
24
+ 3,
25
+ 4,
26
+ 5,
27
+ 6,
28
+ 7,
29
+ 8,
30
+ 9,
31
+ 10,
32
+ 11,
33
+ 12,
34
+ 13,
35
+ 14,
36
+ 15,
37
+ 16,
38
+ 17,
39
+ 18,
40
+ 19,
41
+ 21,
42
+ 22,
43
+ 23,
44
+ 24,
45
+ 25,
46
+ 26,
47
+ 27,
48
+ 28,
49
+ 29,
50
+ 30,
51
+ 31,
52
+ 32,
53
+ 33,
54
+ 34,
55
+ 35,
56
+ 36,
57
+ 37,
58
+ 38,
59
+ 39,
60
+ 40,
61
+ 41,
62
+ 42,
63
+ 43,
64
+ 44,
65
+ 45,
66
+ 46,
67
+ 47,
68
+ 48,
69
+ 49,
70
+ 50,
71
+ 51,
72
+ 52,
73
+ 53,
74
+ 54,
75
+ 55,
76
+ 56,
77
+ 57,
78
+ 58,
79
+ 59,
80
+ 60,
81
+ 61,
82
+ 62,
83
+ 63,
84
+ 64,
85
+ 65,
86
+ 66,
87
+ 67,
88
+ 68,
89
+ 69,
90
+ 70,
91
+ 71,
92
+ 72,
93
+ 73,
94
+ 74,
95
+ 75,
96
+ 76,
97
+ 77,
98
+ 78,
99
+ 80,
100
+ 81,
101
+ 82,
102
+ 83,
103
+ 84,
104
+ 85,
105
+ 86,
106
+ 87,
107
+ 88,
108
+ 89,
109
+ 90,
110
+ 91,
111
+ 92,
112
+ 93,
113
+ 94,
114
+ 95,
115
+ 96,
116
+ 97,
117
+ 98,
118
+ 99,
119
+ 100,
120
+ 101,
121
+ 102,
122
+ 103,
123
+ 104,
124
+ 105,
125
+ 106,
126
+ 107,
127
+ 108,
128
+ 109,
129
+ 110,
130
+ 111,
131
+ 112,
132
+ 113,
133
+ 114,
134
+ 115,
135
+ 116,
136
+ 117,
137
+ 118,
138
+ 119,
139
+ 120,
140
+ 121,
141
+ 122,
142
+ 123,
143
+ 124,
144
+ 125,
145
+ 126,
146
+ 127,
147
+ 128,
148
+ 129,
149
+ 130,
150
+ 131,
151
+ 132,
152
+ 133,
153
+ 134,
154
+ 135,
155
+ 136,
156
+ 138,
157
+ 139,
158
+ 140,
159
+ 141,
160
+ 144,
161
+ 145,
162
+ 146,
163
+ 147,
164
+ 148,
165
+ 149,
166
+ 150,
167
+ 151,
168
+ 152,
169
+ 153,
170
+ 154,
171
+ 155,
172
+ 156,
173
+ 157,
174
+ 159,
175
+ 160,
176
+ 161,
177
+ 162,
178
+ 163,
179
+ 164,
180
+ 165,
181
+ 166,
182
+ 167,
183
+ 168,
184
+ 169,
185
+ 170,
186
+ 171,
187
+ 173,
188
+ 174,
189
+ 175,
190
+ 176,
191
+ 177,
192
+ 178,
193
+ 179,
194
+ 181,
195
+ 182,
196
+ 183,
197
+ 184,
198
+ 185,
199
+ 186,
200
+ 187,
201
+ 188,
202
+ 189,
203
+ 190,
204
+ 191,
205
+ 192,
206
+ 193,
207
+ 194,
208
+ 195,
209
+ 196,
210
+ 197,
211
+ 198,
212
+ 199,
213
+ 200,
214
+ 201,
215
+ 202,
216
+ 203,
217
+ 204,
218
+ 205,
219
+ 206,
220
+ 207,
221
+ 208,
222
+ 210,
223
+ 211,
224
+ 212,
225
+ 213,
226
+ 214,
227
+ 215,
228
+ 216,
229
+ 217,
230
+ 218,
231
+ 219,
232
+ 220,
233
+ 221,
234
+ 222,
235
+ 223,
236
+ 224,
237
+ 225,
238
+ 226,
239
+ 227,
240
+ 228,
241
+ 229,
242
+ 230,
243
+ 231,
244
+ 232,
245
+ 233,
246
+ 234,
247
+ 235,
248
+ 236,
249
+ 237,
250
+ 238,
251
+ 239,
252
+ 240,
253
+ 241,
254
+ 242,
255
+ 243,
256
+ 244,
257
+ 245,
258
+ 246,
259
+ 247,
260
+ 248,
261
+ 249,
262
+ 250,
263
+ 251,
264
+ 252,
265
+ 253,
266
+ 254,
267
+ 255,
268
+ 256,
269
+ 257,
270
+ 258,
271
+ 259,
272
+ 260,
273
+ 261,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 274,
286
+ 275,
287
+ 276,
288
+ 277,
289
+ 278,
290
+ 279,
291
+ 280,
292
+ 281,
293
+ 282,
294
+ 283,
295
+ 284,
296
+ 285,
297
+ 286,
298
+ 287,
299
+ 288,
300
+ 289,
301
+ 290,
302
+ 291,
303
+ 292,
304
+ 293,
305
+ 294,
306
+ 295,
307
+ 296,
308
+ 297,
309
+ 298,
310
+ 299,
311
+ 300,
312
+ 301,
313
+ 302,
314
+ 303,
315
+ 304,
316
+ 305,
317
+ 306,
318
+ 307,
319
+ 308,
320
+ 309,
321
+ 310,
322
+ 311,
323
+ 312,
324
+ 313,
325
+ 314,
326
+ 315,
327
+ 316,
328
+ 317,
329
+ 318,
330
+ 319,
331
+ 320,
332
+ 321,
333
+ 322,
334
+ 323,
335
+ 324,
336
+ 325,
337
+ 326,
338
+ 327,
339
+ 328,
340
+ 329,
341
+ 330,
342
+ 331,
343
+ 332,
344
+ 333,
345
+ 334,
346
+ 336,
347
+ 337,
348
+ 338,
349
+ 339,
350
+ 340,
351
+ 341,
352
+ 342,
353
+ 343,
354
+ 344,
355
+ 345,
356
+ 346,
357
+ 347,
358
+ 348,
359
+ 349,
360
+ 350,
361
+ 351,
362
+ 352,
363
+ 353,
364
+ 354,
365
+ 355,
366
+ 356,
367
+ 357,
368
+ 358,
369
+ 359,
370
+ 360,
371
+ 361,
372
+ 362,
373
+ 363,
374
+ 364,
375
+ 365,
376
+ 366,
377
+ 367,
378
+ 368,
379
+ 369,
380
+ 370,
381
+ 371,
382
+ 372,
383
+ 373,
384
+ 374,
385
+ 375,
386
+ 376,
387
+ 377,
388
+ 378,
389
+ 379,
390
+ 380,
391
+ 381,
392
+ 382,
393
+ 383,
394
+ 384,
395
+ 385,
396
+ 386,
397
+ 387,
398
+ 388,
399
+ 389,
400
+ 390,
401
+ 391,
402
+ 392,
403
+ 393,
404
+ 394,
405
+ 395,
406
+ 396,
407
+ 397,
408
+ 398,
409
+ 399,
410
+ 400,
411
+ 401,
412
+ 402,
413
+ 403,
414
+ 404,
415
+ 405,
416
+ 406,
417
+ 407,
418
+ 408,
419
+ 409,
420
+ 410,
421
+ 411,
422
+ 412,
423
+ 413,
424
+ 414,
425
+ 415,
426
+ 416,
427
+ 417,
428
+ 418,
429
+ 419,
430
+ 420,
431
+ 421,
432
+ 422,
433
+ 423,
434
+ 424,
435
+ 425,
436
+ 426,
437
+ 427,
438
+ 428,
439
+ 429,
440
+ 430,
441
+ 431,
442
+ 432,
443
+ 433,
444
+ 434,
445
+ 435,
446
+ 436,
447
+ 437,
448
+ 438,
449
+ 439,
450
+ 440,
451
+ 441,
452
+ 442,
453
+ 443,
454
+ 444,
455
+ 445,
456
+ 446,
457
+ 447,
458
+ 448,
459
+ 449,
460
+ 450,
461
+ 451,
462
+ 452,
463
+ 453,
464
+ 454,
465
+ 455,
466
+ 456,
467
+ 457,
468
+ 458,
469
+ 459,
470
+ 460,
471
+ 461,
472
+ 462,
473
+ 463,
474
+ 464,
475
+ 465,
476
+ 466,
477
+ 467,
478
+ 468,
479
+ 469,
480
+ 470,
481
+ 471,
482
+ 472,
483
+ 473,
484
+ 474,
485
+ 475,
486
+ 476,
487
+ 477,
488
+ 478,
489
+ 479,
490
+ 480,
491
+ 481,
492
+ 482,
493
+ 483,
494
+ 484,
495
+ 485,
496
+ 486,
497
+ 487,
498
+ 488,
499
+ 489,
500
+ 490,
501
+ 491,
502
+ 492,
503
+ 493,
504
+ 494,
505
+ 495,
506
+ 496,
507
+ 497,
508
+ 498,
509
+ 499,
510
+ 500,
511
+ 501,
512
+ 502,
513
+ 503,
514
+ 504,
515
+ 505,
516
+ 507,
517
+ 508,
518
+ 509,
519
+ 510,
520
+ 511,
521
+ 512,
522
+ 513,
523
+ 514,
524
+ 515,
525
+ 516,
526
+ 517,
527
+ 518,
528
+ 519,
529
+ 520,
530
+ 521,
531
+ 522,
532
+ 523,
533
+ 524,
534
+ 525,
535
+ 526,
536
+ 527,
537
+ 528,
538
+ 529,
539
+ 530,
540
+ 531,
541
+ 532,
542
+ 533,
543
+ 534,
544
+ 535,
545
+ 536,
546
+ 537,
547
+ 538,
548
+ 539,
549
+ 540,
550
+ 541,
551
+ 542,
552
+ 543,
553
+ 544,
554
+ 545,
555
+ 546,
556
+ 547,
557
+ 548,
558
+ 549,
559
+ 550,
560
+ 551,
561
+ 552,
562
+ 553,
563
+ 554,
564
+ 555,
565
+ 556,
566
+ 557,
567
+ 558,
568
+ 559,
569
+ 560,
570
+ 561,
571
+ 562,
572
+ 563,
573
+ 564,
574
+ 565,
575
+ 566,
576
+ 567,
577
+ 568,
578
+ 569,
579
+ 570,
580
+ 571,
581
+ 572,
582
+ 573,
583
+ 574,
584
+ 575,
585
+ 576,
586
+ 577,
587
+ 578,
588
+ 579,
589
+ 580,
590
+ 581,
591
+ 582,
592
+ 583,
593
+ 584,
594
+ 585,
595
+ 586,
596
+ 587,
597
+ 588,
598
+ 589,
599
+ 590,
600
+ 591,
601
+ 592,
602
+ 593,
603
+ 594,
604
+ 595,
605
+ 596,
606
+ 597,
607
+ 598,
608
+ 599,
609
+ 600,
610
+ 601,
611
+ 602,
612
+ 603,
613
+ 604,
614
+ 605,
615
+ 606,
616
+ 607,
617
+ 608,
618
+ 609,
619
+ 610,
620
+ 611,
621
+ 612,
622
+ 613,
623
+ 614,
624
+ 615,
625
+ 616,
626
+ 617,
627
+ 618,
628
+ 619,
629
+ 620,
630
+ 621,
631
+ 622,
632
+ 623,
633
+ 624,
634
+ 625,
635
+ 626,
636
+ 627,
637
+ 628,
638
+ 629,
639
+ 630,
640
+ 631,
641
+ 632,
642
+ 633,
643
+ 634,
644
+ 635,
645
+ 636,
646
+ 637,
647
+ 638,
648
+ 639,
649
+ 640,
650
+ 641,
651
+ 642,
652
+ 643,
653
+ 644,
654
+ 645,
655
+ 646,
656
+ 647,
657
+ 648,
658
+ 649,
659
+ 651,
660
+ 652,
661
+ 653,
662
+ 654,
663
+ 655,
664
+ 656,
665
+ 657,
666
+ 658,
667
+ 659,
668
+ 660,
669
+ 661,
670
+ 662,
671
+ 663,
672
+ 664,
673
+ 665,
674
+ 666,
675
+ 667,
676
+ 668,
677
+ 669,
678
+ 670,
679
+ 671,
680
+ 672,
681
+ 673,
682
+ 674,
683
+ 675,
684
+ 676,
685
+ 677,
686
+ 678,
687
+ 679,
688
+ 680,
689
+ 681,
690
+ 682,
691
+ 683,
692
+ 684,
693
+ 685,
694
+ 686,
695
+ 687,
696
+ 688,
697
+ 689,
698
+ 690,
699
+ 691,
700
+ 692,
701
+ 693,
702
+ 694,
703
+ 695,
704
+ 696,
705
+ 697,
706
+ 698,
707
+ 699,
708
+ 700,
709
+ 701,
710
+ 702,
711
+ 703,
712
+ 704,
713
+ 705,
714
+ 706,
715
+ 707,
716
+ 708,
717
+ 709,
718
+ 710,
719
+ 711,
720
+ 712,
721
+ 713,
722
+ 714,
723
+ 715,
724
+ 716,
725
+ 717,
726
+ 718,
727
+ 719,
728
+ 720,
729
+ 721,
730
+ 722,
731
+ 723,
732
+ 724,
733
+ 725,
734
+ 726,
735
+ 727,
736
+ 728,
737
+ 729,
738
+ 730,
739
+ 731,
740
+ 732,
741
+ 733,
742
+ 734,
743
+ 735,
744
+ 736,
745
+ 737,
746
+ 738,
747
+ 739,
748
+ 741,
749
+ 742,
750
+ 743,
751
+ 744,
752
+ 745,
753
+ 746,
754
+ 747,
755
+ 748,
756
+ 749,
757
+ 750,
758
+ 751,
759
+ 752,
760
+ 753,
761
+ 754,
762
+ 755,
763
+ 756,
764
+ 757,
765
+ 758,
766
+ 759,
767
+ 760,
768
+ 761,
769
+ 762,
770
+ 763,
771
+ 764,
772
+ 765,
773
+ 766,
774
+ 767,
775
+ 768,
776
+ 769,
777
+ 770,
778
+ 771,
779
+ 772,
780
+ 773,
781
+ 774,
782
+ 775,
783
+ 776,
784
+ 777,
785
+ 778,
786
+ 779,
787
+ 780,
788
+ 781,
789
+ 782,
790
+ 783,
791
+ 784,
792
+ 785,
793
+ 786,
794
+ 787,
795
+ 788,
796
+ 789,
797
+ 790,
798
+ 791,
799
+ 792,
800
+ 793,
801
+ 794,
802
+ 795,
803
+ 796,
804
+ 797,
805
+ 798,
806
+ 799,
807
+ 800,
808
+ 801,
809
+ 802,
810
+ 803,
811
+ 804,
812
+ 805,
813
+ 806,
814
+ 807,
815
+ 808,
816
+ 809,
817
+ 810,
818
+ 811,
819
+ 812,
820
+ 813,
821
+ 814,
822
+ 815,
823
+ 816,
824
+ 817,
825
+ 818,
826
+ 819,
827
+ 820,
828
+ 821,
829
+ 822,
830
+ 823,
831
+ 824,
832
+ 825,
833
+ 826,
834
+ 827,
835
+ 828,
836
+ 829,
837
+ 830,
838
+ 831,
839
+ 832,
840
+ 833,
841
+ 834,
842
+ 835,
843
+ 836,
844
+ 837,
845
+ 838,
846
+ 839,
847
+ 840,
848
+ 841,
849
+ 842,
850
+ 843,
851
+ 844,
852
+ 845,
853
+ 846,
854
+ 847,
855
+ 848,
856
+ 849,
857
+ 850,
858
+ 851,
859
+ 852,
860
+ 853,
861
+ 854,
862
+ 855,
863
+ 856,
864
+ 857,
865
+ 858,
866
+ 859,
867
+ 860,
868
+ 861,
869
+ 862,
870
+ 863,
871
+ 864,
872
+ 865,
873
+ 866,
874
+ 867,
875
+ 868,
876
+ 869,
877
+ 870,
878
+ 871,
879
+ 872,
880
+ 873,
881
+ 874,
882
+ 875,
883
+ 876,
884
+ 877,
885
+ 878,
886
+ 879,
887
+ 880,
888
+ 881,
889
+ 882,
890
+ 883,
891
+ 884,
892
+ 885,
893
+ 886,
894
+ 887,
895
+ 888,
896
+ 889,
897
+ 890,
898
+ 891,
899
+ 892,
900
+ 893,
901
+ 894,
902
+ 895,
903
+ 896,
904
+ 897,
905
+ 898,
906
+ 899,
907
+ 900,
908
+ 901,
909
+ 902,
910
+ 903,
911
+ 904,
912
+ 905,
913
+ 906,
914
+ 907,
915
+ 908,
916
+ 909,
917
+ 910,
918
+ 911,
919
+ 912,
920
+ 913,
921
+ 914,
922
+ 915,
923
+ 916,
924
+ 917,
925
+ 918,
926
+ 919,
927
+ 920,
928
+ 921,
929
+ 922,
930
+ 923,
931
+ 924,
932
+ 925,
933
+ 926,
934
+ 927,
935
+ 928,
936
+ 929,
937
+ 930,
938
+ 931,
939
+ 932,
940
+ 933,
941
+ 934,
942
+ 935,
943
+ 936,
944
+ 937,
945
+ 938,
946
+ 939,
947
+ 940,
948
+ 941,
949
+ 942,
950
+ 943,
951
+ 944,
952
+ 945,
953
+ 946,
954
+ 947,
955
+ 948,
956
+ 949,
957
+ 950,
958
+ 951,
959
+ 952,
960
+ 953,
961
+ 954,
962
+ 955,
963
+ 956,
964
+ 957,
965
+ 958,
966
+ 959,
967
+ 960,
968
+ 961,
969
+ 962,
970
+ 963,
971
+ 964,
972
+ 965,
973
+ 966,
974
+ 967,
975
+ 968,
976
+ 969,
977
+ 970,
978
+ 971,
979
+ 972,
980
+ 973,
981
+ 974,
982
+ 975,
983
+ 976,
984
+ 977,
985
+ 978,
986
+ 979,
987
+ 980,
988
+ 981,
989
+ 982,
990
+ 983,
991
+ 984,
992
+ 985,
993
+ 986,
994
+ 987,
995
+ 988,
996
+ 989,
997
+ 990,
998
+ 991,
999
+ 992,
1000
+ 993,
1001
+ 994,
1002
+ 995,
1003
+ 996,
1004
+ 997,
1005
+ 998,
1006
+ 999,
1007
+ 1000,
1008
+ 1001,
1009
+ 1002,
1010
+ 1003,
1011
+ 1005,
1012
+ 1006,
1013
+ 1007,
1014
+ 1008,
1015
+ 1009,
1016
+ 1010,
1017
+ 1011,
1018
+ 1012,
1019
+ 1013,
1020
+ 1014,
1021
+ 1015,
1022
+ 1016,
1023
+ 1017,
1024
+ 1018,
1025
+ 1019,
1026
+ 1021,
1027
+ 1022,
1028
+ 1023,
1029
+ 1024,
1030
+ 1025,
1031
+ 1026,
1032
+ 1027,
1033
+ 1028,
1034
+ 1029,
1035
+ 1030,
1036
+ 1031,
1037
+ 1032,
1038
+ 1033,
1039
+ 1034,
1040
+ 1035,
1041
+ 1036,
1042
+ 1037,
1043
+ 1038,
1044
+ 1039,
1045
+ 1040,
1046
+ 1041,
1047
+ 1042,
1048
+ 1043,
1049
+ 1044,
1050
+ 1045,
1051
+ 1046,
1052
+ 1047,
1053
+ 1048,
1054
+ 1049,
1055
+ 1050,
1056
+ 1051,
1057
+ 1052,
1058
+ 1053,
1059
+ 1054,
1060
+ 1055,
1061
+ 1057,
1062
+ 1058,
1063
+ 1059,
1064
+ 1060,
1065
+ 1061,
1066
+ 1062,
1067
+ 1063,
1068
+ 1064,
1069
+ 1065,
1070
+ 1066,
1071
+ 1067,
1072
+ 1068,
1073
+ 1069,
1074
+ 1070,
1075
+ 1071,
1076
+ 1072,
1077
+ 1073,
1078
+ 1074,
1079
+ 1075,
1080
+ 1076,
1081
+ 1077,
1082
+ 1078,
1083
+ 1079,
1084
+ 1080,
1085
+ 1081,
1086
+ 1082,
1087
+ 1083,
1088
+ 1084,
1089
+ 1085,
1090
+ 1086,
1091
+ 1088,
1092
+ 1089,
1093
+ 1090,
1094
+ 1091,
1095
+ 1092,
1096
+ 1093,
1097
+ 1094,
1098
+ 1095,
1099
+ 1096,
1100
+ 1097,
1101
+ 1098,
1102
+ 1099,
1103
+ 1100,
1104
+ 1101,
1105
+ 1102,
1106
+ 1103,
1107
+ 1104,
1108
+ 1105,
1109
+ 1106,
1110
+ 1107,
1111
+ 1108,
1112
+ 1109,
1113
+ 1110,
1114
+ 1111,
1115
+ 1112,
1116
+ 1113,
1117
+ 1114,
1118
+ 1115,
1119
+ 1116,
1120
+ 1117,
1121
+ 1118,
1122
+ 1119,
1123
+ 1120,
1124
+ 1121,
1125
+ 1122,
1126
+ 1123,
1127
+ 1124,
1128
+ 1125,
1129
+ 1126,
1130
+ 1127,
1131
+ 1128,
1132
+ 1129,
1133
+ 1130,
1134
+ 1131,
1135
+ 1132,
1136
+ 1133,
1137
+ 1134,
1138
+ 1135,
1139
+ 1136,
1140
+ 1137,
1141
+ 1138,
1142
+ 1139,
1143
+ 1140,
1144
+ 1142,
1145
+ 1143,
1146
+ 1144,
1147
+ 1145,
1148
+ 1146,
1149
+ 1147,
1150
+ 1148,
1151
+ 1149,
1152
+ 1150,
1153
+ 1151,
1154
+ 1152,
1155
+ 1153,
1156
+ 1154,
1157
+ 1155,
1158
+ 1156,
1159
+ 1157,
1160
+ 1158,
1161
+ 1159,
1162
+ 1160,
1163
+ 1161,
1164
+ 1162,
1165
+ 1163,
1166
+ 1164,
1167
+ 1165,
1168
+ 1166,
1169
+ 1167,
1170
+ 1168,
1171
+ 1169,
1172
+ 1170,
1173
+ 1171,
1174
+ 1172,
1175
+ 1173,
1176
+ 1174,
1177
+ 1175,
1178
+ 1176,
1179
+ 1177,
1180
+ 1178,
1181
+ 1179,
1182
+ 1180,
1183
+ 1181,
1184
+ 1182,
1185
+ 1183,
1186
+ 1184,
1187
+ 1185,
1188
+ 1186,
1189
+ 1187,
1190
+ 1188,
1191
+ 1189,
1192
+ 1190,
1193
+ 1191,
1194
+ 1192,
1195
+ 1193,
1196
+ 1194,
1197
+ 1195,
1198
+ 1196,
1199
+ 1197,
1200
+ 1198,
1201
+ 1199,
1202
+ 1200,
1203
+ 1201,
1204
+ 1202,
1205
+ 1203,
1206
+ 1204,
1207
+ 1205,
1208
+ 1206,
1209
+ 1207,
1210
+ 1208,
1211
+ 1209,
1212
+ 1210,
1213
+ 1211,
1214
+ 1212,
1215
+ 1213,
1216
+ 1214,
1217
+ 1215,
1218
+ 1216,
1219
+ 1217,
1220
+ 1218,
1221
+ 1219,
1222
+ 1220,
1223
+ 1221,
1224
+ 1222,
1225
+ 1223,
1226
+ 1224,
1227
+ 1225,
1228
+ 1226,
1229
+ 1227,
1230
+ 1228,
1231
+ 1229,
1232
+ 1230,
1233
+ 1231,
1234
+ 1232,
1235
+ 1233,
1236
+ 1234,
1237
+ 1235,
1238
+ 1236,
1239
+ 1237,
1240
+ 1238,
1241
+ 1239,
1242
+ 1240,
1243
+ 1241,
1244
+ 1242,
1245
+ 1243,
1246
+ 1244,
1247
+ 1245,
1248
+ 1246,
1249
+ 1247,
1250
+ 1248,
1251
+ 1249,
1252
+ 1250,
1253
+ 1251,
1254
+ 1252,
1255
+ 1253,
1256
+ 1254,
1257
+ 1255,
1258
+ 1256,
1259
+ 1257,
1260
+ 1258,
1261
+ 1259,
1262
+ 1260,
1263
+ 1261,
1264
+ 1262,
1265
+ 1263,
1266
+ 1264,
1267
+ 1265,
1268
+ 1266,
1269
+ 1267,
1270
+ 1268,
1271
+ 1269,
1272
+ 1270,
1273
+ 1271,
1274
+ 1272,
1275
+ 1273,
1276
+ 1274,
1277
+ 1275,
1278
+ 1276,
1279
+ 1277,
1280
+ 1278,
1281
+ 1279,
1282
+ 1280,
1283
+ 1281,
1284
+ 1282,
1285
+ 1283,
1286
+ 1284,
1287
+ 1285,
1288
+ 1286,
1289
+ 1287,
1290
+ 1288,
1291
+ 1289,
1292
+ 1290,
1293
+ 1291,
1294
+ 1292,
1295
+ 1293,
1296
+ 1294,
1297
+ 1295,
1298
+ 1296,
1299
+ 1297,
1300
+ 1298,
1301
+ 1299,
1302
+ 1300,
1303
+ 1301,
1304
+ 1302,
1305
+ 1303,
1306
+ 1305,
1307
+ 1306,
1308
+ 1307,
1309
+ 1308,
1310
+ 1309,
1311
+ 1310,
1312
+ 1311,
1313
+ 1312,
1314
+ 1313,
1315
+ 1314,
1316
+ 1315,
1317
+ 1317,
1318
+ 1318,
1319
+ 1319,
1320
+ 1320,
1321
+ 1321,
1322
+ 1322,
1323
+ 1323,
1324
+ 1324,
1325
+ 1325,
1326
+ 1326,
1327
+ 1327,
1328
+ 1328,
1329
+ 1329,
1330
+ 1330,
1331
+ 1331,
1332
+ 1332,
1333
+ 1333,
1334
+ 1334,
1335
+ 1335,
1336
+ 1336,
1337
+ 1337,
1338
+ 1338,
1339
+ 1339,
1340
+ 1340,
1341
+ 1341,
1342
+ 1342,
1343
+ 1343,
1344
+ 1344,
1345
+ 1345,
1346
+ 1346,
1347
+ 1347,
1348
+ 1348,
1349
+ 1349,
1350
+ 1350,
1351
+ 1351,
1352
+ 1352,
1353
+ 1353,
1354
+ 1354,
1355
+ 1355,
1356
+ 1356,
1357
+ 1357,
1358
+ 1358,
1359
+ 1359,
1360
+ 1360,
1361
+ 1361,
1362
+ 1362,
1363
+ 1363,
1364
+ 1364,
1365
+ 1365,
1366
+ 1366,
1367
+ 1367,
1368
+ 1368,
1369
+ 1369,
1370
+ 1370,
1371
+ 1371,
1372
+ 1372,
1373
+ 1373,
1374
+ 1374,
1375
+ 1375,
1376
+ 1376,
1377
+ 1377,
1378
+ 1378,
1379
+ 1379,
1380
+ 1380,
1381
+ 1382,
1382
+ 1383,
1383
+ 1384,
1384
+ 1385,
1385
+ 1386,
1386
+ 1387,
1387
+ 1388,
1388
+ 1389,
1389
+ 1390,
1390
+ 1391,
1391
+ 1392,
1392
+ 1393,
1393
+ 1394,
1394
+ 1395,
1395
+ 1396,
1396
+ 1397,
1397
+ 1398,
1398
+ 1399,
1399
+ 1400,
1400
+ 1401,
1401
+ 1402,
1402
+ 1403,
1403
+ 1404,
1404
+ 1405,
1405
+ 1406,
1406
+ 1407,
1407
+ 1408,
1408
+ 1409,
1409
+ 1410,
1410
+ 1411,
1411
+ 1412,
1412
+ 1413,
1413
+ 1414,
1414
+ 1415,
1415
+ 1416,
1416
+ 1417,
1417
+ 1418,
1418
+ 1419,
1419
+ 1420,
1420
+ 1421,
1421
+ 1422,
1422
+ 1423,
1423
+ 1424,
1424
+ 1425,
1425
+ 1426,
1426
+ 1427,
1427
+ 1428,
1428
+ 1429,
1429
+ 1430,
1430
+ 1431,
1431
+ 1432,
1432
+ 1433,
1433
+ 1434,
1434
+ 1435,
1435
+ 1436,
1436
+ 1437,
1437
+ 1438,
1438
+ 1439,
1439
+ 1440,
1440
+ 1441,
1441
+ 1442,
1442
+ 1443,
1443
+ 1444,
1444
+ 1445,
1445
+ 1446,
1446
+ 1447,
1447
+ 1448,
1448
+ 1449,
1449
+ 1450,
1450
+ 1451,
1451
+ 1452,
1452
+ 1453,
1453
+ 1454,
1454
+ 1455,
1455
+ 1456,
1456
+ 1457,
1457
+ 1458,
1458
+ 1459,
1459
+ 1460,
1460
+ 1461,
1461
+ 1462,
1462
+ 1463,
1463
+ 1464,
1464
+ 1465,
1465
+ 1466,
1466
+ 1467,
1467
+ 1468,
1468
+ 1469,
1469
+ 1470,
1470
+ 1471,
1471
+ 1472,
1472
+ 1473,
1473
+ 1474,
1474
+ 1475,
1475
+ 1476,
1476
+ 1477,
1477
+ 1478,
1478
+ 1479,
1479
+ 1480,
1480
+ 1481,
1481
+ 1482,
1482
+ 1483,
1483
+ 1484,
1484
+ 1485,
1485
+ 1486,
1486
+ 1487,
1487
+ 1488,
1488
+ 1489,
1489
+ 1490,
1490
+ 1491,
1491
+ 1492,
1492
+ 1493,
1493
+ 1494,
1494
+ 1496,
1495
+ 1497,
1496
+ 1498,
1497
+ 1499,
1498
+ 1500,
1499
+ 1501,
1500
+ 1502,
1501
+ 1503,
1502
+ 1504,
1503
+ 1505,
1504
+ 1506,
1505
+ 1507,
1506
+ 1508,
1507
+ 1509,
1508
+ 1510,
1509
+ 1511,
1510
+ 1512,
1511
+ 1513,
1512
+ 1514,
1513
+ 1515,
1514
+ 1516,
1515
+ 1517,
1516
+ 1518,
1517
+ 1519,
1518
+ 1520,
1519
+ 1521,
1520
+ 1522,
1521
+ 1523,
1522
+ 1524,
1523
+ 1525,
1524
+ 1526,
1525
+ 1527,
1526
+ 1528,
1527
+ 1529,
1528
+ 1530,
1529
+ 1531,
1530
+ 1532,
1531
+ 1533,
1532
+ 1534,
1533
+ 1535,
1534
+ 1536,
1535
+ 1537,
1536
+ 1538,
1537
+ 1539,
1538
+ 1540,
1539
+ 1541,
1540
+ 1542,
1541
+ 1543,
1542
+ 1544,
1543
+ 1546,
1544
+ 1547,
1545
+ 1548,
1546
+ 1549,
1547
+ 1550,
1548
+ 1551,
1549
+ 1552,
1550
+ 1553,
1551
+ 1554,
1552
+ 1555,
1553
+ 1556,
1554
+ 1557,
1555
+ 1558,
1556
+ 1559,
1557
+ 1560,
1558
+ 1561,
1559
+ 1562,
1560
+ 1563,
1561
+ 1564,
1562
+ 1565,
1563
+ 1566,
1564
+ 1567,
1565
+ 1568,
1566
+ 1569,
1567
+ 1570,
1568
+ 1571,
1569
+ 1572,
1570
+ 1573,
1571
+ 1574,
1572
+ 1575,
1573
+ 1576,
1574
+ 1577,
1575
+ 1578,
1576
+ 1579,
1577
+ 1580,
1578
+ 1581,
1579
+ 1582,
1580
+ 1583,
1581
+ 1584,
1582
+ 1585,
1583
+ 1586,
1584
+ 1587,
1585
+ 1588,
1586
+ 1589,
1587
+ 1590,
1588
+ 1591,
1589
+ 1592,
1590
+ 1593,
1591
+ 1594,
1592
+ 1595,
1593
+ 1596,
1594
+ 1597,
1595
+ 1598,
1596
+ 1599,
1597
+ 1600,
1598
+ 1601,
1599
+ 1602,
1600
+ 1603,
1601
+ 1604,
1602
+ 1605,
1603
+ 1606,
1604
+ 1607,
1605
+ 1608,
1606
+ 1609,
1607
+ 1610,
1608
+ 1611,
1609
+ 1612,
1610
+ 1613,
1611
+ 1614,
1612
+ 1615,
1613
+ 1616,
1614
+ 1617,
1615
+ 1618,
1616
+ 1619,
1617
+ 1620,
1618
+ 1621,
1619
+ 1622,
1620
+ 1623,
1621
+ 1624,
1622
+ 1625,
1623
+ 1626,
1624
+ 1627,
1625
+ 1628,
1626
+ 1629,
1627
+ 1630,
1628
+ 1631,
1629
+ 1633,
1630
+ 1634,
1631
+ 1635,
1632
+ 1636,
1633
+ 1637,
1634
+ 1638,
1635
+ 1639,
1636
+ 1640,
1637
+ 1641,
1638
+ 1642,
1639
+ 1643,
1640
+ 1644,
1641
+ 1645,
1642
+ 1646,
1643
+ 1647,
1644
+ 1648,
1645
+ 1649,
1646
+ 1650,
1647
+ 1651,
1648
+ 1652,
1649
+ 1653,
1650
+ 1654,
1651
+ 1655,
1652
+ 1656,
1653
+ 1657,
1654
+ 1658,
1655
+ 1659,
1656
+ 1660,
1657
+ 1661,
1658
+ 1662,
1659
+ 1663,
1660
+ 1664,
1661
+ 1665,
1662
+ 1666,
1663
+ 1667,
1664
+ 1668,
1665
+ 1669,
1666
+ 1671,
1667
+ 1672,
1668
+ 1673,
1669
+ 1674,
1670
+ 1675,
1671
+ 1676,
1672
+ 1677,
1673
+ 1678,
1674
+ 1679,
1675
+ 1680,
1676
+ 1681,
1677
+ 1682,
1678
+ 1683,
1679
+ 1684,
1680
+ 1685,
1681
+ 1686,
1682
+ 1687,
1683
+ 1688,
1684
+ 1689,
1685
+ 1690,
1686
+ 1691,
1687
+ 1692,
1688
+ 1693,
1689
+ 1694,
1690
+ 1695,
1691
+ 1696,
1692
+ 1698,
1693
+ 1699,
1694
+ 1700,
1695
+ 1701,
1696
+ 1702,
1697
+ 1703,
1698
+ 1704,
1699
+ 1705,
1700
+ 1706,
1701
+ 1707,
1702
+ 1708,
1703
+ 1709,
1704
+ 1710,
1705
+ 1711,
1706
+ 1712,
1707
+ 1713,
1708
+ 1714,
1709
+ 1715,
1710
+ 1716,
1711
+ 1717,
1712
+ 1718,
1713
+ 1719,
1714
+ 1720,
1715
+ 1721,
1716
+ 1722,
1717
+ 1723,
1718
+ 1724,
1719
+ 1725,
1720
+ 1726,
1721
+ 1727,
1722
+ 1728,
1723
+ 1729,
1724
+ 1730,
1725
+ 1731,
1726
+ 1732,
1727
+ 1733,
1728
+ 1734,
1729
+ 1735,
1730
+ 1736,
1731
+ 1737,
1732
+ 1739,
1733
+ 1740,
1734
+ 1741,
1735
+ 1742,
1736
+ 1743,
1737
+ 1744,
1738
+ 1745,
1739
+ 1746,
1740
+ 1747,
1741
+ 1748,
1742
+ 1749,
1743
+ 1750,
1744
+ 1751,
1745
+ 1752,
1746
+ 1753,
1747
+ 1754,
1748
+ 1755,
1749
+ 1756,
1750
+ 1757,
1751
+ 1758,
1752
+ 1759,
1753
+ 1760,
1754
+ 1761,
1755
+ 1762,
1756
+ 1763,
1757
+ 1764,
1758
+ 1765,
1759
+ 1766,
1760
+ 1767,
1761
+ 1768,
1762
+ 1769,
1763
+ 1770,
1764
+ 1771,
1765
+ 1772,
1766
+ 1773,
1767
+ 1774,
1768
+ 1775,
1769
+ 1776,
1770
+ 1777,
1771
+ 1778,
1772
+ 1779,
1773
+ 1780,
1774
+ 1781,
1775
+ 1782,
1776
+ 1783,
1777
+ 1784,
1778
+ 1785,
1779
+ 1786,
1780
+ 1787,
1781
+ 1788,
1782
+ 1789,
1783
+ 1790,
1784
+ 1791,
1785
+ 1792,
1786
+ 1793,
1787
+ 1794,
1788
+ 1796,
1789
+ 1797,
1790
+ 1798,
1791
+ 1799,
1792
+ 1800,
1793
+ 1801,
1794
+ 1802,
1795
+ 1803,
1796
+ 1804,
1797
+ 1805,
1798
+ 1806,
1799
+ 1807,
1800
+ 1808,
1801
+ 1809,
1802
+ 1810,
1803
+ 1811,
1804
+ 1812,
1805
+ 1814,
1806
+ 1815,
1807
+ 1816,
1808
+ 1817,
1809
+ 1818,
1810
+ 1819,
1811
+ 1820,
1812
+ 1821,
1813
+ 1822,
1814
+ 1823,
1815
+ 1824,
1816
+ 1825,
1817
+ 1826,
1818
+ 1827,
1819
+ 1828,
1820
+ 1829,
1821
+ 1830,
1822
+ 1831,
1823
+ 1832,
1824
+ 1833,
1825
+ 1834,
1826
+ 1835,
1827
+ 1836,
1828
+ 1837,
1829
+ 1838,
1830
+ 1839,
1831
+ 1840,
1832
+ 1841,
1833
+ 1842,
1834
+ 1843,
1835
+ 1844,
1836
+ 1845,
1837
+ 1846,
1838
+ 1847,
1839
+ 1848,
1840
+ 1849,
1841
+ 1850,
1842
+ 1851,
1843
+ 1852,
1844
+ 1853,
1845
+ 1854,
1846
+ 1855,
1847
+ 1856,
1848
+ 1857,
1849
+ 1858,
1850
+ 1859,
1851
+ 1860,
1852
+ 1861,
1853
+ 1862,
1854
+ 1863,
1855
+ 1864,
1856
+ 1865,
1857
+ 1866,
1858
+ 1867,
1859
+ 1868,
1860
+ 1869,
1861
+ 1870,
1862
+ 1871,
1863
+ 1873,
1864
+ 1874,
1865
+ 1875,
1866
+ 1876,
1867
+ 1877,
1868
+ 1878,
1869
+ 1879,
1870
+ 1880,
1871
+ 1881,
1872
+ 1882,
1873
+ 1883,
1874
+ 1884,
1875
+ 1885,
1876
+ 1886,
1877
+ 1887,
1878
+ 1888,
1879
+ 1889,
1880
+ 1890,
1881
+ 1891,
1882
+ 1892,
1883
+ 1893,
1884
+ 1894,
1885
+ 1895,
1886
+ 1896,
1887
+ 1897,
1888
+ 1898,
1889
+ 1899,
1890
+ 1900,
1891
+ 1901,
1892
+ 1902,
1893
+ 1903,
1894
+ 1904,
1895
+ 1905,
1896
+ 1906,
1897
+ 1907,
1898
+ 1908,
1899
+ 1909,
1900
+ 1910,
1901
+ 1911,
1902
+ 1912,
1903
+ 1913,
1904
+ 1914,
1905
+ 1915,
1906
+ 1916,
1907
+ 1917,
1908
+ 1918,
1909
+ 1919,
1910
+ 1920,
1911
+ 1921,
1912
+ 1922,
1913
+ 1923,
1914
+ 1924,
1915
+ 1925,
1916
+ 1926,
1917
+ 1927,
1918
+ 1928,
1919
+ 1929,
1920
+ 1930,
1921
+ 1931,
1922
+ 1932,
1923
+ 1933,
1924
+ 1934,
1925
+ 1935,
1926
+ 1936,
1927
+ 1937,
1928
+ 1938,
1929
+ 1939,
1930
+ 1940,
1931
+ 1941,
1932
+ 1942,
1933
+ 1943,
1934
+ 1944,
1935
+ 1945,
1936
+ 1947,
1937
+ 1948,
1938
+ 1949,
1939
+ 1950,
1940
+ 1951,
1941
+ 1952,
1942
+ 1953,
1943
+ 1954,
1944
+ 1955,
1945
+ 1956,
1946
+ 1957,
1947
+ 1958,
1948
+ 1959,
1949
+ 1960,
1950
+ 1961,
1951
+ 1962,
1952
+ 1963,
1953
+ 1964,
1954
+ 1965,
1955
+ 1966,
1956
+ 1967,
1957
+ 1968,
1958
+ 1969,
1959
+ 1970,
1960
+ 1971,
1961
+ 1972,
1962
+ 1974,
1963
+ 1975,
1964
+ 1976,
1965
+ 1977,
1966
+ 1978,
1967
+ 1979,
1968
+ 1980,
1969
+ 1981,
1970
+ 1982,
1971
+ 1983,
1972
+ 1984,
1973
+ 1985,
1974
+ 1986,
1975
+ 1987,
1976
+ 1988,
1977
+ 1989,
1978
+ 1990,
1979
+ 1991,
1980
+ 1992,
1981
+ 1993,
1982
+ 1994,
1983
+ 1995,
1984
+ 1996,
1985
+ 1997,
1986
+ 1998,
1987
+ 1999
1988
+ ],
1989
+ "not_both_correct_indices": [
1990
+ 79,
1991
+ 143,
1992
+ 158,
1993
+ 172,
1994
+ 209,
1995
+ 262,
1996
+ 335,
1997
+ 650,
1998
+ 740,
1999
+ 1004,
2000
+ 1087,
2001
+ 1141,
2002
+ 1304,
2003
+ 1316,
2004
+ 1381,
2005
+ 1495,
2006
+ 1545,
2007
+ 1632,
2008
+ 1670,
2009
+ 1697,
2010
+ 1813,
2011
+ 1872,
2012
+ 1946,
2013
+ 1973
2014
+ ],
2015
+ "clean_baseline": 7.84765625,
2016
+ "corrupted_baseline": -7.74609375
2017
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/emotion_fewshot/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:3ca1a5643405c6092b299fb7d7c242bdf329b872b6e8f629aa00f980708e9071
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/emotion_fewshot/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fa1c9af707620dd9de9163ac2dafa5805274140d297d55803e0aa6beef368723
3
+ size 9165512
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_appropriate/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_appropriate/baselines.json ADDED
@@ -0,0 +1,2015 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 2000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 2000,
6
+ "clean_accuracy": 1.0,
7
+ "corrupted_accuracy": 1.0,
8
+ "both_correct_accuracy": 1.0,
9
+ "n_both_correct": 2000,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 129,
141
+ 130,
142
+ 131,
143
+ 132,
144
+ 133,
145
+ 134,
146
+ 135,
147
+ 136,
148
+ 137,
149
+ 138,
150
+ 139,
151
+ 140,
152
+ 141,
153
+ 142,
154
+ 143,
155
+ 144,
156
+ 145,
157
+ 146,
158
+ 147,
159
+ 148,
160
+ 149,
161
+ 150,
162
+ 151,
163
+ 152,
164
+ 153,
165
+ 154,
166
+ 155,
167
+ 156,
168
+ 157,
169
+ 158,
170
+ 159,
171
+ 160,
172
+ 161,
173
+ 162,
174
+ 163,
175
+ 164,
176
+ 165,
177
+ 166,
178
+ 167,
179
+ 168,
180
+ 169,
181
+ 170,
182
+ 171,
183
+ 172,
184
+ 173,
185
+ 174,
186
+ 175,
187
+ 176,
188
+ 177,
189
+ 178,
190
+ 179,
191
+ 180,
192
+ 181,
193
+ 182,
194
+ 183,
195
+ 184,
196
+ 185,
197
+ 186,
198
+ 187,
199
+ 188,
200
+ 189,
201
+ 190,
202
+ 191,
203
+ 192,
204
+ 193,
205
+ 194,
206
+ 195,
207
+ 196,
208
+ 197,
209
+ 198,
210
+ 199,
211
+ 200,
212
+ 201,
213
+ 202,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 209,
221
+ 210,
222
+ 211,
223
+ 212,
224
+ 213,
225
+ 214,
226
+ 215,
227
+ 216,
228
+ 217,
229
+ 218,
230
+ 219,
231
+ 220,
232
+ 221,
233
+ 222,
234
+ 223,
235
+ 224,
236
+ 225,
237
+ 226,
238
+ 227,
239
+ 228,
240
+ 229,
241
+ 230,
242
+ 231,
243
+ 232,
244
+ 233,
245
+ 234,
246
+ 235,
247
+ 236,
248
+ 237,
249
+ 238,
250
+ 239,
251
+ 240,
252
+ 241,
253
+ 242,
254
+ 243,
255
+ 244,
256
+ 245,
257
+ 246,
258
+ 247,
259
+ 248,
260
+ 249,
261
+ 250,
262
+ 251,
263
+ 252,
264
+ 253,
265
+ 254,
266
+ 255,
267
+ 256,
268
+ 257,
269
+ 258,
270
+ 259,
271
+ 260,
272
+ 261,
273
+ 262,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 274,
286
+ 275,
287
+ 276,
288
+ 277,
289
+ 278,
290
+ 279,
291
+ 280,
292
+ 281,
293
+ 282,
294
+ 283,
295
+ 284,
296
+ 285,
297
+ 286,
298
+ 287,
299
+ 288,
300
+ 289,
301
+ 290,
302
+ 291,
303
+ 292,
304
+ 293,
305
+ 294,
306
+ 295,
307
+ 296,
308
+ 297,
309
+ 298,
310
+ 299,
311
+ 300,
312
+ 301,
313
+ 302,
314
+ 303,
315
+ 304,
316
+ 305,
317
+ 306,
318
+ 307,
319
+ 308,
320
+ 309,
321
+ 310,
322
+ 311,
323
+ 312,
324
+ 313,
325
+ 314,
326
+ 315,
327
+ 316,
328
+ 317,
329
+ 318,
330
+ 319,
331
+ 320,
332
+ 321,
333
+ 322,
334
+ 323,
335
+ 324,
336
+ 325,
337
+ 326,
338
+ 327,
339
+ 328,
340
+ 329,
341
+ 330,
342
+ 331,
343
+ 332,
344
+ 333,
345
+ 334,
346
+ 335,
347
+ 336,
348
+ 337,
349
+ 338,
350
+ 339,
351
+ 340,
352
+ 341,
353
+ 342,
354
+ 343,
355
+ 344,
356
+ 345,
357
+ 346,
358
+ 347,
359
+ 348,
360
+ 349,
361
+ 350,
362
+ 351,
363
+ 352,
364
+ 353,
365
+ 354,
366
+ 355,
367
+ 356,
368
+ 357,
369
+ 358,
370
+ 359,
371
+ 360,
372
+ 361,
373
+ 362,
374
+ 363,
375
+ 364,
376
+ 365,
377
+ 366,
378
+ 367,
379
+ 368,
380
+ 369,
381
+ 370,
382
+ 371,
383
+ 372,
384
+ 373,
385
+ 374,
386
+ 375,
387
+ 376,
388
+ 377,
389
+ 378,
390
+ 379,
391
+ 380,
392
+ 381,
393
+ 382,
394
+ 383,
395
+ 384,
396
+ 385,
397
+ 386,
398
+ 387,
399
+ 388,
400
+ 389,
401
+ 390,
402
+ 391,
403
+ 392,
404
+ 393,
405
+ 394,
406
+ 395,
407
+ 396,
408
+ 397,
409
+ 398,
410
+ 399,
411
+ 400,
412
+ 401,
413
+ 402,
414
+ 403,
415
+ 404,
416
+ 405,
417
+ 406,
418
+ 407,
419
+ 408,
420
+ 409,
421
+ 410,
422
+ 411,
423
+ 412,
424
+ 413,
425
+ 414,
426
+ 415,
427
+ 416,
428
+ 417,
429
+ 418,
430
+ 419,
431
+ 420,
432
+ 421,
433
+ 422,
434
+ 423,
435
+ 424,
436
+ 425,
437
+ 426,
438
+ 427,
439
+ 428,
440
+ 429,
441
+ 430,
442
+ 431,
443
+ 432,
444
+ 433,
445
+ 434,
446
+ 435,
447
+ 436,
448
+ 437,
449
+ 438,
450
+ 439,
451
+ 440,
452
+ 441,
453
+ 442,
454
+ 443,
455
+ 444,
456
+ 445,
457
+ 446,
458
+ 447,
459
+ 448,
460
+ 449,
461
+ 450,
462
+ 451,
463
+ 452,
464
+ 453,
465
+ 454,
466
+ 455,
467
+ 456,
468
+ 457,
469
+ 458,
470
+ 459,
471
+ 460,
472
+ 461,
473
+ 462,
474
+ 463,
475
+ 464,
476
+ 465,
477
+ 466,
478
+ 467,
479
+ 468,
480
+ 469,
481
+ 470,
482
+ 471,
483
+ 472,
484
+ 473,
485
+ 474,
486
+ 475,
487
+ 476,
488
+ 477,
489
+ 478,
490
+ 479,
491
+ 480,
492
+ 481,
493
+ 482,
494
+ 483,
495
+ 484,
496
+ 485,
497
+ 486,
498
+ 487,
499
+ 488,
500
+ 489,
501
+ 490,
502
+ 491,
503
+ 492,
504
+ 493,
505
+ 494,
506
+ 495,
507
+ 496,
508
+ 497,
509
+ 498,
510
+ 499,
511
+ 500,
512
+ 501,
513
+ 502,
514
+ 503,
515
+ 504,
516
+ 505,
517
+ 506,
518
+ 507,
519
+ 508,
520
+ 509,
521
+ 510,
522
+ 511,
523
+ 512,
524
+ 513,
525
+ 514,
526
+ 515,
527
+ 516,
528
+ 517,
529
+ 518,
530
+ 519,
531
+ 520,
532
+ 521,
533
+ 522,
534
+ 523,
535
+ 524,
536
+ 525,
537
+ 526,
538
+ 527,
539
+ 528,
540
+ 529,
541
+ 530,
542
+ 531,
543
+ 532,
544
+ 533,
545
+ 534,
546
+ 535,
547
+ 536,
548
+ 537,
549
+ 538,
550
+ 539,
551
+ 540,
552
+ 541,
553
+ 542,
554
+ 543,
555
+ 544,
556
+ 545,
557
+ 546,
558
+ 547,
559
+ 548,
560
+ 549,
561
+ 550,
562
+ 551,
563
+ 552,
564
+ 553,
565
+ 554,
566
+ 555,
567
+ 556,
568
+ 557,
569
+ 558,
570
+ 559,
571
+ 560,
572
+ 561,
573
+ 562,
574
+ 563,
575
+ 564,
576
+ 565,
577
+ 566,
578
+ 567,
579
+ 568,
580
+ 569,
581
+ 570,
582
+ 571,
583
+ 572,
584
+ 573,
585
+ 574,
586
+ 575,
587
+ 576,
588
+ 577,
589
+ 578,
590
+ 579,
591
+ 580,
592
+ 581,
593
+ 582,
594
+ 583,
595
+ 584,
596
+ 585,
597
+ 586,
598
+ 587,
599
+ 588,
600
+ 589,
601
+ 590,
602
+ 591,
603
+ 592,
604
+ 593,
605
+ 594,
606
+ 595,
607
+ 596,
608
+ 597,
609
+ 598,
610
+ 599,
611
+ 600,
612
+ 601,
613
+ 602,
614
+ 603,
615
+ 604,
616
+ 605,
617
+ 606,
618
+ 607,
619
+ 608,
620
+ 609,
621
+ 610,
622
+ 611,
623
+ 612,
624
+ 613,
625
+ 614,
626
+ 615,
627
+ 616,
628
+ 617,
629
+ 618,
630
+ 619,
631
+ 620,
632
+ 621,
633
+ 622,
634
+ 623,
635
+ 624,
636
+ 625,
637
+ 626,
638
+ 627,
639
+ 628,
640
+ 629,
641
+ 630,
642
+ 631,
643
+ 632,
644
+ 633,
645
+ 634,
646
+ 635,
647
+ 636,
648
+ 637,
649
+ 638,
650
+ 639,
651
+ 640,
652
+ 641,
653
+ 642,
654
+ 643,
655
+ 644,
656
+ 645,
657
+ 646,
658
+ 647,
659
+ 648,
660
+ 649,
661
+ 650,
662
+ 651,
663
+ 652,
664
+ 653,
665
+ 654,
666
+ 655,
667
+ 656,
668
+ 657,
669
+ 658,
670
+ 659,
671
+ 660,
672
+ 661,
673
+ 662,
674
+ 663,
675
+ 664,
676
+ 665,
677
+ 666,
678
+ 667,
679
+ 668,
680
+ 669,
681
+ 670,
682
+ 671,
683
+ 672,
684
+ 673,
685
+ 674,
686
+ 675,
687
+ 676,
688
+ 677,
689
+ 678,
690
+ 679,
691
+ 680,
692
+ 681,
693
+ 682,
694
+ 683,
695
+ 684,
696
+ 685,
697
+ 686,
698
+ 687,
699
+ 688,
700
+ 689,
701
+ 690,
702
+ 691,
703
+ 692,
704
+ 693,
705
+ 694,
706
+ 695,
707
+ 696,
708
+ 697,
709
+ 698,
710
+ 699,
711
+ 700,
712
+ 701,
713
+ 702,
714
+ 703,
715
+ 704,
716
+ 705,
717
+ 706,
718
+ 707,
719
+ 708,
720
+ 709,
721
+ 710,
722
+ 711,
723
+ 712,
724
+ 713,
725
+ 714,
726
+ 715,
727
+ 716,
728
+ 717,
729
+ 718,
730
+ 719,
731
+ 720,
732
+ 721,
733
+ 722,
734
+ 723,
735
+ 724,
736
+ 725,
737
+ 726,
738
+ 727,
739
+ 728,
740
+ 729,
741
+ 730,
742
+ 731,
743
+ 732,
744
+ 733,
745
+ 734,
746
+ 735,
747
+ 736,
748
+ 737,
749
+ 738,
750
+ 739,
751
+ 740,
752
+ 741,
753
+ 742,
754
+ 743,
755
+ 744,
756
+ 745,
757
+ 746,
758
+ 747,
759
+ 748,
760
+ 749,
761
+ 750,
762
+ 751,
763
+ 752,
764
+ 753,
765
+ 754,
766
+ 755,
767
+ 756,
768
+ 757,
769
+ 758,
770
+ 759,
771
+ 760,
772
+ 761,
773
+ 762,
774
+ 763,
775
+ 764,
776
+ 765,
777
+ 766,
778
+ 767,
779
+ 768,
780
+ 769,
781
+ 770,
782
+ 771,
783
+ 772,
784
+ 773,
785
+ 774,
786
+ 775,
787
+ 776,
788
+ 777,
789
+ 778,
790
+ 779,
791
+ 780,
792
+ 781,
793
+ 782,
794
+ 783,
795
+ 784,
796
+ 785,
797
+ 786,
798
+ 787,
799
+ 788,
800
+ 789,
801
+ 790,
802
+ 791,
803
+ 792,
804
+ 793,
805
+ 794,
806
+ 795,
807
+ 796,
808
+ 797,
809
+ 798,
810
+ 799,
811
+ 800,
812
+ 801,
813
+ 802,
814
+ 803,
815
+ 804,
816
+ 805,
817
+ 806,
818
+ 807,
819
+ 808,
820
+ 809,
821
+ 810,
822
+ 811,
823
+ 812,
824
+ 813,
825
+ 814,
826
+ 815,
827
+ 816,
828
+ 817,
829
+ 818,
830
+ 819,
831
+ 820,
832
+ 821,
833
+ 822,
834
+ 823,
835
+ 824,
836
+ 825,
837
+ 826,
838
+ 827,
839
+ 828,
840
+ 829,
841
+ 830,
842
+ 831,
843
+ 832,
844
+ 833,
845
+ 834,
846
+ 835,
847
+ 836,
848
+ 837,
849
+ 838,
850
+ 839,
851
+ 840,
852
+ 841,
853
+ 842,
854
+ 843,
855
+ 844,
856
+ 845,
857
+ 846,
858
+ 847,
859
+ 848,
860
+ 849,
861
+ 850,
862
+ 851,
863
+ 852,
864
+ 853,
865
+ 854,
866
+ 855,
867
+ 856,
868
+ 857,
869
+ 858,
870
+ 859,
871
+ 860,
872
+ 861,
873
+ 862,
874
+ 863,
875
+ 864,
876
+ 865,
877
+ 866,
878
+ 867,
879
+ 868,
880
+ 869,
881
+ 870,
882
+ 871,
883
+ 872,
884
+ 873,
885
+ 874,
886
+ 875,
887
+ 876,
888
+ 877,
889
+ 878,
890
+ 879,
891
+ 880,
892
+ 881,
893
+ 882,
894
+ 883,
895
+ 884,
896
+ 885,
897
+ 886,
898
+ 887,
899
+ 888,
900
+ 889,
901
+ 890,
902
+ 891,
903
+ 892,
904
+ 893,
905
+ 894,
906
+ 895,
907
+ 896,
908
+ 897,
909
+ 898,
910
+ 899,
911
+ 900,
912
+ 901,
913
+ 902,
914
+ 903,
915
+ 904,
916
+ 905,
917
+ 906,
918
+ 907,
919
+ 908,
920
+ 909,
921
+ 910,
922
+ 911,
923
+ 912,
924
+ 913,
925
+ 914,
926
+ 915,
927
+ 916,
928
+ 917,
929
+ 918,
930
+ 919,
931
+ 920,
932
+ 921,
933
+ 922,
934
+ 923,
935
+ 924,
936
+ 925,
937
+ 926,
938
+ 927,
939
+ 928,
940
+ 929,
941
+ 930,
942
+ 931,
943
+ 932,
944
+ 933,
945
+ 934,
946
+ 935,
947
+ 936,
948
+ 937,
949
+ 938,
950
+ 939,
951
+ 940,
952
+ 941,
953
+ 942,
954
+ 943,
955
+ 944,
956
+ 945,
957
+ 946,
958
+ 947,
959
+ 948,
960
+ 949,
961
+ 950,
962
+ 951,
963
+ 952,
964
+ 953,
965
+ 954,
966
+ 955,
967
+ 956,
968
+ 957,
969
+ 958,
970
+ 959,
971
+ 960,
972
+ 961,
973
+ 962,
974
+ 963,
975
+ 964,
976
+ 965,
977
+ 966,
978
+ 967,
979
+ 968,
980
+ 969,
981
+ 970,
982
+ 971,
983
+ 972,
984
+ 973,
985
+ 974,
986
+ 975,
987
+ 976,
988
+ 977,
989
+ 978,
990
+ 979,
991
+ 980,
992
+ 981,
993
+ 982,
994
+ 983,
995
+ 984,
996
+ 985,
997
+ 986,
998
+ 987,
999
+ 988,
1000
+ 989,
1001
+ 990,
1002
+ 991,
1003
+ 992,
1004
+ 993,
1005
+ 994,
1006
+ 995,
1007
+ 996,
1008
+ 997,
1009
+ 998,
1010
+ 999,
1011
+ 1000,
1012
+ 1001,
1013
+ 1002,
1014
+ 1003,
1015
+ 1004,
1016
+ 1005,
1017
+ 1006,
1018
+ 1007,
1019
+ 1008,
1020
+ 1009,
1021
+ 1010,
1022
+ 1011,
1023
+ 1012,
1024
+ 1013,
1025
+ 1014,
1026
+ 1015,
1027
+ 1016,
1028
+ 1017,
1029
+ 1018,
1030
+ 1019,
1031
+ 1020,
1032
+ 1021,
1033
+ 1022,
1034
+ 1023,
1035
+ 1024,
1036
+ 1025,
1037
+ 1026,
1038
+ 1027,
1039
+ 1028,
1040
+ 1029,
1041
+ 1030,
1042
+ 1031,
1043
+ 1032,
1044
+ 1033,
1045
+ 1034,
1046
+ 1035,
1047
+ 1036,
1048
+ 1037,
1049
+ 1038,
1050
+ 1039,
1051
+ 1040,
1052
+ 1041,
1053
+ 1042,
1054
+ 1043,
1055
+ 1044,
1056
+ 1045,
1057
+ 1046,
1058
+ 1047,
1059
+ 1048,
1060
+ 1049,
1061
+ 1050,
1062
+ 1051,
1063
+ 1052,
1064
+ 1053,
1065
+ 1054,
1066
+ 1055,
1067
+ 1056,
1068
+ 1057,
1069
+ 1058,
1070
+ 1059,
1071
+ 1060,
1072
+ 1061,
1073
+ 1062,
1074
+ 1063,
1075
+ 1064,
1076
+ 1065,
1077
+ 1066,
1078
+ 1067,
1079
+ 1068,
1080
+ 1069,
1081
+ 1070,
1082
+ 1071,
1083
+ 1072,
1084
+ 1073,
1085
+ 1074,
1086
+ 1075,
1087
+ 1076,
1088
+ 1077,
1089
+ 1078,
1090
+ 1079,
1091
+ 1080,
1092
+ 1081,
1093
+ 1082,
1094
+ 1083,
1095
+ 1084,
1096
+ 1085,
1097
+ 1086,
1098
+ 1087,
1099
+ 1088,
1100
+ 1089,
1101
+ 1090,
1102
+ 1091,
1103
+ 1092,
1104
+ 1093,
1105
+ 1094,
1106
+ 1095,
1107
+ 1096,
1108
+ 1097,
1109
+ 1098,
1110
+ 1099,
1111
+ 1100,
1112
+ 1101,
1113
+ 1102,
1114
+ 1103,
1115
+ 1104,
1116
+ 1105,
1117
+ 1106,
1118
+ 1107,
1119
+ 1108,
1120
+ 1109,
1121
+ 1110,
1122
+ 1111,
1123
+ 1112,
1124
+ 1113,
1125
+ 1114,
1126
+ 1115,
1127
+ 1116,
1128
+ 1117,
1129
+ 1118,
1130
+ 1119,
1131
+ 1120,
1132
+ 1121,
1133
+ 1122,
1134
+ 1123,
1135
+ 1124,
1136
+ 1125,
1137
+ 1126,
1138
+ 1127,
1139
+ 1128,
1140
+ 1129,
1141
+ 1130,
1142
+ 1131,
1143
+ 1132,
1144
+ 1133,
1145
+ 1134,
1146
+ 1135,
1147
+ 1136,
1148
+ 1137,
1149
+ 1138,
1150
+ 1139,
1151
+ 1140,
1152
+ 1141,
1153
+ 1142,
1154
+ 1143,
1155
+ 1144,
1156
+ 1145,
1157
+ 1146,
1158
+ 1147,
1159
+ 1148,
1160
+ 1149,
1161
+ 1150,
1162
+ 1151,
1163
+ 1152,
1164
+ 1153,
1165
+ 1154,
1166
+ 1155,
1167
+ 1156,
1168
+ 1157,
1169
+ 1158,
1170
+ 1159,
1171
+ 1160,
1172
+ 1161,
1173
+ 1162,
1174
+ 1163,
1175
+ 1164,
1176
+ 1165,
1177
+ 1166,
1178
+ 1167,
1179
+ 1168,
1180
+ 1169,
1181
+ 1170,
1182
+ 1171,
1183
+ 1172,
1184
+ 1173,
1185
+ 1174,
1186
+ 1175,
1187
+ 1176,
1188
+ 1177,
1189
+ 1178,
1190
+ 1179,
1191
+ 1180,
1192
+ 1181,
1193
+ 1182,
1194
+ 1183,
1195
+ 1184,
1196
+ 1185,
1197
+ 1186,
1198
+ 1187,
1199
+ 1188,
1200
+ 1189,
1201
+ 1190,
1202
+ 1191,
1203
+ 1192,
1204
+ 1193,
1205
+ 1194,
1206
+ 1195,
1207
+ 1196,
1208
+ 1197,
1209
+ 1198,
1210
+ 1199,
1211
+ 1200,
1212
+ 1201,
1213
+ 1202,
1214
+ 1203,
1215
+ 1204,
1216
+ 1205,
1217
+ 1206,
1218
+ 1207,
1219
+ 1208,
1220
+ 1209,
1221
+ 1210,
1222
+ 1211,
1223
+ 1212,
1224
+ 1213,
1225
+ 1214,
1226
+ 1215,
1227
+ 1216,
1228
+ 1217,
1229
+ 1218,
1230
+ 1219,
1231
+ 1220,
1232
+ 1221,
1233
+ 1222,
1234
+ 1223,
1235
+ 1224,
1236
+ 1225,
1237
+ 1226,
1238
+ 1227,
1239
+ 1228,
1240
+ 1229,
1241
+ 1230,
1242
+ 1231,
1243
+ 1232,
1244
+ 1233,
1245
+ 1234,
1246
+ 1235,
1247
+ 1236,
1248
+ 1237,
1249
+ 1238,
1250
+ 1239,
1251
+ 1240,
1252
+ 1241,
1253
+ 1242,
1254
+ 1243,
1255
+ 1244,
1256
+ 1245,
1257
+ 1246,
1258
+ 1247,
1259
+ 1248,
1260
+ 1249,
1261
+ 1250,
1262
+ 1251,
1263
+ 1252,
1264
+ 1253,
1265
+ 1254,
1266
+ 1255,
1267
+ 1256,
1268
+ 1257,
1269
+ 1258,
1270
+ 1259,
1271
+ 1260,
1272
+ 1261,
1273
+ 1262,
1274
+ 1263,
1275
+ 1264,
1276
+ 1265,
1277
+ 1266,
1278
+ 1267,
1279
+ 1268,
1280
+ 1269,
1281
+ 1270,
1282
+ 1271,
1283
+ 1272,
1284
+ 1273,
1285
+ 1274,
1286
+ 1275,
1287
+ 1276,
1288
+ 1277,
1289
+ 1278,
1290
+ 1279,
1291
+ 1280,
1292
+ 1281,
1293
+ 1282,
1294
+ 1283,
1295
+ 1284,
1296
+ 1285,
1297
+ 1286,
1298
+ 1287,
1299
+ 1288,
1300
+ 1289,
1301
+ 1290,
1302
+ 1291,
1303
+ 1292,
1304
+ 1293,
1305
+ 1294,
1306
+ 1295,
1307
+ 1296,
1308
+ 1297,
1309
+ 1298,
1310
+ 1299,
1311
+ 1300,
1312
+ 1301,
1313
+ 1302,
1314
+ 1303,
1315
+ 1304,
1316
+ 1305,
1317
+ 1306,
1318
+ 1307,
1319
+ 1308,
1320
+ 1309,
1321
+ 1310,
1322
+ 1311,
1323
+ 1312,
1324
+ 1313,
1325
+ 1314,
1326
+ 1315,
1327
+ 1316,
1328
+ 1317,
1329
+ 1318,
1330
+ 1319,
1331
+ 1320,
1332
+ 1321,
1333
+ 1322,
1334
+ 1323,
1335
+ 1324,
1336
+ 1325,
1337
+ 1326,
1338
+ 1327,
1339
+ 1328,
1340
+ 1329,
1341
+ 1330,
1342
+ 1331,
1343
+ 1332,
1344
+ 1333,
1345
+ 1334,
1346
+ 1335,
1347
+ 1336,
1348
+ 1337,
1349
+ 1338,
1350
+ 1339,
1351
+ 1340,
1352
+ 1341,
1353
+ 1342,
1354
+ 1343,
1355
+ 1344,
1356
+ 1345,
1357
+ 1346,
1358
+ 1347,
1359
+ 1348,
1360
+ 1349,
1361
+ 1350,
1362
+ 1351,
1363
+ 1352,
1364
+ 1353,
1365
+ 1354,
1366
+ 1355,
1367
+ 1356,
1368
+ 1357,
1369
+ 1358,
1370
+ 1359,
1371
+ 1360,
1372
+ 1361,
1373
+ 1362,
1374
+ 1363,
1375
+ 1364,
1376
+ 1365,
1377
+ 1366,
1378
+ 1367,
1379
+ 1368,
1380
+ 1369,
1381
+ 1370,
1382
+ 1371,
1383
+ 1372,
1384
+ 1373,
1385
+ 1374,
1386
+ 1375,
1387
+ 1376,
1388
+ 1377,
1389
+ 1378,
1390
+ 1379,
1391
+ 1380,
1392
+ 1381,
1393
+ 1382,
1394
+ 1383,
1395
+ 1384,
1396
+ 1385,
1397
+ 1386,
1398
+ 1387,
1399
+ 1388,
1400
+ 1389,
1401
+ 1390,
1402
+ 1391,
1403
+ 1392,
1404
+ 1393,
1405
+ 1394,
1406
+ 1395,
1407
+ 1396,
1408
+ 1397,
1409
+ 1398,
1410
+ 1399,
1411
+ 1400,
1412
+ 1401,
1413
+ 1402,
1414
+ 1403,
1415
+ 1404,
1416
+ 1405,
1417
+ 1406,
1418
+ 1407,
1419
+ 1408,
1420
+ 1409,
1421
+ 1410,
1422
+ 1411,
1423
+ 1412,
1424
+ 1413,
1425
+ 1414,
1426
+ 1415,
1427
+ 1416,
1428
+ 1417,
1429
+ 1418,
1430
+ 1419,
1431
+ 1420,
1432
+ 1421,
1433
+ 1422,
1434
+ 1423,
1435
+ 1424,
1436
+ 1425,
1437
+ 1426,
1438
+ 1427,
1439
+ 1428,
1440
+ 1429,
1441
+ 1430,
1442
+ 1431,
1443
+ 1432,
1444
+ 1433,
1445
+ 1434,
1446
+ 1435,
1447
+ 1436,
1448
+ 1437,
1449
+ 1438,
1450
+ 1439,
1451
+ 1440,
1452
+ 1441,
1453
+ 1442,
1454
+ 1443,
1455
+ 1444,
1456
+ 1445,
1457
+ 1446,
1458
+ 1447,
1459
+ 1448,
1460
+ 1449,
1461
+ 1450,
1462
+ 1451,
1463
+ 1452,
1464
+ 1453,
1465
+ 1454,
1466
+ 1455,
1467
+ 1456,
1468
+ 1457,
1469
+ 1458,
1470
+ 1459,
1471
+ 1460,
1472
+ 1461,
1473
+ 1462,
1474
+ 1463,
1475
+ 1464,
1476
+ 1465,
1477
+ 1466,
1478
+ 1467,
1479
+ 1468,
1480
+ 1469,
1481
+ 1470,
1482
+ 1471,
1483
+ 1472,
1484
+ 1473,
1485
+ 1474,
1486
+ 1475,
1487
+ 1476,
1488
+ 1477,
1489
+ 1478,
1490
+ 1479,
1491
+ 1480,
1492
+ 1481,
1493
+ 1482,
1494
+ 1483,
1495
+ 1484,
1496
+ 1485,
1497
+ 1486,
1498
+ 1487,
1499
+ 1488,
1500
+ 1489,
1501
+ 1490,
1502
+ 1491,
1503
+ 1492,
1504
+ 1493,
1505
+ 1494,
1506
+ 1495,
1507
+ 1496,
1508
+ 1497,
1509
+ 1498,
1510
+ 1499,
1511
+ 1500,
1512
+ 1501,
1513
+ 1502,
1514
+ 1503,
1515
+ 1504,
1516
+ 1505,
1517
+ 1506,
1518
+ 1507,
1519
+ 1508,
1520
+ 1509,
1521
+ 1510,
1522
+ 1511,
1523
+ 1512,
1524
+ 1513,
1525
+ 1514,
1526
+ 1515,
1527
+ 1516,
1528
+ 1517,
1529
+ 1518,
1530
+ 1519,
1531
+ 1520,
1532
+ 1521,
1533
+ 1522,
1534
+ 1523,
1535
+ 1524,
1536
+ 1525,
1537
+ 1526,
1538
+ 1527,
1539
+ 1528,
1540
+ 1529,
1541
+ 1530,
1542
+ 1531,
1543
+ 1532,
1544
+ 1533,
1545
+ 1534,
1546
+ 1535,
1547
+ 1536,
1548
+ 1537,
1549
+ 1538,
1550
+ 1539,
1551
+ 1540,
1552
+ 1541,
1553
+ 1542,
1554
+ 1543,
1555
+ 1544,
1556
+ 1545,
1557
+ 1546,
1558
+ 1547,
1559
+ 1548,
1560
+ 1549,
1561
+ 1550,
1562
+ 1551,
1563
+ 1552,
1564
+ 1553,
1565
+ 1554,
1566
+ 1555,
1567
+ 1556,
1568
+ 1557,
1569
+ 1558,
1570
+ 1559,
1571
+ 1560,
1572
+ 1561,
1573
+ 1562,
1574
+ 1563,
1575
+ 1564,
1576
+ 1565,
1577
+ 1566,
1578
+ 1567,
1579
+ 1568,
1580
+ 1569,
1581
+ 1570,
1582
+ 1571,
1583
+ 1572,
1584
+ 1573,
1585
+ 1574,
1586
+ 1575,
1587
+ 1576,
1588
+ 1577,
1589
+ 1578,
1590
+ 1579,
1591
+ 1580,
1592
+ 1581,
1593
+ 1582,
1594
+ 1583,
1595
+ 1584,
1596
+ 1585,
1597
+ 1586,
1598
+ 1587,
1599
+ 1588,
1600
+ 1589,
1601
+ 1590,
1602
+ 1591,
1603
+ 1592,
1604
+ 1593,
1605
+ 1594,
1606
+ 1595,
1607
+ 1596,
1608
+ 1597,
1609
+ 1598,
1610
+ 1599,
1611
+ 1600,
1612
+ 1601,
1613
+ 1602,
1614
+ 1603,
1615
+ 1604,
1616
+ 1605,
1617
+ 1606,
1618
+ 1607,
1619
+ 1608,
1620
+ 1609,
1621
+ 1610,
1622
+ 1611,
1623
+ 1612,
1624
+ 1613,
1625
+ 1614,
1626
+ 1615,
1627
+ 1616,
1628
+ 1617,
1629
+ 1618,
1630
+ 1619,
1631
+ 1620,
1632
+ 1621,
1633
+ 1622,
1634
+ 1623,
1635
+ 1624,
1636
+ 1625,
1637
+ 1626,
1638
+ 1627,
1639
+ 1628,
1640
+ 1629,
1641
+ 1630,
1642
+ 1631,
1643
+ 1632,
1644
+ 1633,
1645
+ 1634,
1646
+ 1635,
1647
+ 1636,
1648
+ 1637,
1649
+ 1638,
1650
+ 1639,
1651
+ 1640,
1652
+ 1641,
1653
+ 1642,
1654
+ 1643,
1655
+ 1644,
1656
+ 1645,
1657
+ 1646,
1658
+ 1647,
1659
+ 1648,
1660
+ 1649,
1661
+ 1650,
1662
+ 1651,
1663
+ 1652,
1664
+ 1653,
1665
+ 1654,
1666
+ 1655,
1667
+ 1656,
1668
+ 1657,
1669
+ 1658,
1670
+ 1659,
1671
+ 1660,
1672
+ 1661,
1673
+ 1662,
1674
+ 1663,
1675
+ 1664,
1676
+ 1665,
1677
+ 1666,
1678
+ 1667,
1679
+ 1668,
1680
+ 1669,
1681
+ 1670,
1682
+ 1671,
1683
+ 1672,
1684
+ 1673,
1685
+ 1674,
1686
+ 1675,
1687
+ 1676,
1688
+ 1677,
1689
+ 1678,
1690
+ 1679,
1691
+ 1680,
1692
+ 1681,
1693
+ 1682,
1694
+ 1683,
1695
+ 1684,
1696
+ 1685,
1697
+ 1686,
1698
+ 1687,
1699
+ 1688,
1700
+ 1689,
1701
+ 1690,
1702
+ 1691,
1703
+ 1692,
1704
+ 1693,
1705
+ 1694,
1706
+ 1695,
1707
+ 1696,
1708
+ 1697,
1709
+ 1698,
1710
+ 1699,
1711
+ 1700,
1712
+ 1701,
1713
+ 1702,
1714
+ 1703,
1715
+ 1704,
1716
+ 1705,
1717
+ 1706,
1718
+ 1707,
1719
+ 1708,
1720
+ 1709,
1721
+ 1710,
1722
+ 1711,
1723
+ 1712,
1724
+ 1713,
1725
+ 1714,
1726
+ 1715,
1727
+ 1716,
1728
+ 1717,
1729
+ 1718,
1730
+ 1719,
1731
+ 1720,
1732
+ 1721,
1733
+ 1722,
1734
+ 1723,
1735
+ 1724,
1736
+ 1725,
1737
+ 1726,
1738
+ 1727,
1739
+ 1728,
1740
+ 1729,
1741
+ 1730,
1742
+ 1731,
1743
+ 1732,
1744
+ 1733,
1745
+ 1734,
1746
+ 1735,
1747
+ 1736,
1748
+ 1737,
1749
+ 1738,
1750
+ 1739,
1751
+ 1740,
1752
+ 1741,
1753
+ 1742,
1754
+ 1743,
1755
+ 1744,
1756
+ 1745,
1757
+ 1746,
1758
+ 1747,
1759
+ 1748,
1760
+ 1749,
1761
+ 1750,
1762
+ 1751,
1763
+ 1752,
1764
+ 1753,
1765
+ 1754,
1766
+ 1755,
1767
+ 1756,
1768
+ 1757,
1769
+ 1758,
1770
+ 1759,
1771
+ 1760,
1772
+ 1761,
1773
+ 1762,
1774
+ 1763,
1775
+ 1764,
1776
+ 1765,
1777
+ 1766,
1778
+ 1767,
1779
+ 1768,
1780
+ 1769,
1781
+ 1770,
1782
+ 1771,
1783
+ 1772,
1784
+ 1773,
1785
+ 1774,
1786
+ 1775,
1787
+ 1776,
1788
+ 1777,
1789
+ 1778,
1790
+ 1779,
1791
+ 1780,
1792
+ 1781,
1793
+ 1782,
1794
+ 1783,
1795
+ 1784,
1796
+ 1785,
1797
+ 1786,
1798
+ 1787,
1799
+ 1788,
1800
+ 1789,
1801
+ 1790,
1802
+ 1791,
1803
+ 1792,
1804
+ 1793,
1805
+ 1794,
1806
+ 1795,
1807
+ 1796,
1808
+ 1797,
1809
+ 1798,
1810
+ 1799,
1811
+ 1800,
1812
+ 1801,
1813
+ 1802,
1814
+ 1803,
1815
+ 1804,
1816
+ 1805,
1817
+ 1806,
1818
+ 1807,
1819
+ 1808,
1820
+ 1809,
1821
+ 1810,
1822
+ 1811,
1823
+ 1812,
1824
+ 1813,
1825
+ 1814,
1826
+ 1815,
1827
+ 1816,
1828
+ 1817,
1829
+ 1818,
1830
+ 1819,
1831
+ 1820,
1832
+ 1821,
1833
+ 1822,
1834
+ 1823,
1835
+ 1824,
1836
+ 1825,
1837
+ 1826,
1838
+ 1827,
1839
+ 1828,
1840
+ 1829,
1841
+ 1830,
1842
+ 1831,
1843
+ 1832,
1844
+ 1833,
1845
+ 1834,
1846
+ 1835,
1847
+ 1836,
1848
+ 1837,
1849
+ 1838,
1850
+ 1839,
1851
+ 1840,
1852
+ 1841,
1853
+ 1842,
1854
+ 1843,
1855
+ 1844,
1856
+ 1845,
1857
+ 1846,
1858
+ 1847,
1859
+ 1848,
1860
+ 1849,
1861
+ 1850,
1862
+ 1851,
1863
+ 1852,
1864
+ 1853,
1865
+ 1854,
1866
+ 1855,
1867
+ 1856,
1868
+ 1857,
1869
+ 1858,
1870
+ 1859,
1871
+ 1860,
1872
+ 1861,
1873
+ 1862,
1874
+ 1863,
1875
+ 1864,
1876
+ 1865,
1877
+ 1866,
1878
+ 1867,
1879
+ 1868,
1880
+ 1869,
1881
+ 1870,
1882
+ 1871,
1883
+ 1872,
1884
+ 1873,
1885
+ 1874,
1886
+ 1875,
1887
+ 1876,
1888
+ 1877,
1889
+ 1878,
1890
+ 1879,
1891
+ 1880,
1892
+ 1881,
1893
+ 1882,
1894
+ 1883,
1895
+ 1884,
1896
+ 1885,
1897
+ 1886,
1898
+ 1887,
1899
+ 1888,
1900
+ 1889,
1901
+ 1890,
1902
+ 1891,
1903
+ 1892,
1904
+ 1893,
1905
+ 1894,
1906
+ 1895,
1907
+ 1896,
1908
+ 1897,
1909
+ 1898,
1910
+ 1899,
1911
+ 1900,
1912
+ 1901,
1913
+ 1902,
1914
+ 1903,
1915
+ 1904,
1916
+ 1905,
1917
+ 1906,
1918
+ 1907,
1919
+ 1908,
1920
+ 1909,
1921
+ 1910,
1922
+ 1911,
1923
+ 1912,
1924
+ 1913,
1925
+ 1914,
1926
+ 1915,
1927
+ 1916,
1928
+ 1917,
1929
+ 1918,
1930
+ 1919,
1931
+ 1920,
1932
+ 1921,
1933
+ 1922,
1934
+ 1923,
1935
+ 1924,
1936
+ 1925,
1937
+ 1926,
1938
+ 1927,
1939
+ 1928,
1940
+ 1929,
1941
+ 1930,
1942
+ 1931,
1943
+ 1932,
1944
+ 1933,
1945
+ 1934,
1946
+ 1935,
1947
+ 1936,
1948
+ 1937,
1949
+ 1938,
1950
+ 1939,
1951
+ 1940,
1952
+ 1941,
1953
+ 1942,
1954
+ 1943,
1955
+ 1944,
1956
+ 1945,
1957
+ 1946,
1958
+ 1947,
1959
+ 1948,
1960
+ 1949,
1961
+ 1950,
1962
+ 1951,
1963
+ 1952,
1964
+ 1953,
1965
+ 1954,
1966
+ 1955,
1967
+ 1956,
1968
+ 1957,
1969
+ 1958,
1970
+ 1959,
1971
+ 1960,
1972
+ 1961,
1973
+ 1962,
1974
+ 1963,
1975
+ 1964,
1976
+ 1965,
1977
+ 1966,
1978
+ 1967,
1979
+ 1968,
1980
+ 1969,
1981
+ 1970,
1982
+ 1971,
1983
+ 1972,
1984
+ 1973,
1985
+ 1974,
1986
+ 1975,
1987
+ 1976,
1988
+ 1977,
1989
+ 1978,
1990
+ 1979,
1991
+ 1980,
1992
+ 1981,
1993
+ 1982,
1994
+ 1983,
1995
+ 1984,
1996
+ 1985,
1997
+ 1986,
1998
+ 1987,
1999
+ 1988,
2000
+ 1989,
2001
+ 1990,
2002
+ 1991,
2003
+ 1992,
2004
+ 1993,
2005
+ 1994,
2006
+ 1995,
2007
+ 1996,
2008
+ 1997,
2009
+ 1998,
2010
+ 1999
2011
+ ],
2012
+ "not_both_correct_indices": [],
2013
+ "clean_baseline": 6.80078125,
2014
+ "corrupted_baseline": -6.8203125
2015
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_appropriate/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:eebabe98b2dd5383d4866c2954876bbcb3e5f1b1038ef55eafeb80791798e5cc
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_appropriate/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:bffe698a848bfe9da01f5ea5645d6035998b797b63874cc6611b942d77777ce5
3
+ size 9165312
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_moral/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_moral/baselines.json ADDED
@@ -0,0 +1,2016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 2000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 2000,
6
+ "clean_accuracy": 1.0,
7
+ "corrupted_accuracy": 0.9995,
8
+ "both_correct_accuracy": 0.9995,
9
+ "n_both_correct": 1999,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 129,
141
+ 130,
142
+ 131,
143
+ 132,
144
+ 133,
145
+ 134,
146
+ 135,
147
+ 136,
148
+ 137,
149
+ 138,
150
+ 139,
151
+ 140,
152
+ 141,
153
+ 142,
154
+ 143,
155
+ 144,
156
+ 145,
157
+ 146,
158
+ 147,
159
+ 148,
160
+ 149,
161
+ 150,
162
+ 151,
163
+ 152,
164
+ 153,
165
+ 154,
166
+ 155,
167
+ 156,
168
+ 157,
169
+ 158,
170
+ 159,
171
+ 160,
172
+ 161,
173
+ 162,
174
+ 163,
175
+ 164,
176
+ 165,
177
+ 166,
178
+ 167,
179
+ 168,
180
+ 169,
181
+ 170,
182
+ 171,
183
+ 172,
184
+ 173,
185
+ 174,
186
+ 175,
187
+ 176,
188
+ 177,
189
+ 178,
190
+ 179,
191
+ 180,
192
+ 181,
193
+ 182,
194
+ 183,
195
+ 184,
196
+ 185,
197
+ 186,
198
+ 187,
199
+ 188,
200
+ 189,
201
+ 190,
202
+ 191,
203
+ 192,
204
+ 193,
205
+ 194,
206
+ 195,
207
+ 196,
208
+ 197,
209
+ 198,
210
+ 199,
211
+ 200,
212
+ 201,
213
+ 202,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 209,
221
+ 210,
222
+ 211,
223
+ 212,
224
+ 213,
225
+ 214,
226
+ 215,
227
+ 216,
228
+ 217,
229
+ 218,
230
+ 219,
231
+ 220,
232
+ 221,
233
+ 222,
234
+ 223,
235
+ 224,
236
+ 225,
237
+ 226,
238
+ 227,
239
+ 228,
240
+ 229,
241
+ 230,
242
+ 231,
243
+ 232,
244
+ 233,
245
+ 234,
246
+ 235,
247
+ 236,
248
+ 237,
249
+ 238,
250
+ 239,
251
+ 240,
252
+ 241,
253
+ 242,
254
+ 243,
255
+ 244,
256
+ 245,
257
+ 246,
258
+ 247,
259
+ 248,
260
+ 249,
261
+ 250,
262
+ 251,
263
+ 252,
264
+ 253,
265
+ 254,
266
+ 255,
267
+ 256,
268
+ 257,
269
+ 258,
270
+ 259,
271
+ 260,
272
+ 261,
273
+ 262,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 274,
286
+ 275,
287
+ 276,
288
+ 277,
289
+ 278,
290
+ 279,
291
+ 280,
292
+ 281,
293
+ 282,
294
+ 283,
295
+ 284,
296
+ 285,
297
+ 286,
298
+ 287,
299
+ 288,
300
+ 289,
301
+ 290,
302
+ 291,
303
+ 292,
304
+ 293,
305
+ 294,
306
+ 295,
307
+ 296,
308
+ 297,
309
+ 298,
310
+ 299,
311
+ 300,
312
+ 301,
313
+ 302,
314
+ 303,
315
+ 304,
316
+ 305,
317
+ 306,
318
+ 307,
319
+ 308,
320
+ 309,
321
+ 310,
322
+ 311,
323
+ 312,
324
+ 313,
325
+ 314,
326
+ 315,
327
+ 316,
328
+ 317,
329
+ 318,
330
+ 319,
331
+ 320,
332
+ 321,
333
+ 322,
334
+ 323,
335
+ 324,
336
+ 325,
337
+ 326,
338
+ 327,
339
+ 328,
340
+ 329,
341
+ 330,
342
+ 331,
343
+ 332,
344
+ 333,
345
+ 334,
346
+ 335,
347
+ 336,
348
+ 337,
349
+ 338,
350
+ 339,
351
+ 340,
352
+ 341,
353
+ 342,
354
+ 343,
355
+ 344,
356
+ 345,
357
+ 346,
358
+ 347,
359
+ 348,
360
+ 349,
361
+ 350,
362
+ 351,
363
+ 352,
364
+ 353,
365
+ 354,
366
+ 355,
367
+ 356,
368
+ 357,
369
+ 358,
370
+ 359,
371
+ 360,
372
+ 361,
373
+ 362,
374
+ 363,
375
+ 364,
376
+ 365,
377
+ 366,
378
+ 367,
379
+ 368,
380
+ 369,
381
+ 370,
382
+ 371,
383
+ 372,
384
+ 373,
385
+ 374,
386
+ 375,
387
+ 376,
388
+ 377,
389
+ 378,
390
+ 379,
391
+ 380,
392
+ 381,
393
+ 382,
394
+ 383,
395
+ 384,
396
+ 385,
397
+ 386,
398
+ 387,
399
+ 388,
400
+ 389,
401
+ 390,
402
+ 391,
403
+ 392,
404
+ 393,
405
+ 394,
406
+ 395,
407
+ 396,
408
+ 397,
409
+ 398,
410
+ 399,
411
+ 400,
412
+ 401,
413
+ 402,
414
+ 403,
415
+ 404,
416
+ 405,
417
+ 406,
418
+ 407,
419
+ 408,
420
+ 409,
421
+ 410,
422
+ 411,
423
+ 412,
424
+ 413,
425
+ 414,
426
+ 415,
427
+ 416,
428
+ 417,
429
+ 418,
430
+ 419,
431
+ 420,
432
+ 421,
433
+ 422,
434
+ 423,
435
+ 424,
436
+ 425,
437
+ 426,
438
+ 427,
439
+ 428,
440
+ 429,
441
+ 430,
442
+ 431,
443
+ 432,
444
+ 433,
445
+ 434,
446
+ 435,
447
+ 436,
448
+ 437,
449
+ 438,
450
+ 439,
451
+ 440,
452
+ 441,
453
+ 442,
454
+ 443,
455
+ 444,
456
+ 445,
457
+ 446,
458
+ 447,
459
+ 448,
460
+ 449,
461
+ 450,
462
+ 451,
463
+ 452,
464
+ 453,
465
+ 454,
466
+ 455,
467
+ 456,
468
+ 457,
469
+ 458,
470
+ 459,
471
+ 460,
472
+ 461,
473
+ 462,
474
+ 463,
475
+ 464,
476
+ 465,
477
+ 466,
478
+ 467,
479
+ 468,
480
+ 469,
481
+ 470,
482
+ 471,
483
+ 472,
484
+ 473,
485
+ 474,
486
+ 475,
487
+ 476,
488
+ 477,
489
+ 478,
490
+ 479,
491
+ 480,
492
+ 481,
493
+ 482,
494
+ 483,
495
+ 484,
496
+ 485,
497
+ 486,
498
+ 487,
499
+ 488,
500
+ 489,
501
+ 490,
502
+ 491,
503
+ 492,
504
+ 493,
505
+ 494,
506
+ 495,
507
+ 496,
508
+ 497,
509
+ 498,
510
+ 499,
511
+ 500,
512
+ 501,
513
+ 502,
514
+ 503,
515
+ 504,
516
+ 505,
517
+ 506,
518
+ 507,
519
+ 508,
520
+ 509,
521
+ 510,
522
+ 511,
523
+ 512,
524
+ 513,
525
+ 514,
526
+ 515,
527
+ 516,
528
+ 517,
529
+ 518,
530
+ 519,
531
+ 520,
532
+ 521,
533
+ 522,
534
+ 523,
535
+ 524,
536
+ 525,
537
+ 526,
538
+ 527,
539
+ 528,
540
+ 529,
541
+ 530,
542
+ 531,
543
+ 532,
544
+ 533,
545
+ 534,
546
+ 535,
547
+ 536,
548
+ 537,
549
+ 538,
550
+ 539,
551
+ 540,
552
+ 541,
553
+ 542,
554
+ 543,
555
+ 544,
556
+ 545,
557
+ 546,
558
+ 547,
559
+ 548,
560
+ 549,
561
+ 550,
562
+ 551,
563
+ 552,
564
+ 553,
565
+ 554,
566
+ 555,
567
+ 556,
568
+ 557,
569
+ 558,
570
+ 559,
571
+ 560,
572
+ 561,
573
+ 562,
574
+ 563,
575
+ 564,
576
+ 565,
577
+ 566,
578
+ 567,
579
+ 568,
580
+ 569,
581
+ 570,
582
+ 571,
583
+ 572,
584
+ 573,
585
+ 574,
586
+ 575,
587
+ 576,
588
+ 577,
589
+ 578,
590
+ 579,
591
+ 580,
592
+ 581,
593
+ 582,
594
+ 583,
595
+ 584,
596
+ 585,
597
+ 586,
598
+ 587,
599
+ 588,
600
+ 589,
601
+ 590,
602
+ 591,
603
+ 592,
604
+ 593,
605
+ 594,
606
+ 595,
607
+ 596,
608
+ 597,
609
+ 598,
610
+ 599,
611
+ 600,
612
+ 601,
613
+ 602,
614
+ 603,
615
+ 604,
616
+ 605,
617
+ 606,
618
+ 607,
619
+ 608,
620
+ 609,
621
+ 610,
622
+ 611,
623
+ 612,
624
+ 613,
625
+ 614,
626
+ 615,
627
+ 616,
628
+ 617,
629
+ 618,
630
+ 619,
631
+ 620,
632
+ 621,
633
+ 622,
634
+ 623,
635
+ 624,
636
+ 625,
637
+ 626,
638
+ 627,
639
+ 628,
640
+ 629,
641
+ 630,
642
+ 631,
643
+ 632,
644
+ 633,
645
+ 634,
646
+ 635,
647
+ 636,
648
+ 637,
649
+ 638,
650
+ 639,
651
+ 640,
652
+ 641,
653
+ 642,
654
+ 643,
655
+ 644,
656
+ 645,
657
+ 646,
658
+ 647,
659
+ 648,
660
+ 649,
661
+ 650,
662
+ 651,
663
+ 652,
664
+ 653,
665
+ 654,
666
+ 655,
667
+ 656,
668
+ 657,
669
+ 658,
670
+ 659,
671
+ 660,
672
+ 661,
673
+ 662,
674
+ 663,
675
+ 664,
676
+ 665,
677
+ 666,
678
+ 667,
679
+ 668,
680
+ 669,
681
+ 670,
682
+ 671,
683
+ 672,
684
+ 673,
685
+ 674,
686
+ 675,
687
+ 676,
688
+ 677,
689
+ 678,
690
+ 679,
691
+ 680,
692
+ 681,
693
+ 682,
694
+ 683,
695
+ 684,
696
+ 685,
697
+ 686,
698
+ 687,
699
+ 688,
700
+ 689,
701
+ 690,
702
+ 691,
703
+ 692,
704
+ 693,
705
+ 694,
706
+ 695,
707
+ 696,
708
+ 697,
709
+ 698,
710
+ 699,
711
+ 700,
712
+ 701,
713
+ 702,
714
+ 703,
715
+ 704,
716
+ 705,
717
+ 706,
718
+ 707,
719
+ 708,
720
+ 709,
721
+ 710,
722
+ 711,
723
+ 712,
724
+ 713,
725
+ 714,
726
+ 715,
727
+ 716,
728
+ 717,
729
+ 718,
730
+ 719,
731
+ 720,
732
+ 721,
733
+ 722,
734
+ 723,
735
+ 724,
736
+ 725,
737
+ 726,
738
+ 727,
739
+ 728,
740
+ 729,
741
+ 730,
742
+ 731,
743
+ 732,
744
+ 733,
745
+ 734,
746
+ 735,
747
+ 736,
748
+ 737,
749
+ 738,
750
+ 739,
751
+ 740,
752
+ 741,
753
+ 742,
754
+ 743,
755
+ 744,
756
+ 745,
757
+ 746,
758
+ 747,
759
+ 748,
760
+ 749,
761
+ 750,
762
+ 751,
763
+ 752,
764
+ 753,
765
+ 754,
766
+ 755,
767
+ 756,
768
+ 757,
769
+ 758,
770
+ 759,
771
+ 760,
772
+ 761,
773
+ 762,
774
+ 763,
775
+ 764,
776
+ 765,
777
+ 766,
778
+ 767,
779
+ 768,
780
+ 769,
781
+ 770,
782
+ 771,
783
+ 772,
784
+ 773,
785
+ 774,
786
+ 775,
787
+ 776,
788
+ 777,
789
+ 778,
790
+ 779,
791
+ 780,
792
+ 781,
793
+ 782,
794
+ 783,
795
+ 784,
796
+ 785,
797
+ 786,
798
+ 787,
799
+ 788,
800
+ 789,
801
+ 790,
802
+ 791,
803
+ 792,
804
+ 793,
805
+ 794,
806
+ 795,
807
+ 796,
808
+ 797,
809
+ 798,
810
+ 799,
811
+ 800,
812
+ 801,
813
+ 802,
814
+ 803,
815
+ 804,
816
+ 805,
817
+ 806,
818
+ 807,
819
+ 808,
820
+ 809,
821
+ 810,
822
+ 811,
823
+ 812,
824
+ 813,
825
+ 814,
826
+ 815,
827
+ 816,
828
+ 817,
829
+ 818,
830
+ 819,
831
+ 820,
832
+ 821,
833
+ 822,
834
+ 823,
835
+ 824,
836
+ 825,
837
+ 826,
838
+ 827,
839
+ 828,
840
+ 829,
841
+ 830,
842
+ 831,
843
+ 832,
844
+ 833,
845
+ 834,
846
+ 835,
847
+ 836,
848
+ 837,
849
+ 838,
850
+ 839,
851
+ 840,
852
+ 841,
853
+ 842,
854
+ 843,
855
+ 844,
856
+ 845,
857
+ 846,
858
+ 847,
859
+ 848,
860
+ 849,
861
+ 850,
862
+ 851,
863
+ 852,
864
+ 853,
865
+ 854,
866
+ 855,
867
+ 856,
868
+ 857,
869
+ 858,
870
+ 859,
871
+ 860,
872
+ 861,
873
+ 862,
874
+ 863,
875
+ 864,
876
+ 865,
877
+ 866,
878
+ 867,
879
+ 868,
880
+ 869,
881
+ 870,
882
+ 871,
883
+ 872,
884
+ 873,
885
+ 874,
886
+ 875,
887
+ 876,
888
+ 877,
889
+ 878,
890
+ 879,
891
+ 880,
892
+ 881,
893
+ 882,
894
+ 883,
895
+ 884,
896
+ 885,
897
+ 886,
898
+ 887,
899
+ 888,
900
+ 889,
901
+ 890,
902
+ 891,
903
+ 892,
904
+ 893,
905
+ 894,
906
+ 895,
907
+ 896,
908
+ 897,
909
+ 898,
910
+ 899,
911
+ 900,
912
+ 901,
913
+ 902,
914
+ 903,
915
+ 904,
916
+ 905,
917
+ 906,
918
+ 907,
919
+ 908,
920
+ 909,
921
+ 910,
922
+ 911,
923
+ 912,
924
+ 913,
925
+ 914,
926
+ 915,
927
+ 916,
928
+ 917,
929
+ 918,
930
+ 919,
931
+ 920,
932
+ 921,
933
+ 922,
934
+ 923,
935
+ 924,
936
+ 925,
937
+ 926,
938
+ 927,
939
+ 928,
940
+ 929,
941
+ 930,
942
+ 931,
943
+ 932,
944
+ 933,
945
+ 934,
946
+ 935,
947
+ 936,
948
+ 937,
949
+ 938,
950
+ 939,
951
+ 940,
952
+ 941,
953
+ 942,
954
+ 943,
955
+ 944,
956
+ 945,
957
+ 946,
958
+ 947,
959
+ 948,
960
+ 949,
961
+ 950,
962
+ 951,
963
+ 952,
964
+ 953,
965
+ 954,
966
+ 955,
967
+ 956,
968
+ 957,
969
+ 958,
970
+ 959,
971
+ 960,
972
+ 961,
973
+ 962,
974
+ 963,
975
+ 964,
976
+ 965,
977
+ 966,
978
+ 967,
979
+ 968,
980
+ 969,
981
+ 970,
982
+ 971,
983
+ 972,
984
+ 973,
985
+ 974,
986
+ 975,
987
+ 976,
988
+ 977,
989
+ 978,
990
+ 979,
991
+ 980,
992
+ 981,
993
+ 982,
994
+ 983,
995
+ 984,
996
+ 985,
997
+ 986,
998
+ 987,
999
+ 988,
1000
+ 989,
1001
+ 990,
1002
+ 991,
1003
+ 992,
1004
+ 993,
1005
+ 994,
1006
+ 995,
1007
+ 996,
1008
+ 997,
1009
+ 998,
1010
+ 999,
1011
+ 1000,
1012
+ 1001,
1013
+ 1002,
1014
+ 1003,
1015
+ 1004,
1016
+ 1005,
1017
+ 1006,
1018
+ 1007,
1019
+ 1008,
1020
+ 1009,
1021
+ 1010,
1022
+ 1011,
1023
+ 1012,
1024
+ 1013,
1025
+ 1014,
1026
+ 1015,
1027
+ 1016,
1028
+ 1017,
1029
+ 1018,
1030
+ 1019,
1031
+ 1020,
1032
+ 1021,
1033
+ 1022,
1034
+ 1023,
1035
+ 1024,
1036
+ 1025,
1037
+ 1026,
1038
+ 1027,
1039
+ 1028,
1040
+ 1029,
1041
+ 1030,
1042
+ 1031,
1043
+ 1032,
1044
+ 1033,
1045
+ 1034,
1046
+ 1035,
1047
+ 1036,
1048
+ 1037,
1049
+ 1038,
1050
+ 1039,
1051
+ 1040,
1052
+ 1041,
1053
+ 1042,
1054
+ 1043,
1055
+ 1044,
1056
+ 1045,
1057
+ 1046,
1058
+ 1047,
1059
+ 1048,
1060
+ 1049,
1061
+ 1050,
1062
+ 1051,
1063
+ 1052,
1064
+ 1053,
1065
+ 1054,
1066
+ 1055,
1067
+ 1056,
1068
+ 1057,
1069
+ 1058,
1070
+ 1059,
1071
+ 1060,
1072
+ 1061,
1073
+ 1062,
1074
+ 1063,
1075
+ 1064,
1076
+ 1065,
1077
+ 1066,
1078
+ 1067,
1079
+ 1068,
1080
+ 1069,
1081
+ 1070,
1082
+ 1071,
1083
+ 1072,
1084
+ 1073,
1085
+ 1074,
1086
+ 1075,
1087
+ 1076,
1088
+ 1077,
1089
+ 1078,
1090
+ 1079,
1091
+ 1080,
1092
+ 1081,
1093
+ 1082,
1094
+ 1083,
1095
+ 1084,
1096
+ 1085,
1097
+ 1086,
1098
+ 1087,
1099
+ 1088,
1100
+ 1089,
1101
+ 1090,
1102
+ 1091,
1103
+ 1092,
1104
+ 1093,
1105
+ 1094,
1106
+ 1095,
1107
+ 1096,
1108
+ 1097,
1109
+ 1098,
1110
+ 1099,
1111
+ 1100,
1112
+ 1101,
1113
+ 1102,
1114
+ 1103,
1115
+ 1104,
1116
+ 1105,
1117
+ 1106,
1118
+ 1107,
1119
+ 1108,
1120
+ 1109,
1121
+ 1110,
1122
+ 1111,
1123
+ 1112,
1124
+ 1113,
1125
+ 1114,
1126
+ 1115,
1127
+ 1116,
1128
+ 1117,
1129
+ 1118,
1130
+ 1119,
1131
+ 1120,
1132
+ 1121,
1133
+ 1122,
1134
+ 1123,
1135
+ 1124,
1136
+ 1125,
1137
+ 1126,
1138
+ 1127,
1139
+ 1128,
1140
+ 1129,
1141
+ 1130,
1142
+ 1131,
1143
+ 1132,
1144
+ 1133,
1145
+ 1134,
1146
+ 1135,
1147
+ 1136,
1148
+ 1137,
1149
+ 1138,
1150
+ 1139,
1151
+ 1140,
1152
+ 1141,
1153
+ 1142,
1154
+ 1143,
1155
+ 1144,
1156
+ 1145,
1157
+ 1146,
1158
+ 1147,
1159
+ 1148,
1160
+ 1149,
1161
+ 1150,
1162
+ 1151,
1163
+ 1152,
1164
+ 1153,
1165
+ 1154,
1166
+ 1155,
1167
+ 1156,
1168
+ 1157,
1169
+ 1158,
1170
+ 1159,
1171
+ 1160,
1172
+ 1161,
1173
+ 1162,
1174
+ 1163,
1175
+ 1164,
1176
+ 1165,
1177
+ 1166,
1178
+ 1167,
1179
+ 1168,
1180
+ 1169,
1181
+ 1170,
1182
+ 1171,
1183
+ 1172,
1184
+ 1173,
1185
+ 1174,
1186
+ 1175,
1187
+ 1176,
1188
+ 1177,
1189
+ 1178,
1190
+ 1179,
1191
+ 1180,
1192
+ 1181,
1193
+ 1182,
1194
+ 1183,
1195
+ 1184,
1196
+ 1185,
1197
+ 1186,
1198
+ 1187,
1199
+ 1188,
1200
+ 1189,
1201
+ 1190,
1202
+ 1191,
1203
+ 1192,
1204
+ 1193,
1205
+ 1194,
1206
+ 1195,
1207
+ 1196,
1208
+ 1197,
1209
+ 1198,
1210
+ 1199,
1211
+ 1200,
1212
+ 1201,
1213
+ 1202,
1214
+ 1203,
1215
+ 1204,
1216
+ 1205,
1217
+ 1206,
1218
+ 1207,
1219
+ 1208,
1220
+ 1209,
1221
+ 1210,
1222
+ 1211,
1223
+ 1212,
1224
+ 1213,
1225
+ 1214,
1226
+ 1215,
1227
+ 1216,
1228
+ 1217,
1229
+ 1218,
1230
+ 1219,
1231
+ 1220,
1232
+ 1221,
1233
+ 1222,
1234
+ 1223,
1235
+ 1224,
1236
+ 1225,
1237
+ 1226,
1238
+ 1227,
1239
+ 1228,
1240
+ 1229,
1241
+ 1230,
1242
+ 1231,
1243
+ 1232,
1244
+ 1233,
1245
+ 1234,
1246
+ 1235,
1247
+ 1236,
1248
+ 1237,
1249
+ 1238,
1250
+ 1239,
1251
+ 1240,
1252
+ 1241,
1253
+ 1242,
1254
+ 1243,
1255
+ 1244,
1256
+ 1245,
1257
+ 1246,
1258
+ 1247,
1259
+ 1248,
1260
+ 1249,
1261
+ 1250,
1262
+ 1251,
1263
+ 1252,
1264
+ 1253,
1265
+ 1254,
1266
+ 1255,
1267
+ 1256,
1268
+ 1257,
1269
+ 1258,
1270
+ 1259,
1271
+ 1260,
1272
+ 1261,
1273
+ 1262,
1274
+ 1263,
1275
+ 1264,
1276
+ 1265,
1277
+ 1266,
1278
+ 1267,
1279
+ 1268,
1280
+ 1269,
1281
+ 1270,
1282
+ 1271,
1283
+ 1272,
1284
+ 1273,
1285
+ 1274,
1286
+ 1275,
1287
+ 1276,
1288
+ 1277,
1289
+ 1278,
1290
+ 1279,
1291
+ 1280,
1292
+ 1281,
1293
+ 1282,
1294
+ 1283,
1295
+ 1284,
1296
+ 1285,
1297
+ 1286,
1298
+ 1287,
1299
+ 1288,
1300
+ 1289,
1301
+ 1290,
1302
+ 1291,
1303
+ 1292,
1304
+ 1293,
1305
+ 1294,
1306
+ 1295,
1307
+ 1296,
1308
+ 1297,
1309
+ 1298,
1310
+ 1299,
1311
+ 1300,
1312
+ 1301,
1313
+ 1302,
1314
+ 1303,
1315
+ 1304,
1316
+ 1305,
1317
+ 1306,
1318
+ 1307,
1319
+ 1308,
1320
+ 1309,
1321
+ 1310,
1322
+ 1311,
1323
+ 1312,
1324
+ 1313,
1325
+ 1314,
1326
+ 1315,
1327
+ 1316,
1328
+ 1317,
1329
+ 1318,
1330
+ 1319,
1331
+ 1320,
1332
+ 1321,
1333
+ 1322,
1334
+ 1323,
1335
+ 1324,
1336
+ 1325,
1337
+ 1326,
1338
+ 1327,
1339
+ 1328,
1340
+ 1329,
1341
+ 1330,
1342
+ 1331,
1343
+ 1332,
1344
+ 1333,
1345
+ 1334,
1346
+ 1335,
1347
+ 1336,
1348
+ 1337,
1349
+ 1338,
1350
+ 1339,
1351
+ 1340,
1352
+ 1341,
1353
+ 1342,
1354
+ 1343,
1355
+ 1344,
1356
+ 1345,
1357
+ 1346,
1358
+ 1347,
1359
+ 1348,
1360
+ 1349,
1361
+ 1350,
1362
+ 1351,
1363
+ 1352,
1364
+ 1353,
1365
+ 1354,
1366
+ 1355,
1367
+ 1356,
1368
+ 1357,
1369
+ 1358,
1370
+ 1359,
1371
+ 1360,
1372
+ 1361,
1373
+ 1362,
1374
+ 1363,
1375
+ 1364,
1376
+ 1365,
1377
+ 1366,
1378
+ 1367,
1379
+ 1368,
1380
+ 1369,
1381
+ 1370,
1382
+ 1371,
1383
+ 1372,
1384
+ 1373,
1385
+ 1374,
1386
+ 1375,
1387
+ 1376,
1388
+ 1377,
1389
+ 1378,
1390
+ 1379,
1391
+ 1380,
1392
+ 1381,
1393
+ 1382,
1394
+ 1383,
1395
+ 1384,
1396
+ 1385,
1397
+ 1386,
1398
+ 1387,
1399
+ 1388,
1400
+ 1389,
1401
+ 1390,
1402
+ 1391,
1403
+ 1392,
1404
+ 1393,
1405
+ 1394,
1406
+ 1395,
1407
+ 1396,
1408
+ 1397,
1409
+ 1398,
1410
+ 1399,
1411
+ 1400,
1412
+ 1401,
1413
+ 1402,
1414
+ 1403,
1415
+ 1404,
1416
+ 1405,
1417
+ 1406,
1418
+ 1407,
1419
+ 1408,
1420
+ 1409,
1421
+ 1410,
1422
+ 1411,
1423
+ 1412,
1424
+ 1413,
1425
+ 1414,
1426
+ 1415,
1427
+ 1416,
1428
+ 1417,
1429
+ 1418,
1430
+ 1419,
1431
+ 1420,
1432
+ 1421,
1433
+ 1422,
1434
+ 1423,
1435
+ 1424,
1436
+ 1425,
1437
+ 1426,
1438
+ 1427,
1439
+ 1428,
1440
+ 1429,
1441
+ 1430,
1442
+ 1431,
1443
+ 1432,
1444
+ 1433,
1445
+ 1434,
1446
+ 1435,
1447
+ 1436,
1448
+ 1437,
1449
+ 1438,
1450
+ 1439,
1451
+ 1440,
1452
+ 1441,
1453
+ 1442,
1454
+ 1443,
1455
+ 1444,
1456
+ 1445,
1457
+ 1446,
1458
+ 1447,
1459
+ 1448,
1460
+ 1449,
1461
+ 1450,
1462
+ 1451,
1463
+ 1452,
1464
+ 1453,
1465
+ 1454,
1466
+ 1455,
1467
+ 1456,
1468
+ 1457,
1469
+ 1458,
1470
+ 1459,
1471
+ 1460,
1472
+ 1461,
1473
+ 1462,
1474
+ 1463,
1475
+ 1464,
1476
+ 1465,
1477
+ 1466,
1478
+ 1467,
1479
+ 1468,
1480
+ 1469,
1481
+ 1470,
1482
+ 1471,
1483
+ 1472,
1484
+ 1473,
1485
+ 1474,
1486
+ 1475,
1487
+ 1476,
1488
+ 1477,
1489
+ 1478,
1490
+ 1479,
1491
+ 1480,
1492
+ 1481,
1493
+ 1482,
1494
+ 1483,
1495
+ 1484,
1496
+ 1485,
1497
+ 1486,
1498
+ 1487,
1499
+ 1488,
1500
+ 1489,
1501
+ 1490,
1502
+ 1491,
1503
+ 1492,
1504
+ 1493,
1505
+ 1494,
1506
+ 1495,
1507
+ 1496,
1508
+ 1497,
1509
+ 1498,
1510
+ 1499,
1511
+ 1500,
1512
+ 1501,
1513
+ 1502,
1514
+ 1503,
1515
+ 1504,
1516
+ 1505,
1517
+ 1506,
1518
+ 1507,
1519
+ 1508,
1520
+ 1509,
1521
+ 1510,
1522
+ 1511,
1523
+ 1512,
1524
+ 1513,
1525
+ 1514,
1526
+ 1515,
1527
+ 1516,
1528
+ 1517,
1529
+ 1518,
1530
+ 1519,
1531
+ 1520,
1532
+ 1521,
1533
+ 1522,
1534
+ 1523,
1535
+ 1524,
1536
+ 1525,
1537
+ 1526,
1538
+ 1527,
1539
+ 1528,
1540
+ 1529,
1541
+ 1530,
1542
+ 1531,
1543
+ 1532,
1544
+ 1533,
1545
+ 1534,
1546
+ 1535,
1547
+ 1536,
1548
+ 1537,
1549
+ 1538,
1550
+ 1539,
1551
+ 1540,
1552
+ 1541,
1553
+ 1542,
1554
+ 1543,
1555
+ 1544,
1556
+ 1545,
1557
+ 1546,
1558
+ 1547,
1559
+ 1548,
1560
+ 1549,
1561
+ 1550,
1562
+ 1551,
1563
+ 1552,
1564
+ 1553,
1565
+ 1554,
1566
+ 1555,
1567
+ 1556,
1568
+ 1557,
1569
+ 1558,
1570
+ 1559,
1571
+ 1560,
1572
+ 1561,
1573
+ 1562,
1574
+ 1563,
1575
+ 1564,
1576
+ 1565,
1577
+ 1566,
1578
+ 1567,
1579
+ 1568,
1580
+ 1569,
1581
+ 1570,
1582
+ 1571,
1583
+ 1572,
1584
+ 1573,
1585
+ 1574,
1586
+ 1575,
1587
+ 1576,
1588
+ 1577,
1589
+ 1578,
1590
+ 1579,
1591
+ 1580,
1592
+ 1581,
1593
+ 1582,
1594
+ 1583,
1595
+ 1584,
1596
+ 1585,
1597
+ 1586,
1598
+ 1587,
1599
+ 1588,
1600
+ 1589,
1601
+ 1590,
1602
+ 1591,
1603
+ 1592,
1604
+ 1593,
1605
+ 1594,
1606
+ 1595,
1607
+ 1596,
1608
+ 1597,
1609
+ 1598,
1610
+ 1599,
1611
+ 1600,
1612
+ 1601,
1613
+ 1602,
1614
+ 1603,
1615
+ 1604,
1616
+ 1605,
1617
+ 1606,
1618
+ 1607,
1619
+ 1608,
1620
+ 1609,
1621
+ 1610,
1622
+ 1611,
1623
+ 1612,
1624
+ 1613,
1625
+ 1614,
1626
+ 1615,
1627
+ 1616,
1628
+ 1617,
1629
+ 1618,
1630
+ 1619,
1631
+ 1620,
1632
+ 1621,
1633
+ 1622,
1634
+ 1623,
1635
+ 1624,
1636
+ 1625,
1637
+ 1626,
1638
+ 1627,
1639
+ 1628,
1640
+ 1629,
1641
+ 1630,
1642
+ 1631,
1643
+ 1632,
1644
+ 1633,
1645
+ 1634,
1646
+ 1635,
1647
+ 1636,
1648
+ 1637,
1649
+ 1638,
1650
+ 1639,
1651
+ 1640,
1652
+ 1641,
1653
+ 1642,
1654
+ 1643,
1655
+ 1644,
1656
+ 1645,
1657
+ 1646,
1658
+ 1647,
1659
+ 1648,
1660
+ 1649,
1661
+ 1650,
1662
+ 1651,
1663
+ 1652,
1664
+ 1653,
1665
+ 1654,
1666
+ 1655,
1667
+ 1656,
1668
+ 1657,
1669
+ 1658,
1670
+ 1659,
1671
+ 1660,
1672
+ 1661,
1673
+ 1662,
1674
+ 1663,
1675
+ 1664,
1676
+ 1665,
1677
+ 1666,
1678
+ 1667,
1679
+ 1668,
1680
+ 1669,
1681
+ 1670,
1682
+ 1671,
1683
+ 1672,
1684
+ 1673,
1685
+ 1674,
1686
+ 1675,
1687
+ 1676,
1688
+ 1677,
1689
+ 1678,
1690
+ 1679,
1691
+ 1680,
1692
+ 1681,
1693
+ 1682,
1694
+ 1683,
1695
+ 1684,
1696
+ 1685,
1697
+ 1686,
1698
+ 1687,
1699
+ 1688,
1700
+ 1689,
1701
+ 1690,
1702
+ 1691,
1703
+ 1692,
1704
+ 1693,
1705
+ 1694,
1706
+ 1695,
1707
+ 1696,
1708
+ 1697,
1709
+ 1698,
1710
+ 1699,
1711
+ 1700,
1712
+ 1701,
1713
+ 1702,
1714
+ 1703,
1715
+ 1704,
1716
+ 1705,
1717
+ 1706,
1718
+ 1707,
1719
+ 1708,
1720
+ 1709,
1721
+ 1710,
1722
+ 1711,
1723
+ 1712,
1724
+ 1713,
1725
+ 1714,
1726
+ 1715,
1727
+ 1716,
1728
+ 1717,
1729
+ 1718,
1730
+ 1719,
1731
+ 1720,
1732
+ 1721,
1733
+ 1722,
1734
+ 1723,
1735
+ 1724,
1736
+ 1725,
1737
+ 1726,
1738
+ 1727,
1739
+ 1728,
1740
+ 1729,
1741
+ 1730,
1742
+ 1731,
1743
+ 1732,
1744
+ 1733,
1745
+ 1734,
1746
+ 1735,
1747
+ 1736,
1748
+ 1737,
1749
+ 1738,
1750
+ 1739,
1751
+ 1740,
1752
+ 1741,
1753
+ 1742,
1754
+ 1743,
1755
+ 1744,
1756
+ 1745,
1757
+ 1746,
1758
+ 1747,
1759
+ 1748,
1760
+ 1749,
1761
+ 1750,
1762
+ 1751,
1763
+ 1752,
1764
+ 1753,
1765
+ 1754,
1766
+ 1755,
1767
+ 1756,
1768
+ 1757,
1769
+ 1758,
1770
+ 1759,
1771
+ 1760,
1772
+ 1761,
1773
+ 1762,
1774
+ 1763,
1775
+ 1764,
1776
+ 1765,
1777
+ 1766,
1778
+ 1767,
1779
+ 1768,
1780
+ 1769,
1781
+ 1770,
1782
+ 1771,
1783
+ 1772,
1784
+ 1773,
1785
+ 1774,
1786
+ 1775,
1787
+ 1776,
1788
+ 1777,
1789
+ 1778,
1790
+ 1779,
1791
+ 1780,
1792
+ 1781,
1793
+ 1782,
1794
+ 1783,
1795
+ 1784,
1796
+ 1785,
1797
+ 1786,
1798
+ 1787,
1799
+ 1788,
1800
+ 1789,
1801
+ 1790,
1802
+ 1791,
1803
+ 1792,
1804
+ 1793,
1805
+ 1794,
1806
+ 1795,
1807
+ 1796,
1808
+ 1797,
1809
+ 1798,
1810
+ 1799,
1811
+ 1800,
1812
+ 1801,
1813
+ 1802,
1814
+ 1803,
1815
+ 1804,
1816
+ 1805,
1817
+ 1806,
1818
+ 1807,
1819
+ 1808,
1820
+ 1809,
1821
+ 1810,
1822
+ 1811,
1823
+ 1812,
1824
+ 1813,
1825
+ 1814,
1826
+ 1815,
1827
+ 1816,
1828
+ 1817,
1829
+ 1818,
1830
+ 1819,
1831
+ 1820,
1832
+ 1821,
1833
+ 1822,
1834
+ 1823,
1835
+ 1824,
1836
+ 1825,
1837
+ 1826,
1838
+ 1827,
1839
+ 1828,
1840
+ 1829,
1841
+ 1830,
1842
+ 1831,
1843
+ 1832,
1844
+ 1833,
1845
+ 1834,
1846
+ 1835,
1847
+ 1836,
1848
+ 1837,
1849
+ 1838,
1850
+ 1839,
1851
+ 1840,
1852
+ 1841,
1853
+ 1842,
1854
+ 1843,
1855
+ 1844,
1856
+ 1845,
1857
+ 1846,
1858
+ 1847,
1859
+ 1848,
1860
+ 1849,
1861
+ 1850,
1862
+ 1851,
1863
+ 1852,
1864
+ 1853,
1865
+ 1854,
1866
+ 1855,
1867
+ 1856,
1868
+ 1857,
1869
+ 1858,
1870
+ 1859,
1871
+ 1860,
1872
+ 1861,
1873
+ 1862,
1874
+ 1863,
1875
+ 1864,
1876
+ 1866,
1877
+ 1867,
1878
+ 1868,
1879
+ 1869,
1880
+ 1870,
1881
+ 1871,
1882
+ 1872,
1883
+ 1873,
1884
+ 1874,
1885
+ 1875,
1886
+ 1876,
1887
+ 1877,
1888
+ 1878,
1889
+ 1879,
1890
+ 1880,
1891
+ 1881,
1892
+ 1882,
1893
+ 1883,
1894
+ 1884,
1895
+ 1885,
1896
+ 1886,
1897
+ 1887,
1898
+ 1888,
1899
+ 1889,
1900
+ 1890,
1901
+ 1891,
1902
+ 1892,
1903
+ 1893,
1904
+ 1894,
1905
+ 1895,
1906
+ 1896,
1907
+ 1897,
1908
+ 1898,
1909
+ 1899,
1910
+ 1900,
1911
+ 1901,
1912
+ 1902,
1913
+ 1903,
1914
+ 1904,
1915
+ 1905,
1916
+ 1906,
1917
+ 1907,
1918
+ 1908,
1919
+ 1909,
1920
+ 1910,
1921
+ 1911,
1922
+ 1912,
1923
+ 1913,
1924
+ 1914,
1925
+ 1915,
1926
+ 1916,
1927
+ 1917,
1928
+ 1918,
1929
+ 1919,
1930
+ 1920,
1931
+ 1921,
1932
+ 1922,
1933
+ 1923,
1934
+ 1924,
1935
+ 1925,
1936
+ 1926,
1937
+ 1927,
1938
+ 1928,
1939
+ 1929,
1940
+ 1930,
1941
+ 1931,
1942
+ 1932,
1943
+ 1933,
1944
+ 1934,
1945
+ 1935,
1946
+ 1936,
1947
+ 1937,
1948
+ 1938,
1949
+ 1939,
1950
+ 1940,
1951
+ 1941,
1952
+ 1942,
1953
+ 1943,
1954
+ 1944,
1955
+ 1945,
1956
+ 1946,
1957
+ 1947,
1958
+ 1948,
1959
+ 1949,
1960
+ 1950,
1961
+ 1951,
1962
+ 1952,
1963
+ 1953,
1964
+ 1954,
1965
+ 1955,
1966
+ 1956,
1967
+ 1957,
1968
+ 1958,
1969
+ 1959,
1970
+ 1960,
1971
+ 1961,
1972
+ 1962,
1973
+ 1963,
1974
+ 1964,
1975
+ 1965,
1976
+ 1966,
1977
+ 1967,
1978
+ 1968,
1979
+ 1969,
1980
+ 1970,
1981
+ 1971,
1982
+ 1972,
1983
+ 1973,
1984
+ 1974,
1985
+ 1975,
1986
+ 1976,
1987
+ 1977,
1988
+ 1978,
1989
+ 1979,
1990
+ 1980,
1991
+ 1981,
1992
+ 1982,
1993
+ 1983,
1994
+ 1984,
1995
+ 1985,
1996
+ 1986,
1997
+ 1987,
1998
+ 1988,
1999
+ 1989,
2000
+ 1990,
2001
+ 1991,
2002
+ 1992,
2003
+ 1993,
2004
+ 1994,
2005
+ 1995,
2006
+ 1996,
2007
+ 1997,
2008
+ 1998,
2009
+ 1999
2010
+ ],
2011
+ "not_both_correct_indices": [
2012
+ 1865
2013
+ ],
2014
+ "clean_baseline": 8.3515625,
2015
+ "corrupted_baseline": -8.296875
2016
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_moral/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:249a4490bfd1c792ee6896c820991fc924cf661e33fe94d1475042274c72f772
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/norm_moral/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:016861d09bcd3958689294e18f959ebfd3beffe69f4686cf6cc46053b7100c8b
3
+ size 9148544
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/primary_emotions/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/primary_emotions/baselines.json ADDED
@@ -0,0 +1,1311 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1295,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1295,
6
+ "clean_accuracy": 0.9698841698841699,
7
+ "corrupted_accuracy": 0.9081081081081082,
8
+ "both_correct_accuracy": 0.877992277992278,
9
+ "n_both_correct": 1137,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 129,
141
+ 130,
142
+ 131,
143
+ 132,
144
+ 133,
145
+ 134,
146
+ 135,
147
+ 136,
148
+ 137,
149
+ 138,
150
+ 139,
151
+ 140,
152
+ 141,
153
+ 142,
154
+ 143,
155
+ 144,
156
+ 145,
157
+ 146,
158
+ 147,
159
+ 148,
160
+ 149,
161
+ 150,
162
+ 151,
163
+ 152,
164
+ 153,
165
+ 154,
166
+ 155,
167
+ 156,
168
+ 157,
169
+ 158,
170
+ 159,
171
+ 160,
172
+ 161,
173
+ 162,
174
+ 163,
175
+ 164,
176
+ 165,
177
+ 166,
178
+ 167,
179
+ 168,
180
+ 169,
181
+ 170,
182
+ 171,
183
+ 172,
184
+ 173,
185
+ 174,
186
+ 175,
187
+ 176,
188
+ 177,
189
+ 178,
190
+ 179,
191
+ 180,
192
+ 181,
193
+ 182,
194
+ 183,
195
+ 184,
196
+ 185,
197
+ 186,
198
+ 187,
199
+ 188,
200
+ 189,
201
+ 190,
202
+ 191,
203
+ 192,
204
+ 193,
205
+ 194,
206
+ 195,
207
+ 196,
208
+ 197,
209
+ 198,
210
+ 199,
211
+ 200,
212
+ 201,
213
+ 202,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 209,
221
+ 210,
222
+ 211,
223
+ 212,
224
+ 213,
225
+ 214,
226
+ 215,
227
+ 216,
228
+ 217,
229
+ 218,
230
+ 219,
231
+ 220,
232
+ 221,
233
+ 222,
234
+ 223,
235
+ 224,
236
+ 225,
237
+ 226,
238
+ 227,
239
+ 228,
240
+ 229,
241
+ 230,
242
+ 231,
243
+ 232,
244
+ 233,
245
+ 234,
246
+ 235,
247
+ 236,
248
+ 237,
249
+ 238,
250
+ 239,
251
+ 240,
252
+ 241,
253
+ 242,
254
+ 243,
255
+ 244,
256
+ 245,
257
+ 246,
258
+ 247,
259
+ 248,
260
+ 249,
261
+ 250,
262
+ 251,
263
+ 252,
264
+ 253,
265
+ 254,
266
+ 255,
267
+ 256,
268
+ 257,
269
+ 258,
270
+ 259,
271
+ 260,
272
+ 261,
273
+ 262,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 274,
286
+ 275,
287
+ 276,
288
+ 277,
289
+ 278,
290
+ 279,
291
+ 280,
292
+ 281,
293
+ 282,
294
+ 283,
295
+ 284,
296
+ 285,
297
+ 286,
298
+ 287,
299
+ 288,
300
+ 289,
301
+ 290,
302
+ 291,
303
+ 292,
304
+ 293,
305
+ 294,
306
+ 295,
307
+ 296,
308
+ 297,
309
+ 298,
310
+ 299,
311
+ 300,
312
+ 301,
313
+ 302,
314
+ 303,
315
+ 304,
316
+ 305,
317
+ 306,
318
+ 307,
319
+ 308,
320
+ 309,
321
+ 310,
322
+ 311,
323
+ 312,
324
+ 313,
325
+ 314,
326
+ 315,
327
+ 316,
328
+ 317,
329
+ 318,
330
+ 319,
331
+ 320,
332
+ 321,
333
+ 322,
334
+ 323,
335
+ 324,
336
+ 325,
337
+ 326,
338
+ 327,
339
+ 328,
340
+ 329,
341
+ 330,
342
+ 331,
343
+ 332,
344
+ 333,
345
+ 334,
346
+ 335,
347
+ 336,
348
+ 337,
349
+ 338,
350
+ 339,
351
+ 340,
352
+ 341,
353
+ 342,
354
+ 343,
355
+ 344,
356
+ 345,
357
+ 346,
358
+ 347,
359
+ 348,
360
+ 349,
361
+ 350,
362
+ 351,
363
+ 352,
364
+ 353,
365
+ 354,
366
+ 355,
367
+ 356,
368
+ 357,
369
+ 358,
370
+ 359,
371
+ 360,
372
+ 361,
373
+ 362,
374
+ 363,
375
+ 364,
376
+ 365,
377
+ 366,
378
+ 367,
379
+ 368,
380
+ 369,
381
+ 370,
382
+ 371,
383
+ 372,
384
+ 373,
385
+ 374,
386
+ 375,
387
+ 376,
388
+ 377,
389
+ 378,
390
+ 379,
391
+ 380,
392
+ 381,
393
+ 382,
394
+ 383,
395
+ 384,
396
+ 385,
397
+ 386,
398
+ 387,
399
+ 388,
400
+ 389,
401
+ 390,
402
+ 391,
403
+ 392,
404
+ 393,
405
+ 394,
406
+ 395,
407
+ 396,
408
+ 397,
409
+ 398,
410
+ 399,
411
+ 400,
412
+ 401,
413
+ 402,
414
+ 403,
415
+ 404,
416
+ 405,
417
+ 406,
418
+ 407,
419
+ 408,
420
+ 409,
421
+ 410,
422
+ 411,
423
+ 412,
424
+ 413,
425
+ 414,
426
+ 415,
427
+ 416,
428
+ 417,
429
+ 418,
430
+ 419,
431
+ 420,
432
+ 421,
433
+ 422,
434
+ 423,
435
+ 424,
436
+ 425,
437
+ 426,
438
+ 427,
439
+ 428,
440
+ 429,
441
+ 430,
442
+ 431,
443
+ 432,
444
+ 433,
445
+ 434,
446
+ 435,
447
+ 436,
448
+ 437,
449
+ 438,
450
+ 439,
451
+ 440,
452
+ 441,
453
+ 442,
454
+ 443,
455
+ 444,
456
+ 445,
457
+ 446,
458
+ 447,
459
+ 448,
460
+ 449,
461
+ 450,
462
+ 451,
463
+ 452,
464
+ 453,
465
+ 454,
466
+ 455,
467
+ 456,
468
+ 457,
469
+ 458,
470
+ 459,
471
+ 460,
472
+ 461,
473
+ 462,
474
+ 463,
475
+ 464,
476
+ 465,
477
+ 466,
478
+ 467,
479
+ 468,
480
+ 469,
481
+ 470,
482
+ 471,
483
+ 472,
484
+ 473,
485
+ 474,
486
+ 475,
487
+ 476,
488
+ 477,
489
+ 478,
490
+ 479,
491
+ 480,
492
+ 481,
493
+ 482,
494
+ 483,
495
+ 484,
496
+ 485,
497
+ 486,
498
+ 487,
499
+ 488,
500
+ 489,
501
+ 490,
502
+ 491,
503
+ 492,
504
+ 493,
505
+ 494,
506
+ 495,
507
+ 496,
508
+ 497,
509
+ 498,
510
+ 499,
511
+ 500,
512
+ 501,
513
+ 502,
514
+ 503,
515
+ 504,
516
+ 505,
517
+ 506,
518
+ 507,
519
+ 508,
520
+ 509,
521
+ 510,
522
+ 511,
523
+ 512,
524
+ 513,
525
+ 514,
526
+ 515,
527
+ 516,
528
+ 517,
529
+ 518,
530
+ 519,
531
+ 520,
532
+ 521,
533
+ 522,
534
+ 523,
535
+ 524,
536
+ 525,
537
+ 526,
538
+ 527,
539
+ 528,
540
+ 529,
541
+ 530,
542
+ 531,
543
+ 532,
544
+ 533,
545
+ 534,
546
+ 535,
547
+ 536,
548
+ 537,
549
+ 538,
550
+ 539,
551
+ 540,
552
+ 541,
553
+ 542,
554
+ 543,
555
+ 544,
556
+ 545,
557
+ 546,
558
+ 547,
559
+ 548,
560
+ 549,
561
+ 550,
562
+ 551,
563
+ 552,
564
+ 553,
565
+ 554,
566
+ 555,
567
+ 556,
568
+ 557,
569
+ 558,
570
+ 559,
571
+ 560,
572
+ 561,
573
+ 562,
574
+ 563,
575
+ 564,
576
+ 565,
577
+ 566,
578
+ 567,
579
+ 568,
580
+ 569,
581
+ 570,
582
+ 571,
583
+ 572,
584
+ 573,
585
+ 574,
586
+ 575,
587
+ 576,
588
+ 577,
589
+ 578,
590
+ 579,
591
+ 580,
592
+ 581,
593
+ 582,
594
+ 583,
595
+ 584,
596
+ 585,
597
+ 586,
598
+ 587,
599
+ 588,
600
+ 589,
601
+ 590,
602
+ 591,
603
+ 592,
604
+ 593,
605
+ 594,
606
+ 595,
607
+ 596,
608
+ 597,
609
+ 598,
610
+ 599,
611
+ 600,
612
+ 601,
613
+ 602,
614
+ 603,
615
+ 604,
616
+ 605,
617
+ 606,
618
+ 607,
619
+ 608,
620
+ 609,
621
+ 610,
622
+ 611,
623
+ 612,
624
+ 613,
625
+ 614,
626
+ 615,
627
+ 616,
628
+ 617,
629
+ 618,
630
+ 619,
631
+ 620,
632
+ 621,
633
+ 622,
634
+ 623,
635
+ 624,
636
+ 625,
637
+ 626,
638
+ 627,
639
+ 628,
640
+ 629,
641
+ 630,
642
+ 631,
643
+ 632,
644
+ 633,
645
+ 634,
646
+ 635,
647
+ 636,
648
+ 637,
649
+ 638,
650
+ 639,
651
+ 640,
652
+ 641,
653
+ 642,
654
+ 643,
655
+ 644,
656
+ 645,
657
+ 646,
658
+ 647,
659
+ 648,
660
+ 649,
661
+ 650,
662
+ 651,
663
+ 652,
664
+ 653,
665
+ 654,
666
+ 655,
667
+ 656,
668
+ 657,
669
+ 658,
670
+ 659,
671
+ 660,
672
+ 661,
673
+ 662,
674
+ 663,
675
+ 664,
676
+ 665,
677
+ 666,
678
+ 667,
679
+ 668,
680
+ 669,
681
+ 670,
682
+ 671,
683
+ 672,
684
+ 673,
685
+ 674,
686
+ 675,
687
+ 676,
688
+ 677,
689
+ 678,
690
+ 679,
691
+ 680,
692
+ 681,
693
+ 682,
694
+ 683,
695
+ 684,
696
+ 685,
697
+ 686,
698
+ 687,
699
+ 688,
700
+ 689,
701
+ 690,
702
+ 691,
703
+ 692,
704
+ 693,
705
+ 694,
706
+ 695,
707
+ 696,
708
+ 697,
709
+ 698,
710
+ 699,
711
+ 700,
712
+ 701,
713
+ 702,
714
+ 703,
715
+ 704,
716
+ 705,
717
+ 706,
718
+ 707,
719
+ 708,
720
+ 709,
721
+ 710,
722
+ 711,
723
+ 712,
724
+ 713,
725
+ 714,
726
+ 715,
727
+ 716,
728
+ 717,
729
+ 718,
730
+ 719,
731
+ 720,
732
+ 721,
733
+ 722,
734
+ 723,
735
+ 724,
736
+ 725,
737
+ 726,
738
+ 727,
739
+ 728,
740
+ 729,
741
+ 730,
742
+ 731,
743
+ 732,
744
+ 733,
745
+ 734,
746
+ 735,
747
+ 736,
748
+ 737,
749
+ 738,
750
+ 739,
751
+ 740,
752
+ 741,
753
+ 742,
754
+ 743,
755
+ 744,
756
+ 745,
757
+ 746,
758
+ 747,
759
+ 748,
760
+ 749,
761
+ 765,
762
+ 768,
763
+ 770,
764
+ 776,
765
+ 778,
766
+ 779,
767
+ 780,
768
+ 781,
769
+ 782,
770
+ 783,
771
+ 784,
772
+ 785,
773
+ 787,
774
+ 789,
775
+ 791,
776
+ 792,
777
+ 794,
778
+ 795,
779
+ 796,
780
+ 797,
781
+ 798,
782
+ 799,
783
+ 800,
784
+ 801,
785
+ 802,
786
+ 803,
787
+ 804,
788
+ 805,
789
+ 806,
790
+ 807,
791
+ 808,
792
+ 809,
793
+ 810,
794
+ 811,
795
+ 812,
796
+ 813,
797
+ 814,
798
+ 815,
799
+ 816,
800
+ 817,
801
+ 818,
802
+ 819,
803
+ 820,
804
+ 821,
805
+ 822,
806
+ 823,
807
+ 824,
808
+ 825,
809
+ 827,
810
+ 828,
811
+ 830,
812
+ 831,
813
+ 833,
814
+ 835,
815
+ 837,
816
+ 839,
817
+ 840,
818
+ 842,
819
+ 843,
820
+ 844,
821
+ 845,
822
+ 846,
823
+ 848,
824
+ 850,
825
+ 852,
826
+ 854,
827
+ 855,
828
+ 856,
829
+ 857,
830
+ 858,
831
+ 859,
832
+ 860,
833
+ 861,
834
+ 862,
835
+ 863,
836
+ 864,
837
+ 865,
838
+ 866,
839
+ 867,
840
+ 868,
841
+ 869,
842
+ 870,
843
+ 871,
844
+ 872,
845
+ 873,
846
+ 874,
847
+ 875,
848
+ 876,
849
+ 877,
850
+ 878,
851
+ 879,
852
+ 880,
853
+ 881,
854
+ 882,
855
+ 883,
856
+ 884,
857
+ 885,
858
+ 886,
859
+ 887,
860
+ 888,
861
+ 889,
862
+ 890,
863
+ 891,
864
+ 892,
865
+ 893,
866
+ 894,
867
+ 895,
868
+ 896,
869
+ 897,
870
+ 898,
871
+ 899,
872
+ 900,
873
+ 901,
874
+ 902,
875
+ 903,
876
+ 904,
877
+ 905,
878
+ 906,
879
+ 907,
880
+ 908,
881
+ 909,
882
+ 910,
883
+ 911,
884
+ 912,
885
+ 913,
886
+ 914,
887
+ 915,
888
+ 916,
889
+ 917,
890
+ 918,
891
+ 919,
892
+ 920,
893
+ 921,
894
+ 922,
895
+ 923,
896
+ 924,
897
+ 925,
898
+ 926,
899
+ 927,
900
+ 928,
901
+ 929,
902
+ 930,
903
+ 931,
904
+ 932,
905
+ 933,
906
+ 934,
907
+ 935,
908
+ 936,
909
+ 937,
910
+ 938,
911
+ 939,
912
+ 940,
913
+ 941,
914
+ 942,
915
+ 943,
916
+ 944,
917
+ 945,
918
+ 946,
919
+ 947,
920
+ 949,
921
+ 950,
922
+ 952,
923
+ 953,
924
+ 954,
925
+ 955,
926
+ 956,
927
+ 957,
928
+ 958,
929
+ 959,
930
+ 960,
931
+ 961,
932
+ 962,
933
+ 964,
934
+ 965,
935
+ 967,
936
+ 969,
937
+ 972,
938
+ 975,
939
+ 977,
940
+ 979,
941
+ 980,
942
+ 982,
943
+ 984,
944
+ 987,
945
+ 990,
946
+ 991,
947
+ 992,
948
+ 993,
949
+ 994,
950
+ 995,
951
+ 997,
952
+ 998,
953
+ 999,
954
+ 1000,
955
+ 1001,
956
+ 1002,
957
+ 1003,
958
+ 1004,
959
+ 1005,
960
+ 1006,
961
+ 1007,
962
+ 1008,
963
+ 1009,
964
+ 1010,
965
+ 1011,
966
+ 1012,
967
+ 1013,
968
+ 1014,
969
+ 1015,
970
+ 1016,
971
+ 1017,
972
+ 1018,
973
+ 1019,
974
+ 1020,
975
+ 1021,
976
+ 1022,
977
+ 1023,
978
+ 1024,
979
+ 1025,
980
+ 1026,
981
+ 1027,
982
+ 1028,
983
+ 1029,
984
+ 1030,
985
+ 1031,
986
+ 1032,
987
+ 1033,
988
+ 1034,
989
+ 1035,
990
+ 1036,
991
+ 1037,
992
+ 1038,
993
+ 1039,
994
+ 1040,
995
+ 1041,
996
+ 1042,
997
+ 1043,
998
+ 1044,
999
+ 1045,
1000
+ 1046,
1001
+ 1047,
1002
+ 1048,
1003
+ 1049,
1004
+ 1050,
1005
+ 1051,
1006
+ 1052,
1007
+ 1054,
1008
+ 1055,
1009
+ 1056,
1010
+ 1057,
1011
+ 1058,
1012
+ 1059,
1013
+ 1060,
1014
+ 1061,
1015
+ 1062,
1016
+ 1063,
1017
+ 1064,
1018
+ 1065,
1019
+ 1066,
1020
+ 1067,
1021
+ 1068,
1022
+ 1069,
1023
+ 1070,
1024
+ 1071,
1025
+ 1072,
1026
+ 1073,
1027
+ 1074,
1028
+ 1075,
1029
+ 1076,
1030
+ 1077,
1031
+ 1078,
1032
+ 1079,
1033
+ 1080,
1034
+ 1081,
1035
+ 1082,
1036
+ 1083,
1037
+ 1084,
1038
+ 1085,
1039
+ 1086,
1040
+ 1087,
1041
+ 1088,
1042
+ 1089,
1043
+ 1090,
1044
+ 1091,
1045
+ 1092,
1046
+ 1093,
1047
+ 1094,
1048
+ 1095,
1049
+ 1096,
1050
+ 1097,
1051
+ 1098,
1052
+ 1099,
1053
+ 1100,
1054
+ 1101,
1055
+ 1102,
1056
+ 1103,
1057
+ 1104,
1058
+ 1105,
1059
+ 1106,
1060
+ 1107,
1061
+ 1108,
1062
+ 1109,
1063
+ 1110,
1064
+ 1111,
1065
+ 1112,
1066
+ 1113,
1067
+ 1114,
1068
+ 1115,
1069
+ 1116,
1070
+ 1117,
1071
+ 1118,
1072
+ 1119,
1073
+ 1120,
1074
+ 1121,
1075
+ 1122,
1076
+ 1123,
1077
+ 1124,
1078
+ 1125,
1079
+ 1126,
1080
+ 1127,
1081
+ 1128,
1082
+ 1129,
1083
+ 1130,
1084
+ 1131,
1085
+ 1132,
1086
+ 1133,
1087
+ 1134,
1088
+ 1135,
1089
+ 1136,
1090
+ 1137,
1091
+ 1138,
1092
+ 1139,
1093
+ 1140,
1094
+ 1141,
1095
+ 1142,
1096
+ 1143,
1097
+ 1144,
1098
+ 1145,
1099
+ 1146,
1100
+ 1147,
1101
+ 1148,
1102
+ 1149,
1103
+ 1150,
1104
+ 1151,
1105
+ 1152,
1106
+ 1153,
1107
+ 1154,
1108
+ 1155,
1109
+ 1156,
1110
+ 1157,
1111
+ 1158,
1112
+ 1159,
1113
+ 1160,
1114
+ 1161,
1115
+ 1162,
1116
+ 1163,
1117
+ 1164,
1118
+ 1165,
1119
+ 1166,
1120
+ 1167,
1121
+ 1168,
1122
+ 1169,
1123
+ 1170,
1124
+ 1171,
1125
+ 1172,
1126
+ 1173,
1127
+ 1174,
1128
+ 1175,
1129
+ 1176,
1130
+ 1177,
1131
+ 1178,
1132
+ 1179,
1133
+ 1180,
1134
+ 1181,
1135
+ 1182,
1136
+ 1183,
1137
+ 1184,
1138
+ 1185,
1139
+ 1186,
1140
+ 1187,
1141
+ 1188,
1142
+ 1189,
1143
+ 1190,
1144
+ 1191,
1145
+ 1192,
1146
+ 1193,
1147
+ 1194
1148
+ ],
1149
+ "not_both_correct_indices": [
1150
+ 750,
1151
+ 751,
1152
+ 752,
1153
+ 753,
1154
+ 754,
1155
+ 755,
1156
+ 756,
1157
+ 757,
1158
+ 758,
1159
+ 759,
1160
+ 760,
1161
+ 761,
1162
+ 762,
1163
+ 763,
1164
+ 764,
1165
+ 766,
1166
+ 767,
1167
+ 769,
1168
+ 771,
1169
+ 772,
1170
+ 773,
1171
+ 774,
1172
+ 775,
1173
+ 777,
1174
+ 786,
1175
+ 788,
1176
+ 790,
1177
+ 793,
1178
+ 826,
1179
+ 829,
1180
+ 832,
1181
+ 834,
1182
+ 836,
1183
+ 838,
1184
+ 841,
1185
+ 847,
1186
+ 849,
1187
+ 851,
1188
+ 853,
1189
+ 948,
1190
+ 951,
1191
+ 963,
1192
+ 966,
1193
+ 968,
1194
+ 970,
1195
+ 971,
1196
+ 973,
1197
+ 974,
1198
+ 976,
1199
+ 978,
1200
+ 981,
1201
+ 983,
1202
+ 985,
1203
+ 986,
1204
+ 988,
1205
+ 989,
1206
+ 996,
1207
+ 1053,
1208
+ 1195,
1209
+ 1196,
1210
+ 1197,
1211
+ 1198,
1212
+ 1199,
1213
+ 1200,
1214
+ 1201,
1215
+ 1202,
1216
+ 1203,
1217
+ 1204,
1218
+ 1205,
1219
+ 1206,
1220
+ 1207,
1221
+ 1208,
1222
+ 1209,
1223
+ 1210,
1224
+ 1211,
1225
+ 1212,
1226
+ 1213,
1227
+ 1214,
1228
+ 1215,
1229
+ 1216,
1230
+ 1217,
1231
+ 1218,
1232
+ 1219,
1233
+ 1220,
1234
+ 1221,
1235
+ 1222,
1236
+ 1223,
1237
+ 1224,
1238
+ 1225,
1239
+ 1226,
1240
+ 1227,
1241
+ 1228,
1242
+ 1229,
1243
+ 1230,
1244
+ 1231,
1245
+ 1232,
1246
+ 1233,
1247
+ 1234,
1248
+ 1235,
1249
+ 1236,
1250
+ 1237,
1251
+ 1238,
1252
+ 1239,
1253
+ 1240,
1254
+ 1241,
1255
+ 1242,
1256
+ 1243,
1257
+ 1244,
1258
+ 1245,
1259
+ 1246,
1260
+ 1247,
1261
+ 1248,
1262
+ 1249,
1263
+ 1250,
1264
+ 1251,
1265
+ 1252,
1266
+ 1253,
1267
+ 1254,
1268
+ 1255,
1269
+ 1256,
1270
+ 1257,
1271
+ 1258,
1272
+ 1259,
1273
+ 1260,
1274
+ 1261,
1275
+ 1262,
1276
+ 1263,
1277
+ 1264,
1278
+ 1265,
1279
+ 1266,
1280
+ 1267,
1281
+ 1268,
1282
+ 1269,
1283
+ 1270,
1284
+ 1271,
1285
+ 1272,
1286
+ 1273,
1287
+ 1274,
1288
+ 1275,
1289
+ 1276,
1290
+ 1277,
1291
+ 1278,
1292
+ 1279,
1293
+ 1280,
1294
+ 1281,
1295
+ 1282,
1296
+ 1283,
1297
+ 1284,
1298
+ 1285,
1299
+ 1286,
1300
+ 1287,
1301
+ 1288,
1302
+ 1289,
1303
+ 1290,
1304
+ 1291,
1305
+ 1292,
1306
+ 1293,
1307
+ 1294
1308
+ ],
1309
+ "clean_baseline": 5.78515625,
1310
+ "corrupted_baseline": -10.109375
1311
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/primary_emotions/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:639ef8c3c951a888f0f5746c4c2c5d4e3bd0ee257beaf4111c79a009e902fc61
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/primary_emotions/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:1eb6810999e05ba79114a9315f4dae4504e5a189c48f16f8e1a7be45e6ec3d6f
3
+ size 9089272
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/secondary_emotions/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/secondary_emotions/baselines.json ADDED
@@ -0,0 +1,1616 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1600,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1600,
6
+ "clean_accuracy": 0.820625,
7
+ "corrupted_accuracy": 0.886875,
8
+ "both_correct_accuracy": 0.7075,
9
+ "n_both_correct": 1132,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 129,
141
+ 130,
142
+ 131,
143
+ 132,
144
+ 133,
145
+ 134,
146
+ 135,
147
+ 136,
148
+ 137,
149
+ 138,
150
+ 139,
151
+ 140,
152
+ 141,
153
+ 142,
154
+ 143,
155
+ 144,
156
+ 145,
157
+ 146,
158
+ 147,
159
+ 148,
160
+ 149,
161
+ 150,
162
+ 151,
163
+ 152,
164
+ 153,
165
+ 154,
166
+ 155,
167
+ 156,
168
+ 157,
169
+ 158,
170
+ 159,
171
+ 160,
172
+ 161,
173
+ 162,
174
+ 163,
175
+ 164,
176
+ 165,
177
+ 166,
178
+ 167,
179
+ 168,
180
+ 169,
181
+ 170,
182
+ 171,
183
+ 172,
184
+ 173,
185
+ 174,
186
+ 175,
187
+ 176,
188
+ 177,
189
+ 178,
190
+ 179,
191
+ 180,
192
+ 181,
193
+ 182,
194
+ 183,
195
+ 184,
196
+ 185,
197
+ 186,
198
+ 187,
199
+ 188,
200
+ 189,
201
+ 190,
202
+ 191,
203
+ 192,
204
+ 193,
205
+ 194,
206
+ 195,
207
+ 196,
208
+ 197,
209
+ 198,
210
+ 199,
211
+ 200,
212
+ 201,
213
+ 202,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 209,
221
+ 210,
222
+ 211,
223
+ 212,
224
+ 213,
225
+ 214,
226
+ 215,
227
+ 216,
228
+ 217,
229
+ 218,
230
+ 219,
231
+ 220,
232
+ 221,
233
+ 222,
234
+ 223,
235
+ 224,
236
+ 225,
237
+ 226,
238
+ 227,
239
+ 228,
240
+ 229,
241
+ 230,
242
+ 231,
243
+ 232,
244
+ 233,
245
+ 234,
246
+ 235,
247
+ 236,
248
+ 237,
249
+ 238,
250
+ 239,
251
+ 240,
252
+ 241,
253
+ 242,
254
+ 243,
255
+ 244,
256
+ 245,
257
+ 246,
258
+ 247,
259
+ 248,
260
+ 249,
261
+ 250,
262
+ 251,
263
+ 252,
264
+ 253,
265
+ 254,
266
+ 255,
267
+ 256,
268
+ 257,
269
+ 258,
270
+ 259,
271
+ 260,
272
+ 261,
273
+ 262,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 274,
286
+ 375,
287
+ 376,
288
+ 377,
289
+ 378,
290
+ 379,
291
+ 380,
292
+ 381,
293
+ 382,
294
+ 383,
295
+ 384,
296
+ 385,
297
+ 386,
298
+ 387,
299
+ 388,
300
+ 389,
301
+ 390,
302
+ 391,
303
+ 392,
304
+ 393,
305
+ 394,
306
+ 395,
307
+ 396,
308
+ 397,
309
+ 398,
310
+ 399,
311
+ 400,
312
+ 401,
313
+ 402,
314
+ 403,
315
+ 404,
316
+ 405,
317
+ 406,
318
+ 407,
319
+ 408,
320
+ 409,
321
+ 410,
322
+ 411,
323
+ 412,
324
+ 413,
325
+ 414,
326
+ 415,
327
+ 416,
328
+ 417,
329
+ 418,
330
+ 419,
331
+ 420,
332
+ 421,
333
+ 422,
334
+ 423,
335
+ 424,
336
+ 425,
337
+ 426,
338
+ 427,
339
+ 428,
340
+ 429,
341
+ 430,
342
+ 431,
343
+ 432,
344
+ 433,
345
+ 434,
346
+ 435,
347
+ 436,
348
+ 437,
349
+ 438,
350
+ 439,
351
+ 440,
352
+ 441,
353
+ 442,
354
+ 443,
355
+ 444,
356
+ 445,
357
+ 446,
358
+ 447,
359
+ 448,
360
+ 449,
361
+ 450,
362
+ 451,
363
+ 452,
364
+ 453,
365
+ 454,
366
+ 455,
367
+ 456,
368
+ 457,
369
+ 458,
370
+ 459,
371
+ 460,
372
+ 461,
373
+ 462,
374
+ 463,
375
+ 464,
376
+ 465,
377
+ 466,
378
+ 467,
379
+ 468,
380
+ 469,
381
+ 470,
382
+ 471,
383
+ 472,
384
+ 473,
385
+ 474,
386
+ 475,
387
+ 476,
388
+ 477,
389
+ 478,
390
+ 479,
391
+ 480,
392
+ 481,
393
+ 482,
394
+ 483,
395
+ 484,
396
+ 485,
397
+ 486,
398
+ 487,
399
+ 488,
400
+ 489,
401
+ 490,
402
+ 491,
403
+ 492,
404
+ 493,
405
+ 494,
406
+ 495,
407
+ 496,
408
+ 497,
409
+ 498,
410
+ 499,
411
+ 500,
412
+ 501,
413
+ 502,
414
+ 503,
415
+ 504,
416
+ 505,
417
+ 506,
418
+ 507,
419
+ 508,
420
+ 509,
421
+ 510,
422
+ 511,
423
+ 512,
424
+ 513,
425
+ 514,
426
+ 515,
427
+ 516,
428
+ 517,
429
+ 518,
430
+ 519,
431
+ 520,
432
+ 521,
433
+ 522,
434
+ 523,
435
+ 524,
436
+ 525,
437
+ 526,
438
+ 527,
439
+ 528,
440
+ 529,
441
+ 530,
442
+ 531,
443
+ 532,
444
+ 533,
445
+ 534,
446
+ 535,
447
+ 536,
448
+ 537,
449
+ 538,
450
+ 539,
451
+ 540,
452
+ 541,
453
+ 542,
454
+ 543,
455
+ 544,
456
+ 545,
457
+ 546,
458
+ 547,
459
+ 548,
460
+ 549,
461
+ 550,
462
+ 551,
463
+ 552,
464
+ 553,
465
+ 554,
466
+ 555,
467
+ 556,
468
+ 557,
469
+ 558,
470
+ 559,
471
+ 560,
472
+ 561,
473
+ 562,
474
+ 563,
475
+ 564,
476
+ 565,
477
+ 566,
478
+ 567,
479
+ 568,
480
+ 569,
481
+ 570,
482
+ 571,
483
+ 572,
484
+ 573,
485
+ 574,
486
+ 575,
487
+ 576,
488
+ 577,
489
+ 578,
490
+ 579,
491
+ 580,
492
+ 581,
493
+ 582,
494
+ 583,
495
+ 584,
496
+ 585,
497
+ 586,
498
+ 587,
499
+ 588,
500
+ 589,
501
+ 590,
502
+ 591,
503
+ 592,
504
+ 593,
505
+ 594,
506
+ 595,
507
+ 596,
508
+ 597,
509
+ 598,
510
+ 599,
511
+ 600,
512
+ 601,
513
+ 602,
514
+ 603,
515
+ 604,
516
+ 605,
517
+ 606,
518
+ 607,
519
+ 608,
520
+ 609,
521
+ 610,
522
+ 611,
523
+ 612,
524
+ 613,
525
+ 614,
526
+ 615,
527
+ 616,
528
+ 617,
529
+ 618,
530
+ 619,
531
+ 620,
532
+ 621,
533
+ 622,
534
+ 623,
535
+ 624,
536
+ 625,
537
+ 626,
538
+ 627,
539
+ 628,
540
+ 629,
541
+ 630,
542
+ 631,
543
+ 632,
544
+ 633,
545
+ 634,
546
+ 635,
547
+ 636,
548
+ 637,
549
+ 638,
550
+ 639,
551
+ 640,
552
+ 641,
553
+ 642,
554
+ 643,
555
+ 644,
556
+ 645,
557
+ 646,
558
+ 647,
559
+ 648,
560
+ 649,
561
+ 650,
562
+ 651,
563
+ 652,
564
+ 653,
565
+ 654,
566
+ 655,
567
+ 656,
568
+ 657,
569
+ 658,
570
+ 659,
571
+ 660,
572
+ 661,
573
+ 662,
574
+ 663,
575
+ 664,
576
+ 665,
577
+ 666,
578
+ 667,
579
+ 668,
580
+ 669,
581
+ 670,
582
+ 671,
583
+ 672,
584
+ 673,
585
+ 674,
586
+ 675,
587
+ 676,
588
+ 677,
589
+ 678,
590
+ 679,
591
+ 680,
592
+ 681,
593
+ 682,
594
+ 683,
595
+ 684,
596
+ 685,
597
+ 686,
598
+ 687,
599
+ 688,
600
+ 689,
601
+ 690,
602
+ 691,
603
+ 692,
604
+ 693,
605
+ 694,
606
+ 695,
607
+ 696,
608
+ 697,
609
+ 698,
610
+ 699,
611
+ 700,
612
+ 701,
613
+ 702,
614
+ 703,
615
+ 704,
616
+ 705,
617
+ 706,
618
+ 707,
619
+ 708,
620
+ 709,
621
+ 710,
622
+ 711,
623
+ 712,
624
+ 713,
625
+ 714,
626
+ 715,
627
+ 716,
628
+ 717,
629
+ 718,
630
+ 719,
631
+ 720,
632
+ 721,
633
+ 722,
634
+ 723,
635
+ 724,
636
+ 725,
637
+ 726,
638
+ 727,
639
+ 728,
640
+ 729,
641
+ 730,
642
+ 731,
643
+ 732,
644
+ 733,
645
+ 734,
646
+ 735,
647
+ 736,
648
+ 737,
649
+ 738,
650
+ 739,
651
+ 740,
652
+ 741,
653
+ 742,
654
+ 743,
655
+ 744,
656
+ 745,
657
+ 746,
658
+ 747,
659
+ 748,
660
+ 749,
661
+ 750,
662
+ 751,
663
+ 752,
664
+ 753,
665
+ 754,
666
+ 755,
667
+ 756,
668
+ 757,
669
+ 758,
670
+ 759,
671
+ 760,
672
+ 761,
673
+ 762,
674
+ 763,
675
+ 764,
676
+ 765,
677
+ 766,
678
+ 767,
679
+ 768,
680
+ 769,
681
+ 770,
682
+ 771,
683
+ 772,
684
+ 773,
685
+ 774,
686
+ 775,
687
+ 776,
688
+ 777,
689
+ 778,
690
+ 779,
691
+ 780,
692
+ 781,
693
+ 782,
694
+ 783,
695
+ 784,
696
+ 785,
697
+ 786,
698
+ 787,
699
+ 788,
700
+ 789,
701
+ 790,
702
+ 791,
703
+ 792,
704
+ 793,
705
+ 794,
706
+ 795,
707
+ 796,
708
+ 797,
709
+ 798,
710
+ 799,
711
+ 800,
712
+ 801,
713
+ 802,
714
+ 803,
715
+ 804,
716
+ 805,
717
+ 806,
718
+ 807,
719
+ 808,
720
+ 809,
721
+ 810,
722
+ 811,
723
+ 812,
724
+ 813,
725
+ 814,
726
+ 815,
727
+ 816,
728
+ 817,
729
+ 818,
730
+ 819,
731
+ 820,
732
+ 821,
733
+ 822,
734
+ 823,
735
+ 824,
736
+ 825,
737
+ 826,
738
+ 827,
739
+ 828,
740
+ 829,
741
+ 830,
742
+ 831,
743
+ 832,
744
+ 833,
745
+ 834,
746
+ 835,
747
+ 836,
748
+ 837,
749
+ 838,
750
+ 839,
751
+ 840,
752
+ 841,
753
+ 842,
754
+ 843,
755
+ 844,
756
+ 845,
757
+ 846,
758
+ 847,
759
+ 848,
760
+ 849,
761
+ 850,
762
+ 851,
763
+ 852,
764
+ 853,
765
+ 854,
766
+ 855,
767
+ 856,
768
+ 857,
769
+ 858,
770
+ 859,
771
+ 860,
772
+ 861,
773
+ 862,
774
+ 863,
775
+ 864,
776
+ 865,
777
+ 866,
778
+ 867,
779
+ 868,
780
+ 869,
781
+ 870,
782
+ 871,
783
+ 872,
784
+ 873,
785
+ 874,
786
+ 875,
787
+ 876,
788
+ 877,
789
+ 878,
790
+ 879,
791
+ 880,
792
+ 882,
793
+ 883,
794
+ 884,
795
+ 885,
796
+ 886,
797
+ 887,
798
+ 888,
799
+ 889,
800
+ 890,
801
+ 891,
802
+ 892,
803
+ 893,
804
+ 894,
805
+ 895,
806
+ 896,
807
+ 897,
808
+ 898,
809
+ 899,
810
+ 900,
811
+ 902,
812
+ 903,
813
+ 905,
814
+ 906,
815
+ 907,
816
+ 908,
817
+ 909,
818
+ 910,
819
+ 911,
820
+ 912,
821
+ 913,
822
+ 914,
823
+ 915,
824
+ 916,
825
+ 917,
826
+ 918,
827
+ 919,
828
+ 920,
829
+ 922,
830
+ 923,
831
+ 924,
832
+ 925,
833
+ 926,
834
+ 927,
835
+ 928,
836
+ 929,
837
+ 930,
838
+ 931,
839
+ 932,
840
+ 933,
841
+ 934,
842
+ 935,
843
+ 936,
844
+ 937,
845
+ 938,
846
+ 939,
847
+ 940,
848
+ 942,
849
+ 943,
850
+ 944,
851
+ 945,
852
+ 947,
853
+ 949,
854
+ 950,
855
+ 951,
856
+ 952,
857
+ 953,
858
+ 954,
859
+ 955,
860
+ 956,
861
+ 957,
862
+ 958,
863
+ 959,
864
+ 960,
865
+ 961,
866
+ 962,
867
+ 963,
868
+ 964,
869
+ 965,
870
+ 966,
871
+ 967,
872
+ 968,
873
+ 969,
874
+ 970,
875
+ 971,
876
+ 972,
877
+ 973,
878
+ 974,
879
+ 975,
880
+ 976,
881
+ 977,
882
+ 978,
883
+ 979,
884
+ 980,
885
+ 981,
886
+ 982,
887
+ 983,
888
+ 984,
889
+ 985,
890
+ 986,
891
+ 987,
892
+ 988,
893
+ 989,
894
+ 990,
895
+ 991,
896
+ 992,
897
+ 993,
898
+ 994,
899
+ 995,
900
+ 996,
901
+ 997,
902
+ 998,
903
+ 999,
904
+ 1000,
905
+ 1001,
906
+ 1002,
907
+ 1003,
908
+ 1004,
909
+ 1005,
910
+ 1006,
911
+ 1007,
912
+ 1008,
913
+ 1009,
914
+ 1010,
915
+ 1011,
916
+ 1012,
917
+ 1013,
918
+ 1014,
919
+ 1015,
920
+ 1016,
921
+ 1017,
922
+ 1018,
923
+ 1019,
924
+ 1020,
925
+ 1021,
926
+ 1022,
927
+ 1023,
928
+ 1024,
929
+ 1025,
930
+ 1026,
931
+ 1027,
932
+ 1028,
933
+ 1029,
934
+ 1030,
935
+ 1031,
936
+ 1032,
937
+ 1033,
938
+ 1034,
939
+ 1035,
940
+ 1036,
941
+ 1037,
942
+ 1038,
943
+ 1039,
944
+ 1040,
945
+ 1041,
946
+ 1042,
947
+ 1043,
948
+ 1044,
949
+ 1045,
950
+ 1046,
951
+ 1047,
952
+ 1048,
953
+ 1049,
954
+ 1050,
955
+ 1051,
956
+ 1052,
957
+ 1053,
958
+ 1054,
959
+ 1055,
960
+ 1056,
961
+ 1057,
962
+ 1058,
963
+ 1059,
964
+ 1060,
965
+ 1061,
966
+ 1062,
967
+ 1063,
968
+ 1064,
969
+ 1065,
970
+ 1066,
971
+ 1067,
972
+ 1068,
973
+ 1069,
974
+ 1070,
975
+ 1071,
976
+ 1072,
977
+ 1073,
978
+ 1074,
979
+ 1075,
980
+ 1076,
981
+ 1077,
982
+ 1078,
983
+ 1079,
984
+ 1080,
985
+ 1081,
986
+ 1082,
987
+ 1083,
988
+ 1084,
989
+ 1085,
990
+ 1086,
991
+ 1087,
992
+ 1088,
993
+ 1089,
994
+ 1090,
995
+ 1091,
996
+ 1092,
997
+ 1093,
998
+ 1094,
999
+ 1095,
1000
+ 1096,
1001
+ 1097,
1002
+ 1098,
1003
+ 1099,
1004
+ 1100,
1005
+ 1101,
1006
+ 1102,
1007
+ 1103,
1008
+ 1104,
1009
+ 1105,
1010
+ 1106,
1011
+ 1107,
1012
+ 1108,
1013
+ 1109,
1014
+ 1110,
1015
+ 1111,
1016
+ 1112,
1017
+ 1113,
1018
+ 1114,
1019
+ 1115,
1020
+ 1116,
1021
+ 1117,
1022
+ 1118,
1023
+ 1119,
1024
+ 1120,
1025
+ 1121,
1026
+ 1122,
1027
+ 1123,
1028
+ 1124,
1029
+ 1125,
1030
+ 1126,
1031
+ 1127,
1032
+ 1128,
1033
+ 1129,
1034
+ 1130,
1035
+ 1131,
1036
+ 1132,
1037
+ 1133,
1038
+ 1134,
1039
+ 1135,
1040
+ 1136,
1041
+ 1137,
1042
+ 1138,
1043
+ 1139,
1044
+ 1140,
1045
+ 1141,
1046
+ 1142,
1047
+ 1143,
1048
+ 1144,
1049
+ 1145,
1050
+ 1146,
1051
+ 1147,
1052
+ 1148,
1053
+ 1149,
1054
+ 1250,
1055
+ 1251,
1056
+ 1252,
1057
+ 1253,
1058
+ 1254,
1059
+ 1255,
1060
+ 1256,
1061
+ 1257,
1062
+ 1258,
1063
+ 1259,
1064
+ 1260,
1065
+ 1261,
1066
+ 1262,
1067
+ 1263,
1068
+ 1264,
1069
+ 1265,
1070
+ 1266,
1071
+ 1267,
1072
+ 1268,
1073
+ 1269,
1074
+ 1354,
1075
+ 1357,
1076
+ 1361,
1077
+ 1365,
1078
+ 1367,
1079
+ 1369,
1080
+ 1372,
1081
+ 1376,
1082
+ 1379,
1083
+ 1384,
1084
+ 1399,
1085
+ 1402,
1086
+ 1414,
1087
+ 1425,
1088
+ 1426,
1089
+ 1427,
1090
+ 1428,
1091
+ 1429,
1092
+ 1430,
1093
+ 1431,
1094
+ 1432,
1095
+ 1433,
1096
+ 1434,
1097
+ 1435,
1098
+ 1436,
1099
+ 1437,
1100
+ 1438,
1101
+ 1439,
1102
+ 1440,
1103
+ 1441,
1104
+ 1442,
1105
+ 1443,
1106
+ 1447,
1107
+ 1448,
1108
+ 1449,
1109
+ 1450,
1110
+ 1451,
1111
+ 1452,
1112
+ 1453,
1113
+ 1470,
1114
+ 1471,
1115
+ 1472,
1116
+ 1473,
1117
+ 1474,
1118
+ 1475,
1119
+ 1476,
1120
+ 1477,
1121
+ 1478,
1122
+ 1479,
1123
+ 1480,
1124
+ 1481,
1125
+ 1482,
1126
+ 1483,
1127
+ 1484,
1128
+ 1485,
1129
+ 1486,
1130
+ 1487,
1131
+ 1488,
1132
+ 1489,
1133
+ 1490,
1134
+ 1491,
1135
+ 1492,
1136
+ 1493,
1137
+ 1494,
1138
+ 1495,
1139
+ 1496,
1140
+ 1497,
1141
+ 1498,
1142
+ 1499
1143
+ ],
1144
+ "not_both_correct_indices": [
1145
+ 275,
1146
+ 276,
1147
+ 277,
1148
+ 278,
1149
+ 279,
1150
+ 280,
1151
+ 281,
1152
+ 282,
1153
+ 283,
1154
+ 284,
1155
+ 285,
1156
+ 286,
1157
+ 287,
1158
+ 288,
1159
+ 289,
1160
+ 290,
1161
+ 291,
1162
+ 292,
1163
+ 293,
1164
+ 294,
1165
+ 295,
1166
+ 296,
1167
+ 297,
1168
+ 298,
1169
+ 299,
1170
+ 300,
1171
+ 301,
1172
+ 302,
1173
+ 303,
1174
+ 304,
1175
+ 305,
1176
+ 306,
1177
+ 307,
1178
+ 308,
1179
+ 309,
1180
+ 310,
1181
+ 311,
1182
+ 312,
1183
+ 313,
1184
+ 314,
1185
+ 315,
1186
+ 316,
1187
+ 317,
1188
+ 318,
1189
+ 319,
1190
+ 320,
1191
+ 321,
1192
+ 322,
1193
+ 323,
1194
+ 324,
1195
+ 325,
1196
+ 326,
1197
+ 327,
1198
+ 328,
1199
+ 329,
1200
+ 330,
1201
+ 331,
1202
+ 332,
1203
+ 333,
1204
+ 334,
1205
+ 335,
1206
+ 336,
1207
+ 337,
1208
+ 338,
1209
+ 339,
1210
+ 340,
1211
+ 341,
1212
+ 342,
1213
+ 343,
1214
+ 344,
1215
+ 345,
1216
+ 346,
1217
+ 347,
1218
+ 348,
1219
+ 349,
1220
+ 350,
1221
+ 351,
1222
+ 352,
1223
+ 353,
1224
+ 354,
1225
+ 355,
1226
+ 356,
1227
+ 357,
1228
+ 358,
1229
+ 359,
1230
+ 360,
1231
+ 361,
1232
+ 362,
1233
+ 363,
1234
+ 364,
1235
+ 365,
1236
+ 366,
1237
+ 367,
1238
+ 368,
1239
+ 369,
1240
+ 370,
1241
+ 371,
1242
+ 372,
1243
+ 373,
1244
+ 374,
1245
+ 881,
1246
+ 901,
1247
+ 904,
1248
+ 921,
1249
+ 941,
1250
+ 946,
1251
+ 948,
1252
+ 1150,
1253
+ 1151,
1254
+ 1152,
1255
+ 1153,
1256
+ 1154,
1257
+ 1155,
1258
+ 1156,
1259
+ 1157,
1260
+ 1158,
1261
+ 1159,
1262
+ 1160,
1263
+ 1161,
1264
+ 1162,
1265
+ 1163,
1266
+ 1164,
1267
+ 1165,
1268
+ 1166,
1269
+ 1167,
1270
+ 1168,
1271
+ 1169,
1272
+ 1170,
1273
+ 1171,
1274
+ 1172,
1275
+ 1173,
1276
+ 1174,
1277
+ 1175,
1278
+ 1176,
1279
+ 1177,
1280
+ 1178,
1281
+ 1179,
1282
+ 1180,
1283
+ 1181,
1284
+ 1182,
1285
+ 1183,
1286
+ 1184,
1287
+ 1185,
1288
+ 1186,
1289
+ 1187,
1290
+ 1188,
1291
+ 1189,
1292
+ 1190,
1293
+ 1191,
1294
+ 1192,
1295
+ 1193,
1296
+ 1194,
1297
+ 1195,
1298
+ 1196,
1299
+ 1197,
1300
+ 1198,
1301
+ 1199,
1302
+ 1200,
1303
+ 1201,
1304
+ 1202,
1305
+ 1203,
1306
+ 1204,
1307
+ 1205,
1308
+ 1206,
1309
+ 1207,
1310
+ 1208,
1311
+ 1209,
1312
+ 1210,
1313
+ 1211,
1314
+ 1212,
1315
+ 1213,
1316
+ 1214,
1317
+ 1215,
1318
+ 1216,
1319
+ 1217,
1320
+ 1218,
1321
+ 1219,
1322
+ 1220,
1323
+ 1221,
1324
+ 1222,
1325
+ 1223,
1326
+ 1224,
1327
+ 1225,
1328
+ 1226,
1329
+ 1227,
1330
+ 1228,
1331
+ 1229,
1332
+ 1230,
1333
+ 1231,
1334
+ 1232,
1335
+ 1233,
1336
+ 1234,
1337
+ 1235,
1338
+ 1236,
1339
+ 1237,
1340
+ 1238,
1341
+ 1239,
1342
+ 1240,
1343
+ 1241,
1344
+ 1242,
1345
+ 1243,
1346
+ 1244,
1347
+ 1245,
1348
+ 1246,
1349
+ 1247,
1350
+ 1248,
1351
+ 1249,
1352
+ 1270,
1353
+ 1271,
1354
+ 1272,
1355
+ 1273,
1356
+ 1274,
1357
+ 1275,
1358
+ 1276,
1359
+ 1277,
1360
+ 1278,
1361
+ 1279,
1362
+ 1280,
1363
+ 1281,
1364
+ 1282,
1365
+ 1283,
1366
+ 1284,
1367
+ 1285,
1368
+ 1286,
1369
+ 1287,
1370
+ 1288,
1371
+ 1289,
1372
+ 1290,
1373
+ 1291,
1374
+ 1292,
1375
+ 1293,
1376
+ 1294,
1377
+ 1295,
1378
+ 1296,
1379
+ 1297,
1380
+ 1298,
1381
+ 1299,
1382
+ 1300,
1383
+ 1301,
1384
+ 1302,
1385
+ 1303,
1386
+ 1304,
1387
+ 1305,
1388
+ 1306,
1389
+ 1307,
1390
+ 1308,
1391
+ 1309,
1392
+ 1310,
1393
+ 1311,
1394
+ 1312,
1395
+ 1313,
1396
+ 1314,
1397
+ 1315,
1398
+ 1316,
1399
+ 1317,
1400
+ 1318,
1401
+ 1319,
1402
+ 1320,
1403
+ 1321,
1404
+ 1322,
1405
+ 1323,
1406
+ 1324,
1407
+ 1325,
1408
+ 1326,
1409
+ 1327,
1410
+ 1328,
1411
+ 1329,
1412
+ 1330,
1413
+ 1331,
1414
+ 1332,
1415
+ 1333,
1416
+ 1334,
1417
+ 1335,
1418
+ 1336,
1419
+ 1337,
1420
+ 1338,
1421
+ 1339,
1422
+ 1340,
1423
+ 1341,
1424
+ 1342,
1425
+ 1343,
1426
+ 1344,
1427
+ 1345,
1428
+ 1346,
1429
+ 1347,
1430
+ 1348,
1431
+ 1349,
1432
+ 1350,
1433
+ 1351,
1434
+ 1352,
1435
+ 1353,
1436
+ 1355,
1437
+ 1356,
1438
+ 1358,
1439
+ 1359,
1440
+ 1360,
1441
+ 1362,
1442
+ 1363,
1443
+ 1364,
1444
+ 1366,
1445
+ 1368,
1446
+ 1370,
1447
+ 1371,
1448
+ 1373,
1449
+ 1374,
1450
+ 1375,
1451
+ 1377,
1452
+ 1378,
1453
+ 1380,
1454
+ 1381,
1455
+ 1382,
1456
+ 1383,
1457
+ 1385,
1458
+ 1386,
1459
+ 1387,
1460
+ 1388,
1461
+ 1389,
1462
+ 1390,
1463
+ 1391,
1464
+ 1392,
1465
+ 1393,
1466
+ 1394,
1467
+ 1395,
1468
+ 1396,
1469
+ 1397,
1470
+ 1398,
1471
+ 1400,
1472
+ 1401,
1473
+ 1403,
1474
+ 1404,
1475
+ 1405,
1476
+ 1406,
1477
+ 1407,
1478
+ 1408,
1479
+ 1409,
1480
+ 1410,
1481
+ 1411,
1482
+ 1412,
1483
+ 1413,
1484
+ 1415,
1485
+ 1416,
1486
+ 1417,
1487
+ 1418,
1488
+ 1419,
1489
+ 1420,
1490
+ 1421,
1491
+ 1422,
1492
+ 1423,
1493
+ 1424,
1494
+ 1444,
1495
+ 1445,
1496
+ 1446,
1497
+ 1454,
1498
+ 1455,
1499
+ 1456,
1500
+ 1457,
1501
+ 1458,
1502
+ 1459,
1503
+ 1460,
1504
+ 1461,
1505
+ 1462,
1506
+ 1463,
1507
+ 1464,
1508
+ 1465,
1509
+ 1466,
1510
+ 1467,
1511
+ 1468,
1512
+ 1469,
1513
+ 1500,
1514
+ 1501,
1515
+ 1502,
1516
+ 1503,
1517
+ 1504,
1518
+ 1505,
1519
+ 1506,
1520
+ 1507,
1521
+ 1508,
1522
+ 1509,
1523
+ 1510,
1524
+ 1511,
1525
+ 1512,
1526
+ 1513,
1527
+ 1514,
1528
+ 1515,
1529
+ 1516,
1530
+ 1517,
1531
+ 1518,
1532
+ 1519,
1533
+ 1520,
1534
+ 1521,
1535
+ 1522,
1536
+ 1523,
1537
+ 1524,
1538
+ 1525,
1539
+ 1526,
1540
+ 1527,
1541
+ 1528,
1542
+ 1529,
1543
+ 1530,
1544
+ 1531,
1545
+ 1532,
1546
+ 1533,
1547
+ 1534,
1548
+ 1535,
1549
+ 1536,
1550
+ 1537,
1551
+ 1538,
1552
+ 1539,
1553
+ 1540,
1554
+ 1541,
1555
+ 1542,
1556
+ 1543,
1557
+ 1544,
1558
+ 1545,
1559
+ 1546,
1560
+ 1547,
1561
+ 1548,
1562
+ 1549,
1563
+ 1550,
1564
+ 1551,
1565
+ 1552,
1566
+ 1553,
1567
+ 1554,
1568
+ 1555,
1569
+ 1556,
1570
+ 1557,
1571
+ 1558,
1572
+ 1559,
1573
+ 1560,
1574
+ 1561,
1575
+ 1562,
1576
+ 1563,
1577
+ 1564,
1578
+ 1565,
1579
+ 1566,
1580
+ 1567,
1581
+ 1568,
1582
+ 1569,
1583
+ 1570,
1584
+ 1571,
1585
+ 1572,
1586
+ 1573,
1587
+ 1574,
1588
+ 1575,
1589
+ 1576,
1590
+ 1577,
1591
+ 1578,
1592
+ 1579,
1593
+ 1580,
1594
+ 1581,
1595
+ 1582,
1596
+ 1583,
1597
+ 1584,
1598
+ 1585,
1599
+ 1586,
1600
+ 1587,
1601
+ 1588,
1602
+ 1589,
1603
+ 1590,
1604
+ 1591,
1605
+ 1592,
1606
+ 1593,
1607
+ 1594,
1608
+ 1595,
1609
+ 1596,
1610
+ 1597,
1611
+ 1598,
1612
+ 1599
1613
+ ],
1614
+ "clean_baseline": 10.96875,
1615
+ "corrupted_baseline": -9.5859375
1616
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/secondary_emotions/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:11382f5ca542d3962b9dff726dcba832a25a4a353d691ae642faaaa2dd7299ee
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/secondary_emotions/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:3a2762dc5214b5654bf4c6c5ff6064693b6036dd0c141bce976e1efd49390ce7
3
+ size 9062304
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_interactions/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_interactions/baselines.json ADDED
@@ -0,0 +1,220 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 204,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 204,
6
+ "clean_accuracy": 0.9754901960784313,
7
+ "corrupted_accuracy": 0.9264705882352942,
8
+ "both_correct_accuracy": 0.9068627450980392,
9
+ "n_both_correct": 185,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 9,
20
+ 10,
21
+ 11,
22
+ 12,
23
+ 13,
24
+ 14,
25
+ 15,
26
+ 16,
27
+ 17,
28
+ 18,
29
+ 19,
30
+ 20,
31
+ 21,
32
+ 22,
33
+ 23,
34
+ 24,
35
+ 25,
36
+ 26,
37
+ 27,
38
+ 28,
39
+ 29,
40
+ 30,
41
+ 31,
42
+ 32,
43
+ 33,
44
+ 34,
45
+ 35,
46
+ 36,
47
+ 37,
48
+ 38,
49
+ 39,
50
+ 40,
51
+ 42,
52
+ 43,
53
+ 44,
54
+ 45,
55
+ 46,
56
+ 47,
57
+ 48,
58
+ 49,
59
+ 50,
60
+ 51,
61
+ 52,
62
+ 53,
63
+ 54,
64
+ 55,
65
+ 56,
66
+ 57,
67
+ 58,
68
+ 59,
69
+ 60,
70
+ 61,
71
+ 62,
72
+ 63,
73
+ 64,
74
+ 65,
75
+ 66,
76
+ 67,
77
+ 68,
78
+ 69,
79
+ 70,
80
+ 71,
81
+ 72,
82
+ 73,
83
+ 74,
84
+ 75,
85
+ 76,
86
+ 77,
87
+ 78,
88
+ 79,
89
+ 80,
90
+ 81,
91
+ 82,
92
+ 83,
93
+ 84,
94
+ 85,
95
+ 86,
96
+ 87,
97
+ 88,
98
+ 89,
99
+ 90,
100
+ 91,
101
+ 92,
102
+ 93,
103
+ 94,
104
+ 96,
105
+ 97,
106
+ 98,
107
+ 99,
108
+ 100,
109
+ 104,
110
+ 105,
111
+ 106,
112
+ 107,
113
+ 108,
114
+ 109,
115
+ 110,
116
+ 111,
117
+ 112,
118
+ 113,
119
+ 114,
120
+ 115,
121
+ 116,
122
+ 117,
123
+ 118,
124
+ 119,
125
+ 120,
126
+ 121,
127
+ 122,
128
+ 123,
129
+ 124,
130
+ 125,
131
+ 127,
132
+ 128,
133
+ 129,
134
+ 130,
135
+ 132,
136
+ 133,
137
+ 134,
138
+ 135,
139
+ 136,
140
+ 137,
141
+ 138,
142
+ 144,
143
+ 145,
144
+ 146,
145
+ 147,
146
+ 148,
147
+ 149,
148
+ 150,
149
+ 151,
150
+ 152,
151
+ 153,
152
+ 154,
153
+ 156,
154
+ 157,
155
+ 158,
156
+ 159,
157
+ 160,
158
+ 161,
159
+ 162,
160
+ 163,
161
+ 164,
162
+ 165,
163
+ 166,
164
+ 167,
165
+ 168,
166
+ 169,
167
+ 170,
168
+ 171,
169
+ 172,
170
+ 173,
171
+ 174,
172
+ 175,
173
+ 176,
174
+ 177,
175
+ 178,
176
+ 179,
177
+ 180,
178
+ 181,
179
+ 183,
180
+ 184,
181
+ 185,
182
+ 186,
183
+ 187,
184
+ 188,
185
+ 189,
186
+ 190,
187
+ 191,
188
+ 192,
189
+ 193,
190
+ 197,
191
+ 198,
192
+ 199,
193
+ 200,
194
+ 201,
195
+ 202
196
+ ],
197
+ "not_both_correct_indices": [
198
+ 8,
199
+ 41,
200
+ 95,
201
+ 101,
202
+ 102,
203
+ 103,
204
+ 126,
205
+ 131,
206
+ 139,
207
+ 140,
208
+ 141,
209
+ 142,
210
+ 143,
211
+ 155,
212
+ 182,
213
+ 194,
214
+ 195,
215
+ 196,
216
+ 203
217
+ ],
218
+ "clean_baseline": 9.109375,
219
+ "corrupted_baseline": -8.4296875
220
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_interactions/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a3a5129d06d779c061114a18855ab3d0583da38aa62ea7379c88dfea5b07566d
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_interactions/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:aee2d71bf3ef6de7b4302818a7e8968b8b2462baac308cf02f3ffb1b15540a83
3
+ size 9033464
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_relations/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_relations/baselines.json ADDED
@@ -0,0 +1,304 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 288,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 288,
6
+ "clean_accuracy": 0.8715277777777778,
7
+ "corrupted_accuracy": 0.8506944444444444,
8
+ "both_correct_accuracy": 0.7395833333333334,
9
+ "n_both_correct": 213,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 13,
23
+ 14,
24
+ 15,
25
+ 16,
26
+ 17,
27
+ 18,
28
+ 19,
29
+ 20,
30
+ 21,
31
+ 22,
32
+ 23,
33
+ 24,
34
+ 25,
35
+ 26,
36
+ 27,
37
+ 28,
38
+ 30,
39
+ 31,
40
+ 32,
41
+ 33,
42
+ 35,
43
+ 37,
44
+ 38,
45
+ 39,
46
+ 40,
47
+ 41,
48
+ 42,
49
+ 43,
50
+ 44,
51
+ 45,
52
+ 46,
53
+ 47,
54
+ 48,
55
+ 49,
56
+ 50,
57
+ 51,
58
+ 54,
59
+ 55,
60
+ 58,
61
+ 59,
62
+ 62,
63
+ 63,
64
+ 66,
65
+ 67,
66
+ 70,
67
+ 71,
68
+ 72,
69
+ 73,
70
+ 75,
71
+ 77,
72
+ 79,
73
+ 80,
74
+ 82,
75
+ 83,
76
+ 84,
77
+ 86,
78
+ 87,
79
+ 88,
80
+ 89,
81
+ 90,
82
+ 91,
83
+ 92,
84
+ 93,
85
+ 94,
86
+ 95,
87
+ 96,
88
+ 97,
89
+ 98,
90
+ 99,
91
+ 100,
92
+ 101,
93
+ 102,
94
+ 103,
95
+ 104,
96
+ 105,
97
+ 106,
98
+ 107,
99
+ 108,
100
+ 109,
101
+ 114,
102
+ 115,
103
+ 116,
104
+ 117,
105
+ 118,
106
+ 119,
107
+ 120,
108
+ 121,
109
+ 122,
110
+ 123,
111
+ 124,
112
+ 125,
113
+ 126,
114
+ 127,
115
+ 128,
116
+ 129,
117
+ 130,
118
+ 131,
119
+ 132,
120
+ 133,
121
+ 134,
122
+ 135,
123
+ 136,
124
+ 137,
125
+ 138,
126
+ 139,
127
+ 140,
128
+ 141,
129
+ 142,
130
+ 143,
131
+ 144,
132
+ 145,
133
+ 146,
134
+ 147,
135
+ 148,
136
+ 149,
137
+ 150,
138
+ 151,
139
+ 152,
140
+ 153,
141
+ 154,
142
+ 155,
143
+ 156,
144
+ 157,
145
+ 158,
146
+ 159,
147
+ 160,
148
+ 161,
149
+ 162,
150
+ 163,
151
+ 164,
152
+ 165,
153
+ 166,
154
+ 170,
155
+ 172,
156
+ 176,
157
+ 177,
158
+ 180,
159
+ 182,
160
+ 183,
161
+ 185,
162
+ 186,
163
+ 187,
164
+ 188,
165
+ 189,
166
+ 190,
167
+ 192,
168
+ 193,
169
+ 194,
170
+ 195,
171
+ 196,
172
+ 197,
173
+ 205,
174
+ 213,
175
+ 218,
176
+ 219,
177
+ 220,
178
+ 221,
179
+ 223,
180
+ 225,
181
+ 228,
182
+ 230,
183
+ 231,
184
+ 232,
185
+ 233,
186
+ 234,
187
+ 235,
188
+ 236,
189
+ 237,
190
+ 238,
191
+ 239,
192
+ 240,
193
+ 241,
194
+ 242,
195
+ 243,
196
+ 244,
197
+ 245,
198
+ 246,
199
+ 247,
200
+ 248,
201
+ 249,
202
+ 251,
203
+ 254,
204
+ 255,
205
+ 256,
206
+ 257,
207
+ 258,
208
+ 259,
209
+ 260,
210
+ 262,
211
+ 263,
212
+ 265,
213
+ 266,
214
+ 267,
215
+ 268,
216
+ 269,
217
+ 270,
218
+ 271,
219
+ 272,
220
+ 280,
221
+ 283,
222
+ 285,
223
+ 286
224
+ ],
225
+ "not_both_correct_indices": [
226
+ 11,
227
+ 12,
228
+ 29,
229
+ 34,
230
+ 36,
231
+ 52,
232
+ 53,
233
+ 56,
234
+ 57,
235
+ 60,
236
+ 61,
237
+ 64,
238
+ 65,
239
+ 68,
240
+ 69,
241
+ 74,
242
+ 76,
243
+ 78,
244
+ 81,
245
+ 85,
246
+ 110,
247
+ 111,
248
+ 112,
249
+ 113,
250
+ 167,
251
+ 168,
252
+ 169,
253
+ 171,
254
+ 173,
255
+ 174,
256
+ 175,
257
+ 178,
258
+ 179,
259
+ 181,
260
+ 184,
261
+ 191,
262
+ 198,
263
+ 199,
264
+ 200,
265
+ 201,
266
+ 202,
267
+ 203,
268
+ 204,
269
+ 206,
270
+ 207,
271
+ 208,
272
+ 209,
273
+ 210,
274
+ 211,
275
+ 212,
276
+ 214,
277
+ 215,
278
+ 216,
279
+ 217,
280
+ 222,
281
+ 224,
282
+ 226,
283
+ 227,
284
+ 229,
285
+ 250,
286
+ 252,
287
+ 253,
288
+ 261,
289
+ 264,
290
+ 273,
291
+ 274,
292
+ 275,
293
+ 276,
294
+ 277,
295
+ 278,
296
+ 279,
297
+ 281,
298
+ 282,
299
+ 284,
300
+ 287
301
+ ],
302
+ "clean_baseline": 7.8984375,
303
+ "corrupted_baseline": -8.6875
304
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_relations/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fed7c3301631a61925422a69f56db7757af28e4bb4546ae0277f4e7d31aaee5d
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/ToM/social_relations/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f444b86d979d531e2063489e577eadba7d0b6537f8cc68448708666f24ad806d
3
+ size 9034968
results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_newton/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_newton/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.88,
7
+ "corrupted_accuracy": 0.871,
8
+ "both_correct_accuracy": 0.765,
9
+ "n_both_correct": 765,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 3,
14
+ 4,
15
+ 5,
16
+ 6,
17
+ 7,
18
+ 8,
19
+ 9,
20
+ 12,
21
+ 13,
22
+ 14,
23
+ 15,
24
+ 16,
25
+ 17,
26
+ 18,
27
+ 19,
28
+ 20,
29
+ 25,
30
+ 26,
31
+ 27,
32
+ 28,
33
+ 29,
34
+ 30,
35
+ 31,
36
+ 32,
37
+ 36,
38
+ 37,
39
+ 38,
40
+ 39,
41
+ 40,
42
+ 41,
43
+ 42,
44
+ 43,
45
+ 44,
46
+ 45,
47
+ 46,
48
+ 47,
49
+ 48,
50
+ 50,
51
+ 51,
52
+ 52,
53
+ 53,
54
+ 54,
55
+ 55,
56
+ 56,
57
+ 57,
58
+ 58,
59
+ 63,
60
+ 64,
61
+ 65,
62
+ 66,
63
+ 69,
64
+ 70,
65
+ 71,
66
+ 72,
67
+ 73,
68
+ 74,
69
+ 75,
70
+ 76,
71
+ 77,
72
+ 78,
73
+ 80,
74
+ 81,
75
+ 82,
76
+ 84,
77
+ 85,
78
+ 86,
79
+ 87,
80
+ 88,
81
+ 89,
82
+ 90,
83
+ 91,
84
+ 92,
85
+ 93,
86
+ 94,
87
+ 95,
88
+ 96,
89
+ 97,
90
+ 98,
91
+ 99,
92
+ 100,
93
+ 101,
94
+ 102,
95
+ 103,
96
+ 104,
97
+ 105,
98
+ 106,
99
+ 111,
100
+ 112,
101
+ 113,
102
+ 114,
103
+ 115,
104
+ 116,
105
+ 117,
106
+ 118,
107
+ 119,
108
+ 121,
109
+ 124,
110
+ 125,
111
+ 126,
112
+ 127,
113
+ 128,
114
+ 129,
115
+ 130,
116
+ 131,
117
+ 132,
118
+ 134,
119
+ 135,
120
+ 136,
121
+ 137,
122
+ 138,
123
+ 139,
124
+ 140,
125
+ 144,
126
+ 145,
127
+ 146,
128
+ 150,
129
+ 151,
130
+ 152,
131
+ 153,
132
+ 154,
133
+ 156,
134
+ 159,
135
+ 160,
136
+ 161,
137
+ 162,
138
+ 163,
139
+ 164,
140
+ 166,
141
+ 167,
142
+ 168,
143
+ 169,
144
+ 170,
145
+ 172,
146
+ 173,
147
+ 174,
148
+ 175,
149
+ 176,
150
+ 177,
151
+ 178,
152
+ 179,
153
+ 180,
154
+ 181,
155
+ 182,
156
+ 183,
157
+ 184,
158
+ 185,
159
+ 186,
160
+ 187,
161
+ 188,
162
+ 189,
163
+ 190,
164
+ 192,
165
+ 193,
166
+ 194,
167
+ 195,
168
+ 197,
169
+ 198,
170
+ 200,
171
+ 201,
172
+ 202,
173
+ 203,
174
+ 204,
175
+ 207,
176
+ 208,
177
+ 209,
178
+ 210,
179
+ 211,
180
+ 212,
181
+ 213,
182
+ 214,
183
+ 215,
184
+ 216,
185
+ 219,
186
+ 220,
187
+ 221,
188
+ 222,
189
+ 224,
190
+ 228,
191
+ 229,
192
+ 230,
193
+ 231,
194
+ 232,
195
+ 233,
196
+ 234,
197
+ 235,
198
+ 236,
199
+ 237,
200
+ 238,
201
+ 240,
202
+ 241,
203
+ 242,
204
+ 243,
205
+ 245,
206
+ 246,
207
+ 248,
208
+ 249,
209
+ 250,
210
+ 251,
211
+ 253,
212
+ 254,
213
+ 256,
214
+ 258,
215
+ 260,
216
+ 262,
217
+ 266,
218
+ 274,
219
+ 276,
220
+ 277,
221
+ 280,
222
+ 282,
223
+ 284,
224
+ 286,
225
+ 287,
226
+ 288,
227
+ 292,
228
+ 294,
229
+ 296,
230
+ 298,
231
+ 299,
232
+ 300,
233
+ 302,
234
+ 303,
235
+ 304,
236
+ 305,
237
+ 307,
238
+ 308,
239
+ 310,
240
+ 311,
241
+ 312,
242
+ 313,
243
+ 316,
244
+ 326,
245
+ 328,
246
+ 329,
247
+ 332,
248
+ 335,
249
+ 336,
250
+ 337,
251
+ 340,
252
+ 341,
253
+ 342,
254
+ 344,
255
+ 347,
256
+ 348,
257
+ 350,
258
+ 351,
259
+ 352,
260
+ 354,
261
+ 355,
262
+ 356,
263
+ 357,
264
+ 358,
265
+ 361,
266
+ 363,
267
+ 367,
268
+ 369,
269
+ 370,
270
+ 371,
271
+ 373,
272
+ 375,
273
+ 377,
274
+ 378,
275
+ 379,
276
+ 381,
277
+ 383,
278
+ 384,
279
+ 385,
280
+ 386,
281
+ 387,
282
+ 388,
283
+ 389,
284
+ 391,
285
+ 392,
286
+ 393,
287
+ 394,
288
+ 395,
289
+ 396,
290
+ 397,
291
+ 398,
292
+ 399,
293
+ 400,
294
+ 401,
295
+ 404,
296
+ 405,
297
+ 407,
298
+ 409,
299
+ 411,
300
+ 412,
301
+ 414,
302
+ 415,
303
+ 416,
304
+ 418,
305
+ 419,
306
+ 420,
307
+ 421,
308
+ 422,
309
+ 423,
310
+ 425,
311
+ 426,
312
+ 429,
313
+ 430,
314
+ 431,
315
+ 432,
316
+ 433,
317
+ 434,
318
+ 435,
319
+ 436,
320
+ 437,
321
+ 438,
322
+ 439,
323
+ 440,
324
+ 441,
325
+ 442,
326
+ 444,
327
+ 445,
328
+ 446,
329
+ 447,
330
+ 448,
331
+ 449,
332
+ 450,
333
+ 451,
334
+ 452,
335
+ 453,
336
+ 454,
337
+ 455,
338
+ 456,
339
+ 457,
340
+ 458,
341
+ 459,
342
+ 462,
343
+ 463,
344
+ 464,
345
+ 465,
346
+ 466,
347
+ 467,
348
+ 468,
349
+ 469,
350
+ 470,
351
+ 471,
352
+ 472,
353
+ 473,
354
+ 474,
355
+ 475,
356
+ 476,
357
+ 478,
358
+ 479,
359
+ 480,
360
+ 481,
361
+ 482,
362
+ 483,
363
+ 484,
364
+ 485,
365
+ 486,
366
+ 487,
367
+ 488,
368
+ 489,
369
+ 492,
370
+ 493,
371
+ 495,
372
+ 496,
373
+ 497,
374
+ 499,
375
+ 500,
376
+ 501,
377
+ 502,
378
+ 503,
379
+ 504,
380
+ 505,
381
+ 506,
382
+ 507,
383
+ 509,
384
+ 510,
385
+ 511,
386
+ 512,
387
+ 513,
388
+ 514,
389
+ 515,
390
+ 516,
391
+ 517,
392
+ 518,
393
+ 519,
394
+ 521,
395
+ 522,
396
+ 523,
397
+ 524,
398
+ 526,
399
+ 527,
400
+ 528,
401
+ 529,
402
+ 530,
403
+ 531,
404
+ 532,
405
+ 533,
406
+ 534,
407
+ 535,
408
+ 536,
409
+ 537,
410
+ 538,
411
+ 539,
412
+ 540,
413
+ 541,
414
+ 542,
415
+ 543,
416
+ 544,
417
+ 545,
418
+ 546,
419
+ 548,
420
+ 549,
421
+ 551,
422
+ 552,
423
+ 554,
424
+ 555,
425
+ 556,
426
+ 557,
427
+ 558,
428
+ 559,
429
+ 560,
430
+ 561,
431
+ 563,
432
+ 564,
433
+ 565,
434
+ 566,
435
+ 567,
436
+ 568,
437
+ 569,
438
+ 570,
439
+ 572,
440
+ 573,
441
+ 574,
442
+ 575,
443
+ 577,
444
+ 579,
445
+ 580,
446
+ 581,
447
+ 582,
448
+ 583,
449
+ 584,
450
+ 585,
451
+ 586,
452
+ 587,
453
+ 588,
454
+ 589,
455
+ 590,
456
+ 591,
457
+ 593,
458
+ 595,
459
+ 596,
460
+ 597,
461
+ 598,
462
+ 599,
463
+ 600,
464
+ 601,
465
+ 602,
466
+ 603,
467
+ 604,
468
+ 605,
469
+ 606,
470
+ 607,
471
+ 608,
472
+ 609,
473
+ 610,
474
+ 611,
475
+ 612,
476
+ 614,
477
+ 616,
478
+ 617,
479
+ 618,
480
+ 619,
481
+ 620,
482
+ 621,
483
+ 622,
484
+ 623,
485
+ 624,
486
+ 625,
487
+ 626,
488
+ 627,
489
+ 629,
490
+ 630,
491
+ 631,
492
+ 632,
493
+ 633,
494
+ 634,
495
+ 636,
496
+ 637,
497
+ 638,
498
+ 639,
499
+ 640,
500
+ 641,
501
+ 642,
502
+ 643,
503
+ 645,
504
+ 646,
505
+ 648,
506
+ 649,
507
+ 650,
508
+ 651,
509
+ 653,
510
+ 654,
511
+ 656,
512
+ 658,
513
+ 659,
514
+ 660,
515
+ 661,
516
+ 662,
517
+ 663,
518
+ 664,
519
+ 665,
520
+ 666,
521
+ 667,
522
+ 668,
523
+ 669,
524
+ 670,
525
+ 671,
526
+ 672,
527
+ 674,
528
+ 677,
529
+ 678,
530
+ 679,
531
+ 680,
532
+ 681,
533
+ 682,
534
+ 683,
535
+ 684,
536
+ 685,
537
+ 686,
538
+ 690,
539
+ 691,
540
+ 692,
541
+ 693,
542
+ 694,
543
+ 696,
544
+ 697,
545
+ 698,
546
+ 699,
547
+ 700,
548
+ 701,
549
+ 702,
550
+ 704,
551
+ 705,
552
+ 706,
553
+ 709,
554
+ 710,
555
+ 711,
556
+ 713,
557
+ 716,
558
+ 717,
559
+ 718,
560
+ 721,
561
+ 722,
562
+ 723,
563
+ 724,
564
+ 725,
565
+ 727,
566
+ 729,
567
+ 731,
568
+ 732,
569
+ 734,
570
+ 735,
571
+ 736,
572
+ 737,
573
+ 739,
574
+ 740,
575
+ 741,
576
+ 742,
577
+ 743,
578
+ 744,
579
+ 745,
580
+ 748,
581
+ 750,
582
+ 751,
583
+ 752,
584
+ 753,
585
+ 754,
586
+ 755,
587
+ 759,
588
+ 760,
589
+ 761,
590
+ 762,
591
+ 763,
592
+ 764,
593
+ 765,
594
+ 766,
595
+ 767,
596
+ 768,
597
+ 771,
598
+ 772,
599
+ 773,
600
+ 775,
601
+ 776,
602
+ 777,
603
+ 779,
604
+ 780,
605
+ 781,
606
+ 782,
607
+ 783,
608
+ 784,
609
+ 785,
610
+ 786,
611
+ 787,
612
+ 789,
613
+ 791,
614
+ 793,
615
+ 794,
616
+ 795,
617
+ 796,
618
+ 797,
619
+ 798,
620
+ 800,
621
+ 802,
622
+ 803,
623
+ 804,
624
+ 805,
625
+ 806,
626
+ 807,
627
+ 808,
628
+ 809,
629
+ 810,
630
+ 811,
631
+ 812,
632
+ 813,
633
+ 814,
634
+ 816,
635
+ 818,
636
+ 823,
637
+ 825,
638
+ 826,
639
+ 829,
640
+ 830,
641
+ 831,
642
+ 833,
643
+ 834,
644
+ 836,
645
+ 837,
646
+ 841,
647
+ 842,
648
+ 843,
649
+ 844,
650
+ 845,
651
+ 846,
652
+ 847,
653
+ 848,
654
+ 849,
655
+ 850,
656
+ 851,
657
+ 852,
658
+ 853,
659
+ 854,
660
+ 856,
661
+ 857,
662
+ 858,
663
+ 859,
664
+ 861,
665
+ 862,
666
+ 863,
667
+ 864,
668
+ 865,
669
+ 866,
670
+ 867,
671
+ 868,
672
+ 869,
673
+ 870,
674
+ 871,
675
+ 872,
676
+ 873,
677
+ 874,
678
+ 875,
679
+ 876,
680
+ 877,
681
+ 878,
682
+ 879,
683
+ 880,
684
+ 881,
685
+ 882,
686
+ 883,
687
+ 885,
688
+ 887,
689
+ 889,
690
+ 890,
691
+ 891,
692
+ 892,
693
+ 893,
694
+ 894,
695
+ 897,
696
+ 898,
697
+ 899,
698
+ 901,
699
+ 902,
700
+ 903,
701
+ 905,
702
+ 907,
703
+ 908,
704
+ 909,
705
+ 910,
706
+ 911,
707
+ 912,
708
+ 913,
709
+ 914,
710
+ 918,
711
+ 919,
712
+ 922,
713
+ 923,
714
+ 924,
715
+ 925,
716
+ 926,
717
+ 927,
718
+ 928,
719
+ 929,
720
+ 931,
721
+ 933,
722
+ 934,
723
+ 935,
724
+ 936,
725
+ 937,
726
+ 938,
727
+ 939,
728
+ 940,
729
+ 941,
730
+ 942,
731
+ 943,
732
+ 945,
733
+ 946,
734
+ 947,
735
+ 948,
736
+ 949,
737
+ 950,
738
+ 951,
739
+ 952,
740
+ 953,
741
+ 954,
742
+ 956,
743
+ 957,
744
+ 958,
745
+ 959,
746
+ 960,
747
+ 961,
748
+ 963,
749
+ 964,
750
+ 965,
751
+ 967,
752
+ 968,
753
+ 969,
754
+ 970,
755
+ 971,
756
+ 972,
757
+ 973,
758
+ 974,
759
+ 976,
760
+ 977,
761
+ 978,
762
+ 982,
763
+ 984,
764
+ 985,
765
+ 986,
766
+ 987,
767
+ 988,
768
+ 989,
769
+ 990,
770
+ 991,
771
+ 994,
772
+ 995,
773
+ 997,
774
+ 998,
775
+ 999
776
+ ],
777
+ "not_both_correct_indices": [
778
+ 2,
779
+ 10,
780
+ 11,
781
+ 21,
782
+ 22,
783
+ 23,
784
+ 24,
785
+ 33,
786
+ 34,
787
+ 35,
788
+ 49,
789
+ 59,
790
+ 60,
791
+ 61,
792
+ 62,
793
+ 67,
794
+ 68,
795
+ 79,
796
+ 83,
797
+ 107,
798
+ 108,
799
+ 109,
800
+ 110,
801
+ 120,
802
+ 122,
803
+ 123,
804
+ 133,
805
+ 141,
806
+ 142,
807
+ 143,
808
+ 147,
809
+ 148,
810
+ 149,
811
+ 155,
812
+ 157,
813
+ 158,
814
+ 165,
815
+ 171,
816
+ 191,
817
+ 196,
818
+ 199,
819
+ 205,
820
+ 206,
821
+ 217,
822
+ 218,
823
+ 223,
824
+ 225,
825
+ 226,
826
+ 227,
827
+ 239,
828
+ 244,
829
+ 247,
830
+ 252,
831
+ 255,
832
+ 257,
833
+ 259,
834
+ 261,
835
+ 263,
836
+ 264,
837
+ 265,
838
+ 267,
839
+ 268,
840
+ 269,
841
+ 270,
842
+ 271,
843
+ 272,
844
+ 273,
845
+ 275,
846
+ 278,
847
+ 279,
848
+ 281,
849
+ 283,
850
+ 285,
851
+ 289,
852
+ 290,
853
+ 291,
854
+ 293,
855
+ 295,
856
+ 297,
857
+ 301,
858
+ 306,
859
+ 309,
860
+ 314,
861
+ 315,
862
+ 317,
863
+ 318,
864
+ 319,
865
+ 320,
866
+ 321,
867
+ 322,
868
+ 323,
869
+ 324,
870
+ 325,
871
+ 327,
872
+ 330,
873
+ 331,
874
+ 333,
875
+ 334,
876
+ 338,
877
+ 339,
878
+ 343,
879
+ 345,
880
+ 346,
881
+ 349,
882
+ 353,
883
+ 359,
884
+ 360,
885
+ 362,
886
+ 364,
887
+ 365,
888
+ 366,
889
+ 368,
890
+ 372,
891
+ 374,
892
+ 376,
893
+ 380,
894
+ 382,
895
+ 390,
896
+ 402,
897
+ 403,
898
+ 406,
899
+ 408,
900
+ 410,
901
+ 413,
902
+ 417,
903
+ 424,
904
+ 427,
905
+ 428,
906
+ 443,
907
+ 460,
908
+ 461,
909
+ 477,
910
+ 490,
911
+ 491,
912
+ 494,
913
+ 498,
914
+ 508,
915
+ 520,
916
+ 525,
917
+ 547,
918
+ 550,
919
+ 553,
920
+ 562,
921
+ 571,
922
+ 576,
923
+ 578,
924
+ 592,
925
+ 594,
926
+ 613,
927
+ 615,
928
+ 628,
929
+ 635,
930
+ 644,
931
+ 647,
932
+ 652,
933
+ 655,
934
+ 657,
935
+ 673,
936
+ 675,
937
+ 676,
938
+ 687,
939
+ 688,
940
+ 689,
941
+ 695,
942
+ 703,
943
+ 707,
944
+ 708,
945
+ 712,
946
+ 714,
947
+ 715,
948
+ 719,
949
+ 720,
950
+ 726,
951
+ 728,
952
+ 730,
953
+ 733,
954
+ 738,
955
+ 746,
956
+ 747,
957
+ 749,
958
+ 756,
959
+ 757,
960
+ 758,
961
+ 769,
962
+ 770,
963
+ 774,
964
+ 778,
965
+ 788,
966
+ 790,
967
+ 792,
968
+ 799,
969
+ 801,
970
+ 815,
971
+ 817,
972
+ 819,
973
+ 820,
974
+ 821,
975
+ 822,
976
+ 824,
977
+ 827,
978
+ 828,
979
+ 832,
980
+ 835,
981
+ 838,
982
+ 839,
983
+ 840,
984
+ 855,
985
+ 860,
986
+ 884,
987
+ 886,
988
+ 888,
989
+ 895,
990
+ 896,
991
+ 900,
992
+ 904,
993
+ 906,
994
+ 915,
995
+ 916,
996
+ 917,
997
+ 920,
998
+ 921,
999
+ 930,
1000
+ 932,
1001
+ 944,
1002
+ 955,
1003
+ 962,
1004
+ 966,
1005
+ 975,
1006
+ 979,
1007
+ 980,
1008
+ 981,
1009
+ 983,
1010
+ 992,
1011
+ 993,
1012
+ 996
1013
+ ],
1014
+ "clean_baseline": 6.203125,
1015
+ "corrupted_baseline": -6.63671875
1016
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_newton/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a4389d34a3707b4b7f907aab11022dd7ce8214a0efd9b54703c78c257fad724d
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_newton/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ec5cfb54166d8c2d2a6f9137eb6d3b0db64c4de5820684e4088543cc53903327
3
+ size 9285976
results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_prost/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_prost/baselines.json ADDED
@@ -0,0 +1,1216 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1200,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1200,
6
+ "clean_accuracy": 0.9458333333333333,
7
+ "corrupted_accuracy": 0.9358333333333333,
8
+ "both_correct_accuracy": 0.8875,
9
+ "n_both_correct": 1065,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 12,
23
+ 13,
24
+ 14,
25
+ 15,
26
+ 16,
27
+ 17,
28
+ 18,
29
+ 19,
30
+ 20,
31
+ 21,
32
+ 23,
33
+ 24,
34
+ 25,
35
+ 26,
36
+ 27,
37
+ 28,
38
+ 29,
39
+ 30,
40
+ 31,
41
+ 32,
42
+ 33,
43
+ 34,
44
+ 35,
45
+ 36,
46
+ 37,
47
+ 38,
48
+ 39,
49
+ 40,
50
+ 41,
51
+ 42,
52
+ 43,
53
+ 44,
54
+ 45,
55
+ 46,
56
+ 47,
57
+ 48,
58
+ 49,
59
+ 50,
60
+ 51,
61
+ 52,
62
+ 53,
63
+ 54,
64
+ 55,
65
+ 56,
66
+ 57,
67
+ 58,
68
+ 59,
69
+ 60,
70
+ 61,
71
+ 62,
72
+ 63,
73
+ 64,
74
+ 65,
75
+ 66,
76
+ 67,
77
+ 68,
78
+ 69,
79
+ 70,
80
+ 71,
81
+ 72,
82
+ 73,
83
+ 74,
84
+ 75,
85
+ 76,
86
+ 77,
87
+ 78,
88
+ 79,
89
+ 80,
90
+ 81,
91
+ 82,
92
+ 83,
93
+ 84,
94
+ 85,
95
+ 86,
96
+ 87,
97
+ 88,
98
+ 89,
99
+ 90,
100
+ 91,
101
+ 92,
102
+ 93,
103
+ 94,
104
+ 95,
105
+ 96,
106
+ 97,
107
+ 98,
108
+ 99,
109
+ 100,
110
+ 101,
111
+ 102,
112
+ 103,
113
+ 104,
114
+ 105,
115
+ 106,
116
+ 107,
117
+ 108,
118
+ 109,
119
+ 110,
120
+ 111,
121
+ 112,
122
+ 113,
123
+ 114,
124
+ 115,
125
+ 116,
126
+ 117,
127
+ 118,
128
+ 119,
129
+ 120,
130
+ 121,
131
+ 122,
132
+ 123,
133
+ 124,
134
+ 125,
135
+ 126,
136
+ 127,
137
+ 128,
138
+ 129,
139
+ 130,
140
+ 131,
141
+ 132,
142
+ 133,
143
+ 134,
144
+ 135,
145
+ 136,
146
+ 138,
147
+ 139,
148
+ 140,
149
+ 141,
150
+ 142,
151
+ 143,
152
+ 144,
153
+ 145,
154
+ 146,
155
+ 147,
156
+ 148,
157
+ 149,
158
+ 150,
159
+ 151,
160
+ 152,
161
+ 153,
162
+ 154,
163
+ 155,
164
+ 156,
165
+ 157,
166
+ 158,
167
+ 159,
168
+ 160,
169
+ 161,
170
+ 163,
171
+ 164,
172
+ 165,
173
+ 166,
174
+ 167,
175
+ 168,
176
+ 169,
177
+ 170,
178
+ 171,
179
+ 172,
180
+ 173,
181
+ 174,
182
+ 175,
183
+ 176,
184
+ 177,
185
+ 178,
186
+ 179,
187
+ 180,
188
+ 181,
189
+ 182,
190
+ 183,
191
+ 184,
192
+ 185,
193
+ 186,
194
+ 187,
195
+ 188,
196
+ 189,
197
+ 190,
198
+ 191,
199
+ 192,
200
+ 193,
201
+ 194,
202
+ 195,
203
+ 196,
204
+ 197,
205
+ 198,
206
+ 199,
207
+ 200,
208
+ 201,
209
+ 203,
210
+ 204,
211
+ 205,
212
+ 206,
213
+ 207,
214
+ 208,
215
+ 209,
216
+ 210,
217
+ 211,
218
+ 213,
219
+ 214,
220
+ 215,
221
+ 217,
222
+ 218,
223
+ 219,
224
+ 220,
225
+ 221,
226
+ 222,
227
+ 223,
228
+ 226,
229
+ 227,
230
+ 231,
231
+ 233,
232
+ 234,
233
+ 235,
234
+ 236,
235
+ 238,
236
+ 240,
237
+ 244,
238
+ 245,
239
+ 246,
240
+ 247,
241
+ 249,
242
+ 251,
243
+ 253,
244
+ 256,
245
+ 260,
246
+ 263,
247
+ 266,
248
+ 267,
249
+ 268,
250
+ 269,
251
+ 271,
252
+ 272,
253
+ 274,
254
+ 276,
255
+ 277,
256
+ 278,
257
+ 279,
258
+ 280,
259
+ 282,
260
+ 285,
261
+ 286,
262
+ 287,
263
+ 288,
264
+ 289,
265
+ 291,
266
+ 292,
267
+ 293,
268
+ 294,
269
+ 295,
270
+ 296,
271
+ 297,
272
+ 298,
273
+ 300,
274
+ 301,
275
+ 302,
276
+ 303,
277
+ 304,
278
+ 305,
279
+ 306,
280
+ 308,
281
+ 309,
282
+ 310,
283
+ 311,
284
+ 312,
285
+ 313,
286
+ 314,
287
+ 315,
288
+ 319,
289
+ 320,
290
+ 321,
291
+ 322,
292
+ 323,
293
+ 325,
294
+ 326,
295
+ 327,
296
+ 330,
297
+ 331,
298
+ 333,
299
+ 335,
300
+ 336,
301
+ 337,
302
+ 339,
303
+ 340,
304
+ 341,
305
+ 343,
306
+ 344,
307
+ 346,
308
+ 347,
309
+ 349,
310
+ 350,
311
+ 352,
312
+ 353,
313
+ 354,
314
+ 355,
315
+ 356,
316
+ 360,
317
+ 361,
318
+ 363,
319
+ 365,
320
+ 366,
321
+ 367,
322
+ 368,
323
+ 369,
324
+ 372,
325
+ 373,
326
+ 374,
327
+ 375,
328
+ 376,
329
+ 377,
330
+ 378,
331
+ 380,
332
+ 381,
333
+ 382,
334
+ 383,
335
+ 385,
336
+ 386,
337
+ 388,
338
+ 389,
339
+ 391,
340
+ 394,
341
+ 395,
342
+ 398,
343
+ 399,
344
+ 400,
345
+ 401,
346
+ 403,
347
+ 404,
348
+ 405,
349
+ 406,
350
+ 407,
351
+ 408,
352
+ 409,
353
+ 410,
354
+ 411,
355
+ 412,
356
+ 415,
357
+ 416,
358
+ 417,
359
+ 419,
360
+ 421,
361
+ 422,
362
+ 423,
363
+ 424,
364
+ 425,
365
+ 426,
366
+ 427,
367
+ 428,
368
+ 429,
369
+ 431,
370
+ 432,
371
+ 433,
372
+ 436,
373
+ 438,
374
+ 439,
375
+ 440,
376
+ 441,
377
+ 442,
378
+ 443,
379
+ 444,
380
+ 445,
381
+ 446,
382
+ 447,
383
+ 448,
384
+ 449,
385
+ 450,
386
+ 452,
387
+ 454,
388
+ 455,
389
+ 456,
390
+ 458,
391
+ 459,
392
+ 460,
393
+ 462,
394
+ 463,
395
+ 464,
396
+ 465,
397
+ 466,
398
+ 467,
399
+ 468,
400
+ 469,
401
+ 471,
402
+ 472,
403
+ 473,
404
+ 474,
405
+ 475,
406
+ 476,
407
+ 477,
408
+ 479,
409
+ 480,
410
+ 481,
411
+ 482,
412
+ 484,
413
+ 485,
414
+ 486,
415
+ 487,
416
+ 489,
417
+ 490,
418
+ 492,
419
+ 493,
420
+ 494,
421
+ 495,
422
+ 496,
423
+ 497,
424
+ 499,
425
+ 500,
426
+ 502,
427
+ 503,
428
+ 504,
429
+ 505,
430
+ 506,
431
+ 507,
432
+ 508,
433
+ 509,
434
+ 510,
435
+ 511,
436
+ 512,
437
+ 513,
438
+ 514,
439
+ 515,
440
+ 516,
441
+ 517,
442
+ 518,
443
+ 520,
444
+ 521,
445
+ 522,
446
+ 523,
447
+ 524,
448
+ 525,
449
+ 526,
450
+ 527,
451
+ 528,
452
+ 529,
453
+ 530,
454
+ 531,
455
+ 532,
456
+ 533,
457
+ 534,
458
+ 535,
459
+ 536,
460
+ 537,
461
+ 538,
462
+ 539,
463
+ 541,
464
+ 543,
465
+ 544,
466
+ 546,
467
+ 548,
468
+ 549,
469
+ 550,
470
+ 551,
471
+ 552,
472
+ 555,
473
+ 556,
474
+ 557,
475
+ 558,
476
+ 559,
477
+ 560,
478
+ 561,
479
+ 562,
480
+ 563,
481
+ 564,
482
+ 568,
483
+ 569,
484
+ 571,
485
+ 572,
486
+ 575,
487
+ 576,
488
+ 577,
489
+ 578,
490
+ 579,
491
+ 580,
492
+ 581,
493
+ 582,
494
+ 583,
495
+ 584,
496
+ 585,
497
+ 586,
498
+ 587,
499
+ 588,
500
+ 589,
501
+ 590,
502
+ 591,
503
+ 592,
504
+ 593,
505
+ 594,
506
+ 595,
507
+ 596,
508
+ 597,
509
+ 598,
510
+ 599,
511
+ 600,
512
+ 601,
513
+ 602,
514
+ 603,
515
+ 604,
516
+ 605,
517
+ 606,
518
+ 607,
519
+ 608,
520
+ 609,
521
+ 610,
522
+ 611,
523
+ 612,
524
+ 613,
525
+ 614,
526
+ 615,
527
+ 616,
528
+ 617,
529
+ 618,
530
+ 619,
531
+ 620,
532
+ 621,
533
+ 622,
534
+ 623,
535
+ 624,
536
+ 625,
537
+ 626,
538
+ 627,
539
+ 628,
540
+ 629,
541
+ 630,
542
+ 631,
543
+ 632,
544
+ 633,
545
+ 634,
546
+ 635,
547
+ 636,
548
+ 637,
549
+ 638,
550
+ 639,
551
+ 640,
552
+ 641,
553
+ 642,
554
+ 643,
555
+ 644,
556
+ 645,
557
+ 646,
558
+ 647,
559
+ 648,
560
+ 649,
561
+ 650,
562
+ 651,
563
+ 652,
564
+ 653,
565
+ 654,
566
+ 655,
567
+ 656,
568
+ 657,
569
+ 658,
570
+ 659,
571
+ 660,
572
+ 661,
573
+ 662,
574
+ 663,
575
+ 664,
576
+ 665,
577
+ 666,
578
+ 667,
579
+ 668,
580
+ 669,
581
+ 670,
582
+ 671,
583
+ 672,
584
+ 673,
585
+ 674,
586
+ 675,
587
+ 676,
588
+ 677,
589
+ 678,
590
+ 679,
591
+ 680,
592
+ 681,
593
+ 682,
594
+ 683,
595
+ 684,
596
+ 685,
597
+ 686,
598
+ 687,
599
+ 688,
600
+ 689,
601
+ 690,
602
+ 691,
603
+ 692,
604
+ 693,
605
+ 694,
606
+ 695,
607
+ 696,
608
+ 697,
609
+ 698,
610
+ 699,
611
+ 700,
612
+ 701,
613
+ 702,
614
+ 703,
615
+ 704,
616
+ 705,
617
+ 706,
618
+ 707,
619
+ 708,
620
+ 709,
621
+ 710,
622
+ 711,
623
+ 712,
624
+ 713,
625
+ 714,
626
+ 715,
627
+ 716,
628
+ 717,
629
+ 718,
630
+ 719,
631
+ 720,
632
+ 721,
633
+ 722,
634
+ 723,
635
+ 724,
636
+ 725,
637
+ 726,
638
+ 727,
639
+ 728,
640
+ 729,
641
+ 730,
642
+ 731,
643
+ 732,
644
+ 733,
645
+ 734,
646
+ 735,
647
+ 736,
648
+ 737,
649
+ 738,
650
+ 739,
651
+ 740,
652
+ 741,
653
+ 742,
654
+ 743,
655
+ 744,
656
+ 745,
657
+ 746,
658
+ 747,
659
+ 748,
660
+ 749,
661
+ 750,
662
+ 751,
663
+ 752,
664
+ 753,
665
+ 754,
666
+ 755,
667
+ 756,
668
+ 757,
669
+ 758,
670
+ 759,
671
+ 760,
672
+ 761,
673
+ 762,
674
+ 763,
675
+ 764,
676
+ 765,
677
+ 766,
678
+ 767,
679
+ 768,
680
+ 769,
681
+ 770,
682
+ 771,
683
+ 772,
684
+ 773,
685
+ 774,
686
+ 775,
687
+ 776,
688
+ 777,
689
+ 778,
690
+ 779,
691
+ 780,
692
+ 781,
693
+ 782,
694
+ 783,
695
+ 784,
696
+ 785,
697
+ 786,
698
+ 787,
699
+ 788,
700
+ 789,
701
+ 790,
702
+ 791,
703
+ 792,
704
+ 793,
705
+ 794,
706
+ 795,
707
+ 796,
708
+ 797,
709
+ 798,
710
+ 799,
711
+ 800,
712
+ 801,
713
+ 802,
714
+ 803,
715
+ 804,
716
+ 806,
717
+ 807,
718
+ 808,
719
+ 809,
720
+ 810,
721
+ 811,
722
+ 812,
723
+ 815,
724
+ 816,
725
+ 817,
726
+ 819,
727
+ 820,
728
+ 821,
729
+ 823,
730
+ 825,
731
+ 826,
732
+ 827,
733
+ 828,
734
+ 829,
735
+ 830,
736
+ 831,
737
+ 832,
738
+ 834,
739
+ 835,
740
+ 837,
741
+ 838,
742
+ 839,
743
+ 841,
744
+ 842,
745
+ 843,
746
+ 844,
747
+ 845,
748
+ 846,
749
+ 847,
750
+ 848,
751
+ 849,
752
+ 850,
753
+ 851,
754
+ 853,
755
+ 854,
756
+ 856,
757
+ 857,
758
+ 858,
759
+ 859,
760
+ 860,
761
+ 861,
762
+ 862,
763
+ 863,
764
+ 864,
765
+ 865,
766
+ 866,
767
+ 867,
768
+ 868,
769
+ 869,
770
+ 870,
771
+ 871,
772
+ 872,
773
+ 873,
774
+ 874,
775
+ 875,
776
+ 878,
777
+ 879,
778
+ 880,
779
+ 881,
780
+ 882,
781
+ 883,
782
+ 884,
783
+ 885,
784
+ 886,
785
+ 887,
786
+ 888,
787
+ 891,
788
+ 892,
789
+ 893,
790
+ 894,
791
+ 895,
792
+ 896,
793
+ 897,
794
+ 898,
795
+ 899,
796
+ 900,
797
+ 901,
798
+ 902,
799
+ 903,
800
+ 904,
801
+ 905,
802
+ 906,
803
+ 907,
804
+ 908,
805
+ 909,
806
+ 910,
807
+ 911,
808
+ 912,
809
+ 913,
810
+ 914,
811
+ 915,
812
+ 916,
813
+ 918,
814
+ 919,
815
+ 920,
816
+ 921,
817
+ 922,
818
+ 923,
819
+ 924,
820
+ 925,
821
+ 926,
822
+ 927,
823
+ 930,
824
+ 931,
825
+ 932,
826
+ 933,
827
+ 934,
828
+ 935,
829
+ 936,
830
+ 937,
831
+ 939,
832
+ 940,
833
+ 941,
834
+ 943,
835
+ 944,
836
+ 946,
837
+ 947,
838
+ 948,
839
+ 949,
840
+ 950,
841
+ 951,
842
+ 952,
843
+ 953,
844
+ 954,
845
+ 955,
846
+ 956,
847
+ 957,
848
+ 958,
849
+ 960,
850
+ 961,
851
+ 962,
852
+ 963,
853
+ 964,
854
+ 965,
855
+ 966,
856
+ 967,
857
+ 968,
858
+ 969,
859
+ 970,
860
+ 971,
861
+ 974,
862
+ 975,
863
+ 976,
864
+ 978,
865
+ 979,
866
+ 980,
867
+ 981,
868
+ 982,
869
+ 983,
870
+ 984,
871
+ 985,
872
+ 986,
873
+ 987,
874
+ 988,
875
+ 989,
876
+ 991,
877
+ 992,
878
+ 993,
879
+ 994,
880
+ 995,
881
+ 996,
882
+ 997,
883
+ 998,
884
+ 999,
885
+ 1000,
886
+ 1001,
887
+ 1002,
888
+ 1003,
889
+ 1004,
890
+ 1005,
891
+ 1006,
892
+ 1008,
893
+ 1009,
894
+ 1010,
895
+ 1011,
896
+ 1012,
897
+ 1013,
898
+ 1014,
899
+ 1015,
900
+ 1016,
901
+ 1017,
902
+ 1018,
903
+ 1019,
904
+ 1020,
905
+ 1021,
906
+ 1022,
907
+ 1023,
908
+ 1024,
909
+ 1025,
910
+ 1026,
911
+ 1027,
912
+ 1028,
913
+ 1029,
914
+ 1030,
915
+ 1031,
916
+ 1032,
917
+ 1033,
918
+ 1034,
919
+ 1035,
920
+ 1036,
921
+ 1037,
922
+ 1038,
923
+ 1039,
924
+ 1040,
925
+ 1041,
926
+ 1042,
927
+ 1043,
928
+ 1044,
929
+ 1045,
930
+ 1046,
931
+ 1047,
932
+ 1048,
933
+ 1049,
934
+ 1050,
935
+ 1051,
936
+ 1052,
937
+ 1053,
938
+ 1054,
939
+ 1055,
940
+ 1056,
941
+ 1057,
942
+ 1058,
943
+ 1059,
944
+ 1060,
945
+ 1061,
946
+ 1062,
947
+ 1063,
948
+ 1064,
949
+ 1065,
950
+ 1066,
951
+ 1067,
952
+ 1068,
953
+ 1069,
954
+ 1070,
955
+ 1071,
956
+ 1073,
957
+ 1074,
958
+ 1075,
959
+ 1076,
960
+ 1077,
961
+ 1078,
962
+ 1079,
963
+ 1080,
964
+ 1082,
965
+ 1083,
966
+ 1084,
967
+ 1085,
968
+ 1086,
969
+ 1087,
970
+ 1088,
971
+ 1089,
972
+ 1090,
973
+ 1091,
974
+ 1092,
975
+ 1093,
976
+ 1094,
977
+ 1095,
978
+ 1096,
979
+ 1097,
980
+ 1098,
981
+ 1099,
982
+ 1100,
983
+ 1101,
984
+ 1102,
985
+ 1103,
986
+ 1104,
987
+ 1105,
988
+ 1106,
989
+ 1107,
990
+ 1108,
991
+ 1109,
992
+ 1110,
993
+ 1111,
994
+ 1112,
995
+ 1113,
996
+ 1114,
997
+ 1115,
998
+ 1116,
999
+ 1117,
1000
+ 1118,
1001
+ 1119,
1002
+ 1120,
1003
+ 1121,
1004
+ 1122,
1005
+ 1123,
1006
+ 1124,
1007
+ 1125,
1008
+ 1126,
1009
+ 1127,
1010
+ 1128,
1011
+ 1129,
1012
+ 1130,
1013
+ 1131,
1014
+ 1132,
1015
+ 1133,
1016
+ 1134,
1017
+ 1135,
1018
+ 1136,
1019
+ 1137,
1020
+ 1138,
1021
+ 1139,
1022
+ 1140,
1023
+ 1141,
1024
+ 1142,
1025
+ 1143,
1026
+ 1144,
1027
+ 1145,
1028
+ 1146,
1029
+ 1147,
1030
+ 1148,
1031
+ 1150,
1032
+ 1151,
1033
+ 1152,
1034
+ 1153,
1035
+ 1154,
1036
+ 1155,
1037
+ 1156,
1038
+ 1157,
1039
+ 1158,
1040
+ 1159,
1041
+ 1160,
1042
+ 1161,
1043
+ 1162,
1044
+ 1163,
1045
+ 1164,
1046
+ 1165,
1047
+ 1166,
1048
+ 1167,
1049
+ 1168,
1050
+ 1169,
1051
+ 1170,
1052
+ 1171,
1053
+ 1173,
1054
+ 1174,
1055
+ 1175,
1056
+ 1176,
1057
+ 1177,
1058
+ 1178,
1059
+ 1179,
1060
+ 1182,
1061
+ 1184,
1062
+ 1185,
1063
+ 1186,
1064
+ 1187,
1065
+ 1188,
1066
+ 1189,
1067
+ 1190,
1068
+ 1191,
1069
+ 1192,
1070
+ 1193,
1071
+ 1195,
1072
+ 1196,
1073
+ 1197,
1074
+ 1198,
1075
+ 1199
1076
+ ],
1077
+ "not_both_correct_indices": [
1078
+ 11,
1079
+ 22,
1080
+ 137,
1081
+ 162,
1082
+ 202,
1083
+ 212,
1084
+ 216,
1085
+ 224,
1086
+ 225,
1087
+ 228,
1088
+ 229,
1089
+ 230,
1090
+ 232,
1091
+ 237,
1092
+ 239,
1093
+ 241,
1094
+ 242,
1095
+ 243,
1096
+ 248,
1097
+ 250,
1098
+ 252,
1099
+ 254,
1100
+ 255,
1101
+ 257,
1102
+ 258,
1103
+ 259,
1104
+ 261,
1105
+ 262,
1106
+ 264,
1107
+ 265,
1108
+ 270,
1109
+ 273,
1110
+ 275,
1111
+ 281,
1112
+ 283,
1113
+ 284,
1114
+ 290,
1115
+ 299,
1116
+ 307,
1117
+ 316,
1118
+ 317,
1119
+ 318,
1120
+ 324,
1121
+ 328,
1122
+ 329,
1123
+ 332,
1124
+ 334,
1125
+ 338,
1126
+ 342,
1127
+ 345,
1128
+ 348,
1129
+ 351,
1130
+ 357,
1131
+ 358,
1132
+ 359,
1133
+ 362,
1134
+ 364,
1135
+ 370,
1136
+ 371,
1137
+ 379,
1138
+ 384,
1139
+ 387,
1140
+ 390,
1141
+ 392,
1142
+ 393,
1143
+ 396,
1144
+ 397,
1145
+ 402,
1146
+ 413,
1147
+ 414,
1148
+ 418,
1149
+ 420,
1150
+ 430,
1151
+ 434,
1152
+ 435,
1153
+ 437,
1154
+ 451,
1155
+ 453,
1156
+ 457,
1157
+ 461,
1158
+ 470,
1159
+ 478,
1160
+ 483,
1161
+ 488,
1162
+ 491,
1163
+ 498,
1164
+ 501,
1165
+ 519,
1166
+ 540,
1167
+ 542,
1168
+ 545,
1169
+ 547,
1170
+ 553,
1171
+ 554,
1172
+ 565,
1173
+ 566,
1174
+ 567,
1175
+ 570,
1176
+ 573,
1177
+ 574,
1178
+ 805,
1179
+ 813,
1180
+ 814,
1181
+ 818,
1182
+ 822,
1183
+ 824,
1184
+ 833,
1185
+ 836,
1186
+ 840,
1187
+ 852,
1188
+ 855,
1189
+ 876,
1190
+ 877,
1191
+ 889,
1192
+ 890,
1193
+ 917,
1194
+ 928,
1195
+ 929,
1196
+ 938,
1197
+ 942,
1198
+ 945,
1199
+ 959,
1200
+ 972,
1201
+ 973,
1202
+ 977,
1203
+ 990,
1204
+ 1007,
1205
+ 1072,
1206
+ 1081,
1207
+ 1149,
1208
+ 1172,
1209
+ 1180,
1210
+ 1181,
1211
+ 1183,
1212
+ 1194
1213
+ ],
1214
+ "clean_baseline": 6.22265625,
1215
+ "corrupted_baseline": -6.25
1216
+ }
results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_prost/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:53e6ba4882f4e7e34b7ac93f2e0607eb2a6be2c4c0ec9491df4ac8b56203d2a3
3
+ size 18351734
results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/phys_prost/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:95831a493bc1925cf9da68f3761187ca123d1c0838bc90e4b5774251af448506
3
+ size 9164080
results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/physics_brightness/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2293760, "num_layers": 80, "num_units": 28672}
results/meta-llama_Meta-Llama-3-1-70B-Instruct/phys/physics_brightness/baselines.json ADDED
@@ -0,0 +1,1017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 112,
4
+ "token_misaligned_indices": [
5
+ 2,
6
+ 3,
7
+ 24,
8
+ 25,
9
+ 46,
10
+ 57,
11
+ 61,
12
+ 62,
13
+ 71,
14
+ 76,
15
+ 83,
16
+ 95,
17
+ 101,
18
+ 111,
19
+ 128,
20
+ 129,
21
+ 130,
22
+ 137,
23
+ 147,
24
+ 154,
25
+ 173,
26
+ 180,
27
+ 184,
28
+ 190,
29
+ 196,
30
+ 222,
31
+ 223,
32
+ 228,
33
+ 240,
34
+ 242,
35
+ 244,
36
+ 254,
37
+ 267,
38
+ 269,
39
+ 270,
40
+ 276,
41
+ 282,
42
+ 295,
43
+ 311,
44
+ 318,
45
+ 333,
46
+ 339,
47
+ 345,
48
+ 353,
49
+ 355,
50
+ 356,
51
+ 363,
52
+ 376,
53
+ 388,
54
+ 394,
55
+ 406,
56
+ 412,
57
+ 424,
58
+ 453,
59
+ 457,
60
+ 466,
61
+ 473,
62
+ 474,
63
+ 484,
64
+ 494,
65
+ 499,
66
+ 504,
67
+ 505,
68
+ 511,
69
+ 521,
70
+ 530,
71
+ 545,
72
+ 548,
73
+ 550,
74
+ 555,
75
+ 560,
76
+ 565,
77
+ 570,
78
+ 613,
79
+ 617,
80
+ 624,
81
+ 675,
82
+ 677,
83
+ 694,
84
+ 700,
85
+ 721,
86
+ 725,
87
+ 733,
88
+ 740,
89
+ 755,
90
+ 771,
91
+ 776,
92
+ 790,
93
+ 801,
94
+ 808,
95
+ 822,
96
+ 839,
97
+ 847,
98
+ 849,
99
+ 854,
100
+ 867,
101
+ 876,
102
+ 888,
103
+ 889,
104
+ 890,
105
+ 895,
106
+ 902,
107
+ 912,
108
+ 924,
109
+ 932,
110
+ 935,
111
+ 940,
112
+ 966,
113
+ 976,
114
+ 980,
115
+ 995,
116
+ 996
117
+ ],
118
+ "n_after_alignment_filter": 888,
119
+ "clean_accuracy": 0.9763513513513513,
120
+ "corrupted_accuracy": 0.9786036036036037,
121
+ "both_correct_accuracy": 0.954954954954955,
122
+ "n_both_correct": 848,
123
+ "both_correct_indices": [
124
+ 0,
125
+ 1,
126
+ 4,
127
+ 5,
128
+ 6,
129
+ 7,
130
+ 8,
131
+ 9,
132
+ 10,
133
+ 11,
134
+ 12,
135
+ 13,
136
+ 14,
137
+ 15,
138
+ 16,
139
+ 17,
140
+ 18,
141
+ 19,
142
+ 20,
143
+ 21,
144
+ 23,
145
+ 26,
146
+ 27,
147
+ 28,
148
+ 29,
149
+ 30,
150
+ 31,
151
+ 32,
152
+ 33,
153
+ 34,
154
+ 35,
155
+ 36,
156
+ 37,
157
+ 38,
158
+ 39,
159
+ 40,
160
+ 41,
161
+ 43,
162
+ 44,
163
+ 45,
164
+ 47,
165
+ 48,
166
+ 49,
167
+ 50,
168
+ 51,
169
+ 52,
170
+ 54,
171
+ 55,
172
+ 56,
173
+ 58,
174
+ 59,
175
+ 60,
176
+ 63,
177
+ 64,
178
+ 65,
179
+ 66,
180
+ 67,
181
+ 68,
182
+ 69,
183
+ 70,
184
+ 72,
185
+ 73,
186
+ 74,
187
+ 75,
188
+ 77,
189
+ 78,
190
+ 79,
191
+ 80,
192
+ 81,
193
+ 82,
194
+ 84,
195
+ 85,
196
+ 86,
197
+ 87,
198
+ 88,
199
+ 89,
200
+ 90,
201
+ 91,
202
+ 92,
203
+ 93,
204
+ 94,
205
+ 96,
206
+ 97,
207
+ 98,
208
+ 99,
209
+ 100,
210
+ 102,
211
+ 103,
212
+ 104,
213
+ 105,
214
+ 106,
215
+ 107,
216
+ 108,
217
+ 109,
218
+ 110,
219
+ 112,
220
+ 113,
221
+ 114,
222
+ 115,
223
+ 116,
224
+ 117,
225
+ 118,
226
+ 119,
227
+ 120,
228
+ 121,
229
+ 122,
230
+ 123,
231
+ 124,
232
+ 125,
233
+ 127,
234
+ 131,
235
+ 132,
236
+ 134,
237
+ 135,
238
+ 136,
239
+ 138,
240
+ 139,
241
+ 140,
242
+ 141,
243
+ 142,
244
+ 143,
245
+ 144,
246
+ 145,
247
+ 146,
248
+ 148,
249
+ 149,
250
+ 150,
251
+ 151,
252
+ 152,
253
+ 153,
254
+ 155,
255
+ 156,
256
+ 157,
257
+ 159,
258
+ 160,
259
+ 161,
260
+ 162,
261
+ 163,
262
+ 164,
263
+ 165,
264
+ 166,
265
+ 167,
266
+ 168,
267
+ 169,
268
+ 170,
269
+ 171,
270
+ 172,
271
+ 174,
272
+ 175,
273
+ 176,
274
+ 177,
275
+ 178,
276
+ 179,
277
+ 182,
278
+ 183,
279
+ 185,
280
+ 186,
281
+ 187,
282
+ 188,
283
+ 189,
284
+ 191,
285
+ 192,
286
+ 193,
287
+ 194,
288
+ 195,
289
+ 197,
290
+ 198,
291
+ 199,
292
+ 200,
293
+ 201,
294
+ 202,
295
+ 203,
296
+ 204,
297
+ 205,
298
+ 206,
299
+ 207,
300
+ 208,
301
+ 209,
302
+ 210,
303
+ 211,
304
+ 212,
305
+ 213,
306
+ 214,
307
+ 215,
308
+ 216,
309
+ 217,
310
+ 218,
311
+ 219,
312
+ 221,
313
+ 224,
314
+ 225,
315
+ 226,
316
+ 227,
317
+ 229,
318
+ 230,
319
+ 231,
320
+ 232,
321
+ 233,
322
+ 234,
323
+ 235,
324
+ 236,
325
+ 237,
326
+ 238,
327
+ 239,
328
+ 241,
329
+ 243,
330
+ 245,
331
+ 246,
332
+ 247,
333
+ 248,
334
+ 249,
335
+ 250,
336
+ 251,
337
+ 252,
338
+ 253,
339
+ 255,
340
+ 256,
341
+ 257,
342
+ 258,
343
+ 259,
344
+ 261,
345
+ 262,
346
+ 263,
347
+ 264,
348
+ 265,
349
+ 266,
350
+ 268,
351
+ 271,
352
+ 272,
353
+ 273,
354
+ 274,
355
+ 275,
356
+ 277,
357
+ 278,
358
+ 279,
359
+ 280,
360
+ 281,
361
+ 283,
362
+ 284,
363
+ 285,
364
+ 286,
365
+ 287,
366
+ 288,
367
+ 289,
368
+ 290,
369
+ 291,
370
+ 292,
371
+ 293,
372
+ 294,
373
+ 296,
374
+ 298,
375
+ 299,
376
+ 300,
377
+ 301,
378
+ 302,
379
+ 303,
380
+ 305,
381
+ 306,
382
+ 307,
383
+ 308,
384
+ 309,
385
+ 310,
386
+ 312,
387
+ 313,
388
+ 314,
389
+ 315,
390
+ 316,
391
+ 317,
392
+ 319,
393
+ 321,
394
+ 322,
395
+ 323,
396
+ 324,
397
+ 328,
398
+ 329,
399
+ 330,
400
+ 331,
401
+ 332,
402
+ 334,
403
+ 335,
404
+ 336,
405
+ 337,
406
+ 338,
407
+ 340,
408
+ 341,
409
+ 342,
410
+ 343,
411
+ 344,
412
+ 346,
413
+ 347,
414
+ 348,
415
+ 349,
416
+ 350,
417
+ 351,
418
+ 352,
419
+ 354,
420
+ 357,
421
+ 358,
422
+ 359,
423
+ 360,
424
+ 361,
425
+ 362,
426
+ 364,
427
+ 365,
428
+ 366,
429
+ 367,
430
+ 368,
431
+ 369,
432
+ 370,
433
+ 371,
434
+ 372,
435
+ 373,
436
+ 374,
437
+ 377,
438
+ 378,
439
+ 379,
440
+ 380,
441
+ 381,
442
+ 382,
443
+ 383,
444
+ 384,
445
+ 385,
446
+ 386,
447
+ 387,
448
+ 389,
449
+ 390,
450
+ 391,
451
+ 392,
452
+ 393,
453
+ 395,
454
+ 396,
455
+ 397,
456
+ 398,
457
+ 399,
458
+ 400,
459
+ 401,
460
+ 402,
461
+ 403,
462
+ 404,
463
+ 405,
464
+ 407,
465
+ 408,
466
+ 409,
467
+ 410,
468
+ 411,
469
+ 413,
470
+ 414,
471
+ 415,
472
+ 416,
473
+ 417,
474
+ 418,
475
+ 419,
476
+ 420,
477
+ 421,
478
+ 422,
479
+ 423,
480
+ 425,
481
+ 426,
482
+ 427,
483
+ 428,
484
+ 429,
485
+ 430,
486
+ 431,
487
+ 432,
488
+ 433,
489
+ 434,
490
+ 435,
491
+ 436,
492
+ 437,
493
+ 438,
494
+ 439,
495
+ 440,
496
+ 441,
497
+ 442,
498
+ 443,
499
+ 444,
500
+ 445,
501
+ 446,
502
+ 447,
503
+ 448,
504
+ 449,
505
+ 450,
506
+ 451,
507
+ 452,
508
+ 455,
509
+ 456,
510
+ 458,
511
+ 459,
512
+ 460,
513
+ 461,
514
+ 462,
515
+ 463,
516
+ 464,
517
+ 465,
518
+ 467,
519
+ 468,
520
+ 469,
521
+ 470,
522
+ 471,
523
+ 475,
524
+ 476,
525
+ 477,
526
+ 478,
527
+ 479,
528
+ 480,
529
+ 481,
530
+ 482,
531
+ 483,
532
+ 485,
533
+ 486,
534
+ 487,
535
+ 488,
536
+ 489,
537
+ 490,
538
+ 491,
539
+ 492,
540
+ 493,
541
+ 495,
542
+ 496,
543
+ 498,
544
+ 500,
545
+ 501,
546
+ 502,
547
+ 503,
548
+ 506,
549
+ 507,
550
+ 508,
551
+ 509,
552
+ 512,
553
+ 513,
554
+ 514,
555
+ 515,
556
+ 517,
557
+ 518,
558
+ 519,
559
+ 520,
560
+ 522,
561
+ 523,
562
+ 524,
563
+ 525,
564
+ 526,
565
+ 527,
566
+ 528,
567
+ 529,
568
+ 531,
569
+ 532,
570
+ 533,
571
+ 534,
572
+ 535,
573
+ 536,
574
+ 537,
575
+ 539,
576
+ 540,
577
+ 541,
578
+ 542,
579
+ 543,
580
+ 544,
581
+ 546,
582
+ 547,
583
+ 549,
584
+ 551,
585
+ 552,
586
+ 553,
587
+ 554,
588
+ 556,
589
+ 557,
590
+ 558,
591
+ 559,
592
+ 561,
593
+ 562,
594
+ 563,
595
+ 564,
596
+ 566,
597
+ 567,
598
+ 568,
599
+ 569,
600
+ 571,
601
+ 572,
602
+ 573,
603
+ 574,
604
+ 575,
605
+ 576,
606
+ 577,
607
+ 578,
608
+ 579,
609
+ 581,
610
+ 582,
611
+ 583,
612
+ 584,
613
+ 585,
614
+ 586,
615
+ 587,
616
+ 588,
617
+ 589,
618
+ 590,
619
+ 591,
620
+ 593,
621
+ 594,
622
+ 595,
623
+ 596,
624
+ 597,
625
+ 598,
626
+ 599,
627
+ 600,
628
+ 601,
629
+ 602,
630
+ 603,
631
+ 604,
632
+ 605,
633
+ 606,
634
+ 607,
635
+ 608,
636
+ 609,
637
+ 610,
638
+ 611,
639
+ 612,
640
+ 614,
641
+ 615,
642
+ 616,
643
+ 618,
644
+ 619,
645
+ 620,
646
+ 621,
647
+ 622,
648
+ 623,
649
+ 625,
650
+ 626,
651
+ 627,
652
+ 628,
653
+ 629,
654
+ 630,
655
+ 631,
656
+ 632,
657
+ 633,
658
+ 635,
659
+ 636,
660
+ 637,
661
+ 638,
662
+ 639,
663
+ 640,
664
+ 641,
665
+ 642,
666
+ 643,
667
+ 644,
668
+ 645,
669
+ 646,
670
+ 647,
671
+ 648,
672
+ 649,
673
+ 650,
674
+ 651,
675
+ 652,
676
+ 653,
677
+ 654,
678
+ 655,
679
+ 656,
680
+ 657,
681
+ 658,
682
+ 659,
683
+ 661,
684
+ 662,
685
+ 663,
686
+ 664,
687
+ 665,
688
+ 666,
689
+ 667,
690
+ 668,
691
+ 669,
692
+ 670,
693
+ 671,
694
+ 672,
695
+ 673,
696
+ 674,
697
+ 676,
698
+ 678,
699
+ 679,
700
+ 680,
701
+ 681,
702
+ 682,
703
+ 683,
704
+ 684,
705
+ 685,
706
+ 686,
707
+ 687,
708
+ 688,
709
+ 689,
710
+ 692,
711
+ 693,
712
+ 695,
713
+ 697,
714
+ 698,
715
+ 699,
716
+ 701,
717
+ 702,
718
+ 703,
719
+ 704,
720
+ 705,
721
+ 706,
722
+ 707,
723
+ 708,
724
+ 709,
725
+ 711,
726
+ 712,
727
+ 713,
728
+ 714,
729
+ 715,
730
+ 716,
731
+ 718,
732
+ 719,
733
+ 720,
734
+ 722,
735
+ 724,
736
+ 726,
737
+ 727,
738
+ 728,
739
+ 729,
740
+ 731,
741
+ 732,
742
+ 734,
743
+ 735,
744
+ 736,
745
+ 737,
746
+ 738,
747
+ 739,
748
+ 741,
749
+ 742,
750
+ 743,
751
+ 744,
752
+ 745,
753
+ 746,
754
+ 747,
755
+ 748,
756
+ 749,
757
+ 750,
758
+ 751,
759
+ 752,
760
+ 753,
761
+ 754,
762
+ 756,
763
+ 757,
764
+ 758,
765
+ 759,
766
+ 760,
767
+ 761,
768
+ 762,
769
+ 763,
770
+ 764,
771
+ 765,
772
+ 766,
773
+ 767,
774
+ 768,
775
+ 769,
776
+ 770,
777
+ 772,
778
+ 773,
779
+ 774,
780
+ 775,
781
+ 777,
782
+ 778,
783
+ 779,
784
+ 780,
785
+ 781,
786
+ 782,
787
+ 783,
788
+ 784,
789
+ 785,
790
+ 786,
791
+ 787,
792
+ 789,
793
+ 791,
794
+ 792,
795
+ 793,
796
+ 794,
797
+ 795,
798
+ 796,
799
+ 797,
800
+ 798,
801
+ 799,
802
+ 800,
803
+ 802,
804
+ 803,
805
+ 804,
806
+ 805,
807
+ 806,
808
+ 807,
809
+ 809,
810
+ 810,
811
+ 811,
812
+ 812,
813
+ 813,
814
+ 814,
815
+ 815,
816
+ 816,
817
+ 818,
818
+ 819,
819
+ 820,
820
+ 821,
821
+ 823,
822
+ 824,
823
+ 825,
824
+ 826,
825
+ 827,
826
+ 828,
827
+ 829,
828
+ 830,
829
+ 831,
830
+ 832,
831
+ 834,
832
+ 835,
833
+ 836,
834
+ 837,
835
+ 838,
836
+ 840,
837
+ 841,
838
+ 842,
839
+ 843,
840
+ 844,
841
+ 845,
842
+ 846,
843
+ 848,
844
+ 850,
845
+ 851,
846
+ 852,
847
+ 853,
848
+ 855,
849
+ 856,
850
+ 857,
851
+ 858,
852
+ 859,
853
+ 860,
854
+ 861,
855
+ 862,
856
+ 863,
857
+ 864,
858
+ 865,
859
+ 866,
860
+ 868,
861
+ 869,
862
+ 870,
863
+ 871,
864
+ 872,
865
+ 873,
866
+ 875,
867
+ 877,
868
+ 878,
869
+ 879,
870
+ 880,
871
+ 881,
872
+ 882,
873
+ 883,
874
+ 884,
875
+ 886,
876
+ 887,
877
+ 891,
878
+ 892,
879
+ 893,
880
+ 894,
881
+ 896,
882
+ 897,
883
+ 898,
884
+ 899,
885
+ 900,
886
+ 901,
887
+ 903,
888
+ 904,
889
+ 905,
890
+ 906,
891
+ 907,
892
+ 908,
893
+ 909,
894
+ 910,
895
+ 911,
896
+ 913,
897
+ 914,
898
+ 915,
899
+ 916,
900
+ 917,
901
+ 918,
902
+ 919,
903
+ 920,
904
+ 921,
905
+ 922,
906
+ 923,
907
+ 925,
908
+ 926,
909
+ 927,
910
+ 928,
911
+ 929,
912
+ 930,
913
+ 931,
914
+ 933,
915
+ 934,
916
+ 936,
917
+ 937,
918
+ 938,
919
+ 939,
920
+ 941,
921
+ 942,
922
+ 943,
923
+ 944,
924
+ 945,
925
+ 946,
926
+ 947,
927
+ 948,
928
+ 949,
929
+ 950,
930
+ 951,
931
+ 952,
932
+ 953,
933
+ 954,
934
+ 955,
935
+ 956,
936
+ 957,
937
+ 958,
938
+ 959,
939
+ 960,
940
+ 961,
941
+ 962,
942
+ 963,
943
+ 964,
944
+ 965,
945
+ 967,
946
+ 968,
947
+ 970,
948
+ 971,
949
+ 972,
950
+ 973,
951
+ 974,
952
+ 975,
953
+ 977,
954
+ 978,
955
+ 979,
956
+ 981,
957
+ 982,
958
+ 983,
959
+ 984,
960
+ 985,
961
+ 986,
962
+ 987,
963
+ 988,
964
+ 989,
965
+ 991,
966
+ 992,
967
+ 993,
968
+ 994,
969
+ 997,
970
+ 998,
971
+ 999
972
+ ],
973
+ "not_both_correct_indices": [
974
+ 22,
975
+ 42,
976
+ 53,
977
+ 126,
978
+ 133,
979
+ 158,
980
+ 181,
981
+ 220,
982
+ 260,
983
+ 297,
984
+ 304,
985
+ 320,
986
+ 325,
987
+ 326,
988
+ 327,
989
+ 375,
990
+ 454,
991
+ 472,
992
+ 497,
993
+ 510,
994
+ 516,
995
+ 538,
996
+ 580,
997
+ 592,
998
+ 634,
999
+ 660,
1000
+ 690,
1001
+ 691,
1002
+ 696,
1003
+ 710,
1004
+ 717,
1005
+ 723,
1006
+ 730,
1007
+ 788,
1008
+ 817,
1009
+ 833,
1010
+ 874,
1011
+ 885,
1012
+ 969,
1013
+ 990
1014
+ ],
1015
+ "clean_baseline": 6.734375,
1016
+ "corrupted_baseline": -7.00390625
1017
+ }