Hugging Face's logo

Datasets:
barryhpr
/
LLM_Modularity_attribution

Size:
1B<n<10B
Tags:
interpretability
attribution-patching
mechanistic-interpretability
License:
Dataset card Files
xet
 Community
barryhpr commited on
Commit
0d77084
·
verified ·
1 Parent(s): b00938a

Add attribution tensors (101-200 of 993)

Browse files
This view is limited to 50 files because it contains too many changes.   See raw diff
Files changed (50) hide show
  1. results/Qwen_Qwen2-5-32B-Instruct/MD/number_sorting/attribution_meta.json +1 -0
  2. results/Qwen_Qwen2-5-32B-Instruct/MD/number_sorting/baselines.json +1016 -0
  3. results/Qwen_Qwen2-5-32B-Instruct/MD/number_sorting/neuron_attribution.pt +3 -0
  4. results/Qwen_Qwen2-5-32B-Instruct/MD/number_sorting/sorted_indices_positive.npy +3 -0
  5. results/Qwen_Qwen2-5-32B-Instruct/MD/simple_equation/attribution_meta.json +1 -0
  6. results/Qwen_Qwen2-5-32B-Instruct/MD/simple_equation/baselines.json +1012 -0
  7. results/Qwen_Qwen2-5-32B-Instruct/MD/simple_equation/neuron_attribution.pt +3 -0
  8. results/Qwen_Qwen2-5-32B-Instruct/MD/simple_equation/sorted_indices_positive.npy +3 -0
  9. results/Qwen_Qwen2-5-32B-Instruct/ToM/agent/attribution_meta.json +1 -0
  10. results/Qwen_Qwen2-5-32B-Instruct/ToM/agent/baselines.json +961 -0
  11. results/Qwen_Qwen2-5-32B-Instruct/ToM/agent/neuron_attribution.pt +3 -0
  12. results/Qwen_Qwen2-5-32B-Instruct/ToM/agent/sorted_indices_positive.npy +3 -0
  13. results/Qwen_Qwen2-5-32B-Instruct/ToM/desires_goals/attribution_meta.json +1 -0
  14. results/Qwen_Qwen2-5-32B-Instruct/ToM/desires_goals/baselines.json +1096 -0
  15. results/Qwen_Qwen2-5-32B-Instruct/ToM/desires_goals/neuron_attribution.pt +3 -0
  16. results/Qwen_Qwen2-5-32B-Instruct/ToM/desires_goals/sorted_indices_positive.npy +3 -0
  17. results/Qwen_Qwen2-5-32B-Instruct/ToM/emotion_fewshot/attribution_meta.json +1 -0
  18. results/Qwen_Qwen2-5-32B-Instruct/ToM/emotion_fewshot/baselines.json +2017 -0
  19. results/Qwen_Qwen2-5-32B-Instruct/ToM/emotion_fewshot/neuron_attribution.pt +3 -0
  20. results/Qwen_Qwen2-5-32B-Instruct/ToM/emotion_fewshot/sorted_indices_positive.npy +3 -0
  21. results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_appropriate/attribution_meta.json +1 -0
  22. results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_appropriate/baselines.json +2015 -0
  23. results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_appropriate/neuron_attribution.pt +3 -0
  24. results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_appropriate/sorted_indices_positive.npy +3 -0
  25. results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_moral/attribution_meta.json +1 -0
  26. results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_moral/baselines.json +2016 -0
  27. results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_moral/neuron_attribution.pt +3 -0
  28. results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_moral/sorted_indices_positive.npy +3 -0
  29. results/Qwen_Qwen2-5-32B-Instruct/ToM/primary_emotions/attribution_meta.json +1 -0
  30. results/Qwen_Qwen2-5-32B-Instruct/ToM/primary_emotions/baselines.json +1311 -0
  31. results/Qwen_Qwen2-5-32B-Instruct/ToM/primary_emotions/neuron_attribution.pt +3 -0
  32. results/Qwen_Qwen2-5-32B-Instruct/ToM/primary_emotions/sorted_indices_positive.npy +3 -0
  33. results/Qwen_Qwen2-5-32B-Instruct/ToM/secondary_emotions/attribution_meta.json +1 -0
  34. results/Qwen_Qwen2-5-32B-Instruct/ToM/secondary_emotions/baselines.json +1616 -0
  35. results/Qwen_Qwen2-5-32B-Instruct/ToM/secondary_emotions/neuron_attribution.pt +3 -0
  36. results/Qwen_Qwen2-5-32B-Instruct/ToM/secondary_emotions/sorted_indices_positive.npy +3 -0
  37. results/Qwen_Qwen2-5-32B-Instruct/ToM/social_interactions/attribution_meta.json +1 -0
  38. results/Qwen_Qwen2-5-32B-Instruct/ToM/social_interactions/baselines.json +220 -0
  39. results/Qwen_Qwen2-5-32B-Instruct/ToM/social_interactions/neuron_attribution.pt +3 -0
  40. results/Qwen_Qwen2-5-32B-Instruct/ToM/social_interactions/sorted_indices_positive.npy +3 -0
  41. results/Qwen_Qwen2-5-32B-Instruct/ToM/social_relations/attribution_meta.json +1 -0
  42. results/Qwen_Qwen2-5-32B-Instruct/ToM/social_relations/baselines.json +304 -0
  43. results/Qwen_Qwen2-5-32B-Instruct/ToM/social_relations/neuron_attribution.pt +3 -0
  44. results/Qwen_Qwen2-5-32B-Instruct/ToM/social_relations/sorted_indices_positive.npy +3 -0
  45. results/Qwen_Qwen2-5-32B-Instruct/phys/phys_newton/attribution_meta.json +1 -0
  46. results/Qwen_Qwen2-5-32B-Instruct/phys/phys_newton/baselines.json +1016 -0
  47. results/Qwen_Qwen2-5-32B-Instruct/phys/phys_newton/neuron_attribution.pt +3 -0
  48. results/Qwen_Qwen2-5-32B-Instruct/phys/phys_newton/sorted_indices_positive.npy +3 -0
  49. results/Qwen_Qwen2-5-32B-Instruct/phys/phys_prost/attribution_meta.json +1 -0
  50. results/Qwen_Qwen2-5-32B-Instruct/phys/phys_prost/baselines.json +1216 -0
results/Qwen_Qwen2-5-32B-Instruct/MD/number_sorting/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/Qwen_Qwen2-5-32B-Instruct/MD/number_sorting/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.996,
7
+ "corrupted_accuracy": 0.997,
8
+ "both_correct_accuracy": 0.994,
9
+ "n_both_correct": 994,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 4,
15
+ 5,
16
+ 6,
17
+ 7,
18
+ 8,
19
+ 9,
20
+ 10,
21
+ 11,
22
+ 12,
23
+ 13,
24
+ 14,
25
+ 15,
26
+ 16,
27
+ 17,
28
+ 18,
29
+ 19,
30
+ 20,
31
+ 22,
32
+ 23,
33
+ 24,
34
+ 25,
35
+ 26,
36
+ 27,
37
+ 28,
38
+ 29,
39
+ 30,
40
+ 31,
41
+ 32,
42
+ 33,
43
+ 34,
44
+ 35,
45
+ 36,
46
+ 37,
47
+ 38,
48
+ 39,
49
+ 40,
50
+ 41,
51
+ 42,
52
+ 43,
53
+ 44,
54
+ 45,
55
+ 46,
56
+ 47,
57
+ 48,
58
+ 49,
59
+ 50,
60
+ 51,
61
+ 52,
62
+ 53,
63
+ 54,
64
+ 55,
65
+ 56,
66
+ 57,
67
+ 58,
68
+ 59,
69
+ 60,
70
+ 61,
71
+ 62,
72
+ 63,
73
+ 64,
74
+ 65,
75
+ 66,
76
+ 67,
77
+ 68,
78
+ 69,
79
+ 70,
80
+ 71,
81
+ 72,
82
+ 73,
83
+ 74,
84
+ 75,
85
+ 76,
86
+ 77,
87
+ 78,
88
+ 79,
89
+ 80,
90
+ 81,
91
+ 82,
92
+ 83,
93
+ 84,
94
+ 85,
95
+ 86,
96
+ 87,
97
+ 88,
98
+ 89,
99
+ 90,
100
+ 91,
101
+ 92,
102
+ 93,
103
+ 94,
104
+ 95,
105
+ 96,
106
+ 97,
107
+ 98,
108
+ 99,
109
+ 100,
110
+ 101,
111
+ 102,
112
+ 103,
113
+ 104,
114
+ 105,
115
+ 106,
116
+ 107,
117
+ 108,
118
+ 109,
119
+ 110,
120
+ 111,
121
+ 112,
122
+ 113,
123
+ 114,
124
+ 115,
125
+ 116,
126
+ 117,
127
+ 118,
128
+ 119,
129
+ 120,
130
+ 121,
131
+ 122,
132
+ 123,
133
+ 124,
134
+ 125,
135
+ 126,
136
+ 127,
137
+ 128,
138
+ 129,
139
+ 130,
140
+ 131,
141
+ 132,
142
+ 133,
143
+ 134,
144
+ 135,
145
+ 136,
146
+ 137,
147
+ 138,
148
+ 139,
149
+ 140,
150
+ 141,
151
+ 142,
152
+ 143,
153
+ 144,
154
+ 145,
155
+ 146,
156
+ 147,
157
+ 148,
158
+ 149,
159
+ 150,
160
+ 151,
161
+ 152,
162
+ 153,
163
+ 154,
164
+ 155,
165
+ 156,
166
+ 157,
167
+ 158,
168
+ 159,
169
+ 160,
170
+ 161,
171
+ 162,
172
+ 163,
173
+ 164,
174
+ 165,
175
+ 166,
176
+ 167,
177
+ 168,
178
+ 169,
179
+ 170,
180
+ 171,
181
+ 172,
182
+ 173,
183
+ 174,
184
+ 175,
185
+ 176,
186
+ 177,
187
+ 178,
188
+ 179,
189
+ 180,
190
+ 181,
191
+ 182,
192
+ 183,
193
+ 184,
194
+ 185,
195
+ 186,
196
+ 187,
197
+ 188,
198
+ 189,
199
+ 190,
200
+ 191,
201
+ 192,
202
+ 193,
203
+ 194,
204
+ 195,
205
+ 196,
206
+ 197,
207
+ 198,
208
+ 199,
209
+ 200,
210
+ 201,
211
+ 202,
212
+ 203,
213
+ 204,
214
+ 205,
215
+ 206,
216
+ 207,
217
+ 208,
218
+ 209,
219
+ 210,
220
+ 211,
221
+ 212,
222
+ 213,
223
+ 214,
224
+ 215,
225
+ 216,
226
+ 217,
227
+ 218,
228
+ 219,
229
+ 220,
230
+ 221,
231
+ 222,
232
+ 223,
233
+ 224,
234
+ 225,
235
+ 226,
236
+ 227,
237
+ 228,
238
+ 229,
239
+ 230,
240
+ 231,
241
+ 233,
242
+ 234,
243
+ 235,
244
+ 236,
245
+ 237,
246
+ 238,
247
+ 239,
248
+ 240,
249
+ 241,
250
+ 242,
251
+ 243,
252
+ 244,
253
+ 245,
254
+ 246,
255
+ 247,
256
+ 248,
257
+ 249,
258
+ 250,
259
+ 251,
260
+ 252,
261
+ 253,
262
+ 254,
263
+ 255,
264
+ 256,
265
+ 257,
266
+ 258,
267
+ 259,
268
+ 260,
269
+ 261,
270
+ 262,
271
+ 263,
272
+ 264,
273
+ 265,
274
+ 266,
275
+ 267,
276
+ 268,
277
+ 269,
278
+ 270,
279
+ 271,
280
+ 272,
281
+ 273,
282
+ 275,
283
+ 276,
284
+ 277,
285
+ 278,
286
+ 279,
287
+ 280,
288
+ 281,
289
+ 282,
290
+ 283,
291
+ 284,
292
+ 285,
293
+ 286,
294
+ 287,
295
+ 288,
296
+ 289,
297
+ 290,
298
+ 291,
299
+ 292,
300
+ 293,
301
+ 294,
302
+ 295,
303
+ 296,
304
+ 297,
305
+ 298,
306
+ 299,
307
+ 300,
308
+ 301,
309
+ 302,
310
+ 303,
311
+ 304,
312
+ 305,
313
+ 306,
314
+ 307,
315
+ 308,
316
+ 309,
317
+ 310,
318
+ 311,
319
+ 312,
320
+ 313,
321
+ 314,
322
+ 315,
323
+ 316,
324
+ 317,
325
+ 318,
326
+ 319,
327
+ 320,
328
+ 321,
329
+ 322,
330
+ 323,
331
+ 324,
332
+ 325,
333
+ 326,
334
+ 327,
335
+ 328,
336
+ 329,
337
+ 330,
338
+ 331,
339
+ 332,
340
+ 333,
341
+ 334,
342
+ 335,
343
+ 336,
344
+ 337,
345
+ 338,
346
+ 339,
347
+ 340,
348
+ 341,
349
+ 342,
350
+ 343,
351
+ 344,
352
+ 345,
353
+ 346,
354
+ 347,
355
+ 348,
356
+ 349,
357
+ 350,
358
+ 351,
359
+ 352,
360
+ 353,
361
+ 354,
362
+ 355,
363
+ 356,
364
+ 357,
365
+ 358,
366
+ 359,
367
+ 360,
368
+ 361,
369
+ 362,
370
+ 363,
371
+ 364,
372
+ 365,
373
+ 366,
374
+ 367,
375
+ 368,
376
+ 369,
377
+ 370,
378
+ 371,
379
+ 372,
380
+ 373,
381
+ 374,
382
+ 375,
383
+ 376,
384
+ 377,
385
+ 378,
386
+ 379,
387
+ 380,
388
+ 381,
389
+ 382,
390
+ 383,
391
+ 384,
392
+ 385,
393
+ 386,
394
+ 387,
395
+ 388,
396
+ 389,
397
+ 390,
398
+ 391,
399
+ 392,
400
+ 393,
401
+ 394,
402
+ 395,
403
+ 396,
404
+ 397,
405
+ 398,
406
+ 399,
407
+ 400,
408
+ 401,
409
+ 402,
410
+ 403,
411
+ 404,
412
+ 405,
413
+ 406,
414
+ 407,
415
+ 408,
416
+ 409,
417
+ 410,
418
+ 411,
419
+ 412,
420
+ 413,
421
+ 414,
422
+ 415,
423
+ 416,
424
+ 417,
425
+ 418,
426
+ 419,
427
+ 420,
428
+ 421,
429
+ 422,
430
+ 423,
431
+ 424,
432
+ 425,
433
+ 427,
434
+ 428,
435
+ 429,
436
+ 430,
437
+ 431,
438
+ 432,
439
+ 433,
440
+ 434,
441
+ 435,
442
+ 436,
443
+ 437,
444
+ 438,
445
+ 439,
446
+ 440,
447
+ 441,
448
+ 442,
449
+ 443,
450
+ 444,
451
+ 445,
452
+ 446,
453
+ 447,
454
+ 448,
455
+ 449,
456
+ 450,
457
+ 451,
458
+ 452,
459
+ 453,
460
+ 454,
461
+ 455,
462
+ 456,
463
+ 457,
464
+ 458,
465
+ 459,
466
+ 460,
467
+ 461,
468
+ 462,
469
+ 463,
470
+ 464,
471
+ 465,
472
+ 466,
473
+ 467,
474
+ 468,
475
+ 469,
476
+ 470,
477
+ 471,
478
+ 472,
479
+ 473,
480
+ 474,
481
+ 475,
482
+ 476,
483
+ 477,
484
+ 478,
485
+ 479,
486
+ 480,
487
+ 481,
488
+ 482,
489
+ 483,
490
+ 484,
491
+ 485,
492
+ 486,
493
+ 487,
494
+ 488,
495
+ 489,
496
+ 490,
497
+ 491,
498
+ 492,
499
+ 493,
500
+ 494,
501
+ 495,
502
+ 496,
503
+ 497,
504
+ 498,
505
+ 499,
506
+ 500,
507
+ 501,
508
+ 502,
509
+ 503,
510
+ 504,
511
+ 505,
512
+ 506,
513
+ 507,
514
+ 508,
515
+ 509,
516
+ 510,
517
+ 511,
518
+ 512,
519
+ 513,
520
+ 514,
521
+ 515,
522
+ 516,
523
+ 517,
524
+ 518,
525
+ 519,
526
+ 520,
527
+ 521,
528
+ 522,
529
+ 523,
530
+ 524,
531
+ 525,
532
+ 526,
533
+ 527,
534
+ 528,
535
+ 529,
536
+ 530,
537
+ 531,
538
+ 532,
539
+ 533,
540
+ 534,
541
+ 535,
542
+ 536,
543
+ 537,
544
+ 538,
545
+ 539,
546
+ 540,
547
+ 541,
548
+ 542,
549
+ 543,
550
+ 544,
551
+ 545,
552
+ 546,
553
+ 547,
554
+ 548,
555
+ 549,
556
+ 550,
557
+ 551,
558
+ 552,
559
+ 553,
560
+ 554,
561
+ 555,
562
+ 556,
563
+ 557,
564
+ 558,
565
+ 559,
566
+ 560,
567
+ 561,
568
+ 562,
569
+ 563,
570
+ 564,
571
+ 565,
572
+ 566,
573
+ 567,
574
+ 568,
575
+ 569,
576
+ 570,
577
+ 571,
578
+ 572,
579
+ 573,
580
+ 574,
581
+ 575,
582
+ 576,
583
+ 577,
584
+ 578,
585
+ 579,
586
+ 580,
587
+ 581,
588
+ 582,
589
+ 583,
590
+ 584,
591
+ 585,
592
+ 586,
593
+ 587,
594
+ 588,
595
+ 589,
596
+ 590,
597
+ 591,
598
+ 592,
599
+ 593,
600
+ 594,
601
+ 595,
602
+ 596,
603
+ 597,
604
+ 598,
605
+ 599,
606
+ 600,
607
+ 601,
608
+ 602,
609
+ 603,
610
+ 604,
611
+ 605,
612
+ 606,
613
+ 607,
614
+ 608,
615
+ 609,
616
+ 610,
617
+ 611,
618
+ 612,
619
+ 613,
620
+ 614,
621
+ 615,
622
+ 616,
623
+ 617,
624
+ 618,
625
+ 619,
626
+ 620,
627
+ 621,
628
+ 622,
629
+ 623,
630
+ 624,
631
+ 625,
632
+ 626,
633
+ 627,
634
+ 628,
635
+ 629,
636
+ 630,
637
+ 631,
638
+ 632,
639
+ 633,
640
+ 634,
641
+ 635,
642
+ 636,
643
+ 637,
644
+ 638,
645
+ 639,
646
+ 640,
647
+ 641,
648
+ 642,
649
+ 643,
650
+ 644,
651
+ 645,
652
+ 646,
653
+ 647,
654
+ 648,
655
+ 649,
656
+ 650,
657
+ 651,
658
+ 652,
659
+ 653,
660
+ 654,
661
+ 655,
662
+ 656,
663
+ 657,
664
+ 658,
665
+ 659,
666
+ 660,
667
+ 661,
668
+ 662,
669
+ 663,
670
+ 664,
671
+ 665,
672
+ 666,
673
+ 667,
674
+ 668,
675
+ 669,
676
+ 670,
677
+ 671,
678
+ 672,
679
+ 673,
680
+ 674,
681
+ 675,
682
+ 676,
683
+ 677,
684
+ 678,
685
+ 679,
686
+ 680,
687
+ 682,
688
+ 683,
689
+ 684,
690
+ 685,
691
+ 686,
692
+ 687,
693
+ 688,
694
+ 689,
695
+ 690,
696
+ 691,
697
+ 692,
698
+ 693,
699
+ 694,
700
+ 695,
701
+ 696,
702
+ 697,
703
+ 698,
704
+ 699,
705
+ 700,
706
+ 701,
707
+ 702,
708
+ 703,
709
+ 704,
710
+ 705,
711
+ 706,
712
+ 707,
713
+ 708,
714
+ 709,
715
+ 710,
716
+ 711,
717
+ 712,
718
+ 713,
719
+ 714,
720
+ 715,
721
+ 716,
722
+ 717,
723
+ 718,
724
+ 719,
725
+ 720,
726
+ 721,
727
+ 722,
728
+ 723,
729
+ 724,
730
+ 725,
731
+ 726,
732
+ 727,
733
+ 728,
734
+ 729,
735
+ 730,
736
+ 731,
737
+ 732,
738
+ 733,
739
+ 734,
740
+ 735,
741
+ 736,
742
+ 737,
743
+ 738,
744
+ 739,
745
+ 740,
746
+ 741,
747
+ 742,
748
+ 743,
749
+ 744,
750
+ 745,
751
+ 746,
752
+ 747,
753
+ 748,
754
+ 749,
755
+ 750,
756
+ 751,
757
+ 752,
758
+ 753,
759
+ 754,
760
+ 755,
761
+ 756,
762
+ 757,
763
+ 758,
764
+ 759,
765
+ 760,
766
+ 761,
767
+ 762,
768
+ 763,
769
+ 764,
770
+ 765,
771
+ 766,
772
+ 767,
773
+ 768,
774
+ 769,
775
+ 770,
776
+ 771,
777
+ 772,
778
+ 773,
779
+ 774,
780
+ 775,
781
+ 776,
782
+ 777,
783
+ 778,
784
+ 779,
785
+ 780,
786
+ 781,
787
+ 782,
788
+ 783,
789
+ 784,
790
+ 785,
791
+ 786,
792
+ 787,
793
+ 788,
794
+ 789,
795
+ 790,
796
+ 791,
797
+ 792,
798
+ 793,
799
+ 794,
800
+ 795,
801
+ 796,
802
+ 797,
803
+ 798,
804
+ 799,
805
+ 800,
806
+ 801,
807
+ 802,
808
+ 803,
809
+ 804,
810
+ 805,
811
+ 806,
812
+ 807,
813
+ 808,
814
+ 809,
815
+ 810,
816
+ 811,
817
+ 812,
818
+ 813,
819
+ 814,
820
+ 815,
821
+ 816,
822
+ 817,
823
+ 818,
824
+ 819,
825
+ 820,
826
+ 821,
827
+ 822,
828
+ 823,
829
+ 824,
830
+ 825,
831
+ 826,
832
+ 827,
833
+ 828,
834
+ 829,
835
+ 830,
836
+ 831,
837
+ 832,
838
+ 833,
839
+ 834,
840
+ 835,
841
+ 836,
842
+ 837,
843
+ 838,
844
+ 839,
845
+ 840,
846
+ 841,
847
+ 842,
848
+ 843,
849
+ 844,
850
+ 845,
851
+ 846,
852
+ 847,
853
+ 848,
854
+ 849,
855
+ 850,
856
+ 851,
857
+ 852,
858
+ 853,
859
+ 854,
860
+ 855,
861
+ 856,
862
+ 857,
863
+ 858,
864
+ 859,
865
+ 860,
866
+ 861,
867
+ 862,
868
+ 863,
869
+ 864,
870
+ 865,
871
+ 866,
872
+ 867,
873
+ 868,
874
+ 869,
875
+ 870,
876
+ 871,
877
+ 872,
878
+ 873,
879
+ 874,
880
+ 875,
881
+ 876,
882
+ 877,
883
+ 878,
884
+ 879,
885
+ 880,
886
+ 881,
887
+ 882,
888
+ 883,
889
+ 884,
890
+ 885,
891
+ 886,
892
+ 887,
893
+ 888,
894
+ 889,
895
+ 890,
896
+ 891,
897
+ 892,
898
+ 893,
899
+ 894,
900
+ 895,
901
+ 896,
902
+ 897,
903
+ 898,
904
+ 899,
905
+ 900,
906
+ 901,
907
+ 902,
908
+ 903,
909
+ 904,
910
+ 905,
911
+ 906,
912
+ 907,
913
+ 908,
914
+ 909,
915
+ 910,
916
+ 911,
917
+ 912,
918
+ 913,
919
+ 914,
920
+ 915,
921
+ 916,
922
+ 917,
923
+ 918,
924
+ 919,
925
+ 920,
926
+ 921,
927
+ 922,
928
+ 923,
929
+ 924,
930
+ 925,
931
+ 926,
932
+ 927,
933
+ 928,
934
+ 929,
935
+ 930,
936
+ 931,
937
+ 932,
938
+ 933,
939
+ 934,
940
+ 935,
941
+ 936,
942
+ 937,
943
+ 938,
944
+ 939,
945
+ 940,
946
+ 941,
947
+ 942,
948
+ 943,
949
+ 944,
950
+ 945,
951
+ 946,
952
+ 947,
953
+ 948,
954
+ 949,
955
+ 950,
956
+ 951,
957
+ 952,
958
+ 953,
959
+ 954,
960
+ 955,
961
+ 956,
962
+ 957,
963
+ 958,
964
+ 959,
965
+ 960,
966
+ 961,
967
+ 962,
968
+ 963,
969
+ 964,
970
+ 965,
971
+ 966,
972
+ 967,
973
+ 968,
974
+ 969,
975
+ 970,
976
+ 971,
977
+ 972,
978
+ 973,
979
+ 974,
980
+ 975,
981
+ 976,
982
+ 977,
983
+ 978,
984
+ 979,
985
+ 980,
986
+ 981,
987
+ 982,
988
+ 983,
989
+ 984,
990
+ 985,
991
+ 986,
992
+ 987,
993
+ 988,
994
+ 989,
995
+ 990,
996
+ 991,
997
+ 992,
998
+ 993,
999
+ 994,
1000
+ 995,
1001
+ 996,
1002
+ 997,
1003
+ 998,
1004
+ 999
1005
+ ],
1006
+ "not_both_correct_indices": [
1007
+ 3,
1008
+ 21,
1009
+ 232,
1010
+ 274,
1011
+ 426,
1012
+ 681
1013
+ ],
1014
+ "clean_baseline": 31.171875,
1015
+ "corrupted_baseline": -31.15625
1016
+ }
results/Qwen_Qwen2-5-32B-Instruct/MD/number_sorting/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4f98c32d6af008f48cde07d56814a32a7763301a08b6d5b63419714e9e27999e
3
+ size 14157430
results/Qwen_Qwen2-5-32B-Instruct/MD/number_sorting/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:e3ac8da3d7549395bab57e27672a42c860f022de1b896d07fc304b1fecf02c2e
3
+ size 6084528
results/Qwen_Qwen2-5-32B-Instruct/MD/simple_equation/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/Qwen_Qwen2-5-32B-Instruct/MD/simple_equation/baselines.json ADDED
@@ -0,0 +1,1012 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 995,
3
+ "n_token_misaligned": 89,
4
+ "token_misaligned_indices": [
5
+ 31,
6
+ 36,
7
+ 53,
8
+ 68,
9
+ 69,
10
+ 71,
11
+ 72,
12
+ 76,
13
+ 122,
14
+ 133,
15
+ 167,
16
+ 168,
17
+ 172,
18
+ 185,
19
+ 190,
20
+ 193,
21
+ 196,
22
+ 200,
23
+ 202,
24
+ 259,
25
+ 317,
26
+ 319,
27
+ 324,
28
+ 327,
29
+ 356,
30
+ 371,
31
+ 375,
32
+ 377,
33
+ 392,
34
+ 399,
35
+ 406,
36
+ 418,
37
+ 427,
38
+ 445,
39
+ 455,
40
+ 468,
41
+ 488,
42
+ 491,
43
+ 507,
44
+ 515,
45
+ 528,
46
+ 534,
47
+ 535,
48
+ 539,
49
+ 540,
50
+ 559,
51
+ 576,
52
+ 581,
53
+ 590,
54
+ 596,
55
+ 600,
56
+ 601,
57
+ 609,
58
+ 613,
59
+ 622,
60
+ 635,
61
+ 646,
62
+ 650,
63
+ 651,
64
+ 667,
65
+ 668,
66
+ 685,
67
+ 692,
68
+ 697,
69
+ 699,
70
+ 708,
71
+ 726,
72
+ 731,
73
+ 739,
74
+ 742,
75
+ 745,
76
+ 750,
77
+ 752,
78
+ 800,
79
+ 802,
80
+ 817,
81
+ 828,
82
+ 850,
83
+ 852,
84
+ 859,
85
+ 884,
86
+ 906,
87
+ 928,
88
+ 937,
89
+ 942,
90
+ 960,
91
+ 963,
92
+ 969,
93
+ 989
94
+ ],
95
+ "n_after_alignment_filter": 906,
96
+ "clean_accuracy": 0.9216335540838853,
97
+ "corrupted_accuracy": 0.9017660044150111,
98
+ "both_correct_accuracy": 0.8289183222958058,
99
+ "n_both_correct": 751,
100
+ "both_correct_indices": [
101
+ 0,
102
+ 1,
103
+ 2,
104
+ 3,
105
+ 4,
106
+ 5,
107
+ 6,
108
+ 7,
109
+ 8,
110
+ 9,
111
+ 10,
112
+ 12,
113
+ 13,
114
+ 15,
115
+ 16,
116
+ 17,
117
+ 19,
118
+ 20,
119
+ 21,
120
+ 22,
121
+ 23,
122
+ 24,
123
+ 26,
124
+ 27,
125
+ 28,
126
+ 29,
127
+ 30,
128
+ 33,
129
+ 34,
130
+ 35,
131
+ 37,
132
+ 38,
133
+ 40,
134
+ 41,
135
+ 42,
136
+ 43,
137
+ 44,
138
+ 45,
139
+ 47,
140
+ 48,
141
+ 49,
142
+ 50,
143
+ 51,
144
+ 52,
145
+ 54,
146
+ 55,
147
+ 56,
148
+ 57,
149
+ 58,
150
+ 59,
151
+ 61,
152
+ 62,
153
+ 63,
154
+ 64,
155
+ 65,
156
+ 66,
157
+ 67,
158
+ 73,
159
+ 74,
160
+ 75,
161
+ 77,
162
+ 78,
163
+ 79,
164
+ 80,
165
+ 81,
166
+ 83,
167
+ 85,
168
+ 86,
169
+ 87,
170
+ 88,
171
+ 89,
172
+ 90,
173
+ 92,
174
+ 93,
175
+ 95,
176
+ 97,
177
+ 98,
178
+ 100,
179
+ 101,
180
+ 102,
181
+ 103,
182
+ 104,
183
+ 105,
184
+ 106,
185
+ 107,
186
+ 108,
187
+ 109,
188
+ 110,
189
+ 112,
190
+ 114,
191
+ 115,
192
+ 116,
193
+ 117,
194
+ 119,
195
+ 120,
196
+ 121,
197
+ 123,
198
+ 124,
199
+ 126,
200
+ 127,
201
+ 129,
202
+ 130,
203
+ 132,
204
+ 134,
205
+ 135,
206
+ 136,
207
+ 137,
208
+ 139,
209
+ 141,
210
+ 142,
211
+ 144,
212
+ 145,
213
+ 146,
214
+ 147,
215
+ 148,
216
+ 150,
217
+ 151,
218
+ 152,
219
+ 153,
220
+ 154,
221
+ 155,
222
+ 156,
223
+ 157,
224
+ 158,
225
+ 160,
226
+ 161,
227
+ 162,
228
+ 164,
229
+ 165,
230
+ 169,
231
+ 170,
232
+ 171,
233
+ 173,
234
+ 174,
235
+ 175,
236
+ 176,
237
+ 178,
238
+ 179,
239
+ 180,
240
+ 181,
241
+ 182,
242
+ 183,
243
+ 184,
244
+ 186,
245
+ 187,
246
+ 188,
247
+ 194,
248
+ 195,
249
+ 197,
250
+ 198,
251
+ 199,
252
+ 201,
253
+ 203,
254
+ 206,
255
+ 207,
256
+ 208,
257
+ 209,
258
+ 210,
259
+ 211,
260
+ 212,
261
+ 213,
262
+ 214,
263
+ 215,
264
+ 216,
265
+ 218,
266
+ 220,
267
+ 221,
268
+ 222,
269
+ 224,
270
+ 225,
271
+ 226,
272
+ 227,
273
+ 228,
274
+ 229,
275
+ 230,
276
+ 231,
277
+ 232,
278
+ 233,
279
+ 234,
280
+ 235,
281
+ 236,
282
+ 237,
283
+ 238,
284
+ 239,
285
+ 240,
286
+ 241,
287
+ 242,
288
+ 243,
289
+ 244,
290
+ 245,
291
+ 246,
292
+ 247,
293
+ 248,
294
+ 249,
295
+ 250,
296
+ 251,
297
+ 252,
298
+ 253,
299
+ 254,
300
+ 255,
301
+ 258,
302
+ 260,
303
+ 261,
304
+ 262,
305
+ 263,
306
+ 265,
307
+ 267,
308
+ 268,
309
+ 269,
310
+ 270,
311
+ 271,
312
+ 272,
313
+ 274,
314
+ 275,
315
+ 277,
316
+ 278,
317
+ 279,
318
+ 280,
319
+ 281,
320
+ 282,
321
+ 283,
322
+ 284,
323
+ 285,
324
+ 286,
325
+ 287,
326
+ 290,
327
+ 291,
328
+ 292,
329
+ 293,
330
+ 294,
331
+ 295,
332
+ 297,
333
+ 298,
334
+ 299,
335
+ 300,
336
+ 301,
337
+ 302,
338
+ 303,
339
+ 304,
340
+ 306,
341
+ 307,
342
+ 308,
343
+ 309,
344
+ 310,
345
+ 311,
346
+ 312,
347
+ 313,
348
+ 314,
349
+ 315,
350
+ 316,
351
+ 318,
352
+ 321,
353
+ 322,
354
+ 323,
355
+ 325,
356
+ 326,
357
+ 328,
358
+ 329,
359
+ 330,
360
+ 331,
361
+ 332,
362
+ 334,
363
+ 335,
364
+ 336,
365
+ 339,
366
+ 340,
367
+ 342,
368
+ 343,
369
+ 344,
370
+ 345,
371
+ 346,
372
+ 347,
373
+ 348,
374
+ 349,
375
+ 350,
376
+ 351,
377
+ 352,
378
+ 353,
379
+ 354,
380
+ 355,
381
+ 357,
382
+ 358,
383
+ 359,
384
+ 360,
385
+ 361,
386
+ 362,
387
+ 363,
388
+ 364,
389
+ 365,
390
+ 366,
391
+ 367,
392
+ 368,
393
+ 369,
394
+ 370,
395
+ 372,
396
+ 373,
397
+ 374,
398
+ 376,
399
+ 378,
400
+ 379,
401
+ 380,
402
+ 381,
403
+ 382,
404
+ 383,
405
+ 384,
406
+ 385,
407
+ 386,
408
+ 387,
409
+ 388,
410
+ 389,
411
+ 391,
412
+ 393,
413
+ 394,
414
+ 395,
415
+ 398,
416
+ 400,
417
+ 401,
418
+ 402,
419
+ 403,
420
+ 404,
421
+ 405,
422
+ 408,
423
+ 409,
424
+ 410,
425
+ 411,
426
+ 412,
427
+ 413,
428
+ 415,
429
+ 417,
430
+ 419,
431
+ 420,
432
+ 423,
433
+ 424,
434
+ 425,
435
+ 426,
436
+ 428,
437
+ 429,
438
+ 430,
439
+ 431,
440
+ 432,
441
+ 433,
442
+ 435,
443
+ 436,
444
+ 438,
445
+ 439,
446
+ 440,
447
+ 441,
448
+ 443,
449
+ 444,
450
+ 448,
451
+ 449,
452
+ 450,
453
+ 451,
454
+ 452,
455
+ 453,
456
+ 454,
457
+ 456,
458
+ 458,
459
+ 459,
460
+ 460,
461
+ 461,
462
+ 462,
463
+ 463,
464
+ 464,
465
+ 465,
466
+ 466,
467
+ 467,
468
+ 469,
469
+ 470,
470
+ 471,
471
+ 472,
472
+ 473,
473
+ 474,
474
+ 475,
475
+ 476,
476
+ 477,
477
+ 478,
478
+ 480,
479
+ 481,
480
+ 482,
481
+ 483,
482
+ 485,
483
+ 490,
484
+ 492,
485
+ 493,
486
+ 494,
487
+ 495,
488
+ 496,
489
+ 497,
490
+ 498,
491
+ 499,
492
+ 500,
493
+ 501,
494
+ 503,
495
+ 505,
496
+ 506,
497
+ 508,
498
+ 509,
499
+ 510,
500
+ 511,
501
+ 512,
502
+ 513,
503
+ 516,
504
+ 518,
505
+ 519,
506
+ 520,
507
+ 521,
508
+ 522,
509
+ 524,
510
+ 525,
511
+ 526,
512
+ 527,
513
+ 529,
514
+ 531,
515
+ 532,
516
+ 533,
517
+ 537,
518
+ 538,
519
+ 541,
520
+ 543,
521
+ 544,
522
+ 545,
523
+ 546,
524
+ 549,
525
+ 550,
526
+ 551,
527
+ 552,
528
+ 553,
529
+ 554,
530
+ 555,
531
+ 556,
532
+ 557,
533
+ 558,
534
+ 561,
535
+ 563,
536
+ 564,
537
+ 565,
538
+ 566,
539
+ 567,
540
+ 568,
541
+ 569,
542
+ 570,
543
+ 571,
544
+ 572,
545
+ 573,
546
+ 574,
547
+ 575,
548
+ 577,
549
+ 578,
550
+ 580,
551
+ 583,
552
+ 584,
553
+ 585,
554
+ 586,
555
+ 587,
556
+ 588,
557
+ 591,
558
+ 592,
559
+ 593,
560
+ 594,
561
+ 595,
562
+ 597,
563
+ 598,
564
+ 599,
565
+ 602,
566
+ 603,
567
+ 604,
568
+ 606,
569
+ 607,
570
+ 610,
571
+ 611,
572
+ 612,
573
+ 614,
574
+ 615,
575
+ 616,
576
+ 617,
577
+ 618,
578
+ 619,
579
+ 620,
580
+ 621,
581
+ 623,
582
+ 624,
583
+ 625,
584
+ 626,
585
+ 627,
586
+ 628,
587
+ 629,
588
+ 630,
589
+ 631,
590
+ 632,
591
+ 636,
592
+ 637,
593
+ 638,
594
+ 639,
595
+ 640,
596
+ 641,
597
+ 642,
598
+ 643,
599
+ 644,
600
+ 645,
601
+ 647,
602
+ 648,
603
+ 652,
604
+ 653,
605
+ 654,
606
+ 655,
607
+ 656,
608
+ 657,
609
+ 658,
610
+ 659,
611
+ 660,
612
+ 661,
613
+ 662,
614
+ 663,
615
+ 665,
616
+ 666,
617
+ 669,
618
+ 672,
619
+ 673,
620
+ 674,
621
+ 675,
622
+ 676,
623
+ 678,
624
+ 679,
625
+ 680,
626
+ 681,
627
+ 682,
628
+ 683,
629
+ 684,
630
+ 686,
631
+ 687,
632
+ 688,
633
+ 689,
634
+ 690,
635
+ 691,
636
+ 693,
637
+ 694,
638
+ 695,
639
+ 696,
640
+ 700,
641
+ 701,
642
+ 702,
643
+ 703,
644
+ 704,
645
+ 706,
646
+ 709,
647
+ 710,
648
+ 711,
649
+ 712,
650
+ 713,
651
+ 714,
652
+ 716,
653
+ 717,
654
+ 718,
655
+ 719,
656
+ 720,
657
+ 722,
658
+ 725,
659
+ 728,
660
+ 729,
661
+ 730,
662
+ 732,
663
+ 733,
664
+ 735,
665
+ 736,
666
+ 737,
667
+ 738,
668
+ 740,
669
+ 741,
670
+ 743,
671
+ 744,
672
+ 746,
673
+ 747,
674
+ 751,
675
+ 753,
676
+ 754,
677
+ 756,
678
+ 757,
679
+ 758,
680
+ 759,
681
+ 760,
682
+ 762,
683
+ 763,
684
+ 764,
685
+ 765,
686
+ 766,
687
+ 767,
688
+ 768,
689
+ 769,
690
+ 770,
691
+ 771,
692
+ 772,
693
+ 775,
694
+ 776,
695
+ 777,
696
+ 779,
697
+ 780,
698
+ 781,
699
+ 782,
700
+ 783,
701
+ 784,
702
+ 785,
703
+ 787,
704
+ 788,
705
+ 790,
706
+ 793,
707
+ 794,
708
+ 795,
709
+ 796,
710
+ 798,
711
+ 801,
712
+ 804,
713
+ 805,
714
+ 806,
715
+ 807,
716
+ 809,
717
+ 810,
718
+ 811,
719
+ 813,
720
+ 814,
721
+ 818,
722
+ 819,
723
+ 820,
724
+ 821,
725
+ 822,
726
+ 824,
727
+ 826,
728
+ 827,
729
+ 829,
730
+ 830,
731
+ 831,
732
+ 832,
733
+ 833,
734
+ 834,
735
+ 835,
736
+ 836,
737
+ 837,
738
+ 838,
739
+ 840,
740
+ 841,
741
+ 842,
742
+ 844,
743
+ 845,
744
+ 846,
745
+ 847,
746
+ 848,
747
+ 851,
748
+ 853,
749
+ 854,
750
+ 855,
751
+ 856,
752
+ 857,
753
+ 858,
754
+ 860,
755
+ 861,
756
+ 863,
757
+ 864,
758
+ 865,
759
+ 866,
760
+ 867,
761
+ 869,
762
+ 870,
763
+ 871,
764
+ 872,
765
+ 873,
766
+ 874,
767
+ 875,
768
+ 876,
769
+ 877,
770
+ 879,
771
+ 880,
772
+ 881,
773
+ 885,
774
+ 886,
775
+ 887,
776
+ 889,
777
+ 890,
778
+ 892,
779
+ 893,
780
+ 895,
781
+ 896,
782
+ 898,
783
+ 899,
784
+ 900,
785
+ 901,
786
+ 904,
787
+ 905,
788
+ 907,
789
+ 910,
790
+ 911,
791
+ 912,
792
+ 913,
793
+ 914,
794
+ 915,
795
+ 916,
796
+ 918,
797
+ 919,
798
+ 921,
799
+ 922,
800
+ 923,
801
+ 924,
802
+ 925,
803
+ 927,
804
+ 929,
805
+ 930,
806
+ 931,
807
+ 932,
808
+ 933,
809
+ 934,
810
+ 935,
811
+ 939,
812
+ 941,
813
+ 943,
814
+ 945,
815
+ 947,
816
+ 948,
817
+ 949,
818
+ 950,
819
+ 951,
820
+ 952,
821
+ 953,
822
+ 954,
823
+ 955,
824
+ 956,
825
+ 957,
826
+ 959,
827
+ 961,
828
+ 964,
829
+ 965,
830
+ 966,
831
+ 967,
832
+ 970,
833
+ 971,
834
+ 972,
835
+ 973,
836
+ 974,
837
+ 975,
838
+ 976,
839
+ 980,
840
+ 982,
841
+ 983,
842
+ 984,
843
+ 985,
844
+ 986,
845
+ 987,
846
+ 988,
847
+ 990,
848
+ 991,
849
+ 992,
850
+ 993,
851
+ 994
852
+ ],
853
+ "not_both_correct_indices": [
854
+ 11,
855
+ 14,
856
+ 18,
857
+ 25,
858
+ 32,
859
+ 39,
860
+ 46,
861
+ 60,
862
+ 70,
863
+ 82,
864
+ 84,
865
+ 91,
866
+ 94,
867
+ 96,
868
+ 99,
869
+ 111,
870
+ 113,
871
+ 118,
872
+ 125,
873
+ 128,
874
+ 131,
875
+ 138,
876
+ 140,
877
+ 143,
878
+ 149,
879
+ 159,
880
+ 163,
881
+ 166,
882
+ 177,
883
+ 189,
884
+ 191,
885
+ 192,
886
+ 204,
887
+ 205,
888
+ 217,
889
+ 219,
890
+ 223,
891
+ 256,
892
+ 257,
893
+ 264,
894
+ 266,
895
+ 273,
896
+ 276,
897
+ 288,
898
+ 289,
899
+ 296,
900
+ 305,
901
+ 320,
902
+ 333,
903
+ 337,
904
+ 338,
905
+ 341,
906
+ 390,
907
+ 396,
908
+ 397,
909
+ 407,
910
+ 414,
911
+ 416,
912
+ 421,
913
+ 422,
914
+ 434,
915
+ 437,
916
+ 442,
917
+ 446,
918
+ 447,
919
+ 457,
920
+ 479,
921
+ 484,
922
+ 486,
923
+ 487,
924
+ 489,
925
+ 502,
926
+ 504,
927
+ 514,
928
+ 517,
929
+ 523,
930
+ 530,
931
+ 536,
932
+ 542,
933
+ 547,
934
+ 548,
935
+ 560,
936
+ 562,
937
+ 579,
938
+ 582,
939
+ 589,
940
+ 605,
941
+ 608,
942
+ 633,
943
+ 634,
944
+ 649,
945
+ 664,
946
+ 670,
947
+ 671,
948
+ 677,
949
+ 698,
950
+ 705,
951
+ 707,
952
+ 715,
953
+ 721,
954
+ 723,
955
+ 724,
956
+ 727,
957
+ 734,
958
+ 748,
959
+ 749,
960
+ 755,
961
+ 761,
962
+ 773,
963
+ 774,
964
+ 778,
965
+ 786,
966
+ 789,
967
+ 791,
968
+ 792,
969
+ 797,
970
+ 799,
971
+ 803,
972
+ 808,
973
+ 812,
974
+ 815,
975
+ 816,
976
+ 823,
977
+ 825,
978
+ 839,
979
+ 843,
980
+ 849,
981
+ 862,
982
+ 868,
983
+ 878,
984
+ 882,
985
+ 883,
986
+ 888,
987
+ 891,
988
+ 894,
989
+ 897,
990
+ 902,
991
+ 903,
992
+ 908,
993
+ 909,
994
+ 917,
995
+ 920,
996
+ 926,
997
+ 936,
998
+ 938,
999
+ 940,
1000
+ 944,
1001
+ 946,
1002
+ 958,
1003
+ 962,
1004
+ 968,
1005
+ 977,
1006
+ 978,
1007
+ 979,
1008
+ 981
1009
+ ],
1010
+ "clean_baseline": 18.8125,
1011
+ "corrupted_baseline": -19.109375
1012
+ }
results/Qwen_Qwen2-5-32B-Instruct/MD/simple_equation/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:7ae7bbfce5275815f7cb689ac72d47eb75d3fe3866ee9b9ff3ddfee67356d355
3
+ size 14157430
results/Qwen_Qwen2-5-32B-Instruct/MD/simple_equation/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:9a53a2db0e96528f9c92829b629b8876839d28c4a41ffb7ee7cb82a4175386b1
3
+ size 6499808
results/Qwen_Qwen2-5-32B-Instruct/ToM/agent/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/Qwen_Qwen2-5-32B-Instruct/ToM/agent/baselines.json ADDED
@@ -0,0 +1,961 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 945,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 945,
6
+ "clean_accuracy": 0.7777777777777778,
7
+ "corrupted_accuracy": 0.8126984126984127,
8
+ "both_correct_accuracy": 0.6698412698412698,
9
+ "n_both_correct": 633,
10
+ "both_correct_indices": [
11
+ 4,
12
+ 5,
13
+ 6,
14
+ 7,
15
+ 10,
16
+ 12,
17
+ 13,
18
+ 14,
19
+ 16,
20
+ 17,
21
+ 21,
22
+ 22,
23
+ 24,
24
+ 25,
25
+ 26,
26
+ 27,
27
+ 28,
28
+ 30,
29
+ 31,
30
+ 32,
31
+ 33,
32
+ 34,
33
+ 35,
34
+ 37,
35
+ 38,
36
+ 39,
37
+ 40,
38
+ 41,
39
+ 42,
40
+ 43,
41
+ 44,
42
+ 45,
43
+ 46,
44
+ 47,
45
+ 48,
46
+ 50,
47
+ 52,
48
+ 53,
49
+ 54,
50
+ 55,
51
+ 57,
52
+ 58,
53
+ 59,
54
+ 60,
55
+ 61,
56
+ 63,
57
+ 64,
58
+ 65,
59
+ 66,
60
+ 68,
61
+ 70,
62
+ 72,
63
+ 74,
64
+ 75,
65
+ 76,
66
+ 77,
67
+ 79,
68
+ 81,
69
+ 82,
70
+ 83,
71
+ 85,
72
+ 86,
73
+ 87,
74
+ 88,
75
+ 90,
76
+ 91,
77
+ 92,
78
+ 93,
79
+ 94,
80
+ 95,
81
+ 96,
82
+ 97,
83
+ 100,
84
+ 101,
85
+ 102,
86
+ 103,
87
+ 104,
88
+ 105,
89
+ 106,
90
+ 107,
91
+ 109,
92
+ 110,
93
+ 111,
94
+ 113,
95
+ 114,
96
+ 115,
97
+ 116,
98
+ 118,
99
+ 119,
100
+ 122,
101
+ 123,
102
+ 124,
103
+ 125,
104
+ 126,
105
+ 127,
106
+ 128,
107
+ 129,
108
+ 131,
109
+ 133,
110
+ 134,
111
+ 135,
112
+ 136,
113
+ 137,
114
+ 139,
115
+ 140,
116
+ 141,
117
+ 143,
118
+ 144,
119
+ 146,
120
+ 147,
121
+ 148,
122
+ 149,
123
+ 150,
124
+ 151,
125
+ 153,
126
+ 154,
127
+ 155,
128
+ 157,
129
+ 158,
130
+ 159,
131
+ 160,
132
+ 162,
133
+ 163,
134
+ 166,
135
+ 167,
136
+ 169,
137
+ 170,
138
+ 171,
139
+ 172,
140
+ 173,
141
+ 175,
142
+ 177,
143
+ 179,
144
+ 180,
145
+ 181,
146
+ 183,
147
+ 184,
148
+ 185,
149
+ 188,
150
+ 189,
151
+ 190,
152
+ 192,
153
+ 193,
154
+ 194,
155
+ 195,
156
+ 197,
157
+ 198,
158
+ 199,
159
+ 200,
160
+ 201,
161
+ 212,
162
+ 214,
163
+ 215,
164
+ 216,
165
+ 217,
166
+ 218,
167
+ 219,
168
+ 220,
169
+ 221,
170
+ 223,
171
+ 224,
172
+ 225,
173
+ 227,
174
+ 229,
175
+ 230,
176
+ 231,
177
+ 237,
178
+ 238,
179
+ 239,
180
+ 240,
181
+ 241,
182
+ 243,
183
+ 244,
184
+ 246,
185
+ 247,
186
+ 249,
187
+ 250,
188
+ 252,
189
+ 253,
190
+ 254,
191
+ 255,
192
+ 256,
193
+ 257,
194
+ 258,
195
+ 259,
196
+ 260,
197
+ 261,
198
+ 262,
199
+ 263,
200
+ 265,
201
+ 266,
202
+ 272,
203
+ 273,
204
+ 274,
205
+ 275,
206
+ 276,
207
+ 283,
208
+ 284,
209
+ 285,
210
+ 286,
211
+ 287,
212
+ 294,
213
+ 295,
214
+ 296,
215
+ 297,
216
+ 298,
217
+ 305,
218
+ 306,
219
+ 307,
220
+ 308,
221
+ 309,
222
+ 316,
223
+ 317,
224
+ 318,
225
+ 319,
226
+ 320,
227
+ 327,
228
+ 328,
229
+ 329,
230
+ 330,
231
+ 331,
232
+ 344,
233
+ 345,
234
+ 346,
235
+ 347,
236
+ 348,
237
+ 349,
238
+ 350,
239
+ 351,
240
+ 352,
241
+ 353,
242
+ 360,
243
+ 362,
244
+ 366,
245
+ 367,
246
+ 368,
247
+ 369,
248
+ 370,
249
+ 371,
250
+ 372,
251
+ 373,
252
+ 374,
253
+ 375,
254
+ 380,
255
+ 382,
256
+ 383,
257
+ 384,
258
+ 385,
259
+ 386,
260
+ 388,
261
+ 389,
262
+ 390,
263
+ 391,
264
+ 392,
265
+ 393,
266
+ 394,
267
+ 395,
268
+ 397,
269
+ 406,
270
+ 410,
271
+ 411,
272
+ 412,
273
+ 413,
274
+ 414,
275
+ 415,
276
+ 416,
277
+ 417,
278
+ 418,
279
+ 419,
280
+ 426,
281
+ 428,
282
+ 432,
283
+ 433,
284
+ 434,
285
+ 435,
286
+ 436,
287
+ 437,
288
+ 438,
289
+ 439,
290
+ 440,
291
+ 441,
292
+ 442,
293
+ 445,
294
+ 451,
295
+ 452,
296
+ 453,
297
+ 454,
298
+ 457,
299
+ 458,
300
+ 459,
301
+ 460,
302
+ 461,
303
+ 463,
304
+ 467,
305
+ 468,
306
+ 473,
307
+ 474,
308
+ 475,
309
+ 476,
310
+ 478,
311
+ 479,
312
+ 481,
313
+ 482,
314
+ 483,
315
+ 485,
316
+ 487,
317
+ 488,
318
+ 490,
319
+ 493,
320
+ 495,
321
+ 496,
322
+ 497,
323
+ 500,
324
+ 501,
325
+ 502,
326
+ 503,
327
+ 504,
328
+ 507,
329
+ 508,
330
+ 510,
331
+ 517,
332
+ 518,
333
+ 519,
334
+ 523,
335
+ 524,
336
+ 525,
337
+ 527,
338
+ 529,
339
+ 533,
340
+ 534,
341
+ 539,
342
+ 540,
343
+ 541,
344
+ 543,
345
+ 545,
346
+ 546,
347
+ 547,
348
+ 548,
349
+ 551,
350
+ 552,
351
+ 558,
352
+ 559,
353
+ 560,
354
+ 570,
355
+ 571,
356
+ 572,
357
+ 573,
358
+ 574,
359
+ 575,
360
+ 576,
361
+ 578,
362
+ 580,
363
+ 582,
364
+ 583,
365
+ 584,
366
+ 585,
367
+ 586,
368
+ 587,
369
+ 588,
370
+ 589,
371
+ 590,
372
+ 591,
373
+ 594,
374
+ 595,
375
+ 596,
376
+ 597,
377
+ 602,
378
+ 603,
379
+ 604,
380
+ 605,
381
+ 610,
382
+ 611,
383
+ 614,
384
+ 615,
385
+ 616,
386
+ 617,
387
+ 618,
388
+ 619,
389
+ 620,
390
+ 621,
391
+ 622,
392
+ 624,
393
+ 626,
394
+ 627,
395
+ 628,
396
+ 629,
397
+ 630,
398
+ 631,
399
+ 632,
400
+ 633,
401
+ 634,
402
+ 635,
403
+ 638,
404
+ 639,
405
+ 642,
406
+ 643,
407
+ 644,
408
+ 645,
409
+ 648,
410
+ 654,
411
+ 656,
412
+ 658,
413
+ 659,
414
+ 660,
415
+ 661,
416
+ 662,
417
+ 663,
418
+ 664,
419
+ 665,
420
+ 666,
421
+ 668,
422
+ 669,
423
+ 670,
424
+ 671,
425
+ 672,
426
+ 673,
427
+ 674,
428
+ 675,
429
+ 676,
430
+ 677,
431
+ 678,
432
+ 679,
433
+ 681,
434
+ 682,
435
+ 683,
436
+ 684,
437
+ 685,
438
+ 688,
439
+ 689,
440
+ 692,
441
+ 693,
442
+ 698,
443
+ 702,
444
+ 703,
445
+ 704,
446
+ 705,
447
+ 706,
448
+ 707,
449
+ 708,
450
+ 710,
451
+ 712,
452
+ 714,
453
+ 715,
454
+ 716,
455
+ 717,
456
+ 718,
457
+ 719,
458
+ 720,
459
+ 721,
460
+ 722,
461
+ 723,
462
+ 724,
463
+ 725,
464
+ 726,
465
+ 727,
466
+ 730,
467
+ 731,
468
+ 734,
469
+ 735,
470
+ 736,
471
+ 737,
472
+ 742,
473
+ 746,
474
+ 747,
475
+ 748,
476
+ 749,
477
+ 750,
478
+ 751,
479
+ 752,
480
+ 754,
481
+ 756,
482
+ 758,
483
+ 759,
484
+ 760,
485
+ 761,
486
+ 762,
487
+ 763,
488
+ 764,
489
+ 765,
490
+ 766,
491
+ 767,
492
+ 768,
493
+ 769,
494
+ 770,
495
+ 771,
496
+ 772,
497
+ 774,
498
+ 775,
499
+ 777,
500
+ 778,
501
+ 779,
502
+ 780,
503
+ 781,
504
+ 783,
505
+ 784,
506
+ 785,
507
+ 786,
508
+ 787,
509
+ 788,
510
+ 790,
511
+ 791,
512
+ 792,
513
+ 793,
514
+ 794,
515
+ 796,
516
+ 797,
517
+ 798,
518
+ 799,
519
+ 800,
520
+ 802,
521
+ 803,
522
+ 804,
523
+ 805,
524
+ 806,
525
+ 808,
526
+ 809,
527
+ 810,
528
+ 811,
529
+ 812,
530
+ 814,
531
+ 815,
532
+ 816,
533
+ 817,
534
+ 818,
535
+ 819,
536
+ 820,
537
+ 822,
538
+ 823,
539
+ 824,
540
+ 825,
541
+ 826,
542
+ 827,
543
+ 828,
544
+ 829,
545
+ 830,
546
+ 831,
547
+ 832,
548
+ 833,
549
+ 834,
550
+ 835,
551
+ 836,
552
+ 837,
553
+ 838,
554
+ 839,
555
+ 840,
556
+ 841,
557
+ 842,
558
+ 843,
559
+ 844,
560
+ 845,
561
+ 846,
562
+ 847,
563
+ 848,
564
+ 849,
565
+ 850,
566
+ 851,
567
+ 852,
568
+ 853,
569
+ 854,
570
+ 855,
571
+ 857,
572
+ 858,
573
+ 859,
574
+ 860,
575
+ 861,
576
+ 862,
577
+ 863,
578
+ 864,
579
+ 865,
580
+ 866,
581
+ 867,
582
+ 868,
583
+ 869,
584
+ 870,
585
+ 871,
586
+ 873,
587
+ 874,
588
+ 875,
589
+ 876,
590
+ 877,
591
+ 878,
592
+ 879,
593
+ 881,
594
+ 883,
595
+ 884,
596
+ 886,
597
+ 887,
598
+ 889,
599
+ 890,
600
+ 891,
601
+ 892,
602
+ 893,
603
+ 894,
604
+ 895,
605
+ 896,
606
+ 897,
607
+ 898,
608
+ 899,
609
+ 900,
610
+ 901,
611
+ 902,
612
+ 903,
613
+ 904,
614
+ 905,
615
+ 907,
616
+ 908,
617
+ 909,
618
+ 910,
619
+ 911,
620
+ 912,
621
+ 913,
622
+ 914,
623
+ 915,
624
+ 916,
625
+ 917,
626
+ 918,
627
+ 919,
628
+ 920,
629
+ 921,
630
+ 922,
631
+ 923,
632
+ 924,
633
+ 926,
634
+ 927,
635
+ 928,
636
+ 930,
637
+ 931,
638
+ 932,
639
+ 934,
640
+ 935,
641
+ 936,
642
+ 937,
643
+ 939
644
+ ],
645
+ "not_both_correct_indices": [
646
+ 0,
647
+ 1,
648
+ 2,
649
+ 3,
650
+ 8,
651
+ 9,
652
+ 11,
653
+ 15,
654
+ 18,
655
+ 19,
656
+ 20,
657
+ 23,
658
+ 29,
659
+ 36,
660
+ 49,
661
+ 51,
662
+ 56,
663
+ 62,
664
+ 67,
665
+ 69,
666
+ 71,
667
+ 73,
668
+ 78,
669
+ 80,
670
+ 84,
671
+ 89,
672
+ 98,
673
+ 99,
674
+ 108,
675
+ 112,
676
+ 117,
677
+ 120,
678
+ 121,
679
+ 130,
680
+ 132,
681
+ 138,
682
+ 142,
683
+ 145,
684
+ 152,
685
+ 156,
686
+ 161,
687
+ 164,
688
+ 165,
689
+ 168,
690
+ 174,
691
+ 176,
692
+ 178,
693
+ 182,
694
+ 186,
695
+ 187,
696
+ 191,
697
+ 196,
698
+ 202,
699
+ 203,
700
+ 204,
701
+ 205,
702
+ 206,
703
+ 207,
704
+ 208,
705
+ 209,
706
+ 210,
707
+ 211,
708
+ 213,
709
+ 222,
710
+ 226,
711
+ 228,
712
+ 232,
713
+ 233,
714
+ 234,
715
+ 235,
716
+ 236,
717
+ 242,
718
+ 245,
719
+ 248,
720
+ 251,
721
+ 264,
722
+ 267,
723
+ 268,
724
+ 269,
725
+ 270,
726
+ 271,
727
+ 277,
728
+ 278,
729
+ 279,
730
+ 280,
731
+ 281,
732
+ 282,
733
+ 288,
734
+ 289,
735
+ 290,
736
+ 291,
737
+ 292,
738
+ 293,
739
+ 299,
740
+ 300,
741
+ 301,
742
+ 302,
743
+ 303,
744
+ 304,
745
+ 310,
746
+ 311,
747
+ 312,
748
+ 313,
749
+ 314,
750
+ 315,
751
+ 321,
752
+ 322,
753
+ 323,
754
+ 324,
755
+ 325,
756
+ 326,
757
+ 332,
758
+ 333,
759
+ 334,
760
+ 335,
761
+ 336,
762
+ 337,
763
+ 338,
764
+ 339,
765
+ 340,
766
+ 341,
767
+ 342,
768
+ 343,
769
+ 354,
770
+ 355,
771
+ 356,
772
+ 357,
773
+ 358,
774
+ 359,
775
+ 361,
776
+ 363,
777
+ 364,
778
+ 365,
779
+ 376,
780
+ 377,
781
+ 378,
782
+ 379,
783
+ 381,
784
+ 387,
785
+ 396,
786
+ 398,
787
+ 399,
788
+ 400,
789
+ 401,
790
+ 402,
791
+ 403,
792
+ 404,
793
+ 405,
794
+ 407,
795
+ 408,
796
+ 409,
797
+ 420,
798
+ 421,
799
+ 422,
800
+ 423,
801
+ 424,
802
+ 425,
803
+ 427,
804
+ 429,
805
+ 430,
806
+ 431,
807
+ 443,
808
+ 444,
809
+ 446,
810
+ 447,
811
+ 448,
812
+ 449,
813
+ 450,
814
+ 455,
815
+ 456,
816
+ 462,
817
+ 464,
818
+ 465,
819
+ 466,
820
+ 469,
821
+ 470,
822
+ 471,
823
+ 472,
824
+ 477,
825
+ 480,
826
+ 484,
827
+ 486,
828
+ 489,
829
+ 491,
830
+ 492,
831
+ 494,
832
+ 498,
833
+ 499,
834
+ 505,
835
+ 506,
836
+ 509,
837
+ 511,
838
+ 512,
839
+ 513,
840
+ 514,
841
+ 515,
842
+ 516,
843
+ 520,
844
+ 521,
845
+ 522,
846
+ 526,
847
+ 528,
848
+ 530,
849
+ 531,
850
+ 532,
851
+ 535,
852
+ 536,
853
+ 537,
854
+ 538,
855
+ 542,
856
+ 544,
857
+ 549,
858
+ 550,
859
+ 553,
860
+ 554,
861
+ 555,
862
+ 556,
863
+ 557,
864
+ 561,
865
+ 562,
866
+ 563,
867
+ 564,
868
+ 565,
869
+ 566,
870
+ 567,
871
+ 568,
872
+ 569,
873
+ 577,
874
+ 579,
875
+ 581,
876
+ 592,
877
+ 593,
878
+ 598,
879
+ 599,
880
+ 600,
881
+ 601,
882
+ 606,
883
+ 607,
884
+ 608,
885
+ 609,
886
+ 612,
887
+ 613,
888
+ 623,
889
+ 625,
890
+ 636,
891
+ 637,
892
+ 640,
893
+ 641,
894
+ 646,
895
+ 647,
896
+ 649,
897
+ 650,
898
+ 651,
899
+ 652,
900
+ 653,
901
+ 655,
902
+ 657,
903
+ 667,
904
+ 680,
905
+ 686,
906
+ 687,
907
+ 690,
908
+ 691,
909
+ 694,
910
+ 695,
911
+ 696,
912
+ 697,
913
+ 699,
914
+ 700,
915
+ 701,
916
+ 709,
917
+ 711,
918
+ 713,
919
+ 728,
920
+ 729,
921
+ 732,
922
+ 733,
923
+ 738,
924
+ 739,
925
+ 740,
926
+ 741,
927
+ 743,
928
+ 744,
929
+ 745,
930
+ 753,
931
+ 755,
932
+ 757,
933
+ 773,
934
+ 776,
935
+ 782,
936
+ 789,
937
+ 795,
938
+ 801,
939
+ 807,
940
+ 813,
941
+ 821,
942
+ 856,
943
+ 872,
944
+ 880,
945
+ 882,
946
+ 885,
947
+ 888,
948
+ 906,
949
+ 925,
950
+ 929,
951
+ 933,
952
+ 938,
953
+ 940,
954
+ 941,
955
+ 942,
956
+ 943,
957
+ 944
958
+ ],
959
+ "clean_baseline": 19.25,
960
+ "corrupted_baseline": -19.15625
961
+ }
results/Qwen_Qwen2-5-32B-Instruct/ToM/agent/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:47975f992b32e378653c6dc80c9f0b4a70b78106575b2ba01877741e541a46c1
3
+ size 14157430
results/Qwen_Qwen2-5-32B-Instruct/ToM/agent/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:3dae24456f0fed541baee651c4c5776700e0fd7c5b0537f3b60939a972027bd3
3
+ size 6618736
results/Qwen_Qwen2-5-32B-Instruct/ToM/desires_goals/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/Qwen_Qwen2-5-32B-Instruct/ToM/desires_goals/baselines.json ADDED
@@ -0,0 +1,1096 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1080,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1080,
6
+ "clean_accuracy": 0.950925925925926,
7
+ "corrupted_accuracy": 0.9685185185185186,
8
+ "both_correct_accuracy": 0.9194444444444444,
9
+ "n_both_correct": 993,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 5,
14
+ 7,
15
+ 12,
16
+ 13,
17
+ 14,
18
+ 15,
19
+ 16,
20
+ 17,
21
+ 19,
22
+ 20,
23
+ 21,
24
+ 22,
25
+ 23,
26
+ 24,
27
+ 25,
28
+ 26,
29
+ 27,
30
+ 28,
31
+ 29,
32
+ 30,
33
+ 31,
34
+ 32,
35
+ 33,
36
+ 34,
37
+ 35,
38
+ 36,
39
+ 37,
40
+ 38,
41
+ 39,
42
+ 40,
43
+ 41,
44
+ 42,
45
+ 43,
46
+ 44,
47
+ 45,
48
+ 46,
49
+ 47,
50
+ 48,
51
+ 49,
52
+ 50,
53
+ 51,
54
+ 52,
55
+ 53,
56
+ 54,
57
+ 55,
58
+ 56,
59
+ 57,
60
+ 58,
61
+ 59,
62
+ 60,
63
+ 61,
64
+ 62,
65
+ 63,
66
+ 64,
67
+ 65,
68
+ 66,
69
+ 67,
70
+ 68,
71
+ 69,
72
+ 70,
73
+ 71,
74
+ 72,
75
+ 73,
76
+ 74,
77
+ 75,
78
+ 76,
79
+ 77,
80
+ 78,
81
+ 79,
82
+ 80,
83
+ 81,
84
+ 82,
85
+ 83,
86
+ 84,
87
+ 85,
88
+ 86,
89
+ 87,
90
+ 88,
91
+ 89,
92
+ 90,
93
+ 91,
94
+ 92,
95
+ 93,
96
+ 94,
97
+ 95,
98
+ 96,
99
+ 97,
100
+ 98,
101
+ 99,
102
+ 100,
103
+ 101,
104
+ 102,
105
+ 103,
106
+ 104,
107
+ 105,
108
+ 106,
109
+ 107,
110
+ 108,
111
+ 109,
112
+ 110,
113
+ 111,
114
+ 112,
115
+ 113,
116
+ 114,
117
+ 115,
118
+ 116,
119
+ 117,
120
+ 118,
121
+ 119,
122
+ 120,
123
+ 121,
124
+ 122,
125
+ 123,
126
+ 124,
127
+ 125,
128
+ 126,
129
+ 127,
130
+ 128,
131
+ 129,
132
+ 130,
133
+ 131,
134
+ 132,
135
+ 133,
136
+ 134,
137
+ 135,
138
+ 136,
139
+ 137,
140
+ 138,
141
+ 139,
142
+ 140,
143
+ 141,
144
+ 142,
145
+ 143,
146
+ 144,
147
+ 145,
148
+ 146,
149
+ 147,
150
+ 148,
151
+ 149,
152
+ 150,
153
+ 151,
154
+ 152,
155
+ 153,
156
+ 154,
157
+ 155,
158
+ 156,
159
+ 157,
160
+ 158,
161
+ 159,
162
+ 160,
163
+ 161,
164
+ 162,
165
+ 163,
166
+ 164,
167
+ 165,
168
+ 166,
169
+ 167,
170
+ 168,
171
+ 169,
172
+ 170,
173
+ 171,
174
+ 172,
175
+ 173,
176
+ 174,
177
+ 175,
178
+ 176,
179
+ 177,
180
+ 178,
181
+ 179,
182
+ 180,
183
+ 181,
184
+ 182,
185
+ 183,
186
+ 184,
187
+ 185,
188
+ 186,
189
+ 187,
190
+ 188,
191
+ 189,
192
+ 190,
193
+ 191,
194
+ 192,
195
+ 193,
196
+ 194,
197
+ 195,
198
+ 196,
199
+ 197,
200
+ 198,
201
+ 199,
202
+ 200,
203
+ 201,
204
+ 202,
205
+ 203,
206
+ 204,
207
+ 205,
208
+ 206,
209
+ 207,
210
+ 208,
211
+ 209,
212
+ 210,
213
+ 211,
214
+ 212,
215
+ 213,
216
+ 214,
217
+ 215,
218
+ 216,
219
+ 217,
220
+ 218,
221
+ 219,
222
+ 220,
223
+ 221,
224
+ 222,
225
+ 223,
226
+ 224,
227
+ 225,
228
+ 226,
229
+ 227,
230
+ 228,
231
+ 229,
232
+ 230,
233
+ 231,
234
+ 232,
235
+ 233,
236
+ 234,
237
+ 235,
238
+ 236,
239
+ 237,
240
+ 238,
241
+ 239,
242
+ 240,
243
+ 241,
244
+ 242,
245
+ 243,
246
+ 244,
247
+ 245,
248
+ 246,
249
+ 247,
250
+ 248,
251
+ 249,
252
+ 250,
253
+ 251,
254
+ 252,
255
+ 253,
256
+ 254,
257
+ 255,
258
+ 256,
259
+ 257,
260
+ 258,
261
+ 259,
262
+ 260,
263
+ 261,
264
+ 262,
265
+ 263,
266
+ 264,
267
+ 265,
268
+ 266,
269
+ 267,
270
+ 268,
271
+ 269,
272
+ 270,
273
+ 271,
274
+ 272,
275
+ 273,
276
+ 274,
277
+ 275,
278
+ 276,
279
+ 277,
280
+ 278,
281
+ 279,
282
+ 280,
283
+ 281,
284
+ 282,
285
+ 283,
286
+ 284,
287
+ 285,
288
+ 286,
289
+ 287,
290
+ 288,
291
+ 289,
292
+ 290,
293
+ 291,
294
+ 292,
295
+ 293,
296
+ 294,
297
+ 295,
298
+ 296,
299
+ 297,
300
+ 298,
301
+ 299,
302
+ 300,
303
+ 301,
304
+ 302,
305
+ 303,
306
+ 304,
307
+ 305,
308
+ 306,
309
+ 307,
310
+ 308,
311
+ 309,
312
+ 310,
313
+ 311,
314
+ 312,
315
+ 313,
316
+ 314,
317
+ 315,
318
+ 316,
319
+ 317,
320
+ 318,
321
+ 319,
322
+ 320,
323
+ 321,
324
+ 322,
325
+ 323,
326
+ 324,
327
+ 325,
328
+ 326,
329
+ 327,
330
+ 328,
331
+ 329,
332
+ 330,
333
+ 331,
334
+ 332,
335
+ 333,
336
+ 334,
337
+ 335,
338
+ 336,
339
+ 337,
340
+ 338,
341
+ 339,
342
+ 340,
343
+ 341,
344
+ 342,
345
+ 343,
346
+ 344,
347
+ 345,
348
+ 346,
349
+ 347,
350
+ 348,
351
+ 349,
352
+ 350,
353
+ 351,
354
+ 352,
355
+ 353,
356
+ 354,
357
+ 355,
358
+ 356,
359
+ 357,
360
+ 358,
361
+ 359,
362
+ 360,
363
+ 361,
364
+ 362,
365
+ 363,
366
+ 364,
367
+ 365,
368
+ 366,
369
+ 367,
370
+ 368,
371
+ 369,
372
+ 370,
373
+ 371,
374
+ 372,
375
+ 373,
376
+ 374,
377
+ 375,
378
+ 376,
379
+ 377,
380
+ 378,
381
+ 379,
382
+ 380,
383
+ 381,
384
+ 382,
385
+ 383,
386
+ 384,
387
+ 385,
388
+ 386,
389
+ 387,
390
+ 388,
391
+ 389,
392
+ 390,
393
+ 391,
394
+ 392,
395
+ 393,
396
+ 394,
397
+ 395,
398
+ 396,
399
+ 397,
400
+ 398,
401
+ 399,
402
+ 400,
403
+ 401,
404
+ 402,
405
+ 403,
406
+ 404,
407
+ 405,
408
+ 406,
409
+ 407,
410
+ 408,
411
+ 409,
412
+ 410,
413
+ 411,
414
+ 412,
415
+ 413,
416
+ 414,
417
+ 415,
418
+ 416,
419
+ 417,
420
+ 418,
421
+ 419,
422
+ 450,
423
+ 452,
424
+ 453,
425
+ 454,
426
+ 455,
427
+ 462,
428
+ 466,
429
+ 480,
430
+ 481,
431
+ 482,
432
+ 483,
433
+ 484,
434
+ 485,
435
+ 486,
436
+ 487,
437
+ 488,
438
+ 489,
439
+ 490,
440
+ 491,
441
+ 492,
442
+ 493,
443
+ 494,
444
+ 495,
445
+ 496,
446
+ 497,
447
+ 498,
448
+ 499,
449
+ 500,
450
+ 501,
451
+ 502,
452
+ 503,
453
+ 504,
454
+ 505,
455
+ 506,
456
+ 507,
457
+ 508,
458
+ 509,
459
+ 510,
460
+ 511,
461
+ 512,
462
+ 513,
463
+ 514,
464
+ 515,
465
+ 516,
466
+ 517,
467
+ 518,
468
+ 519,
469
+ 520,
470
+ 521,
471
+ 522,
472
+ 523,
473
+ 524,
474
+ 525,
475
+ 526,
476
+ 527,
477
+ 528,
478
+ 529,
479
+ 530,
480
+ 531,
481
+ 532,
482
+ 533,
483
+ 534,
484
+ 535,
485
+ 536,
486
+ 537,
487
+ 538,
488
+ 539,
489
+ 540,
490
+ 541,
491
+ 542,
492
+ 543,
493
+ 544,
494
+ 545,
495
+ 546,
496
+ 547,
497
+ 548,
498
+ 549,
499
+ 550,
500
+ 551,
501
+ 552,
502
+ 553,
503
+ 554,
504
+ 555,
505
+ 556,
506
+ 557,
507
+ 558,
508
+ 559,
509
+ 560,
510
+ 561,
511
+ 562,
512
+ 563,
513
+ 564,
514
+ 565,
515
+ 566,
516
+ 567,
517
+ 568,
518
+ 569,
519
+ 570,
520
+ 571,
521
+ 572,
522
+ 573,
523
+ 574,
524
+ 575,
525
+ 576,
526
+ 577,
527
+ 578,
528
+ 579,
529
+ 580,
530
+ 581,
531
+ 582,
532
+ 583,
533
+ 584,
534
+ 585,
535
+ 586,
536
+ 587,
537
+ 588,
538
+ 589,
539
+ 591,
540
+ 592,
541
+ 594,
542
+ 595,
543
+ 596,
544
+ 598,
545
+ 599,
546
+ 600,
547
+ 601,
548
+ 602,
549
+ 603,
550
+ 604,
551
+ 605,
552
+ 606,
553
+ 607,
554
+ 608,
555
+ 609,
556
+ 610,
557
+ 611,
558
+ 612,
559
+ 613,
560
+ 614,
561
+ 615,
562
+ 616,
563
+ 617,
564
+ 618,
565
+ 619,
566
+ 620,
567
+ 621,
568
+ 622,
569
+ 623,
570
+ 624,
571
+ 625,
572
+ 626,
573
+ 627,
574
+ 628,
575
+ 629,
576
+ 630,
577
+ 631,
578
+ 632,
579
+ 633,
580
+ 634,
581
+ 635,
582
+ 636,
583
+ 637,
584
+ 638,
585
+ 639,
586
+ 640,
587
+ 641,
588
+ 642,
589
+ 643,
590
+ 644,
591
+ 645,
592
+ 646,
593
+ 647,
594
+ 648,
595
+ 649,
596
+ 650,
597
+ 651,
598
+ 652,
599
+ 653,
600
+ 654,
601
+ 655,
602
+ 656,
603
+ 657,
604
+ 658,
605
+ 659,
606
+ 660,
607
+ 661,
608
+ 662,
609
+ 663,
610
+ 664,
611
+ 665,
612
+ 666,
613
+ 667,
614
+ 668,
615
+ 669,
616
+ 670,
617
+ 671,
618
+ 672,
619
+ 673,
620
+ 674,
621
+ 675,
622
+ 676,
623
+ 677,
624
+ 678,
625
+ 679,
626
+ 680,
627
+ 681,
628
+ 682,
629
+ 683,
630
+ 684,
631
+ 685,
632
+ 686,
633
+ 687,
634
+ 688,
635
+ 689,
636
+ 690,
637
+ 691,
638
+ 692,
639
+ 693,
640
+ 694,
641
+ 695,
642
+ 696,
643
+ 697,
644
+ 698,
645
+ 699,
646
+ 700,
647
+ 701,
648
+ 702,
649
+ 703,
650
+ 704,
651
+ 705,
652
+ 706,
653
+ 707,
654
+ 708,
655
+ 709,
656
+ 710,
657
+ 711,
658
+ 712,
659
+ 713,
660
+ 714,
661
+ 715,
662
+ 716,
663
+ 717,
664
+ 718,
665
+ 719,
666
+ 720,
667
+ 721,
668
+ 723,
669
+ 724,
670
+ 727,
671
+ 728,
672
+ 730,
673
+ 732,
674
+ 733,
675
+ 734,
676
+ 735,
677
+ 736,
678
+ 737,
679
+ 738,
680
+ 739,
681
+ 740,
682
+ 741,
683
+ 742,
684
+ 743,
685
+ 744,
686
+ 745,
687
+ 746,
688
+ 747,
689
+ 748,
690
+ 749,
691
+ 750,
692
+ 751,
693
+ 752,
694
+ 753,
695
+ 754,
696
+ 755,
697
+ 756,
698
+ 757,
699
+ 758,
700
+ 759,
701
+ 760,
702
+ 761,
703
+ 762,
704
+ 763,
705
+ 764,
706
+ 765,
707
+ 766,
708
+ 767,
709
+ 768,
710
+ 769,
711
+ 770,
712
+ 771,
713
+ 772,
714
+ 773,
715
+ 774,
716
+ 775,
717
+ 776,
718
+ 777,
719
+ 778,
720
+ 779,
721
+ 780,
722
+ 781,
723
+ 782,
724
+ 783,
725
+ 784,
726
+ 785,
727
+ 786,
728
+ 787,
729
+ 788,
730
+ 789,
731
+ 790,
732
+ 791,
733
+ 792,
734
+ 793,
735
+ 794,
736
+ 795,
737
+ 796,
738
+ 797,
739
+ 798,
740
+ 799,
741
+ 800,
742
+ 801,
743
+ 802,
744
+ 803,
745
+ 804,
746
+ 805,
747
+ 806,
748
+ 807,
749
+ 808,
750
+ 809,
751
+ 810,
752
+ 811,
753
+ 812,
754
+ 813,
755
+ 814,
756
+ 815,
757
+ 816,
758
+ 817,
759
+ 818,
760
+ 819,
761
+ 820,
762
+ 821,
763
+ 822,
764
+ 823,
765
+ 824,
766
+ 825,
767
+ 826,
768
+ 827,
769
+ 828,
770
+ 829,
771
+ 830,
772
+ 831,
773
+ 832,
774
+ 833,
775
+ 834,
776
+ 835,
777
+ 836,
778
+ 837,
779
+ 838,
780
+ 839,
781
+ 840,
782
+ 841,
783
+ 842,
784
+ 843,
785
+ 844,
786
+ 845,
787
+ 846,
788
+ 847,
789
+ 848,
790
+ 849,
791
+ 850,
792
+ 851,
793
+ 852,
794
+ 853,
795
+ 854,
796
+ 855,
797
+ 856,
798
+ 857,
799
+ 858,
800
+ 859,
801
+ 860,
802
+ 861,
803
+ 862,
804
+ 863,
805
+ 864,
806
+ 865,
807
+ 866,
808
+ 867,
809
+ 868,
810
+ 869,
811
+ 870,
812
+ 871,
813
+ 872,
814
+ 873,
815
+ 874,
816
+ 875,
817
+ 876,
818
+ 877,
819
+ 878,
820
+ 879,
821
+ 880,
822
+ 881,
823
+ 882,
824
+ 883,
825
+ 884,
826
+ 885,
827
+ 886,
828
+ 887,
829
+ 888,
830
+ 889,
831
+ 890,
832
+ 891,
833
+ 892,
834
+ 893,
835
+ 894,
836
+ 895,
837
+ 896,
838
+ 897,
839
+ 898,
840
+ 899,
841
+ 900,
842
+ 912,
843
+ 913,
844
+ 914,
845
+ 915,
846
+ 916,
847
+ 917,
848
+ 918,
849
+ 919,
850
+ 920,
851
+ 923,
852
+ 924,
853
+ 925,
854
+ 926,
855
+ 927,
856
+ 928,
857
+ 929,
858
+ 930,
859
+ 931,
860
+ 932,
861
+ 933,
862
+ 934,
863
+ 935,
864
+ 936,
865
+ 937,
866
+ 938,
867
+ 939,
868
+ 940,
869
+ 941,
870
+ 942,
871
+ 943,
872
+ 944,
873
+ 945,
874
+ 946,
875
+ 947,
876
+ 948,
877
+ 949,
878
+ 950,
879
+ 951,
880
+ 952,
881
+ 953,
882
+ 954,
883
+ 955,
884
+ 956,
885
+ 957,
886
+ 958,
887
+ 959,
888
+ 960,
889
+ 961,
890
+ 962,
891
+ 963,
892
+ 964,
893
+ 965,
894
+ 966,
895
+ 967,
896
+ 968,
897
+ 969,
898
+ 970,
899
+ 971,
900
+ 972,
901
+ 973,
902
+ 974,
903
+ 975,
904
+ 976,
905
+ 977,
906
+ 978,
907
+ 979,
908
+ 980,
909
+ 981,
910
+ 982,
911
+ 983,
912
+ 984,
913
+ 985,
914
+ 986,
915
+ 987,
916
+ 988,
917
+ 989,
918
+ 990,
919
+ 991,
920
+ 992,
921
+ 993,
922
+ 994,
923
+ 995,
924
+ 996,
925
+ 997,
926
+ 998,
927
+ 999,
928
+ 1000,
929
+ 1001,
930
+ 1002,
931
+ 1003,
932
+ 1004,
933
+ 1005,
934
+ 1006,
935
+ 1007,
936
+ 1008,
937
+ 1009,
938
+ 1010,
939
+ 1011,
940
+ 1012,
941
+ 1013,
942
+ 1014,
943
+ 1015,
944
+ 1016,
945
+ 1017,
946
+ 1018,
947
+ 1019,
948
+ 1020,
949
+ 1021,
950
+ 1022,
951
+ 1023,
952
+ 1024,
953
+ 1025,
954
+ 1026,
955
+ 1027,
956
+ 1028,
957
+ 1029,
958
+ 1030,
959
+ 1031,
960
+ 1033,
961
+ 1034,
962
+ 1035,
963
+ 1036,
964
+ 1037,
965
+ 1038,
966
+ 1040,
967
+ 1041,
968
+ 1042,
969
+ 1043,
970
+ 1044,
971
+ 1045,
972
+ 1046,
973
+ 1047,
974
+ 1048,
975
+ 1049,
976
+ 1050,
977
+ 1051,
978
+ 1052,
979
+ 1053,
980
+ 1054,
981
+ 1055,
982
+ 1056,
983
+ 1057,
984
+ 1058,
985
+ 1059,
986
+ 1060,
987
+ 1061,
988
+ 1062,
989
+ 1063,
990
+ 1064,
991
+ 1065,
992
+ 1066,
993
+ 1067,
994
+ 1068,
995
+ 1069,
996
+ 1070,
997
+ 1071,
998
+ 1072,
999
+ 1074,
1000
+ 1076,
1001
+ 1077,
1002
+ 1078,
1003
+ 1079
1004
+ ],
1005
+ "not_both_correct_indices": [
1006
+ 2,
1007
+ 3,
1008
+ 4,
1009
+ 6,
1010
+ 8,
1011
+ 9,
1012
+ 10,
1013
+ 11,
1014
+ 18,
1015
+ 420,
1016
+ 421,
1017
+ 422,
1018
+ 423,
1019
+ 424,
1020
+ 425,
1021
+ 426,
1022
+ 427,
1023
+ 428,
1024
+ 429,
1025
+ 430,
1026
+ 431,
1027
+ 432,
1028
+ 433,
1029
+ 434,
1030
+ 435,
1031
+ 436,
1032
+ 437,
1033
+ 438,
1034
+ 439,
1035
+ 440,
1036
+ 441,
1037
+ 442,
1038
+ 443,
1039
+ 444,
1040
+ 445,
1041
+ 446,
1042
+ 447,
1043
+ 448,
1044
+ 449,
1045
+ 451,
1046
+ 456,
1047
+ 457,
1048
+ 458,
1049
+ 459,
1050
+ 460,
1051
+ 461,
1052
+ 463,
1053
+ 464,
1054
+ 465,
1055
+ 467,
1056
+ 468,
1057
+ 469,
1058
+ 470,
1059
+ 471,
1060
+ 472,
1061
+ 473,
1062
+ 474,
1063
+ 475,
1064
+ 476,
1065
+ 477,
1066
+ 478,
1067
+ 479,
1068
+ 590,
1069
+ 593,
1070
+ 597,
1071
+ 722,
1072
+ 725,
1073
+ 726,
1074
+ 729,
1075
+ 731,
1076
+ 901,
1077
+ 902,
1078
+ 903,
1079
+ 904,
1080
+ 905,
1081
+ 906,
1082
+ 907,
1083
+ 908,
1084
+ 909,
1085
+ 910,
1086
+ 911,
1087
+ 921,
1088
+ 922,
1089
+ 1032,
1090
+ 1039,
1091
+ 1073,
1092
+ 1075
1093
+ ],
1094
+ "clean_baseline": 14.2265625,
1095
+ "corrupted_baseline": -12.4609375
1096
+ }
results/Qwen_Qwen2-5-32B-Instruct/ToM/desires_goals/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fc79cd9fbc79fa5538cbd4370e0905be900a89a9d81ab7c6d350b195824805df
3
+ size 14157430
results/Qwen_Qwen2-5-32B-Instruct/ToM/desires_goals/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:63a70bd19fdb8983536d3707c1c088a598ee1ec883fdcf3f3b50ab528bb609d7
3
+ size 6729704
results/Qwen_Qwen2-5-32B-Instruct/ToM/emotion_fewshot/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/Qwen_Qwen2-5-32B-Instruct/ToM/emotion_fewshot/baselines.json ADDED
@@ -0,0 +1,2017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 2000,
3
+ "n_token_misaligned": 9,
4
+ "token_misaligned_indices": [
5
+ 20,
6
+ 137,
7
+ 142,
8
+ 180,
9
+ 506,
10
+ 1020,
11
+ 1056,
12
+ 1738,
13
+ 1795
14
+ ],
15
+ "n_after_alignment_filter": 1991,
16
+ "clean_accuracy": 0.9959819186338523,
17
+ "corrupted_accuracy": 0.9979909593169262,
18
+ "both_correct_accuracy": 0.9939728779507785,
19
+ "n_both_correct": 1979,
20
+ "both_correct_indices": [
21
+ 0,
22
+ 1,
23
+ 2,
24
+ 3,
25
+ 4,
26
+ 5,
27
+ 6,
28
+ 7,
29
+ 8,
30
+ 9,
31
+ 10,
32
+ 11,
33
+ 12,
34
+ 13,
35
+ 14,
36
+ 15,
37
+ 16,
38
+ 17,
39
+ 18,
40
+ 19,
41
+ 21,
42
+ 22,
43
+ 23,
44
+ 24,
45
+ 25,
46
+ 26,
47
+ 27,
48
+ 28,
49
+ 29,
50
+ 30,
51
+ 31,
52
+ 32,
53
+ 33,
54
+ 34,
55
+ 35,
56
+ 36,
57
+ 37,
58
+ 38,
59
+ 39,
60
+ 40,
61
+ 41,
62
+ 42,
63
+ 43,
64
+ 44,
65
+ 45,
66
+ 46,
67
+ 47,
68
+ 48,
69
+ 49,
70
+ 50,
71
+ 51,
72
+ 52,
73
+ 53,
74
+ 54,
75
+ 55,
76
+ 56,
77
+ 57,
78
+ 58,
79
+ 59,
80
+ 60,
81
+ 61,
82
+ 62,
83
+ 63,
84
+ 64,
85
+ 65,
86
+ 66,
87
+ 67,
88
+ 68,
89
+ 69,
90
+ 70,
91
+ 71,
92
+ 72,
93
+ 73,
94
+ 74,
95
+ 75,
96
+ 76,
97
+ 77,
98
+ 78,
99
+ 79,
100
+ 80,
101
+ 81,
102
+ 82,
103
+ 83,
104
+ 84,
105
+ 85,
106
+ 86,
107
+ 87,
108
+ 88,
109
+ 89,
110
+ 90,
111
+ 91,
112
+ 92,
113
+ 93,
114
+ 94,
115
+ 95,
116
+ 96,
117
+ 97,
118
+ 98,
119
+ 99,
120
+ 100,
121
+ 101,
122
+ 102,
123
+ 103,
124
+ 104,
125
+ 105,
126
+ 106,
127
+ 107,
128
+ 108,
129
+ 109,
130
+ 110,
131
+ 111,
132
+ 112,
133
+ 113,
134
+ 114,
135
+ 115,
136
+ 116,
137
+ 117,
138
+ 118,
139
+ 119,
140
+ 120,
141
+ 121,
142
+ 122,
143
+ 123,
144
+ 124,
145
+ 125,
146
+ 126,
147
+ 127,
148
+ 128,
149
+ 129,
150
+ 130,
151
+ 131,
152
+ 132,
153
+ 133,
154
+ 134,
155
+ 135,
156
+ 136,
157
+ 138,
158
+ 139,
159
+ 140,
160
+ 141,
161
+ 143,
162
+ 144,
163
+ 145,
164
+ 146,
165
+ 147,
166
+ 148,
167
+ 149,
168
+ 150,
169
+ 151,
170
+ 152,
171
+ 153,
172
+ 154,
173
+ 155,
174
+ 156,
175
+ 157,
176
+ 158,
177
+ 159,
178
+ 160,
179
+ 161,
180
+ 162,
181
+ 163,
182
+ 164,
183
+ 165,
184
+ 166,
185
+ 167,
186
+ 168,
187
+ 169,
188
+ 170,
189
+ 171,
190
+ 172,
191
+ 173,
192
+ 174,
193
+ 175,
194
+ 176,
195
+ 177,
196
+ 178,
197
+ 179,
198
+ 181,
199
+ 182,
200
+ 183,
201
+ 184,
202
+ 185,
203
+ 186,
204
+ 187,
205
+ 188,
206
+ 189,
207
+ 190,
208
+ 191,
209
+ 192,
210
+ 193,
211
+ 194,
212
+ 195,
213
+ 196,
214
+ 197,
215
+ 198,
216
+ 199,
217
+ 200,
218
+ 201,
219
+ 202,
220
+ 203,
221
+ 204,
222
+ 205,
223
+ 206,
224
+ 207,
225
+ 208,
226
+ 209,
227
+ 210,
228
+ 211,
229
+ 212,
230
+ 213,
231
+ 214,
232
+ 215,
233
+ 216,
234
+ 217,
235
+ 218,
236
+ 219,
237
+ 220,
238
+ 221,
239
+ 222,
240
+ 223,
241
+ 224,
242
+ 225,
243
+ 226,
244
+ 227,
245
+ 228,
246
+ 229,
247
+ 230,
248
+ 231,
249
+ 232,
250
+ 233,
251
+ 234,
252
+ 235,
253
+ 237,
254
+ 238,
255
+ 239,
256
+ 240,
257
+ 241,
258
+ 242,
259
+ 243,
260
+ 244,
261
+ 245,
262
+ 246,
263
+ 247,
264
+ 248,
265
+ 249,
266
+ 250,
267
+ 251,
268
+ 252,
269
+ 253,
270
+ 254,
271
+ 255,
272
+ 256,
273
+ 257,
274
+ 258,
275
+ 259,
276
+ 260,
277
+ 261,
278
+ 262,
279
+ 263,
280
+ 264,
281
+ 265,
282
+ 266,
283
+ 267,
284
+ 268,
285
+ 269,
286
+ 270,
287
+ 271,
288
+ 272,
289
+ 273,
290
+ 274,
291
+ 275,
292
+ 276,
293
+ 277,
294
+ 278,
295
+ 279,
296
+ 280,
297
+ 281,
298
+ 282,
299
+ 283,
300
+ 284,
301
+ 285,
302
+ 286,
303
+ 287,
304
+ 288,
305
+ 289,
306
+ 290,
307
+ 291,
308
+ 292,
309
+ 293,
310
+ 294,
311
+ 295,
312
+ 296,
313
+ 297,
314
+ 298,
315
+ 299,
316
+ 300,
317
+ 301,
318
+ 302,
319
+ 303,
320
+ 304,
321
+ 305,
322
+ 306,
323
+ 307,
324
+ 308,
325
+ 309,
326
+ 310,
327
+ 311,
328
+ 312,
329
+ 313,
330
+ 314,
331
+ 315,
332
+ 316,
333
+ 317,
334
+ 318,
335
+ 319,
336
+ 320,
337
+ 321,
338
+ 322,
339
+ 323,
340
+ 324,
341
+ 325,
342
+ 326,
343
+ 327,
344
+ 328,
345
+ 329,
346
+ 330,
347
+ 331,
348
+ 332,
349
+ 333,
350
+ 334,
351
+ 335,
352
+ 336,
353
+ 337,
354
+ 338,
355
+ 339,
356
+ 340,
357
+ 341,
358
+ 342,
359
+ 343,
360
+ 344,
361
+ 345,
362
+ 346,
363
+ 347,
364
+ 348,
365
+ 349,
366
+ 350,
367
+ 351,
368
+ 352,
369
+ 353,
370
+ 354,
371
+ 355,
372
+ 356,
373
+ 357,
374
+ 358,
375
+ 359,
376
+ 360,
377
+ 361,
378
+ 362,
379
+ 363,
380
+ 364,
381
+ 365,
382
+ 366,
383
+ 367,
384
+ 368,
385
+ 369,
386
+ 370,
387
+ 371,
388
+ 372,
389
+ 373,
390
+ 374,
391
+ 375,
392
+ 376,
393
+ 377,
394
+ 378,
395
+ 379,
396
+ 380,
397
+ 381,
398
+ 382,
399
+ 383,
400
+ 384,
401
+ 385,
402
+ 386,
403
+ 387,
404
+ 388,
405
+ 389,
406
+ 390,
407
+ 391,
408
+ 392,
409
+ 393,
410
+ 394,
411
+ 395,
412
+ 396,
413
+ 397,
414
+ 398,
415
+ 399,
416
+ 400,
417
+ 401,
418
+ 402,
419
+ 403,
420
+ 404,
421
+ 405,
422
+ 406,
423
+ 407,
424
+ 408,
425
+ 409,
426
+ 410,
427
+ 411,
428
+ 412,
429
+ 413,
430
+ 414,
431
+ 415,
432
+ 416,
433
+ 417,
434
+ 418,
435
+ 419,
436
+ 420,
437
+ 421,
438
+ 422,
439
+ 423,
440
+ 424,
441
+ 425,
442
+ 426,
443
+ 427,
444
+ 428,
445
+ 429,
446
+ 430,
447
+ 431,
448
+ 432,
449
+ 433,
450
+ 434,
451
+ 435,
452
+ 436,
453
+ 437,
454
+ 438,
455
+ 439,
456
+ 440,
457
+ 441,
458
+ 442,
459
+ 443,
460
+ 444,
461
+ 445,
462
+ 446,
463
+ 447,
464
+ 448,
465
+ 449,
466
+ 450,
467
+ 451,
468
+ 452,
469
+ 453,
470
+ 454,
471
+ 455,
472
+ 456,
473
+ 457,
474
+ 458,
475
+ 459,
476
+ 460,
477
+ 461,
478
+ 462,
479
+ 463,
480
+ 464,
481
+ 465,
482
+ 466,
483
+ 467,
484
+ 468,
485
+ 469,
486
+ 470,
487
+ 471,
488
+ 472,
489
+ 473,
490
+ 474,
491
+ 475,
492
+ 476,
493
+ 477,
494
+ 478,
495
+ 479,
496
+ 480,
497
+ 481,
498
+ 482,
499
+ 483,
500
+ 484,
501
+ 485,
502
+ 486,
503
+ 487,
504
+ 488,
505
+ 489,
506
+ 490,
507
+ 491,
508
+ 492,
509
+ 493,
510
+ 494,
511
+ 495,
512
+ 496,
513
+ 497,
514
+ 498,
515
+ 499,
516
+ 500,
517
+ 501,
518
+ 502,
519
+ 503,
520
+ 505,
521
+ 507,
522
+ 508,
523
+ 509,
524
+ 510,
525
+ 511,
526
+ 512,
527
+ 513,
528
+ 514,
529
+ 515,
530
+ 516,
531
+ 517,
532
+ 518,
533
+ 519,
534
+ 520,
535
+ 521,
536
+ 522,
537
+ 523,
538
+ 524,
539
+ 525,
540
+ 526,
541
+ 527,
542
+ 528,
543
+ 529,
544
+ 530,
545
+ 531,
546
+ 532,
547
+ 533,
548
+ 534,
549
+ 535,
550
+ 536,
551
+ 537,
552
+ 538,
553
+ 539,
554
+ 540,
555
+ 541,
556
+ 542,
557
+ 543,
558
+ 544,
559
+ 545,
560
+ 546,
561
+ 547,
562
+ 548,
563
+ 549,
564
+ 550,
565
+ 551,
566
+ 552,
567
+ 553,
568
+ 554,
569
+ 555,
570
+ 556,
571
+ 557,
572
+ 558,
573
+ 559,
574
+ 560,
575
+ 561,
576
+ 562,
577
+ 563,
578
+ 564,
579
+ 565,
580
+ 566,
581
+ 567,
582
+ 568,
583
+ 569,
584
+ 570,
585
+ 571,
586
+ 572,
587
+ 573,
588
+ 574,
589
+ 575,
590
+ 576,
591
+ 577,
592
+ 578,
593
+ 579,
594
+ 580,
595
+ 581,
596
+ 582,
597
+ 583,
598
+ 584,
599
+ 585,
600
+ 586,
601
+ 587,
602
+ 588,
603
+ 589,
604
+ 590,
605
+ 591,
606
+ 592,
607
+ 593,
608
+ 594,
609
+ 595,
610
+ 596,
611
+ 597,
612
+ 598,
613
+ 599,
614
+ 600,
615
+ 601,
616
+ 602,
617
+ 603,
618
+ 604,
619
+ 605,
620
+ 606,
621
+ 607,
622
+ 608,
623
+ 609,
624
+ 610,
625
+ 611,
626
+ 612,
627
+ 613,
628
+ 614,
629
+ 615,
630
+ 616,
631
+ 617,
632
+ 618,
633
+ 619,
634
+ 620,
635
+ 621,
636
+ 622,
637
+ 623,
638
+ 624,
639
+ 625,
640
+ 627,
641
+ 628,
642
+ 629,
643
+ 630,
644
+ 631,
645
+ 632,
646
+ 633,
647
+ 634,
648
+ 635,
649
+ 636,
650
+ 637,
651
+ 638,
652
+ 639,
653
+ 640,
654
+ 641,
655
+ 642,
656
+ 643,
657
+ 644,
658
+ 645,
659
+ 646,
660
+ 647,
661
+ 648,
662
+ 649,
663
+ 651,
664
+ 652,
665
+ 653,
666
+ 654,
667
+ 655,
668
+ 656,
669
+ 657,
670
+ 658,
671
+ 659,
672
+ 660,
673
+ 661,
674
+ 662,
675
+ 663,
676
+ 664,
677
+ 665,
678
+ 666,
679
+ 667,
680
+ 668,
681
+ 669,
682
+ 670,
683
+ 671,
684
+ 672,
685
+ 673,
686
+ 674,
687
+ 675,
688
+ 676,
689
+ 677,
690
+ 678,
691
+ 679,
692
+ 680,
693
+ 681,
694
+ 682,
695
+ 683,
696
+ 684,
697
+ 685,
698
+ 686,
699
+ 687,
700
+ 688,
701
+ 689,
702
+ 690,
703
+ 691,
704
+ 692,
705
+ 693,
706
+ 694,
707
+ 695,
708
+ 696,
709
+ 697,
710
+ 698,
711
+ 699,
712
+ 700,
713
+ 701,
714
+ 702,
715
+ 703,
716
+ 704,
717
+ 705,
718
+ 706,
719
+ 707,
720
+ 708,
721
+ 709,
722
+ 710,
723
+ 711,
724
+ 712,
725
+ 713,
726
+ 714,
727
+ 715,
728
+ 716,
729
+ 717,
730
+ 718,
731
+ 719,
732
+ 720,
733
+ 721,
734
+ 722,
735
+ 723,
736
+ 724,
737
+ 725,
738
+ 726,
739
+ 727,
740
+ 728,
741
+ 729,
742
+ 730,
743
+ 731,
744
+ 732,
745
+ 733,
746
+ 734,
747
+ 735,
748
+ 736,
749
+ 737,
750
+ 738,
751
+ 739,
752
+ 740,
753
+ 741,
754
+ 742,
755
+ 743,
756
+ 744,
757
+ 745,
758
+ 746,
759
+ 747,
760
+ 748,
761
+ 749,
762
+ 750,
763
+ 751,
764
+ 752,
765
+ 753,
766
+ 754,
767
+ 755,
768
+ 756,
769
+ 757,
770
+ 758,
771
+ 759,
772
+ 760,
773
+ 761,
774
+ 762,
775
+ 763,
776
+ 764,
777
+ 765,
778
+ 766,
779
+ 767,
780
+ 768,
781
+ 769,
782
+ 770,
783
+ 771,
784
+ 772,
785
+ 773,
786
+ 774,
787
+ 775,
788
+ 776,
789
+ 777,
790
+ 778,
791
+ 779,
792
+ 780,
793
+ 781,
794
+ 782,
795
+ 783,
796
+ 784,
797
+ 785,
798
+ 786,
799
+ 787,
800
+ 788,
801
+ 789,
802
+ 790,
803
+ 791,
804
+ 792,
805
+ 793,
806
+ 794,
807
+ 795,
808
+ 796,
809
+ 797,
810
+ 798,
811
+ 799,
812
+ 800,
813
+ 801,
814
+ 802,
815
+ 803,
816
+ 804,
817
+ 805,
818
+ 806,
819
+ 807,
820
+ 808,
821
+ 809,
822
+ 810,
823
+ 811,
824
+ 812,
825
+ 813,
826
+ 814,
827
+ 815,
828
+ 816,
829
+ 817,
830
+ 818,
831
+ 819,
832
+ 820,
833
+ 821,
834
+ 822,
835
+ 823,
836
+ 824,
837
+ 825,
838
+ 826,
839
+ 827,
840
+ 828,
841
+ 829,
842
+ 830,
843
+ 831,
844
+ 832,
845
+ 833,
846
+ 834,
847
+ 835,
848
+ 836,
849
+ 837,
850
+ 838,
851
+ 839,
852
+ 840,
853
+ 841,
854
+ 842,
855
+ 843,
856
+ 844,
857
+ 845,
858
+ 846,
859
+ 847,
860
+ 848,
861
+ 849,
862
+ 850,
863
+ 851,
864
+ 852,
865
+ 853,
866
+ 854,
867
+ 855,
868
+ 856,
869
+ 857,
870
+ 858,
871
+ 859,
872
+ 860,
873
+ 861,
874
+ 862,
875
+ 863,
876
+ 864,
877
+ 865,
878
+ 866,
879
+ 867,
880
+ 868,
881
+ 869,
882
+ 870,
883
+ 871,
884
+ 872,
885
+ 873,
886
+ 874,
887
+ 875,
888
+ 876,
889
+ 877,
890
+ 878,
891
+ 879,
892
+ 880,
893
+ 881,
894
+ 882,
895
+ 883,
896
+ 884,
897
+ 885,
898
+ 886,
899
+ 887,
900
+ 888,
901
+ 889,
902
+ 890,
903
+ 891,
904
+ 892,
905
+ 893,
906
+ 894,
907
+ 895,
908
+ 896,
909
+ 897,
910
+ 898,
911
+ 899,
912
+ 900,
913
+ 901,
914
+ 902,
915
+ 903,
916
+ 904,
917
+ 905,
918
+ 906,
919
+ 907,
920
+ 908,
921
+ 909,
922
+ 910,
923
+ 911,
924
+ 912,
925
+ 913,
926
+ 914,
927
+ 915,
928
+ 916,
929
+ 917,
930
+ 918,
931
+ 919,
932
+ 920,
933
+ 921,
934
+ 922,
935
+ 923,
936
+ 924,
937
+ 925,
938
+ 926,
939
+ 927,
940
+ 928,
941
+ 929,
942
+ 930,
943
+ 931,
944
+ 932,
945
+ 933,
946
+ 934,
947
+ 935,
948
+ 936,
949
+ 937,
950
+ 938,
951
+ 939,
952
+ 940,
953
+ 941,
954
+ 942,
955
+ 943,
956
+ 944,
957
+ 945,
958
+ 946,
959
+ 947,
960
+ 948,
961
+ 949,
962
+ 950,
963
+ 951,
964
+ 952,
965
+ 953,
966
+ 954,
967
+ 955,
968
+ 956,
969
+ 957,
970
+ 958,
971
+ 959,
972
+ 960,
973
+ 961,
974
+ 962,
975
+ 963,
976
+ 964,
977
+ 965,
978
+ 966,
979
+ 967,
980
+ 968,
981
+ 969,
982
+ 970,
983
+ 971,
984
+ 972,
985
+ 973,
986
+ 974,
987
+ 975,
988
+ 976,
989
+ 977,
990
+ 978,
991
+ 979,
992
+ 980,
993
+ 981,
994
+ 982,
995
+ 983,
996
+ 984,
997
+ 985,
998
+ 986,
999
+ 987,
1000
+ 988,
1001
+ 989,
1002
+ 990,
1003
+ 991,
1004
+ 992,
1005
+ 994,
1006
+ 995,
1007
+ 996,
1008
+ 997,
1009
+ 998,
1010
+ 999,
1011
+ 1000,
1012
+ 1001,
1013
+ 1002,
1014
+ 1003,
1015
+ 1005,
1016
+ 1006,
1017
+ 1007,
1018
+ 1008,
1019
+ 1009,
1020
+ 1010,
1021
+ 1011,
1022
+ 1012,
1023
+ 1013,
1024
+ 1014,
1025
+ 1015,
1026
+ 1016,
1027
+ 1017,
1028
+ 1018,
1029
+ 1019,
1030
+ 1021,
1031
+ 1022,
1032
+ 1023,
1033
+ 1024,
1034
+ 1025,
1035
+ 1026,
1036
+ 1027,
1037
+ 1028,
1038
+ 1029,
1039
+ 1030,
1040
+ 1031,
1041
+ 1032,
1042
+ 1033,
1043
+ 1034,
1044
+ 1035,
1045
+ 1036,
1046
+ 1037,
1047
+ 1038,
1048
+ 1039,
1049
+ 1041,
1050
+ 1042,
1051
+ 1043,
1052
+ 1044,
1053
+ 1045,
1054
+ 1046,
1055
+ 1047,
1056
+ 1048,
1057
+ 1049,
1058
+ 1050,
1059
+ 1051,
1060
+ 1052,
1061
+ 1053,
1062
+ 1054,
1063
+ 1055,
1064
+ 1057,
1065
+ 1058,
1066
+ 1059,
1067
+ 1060,
1068
+ 1061,
1069
+ 1062,
1070
+ 1063,
1071
+ 1064,
1072
+ 1065,
1073
+ 1066,
1074
+ 1067,
1075
+ 1068,
1076
+ 1069,
1077
+ 1070,
1078
+ 1071,
1079
+ 1072,
1080
+ 1073,
1081
+ 1074,
1082
+ 1075,
1083
+ 1076,
1084
+ 1077,
1085
+ 1078,
1086
+ 1079,
1087
+ 1080,
1088
+ 1081,
1089
+ 1082,
1090
+ 1083,
1091
+ 1084,
1092
+ 1085,
1093
+ 1086,
1094
+ 1087,
1095
+ 1088,
1096
+ 1089,
1097
+ 1090,
1098
+ 1091,
1099
+ 1092,
1100
+ 1093,
1101
+ 1094,
1102
+ 1095,
1103
+ 1096,
1104
+ 1097,
1105
+ 1098,
1106
+ 1099,
1107
+ 1100,
1108
+ 1101,
1109
+ 1102,
1110
+ 1103,
1111
+ 1104,
1112
+ 1105,
1113
+ 1106,
1114
+ 1108,
1115
+ 1109,
1116
+ 1111,
1117
+ 1112,
1118
+ 1113,
1119
+ 1114,
1120
+ 1115,
1121
+ 1116,
1122
+ 1117,
1123
+ 1118,
1124
+ 1119,
1125
+ 1120,
1126
+ 1121,
1127
+ 1122,
1128
+ 1123,
1129
+ 1124,
1130
+ 1125,
1131
+ 1126,
1132
+ 1127,
1133
+ 1128,
1134
+ 1129,
1135
+ 1130,
1136
+ 1131,
1137
+ 1132,
1138
+ 1133,
1139
+ 1134,
1140
+ 1135,
1141
+ 1136,
1142
+ 1137,
1143
+ 1138,
1144
+ 1139,
1145
+ 1140,
1146
+ 1141,
1147
+ 1142,
1148
+ 1143,
1149
+ 1144,
1150
+ 1145,
1151
+ 1146,
1152
+ 1147,
1153
+ 1148,
1154
+ 1149,
1155
+ 1150,
1156
+ 1151,
1157
+ 1152,
1158
+ 1153,
1159
+ 1154,
1160
+ 1155,
1161
+ 1156,
1162
+ 1157,
1163
+ 1158,
1164
+ 1159,
1165
+ 1160,
1166
+ 1161,
1167
+ 1162,
1168
+ 1163,
1169
+ 1164,
1170
+ 1165,
1171
+ 1166,
1172
+ 1167,
1173
+ 1169,
1174
+ 1170,
1175
+ 1171,
1176
+ 1172,
1177
+ 1173,
1178
+ 1174,
1179
+ 1175,
1180
+ 1176,
1181
+ 1177,
1182
+ 1178,
1183
+ 1179,
1184
+ 1180,
1185
+ 1181,
1186
+ 1182,
1187
+ 1183,
1188
+ 1184,
1189
+ 1185,
1190
+ 1186,
1191
+ 1187,
1192
+ 1188,
1193
+ 1189,
1194
+ 1190,
1195
+ 1191,
1196
+ 1192,
1197
+ 1193,
1198
+ 1195,
1199
+ 1196,
1200
+ 1197,
1201
+ 1198,
1202
+ 1199,
1203
+ 1200,
1204
+ 1201,
1205
+ 1202,
1206
+ 1203,
1207
+ 1204,
1208
+ 1205,
1209
+ 1206,
1210
+ 1207,
1211
+ 1208,
1212
+ 1209,
1213
+ 1210,
1214
+ 1211,
1215
+ 1212,
1216
+ 1213,
1217
+ 1214,
1218
+ 1215,
1219
+ 1216,
1220
+ 1217,
1221
+ 1218,
1222
+ 1219,
1223
+ 1220,
1224
+ 1221,
1225
+ 1222,
1226
+ 1223,
1227
+ 1224,
1228
+ 1225,
1229
+ 1226,
1230
+ 1227,
1231
+ 1228,
1232
+ 1229,
1233
+ 1230,
1234
+ 1231,
1235
+ 1232,
1236
+ 1233,
1237
+ 1234,
1238
+ 1235,
1239
+ 1236,
1240
+ 1237,
1241
+ 1238,
1242
+ 1239,
1243
+ 1240,
1244
+ 1241,
1245
+ 1242,
1246
+ 1243,
1247
+ 1244,
1248
+ 1245,
1249
+ 1246,
1250
+ 1247,
1251
+ 1248,
1252
+ 1249,
1253
+ 1250,
1254
+ 1251,
1255
+ 1252,
1256
+ 1253,
1257
+ 1254,
1258
+ 1255,
1259
+ 1256,
1260
+ 1257,
1261
+ 1258,
1262
+ 1259,
1263
+ 1260,
1264
+ 1261,
1265
+ 1262,
1266
+ 1263,
1267
+ 1264,
1268
+ 1265,
1269
+ 1266,
1270
+ 1267,
1271
+ 1268,
1272
+ 1269,
1273
+ 1270,
1274
+ 1271,
1275
+ 1272,
1276
+ 1273,
1277
+ 1274,
1278
+ 1275,
1279
+ 1276,
1280
+ 1277,
1281
+ 1278,
1282
+ 1279,
1283
+ 1280,
1284
+ 1281,
1285
+ 1282,
1286
+ 1283,
1287
+ 1284,
1288
+ 1285,
1289
+ 1286,
1290
+ 1287,
1291
+ 1288,
1292
+ 1289,
1293
+ 1290,
1294
+ 1291,
1295
+ 1292,
1296
+ 1293,
1297
+ 1294,
1298
+ 1295,
1299
+ 1296,
1300
+ 1297,
1301
+ 1298,
1302
+ 1299,
1303
+ 1300,
1304
+ 1301,
1305
+ 1302,
1306
+ 1303,
1307
+ 1304,
1308
+ 1305,
1309
+ 1306,
1310
+ 1307,
1311
+ 1308,
1312
+ 1309,
1313
+ 1310,
1314
+ 1311,
1315
+ 1312,
1316
+ 1313,
1317
+ 1314,
1318
+ 1315,
1319
+ 1316,
1320
+ 1317,
1321
+ 1318,
1322
+ 1319,
1323
+ 1320,
1324
+ 1321,
1325
+ 1322,
1326
+ 1323,
1327
+ 1324,
1328
+ 1325,
1329
+ 1326,
1330
+ 1327,
1331
+ 1328,
1332
+ 1329,
1333
+ 1330,
1334
+ 1331,
1335
+ 1332,
1336
+ 1333,
1337
+ 1334,
1338
+ 1335,
1339
+ 1336,
1340
+ 1337,
1341
+ 1338,
1342
+ 1339,
1343
+ 1340,
1344
+ 1341,
1345
+ 1342,
1346
+ 1343,
1347
+ 1344,
1348
+ 1345,
1349
+ 1346,
1350
+ 1347,
1351
+ 1348,
1352
+ 1349,
1353
+ 1350,
1354
+ 1351,
1355
+ 1352,
1356
+ 1353,
1357
+ 1354,
1358
+ 1355,
1359
+ 1356,
1360
+ 1357,
1361
+ 1358,
1362
+ 1359,
1363
+ 1360,
1364
+ 1361,
1365
+ 1362,
1366
+ 1363,
1367
+ 1364,
1368
+ 1365,
1369
+ 1366,
1370
+ 1367,
1371
+ 1368,
1372
+ 1369,
1373
+ 1370,
1374
+ 1371,
1375
+ 1372,
1376
+ 1373,
1377
+ 1375,
1378
+ 1376,
1379
+ 1377,
1380
+ 1378,
1381
+ 1379,
1382
+ 1380,
1383
+ 1381,
1384
+ 1382,
1385
+ 1383,
1386
+ 1384,
1387
+ 1385,
1388
+ 1386,
1389
+ 1387,
1390
+ 1388,
1391
+ 1389,
1392
+ 1390,
1393
+ 1391,
1394
+ 1392,
1395
+ 1393,
1396
+ 1394,
1397
+ 1395,
1398
+ 1396,
1399
+ 1397,
1400
+ 1398,
1401
+ 1399,
1402
+ 1400,
1403
+ 1401,
1404
+ 1402,
1405
+ 1403,
1406
+ 1404,
1407
+ 1405,
1408
+ 1406,
1409
+ 1407,
1410
+ 1408,
1411
+ 1409,
1412
+ 1410,
1413
+ 1411,
1414
+ 1412,
1415
+ 1413,
1416
+ 1414,
1417
+ 1415,
1418
+ 1416,
1419
+ 1417,
1420
+ 1418,
1421
+ 1419,
1422
+ 1420,
1423
+ 1421,
1424
+ 1422,
1425
+ 1423,
1426
+ 1424,
1427
+ 1425,
1428
+ 1426,
1429
+ 1427,
1430
+ 1428,
1431
+ 1429,
1432
+ 1430,
1433
+ 1431,
1434
+ 1432,
1435
+ 1433,
1436
+ 1434,
1437
+ 1435,
1438
+ 1436,
1439
+ 1437,
1440
+ 1438,
1441
+ 1439,
1442
+ 1440,
1443
+ 1441,
1444
+ 1442,
1445
+ 1443,
1446
+ 1444,
1447
+ 1445,
1448
+ 1446,
1449
+ 1447,
1450
+ 1448,
1451
+ 1449,
1452
+ 1450,
1453
+ 1451,
1454
+ 1452,
1455
+ 1453,
1456
+ 1454,
1457
+ 1455,
1458
+ 1456,
1459
+ 1457,
1460
+ 1458,
1461
+ 1459,
1462
+ 1460,
1463
+ 1461,
1464
+ 1462,
1465
+ 1463,
1466
+ 1464,
1467
+ 1465,
1468
+ 1466,
1469
+ 1467,
1470
+ 1468,
1471
+ 1469,
1472
+ 1470,
1473
+ 1471,
1474
+ 1472,
1475
+ 1473,
1476
+ 1474,
1477
+ 1475,
1478
+ 1476,
1479
+ 1477,
1480
+ 1478,
1481
+ 1479,
1482
+ 1480,
1483
+ 1481,
1484
+ 1482,
1485
+ 1483,
1486
+ 1484,
1487
+ 1485,
1488
+ 1486,
1489
+ 1487,
1490
+ 1488,
1491
+ 1489,
1492
+ 1490,
1493
+ 1491,
1494
+ 1492,
1495
+ 1493,
1496
+ 1494,
1497
+ 1495,
1498
+ 1496,
1499
+ 1497,
1500
+ 1498,
1501
+ 1499,
1502
+ 1500,
1503
+ 1501,
1504
+ 1502,
1505
+ 1503,
1506
+ 1504,
1507
+ 1505,
1508
+ 1506,
1509
+ 1507,
1510
+ 1508,
1511
+ 1509,
1512
+ 1510,
1513
+ 1511,
1514
+ 1512,
1515
+ 1513,
1516
+ 1514,
1517
+ 1515,
1518
+ 1516,
1519
+ 1517,
1520
+ 1518,
1521
+ 1519,
1522
+ 1520,
1523
+ 1521,
1524
+ 1522,
1525
+ 1523,
1526
+ 1524,
1527
+ 1525,
1528
+ 1526,
1529
+ 1527,
1530
+ 1528,
1531
+ 1529,
1532
+ 1530,
1533
+ 1531,
1534
+ 1532,
1535
+ 1533,
1536
+ 1534,
1537
+ 1535,
1538
+ 1536,
1539
+ 1537,
1540
+ 1538,
1541
+ 1539,
1542
+ 1540,
1543
+ 1541,
1544
+ 1542,
1545
+ 1543,
1546
+ 1544,
1547
+ 1545,
1548
+ 1546,
1549
+ 1547,
1550
+ 1548,
1551
+ 1549,
1552
+ 1550,
1553
+ 1551,
1554
+ 1552,
1555
+ 1553,
1556
+ 1554,
1557
+ 1555,
1558
+ 1556,
1559
+ 1557,
1560
+ 1558,
1561
+ 1559,
1562
+ 1560,
1563
+ 1561,
1564
+ 1562,
1565
+ 1563,
1566
+ 1564,
1567
+ 1565,
1568
+ 1566,
1569
+ 1567,
1570
+ 1568,
1571
+ 1569,
1572
+ 1570,
1573
+ 1571,
1574
+ 1572,
1575
+ 1573,
1576
+ 1574,
1577
+ 1575,
1578
+ 1576,
1579
+ 1577,
1580
+ 1578,
1581
+ 1579,
1582
+ 1580,
1583
+ 1581,
1584
+ 1582,
1585
+ 1583,
1586
+ 1584,
1587
+ 1585,
1588
+ 1586,
1589
+ 1587,
1590
+ 1588,
1591
+ 1589,
1592
+ 1590,
1593
+ 1591,
1594
+ 1592,
1595
+ 1593,
1596
+ 1594,
1597
+ 1595,
1598
+ 1596,
1599
+ 1597,
1600
+ 1598,
1601
+ 1599,
1602
+ 1600,
1603
+ 1601,
1604
+ 1602,
1605
+ 1603,
1606
+ 1604,
1607
+ 1605,
1608
+ 1606,
1609
+ 1607,
1610
+ 1608,
1611
+ 1609,
1612
+ 1610,
1613
+ 1611,
1614
+ 1612,
1615
+ 1613,
1616
+ 1614,
1617
+ 1615,
1618
+ 1616,
1619
+ 1617,
1620
+ 1618,
1621
+ 1619,
1622
+ 1620,
1623
+ 1621,
1624
+ 1622,
1625
+ 1623,
1626
+ 1624,
1627
+ 1625,
1628
+ 1626,
1629
+ 1627,
1630
+ 1628,
1631
+ 1629,
1632
+ 1630,
1633
+ 1631,
1634
+ 1632,
1635
+ 1633,
1636
+ 1634,
1637
+ 1635,
1638
+ 1636,
1639
+ 1637,
1640
+ 1638,
1641
+ 1639,
1642
+ 1640,
1643
+ 1641,
1644
+ 1642,
1645
+ 1643,
1646
+ 1644,
1647
+ 1645,
1648
+ 1646,
1649
+ 1647,
1650
+ 1648,
1651
+ 1649,
1652
+ 1650,
1653
+ 1651,
1654
+ 1652,
1655
+ 1653,
1656
+ 1654,
1657
+ 1655,
1658
+ 1656,
1659
+ 1657,
1660
+ 1658,
1661
+ 1659,
1662
+ 1660,
1663
+ 1661,
1664
+ 1662,
1665
+ 1663,
1666
+ 1664,
1667
+ 1665,
1668
+ 1666,
1669
+ 1667,
1670
+ 1668,
1671
+ 1669,
1672
+ 1670,
1673
+ 1671,
1674
+ 1672,
1675
+ 1673,
1676
+ 1674,
1677
+ 1675,
1678
+ 1676,
1679
+ 1677,
1680
+ 1678,
1681
+ 1679,
1682
+ 1680,
1683
+ 1681,
1684
+ 1682,
1685
+ 1683,
1686
+ 1684,
1687
+ 1685,
1688
+ 1686,
1689
+ 1687,
1690
+ 1688,
1691
+ 1689,
1692
+ 1690,
1693
+ 1691,
1694
+ 1692,
1695
+ 1693,
1696
+ 1694,
1697
+ 1695,
1698
+ 1696,
1699
+ 1697,
1700
+ 1698,
1701
+ 1699,
1702
+ 1700,
1703
+ 1701,
1704
+ 1702,
1705
+ 1703,
1706
+ 1704,
1707
+ 1705,
1708
+ 1706,
1709
+ 1707,
1710
+ 1708,
1711
+ 1709,
1712
+ 1710,
1713
+ 1711,
1714
+ 1712,
1715
+ 1713,
1716
+ 1714,
1717
+ 1715,
1718
+ 1716,
1719
+ 1717,
1720
+ 1718,
1721
+ 1719,
1722
+ 1720,
1723
+ 1721,
1724
+ 1722,
1725
+ 1723,
1726
+ 1724,
1727
+ 1725,
1728
+ 1726,
1729
+ 1727,
1730
+ 1728,
1731
+ 1729,
1732
+ 1730,
1733
+ 1731,
1734
+ 1732,
1735
+ 1733,
1736
+ 1734,
1737
+ 1735,
1738
+ 1736,
1739
+ 1737,
1740
+ 1739,
1741
+ 1740,
1742
+ 1741,
1743
+ 1742,
1744
+ 1743,
1745
+ 1744,
1746
+ 1745,
1747
+ 1746,
1748
+ 1747,
1749
+ 1748,
1750
+ 1749,
1751
+ 1750,
1752
+ 1751,
1753
+ 1752,
1754
+ 1753,
1755
+ 1754,
1756
+ 1755,
1757
+ 1756,
1758
+ 1757,
1759
+ 1758,
1760
+ 1759,
1761
+ 1760,
1762
+ 1761,
1763
+ 1762,
1764
+ 1763,
1765
+ 1764,
1766
+ 1765,
1767
+ 1766,
1768
+ 1767,
1769
+ 1768,
1770
+ 1769,
1771
+ 1770,
1772
+ 1771,
1773
+ 1772,
1774
+ 1773,
1775
+ 1774,
1776
+ 1775,
1777
+ 1776,
1778
+ 1777,
1779
+ 1778,
1780
+ 1779,
1781
+ 1780,
1782
+ 1781,
1783
+ 1782,
1784
+ 1783,
1785
+ 1784,
1786
+ 1785,
1787
+ 1786,
1788
+ 1787,
1789
+ 1788,
1790
+ 1789,
1791
+ 1790,
1792
+ 1791,
1793
+ 1792,
1794
+ 1793,
1795
+ 1794,
1796
+ 1796,
1797
+ 1797,
1798
+ 1798,
1799
+ 1799,
1800
+ 1800,
1801
+ 1801,
1802
+ 1802,
1803
+ 1803,
1804
+ 1804,
1805
+ 1805,
1806
+ 1806,
1807
+ 1807,
1808
+ 1808,
1809
+ 1809,
1810
+ 1810,
1811
+ 1811,
1812
+ 1812,
1813
+ 1813,
1814
+ 1814,
1815
+ 1815,
1816
+ 1816,
1817
+ 1817,
1818
+ 1818,
1819
+ 1819,
1820
+ 1820,
1821
+ 1821,
1822
+ 1822,
1823
+ 1823,
1824
+ 1824,
1825
+ 1825,
1826
+ 1826,
1827
+ 1827,
1828
+ 1828,
1829
+ 1829,
1830
+ 1830,
1831
+ 1831,
1832
+ 1832,
1833
+ 1833,
1834
+ 1834,
1835
+ 1835,
1836
+ 1836,
1837
+ 1837,
1838
+ 1838,
1839
+ 1839,
1840
+ 1840,
1841
+ 1841,
1842
+ 1842,
1843
+ 1843,
1844
+ 1844,
1845
+ 1845,
1846
+ 1846,
1847
+ 1847,
1848
+ 1848,
1849
+ 1849,
1850
+ 1850,
1851
+ 1851,
1852
+ 1852,
1853
+ 1853,
1854
+ 1854,
1855
+ 1855,
1856
+ 1856,
1857
+ 1857,
1858
+ 1858,
1859
+ 1859,
1860
+ 1860,
1861
+ 1861,
1862
+ 1862,
1863
+ 1863,
1864
+ 1864,
1865
+ 1865,
1866
+ 1866,
1867
+ 1867,
1868
+ 1868,
1869
+ 1869,
1870
+ 1870,
1871
+ 1871,
1872
+ 1872,
1873
+ 1873,
1874
+ 1874,
1875
+ 1875,
1876
+ 1876,
1877
+ 1877,
1878
+ 1878,
1879
+ 1879,
1880
+ 1880,
1881
+ 1881,
1882
+ 1882,
1883
+ 1883,
1884
+ 1884,
1885
+ 1885,
1886
+ 1886,
1887
+ 1887,
1888
+ 1888,
1889
+ 1889,
1890
+ 1890,
1891
+ 1891,
1892
+ 1892,
1893
+ 1893,
1894
+ 1894,
1895
+ 1895,
1896
+ 1896,
1897
+ 1897,
1898
+ 1898,
1899
+ 1899,
1900
+ 1900,
1901
+ 1901,
1902
+ 1902,
1903
+ 1903,
1904
+ 1904,
1905
+ 1905,
1906
+ 1906,
1907
+ 1907,
1908
+ 1908,
1909
+ 1909,
1910
+ 1910,
1911
+ 1911,
1912
+ 1912,
1913
+ 1913,
1914
+ 1914,
1915
+ 1915,
1916
+ 1916,
1917
+ 1917,
1918
+ 1918,
1919
+ 1919,
1920
+ 1920,
1921
+ 1921,
1922
+ 1922,
1923
+ 1923,
1924
+ 1924,
1925
+ 1925,
1926
+ 1926,
1927
+ 1927,
1928
+ 1928,
1929
+ 1929,
1930
+ 1930,
1931
+ 1931,
1932
+ 1932,
1933
+ 1933,
1934
+ 1934,
1935
+ 1935,
1936
+ 1936,
1937
+ 1937,
1938
+ 1938,
1939
+ 1939,
1940
+ 1940,
1941
+ 1941,
1942
+ 1942,
1943
+ 1943,
1944
+ 1944,
1945
+ 1945,
1946
+ 1946,
1947
+ 1947,
1948
+ 1948,
1949
+ 1949,
1950
+ 1950,
1951
+ 1951,
1952
+ 1952,
1953
+ 1953,
1954
+ 1954,
1955
+ 1955,
1956
+ 1956,
1957
+ 1957,
1958
+ 1958,
1959
+ 1959,
1960
+ 1960,
1961
+ 1961,
1962
+ 1962,
1963
+ 1963,
1964
+ 1964,
1965
+ 1965,
1966
+ 1966,
1967
+ 1967,
1968
+ 1968,
1969
+ 1969,
1970
+ 1970,
1971
+ 1971,
1972
+ 1972,
1973
+ 1973,
1974
+ 1974,
1975
+ 1975,
1976
+ 1976,
1977
+ 1977,
1978
+ 1978,
1979
+ 1979,
1980
+ 1980,
1981
+ 1981,
1982
+ 1982,
1983
+ 1983,
1984
+ 1984,
1985
+ 1985,
1986
+ 1986,
1987
+ 1987,
1988
+ 1988,
1989
+ 1989,
1990
+ 1990,
1991
+ 1991,
1992
+ 1992,
1993
+ 1993,
1994
+ 1994,
1995
+ 1995,
1996
+ 1996,
1997
+ 1997,
1998
+ 1998,
1999
+ 1999
2000
+ ],
2001
+ "not_both_correct_indices": [
2002
+ 236,
2003
+ 504,
2004
+ 626,
2005
+ 650,
2006
+ 993,
2007
+ 1004,
2008
+ 1040,
2009
+ 1107,
2010
+ 1110,
2011
+ 1168,
2012
+ 1194,
2013
+ 1374
2014
+ ],
2015
+ "clean_baseline": 17.125,
2016
+ "corrupted_baseline": -17.0
2017
+ }
results/Qwen_Qwen2-5-32B-Instruct/ToM/emotion_fewshot/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:7bc3dd0fff92f3aab1539885bd768aab28c7e8b79a82a3338886cc6f702aaae7
3
+ size 14157430
results/Qwen_Qwen2-5-32B-Instruct/ToM/emotion_fewshot/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:83a2bfe62276965b5309c119e7351a49e32a36fde6a1902588947649e5174a88
3
+ size 6689400
results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_appropriate/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_appropriate/baselines.json ADDED
@@ -0,0 +1,2015 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 2000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 2000,
6
+ "clean_accuracy": 1.0,
7
+ "corrupted_accuracy": 1.0,
8
+ "both_correct_accuracy": 1.0,
9
+ "n_both_correct": 2000,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 129,
141
+ 130,
142
+ 131,
143
+ 132,
144
+ 133,
145
+ 134,
146
+ 135,
147
+ 136,
148
+ 137,
149
+ 138,
150
+ 139,
151
+ 140,
152
+ 141,
153
+ 142,
154
+ 143,
155
+ 144,
156
+ 145,
157
+ 146,
158
+ 147,
159
+ 148,
160
+ 149,
161
+ 150,
162
+ 151,
163
+ 152,
164
+ 153,
165
+ 154,
166
+ 155,
167
+ 156,
168
+ 157,
169
+ 158,
170
+ 159,
171
+ 160,
172
+ 161,
173
+ 162,
174
+ 163,
175
+ 164,
176
+ 165,
177
+ 166,
178
+ 167,
179
+ 168,
180
+ 169,
181
+ 170,
182
+ 171,
183
+ 172,
184
+ 173,
185
+ 174,
186
+ 175,
187
+ 176,
188
+ 177,
189
+ 178,
190
+ 179,
191
+ 180,
192
+ 181,
193
+ 182,
194
+ 183,
195
+ 184,
196
+ 185,
197
+ 186,
198
+ 187,
199
+ 188,
200
+ 189,
201
+ 190,
202
+ 191,
203
+ 192,
204
+ 193,
205
+ 194,
206
+ 195,
207
+ 196,
208
+ 197,
209
+ 198,
210
+ 199,
211
+ 200,
212
+ 201,
213
+ 202,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 209,
221
+ 210,
222
+ 211,
223
+ 212,
224
+ 213,
225
+ 214,
226
+ 215,
227
+ 216,
228
+ 217,
229
+ 218,
230
+ 219,
231
+ 220,
232
+ 221,
233
+ 222,
234
+ 223,
235
+ 224,
236
+ 225,
237
+ 226,
238
+ 227,
239
+ 228,
240
+ 229,
241
+ 230,
242
+ 231,
243
+ 232,
244
+ 233,
245
+ 234,
246
+ 235,
247
+ 236,
248
+ 237,
249
+ 238,
250
+ 239,
251
+ 240,
252
+ 241,
253
+ 242,
254
+ 243,
255
+ 244,
256
+ 245,
257
+ 246,
258
+ 247,
259
+ 248,
260
+ 249,
261
+ 250,
262
+ 251,
263
+ 252,
264
+ 253,
265
+ 254,
266
+ 255,
267
+ 256,
268
+ 257,
269
+ 258,
270
+ 259,
271
+ 260,
272
+ 261,
273
+ 262,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 274,
286
+ 275,
287
+ 276,
288
+ 277,
289
+ 278,
290
+ 279,
291
+ 280,
292
+ 281,
293
+ 282,
294
+ 283,
295
+ 284,
296
+ 285,
297
+ 286,
298
+ 287,
299
+ 288,
300
+ 289,
301
+ 290,
302
+ 291,
303
+ 292,
304
+ 293,
305
+ 294,
306
+ 295,
307
+ 296,
308
+ 297,
309
+ 298,
310
+ 299,
311
+ 300,
312
+ 301,
313
+ 302,
314
+ 303,
315
+ 304,
316
+ 305,
317
+ 306,
318
+ 307,
319
+ 308,
320
+ 309,
321
+ 310,
322
+ 311,
323
+ 312,
324
+ 313,
325
+ 314,
326
+ 315,
327
+ 316,
328
+ 317,
329
+ 318,
330
+ 319,
331
+ 320,
332
+ 321,
333
+ 322,
334
+ 323,
335
+ 324,
336
+ 325,
337
+ 326,
338
+ 327,
339
+ 328,
340
+ 329,
341
+ 330,
342
+ 331,
343
+ 332,
344
+ 333,
345
+ 334,
346
+ 335,
347
+ 336,
348
+ 337,
349
+ 338,
350
+ 339,
351
+ 340,
352
+ 341,
353
+ 342,
354
+ 343,
355
+ 344,
356
+ 345,
357
+ 346,
358
+ 347,
359
+ 348,
360
+ 349,
361
+ 350,
362
+ 351,
363
+ 352,
364
+ 353,
365
+ 354,
366
+ 355,
367
+ 356,
368
+ 357,
369
+ 358,
370
+ 359,
371
+ 360,
372
+ 361,
373
+ 362,
374
+ 363,
375
+ 364,
376
+ 365,
377
+ 366,
378
+ 367,
379
+ 368,
380
+ 369,
381
+ 370,
382
+ 371,
383
+ 372,
384
+ 373,
385
+ 374,
386
+ 375,
387
+ 376,
388
+ 377,
389
+ 378,
390
+ 379,
391
+ 380,
392
+ 381,
393
+ 382,
394
+ 383,
395
+ 384,
396
+ 385,
397
+ 386,
398
+ 387,
399
+ 388,
400
+ 389,
401
+ 390,
402
+ 391,
403
+ 392,
404
+ 393,
405
+ 394,
406
+ 395,
407
+ 396,
408
+ 397,
409
+ 398,
410
+ 399,
411
+ 400,
412
+ 401,
413
+ 402,
414
+ 403,
415
+ 404,
416
+ 405,
417
+ 406,
418
+ 407,
419
+ 408,
420
+ 409,
421
+ 410,
422
+ 411,
423
+ 412,
424
+ 413,
425
+ 414,
426
+ 415,
427
+ 416,
428
+ 417,
429
+ 418,
430
+ 419,
431
+ 420,
432
+ 421,
433
+ 422,
434
+ 423,
435
+ 424,
436
+ 425,
437
+ 426,
438
+ 427,
439
+ 428,
440
+ 429,
441
+ 430,
442
+ 431,
443
+ 432,
444
+ 433,
445
+ 434,
446
+ 435,
447
+ 436,
448
+ 437,
449
+ 438,
450
+ 439,
451
+ 440,
452
+ 441,
453
+ 442,
454
+ 443,
455
+ 444,
456
+ 445,
457
+ 446,
458
+ 447,
459
+ 448,
460
+ 449,
461
+ 450,
462
+ 451,
463
+ 452,
464
+ 453,
465
+ 454,
466
+ 455,
467
+ 456,
468
+ 457,
469
+ 458,
470
+ 459,
471
+ 460,
472
+ 461,
473
+ 462,
474
+ 463,
475
+ 464,
476
+ 465,
477
+ 466,
478
+ 467,
479
+ 468,
480
+ 469,
481
+ 470,
482
+ 471,
483
+ 472,
484
+ 473,
485
+ 474,
486
+ 475,
487
+ 476,
488
+ 477,
489
+ 478,
490
+ 479,
491
+ 480,
492
+ 481,
493
+ 482,
494
+ 483,
495
+ 484,
496
+ 485,
497
+ 486,
498
+ 487,
499
+ 488,
500
+ 489,
501
+ 490,
502
+ 491,
503
+ 492,
504
+ 493,
505
+ 494,
506
+ 495,
507
+ 496,
508
+ 497,
509
+ 498,
510
+ 499,
511
+ 500,
512
+ 501,
513
+ 502,
514
+ 503,
515
+ 504,
516
+ 505,
517
+ 506,
518
+ 507,
519
+ 508,
520
+ 509,
521
+ 510,
522
+ 511,
523
+ 512,
524
+ 513,
525
+ 514,
526
+ 515,
527
+ 516,
528
+ 517,
529
+ 518,
530
+ 519,
531
+ 520,
532
+ 521,
533
+ 522,
534
+ 523,
535
+ 524,
536
+ 525,
537
+ 526,
538
+ 527,
539
+ 528,
540
+ 529,
541
+ 530,
542
+ 531,
543
+ 532,
544
+ 533,
545
+ 534,
546
+ 535,
547
+ 536,
548
+ 537,
549
+ 538,
550
+ 539,
551
+ 540,
552
+ 541,
553
+ 542,
554
+ 543,
555
+ 544,
556
+ 545,
557
+ 546,
558
+ 547,
559
+ 548,
560
+ 549,
561
+ 550,
562
+ 551,
563
+ 552,
564
+ 553,
565
+ 554,
566
+ 555,
567
+ 556,
568
+ 557,
569
+ 558,
570
+ 559,
571
+ 560,
572
+ 561,
573
+ 562,
574
+ 563,
575
+ 564,
576
+ 565,
577
+ 566,
578
+ 567,
579
+ 568,
580
+ 569,
581
+ 570,
582
+ 571,
583
+ 572,
584
+ 573,
585
+ 574,
586
+ 575,
587
+ 576,
588
+ 577,
589
+ 578,
590
+ 579,
591
+ 580,
592
+ 581,
593
+ 582,
594
+ 583,
595
+ 584,
596
+ 585,
597
+ 586,
598
+ 587,
599
+ 588,
600
+ 589,
601
+ 590,
602
+ 591,
603
+ 592,
604
+ 593,
605
+ 594,
606
+ 595,
607
+ 596,
608
+ 597,
609
+ 598,
610
+ 599,
611
+ 600,
612
+ 601,
613
+ 602,
614
+ 603,
615
+ 604,
616
+ 605,
617
+ 606,
618
+ 607,
619
+ 608,
620
+ 609,
621
+ 610,
622
+ 611,
623
+ 612,
624
+ 613,
625
+ 614,
626
+ 615,
627
+ 616,
628
+ 617,
629
+ 618,
630
+ 619,
631
+ 620,
632
+ 621,
633
+ 622,
634
+ 623,
635
+ 624,
636
+ 625,
637
+ 626,
638
+ 627,
639
+ 628,
640
+ 629,
641
+ 630,
642
+ 631,
643
+ 632,
644
+ 633,
645
+ 634,
646
+ 635,
647
+ 636,
648
+ 637,
649
+ 638,
650
+ 639,
651
+ 640,
652
+ 641,
653
+ 642,
654
+ 643,
655
+ 644,
656
+ 645,
657
+ 646,
658
+ 647,
659
+ 648,
660
+ 649,
661
+ 650,
662
+ 651,
663
+ 652,
664
+ 653,
665
+ 654,
666
+ 655,
667
+ 656,
668
+ 657,
669
+ 658,
670
+ 659,
671
+ 660,
672
+ 661,
673
+ 662,
674
+ 663,
675
+ 664,
676
+ 665,
677
+ 666,
678
+ 667,
679
+ 668,
680
+ 669,
681
+ 670,
682
+ 671,
683
+ 672,
684
+ 673,
685
+ 674,
686
+ 675,
687
+ 676,
688
+ 677,
689
+ 678,
690
+ 679,
691
+ 680,
692
+ 681,
693
+ 682,
694
+ 683,
695
+ 684,
696
+ 685,
697
+ 686,
698
+ 687,
699
+ 688,
700
+ 689,
701
+ 690,
702
+ 691,
703
+ 692,
704
+ 693,
705
+ 694,
706
+ 695,
707
+ 696,
708
+ 697,
709
+ 698,
710
+ 699,
711
+ 700,
712
+ 701,
713
+ 702,
714
+ 703,
715
+ 704,
716
+ 705,
717
+ 706,
718
+ 707,
719
+ 708,
720
+ 709,
721
+ 710,
722
+ 711,
723
+ 712,
724
+ 713,
725
+ 714,
726
+ 715,
727
+ 716,
728
+ 717,
729
+ 718,
730
+ 719,
731
+ 720,
732
+ 721,
733
+ 722,
734
+ 723,
735
+ 724,
736
+ 725,
737
+ 726,
738
+ 727,
739
+ 728,
740
+ 729,
741
+ 730,
742
+ 731,
743
+ 732,
744
+ 733,
745
+ 734,
746
+ 735,
747
+ 736,
748
+ 737,
749
+ 738,
750
+ 739,
751
+ 740,
752
+ 741,
753
+ 742,
754
+ 743,
755
+ 744,
756
+ 745,
757
+ 746,
758
+ 747,
759
+ 748,
760
+ 749,
761
+ 750,
762
+ 751,
763
+ 752,
764
+ 753,
765
+ 754,
766
+ 755,
767
+ 756,
768
+ 757,
769
+ 758,
770
+ 759,
771
+ 760,
772
+ 761,
773
+ 762,
774
+ 763,
775
+ 764,
776
+ 765,
777
+ 766,
778
+ 767,
779
+ 768,
780
+ 769,
781
+ 770,
782
+ 771,
783
+ 772,
784
+ 773,
785
+ 774,
786
+ 775,
787
+ 776,
788
+ 777,
789
+ 778,
790
+ 779,
791
+ 780,
792
+ 781,
793
+ 782,
794
+ 783,
795
+ 784,
796
+ 785,
797
+ 786,
798
+ 787,
799
+ 788,
800
+ 789,
801
+ 790,
802
+ 791,
803
+ 792,
804
+ 793,
805
+ 794,
806
+ 795,
807
+ 796,
808
+ 797,
809
+ 798,
810
+ 799,
811
+ 800,
812
+ 801,
813
+ 802,
814
+ 803,
815
+ 804,
816
+ 805,
817
+ 806,
818
+ 807,
819
+ 808,
820
+ 809,
821
+ 810,
822
+ 811,
823
+ 812,
824
+ 813,
825
+ 814,
826
+ 815,
827
+ 816,
828
+ 817,
829
+ 818,
830
+ 819,
831
+ 820,
832
+ 821,
833
+ 822,
834
+ 823,
835
+ 824,
836
+ 825,
837
+ 826,
838
+ 827,
839
+ 828,
840
+ 829,
841
+ 830,
842
+ 831,
843
+ 832,
844
+ 833,
845
+ 834,
846
+ 835,
847
+ 836,
848
+ 837,
849
+ 838,
850
+ 839,
851
+ 840,
852
+ 841,
853
+ 842,
854
+ 843,
855
+ 844,
856
+ 845,
857
+ 846,
858
+ 847,
859
+ 848,
860
+ 849,
861
+ 850,
862
+ 851,
863
+ 852,
864
+ 853,
865
+ 854,
866
+ 855,
867
+ 856,
868
+ 857,
869
+ 858,
870
+ 859,
871
+ 860,
872
+ 861,
873
+ 862,
874
+ 863,
875
+ 864,
876
+ 865,
877
+ 866,
878
+ 867,
879
+ 868,
880
+ 869,
881
+ 870,
882
+ 871,
883
+ 872,
884
+ 873,
885
+ 874,
886
+ 875,
887
+ 876,
888
+ 877,
889
+ 878,
890
+ 879,
891
+ 880,
892
+ 881,
893
+ 882,
894
+ 883,
895
+ 884,
896
+ 885,
897
+ 886,
898
+ 887,
899
+ 888,
900
+ 889,
901
+ 890,
902
+ 891,
903
+ 892,
904
+ 893,
905
+ 894,
906
+ 895,
907
+ 896,
908
+ 897,
909
+ 898,
910
+ 899,
911
+ 900,
912
+ 901,
913
+ 902,
914
+ 903,
915
+ 904,
916
+ 905,
917
+ 906,
918
+ 907,
919
+ 908,
920
+ 909,
921
+ 910,
922
+ 911,
923
+ 912,
924
+ 913,
925
+ 914,
926
+ 915,
927
+ 916,
928
+ 917,
929
+ 918,
930
+ 919,
931
+ 920,
932
+ 921,
933
+ 922,
934
+ 923,
935
+ 924,
936
+ 925,
937
+ 926,
938
+ 927,
939
+ 928,
940
+ 929,
941
+ 930,
942
+ 931,
943
+ 932,
944
+ 933,
945
+ 934,
946
+ 935,
947
+ 936,
948
+ 937,
949
+ 938,
950
+ 939,
951
+ 940,
952
+ 941,
953
+ 942,
954
+ 943,
955
+ 944,
956
+ 945,
957
+ 946,
958
+ 947,
959
+ 948,
960
+ 949,
961
+ 950,
962
+ 951,
963
+ 952,
964
+ 953,
965
+ 954,
966
+ 955,
967
+ 956,
968
+ 957,
969
+ 958,
970
+ 959,
971
+ 960,
972
+ 961,
973
+ 962,
974
+ 963,
975
+ 964,
976
+ 965,
977
+ 966,
978
+ 967,
979
+ 968,
980
+ 969,
981
+ 970,
982
+ 971,
983
+ 972,
984
+ 973,
985
+ 974,
986
+ 975,
987
+ 976,
988
+ 977,
989
+ 978,
990
+ 979,
991
+ 980,
992
+ 981,
993
+ 982,
994
+ 983,
995
+ 984,
996
+ 985,
997
+ 986,
998
+ 987,
999
+ 988,
1000
+ 989,
1001
+ 990,
1002
+ 991,
1003
+ 992,
1004
+ 993,
1005
+ 994,
1006
+ 995,
1007
+ 996,
1008
+ 997,
1009
+ 998,
1010
+ 999,
1011
+ 1000,
1012
+ 1001,
1013
+ 1002,
1014
+ 1003,
1015
+ 1004,
1016
+ 1005,
1017
+ 1006,
1018
+ 1007,
1019
+ 1008,
1020
+ 1009,
1021
+ 1010,
1022
+ 1011,
1023
+ 1012,
1024
+ 1013,
1025
+ 1014,
1026
+ 1015,
1027
+ 1016,
1028
+ 1017,
1029
+ 1018,
1030
+ 1019,
1031
+ 1020,
1032
+ 1021,
1033
+ 1022,
1034
+ 1023,
1035
+ 1024,
1036
+ 1025,
1037
+ 1026,
1038
+ 1027,
1039
+ 1028,
1040
+ 1029,
1041
+ 1030,
1042
+ 1031,
1043
+ 1032,
1044
+ 1033,
1045
+ 1034,
1046
+ 1035,
1047
+ 1036,
1048
+ 1037,
1049
+ 1038,
1050
+ 1039,
1051
+ 1040,
1052
+ 1041,
1053
+ 1042,
1054
+ 1043,
1055
+ 1044,
1056
+ 1045,
1057
+ 1046,
1058
+ 1047,
1059
+ 1048,
1060
+ 1049,
1061
+ 1050,
1062
+ 1051,
1063
+ 1052,
1064
+ 1053,
1065
+ 1054,
1066
+ 1055,
1067
+ 1056,
1068
+ 1057,
1069
+ 1058,
1070
+ 1059,
1071
+ 1060,
1072
+ 1061,
1073
+ 1062,
1074
+ 1063,
1075
+ 1064,
1076
+ 1065,
1077
+ 1066,
1078
+ 1067,
1079
+ 1068,
1080
+ 1069,
1081
+ 1070,
1082
+ 1071,
1083
+ 1072,
1084
+ 1073,
1085
+ 1074,
1086
+ 1075,
1087
+ 1076,
1088
+ 1077,
1089
+ 1078,
1090
+ 1079,
1091
+ 1080,
1092
+ 1081,
1093
+ 1082,
1094
+ 1083,
1095
+ 1084,
1096
+ 1085,
1097
+ 1086,
1098
+ 1087,
1099
+ 1088,
1100
+ 1089,
1101
+ 1090,
1102
+ 1091,
1103
+ 1092,
1104
+ 1093,
1105
+ 1094,
1106
+ 1095,
1107
+ 1096,
1108
+ 1097,
1109
+ 1098,
1110
+ 1099,
1111
+ 1100,
1112
+ 1101,
1113
+ 1102,
1114
+ 1103,
1115
+ 1104,
1116
+ 1105,
1117
+ 1106,
1118
+ 1107,
1119
+ 1108,
1120
+ 1109,
1121
+ 1110,
1122
+ 1111,
1123
+ 1112,
1124
+ 1113,
1125
+ 1114,
1126
+ 1115,
1127
+ 1116,
1128
+ 1117,
1129
+ 1118,
1130
+ 1119,
1131
+ 1120,
1132
+ 1121,
1133
+ 1122,
1134
+ 1123,
1135
+ 1124,
1136
+ 1125,
1137
+ 1126,
1138
+ 1127,
1139
+ 1128,
1140
+ 1129,
1141
+ 1130,
1142
+ 1131,
1143
+ 1132,
1144
+ 1133,
1145
+ 1134,
1146
+ 1135,
1147
+ 1136,
1148
+ 1137,
1149
+ 1138,
1150
+ 1139,
1151
+ 1140,
1152
+ 1141,
1153
+ 1142,
1154
+ 1143,
1155
+ 1144,
1156
+ 1145,
1157
+ 1146,
1158
+ 1147,
1159
+ 1148,
1160
+ 1149,
1161
+ 1150,
1162
+ 1151,
1163
+ 1152,
1164
+ 1153,
1165
+ 1154,
1166
+ 1155,
1167
+ 1156,
1168
+ 1157,
1169
+ 1158,
1170
+ 1159,
1171
+ 1160,
1172
+ 1161,
1173
+ 1162,
1174
+ 1163,
1175
+ 1164,
1176
+ 1165,
1177
+ 1166,
1178
+ 1167,
1179
+ 1168,
1180
+ 1169,
1181
+ 1170,
1182
+ 1171,
1183
+ 1172,
1184
+ 1173,
1185
+ 1174,
1186
+ 1175,
1187
+ 1176,
1188
+ 1177,
1189
+ 1178,
1190
+ 1179,
1191
+ 1180,
1192
+ 1181,
1193
+ 1182,
1194
+ 1183,
1195
+ 1184,
1196
+ 1185,
1197
+ 1186,
1198
+ 1187,
1199
+ 1188,
1200
+ 1189,
1201
+ 1190,
1202
+ 1191,
1203
+ 1192,
1204
+ 1193,
1205
+ 1194,
1206
+ 1195,
1207
+ 1196,
1208
+ 1197,
1209
+ 1198,
1210
+ 1199,
1211
+ 1200,
1212
+ 1201,
1213
+ 1202,
1214
+ 1203,
1215
+ 1204,
1216
+ 1205,
1217
+ 1206,
1218
+ 1207,
1219
+ 1208,
1220
+ 1209,
1221
+ 1210,
1222
+ 1211,
1223
+ 1212,
1224
+ 1213,
1225
+ 1214,
1226
+ 1215,
1227
+ 1216,
1228
+ 1217,
1229
+ 1218,
1230
+ 1219,
1231
+ 1220,
1232
+ 1221,
1233
+ 1222,
1234
+ 1223,
1235
+ 1224,
1236
+ 1225,
1237
+ 1226,
1238
+ 1227,
1239
+ 1228,
1240
+ 1229,
1241
+ 1230,
1242
+ 1231,
1243
+ 1232,
1244
+ 1233,
1245
+ 1234,
1246
+ 1235,
1247
+ 1236,
1248
+ 1237,
1249
+ 1238,
1250
+ 1239,
1251
+ 1240,
1252
+ 1241,
1253
+ 1242,
1254
+ 1243,
1255
+ 1244,
1256
+ 1245,
1257
+ 1246,
1258
+ 1247,
1259
+ 1248,
1260
+ 1249,
1261
+ 1250,
1262
+ 1251,
1263
+ 1252,
1264
+ 1253,
1265
+ 1254,
1266
+ 1255,
1267
+ 1256,
1268
+ 1257,
1269
+ 1258,
1270
+ 1259,
1271
+ 1260,
1272
+ 1261,
1273
+ 1262,
1274
+ 1263,
1275
+ 1264,
1276
+ 1265,
1277
+ 1266,
1278
+ 1267,
1279
+ 1268,
1280
+ 1269,
1281
+ 1270,
1282
+ 1271,
1283
+ 1272,
1284
+ 1273,
1285
+ 1274,
1286
+ 1275,
1287
+ 1276,
1288
+ 1277,
1289
+ 1278,
1290
+ 1279,
1291
+ 1280,
1292
+ 1281,
1293
+ 1282,
1294
+ 1283,
1295
+ 1284,
1296
+ 1285,
1297
+ 1286,
1298
+ 1287,
1299
+ 1288,
1300
+ 1289,
1301
+ 1290,
1302
+ 1291,
1303
+ 1292,
1304
+ 1293,
1305
+ 1294,
1306
+ 1295,
1307
+ 1296,
1308
+ 1297,
1309
+ 1298,
1310
+ 1299,
1311
+ 1300,
1312
+ 1301,
1313
+ 1302,
1314
+ 1303,
1315
+ 1304,
1316
+ 1305,
1317
+ 1306,
1318
+ 1307,
1319
+ 1308,
1320
+ 1309,
1321
+ 1310,
1322
+ 1311,
1323
+ 1312,
1324
+ 1313,
1325
+ 1314,
1326
+ 1315,
1327
+ 1316,
1328
+ 1317,
1329
+ 1318,
1330
+ 1319,
1331
+ 1320,
1332
+ 1321,
1333
+ 1322,
1334
+ 1323,
1335
+ 1324,
1336
+ 1325,
1337
+ 1326,
1338
+ 1327,
1339
+ 1328,
1340
+ 1329,
1341
+ 1330,
1342
+ 1331,
1343
+ 1332,
1344
+ 1333,
1345
+ 1334,
1346
+ 1335,
1347
+ 1336,
1348
+ 1337,
1349
+ 1338,
1350
+ 1339,
1351
+ 1340,
1352
+ 1341,
1353
+ 1342,
1354
+ 1343,
1355
+ 1344,
1356
+ 1345,
1357
+ 1346,
1358
+ 1347,
1359
+ 1348,
1360
+ 1349,
1361
+ 1350,
1362
+ 1351,
1363
+ 1352,
1364
+ 1353,
1365
+ 1354,
1366
+ 1355,
1367
+ 1356,
1368
+ 1357,
1369
+ 1358,
1370
+ 1359,
1371
+ 1360,
1372
+ 1361,
1373
+ 1362,
1374
+ 1363,
1375
+ 1364,
1376
+ 1365,
1377
+ 1366,
1378
+ 1367,
1379
+ 1368,
1380
+ 1369,
1381
+ 1370,
1382
+ 1371,
1383
+ 1372,
1384
+ 1373,
1385
+ 1374,
1386
+ 1375,
1387
+ 1376,
1388
+ 1377,
1389
+ 1378,
1390
+ 1379,
1391
+ 1380,
1392
+ 1381,
1393
+ 1382,
1394
+ 1383,
1395
+ 1384,
1396
+ 1385,
1397
+ 1386,
1398
+ 1387,
1399
+ 1388,
1400
+ 1389,
1401
+ 1390,
1402
+ 1391,
1403
+ 1392,
1404
+ 1393,
1405
+ 1394,
1406
+ 1395,
1407
+ 1396,
1408
+ 1397,
1409
+ 1398,
1410
+ 1399,
1411
+ 1400,
1412
+ 1401,
1413
+ 1402,
1414
+ 1403,
1415
+ 1404,
1416
+ 1405,
1417
+ 1406,
1418
+ 1407,
1419
+ 1408,
1420
+ 1409,
1421
+ 1410,
1422
+ 1411,
1423
+ 1412,
1424
+ 1413,
1425
+ 1414,
1426
+ 1415,
1427
+ 1416,
1428
+ 1417,
1429
+ 1418,
1430
+ 1419,
1431
+ 1420,
1432
+ 1421,
1433
+ 1422,
1434
+ 1423,
1435
+ 1424,
1436
+ 1425,
1437
+ 1426,
1438
+ 1427,
1439
+ 1428,
1440
+ 1429,
1441
+ 1430,
1442
+ 1431,
1443
+ 1432,
1444
+ 1433,
1445
+ 1434,
1446
+ 1435,
1447
+ 1436,
1448
+ 1437,
1449
+ 1438,
1450
+ 1439,
1451
+ 1440,
1452
+ 1441,
1453
+ 1442,
1454
+ 1443,
1455
+ 1444,
1456
+ 1445,
1457
+ 1446,
1458
+ 1447,
1459
+ 1448,
1460
+ 1449,
1461
+ 1450,
1462
+ 1451,
1463
+ 1452,
1464
+ 1453,
1465
+ 1454,
1466
+ 1455,
1467
+ 1456,
1468
+ 1457,
1469
+ 1458,
1470
+ 1459,
1471
+ 1460,
1472
+ 1461,
1473
+ 1462,
1474
+ 1463,
1475
+ 1464,
1476
+ 1465,
1477
+ 1466,
1478
+ 1467,
1479
+ 1468,
1480
+ 1469,
1481
+ 1470,
1482
+ 1471,
1483
+ 1472,
1484
+ 1473,
1485
+ 1474,
1486
+ 1475,
1487
+ 1476,
1488
+ 1477,
1489
+ 1478,
1490
+ 1479,
1491
+ 1480,
1492
+ 1481,
1493
+ 1482,
1494
+ 1483,
1495
+ 1484,
1496
+ 1485,
1497
+ 1486,
1498
+ 1487,
1499
+ 1488,
1500
+ 1489,
1501
+ 1490,
1502
+ 1491,
1503
+ 1492,
1504
+ 1493,
1505
+ 1494,
1506
+ 1495,
1507
+ 1496,
1508
+ 1497,
1509
+ 1498,
1510
+ 1499,
1511
+ 1500,
1512
+ 1501,
1513
+ 1502,
1514
+ 1503,
1515
+ 1504,
1516
+ 1505,
1517
+ 1506,
1518
+ 1507,
1519
+ 1508,
1520
+ 1509,
1521
+ 1510,
1522
+ 1511,
1523
+ 1512,
1524
+ 1513,
1525
+ 1514,
1526
+ 1515,
1527
+ 1516,
1528
+ 1517,
1529
+ 1518,
1530
+ 1519,
1531
+ 1520,
1532
+ 1521,
1533
+ 1522,
1534
+ 1523,
1535
+ 1524,
1536
+ 1525,
1537
+ 1526,
1538
+ 1527,
1539
+ 1528,
1540
+ 1529,
1541
+ 1530,
1542
+ 1531,
1543
+ 1532,
1544
+ 1533,
1545
+ 1534,
1546
+ 1535,
1547
+ 1536,
1548
+ 1537,
1549
+ 1538,
1550
+ 1539,
1551
+ 1540,
1552
+ 1541,
1553
+ 1542,
1554
+ 1543,
1555
+ 1544,
1556
+ 1545,
1557
+ 1546,
1558
+ 1547,
1559
+ 1548,
1560
+ 1549,
1561
+ 1550,
1562
+ 1551,
1563
+ 1552,
1564
+ 1553,
1565
+ 1554,
1566
+ 1555,
1567
+ 1556,
1568
+ 1557,
1569
+ 1558,
1570
+ 1559,
1571
+ 1560,
1572
+ 1561,
1573
+ 1562,
1574
+ 1563,
1575
+ 1564,
1576
+ 1565,
1577
+ 1566,
1578
+ 1567,
1579
+ 1568,
1580
+ 1569,
1581
+ 1570,
1582
+ 1571,
1583
+ 1572,
1584
+ 1573,
1585
+ 1574,
1586
+ 1575,
1587
+ 1576,
1588
+ 1577,
1589
+ 1578,
1590
+ 1579,
1591
+ 1580,
1592
+ 1581,
1593
+ 1582,
1594
+ 1583,
1595
+ 1584,
1596
+ 1585,
1597
+ 1586,
1598
+ 1587,
1599
+ 1588,
1600
+ 1589,
1601
+ 1590,
1602
+ 1591,
1603
+ 1592,
1604
+ 1593,
1605
+ 1594,
1606
+ 1595,
1607
+ 1596,
1608
+ 1597,
1609
+ 1598,
1610
+ 1599,
1611
+ 1600,
1612
+ 1601,
1613
+ 1602,
1614
+ 1603,
1615
+ 1604,
1616
+ 1605,
1617
+ 1606,
1618
+ 1607,
1619
+ 1608,
1620
+ 1609,
1621
+ 1610,
1622
+ 1611,
1623
+ 1612,
1624
+ 1613,
1625
+ 1614,
1626
+ 1615,
1627
+ 1616,
1628
+ 1617,
1629
+ 1618,
1630
+ 1619,
1631
+ 1620,
1632
+ 1621,
1633
+ 1622,
1634
+ 1623,
1635
+ 1624,
1636
+ 1625,
1637
+ 1626,
1638
+ 1627,
1639
+ 1628,
1640
+ 1629,
1641
+ 1630,
1642
+ 1631,
1643
+ 1632,
1644
+ 1633,
1645
+ 1634,
1646
+ 1635,
1647
+ 1636,
1648
+ 1637,
1649
+ 1638,
1650
+ 1639,
1651
+ 1640,
1652
+ 1641,
1653
+ 1642,
1654
+ 1643,
1655
+ 1644,
1656
+ 1645,
1657
+ 1646,
1658
+ 1647,
1659
+ 1648,
1660
+ 1649,
1661
+ 1650,
1662
+ 1651,
1663
+ 1652,
1664
+ 1653,
1665
+ 1654,
1666
+ 1655,
1667
+ 1656,
1668
+ 1657,
1669
+ 1658,
1670
+ 1659,
1671
+ 1660,
1672
+ 1661,
1673
+ 1662,
1674
+ 1663,
1675
+ 1664,
1676
+ 1665,
1677
+ 1666,
1678
+ 1667,
1679
+ 1668,
1680
+ 1669,
1681
+ 1670,
1682
+ 1671,
1683
+ 1672,
1684
+ 1673,
1685
+ 1674,
1686
+ 1675,
1687
+ 1676,
1688
+ 1677,
1689
+ 1678,
1690
+ 1679,
1691
+ 1680,
1692
+ 1681,
1693
+ 1682,
1694
+ 1683,
1695
+ 1684,
1696
+ 1685,
1697
+ 1686,
1698
+ 1687,
1699
+ 1688,
1700
+ 1689,
1701
+ 1690,
1702
+ 1691,
1703
+ 1692,
1704
+ 1693,
1705
+ 1694,
1706
+ 1695,
1707
+ 1696,
1708
+ 1697,
1709
+ 1698,
1710
+ 1699,
1711
+ 1700,
1712
+ 1701,
1713
+ 1702,
1714
+ 1703,
1715
+ 1704,
1716
+ 1705,
1717
+ 1706,
1718
+ 1707,
1719
+ 1708,
1720
+ 1709,
1721
+ 1710,
1722
+ 1711,
1723
+ 1712,
1724
+ 1713,
1725
+ 1714,
1726
+ 1715,
1727
+ 1716,
1728
+ 1717,
1729
+ 1718,
1730
+ 1719,
1731
+ 1720,
1732
+ 1721,
1733
+ 1722,
1734
+ 1723,
1735
+ 1724,
1736
+ 1725,
1737
+ 1726,
1738
+ 1727,
1739
+ 1728,
1740
+ 1729,
1741
+ 1730,
1742
+ 1731,
1743
+ 1732,
1744
+ 1733,
1745
+ 1734,
1746
+ 1735,
1747
+ 1736,
1748
+ 1737,
1749
+ 1738,
1750
+ 1739,
1751
+ 1740,
1752
+ 1741,
1753
+ 1742,
1754
+ 1743,
1755
+ 1744,
1756
+ 1745,
1757
+ 1746,
1758
+ 1747,
1759
+ 1748,
1760
+ 1749,
1761
+ 1750,
1762
+ 1751,
1763
+ 1752,
1764
+ 1753,
1765
+ 1754,
1766
+ 1755,
1767
+ 1756,
1768
+ 1757,
1769
+ 1758,
1770
+ 1759,
1771
+ 1760,
1772
+ 1761,
1773
+ 1762,
1774
+ 1763,
1775
+ 1764,
1776
+ 1765,
1777
+ 1766,
1778
+ 1767,
1779
+ 1768,
1780
+ 1769,
1781
+ 1770,
1782
+ 1771,
1783
+ 1772,
1784
+ 1773,
1785
+ 1774,
1786
+ 1775,
1787
+ 1776,
1788
+ 1777,
1789
+ 1778,
1790
+ 1779,
1791
+ 1780,
1792
+ 1781,
1793
+ 1782,
1794
+ 1783,
1795
+ 1784,
1796
+ 1785,
1797
+ 1786,
1798
+ 1787,
1799
+ 1788,
1800
+ 1789,
1801
+ 1790,
1802
+ 1791,
1803
+ 1792,
1804
+ 1793,
1805
+ 1794,
1806
+ 1795,
1807
+ 1796,
1808
+ 1797,
1809
+ 1798,
1810
+ 1799,
1811
+ 1800,
1812
+ 1801,
1813
+ 1802,
1814
+ 1803,
1815
+ 1804,
1816
+ 1805,
1817
+ 1806,
1818
+ 1807,
1819
+ 1808,
1820
+ 1809,
1821
+ 1810,
1822
+ 1811,
1823
+ 1812,
1824
+ 1813,
1825
+ 1814,
1826
+ 1815,
1827
+ 1816,
1828
+ 1817,
1829
+ 1818,
1830
+ 1819,
1831
+ 1820,
1832
+ 1821,
1833
+ 1822,
1834
+ 1823,
1835
+ 1824,
1836
+ 1825,
1837
+ 1826,
1838
+ 1827,
1839
+ 1828,
1840
+ 1829,
1841
+ 1830,
1842
+ 1831,
1843
+ 1832,
1844
+ 1833,
1845
+ 1834,
1846
+ 1835,
1847
+ 1836,
1848
+ 1837,
1849
+ 1838,
1850
+ 1839,
1851
+ 1840,
1852
+ 1841,
1853
+ 1842,
1854
+ 1843,
1855
+ 1844,
1856
+ 1845,
1857
+ 1846,
1858
+ 1847,
1859
+ 1848,
1860
+ 1849,
1861
+ 1850,
1862
+ 1851,
1863
+ 1852,
1864
+ 1853,
1865
+ 1854,
1866
+ 1855,
1867
+ 1856,
1868
+ 1857,
1869
+ 1858,
1870
+ 1859,
1871
+ 1860,
1872
+ 1861,
1873
+ 1862,
1874
+ 1863,
1875
+ 1864,
1876
+ 1865,
1877
+ 1866,
1878
+ 1867,
1879
+ 1868,
1880
+ 1869,
1881
+ 1870,
1882
+ 1871,
1883
+ 1872,
1884
+ 1873,
1885
+ 1874,
1886
+ 1875,
1887
+ 1876,
1888
+ 1877,
1889
+ 1878,
1890
+ 1879,
1891
+ 1880,
1892
+ 1881,
1893
+ 1882,
1894
+ 1883,
1895
+ 1884,
1896
+ 1885,
1897
+ 1886,
1898
+ 1887,
1899
+ 1888,
1900
+ 1889,
1901
+ 1890,
1902
+ 1891,
1903
+ 1892,
1904
+ 1893,
1905
+ 1894,
1906
+ 1895,
1907
+ 1896,
1908
+ 1897,
1909
+ 1898,
1910
+ 1899,
1911
+ 1900,
1912
+ 1901,
1913
+ 1902,
1914
+ 1903,
1915
+ 1904,
1916
+ 1905,
1917
+ 1906,
1918
+ 1907,
1919
+ 1908,
1920
+ 1909,
1921
+ 1910,
1922
+ 1911,
1923
+ 1912,
1924
+ 1913,
1925
+ 1914,
1926
+ 1915,
1927
+ 1916,
1928
+ 1917,
1929
+ 1918,
1930
+ 1919,
1931
+ 1920,
1932
+ 1921,
1933
+ 1922,
1934
+ 1923,
1935
+ 1924,
1936
+ 1925,
1937
+ 1926,
1938
+ 1927,
1939
+ 1928,
1940
+ 1929,
1941
+ 1930,
1942
+ 1931,
1943
+ 1932,
1944
+ 1933,
1945
+ 1934,
1946
+ 1935,
1947
+ 1936,
1948
+ 1937,
1949
+ 1938,
1950
+ 1939,
1951
+ 1940,
1952
+ 1941,
1953
+ 1942,
1954
+ 1943,
1955
+ 1944,
1956
+ 1945,
1957
+ 1946,
1958
+ 1947,
1959
+ 1948,
1960
+ 1949,
1961
+ 1950,
1962
+ 1951,
1963
+ 1952,
1964
+ 1953,
1965
+ 1954,
1966
+ 1955,
1967
+ 1956,
1968
+ 1957,
1969
+ 1958,
1970
+ 1959,
1971
+ 1960,
1972
+ 1961,
1973
+ 1962,
1974
+ 1963,
1975
+ 1964,
1976
+ 1965,
1977
+ 1966,
1978
+ 1967,
1979
+ 1968,
1980
+ 1969,
1981
+ 1970,
1982
+ 1971,
1983
+ 1972,
1984
+ 1973,
1985
+ 1974,
1986
+ 1975,
1987
+ 1976,
1988
+ 1977,
1989
+ 1978,
1990
+ 1979,
1991
+ 1980,
1992
+ 1981,
1993
+ 1982,
1994
+ 1983,
1995
+ 1984,
1996
+ 1985,
1997
+ 1986,
1998
+ 1987,
1999
+ 1988,
2000
+ 1989,
2001
+ 1990,
2002
+ 1991,
2003
+ 1992,
2004
+ 1993,
2005
+ 1994,
2006
+ 1995,
2007
+ 1996,
2008
+ 1997,
2009
+ 1998,
2010
+ 1999
2011
+ ],
2012
+ "not_both_correct_indices": [],
2013
+ "clean_baseline": 17.78125,
2014
+ "corrupted_baseline": -17.578125
2015
+ }
results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_appropriate/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ba729ef180c27175729ef555be7c7ab935e1d9c7012ba1e583b1f63fd3df4321
3
+ size 14157430
results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_appropriate/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:1f8bd1b79c0736d22b68650bb823104e44cccea4479b3d3f0be9c192b1230717
3
+ size 6678472
results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_moral/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_moral/baselines.json ADDED
@@ -0,0 +1,2016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 2000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 2000,
6
+ "clean_accuracy": 0.9925,
7
+ "corrupted_accuracy": 0.995,
8
+ "both_correct_accuracy": 0.9875,
9
+ "n_both_correct": 1975,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 15,
26
+ 16,
27
+ 17,
28
+ 18,
29
+ 19,
30
+ 20,
31
+ 21,
32
+ 22,
33
+ 23,
34
+ 24,
35
+ 25,
36
+ 26,
37
+ 27,
38
+ 28,
39
+ 29,
40
+ 30,
41
+ 31,
42
+ 32,
43
+ 33,
44
+ 34,
45
+ 35,
46
+ 36,
47
+ 37,
48
+ 38,
49
+ 39,
50
+ 40,
51
+ 41,
52
+ 42,
53
+ 43,
54
+ 44,
55
+ 45,
56
+ 46,
57
+ 47,
58
+ 48,
59
+ 49,
60
+ 50,
61
+ 51,
62
+ 52,
63
+ 53,
64
+ 54,
65
+ 55,
66
+ 56,
67
+ 57,
68
+ 58,
69
+ 59,
70
+ 60,
71
+ 61,
72
+ 62,
73
+ 63,
74
+ 64,
75
+ 65,
76
+ 66,
77
+ 67,
78
+ 68,
79
+ 69,
80
+ 70,
81
+ 71,
82
+ 72,
83
+ 73,
84
+ 74,
85
+ 75,
86
+ 76,
87
+ 77,
88
+ 78,
89
+ 79,
90
+ 80,
91
+ 81,
92
+ 82,
93
+ 83,
94
+ 84,
95
+ 85,
96
+ 86,
97
+ 87,
98
+ 88,
99
+ 89,
100
+ 90,
101
+ 91,
102
+ 92,
103
+ 93,
104
+ 94,
105
+ 95,
106
+ 96,
107
+ 98,
108
+ 99,
109
+ 100,
110
+ 101,
111
+ 102,
112
+ 103,
113
+ 104,
114
+ 105,
115
+ 106,
116
+ 107,
117
+ 108,
118
+ 109,
119
+ 110,
120
+ 111,
121
+ 112,
122
+ 113,
123
+ 114,
124
+ 115,
125
+ 116,
126
+ 117,
127
+ 118,
128
+ 119,
129
+ 120,
130
+ 121,
131
+ 122,
132
+ 123,
133
+ 124,
134
+ 125,
135
+ 126,
136
+ 127,
137
+ 128,
138
+ 129,
139
+ 130,
140
+ 131,
141
+ 132,
142
+ 133,
143
+ 134,
144
+ 135,
145
+ 136,
146
+ 137,
147
+ 138,
148
+ 139,
149
+ 140,
150
+ 141,
151
+ 142,
152
+ 143,
153
+ 144,
154
+ 145,
155
+ 146,
156
+ 147,
157
+ 148,
158
+ 149,
159
+ 150,
160
+ 151,
161
+ 152,
162
+ 153,
163
+ 154,
164
+ 155,
165
+ 156,
166
+ 157,
167
+ 158,
168
+ 159,
169
+ 160,
170
+ 161,
171
+ 162,
172
+ 163,
173
+ 164,
174
+ 165,
175
+ 166,
176
+ 167,
177
+ 168,
178
+ 169,
179
+ 170,
180
+ 171,
181
+ 172,
182
+ 173,
183
+ 174,
184
+ 175,
185
+ 176,
186
+ 177,
187
+ 178,
188
+ 179,
189
+ 180,
190
+ 181,
191
+ 182,
192
+ 183,
193
+ 185,
194
+ 186,
195
+ 187,
196
+ 188,
197
+ 189,
198
+ 190,
199
+ 191,
200
+ 192,
201
+ 193,
202
+ 194,
203
+ 195,
204
+ 196,
205
+ 197,
206
+ 198,
207
+ 199,
208
+ 200,
209
+ 201,
210
+ 202,
211
+ 204,
212
+ 205,
213
+ 206,
214
+ 207,
215
+ 208,
216
+ 209,
217
+ 210,
218
+ 211,
219
+ 212,
220
+ 213,
221
+ 214,
222
+ 215,
223
+ 216,
224
+ 217,
225
+ 218,
226
+ 219,
227
+ 220,
228
+ 221,
229
+ 222,
230
+ 223,
231
+ 224,
232
+ 225,
233
+ 226,
234
+ 227,
235
+ 228,
236
+ 229,
237
+ 230,
238
+ 231,
239
+ 232,
240
+ 233,
241
+ 234,
242
+ 235,
243
+ 236,
244
+ 237,
245
+ 238,
246
+ 239,
247
+ 240,
248
+ 241,
249
+ 242,
250
+ 243,
251
+ 244,
252
+ 245,
253
+ 246,
254
+ 247,
255
+ 248,
256
+ 249,
257
+ 250,
258
+ 251,
259
+ 252,
260
+ 253,
261
+ 254,
262
+ 255,
263
+ 256,
264
+ 257,
265
+ 258,
266
+ 259,
267
+ 260,
268
+ 261,
269
+ 262,
270
+ 263,
271
+ 264,
272
+ 265,
273
+ 266,
274
+ 267,
275
+ 268,
276
+ 269,
277
+ 270,
278
+ 271,
279
+ 272,
280
+ 273,
281
+ 274,
282
+ 275,
283
+ 277,
284
+ 278,
285
+ 279,
286
+ 280,
287
+ 281,
288
+ 282,
289
+ 283,
290
+ 284,
291
+ 285,
292
+ 286,
293
+ 287,
294
+ 288,
295
+ 289,
296
+ 290,
297
+ 291,
298
+ 292,
299
+ 293,
300
+ 294,
301
+ 295,
302
+ 296,
303
+ 297,
304
+ 298,
305
+ 299,
306
+ 300,
307
+ 301,
308
+ 302,
309
+ 303,
310
+ 304,
311
+ 305,
312
+ 306,
313
+ 307,
314
+ 308,
315
+ 309,
316
+ 310,
317
+ 311,
318
+ 312,
319
+ 313,
320
+ 314,
321
+ 315,
322
+ 316,
323
+ 317,
324
+ 318,
325
+ 319,
326
+ 320,
327
+ 321,
328
+ 322,
329
+ 323,
330
+ 324,
331
+ 325,
332
+ 326,
333
+ 327,
334
+ 328,
335
+ 329,
336
+ 330,
337
+ 331,
338
+ 332,
339
+ 333,
340
+ 334,
341
+ 335,
342
+ 336,
343
+ 337,
344
+ 338,
345
+ 339,
346
+ 340,
347
+ 341,
348
+ 342,
349
+ 343,
350
+ 344,
351
+ 345,
352
+ 346,
353
+ 347,
354
+ 348,
355
+ 349,
356
+ 350,
357
+ 351,
358
+ 352,
359
+ 353,
360
+ 354,
361
+ 355,
362
+ 356,
363
+ 357,
364
+ 358,
365
+ 359,
366
+ 360,
367
+ 361,
368
+ 362,
369
+ 363,
370
+ 364,
371
+ 365,
372
+ 366,
373
+ 367,
374
+ 368,
375
+ 369,
376
+ 370,
377
+ 371,
378
+ 372,
379
+ 373,
380
+ 374,
381
+ 375,
382
+ 376,
383
+ 377,
384
+ 378,
385
+ 379,
386
+ 380,
387
+ 381,
388
+ 382,
389
+ 383,
390
+ 384,
391
+ 385,
392
+ 386,
393
+ 387,
394
+ 388,
395
+ 389,
396
+ 390,
397
+ 391,
398
+ 392,
399
+ 393,
400
+ 394,
401
+ 395,
402
+ 396,
403
+ 397,
404
+ 398,
405
+ 399,
406
+ 400,
407
+ 401,
408
+ 402,
409
+ 403,
410
+ 404,
411
+ 405,
412
+ 406,
413
+ 407,
414
+ 408,
415
+ 409,
416
+ 410,
417
+ 411,
418
+ 412,
419
+ 413,
420
+ 414,
421
+ 415,
422
+ 416,
423
+ 417,
424
+ 418,
425
+ 419,
426
+ 420,
427
+ 421,
428
+ 422,
429
+ 423,
430
+ 424,
431
+ 425,
432
+ 426,
433
+ 427,
434
+ 428,
435
+ 429,
436
+ 430,
437
+ 431,
438
+ 432,
439
+ 433,
440
+ 435,
441
+ 436,
442
+ 437,
443
+ 438,
444
+ 439,
445
+ 440,
446
+ 441,
447
+ 442,
448
+ 443,
449
+ 444,
450
+ 445,
451
+ 446,
452
+ 447,
453
+ 448,
454
+ 449,
455
+ 450,
456
+ 451,
457
+ 452,
458
+ 453,
459
+ 454,
460
+ 455,
461
+ 456,
462
+ 457,
463
+ 458,
464
+ 459,
465
+ 460,
466
+ 461,
467
+ 462,
468
+ 463,
469
+ 464,
470
+ 465,
471
+ 466,
472
+ 467,
473
+ 468,
474
+ 469,
475
+ 470,
476
+ 471,
477
+ 472,
478
+ 473,
479
+ 474,
480
+ 475,
481
+ 476,
482
+ 477,
483
+ 478,
484
+ 479,
485
+ 480,
486
+ 481,
487
+ 482,
488
+ 483,
489
+ 484,
490
+ 485,
491
+ 486,
492
+ 487,
493
+ 488,
494
+ 489,
495
+ 490,
496
+ 491,
497
+ 492,
498
+ 493,
499
+ 494,
500
+ 495,
501
+ 496,
502
+ 497,
503
+ 498,
504
+ 499,
505
+ 500,
506
+ 501,
507
+ 502,
508
+ 503,
509
+ 504,
510
+ 505,
511
+ 506,
512
+ 507,
513
+ 508,
514
+ 509,
515
+ 510,
516
+ 511,
517
+ 512,
518
+ 513,
519
+ 514,
520
+ 515,
521
+ 516,
522
+ 517,
523
+ 518,
524
+ 519,
525
+ 520,
526
+ 521,
527
+ 522,
528
+ 523,
529
+ 524,
530
+ 525,
531
+ 526,
532
+ 527,
533
+ 528,
534
+ 529,
535
+ 530,
536
+ 531,
537
+ 532,
538
+ 533,
539
+ 534,
540
+ 535,
541
+ 536,
542
+ 538,
543
+ 539,
544
+ 540,
545
+ 541,
546
+ 542,
547
+ 543,
548
+ 544,
549
+ 545,
550
+ 546,
551
+ 547,
552
+ 548,
553
+ 549,
554
+ 550,
555
+ 551,
556
+ 552,
557
+ 553,
558
+ 554,
559
+ 555,
560
+ 556,
561
+ 557,
562
+ 558,
563
+ 559,
564
+ 560,
565
+ 561,
566
+ 562,
567
+ 563,
568
+ 564,
569
+ 565,
570
+ 566,
571
+ 567,
572
+ 568,
573
+ 569,
574
+ 570,
575
+ 571,
576
+ 572,
577
+ 573,
578
+ 574,
579
+ 575,
580
+ 576,
581
+ 577,
582
+ 578,
583
+ 579,
584
+ 580,
585
+ 581,
586
+ 582,
587
+ 583,
588
+ 584,
589
+ 585,
590
+ 586,
591
+ 587,
592
+ 588,
593
+ 589,
594
+ 590,
595
+ 591,
596
+ 592,
597
+ 593,
598
+ 594,
599
+ 595,
600
+ 596,
601
+ 597,
602
+ 598,
603
+ 599,
604
+ 600,
605
+ 601,
606
+ 602,
607
+ 603,
608
+ 604,
609
+ 605,
610
+ 606,
611
+ 607,
612
+ 608,
613
+ 609,
614
+ 611,
615
+ 612,
616
+ 613,
617
+ 614,
618
+ 615,
619
+ 616,
620
+ 617,
621
+ 618,
622
+ 619,
623
+ 620,
624
+ 621,
625
+ 622,
626
+ 623,
627
+ 624,
628
+ 625,
629
+ 626,
630
+ 627,
631
+ 628,
632
+ 629,
633
+ 630,
634
+ 631,
635
+ 632,
636
+ 633,
637
+ 634,
638
+ 635,
639
+ 636,
640
+ 637,
641
+ 638,
642
+ 639,
643
+ 640,
644
+ 641,
645
+ 642,
646
+ 643,
647
+ 644,
648
+ 645,
649
+ 646,
650
+ 647,
651
+ 648,
652
+ 649,
653
+ 650,
654
+ 651,
655
+ 652,
656
+ 653,
657
+ 654,
658
+ 655,
659
+ 656,
660
+ 657,
661
+ 658,
662
+ 659,
663
+ 660,
664
+ 661,
665
+ 662,
666
+ 663,
667
+ 664,
668
+ 665,
669
+ 666,
670
+ 667,
671
+ 668,
672
+ 669,
673
+ 670,
674
+ 671,
675
+ 672,
676
+ 673,
677
+ 674,
678
+ 675,
679
+ 676,
680
+ 677,
681
+ 678,
682
+ 679,
683
+ 680,
684
+ 681,
685
+ 682,
686
+ 683,
687
+ 684,
688
+ 685,
689
+ 686,
690
+ 687,
691
+ 688,
692
+ 689,
693
+ 690,
694
+ 691,
695
+ 692,
696
+ 693,
697
+ 694,
698
+ 695,
699
+ 696,
700
+ 698,
701
+ 699,
702
+ 700,
703
+ 701,
704
+ 702,
705
+ 703,
706
+ 704,
707
+ 705,
708
+ 706,
709
+ 707,
710
+ 708,
711
+ 709,
712
+ 710,
713
+ 711,
714
+ 712,
715
+ 713,
716
+ 714,
717
+ 715,
718
+ 716,
719
+ 717,
720
+ 718,
721
+ 719,
722
+ 720,
723
+ 721,
724
+ 722,
725
+ 723,
726
+ 724,
727
+ 725,
728
+ 726,
729
+ 727,
730
+ 728,
731
+ 729,
732
+ 730,
733
+ 731,
734
+ 732,
735
+ 733,
736
+ 734,
737
+ 735,
738
+ 736,
739
+ 737,
740
+ 738,
741
+ 739,
742
+ 740,
743
+ 741,
744
+ 742,
745
+ 743,
746
+ 744,
747
+ 745,
748
+ 746,
749
+ 747,
750
+ 748,
751
+ 749,
752
+ 750,
753
+ 751,
754
+ 752,
755
+ 753,
756
+ 754,
757
+ 755,
758
+ 756,
759
+ 757,
760
+ 758,
761
+ 759,
762
+ 760,
763
+ 761,
764
+ 762,
765
+ 763,
766
+ 764,
767
+ 765,
768
+ 766,
769
+ 767,
770
+ 768,
771
+ 769,
772
+ 770,
773
+ 771,
774
+ 772,
775
+ 773,
776
+ 774,
777
+ 775,
778
+ 776,
779
+ 777,
780
+ 778,
781
+ 779,
782
+ 780,
783
+ 781,
784
+ 782,
785
+ 783,
786
+ 784,
787
+ 785,
788
+ 786,
789
+ 787,
790
+ 788,
791
+ 789,
792
+ 790,
793
+ 791,
794
+ 792,
795
+ 793,
796
+ 794,
797
+ 795,
798
+ 796,
799
+ 797,
800
+ 798,
801
+ 799,
802
+ 800,
803
+ 801,
804
+ 802,
805
+ 803,
806
+ 804,
807
+ 805,
808
+ 806,
809
+ 807,
810
+ 808,
811
+ 809,
812
+ 810,
813
+ 811,
814
+ 812,
815
+ 813,
816
+ 814,
817
+ 815,
818
+ 816,
819
+ 817,
820
+ 818,
821
+ 819,
822
+ 820,
823
+ 821,
824
+ 822,
825
+ 823,
826
+ 824,
827
+ 825,
828
+ 826,
829
+ 827,
830
+ 828,
831
+ 829,
832
+ 830,
833
+ 831,
834
+ 832,
835
+ 833,
836
+ 834,
837
+ 835,
838
+ 836,
839
+ 837,
840
+ 838,
841
+ 839,
842
+ 840,
843
+ 841,
844
+ 842,
845
+ 843,
846
+ 844,
847
+ 845,
848
+ 846,
849
+ 847,
850
+ 848,
851
+ 849,
852
+ 850,
853
+ 851,
854
+ 852,
855
+ 853,
856
+ 854,
857
+ 855,
858
+ 856,
859
+ 857,
860
+ 858,
861
+ 859,
862
+ 860,
863
+ 861,
864
+ 862,
865
+ 863,
866
+ 864,
867
+ 865,
868
+ 866,
869
+ 867,
870
+ 868,
871
+ 869,
872
+ 870,
873
+ 871,
874
+ 872,
875
+ 873,
876
+ 874,
877
+ 875,
878
+ 876,
879
+ 877,
880
+ 878,
881
+ 879,
882
+ 880,
883
+ 881,
884
+ 882,
885
+ 883,
886
+ 884,
887
+ 885,
888
+ 886,
889
+ 887,
890
+ 889,
891
+ 890,
892
+ 891,
893
+ 892,
894
+ 893,
895
+ 894,
896
+ 895,
897
+ 896,
898
+ 897,
899
+ 898,
900
+ 899,
901
+ 900,
902
+ 901,
903
+ 902,
904
+ 903,
905
+ 904,
906
+ 905,
907
+ 906,
908
+ 908,
909
+ 909,
910
+ 910,
911
+ 911,
912
+ 912,
913
+ 914,
914
+ 915,
915
+ 916,
916
+ 917,
917
+ 918,
918
+ 919,
919
+ 920,
920
+ 921,
921
+ 922,
922
+ 923,
923
+ 924,
924
+ 925,
925
+ 926,
926
+ 927,
927
+ 928,
928
+ 929,
929
+ 930,
930
+ 931,
931
+ 932,
932
+ 933,
933
+ 934,
934
+ 935,
935
+ 936,
936
+ 937,
937
+ 938,
938
+ 939,
939
+ 940,
940
+ 941,
941
+ 942,
942
+ 943,
943
+ 944,
944
+ 945,
945
+ 946,
946
+ 947,
947
+ 948,
948
+ 949,
949
+ 950,
950
+ 951,
951
+ 952,
952
+ 953,
953
+ 954,
954
+ 955,
955
+ 956,
956
+ 957,
957
+ 958,
958
+ 959,
959
+ 960,
960
+ 961,
961
+ 962,
962
+ 963,
963
+ 964,
964
+ 965,
965
+ 966,
966
+ 967,
967
+ 968,
968
+ 969,
969
+ 970,
970
+ 971,
971
+ 972,
972
+ 973,
973
+ 974,
974
+ 975,
975
+ 976,
976
+ 977,
977
+ 978,
978
+ 979,
979
+ 980,
980
+ 981,
981
+ 982,
982
+ 983,
983
+ 984,
984
+ 985,
985
+ 986,
986
+ 987,
987
+ 988,
988
+ 989,
989
+ 990,
990
+ 991,
991
+ 992,
992
+ 993,
993
+ 994,
994
+ 995,
995
+ 996,
996
+ 997,
997
+ 998,
998
+ 999,
999
+ 1000,
1000
+ 1001,
1001
+ 1002,
1002
+ 1003,
1003
+ 1004,
1004
+ 1005,
1005
+ 1006,
1006
+ 1007,
1007
+ 1008,
1008
+ 1009,
1009
+ 1010,
1010
+ 1011,
1011
+ 1012,
1012
+ 1013,
1013
+ 1014,
1014
+ 1015,
1015
+ 1016,
1016
+ 1017,
1017
+ 1018,
1018
+ 1019,
1019
+ 1020,
1020
+ 1021,
1021
+ 1022,
1022
+ 1023,
1023
+ 1024,
1024
+ 1025,
1025
+ 1026,
1026
+ 1027,
1027
+ 1028,
1028
+ 1029,
1029
+ 1030,
1030
+ 1031,
1031
+ 1032,
1032
+ 1033,
1033
+ 1034,
1034
+ 1035,
1035
+ 1036,
1036
+ 1037,
1037
+ 1038,
1038
+ 1039,
1039
+ 1040,
1040
+ 1041,
1041
+ 1043,
1042
+ 1044,
1043
+ 1045,
1044
+ 1046,
1045
+ 1047,
1046
+ 1048,
1047
+ 1049,
1048
+ 1050,
1049
+ 1051,
1050
+ 1052,
1051
+ 1053,
1052
+ 1054,
1053
+ 1055,
1054
+ 1056,
1055
+ 1057,
1056
+ 1058,
1057
+ 1059,
1058
+ 1060,
1059
+ 1061,
1060
+ 1062,
1061
+ 1063,
1062
+ 1064,
1063
+ 1065,
1064
+ 1066,
1065
+ 1067,
1066
+ 1068,
1067
+ 1069,
1068
+ 1070,
1069
+ 1071,
1070
+ 1072,
1071
+ 1073,
1072
+ 1074,
1073
+ 1075,
1074
+ 1076,
1075
+ 1077,
1076
+ 1078,
1077
+ 1079,
1078
+ 1080,
1079
+ 1081,
1080
+ 1082,
1081
+ 1083,
1082
+ 1084,
1083
+ 1085,
1084
+ 1086,
1085
+ 1087,
1086
+ 1088,
1087
+ 1089,
1088
+ 1090,
1089
+ 1091,
1090
+ 1092,
1091
+ 1093,
1092
+ 1094,
1093
+ 1095,
1094
+ 1096,
1095
+ 1097,
1096
+ 1098,
1097
+ 1099,
1098
+ 1100,
1099
+ 1101,
1100
+ 1102,
1101
+ 1103,
1102
+ 1104,
1103
+ 1105,
1104
+ 1106,
1105
+ 1107,
1106
+ 1108,
1107
+ 1109,
1108
+ 1110,
1109
+ 1111,
1110
+ 1112,
1111
+ 1113,
1112
+ 1114,
1113
+ 1115,
1114
+ 1116,
1115
+ 1117,
1116
+ 1118,
1117
+ 1119,
1118
+ 1120,
1119
+ 1121,
1120
+ 1122,
1121
+ 1123,
1122
+ 1124,
1123
+ 1125,
1124
+ 1126,
1125
+ 1127,
1126
+ 1128,
1127
+ 1129,
1128
+ 1131,
1129
+ 1132,
1130
+ 1133,
1131
+ 1134,
1132
+ 1135,
1133
+ 1136,
1134
+ 1138,
1135
+ 1139,
1136
+ 1140,
1137
+ 1141,
1138
+ 1142,
1139
+ 1143,
1140
+ 1144,
1141
+ 1145,
1142
+ 1146,
1143
+ 1147,
1144
+ 1148,
1145
+ 1149,
1146
+ 1150,
1147
+ 1151,
1148
+ 1152,
1149
+ 1153,
1150
+ 1154,
1151
+ 1156,
1152
+ 1157,
1153
+ 1158,
1154
+ 1159,
1155
+ 1160,
1156
+ 1161,
1157
+ 1162,
1158
+ 1163,
1159
+ 1164,
1160
+ 1165,
1161
+ 1166,
1162
+ 1167,
1163
+ 1168,
1164
+ 1169,
1165
+ 1170,
1166
+ 1171,
1167
+ 1172,
1168
+ 1173,
1169
+ 1174,
1170
+ 1175,
1171
+ 1176,
1172
+ 1177,
1173
+ 1178,
1174
+ 1179,
1175
+ 1180,
1176
+ 1181,
1177
+ 1182,
1178
+ 1183,
1179
+ 1184,
1180
+ 1185,
1181
+ 1186,
1182
+ 1187,
1183
+ 1188,
1184
+ 1189,
1185
+ 1190,
1186
+ 1191,
1187
+ 1192,
1188
+ 1193,
1189
+ 1194,
1190
+ 1195,
1191
+ 1196,
1192
+ 1197,
1193
+ 1198,
1194
+ 1199,
1195
+ 1200,
1196
+ 1201,
1197
+ 1202,
1198
+ 1203,
1199
+ 1204,
1200
+ 1205,
1201
+ 1206,
1202
+ 1207,
1203
+ 1208,
1204
+ 1209,
1205
+ 1210,
1206
+ 1211,
1207
+ 1212,
1208
+ 1213,
1209
+ 1214,
1210
+ 1215,
1211
+ 1216,
1212
+ 1217,
1213
+ 1218,
1214
+ 1219,
1215
+ 1220,
1216
+ 1221,
1217
+ 1222,
1218
+ 1223,
1219
+ 1224,
1220
+ 1225,
1221
+ 1226,
1222
+ 1227,
1223
+ 1228,
1224
+ 1229,
1225
+ 1230,
1226
+ 1231,
1227
+ 1232,
1228
+ 1233,
1229
+ 1234,
1230
+ 1235,
1231
+ 1236,
1232
+ 1237,
1233
+ 1238,
1234
+ 1239,
1235
+ 1240,
1236
+ 1241,
1237
+ 1242,
1238
+ 1243,
1239
+ 1244,
1240
+ 1245,
1241
+ 1246,
1242
+ 1247,
1243
+ 1248,
1244
+ 1249,
1245
+ 1250,
1246
+ 1251,
1247
+ 1252,
1248
+ 1253,
1249
+ 1254,
1250
+ 1255,
1251
+ 1256,
1252
+ 1257,
1253
+ 1258,
1254
+ 1259,
1255
+ 1260,
1256
+ 1261,
1257
+ 1262,
1258
+ 1263,
1259
+ 1264,
1260
+ 1266,
1261
+ 1267,
1262
+ 1268,
1263
+ 1269,
1264
+ 1270,
1265
+ 1271,
1266
+ 1272,
1267
+ 1273,
1268
+ 1274,
1269
+ 1275,
1270
+ 1276,
1271
+ 1277,
1272
+ 1278,
1273
+ 1279,
1274
+ 1280,
1275
+ 1281,
1276
+ 1283,
1277
+ 1284,
1278
+ 1285,
1279
+ 1286,
1280
+ 1287,
1281
+ 1288,
1282
+ 1289,
1283
+ 1290,
1284
+ 1291,
1285
+ 1292,
1286
+ 1293,
1287
+ 1294,
1288
+ 1295,
1289
+ 1296,
1290
+ 1297,
1291
+ 1298,
1292
+ 1299,
1293
+ 1300,
1294
+ 1301,
1295
+ 1302,
1296
+ 1303,
1297
+ 1304,
1298
+ 1305,
1299
+ 1306,
1300
+ 1307,
1301
+ 1308,
1302
+ 1309,
1303
+ 1310,
1304
+ 1311,
1305
+ 1312,
1306
+ 1313,
1307
+ 1314,
1308
+ 1315,
1309
+ 1316,
1310
+ 1317,
1311
+ 1318,
1312
+ 1319,
1313
+ 1320,
1314
+ 1321,
1315
+ 1322,
1316
+ 1323,
1317
+ 1324,
1318
+ 1325,
1319
+ 1326,
1320
+ 1327,
1321
+ 1328,
1322
+ 1329,
1323
+ 1330,
1324
+ 1331,
1325
+ 1332,
1326
+ 1333,
1327
+ 1334,
1328
+ 1335,
1329
+ 1336,
1330
+ 1337,
1331
+ 1338,
1332
+ 1339,
1333
+ 1340,
1334
+ 1341,
1335
+ 1342,
1336
+ 1343,
1337
+ 1344,
1338
+ 1345,
1339
+ 1346,
1340
+ 1347,
1341
+ 1348,
1342
+ 1349,
1343
+ 1350,
1344
+ 1351,
1345
+ 1352,
1346
+ 1353,
1347
+ 1354,
1348
+ 1355,
1349
+ 1356,
1350
+ 1357,
1351
+ 1358,
1352
+ 1359,
1353
+ 1360,
1354
+ 1361,
1355
+ 1362,
1356
+ 1363,
1357
+ 1364,
1358
+ 1365,
1359
+ 1366,
1360
+ 1367,
1361
+ 1368,
1362
+ 1369,
1363
+ 1370,
1364
+ 1371,
1365
+ 1372,
1366
+ 1373,
1367
+ 1374,
1368
+ 1375,
1369
+ 1376,
1370
+ 1377,
1371
+ 1378,
1372
+ 1379,
1373
+ 1380,
1374
+ 1381,
1375
+ 1382,
1376
+ 1383,
1377
+ 1384,
1378
+ 1385,
1379
+ 1386,
1380
+ 1387,
1381
+ 1388,
1382
+ 1389,
1383
+ 1390,
1384
+ 1391,
1385
+ 1392,
1386
+ 1393,
1387
+ 1394,
1388
+ 1395,
1389
+ 1396,
1390
+ 1397,
1391
+ 1398,
1392
+ 1399,
1393
+ 1400,
1394
+ 1402,
1395
+ 1403,
1396
+ 1404,
1397
+ 1405,
1398
+ 1406,
1399
+ 1407,
1400
+ 1408,
1401
+ 1409,
1402
+ 1410,
1403
+ 1411,
1404
+ 1412,
1405
+ 1413,
1406
+ 1414,
1407
+ 1415,
1408
+ 1416,
1409
+ 1417,
1410
+ 1418,
1411
+ 1419,
1412
+ 1420,
1413
+ 1421,
1414
+ 1422,
1415
+ 1423,
1416
+ 1424,
1417
+ 1425,
1418
+ 1426,
1419
+ 1427,
1420
+ 1428,
1421
+ 1429,
1422
+ 1430,
1423
+ 1431,
1424
+ 1432,
1425
+ 1433,
1426
+ 1434,
1427
+ 1435,
1428
+ 1436,
1429
+ 1437,
1430
+ 1438,
1431
+ 1439,
1432
+ 1440,
1433
+ 1441,
1434
+ 1442,
1435
+ 1443,
1436
+ 1444,
1437
+ 1445,
1438
+ 1446,
1439
+ 1447,
1440
+ 1448,
1441
+ 1449,
1442
+ 1450,
1443
+ 1451,
1444
+ 1452,
1445
+ 1453,
1446
+ 1454,
1447
+ 1455,
1448
+ 1456,
1449
+ 1457,
1450
+ 1458,
1451
+ 1459,
1452
+ 1460,
1453
+ 1461,
1454
+ 1462,
1455
+ 1463,
1456
+ 1464,
1457
+ 1465,
1458
+ 1466,
1459
+ 1467,
1460
+ 1468,
1461
+ 1469,
1462
+ 1470,
1463
+ 1471,
1464
+ 1472,
1465
+ 1473,
1466
+ 1474,
1467
+ 1475,
1468
+ 1476,
1469
+ 1477,
1470
+ 1478,
1471
+ 1479,
1472
+ 1480,
1473
+ 1481,
1474
+ 1482,
1475
+ 1483,
1476
+ 1484,
1477
+ 1485,
1478
+ 1486,
1479
+ 1487,
1480
+ 1488,
1481
+ 1489,
1482
+ 1490,
1483
+ 1491,
1484
+ 1492,
1485
+ 1493,
1486
+ 1494,
1487
+ 1495,
1488
+ 1496,
1489
+ 1497,
1490
+ 1498,
1491
+ 1499,
1492
+ 1500,
1493
+ 1501,
1494
+ 1502,
1495
+ 1503,
1496
+ 1504,
1497
+ 1505,
1498
+ 1506,
1499
+ 1507,
1500
+ 1508,
1501
+ 1509,
1502
+ 1510,
1503
+ 1511,
1504
+ 1512,
1505
+ 1513,
1506
+ 1514,
1507
+ 1515,
1508
+ 1516,
1509
+ 1517,
1510
+ 1518,
1511
+ 1519,
1512
+ 1520,
1513
+ 1521,
1514
+ 1522,
1515
+ 1523,
1516
+ 1524,
1517
+ 1525,
1518
+ 1526,
1519
+ 1527,
1520
+ 1528,
1521
+ 1529,
1522
+ 1530,
1523
+ 1531,
1524
+ 1532,
1525
+ 1533,
1526
+ 1534,
1527
+ 1535,
1528
+ 1536,
1529
+ 1537,
1530
+ 1538,
1531
+ 1539,
1532
+ 1540,
1533
+ 1541,
1534
+ 1542,
1535
+ 1543,
1536
+ 1544,
1537
+ 1545,
1538
+ 1546,
1539
+ 1547,
1540
+ 1548,
1541
+ 1549,
1542
+ 1550,
1543
+ 1551,
1544
+ 1552,
1545
+ 1553,
1546
+ 1554,
1547
+ 1555,
1548
+ 1556,
1549
+ 1557,
1550
+ 1558,
1551
+ 1559,
1552
+ 1560,
1553
+ 1561,
1554
+ 1562,
1555
+ 1563,
1556
+ 1564,
1557
+ 1565,
1558
+ 1566,
1559
+ 1567,
1560
+ 1568,
1561
+ 1569,
1562
+ 1570,
1563
+ 1571,
1564
+ 1572,
1565
+ 1573,
1566
+ 1574,
1567
+ 1575,
1568
+ 1576,
1569
+ 1577,
1570
+ 1578,
1571
+ 1579,
1572
+ 1580,
1573
+ 1581,
1574
+ 1582,
1575
+ 1583,
1576
+ 1584,
1577
+ 1585,
1578
+ 1586,
1579
+ 1587,
1580
+ 1588,
1581
+ 1589,
1582
+ 1590,
1583
+ 1591,
1584
+ 1592,
1585
+ 1593,
1586
+ 1594,
1587
+ 1595,
1588
+ 1596,
1589
+ 1597,
1590
+ 1598,
1591
+ 1599,
1592
+ 1600,
1593
+ 1601,
1594
+ 1602,
1595
+ 1603,
1596
+ 1604,
1597
+ 1605,
1598
+ 1606,
1599
+ 1607,
1600
+ 1608,
1601
+ 1609,
1602
+ 1610,
1603
+ 1611,
1604
+ 1612,
1605
+ 1614,
1606
+ 1615,
1607
+ 1616,
1608
+ 1617,
1609
+ 1619,
1610
+ 1620,
1611
+ 1621,
1612
+ 1622,
1613
+ 1623,
1614
+ 1624,
1615
+ 1625,
1616
+ 1626,
1617
+ 1627,
1618
+ 1628,
1619
+ 1629,
1620
+ 1630,
1621
+ 1631,
1622
+ 1632,
1623
+ 1633,
1624
+ 1634,
1625
+ 1635,
1626
+ 1636,
1627
+ 1637,
1628
+ 1638,
1629
+ 1639,
1630
+ 1640,
1631
+ 1641,
1632
+ 1642,
1633
+ 1643,
1634
+ 1644,
1635
+ 1645,
1636
+ 1646,
1637
+ 1647,
1638
+ 1648,
1639
+ 1649,
1640
+ 1650,
1641
+ 1651,
1642
+ 1652,
1643
+ 1653,
1644
+ 1654,
1645
+ 1655,
1646
+ 1656,
1647
+ 1657,
1648
+ 1658,
1649
+ 1659,
1650
+ 1660,
1651
+ 1661,
1652
+ 1662,
1653
+ 1663,
1654
+ 1664,
1655
+ 1665,
1656
+ 1666,
1657
+ 1667,
1658
+ 1668,
1659
+ 1669,
1660
+ 1670,
1661
+ 1671,
1662
+ 1672,
1663
+ 1673,
1664
+ 1674,
1665
+ 1676,
1666
+ 1677,
1667
+ 1678,
1668
+ 1679,
1669
+ 1680,
1670
+ 1681,
1671
+ 1682,
1672
+ 1683,
1673
+ 1684,
1674
+ 1685,
1675
+ 1686,
1676
+ 1687,
1677
+ 1689,
1678
+ 1690,
1679
+ 1691,
1680
+ 1692,
1681
+ 1693,
1682
+ 1694,
1683
+ 1695,
1684
+ 1696,
1685
+ 1697,
1686
+ 1698,
1687
+ 1699,
1688
+ 1700,
1689
+ 1701,
1690
+ 1702,
1691
+ 1703,
1692
+ 1704,
1693
+ 1705,
1694
+ 1706,
1695
+ 1707,
1696
+ 1708,
1697
+ 1709,
1698
+ 1710,
1699
+ 1711,
1700
+ 1712,
1701
+ 1713,
1702
+ 1714,
1703
+ 1715,
1704
+ 1716,
1705
+ 1717,
1706
+ 1718,
1707
+ 1719,
1708
+ 1720,
1709
+ 1721,
1710
+ 1722,
1711
+ 1723,
1712
+ 1724,
1713
+ 1725,
1714
+ 1726,
1715
+ 1727,
1716
+ 1728,
1717
+ 1729,
1718
+ 1730,
1719
+ 1731,
1720
+ 1732,
1721
+ 1733,
1722
+ 1734,
1723
+ 1735,
1724
+ 1736,
1725
+ 1737,
1726
+ 1738,
1727
+ 1739,
1728
+ 1740,
1729
+ 1741,
1730
+ 1742,
1731
+ 1743,
1732
+ 1744,
1733
+ 1745,
1734
+ 1746,
1735
+ 1747,
1736
+ 1748,
1737
+ 1749,
1738
+ 1750,
1739
+ 1751,
1740
+ 1752,
1741
+ 1753,
1742
+ 1754,
1743
+ 1755,
1744
+ 1756,
1745
+ 1757,
1746
+ 1758,
1747
+ 1759,
1748
+ 1760,
1749
+ 1761,
1750
+ 1762,
1751
+ 1763,
1752
+ 1764,
1753
+ 1765,
1754
+ 1766,
1755
+ 1767,
1756
+ 1768,
1757
+ 1769,
1758
+ 1770,
1759
+ 1771,
1760
+ 1772,
1761
+ 1773,
1762
+ 1774,
1763
+ 1775,
1764
+ 1776,
1765
+ 1777,
1766
+ 1778,
1767
+ 1779,
1768
+ 1780,
1769
+ 1781,
1770
+ 1782,
1771
+ 1783,
1772
+ 1784,
1773
+ 1785,
1774
+ 1786,
1775
+ 1787,
1776
+ 1788,
1777
+ 1789,
1778
+ 1790,
1779
+ 1791,
1780
+ 1792,
1781
+ 1793,
1782
+ 1794,
1783
+ 1795,
1784
+ 1796,
1785
+ 1797,
1786
+ 1798,
1787
+ 1799,
1788
+ 1800,
1789
+ 1801,
1790
+ 1802,
1791
+ 1803,
1792
+ 1804,
1793
+ 1805,
1794
+ 1806,
1795
+ 1807,
1796
+ 1808,
1797
+ 1809,
1798
+ 1810,
1799
+ 1811,
1800
+ 1812,
1801
+ 1813,
1802
+ 1814,
1803
+ 1815,
1804
+ 1816,
1805
+ 1817,
1806
+ 1818,
1807
+ 1819,
1808
+ 1820,
1809
+ 1821,
1810
+ 1822,
1811
+ 1823,
1812
+ 1824,
1813
+ 1825,
1814
+ 1826,
1815
+ 1827,
1816
+ 1828,
1817
+ 1829,
1818
+ 1830,
1819
+ 1831,
1820
+ 1832,
1821
+ 1833,
1822
+ 1834,
1823
+ 1835,
1824
+ 1836,
1825
+ 1837,
1826
+ 1838,
1827
+ 1839,
1828
+ 1840,
1829
+ 1841,
1830
+ 1842,
1831
+ 1843,
1832
+ 1844,
1833
+ 1845,
1834
+ 1846,
1835
+ 1847,
1836
+ 1848,
1837
+ 1849,
1838
+ 1850,
1839
+ 1851,
1840
+ 1852,
1841
+ 1853,
1842
+ 1854,
1843
+ 1855,
1844
+ 1856,
1845
+ 1857,
1846
+ 1858,
1847
+ 1859,
1848
+ 1860,
1849
+ 1861,
1850
+ 1862,
1851
+ 1863,
1852
+ 1864,
1853
+ 1866,
1854
+ 1867,
1855
+ 1868,
1856
+ 1869,
1857
+ 1870,
1858
+ 1871,
1859
+ 1872,
1860
+ 1873,
1861
+ 1874,
1862
+ 1875,
1863
+ 1876,
1864
+ 1877,
1865
+ 1878,
1866
+ 1879,
1867
+ 1880,
1868
+ 1881,
1869
+ 1882,
1870
+ 1883,
1871
+ 1884,
1872
+ 1885,
1873
+ 1886,
1874
+ 1887,
1875
+ 1888,
1876
+ 1889,
1877
+ 1890,
1878
+ 1891,
1879
+ 1892,
1880
+ 1893,
1881
+ 1894,
1882
+ 1895,
1883
+ 1896,
1884
+ 1897,
1885
+ 1898,
1886
+ 1899,
1887
+ 1900,
1888
+ 1901,
1889
+ 1902,
1890
+ 1903,
1891
+ 1904,
1892
+ 1905,
1893
+ 1906,
1894
+ 1907,
1895
+ 1908,
1896
+ 1909,
1897
+ 1910,
1898
+ 1911,
1899
+ 1912,
1900
+ 1913,
1901
+ 1914,
1902
+ 1915,
1903
+ 1916,
1904
+ 1917,
1905
+ 1918,
1906
+ 1919,
1907
+ 1920,
1908
+ 1921,
1909
+ 1922,
1910
+ 1923,
1911
+ 1924,
1912
+ 1925,
1913
+ 1926,
1914
+ 1927,
1915
+ 1928,
1916
+ 1929,
1917
+ 1930,
1918
+ 1931,
1919
+ 1932,
1920
+ 1933,
1921
+ 1934,
1922
+ 1935,
1923
+ 1936,
1924
+ 1937,
1925
+ 1938,
1926
+ 1939,
1927
+ 1940,
1928
+ 1941,
1929
+ 1942,
1930
+ 1943,
1931
+ 1944,
1932
+ 1945,
1933
+ 1946,
1934
+ 1947,
1935
+ 1948,
1936
+ 1949,
1937
+ 1950,
1938
+ 1951,
1939
+ 1952,
1940
+ 1953,
1941
+ 1954,
1942
+ 1955,
1943
+ 1956,
1944
+ 1957,
1945
+ 1958,
1946
+ 1959,
1947
+ 1960,
1948
+ 1961,
1949
+ 1962,
1950
+ 1963,
1951
+ 1964,
1952
+ 1965,
1953
+ 1966,
1954
+ 1967,
1955
+ 1968,
1956
+ 1969,
1957
+ 1970,
1958
+ 1971,
1959
+ 1972,
1960
+ 1973,
1961
+ 1974,
1962
+ 1975,
1963
+ 1976,
1964
+ 1977,
1965
+ 1978,
1966
+ 1980,
1967
+ 1981,
1968
+ 1982,
1969
+ 1983,
1970
+ 1984,
1971
+ 1985,
1972
+ 1986,
1973
+ 1987,
1974
+ 1988,
1975
+ 1989,
1976
+ 1990,
1977
+ 1991,
1978
+ 1992,
1979
+ 1993,
1980
+ 1994,
1981
+ 1995,
1982
+ 1996,
1983
+ 1997,
1984
+ 1998,
1985
+ 1999
1986
+ ],
1987
+ "not_both_correct_indices": [
1988
+ 14,
1989
+ 97,
1990
+ 184,
1991
+ 203,
1992
+ 276,
1993
+ 434,
1994
+ 537,
1995
+ 610,
1996
+ 697,
1997
+ 888,
1998
+ 907,
1999
+ 913,
2000
+ 1042,
2001
+ 1130,
2002
+ 1137,
2003
+ 1155,
2004
+ 1265,
2005
+ 1282,
2006
+ 1401,
2007
+ 1613,
2008
+ 1618,
2009
+ 1675,
2010
+ 1688,
2011
+ 1865,
2012
+ 1979
2013
+ ],
2014
+ "clean_baseline": 18.5625,
2015
+ "corrupted_baseline": -18.546875
2016
+ }
results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_moral/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:470ff623d9154b6aa6d325ee6f177d1d244a3c0c8acf16d0498ffb9f691245e9
3
+ size 14157430
results/Qwen_Qwen2-5-32B-Instruct/ToM/norm_moral/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:575d9639d1762cb088a8ba277a009e3a0fcc2af7cbf60b3402f0a6cdb094c2c0
3
+ size 6677136
results/Qwen_Qwen2-5-32B-Instruct/ToM/primary_emotions/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/Qwen_Qwen2-5-32B-Instruct/ToM/primary_emotions/baselines.json ADDED
@@ -0,0 +1,1311 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1295,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1295,
6
+ "clean_accuracy": 0.932046332046332,
7
+ "corrupted_accuracy": 0.9359073359073359,
8
+ "both_correct_accuracy": 0.8679536679536679,
9
+ "n_both_correct": 1124,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 129,
141
+ 130,
142
+ 131,
143
+ 132,
144
+ 133,
145
+ 134,
146
+ 135,
147
+ 136,
148
+ 137,
149
+ 138,
150
+ 139,
151
+ 140,
152
+ 141,
153
+ 142,
154
+ 143,
155
+ 144,
156
+ 145,
157
+ 146,
158
+ 147,
159
+ 148,
160
+ 149,
161
+ 150,
162
+ 151,
163
+ 152,
164
+ 153,
165
+ 154,
166
+ 155,
167
+ 156,
168
+ 157,
169
+ 158,
170
+ 159,
171
+ 160,
172
+ 161,
173
+ 162,
174
+ 163,
175
+ 164,
176
+ 165,
177
+ 166,
178
+ 167,
179
+ 168,
180
+ 169,
181
+ 170,
182
+ 171,
183
+ 172,
184
+ 173,
185
+ 174,
186
+ 175,
187
+ 176,
188
+ 177,
189
+ 178,
190
+ 179,
191
+ 180,
192
+ 181,
193
+ 182,
194
+ 183,
195
+ 184,
196
+ 185,
197
+ 186,
198
+ 187,
199
+ 188,
200
+ 189,
201
+ 190,
202
+ 191,
203
+ 192,
204
+ 193,
205
+ 194,
206
+ 195,
207
+ 196,
208
+ 197,
209
+ 198,
210
+ 199,
211
+ 200,
212
+ 201,
213
+ 202,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 209,
221
+ 210,
222
+ 211,
223
+ 212,
224
+ 213,
225
+ 214,
226
+ 215,
227
+ 216,
228
+ 217,
229
+ 218,
230
+ 219,
231
+ 220,
232
+ 221,
233
+ 222,
234
+ 223,
235
+ 224,
236
+ 225,
237
+ 226,
238
+ 227,
239
+ 228,
240
+ 229,
241
+ 230,
242
+ 231,
243
+ 232,
244
+ 233,
245
+ 234,
246
+ 235,
247
+ 236,
248
+ 237,
249
+ 238,
250
+ 239,
251
+ 240,
252
+ 241,
253
+ 242,
254
+ 243,
255
+ 244,
256
+ 245,
257
+ 246,
258
+ 247,
259
+ 248,
260
+ 249,
261
+ 250,
262
+ 251,
263
+ 252,
264
+ 253,
265
+ 254,
266
+ 255,
267
+ 256,
268
+ 257,
269
+ 258,
270
+ 259,
271
+ 260,
272
+ 261,
273
+ 262,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 274,
286
+ 275,
287
+ 276,
288
+ 277,
289
+ 278,
290
+ 279,
291
+ 280,
292
+ 281,
293
+ 282,
294
+ 283,
295
+ 284,
296
+ 285,
297
+ 286,
298
+ 287,
299
+ 288,
300
+ 289,
301
+ 290,
302
+ 291,
303
+ 292,
304
+ 293,
305
+ 294,
306
+ 295,
307
+ 296,
308
+ 297,
309
+ 298,
310
+ 299,
311
+ 300,
312
+ 301,
313
+ 302,
314
+ 303,
315
+ 304,
316
+ 305,
317
+ 306,
318
+ 307,
319
+ 308,
320
+ 309,
321
+ 310,
322
+ 311,
323
+ 312,
324
+ 313,
325
+ 314,
326
+ 315,
327
+ 316,
328
+ 317,
329
+ 318,
330
+ 319,
331
+ 320,
332
+ 321,
333
+ 322,
334
+ 323,
335
+ 324,
336
+ 325,
337
+ 326,
338
+ 327,
339
+ 328,
340
+ 329,
341
+ 330,
342
+ 331,
343
+ 332,
344
+ 333,
345
+ 334,
346
+ 335,
347
+ 336,
348
+ 337,
349
+ 338,
350
+ 339,
351
+ 340,
352
+ 341,
353
+ 342,
354
+ 343,
355
+ 344,
356
+ 345,
357
+ 346,
358
+ 347,
359
+ 348,
360
+ 349,
361
+ 350,
362
+ 351,
363
+ 352,
364
+ 353,
365
+ 354,
366
+ 355,
367
+ 356,
368
+ 357,
369
+ 358,
370
+ 359,
371
+ 360,
372
+ 361,
373
+ 362,
374
+ 363,
375
+ 364,
376
+ 365,
377
+ 366,
378
+ 367,
379
+ 368,
380
+ 369,
381
+ 370,
382
+ 371,
383
+ 372,
384
+ 373,
385
+ 374,
386
+ 375,
387
+ 376,
388
+ 377,
389
+ 378,
390
+ 379,
391
+ 380,
392
+ 381,
393
+ 382,
394
+ 383,
395
+ 384,
396
+ 385,
397
+ 386,
398
+ 387,
399
+ 388,
400
+ 389,
401
+ 390,
402
+ 391,
403
+ 392,
404
+ 393,
405
+ 394,
406
+ 395,
407
+ 396,
408
+ 397,
409
+ 398,
410
+ 399,
411
+ 400,
412
+ 401,
413
+ 402,
414
+ 403,
415
+ 404,
416
+ 405,
417
+ 406,
418
+ 407,
419
+ 408,
420
+ 409,
421
+ 410,
422
+ 411,
423
+ 412,
424
+ 413,
425
+ 414,
426
+ 415,
427
+ 416,
428
+ 417,
429
+ 418,
430
+ 419,
431
+ 420,
432
+ 421,
433
+ 422,
434
+ 423,
435
+ 424,
436
+ 425,
437
+ 426,
438
+ 427,
439
+ 428,
440
+ 429,
441
+ 430,
442
+ 431,
443
+ 432,
444
+ 433,
445
+ 434,
446
+ 435,
447
+ 436,
448
+ 437,
449
+ 438,
450
+ 439,
451
+ 440,
452
+ 441,
453
+ 442,
454
+ 443,
455
+ 444,
456
+ 445,
457
+ 446,
458
+ 447,
459
+ 448,
460
+ 449,
461
+ 450,
462
+ 451,
463
+ 452,
464
+ 453,
465
+ 454,
466
+ 455,
467
+ 456,
468
+ 457,
469
+ 458,
470
+ 459,
471
+ 460,
472
+ 461,
473
+ 462,
474
+ 463,
475
+ 464,
476
+ 465,
477
+ 466,
478
+ 467,
479
+ 468,
480
+ 469,
481
+ 470,
482
+ 471,
483
+ 472,
484
+ 473,
485
+ 474,
486
+ 475,
487
+ 476,
488
+ 477,
489
+ 478,
490
+ 479,
491
+ 480,
492
+ 481,
493
+ 482,
494
+ 483,
495
+ 484,
496
+ 485,
497
+ 486,
498
+ 487,
499
+ 488,
500
+ 489,
501
+ 490,
502
+ 491,
503
+ 492,
504
+ 493,
505
+ 494,
506
+ 495,
507
+ 496,
508
+ 497,
509
+ 498,
510
+ 499,
511
+ 500,
512
+ 501,
513
+ 502,
514
+ 503,
515
+ 504,
516
+ 505,
517
+ 506,
518
+ 507,
519
+ 508,
520
+ 509,
521
+ 510,
522
+ 511,
523
+ 512,
524
+ 513,
525
+ 514,
526
+ 515,
527
+ 516,
528
+ 517,
529
+ 518,
530
+ 519,
531
+ 520,
532
+ 521,
533
+ 522,
534
+ 523,
535
+ 524,
536
+ 525,
537
+ 526,
538
+ 527,
539
+ 528,
540
+ 529,
541
+ 530,
542
+ 531,
543
+ 532,
544
+ 533,
545
+ 534,
546
+ 535,
547
+ 536,
548
+ 537,
549
+ 538,
550
+ 539,
551
+ 540,
552
+ 541,
553
+ 542,
554
+ 543,
555
+ 544,
556
+ 545,
557
+ 546,
558
+ 547,
559
+ 548,
560
+ 549,
561
+ 550,
562
+ 551,
563
+ 552,
564
+ 553,
565
+ 554,
566
+ 555,
567
+ 556,
568
+ 557,
569
+ 558,
570
+ 559,
571
+ 560,
572
+ 561,
573
+ 562,
574
+ 563,
575
+ 564,
576
+ 565,
577
+ 566,
578
+ 567,
579
+ 568,
580
+ 569,
581
+ 570,
582
+ 571,
583
+ 572,
584
+ 573,
585
+ 574,
586
+ 575,
587
+ 576,
588
+ 577,
589
+ 578,
590
+ 579,
591
+ 580,
592
+ 581,
593
+ 582,
594
+ 583,
595
+ 584,
596
+ 585,
597
+ 586,
598
+ 587,
599
+ 588,
600
+ 589,
601
+ 590,
602
+ 591,
603
+ 592,
604
+ 593,
605
+ 594,
606
+ 595,
607
+ 596,
608
+ 597,
609
+ 598,
610
+ 599,
611
+ 600,
612
+ 601,
613
+ 603,
614
+ 604,
615
+ 605,
616
+ 606,
617
+ 607,
618
+ 608,
619
+ 609,
620
+ 610,
621
+ 611,
622
+ 612,
623
+ 613,
624
+ 614,
625
+ 616,
626
+ 617,
627
+ 618,
628
+ 619,
629
+ 620,
630
+ 621,
631
+ 622,
632
+ 623,
633
+ 624,
634
+ 625,
635
+ 626,
636
+ 627,
637
+ 628,
638
+ 629,
639
+ 630,
640
+ 631,
641
+ 632,
642
+ 633,
643
+ 634,
644
+ 635,
645
+ 636,
646
+ 637,
647
+ 638,
648
+ 639,
649
+ 640,
650
+ 641,
651
+ 642,
652
+ 643,
653
+ 644,
654
+ 645,
655
+ 646,
656
+ 647,
657
+ 648,
658
+ 649,
659
+ 650,
660
+ 651,
661
+ 652,
662
+ 653,
663
+ 654,
664
+ 655,
665
+ 656,
666
+ 657,
667
+ 658,
668
+ 659,
669
+ 660,
670
+ 661,
671
+ 662,
672
+ 663,
673
+ 664,
674
+ 665,
675
+ 666,
676
+ 667,
677
+ 668,
678
+ 669,
679
+ 670,
680
+ 671,
681
+ 672,
682
+ 673,
683
+ 674,
684
+ 675,
685
+ 676,
686
+ 677,
687
+ 678,
688
+ 679,
689
+ 680,
690
+ 681,
691
+ 682,
692
+ 683,
693
+ 684,
694
+ 685,
695
+ 686,
696
+ 687,
697
+ 688,
698
+ 689,
699
+ 690,
700
+ 691,
701
+ 692,
702
+ 693,
703
+ 694,
704
+ 695,
705
+ 696,
706
+ 697,
707
+ 698,
708
+ 699,
709
+ 700,
710
+ 701,
711
+ 702,
712
+ 703,
713
+ 704,
714
+ 705,
715
+ 706,
716
+ 707,
717
+ 708,
718
+ 709,
719
+ 710,
720
+ 711,
721
+ 712,
722
+ 713,
723
+ 714,
724
+ 715,
725
+ 716,
726
+ 717,
727
+ 718,
728
+ 719,
729
+ 795,
730
+ 796,
731
+ 797,
732
+ 798,
733
+ 799,
734
+ 800,
735
+ 801,
736
+ 802,
737
+ 803,
738
+ 804,
739
+ 805,
740
+ 806,
741
+ 807,
742
+ 808,
743
+ 809,
744
+ 810,
745
+ 811,
746
+ 812,
747
+ 813,
748
+ 814,
749
+ 815,
750
+ 816,
751
+ 817,
752
+ 818,
753
+ 819,
754
+ 820,
755
+ 821,
756
+ 822,
757
+ 823,
758
+ 824,
759
+ 825,
760
+ 829,
761
+ 830,
762
+ 831,
763
+ 832,
764
+ 834,
765
+ 835,
766
+ 836,
767
+ 839,
768
+ 840,
769
+ 841,
770
+ 842,
771
+ 844,
772
+ 846,
773
+ 847,
774
+ 849,
775
+ 850,
776
+ 851,
777
+ 852,
778
+ 854,
779
+ 855,
780
+ 856,
781
+ 857,
782
+ 858,
783
+ 859,
784
+ 860,
785
+ 861,
786
+ 862,
787
+ 863,
788
+ 864,
789
+ 865,
790
+ 866,
791
+ 867,
792
+ 869,
793
+ 870,
794
+ 871,
795
+ 872,
796
+ 873,
797
+ 874,
798
+ 875,
799
+ 876,
800
+ 877,
801
+ 878,
802
+ 879,
803
+ 880,
804
+ 881,
805
+ 882,
806
+ 883,
807
+ 884,
808
+ 885,
809
+ 886,
810
+ 887,
811
+ 888,
812
+ 889,
813
+ 890,
814
+ 891,
815
+ 892,
816
+ 893,
817
+ 894,
818
+ 895,
819
+ 896,
820
+ 897,
821
+ 898,
822
+ 899,
823
+ 900,
824
+ 901,
825
+ 902,
826
+ 903,
827
+ 904,
828
+ 905,
829
+ 906,
830
+ 907,
831
+ 908,
832
+ 909,
833
+ 910,
834
+ 911,
835
+ 912,
836
+ 913,
837
+ 914,
838
+ 915,
839
+ 916,
840
+ 917,
841
+ 918,
842
+ 919,
843
+ 920,
844
+ 921,
845
+ 922,
846
+ 923,
847
+ 924,
848
+ 925,
849
+ 926,
850
+ 927,
851
+ 928,
852
+ 929,
853
+ 930,
854
+ 931,
855
+ 932,
856
+ 933,
857
+ 934,
858
+ 935,
859
+ 936,
860
+ 937,
861
+ 938,
862
+ 939,
863
+ 940,
864
+ 941,
865
+ 942,
866
+ 943,
867
+ 944,
868
+ 945,
869
+ 946,
870
+ 947,
871
+ 948,
872
+ 949,
873
+ 950,
874
+ 951,
875
+ 952,
876
+ 953,
877
+ 954,
878
+ 955,
879
+ 956,
880
+ 957,
881
+ 958,
882
+ 959,
883
+ 960,
884
+ 961,
885
+ 962,
886
+ 963,
887
+ 964,
888
+ 965,
889
+ 966,
890
+ 967,
891
+ 968,
892
+ 969,
893
+ 970,
894
+ 971,
895
+ 972,
896
+ 973,
897
+ 974,
898
+ 975,
899
+ 976,
900
+ 977,
901
+ 978,
902
+ 979,
903
+ 980,
904
+ 981,
905
+ 982,
906
+ 983,
907
+ 984,
908
+ 985,
909
+ 986,
910
+ 987,
911
+ 988,
912
+ 989,
913
+ 990,
914
+ 991,
915
+ 992,
916
+ 993,
917
+ 994,
918
+ 995,
919
+ 996,
920
+ 997,
921
+ 998,
922
+ 999,
923
+ 1000,
924
+ 1001,
925
+ 1002,
926
+ 1003,
927
+ 1004,
928
+ 1005,
929
+ 1006,
930
+ 1007,
931
+ 1008,
932
+ 1009,
933
+ 1010,
934
+ 1011,
935
+ 1012,
936
+ 1013,
937
+ 1014,
938
+ 1015,
939
+ 1016,
940
+ 1017,
941
+ 1018,
942
+ 1019,
943
+ 1020,
944
+ 1021,
945
+ 1022,
946
+ 1023,
947
+ 1024,
948
+ 1025,
949
+ 1026,
950
+ 1027,
951
+ 1028,
952
+ 1029,
953
+ 1030,
954
+ 1031,
955
+ 1032,
956
+ 1033,
957
+ 1034,
958
+ 1035,
959
+ 1036,
960
+ 1037,
961
+ 1038,
962
+ 1039,
963
+ 1040,
964
+ 1041,
965
+ 1042,
966
+ 1043,
967
+ 1044,
968
+ 1045,
969
+ 1046,
970
+ 1047,
971
+ 1049,
972
+ 1050,
973
+ 1052,
974
+ 1054,
975
+ 1055,
976
+ 1057,
977
+ 1059,
978
+ 1061,
979
+ 1062,
980
+ 1064,
981
+ 1065,
982
+ 1066,
983
+ 1067,
984
+ 1068,
985
+ 1069,
986
+ 1070,
987
+ 1071,
988
+ 1072,
989
+ 1073,
990
+ 1074,
991
+ 1075,
992
+ 1076,
993
+ 1077,
994
+ 1078,
995
+ 1079,
996
+ 1080,
997
+ 1081,
998
+ 1082,
999
+ 1083,
1000
+ 1084,
1001
+ 1085,
1002
+ 1086,
1003
+ 1087,
1004
+ 1088,
1005
+ 1089,
1006
+ 1090,
1007
+ 1091,
1008
+ 1092,
1009
+ 1093,
1010
+ 1094,
1011
+ 1095,
1012
+ 1096,
1013
+ 1097,
1014
+ 1098,
1015
+ 1099,
1016
+ 1100,
1017
+ 1101,
1018
+ 1102,
1019
+ 1103,
1020
+ 1104,
1021
+ 1105,
1022
+ 1106,
1023
+ 1107,
1024
+ 1108,
1025
+ 1109,
1026
+ 1110,
1027
+ 1111,
1028
+ 1112,
1029
+ 1113,
1030
+ 1114,
1031
+ 1115,
1032
+ 1116,
1033
+ 1117,
1034
+ 1118,
1035
+ 1119,
1036
+ 1120,
1037
+ 1121,
1038
+ 1122,
1039
+ 1123,
1040
+ 1124,
1041
+ 1125,
1042
+ 1126,
1043
+ 1127,
1044
+ 1128,
1045
+ 1129,
1046
+ 1130,
1047
+ 1131,
1048
+ 1132,
1049
+ 1133,
1050
+ 1134,
1051
+ 1135,
1052
+ 1136,
1053
+ 1137,
1054
+ 1138,
1055
+ 1139,
1056
+ 1140,
1057
+ 1141,
1058
+ 1142,
1059
+ 1143,
1060
+ 1144,
1061
+ 1145,
1062
+ 1146,
1063
+ 1147,
1064
+ 1148,
1065
+ 1149,
1066
+ 1150,
1067
+ 1151,
1068
+ 1152,
1069
+ 1153,
1070
+ 1154,
1071
+ 1155,
1072
+ 1156,
1073
+ 1157,
1074
+ 1158,
1075
+ 1159,
1076
+ 1160,
1077
+ 1161,
1078
+ 1162,
1079
+ 1163,
1080
+ 1164,
1081
+ 1165,
1082
+ 1166,
1083
+ 1167,
1084
+ 1168,
1085
+ 1169,
1086
+ 1170,
1087
+ 1171,
1088
+ 1172,
1089
+ 1173,
1090
+ 1174,
1091
+ 1175,
1092
+ 1176,
1093
+ 1177,
1094
+ 1178,
1095
+ 1179,
1096
+ 1180,
1097
+ 1181,
1098
+ 1182,
1099
+ 1183,
1100
+ 1184,
1101
+ 1185,
1102
+ 1186,
1103
+ 1187,
1104
+ 1188,
1105
+ 1189,
1106
+ 1190,
1107
+ 1191,
1108
+ 1192,
1109
+ 1193,
1110
+ 1194,
1111
+ 1210,
1112
+ 1217,
1113
+ 1221,
1114
+ 1225,
1115
+ 1228,
1116
+ 1230,
1117
+ 1232,
1118
+ 1237,
1119
+ 1238,
1120
+ 1241,
1121
+ 1245,
1122
+ 1248,
1123
+ 1250,
1124
+ 1252,
1125
+ 1277,
1126
+ 1278,
1127
+ 1281,
1128
+ 1282,
1129
+ 1283,
1130
+ 1285,
1131
+ 1288,
1132
+ 1290,
1133
+ 1291,
1134
+ 1294
1135
+ ],
1136
+ "not_both_correct_indices": [
1137
+ 602,
1138
+ 615,
1139
+ 720,
1140
+ 721,
1141
+ 722,
1142
+ 723,
1143
+ 724,
1144
+ 725,
1145
+ 726,
1146
+ 727,
1147
+ 728,
1148
+ 729,
1149
+ 730,
1150
+ 731,
1151
+ 732,
1152
+ 733,
1153
+ 734,
1154
+ 735,
1155
+ 736,
1156
+ 737,
1157
+ 738,
1158
+ 739,
1159
+ 740,
1160
+ 741,
1161
+ 742,
1162
+ 743,
1163
+ 744,
1164
+ 745,
1165
+ 746,
1166
+ 747,
1167
+ 748,
1168
+ 749,
1169
+ 750,
1170
+ 751,
1171
+ 752,
1172
+ 753,
1173
+ 754,
1174
+ 755,
1175
+ 756,
1176
+ 757,
1177
+ 758,
1178
+ 759,
1179
+ 760,
1180
+ 761,
1181
+ 762,
1182
+ 763,
1183
+ 764,
1184
+ 765,
1185
+ 766,
1186
+ 767,
1187
+ 768,
1188
+ 769,
1189
+ 770,
1190
+ 771,
1191
+ 772,
1192
+ 773,
1193
+ 774,
1194
+ 775,
1195
+ 776,
1196
+ 777,
1197
+ 778,
1198
+ 779,
1199
+ 780,
1200
+ 781,
1201
+ 782,
1202
+ 783,
1203
+ 784,
1204
+ 785,
1205
+ 786,
1206
+ 787,
1207
+ 788,
1208
+ 789,
1209
+ 790,
1210
+ 791,
1211
+ 792,
1212
+ 793,
1213
+ 794,
1214
+ 826,
1215
+ 827,
1216
+ 828,
1217
+ 833,
1218
+ 837,
1219
+ 838,
1220
+ 843,
1221
+ 845,
1222
+ 848,
1223
+ 853,
1224
+ 868,
1225
+ 1048,
1226
+ 1051,
1227
+ 1053,
1228
+ 1056,
1229
+ 1058,
1230
+ 1060,
1231
+ 1063,
1232
+ 1195,
1233
+ 1196,
1234
+ 1197,
1235
+ 1198,
1236
+ 1199,
1237
+ 1200,
1238
+ 1201,
1239
+ 1202,
1240
+ 1203,
1241
+ 1204,
1242
+ 1205,
1243
+ 1206,
1244
+ 1207,
1245
+ 1208,
1246
+ 1209,
1247
+ 1211,
1248
+ 1212,
1249
+ 1213,
1250
+ 1214,
1251
+ 1215,
1252
+ 1216,
1253
+ 1218,
1254
+ 1219,
1255
+ 1220,
1256
+ 1222,
1257
+ 1223,
1258
+ 1224,
1259
+ 1226,
1260
+ 1227,
1261
+ 1229,
1262
+ 1231,
1263
+ 1233,
1264
+ 1234,
1265
+ 1235,
1266
+ 1236,
1267
+ 1239,
1268
+ 1240,
1269
+ 1242,
1270
+ 1243,
1271
+ 1244,
1272
+ 1246,
1273
+ 1247,
1274
+ 1249,
1275
+ 1251,
1276
+ 1253,
1277
+ 1254,
1278
+ 1255,
1279
+ 1256,
1280
+ 1257,
1281
+ 1258,
1282
+ 1259,
1283
+ 1260,
1284
+ 1261,
1285
+ 1262,
1286
+ 1263,
1287
+ 1264,
1288
+ 1265,
1289
+ 1266,
1290
+ 1267,
1291
+ 1268,
1292
+ 1269,
1293
+ 1270,
1294
+ 1271,
1295
+ 1272,
1296
+ 1273,
1297
+ 1274,
1298
+ 1275,
1299
+ 1276,
1300
+ 1279,
1301
+ 1280,
1302
+ 1284,
1303
+ 1286,
1304
+ 1287,
1305
+ 1289,
1306
+ 1292,
1307
+ 1293
1308
+ ],
1309
+ "clean_baseline": 10.734375,
1310
+ "corrupted_baseline": -14.375
1311
+ }
results/Qwen_Qwen2-5-32B-Instruct/ToM/primary_emotions/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:cded628c177b07dda6ae35d8ea63aef65f110abcbf28b7a9617b60545b80f9f8
3
+ size 14157430
results/Qwen_Qwen2-5-32B-Instruct/ToM/primary_emotions/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:d6b868f1091ae4ead8e2c3725fd083d5634853de19f88f76866311e0c18c40ec
3
+ size 6725184
results/Qwen_Qwen2-5-32B-Instruct/ToM/secondary_emotions/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/Qwen_Qwen2-5-32B-Instruct/ToM/secondary_emotions/baselines.json ADDED
@@ -0,0 +1,1616 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1600,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1600,
6
+ "clean_accuracy": 0.82625,
7
+ "corrupted_accuracy": 0.841875,
8
+ "both_correct_accuracy": 0.668125,
9
+ "n_both_correct": 1069,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 129,
141
+ 130,
142
+ 131,
143
+ 132,
144
+ 133,
145
+ 134,
146
+ 135,
147
+ 136,
148
+ 137,
149
+ 138,
150
+ 139,
151
+ 140,
152
+ 141,
153
+ 142,
154
+ 143,
155
+ 144,
156
+ 145,
157
+ 146,
158
+ 147,
159
+ 148,
160
+ 149,
161
+ 150,
162
+ 151,
163
+ 152,
164
+ 153,
165
+ 154,
166
+ 155,
167
+ 156,
168
+ 157,
169
+ 158,
170
+ 159,
171
+ 160,
172
+ 161,
173
+ 162,
174
+ 163,
175
+ 164,
176
+ 165,
177
+ 166,
178
+ 167,
179
+ 168,
180
+ 169,
181
+ 170,
182
+ 171,
183
+ 172,
184
+ 173,
185
+ 174,
186
+ 175,
187
+ 176,
188
+ 177,
189
+ 178,
190
+ 179,
191
+ 180,
192
+ 181,
193
+ 182,
194
+ 183,
195
+ 184,
196
+ 185,
197
+ 186,
198
+ 187,
199
+ 188,
200
+ 189,
201
+ 190,
202
+ 191,
203
+ 192,
204
+ 193,
205
+ 194,
206
+ 195,
207
+ 196,
208
+ 197,
209
+ 198,
210
+ 199,
211
+ 200,
212
+ 201,
213
+ 202,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 209,
221
+ 210,
222
+ 211,
223
+ 212,
224
+ 213,
225
+ 214,
226
+ 215,
227
+ 216,
228
+ 217,
229
+ 218,
230
+ 219,
231
+ 220,
232
+ 221,
233
+ 222,
234
+ 223,
235
+ 224,
236
+ 225,
237
+ 226,
238
+ 227,
239
+ 228,
240
+ 229,
241
+ 230,
242
+ 231,
243
+ 232,
244
+ 233,
245
+ 234,
246
+ 235,
247
+ 236,
248
+ 237,
249
+ 238,
250
+ 239,
251
+ 240,
252
+ 241,
253
+ 242,
254
+ 243,
255
+ 244,
256
+ 245,
257
+ 246,
258
+ 247,
259
+ 248,
260
+ 249,
261
+ 250,
262
+ 251,
263
+ 252,
264
+ 253,
265
+ 254,
266
+ 255,
267
+ 256,
268
+ 257,
269
+ 258,
270
+ 259,
271
+ 260,
272
+ 261,
273
+ 262,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 274,
286
+ 275,
287
+ 276,
288
+ 279,
289
+ 286,
290
+ 291,
291
+ 295,
292
+ 296,
293
+ 297,
294
+ 298,
295
+ 299,
296
+ 301,
297
+ 304,
298
+ 305,
299
+ 306,
300
+ 307,
301
+ 311,
302
+ 312,
303
+ 314,
304
+ 315,
305
+ 316,
306
+ 319,
307
+ 321,
308
+ 322,
309
+ 326,
310
+ 327,
311
+ 328,
312
+ 329,
313
+ 331,
314
+ 332,
315
+ 334,
316
+ 335,
317
+ 339,
318
+ 346,
319
+ 355,
320
+ 359,
321
+ 361,
322
+ 366,
323
+ 367,
324
+ 369,
325
+ 371,
326
+ 375,
327
+ 376,
328
+ 377,
329
+ 378,
330
+ 379,
331
+ 380,
332
+ 381,
333
+ 382,
334
+ 383,
335
+ 384,
336
+ 385,
337
+ 386,
338
+ 387,
339
+ 388,
340
+ 389,
341
+ 390,
342
+ 391,
343
+ 392,
344
+ 393,
345
+ 394,
346
+ 395,
347
+ 396,
348
+ 397,
349
+ 398,
350
+ 399,
351
+ 400,
352
+ 401,
353
+ 402,
354
+ 403,
355
+ 404,
356
+ 405,
357
+ 406,
358
+ 407,
359
+ 408,
360
+ 409,
361
+ 410,
362
+ 411,
363
+ 412,
364
+ 413,
365
+ 414,
366
+ 415,
367
+ 416,
368
+ 417,
369
+ 418,
370
+ 419,
371
+ 420,
372
+ 421,
373
+ 422,
374
+ 423,
375
+ 424,
376
+ 425,
377
+ 426,
378
+ 427,
379
+ 428,
380
+ 429,
381
+ 430,
382
+ 431,
383
+ 432,
384
+ 433,
385
+ 434,
386
+ 435,
387
+ 436,
388
+ 437,
389
+ 438,
390
+ 439,
391
+ 440,
392
+ 441,
393
+ 442,
394
+ 443,
395
+ 444,
396
+ 445,
397
+ 446,
398
+ 447,
399
+ 448,
400
+ 449,
401
+ 451,
402
+ 455,
403
+ 458,
404
+ 471,
405
+ 475,
406
+ 478,
407
+ 491,
408
+ 495,
409
+ 511,
410
+ 531,
411
+ 535,
412
+ 540,
413
+ 541,
414
+ 551,
415
+ 552,
416
+ 561,
417
+ 564,
418
+ 568,
419
+ 570,
420
+ 571,
421
+ 572,
422
+ 573,
423
+ 574,
424
+ 575,
425
+ 576,
426
+ 577,
427
+ 578,
428
+ 579,
429
+ 580,
430
+ 581,
431
+ 582,
432
+ 583,
433
+ 584,
434
+ 585,
435
+ 586,
436
+ 587,
437
+ 589,
438
+ 590,
439
+ 591,
440
+ 592,
441
+ 593,
442
+ 594,
443
+ 595,
444
+ 596,
445
+ 597,
446
+ 598,
447
+ 599,
448
+ 600,
449
+ 601,
450
+ 602,
451
+ 603,
452
+ 604,
453
+ 605,
454
+ 606,
455
+ 608,
456
+ 609,
457
+ 611,
458
+ 612,
459
+ 618,
460
+ 621,
461
+ 624,
462
+ 625,
463
+ 630,
464
+ 631,
465
+ 635,
466
+ 638,
467
+ 641,
468
+ 645,
469
+ 650,
470
+ 651,
471
+ 652,
472
+ 653,
473
+ 654,
474
+ 655,
475
+ 656,
476
+ 657,
477
+ 658,
478
+ 659,
479
+ 660,
480
+ 661,
481
+ 662,
482
+ 663,
483
+ 664,
484
+ 665,
485
+ 666,
486
+ 667,
487
+ 668,
488
+ 669,
489
+ 670,
490
+ 671,
491
+ 672,
492
+ 673,
493
+ 674,
494
+ 675,
495
+ 676,
496
+ 677,
497
+ 678,
498
+ 679,
499
+ 680,
500
+ 681,
501
+ 682,
502
+ 683,
503
+ 684,
504
+ 685,
505
+ 686,
506
+ 687,
507
+ 688,
508
+ 689,
509
+ 690,
510
+ 691,
511
+ 692,
512
+ 693,
513
+ 694,
514
+ 695,
515
+ 696,
516
+ 697,
517
+ 698,
518
+ 699,
519
+ 700,
520
+ 701,
521
+ 702,
522
+ 703,
523
+ 704,
524
+ 705,
525
+ 706,
526
+ 707,
527
+ 708,
528
+ 709,
529
+ 710,
530
+ 711,
531
+ 712,
532
+ 713,
533
+ 714,
534
+ 715,
535
+ 716,
536
+ 717,
537
+ 718,
538
+ 719,
539
+ 720,
540
+ 721,
541
+ 722,
542
+ 723,
543
+ 724,
544
+ 725,
545
+ 726,
546
+ 727,
547
+ 728,
548
+ 729,
549
+ 730,
550
+ 731,
551
+ 732,
552
+ 733,
553
+ 734,
554
+ 735,
555
+ 736,
556
+ 737,
557
+ 738,
558
+ 739,
559
+ 740,
560
+ 741,
561
+ 742,
562
+ 743,
563
+ 744,
564
+ 745,
565
+ 746,
566
+ 747,
567
+ 748,
568
+ 749,
569
+ 750,
570
+ 751,
571
+ 752,
572
+ 753,
573
+ 754,
574
+ 755,
575
+ 756,
576
+ 757,
577
+ 758,
578
+ 759,
579
+ 760,
580
+ 761,
581
+ 762,
582
+ 763,
583
+ 764,
584
+ 765,
585
+ 766,
586
+ 767,
587
+ 768,
588
+ 769,
589
+ 770,
590
+ 771,
591
+ 772,
592
+ 773,
593
+ 774,
594
+ 775,
595
+ 776,
596
+ 777,
597
+ 778,
598
+ 779,
599
+ 780,
600
+ 781,
601
+ 782,
602
+ 783,
603
+ 784,
604
+ 785,
605
+ 786,
606
+ 787,
607
+ 788,
608
+ 789,
609
+ 790,
610
+ 791,
611
+ 792,
612
+ 793,
613
+ 794,
614
+ 795,
615
+ 796,
616
+ 797,
617
+ 798,
618
+ 799,
619
+ 800,
620
+ 801,
621
+ 802,
622
+ 803,
623
+ 804,
624
+ 805,
625
+ 806,
626
+ 807,
627
+ 808,
628
+ 809,
629
+ 810,
630
+ 811,
631
+ 812,
632
+ 813,
633
+ 814,
634
+ 815,
635
+ 816,
636
+ 817,
637
+ 818,
638
+ 819,
639
+ 820,
640
+ 821,
641
+ 822,
642
+ 823,
643
+ 824,
644
+ 825,
645
+ 826,
646
+ 827,
647
+ 828,
648
+ 829,
649
+ 830,
650
+ 831,
651
+ 832,
652
+ 833,
653
+ 834,
654
+ 835,
655
+ 836,
656
+ 837,
657
+ 838,
658
+ 839,
659
+ 840,
660
+ 841,
661
+ 842,
662
+ 843,
663
+ 844,
664
+ 845,
665
+ 846,
666
+ 847,
667
+ 848,
668
+ 849,
669
+ 850,
670
+ 851,
671
+ 852,
672
+ 853,
673
+ 854,
674
+ 855,
675
+ 856,
676
+ 857,
677
+ 858,
678
+ 859,
679
+ 860,
680
+ 861,
681
+ 862,
682
+ 863,
683
+ 864,
684
+ 865,
685
+ 866,
686
+ 867,
687
+ 868,
688
+ 869,
689
+ 870,
690
+ 871,
691
+ 872,
692
+ 873,
693
+ 874,
694
+ 875,
695
+ 876,
696
+ 877,
697
+ 878,
698
+ 879,
699
+ 880,
700
+ 881,
701
+ 882,
702
+ 883,
703
+ 884,
704
+ 885,
705
+ 886,
706
+ 887,
707
+ 888,
708
+ 889,
709
+ 890,
710
+ 891,
711
+ 892,
712
+ 893,
713
+ 894,
714
+ 895,
715
+ 896,
716
+ 897,
717
+ 898,
718
+ 899,
719
+ 900,
720
+ 901,
721
+ 902,
722
+ 903,
723
+ 904,
724
+ 905,
725
+ 906,
726
+ 907,
727
+ 908,
728
+ 909,
729
+ 910,
730
+ 911,
731
+ 912,
732
+ 913,
733
+ 914,
734
+ 915,
735
+ 916,
736
+ 917,
737
+ 918,
738
+ 919,
739
+ 920,
740
+ 921,
741
+ 922,
742
+ 923,
743
+ 924,
744
+ 925,
745
+ 926,
746
+ 927,
747
+ 928,
748
+ 929,
749
+ 930,
750
+ 931,
751
+ 932,
752
+ 933,
753
+ 934,
754
+ 935,
755
+ 936,
756
+ 937,
757
+ 938,
758
+ 939,
759
+ 940,
760
+ 941,
761
+ 942,
762
+ 943,
763
+ 944,
764
+ 945,
765
+ 946,
766
+ 947,
767
+ 948,
768
+ 949,
769
+ 1050,
770
+ 1051,
771
+ 1052,
772
+ 1053,
773
+ 1054,
774
+ 1055,
775
+ 1056,
776
+ 1057,
777
+ 1058,
778
+ 1059,
779
+ 1060,
780
+ 1061,
781
+ 1062,
782
+ 1063,
783
+ 1064,
784
+ 1065,
785
+ 1066,
786
+ 1067,
787
+ 1068,
788
+ 1069,
789
+ 1070,
790
+ 1071,
791
+ 1072,
792
+ 1073,
793
+ 1074,
794
+ 1075,
795
+ 1076,
796
+ 1077,
797
+ 1078,
798
+ 1079,
799
+ 1080,
800
+ 1081,
801
+ 1082,
802
+ 1083,
803
+ 1084,
804
+ 1085,
805
+ 1086,
806
+ 1087,
807
+ 1088,
808
+ 1089,
809
+ 1090,
810
+ 1091,
811
+ 1092,
812
+ 1093,
813
+ 1094,
814
+ 1095,
815
+ 1096,
816
+ 1097,
817
+ 1098,
818
+ 1099,
819
+ 1100,
820
+ 1101,
821
+ 1102,
822
+ 1103,
823
+ 1104,
824
+ 1105,
825
+ 1106,
826
+ 1107,
827
+ 1108,
828
+ 1109,
829
+ 1110,
830
+ 1111,
831
+ 1112,
832
+ 1113,
833
+ 1114,
834
+ 1115,
835
+ 1116,
836
+ 1117,
837
+ 1118,
838
+ 1119,
839
+ 1120,
840
+ 1121,
841
+ 1122,
842
+ 1123,
843
+ 1124,
844
+ 1125,
845
+ 1126,
846
+ 1127,
847
+ 1128,
848
+ 1129,
849
+ 1130,
850
+ 1131,
851
+ 1132,
852
+ 1133,
853
+ 1134,
854
+ 1135,
855
+ 1136,
856
+ 1137,
857
+ 1138,
858
+ 1139,
859
+ 1140,
860
+ 1141,
861
+ 1142,
862
+ 1143,
863
+ 1144,
864
+ 1145,
865
+ 1147,
866
+ 1148,
867
+ 1149,
868
+ 1150,
869
+ 1151,
870
+ 1152,
871
+ 1153,
872
+ 1154,
873
+ 1155,
874
+ 1156,
875
+ 1157,
876
+ 1158,
877
+ 1159,
878
+ 1160,
879
+ 1161,
880
+ 1162,
881
+ 1163,
882
+ 1164,
883
+ 1165,
884
+ 1166,
885
+ 1167,
886
+ 1168,
887
+ 1169,
888
+ 1174,
889
+ 1176,
890
+ 1177,
891
+ 1178,
892
+ 1182,
893
+ 1183,
894
+ 1185,
895
+ 1186,
896
+ 1187,
897
+ 1189,
898
+ 1210,
899
+ 1211,
900
+ 1212,
901
+ 1213,
902
+ 1214,
903
+ 1215,
904
+ 1216,
905
+ 1217,
906
+ 1218,
907
+ 1219,
908
+ 1220,
909
+ 1221,
910
+ 1222,
911
+ 1223,
912
+ 1224,
913
+ 1225,
914
+ 1226,
915
+ 1227,
916
+ 1228,
917
+ 1229,
918
+ 1230,
919
+ 1234,
920
+ 1235,
921
+ 1236,
922
+ 1237,
923
+ 1238,
924
+ 1239,
925
+ 1240,
926
+ 1242,
927
+ 1244,
928
+ 1246,
929
+ 1247,
930
+ 1249,
931
+ 1250,
932
+ 1251,
933
+ 1252,
934
+ 1253,
935
+ 1254,
936
+ 1255,
937
+ 1256,
938
+ 1257,
939
+ 1258,
940
+ 1259,
941
+ 1260,
942
+ 1261,
943
+ 1262,
944
+ 1263,
945
+ 1264,
946
+ 1265,
947
+ 1266,
948
+ 1267,
949
+ 1268,
950
+ 1269,
951
+ 1350,
952
+ 1351,
953
+ 1352,
954
+ 1353,
955
+ 1354,
956
+ 1355,
957
+ 1356,
958
+ 1357,
959
+ 1358,
960
+ 1359,
961
+ 1360,
962
+ 1361,
963
+ 1362,
964
+ 1363,
965
+ 1364,
966
+ 1365,
967
+ 1366,
968
+ 1367,
969
+ 1368,
970
+ 1369,
971
+ 1370,
972
+ 1371,
973
+ 1372,
974
+ 1373,
975
+ 1374,
976
+ 1375,
977
+ 1376,
978
+ 1377,
979
+ 1378,
980
+ 1379,
981
+ 1380,
982
+ 1381,
983
+ 1382,
984
+ 1383,
985
+ 1384,
986
+ 1385,
987
+ 1386,
988
+ 1387,
989
+ 1388,
990
+ 1389,
991
+ 1390,
992
+ 1391,
993
+ 1392,
994
+ 1393,
995
+ 1394,
996
+ 1395,
997
+ 1396,
998
+ 1397,
999
+ 1398,
1000
+ 1399,
1001
+ 1400,
1002
+ 1401,
1003
+ 1402,
1004
+ 1403,
1005
+ 1404,
1006
+ 1405,
1007
+ 1406,
1008
+ 1407,
1009
+ 1408,
1010
+ 1409,
1011
+ 1410,
1012
+ 1411,
1013
+ 1412,
1014
+ 1413,
1015
+ 1414,
1016
+ 1415,
1017
+ 1416,
1018
+ 1417,
1019
+ 1418,
1020
+ 1419,
1021
+ 1420,
1022
+ 1421,
1023
+ 1422,
1024
+ 1423,
1025
+ 1424,
1026
+ 1500,
1027
+ 1501,
1028
+ 1502,
1029
+ 1503,
1030
+ 1505,
1031
+ 1506,
1032
+ 1507,
1033
+ 1508,
1034
+ 1510,
1035
+ 1512,
1036
+ 1513,
1037
+ 1515,
1038
+ 1518,
1039
+ 1521,
1040
+ 1528,
1041
+ 1560,
1042
+ 1561,
1043
+ 1562,
1044
+ 1563,
1045
+ 1564,
1046
+ 1565,
1047
+ 1566,
1048
+ 1567,
1049
+ 1568,
1050
+ 1569,
1051
+ 1570,
1052
+ 1571,
1053
+ 1572,
1054
+ 1573,
1055
+ 1574,
1056
+ 1575,
1057
+ 1576,
1058
+ 1577,
1059
+ 1578,
1060
+ 1580,
1061
+ 1581,
1062
+ 1582,
1063
+ 1583,
1064
+ 1584,
1065
+ 1585,
1066
+ 1586,
1067
+ 1587,
1068
+ 1588,
1069
+ 1589,
1070
+ 1590,
1071
+ 1591,
1072
+ 1592,
1073
+ 1593,
1074
+ 1594,
1075
+ 1595,
1076
+ 1596,
1077
+ 1597,
1078
+ 1598,
1079
+ 1599
1080
+ ],
1081
+ "not_both_correct_indices": [
1082
+ 277,
1083
+ 278,
1084
+ 280,
1085
+ 281,
1086
+ 282,
1087
+ 283,
1088
+ 284,
1089
+ 285,
1090
+ 287,
1091
+ 288,
1092
+ 289,
1093
+ 290,
1094
+ 292,
1095
+ 293,
1096
+ 294,
1097
+ 300,
1098
+ 302,
1099
+ 303,
1100
+ 308,
1101
+ 309,
1102
+ 310,
1103
+ 313,
1104
+ 317,
1105
+ 318,
1106
+ 320,
1107
+ 323,
1108
+ 324,
1109
+ 325,
1110
+ 330,
1111
+ 333,
1112
+ 336,
1113
+ 337,
1114
+ 338,
1115
+ 340,
1116
+ 341,
1117
+ 342,
1118
+ 343,
1119
+ 344,
1120
+ 345,
1121
+ 347,
1122
+ 348,
1123
+ 349,
1124
+ 350,
1125
+ 351,
1126
+ 352,
1127
+ 353,
1128
+ 354,
1129
+ 356,
1130
+ 357,
1131
+ 358,
1132
+ 360,
1133
+ 362,
1134
+ 363,
1135
+ 364,
1136
+ 365,
1137
+ 368,
1138
+ 370,
1139
+ 372,
1140
+ 373,
1141
+ 374,
1142
+ 450,
1143
+ 452,
1144
+ 453,
1145
+ 454,
1146
+ 456,
1147
+ 457,
1148
+ 459,
1149
+ 460,
1150
+ 461,
1151
+ 462,
1152
+ 463,
1153
+ 464,
1154
+ 465,
1155
+ 466,
1156
+ 467,
1157
+ 468,
1158
+ 469,
1159
+ 470,
1160
+ 472,
1161
+ 473,
1162
+ 474,
1163
+ 476,
1164
+ 477,
1165
+ 479,
1166
+ 480,
1167
+ 481,
1168
+ 482,
1169
+ 483,
1170
+ 484,
1171
+ 485,
1172
+ 486,
1173
+ 487,
1174
+ 488,
1175
+ 489,
1176
+ 490,
1177
+ 492,
1178
+ 493,
1179
+ 494,
1180
+ 496,
1181
+ 497,
1182
+ 498,
1183
+ 499,
1184
+ 500,
1185
+ 501,
1186
+ 502,
1187
+ 503,
1188
+ 504,
1189
+ 505,
1190
+ 506,
1191
+ 507,
1192
+ 508,
1193
+ 509,
1194
+ 510,
1195
+ 512,
1196
+ 513,
1197
+ 514,
1198
+ 515,
1199
+ 516,
1200
+ 517,
1201
+ 518,
1202
+ 519,
1203
+ 520,
1204
+ 521,
1205
+ 522,
1206
+ 523,
1207
+ 524,
1208
+ 525,
1209
+ 526,
1210
+ 527,
1211
+ 528,
1212
+ 529,
1213
+ 530,
1214
+ 532,
1215
+ 533,
1216
+ 534,
1217
+ 536,
1218
+ 537,
1219
+ 538,
1220
+ 539,
1221
+ 542,
1222
+ 543,
1223
+ 544,
1224
+ 545,
1225
+ 546,
1226
+ 547,
1227
+ 548,
1228
+ 549,
1229
+ 550,
1230
+ 553,
1231
+ 554,
1232
+ 555,
1233
+ 556,
1234
+ 557,
1235
+ 558,
1236
+ 559,
1237
+ 560,
1238
+ 562,
1239
+ 563,
1240
+ 565,
1241
+ 566,
1242
+ 567,
1243
+ 569,
1244
+ 588,
1245
+ 607,
1246
+ 610,
1247
+ 613,
1248
+ 614,
1249
+ 615,
1250
+ 616,
1251
+ 617,
1252
+ 619,
1253
+ 620,
1254
+ 622,
1255
+ 623,
1256
+ 626,
1257
+ 627,
1258
+ 628,
1259
+ 629,
1260
+ 632,
1261
+ 633,
1262
+ 634,
1263
+ 636,
1264
+ 637,
1265
+ 639,
1266
+ 640,
1267
+ 642,
1268
+ 643,
1269
+ 644,
1270
+ 646,
1271
+ 647,
1272
+ 648,
1273
+ 649,
1274
+ 950,
1275
+ 951,
1276
+ 952,
1277
+ 953,
1278
+ 954,
1279
+ 955,
1280
+ 956,
1281
+ 957,
1282
+ 958,
1283
+ 959,
1284
+ 960,
1285
+ 961,
1286
+ 962,
1287
+ 963,
1288
+ 964,
1289
+ 965,
1290
+ 966,
1291
+ 967,
1292
+ 968,
1293
+ 969,
1294
+ 970,
1295
+ 971,
1296
+ 972,
1297
+ 973,
1298
+ 974,
1299
+ 975,
1300
+ 976,
1301
+ 977,
1302
+ 978,
1303
+ 979,
1304
+ 980,
1305
+ 981,
1306
+ 982,
1307
+ 983,
1308
+ 984,
1309
+ 985,
1310
+ 986,
1311
+ 987,
1312
+ 988,
1313
+ 989,
1314
+ 990,
1315
+ 991,
1316
+ 992,
1317
+ 993,
1318
+ 994,
1319
+ 995,
1320
+ 996,
1321
+ 997,
1322
+ 998,
1323
+ 999,
1324
+ 1000,
1325
+ 1001,
1326
+ 1002,
1327
+ 1003,
1328
+ 1004,
1329
+ 1005,
1330
+ 1006,
1331
+ 1007,
1332
+ 1008,
1333
+ 1009,
1334
+ 1010,
1335
+ 1011,
1336
+ 1012,
1337
+ 1013,
1338
+ 1014,
1339
+ 1015,
1340
+ 1016,
1341
+ 1017,
1342
+ 1018,
1343
+ 1019,
1344
+ 1020,
1345
+ 1021,
1346
+ 1022,
1347
+ 1023,
1348
+ 1024,
1349
+ 1025,
1350
+ 1026,
1351
+ 1027,
1352
+ 1028,
1353
+ 1029,
1354
+ 1030,
1355
+ 1031,
1356
+ 1032,
1357
+ 1033,
1358
+ 1034,
1359
+ 1035,
1360
+ 1036,
1361
+ 1037,
1362
+ 1038,
1363
+ 1039,
1364
+ 1040,
1365
+ 1041,
1366
+ 1042,
1367
+ 1043,
1368
+ 1044,
1369
+ 1045,
1370
+ 1046,
1371
+ 1047,
1372
+ 1048,
1373
+ 1049,
1374
+ 1146,
1375
+ 1170,
1376
+ 1171,
1377
+ 1172,
1378
+ 1173,
1379
+ 1175,
1380
+ 1179,
1381
+ 1180,
1382
+ 1181,
1383
+ 1184,
1384
+ 1188,
1385
+ 1190,
1386
+ 1191,
1387
+ 1192,
1388
+ 1193,
1389
+ 1194,
1390
+ 1195,
1391
+ 1196,
1392
+ 1197,
1393
+ 1198,
1394
+ 1199,
1395
+ 1200,
1396
+ 1201,
1397
+ 1202,
1398
+ 1203,
1399
+ 1204,
1400
+ 1205,
1401
+ 1206,
1402
+ 1207,
1403
+ 1208,
1404
+ 1209,
1405
+ 1231,
1406
+ 1232,
1407
+ 1233,
1408
+ 1241,
1409
+ 1243,
1410
+ 1245,
1411
+ 1248,
1412
+ 1270,
1413
+ 1271,
1414
+ 1272,
1415
+ 1273,
1416
+ 1274,
1417
+ 1275,
1418
+ 1276,
1419
+ 1277,
1420
+ 1278,
1421
+ 1279,
1422
+ 1280,
1423
+ 1281,
1424
+ 1282,
1425
+ 1283,
1426
+ 1284,
1427
+ 1285,
1428
+ 1286,
1429
+ 1287,
1430
+ 1288,
1431
+ 1289,
1432
+ 1290,
1433
+ 1291,
1434
+ 1292,
1435
+ 1293,
1436
+ 1294,
1437
+ 1295,
1438
+ 1296,
1439
+ 1297,
1440
+ 1298,
1441
+ 1299,
1442
+ 1300,
1443
+ 1301,
1444
+ 1302,
1445
+ 1303,
1446
+ 1304,
1447
+ 1305,
1448
+ 1306,
1449
+ 1307,
1450
+ 1308,
1451
+ 1309,
1452
+ 1310,
1453
+ 1311,
1454
+ 1312,
1455
+ 1313,
1456
+ 1314,
1457
+ 1315,
1458
+ 1316,
1459
+ 1317,
1460
+ 1318,
1461
+ 1319,
1462
+ 1320,
1463
+ 1321,
1464
+ 1322,
1465
+ 1323,
1466
+ 1324,
1467
+ 1325,
1468
+ 1326,
1469
+ 1327,
1470
+ 1328,
1471
+ 1329,
1472
+ 1330,
1473
+ 1331,
1474
+ 1332,
1475
+ 1333,
1476
+ 1334,
1477
+ 1335,
1478
+ 1336,
1479
+ 1337,
1480
+ 1338,
1481
+ 1339,
1482
+ 1340,
1483
+ 1341,
1484
+ 1342,
1485
+ 1343,
1486
+ 1344,
1487
+ 1345,
1488
+ 1346,
1489
+ 1347,
1490
+ 1348,
1491
+ 1349,
1492
+ 1425,
1493
+ 1426,
1494
+ 1427,
1495
+ 1428,
1496
+ 1429,
1497
+ 1430,
1498
+ 1431,
1499
+ 1432,
1500
+ 1433,
1501
+ 1434,
1502
+ 1435,
1503
+ 1436,
1504
+ 1437,
1505
+ 1438,
1506
+ 1439,
1507
+ 1440,
1508
+ 1441,
1509
+ 1442,
1510
+ 1443,
1511
+ 1444,
1512
+ 1445,
1513
+ 1446,
1514
+ 1447,
1515
+ 1448,
1516
+ 1449,
1517
+ 1450,
1518
+ 1451,
1519
+ 1452,
1520
+ 1453,
1521
+ 1454,
1522
+ 1455,
1523
+ 1456,
1524
+ 1457,
1525
+ 1458,
1526
+ 1459,
1527
+ 1460,
1528
+ 1461,
1529
+ 1462,
1530
+ 1463,
1531
+ 1464,
1532
+ 1465,
1533
+ 1466,
1534
+ 1467,
1535
+ 1468,
1536
+ 1469,
1537
+ 1470,
1538
+ 1471,
1539
+ 1472,
1540
+ 1473,
1541
+ 1474,
1542
+ 1475,
1543
+ 1476,
1544
+ 1477,
1545
+ 1478,
1546
+ 1479,
1547
+ 1480,
1548
+ 1481,
1549
+ 1482,
1550
+ 1483,
1551
+ 1484,
1552
+ 1485,
1553
+ 1486,
1554
+ 1487,
1555
+ 1488,
1556
+ 1489,
1557
+ 1490,
1558
+ 1491,
1559
+ 1492,
1560
+ 1493,
1561
+ 1494,
1562
+ 1495,
1563
+ 1496,
1564
+ 1497,
1565
+ 1498,
1566
+ 1499,
1567
+ 1504,
1568
+ 1509,
1569
+ 1511,
1570
+ 1514,
1571
+ 1516,
1572
+ 1517,
1573
+ 1519,
1574
+ 1520,
1575
+ 1522,
1576
+ 1523,
1577
+ 1524,
1578
+ 1525,
1579
+ 1526,
1580
+ 1527,
1581
+ 1529,
1582
+ 1530,
1583
+ 1531,
1584
+ 1532,
1585
+ 1533,
1586
+ 1534,
1587
+ 1535,
1588
+ 1536,
1589
+ 1537,
1590
+ 1538,
1591
+ 1539,
1592
+ 1540,
1593
+ 1541,
1594
+ 1542,
1595
+ 1543,
1596
+ 1544,
1597
+ 1545,
1598
+ 1546,
1599
+ 1547,
1600
+ 1548,
1601
+ 1549,
1602
+ 1550,
1603
+ 1551,
1604
+ 1552,
1605
+ 1553,
1606
+ 1554,
1607
+ 1555,
1608
+ 1556,
1609
+ 1557,
1610
+ 1558,
1611
+ 1559,
1612
+ 1579
1613
+ ],
1614
+ "clean_baseline": 15.515625,
1615
+ "corrupted_baseline": -13.9453125
1616
+ }
results/Qwen_Qwen2-5-32B-Instruct/ToM/secondary_emotions/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:b9625a7d2bc1bea116bd3f4c0815061ec7e211bdc3d0c403998378e0968916c5
3
+ size 14157430
results/Qwen_Qwen2-5-32B-Instruct/ToM/secondary_emotions/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:c60a5b58c0bb0cfabb36f2f29b944732abd225b5f3cd8f852e82534f30516998
3
+ size 6699576
results/Qwen_Qwen2-5-32B-Instruct/ToM/social_interactions/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/Qwen_Qwen2-5-32B-Instruct/ToM/social_interactions/baselines.json ADDED
@@ -0,0 +1,220 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 204,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 204,
6
+ "clean_accuracy": 0.9705882352941176,
7
+ "corrupted_accuracy": 0.946078431372549,
8
+ "both_correct_accuracy": 0.9166666666666666,
9
+ "n_both_correct": 187,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 7,
18
+ 8,
19
+ 10,
20
+ 11,
21
+ 12,
22
+ 13,
23
+ 14,
24
+ 15,
25
+ 16,
26
+ 17,
27
+ 18,
28
+ 19,
29
+ 20,
30
+ 21,
31
+ 22,
32
+ 23,
33
+ 24,
34
+ 25,
35
+ 26,
36
+ 27,
37
+ 28,
38
+ 29,
39
+ 30,
40
+ 31,
41
+ 32,
42
+ 33,
43
+ 35,
44
+ 36,
45
+ 37,
46
+ 38,
47
+ 39,
48
+ 40,
49
+ 41,
50
+ 42,
51
+ 43,
52
+ 45,
53
+ 46,
54
+ 47,
55
+ 48,
56
+ 49,
57
+ 50,
58
+ 51,
59
+ 52,
60
+ 53,
61
+ 54,
62
+ 55,
63
+ 56,
64
+ 57,
65
+ 58,
66
+ 59,
67
+ 60,
68
+ 61,
69
+ 62,
70
+ 63,
71
+ 64,
72
+ 65,
73
+ 66,
74
+ 67,
75
+ 68,
76
+ 69,
77
+ 70,
78
+ 71,
79
+ 72,
80
+ 73,
81
+ 74,
82
+ 75,
83
+ 76,
84
+ 77,
85
+ 78,
86
+ 79,
87
+ 80,
88
+ 81,
89
+ 82,
90
+ 83,
91
+ 84,
92
+ 85,
93
+ 86,
94
+ 87,
95
+ 88,
96
+ 89,
97
+ 90,
98
+ 91,
99
+ 92,
100
+ 93,
101
+ 94,
102
+ 95,
103
+ 96,
104
+ 97,
105
+ 98,
106
+ 99,
107
+ 100,
108
+ 101,
109
+ 102,
110
+ 104,
111
+ 105,
112
+ 106,
113
+ 107,
114
+ 108,
115
+ 109,
116
+ 110,
117
+ 111,
118
+ 113,
119
+ 114,
120
+ 115,
121
+ 116,
122
+ 117,
123
+ 118,
124
+ 119,
125
+ 120,
126
+ 121,
127
+ 122,
128
+ 123,
129
+ 124,
130
+ 125,
131
+ 126,
132
+ 127,
133
+ 128,
134
+ 129,
135
+ 130,
136
+ 132,
137
+ 133,
138
+ 134,
139
+ 135,
140
+ 136,
141
+ 137,
142
+ 139,
143
+ 140,
144
+ 141,
145
+ 142,
146
+ 144,
147
+ 145,
148
+ 146,
149
+ 147,
150
+ 148,
151
+ 149,
152
+ 150,
153
+ 151,
154
+ 152,
155
+ 153,
156
+ 154,
157
+ 155,
158
+ 156,
159
+ 157,
160
+ 158,
161
+ 159,
162
+ 160,
163
+ 161,
164
+ 162,
165
+ 163,
166
+ 164,
167
+ 165,
168
+ 166,
169
+ 167,
170
+ 168,
171
+ 169,
172
+ 170,
173
+ 171,
174
+ 172,
175
+ 173,
176
+ 174,
177
+ 175,
178
+ 176,
179
+ 177,
180
+ 178,
181
+ 179,
182
+ 180,
183
+ 181,
184
+ 182,
185
+ 183,
186
+ 185,
187
+ 187,
188
+ 188,
189
+ 189,
190
+ 191,
191
+ 193,
192
+ 197,
193
+ 198,
194
+ 199,
195
+ 200,
196
+ 201,
197
+ 202
198
+ ],
199
+ "not_both_correct_indices": [
200
+ 6,
201
+ 9,
202
+ 34,
203
+ 44,
204
+ 103,
205
+ 112,
206
+ 131,
207
+ 138,
208
+ 143,
209
+ 184,
210
+ 186,
211
+ 190,
212
+ 192,
213
+ 194,
214
+ 195,
215
+ 196,
216
+ 203
217
+ ],
218
+ "clean_baseline": 20.59375,
219
+ "corrupted_baseline": -19.953125
220
+ }
results/Qwen_Qwen2-5-32B-Instruct/ToM/social_interactions/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:584336e1736b483b0ee024bc484ad31541bc3a7bbdcf49e924cd37e1b4e5b7e7
3
+ size 14157430
results/Qwen_Qwen2-5-32B-Instruct/ToM/social_interactions/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4b0d4f1258dcf8bc282d131db058e0b60809818de297ac0e7c1769ed3dc8461a
3
+ size 6641984
results/Qwen_Qwen2-5-32B-Instruct/ToM/social_relations/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/Qwen_Qwen2-5-32B-Instruct/ToM/social_relations/baselines.json ADDED
@@ -0,0 +1,304 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 288,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 288,
6
+ "clean_accuracy": 0.9027777777777778,
7
+ "corrupted_accuracy": 0.8472222222222222,
8
+ "both_correct_accuracy": 0.7708333333333334,
9
+ "n_both_correct": 222,
10
+ "both_correct_indices": [
11
+ 1,
12
+ 2,
13
+ 3,
14
+ 4,
15
+ 5,
16
+ 6,
17
+ 7,
18
+ 8,
19
+ 9,
20
+ 11,
21
+ 12,
22
+ 13,
23
+ 14,
24
+ 16,
25
+ 17,
26
+ 18,
27
+ 20,
28
+ 21,
29
+ 22,
30
+ 24,
31
+ 25,
32
+ 26,
33
+ 27,
34
+ 28,
35
+ 29,
36
+ 30,
37
+ 31,
38
+ 32,
39
+ 33,
40
+ 34,
41
+ 35,
42
+ 36,
43
+ 37,
44
+ 38,
45
+ 40,
46
+ 41,
47
+ 42,
48
+ 43,
49
+ 44,
50
+ 45,
51
+ 46,
52
+ 47,
53
+ 48,
54
+ 49,
55
+ 50,
56
+ 51,
57
+ 53,
58
+ 54,
59
+ 55,
60
+ 58,
61
+ 61,
62
+ 62,
63
+ 63,
64
+ 64,
65
+ 65,
66
+ 66,
67
+ 67,
68
+ 68,
69
+ 71,
70
+ 72,
71
+ 73,
72
+ 74,
73
+ 75,
74
+ 78,
75
+ 79,
76
+ 81,
77
+ 82,
78
+ 84,
79
+ 85,
80
+ 86,
81
+ 87,
82
+ 88,
83
+ 89,
84
+ 90,
85
+ 91,
86
+ 92,
87
+ 93,
88
+ 94,
89
+ 95,
90
+ 96,
91
+ 97,
92
+ 98,
93
+ 99,
94
+ 100,
95
+ 101,
96
+ 102,
97
+ 103,
98
+ 104,
99
+ 105,
100
+ 106,
101
+ 107,
102
+ 108,
103
+ 109,
104
+ 110,
105
+ 111,
106
+ 112,
107
+ 113,
108
+ 114,
109
+ 115,
110
+ 116,
111
+ 117,
112
+ 118,
113
+ 119,
114
+ 120,
115
+ 121,
116
+ 122,
117
+ 123,
118
+ 124,
119
+ 125,
120
+ 126,
121
+ 127,
122
+ 128,
123
+ 129,
124
+ 130,
125
+ 131,
126
+ 133,
127
+ 134,
128
+ 135,
129
+ 136,
130
+ 137,
131
+ 138,
132
+ 139,
133
+ 140,
134
+ 141,
135
+ 142,
136
+ 143,
137
+ 144,
138
+ 145,
139
+ 146,
140
+ 147,
141
+ 148,
142
+ 149,
143
+ 150,
144
+ 151,
145
+ 152,
146
+ 153,
147
+ 154,
148
+ 155,
149
+ 156,
150
+ 157,
151
+ 158,
152
+ 159,
153
+ 160,
154
+ 162,
155
+ 163,
156
+ 169,
157
+ 177,
158
+ 179,
159
+ 180,
160
+ 182,
161
+ 183,
162
+ 184,
163
+ 185,
164
+ 186,
165
+ 187,
166
+ 188,
167
+ 190,
168
+ 191,
169
+ 192,
170
+ 194,
171
+ 195,
172
+ 196,
173
+ 198,
174
+ 199,
175
+ 202,
176
+ 203,
177
+ 204,
178
+ 206,
179
+ 207,
180
+ 210,
181
+ 212,
182
+ 215,
183
+ 218,
184
+ 219,
185
+ 220,
186
+ 221,
187
+ 223,
188
+ 227,
189
+ 230,
190
+ 231,
191
+ 232,
192
+ 233,
193
+ 234,
194
+ 235,
195
+ 236,
196
+ 237,
197
+ 238,
198
+ 239,
199
+ 240,
200
+ 241,
201
+ 242,
202
+ 243,
203
+ 244,
204
+ 245,
205
+ 246,
206
+ 247,
207
+ 248,
208
+ 249,
209
+ 255,
210
+ 256,
211
+ 257,
212
+ 258,
213
+ 259,
214
+ 260,
215
+ 262,
216
+ 263,
217
+ 264,
218
+ 265,
219
+ 266,
220
+ 267,
221
+ 268,
222
+ 269,
223
+ 270,
224
+ 271,
225
+ 273,
226
+ 275,
227
+ 279,
228
+ 280,
229
+ 282,
230
+ 283,
231
+ 285,
232
+ 286
233
+ ],
234
+ "not_both_correct_indices": [
235
+ 0,
236
+ 10,
237
+ 15,
238
+ 19,
239
+ 23,
240
+ 39,
241
+ 52,
242
+ 56,
243
+ 57,
244
+ 59,
245
+ 60,
246
+ 69,
247
+ 70,
248
+ 76,
249
+ 77,
250
+ 80,
251
+ 83,
252
+ 132,
253
+ 161,
254
+ 164,
255
+ 165,
256
+ 166,
257
+ 167,
258
+ 168,
259
+ 170,
260
+ 171,
261
+ 172,
262
+ 173,
263
+ 174,
264
+ 175,
265
+ 176,
266
+ 178,
267
+ 181,
268
+ 189,
269
+ 193,
270
+ 197,
271
+ 200,
272
+ 201,
273
+ 205,
274
+ 208,
275
+ 209,
276
+ 211,
277
+ 213,
278
+ 214,
279
+ 216,
280
+ 217,
281
+ 222,
282
+ 224,
283
+ 225,
284
+ 226,
285
+ 228,
286
+ 229,
287
+ 250,
288
+ 251,
289
+ 252,
290
+ 253,
291
+ 254,
292
+ 261,
293
+ 272,
294
+ 274,
295
+ 276,
296
+ 277,
297
+ 278,
298
+ 281,
299
+ 284,
300
+ 287
301
+ ],
302
+ "clean_baseline": 21.453125,
303
+ "corrupted_baseline": -23.765625
304
+ }
results/Qwen_Qwen2-5-32B-Instruct/ToM/social_relations/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:bd23a0c655741ee8e3e0d701621398fed28d579fbdff04d3db0d1fc8e3a5da32
3
+ size 14157430
results/Qwen_Qwen2-5-32B-Instruct/ToM/social_relations/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fda7123f97ff27c99d365c23441b18069b33231b36af6bdd501223c057773567
3
+ size 6652848
results/Qwen_Qwen2-5-32B-Instruct/phys/phys_newton/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/Qwen_Qwen2-5-32B-Instruct/phys/phys_newton/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.881,
7
+ "corrupted_accuracy": 0.9,
8
+ "both_correct_accuracy": 0.801,
9
+ "n_both_correct": 801,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 7,
18
+ 8,
19
+ 12,
20
+ 14,
21
+ 15,
22
+ 16,
23
+ 17,
24
+ 18,
25
+ 19,
26
+ 20,
27
+ 26,
28
+ 27,
29
+ 29,
30
+ 30,
31
+ 31,
32
+ 34,
33
+ 36,
34
+ 37,
35
+ 38,
36
+ 39,
37
+ 40,
38
+ 41,
39
+ 42,
40
+ 43,
41
+ 44,
42
+ 45,
43
+ 46,
44
+ 47,
45
+ 48,
46
+ 50,
47
+ 51,
48
+ 52,
49
+ 54,
50
+ 55,
51
+ 56,
52
+ 57,
53
+ 58,
54
+ 63,
55
+ 64,
56
+ 65,
57
+ 66,
58
+ 69,
59
+ 71,
60
+ 74,
61
+ 75,
62
+ 78,
63
+ 81,
64
+ 82,
65
+ 84,
66
+ 85,
67
+ 86,
68
+ 87,
69
+ 88,
70
+ 89,
71
+ 90,
72
+ 91,
73
+ 92,
74
+ 93,
75
+ 94,
76
+ 95,
77
+ 96,
78
+ 97,
79
+ 98,
80
+ 99,
81
+ 100,
82
+ 102,
83
+ 103,
84
+ 104,
85
+ 106,
86
+ 107,
87
+ 111,
88
+ 114,
89
+ 115,
90
+ 116,
91
+ 117,
92
+ 118,
93
+ 119,
94
+ 125,
95
+ 126,
96
+ 129,
97
+ 130,
98
+ 131,
99
+ 133,
100
+ 136,
101
+ 137,
102
+ 138,
103
+ 140,
104
+ 144,
105
+ 146,
106
+ 148,
107
+ 150,
108
+ 152,
109
+ 153,
110
+ 154,
111
+ 158,
112
+ 159,
113
+ 160,
114
+ 161,
115
+ 162,
116
+ 163,
117
+ 164,
118
+ 168,
119
+ 169,
120
+ 170,
121
+ 171,
122
+ 172,
123
+ 173,
124
+ 174,
125
+ 175,
126
+ 176,
127
+ 177,
128
+ 178,
129
+ 180,
130
+ 182,
131
+ 184,
132
+ 185,
133
+ 186,
134
+ 187,
135
+ 188,
136
+ 192,
137
+ 193,
138
+ 194,
139
+ 200,
140
+ 201,
141
+ 202,
142
+ 203,
143
+ 204,
144
+ 208,
145
+ 209,
146
+ 210,
147
+ 211,
148
+ 212,
149
+ 215,
150
+ 219,
151
+ 220,
152
+ 221,
153
+ 222,
154
+ 224,
155
+ 225,
156
+ 227,
157
+ 228,
158
+ 229,
159
+ 230,
160
+ 233,
161
+ 234,
162
+ 235,
163
+ 236,
164
+ 237,
165
+ 238,
166
+ 240,
167
+ 241,
168
+ 242,
169
+ 243,
170
+ 244,
171
+ 245,
172
+ 246,
173
+ 248,
174
+ 250,
175
+ 254,
176
+ 256,
177
+ 257,
178
+ 258,
179
+ 259,
180
+ 260,
181
+ 261,
182
+ 262,
183
+ 264,
184
+ 266,
185
+ 267,
186
+ 268,
187
+ 269,
188
+ 270,
189
+ 271,
190
+ 272,
191
+ 273,
192
+ 274,
193
+ 275,
194
+ 276,
195
+ 277,
196
+ 278,
197
+ 280,
198
+ 282,
199
+ 284,
200
+ 286,
201
+ 287,
202
+ 288,
203
+ 289,
204
+ 290,
205
+ 291,
206
+ 292,
207
+ 293,
208
+ 294,
209
+ 295,
210
+ 296,
211
+ 297,
212
+ 298,
213
+ 299,
214
+ 300,
215
+ 301,
216
+ 302,
217
+ 303,
218
+ 304,
219
+ 305,
220
+ 306,
221
+ 307,
222
+ 308,
223
+ 309,
224
+ 310,
225
+ 311,
226
+ 312,
227
+ 313,
228
+ 314,
229
+ 315,
230
+ 316,
231
+ 318,
232
+ 323,
233
+ 324,
234
+ 326,
235
+ 328,
236
+ 329,
237
+ 330,
238
+ 331,
239
+ 332,
240
+ 333,
241
+ 334,
242
+ 336,
243
+ 337,
244
+ 338,
245
+ 340,
246
+ 341,
247
+ 342,
248
+ 344,
249
+ 346,
250
+ 347,
251
+ 348,
252
+ 350,
253
+ 351,
254
+ 352,
255
+ 355,
256
+ 356,
257
+ 358,
258
+ 359,
259
+ 360,
260
+ 361,
261
+ 362,
262
+ 363,
263
+ 364,
264
+ 365,
265
+ 368,
266
+ 369,
267
+ 370,
268
+ 371,
269
+ 372,
270
+ 373,
271
+ 374,
272
+ 375,
273
+ 377,
274
+ 378,
275
+ 379,
276
+ 380,
277
+ 381,
278
+ 382,
279
+ 383,
280
+ 384,
281
+ 386,
282
+ 387,
283
+ 388,
284
+ 389,
285
+ 390,
286
+ 391,
287
+ 392,
288
+ 393,
289
+ 394,
290
+ 395,
291
+ 396,
292
+ 397,
293
+ 398,
294
+ 399,
295
+ 400,
296
+ 401,
297
+ 402,
298
+ 403,
299
+ 404,
300
+ 405,
301
+ 406,
302
+ 407,
303
+ 408,
304
+ 409,
305
+ 410,
306
+ 412,
307
+ 414,
308
+ 415,
309
+ 416,
310
+ 417,
311
+ 418,
312
+ 419,
313
+ 420,
314
+ 421,
315
+ 422,
316
+ 423,
317
+ 424,
318
+ 425,
319
+ 426,
320
+ 427,
321
+ 428,
322
+ 429,
323
+ 430,
324
+ 431,
325
+ 432,
326
+ 433,
327
+ 434,
328
+ 435,
329
+ 436,
330
+ 437,
331
+ 438,
332
+ 439,
333
+ 440,
334
+ 441,
335
+ 442,
336
+ 443,
337
+ 444,
338
+ 445,
339
+ 446,
340
+ 447,
341
+ 448,
342
+ 449,
343
+ 450,
344
+ 451,
345
+ 452,
346
+ 453,
347
+ 454,
348
+ 455,
349
+ 456,
350
+ 457,
351
+ 458,
352
+ 459,
353
+ 461,
354
+ 463,
355
+ 464,
356
+ 465,
357
+ 466,
358
+ 467,
359
+ 468,
360
+ 469,
361
+ 470,
362
+ 471,
363
+ 473,
364
+ 474,
365
+ 475,
366
+ 476,
367
+ 477,
368
+ 478,
369
+ 479,
370
+ 480,
371
+ 481,
372
+ 482,
373
+ 483,
374
+ 484,
375
+ 485,
376
+ 486,
377
+ 487,
378
+ 488,
379
+ 489,
380
+ 490,
381
+ 491,
382
+ 492,
383
+ 493,
384
+ 495,
385
+ 496,
386
+ 497,
387
+ 498,
388
+ 499,
389
+ 500,
390
+ 501,
391
+ 502,
392
+ 503,
393
+ 504,
394
+ 505,
395
+ 506,
396
+ 507,
397
+ 508,
398
+ 509,
399
+ 510,
400
+ 512,
401
+ 513,
402
+ 514,
403
+ 515,
404
+ 516,
405
+ 517,
406
+ 518,
407
+ 519,
408
+ 520,
409
+ 521,
410
+ 522,
411
+ 523,
412
+ 524,
413
+ 526,
414
+ 528,
415
+ 529,
416
+ 530,
417
+ 531,
418
+ 532,
419
+ 533,
420
+ 534,
421
+ 535,
422
+ 536,
423
+ 537,
424
+ 538,
425
+ 539,
426
+ 540,
427
+ 541,
428
+ 542,
429
+ 543,
430
+ 544,
431
+ 545,
432
+ 546,
433
+ 547,
434
+ 548,
435
+ 549,
436
+ 550,
437
+ 551,
438
+ 552,
439
+ 553,
440
+ 554,
441
+ 555,
442
+ 556,
443
+ 557,
444
+ 558,
445
+ 559,
446
+ 560,
447
+ 561,
448
+ 562,
449
+ 563,
450
+ 564,
451
+ 565,
452
+ 566,
453
+ 567,
454
+ 568,
455
+ 569,
456
+ 570,
457
+ 572,
458
+ 573,
459
+ 574,
460
+ 575,
461
+ 576,
462
+ 577,
463
+ 578,
464
+ 580,
465
+ 581,
466
+ 582,
467
+ 583,
468
+ 584,
469
+ 585,
470
+ 586,
471
+ 587,
472
+ 588,
473
+ 589,
474
+ 590,
475
+ 591,
476
+ 592,
477
+ 594,
478
+ 595,
479
+ 596,
480
+ 597,
481
+ 598,
482
+ 599,
483
+ 600,
484
+ 601,
485
+ 602,
486
+ 603,
487
+ 604,
488
+ 605,
489
+ 606,
490
+ 607,
491
+ 608,
492
+ 609,
493
+ 610,
494
+ 612,
495
+ 614,
496
+ 615,
497
+ 616,
498
+ 618,
499
+ 619,
500
+ 620,
501
+ 622,
502
+ 624,
503
+ 625,
504
+ 626,
505
+ 627,
506
+ 628,
507
+ 629,
508
+ 630,
509
+ 631,
510
+ 632,
511
+ 633,
512
+ 634,
513
+ 636,
514
+ 637,
515
+ 638,
516
+ 639,
517
+ 643,
518
+ 645,
519
+ 646,
520
+ 650,
521
+ 652,
522
+ 653,
523
+ 654,
524
+ 658,
525
+ 659,
526
+ 660,
527
+ 661,
528
+ 662,
529
+ 663,
530
+ 664,
531
+ 665,
532
+ 666,
533
+ 668,
534
+ 669,
535
+ 670,
536
+ 672,
537
+ 673,
538
+ 674,
539
+ 678,
540
+ 679,
541
+ 680,
542
+ 681,
543
+ 682,
544
+ 683,
545
+ 684,
546
+ 685,
547
+ 686,
548
+ 687,
549
+ 689,
550
+ 690,
551
+ 691,
552
+ 692,
553
+ 693,
554
+ 694,
555
+ 695,
556
+ 696,
557
+ 697,
558
+ 698,
559
+ 699,
560
+ 700,
561
+ 701,
562
+ 702,
563
+ 703,
564
+ 704,
565
+ 705,
566
+ 706,
567
+ 707,
568
+ 708,
569
+ 710,
570
+ 711,
571
+ 714,
572
+ 715,
573
+ 716,
574
+ 717,
575
+ 718,
576
+ 720,
577
+ 721,
578
+ 722,
579
+ 724,
580
+ 725,
581
+ 726,
582
+ 728,
583
+ 730,
584
+ 732,
585
+ 733,
586
+ 734,
587
+ 735,
588
+ 736,
589
+ 737,
590
+ 740,
591
+ 741,
592
+ 744,
593
+ 746,
594
+ 750,
595
+ 751,
596
+ 752,
597
+ 753,
598
+ 754,
599
+ 755,
600
+ 756,
601
+ 758,
602
+ 759,
603
+ 760,
604
+ 761,
605
+ 762,
606
+ 764,
607
+ 765,
608
+ 766,
609
+ 767,
610
+ 768,
611
+ 771,
612
+ 772,
613
+ 773,
614
+ 774,
615
+ 776,
616
+ 777,
617
+ 778,
618
+ 779,
619
+ 781,
620
+ 782,
621
+ 783,
622
+ 784,
623
+ 785,
624
+ 786,
625
+ 787,
626
+ 788,
627
+ 789,
628
+ 790,
629
+ 792,
630
+ 793,
631
+ 794,
632
+ 795,
633
+ 796,
634
+ 797,
635
+ 798,
636
+ 799,
637
+ 800,
638
+ 802,
639
+ 803,
640
+ 804,
641
+ 806,
642
+ 807,
643
+ 808,
644
+ 809,
645
+ 810,
646
+ 811,
647
+ 812,
648
+ 813,
649
+ 814,
650
+ 815,
651
+ 816,
652
+ 817,
653
+ 818,
654
+ 820,
655
+ 823,
656
+ 824,
657
+ 825,
658
+ 826,
659
+ 828,
660
+ 829,
661
+ 830,
662
+ 831,
663
+ 833,
664
+ 834,
665
+ 836,
666
+ 837,
667
+ 838,
668
+ 839,
669
+ 840,
670
+ 841,
671
+ 842,
672
+ 844,
673
+ 845,
674
+ 846,
675
+ 847,
676
+ 848,
677
+ 849,
678
+ 850,
679
+ 852,
680
+ 853,
681
+ 854,
682
+ 857,
683
+ 858,
684
+ 859,
685
+ 861,
686
+ 862,
687
+ 863,
688
+ 864,
689
+ 865,
690
+ 866,
691
+ 867,
692
+ 868,
693
+ 869,
694
+ 870,
695
+ 871,
696
+ 872,
697
+ 873,
698
+ 874,
699
+ 875,
700
+ 876,
701
+ 877,
702
+ 878,
703
+ 879,
704
+ 880,
705
+ 881,
706
+ 882,
707
+ 883,
708
+ 884,
709
+ 885,
710
+ 886,
711
+ 888,
712
+ 889,
713
+ 890,
714
+ 891,
715
+ 892,
716
+ 893,
717
+ 894,
718
+ 895,
719
+ 896,
720
+ 897,
721
+ 898,
722
+ 899,
723
+ 901,
724
+ 902,
725
+ 903,
726
+ 904,
727
+ 905,
728
+ 906,
729
+ 907,
730
+ 908,
731
+ 909,
732
+ 910,
733
+ 911,
734
+ 912,
735
+ 913,
736
+ 914,
737
+ 915,
738
+ 918,
739
+ 920,
740
+ 922,
741
+ 923,
742
+ 924,
743
+ 925,
744
+ 926,
745
+ 927,
746
+ 928,
747
+ 929,
748
+ 930,
749
+ 931,
750
+ 933,
751
+ 934,
752
+ 935,
753
+ 936,
754
+ 937,
755
+ 938,
756
+ 939,
757
+ 940,
758
+ 941,
759
+ 942,
760
+ 943,
761
+ 944,
762
+ 945,
763
+ 946,
764
+ 947,
765
+ 948,
766
+ 949,
767
+ 950,
768
+ 951,
769
+ 952,
770
+ 953,
771
+ 954,
772
+ 955,
773
+ 956,
774
+ 957,
775
+ 958,
776
+ 959,
777
+ 960,
778
+ 961,
779
+ 962,
780
+ 963,
781
+ 964,
782
+ 965,
783
+ 966,
784
+ 967,
785
+ 968,
786
+ 969,
787
+ 970,
788
+ 971,
789
+ 972,
790
+ 974,
791
+ 976,
792
+ 977,
793
+ 978,
794
+ 979,
795
+ 980,
796
+ 981,
797
+ 982,
798
+ 984,
799
+ 985,
800
+ 986,
801
+ 987,
802
+ 988,
803
+ 989,
804
+ 990,
805
+ 991,
806
+ 994,
807
+ 995,
808
+ 996,
809
+ 997,
810
+ 998,
811
+ 999
812
+ ],
813
+ "not_both_correct_indices": [
814
+ 6,
815
+ 9,
816
+ 10,
817
+ 11,
818
+ 13,
819
+ 21,
820
+ 22,
821
+ 23,
822
+ 24,
823
+ 25,
824
+ 28,
825
+ 32,
826
+ 33,
827
+ 35,
828
+ 49,
829
+ 53,
830
+ 59,
831
+ 60,
832
+ 61,
833
+ 62,
834
+ 67,
835
+ 68,
836
+ 70,
837
+ 72,
838
+ 73,
839
+ 76,
840
+ 77,
841
+ 79,
842
+ 80,
843
+ 83,
844
+ 101,
845
+ 105,
846
+ 108,
847
+ 109,
848
+ 110,
849
+ 112,
850
+ 113,
851
+ 120,
852
+ 121,
853
+ 122,
854
+ 123,
855
+ 124,
856
+ 127,
857
+ 128,
858
+ 132,
859
+ 134,
860
+ 135,
861
+ 139,
862
+ 141,
863
+ 142,
864
+ 143,
865
+ 145,
866
+ 147,
867
+ 149,
868
+ 151,
869
+ 155,
870
+ 156,
871
+ 157,
872
+ 165,
873
+ 166,
874
+ 167,
875
+ 179,
876
+ 181,
877
+ 183,
878
+ 189,
879
+ 190,
880
+ 191,
881
+ 195,
882
+ 196,
883
+ 197,
884
+ 198,
885
+ 199,
886
+ 205,
887
+ 206,
888
+ 207,
889
+ 213,
890
+ 214,
891
+ 216,
892
+ 217,
893
+ 218,
894
+ 223,
895
+ 226,
896
+ 231,
897
+ 232,
898
+ 239,
899
+ 247,
900
+ 249,
901
+ 251,
902
+ 252,
903
+ 253,
904
+ 255,
905
+ 263,
906
+ 265,
907
+ 279,
908
+ 281,
909
+ 283,
910
+ 285,
911
+ 317,
912
+ 319,
913
+ 320,
914
+ 321,
915
+ 322,
916
+ 325,
917
+ 327,
918
+ 335,
919
+ 339,
920
+ 343,
921
+ 345,
922
+ 349,
923
+ 353,
924
+ 354,
925
+ 357,
926
+ 366,
927
+ 367,
928
+ 376,
929
+ 385,
930
+ 411,
931
+ 413,
932
+ 460,
933
+ 462,
934
+ 472,
935
+ 494,
936
+ 511,
937
+ 525,
938
+ 527,
939
+ 571,
940
+ 579,
941
+ 593,
942
+ 611,
943
+ 613,
944
+ 617,
945
+ 621,
946
+ 623,
947
+ 635,
948
+ 640,
949
+ 641,
950
+ 642,
951
+ 644,
952
+ 647,
953
+ 648,
954
+ 649,
955
+ 651,
956
+ 655,
957
+ 656,
958
+ 657,
959
+ 667,
960
+ 671,
961
+ 675,
962
+ 676,
963
+ 677,
964
+ 688,
965
+ 709,
966
+ 712,
967
+ 713,
968
+ 719,
969
+ 723,
970
+ 727,
971
+ 729,
972
+ 731,
973
+ 738,
974
+ 739,
975
+ 742,
976
+ 743,
977
+ 745,
978
+ 747,
979
+ 748,
980
+ 749,
981
+ 757,
982
+ 763,
983
+ 769,
984
+ 770,
985
+ 775,
986
+ 780,
987
+ 791,
988
+ 801,
989
+ 805,
990
+ 819,
991
+ 821,
992
+ 822,
993
+ 827,
994
+ 832,
995
+ 835,
996
+ 843,
997
+ 851,
998
+ 855,
999
+ 856,
1000
+ 860,
1001
+ 887,
1002
+ 900,
1003
+ 916,
1004
+ 917,
1005
+ 919,
1006
+ 921,
1007
+ 932,
1008
+ 973,
1009
+ 975,
1010
+ 983,
1011
+ 992,
1012
+ 993
1013
+ ],
1014
+ "clean_baseline": 16.71875,
1015
+ "corrupted_baseline": -16.90625
1016
+ }
results/Qwen_Qwen2-5-32B-Instruct/phys/phys_newton/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:0184c944047ba3c7fb5235880dc8c49fd5f3af77191dfd0d3190ff976f9f2510
3
+ size 14157430
results/Qwen_Qwen2-5-32B-Instruct/phys/phys_newton/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:5d91b9b1a9d32f0a19717ec2cc905072b60bee8cdc75106f3837a7067ae33b8a
3
+ size 6679936
results/Qwen_Qwen2-5-32B-Instruct/phys/phys_prost/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1769472, "num_layers": 64, "num_units": 27648}
results/Qwen_Qwen2-5-32B-Instruct/phys/phys_prost/baselines.json ADDED
@@ -0,0 +1,1216 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1200,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1200,
6
+ "clean_accuracy": 0.9408333333333333,
7
+ "corrupted_accuracy": 0.9358333333333333,
8
+ "both_correct_accuracy": 0.8966666666666666,
9
+ "n_both_correct": 1076,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 3,
14
+ 4,
15
+ 5,
16
+ 6,
17
+ 7,
18
+ 9,
19
+ 10,
20
+ 11,
21
+ 12,
22
+ 13,
23
+ 14,
24
+ 15,
25
+ 16,
26
+ 17,
27
+ 18,
28
+ 19,
29
+ 20,
30
+ 21,
31
+ 22,
32
+ 23,
33
+ 24,
34
+ 25,
35
+ 26,
36
+ 27,
37
+ 28,
38
+ 29,
39
+ 30,
40
+ 31,
41
+ 32,
42
+ 33,
43
+ 34,
44
+ 35,
45
+ 36,
46
+ 37,
47
+ 38,
48
+ 39,
49
+ 40,
50
+ 41,
51
+ 42,
52
+ 43,
53
+ 44,
54
+ 45,
55
+ 46,
56
+ 47,
57
+ 48,
58
+ 49,
59
+ 50,
60
+ 51,
61
+ 52,
62
+ 53,
63
+ 54,
64
+ 55,
65
+ 56,
66
+ 57,
67
+ 58,
68
+ 59,
69
+ 60,
70
+ 61,
71
+ 62,
72
+ 63,
73
+ 64,
74
+ 65,
75
+ 66,
76
+ 67,
77
+ 68,
78
+ 69,
79
+ 70,
80
+ 71,
81
+ 73,
82
+ 74,
83
+ 75,
84
+ 76,
85
+ 77,
86
+ 79,
87
+ 80,
88
+ 81,
89
+ 82,
90
+ 83,
91
+ 85,
92
+ 86,
93
+ 87,
94
+ 88,
95
+ 89,
96
+ 90,
97
+ 91,
98
+ 92,
99
+ 93,
100
+ 94,
101
+ 95,
102
+ 98,
103
+ 99,
104
+ 100,
105
+ 101,
106
+ 102,
107
+ 103,
108
+ 104,
109
+ 105,
110
+ 107,
111
+ 108,
112
+ 109,
113
+ 110,
114
+ 111,
115
+ 112,
116
+ 113,
117
+ 114,
118
+ 115,
119
+ 116,
120
+ 117,
121
+ 118,
122
+ 119,
123
+ 120,
124
+ 121,
125
+ 122,
126
+ 123,
127
+ 125,
128
+ 126,
129
+ 127,
130
+ 128,
131
+ 129,
132
+ 130,
133
+ 131,
134
+ 132,
135
+ 133,
136
+ 134,
137
+ 135,
138
+ 136,
139
+ 137,
140
+ 138,
141
+ 139,
142
+ 140,
143
+ 141,
144
+ 143,
145
+ 144,
146
+ 145,
147
+ 146,
148
+ 147,
149
+ 148,
150
+ 149,
151
+ 150,
152
+ 151,
153
+ 152,
154
+ 153,
155
+ 154,
156
+ 155,
157
+ 156,
158
+ 157,
159
+ 158,
160
+ 159,
161
+ 160,
162
+ 161,
163
+ 163,
164
+ 164,
165
+ 165,
166
+ 166,
167
+ 167,
168
+ 168,
169
+ 169,
170
+ 170,
171
+ 171,
172
+ 172,
173
+ 173,
174
+ 174,
175
+ 175,
176
+ 176,
177
+ 177,
178
+ 178,
179
+ 179,
180
+ 180,
181
+ 181,
182
+ 182,
183
+ 183,
184
+ 184,
185
+ 185,
186
+ 186,
187
+ 187,
188
+ 188,
189
+ 189,
190
+ 190,
191
+ 191,
192
+ 192,
193
+ 193,
194
+ 194,
195
+ 195,
196
+ 196,
197
+ 197,
198
+ 198,
199
+ 199,
200
+ 200,
201
+ 201,
202
+ 203,
203
+ 205,
204
+ 206,
205
+ 207,
206
+ 209,
207
+ 210,
208
+ 211,
209
+ 212,
210
+ 213,
211
+ 214,
212
+ 215,
213
+ 216,
214
+ 217,
215
+ 218,
216
+ 219,
217
+ 220,
218
+ 221,
219
+ 222,
220
+ 223,
221
+ 225,
222
+ 226,
223
+ 227,
224
+ 228,
225
+ 230,
226
+ 231,
227
+ 233,
228
+ 234,
229
+ 235,
230
+ 236,
231
+ 237,
232
+ 238,
233
+ 239,
234
+ 242,
235
+ 243,
236
+ 244,
237
+ 245,
238
+ 246,
239
+ 247,
240
+ 249,
241
+ 250,
242
+ 251,
243
+ 252,
244
+ 253,
245
+ 254,
246
+ 256,
247
+ 259,
248
+ 260,
249
+ 261,
250
+ 262,
251
+ 263,
252
+ 264,
253
+ 265,
254
+ 266,
255
+ 268,
256
+ 269,
257
+ 270,
258
+ 271,
259
+ 272,
260
+ 273,
261
+ 274,
262
+ 275,
263
+ 276,
264
+ 277,
265
+ 278,
266
+ 279,
267
+ 280,
268
+ 281,
269
+ 285,
270
+ 286,
271
+ 288,
272
+ 289,
273
+ 290,
274
+ 291,
275
+ 292,
276
+ 293,
277
+ 294,
278
+ 295,
279
+ 296,
280
+ 297,
281
+ 298,
282
+ 299,
283
+ 300,
284
+ 301,
285
+ 302,
286
+ 303,
287
+ 305,
288
+ 306,
289
+ 307,
290
+ 308,
291
+ 309,
292
+ 310,
293
+ 311,
294
+ 312,
295
+ 313,
296
+ 314,
297
+ 315,
298
+ 316,
299
+ 317,
300
+ 318,
301
+ 319,
302
+ 320,
303
+ 321,
304
+ 322,
305
+ 323,
306
+ 324,
307
+ 325,
308
+ 326,
309
+ 327,
310
+ 328,
311
+ 329,
312
+ 330,
313
+ 331,
314
+ 332,
315
+ 333,
316
+ 334,
317
+ 335,
318
+ 336,
319
+ 337,
320
+ 339,
321
+ 340,
322
+ 341,
323
+ 342,
324
+ 343,
325
+ 344,
326
+ 345,
327
+ 346,
328
+ 347,
329
+ 349,
330
+ 350,
331
+ 351,
332
+ 352,
333
+ 353,
334
+ 354,
335
+ 355,
336
+ 356,
337
+ 357,
338
+ 358,
339
+ 360,
340
+ 361,
341
+ 362,
342
+ 363,
343
+ 365,
344
+ 366,
345
+ 368,
346
+ 370,
347
+ 371,
348
+ 372,
349
+ 373,
350
+ 374,
351
+ 375,
352
+ 376,
353
+ 377,
354
+ 378,
355
+ 379,
356
+ 381,
357
+ 383,
358
+ 384,
359
+ 385,
360
+ 386,
361
+ 387,
362
+ 388,
363
+ 389,
364
+ 390,
365
+ 391,
366
+ 393,
367
+ 394,
368
+ 395,
369
+ 396,
370
+ 397,
371
+ 398,
372
+ 399,
373
+ 400,
374
+ 401,
375
+ 402,
376
+ 404,
377
+ 407,
378
+ 408,
379
+ 409,
380
+ 410,
381
+ 411,
382
+ 412,
383
+ 415,
384
+ 416,
385
+ 418,
386
+ 419,
387
+ 420,
388
+ 421,
389
+ 422,
390
+ 423,
391
+ 424,
392
+ 425,
393
+ 426,
394
+ 428,
395
+ 429,
396
+ 430,
397
+ 431,
398
+ 435,
399
+ 436,
400
+ 438,
401
+ 442,
402
+ 443,
403
+ 444,
404
+ 446,
405
+ 447,
406
+ 448,
407
+ 449,
408
+ 450,
409
+ 451,
410
+ 452,
411
+ 453,
412
+ 454,
413
+ 456,
414
+ 457,
415
+ 458,
416
+ 460,
417
+ 461,
418
+ 462,
419
+ 465,
420
+ 467,
421
+ 469,
422
+ 470,
423
+ 471,
424
+ 473,
425
+ 476,
426
+ 477,
427
+ 479,
428
+ 480,
429
+ 481,
430
+ 484,
431
+ 485,
432
+ 487,
433
+ 489,
434
+ 490,
435
+ 493,
436
+ 494,
437
+ 496,
438
+ 497,
439
+ 498,
440
+ 499,
441
+ 502,
442
+ 503,
443
+ 505,
444
+ 506,
445
+ 508,
446
+ 509,
447
+ 510,
448
+ 511,
449
+ 513,
450
+ 515,
451
+ 516,
452
+ 517,
453
+ 518,
454
+ 520,
455
+ 521,
456
+ 522,
457
+ 523,
458
+ 525,
459
+ 526,
460
+ 527,
461
+ 528,
462
+ 529,
463
+ 530,
464
+ 532,
465
+ 534,
466
+ 535,
467
+ 536,
468
+ 537,
469
+ 538,
470
+ 541,
471
+ 544,
472
+ 545,
473
+ 546,
474
+ 548,
475
+ 550,
476
+ 551,
477
+ 552,
478
+ 555,
479
+ 556,
480
+ 558,
481
+ 561,
482
+ 562,
483
+ 564,
484
+ 568,
485
+ 569,
486
+ 572,
487
+ 574,
488
+ 576,
489
+ 578,
490
+ 579,
491
+ 581,
492
+ 582,
493
+ 583,
494
+ 584,
495
+ 585,
496
+ 588,
497
+ 589,
498
+ 591,
499
+ 593,
500
+ 594,
501
+ 595,
502
+ 596,
503
+ 598,
504
+ 599,
505
+ 600,
506
+ 601,
507
+ 602,
508
+ 603,
509
+ 604,
510
+ 605,
511
+ 606,
512
+ 607,
513
+ 608,
514
+ 609,
515
+ 610,
516
+ 611,
517
+ 612,
518
+ 613,
519
+ 614,
520
+ 615,
521
+ 616,
522
+ 617,
523
+ 618,
524
+ 619,
525
+ 620,
526
+ 621,
527
+ 622,
528
+ 623,
529
+ 624,
530
+ 625,
531
+ 626,
532
+ 627,
533
+ 628,
534
+ 629,
535
+ 630,
536
+ 631,
537
+ 632,
538
+ 633,
539
+ 634,
540
+ 635,
541
+ 636,
542
+ 637,
543
+ 638,
544
+ 639,
545
+ 640,
546
+ 641,
547
+ 642,
548
+ 643,
549
+ 644,
550
+ 645,
551
+ 646,
552
+ 647,
553
+ 648,
554
+ 649,
555
+ 650,
556
+ 651,
557
+ 652,
558
+ 653,
559
+ 654,
560
+ 655,
561
+ 656,
562
+ 657,
563
+ 658,
564
+ 659,
565
+ 660,
566
+ 661,
567
+ 662,
568
+ 663,
569
+ 664,
570
+ 665,
571
+ 666,
572
+ 667,
573
+ 668,
574
+ 669,
575
+ 670,
576
+ 671,
577
+ 672,
578
+ 673,
579
+ 674,
580
+ 675,
581
+ 676,
582
+ 677,
583
+ 678,
584
+ 679,
585
+ 680,
586
+ 681,
587
+ 682,
588
+ 683,
589
+ 684,
590
+ 685,
591
+ 686,
592
+ 687,
593
+ 688,
594
+ 689,
595
+ 690,
596
+ 691,
597
+ 692,
598
+ 693,
599
+ 694,
600
+ 695,
601
+ 696,
602
+ 697,
603
+ 698,
604
+ 699,
605
+ 700,
606
+ 701,
607
+ 702,
608
+ 703,
609
+ 704,
610
+ 705,
611
+ 706,
612
+ 707,
613
+ 708,
614
+ 709,
615
+ 710,
616
+ 711,
617
+ 712,
618
+ 713,
619
+ 714,
620
+ 715,
621
+ 716,
622
+ 717,
623
+ 718,
624
+ 719,
625
+ 720,
626
+ 721,
627
+ 722,
628
+ 723,
629
+ 724,
630
+ 725,
631
+ 726,
632
+ 727,
633
+ 728,
634
+ 729,
635
+ 730,
636
+ 731,
637
+ 732,
638
+ 733,
639
+ 734,
640
+ 735,
641
+ 736,
642
+ 737,
643
+ 738,
644
+ 739,
645
+ 740,
646
+ 741,
647
+ 742,
648
+ 743,
649
+ 744,
650
+ 745,
651
+ 746,
652
+ 747,
653
+ 748,
654
+ 749,
655
+ 750,
656
+ 751,
657
+ 752,
658
+ 753,
659
+ 754,
660
+ 755,
661
+ 756,
662
+ 757,
663
+ 758,
664
+ 759,
665
+ 760,
666
+ 761,
667
+ 762,
668
+ 763,
669
+ 764,
670
+ 765,
671
+ 766,
672
+ 767,
673
+ 768,
674
+ 769,
675
+ 770,
676
+ 771,
677
+ 772,
678
+ 773,
679
+ 774,
680
+ 775,
681
+ 776,
682
+ 777,
683
+ 778,
684
+ 779,
685
+ 780,
686
+ 781,
687
+ 782,
688
+ 783,
689
+ 784,
690
+ 785,
691
+ 786,
692
+ 787,
693
+ 788,
694
+ 789,
695
+ 790,
696
+ 791,
697
+ 792,
698
+ 793,
699
+ 794,
700
+ 795,
701
+ 796,
702
+ 797,
703
+ 798,
704
+ 799,
705
+ 800,
706
+ 801,
707
+ 802,
708
+ 803,
709
+ 804,
710
+ 805,
711
+ 806,
712
+ 807,
713
+ 808,
714
+ 809,
715
+ 810,
716
+ 812,
717
+ 813,
718
+ 814,
719
+ 815,
720
+ 816,
721
+ 817,
722
+ 819,
723
+ 820,
724
+ 821,
725
+ 822,
726
+ 823,
727
+ 824,
728
+ 825,
729
+ 826,
730
+ 827,
731
+ 828,
732
+ 829,
733
+ 830,
734
+ 831,
735
+ 832,
736
+ 833,
737
+ 834,
738
+ 835,
739
+ 836,
740
+ 837,
741
+ 838,
742
+ 839,
743
+ 840,
744
+ 841,
745
+ 842,
746
+ 843,
747
+ 844,
748
+ 845,
749
+ 846,
750
+ 847,
751
+ 848,
752
+ 849,
753
+ 850,
754
+ 851,
755
+ 852,
756
+ 853,
757
+ 854,
758
+ 855,
759
+ 856,
760
+ 857,
761
+ 858,
762
+ 859,
763
+ 860,
764
+ 861,
765
+ 862,
766
+ 863,
767
+ 864,
768
+ 865,
769
+ 866,
770
+ 867,
771
+ 868,
772
+ 869,
773
+ 870,
774
+ 871,
775
+ 872,
776
+ 874,
777
+ 875,
778
+ 877,
779
+ 878,
780
+ 879,
781
+ 880,
782
+ 881,
783
+ 882,
784
+ 883,
785
+ 884,
786
+ 885,
787
+ 886,
788
+ 887,
789
+ 888,
790
+ 889,
791
+ 890,
792
+ 891,
793
+ 893,
794
+ 894,
795
+ 895,
796
+ 896,
797
+ 897,
798
+ 898,
799
+ 899,
800
+ 900,
801
+ 901,
802
+ 902,
803
+ 903,
804
+ 904,
805
+ 905,
806
+ 906,
807
+ 907,
808
+ 908,
809
+ 909,
810
+ 910,
811
+ 911,
812
+ 912,
813
+ 913,
814
+ 914,
815
+ 915,
816
+ 916,
817
+ 917,
818
+ 918,
819
+ 919,
820
+ 920,
821
+ 921,
822
+ 922,
823
+ 923,
824
+ 924,
825
+ 925,
826
+ 926,
827
+ 927,
828
+ 928,
829
+ 929,
830
+ 930,
831
+ 931,
832
+ 932,
833
+ 933,
834
+ 934,
835
+ 935,
836
+ 936,
837
+ 937,
838
+ 938,
839
+ 939,
840
+ 940,
841
+ 941,
842
+ 942,
843
+ 943,
844
+ 944,
845
+ 945,
846
+ 946,
847
+ 947,
848
+ 948,
849
+ 949,
850
+ 950,
851
+ 951,
852
+ 952,
853
+ 953,
854
+ 954,
855
+ 955,
856
+ 956,
857
+ 957,
858
+ 958,
859
+ 960,
860
+ 961,
861
+ 962,
862
+ 963,
863
+ 964,
864
+ 965,
865
+ 966,
866
+ 967,
867
+ 968,
868
+ 969,
869
+ 970,
870
+ 973,
871
+ 974,
872
+ 975,
873
+ 976,
874
+ 977,
875
+ 978,
876
+ 979,
877
+ 980,
878
+ 981,
879
+ 982,
880
+ 983,
881
+ 984,
882
+ 985,
883
+ 986,
884
+ 987,
885
+ 988,
886
+ 989,
887
+ 990,
888
+ 991,
889
+ 992,
890
+ 993,
891
+ 994,
892
+ 995,
893
+ 996,
894
+ 997,
895
+ 998,
896
+ 999,
897
+ 1000,
898
+ 1001,
899
+ 1002,
900
+ 1003,
901
+ 1004,
902
+ 1005,
903
+ 1006,
904
+ 1007,
905
+ 1008,
906
+ 1009,
907
+ 1010,
908
+ 1011,
909
+ 1012,
910
+ 1013,
911
+ 1014,
912
+ 1015,
913
+ 1016,
914
+ 1017,
915
+ 1018,
916
+ 1019,
917
+ 1020,
918
+ 1021,
919
+ 1022,
920
+ 1023,
921
+ 1025,
922
+ 1026,
923
+ 1027,
924
+ 1028,
925
+ 1029,
926
+ 1030,
927
+ 1031,
928
+ 1032,
929
+ 1033,
930
+ 1034,
931
+ 1035,
932
+ 1036,
933
+ 1037,
934
+ 1038,
935
+ 1039,
936
+ 1040,
937
+ 1041,
938
+ 1042,
939
+ 1043,
940
+ 1044,
941
+ 1045,
942
+ 1047,
943
+ 1048,
944
+ 1049,
945
+ 1050,
946
+ 1051,
947
+ 1052,
948
+ 1053,
949
+ 1054,
950
+ 1055,
951
+ 1056,
952
+ 1057,
953
+ 1058,
954
+ 1059,
955
+ 1060,
956
+ 1061,
957
+ 1062,
958
+ 1063,
959
+ 1064,
960
+ 1065,
961
+ 1066,
962
+ 1067,
963
+ 1068,
964
+ 1069,
965
+ 1070,
966
+ 1071,
967
+ 1072,
968
+ 1073,
969
+ 1074,
970
+ 1075,
971
+ 1076,
972
+ 1077,
973
+ 1078,
974
+ 1079,
975
+ 1080,
976
+ 1082,
977
+ 1084,
978
+ 1085,
979
+ 1086,
980
+ 1087,
981
+ 1088,
982
+ 1089,
983
+ 1090,
984
+ 1091,
985
+ 1092,
986
+ 1093,
987
+ 1094,
988
+ 1095,
989
+ 1096,
990
+ 1097,
991
+ 1098,
992
+ 1099,
993
+ 1100,
994
+ 1101,
995
+ 1102,
996
+ 1103,
997
+ 1104,
998
+ 1105,
999
+ 1106,
1000
+ 1107,
1001
+ 1108,
1002
+ 1109,
1003
+ 1110,
1004
+ 1111,
1005
+ 1112,
1006
+ 1113,
1007
+ 1114,
1008
+ 1115,
1009
+ 1116,
1010
+ 1117,
1011
+ 1118,
1012
+ 1119,
1013
+ 1120,
1014
+ 1121,
1015
+ 1122,
1016
+ 1123,
1017
+ 1124,
1018
+ 1125,
1019
+ 1126,
1020
+ 1127,
1021
+ 1128,
1022
+ 1129,
1023
+ 1130,
1024
+ 1131,
1025
+ 1132,
1026
+ 1133,
1027
+ 1134,
1028
+ 1135,
1029
+ 1136,
1030
+ 1137,
1031
+ 1138,
1032
+ 1139,
1033
+ 1140,
1034
+ 1141,
1035
+ 1142,
1036
+ 1143,
1037
+ 1144,
1038
+ 1145,
1039
+ 1146,
1040
+ 1147,
1041
+ 1148,
1042
+ 1150,
1043
+ 1151,
1044
+ 1152,
1045
+ 1153,
1046
+ 1155,
1047
+ 1157,
1048
+ 1158,
1049
+ 1159,
1050
+ 1160,
1051
+ 1161,
1052
+ 1162,
1053
+ 1163,
1054
+ 1164,
1055
+ 1165,
1056
+ 1166,
1057
+ 1167,
1058
+ 1168,
1059
+ 1169,
1060
+ 1170,
1061
+ 1171,
1062
+ 1173,
1063
+ 1174,
1064
+ 1175,
1065
+ 1176,
1066
+ 1177,
1067
+ 1178,
1068
+ 1179,
1069
+ 1182,
1070
+ 1183,
1071
+ 1184,
1072
+ 1185,
1073
+ 1186,
1074
+ 1187,
1075
+ 1188,
1076
+ 1189,
1077
+ 1190,
1078
+ 1191,
1079
+ 1192,
1080
+ 1193,
1081
+ 1194,
1082
+ 1195,
1083
+ 1196,
1084
+ 1197,
1085
+ 1198,
1086
+ 1199
1087
+ ],
1088
+ "not_both_correct_indices": [
1089
+ 2,
1090
+ 8,
1091
+ 72,
1092
+ 78,
1093
+ 84,
1094
+ 96,
1095
+ 97,
1096
+ 106,
1097
+ 124,
1098
+ 142,
1099
+ 162,
1100
+ 202,
1101
+ 204,
1102
+ 208,
1103
+ 224,
1104
+ 229,
1105
+ 232,
1106
+ 240,
1107
+ 241,
1108
+ 248,
1109
+ 255,
1110
+ 257,
1111
+ 258,
1112
+ 267,
1113
+ 282,
1114
+ 283,
1115
+ 284,
1116
+ 287,
1117
+ 304,
1118
+ 338,
1119
+ 348,
1120
+ 359,
1121
+ 364,
1122
+ 367,
1123
+ 369,
1124
+ 380,
1125
+ 382,
1126
+ 392,
1127
+ 403,
1128
+ 405,
1129
+ 406,
1130
+ 413,
1131
+ 414,
1132
+ 417,
1133
+ 427,
1134
+ 432,
1135
+ 433,
1136
+ 434,
1137
+ 437,
1138
+ 439,
1139
+ 440,
1140
+ 441,
1141
+ 445,
1142
+ 455,
1143
+ 459,
1144
+ 463,
1145
+ 464,
1146
+ 466,
1147
+ 468,
1148
+ 472,
1149
+ 474,
1150
+ 475,
1151
+ 478,
1152
+ 482,
1153
+ 483,
1154
+ 486,
1155
+ 488,
1156
+ 491,
1157
+ 492,
1158
+ 495,
1159
+ 500,
1160
+ 501,
1161
+ 504,
1162
+ 507,
1163
+ 512,
1164
+ 514,
1165
+ 519,
1166
+ 524,
1167
+ 531,
1168
+ 533,
1169
+ 539,
1170
+ 540,
1171
+ 542,
1172
+ 543,
1173
+ 547,
1174
+ 549,
1175
+ 553,
1176
+ 554,
1177
+ 557,
1178
+ 559,
1179
+ 560,
1180
+ 563,
1181
+ 565,
1182
+ 566,
1183
+ 567,
1184
+ 570,
1185
+ 571,
1186
+ 573,
1187
+ 575,
1188
+ 577,
1189
+ 580,
1190
+ 586,
1191
+ 587,
1192
+ 590,
1193
+ 592,
1194
+ 597,
1195
+ 811,
1196
+ 818,
1197
+ 873,
1198
+ 876,
1199
+ 892,
1200
+ 959,
1201
+ 971,
1202
+ 972,
1203
+ 1024,
1204
+ 1046,
1205
+ 1081,
1206
+ 1083,
1207
+ 1149,
1208
+ 1154,
1209
+ 1156,
1210
+ 1172,
1211
+ 1180,
1212
+ 1181
1213
+ ],
1214
+ "clean_baseline": 19.484375,
1215
+ "corrupted_baseline": -19.78125
1216
+ }