Hugging Face's logo

Datasets:
barryhpr
/
LLM_Modularity_attribution

Size:
1B<n<10B
Tags:
interpretability
attribution-patching
mechanistic-interpretability
License:
Dataset card Files
xet
 Community
barryhpr commited on
Commit
4f33336
·
verified ·
1 Parent(s): 8da73a9

Add attribution tensors (301-400 of 993)

Browse files
This view is limited to 50 files because it contains too many changes.   See raw diff
Files changed (50) hide show
  1. results/Qwen_Qwen2-5-72B-Instruct/ToM/emotion_fewshot/attribution_meta.json +1 -0
  2. results/Qwen_Qwen2-5-72B-Instruct/ToM/emotion_fewshot/baselines.json +2017 -0
  3. results/Qwen_Qwen2-5-72B-Instruct/ToM/emotion_fewshot/neuron_attribution.pt +3 -0
  4. results/Qwen_Qwen2-5-72B-Instruct/ToM/emotion_fewshot/sorted_indices_positive.npy +3 -0
  5. results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_appropriate/attribution_meta.json +1 -0
  6. results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_appropriate/baselines.json +2015 -0
  7. results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_appropriate/neuron_attribution.pt +3 -0
  8. results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_appropriate/sorted_indices_positive.npy +3 -0
  9. results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_moral/attribution_meta.json +1 -0
  10. results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_moral/baselines.json +2016 -0
  11. results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_moral/neuron_attribution.pt +3 -0
  12. results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_moral/sorted_indices_positive.npy +3 -0
  13. results/Qwen_Qwen2-5-72B-Instruct/ToM/primary_emotions/attribution_meta.json +1 -0
  14. results/Qwen_Qwen2-5-72B-Instruct/ToM/primary_emotions/baselines.json +1311 -0
  15. results/Qwen_Qwen2-5-72B-Instruct/ToM/primary_emotions/neuron_attribution.pt +3 -0
  16. results/Qwen_Qwen2-5-72B-Instruct/ToM/primary_emotions/sorted_indices_positive.npy +3 -0
  17. results/Qwen_Qwen2-5-72B-Instruct/ToM/secondary_emotions/attribution_meta.json +1 -0
  18. results/Qwen_Qwen2-5-72B-Instruct/ToM/secondary_emotions/baselines.json +1616 -0
  19. results/Qwen_Qwen2-5-72B-Instruct/ToM/secondary_emotions/neuron_attribution.pt +3 -0
  20. results/Qwen_Qwen2-5-72B-Instruct/ToM/secondary_emotions/sorted_indices_positive.npy +3 -0
  21. results/Qwen_Qwen2-5-72B-Instruct/ToM/social_interactions/attribution_meta.json +1 -0
  22. results/Qwen_Qwen2-5-72B-Instruct/ToM/social_interactions/baselines.json +220 -0
  23. results/Qwen_Qwen2-5-72B-Instruct/ToM/social_interactions/neuron_attribution.pt +3 -0
  24. results/Qwen_Qwen2-5-72B-Instruct/ToM/social_interactions/sorted_indices_positive.npy +3 -0
  25. results/Qwen_Qwen2-5-72B-Instruct/ToM/social_relations/attribution_meta.json +1 -0
  26. results/Qwen_Qwen2-5-72B-Instruct/ToM/social_relations/baselines.json +304 -0
  27. results/Qwen_Qwen2-5-72B-Instruct/ToM/social_relations/neuron_attribution.pt +3 -0
  28. results/Qwen_Qwen2-5-72B-Instruct/ToM/social_relations/sorted_indices_positive.npy +3 -0
  29. results/Qwen_Qwen2-5-72B-Instruct/phys/phys_newton/attribution_meta.json +1 -0
  30. results/Qwen_Qwen2-5-72B-Instruct/phys/phys_newton/baselines.json +1016 -0
  31. results/Qwen_Qwen2-5-72B-Instruct/phys/phys_newton/neuron_attribution.pt +3 -0
  32. results/Qwen_Qwen2-5-72B-Instruct/phys/phys_newton/sorted_indices_positive.npy +3 -0
  33. results/Qwen_Qwen2-5-72B-Instruct/phys/phys_prost/attribution_meta.json +1 -0
  34. results/Qwen_Qwen2-5-72B-Instruct/phys/phys_prost/baselines.json +1216 -0
  35. results/Qwen_Qwen2-5-72B-Instruct/phys/phys_prost/neuron_attribution.pt +3 -0
  36. results/Qwen_Qwen2-5-72B-Instruct/phys/phys_prost/sorted_indices_positive.npy +3 -0
  37. results/Qwen_Qwen2-5-72B-Instruct/phys/physics_brightness/attribution_meta.json +1 -0
  38. results/Qwen_Qwen2-5-72B-Instruct/phys/physics_brightness/baselines.json +1017 -0
  39. results/Qwen_Qwen2-5-72B-Instruct/phys/physics_brightness/neuron_attribution.pt +3 -0
  40. results/Qwen_Qwen2-5-72B-Instruct/phys/physics_brightness/sorted_indices_positive.npy +3 -0
  41. results/Qwen_Qwen2-5-72B-Instruct/phys/physics_buoyancy/attribution_meta.json +1 -0
  42. results/Qwen_Qwen2-5-72B-Instruct/phys/physics_buoyancy/baselines.json +1016 -0
  43. results/Qwen_Qwen2-5-72B-Instruct/phys/physics_buoyancy/neuron_attribution.pt +3 -0
  44. results/Qwen_Qwen2-5-72B-Instruct/phys/physics_buoyancy/sorted_indices_positive.npy +3 -0
  45. results/Qwen_Qwen2-5-72B-Instruct/phys/physics_elasticity/attribution_meta.json +1 -0
  46. results/Qwen_Qwen2-5-72B-Instruct/phys/physics_elasticity/baselines.json +1016 -0
  47. results/Qwen_Qwen2-5-72B-Instruct/phys/physics_elasticity/neuron_attribution.pt +3 -0
  48. results/Qwen_Qwen2-5-72B-Instruct/phys/physics_elasticity/sorted_indices_positive.npy +3 -0
  49. results/Qwen_Qwen2-5-72B-Instruct/phys/physics_solubility/attribution_meta.json +1 -0
  50. results/Qwen_Qwen2-5-72B-Instruct/phys/physics_solubility/baselines.json +1017 -0
results/Qwen_Qwen2-5-72B-Instruct/ToM/emotion_fewshot/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2365440, "num_layers": 80, "num_units": 29568}
results/Qwen_Qwen2-5-72B-Instruct/ToM/emotion_fewshot/baselines.json ADDED
@@ -0,0 +1,2017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 2000,
3
+ "n_token_misaligned": 9,
4
+ "token_misaligned_indices": [
5
+ 20,
6
+ 137,
7
+ 142,
8
+ 180,
9
+ 506,
10
+ 1020,
11
+ 1056,
12
+ 1738,
13
+ 1795
14
+ ],
15
+ "n_after_alignment_filter": 1991,
16
+ "clean_accuracy": 0.9698643897538926,
17
+ "corrupted_accuracy": 0.9733802109492717,
18
+ "both_correct_accuracy": 0.9432446007031643,
19
+ "n_both_correct": 1878,
20
+ "both_correct_indices": [
21
+ 0,
22
+ 1,
23
+ 2,
24
+ 3,
25
+ 4,
26
+ 5,
27
+ 6,
28
+ 7,
29
+ 8,
30
+ 9,
31
+ 10,
32
+ 11,
33
+ 12,
34
+ 13,
35
+ 14,
36
+ 15,
37
+ 16,
38
+ 17,
39
+ 18,
40
+ 19,
41
+ 22,
42
+ 23,
43
+ 24,
44
+ 25,
45
+ 26,
46
+ 27,
47
+ 28,
48
+ 29,
49
+ 30,
50
+ 31,
51
+ 32,
52
+ 33,
53
+ 34,
54
+ 35,
55
+ 36,
56
+ 37,
57
+ 38,
58
+ 39,
59
+ 40,
60
+ 41,
61
+ 42,
62
+ 43,
63
+ 44,
64
+ 45,
65
+ 46,
66
+ 47,
67
+ 48,
68
+ 49,
69
+ 50,
70
+ 51,
71
+ 52,
72
+ 53,
73
+ 55,
74
+ 56,
75
+ 57,
76
+ 58,
77
+ 59,
78
+ 60,
79
+ 61,
80
+ 62,
81
+ 63,
82
+ 64,
83
+ 65,
84
+ 66,
85
+ 67,
86
+ 68,
87
+ 69,
88
+ 70,
89
+ 71,
90
+ 72,
91
+ 73,
92
+ 74,
93
+ 75,
94
+ 76,
95
+ 77,
96
+ 78,
97
+ 79,
98
+ 80,
99
+ 81,
100
+ 82,
101
+ 83,
102
+ 84,
103
+ 85,
104
+ 86,
105
+ 87,
106
+ 88,
107
+ 89,
108
+ 90,
109
+ 91,
110
+ 92,
111
+ 93,
112
+ 94,
113
+ 95,
114
+ 96,
115
+ 97,
116
+ 98,
117
+ 99,
118
+ 100,
119
+ 101,
120
+ 102,
121
+ 103,
122
+ 104,
123
+ 105,
124
+ 106,
125
+ 107,
126
+ 108,
127
+ 109,
128
+ 110,
129
+ 111,
130
+ 112,
131
+ 113,
132
+ 114,
133
+ 115,
134
+ 116,
135
+ 117,
136
+ 118,
137
+ 119,
138
+ 120,
139
+ 121,
140
+ 122,
141
+ 123,
142
+ 124,
143
+ 125,
144
+ 126,
145
+ 127,
146
+ 128,
147
+ 129,
148
+ 130,
149
+ 131,
150
+ 132,
151
+ 133,
152
+ 134,
153
+ 135,
154
+ 136,
155
+ 138,
156
+ 139,
157
+ 140,
158
+ 141,
159
+ 143,
160
+ 144,
161
+ 145,
162
+ 146,
163
+ 147,
164
+ 148,
165
+ 149,
166
+ 150,
167
+ 151,
168
+ 152,
169
+ 153,
170
+ 154,
171
+ 155,
172
+ 156,
173
+ 157,
174
+ 158,
175
+ 159,
176
+ 160,
177
+ 161,
178
+ 162,
179
+ 163,
180
+ 164,
181
+ 165,
182
+ 166,
183
+ 168,
184
+ 169,
185
+ 170,
186
+ 171,
187
+ 173,
188
+ 174,
189
+ 175,
190
+ 176,
191
+ 177,
192
+ 178,
193
+ 179,
194
+ 181,
195
+ 182,
196
+ 183,
197
+ 184,
198
+ 185,
199
+ 187,
200
+ 188,
201
+ 189,
202
+ 190,
203
+ 191,
204
+ 192,
205
+ 193,
206
+ 194,
207
+ 195,
208
+ 196,
209
+ 197,
210
+ 198,
211
+ 199,
212
+ 200,
213
+ 201,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 210,
221
+ 211,
222
+ 212,
223
+ 213,
224
+ 214,
225
+ 215,
226
+ 216,
227
+ 217,
228
+ 218,
229
+ 219,
230
+ 220,
231
+ 221,
232
+ 222,
233
+ 223,
234
+ 224,
235
+ 225,
236
+ 226,
237
+ 227,
238
+ 228,
239
+ 229,
240
+ 230,
241
+ 231,
242
+ 232,
243
+ 234,
244
+ 235,
245
+ 237,
246
+ 238,
247
+ 239,
248
+ 240,
249
+ 241,
250
+ 242,
251
+ 243,
252
+ 247,
253
+ 248,
254
+ 249,
255
+ 250,
256
+ 251,
257
+ 252,
258
+ 253,
259
+ 254,
260
+ 255,
261
+ 256,
262
+ 257,
263
+ 258,
264
+ 259,
265
+ 261,
266
+ 262,
267
+ 263,
268
+ 264,
269
+ 265,
270
+ 266,
271
+ 267,
272
+ 268,
273
+ 269,
274
+ 270,
275
+ 271,
276
+ 272,
277
+ 273,
278
+ 274,
279
+ 275,
280
+ 276,
281
+ 277,
282
+ 278,
283
+ 279,
284
+ 280,
285
+ 281,
286
+ 282,
287
+ 283,
288
+ 284,
289
+ 285,
290
+ 286,
291
+ 287,
292
+ 288,
293
+ 289,
294
+ 290,
295
+ 291,
296
+ 292,
297
+ 293,
298
+ 294,
299
+ 295,
300
+ 296,
301
+ 297,
302
+ 298,
303
+ 299,
304
+ 300,
305
+ 301,
306
+ 302,
307
+ 303,
308
+ 304,
309
+ 305,
310
+ 306,
311
+ 307,
312
+ 308,
313
+ 309,
314
+ 310,
315
+ 311,
316
+ 312,
317
+ 313,
318
+ 314,
319
+ 315,
320
+ 316,
321
+ 317,
322
+ 318,
323
+ 319,
324
+ 320,
325
+ 321,
326
+ 322,
327
+ 323,
328
+ 324,
329
+ 325,
330
+ 326,
331
+ 327,
332
+ 328,
333
+ 329,
334
+ 330,
335
+ 331,
336
+ 333,
337
+ 334,
338
+ 336,
339
+ 338,
340
+ 339,
341
+ 340,
342
+ 341,
343
+ 342,
344
+ 343,
345
+ 344,
346
+ 345,
347
+ 346,
348
+ 347,
349
+ 348,
350
+ 349,
351
+ 350,
352
+ 351,
353
+ 352,
354
+ 353,
355
+ 354,
356
+ 355,
357
+ 356,
358
+ 357,
359
+ 358,
360
+ 359,
361
+ 360,
362
+ 361,
363
+ 362,
364
+ 363,
365
+ 364,
366
+ 366,
367
+ 367,
368
+ 368,
369
+ 369,
370
+ 370,
371
+ 371,
372
+ 372,
373
+ 373,
374
+ 374,
375
+ 375,
376
+ 376,
377
+ 377,
378
+ 379,
379
+ 380,
380
+ 381,
381
+ 382,
382
+ 383,
383
+ 384,
384
+ 385,
385
+ 386,
386
+ 387,
387
+ 388,
388
+ 389,
389
+ 390,
390
+ 391,
391
+ 392,
392
+ 393,
393
+ 394,
394
+ 395,
395
+ 396,
396
+ 397,
397
+ 398,
398
+ 399,
399
+ 400,
400
+ 401,
401
+ 402,
402
+ 403,
403
+ 404,
404
+ 405,
405
+ 406,
406
+ 407,
407
+ 408,
408
+ 409,
409
+ 410,
410
+ 411,
411
+ 412,
412
+ 413,
413
+ 414,
414
+ 415,
415
+ 416,
416
+ 418,
417
+ 419,
418
+ 420,
419
+ 421,
420
+ 422,
421
+ 423,
422
+ 424,
423
+ 425,
424
+ 426,
425
+ 428,
426
+ 429,
427
+ 430,
428
+ 431,
429
+ 432,
430
+ 433,
431
+ 434,
432
+ 435,
433
+ 436,
434
+ 437,
435
+ 438,
436
+ 439,
437
+ 440,
438
+ 441,
439
+ 442,
440
+ 444,
441
+ 445,
442
+ 446,
443
+ 447,
444
+ 448,
445
+ 449,
446
+ 450,
447
+ 451,
448
+ 452,
449
+ 453,
450
+ 454,
451
+ 455,
452
+ 456,
453
+ 458,
454
+ 460,
455
+ 461,
456
+ 462,
457
+ 463,
458
+ 464,
459
+ 465,
460
+ 466,
461
+ 467,
462
+ 468,
463
+ 469,
464
+ 470,
465
+ 471,
466
+ 472,
467
+ 473,
468
+ 475,
469
+ 476,
470
+ 477,
471
+ 478,
472
+ 479,
473
+ 480,
474
+ 482,
475
+ 483,
476
+ 484,
477
+ 485,
478
+ 486,
479
+ 487,
480
+ 488,
481
+ 489,
482
+ 490,
483
+ 491,
484
+ 493,
485
+ 494,
486
+ 496,
487
+ 497,
488
+ 498,
489
+ 499,
490
+ 500,
491
+ 501,
492
+ 502,
493
+ 503,
494
+ 505,
495
+ 507,
496
+ 508,
497
+ 509,
498
+ 510,
499
+ 511,
500
+ 512,
501
+ 513,
502
+ 514,
503
+ 515,
504
+ 517,
505
+ 518,
506
+ 520,
507
+ 521,
508
+ 522,
509
+ 523,
510
+ 524,
511
+ 526,
512
+ 527,
513
+ 528,
514
+ 529,
515
+ 530,
516
+ 531,
517
+ 532,
518
+ 533,
519
+ 534,
520
+ 535,
521
+ 536,
522
+ 537,
523
+ 538,
524
+ 539,
525
+ 540,
526
+ 541,
527
+ 542,
528
+ 543,
529
+ 544,
530
+ 545,
531
+ 546,
532
+ 547,
533
+ 548,
534
+ 549,
535
+ 550,
536
+ 551,
537
+ 552,
538
+ 553,
539
+ 554,
540
+ 555,
541
+ 556,
542
+ 557,
543
+ 559,
544
+ 560,
545
+ 561,
546
+ 562,
547
+ 563,
548
+ 564,
549
+ 565,
550
+ 566,
551
+ 567,
552
+ 568,
553
+ 569,
554
+ 570,
555
+ 571,
556
+ 572,
557
+ 573,
558
+ 574,
559
+ 575,
560
+ 576,
561
+ 577,
562
+ 578,
563
+ 579,
564
+ 580,
565
+ 581,
566
+ 582,
567
+ 583,
568
+ 584,
569
+ 585,
570
+ 586,
571
+ 587,
572
+ 588,
573
+ 589,
574
+ 590,
575
+ 591,
576
+ 592,
577
+ 593,
578
+ 595,
579
+ 596,
580
+ 597,
581
+ 598,
582
+ 599,
583
+ 600,
584
+ 601,
585
+ 603,
586
+ 604,
587
+ 605,
588
+ 606,
589
+ 607,
590
+ 608,
591
+ 609,
592
+ 610,
593
+ 611,
594
+ 612,
595
+ 613,
596
+ 614,
597
+ 616,
598
+ 617,
599
+ 618,
600
+ 619,
601
+ 620,
602
+ 621,
603
+ 622,
604
+ 623,
605
+ 624,
606
+ 625,
607
+ 626,
608
+ 627,
609
+ 628,
610
+ 629,
611
+ 630,
612
+ 631,
613
+ 633,
614
+ 634,
615
+ 635,
616
+ 636,
617
+ 637,
618
+ 638,
619
+ 639,
620
+ 640,
621
+ 641,
622
+ 642,
623
+ 643,
624
+ 644,
625
+ 645,
626
+ 646,
627
+ 647,
628
+ 648,
629
+ 649,
630
+ 651,
631
+ 652,
632
+ 653,
633
+ 654,
634
+ 655,
635
+ 656,
636
+ 657,
637
+ 658,
638
+ 659,
639
+ 660,
640
+ 661,
641
+ 662,
642
+ 663,
643
+ 664,
644
+ 665,
645
+ 666,
646
+ 667,
647
+ 668,
648
+ 669,
649
+ 670,
650
+ 671,
651
+ 672,
652
+ 673,
653
+ 674,
654
+ 675,
655
+ 676,
656
+ 677,
657
+ 678,
658
+ 679,
659
+ 680,
660
+ 681,
661
+ 682,
662
+ 683,
663
+ 684,
664
+ 685,
665
+ 686,
666
+ 687,
667
+ 688,
668
+ 690,
669
+ 691,
670
+ 692,
671
+ 693,
672
+ 694,
673
+ 695,
674
+ 696,
675
+ 697,
676
+ 698,
677
+ 699,
678
+ 700,
679
+ 701,
680
+ 703,
681
+ 704,
682
+ 705,
683
+ 706,
684
+ 707,
685
+ 708,
686
+ 709,
687
+ 710,
688
+ 711,
689
+ 712,
690
+ 713,
691
+ 714,
692
+ 715,
693
+ 716,
694
+ 717,
695
+ 718,
696
+ 720,
697
+ 721,
698
+ 722,
699
+ 723,
700
+ 724,
701
+ 725,
702
+ 726,
703
+ 727,
704
+ 728,
705
+ 729,
706
+ 730,
707
+ 731,
708
+ 732,
709
+ 733,
710
+ 734,
711
+ 735,
712
+ 736,
713
+ 737,
714
+ 738,
715
+ 739,
716
+ 740,
717
+ 741,
718
+ 742,
719
+ 744,
720
+ 745,
721
+ 746,
722
+ 747,
723
+ 748,
724
+ 749,
725
+ 750,
726
+ 751,
727
+ 752,
728
+ 753,
729
+ 754,
730
+ 755,
731
+ 756,
732
+ 757,
733
+ 758,
734
+ 759,
735
+ 760,
736
+ 761,
737
+ 762,
738
+ 763,
739
+ 764,
740
+ 765,
741
+ 766,
742
+ 767,
743
+ 768,
744
+ 770,
745
+ 771,
746
+ 772,
747
+ 773,
748
+ 774,
749
+ 775,
750
+ 776,
751
+ 778,
752
+ 779,
753
+ 780,
754
+ 781,
755
+ 782,
756
+ 783,
757
+ 784,
758
+ 786,
759
+ 787,
760
+ 788,
761
+ 789,
762
+ 790,
763
+ 791,
764
+ 792,
765
+ 793,
766
+ 794,
767
+ 795,
768
+ 796,
769
+ 797,
770
+ 798,
771
+ 800,
772
+ 801,
773
+ 802,
774
+ 803,
775
+ 804,
776
+ 805,
777
+ 806,
778
+ 807,
779
+ 808,
780
+ 809,
781
+ 810,
782
+ 811,
783
+ 812,
784
+ 813,
785
+ 814,
786
+ 815,
787
+ 816,
788
+ 817,
789
+ 818,
790
+ 819,
791
+ 820,
792
+ 821,
793
+ 822,
794
+ 823,
795
+ 824,
796
+ 825,
797
+ 826,
798
+ 827,
799
+ 828,
800
+ 830,
801
+ 831,
802
+ 832,
803
+ 833,
804
+ 834,
805
+ 836,
806
+ 837,
807
+ 838,
808
+ 839,
809
+ 840,
810
+ 841,
811
+ 842,
812
+ 843,
813
+ 844,
814
+ 845,
815
+ 846,
816
+ 847,
817
+ 848,
818
+ 850,
819
+ 851,
820
+ 852,
821
+ 853,
822
+ 854,
823
+ 855,
824
+ 856,
825
+ 857,
826
+ 858,
827
+ 859,
828
+ 860,
829
+ 861,
830
+ 862,
831
+ 863,
832
+ 864,
833
+ 865,
834
+ 867,
835
+ 868,
836
+ 869,
837
+ 870,
838
+ 871,
839
+ 872,
840
+ 873,
841
+ 874,
842
+ 875,
843
+ 876,
844
+ 877,
845
+ 878,
846
+ 879,
847
+ 880,
848
+ 881,
849
+ 882,
850
+ 883,
851
+ 884,
852
+ 885,
853
+ 886,
854
+ 888,
855
+ 889,
856
+ 890,
857
+ 891,
858
+ 892,
859
+ 893,
860
+ 894,
861
+ 895,
862
+ 896,
863
+ 897,
864
+ 899,
865
+ 900,
866
+ 901,
867
+ 902,
868
+ 903,
869
+ 904,
870
+ 905,
871
+ 906,
872
+ 907,
873
+ 910,
874
+ 911,
875
+ 912,
876
+ 913,
877
+ 914,
878
+ 915,
879
+ 917,
880
+ 918,
881
+ 919,
882
+ 920,
883
+ 921,
884
+ 922,
885
+ 923,
886
+ 924,
887
+ 925,
888
+ 926,
889
+ 927,
890
+ 928,
891
+ 929,
892
+ 930,
893
+ 931,
894
+ 932,
895
+ 933,
896
+ 934,
897
+ 935,
898
+ 936,
899
+ 937,
900
+ 938,
901
+ 939,
902
+ 940,
903
+ 941,
904
+ 942,
905
+ 943,
906
+ 944,
907
+ 945,
908
+ 946,
909
+ 948,
910
+ 949,
911
+ 950,
912
+ 951,
913
+ 952,
914
+ 953,
915
+ 954,
916
+ 955,
917
+ 956,
918
+ 957,
919
+ 958,
920
+ 959,
921
+ 960,
922
+ 961,
923
+ 962,
924
+ 963,
925
+ 964,
926
+ 965,
927
+ 966,
928
+ 967,
929
+ 968,
930
+ 969,
931
+ 970,
932
+ 971,
933
+ 972,
934
+ 973,
935
+ 974,
936
+ 975,
937
+ 976,
938
+ 977,
939
+ 978,
940
+ 979,
941
+ 980,
942
+ 981,
943
+ 982,
944
+ 983,
945
+ 984,
946
+ 985,
947
+ 986,
948
+ 987,
949
+ 988,
950
+ 989,
951
+ 990,
952
+ 991,
953
+ 992,
954
+ 993,
955
+ 994,
956
+ 995,
957
+ 996,
958
+ 997,
959
+ 998,
960
+ 999,
961
+ 1000,
962
+ 1001,
963
+ 1002,
964
+ 1003,
965
+ 1005,
966
+ 1006,
967
+ 1007,
968
+ 1008,
969
+ 1009,
970
+ 1010,
971
+ 1011,
972
+ 1012,
973
+ 1013,
974
+ 1014,
975
+ 1015,
976
+ 1016,
977
+ 1017,
978
+ 1018,
979
+ 1019,
980
+ 1021,
981
+ 1022,
982
+ 1023,
983
+ 1024,
984
+ 1025,
985
+ 1026,
986
+ 1027,
987
+ 1028,
988
+ 1029,
989
+ 1030,
990
+ 1031,
991
+ 1032,
992
+ 1033,
993
+ 1034,
994
+ 1035,
995
+ 1036,
996
+ 1037,
997
+ 1038,
998
+ 1039,
999
+ 1040,
1000
+ 1041,
1001
+ 1042,
1002
+ 1043,
1003
+ 1045,
1004
+ 1046,
1005
+ 1047,
1006
+ 1048,
1007
+ 1049,
1008
+ 1050,
1009
+ 1051,
1010
+ 1052,
1011
+ 1053,
1012
+ 1054,
1013
+ 1055,
1014
+ 1057,
1015
+ 1058,
1016
+ 1059,
1017
+ 1060,
1018
+ 1063,
1019
+ 1064,
1020
+ 1065,
1021
+ 1066,
1022
+ 1067,
1023
+ 1068,
1024
+ 1070,
1025
+ 1071,
1026
+ 1072,
1027
+ 1073,
1028
+ 1074,
1029
+ 1075,
1030
+ 1076,
1031
+ 1077,
1032
+ 1078,
1033
+ 1079,
1034
+ 1081,
1035
+ 1082,
1036
+ 1084,
1037
+ 1085,
1038
+ 1086,
1039
+ 1087,
1040
+ 1088,
1041
+ 1090,
1042
+ 1091,
1043
+ 1092,
1044
+ 1093,
1045
+ 1094,
1046
+ 1095,
1047
+ 1096,
1048
+ 1098,
1049
+ 1100,
1050
+ 1101,
1051
+ 1102,
1052
+ 1103,
1053
+ 1104,
1054
+ 1105,
1055
+ 1106,
1056
+ 1108,
1057
+ 1109,
1058
+ 1110,
1059
+ 1111,
1060
+ 1112,
1061
+ 1113,
1062
+ 1114,
1063
+ 1115,
1064
+ 1116,
1065
+ 1117,
1066
+ 1118,
1067
+ 1119,
1068
+ 1120,
1069
+ 1121,
1070
+ 1122,
1071
+ 1123,
1072
+ 1124,
1073
+ 1125,
1074
+ 1126,
1075
+ 1127,
1076
+ 1128,
1077
+ 1129,
1078
+ 1130,
1079
+ 1131,
1080
+ 1132,
1081
+ 1133,
1082
+ 1134,
1083
+ 1135,
1084
+ 1136,
1085
+ 1137,
1086
+ 1138,
1087
+ 1139,
1088
+ 1140,
1089
+ 1141,
1090
+ 1144,
1091
+ 1145,
1092
+ 1146,
1093
+ 1147,
1094
+ 1148,
1095
+ 1149,
1096
+ 1150,
1097
+ 1151,
1098
+ 1152,
1099
+ 1153,
1100
+ 1154,
1101
+ 1155,
1102
+ 1156,
1103
+ 1157,
1104
+ 1158,
1105
+ 1159,
1106
+ 1161,
1107
+ 1162,
1108
+ 1163,
1109
+ 1164,
1110
+ 1165,
1111
+ 1166,
1112
+ 1169,
1113
+ 1170,
1114
+ 1171,
1115
+ 1172,
1116
+ 1173,
1117
+ 1174,
1118
+ 1175,
1119
+ 1177,
1120
+ 1178,
1121
+ 1179,
1122
+ 1180,
1123
+ 1181,
1124
+ 1182,
1125
+ 1183,
1126
+ 1184,
1127
+ 1185,
1128
+ 1186,
1129
+ 1187,
1130
+ 1188,
1131
+ 1189,
1132
+ 1190,
1133
+ 1191,
1134
+ 1192,
1135
+ 1193,
1136
+ 1195,
1137
+ 1196,
1138
+ 1197,
1139
+ 1199,
1140
+ 1200,
1141
+ 1201,
1142
+ 1202,
1143
+ 1203,
1144
+ 1204,
1145
+ 1205,
1146
+ 1206,
1147
+ 1207,
1148
+ 1208,
1149
+ 1209,
1150
+ 1210,
1151
+ 1212,
1152
+ 1213,
1153
+ 1214,
1154
+ 1215,
1155
+ 1216,
1156
+ 1217,
1157
+ 1218,
1158
+ 1219,
1159
+ 1220,
1160
+ 1221,
1161
+ 1222,
1162
+ 1223,
1163
+ 1224,
1164
+ 1225,
1165
+ 1226,
1166
+ 1227,
1167
+ 1228,
1168
+ 1229,
1169
+ 1230,
1170
+ 1231,
1171
+ 1232,
1172
+ 1233,
1173
+ 1234,
1174
+ 1235,
1175
+ 1236,
1176
+ 1237,
1177
+ 1238,
1178
+ 1239,
1179
+ 1240,
1180
+ 1241,
1181
+ 1242,
1182
+ 1243,
1183
+ 1244,
1184
+ 1245,
1185
+ 1246,
1186
+ 1248,
1187
+ 1249,
1188
+ 1250,
1189
+ 1251,
1190
+ 1252,
1191
+ 1253,
1192
+ 1254,
1193
+ 1255,
1194
+ 1256,
1195
+ 1257,
1196
+ 1259,
1197
+ 1260,
1198
+ 1261,
1199
+ 1262,
1200
+ 1263,
1201
+ 1264,
1202
+ 1265,
1203
+ 1266,
1204
+ 1267,
1205
+ 1268,
1206
+ 1269,
1207
+ 1270,
1208
+ 1271,
1209
+ 1272,
1210
+ 1273,
1211
+ 1274,
1212
+ 1275,
1213
+ 1276,
1214
+ 1277,
1215
+ 1278,
1216
+ 1279,
1217
+ 1280,
1218
+ 1281,
1219
+ 1282,
1220
+ 1283,
1221
+ 1284,
1222
+ 1285,
1223
+ 1286,
1224
+ 1287,
1225
+ 1288,
1226
+ 1289,
1227
+ 1290,
1228
+ 1291,
1229
+ 1292,
1230
+ 1293,
1231
+ 1294,
1232
+ 1295,
1233
+ 1296,
1234
+ 1297,
1235
+ 1298,
1236
+ 1299,
1237
+ 1300,
1238
+ 1301,
1239
+ 1302,
1240
+ 1303,
1241
+ 1304,
1242
+ 1305,
1243
+ 1306,
1244
+ 1307,
1245
+ 1308,
1246
+ 1309,
1247
+ 1310,
1248
+ 1311,
1249
+ 1312,
1250
+ 1313,
1251
+ 1314,
1252
+ 1315,
1253
+ 1316,
1254
+ 1318,
1255
+ 1319,
1256
+ 1320,
1257
+ 1321,
1258
+ 1322,
1259
+ 1323,
1260
+ 1324,
1261
+ 1325,
1262
+ 1326,
1263
+ 1327,
1264
+ 1328,
1265
+ 1329,
1266
+ 1330,
1267
+ 1331,
1268
+ 1332,
1269
+ 1333,
1270
+ 1334,
1271
+ 1335,
1272
+ 1336,
1273
+ 1337,
1274
+ 1338,
1275
+ 1340,
1276
+ 1341,
1277
+ 1342,
1278
+ 1343,
1279
+ 1344,
1280
+ 1345,
1281
+ 1346,
1282
+ 1347,
1283
+ 1349,
1284
+ 1350,
1285
+ 1351,
1286
+ 1352,
1287
+ 1353,
1288
+ 1354,
1289
+ 1355,
1290
+ 1357,
1291
+ 1358,
1292
+ 1359,
1293
+ 1360,
1294
+ 1361,
1295
+ 1362,
1296
+ 1363,
1297
+ 1364,
1298
+ 1365,
1299
+ 1366,
1300
+ 1367,
1301
+ 1368,
1302
+ 1370,
1303
+ 1371,
1304
+ 1374,
1305
+ 1375,
1306
+ 1376,
1307
+ 1377,
1308
+ 1378,
1309
+ 1380,
1310
+ 1381,
1311
+ 1382,
1312
+ 1383,
1313
+ 1384,
1314
+ 1385,
1315
+ 1386,
1316
+ 1387,
1317
+ 1388,
1318
+ 1389,
1319
+ 1390,
1320
+ 1391,
1321
+ 1392,
1322
+ 1393,
1323
+ 1394,
1324
+ 1395,
1325
+ 1396,
1326
+ 1397,
1327
+ 1398,
1328
+ 1399,
1329
+ 1400,
1330
+ 1401,
1331
+ 1402,
1332
+ 1403,
1333
+ 1404,
1334
+ 1405,
1335
+ 1406,
1336
+ 1407,
1337
+ 1408,
1338
+ 1409,
1339
+ 1410,
1340
+ 1411,
1341
+ 1412,
1342
+ 1413,
1343
+ 1414,
1344
+ 1415,
1345
+ 1416,
1346
+ 1417,
1347
+ 1418,
1348
+ 1419,
1349
+ 1420,
1350
+ 1421,
1351
+ 1422,
1352
+ 1423,
1353
+ 1424,
1354
+ 1426,
1355
+ 1427,
1356
+ 1428,
1357
+ 1429,
1358
+ 1430,
1359
+ 1431,
1360
+ 1432,
1361
+ 1433,
1362
+ 1434,
1363
+ 1435,
1364
+ 1436,
1365
+ 1437,
1366
+ 1438,
1367
+ 1440,
1368
+ 1441,
1369
+ 1442,
1370
+ 1443,
1371
+ 1444,
1372
+ 1445,
1373
+ 1446,
1374
+ 1447,
1375
+ 1448,
1376
+ 1449,
1377
+ 1450,
1378
+ 1451,
1379
+ 1452,
1380
+ 1453,
1381
+ 1454,
1382
+ 1455,
1383
+ 1456,
1384
+ 1457,
1385
+ 1458,
1386
+ 1459,
1387
+ 1460,
1388
+ 1461,
1389
+ 1462,
1390
+ 1463,
1391
+ 1464,
1392
+ 1465,
1393
+ 1466,
1394
+ 1467,
1395
+ 1468,
1396
+ 1469,
1397
+ 1470,
1398
+ 1472,
1399
+ 1473,
1400
+ 1474,
1401
+ 1476,
1402
+ 1477,
1403
+ 1478,
1404
+ 1480,
1405
+ 1481,
1406
+ 1482,
1407
+ 1483,
1408
+ 1484,
1409
+ 1485,
1410
+ 1486,
1411
+ 1487,
1412
+ 1488,
1413
+ 1489,
1414
+ 1490,
1415
+ 1491,
1416
+ 1493,
1417
+ 1494,
1418
+ 1496,
1419
+ 1497,
1420
+ 1499,
1421
+ 1500,
1422
+ 1501,
1423
+ 1503,
1424
+ 1504,
1425
+ 1505,
1426
+ 1506,
1427
+ 1507,
1428
+ 1508,
1429
+ 1509,
1430
+ 1510,
1431
+ 1511,
1432
+ 1512,
1433
+ 1513,
1434
+ 1514,
1435
+ 1515,
1436
+ 1516,
1437
+ 1517,
1438
+ 1519,
1439
+ 1521,
1440
+ 1522,
1441
+ 1523,
1442
+ 1524,
1443
+ 1525,
1444
+ 1526,
1445
+ 1527,
1446
+ 1528,
1447
+ 1529,
1448
+ 1530,
1449
+ 1531,
1450
+ 1532,
1451
+ 1533,
1452
+ 1534,
1453
+ 1535,
1454
+ 1536,
1455
+ 1538,
1456
+ 1539,
1457
+ 1540,
1458
+ 1541,
1459
+ 1542,
1460
+ 1543,
1461
+ 1544,
1462
+ 1545,
1463
+ 1546,
1464
+ 1547,
1465
+ 1548,
1466
+ 1549,
1467
+ 1550,
1468
+ 1551,
1469
+ 1552,
1470
+ 1553,
1471
+ 1554,
1472
+ 1555,
1473
+ 1556,
1474
+ 1557,
1475
+ 1558,
1476
+ 1559,
1477
+ 1560,
1478
+ 1561,
1479
+ 1562,
1480
+ 1563,
1481
+ 1564,
1482
+ 1565,
1483
+ 1566,
1484
+ 1567,
1485
+ 1568,
1486
+ 1569,
1487
+ 1570,
1488
+ 1571,
1489
+ 1572,
1490
+ 1573,
1491
+ 1574,
1492
+ 1576,
1493
+ 1577,
1494
+ 1578,
1495
+ 1579,
1496
+ 1580,
1497
+ 1581,
1498
+ 1582,
1499
+ 1583,
1500
+ 1584,
1501
+ 1585,
1502
+ 1586,
1503
+ 1587,
1504
+ 1588,
1505
+ 1589,
1506
+ 1590,
1507
+ 1591,
1508
+ 1592,
1509
+ 1593,
1510
+ 1594,
1511
+ 1595,
1512
+ 1596,
1513
+ 1597,
1514
+ 1598,
1515
+ 1599,
1516
+ 1600,
1517
+ 1601,
1518
+ 1602,
1519
+ 1603,
1520
+ 1604,
1521
+ 1605,
1522
+ 1606,
1523
+ 1607,
1524
+ 1608,
1525
+ 1609,
1526
+ 1610,
1527
+ 1611,
1528
+ 1612,
1529
+ 1613,
1530
+ 1614,
1531
+ 1615,
1532
+ 1616,
1533
+ 1617,
1534
+ 1618,
1535
+ 1619,
1536
+ 1620,
1537
+ 1621,
1538
+ 1622,
1539
+ 1623,
1540
+ 1624,
1541
+ 1625,
1542
+ 1626,
1543
+ 1627,
1544
+ 1628,
1545
+ 1629,
1546
+ 1630,
1547
+ 1631,
1548
+ 1632,
1549
+ 1633,
1550
+ 1634,
1551
+ 1635,
1552
+ 1636,
1553
+ 1637,
1554
+ 1638,
1555
+ 1639,
1556
+ 1640,
1557
+ 1641,
1558
+ 1642,
1559
+ 1643,
1560
+ 1644,
1561
+ 1645,
1562
+ 1646,
1563
+ 1647,
1564
+ 1648,
1565
+ 1649,
1566
+ 1650,
1567
+ 1651,
1568
+ 1652,
1569
+ 1653,
1570
+ 1654,
1571
+ 1655,
1572
+ 1656,
1573
+ 1657,
1574
+ 1658,
1575
+ 1659,
1576
+ 1660,
1577
+ 1661,
1578
+ 1662,
1579
+ 1663,
1580
+ 1664,
1581
+ 1665,
1582
+ 1666,
1583
+ 1667,
1584
+ 1668,
1585
+ 1669,
1586
+ 1670,
1587
+ 1671,
1588
+ 1673,
1589
+ 1674,
1590
+ 1675,
1591
+ 1676,
1592
+ 1677,
1593
+ 1678,
1594
+ 1680,
1595
+ 1681,
1596
+ 1682,
1597
+ 1683,
1598
+ 1684,
1599
+ 1685,
1600
+ 1686,
1601
+ 1687,
1602
+ 1688,
1603
+ 1689,
1604
+ 1690,
1605
+ 1691,
1606
+ 1692,
1607
+ 1693,
1608
+ 1694,
1609
+ 1695,
1610
+ 1696,
1611
+ 1698,
1612
+ 1699,
1613
+ 1700,
1614
+ 1701,
1615
+ 1702,
1616
+ 1703,
1617
+ 1704,
1618
+ 1706,
1619
+ 1707,
1620
+ 1708,
1621
+ 1709,
1622
+ 1710,
1623
+ 1711,
1624
+ 1712,
1625
+ 1713,
1626
+ 1714,
1627
+ 1715,
1628
+ 1716,
1629
+ 1717,
1630
+ 1718,
1631
+ 1719,
1632
+ 1720,
1633
+ 1721,
1634
+ 1722,
1635
+ 1723,
1636
+ 1724,
1637
+ 1725,
1638
+ 1726,
1639
+ 1727,
1640
+ 1728,
1641
+ 1729,
1642
+ 1730,
1643
+ 1731,
1644
+ 1732,
1645
+ 1734,
1646
+ 1735,
1647
+ 1736,
1648
+ 1739,
1649
+ 1740,
1650
+ 1741,
1651
+ 1742,
1652
+ 1743,
1653
+ 1744,
1654
+ 1745,
1655
+ 1746,
1656
+ 1747,
1657
+ 1748,
1658
+ 1749,
1659
+ 1750,
1660
+ 1751,
1661
+ 1752,
1662
+ 1753,
1663
+ 1754,
1664
+ 1755,
1665
+ 1756,
1666
+ 1758,
1667
+ 1759,
1668
+ 1760,
1669
+ 1761,
1670
+ 1762,
1671
+ 1763,
1672
+ 1764,
1673
+ 1765,
1674
+ 1766,
1675
+ 1767,
1676
+ 1768,
1677
+ 1769,
1678
+ 1770,
1679
+ 1771,
1680
+ 1772,
1681
+ 1773,
1682
+ 1774,
1683
+ 1775,
1684
+ 1776,
1685
+ 1777,
1686
+ 1778,
1687
+ 1779,
1688
+ 1780,
1689
+ 1781,
1690
+ 1782,
1691
+ 1783,
1692
+ 1784,
1693
+ 1785,
1694
+ 1786,
1695
+ 1787,
1696
+ 1788,
1697
+ 1789,
1698
+ 1790,
1699
+ 1791,
1700
+ 1792,
1701
+ 1793,
1702
+ 1794,
1703
+ 1796,
1704
+ 1797,
1705
+ 1798,
1706
+ 1799,
1707
+ 1800,
1708
+ 1801,
1709
+ 1802,
1710
+ 1803,
1711
+ 1804,
1712
+ 1805,
1713
+ 1806,
1714
+ 1807,
1715
+ 1808,
1716
+ 1809,
1717
+ 1810,
1718
+ 1811,
1719
+ 1812,
1720
+ 1813,
1721
+ 1814,
1722
+ 1815,
1723
+ 1816,
1724
+ 1817,
1725
+ 1818,
1726
+ 1819,
1727
+ 1820,
1728
+ 1821,
1729
+ 1822,
1730
+ 1823,
1731
+ 1824,
1732
+ 1825,
1733
+ 1826,
1734
+ 1827,
1735
+ 1828,
1736
+ 1829,
1737
+ 1830,
1738
+ 1831,
1739
+ 1832,
1740
+ 1833,
1741
+ 1834,
1742
+ 1835,
1743
+ 1836,
1744
+ 1837,
1745
+ 1838,
1746
+ 1839,
1747
+ 1840,
1748
+ 1841,
1749
+ 1842,
1750
+ 1844,
1751
+ 1845,
1752
+ 1846,
1753
+ 1847,
1754
+ 1848,
1755
+ 1849,
1756
+ 1850,
1757
+ 1851,
1758
+ 1852,
1759
+ 1853,
1760
+ 1854,
1761
+ 1855,
1762
+ 1856,
1763
+ 1857,
1764
+ 1858,
1765
+ 1859,
1766
+ 1860,
1767
+ 1861,
1768
+ 1862,
1769
+ 1863,
1770
+ 1864,
1771
+ 1865,
1772
+ 1866,
1773
+ 1867,
1774
+ 1868,
1775
+ 1869,
1776
+ 1870,
1777
+ 1871,
1778
+ 1872,
1779
+ 1873,
1780
+ 1874,
1781
+ 1875,
1782
+ 1876,
1783
+ 1877,
1784
+ 1878,
1785
+ 1880,
1786
+ 1881,
1787
+ 1883,
1788
+ 1884,
1789
+ 1885,
1790
+ 1886,
1791
+ 1887,
1792
+ 1888,
1793
+ 1889,
1794
+ 1890,
1795
+ 1891,
1796
+ 1892,
1797
+ 1893,
1798
+ 1894,
1799
+ 1895,
1800
+ 1896,
1801
+ 1897,
1802
+ 1898,
1803
+ 1899,
1804
+ 1900,
1805
+ 1901,
1806
+ 1902,
1807
+ 1903,
1808
+ 1904,
1809
+ 1905,
1810
+ 1906,
1811
+ 1907,
1812
+ 1908,
1813
+ 1909,
1814
+ 1910,
1815
+ 1911,
1816
+ 1912,
1817
+ 1913,
1818
+ 1914,
1819
+ 1916,
1820
+ 1917,
1821
+ 1918,
1822
+ 1919,
1823
+ 1920,
1824
+ 1921,
1825
+ 1922,
1826
+ 1923,
1827
+ 1924,
1828
+ 1925,
1829
+ 1926,
1830
+ 1927,
1831
+ 1929,
1832
+ 1930,
1833
+ 1931,
1834
+ 1932,
1835
+ 1933,
1836
+ 1934,
1837
+ 1935,
1838
+ 1936,
1839
+ 1937,
1840
+ 1938,
1841
+ 1939,
1842
+ 1940,
1843
+ 1941,
1844
+ 1942,
1845
+ 1943,
1846
+ 1944,
1847
+ 1945,
1848
+ 1947,
1849
+ 1948,
1850
+ 1949,
1851
+ 1950,
1852
+ 1951,
1853
+ 1952,
1854
+ 1953,
1855
+ 1954,
1856
+ 1955,
1857
+ 1956,
1858
+ 1957,
1859
+ 1958,
1860
+ 1959,
1861
+ 1960,
1862
+ 1961,
1863
+ 1962,
1864
+ 1963,
1865
+ 1964,
1866
+ 1965,
1867
+ 1966,
1868
+ 1967,
1869
+ 1968,
1870
+ 1969,
1871
+ 1970,
1872
+ 1971,
1873
+ 1972,
1874
+ 1974,
1875
+ 1975,
1876
+ 1976,
1877
+ 1977,
1878
+ 1978,
1879
+ 1979,
1880
+ 1980,
1881
+ 1981,
1882
+ 1982,
1883
+ 1983,
1884
+ 1984,
1885
+ 1985,
1886
+ 1986,
1887
+ 1987,
1888
+ 1988,
1889
+ 1989,
1890
+ 1990,
1891
+ 1991,
1892
+ 1993,
1893
+ 1994,
1894
+ 1995,
1895
+ 1996,
1896
+ 1997,
1897
+ 1998,
1898
+ 1999
1899
+ ],
1900
+ "not_both_correct_indices": [
1901
+ 21,
1902
+ 54,
1903
+ 167,
1904
+ 172,
1905
+ 186,
1906
+ 202,
1907
+ 209,
1908
+ 233,
1909
+ 236,
1910
+ 244,
1911
+ 245,
1912
+ 246,
1913
+ 260,
1914
+ 332,
1915
+ 335,
1916
+ 337,
1917
+ 365,
1918
+ 378,
1919
+ 417,
1920
+ 427,
1921
+ 443,
1922
+ 457,
1923
+ 459,
1924
+ 474,
1925
+ 481,
1926
+ 492,
1927
+ 495,
1928
+ 504,
1929
+ 516,
1930
+ 519,
1931
+ 525,
1932
+ 558,
1933
+ 594,
1934
+ 602,
1935
+ 615,
1936
+ 632,
1937
+ 650,
1938
+ 689,
1939
+ 702,
1940
+ 719,
1941
+ 743,
1942
+ 769,
1943
+ 777,
1944
+ 785,
1945
+ 799,
1946
+ 829,
1947
+ 835,
1948
+ 849,
1949
+ 866,
1950
+ 887,
1951
+ 898,
1952
+ 908,
1953
+ 909,
1954
+ 916,
1955
+ 947,
1956
+ 1004,
1957
+ 1044,
1958
+ 1061,
1959
+ 1062,
1960
+ 1069,
1961
+ 1080,
1962
+ 1083,
1963
+ 1089,
1964
+ 1097,
1965
+ 1099,
1966
+ 1107,
1967
+ 1142,
1968
+ 1143,
1969
+ 1160,
1970
+ 1167,
1971
+ 1168,
1972
+ 1176,
1973
+ 1194,
1974
+ 1198,
1975
+ 1211,
1976
+ 1247,
1977
+ 1258,
1978
+ 1317,
1979
+ 1339,
1980
+ 1348,
1981
+ 1356,
1982
+ 1369,
1983
+ 1372,
1984
+ 1373,
1985
+ 1379,
1986
+ 1425,
1987
+ 1439,
1988
+ 1471,
1989
+ 1475,
1990
+ 1479,
1991
+ 1492,
1992
+ 1495,
1993
+ 1498,
1994
+ 1502,
1995
+ 1518,
1996
+ 1520,
1997
+ 1537,
1998
+ 1575,
1999
+ 1672,
2000
+ 1679,
2001
+ 1697,
2002
+ 1705,
2003
+ 1733,
2004
+ 1737,
2005
+ 1757,
2006
+ 1843,
2007
+ 1879,
2008
+ 1882,
2009
+ 1915,
2010
+ 1928,
2011
+ 1946,
2012
+ 1973,
2013
+ 1992
2014
+ ],
2015
+ "clean_baseline": 13.3671875,
2016
+ "corrupted_baseline": -13.46875
2017
+ }
results/Qwen_Qwen2-5-72B-Instruct/ToM/emotion_fewshot/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a4f51de3b5d4ea813e87879b121a84a13fef1d793d9c57a362dd756d9b4d5947
3
+ size 18925174
results/Qwen_Qwen2-5-72B-Instruct/ToM/emotion_fewshot/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:05fda1fa193da4d79aa3858e37243cbb503ffdfe5f4e7eed59605e31460da1f7
3
+ size 9339272
results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_appropriate/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2365440, "num_layers": 80, "num_units": 29568}
results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_appropriate/baselines.json ADDED
@@ -0,0 +1,2015 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 2000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 2000,
6
+ "clean_accuracy": 1.0,
7
+ "corrupted_accuracy": 1.0,
8
+ "both_correct_accuracy": 1.0,
9
+ "n_both_correct": 2000,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 129,
141
+ 130,
142
+ 131,
143
+ 132,
144
+ 133,
145
+ 134,
146
+ 135,
147
+ 136,
148
+ 137,
149
+ 138,
150
+ 139,
151
+ 140,
152
+ 141,
153
+ 142,
154
+ 143,
155
+ 144,
156
+ 145,
157
+ 146,
158
+ 147,
159
+ 148,
160
+ 149,
161
+ 150,
162
+ 151,
163
+ 152,
164
+ 153,
165
+ 154,
166
+ 155,
167
+ 156,
168
+ 157,
169
+ 158,
170
+ 159,
171
+ 160,
172
+ 161,
173
+ 162,
174
+ 163,
175
+ 164,
176
+ 165,
177
+ 166,
178
+ 167,
179
+ 168,
180
+ 169,
181
+ 170,
182
+ 171,
183
+ 172,
184
+ 173,
185
+ 174,
186
+ 175,
187
+ 176,
188
+ 177,
189
+ 178,
190
+ 179,
191
+ 180,
192
+ 181,
193
+ 182,
194
+ 183,
195
+ 184,
196
+ 185,
197
+ 186,
198
+ 187,
199
+ 188,
200
+ 189,
201
+ 190,
202
+ 191,
203
+ 192,
204
+ 193,
205
+ 194,
206
+ 195,
207
+ 196,
208
+ 197,
209
+ 198,
210
+ 199,
211
+ 200,
212
+ 201,
213
+ 202,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 209,
221
+ 210,
222
+ 211,
223
+ 212,
224
+ 213,
225
+ 214,
226
+ 215,
227
+ 216,
228
+ 217,
229
+ 218,
230
+ 219,
231
+ 220,
232
+ 221,
233
+ 222,
234
+ 223,
235
+ 224,
236
+ 225,
237
+ 226,
238
+ 227,
239
+ 228,
240
+ 229,
241
+ 230,
242
+ 231,
243
+ 232,
244
+ 233,
245
+ 234,
246
+ 235,
247
+ 236,
248
+ 237,
249
+ 238,
250
+ 239,
251
+ 240,
252
+ 241,
253
+ 242,
254
+ 243,
255
+ 244,
256
+ 245,
257
+ 246,
258
+ 247,
259
+ 248,
260
+ 249,
261
+ 250,
262
+ 251,
263
+ 252,
264
+ 253,
265
+ 254,
266
+ 255,
267
+ 256,
268
+ 257,
269
+ 258,
270
+ 259,
271
+ 260,
272
+ 261,
273
+ 262,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 274,
286
+ 275,
287
+ 276,
288
+ 277,
289
+ 278,
290
+ 279,
291
+ 280,
292
+ 281,
293
+ 282,
294
+ 283,
295
+ 284,
296
+ 285,
297
+ 286,
298
+ 287,
299
+ 288,
300
+ 289,
301
+ 290,
302
+ 291,
303
+ 292,
304
+ 293,
305
+ 294,
306
+ 295,
307
+ 296,
308
+ 297,
309
+ 298,
310
+ 299,
311
+ 300,
312
+ 301,
313
+ 302,
314
+ 303,
315
+ 304,
316
+ 305,
317
+ 306,
318
+ 307,
319
+ 308,
320
+ 309,
321
+ 310,
322
+ 311,
323
+ 312,
324
+ 313,
325
+ 314,
326
+ 315,
327
+ 316,
328
+ 317,
329
+ 318,
330
+ 319,
331
+ 320,
332
+ 321,
333
+ 322,
334
+ 323,
335
+ 324,
336
+ 325,
337
+ 326,
338
+ 327,
339
+ 328,
340
+ 329,
341
+ 330,
342
+ 331,
343
+ 332,
344
+ 333,
345
+ 334,
346
+ 335,
347
+ 336,
348
+ 337,
349
+ 338,
350
+ 339,
351
+ 340,
352
+ 341,
353
+ 342,
354
+ 343,
355
+ 344,
356
+ 345,
357
+ 346,
358
+ 347,
359
+ 348,
360
+ 349,
361
+ 350,
362
+ 351,
363
+ 352,
364
+ 353,
365
+ 354,
366
+ 355,
367
+ 356,
368
+ 357,
369
+ 358,
370
+ 359,
371
+ 360,
372
+ 361,
373
+ 362,
374
+ 363,
375
+ 364,
376
+ 365,
377
+ 366,
378
+ 367,
379
+ 368,
380
+ 369,
381
+ 370,
382
+ 371,
383
+ 372,
384
+ 373,
385
+ 374,
386
+ 375,
387
+ 376,
388
+ 377,
389
+ 378,
390
+ 379,
391
+ 380,
392
+ 381,
393
+ 382,
394
+ 383,
395
+ 384,
396
+ 385,
397
+ 386,
398
+ 387,
399
+ 388,
400
+ 389,
401
+ 390,
402
+ 391,
403
+ 392,
404
+ 393,
405
+ 394,
406
+ 395,
407
+ 396,
408
+ 397,
409
+ 398,
410
+ 399,
411
+ 400,
412
+ 401,
413
+ 402,
414
+ 403,
415
+ 404,
416
+ 405,
417
+ 406,
418
+ 407,
419
+ 408,
420
+ 409,
421
+ 410,
422
+ 411,
423
+ 412,
424
+ 413,
425
+ 414,
426
+ 415,
427
+ 416,
428
+ 417,
429
+ 418,
430
+ 419,
431
+ 420,
432
+ 421,
433
+ 422,
434
+ 423,
435
+ 424,
436
+ 425,
437
+ 426,
438
+ 427,
439
+ 428,
440
+ 429,
441
+ 430,
442
+ 431,
443
+ 432,
444
+ 433,
445
+ 434,
446
+ 435,
447
+ 436,
448
+ 437,
449
+ 438,
450
+ 439,
451
+ 440,
452
+ 441,
453
+ 442,
454
+ 443,
455
+ 444,
456
+ 445,
457
+ 446,
458
+ 447,
459
+ 448,
460
+ 449,
461
+ 450,
462
+ 451,
463
+ 452,
464
+ 453,
465
+ 454,
466
+ 455,
467
+ 456,
468
+ 457,
469
+ 458,
470
+ 459,
471
+ 460,
472
+ 461,
473
+ 462,
474
+ 463,
475
+ 464,
476
+ 465,
477
+ 466,
478
+ 467,
479
+ 468,
480
+ 469,
481
+ 470,
482
+ 471,
483
+ 472,
484
+ 473,
485
+ 474,
486
+ 475,
487
+ 476,
488
+ 477,
489
+ 478,
490
+ 479,
491
+ 480,
492
+ 481,
493
+ 482,
494
+ 483,
495
+ 484,
496
+ 485,
497
+ 486,
498
+ 487,
499
+ 488,
500
+ 489,
501
+ 490,
502
+ 491,
503
+ 492,
504
+ 493,
505
+ 494,
506
+ 495,
507
+ 496,
508
+ 497,
509
+ 498,
510
+ 499,
511
+ 500,
512
+ 501,
513
+ 502,
514
+ 503,
515
+ 504,
516
+ 505,
517
+ 506,
518
+ 507,
519
+ 508,
520
+ 509,
521
+ 510,
522
+ 511,
523
+ 512,
524
+ 513,
525
+ 514,
526
+ 515,
527
+ 516,
528
+ 517,
529
+ 518,
530
+ 519,
531
+ 520,
532
+ 521,
533
+ 522,
534
+ 523,
535
+ 524,
536
+ 525,
537
+ 526,
538
+ 527,
539
+ 528,
540
+ 529,
541
+ 530,
542
+ 531,
543
+ 532,
544
+ 533,
545
+ 534,
546
+ 535,
547
+ 536,
548
+ 537,
549
+ 538,
550
+ 539,
551
+ 540,
552
+ 541,
553
+ 542,
554
+ 543,
555
+ 544,
556
+ 545,
557
+ 546,
558
+ 547,
559
+ 548,
560
+ 549,
561
+ 550,
562
+ 551,
563
+ 552,
564
+ 553,
565
+ 554,
566
+ 555,
567
+ 556,
568
+ 557,
569
+ 558,
570
+ 559,
571
+ 560,
572
+ 561,
573
+ 562,
574
+ 563,
575
+ 564,
576
+ 565,
577
+ 566,
578
+ 567,
579
+ 568,
580
+ 569,
581
+ 570,
582
+ 571,
583
+ 572,
584
+ 573,
585
+ 574,
586
+ 575,
587
+ 576,
588
+ 577,
589
+ 578,
590
+ 579,
591
+ 580,
592
+ 581,
593
+ 582,
594
+ 583,
595
+ 584,
596
+ 585,
597
+ 586,
598
+ 587,
599
+ 588,
600
+ 589,
601
+ 590,
602
+ 591,
603
+ 592,
604
+ 593,
605
+ 594,
606
+ 595,
607
+ 596,
608
+ 597,
609
+ 598,
610
+ 599,
611
+ 600,
612
+ 601,
613
+ 602,
614
+ 603,
615
+ 604,
616
+ 605,
617
+ 606,
618
+ 607,
619
+ 608,
620
+ 609,
621
+ 610,
622
+ 611,
623
+ 612,
624
+ 613,
625
+ 614,
626
+ 615,
627
+ 616,
628
+ 617,
629
+ 618,
630
+ 619,
631
+ 620,
632
+ 621,
633
+ 622,
634
+ 623,
635
+ 624,
636
+ 625,
637
+ 626,
638
+ 627,
639
+ 628,
640
+ 629,
641
+ 630,
642
+ 631,
643
+ 632,
644
+ 633,
645
+ 634,
646
+ 635,
647
+ 636,
648
+ 637,
649
+ 638,
650
+ 639,
651
+ 640,
652
+ 641,
653
+ 642,
654
+ 643,
655
+ 644,
656
+ 645,
657
+ 646,
658
+ 647,
659
+ 648,
660
+ 649,
661
+ 650,
662
+ 651,
663
+ 652,
664
+ 653,
665
+ 654,
666
+ 655,
667
+ 656,
668
+ 657,
669
+ 658,
670
+ 659,
671
+ 660,
672
+ 661,
673
+ 662,
674
+ 663,
675
+ 664,
676
+ 665,
677
+ 666,
678
+ 667,
679
+ 668,
680
+ 669,
681
+ 670,
682
+ 671,
683
+ 672,
684
+ 673,
685
+ 674,
686
+ 675,
687
+ 676,
688
+ 677,
689
+ 678,
690
+ 679,
691
+ 680,
692
+ 681,
693
+ 682,
694
+ 683,
695
+ 684,
696
+ 685,
697
+ 686,
698
+ 687,
699
+ 688,
700
+ 689,
701
+ 690,
702
+ 691,
703
+ 692,
704
+ 693,
705
+ 694,
706
+ 695,
707
+ 696,
708
+ 697,
709
+ 698,
710
+ 699,
711
+ 700,
712
+ 701,
713
+ 702,
714
+ 703,
715
+ 704,
716
+ 705,
717
+ 706,
718
+ 707,
719
+ 708,
720
+ 709,
721
+ 710,
722
+ 711,
723
+ 712,
724
+ 713,
725
+ 714,
726
+ 715,
727
+ 716,
728
+ 717,
729
+ 718,
730
+ 719,
731
+ 720,
732
+ 721,
733
+ 722,
734
+ 723,
735
+ 724,
736
+ 725,
737
+ 726,
738
+ 727,
739
+ 728,
740
+ 729,
741
+ 730,
742
+ 731,
743
+ 732,
744
+ 733,
745
+ 734,
746
+ 735,
747
+ 736,
748
+ 737,
749
+ 738,
750
+ 739,
751
+ 740,
752
+ 741,
753
+ 742,
754
+ 743,
755
+ 744,
756
+ 745,
757
+ 746,
758
+ 747,
759
+ 748,
760
+ 749,
761
+ 750,
762
+ 751,
763
+ 752,
764
+ 753,
765
+ 754,
766
+ 755,
767
+ 756,
768
+ 757,
769
+ 758,
770
+ 759,
771
+ 760,
772
+ 761,
773
+ 762,
774
+ 763,
775
+ 764,
776
+ 765,
777
+ 766,
778
+ 767,
779
+ 768,
780
+ 769,
781
+ 770,
782
+ 771,
783
+ 772,
784
+ 773,
785
+ 774,
786
+ 775,
787
+ 776,
788
+ 777,
789
+ 778,
790
+ 779,
791
+ 780,
792
+ 781,
793
+ 782,
794
+ 783,
795
+ 784,
796
+ 785,
797
+ 786,
798
+ 787,
799
+ 788,
800
+ 789,
801
+ 790,
802
+ 791,
803
+ 792,
804
+ 793,
805
+ 794,
806
+ 795,
807
+ 796,
808
+ 797,
809
+ 798,
810
+ 799,
811
+ 800,
812
+ 801,
813
+ 802,
814
+ 803,
815
+ 804,
816
+ 805,
817
+ 806,
818
+ 807,
819
+ 808,
820
+ 809,
821
+ 810,
822
+ 811,
823
+ 812,
824
+ 813,
825
+ 814,
826
+ 815,
827
+ 816,
828
+ 817,
829
+ 818,
830
+ 819,
831
+ 820,
832
+ 821,
833
+ 822,
834
+ 823,
835
+ 824,
836
+ 825,
837
+ 826,
838
+ 827,
839
+ 828,
840
+ 829,
841
+ 830,
842
+ 831,
843
+ 832,
844
+ 833,
845
+ 834,
846
+ 835,
847
+ 836,
848
+ 837,
849
+ 838,
850
+ 839,
851
+ 840,
852
+ 841,
853
+ 842,
854
+ 843,
855
+ 844,
856
+ 845,
857
+ 846,
858
+ 847,
859
+ 848,
860
+ 849,
861
+ 850,
862
+ 851,
863
+ 852,
864
+ 853,
865
+ 854,
866
+ 855,
867
+ 856,
868
+ 857,
869
+ 858,
870
+ 859,
871
+ 860,
872
+ 861,
873
+ 862,
874
+ 863,
875
+ 864,
876
+ 865,
877
+ 866,
878
+ 867,
879
+ 868,
880
+ 869,
881
+ 870,
882
+ 871,
883
+ 872,
884
+ 873,
885
+ 874,
886
+ 875,
887
+ 876,
888
+ 877,
889
+ 878,
890
+ 879,
891
+ 880,
892
+ 881,
893
+ 882,
894
+ 883,
895
+ 884,
896
+ 885,
897
+ 886,
898
+ 887,
899
+ 888,
900
+ 889,
901
+ 890,
902
+ 891,
903
+ 892,
904
+ 893,
905
+ 894,
906
+ 895,
907
+ 896,
908
+ 897,
909
+ 898,
910
+ 899,
911
+ 900,
912
+ 901,
913
+ 902,
914
+ 903,
915
+ 904,
916
+ 905,
917
+ 906,
918
+ 907,
919
+ 908,
920
+ 909,
921
+ 910,
922
+ 911,
923
+ 912,
924
+ 913,
925
+ 914,
926
+ 915,
927
+ 916,
928
+ 917,
929
+ 918,
930
+ 919,
931
+ 920,
932
+ 921,
933
+ 922,
934
+ 923,
935
+ 924,
936
+ 925,
937
+ 926,
938
+ 927,
939
+ 928,
940
+ 929,
941
+ 930,
942
+ 931,
943
+ 932,
944
+ 933,
945
+ 934,
946
+ 935,
947
+ 936,
948
+ 937,
949
+ 938,
950
+ 939,
951
+ 940,
952
+ 941,
953
+ 942,
954
+ 943,
955
+ 944,
956
+ 945,
957
+ 946,
958
+ 947,
959
+ 948,
960
+ 949,
961
+ 950,
962
+ 951,
963
+ 952,
964
+ 953,
965
+ 954,
966
+ 955,
967
+ 956,
968
+ 957,
969
+ 958,
970
+ 959,
971
+ 960,
972
+ 961,
973
+ 962,
974
+ 963,
975
+ 964,
976
+ 965,
977
+ 966,
978
+ 967,
979
+ 968,
980
+ 969,
981
+ 970,
982
+ 971,
983
+ 972,
984
+ 973,
985
+ 974,
986
+ 975,
987
+ 976,
988
+ 977,
989
+ 978,
990
+ 979,
991
+ 980,
992
+ 981,
993
+ 982,
994
+ 983,
995
+ 984,
996
+ 985,
997
+ 986,
998
+ 987,
999
+ 988,
1000
+ 989,
1001
+ 990,
1002
+ 991,
1003
+ 992,
1004
+ 993,
1005
+ 994,
1006
+ 995,
1007
+ 996,
1008
+ 997,
1009
+ 998,
1010
+ 999,
1011
+ 1000,
1012
+ 1001,
1013
+ 1002,
1014
+ 1003,
1015
+ 1004,
1016
+ 1005,
1017
+ 1006,
1018
+ 1007,
1019
+ 1008,
1020
+ 1009,
1021
+ 1010,
1022
+ 1011,
1023
+ 1012,
1024
+ 1013,
1025
+ 1014,
1026
+ 1015,
1027
+ 1016,
1028
+ 1017,
1029
+ 1018,
1030
+ 1019,
1031
+ 1020,
1032
+ 1021,
1033
+ 1022,
1034
+ 1023,
1035
+ 1024,
1036
+ 1025,
1037
+ 1026,
1038
+ 1027,
1039
+ 1028,
1040
+ 1029,
1041
+ 1030,
1042
+ 1031,
1043
+ 1032,
1044
+ 1033,
1045
+ 1034,
1046
+ 1035,
1047
+ 1036,
1048
+ 1037,
1049
+ 1038,
1050
+ 1039,
1051
+ 1040,
1052
+ 1041,
1053
+ 1042,
1054
+ 1043,
1055
+ 1044,
1056
+ 1045,
1057
+ 1046,
1058
+ 1047,
1059
+ 1048,
1060
+ 1049,
1061
+ 1050,
1062
+ 1051,
1063
+ 1052,
1064
+ 1053,
1065
+ 1054,
1066
+ 1055,
1067
+ 1056,
1068
+ 1057,
1069
+ 1058,
1070
+ 1059,
1071
+ 1060,
1072
+ 1061,
1073
+ 1062,
1074
+ 1063,
1075
+ 1064,
1076
+ 1065,
1077
+ 1066,
1078
+ 1067,
1079
+ 1068,
1080
+ 1069,
1081
+ 1070,
1082
+ 1071,
1083
+ 1072,
1084
+ 1073,
1085
+ 1074,
1086
+ 1075,
1087
+ 1076,
1088
+ 1077,
1089
+ 1078,
1090
+ 1079,
1091
+ 1080,
1092
+ 1081,
1093
+ 1082,
1094
+ 1083,
1095
+ 1084,
1096
+ 1085,
1097
+ 1086,
1098
+ 1087,
1099
+ 1088,
1100
+ 1089,
1101
+ 1090,
1102
+ 1091,
1103
+ 1092,
1104
+ 1093,
1105
+ 1094,
1106
+ 1095,
1107
+ 1096,
1108
+ 1097,
1109
+ 1098,
1110
+ 1099,
1111
+ 1100,
1112
+ 1101,
1113
+ 1102,
1114
+ 1103,
1115
+ 1104,
1116
+ 1105,
1117
+ 1106,
1118
+ 1107,
1119
+ 1108,
1120
+ 1109,
1121
+ 1110,
1122
+ 1111,
1123
+ 1112,
1124
+ 1113,
1125
+ 1114,
1126
+ 1115,
1127
+ 1116,
1128
+ 1117,
1129
+ 1118,
1130
+ 1119,
1131
+ 1120,
1132
+ 1121,
1133
+ 1122,
1134
+ 1123,
1135
+ 1124,
1136
+ 1125,
1137
+ 1126,
1138
+ 1127,
1139
+ 1128,
1140
+ 1129,
1141
+ 1130,
1142
+ 1131,
1143
+ 1132,
1144
+ 1133,
1145
+ 1134,
1146
+ 1135,
1147
+ 1136,
1148
+ 1137,
1149
+ 1138,
1150
+ 1139,
1151
+ 1140,
1152
+ 1141,
1153
+ 1142,
1154
+ 1143,
1155
+ 1144,
1156
+ 1145,
1157
+ 1146,
1158
+ 1147,
1159
+ 1148,
1160
+ 1149,
1161
+ 1150,
1162
+ 1151,
1163
+ 1152,
1164
+ 1153,
1165
+ 1154,
1166
+ 1155,
1167
+ 1156,
1168
+ 1157,
1169
+ 1158,
1170
+ 1159,
1171
+ 1160,
1172
+ 1161,
1173
+ 1162,
1174
+ 1163,
1175
+ 1164,
1176
+ 1165,
1177
+ 1166,
1178
+ 1167,
1179
+ 1168,
1180
+ 1169,
1181
+ 1170,
1182
+ 1171,
1183
+ 1172,
1184
+ 1173,
1185
+ 1174,
1186
+ 1175,
1187
+ 1176,
1188
+ 1177,
1189
+ 1178,
1190
+ 1179,
1191
+ 1180,
1192
+ 1181,
1193
+ 1182,
1194
+ 1183,
1195
+ 1184,
1196
+ 1185,
1197
+ 1186,
1198
+ 1187,
1199
+ 1188,
1200
+ 1189,
1201
+ 1190,
1202
+ 1191,
1203
+ 1192,
1204
+ 1193,
1205
+ 1194,
1206
+ 1195,
1207
+ 1196,
1208
+ 1197,
1209
+ 1198,
1210
+ 1199,
1211
+ 1200,
1212
+ 1201,
1213
+ 1202,
1214
+ 1203,
1215
+ 1204,
1216
+ 1205,
1217
+ 1206,
1218
+ 1207,
1219
+ 1208,
1220
+ 1209,
1221
+ 1210,
1222
+ 1211,
1223
+ 1212,
1224
+ 1213,
1225
+ 1214,
1226
+ 1215,
1227
+ 1216,
1228
+ 1217,
1229
+ 1218,
1230
+ 1219,
1231
+ 1220,
1232
+ 1221,
1233
+ 1222,
1234
+ 1223,
1235
+ 1224,
1236
+ 1225,
1237
+ 1226,
1238
+ 1227,
1239
+ 1228,
1240
+ 1229,
1241
+ 1230,
1242
+ 1231,
1243
+ 1232,
1244
+ 1233,
1245
+ 1234,
1246
+ 1235,
1247
+ 1236,
1248
+ 1237,
1249
+ 1238,
1250
+ 1239,
1251
+ 1240,
1252
+ 1241,
1253
+ 1242,
1254
+ 1243,
1255
+ 1244,
1256
+ 1245,
1257
+ 1246,
1258
+ 1247,
1259
+ 1248,
1260
+ 1249,
1261
+ 1250,
1262
+ 1251,
1263
+ 1252,
1264
+ 1253,
1265
+ 1254,
1266
+ 1255,
1267
+ 1256,
1268
+ 1257,
1269
+ 1258,
1270
+ 1259,
1271
+ 1260,
1272
+ 1261,
1273
+ 1262,
1274
+ 1263,
1275
+ 1264,
1276
+ 1265,
1277
+ 1266,
1278
+ 1267,
1279
+ 1268,
1280
+ 1269,
1281
+ 1270,
1282
+ 1271,
1283
+ 1272,
1284
+ 1273,
1285
+ 1274,
1286
+ 1275,
1287
+ 1276,
1288
+ 1277,
1289
+ 1278,
1290
+ 1279,
1291
+ 1280,
1292
+ 1281,
1293
+ 1282,
1294
+ 1283,
1295
+ 1284,
1296
+ 1285,
1297
+ 1286,
1298
+ 1287,
1299
+ 1288,
1300
+ 1289,
1301
+ 1290,
1302
+ 1291,
1303
+ 1292,
1304
+ 1293,
1305
+ 1294,
1306
+ 1295,
1307
+ 1296,
1308
+ 1297,
1309
+ 1298,
1310
+ 1299,
1311
+ 1300,
1312
+ 1301,
1313
+ 1302,
1314
+ 1303,
1315
+ 1304,
1316
+ 1305,
1317
+ 1306,
1318
+ 1307,
1319
+ 1308,
1320
+ 1309,
1321
+ 1310,
1322
+ 1311,
1323
+ 1312,
1324
+ 1313,
1325
+ 1314,
1326
+ 1315,
1327
+ 1316,
1328
+ 1317,
1329
+ 1318,
1330
+ 1319,
1331
+ 1320,
1332
+ 1321,
1333
+ 1322,
1334
+ 1323,
1335
+ 1324,
1336
+ 1325,
1337
+ 1326,
1338
+ 1327,
1339
+ 1328,
1340
+ 1329,
1341
+ 1330,
1342
+ 1331,
1343
+ 1332,
1344
+ 1333,
1345
+ 1334,
1346
+ 1335,
1347
+ 1336,
1348
+ 1337,
1349
+ 1338,
1350
+ 1339,
1351
+ 1340,
1352
+ 1341,
1353
+ 1342,
1354
+ 1343,
1355
+ 1344,
1356
+ 1345,
1357
+ 1346,
1358
+ 1347,
1359
+ 1348,
1360
+ 1349,
1361
+ 1350,
1362
+ 1351,
1363
+ 1352,
1364
+ 1353,
1365
+ 1354,
1366
+ 1355,
1367
+ 1356,
1368
+ 1357,
1369
+ 1358,
1370
+ 1359,
1371
+ 1360,
1372
+ 1361,
1373
+ 1362,
1374
+ 1363,
1375
+ 1364,
1376
+ 1365,
1377
+ 1366,
1378
+ 1367,
1379
+ 1368,
1380
+ 1369,
1381
+ 1370,
1382
+ 1371,
1383
+ 1372,
1384
+ 1373,
1385
+ 1374,
1386
+ 1375,
1387
+ 1376,
1388
+ 1377,
1389
+ 1378,
1390
+ 1379,
1391
+ 1380,
1392
+ 1381,
1393
+ 1382,
1394
+ 1383,
1395
+ 1384,
1396
+ 1385,
1397
+ 1386,
1398
+ 1387,
1399
+ 1388,
1400
+ 1389,
1401
+ 1390,
1402
+ 1391,
1403
+ 1392,
1404
+ 1393,
1405
+ 1394,
1406
+ 1395,
1407
+ 1396,
1408
+ 1397,
1409
+ 1398,
1410
+ 1399,
1411
+ 1400,
1412
+ 1401,
1413
+ 1402,
1414
+ 1403,
1415
+ 1404,
1416
+ 1405,
1417
+ 1406,
1418
+ 1407,
1419
+ 1408,
1420
+ 1409,
1421
+ 1410,
1422
+ 1411,
1423
+ 1412,
1424
+ 1413,
1425
+ 1414,
1426
+ 1415,
1427
+ 1416,
1428
+ 1417,
1429
+ 1418,
1430
+ 1419,
1431
+ 1420,
1432
+ 1421,
1433
+ 1422,
1434
+ 1423,
1435
+ 1424,
1436
+ 1425,
1437
+ 1426,
1438
+ 1427,
1439
+ 1428,
1440
+ 1429,
1441
+ 1430,
1442
+ 1431,
1443
+ 1432,
1444
+ 1433,
1445
+ 1434,
1446
+ 1435,
1447
+ 1436,
1448
+ 1437,
1449
+ 1438,
1450
+ 1439,
1451
+ 1440,
1452
+ 1441,
1453
+ 1442,
1454
+ 1443,
1455
+ 1444,
1456
+ 1445,
1457
+ 1446,
1458
+ 1447,
1459
+ 1448,
1460
+ 1449,
1461
+ 1450,
1462
+ 1451,
1463
+ 1452,
1464
+ 1453,
1465
+ 1454,
1466
+ 1455,
1467
+ 1456,
1468
+ 1457,
1469
+ 1458,
1470
+ 1459,
1471
+ 1460,
1472
+ 1461,
1473
+ 1462,
1474
+ 1463,
1475
+ 1464,
1476
+ 1465,
1477
+ 1466,
1478
+ 1467,
1479
+ 1468,
1480
+ 1469,
1481
+ 1470,
1482
+ 1471,
1483
+ 1472,
1484
+ 1473,
1485
+ 1474,
1486
+ 1475,
1487
+ 1476,
1488
+ 1477,
1489
+ 1478,
1490
+ 1479,
1491
+ 1480,
1492
+ 1481,
1493
+ 1482,
1494
+ 1483,
1495
+ 1484,
1496
+ 1485,
1497
+ 1486,
1498
+ 1487,
1499
+ 1488,
1500
+ 1489,
1501
+ 1490,
1502
+ 1491,
1503
+ 1492,
1504
+ 1493,
1505
+ 1494,
1506
+ 1495,
1507
+ 1496,
1508
+ 1497,
1509
+ 1498,
1510
+ 1499,
1511
+ 1500,
1512
+ 1501,
1513
+ 1502,
1514
+ 1503,
1515
+ 1504,
1516
+ 1505,
1517
+ 1506,
1518
+ 1507,
1519
+ 1508,
1520
+ 1509,
1521
+ 1510,
1522
+ 1511,
1523
+ 1512,
1524
+ 1513,
1525
+ 1514,
1526
+ 1515,
1527
+ 1516,
1528
+ 1517,
1529
+ 1518,
1530
+ 1519,
1531
+ 1520,
1532
+ 1521,
1533
+ 1522,
1534
+ 1523,
1535
+ 1524,
1536
+ 1525,
1537
+ 1526,
1538
+ 1527,
1539
+ 1528,
1540
+ 1529,
1541
+ 1530,
1542
+ 1531,
1543
+ 1532,
1544
+ 1533,
1545
+ 1534,
1546
+ 1535,
1547
+ 1536,
1548
+ 1537,
1549
+ 1538,
1550
+ 1539,
1551
+ 1540,
1552
+ 1541,
1553
+ 1542,
1554
+ 1543,
1555
+ 1544,
1556
+ 1545,
1557
+ 1546,
1558
+ 1547,
1559
+ 1548,
1560
+ 1549,
1561
+ 1550,
1562
+ 1551,
1563
+ 1552,
1564
+ 1553,
1565
+ 1554,
1566
+ 1555,
1567
+ 1556,
1568
+ 1557,
1569
+ 1558,
1570
+ 1559,
1571
+ 1560,
1572
+ 1561,
1573
+ 1562,
1574
+ 1563,
1575
+ 1564,
1576
+ 1565,
1577
+ 1566,
1578
+ 1567,
1579
+ 1568,
1580
+ 1569,
1581
+ 1570,
1582
+ 1571,
1583
+ 1572,
1584
+ 1573,
1585
+ 1574,
1586
+ 1575,
1587
+ 1576,
1588
+ 1577,
1589
+ 1578,
1590
+ 1579,
1591
+ 1580,
1592
+ 1581,
1593
+ 1582,
1594
+ 1583,
1595
+ 1584,
1596
+ 1585,
1597
+ 1586,
1598
+ 1587,
1599
+ 1588,
1600
+ 1589,
1601
+ 1590,
1602
+ 1591,
1603
+ 1592,
1604
+ 1593,
1605
+ 1594,
1606
+ 1595,
1607
+ 1596,
1608
+ 1597,
1609
+ 1598,
1610
+ 1599,
1611
+ 1600,
1612
+ 1601,
1613
+ 1602,
1614
+ 1603,
1615
+ 1604,
1616
+ 1605,
1617
+ 1606,
1618
+ 1607,
1619
+ 1608,
1620
+ 1609,
1621
+ 1610,
1622
+ 1611,
1623
+ 1612,
1624
+ 1613,
1625
+ 1614,
1626
+ 1615,
1627
+ 1616,
1628
+ 1617,
1629
+ 1618,
1630
+ 1619,
1631
+ 1620,
1632
+ 1621,
1633
+ 1622,
1634
+ 1623,
1635
+ 1624,
1636
+ 1625,
1637
+ 1626,
1638
+ 1627,
1639
+ 1628,
1640
+ 1629,
1641
+ 1630,
1642
+ 1631,
1643
+ 1632,
1644
+ 1633,
1645
+ 1634,
1646
+ 1635,
1647
+ 1636,
1648
+ 1637,
1649
+ 1638,
1650
+ 1639,
1651
+ 1640,
1652
+ 1641,
1653
+ 1642,
1654
+ 1643,
1655
+ 1644,
1656
+ 1645,
1657
+ 1646,
1658
+ 1647,
1659
+ 1648,
1660
+ 1649,
1661
+ 1650,
1662
+ 1651,
1663
+ 1652,
1664
+ 1653,
1665
+ 1654,
1666
+ 1655,
1667
+ 1656,
1668
+ 1657,
1669
+ 1658,
1670
+ 1659,
1671
+ 1660,
1672
+ 1661,
1673
+ 1662,
1674
+ 1663,
1675
+ 1664,
1676
+ 1665,
1677
+ 1666,
1678
+ 1667,
1679
+ 1668,
1680
+ 1669,
1681
+ 1670,
1682
+ 1671,
1683
+ 1672,
1684
+ 1673,
1685
+ 1674,
1686
+ 1675,
1687
+ 1676,
1688
+ 1677,
1689
+ 1678,
1690
+ 1679,
1691
+ 1680,
1692
+ 1681,
1693
+ 1682,
1694
+ 1683,
1695
+ 1684,
1696
+ 1685,
1697
+ 1686,
1698
+ 1687,
1699
+ 1688,
1700
+ 1689,
1701
+ 1690,
1702
+ 1691,
1703
+ 1692,
1704
+ 1693,
1705
+ 1694,
1706
+ 1695,
1707
+ 1696,
1708
+ 1697,
1709
+ 1698,
1710
+ 1699,
1711
+ 1700,
1712
+ 1701,
1713
+ 1702,
1714
+ 1703,
1715
+ 1704,
1716
+ 1705,
1717
+ 1706,
1718
+ 1707,
1719
+ 1708,
1720
+ 1709,
1721
+ 1710,
1722
+ 1711,
1723
+ 1712,
1724
+ 1713,
1725
+ 1714,
1726
+ 1715,
1727
+ 1716,
1728
+ 1717,
1729
+ 1718,
1730
+ 1719,
1731
+ 1720,
1732
+ 1721,
1733
+ 1722,
1734
+ 1723,
1735
+ 1724,
1736
+ 1725,
1737
+ 1726,
1738
+ 1727,
1739
+ 1728,
1740
+ 1729,
1741
+ 1730,
1742
+ 1731,
1743
+ 1732,
1744
+ 1733,
1745
+ 1734,
1746
+ 1735,
1747
+ 1736,
1748
+ 1737,
1749
+ 1738,
1750
+ 1739,
1751
+ 1740,
1752
+ 1741,
1753
+ 1742,
1754
+ 1743,
1755
+ 1744,
1756
+ 1745,
1757
+ 1746,
1758
+ 1747,
1759
+ 1748,
1760
+ 1749,
1761
+ 1750,
1762
+ 1751,
1763
+ 1752,
1764
+ 1753,
1765
+ 1754,
1766
+ 1755,
1767
+ 1756,
1768
+ 1757,
1769
+ 1758,
1770
+ 1759,
1771
+ 1760,
1772
+ 1761,
1773
+ 1762,
1774
+ 1763,
1775
+ 1764,
1776
+ 1765,
1777
+ 1766,
1778
+ 1767,
1779
+ 1768,
1780
+ 1769,
1781
+ 1770,
1782
+ 1771,
1783
+ 1772,
1784
+ 1773,
1785
+ 1774,
1786
+ 1775,
1787
+ 1776,
1788
+ 1777,
1789
+ 1778,
1790
+ 1779,
1791
+ 1780,
1792
+ 1781,
1793
+ 1782,
1794
+ 1783,
1795
+ 1784,
1796
+ 1785,
1797
+ 1786,
1798
+ 1787,
1799
+ 1788,
1800
+ 1789,
1801
+ 1790,
1802
+ 1791,
1803
+ 1792,
1804
+ 1793,
1805
+ 1794,
1806
+ 1795,
1807
+ 1796,
1808
+ 1797,
1809
+ 1798,
1810
+ 1799,
1811
+ 1800,
1812
+ 1801,
1813
+ 1802,
1814
+ 1803,
1815
+ 1804,
1816
+ 1805,
1817
+ 1806,
1818
+ 1807,
1819
+ 1808,
1820
+ 1809,
1821
+ 1810,
1822
+ 1811,
1823
+ 1812,
1824
+ 1813,
1825
+ 1814,
1826
+ 1815,
1827
+ 1816,
1828
+ 1817,
1829
+ 1818,
1830
+ 1819,
1831
+ 1820,
1832
+ 1821,
1833
+ 1822,
1834
+ 1823,
1835
+ 1824,
1836
+ 1825,
1837
+ 1826,
1838
+ 1827,
1839
+ 1828,
1840
+ 1829,
1841
+ 1830,
1842
+ 1831,
1843
+ 1832,
1844
+ 1833,
1845
+ 1834,
1846
+ 1835,
1847
+ 1836,
1848
+ 1837,
1849
+ 1838,
1850
+ 1839,
1851
+ 1840,
1852
+ 1841,
1853
+ 1842,
1854
+ 1843,
1855
+ 1844,
1856
+ 1845,
1857
+ 1846,
1858
+ 1847,
1859
+ 1848,
1860
+ 1849,
1861
+ 1850,
1862
+ 1851,
1863
+ 1852,
1864
+ 1853,
1865
+ 1854,
1866
+ 1855,
1867
+ 1856,
1868
+ 1857,
1869
+ 1858,
1870
+ 1859,
1871
+ 1860,
1872
+ 1861,
1873
+ 1862,
1874
+ 1863,
1875
+ 1864,
1876
+ 1865,
1877
+ 1866,
1878
+ 1867,
1879
+ 1868,
1880
+ 1869,
1881
+ 1870,
1882
+ 1871,
1883
+ 1872,
1884
+ 1873,
1885
+ 1874,
1886
+ 1875,
1887
+ 1876,
1888
+ 1877,
1889
+ 1878,
1890
+ 1879,
1891
+ 1880,
1892
+ 1881,
1893
+ 1882,
1894
+ 1883,
1895
+ 1884,
1896
+ 1885,
1897
+ 1886,
1898
+ 1887,
1899
+ 1888,
1900
+ 1889,
1901
+ 1890,
1902
+ 1891,
1903
+ 1892,
1904
+ 1893,
1905
+ 1894,
1906
+ 1895,
1907
+ 1896,
1908
+ 1897,
1909
+ 1898,
1910
+ 1899,
1911
+ 1900,
1912
+ 1901,
1913
+ 1902,
1914
+ 1903,
1915
+ 1904,
1916
+ 1905,
1917
+ 1906,
1918
+ 1907,
1919
+ 1908,
1920
+ 1909,
1921
+ 1910,
1922
+ 1911,
1923
+ 1912,
1924
+ 1913,
1925
+ 1914,
1926
+ 1915,
1927
+ 1916,
1928
+ 1917,
1929
+ 1918,
1930
+ 1919,
1931
+ 1920,
1932
+ 1921,
1933
+ 1922,
1934
+ 1923,
1935
+ 1924,
1936
+ 1925,
1937
+ 1926,
1938
+ 1927,
1939
+ 1928,
1940
+ 1929,
1941
+ 1930,
1942
+ 1931,
1943
+ 1932,
1944
+ 1933,
1945
+ 1934,
1946
+ 1935,
1947
+ 1936,
1948
+ 1937,
1949
+ 1938,
1950
+ 1939,
1951
+ 1940,
1952
+ 1941,
1953
+ 1942,
1954
+ 1943,
1955
+ 1944,
1956
+ 1945,
1957
+ 1946,
1958
+ 1947,
1959
+ 1948,
1960
+ 1949,
1961
+ 1950,
1962
+ 1951,
1963
+ 1952,
1964
+ 1953,
1965
+ 1954,
1966
+ 1955,
1967
+ 1956,
1968
+ 1957,
1969
+ 1958,
1970
+ 1959,
1971
+ 1960,
1972
+ 1961,
1973
+ 1962,
1974
+ 1963,
1975
+ 1964,
1976
+ 1965,
1977
+ 1966,
1978
+ 1967,
1979
+ 1968,
1980
+ 1969,
1981
+ 1970,
1982
+ 1971,
1983
+ 1972,
1984
+ 1973,
1985
+ 1974,
1986
+ 1975,
1987
+ 1976,
1988
+ 1977,
1989
+ 1978,
1990
+ 1979,
1991
+ 1980,
1992
+ 1981,
1993
+ 1982,
1994
+ 1983,
1995
+ 1984,
1996
+ 1985,
1997
+ 1986,
1998
+ 1987,
1999
+ 1988,
2000
+ 1989,
2001
+ 1990,
2002
+ 1991,
2003
+ 1992,
2004
+ 1993,
2005
+ 1994,
2006
+ 1995,
2007
+ 1996,
2008
+ 1997,
2009
+ 1998,
2010
+ 1999
2011
+ ],
2012
+ "not_both_correct_indices": [],
2013
+ "clean_baseline": 21.171875,
2014
+ "corrupted_baseline": -21.0
2015
+ }
results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_appropriate/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:588755b26e06ed99b5e4b3acd1e3cc9180608971e024ff2b70f10ce27b573c30
3
+ size 18925174
results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_appropriate/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:060782455e92f4b44e3a2ebc7a926ac51d0016509775daa947778f7ceac1ad46
3
+ size 9314160
results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_moral/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2365440, "num_layers": 80, "num_units": 29568}
results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_moral/baselines.json ADDED
@@ -0,0 +1,2016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 2000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 2000,
6
+ "clean_accuracy": 0.994,
7
+ "corrupted_accuracy": 0.9915,
8
+ "both_correct_accuracy": 0.9855,
9
+ "n_both_correct": 1971,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 98,
109
+ 99,
110
+ 100,
111
+ 101,
112
+ 102,
113
+ 103,
114
+ 104,
115
+ 105,
116
+ 106,
117
+ 107,
118
+ 108,
119
+ 109,
120
+ 110,
121
+ 111,
122
+ 112,
123
+ 113,
124
+ 114,
125
+ 115,
126
+ 116,
127
+ 117,
128
+ 118,
129
+ 119,
130
+ 120,
131
+ 121,
132
+ 122,
133
+ 123,
134
+ 124,
135
+ 125,
136
+ 127,
137
+ 128,
138
+ 129,
139
+ 130,
140
+ 131,
141
+ 132,
142
+ 133,
143
+ 134,
144
+ 135,
145
+ 136,
146
+ 137,
147
+ 138,
148
+ 139,
149
+ 140,
150
+ 141,
151
+ 142,
152
+ 143,
153
+ 144,
154
+ 145,
155
+ 146,
156
+ 147,
157
+ 148,
158
+ 149,
159
+ 150,
160
+ 151,
161
+ 152,
162
+ 153,
163
+ 154,
164
+ 155,
165
+ 156,
166
+ 157,
167
+ 158,
168
+ 159,
169
+ 160,
170
+ 161,
171
+ 162,
172
+ 163,
173
+ 164,
174
+ 165,
175
+ 166,
176
+ 167,
177
+ 168,
178
+ 169,
179
+ 170,
180
+ 171,
181
+ 172,
182
+ 173,
183
+ 174,
184
+ 175,
185
+ 177,
186
+ 178,
187
+ 179,
188
+ 180,
189
+ 181,
190
+ 182,
191
+ 183,
192
+ 185,
193
+ 186,
194
+ 187,
195
+ 188,
196
+ 189,
197
+ 190,
198
+ 191,
199
+ 192,
200
+ 193,
201
+ 194,
202
+ 195,
203
+ 196,
204
+ 197,
205
+ 198,
206
+ 199,
207
+ 200,
208
+ 201,
209
+ 202,
210
+ 204,
211
+ 205,
212
+ 206,
213
+ 207,
214
+ 208,
215
+ 209,
216
+ 210,
217
+ 211,
218
+ 212,
219
+ 213,
220
+ 214,
221
+ 215,
222
+ 216,
223
+ 217,
224
+ 218,
225
+ 219,
226
+ 220,
227
+ 221,
228
+ 222,
229
+ 223,
230
+ 224,
231
+ 225,
232
+ 226,
233
+ 227,
234
+ 228,
235
+ 229,
236
+ 230,
237
+ 231,
238
+ 232,
239
+ 233,
240
+ 234,
241
+ 235,
242
+ 236,
243
+ 237,
244
+ 238,
245
+ 239,
246
+ 240,
247
+ 241,
248
+ 242,
249
+ 243,
250
+ 244,
251
+ 245,
252
+ 246,
253
+ 247,
254
+ 248,
255
+ 249,
256
+ 251,
257
+ 252,
258
+ 253,
259
+ 254,
260
+ 255,
261
+ 256,
262
+ 257,
263
+ 258,
264
+ 259,
265
+ 260,
266
+ 261,
267
+ 262,
268
+ 263,
269
+ 264,
270
+ 265,
271
+ 266,
272
+ 268,
273
+ 269,
274
+ 270,
275
+ 271,
276
+ 272,
277
+ 273,
278
+ 274,
279
+ 275,
280
+ 276,
281
+ 277,
282
+ 278,
283
+ 279,
284
+ 280,
285
+ 281,
286
+ 282,
287
+ 283,
288
+ 284,
289
+ 285,
290
+ 286,
291
+ 287,
292
+ 288,
293
+ 289,
294
+ 290,
295
+ 291,
296
+ 292,
297
+ 293,
298
+ 294,
299
+ 295,
300
+ 296,
301
+ 297,
302
+ 298,
303
+ 299,
304
+ 300,
305
+ 301,
306
+ 302,
307
+ 303,
308
+ 304,
309
+ 305,
310
+ 306,
311
+ 307,
312
+ 308,
313
+ 309,
314
+ 310,
315
+ 311,
316
+ 312,
317
+ 313,
318
+ 314,
319
+ 315,
320
+ 316,
321
+ 317,
322
+ 318,
323
+ 319,
324
+ 320,
325
+ 321,
326
+ 322,
327
+ 323,
328
+ 324,
329
+ 325,
330
+ 326,
331
+ 327,
332
+ 328,
333
+ 329,
334
+ 330,
335
+ 331,
336
+ 332,
337
+ 333,
338
+ 334,
339
+ 335,
340
+ 336,
341
+ 337,
342
+ 338,
343
+ 339,
344
+ 340,
345
+ 341,
346
+ 342,
347
+ 343,
348
+ 344,
349
+ 345,
350
+ 346,
351
+ 347,
352
+ 348,
353
+ 349,
354
+ 350,
355
+ 351,
356
+ 352,
357
+ 353,
358
+ 354,
359
+ 355,
360
+ 356,
361
+ 357,
362
+ 358,
363
+ 359,
364
+ 360,
365
+ 361,
366
+ 362,
367
+ 363,
368
+ 364,
369
+ 365,
370
+ 366,
371
+ 367,
372
+ 368,
373
+ 369,
374
+ 370,
375
+ 371,
376
+ 372,
377
+ 373,
378
+ 374,
379
+ 375,
380
+ 376,
381
+ 377,
382
+ 378,
383
+ 379,
384
+ 380,
385
+ 381,
386
+ 382,
387
+ 383,
388
+ 384,
389
+ 385,
390
+ 386,
391
+ 387,
392
+ 388,
393
+ 389,
394
+ 390,
395
+ 391,
396
+ 392,
397
+ 393,
398
+ 394,
399
+ 395,
400
+ 396,
401
+ 397,
402
+ 398,
403
+ 399,
404
+ 400,
405
+ 401,
406
+ 402,
407
+ 403,
408
+ 404,
409
+ 405,
410
+ 406,
411
+ 407,
412
+ 408,
413
+ 409,
414
+ 410,
415
+ 411,
416
+ 412,
417
+ 413,
418
+ 414,
419
+ 415,
420
+ 416,
421
+ 417,
422
+ 418,
423
+ 419,
424
+ 420,
425
+ 421,
426
+ 422,
427
+ 423,
428
+ 424,
429
+ 425,
430
+ 426,
431
+ 427,
432
+ 428,
433
+ 429,
434
+ 430,
435
+ 431,
436
+ 432,
437
+ 433,
438
+ 435,
439
+ 436,
440
+ 437,
441
+ 438,
442
+ 439,
443
+ 440,
444
+ 441,
445
+ 442,
446
+ 443,
447
+ 444,
448
+ 445,
449
+ 446,
450
+ 447,
451
+ 448,
452
+ 449,
453
+ 450,
454
+ 451,
455
+ 452,
456
+ 453,
457
+ 454,
458
+ 455,
459
+ 456,
460
+ 457,
461
+ 458,
462
+ 459,
463
+ 460,
464
+ 461,
465
+ 462,
466
+ 463,
467
+ 464,
468
+ 465,
469
+ 466,
470
+ 467,
471
+ 468,
472
+ 469,
473
+ 470,
474
+ 471,
475
+ 472,
476
+ 473,
477
+ 474,
478
+ 475,
479
+ 476,
480
+ 477,
481
+ 478,
482
+ 479,
483
+ 480,
484
+ 481,
485
+ 482,
486
+ 483,
487
+ 484,
488
+ 485,
489
+ 486,
490
+ 487,
491
+ 488,
492
+ 489,
493
+ 490,
494
+ 491,
495
+ 492,
496
+ 493,
497
+ 494,
498
+ 495,
499
+ 496,
500
+ 497,
501
+ 498,
502
+ 499,
503
+ 500,
504
+ 501,
505
+ 502,
506
+ 503,
507
+ 504,
508
+ 505,
509
+ 506,
510
+ 507,
511
+ 508,
512
+ 509,
513
+ 510,
514
+ 511,
515
+ 512,
516
+ 513,
517
+ 514,
518
+ 515,
519
+ 516,
520
+ 517,
521
+ 518,
522
+ 519,
523
+ 520,
524
+ 521,
525
+ 522,
526
+ 523,
527
+ 524,
528
+ 525,
529
+ 526,
530
+ 527,
531
+ 528,
532
+ 529,
533
+ 530,
534
+ 531,
535
+ 532,
536
+ 533,
537
+ 534,
538
+ 535,
539
+ 536,
540
+ 538,
541
+ 539,
542
+ 540,
543
+ 541,
544
+ 542,
545
+ 543,
546
+ 544,
547
+ 545,
548
+ 546,
549
+ 547,
550
+ 548,
551
+ 549,
552
+ 550,
553
+ 551,
554
+ 552,
555
+ 553,
556
+ 554,
557
+ 555,
558
+ 556,
559
+ 557,
560
+ 558,
561
+ 559,
562
+ 560,
563
+ 561,
564
+ 562,
565
+ 563,
566
+ 564,
567
+ 565,
568
+ 566,
569
+ 567,
570
+ 568,
571
+ 569,
572
+ 570,
573
+ 571,
574
+ 572,
575
+ 573,
576
+ 574,
577
+ 575,
578
+ 576,
579
+ 577,
580
+ 578,
581
+ 579,
582
+ 580,
583
+ 581,
584
+ 582,
585
+ 583,
586
+ 584,
587
+ 585,
588
+ 586,
589
+ 587,
590
+ 588,
591
+ 589,
592
+ 590,
593
+ 591,
594
+ 592,
595
+ 593,
596
+ 594,
597
+ 595,
598
+ 596,
599
+ 597,
600
+ 598,
601
+ 599,
602
+ 600,
603
+ 601,
604
+ 602,
605
+ 603,
606
+ 604,
607
+ 605,
608
+ 606,
609
+ 607,
610
+ 608,
611
+ 609,
612
+ 610,
613
+ 611,
614
+ 612,
615
+ 613,
616
+ 614,
617
+ 615,
618
+ 616,
619
+ 617,
620
+ 618,
621
+ 619,
622
+ 620,
623
+ 621,
624
+ 622,
625
+ 623,
626
+ 624,
627
+ 625,
628
+ 626,
629
+ 627,
630
+ 628,
631
+ 629,
632
+ 630,
633
+ 631,
634
+ 632,
635
+ 633,
636
+ 634,
637
+ 635,
638
+ 636,
639
+ 637,
640
+ 638,
641
+ 639,
642
+ 640,
643
+ 641,
644
+ 642,
645
+ 643,
646
+ 644,
647
+ 645,
648
+ 646,
649
+ 647,
650
+ 648,
651
+ 649,
652
+ 650,
653
+ 651,
654
+ 652,
655
+ 653,
656
+ 654,
657
+ 655,
658
+ 656,
659
+ 657,
660
+ 658,
661
+ 659,
662
+ 660,
663
+ 661,
664
+ 662,
665
+ 663,
666
+ 664,
667
+ 665,
668
+ 666,
669
+ 667,
670
+ 668,
671
+ 669,
672
+ 670,
673
+ 671,
674
+ 672,
675
+ 673,
676
+ 674,
677
+ 676,
678
+ 677,
679
+ 678,
680
+ 679,
681
+ 680,
682
+ 681,
683
+ 682,
684
+ 683,
685
+ 684,
686
+ 685,
687
+ 686,
688
+ 687,
689
+ 688,
690
+ 689,
691
+ 690,
692
+ 691,
693
+ 692,
694
+ 693,
695
+ 694,
696
+ 695,
697
+ 696,
698
+ 697,
699
+ 698,
700
+ 699,
701
+ 700,
702
+ 701,
703
+ 702,
704
+ 703,
705
+ 704,
706
+ 705,
707
+ 706,
708
+ 707,
709
+ 708,
710
+ 709,
711
+ 710,
712
+ 711,
713
+ 712,
714
+ 713,
715
+ 714,
716
+ 715,
717
+ 716,
718
+ 717,
719
+ 718,
720
+ 719,
721
+ 720,
722
+ 721,
723
+ 722,
724
+ 723,
725
+ 724,
726
+ 725,
727
+ 726,
728
+ 727,
729
+ 728,
730
+ 729,
731
+ 730,
732
+ 731,
733
+ 732,
734
+ 733,
735
+ 734,
736
+ 735,
737
+ 736,
738
+ 737,
739
+ 738,
740
+ 739,
741
+ 740,
742
+ 741,
743
+ 742,
744
+ 743,
745
+ 744,
746
+ 745,
747
+ 746,
748
+ 747,
749
+ 748,
750
+ 749,
751
+ 751,
752
+ 752,
753
+ 753,
754
+ 754,
755
+ 755,
756
+ 756,
757
+ 757,
758
+ 758,
759
+ 759,
760
+ 760,
761
+ 761,
762
+ 762,
763
+ 763,
764
+ 764,
765
+ 765,
766
+ 766,
767
+ 767,
768
+ 768,
769
+ 769,
770
+ 770,
771
+ 771,
772
+ 772,
773
+ 773,
774
+ 774,
775
+ 775,
776
+ 776,
777
+ 777,
778
+ 778,
779
+ 779,
780
+ 780,
781
+ 781,
782
+ 782,
783
+ 783,
784
+ 784,
785
+ 785,
786
+ 786,
787
+ 787,
788
+ 788,
789
+ 789,
790
+ 790,
791
+ 791,
792
+ 792,
793
+ 793,
794
+ 794,
795
+ 795,
796
+ 796,
797
+ 797,
798
+ 798,
799
+ 799,
800
+ 800,
801
+ 801,
802
+ 802,
803
+ 803,
804
+ 804,
805
+ 805,
806
+ 806,
807
+ 807,
808
+ 808,
809
+ 809,
810
+ 810,
811
+ 811,
812
+ 812,
813
+ 813,
814
+ 814,
815
+ 815,
816
+ 816,
817
+ 817,
818
+ 818,
819
+ 819,
820
+ 820,
821
+ 821,
822
+ 822,
823
+ 823,
824
+ 824,
825
+ 825,
826
+ 826,
827
+ 827,
828
+ 828,
829
+ 829,
830
+ 830,
831
+ 831,
832
+ 832,
833
+ 833,
834
+ 834,
835
+ 835,
836
+ 836,
837
+ 837,
838
+ 838,
839
+ 839,
840
+ 840,
841
+ 841,
842
+ 842,
843
+ 843,
844
+ 844,
845
+ 845,
846
+ 846,
847
+ 847,
848
+ 848,
849
+ 849,
850
+ 850,
851
+ 851,
852
+ 852,
853
+ 853,
854
+ 854,
855
+ 855,
856
+ 856,
857
+ 857,
858
+ 858,
859
+ 859,
860
+ 860,
861
+ 861,
862
+ 862,
863
+ 863,
864
+ 864,
865
+ 865,
866
+ 866,
867
+ 867,
868
+ 868,
869
+ 869,
870
+ 870,
871
+ 871,
872
+ 872,
873
+ 873,
874
+ 874,
875
+ 875,
876
+ 876,
877
+ 877,
878
+ 878,
879
+ 879,
880
+ 880,
881
+ 881,
882
+ 882,
883
+ 883,
884
+ 884,
885
+ 885,
886
+ 886,
887
+ 887,
888
+ 888,
889
+ 889,
890
+ 890,
891
+ 891,
892
+ 892,
893
+ 893,
894
+ 894,
895
+ 895,
896
+ 896,
897
+ 897,
898
+ 898,
899
+ 899,
900
+ 900,
901
+ 901,
902
+ 902,
903
+ 903,
904
+ 904,
905
+ 905,
906
+ 906,
907
+ 907,
908
+ 908,
909
+ 909,
910
+ 910,
911
+ 911,
912
+ 912,
913
+ 913,
914
+ 914,
915
+ 915,
916
+ 916,
917
+ 917,
918
+ 918,
919
+ 919,
920
+ 920,
921
+ 921,
922
+ 922,
923
+ 923,
924
+ 924,
925
+ 925,
926
+ 926,
927
+ 927,
928
+ 928,
929
+ 929,
930
+ 930,
931
+ 931,
932
+ 932,
933
+ 933,
934
+ 934,
935
+ 935,
936
+ 936,
937
+ 937,
938
+ 938,
939
+ 939,
940
+ 940,
941
+ 941,
942
+ 942,
943
+ 943,
944
+ 944,
945
+ 945,
946
+ 946,
947
+ 947,
948
+ 948,
949
+ 949,
950
+ 950,
951
+ 951,
952
+ 952,
953
+ 953,
954
+ 954,
955
+ 955,
956
+ 956,
957
+ 957,
958
+ 958,
959
+ 959,
960
+ 960,
961
+ 961,
962
+ 962,
963
+ 963,
964
+ 964,
965
+ 965,
966
+ 966,
967
+ 967,
968
+ 968,
969
+ 969,
970
+ 970,
971
+ 971,
972
+ 972,
973
+ 973,
974
+ 974,
975
+ 975,
976
+ 976,
977
+ 977,
978
+ 978,
979
+ 979,
980
+ 980,
981
+ 981,
982
+ 982,
983
+ 983,
984
+ 984,
985
+ 985,
986
+ 986,
987
+ 987,
988
+ 988,
989
+ 989,
990
+ 990,
991
+ 991,
992
+ 992,
993
+ 993,
994
+ 994,
995
+ 995,
996
+ 996,
997
+ 997,
998
+ 998,
999
+ 999,
1000
+ 1000,
1001
+ 1001,
1002
+ 1002,
1003
+ 1003,
1004
+ 1004,
1005
+ 1005,
1006
+ 1006,
1007
+ 1007,
1008
+ 1008,
1009
+ 1009,
1010
+ 1010,
1011
+ 1011,
1012
+ 1012,
1013
+ 1013,
1014
+ 1014,
1015
+ 1015,
1016
+ 1016,
1017
+ 1017,
1018
+ 1018,
1019
+ 1019,
1020
+ 1020,
1021
+ 1021,
1022
+ 1022,
1023
+ 1023,
1024
+ 1024,
1025
+ 1025,
1026
+ 1026,
1027
+ 1027,
1028
+ 1028,
1029
+ 1029,
1030
+ 1030,
1031
+ 1031,
1032
+ 1032,
1033
+ 1033,
1034
+ 1034,
1035
+ 1035,
1036
+ 1036,
1037
+ 1037,
1038
+ 1038,
1039
+ 1039,
1040
+ 1040,
1041
+ 1041,
1042
+ 1043,
1043
+ 1044,
1044
+ 1045,
1045
+ 1046,
1046
+ 1047,
1047
+ 1048,
1048
+ 1049,
1049
+ 1050,
1050
+ 1051,
1051
+ 1052,
1052
+ 1053,
1053
+ 1054,
1054
+ 1055,
1055
+ 1056,
1056
+ 1057,
1057
+ 1058,
1058
+ 1059,
1059
+ 1060,
1060
+ 1061,
1061
+ 1062,
1062
+ 1063,
1063
+ 1064,
1064
+ 1065,
1065
+ 1066,
1066
+ 1067,
1067
+ 1068,
1068
+ 1069,
1069
+ 1070,
1070
+ 1071,
1071
+ 1072,
1072
+ 1073,
1073
+ 1074,
1074
+ 1075,
1075
+ 1076,
1076
+ 1077,
1077
+ 1078,
1078
+ 1080,
1079
+ 1081,
1080
+ 1082,
1081
+ 1083,
1082
+ 1084,
1083
+ 1085,
1084
+ 1086,
1085
+ 1087,
1086
+ 1088,
1087
+ 1089,
1088
+ 1090,
1089
+ 1092,
1090
+ 1093,
1091
+ 1094,
1092
+ 1095,
1093
+ 1096,
1094
+ 1097,
1095
+ 1098,
1096
+ 1099,
1097
+ 1100,
1098
+ 1101,
1099
+ 1102,
1100
+ 1103,
1101
+ 1104,
1102
+ 1105,
1103
+ 1106,
1104
+ 1107,
1105
+ 1108,
1106
+ 1109,
1107
+ 1110,
1108
+ 1111,
1109
+ 1112,
1110
+ 1113,
1111
+ 1114,
1112
+ 1115,
1113
+ 1116,
1114
+ 1117,
1115
+ 1118,
1116
+ 1119,
1117
+ 1120,
1118
+ 1121,
1119
+ 1122,
1120
+ 1123,
1121
+ 1124,
1122
+ 1125,
1123
+ 1126,
1124
+ 1127,
1125
+ 1128,
1126
+ 1129,
1127
+ 1130,
1128
+ 1131,
1129
+ 1132,
1130
+ 1133,
1131
+ 1134,
1132
+ 1135,
1133
+ 1136,
1134
+ 1137,
1135
+ 1138,
1136
+ 1139,
1137
+ 1140,
1138
+ 1141,
1139
+ 1142,
1140
+ 1143,
1141
+ 1144,
1142
+ 1145,
1143
+ 1146,
1144
+ 1147,
1145
+ 1148,
1146
+ 1149,
1147
+ 1150,
1148
+ 1151,
1149
+ 1152,
1150
+ 1153,
1151
+ 1154,
1152
+ 1156,
1153
+ 1157,
1154
+ 1158,
1155
+ 1159,
1156
+ 1160,
1157
+ 1161,
1158
+ 1162,
1159
+ 1163,
1160
+ 1164,
1161
+ 1165,
1162
+ 1166,
1163
+ 1167,
1164
+ 1168,
1165
+ 1169,
1166
+ 1170,
1167
+ 1171,
1168
+ 1172,
1169
+ 1173,
1170
+ 1174,
1171
+ 1175,
1172
+ 1176,
1173
+ 1177,
1174
+ 1178,
1175
+ 1179,
1176
+ 1180,
1177
+ 1181,
1178
+ 1182,
1179
+ 1183,
1180
+ 1184,
1181
+ 1185,
1182
+ 1186,
1183
+ 1187,
1184
+ 1188,
1185
+ 1189,
1186
+ 1190,
1187
+ 1191,
1188
+ 1192,
1189
+ 1193,
1190
+ 1194,
1191
+ 1195,
1192
+ 1196,
1193
+ 1197,
1194
+ 1198,
1195
+ 1199,
1196
+ 1200,
1197
+ 1201,
1198
+ 1202,
1199
+ 1203,
1200
+ 1204,
1201
+ 1205,
1202
+ 1206,
1203
+ 1207,
1204
+ 1208,
1205
+ 1209,
1206
+ 1210,
1207
+ 1211,
1208
+ 1212,
1209
+ 1213,
1210
+ 1214,
1211
+ 1215,
1212
+ 1216,
1213
+ 1218,
1214
+ 1219,
1215
+ 1220,
1216
+ 1221,
1217
+ 1222,
1218
+ 1223,
1219
+ 1224,
1220
+ 1225,
1221
+ 1226,
1222
+ 1227,
1223
+ 1228,
1224
+ 1229,
1225
+ 1230,
1226
+ 1231,
1227
+ 1232,
1228
+ 1233,
1229
+ 1235,
1230
+ 1236,
1231
+ 1237,
1232
+ 1238,
1233
+ 1239,
1234
+ 1240,
1235
+ 1241,
1236
+ 1242,
1237
+ 1244,
1238
+ 1245,
1239
+ 1246,
1240
+ 1247,
1241
+ 1248,
1242
+ 1249,
1243
+ 1250,
1244
+ 1251,
1245
+ 1252,
1246
+ 1253,
1247
+ 1254,
1248
+ 1255,
1249
+ 1256,
1250
+ 1257,
1251
+ 1258,
1252
+ 1259,
1253
+ 1260,
1254
+ 1261,
1255
+ 1262,
1256
+ 1263,
1257
+ 1264,
1258
+ 1265,
1259
+ 1266,
1260
+ 1267,
1261
+ 1268,
1262
+ 1269,
1263
+ 1270,
1264
+ 1271,
1265
+ 1272,
1266
+ 1273,
1267
+ 1274,
1268
+ 1275,
1269
+ 1276,
1270
+ 1277,
1271
+ 1278,
1272
+ 1279,
1273
+ 1280,
1274
+ 1281,
1275
+ 1283,
1276
+ 1284,
1277
+ 1285,
1278
+ 1286,
1279
+ 1287,
1280
+ 1288,
1281
+ 1289,
1282
+ 1291,
1283
+ 1292,
1284
+ 1293,
1285
+ 1294,
1286
+ 1295,
1287
+ 1296,
1288
+ 1297,
1289
+ 1298,
1290
+ 1299,
1291
+ 1300,
1292
+ 1301,
1293
+ 1302,
1294
+ 1303,
1295
+ 1304,
1296
+ 1305,
1297
+ 1306,
1298
+ 1307,
1299
+ 1308,
1300
+ 1309,
1301
+ 1310,
1302
+ 1311,
1303
+ 1312,
1304
+ 1313,
1305
+ 1314,
1306
+ 1315,
1307
+ 1316,
1308
+ 1317,
1309
+ 1318,
1310
+ 1319,
1311
+ 1320,
1312
+ 1321,
1313
+ 1322,
1314
+ 1323,
1315
+ 1324,
1316
+ 1325,
1317
+ 1326,
1318
+ 1327,
1319
+ 1328,
1320
+ 1329,
1321
+ 1330,
1322
+ 1331,
1323
+ 1332,
1324
+ 1333,
1325
+ 1334,
1326
+ 1335,
1327
+ 1336,
1328
+ 1337,
1329
+ 1338,
1330
+ 1339,
1331
+ 1340,
1332
+ 1341,
1333
+ 1342,
1334
+ 1343,
1335
+ 1344,
1336
+ 1345,
1337
+ 1346,
1338
+ 1347,
1339
+ 1348,
1340
+ 1349,
1341
+ 1350,
1342
+ 1351,
1343
+ 1352,
1344
+ 1353,
1345
+ 1354,
1346
+ 1355,
1347
+ 1356,
1348
+ 1357,
1349
+ 1358,
1350
+ 1359,
1351
+ 1360,
1352
+ 1361,
1353
+ 1362,
1354
+ 1363,
1355
+ 1364,
1356
+ 1365,
1357
+ 1366,
1358
+ 1367,
1359
+ 1368,
1360
+ 1369,
1361
+ 1370,
1362
+ 1371,
1363
+ 1372,
1364
+ 1374,
1365
+ 1375,
1366
+ 1376,
1367
+ 1377,
1368
+ 1378,
1369
+ 1379,
1370
+ 1380,
1371
+ 1381,
1372
+ 1382,
1373
+ 1383,
1374
+ 1384,
1375
+ 1385,
1376
+ 1387,
1377
+ 1388,
1378
+ 1389,
1379
+ 1390,
1380
+ 1391,
1381
+ 1392,
1382
+ 1393,
1383
+ 1394,
1384
+ 1395,
1385
+ 1396,
1386
+ 1397,
1387
+ 1398,
1388
+ 1399,
1389
+ 1400,
1390
+ 1401,
1391
+ 1402,
1392
+ 1403,
1393
+ 1404,
1394
+ 1405,
1395
+ 1406,
1396
+ 1407,
1397
+ 1408,
1398
+ 1409,
1399
+ 1410,
1400
+ 1411,
1401
+ 1412,
1402
+ 1413,
1403
+ 1414,
1404
+ 1415,
1405
+ 1416,
1406
+ 1417,
1407
+ 1418,
1408
+ 1419,
1409
+ 1420,
1410
+ 1421,
1411
+ 1422,
1412
+ 1423,
1413
+ 1424,
1414
+ 1425,
1415
+ 1426,
1416
+ 1427,
1417
+ 1428,
1418
+ 1429,
1419
+ 1430,
1420
+ 1431,
1421
+ 1432,
1422
+ 1433,
1423
+ 1434,
1424
+ 1435,
1425
+ 1436,
1426
+ 1437,
1427
+ 1438,
1428
+ 1439,
1429
+ 1440,
1430
+ 1441,
1431
+ 1442,
1432
+ 1443,
1433
+ 1444,
1434
+ 1445,
1435
+ 1446,
1436
+ 1447,
1437
+ 1448,
1438
+ 1449,
1439
+ 1450,
1440
+ 1451,
1441
+ 1452,
1442
+ 1453,
1443
+ 1454,
1444
+ 1455,
1445
+ 1456,
1446
+ 1457,
1447
+ 1458,
1448
+ 1459,
1449
+ 1460,
1450
+ 1461,
1451
+ 1462,
1452
+ 1463,
1453
+ 1464,
1454
+ 1465,
1455
+ 1466,
1456
+ 1467,
1457
+ 1468,
1458
+ 1469,
1459
+ 1470,
1460
+ 1471,
1461
+ 1472,
1462
+ 1473,
1463
+ 1474,
1464
+ 1475,
1465
+ 1476,
1466
+ 1477,
1467
+ 1478,
1468
+ 1479,
1469
+ 1480,
1470
+ 1481,
1471
+ 1482,
1472
+ 1483,
1473
+ 1484,
1474
+ 1485,
1475
+ 1486,
1476
+ 1487,
1477
+ 1488,
1478
+ 1489,
1479
+ 1490,
1480
+ 1491,
1481
+ 1492,
1482
+ 1493,
1483
+ 1494,
1484
+ 1495,
1485
+ 1496,
1486
+ 1497,
1487
+ 1498,
1488
+ 1500,
1489
+ 1501,
1490
+ 1502,
1491
+ 1503,
1492
+ 1504,
1493
+ 1505,
1494
+ 1506,
1495
+ 1507,
1496
+ 1508,
1497
+ 1510,
1498
+ 1511,
1499
+ 1512,
1500
+ 1513,
1501
+ 1514,
1502
+ 1515,
1503
+ 1516,
1504
+ 1517,
1505
+ 1518,
1506
+ 1519,
1507
+ 1520,
1508
+ 1521,
1509
+ 1522,
1510
+ 1523,
1511
+ 1524,
1512
+ 1525,
1513
+ 1526,
1514
+ 1527,
1515
+ 1528,
1516
+ 1529,
1517
+ 1530,
1518
+ 1531,
1519
+ 1532,
1520
+ 1533,
1521
+ 1534,
1522
+ 1535,
1523
+ 1536,
1524
+ 1537,
1525
+ 1538,
1526
+ 1539,
1527
+ 1540,
1528
+ 1541,
1529
+ 1542,
1530
+ 1543,
1531
+ 1544,
1532
+ 1545,
1533
+ 1546,
1534
+ 1547,
1535
+ 1548,
1536
+ 1549,
1537
+ 1550,
1538
+ 1551,
1539
+ 1552,
1540
+ 1553,
1541
+ 1554,
1542
+ 1555,
1543
+ 1556,
1544
+ 1557,
1545
+ 1558,
1546
+ 1559,
1547
+ 1560,
1548
+ 1561,
1549
+ 1562,
1550
+ 1563,
1551
+ 1564,
1552
+ 1565,
1553
+ 1566,
1554
+ 1567,
1555
+ 1568,
1556
+ 1569,
1557
+ 1570,
1558
+ 1571,
1559
+ 1572,
1560
+ 1573,
1561
+ 1574,
1562
+ 1575,
1563
+ 1576,
1564
+ 1577,
1565
+ 1578,
1566
+ 1579,
1567
+ 1580,
1568
+ 1581,
1569
+ 1582,
1570
+ 1583,
1571
+ 1584,
1572
+ 1585,
1573
+ 1586,
1574
+ 1587,
1575
+ 1588,
1576
+ 1589,
1577
+ 1590,
1578
+ 1591,
1579
+ 1592,
1580
+ 1593,
1581
+ 1594,
1582
+ 1595,
1583
+ 1596,
1584
+ 1597,
1585
+ 1598,
1586
+ 1599,
1587
+ 1600,
1588
+ 1601,
1589
+ 1602,
1590
+ 1603,
1591
+ 1604,
1592
+ 1605,
1593
+ 1606,
1594
+ 1607,
1595
+ 1608,
1596
+ 1609,
1597
+ 1610,
1598
+ 1611,
1599
+ 1612,
1600
+ 1613,
1601
+ 1614,
1602
+ 1615,
1603
+ 1616,
1604
+ 1617,
1605
+ 1619,
1606
+ 1620,
1607
+ 1621,
1608
+ 1622,
1609
+ 1623,
1610
+ 1624,
1611
+ 1625,
1612
+ 1626,
1613
+ 1627,
1614
+ 1628,
1615
+ 1629,
1616
+ 1630,
1617
+ 1631,
1618
+ 1632,
1619
+ 1633,
1620
+ 1634,
1621
+ 1635,
1622
+ 1636,
1623
+ 1637,
1624
+ 1638,
1625
+ 1639,
1626
+ 1640,
1627
+ 1641,
1628
+ 1642,
1629
+ 1643,
1630
+ 1644,
1631
+ 1645,
1632
+ 1646,
1633
+ 1647,
1634
+ 1648,
1635
+ 1649,
1636
+ 1650,
1637
+ 1651,
1638
+ 1652,
1639
+ 1653,
1640
+ 1654,
1641
+ 1655,
1642
+ 1656,
1643
+ 1657,
1644
+ 1658,
1645
+ 1659,
1646
+ 1660,
1647
+ 1661,
1648
+ 1662,
1649
+ 1663,
1650
+ 1664,
1651
+ 1665,
1652
+ 1666,
1653
+ 1668,
1654
+ 1669,
1655
+ 1670,
1656
+ 1671,
1657
+ 1672,
1658
+ 1673,
1659
+ 1674,
1660
+ 1675,
1661
+ 1676,
1662
+ 1677,
1663
+ 1678,
1664
+ 1679,
1665
+ 1680,
1666
+ 1681,
1667
+ 1682,
1668
+ 1683,
1669
+ 1684,
1670
+ 1685,
1671
+ 1686,
1672
+ 1687,
1673
+ 1688,
1674
+ 1689,
1675
+ 1690,
1676
+ 1691,
1677
+ 1692,
1678
+ 1693,
1679
+ 1694,
1680
+ 1695,
1681
+ 1696,
1682
+ 1697,
1683
+ 1698,
1684
+ 1699,
1685
+ 1700,
1686
+ 1701,
1687
+ 1702,
1688
+ 1703,
1689
+ 1704,
1690
+ 1705,
1691
+ 1706,
1692
+ 1707,
1693
+ 1708,
1694
+ 1709,
1695
+ 1710,
1696
+ 1711,
1697
+ 1712,
1698
+ 1713,
1699
+ 1714,
1700
+ 1715,
1701
+ 1716,
1702
+ 1717,
1703
+ 1718,
1704
+ 1719,
1705
+ 1720,
1706
+ 1721,
1707
+ 1722,
1708
+ 1723,
1709
+ 1724,
1710
+ 1725,
1711
+ 1726,
1712
+ 1727,
1713
+ 1728,
1714
+ 1729,
1715
+ 1730,
1716
+ 1731,
1717
+ 1732,
1718
+ 1733,
1719
+ 1734,
1720
+ 1735,
1721
+ 1736,
1722
+ 1737,
1723
+ 1738,
1724
+ 1739,
1725
+ 1740,
1726
+ 1741,
1727
+ 1742,
1728
+ 1743,
1729
+ 1744,
1730
+ 1745,
1731
+ 1746,
1732
+ 1747,
1733
+ 1748,
1734
+ 1749,
1735
+ 1750,
1736
+ 1751,
1737
+ 1752,
1738
+ 1753,
1739
+ 1754,
1740
+ 1755,
1741
+ 1756,
1742
+ 1757,
1743
+ 1758,
1744
+ 1759,
1745
+ 1760,
1746
+ 1761,
1747
+ 1762,
1748
+ 1763,
1749
+ 1764,
1750
+ 1765,
1751
+ 1766,
1752
+ 1767,
1753
+ 1769,
1754
+ 1770,
1755
+ 1771,
1756
+ 1772,
1757
+ 1773,
1758
+ 1774,
1759
+ 1775,
1760
+ 1776,
1761
+ 1777,
1762
+ 1778,
1763
+ 1779,
1764
+ 1780,
1765
+ 1781,
1766
+ 1782,
1767
+ 1783,
1768
+ 1784,
1769
+ 1785,
1770
+ 1786,
1771
+ 1787,
1772
+ 1788,
1773
+ 1789,
1774
+ 1790,
1775
+ 1791,
1776
+ 1792,
1777
+ 1793,
1778
+ 1794,
1779
+ 1795,
1780
+ 1796,
1781
+ 1797,
1782
+ 1798,
1783
+ 1799,
1784
+ 1800,
1785
+ 1801,
1786
+ 1802,
1787
+ 1803,
1788
+ 1804,
1789
+ 1805,
1790
+ 1806,
1791
+ 1807,
1792
+ 1808,
1793
+ 1809,
1794
+ 1810,
1795
+ 1811,
1796
+ 1812,
1797
+ 1813,
1798
+ 1814,
1799
+ 1815,
1800
+ 1816,
1801
+ 1817,
1802
+ 1818,
1803
+ 1819,
1804
+ 1820,
1805
+ 1821,
1806
+ 1822,
1807
+ 1823,
1808
+ 1824,
1809
+ 1825,
1810
+ 1826,
1811
+ 1827,
1812
+ 1828,
1813
+ 1829,
1814
+ 1830,
1815
+ 1831,
1816
+ 1832,
1817
+ 1833,
1818
+ 1834,
1819
+ 1835,
1820
+ 1836,
1821
+ 1837,
1822
+ 1838,
1823
+ 1839,
1824
+ 1841,
1825
+ 1842,
1826
+ 1843,
1827
+ 1844,
1828
+ 1845,
1829
+ 1846,
1830
+ 1847,
1831
+ 1848,
1832
+ 1849,
1833
+ 1850,
1834
+ 1851,
1835
+ 1852,
1836
+ 1853,
1837
+ 1854,
1838
+ 1855,
1839
+ 1856,
1840
+ 1857,
1841
+ 1858,
1842
+ 1859,
1843
+ 1860,
1844
+ 1861,
1845
+ 1862,
1846
+ 1863,
1847
+ 1864,
1848
+ 1866,
1849
+ 1867,
1850
+ 1868,
1851
+ 1869,
1852
+ 1870,
1853
+ 1871,
1854
+ 1872,
1855
+ 1873,
1856
+ 1874,
1857
+ 1875,
1858
+ 1876,
1859
+ 1877,
1860
+ 1878,
1861
+ 1879,
1862
+ 1880,
1863
+ 1881,
1864
+ 1882,
1865
+ 1883,
1866
+ 1884,
1867
+ 1885,
1868
+ 1886,
1869
+ 1887,
1870
+ 1888,
1871
+ 1889,
1872
+ 1890,
1873
+ 1891,
1874
+ 1892,
1875
+ 1893,
1876
+ 1894,
1877
+ 1895,
1878
+ 1896,
1879
+ 1897,
1880
+ 1898,
1881
+ 1899,
1882
+ 1900,
1883
+ 1901,
1884
+ 1902,
1885
+ 1903,
1886
+ 1904,
1887
+ 1905,
1888
+ 1906,
1889
+ 1907,
1890
+ 1908,
1891
+ 1909,
1892
+ 1910,
1893
+ 1911,
1894
+ 1912,
1895
+ 1913,
1896
+ 1914,
1897
+ 1915,
1898
+ 1916,
1899
+ 1917,
1900
+ 1918,
1901
+ 1919,
1902
+ 1920,
1903
+ 1921,
1904
+ 1922,
1905
+ 1923,
1906
+ 1924,
1907
+ 1925,
1908
+ 1926,
1909
+ 1927,
1910
+ 1928,
1911
+ 1929,
1912
+ 1930,
1913
+ 1931,
1914
+ 1932,
1915
+ 1933,
1916
+ 1934,
1917
+ 1935,
1918
+ 1936,
1919
+ 1937,
1920
+ 1938,
1921
+ 1939,
1922
+ 1940,
1923
+ 1941,
1924
+ 1942,
1925
+ 1943,
1926
+ 1944,
1927
+ 1945,
1928
+ 1946,
1929
+ 1947,
1930
+ 1948,
1931
+ 1949,
1932
+ 1950,
1933
+ 1951,
1934
+ 1952,
1935
+ 1953,
1936
+ 1954,
1937
+ 1955,
1938
+ 1956,
1939
+ 1957,
1940
+ 1958,
1941
+ 1959,
1942
+ 1960,
1943
+ 1961,
1944
+ 1962,
1945
+ 1963,
1946
+ 1964,
1947
+ 1965,
1948
+ 1966,
1949
+ 1967,
1950
+ 1968,
1951
+ 1969,
1952
+ 1970,
1953
+ 1971,
1954
+ 1972,
1955
+ 1973,
1956
+ 1974,
1957
+ 1975,
1958
+ 1976,
1959
+ 1977,
1960
+ 1978,
1961
+ 1979,
1962
+ 1980,
1963
+ 1981,
1964
+ 1982,
1965
+ 1983,
1966
+ 1984,
1967
+ 1985,
1968
+ 1986,
1969
+ 1987,
1970
+ 1988,
1971
+ 1989,
1972
+ 1990,
1973
+ 1991,
1974
+ 1992,
1975
+ 1993,
1976
+ 1994,
1977
+ 1995,
1978
+ 1996,
1979
+ 1997,
1980
+ 1998,
1981
+ 1999
1982
+ ],
1983
+ "not_both_correct_indices": [
1984
+ 97,
1985
+ 126,
1986
+ 176,
1987
+ 184,
1988
+ 203,
1989
+ 250,
1990
+ 267,
1991
+ 434,
1992
+ 537,
1993
+ 675,
1994
+ 750,
1995
+ 1042,
1996
+ 1079,
1997
+ 1091,
1998
+ 1155,
1999
+ 1217,
2000
+ 1234,
2001
+ 1243,
2002
+ 1282,
2003
+ 1290,
2004
+ 1373,
2005
+ 1386,
2006
+ 1499,
2007
+ 1509,
2008
+ 1618,
2009
+ 1667,
2010
+ 1768,
2011
+ 1840,
2012
+ 1865
2013
+ ],
2014
+ "clean_baseline": 18.34375,
2015
+ "corrupted_baseline": -18.25
2016
+ }
results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_moral/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:076492316de087c61ad2e2fb2e9ab383f51e7f9b6361cc562b1b8927351c7751
3
+ size 18925174
results/Qwen_Qwen2-5-72B-Instruct/ToM/norm_moral/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:d67fa6424254a3208e6d8e230b216ab808c87ed5de6e32861e1de15d5765da63
3
+ size 9326968
results/Qwen_Qwen2-5-72B-Instruct/ToM/primary_emotions/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2365440, "num_layers": 80, "num_units": 29568}
results/Qwen_Qwen2-5-72B-Instruct/ToM/primary_emotions/baselines.json ADDED
@@ -0,0 +1,1311 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1295,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1295,
6
+ "clean_accuracy": 0.894980694980695,
7
+ "corrupted_accuracy": 0.8980694980694981,
8
+ "both_correct_accuracy": 0.7961389961389962,
9
+ "n_both_correct": 1031,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 129,
141
+ 130,
142
+ 131,
143
+ 132,
144
+ 133,
145
+ 134,
146
+ 135,
147
+ 136,
148
+ 137,
149
+ 138,
150
+ 139,
151
+ 140,
152
+ 141,
153
+ 142,
154
+ 143,
155
+ 144,
156
+ 145,
157
+ 146,
158
+ 147,
159
+ 148,
160
+ 149,
161
+ 150,
162
+ 151,
163
+ 152,
164
+ 153,
165
+ 154,
166
+ 155,
167
+ 156,
168
+ 157,
169
+ 158,
170
+ 159,
171
+ 160,
172
+ 161,
173
+ 162,
174
+ 163,
175
+ 164,
176
+ 165,
177
+ 166,
178
+ 167,
179
+ 168,
180
+ 169,
181
+ 170,
182
+ 171,
183
+ 172,
184
+ 173,
185
+ 174,
186
+ 175,
187
+ 176,
188
+ 177,
189
+ 178,
190
+ 179,
191
+ 180,
192
+ 181,
193
+ 182,
194
+ 183,
195
+ 184,
196
+ 185,
197
+ 186,
198
+ 187,
199
+ 188,
200
+ 189,
201
+ 190,
202
+ 191,
203
+ 192,
204
+ 193,
205
+ 194,
206
+ 195,
207
+ 196,
208
+ 197,
209
+ 198,
210
+ 199,
211
+ 200,
212
+ 201,
213
+ 202,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 209,
221
+ 210,
222
+ 211,
223
+ 212,
224
+ 213,
225
+ 214,
226
+ 215,
227
+ 216,
228
+ 217,
229
+ 218,
230
+ 219,
231
+ 220,
232
+ 221,
233
+ 222,
234
+ 223,
235
+ 224,
236
+ 225,
237
+ 226,
238
+ 227,
239
+ 228,
240
+ 229,
241
+ 230,
242
+ 231,
243
+ 232,
244
+ 233,
245
+ 234,
246
+ 235,
247
+ 236,
248
+ 237,
249
+ 238,
250
+ 239,
251
+ 240,
252
+ 241,
253
+ 242,
254
+ 243,
255
+ 244,
256
+ 245,
257
+ 246,
258
+ 247,
259
+ 248,
260
+ 249,
261
+ 250,
262
+ 251,
263
+ 252,
264
+ 253,
265
+ 254,
266
+ 255,
267
+ 256,
268
+ 257,
269
+ 258,
270
+ 259,
271
+ 260,
272
+ 261,
273
+ 262,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 274,
286
+ 275,
287
+ 276,
288
+ 277,
289
+ 278,
290
+ 279,
291
+ 280,
292
+ 281,
293
+ 282,
294
+ 283,
295
+ 284,
296
+ 285,
297
+ 286,
298
+ 287,
299
+ 288,
300
+ 289,
301
+ 290,
302
+ 291,
303
+ 292,
304
+ 293,
305
+ 294,
306
+ 295,
307
+ 296,
308
+ 297,
309
+ 298,
310
+ 299,
311
+ 300,
312
+ 301,
313
+ 302,
314
+ 303,
315
+ 304,
316
+ 305,
317
+ 306,
318
+ 307,
319
+ 308,
320
+ 309,
321
+ 310,
322
+ 311,
323
+ 312,
324
+ 313,
325
+ 314,
326
+ 315,
327
+ 316,
328
+ 317,
329
+ 318,
330
+ 319,
331
+ 320,
332
+ 321,
333
+ 322,
334
+ 323,
335
+ 324,
336
+ 325,
337
+ 326,
338
+ 327,
339
+ 328,
340
+ 329,
341
+ 330,
342
+ 331,
343
+ 332,
344
+ 333,
345
+ 334,
346
+ 335,
347
+ 336,
348
+ 337,
349
+ 338,
350
+ 339,
351
+ 340,
352
+ 341,
353
+ 342,
354
+ 343,
355
+ 344,
356
+ 345,
357
+ 346,
358
+ 347,
359
+ 348,
360
+ 349,
361
+ 350,
362
+ 351,
363
+ 352,
364
+ 353,
365
+ 354,
366
+ 355,
367
+ 356,
368
+ 357,
369
+ 358,
370
+ 359,
371
+ 360,
372
+ 361,
373
+ 362,
374
+ 363,
375
+ 364,
376
+ 365,
377
+ 366,
378
+ 367,
379
+ 368,
380
+ 369,
381
+ 370,
382
+ 371,
383
+ 372,
384
+ 373,
385
+ 374,
386
+ 375,
387
+ 376,
388
+ 377,
389
+ 378,
390
+ 379,
391
+ 380,
392
+ 381,
393
+ 382,
394
+ 383,
395
+ 384,
396
+ 385,
397
+ 386,
398
+ 387,
399
+ 388,
400
+ 389,
401
+ 390,
402
+ 391,
403
+ 392,
404
+ 393,
405
+ 394,
406
+ 395,
407
+ 396,
408
+ 397,
409
+ 398,
410
+ 399,
411
+ 400,
412
+ 401,
413
+ 402,
414
+ 403,
415
+ 404,
416
+ 405,
417
+ 406,
418
+ 407,
419
+ 408,
420
+ 409,
421
+ 410,
422
+ 411,
423
+ 412,
424
+ 413,
425
+ 414,
426
+ 415,
427
+ 416,
428
+ 417,
429
+ 418,
430
+ 419,
431
+ 420,
432
+ 421,
433
+ 422,
434
+ 423,
435
+ 424,
436
+ 425,
437
+ 426,
438
+ 427,
439
+ 428,
440
+ 429,
441
+ 430,
442
+ 431,
443
+ 432,
444
+ 433,
445
+ 434,
446
+ 435,
447
+ 436,
448
+ 437,
449
+ 438,
450
+ 439,
451
+ 440,
452
+ 441,
453
+ 442,
454
+ 443,
455
+ 444,
456
+ 445,
457
+ 446,
458
+ 447,
459
+ 448,
460
+ 449,
461
+ 450,
462
+ 451,
463
+ 452,
464
+ 453,
465
+ 454,
466
+ 455,
467
+ 456,
468
+ 457,
469
+ 458,
470
+ 459,
471
+ 460,
472
+ 461,
473
+ 462,
474
+ 463,
475
+ 464,
476
+ 465,
477
+ 466,
478
+ 467,
479
+ 468,
480
+ 469,
481
+ 475,
482
+ 490,
483
+ 491,
484
+ 493,
485
+ 494,
486
+ 495,
487
+ 496,
488
+ 497,
489
+ 498,
490
+ 499,
491
+ 501,
492
+ 502,
493
+ 503,
494
+ 505,
495
+ 506,
496
+ 507,
497
+ 508,
498
+ 509,
499
+ 510,
500
+ 511,
501
+ 512,
502
+ 513,
503
+ 514,
504
+ 515,
505
+ 516,
506
+ 517,
507
+ 518,
508
+ 519,
509
+ 520,
510
+ 521,
511
+ 522,
512
+ 523,
513
+ 524,
514
+ 525,
515
+ 526,
516
+ 527,
517
+ 528,
518
+ 529,
519
+ 530,
520
+ 531,
521
+ 532,
522
+ 533,
523
+ 534,
524
+ 535,
525
+ 536,
526
+ 537,
527
+ 538,
528
+ 539,
529
+ 540,
530
+ 541,
531
+ 542,
532
+ 543,
533
+ 544,
534
+ 545,
535
+ 546,
536
+ 547,
537
+ 548,
538
+ 549,
539
+ 550,
540
+ 554,
541
+ 555,
542
+ 556,
543
+ 557,
544
+ 561,
545
+ 563,
546
+ 565,
547
+ 566,
548
+ 568,
549
+ 569,
550
+ 570,
551
+ 571,
552
+ 572,
553
+ 573,
554
+ 574,
555
+ 575,
556
+ 576,
557
+ 577,
558
+ 578,
559
+ 579,
560
+ 580,
561
+ 581,
562
+ 582,
563
+ 583,
564
+ 584,
565
+ 585,
566
+ 586,
567
+ 587,
568
+ 588,
569
+ 589,
570
+ 590,
571
+ 591,
572
+ 592,
573
+ 593,
574
+ 594,
575
+ 595,
576
+ 596,
577
+ 597,
578
+ 598,
579
+ 599,
580
+ 600,
581
+ 601,
582
+ 602,
583
+ 603,
584
+ 604,
585
+ 605,
586
+ 606,
587
+ 607,
588
+ 608,
589
+ 609,
590
+ 610,
591
+ 611,
592
+ 612,
593
+ 613,
594
+ 614,
595
+ 615,
596
+ 616,
597
+ 617,
598
+ 618,
599
+ 619,
600
+ 620,
601
+ 621,
602
+ 622,
603
+ 623,
604
+ 624,
605
+ 625,
606
+ 626,
607
+ 627,
608
+ 628,
609
+ 629,
610
+ 630,
611
+ 631,
612
+ 632,
613
+ 633,
614
+ 634,
615
+ 635,
616
+ 636,
617
+ 637,
618
+ 638,
619
+ 639,
620
+ 640,
621
+ 641,
622
+ 642,
623
+ 643,
624
+ 644,
625
+ 645,
626
+ 646,
627
+ 647,
628
+ 648,
629
+ 649,
630
+ 650,
631
+ 651,
632
+ 652,
633
+ 653,
634
+ 654,
635
+ 655,
636
+ 656,
637
+ 657,
638
+ 658,
639
+ 659,
640
+ 660,
641
+ 661,
642
+ 662,
643
+ 663,
644
+ 664,
645
+ 665,
646
+ 666,
647
+ 667,
648
+ 668,
649
+ 669,
650
+ 670,
651
+ 671,
652
+ 672,
653
+ 673,
654
+ 674,
655
+ 675,
656
+ 676,
657
+ 677,
658
+ 678,
659
+ 679,
660
+ 680,
661
+ 681,
662
+ 682,
663
+ 683,
664
+ 684,
665
+ 685,
666
+ 686,
667
+ 687,
668
+ 688,
669
+ 689,
670
+ 690,
671
+ 691,
672
+ 692,
673
+ 693,
674
+ 694,
675
+ 695,
676
+ 696,
677
+ 697,
678
+ 698,
679
+ 699,
680
+ 700,
681
+ 701,
682
+ 702,
683
+ 703,
684
+ 704,
685
+ 705,
686
+ 706,
687
+ 707,
688
+ 708,
689
+ 709,
690
+ 710,
691
+ 711,
692
+ 712,
693
+ 713,
694
+ 714,
695
+ 715,
696
+ 716,
697
+ 717,
698
+ 718,
699
+ 719,
700
+ 722,
701
+ 725,
702
+ 727,
703
+ 729,
704
+ 734,
705
+ 736,
706
+ 737,
707
+ 740,
708
+ 742,
709
+ 744,
710
+ 770,
711
+ 774,
712
+ 795,
713
+ 796,
714
+ 797,
715
+ 798,
716
+ 799,
717
+ 800,
718
+ 801,
719
+ 803,
720
+ 804,
721
+ 805,
722
+ 806,
723
+ 807,
724
+ 808,
725
+ 809,
726
+ 811,
727
+ 812,
728
+ 814,
729
+ 815,
730
+ 818,
731
+ 819,
732
+ 820,
733
+ 821,
734
+ 822,
735
+ 823,
736
+ 824,
737
+ 830,
738
+ 833,
739
+ 845,
740
+ 848,
741
+ 856,
742
+ 857,
743
+ 859,
744
+ 860,
745
+ 863,
746
+ 864,
747
+ 867,
748
+ 868,
749
+ 869,
750
+ 870,
751
+ 871,
752
+ 872,
753
+ 873,
754
+ 874,
755
+ 875,
756
+ 876,
757
+ 877,
758
+ 878,
759
+ 879,
760
+ 880,
761
+ 881,
762
+ 882,
763
+ 883,
764
+ 884,
765
+ 885,
766
+ 886,
767
+ 887,
768
+ 888,
769
+ 889,
770
+ 890,
771
+ 891,
772
+ 892,
773
+ 893,
774
+ 894,
775
+ 895,
776
+ 896,
777
+ 897,
778
+ 898,
779
+ 899,
780
+ 900,
781
+ 901,
782
+ 902,
783
+ 903,
784
+ 904,
785
+ 905,
786
+ 906,
787
+ 907,
788
+ 908,
789
+ 909,
790
+ 910,
791
+ 911,
792
+ 912,
793
+ 913,
794
+ 914,
795
+ 915,
796
+ 916,
797
+ 917,
798
+ 918,
799
+ 919,
800
+ 920,
801
+ 921,
802
+ 922,
803
+ 923,
804
+ 924,
805
+ 925,
806
+ 926,
807
+ 927,
808
+ 928,
809
+ 929,
810
+ 930,
811
+ 931,
812
+ 932,
813
+ 933,
814
+ 934,
815
+ 935,
816
+ 936,
817
+ 937,
818
+ 938,
819
+ 939,
820
+ 940,
821
+ 941,
822
+ 942,
823
+ 943,
824
+ 944,
825
+ 945,
826
+ 946,
827
+ 947,
828
+ 948,
829
+ 949,
830
+ 950,
831
+ 951,
832
+ 952,
833
+ 953,
834
+ 954,
835
+ 955,
836
+ 956,
837
+ 957,
838
+ 958,
839
+ 959,
840
+ 960,
841
+ 961,
842
+ 962,
843
+ 963,
844
+ 964,
845
+ 965,
846
+ 966,
847
+ 967,
848
+ 968,
849
+ 969,
850
+ 970,
851
+ 971,
852
+ 972,
853
+ 973,
854
+ 974,
855
+ 975,
856
+ 976,
857
+ 977,
858
+ 978,
859
+ 979,
860
+ 980,
861
+ 981,
862
+ 982,
863
+ 983,
864
+ 984,
865
+ 985,
866
+ 986,
867
+ 987,
868
+ 988,
869
+ 989,
870
+ 990,
871
+ 991,
872
+ 992,
873
+ 993,
874
+ 994,
875
+ 995,
876
+ 996,
877
+ 997,
878
+ 998,
879
+ 999,
880
+ 1000,
881
+ 1001,
882
+ 1002,
883
+ 1003,
884
+ 1004,
885
+ 1005,
886
+ 1006,
887
+ 1007,
888
+ 1008,
889
+ 1009,
890
+ 1010,
891
+ 1011,
892
+ 1012,
893
+ 1013,
894
+ 1014,
895
+ 1015,
896
+ 1016,
897
+ 1017,
898
+ 1018,
899
+ 1019,
900
+ 1020,
901
+ 1021,
902
+ 1022,
903
+ 1023,
904
+ 1024,
905
+ 1025,
906
+ 1026,
907
+ 1027,
908
+ 1028,
909
+ 1029,
910
+ 1030,
911
+ 1031,
912
+ 1032,
913
+ 1033,
914
+ 1034,
915
+ 1035,
916
+ 1036,
917
+ 1037,
918
+ 1038,
919
+ 1039,
920
+ 1040,
921
+ 1041,
922
+ 1042,
923
+ 1043,
924
+ 1044,
925
+ 1045,
926
+ 1046,
927
+ 1047,
928
+ 1048,
929
+ 1049,
930
+ 1058,
931
+ 1062,
932
+ 1073,
933
+ 1077,
934
+ 1080,
935
+ 1081,
936
+ 1082,
937
+ 1084,
938
+ 1085,
939
+ 1087,
940
+ 1088,
941
+ 1092,
942
+ 1095,
943
+ 1096,
944
+ 1097,
945
+ 1098,
946
+ 1099,
947
+ 1100,
948
+ 1101,
949
+ 1102,
950
+ 1103,
951
+ 1104,
952
+ 1105,
953
+ 1106,
954
+ 1107,
955
+ 1108,
956
+ 1109,
957
+ 1110,
958
+ 1111,
959
+ 1112,
960
+ 1113,
961
+ 1114,
962
+ 1115,
963
+ 1116,
964
+ 1117,
965
+ 1118,
966
+ 1119,
967
+ 1120,
968
+ 1121,
969
+ 1122,
970
+ 1123,
971
+ 1124,
972
+ 1125,
973
+ 1126,
974
+ 1127,
975
+ 1128,
976
+ 1129,
977
+ 1130,
978
+ 1131,
979
+ 1132,
980
+ 1133,
981
+ 1134,
982
+ 1135,
983
+ 1136,
984
+ 1137,
985
+ 1138,
986
+ 1139,
987
+ 1140,
988
+ 1141,
989
+ 1142,
990
+ 1143,
991
+ 1144,
992
+ 1145,
993
+ 1146,
994
+ 1147,
995
+ 1148,
996
+ 1149,
997
+ 1150,
998
+ 1151,
999
+ 1152,
1000
+ 1153,
1001
+ 1154,
1002
+ 1155,
1003
+ 1156,
1004
+ 1157,
1005
+ 1158,
1006
+ 1159,
1007
+ 1160,
1008
+ 1161,
1009
+ 1162,
1010
+ 1163,
1011
+ 1164,
1012
+ 1165,
1013
+ 1166,
1014
+ 1167,
1015
+ 1168,
1016
+ 1169,
1017
+ 1170,
1018
+ 1171,
1019
+ 1172,
1020
+ 1173,
1021
+ 1174,
1022
+ 1175,
1023
+ 1176,
1024
+ 1177,
1025
+ 1178,
1026
+ 1179,
1027
+ 1180,
1028
+ 1181,
1029
+ 1182,
1030
+ 1183,
1031
+ 1184,
1032
+ 1185,
1033
+ 1186,
1034
+ 1187,
1035
+ 1188,
1036
+ 1189,
1037
+ 1190,
1038
+ 1191,
1039
+ 1192,
1040
+ 1193,
1041
+ 1194
1042
+ ],
1043
+ "not_both_correct_indices": [
1044
+ 470,
1045
+ 471,
1046
+ 472,
1047
+ 473,
1048
+ 474,
1049
+ 476,
1050
+ 477,
1051
+ 478,
1052
+ 479,
1053
+ 480,
1054
+ 481,
1055
+ 482,
1056
+ 483,
1057
+ 484,
1058
+ 485,
1059
+ 486,
1060
+ 487,
1061
+ 488,
1062
+ 489,
1063
+ 492,
1064
+ 500,
1065
+ 504,
1066
+ 551,
1067
+ 552,
1068
+ 553,
1069
+ 558,
1070
+ 559,
1071
+ 560,
1072
+ 562,
1073
+ 564,
1074
+ 567,
1075
+ 720,
1076
+ 721,
1077
+ 723,
1078
+ 724,
1079
+ 726,
1080
+ 728,
1081
+ 730,
1082
+ 731,
1083
+ 732,
1084
+ 733,
1085
+ 735,
1086
+ 738,
1087
+ 739,
1088
+ 741,
1089
+ 743,
1090
+ 745,
1091
+ 746,
1092
+ 747,
1093
+ 748,
1094
+ 749,
1095
+ 750,
1096
+ 751,
1097
+ 752,
1098
+ 753,
1099
+ 754,
1100
+ 755,
1101
+ 756,
1102
+ 757,
1103
+ 758,
1104
+ 759,
1105
+ 760,
1106
+ 761,
1107
+ 762,
1108
+ 763,
1109
+ 764,
1110
+ 765,
1111
+ 766,
1112
+ 767,
1113
+ 768,
1114
+ 769,
1115
+ 771,
1116
+ 772,
1117
+ 773,
1118
+ 775,
1119
+ 776,
1120
+ 777,
1121
+ 778,
1122
+ 779,
1123
+ 780,
1124
+ 781,
1125
+ 782,
1126
+ 783,
1127
+ 784,
1128
+ 785,
1129
+ 786,
1130
+ 787,
1131
+ 788,
1132
+ 789,
1133
+ 790,
1134
+ 791,
1135
+ 792,
1136
+ 793,
1137
+ 794,
1138
+ 802,
1139
+ 810,
1140
+ 813,
1141
+ 816,
1142
+ 817,
1143
+ 825,
1144
+ 826,
1145
+ 827,
1146
+ 828,
1147
+ 829,
1148
+ 831,
1149
+ 832,
1150
+ 834,
1151
+ 835,
1152
+ 836,
1153
+ 837,
1154
+ 838,
1155
+ 839,
1156
+ 840,
1157
+ 841,
1158
+ 842,
1159
+ 843,
1160
+ 844,
1161
+ 846,
1162
+ 847,
1163
+ 849,
1164
+ 850,
1165
+ 851,
1166
+ 852,
1167
+ 853,
1168
+ 854,
1169
+ 855,
1170
+ 858,
1171
+ 861,
1172
+ 862,
1173
+ 865,
1174
+ 866,
1175
+ 1050,
1176
+ 1051,
1177
+ 1052,
1178
+ 1053,
1179
+ 1054,
1180
+ 1055,
1181
+ 1056,
1182
+ 1057,
1183
+ 1059,
1184
+ 1060,
1185
+ 1061,
1186
+ 1063,
1187
+ 1064,
1188
+ 1065,
1189
+ 1066,
1190
+ 1067,
1191
+ 1068,
1192
+ 1069,
1193
+ 1070,
1194
+ 1071,
1195
+ 1072,
1196
+ 1074,
1197
+ 1075,
1198
+ 1076,
1199
+ 1078,
1200
+ 1079,
1201
+ 1083,
1202
+ 1086,
1203
+ 1089,
1204
+ 1090,
1205
+ 1091,
1206
+ 1093,
1207
+ 1094,
1208
+ 1195,
1209
+ 1196,
1210
+ 1197,
1211
+ 1198,
1212
+ 1199,
1213
+ 1200,
1214
+ 1201,
1215
+ 1202,
1216
+ 1203,
1217
+ 1204,
1218
+ 1205,
1219
+ 1206,
1220
+ 1207,
1221
+ 1208,
1222
+ 1209,
1223
+ 1210,
1224
+ 1211,
1225
+ 1212,
1226
+ 1213,
1227
+ 1214,
1228
+ 1215,
1229
+ 1216,
1230
+ 1217,
1231
+ 1218,
1232
+ 1219,
1233
+ 1220,
1234
+ 1221,
1235
+ 1222,
1236
+ 1223,
1237
+ 1224,
1238
+ 1225,
1239
+ 1226,
1240
+ 1227,
1241
+ 1228,
1242
+ 1229,
1243
+ 1230,
1244
+ 1231,
1245
+ 1232,
1246
+ 1233,
1247
+ 1234,
1248
+ 1235,
1249
+ 1236,
1250
+ 1237,
1251
+ 1238,
1252
+ 1239,
1253
+ 1240,
1254
+ 1241,
1255
+ 1242,
1256
+ 1243,
1257
+ 1244,
1258
+ 1245,
1259
+ 1246,
1260
+ 1247,
1261
+ 1248,
1262
+ 1249,
1263
+ 1250,
1264
+ 1251,
1265
+ 1252,
1266
+ 1253,
1267
+ 1254,
1268
+ 1255,
1269
+ 1256,
1270
+ 1257,
1271
+ 1258,
1272
+ 1259,
1273
+ 1260,
1274
+ 1261,
1275
+ 1262,
1276
+ 1263,
1277
+ 1264,
1278
+ 1265,
1279
+ 1266,
1280
+ 1267,
1281
+ 1268,
1282
+ 1269,
1283
+ 1270,
1284
+ 1271,
1285
+ 1272,
1286
+ 1273,
1287
+ 1274,
1288
+ 1275,
1289
+ 1276,
1290
+ 1277,
1291
+ 1278,
1292
+ 1279,
1293
+ 1280,
1294
+ 1281,
1295
+ 1282,
1296
+ 1283,
1297
+ 1284,
1298
+ 1285,
1299
+ 1286,
1300
+ 1287,
1301
+ 1288,
1302
+ 1289,
1303
+ 1290,
1304
+ 1291,
1305
+ 1292,
1306
+ 1293,
1307
+ 1294
1308
+ ],
1309
+ "clean_baseline": 9.71875,
1310
+ "corrupted_baseline": -13.6875
1311
+ }
results/Qwen_Qwen2-5-72B-Instruct/ToM/primary_emotions/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:14358cd214175ed6188597c797963f9f3405104ac548775b43bf60f682ed73e9
3
+ size 18925174
results/Qwen_Qwen2-5-72B-Instruct/ToM/primary_emotions/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4a8cef3c2382d58063b1934a48ff3246bb841e41471d72756391ced42ffa1c75
3
+ size 9331808
results/Qwen_Qwen2-5-72B-Instruct/ToM/secondary_emotions/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2365440, "num_layers": 80, "num_units": 29568}
results/Qwen_Qwen2-5-72B-Instruct/ToM/secondary_emotions/baselines.json ADDED
@@ -0,0 +1,1616 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1600,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1600,
6
+ "clean_accuracy": 0.753125,
7
+ "corrupted_accuracy": 0.90125,
8
+ "both_correct_accuracy": 0.654375,
9
+ "n_both_correct": 1047,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 129,
141
+ 130,
142
+ 131,
143
+ 132,
144
+ 133,
145
+ 134,
146
+ 135,
147
+ 136,
148
+ 137,
149
+ 138,
150
+ 139,
151
+ 140,
152
+ 141,
153
+ 142,
154
+ 143,
155
+ 144,
156
+ 145,
157
+ 146,
158
+ 147,
159
+ 148,
160
+ 149,
161
+ 150,
162
+ 151,
163
+ 152,
164
+ 153,
165
+ 154,
166
+ 155,
167
+ 156,
168
+ 157,
169
+ 158,
170
+ 159,
171
+ 160,
172
+ 161,
173
+ 162,
174
+ 163,
175
+ 164,
176
+ 165,
177
+ 166,
178
+ 167,
179
+ 168,
180
+ 169,
181
+ 170,
182
+ 171,
183
+ 172,
184
+ 173,
185
+ 174,
186
+ 175,
187
+ 176,
188
+ 177,
189
+ 178,
190
+ 179,
191
+ 180,
192
+ 181,
193
+ 182,
194
+ 183,
195
+ 184,
196
+ 185,
197
+ 186,
198
+ 187,
199
+ 188,
200
+ 189,
201
+ 190,
202
+ 191,
203
+ 192,
204
+ 193,
205
+ 194,
206
+ 195,
207
+ 196,
208
+ 197,
209
+ 198,
210
+ 199,
211
+ 200,
212
+ 201,
213
+ 202,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 209,
221
+ 210,
222
+ 211,
223
+ 212,
224
+ 213,
225
+ 214,
226
+ 215,
227
+ 216,
228
+ 217,
229
+ 218,
230
+ 219,
231
+ 220,
232
+ 221,
233
+ 222,
234
+ 223,
235
+ 224,
236
+ 225,
237
+ 226,
238
+ 227,
239
+ 228,
240
+ 229,
241
+ 230,
242
+ 231,
243
+ 232,
244
+ 233,
245
+ 234,
246
+ 235,
247
+ 236,
248
+ 237,
249
+ 238,
250
+ 239,
251
+ 240,
252
+ 241,
253
+ 242,
254
+ 243,
255
+ 244,
256
+ 245,
257
+ 246,
258
+ 247,
259
+ 248,
260
+ 249,
261
+ 250,
262
+ 251,
263
+ 252,
264
+ 253,
265
+ 254,
266
+ 255,
267
+ 256,
268
+ 257,
269
+ 258,
270
+ 259,
271
+ 260,
272
+ 261,
273
+ 262,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 274,
286
+ 375,
287
+ 376,
288
+ 377,
289
+ 378,
290
+ 379,
291
+ 380,
292
+ 381,
293
+ 382,
294
+ 383,
295
+ 384,
296
+ 385,
297
+ 386,
298
+ 387,
299
+ 388,
300
+ 389,
301
+ 390,
302
+ 391,
303
+ 392,
304
+ 393,
305
+ 394,
306
+ 395,
307
+ 396,
308
+ 397,
309
+ 398,
310
+ 399,
311
+ 400,
312
+ 401,
313
+ 402,
314
+ 403,
315
+ 404,
316
+ 405,
317
+ 406,
318
+ 407,
319
+ 408,
320
+ 409,
321
+ 410,
322
+ 411,
323
+ 412,
324
+ 413,
325
+ 414,
326
+ 415,
327
+ 416,
328
+ 417,
329
+ 418,
330
+ 419,
331
+ 420,
332
+ 421,
333
+ 422,
334
+ 423,
335
+ 424,
336
+ 425,
337
+ 426,
338
+ 427,
339
+ 428,
340
+ 429,
341
+ 430,
342
+ 431,
343
+ 432,
344
+ 433,
345
+ 434,
346
+ 435,
347
+ 436,
348
+ 437,
349
+ 438,
350
+ 439,
351
+ 440,
352
+ 441,
353
+ 442,
354
+ 443,
355
+ 444,
356
+ 445,
357
+ 446,
358
+ 447,
359
+ 448,
360
+ 449,
361
+ 450,
362
+ 451,
363
+ 452,
364
+ 453,
365
+ 454,
366
+ 455,
367
+ 456,
368
+ 457,
369
+ 458,
370
+ 459,
371
+ 460,
372
+ 461,
373
+ 462,
374
+ 463,
375
+ 464,
376
+ 465,
377
+ 466,
378
+ 467,
379
+ 468,
380
+ 469,
381
+ 470,
382
+ 474,
383
+ 475,
384
+ 476,
385
+ 478,
386
+ 479,
387
+ 480,
388
+ 481,
389
+ 483,
390
+ 485,
391
+ 486,
392
+ 487,
393
+ 489,
394
+ 490,
395
+ 491,
396
+ 492,
397
+ 493,
398
+ 494,
399
+ 495,
400
+ 496,
401
+ 497,
402
+ 498,
403
+ 499,
404
+ 500,
405
+ 501,
406
+ 502,
407
+ 503,
408
+ 504,
409
+ 505,
410
+ 506,
411
+ 507,
412
+ 508,
413
+ 509,
414
+ 510,
415
+ 513,
416
+ 514,
417
+ 515,
418
+ 516,
419
+ 518,
420
+ 520,
421
+ 523,
422
+ 525,
423
+ 526,
424
+ 527,
425
+ 530,
426
+ 531,
427
+ 532,
428
+ 533,
429
+ 534,
430
+ 535,
431
+ 536,
432
+ 537,
433
+ 538,
434
+ 539,
435
+ 540,
436
+ 541,
437
+ 542,
438
+ 543,
439
+ 544,
440
+ 545,
441
+ 546,
442
+ 547,
443
+ 548,
444
+ 549,
445
+ 550,
446
+ 551,
447
+ 552,
448
+ 553,
449
+ 554,
450
+ 555,
451
+ 556,
452
+ 557,
453
+ 558,
454
+ 559,
455
+ 560,
456
+ 561,
457
+ 562,
458
+ 563,
459
+ 564,
460
+ 565,
461
+ 566,
462
+ 567,
463
+ 568,
464
+ 569,
465
+ 570,
466
+ 571,
467
+ 572,
468
+ 573,
469
+ 574,
470
+ 575,
471
+ 576,
472
+ 577,
473
+ 578,
474
+ 579,
475
+ 580,
476
+ 581,
477
+ 582,
478
+ 583,
479
+ 584,
480
+ 585,
481
+ 586,
482
+ 587,
483
+ 588,
484
+ 589,
485
+ 590,
486
+ 591,
487
+ 592,
488
+ 593,
489
+ 594,
490
+ 595,
491
+ 596,
492
+ 597,
493
+ 598,
494
+ 599,
495
+ 600,
496
+ 601,
497
+ 602,
498
+ 603,
499
+ 604,
500
+ 605,
501
+ 606,
502
+ 607,
503
+ 608,
504
+ 609,
505
+ 610,
506
+ 611,
507
+ 612,
508
+ 613,
509
+ 614,
510
+ 615,
511
+ 616,
512
+ 617,
513
+ 618,
514
+ 619,
515
+ 620,
516
+ 621,
517
+ 622,
518
+ 623,
519
+ 624,
520
+ 625,
521
+ 626,
522
+ 627,
523
+ 628,
524
+ 629,
525
+ 630,
526
+ 631,
527
+ 632,
528
+ 633,
529
+ 634,
530
+ 635,
531
+ 636,
532
+ 637,
533
+ 638,
534
+ 639,
535
+ 640,
536
+ 641,
537
+ 642,
538
+ 643,
539
+ 644,
540
+ 645,
541
+ 646,
542
+ 647,
543
+ 648,
544
+ 649,
545
+ 650,
546
+ 651,
547
+ 652,
548
+ 653,
549
+ 654,
550
+ 655,
551
+ 656,
552
+ 657,
553
+ 658,
554
+ 659,
555
+ 660,
556
+ 661,
557
+ 662,
558
+ 663,
559
+ 664,
560
+ 665,
561
+ 666,
562
+ 667,
563
+ 668,
564
+ 669,
565
+ 670,
566
+ 671,
567
+ 672,
568
+ 673,
569
+ 674,
570
+ 675,
571
+ 676,
572
+ 677,
573
+ 678,
574
+ 679,
575
+ 680,
576
+ 681,
577
+ 682,
578
+ 683,
579
+ 684,
580
+ 685,
581
+ 686,
582
+ 687,
583
+ 688,
584
+ 689,
585
+ 690,
586
+ 691,
587
+ 692,
588
+ 693,
589
+ 694,
590
+ 695,
591
+ 696,
592
+ 697,
593
+ 698,
594
+ 699,
595
+ 700,
596
+ 701,
597
+ 702,
598
+ 703,
599
+ 704,
600
+ 705,
601
+ 706,
602
+ 707,
603
+ 708,
604
+ 709,
605
+ 710,
606
+ 711,
607
+ 712,
608
+ 713,
609
+ 714,
610
+ 715,
611
+ 716,
612
+ 717,
613
+ 718,
614
+ 719,
615
+ 720,
616
+ 721,
617
+ 722,
618
+ 723,
619
+ 724,
620
+ 725,
621
+ 726,
622
+ 727,
623
+ 728,
624
+ 729,
625
+ 730,
626
+ 731,
627
+ 732,
628
+ 733,
629
+ 734,
630
+ 735,
631
+ 736,
632
+ 737,
633
+ 738,
634
+ 739,
635
+ 740,
636
+ 741,
637
+ 742,
638
+ 743,
639
+ 744,
640
+ 745,
641
+ 746,
642
+ 747,
643
+ 748,
644
+ 749,
645
+ 750,
646
+ 751,
647
+ 752,
648
+ 753,
649
+ 754,
650
+ 755,
651
+ 756,
652
+ 757,
653
+ 758,
654
+ 759,
655
+ 760,
656
+ 761,
657
+ 762,
658
+ 763,
659
+ 764,
660
+ 765,
661
+ 766,
662
+ 767,
663
+ 768,
664
+ 769,
665
+ 770,
666
+ 771,
667
+ 772,
668
+ 773,
669
+ 774,
670
+ 775,
671
+ 776,
672
+ 777,
673
+ 778,
674
+ 779,
675
+ 780,
676
+ 781,
677
+ 782,
678
+ 783,
679
+ 784,
680
+ 785,
681
+ 786,
682
+ 787,
683
+ 788,
684
+ 789,
685
+ 790,
686
+ 791,
687
+ 792,
688
+ 793,
689
+ 794,
690
+ 795,
691
+ 796,
692
+ 797,
693
+ 798,
694
+ 799,
695
+ 800,
696
+ 801,
697
+ 802,
698
+ 803,
699
+ 804,
700
+ 805,
701
+ 806,
702
+ 807,
703
+ 808,
704
+ 809,
705
+ 810,
706
+ 811,
707
+ 812,
708
+ 813,
709
+ 814,
710
+ 815,
711
+ 816,
712
+ 817,
713
+ 818,
714
+ 819,
715
+ 820,
716
+ 821,
717
+ 822,
718
+ 823,
719
+ 824,
720
+ 825,
721
+ 826,
722
+ 827,
723
+ 828,
724
+ 829,
725
+ 830,
726
+ 831,
727
+ 832,
728
+ 833,
729
+ 834,
730
+ 835,
731
+ 836,
732
+ 837,
733
+ 838,
734
+ 839,
735
+ 840,
736
+ 841,
737
+ 842,
738
+ 843,
739
+ 844,
740
+ 845,
741
+ 846,
742
+ 847,
743
+ 848,
744
+ 849,
745
+ 850,
746
+ 851,
747
+ 852,
748
+ 853,
749
+ 854,
750
+ 855,
751
+ 856,
752
+ 857,
753
+ 858,
754
+ 859,
755
+ 860,
756
+ 861,
757
+ 862,
758
+ 863,
759
+ 864,
760
+ 865,
761
+ 866,
762
+ 867,
763
+ 868,
764
+ 869,
765
+ 870,
766
+ 871,
767
+ 872,
768
+ 873,
769
+ 874,
770
+ 875,
771
+ 876,
772
+ 877,
773
+ 878,
774
+ 879,
775
+ 880,
776
+ 881,
777
+ 882,
778
+ 883,
779
+ 884,
780
+ 885,
781
+ 886,
782
+ 887,
783
+ 888,
784
+ 889,
785
+ 890,
786
+ 891,
787
+ 892,
788
+ 893,
789
+ 894,
790
+ 895,
791
+ 896,
792
+ 897,
793
+ 898,
794
+ 899,
795
+ 900,
796
+ 901,
797
+ 902,
798
+ 903,
799
+ 904,
800
+ 905,
801
+ 906,
802
+ 907,
803
+ 908,
804
+ 909,
805
+ 910,
806
+ 911,
807
+ 912,
808
+ 913,
809
+ 914,
810
+ 915,
811
+ 916,
812
+ 917,
813
+ 918,
814
+ 919,
815
+ 920,
816
+ 921,
817
+ 922,
818
+ 923,
819
+ 924,
820
+ 925,
821
+ 926,
822
+ 927,
823
+ 928,
824
+ 929,
825
+ 930,
826
+ 931,
827
+ 932,
828
+ 933,
829
+ 934,
830
+ 935,
831
+ 936,
832
+ 937,
833
+ 938,
834
+ 939,
835
+ 940,
836
+ 941,
837
+ 942,
838
+ 943,
839
+ 944,
840
+ 945,
841
+ 946,
842
+ 947,
843
+ 948,
844
+ 949,
845
+ 1050,
846
+ 1051,
847
+ 1052,
848
+ 1054,
849
+ 1055,
850
+ 1056,
851
+ 1057,
852
+ 1058,
853
+ 1059,
854
+ 1060,
855
+ 1061,
856
+ 1062,
857
+ 1063,
858
+ 1065,
859
+ 1067,
860
+ 1068,
861
+ 1069,
862
+ 1071,
863
+ 1075,
864
+ 1078,
865
+ 1083,
866
+ 1085,
867
+ 1090,
868
+ 1091,
869
+ 1092,
870
+ 1094,
871
+ 1095,
872
+ 1096,
873
+ 1097,
874
+ 1098,
875
+ 1099,
876
+ 1101,
877
+ 1102,
878
+ 1103,
879
+ 1105,
880
+ 1108,
881
+ 1110,
882
+ 1111,
883
+ 1112,
884
+ 1114,
885
+ 1115,
886
+ 1116,
887
+ 1117,
888
+ 1118,
889
+ 1119,
890
+ 1120,
891
+ 1121,
892
+ 1122,
893
+ 1123,
894
+ 1125,
895
+ 1126,
896
+ 1127,
897
+ 1128,
898
+ 1129,
899
+ 1131,
900
+ 1135,
901
+ 1136,
902
+ 1138,
903
+ 1220,
904
+ 1221,
905
+ 1223,
906
+ 1225,
907
+ 1227,
908
+ 1229,
909
+ 1250,
910
+ 1251,
911
+ 1252,
912
+ 1253,
913
+ 1254,
914
+ 1255,
915
+ 1256,
916
+ 1257,
917
+ 1258,
918
+ 1259,
919
+ 1260,
920
+ 1261,
921
+ 1262,
922
+ 1263,
923
+ 1264,
924
+ 1265,
925
+ 1266,
926
+ 1267,
927
+ 1268,
928
+ 1269,
929
+ 1319,
930
+ 1330,
931
+ 1331,
932
+ 1332,
933
+ 1333,
934
+ 1334,
935
+ 1335,
936
+ 1336,
937
+ 1337,
938
+ 1338,
939
+ 1339,
940
+ 1340,
941
+ 1341,
942
+ 1342,
943
+ 1343,
944
+ 1344,
945
+ 1345,
946
+ 1346,
947
+ 1347,
948
+ 1348,
949
+ 1349,
950
+ 1350,
951
+ 1351,
952
+ 1352,
953
+ 1353,
954
+ 1354,
955
+ 1355,
956
+ 1356,
957
+ 1357,
958
+ 1358,
959
+ 1359,
960
+ 1360,
961
+ 1361,
962
+ 1362,
963
+ 1363,
964
+ 1364,
965
+ 1365,
966
+ 1366,
967
+ 1367,
968
+ 1368,
969
+ 1369,
970
+ 1370,
971
+ 1371,
972
+ 1372,
973
+ 1373,
974
+ 1374,
975
+ 1375,
976
+ 1376,
977
+ 1377,
978
+ 1378,
979
+ 1379,
980
+ 1380,
981
+ 1381,
982
+ 1382,
983
+ 1383,
984
+ 1384,
985
+ 1385,
986
+ 1386,
987
+ 1387,
988
+ 1388,
989
+ 1389,
990
+ 1390,
991
+ 1391,
992
+ 1392,
993
+ 1393,
994
+ 1394,
995
+ 1395,
996
+ 1396,
997
+ 1397,
998
+ 1398,
999
+ 1399,
1000
+ 1400,
1001
+ 1401,
1002
+ 1402,
1003
+ 1403,
1004
+ 1404,
1005
+ 1405,
1006
+ 1406,
1007
+ 1407,
1008
+ 1408,
1009
+ 1409,
1010
+ 1410,
1011
+ 1411,
1012
+ 1412,
1013
+ 1413,
1014
+ 1414,
1015
+ 1415,
1016
+ 1416,
1017
+ 1417,
1018
+ 1418,
1019
+ 1419,
1020
+ 1420,
1021
+ 1421,
1022
+ 1422,
1023
+ 1423,
1024
+ 1424,
1025
+ 1511,
1026
+ 1521,
1027
+ 1522,
1028
+ 1523,
1029
+ 1524,
1030
+ 1527,
1031
+ 1528,
1032
+ 1529,
1033
+ 1531,
1034
+ 1532,
1035
+ 1533,
1036
+ 1534,
1037
+ 1535,
1038
+ 1536,
1039
+ 1537,
1040
+ 1538,
1041
+ 1571,
1042
+ 1580,
1043
+ 1581,
1044
+ 1582,
1045
+ 1583,
1046
+ 1584,
1047
+ 1587,
1048
+ 1589,
1049
+ 1590,
1050
+ 1591,
1051
+ 1592,
1052
+ 1593,
1053
+ 1594,
1054
+ 1595,
1055
+ 1596,
1056
+ 1597,
1057
+ 1598
1058
+ ],
1059
+ "not_both_correct_indices": [
1060
+ 275,
1061
+ 276,
1062
+ 277,
1063
+ 278,
1064
+ 279,
1065
+ 280,
1066
+ 281,
1067
+ 282,
1068
+ 283,
1069
+ 284,
1070
+ 285,
1071
+ 286,
1072
+ 287,
1073
+ 288,
1074
+ 289,
1075
+ 290,
1076
+ 291,
1077
+ 292,
1078
+ 293,
1079
+ 294,
1080
+ 295,
1081
+ 296,
1082
+ 297,
1083
+ 298,
1084
+ 299,
1085
+ 300,
1086
+ 301,
1087
+ 302,
1088
+ 303,
1089
+ 304,
1090
+ 305,
1091
+ 306,
1092
+ 307,
1093
+ 308,
1094
+ 309,
1095
+ 310,
1096
+ 311,
1097
+ 312,
1098
+ 313,
1099
+ 314,
1100
+ 315,
1101
+ 316,
1102
+ 317,
1103
+ 318,
1104
+ 319,
1105
+ 320,
1106
+ 321,
1107
+ 322,
1108
+ 323,
1109
+ 324,
1110
+ 325,
1111
+ 326,
1112
+ 327,
1113
+ 328,
1114
+ 329,
1115
+ 330,
1116
+ 331,
1117
+ 332,
1118
+ 333,
1119
+ 334,
1120
+ 335,
1121
+ 336,
1122
+ 337,
1123
+ 338,
1124
+ 339,
1125
+ 340,
1126
+ 341,
1127
+ 342,
1128
+ 343,
1129
+ 344,
1130
+ 345,
1131
+ 346,
1132
+ 347,
1133
+ 348,
1134
+ 349,
1135
+ 350,
1136
+ 351,
1137
+ 352,
1138
+ 353,
1139
+ 354,
1140
+ 355,
1141
+ 356,
1142
+ 357,
1143
+ 358,
1144
+ 359,
1145
+ 360,
1146
+ 361,
1147
+ 362,
1148
+ 363,
1149
+ 364,
1150
+ 365,
1151
+ 366,
1152
+ 367,
1153
+ 368,
1154
+ 369,
1155
+ 370,
1156
+ 371,
1157
+ 372,
1158
+ 373,
1159
+ 374,
1160
+ 471,
1161
+ 472,
1162
+ 473,
1163
+ 477,
1164
+ 482,
1165
+ 484,
1166
+ 488,
1167
+ 511,
1168
+ 512,
1169
+ 517,
1170
+ 519,
1171
+ 521,
1172
+ 522,
1173
+ 524,
1174
+ 528,
1175
+ 529,
1176
+ 950,
1177
+ 951,
1178
+ 952,
1179
+ 953,
1180
+ 954,
1181
+ 955,
1182
+ 956,
1183
+ 957,
1184
+ 958,
1185
+ 959,
1186
+ 960,
1187
+ 961,
1188
+ 962,
1189
+ 963,
1190
+ 964,
1191
+ 965,
1192
+ 966,
1193
+ 967,
1194
+ 968,
1195
+ 969,
1196
+ 970,
1197
+ 971,
1198
+ 972,
1199
+ 973,
1200
+ 974,
1201
+ 975,
1202
+ 976,
1203
+ 977,
1204
+ 978,
1205
+ 979,
1206
+ 980,
1207
+ 981,
1208
+ 982,
1209
+ 983,
1210
+ 984,
1211
+ 985,
1212
+ 986,
1213
+ 987,
1214
+ 988,
1215
+ 989,
1216
+ 990,
1217
+ 991,
1218
+ 992,
1219
+ 993,
1220
+ 994,
1221
+ 995,
1222
+ 996,
1223
+ 997,
1224
+ 998,
1225
+ 999,
1226
+ 1000,
1227
+ 1001,
1228
+ 1002,
1229
+ 1003,
1230
+ 1004,
1231
+ 1005,
1232
+ 1006,
1233
+ 1007,
1234
+ 1008,
1235
+ 1009,
1236
+ 1010,
1237
+ 1011,
1238
+ 1012,
1239
+ 1013,
1240
+ 1014,
1241
+ 1015,
1242
+ 1016,
1243
+ 1017,
1244
+ 1018,
1245
+ 1019,
1246
+ 1020,
1247
+ 1021,
1248
+ 1022,
1249
+ 1023,
1250
+ 1024,
1251
+ 1025,
1252
+ 1026,
1253
+ 1027,
1254
+ 1028,
1255
+ 1029,
1256
+ 1030,
1257
+ 1031,
1258
+ 1032,
1259
+ 1033,
1260
+ 1034,
1261
+ 1035,
1262
+ 1036,
1263
+ 1037,
1264
+ 1038,
1265
+ 1039,
1266
+ 1040,
1267
+ 1041,
1268
+ 1042,
1269
+ 1043,
1270
+ 1044,
1271
+ 1045,
1272
+ 1046,
1273
+ 1047,
1274
+ 1048,
1275
+ 1049,
1276
+ 1053,
1277
+ 1064,
1278
+ 1066,
1279
+ 1070,
1280
+ 1072,
1281
+ 1073,
1282
+ 1074,
1283
+ 1076,
1284
+ 1077,
1285
+ 1079,
1286
+ 1080,
1287
+ 1081,
1288
+ 1082,
1289
+ 1084,
1290
+ 1086,
1291
+ 1087,
1292
+ 1088,
1293
+ 1089,
1294
+ 1093,
1295
+ 1100,
1296
+ 1104,
1297
+ 1106,
1298
+ 1107,
1299
+ 1109,
1300
+ 1113,
1301
+ 1124,
1302
+ 1130,
1303
+ 1132,
1304
+ 1133,
1305
+ 1134,
1306
+ 1137,
1307
+ 1139,
1308
+ 1140,
1309
+ 1141,
1310
+ 1142,
1311
+ 1143,
1312
+ 1144,
1313
+ 1145,
1314
+ 1146,
1315
+ 1147,
1316
+ 1148,
1317
+ 1149,
1318
+ 1150,
1319
+ 1151,
1320
+ 1152,
1321
+ 1153,
1322
+ 1154,
1323
+ 1155,
1324
+ 1156,
1325
+ 1157,
1326
+ 1158,
1327
+ 1159,
1328
+ 1160,
1329
+ 1161,
1330
+ 1162,
1331
+ 1163,
1332
+ 1164,
1333
+ 1165,
1334
+ 1166,
1335
+ 1167,
1336
+ 1168,
1337
+ 1169,
1338
+ 1170,
1339
+ 1171,
1340
+ 1172,
1341
+ 1173,
1342
+ 1174,
1343
+ 1175,
1344
+ 1176,
1345
+ 1177,
1346
+ 1178,
1347
+ 1179,
1348
+ 1180,
1349
+ 1181,
1350
+ 1182,
1351
+ 1183,
1352
+ 1184,
1353
+ 1185,
1354
+ 1186,
1355
+ 1187,
1356
+ 1188,
1357
+ 1189,
1358
+ 1190,
1359
+ 1191,
1360
+ 1192,
1361
+ 1193,
1362
+ 1194,
1363
+ 1195,
1364
+ 1196,
1365
+ 1197,
1366
+ 1198,
1367
+ 1199,
1368
+ 1200,
1369
+ 1201,
1370
+ 1202,
1371
+ 1203,
1372
+ 1204,
1373
+ 1205,
1374
+ 1206,
1375
+ 1207,
1376
+ 1208,
1377
+ 1209,
1378
+ 1210,
1379
+ 1211,
1380
+ 1212,
1381
+ 1213,
1382
+ 1214,
1383
+ 1215,
1384
+ 1216,
1385
+ 1217,
1386
+ 1218,
1387
+ 1219,
1388
+ 1222,
1389
+ 1224,
1390
+ 1226,
1391
+ 1228,
1392
+ 1230,
1393
+ 1231,
1394
+ 1232,
1395
+ 1233,
1396
+ 1234,
1397
+ 1235,
1398
+ 1236,
1399
+ 1237,
1400
+ 1238,
1401
+ 1239,
1402
+ 1240,
1403
+ 1241,
1404
+ 1242,
1405
+ 1243,
1406
+ 1244,
1407
+ 1245,
1408
+ 1246,
1409
+ 1247,
1410
+ 1248,
1411
+ 1249,
1412
+ 1270,
1413
+ 1271,
1414
+ 1272,
1415
+ 1273,
1416
+ 1274,
1417
+ 1275,
1418
+ 1276,
1419
+ 1277,
1420
+ 1278,
1421
+ 1279,
1422
+ 1280,
1423
+ 1281,
1424
+ 1282,
1425
+ 1283,
1426
+ 1284,
1427
+ 1285,
1428
+ 1286,
1429
+ 1287,
1430
+ 1288,
1431
+ 1289,
1432
+ 1290,
1433
+ 1291,
1434
+ 1292,
1435
+ 1293,
1436
+ 1294,
1437
+ 1295,
1438
+ 1296,
1439
+ 1297,
1440
+ 1298,
1441
+ 1299,
1442
+ 1300,
1443
+ 1301,
1444
+ 1302,
1445
+ 1303,
1446
+ 1304,
1447
+ 1305,
1448
+ 1306,
1449
+ 1307,
1450
+ 1308,
1451
+ 1309,
1452
+ 1310,
1453
+ 1311,
1454
+ 1312,
1455
+ 1313,
1456
+ 1314,
1457
+ 1315,
1458
+ 1316,
1459
+ 1317,
1460
+ 1318,
1461
+ 1320,
1462
+ 1321,
1463
+ 1322,
1464
+ 1323,
1465
+ 1324,
1466
+ 1325,
1467
+ 1326,
1468
+ 1327,
1469
+ 1328,
1470
+ 1329,
1471
+ 1425,
1472
+ 1426,
1473
+ 1427,
1474
+ 1428,
1475
+ 1429,
1476
+ 1430,
1477
+ 1431,
1478
+ 1432,
1479
+ 1433,
1480
+ 1434,
1481
+ 1435,
1482
+ 1436,
1483
+ 1437,
1484
+ 1438,
1485
+ 1439,
1486
+ 1440,
1487
+ 1441,
1488
+ 1442,
1489
+ 1443,
1490
+ 1444,
1491
+ 1445,
1492
+ 1446,
1493
+ 1447,
1494
+ 1448,
1495
+ 1449,
1496
+ 1450,
1497
+ 1451,
1498
+ 1452,
1499
+ 1453,
1500
+ 1454,
1501
+ 1455,
1502
+ 1456,
1503
+ 1457,
1504
+ 1458,
1505
+ 1459,
1506
+ 1460,
1507
+ 1461,
1508
+ 1462,
1509
+ 1463,
1510
+ 1464,
1511
+ 1465,
1512
+ 1466,
1513
+ 1467,
1514
+ 1468,
1515
+ 1469,
1516
+ 1470,
1517
+ 1471,
1518
+ 1472,
1519
+ 1473,
1520
+ 1474,
1521
+ 1475,
1522
+ 1476,
1523
+ 1477,
1524
+ 1478,
1525
+ 1479,
1526
+ 1480,
1527
+ 1481,
1528
+ 1482,
1529
+ 1483,
1530
+ 1484,
1531
+ 1485,
1532
+ 1486,
1533
+ 1487,
1534
+ 1488,
1535
+ 1489,
1536
+ 1490,
1537
+ 1491,
1538
+ 1492,
1539
+ 1493,
1540
+ 1494,
1541
+ 1495,
1542
+ 1496,
1543
+ 1497,
1544
+ 1498,
1545
+ 1499,
1546
+ 1500,
1547
+ 1501,
1548
+ 1502,
1549
+ 1503,
1550
+ 1504,
1551
+ 1505,
1552
+ 1506,
1553
+ 1507,
1554
+ 1508,
1555
+ 1509,
1556
+ 1510,
1557
+ 1512,
1558
+ 1513,
1559
+ 1514,
1560
+ 1515,
1561
+ 1516,
1562
+ 1517,
1563
+ 1518,
1564
+ 1519,
1565
+ 1520,
1566
+ 1525,
1567
+ 1526,
1568
+ 1530,
1569
+ 1539,
1570
+ 1540,
1571
+ 1541,
1572
+ 1542,
1573
+ 1543,
1574
+ 1544,
1575
+ 1545,
1576
+ 1546,
1577
+ 1547,
1578
+ 1548,
1579
+ 1549,
1580
+ 1550,
1581
+ 1551,
1582
+ 1552,
1583
+ 1553,
1584
+ 1554,
1585
+ 1555,
1586
+ 1556,
1587
+ 1557,
1588
+ 1558,
1589
+ 1559,
1590
+ 1560,
1591
+ 1561,
1592
+ 1562,
1593
+ 1563,
1594
+ 1564,
1595
+ 1565,
1596
+ 1566,
1597
+ 1567,
1598
+ 1568,
1599
+ 1569,
1600
+ 1570,
1601
+ 1572,
1602
+ 1573,
1603
+ 1574,
1604
+ 1575,
1605
+ 1576,
1606
+ 1577,
1607
+ 1578,
1608
+ 1579,
1609
+ 1585,
1610
+ 1586,
1611
+ 1588,
1612
+ 1599
1613
+ ],
1614
+ "clean_baseline": 18.171875,
1615
+ "corrupted_baseline": -12.75
1616
+ }
results/Qwen_Qwen2-5-72B-Instruct/ToM/secondary_emotions/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:c2d05537f389d990dd536414de65f536bbb95446667e85305bb051db423bca4c
3
+ size 18925174
results/Qwen_Qwen2-5-72B-Instruct/ToM/secondary_emotions/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ed3666bba8ea401ffa218aa18baed37b7fe35f3973e34eb5b8857193321f1bdb
3
+ size 9364384
results/Qwen_Qwen2-5-72B-Instruct/ToM/social_interactions/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2365440, "num_layers": 80, "num_units": 29568}
results/Qwen_Qwen2-5-72B-Instruct/ToM/social_interactions/baselines.json ADDED
@@ -0,0 +1,220 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 204,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 204,
6
+ "clean_accuracy": 0.9705882352941176,
7
+ "corrupted_accuracy": 0.8970588235294118,
8
+ "both_correct_accuracy": 0.8676470588235294,
9
+ "n_both_correct": 177,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 7,
18
+ 10,
19
+ 11,
20
+ 12,
21
+ 13,
22
+ 14,
23
+ 15,
24
+ 16,
25
+ 17,
26
+ 18,
27
+ 19,
28
+ 20,
29
+ 21,
30
+ 22,
31
+ 23,
32
+ 24,
33
+ 25,
34
+ 26,
35
+ 27,
36
+ 28,
37
+ 29,
38
+ 30,
39
+ 31,
40
+ 32,
41
+ 33,
42
+ 34,
43
+ 35,
44
+ 36,
45
+ 37,
46
+ 38,
47
+ 39,
48
+ 40,
49
+ 41,
50
+ 42,
51
+ 43,
52
+ 44,
53
+ 45,
54
+ 46,
55
+ 47,
56
+ 48,
57
+ 49,
58
+ 50,
59
+ 51,
60
+ 52,
61
+ 53,
62
+ 54,
63
+ 55,
64
+ 56,
65
+ 57,
66
+ 58,
67
+ 59,
68
+ 60,
69
+ 61,
70
+ 62,
71
+ 63,
72
+ 64,
73
+ 65,
74
+ 66,
75
+ 67,
76
+ 68,
77
+ 69,
78
+ 70,
79
+ 71,
80
+ 72,
81
+ 73,
82
+ 74,
83
+ 75,
84
+ 76,
85
+ 77,
86
+ 78,
87
+ 79,
88
+ 80,
89
+ 81,
90
+ 82,
91
+ 83,
92
+ 84,
93
+ 85,
94
+ 86,
95
+ 87,
96
+ 88,
97
+ 89,
98
+ 90,
99
+ 91,
100
+ 92,
101
+ 93,
102
+ 94,
103
+ 99,
104
+ 100,
105
+ 101,
106
+ 102,
107
+ 103,
108
+ 104,
109
+ 105,
110
+ 106,
111
+ 107,
112
+ 108,
113
+ 109,
114
+ 110,
115
+ 111,
116
+ 112,
117
+ 113,
118
+ 114,
119
+ 115,
120
+ 116,
121
+ 117,
122
+ 118,
123
+ 119,
124
+ 120,
125
+ 121,
126
+ 122,
127
+ 123,
128
+ 124,
129
+ 125,
130
+ 126,
131
+ 127,
132
+ 128,
133
+ 129,
134
+ 130,
135
+ 131,
136
+ 132,
137
+ 133,
138
+ 134,
139
+ 135,
140
+ 136,
141
+ 137,
142
+ 138,
143
+ 144,
144
+ 145,
145
+ 146,
146
+ 147,
147
+ 148,
148
+ 149,
149
+ 150,
150
+ 151,
151
+ 152,
152
+ 153,
153
+ 154,
154
+ 155,
155
+ 156,
156
+ 157,
157
+ 158,
158
+ 159,
159
+ 160,
160
+ 161,
161
+ 162,
162
+ 163,
163
+ 164,
164
+ 165,
165
+ 166,
166
+ 167,
167
+ 168,
168
+ 169,
169
+ 170,
170
+ 171,
171
+ 172,
172
+ 173,
173
+ 174,
174
+ 176,
175
+ 177,
176
+ 178,
177
+ 179,
178
+ 180,
179
+ 181,
180
+ 182,
181
+ 183,
182
+ 185,
183
+ 187,
184
+ 189,
185
+ 191,
186
+ 193,
187
+ 199
188
+ ],
189
+ "not_both_correct_indices": [
190
+ 6,
191
+ 8,
192
+ 9,
193
+ 95,
194
+ 96,
195
+ 97,
196
+ 98,
197
+ 139,
198
+ 140,
199
+ 141,
200
+ 142,
201
+ 143,
202
+ 175,
203
+ 184,
204
+ 186,
205
+ 188,
206
+ 190,
207
+ 192,
208
+ 194,
209
+ 195,
210
+ 196,
211
+ 197,
212
+ 198,
213
+ 200,
214
+ 201,
215
+ 202,
216
+ 203
217
+ ],
218
+ "clean_baseline": 16.34375,
219
+ "corrupted_baseline": -14.8515625
220
+ }
results/Qwen_Qwen2-5-72B-Instruct/ToM/social_interactions/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fc1c4a2188eba2d85036bf1ecc6b531a4d955a505dfc476ca8622d918505fa01
3
+ size 18925174
results/Qwen_Qwen2-5-72B-Instruct/ToM/social_interactions/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:d27b6365a4dad2d2ec98fb7c32bb16dd7f39e86be3a43a322298cffaefd08785
3
+ size 9308536
results/Qwen_Qwen2-5-72B-Instruct/ToM/social_relations/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2365440, "num_layers": 80, "num_units": 29568}
results/Qwen_Qwen2-5-72B-Instruct/ToM/social_relations/baselines.json ADDED
@@ -0,0 +1,304 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 288,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 288,
6
+ "clean_accuracy": 0.8472222222222222,
7
+ "corrupted_accuracy": 0.8576388888888888,
8
+ "both_correct_accuracy": 0.7430555555555556,
9
+ "n_both_correct": 214,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 16,
26
+ 17,
27
+ 18,
28
+ 19,
29
+ 20,
30
+ 21,
31
+ 22,
32
+ 24,
33
+ 25,
34
+ 27,
35
+ 28,
36
+ 29,
37
+ 30,
38
+ 31,
39
+ 32,
40
+ 33,
41
+ 34,
42
+ 35,
43
+ 36,
44
+ 37,
45
+ 38,
46
+ 40,
47
+ 41,
48
+ 42,
49
+ 43,
50
+ 44,
51
+ 45,
52
+ 46,
53
+ 47,
54
+ 48,
55
+ 49,
56
+ 50,
57
+ 51,
58
+ 53,
59
+ 54,
60
+ 55,
61
+ 58,
62
+ 62,
63
+ 63,
64
+ 64,
65
+ 65,
66
+ 66,
67
+ 67,
68
+ 68,
69
+ 71,
70
+ 72,
71
+ 73,
72
+ 74,
73
+ 75,
74
+ 77,
75
+ 78,
76
+ 80,
77
+ 82,
78
+ 83,
79
+ 84,
80
+ 85,
81
+ 86,
82
+ 87,
83
+ 88,
84
+ 89,
85
+ 90,
86
+ 91,
87
+ 92,
88
+ 93,
89
+ 94,
90
+ 95,
91
+ 96,
92
+ 97,
93
+ 98,
94
+ 99,
95
+ 100,
96
+ 101,
97
+ 102,
98
+ 103,
99
+ 104,
100
+ 105,
101
+ 106,
102
+ 107,
103
+ 108,
104
+ 109,
105
+ 111,
106
+ 114,
107
+ 115,
108
+ 116,
109
+ 117,
110
+ 118,
111
+ 119,
112
+ 120,
113
+ 121,
114
+ 122,
115
+ 123,
116
+ 124,
117
+ 125,
118
+ 126,
119
+ 127,
120
+ 128,
121
+ 129,
122
+ 130,
123
+ 131,
124
+ 132,
125
+ 133,
126
+ 134,
127
+ 135,
128
+ 136,
129
+ 137,
130
+ 138,
131
+ 139,
132
+ 140,
133
+ 141,
134
+ 142,
135
+ 143,
136
+ 144,
137
+ 145,
138
+ 146,
139
+ 147,
140
+ 148,
141
+ 149,
142
+ 150,
143
+ 151,
144
+ 152,
145
+ 153,
146
+ 154,
147
+ 155,
148
+ 156,
149
+ 157,
150
+ 158,
151
+ 159,
152
+ 160,
153
+ 161,
154
+ 162,
155
+ 163,
156
+ 164,
157
+ 165,
158
+ 169,
159
+ 176,
160
+ 177,
161
+ 179,
162
+ 180,
163
+ 182,
164
+ 183,
165
+ 184,
166
+ 185,
167
+ 186,
168
+ 188,
169
+ 189,
170
+ 190,
171
+ 191,
172
+ 192,
173
+ 193,
174
+ 194,
175
+ 195,
176
+ 196,
177
+ 197,
178
+ 198,
179
+ 204,
180
+ 207,
181
+ 215,
182
+ 218,
183
+ 219,
184
+ 222,
185
+ 223,
186
+ 225,
187
+ 226,
188
+ 228,
189
+ 230,
190
+ 231,
191
+ 232,
192
+ 233,
193
+ 234,
194
+ 235,
195
+ 236,
196
+ 237,
197
+ 238,
198
+ 239,
199
+ 240,
200
+ 241,
201
+ 242,
202
+ 243,
203
+ 244,
204
+ 245,
205
+ 246,
206
+ 247,
207
+ 248,
208
+ 249,
209
+ 255,
210
+ 256,
211
+ 257,
212
+ 258,
213
+ 259,
214
+ 260,
215
+ 262,
216
+ 263,
217
+ 264,
218
+ 265,
219
+ 266,
220
+ 268,
221
+ 271,
222
+ 277,
223
+ 278,
224
+ 280
225
+ ],
226
+ "not_both_correct_indices": [
227
+ 14,
228
+ 15,
229
+ 23,
230
+ 26,
231
+ 39,
232
+ 52,
233
+ 56,
234
+ 57,
235
+ 59,
236
+ 60,
237
+ 61,
238
+ 69,
239
+ 70,
240
+ 76,
241
+ 79,
242
+ 81,
243
+ 110,
244
+ 112,
245
+ 113,
246
+ 166,
247
+ 167,
248
+ 168,
249
+ 170,
250
+ 171,
251
+ 172,
252
+ 173,
253
+ 174,
254
+ 175,
255
+ 178,
256
+ 181,
257
+ 187,
258
+ 199,
259
+ 200,
260
+ 201,
261
+ 202,
262
+ 203,
263
+ 205,
264
+ 206,
265
+ 208,
266
+ 209,
267
+ 210,
268
+ 211,
269
+ 212,
270
+ 213,
271
+ 214,
272
+ 216,
273
+ 217,
274
+ 220,
275
+ 221,
276
+ 224,
277
+ 227,
278
+ 229,
279
+ 250,
280
+ 251,
281
+ 252,
282
+ 253,
283
+ 254,
284
+ 261,
285
+ 267,
286
+ 269,
287
+ 270,
288
+ 272,
289
+ 273,
290
+ 274,
291
+ 275,
292
+ 276,
293
+ 279,
294
+ 281,
295
+ 282,
296
+ 283,
297
+ 284,
298
+ 285,
299
+ 286,
300
+ 287
301
+ ],
302
+ "clean_baseline": 17.390625,
303
+ "corrupted_baseline": -19.109375
304
+ }
results/Qwen_Qwen2-5-72B-Instruct/ToM/social_relations/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:93255f1d1944eb85bf84825938d10a33f921533937413943d47f6d7a43884f72
3
+ size 18925174
results/Qwen_Qwen2-5-72B-Instruct/ToM/social_relations/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:59c1fd6f0abcd137cf3879a713b1ecd4eb100bc10595e74420adbd944c169ac3
3
+ size 9312560
results/Qwen_Qwen2-5-72B-Instruct/phys/phys_newton/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2365440, "num_layers": 80, "num_units": 29568}
results/Qwen_Qwen2-5-72B-Instruct/phys/phys_newton/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.874,
7
+ "corrupted_accuracy": 0.873,
8
+ "both_correct_accuracy": 0.774,
9
+ "n_both_correct": 774,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 2,
13
+ 3,
14
+ 5,
15
+ 8,
16
+ 12,
17
+ 13,
18
+ 14,
19
+ 15,
20
+ 16,
21
+ 18,
22
+ 19,
23
+ 20,
24
+ 26,
25
+ 27,
26
+ 28,
27
+ 29,
28
+ 30,
29
+ 31,
30
+ 32,
31
+ 36,
32
+ 37,
33
+ 38,
34
+ 39,
35
+ 40,
36
+ 41,
37
+ 42,
38
+ 43,
39
+ 44,
40
+ 45,
41
+ 46,
42
+ 47,
43
+ 48,
44
+ 50,
45
+ 51,
46
+ 52,
47
+ 55,
48
+ 58,
49
+ 63,
50
+ 64,
51
+ 65,
52
+ 66,
53
+ 69,
54
+ 71,
55
+ 74,
56
+ 76,
57
+ 78,
58
+ 82,
59
+ 84,
60
+ 86,
61
+ 87,
62
+ 88,
63
+ 89,
64
+ 90,
65
+ 93,
66
+ 95,
67
+ 96,
68
+ 97,
69
+ 98,
70
+ 99,
71
+ 100,
72
+ 102,
73
+ 103,
74
+ 104,
75
+ 106,
76
+ 111,
77
+ 113,
78
+ 114,
79
+ 115,
80
+ 116,
81
+ 117,
82
+ 118,
83
+ 120,
84
+ 121,
85
+ 122,
86
+ 126,
87
+ 128,
88
+ 130,
89
+ 131,
90
+ 132,
91
+ 133,
92
+ 136,
93
+ 137,
94
+ 138,
95
+ 140,
96
+ 145,
97
+ 148,
98
+ 154,
99
+ 159,
100
+ 161,
101
+ 162,
102
+ 163,
103
+ 164,
104
+ 168,
105
+ 170,
106
+ 171,
107
+ 172,
108
+ 174,
109
+ 175,
110
+ 178,
111
+ 180,
112
+ 182,
113
+ 184,
114
+ 185,
115
+ 186,
116
+ 187,
117
+ 188,
118
+ 192,
119
+ 193,
120
+ 194,
121
+ 200,
122
+ 202,
123
+ 203,
124
+ 204,
125
+ 208,
126
+ 209,
127
+ 210,
128
+ 214,
129
+ 220,
130
+ 221,
131
+ 222,
132
+ 224,
133
+ 228,
134
+ 229,
135
+ 230,
136
+ 238,
137
+ 240,
138
+ 241,
139
+ 242,
140
+ 243,
141
+ 244,
142
+ 245,
143
+ 246,
144
+ 248,
145
+ 249,
146
+ 250,
147
+ 254,
148
+ 255,
149
+ 256,
150
+ 257,
151
+ 258,
152
+ 259,
153
+ 260,
154
+ 261,
155
+ 262,
156
+ 263,
157
+ 264,
158
+ 265,
159
+ 266,
160
+ 268,
161
+ 270,
162
+ 271,
163
+ 272,
164
+ 273,
165
+ 275,
166
+ 276,
167
+ 277,
168
+ 278,
169
+ 279,
170
+ 280,
171
+ 282,
172
+ 284,
173
+ 286,
174
+ 287,
175
+ 288,
176
+ 289,
177
+ 290,
178
+ 291,
179
+ 292,
180
+ 293,
181
+ 294,
182
+ 295,
183
+ 296,
184
+ 297,
185
+ 298,
186
+ 299,
187
+ 300,
188
+ 301,
189
+ 302,
190
+ 303,
191
+ 304,
192
+ 305,
193
+ 306,
194
+ 307,
195
+ 308,
196
+ 309,
197
+ 310,
198
+ 311,
199
+ 312,
200
+ 313,
201
+ 314,
202
+ 315,
203
+ 316,
204
+ 318,
205
+ 319,
206
+ 321,
207
+ 323,
208
+ 324,
209
+ 328,
210
+ 329,
211
+ 330,
212
+ 331,
213
+ 332,
214
+ 333,
215
+ 334,
216
+ 335,
217
+ 336,
218
+ 337,
219
+ 338,
220
+ 340,
221
+ 341,
222
+ 342,
223
+ 344,
224
+ 347,
225
+ 348,
226
+ 350,
227
+ 351,
228
+ 354,
229
+ 355,
230
+ 356,
231
+ 357,
232
+ 358,
233
+ 359,
234
+ 360,
235
+ 361,
236
+ 362,
237
+ 363,
238
+ 364,
239
+ 365,
240
+ 367,
241
+ 369,
242
+ 370,
243
+ 371,
244
+ 372,
245
+ 374,
246
+ 375,
247
+ 376,
248
+ 377,
249
+ 378,
250
+ 379,
251
+ 380,
252
+ 381,
253
+ 382,
254
+ 383,
255
+ 385,
256
+ 386,
257
+ 387,
258
+ 388,
259
+ 389,
260
+ 390,
261
+ 391,
262
+ 392,
263
+ 393,
264
+ 394,
265
+ 395,
266
+ 396,
267
+ 397,
268
+ 398,
269
+ 399,
270
+ 400,
271
+ 401,
272
+ 402,
273
+ 403,
274
+ 404,
275
+ 405,
276
+ 406,
277
+ 407,
278
+ 408,
279
+ 409,
280
+ 410,
281
+ 411,
282
+ 412,
283
+ 414,
284
+ 415,
285
+ 416,
286
+ 417,
287
+ 418,
288
+ 419,
289
+ 420,
290
+ 421,
291
+ 422,
292
+ 423,
293
+ 424,
294
+ 425,
295
+ 426,
296
+ 428,
297
+ 429,
298
+ 430,
299
+ 431,
300
+ 432,
301
+ 433,
302
+ 434,
303
+ 435,
304
+ 436,
305
+ 437,
306
+ 438,
307
+ 439,
308
+ 440,
309
+ 441,
310
+ 442,
311
+ 443,
312
+ 444,
313
+ 445,
314
+ 446,
315
+ 447,
316
+ 448,
317
+ 449,
318
+ 450,
319
+ 451,
320
+ 453,
321
+ 454,
322
+ 455,
323
+ 456,
324
+ 457,
325
+ 458,
326
+ 459,
327
+ 460,
328
+ 461,
329
+ 463,
330
+ 464,
331
+ 466,
332
+ 467,
333
+ 468,
334
+ 469,
335
+ 471,
336
+ 472,
337
+ 473,
338
+ 474,
339
+ 475,
340
+ 476,
341
+ 477,
342
+ 478,
343
+ 479,
344
+ 480,
345
+ 481,
346
+ 482,
347
+ 483,
348
+ 484,
349
+ 485,
350
+ 486,
351
+ 487,
352
+ 488,
353
+ 489,
354
+ 490,
355
+ 491,
356
+ 492,
357
+ 495,
358
+ 496,
359
+ 497,
360
+ 498,
361
+ 499,
362
+ 500,
363
+ 501,
364
+ 502,
365
+ 503,
366
+ 504,
367
+ 505,
368
+ 506,
369
+ 507,
370
+ 509,
371
+ 510,
372
+ 512,
373
+ 513,
374
+ 514,
375
+ 515,
376
+ 516,
377
+ 519,
378
+ 520,
379
+ 522,
380
+ 523,
381
+ 526,
382
+ 527,
383
+ 528,
384
+ 529,
385
+ 530,
386
+ 531,
387
+ 532,
388
+ 533,
389
+ 534,
390
+ 535,
391
+ 536,
392
+ 537,
393
+ 538,
394
+ 539,
395
+ 540,
396
+ 541,
397
+ 542,
398
+ 543,
399
+ 544,
400
+ 545,
401
+ 546,
402
+ 548,
403
+ 549,
404
+ 550,
405
+ 551,
406
+ 552,
407
+ 553,
408
+ 554,
409
+ 555,
410
+ 556,
411
+ 557,
412
+ 558,
413
+ 559,
414
+ 560,
415
+ 563,
416
+ 565,
417
+ 566,
418
+ 567,
419
+ 569,
420
+ 570,
421
+ 572,
422
+ 573,
423
+ 574,
424
+ 575,
425
+ 576,
426
+ 577,
427
+ 578,
428
+ 579,
429
+ 580,
430
+ 581,
431
+ 582,
432
+ 583,
433
+ 584,
434
+ 585,
435
+ 586,
436
+ 587,
437
+ 588,
438
+ 589,
439
+ 590,
440
+ 591,
441
+ 592,
442
+ 593,
443
+ 594,
444
+ 595,
445
+ 596,
446
+ 597,
447
+ 598,
448
+ 599,
449
+ 600,
450
+ 602,
451
+ 603,
452
+ 604,
453
+ 605,
454
+ 606,
455
+ 607,
456
+ 608,
457
+ 609,
458
+ 610,
459
+ 611,
460
+ 612,
461
+ 614,
462
+ 615,
463
+ 616,
464
+ 617,
465
+ 618,
466
+ 619,
467
+ 620,
468
+ 621,
469
+ 622,
470
+ 623,
471
+ 624,
472
+ 625,
473
+ 626,
474
+ 627,
475
+ 628,
476
+ 629,
477
+ 630,
478
+ 631,
479
+ 632,
480
+ 633,
481
+ 634,
482
+ 636,
483
+ 637,
484
+ 638,
485
+ 639,
486
+ 641,
487
+ 642,
488
+ 643,
489
+ 644,
490
+ 645,
491
+ 646,
492
+ 648,
493
+ 649,
494
+ 650,
495
+ 653,
496
+ 654,
497
+ 658,
498
+ 659,
499
+ 660,
500
+ 661,
501
+ 662,
502
+ 663,
503
+ 664,
504
+ 665,
505
+ 666,
506
+ 667,
507
+ 668,
508
+ 669,
509
+ 670,
510
+ 672,
511
+ 673,
512
+ 674,
513
+ 679,
514
+ 680,
515
+ 681,
516
+ 682,
517
+ 683,
518
+ 684,
519
+ 685,
520
+ 686,
521
+ 687,
522
+ 689,
523
+ 691,
524
+ 692,
525
+ 693,
526
+ 694,
527
+ 695,
528
+ 696,
529
+ 697,
530
+ 698,
531
+ 699,
532
+ 700,
533
+ 701,
534
+ 702,
535
+ 703,
536
+ 704,
537
+ 705,
538
+ 706,
539
+ 707,
540
+ 708,
541
+ 709,
542
+ 710,
543
+ 711,
544
+ 715,
545
+ 716,
546
+ 717,
547
+ 718,
548
+ 719,
549
+ 720,
550
+ 721,
551
+ 722,
552
+ 723,
553
+ 724,
554
+ 725,
555
+ 729,
556
+ 730,
557
+ 731,
558
+ 732,
559
+ 734,
560
+ 735,
561
+ 736,
562
+ 737,
563
+ 738,
564
+ 739,
565
+ 740,
566
+ 741,
567
+ 742,
568
+ 743,
569
+ 744,
570
+ 747,
571
+ 748,
572
+ 750,
573
+ 751,
574
+ 752,
575
+ 753,
576
+ 754,
577
+ 755,
578
+ 756,
579
+ 759,
580
+ 760,
581
+ 761,
582
+ 762,
583
+ 763,
584
+ 764,
585
+ 765,
586
+ 766,
587
+ 767,
588
+ 768,
589
+ 771,
590
+ 772,
591
+ 773,
592
+ 775,
593
+ 776,
594
+ 777,
595
+ 778,
596
+ 779,
597
+ 782,
598
+ 783,
599
+ 784,
600
+ 785,
601
+ 786,
602
+ 787,
603
+ 788,
604
+ 789,
605
+ 791,
606
+ 792,
607
+ 793,
608
+ 795,
609
+ 796,
610
+ 797,
611
+ 798,
612
+ 799,
613
+ 800,
614
+ 801,
615
+ 802,
616
+ 803,
617
+ 804,
618
+ 805,
619
+ 806,
620
+ 807,
621
+ 808,
622
+ 809,
623
+ 810,
624
+ 811,
625
+ 812,
626
+ 813,
627
+ 814,
628
+ 815,
629
+ 816,
630
+ 817,
631
+ 818,
632
+ 823,
633
+ 824,
634
+ 825,
635
+ 826,
636
+ 828,
637
+ 830,
638
+ 831,
639
+ 833,
640
+ 834,
641
+ 836,
642
+ 837,
643
+ 841,
644
+ 842,
645
+ 843,
646
+ 844,
647
+ 845,
648
+ 846,
649
+ 847,
650
+ 848,
651
+ 849,
652
+ 850,
653
+ 852,
654
+ 853,
655
+ 854,
656
+ 856,
657
+ 857,
658
+ 858,
659
+ 859,
660
+ 861,
661
+ 862,
662
+ 863,
663
+ 864,
664
+ 865,
665
+ 866,
666
+ 867,
667
+ 868,
668
+ 869,
669
+ 870,
670
+ 871,
671
+ 872,
672
+ 873,
673
+ 874,
674
+ 875,
675
+ 876,
676
+ 877,
677
+ 878,
678
+ 879,
679
+ 880,
680
+ 881,
681
+ 882,
682
+ 883,
683
+ 884,
684
+ 885,
685
+ 887,
686
+ 888,
687
+ 889,
688
+ 890,
689
+ 891,
690
+ 892,
691
+ 893,
692
+ 894,
693
+ 896,
694
+ 897,
695
+ 898,
696
+ 899,
697
+ 900,
698
+ 901,
699
+ 902,
700
+ 903,
701
+ 904,
702
+ 905,
703
+ 906,
704
+ 907,
705
+ 908,
706
+ 909,
707
+ 910,
708
+ 911,
709
+ 912,
710
+ 913,
711
+ 914,
712
+ 915,
713
+ 918,
714
+ 919,
715
+ 920,
716
+ 921,
717
+ 922,
718
+ 923,
719
+ 924,
720
+ 925,
721
+ 926,
722
+ 927,
723
+ 928,
724
+ 929,
725
+ 930,
726
+ 931,
727
+ 933,
728
+ 934,
729
+ 935,
730
+ 936,
731
+ 937,
732
+ 938,
733
+ 939,
734
+ 940,
735
+ 941,
736
+ 942,
737
+ 945,
738
+ 946,
739
+ 947,
740
+ 949,
741
+ 950,
742
+ 951,
743
+ 952,
744
+ 953,
745
+ 954,
746
+ 955,
747
+ 956,
748
+ 958,
749
+ 959,
750
+ 960,
751
+ 961,
752
+ 962,
753
+ 963,
754
+ 964,
755
+ 965,
756
+ 966,
757
+ 967,
758
+ 968,
759
+ 969,
760
+ 970,
761
+ 971,
762
+ 972,
763
+ 976,
764
+ 977,
765
+ 978,
766
+ 979,
767
+ 980,
768
+ 981,
769
+ 982,
770
+ 983,
771
+ 984,
772
+ 985,
773
+ 986,
774
+ 987,
775
+ 988,
776
+ 989,
777
+ 990,
778
+ 991,
779
+ 994,
780
+ 995,
781
+ 996,
782
+ 997,
783
+ 998,
784
+ 999
785
+ ],
786
+ "not_both_correct_indices": [
787
+ 1,
788
+ 4,
789
+ 6,
790
+ 7,
791
+ 9,
792
+ 10,
793
+ 11,
794
+ 17,
795
+ 21,
796
+ 22,
797
+ 23,
798
+ 24,
799
+ 25,
800
+ 33,
801
+ 34,
802
+ 35,
803
+ 49,
804
+ 53,
805
+ 54,
806
+ 56,
807
+ 57,
808
+ 59,
809
+ 60,
810
+ 61,
811
+ 62,
812
+ 67,
813
+ 68,
814
+ 70,
815
+ 72,
816
+ 73,
817
+ 75,
818
+ 77,
819
+ 79,
820
+ 80,
821
+ 81,
822
+ 83,
823
+ 85,
824
+ 91,
825
+ 92,
826
+ 94,
827
+ 101,
828
+ 105,
829
+ 107,
830
+ 108,
831
+ 109,
832
+ 110,
833
+ 112,
834
+ 119,
835
+ 123,
836
+ 124,
837
+ 125,
838
+ 127,
839
+ 129,
840
+ 134,
841
+ 135,
842
+ 139,
843
+ 141,
844
+ 142,
845
+ 143,
846
+ 144,
847
+ 146,
848
+ 147,
849
+ 149,
850
+ 150,
851
+ 151,
852
+ 152,
853
+ 153,
854
+ 155,
855
+ 156,
856
+ 157,
857
+ 158,
858
+ 160,
859
+ 165,
860
+ 166,
861
+ 167,
862
+ 169,
863
+ 173,
864
+ 176,
865
+ 177,
866
+ 179,
867
+ 181,
868
+ 183,
869
+ 189,
870
+ 190,
871
+ 191,
872
+ 195,
873
+ 196,
874
+ 197,
875
+ 198,
876
+ 199,
877
+ 201,
878
+ 205,
879
+ 206,
880
+ 207,
881
+ 211,
882
+ 212,
883
+ 213,
884
+ 215,
885
+ 216,
886
+ 217,
887
+ 218,
888
+ 219,
889
+ 223,
890
+ 225,
891
+ 226,
892
+ 227,
893
+ 231,
894
+ 232,
895
+ 233,
896
+ 234,
897
+ 235,
898
+ 236,
899
+ 237,
900
+ 239,
901
+ 247,
902
+ 251,
903
+ 252,
904
+ 253,
905
+ 267,
906
+ 269,
907
+ 274,
908
+ 281,
909
+ 283,
910
+ 285,
911
+ 317,
912
+ 320,
913
+ 322,
914
+ 325,
915
+ 326,
916
+ 327,
917
+ 339,
918
+ 343,
919
+ 345,
920
+ 346,
921
+ 349,
922
+ 352,
923
+ 353,
924
+ 366,
925
+ 368,
926
+ 373,
927
+ 384,
928
+ 413,
929
+ 427,
930
+ 452,
931
+ 462,
932
+ 465,
933
+ 470,
934
+ 493,
935
+ 494,
936
+ 508,
937
+ 511,
938
+ 517,
939
+ 518,
940
+ 521,
941
+ 524,
942
+ 525,
943
+ 547,
944
+ 561,
945
+ 562,
946
+ 564,
947
+ 568,
948
+ 571,
949
+ 601,
950
+ 613,
951
+ 635,
952
+ 640,
953
+ 647,
954
+ 651,
955
+ 652,
956
+ 655,
957
+ 656,
958
+ 657,
959
+ 671,
960
+ 675,
961
+ 676,
962
+ 677,
963
+ 678,
964
+ 688,
965
+ 690,
966
+ 712,
967
+ 713,
968
+ 714,
969
+ 726,
970
+ 727,
971
+ 728,
972
+ 733,
973
+ 745,
974
+ 746,
975
+ 749,
976
+ 757,
977
+ 758,
978
+ 769,
979
+ 770,
980
+ 774,
981
+ 780,
982
+ 781,
983
+ 790,
984
+ 794,
985
+ 819,
986
+ 820,
987
+ 821,
988
+ 822,
989
+ 827,
990
+ 829,
991
+ 832,
992
+ 835,
993
+ 838,
994
+ 839,
995
+ 840,
996
+ 851,
997
+ 855,
998
+ 860,
999
+ 886,
1000
+ 895,
1001
+ 916,
1002
+ 917,
1003
+ 932,
1004
+ 943,
1005
+ 944,
1006
+ 948,
1007
+ 957,
1008
+ 973,
1009
+ 974,
1010
+ 975,
1011
+ 992,
1012
+ 993
1013
+ ],
1014
+ "clean_baseline": 14.109375,
1015
+ "corrupted_baseline": -14.09375
1016
+ }
results/Qwen_Qwen2-5-72B-Instruct/phys/phys_newton/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:29fda0840ff75f4e3405da79205b68573da6f5bde839d13cc78deff9599939a3
3
+ size 18925174
results/Qwen_Qwen2-5-72B-Instruct/phys/phys_newton/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:12d95c41f1ec92dfeeac4ba04f36dc6835c38b389eb78672c02778b54cd62216
3
+ size 9269192
results/Qwen_Qwen2-5-72B-Instruct/phys/phys_prost/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2365440, "num_layers": 80, "num_units": 29568}
results/Qwen_Qwen2-5-72B-Instruct/phys/phys_prost/baselines.json ADDED
@@ -0,0 +1,1216 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1200,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1200,
6
+ "clean_accuracy": 0.9675,
7
+ "corrupted_accuracy": 0.9741666666666666,
8
+ "both_correct_accuracy": 0.9541666666666667,
9
+ "n_both_correct": 1145,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 85,
96
+ 86,
97
+ 87,
98
+ 88,
99
+ 89,
100
+ 90,
101
+ 91,
102
+ 92,
103
+ 93,
104
+ 94,
105
+ 95,
106
+ 96,
107
+ 97,
108
+ 98,
109
+ 99,
110
+ 100,
111
+ 101,
112
+ 102,
113
+ 103,
114
+ 104,
115
+ 105,
116
+ 106,
117
+ 107,
118
+ 108,
119
+ 109,
120
+ 110,
121
+ 111,
122
+ 112,
123
+ 113,
124
+ 114,
125
+ 115,
126
+ 116,
127
+ 117,
128
+ 118,
129
+ 119,
130
+ 120,
131
+ 121,
132
+ 122,
133
+ 123,
134
+ 124,
135
+ 125,
136
+ 126,
137
+ 127,
138
+ 128,
139
+ 129,
140
+ 130,
141
+ 131,
142
+ 132,
143
+ 133,
144
+ 134,
145
+ 135,
146
+ 136,
147
+ 137,
148
+ 138,
149
+ 139,
150
+ 140,
151
+ 141,
152
+ 143,
153
+ 144,
154
+ 145,
155
+ 146,
156
+ 147,
157
+ 148,
158
+ 149,
159
+ 150,
160
+ 151,
161
+ 152,
162
+ 153,
163
+ 154,
164
+ 155,
165
+ 156,
166
+ 157,
167
+ 158,
168
+ 159,
169
+ 160,
170
+ 161,
171
+ 162,
172
+ 163,
173
+ 164,
174
+ 165,
175
+ 166,
176
+ 167,
177
+ 168,
178
+ 169,
179
+ 170,
180
+ 171,
181
+ 172,
182
+ 173,
183
+ 174,
184
+ 175,
185
+ 176,
186
+ 177,
187
+ 178,
188
+ 179,
189
+ 180,
190
+ 181,
191
+ 182,
192
+ 183,
193
+ 184,
194
+ 185,
195
+ 186,
196
+ 187,
197
+ 188,
198
+ 189,
199
+ 190,
200
+ 191,
201
+ 192,
202
+ 193,
203
+ 194,
204
+ 195,
205
+ 196,
206
+ 197,
207
+ 198,
208
+ 199,
209
+ 200,
210
+ 201,
211
+ 203,
212
+ 204,
213
+ 205,
214
+ 206,
215
+ 207,
216
+ 208,
217
+ 209,
218
+ 210,
219
+ 211,
220
+ 212,
221
+ 213,
222
+ 214,
223
+ 215,
224
+ 216,
225
+ 217,
226
+ 218,
227
+ 219,
228
+ 220,
229
+ 221,
230
+ 222,
231
+ 223,
232
+ 225,
233
+ 226,
234
+ 227,
235
+ 228,
236
+ 229,
237
+ 230,
238
+ 231,
239
+ 232,
240
+ 233,
241
+ 234,
242
+ 235,
243
+ 236,
244
+ 237,
245
+ 238,
246
+ 239,
247
+ 240,
248
+ 242,
249
+ 243,
250
+ 244,
251
+ 245,
252
+ 246,
253
+ 247,
254
+ 249,
255
+ 250,
256
+ 251,
257
+ 252,
258
+ 253,
259
+ 254,
260
+ 255,
261
+ 256,
262
+ 257,
263
+ 259,
264
+ 260,
265
+ 261,
266
+ 262,
267
+ 263,
268
+ 264,
269
+ 265,
270
+ 266,
271
+ 267,
272
+ 268,
273
+ 269,
274
+ 270,
275
+ 271,
276
+ 272,
277
+ 273,
278
+ 274,
279
+ 275,
280
+ 276,
281
+ 277,
282
+ 278,
283
+ 279,
284
+ 280,
285
+ 281,
286
+ 282,
287
+ 285,
288
+ 286,
289
+ 287,
290
+ 288,
291
+ 289,
292
+ 290,
293
+ 291,
294
+ 292,
295
+ 293,
296
+ 294,
297
+ 295,
298
+ 296,
299
+ 297,
300
+ 298,
301
+ 299,
302
+ 300,
303
+ 301,
304
+ 302,
305
+ 303,
306
+ 304,
307
+ 305,
308
+ 306,
309
+ 307,
310
+ 308,
311
+ 309,
312
+ 310,
313
+ 311,
314
+ 312,
315
+ 313,
316
+ 314,
317
+ 315,
318
+ 316,
319
+ 317,
320
+ 318,
321
+ 319,
322
+ 320,
323
+ 321,
324
+ 322,
325
+ 323,
326
+ 324,
327
+ 325,
328
+ 326,
329
+ 327,
330
+ 328,
331
+ 329,
332
+ 330,
333
+ 331,
334
+ 332,
335
+ 333,
336
+ 334,
337
+ 335,
338
+ 336,
339
+ 337,
340
+ 339,
341
+ 340,
342
+ 341,
343
+ 342,
344
+ 343,
345
+ 344,
346
+ 345,
347
+ 346,
348
+ 347,
349
+ 348,
350
+ 349,
351
+ 350,
352
+ 351,
353
+ 352,
354
+ 353,
355
+ 354,
356
+ 355,
357
+ 356,
358
+ 357,
359
+ 358,
360
+ 360,
361
+ 361,
362
+ 362,
363
+ 363,
364
+ 365,
365
+ 366,
366
+ 367,
367
+ 368,
368
+ 369,
369
+ 370,
370
+ 371,
371
+ 372,
372
+ 373,
373
+ 374,
374
+ 375,
375
+ 376,
376
+ 377,
377
+ 378,
378
+ 379,
379
+ 380,
380
+ 381,
381
+ 382,
382
+ 383,
383
+ 384,
384
+ 385,
385
+ 386,
386
+ 387,
387
+ 388,
388
+ 389,
389
+ 390,
390
+ 391,
391
+ 392,
392
+ 393,
393
+ 394,
394
+ 395,
395
+ 396,
396
+ 397,
397
+ 398,
398
+ 399,
399
+ 400,
400
+ 401,
401
+ 402,
402
+ 403,
403
+ 404,
404
+ 405,
405
+ 407,
406
+ 408,
407
+ 409,
408
+ 410,
409
+ 411,
410
+ 412,
411
+ 414,
412
+ 415,
413
+ 416,
414
+ 417,
415
+ 419,
416
+ 420,
417
+ 421,
418
+ 422,
419
+ 423,
420
+ 424,
421
+ 425,
422
+ 426,
423
+ 427,
424
+ 428,
425
+ 429,
426
+ 430,
427
+ 431,
428
+ 432,
429
+ 433,
430
+ 434,
431
+ 436,
432
+ 438,
433
+ 439,
434
+ 442,
435
+ 443,
436
+ 444,
437
+ 445,
438
+ 446,
439
+ 447,
440
+ 449,
441
+ 450,
442
+ 451,
443
+ 452,
444
+ 453,
445
+ 454,
446
+ 456,
447
+ 457,
448
+ 458,
449
+ 459,
450
+ 460,
451
+ 461,
452
+ 462,
453
+ 464,
454
+ 465,
455
+ 466,
456
+ 467,
457
+ 469,
458
+ 470,
459
+ 471,
460
+ 473,
461
+ 474,
462
+ 476,
463
+ 477,
464
+ 478,
465
+ 479,
466
+ 480,
467
+ 481,
468
+ 483,
469
+ 484,
470
+ 485,
471
+ 486,
472
+ 487,
473
+ 488,
474
+ 489,
475
+ 490,
476
+ 491,
477
+ 493,
478
+ 494,
479
+ 495,
480
+ 496,
481
+ 497,
482
+ 498,
483
+ 499,
484
+ 502,
485
+ 504,
486
+ 505,
487
+ 508,
488
+ 509,
489
+ 510,
490
+ 511,
491
+ 513,
492
+ 514,
493
+ 515,
494
+ 516,
495
+ 517,
496
+ 518,
497
+ 520,
498
+ 521,
499
+ 522,
500
+ 523,
501
+ 524,
502
+ 525,
503
+ 526,
504
+ 527,
505
+ 528,
506
+ 529,
507
+ 530,
508
+ 531,
509
+ 532,
510
+ 533,
511
+ 534,
512
+ 535,
513
+ 536,
514
+ 537,
515
+ 538,
516
+ 539,
517
+ 540,
518
+ 541,
519
+ 542,
520
+ 544,
521
+ 545,
522
+ 546,
523
+ 548,
524
+ 549,
525
+ 550,
526
+ 551,
527
+ 552,
528
+ 554,
529
+ 555,
530
+ 556,
531
+ 557,
532
+ 558,
533
+ 559,
534
+ 561,
535
+ 562,
536
+ 564,
537
+ 565,
538
+ 566,
539
+ 567,
540
+ 568,
541
+ 569,
542
+ 572,
543
+ 573,
544
+ 574,
545
+ 575,
546
+ 576,
547
+ 578,
548
+ 579,
549
+ 581,
550
+ 582,
551
+ 583,
552
+ 584,
553
+ 585,
554
+ 588,
555
+ 589,
556
+ 591,
557
+ 592,
558
+ 593,
559
+ 594,
560
+ 595,
561
+ 596,
562
+ 597,
563
+ 598,
564
+ 599,
565
+ 600,
566
+ 601,
567
+ 602,
568
+ 603,
569
+ 604,
570
+ 605,
571
+ 606,
572
+ 607,
573
+ 608,
574
+ 609,
575
+ 610,
576
+ 611,
577
+ 612,
578
+ 613,
579
+ 614,
580
+ 615,
581
+ 616,
582
+ 617,
583
+ 618,
584
+ 619,
585
+ 620,
586
+ 621,
587
+ 622,
588
+ 623,
589
+ 624,
590
+ 625,
591
+ 626,
592
+ 627,
593
+ 628,
594
+ 629,
595
+ 630,
596
+ 631,
597
+ 632,
598
+ 633,
599
+ 634,
600
+ 635,
601
+ 636,
602
+ 637,
603
+ 638,
604
+ 639,
605
+ 640,
606
+ 641,
607
+ 642,
608
+ 643,
609
+ 644,
610
+ 645,
611
+ 646,
612
+ 647,
613
+ 648,
614
+ 649,
615
+ 650,
616
+ 651,
617
+ 652,
618
+ 653,
619
+ 654,
620
+ 655,
621
+ 656,
622
+ 657,
623
+ 658,
624
+ 659,
625
+ 660,
626
+ 661,
627
+ 662,
628
+ 663,
629
+ 664,
630
+ 665,
631
+ 666,
632
+ 667,
633
+ 668,
634
+ 669,
635
+ 670,
636
+ 671,
637
+ 672,
638
+ 673,
639
+ 674,
640
+ 675,
641
+ 676,
642
+ 677,
643
+ 678,
644
+ 679,
645
+ 680,
646
+ 681,
647
+ 682,
648
+ 683,
649
+ 684,
650
+ 685,
651
+ 686,
652
+ 687,
653
+ 688,
654
+ 689,
655
+ 690,
656
+ 691,
657
+ 692,
658
+ 693,
659
+ 694,
660
+ 695,
661
+ 696,
662
+ 697,
663
+ 698,
664
+ 699,
665
+ 700,
666
+ 701,
667
+ 702,
668
+ 703,
669
+ 704,
670
+ 705,
671
+ 706,
672
+ 707,
673
+ 708,
674
+ 709,
675
+ 710,
676
+ 711,
677
+ 712,
678
+ 713,
679
+ 714,
680
+ 715,
681
+ 716,
682
+ 717,
683
+ 718,
684
+ 719,
685
+ 720,
686
+ 721,
687
+ 722,
688
+ 723,
689
+ 724,
690
+ 725,
691
+ 726,
692
+ 727,
693
+ 728,
694
+ 729,
695
+ 730,
696
+ 731,
697
+ 732,
698
+ 733,
699
+ 734,
700
+ 735,
701
+ 736,
702
+ 737,
703
+ 738,
704
+ 739,
705
+ 740,
706
+ 741,
707
+ 742,
708
+ 743,
709
+ 744,
710
+ 745,
711
+ 746,
712
+ 747,
713
+ 748,
714
+ 749,
715
+ 750,
716
+ 751,
717
+ 752,
718
+ 753,
719
+ 754,
720
+ 755,
721
+ 756,
722
+ 757,
723
+ 758,
724
+ 759,
725
+ 760,
726
+ 761,
727
+ 762,
728
+ 763,
729
+ 764,
730
+ 765,
731
+ 766,
732
+ 767,
733
+ 768,
734
+ 769,
735
+ 770,
736
+ 771,
737
+ 772,
738
+ 773,
739
+ 774,
740
+ 775,
741
+ 776,
742
+ 777,
743
+ 778,
744
+ 779,
745
+ 780,
746
+ 781,
747
+ 782,
748
+ 783,
749
+ 784,
750
+ 785,
751
+ 786,
752
+ 787,
753
+ 788,
754
+ 789,
755
+ 790,
756
+ 791,
757
+ 792,
758
+ 793,
759
+ 794,
760
+ 795,
761
+ 796,
762
+ 797,
763
+ 798,
764
+ 799,
765
+ 800,
766
+ 801,
767
+ 802,
768
+ 803,
769
+ 804,
770
+ 805,
771
+ 806,
772
+ 807,
773
+ 808,
774
+ 809,
775
+ 810,
776
+ 811,
777
+ 812,
778
+ 814,
779
+ 815,
780
+ 816,
781
+ 817,
782
+ 818,
783
+ 819,
784
+ 820,
785
+ 821,
786
+ 823,
787
+ 824,
788
+ 825,
789
+ 826,
790
+ 827,
791
+ 828,
792
+ 829,
793
+ 830,
794
+ 831,
795
+ 832,
796
+ 834,
797
+ 835,
798
+ 836,
799
+ 837,
800
+ 838,
801
+ 839,
802
+ 840,
803
+ 841,
804
+ 842,
805
+ 843,
806
+ 844,
807
+ 845,
808
+ 846,
809
+ 847,
810
+ 848,
811
+ 849,
812
+ 850,
813
+ 851,
814
+ 852,
815
+ 853,
816
+ 854,
817
+ 856,
818
+ 857,
819
+ 858,
820
+ 859,
821
+ 860,
822
+ 861,
823
+ 862,
824
+ 863,
825
+ 864,
826
+ 865,
827
+ 866,
828
+ 867,
829
+ 868,
830
+ 869,
831
+ 870,
832
+ 871,
833
+ 872,
834
+ 873,
835
+ 874,
836
+ 875,
837
+ 876,
838
+ 877,
839
+ 878,
840
+ 879,
841
+ 880,
842
+ 881,
843
+ 882,
844
+ 883,
845
+ 885,
846
+ 886,
847
+ 887,
848
+ 888,
849
+ 889,
850
+ 890,
851
+ 891,
852
+ 892,
853
+ 893,
854
+ 894,
855
+ 895,
856
+ 896,
857
+ 897,
858
+ 898,
859
+ 899,
860
+ 900,
861
+ 901,
862
+ 902,
863
+ 903,
864
+ 904,
865
+ 905,
866
+ 906,
867
+ 907,
868
+ 908,
869
+ 909,
870
+ 910,
871
+ 911,
872
+ 912,
873
+ 913,
874
+ 914,
875
+ 915,
876
+ 918,
877
+ 919,
878
+ 920,
879
+ 921,
880
+ 922,
881
+ 923,
882
+ 925,
883
+ 926,
884
+ 927,
885
+ 928,
886
+ 929,
887
+ 930,
888
+ 931,
889
+ 932,
890
+ 933,
891
+ 934,
892
+ 935,
893
+ 936,
894
+ 937,
895
+ 938,
896
+ 940,
897
+ 941,
898
+ 942,
899
+ 943,
900
+ 944,
901
+ 945,
902
+ 946,
903
+ 947,
904
+ 948,
905
+ 949,
906
+ 950,
907
+ 951,
908
+ 952,
909
+ 953,
910
+ 954,
911
+ 955,
912
+ 956,
913
+ 957,
914
+ 958,
915
+ 959,
916
+ 960,
917
+ 961,
918
+ 962,
919
+ 963,
920
+ 964,
921
+ 965,
922
+ 966,
923
+ 967,
924
+ 968,
925
+ 969,
926
+ 970,
927
+ 971,
928
+ 972,
929
+ 973,
930
+ 974,
931
+ 975,
932
+ 976,
933
+ 977,
934
+ 978,
935
+ 979,
936
+ 980,
937
+ 981,
938
+ 982,
939
+ 983,
940
+ 984,
941
+ 985,
942
+ 986,
943
+ 987,
944
+ 988,
945
+ 989,
946
+ 990,
947
+ 991,
948
+ 992,
949
+ 993,
950
+ 994,
951
+ 995,
952
+ 996,
953
+ 997,
954
+ 998,
955
+ 999,
956
+ 1000,
957
+ 1001,
958
+ 1002,
959
+ 1003,
960
+ 1004,
961
+ 1005,
962
+ 1006,
963
+ 1007,
964
+ 1008,
965
+ 1009,
966
+ 1010,
967
+ 1011,
968
+ 1012,
969
+ 1013,
970
+ 1014,
971
+ 1015,
972
+ 1016,
973
+ 1017,
974
+ 1018,
975
+ 1019,
976
+ 1020,
977
+ 1021,
978
+ 1022,
979
+ 1023,
980
+ 1024,
981
+ 1025,
982
+ 1026,
983
+ 1027,
984
+ 1028,
985
+ 1029,
986
+ 1030,
987
+ 1031,
988
+ 1032,
989
+ 1033,
990
+ 1034,
991
+ 1035,
992
+ 1036,
993
+ 1037,
994
+ 1038,
995
+ 1039,
996
+ 1040,
997
+ 1041,
998
+ 1042,
999
+ 1043,
1000
+ 1044,
1001
+ 1045,
1002
+ 1046,
1003
+ 1047,
1004
+ 1048,
1005
+ 1049,
1006
+ 1050,
1007
+ 1051,
1008
+ 1052,
1009
+ 1053,
1010
+ 1054,
1011
+ 1055,
1012
+ 1056,
1013
+ 1057,
1014
+ 1058,
1015
+ 1059,
1016
+ 1060,
1017
+ 1061,
1018
+ 1062,
1019
+ 1063,
1020
+ 1064,
1021
+ 1065,
1022
+ 1066,
1023
+ 1067,
1024
+ 1068,
1025
+ 1069,
1026
+ 1070,
1027
+ 1071,
1028
+ 1072,
1029
+ 1073,
1030
+ 1074,
1031
+ 1075,
1032
+ 1076,
1033
+ 1077,
1034
+ 1078,
1035
+ 1079,
1036
+ 1080,
1037
+ 1081,
1038
+ 1082,
1039
+ 1083,
1040
+ 1084,
1041
+ 1085,
1042
+ 1086,
1043
+ 1087,
1044
+ 1088,
1045
+ 1089,
1046
+ 1090,
1047
+ 1091,
1048
+ 1092,
1049
+ 1093,
1050
+ 1094,
1051
+ 1095,
1052
+ 1096,
1053
+ 1097,
1054
+ 1098,
1055
+ 1099,
1056
+ 1100,
1057
+ 1101,
1058
+ 1102,
1059
+ 1103,
1060
+ 1104,
1061
+ 1105,
1062
+ 1106,
1063
+ 1107,
1064
+ 1108,
1065
+ 1109,
1066
+ 1110,
1067
+ 1111,
1068
+ 1112,
1069
+ 1113,
1070
+ 1114,
1071
+ 1115,
1072
+ 1116,
1073
+ 1117,
1074
+ 1118,
1075
+ 1119,
1076
+ 1120,
1077
+ 1121,
1078
+ 1122,
1079
+ 1123,
1080
+ 1124,
1081
+ 1125,
1082
+ 1126,
1083
+ 1127,
1084
+ 1128,
1085
+ 1129,
1086
+ 1130,
1087
+ 1131,
1088
+ 1132,
1089
+ 1133,
1090
+ 1134,
1091
+ 1135,
1092
+ 1136,
1093
+ 1137,
1094
+ 1138,
1095
+ 1139,
1096
+ 1140,
1097
+ 1141,
1098
+ 1142,
1099
+ 1143,
1100
+ 1144,
1101
+ 1145,
1102
+ 1146,
1103
+ 1147,
1104
+ 1148,
1105
+ 1149,
1106
+ 1150,
1107
+ 1151,
1108
+ 1152,
1109
+ 1153,
1110
+ 1154,
1111
+ 1155,
1112
+ 1156,
1113
+ 1157,
1114
+ 1158,
1115
+ 1159,
1116
+ 1160,
1117
+ 1161,
1118
+ 1162,
1119
+ 1163,
1120
+ 1164,
1121
+ 1165,
1122
+ 1166,
1123
+ 1167,
1124
+ 1168,
1125
+ 1169,
1126
+ 1170,
1127
+ 1171,
1128
+ 1172,
1129
+ 1173,
1130
+ 1174,
1131
+ 1175,
1132
+ 1176,
1133
+ 1177,
1134
+ 1178,
1135
+ 1179,
1136
+ 1180,
1137
+ 1181,
1138
+ 1182,
1139
+ 1183,
1140
+ 1184,
1141
+ 1185,
1142
+ 1186,
1143
+ 1187,
1144
+ 1188,
1145
+ 1189,
1146
+ 1190,
1147
+ 1191,
1148
+ 1192,
1149
+ 1193,
1150
+ 1194,
1151
+ 1195,
1152
+ 1196,
1153
+ 1197,
1154
+ 1198,
1155
+ 1199
1156
+ ],
1157
+ "not_both_correct_indices": [
1158
+ 84,
1159
+ 142,
1160
+ 202,
1161
+ 224,
1162
+ 241,
1163
+ 248,
1164
+ 258,
1165
+ 283,
1166
+ 284,
1167
+ 338,
1168
+ 359,
1169
+ 364,
1170
+ 406,
1171
+ 413,
1172
+ 418,
1173
+ 435,
1174
+ 437,
1175
+ 440,
1176
+ 441,
1177
+ 448,
1178
+ 455,
1179
+ 463,
1180
+ 468,
1181
+ 472,
1182
+ 475,
1183
+ 482,
1184
+ 492,
1185
+ 500,
1186
+ 501,
1187
+ 503,
1188
+ 506,
1189
+ 507,
1190
+ 512,
1191
+ 519,
1192
+ 543,
1193
+ 547,
1194
+ 553,
1195
+ 560,
1196
+ 563,
1197
+ 570,
1198
+ 571,
1199
+ 577,
1200
+ 580,
1201
+ 586,
1202
+ 587,
1203
+ 590,
1204
+ 813,
1205
+ 822,
1206
+ 833,
1207
+ 855,
1208
+ 884,
1209
+ 916,
1210
+ 917,
1211
+ 924,
1212
+ 939
1213
+ ],
1214
+ "clean_baseline": 19.578125,
1215
+ "corrupted_baseline": -19.59375
1216
+ }
results/Qwen_Qwen2-5-72B-Instruct/phys/phys_prost/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:e9a1d1d215ac190c5966e19cea8d6fd9d32df0178cf632831767b8c372086b32
3
+ size 18925174
results/Qwen_Qwen2-5-72B-Instruct/phys/phys_prost/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:87ba9a562690fa2d4b80447aa10e6cd90e914ef55b3e9bda001b17e2cc0b0e98
3
+ size 9056304
results/Qwen_Qwen2-5-72B-Instruct/phys/physics_brightness/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2365440, "num_layers": 80, "num_units": 29568}
results/Qwen_Qwen2-5-72B-Instruct/phys/physics_brightness/baselines.json ADDED
@@ -0,0 +1,1017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 112,
4
+ "token_misaligned_indices": [
5
+ 2,
6
+ 3,
7
+ 24,
8
+ 25,
9
+ 46,
10
+ 57,
11
+ 61,
12
+ 62,
13
+ 71,
14
+ 76,
15
+ 83,
16
+ 95,
17
+ 101,
18
+ 111,
19
+ 128,
20
+ 129,
21
+ 130,
22
+ 137,
23
+ 147,
24
+ 154,
25
+ 173,
26
+ 180,
27
+ 184,
28
+ 190,
29
+ 196,
30
+ 222,
31
+ 223,
32
+ 228,
33
+ 240,
34
+ 242,
35
+ 244,
36
+ 254,
37
+ 267,
38
+ 269,
39
+ 270,
40
+ 276,
41
+ 282,
42
+ 295,
43
+ 311,
44
+ 318,
45
+ 333,
46
+ 339,
47
+ 345,
48
+ 353,
49
+ 355,
50
+ 356,
51
+ 363,
52
+ 376,
53
+ 388,
54
+ 394,
55
+ 406,
56
+ 412,
57
+ 424,
58
+ 453,
59
+ 457,
60
+ 466,
61
+ 473,
62
+ 474,
63
+ 484,
64
+ 494,
65
+ 499,
66
+ 504,
67
+ 505,
68
+ 511,
69
+ 521,
70
+ 530,
71
+ 545,
72
+ 548,
73
+ 550,
74
+ 555,
75
+ 560,
76
+ 565,
77
+ 570,
78
+ 613,
79
+ 617,
80
+ 624,
81
+ 675,
82
+ 677,
83
+ 694,
84
+ 700,
85
+ 721,
86
+ 725,
87
+ 733,
88
+ 740,
89
+ 755,
90
+ 771,
91
+ 776,
92
+ 790,
93
+ 801,
94
+ 808,
95
+ 822,
96
+ 839,
97
+ 847,
98
+ 849,
99
+ 854,
100
+ 867,
101
+ 876,
102
+ 888,
103
+ 889,
104
+ 890,
105
+ 895,
106
+ 902,
107
+ 912,
108
+ 924,
109
+ 932,
110
+ 935,
111
+ 940,
112
+ 966,
113
+ 976,
114
+ 980,
115
+ 995,
116
+ 996
117
+ ],
118
+ "n_after_alignment_filter": 888,
119
+ "clean_accuracy": 0.9268018018018018,
120
+ "corrupted_accuracy": 0.9313063063063063,
121
+ "both_correct_accuracy": 0.8581081081081081,
122
+ "n_both_correct": 762,
123
+ "both_correct_indices": [
124
+ 0,
125
+ 1,
126
+ 4,
127
+ 5,
128
+ 6,
129
+ 7,
130
+ 8,
131
+ 9,
132
+ 12,
133
+ 13,
134
+ 15,
135
+ 16,
136
+ 17,
137
+ 18,
138
+ 19,
139
+ 20,
140
+ 21,
141
+ 23,
142
+ 26,
143
+ 27,
144
+ 28,
145
+ 29,
146
+ 30,
147
+ 31,
148
+ 32,
149
+ 33,
150
+ 34,
151
+ 35,
152
+ 36,
153
+ 37,
154
+ 38,
155
+ 39,
156
+ 40,
157
+ 41,
158
+ 43,
159
+ 44,
160
+ 45,
161
+ 47,
162
+ 49,
163
+ 50,
164
+ 51,
165
+ 52,
166
+ 53,
167
+ 54,
168
+ 55,
169
+ 56,
170
+ 58,
171
+ 59,
172
+ 63,
173
+ 64,
174
+ 66,
175
+ 67,
176
+ 69,
177
+ 70,
178
+ 72,
179
+ 73,
180
+ 74,
181
+ 75,
182
+ 78,
183
+ 79,
184
+ 80,
185
+ 81,
186
+ 82,
187
+ 84,
188
+ 85,
189
+ 86,
190
+ 87,
191
+ 88,
192
+ 89,
193
+ 90,
194
+ 91,
195
+ 92,
196
+ 94,
197
+ 96,
198
+ 97,
199
+ 98,
200
+ 99,
201
+ 100,
202
+ 102,
203
+ 103,
204
+ 104,
205
+ 105,
206
+ 106,
207
+ 107,
208
+ 108,
209
+ 109,
210
+ 110,
211
+ 112,
212
+ 113,
213
+ 114,
214
+ 115,
215
+ 116,
216
+ 117,
217
+ 118,
218
+ 119,
219
+ 120,
220
+ 121,
221
+ 122,
222
+ 123,
223
+ 124,
224
+ 125,
225
+ 127,
226
+ 131,
227
+ 132,
228
+ 134,
229
+ 135,
230
+ 136,
231
+ 138,
232
+ 139,
233
+ 140,
234
+ 141,
235
+ 142,
236
+ 143,
237
+ 144,
238
+ 145,
239
+ 146,
240
+ 148,
241
+ 150,
242
+ 151,
243
+ 152,
244
+ 153,
245
+ 155,
246
+ 156,
247
+ 159,
248
+ 160,
249
+ 161,
250
+ 162,
251
+ 163,
252
+ 164,
253
+ 165,
254
+ 166,
255
+ 167,
256
+ 168,
257
+ 169,
258
+ 170,
259
+ 171,
260
+ 172,
261
+ 174,
262
+ 175,
263
+ 176,
264
+ 177,
265
+ 178,
266
+ 179,
267
+ 182,
268
+ 183,
269
+ 185,
270
+ 186,
271
+ 187,
272
+ 188,
273
+ 189,
274
+ 192,
275
+ 193,
276
+ 194,
277
+ 195,
278
+ 197,
279
+ 198,
280
+ 199,
281
+ 200,
282
+ 202,
283
+ 203,
284
+ 204,
285
+ 205,
286
+ 206,
287
+ 207,
288
+ 208,
289
+ 209,
290
+ 210,
291
+ 211,
292
+ 212,
293
+ 213,
294
+ 215,
295
+ 216,
296
+ 217,
297
+ 218,
298
+ 219,
299
+ 221,
300
+ 224,
301
+ 225,
302
+ 226,
303
+ 227,
304
+ 229,
305
+ 230,
306
+ 231,
307
+ 232,
308
+ 233,
309
+ 234,
310
+ 235,
311
+ 236,
312
+ 237,
313
+ 239,
314
+ 241,
315
+ 243,
316
+ 245,
317
+ 246,
318
+ 248,
319
+ 249,
320
+ 250,
321
+ 251,
322
+ 252,
323
+ 253,
324
+ 255,
325
+ 257,
326
+ 259,
327
+ 261,
328
+ 262,
329
+ 264,
330
+ 265,
331
+ 268,
332
+ 271,
333
+ 272,
334
+ 273,
335
+ 274,
336
+ 277,
337
+ 278,
338
+ 279,
339
+ 280,
340
+ 281,
341
+ 283,
342
+ 284,
343
+ 286,
344
+ 287,
345
+ 288,
346
+ 289,
347
+ 291,
348
+ 292,
349
+ 293,
350
+ 298,
351
+ 299,
352
+ 300,
353
+ 301,
354
+ 302,
355
+ 303,
356
+ 304,
357
+ 305,
358
+ 306,
359
+ 307,
360
+ 308,
361
+ 309,
362
+ 310,
363
+ 312,
364
+ 313,
365
+ 314,
366
+ 315,
367
+ 316,
368
+ 317,
369
+ 319,
370
+ 321,
371
+ 322,
372
+ 323,
373
+ 324,
374
+ 328,
375
+ 329,
376
+ 330,
377
+ 332,
378
+ 334,
379
+ 335,
380
+ 337,
381
+ 338,
382
+ 340,
383
+ 341,
384
+ 342,
385
+ 343,
386
+ 344,
387
+ 346,
388
+ 348,
389
+ 349,
390
+ 351,
391
+ 352,
392
+ 354,
393
+ 357,
394
+ 359,
395
+ 360,
396
+ 361,
397
+ 362,
398
+ 364,
399
+ 365,
400
+ 367,
401
+ 368,
402
+ 369,
403
+ 370,
404
+ 371,
405
+ 372,
406
+ 374,
407
+ 377,
408
+ 378,
409
+ 379,
410
+ 380,
411
+ 381,
412
+ 382,
413
+ 383,
414
+ 384,
415
+ 385,
416
+ 386,
417
+ 387,
418
+ 389,
419
+ 390,
420
+ 391,
421
+ 392,
422
+ 393,
423
+ 395,
424
+ 396,
425
+ 397,
426
+ 398,
427
+ 399,
428
+ 400,
429
+ 401,
430
+ 402,
431
+ 403,
432
+ 404,
433
+ 405,
434
+ 407,
435
+ 408,
436
+ 409,
437
+ 410,
438
+ 411,
439
+ 413,
440
+ 414,
441
+ 415,
442
+ 417,
443
+ 418,
444
+ 419,
445
+ 420,
446
+ 421,
447
+ 422,
448
+ 423,
449
+ 425,
450
+ 426,
451
+ 427,
452
+ 428,
453
+ 430,
454
+ 431,
455
+ 432,
456
+ 433,
457
+ 434,
458
+ 435,
459
+ 437,
460
+ 439,
461
+ 440,
462
+ 441,
463
+ 442,
464
+ 443,
465
+ 444,
466
+ 445,
467
+ 446,
468
+ 447,
469
+ 448,
470
+ 449,
471
+ 451,
472
+ 452,
473
+ 455,
474
+ 458,
475
+ 459,
476
+ 461,
477
+ 462,
478
+ 463,
479
+ 464,
480
+ 465,
481
+ 467,
482
+ 469,
483
+ 471,
484
+ 475,
485
+ 476,
486
+ 477,
487
+ 478,
488
+ 479,
489
+ 480,
490
+ 481,
491
+ 482,
492
+ 483,
493
+ 485,
494
+ 486,
495
+ 488,
496
+ 489,
497
+ 491,
498
+ 492,
499
+ 493,
500
+ 495,
501
+ 496,
502
+ 497,
503
+ 498,
504
+ 500,
505
+ 501,
506
+ 502,
507
+ 503,
508
+ 506,
509
+ 507,
510
+ 508,
511
+ 509,
512
+ 512,
513
+ 513,
514
+ 514,
515
+ 515,
516
+ 517,
517
+ 518,
518
+ 519,
519
+ 520,
520
+ 522,
521
+ 523,
522
+ 524,
523
+ 525,
524
+ 526,
525
+ 527,
526
+ 528,
527
+ 529,
528
+ 531,
529
+ 532,
530
+ 533,
531
+ 534,
532
+ 536,
533
+ 538,
534
+ 539,
535
+ 540,
536
+ 541,
537
+ 542,
538
+ 543,
539
+ 544,
540
+ 546,
541
+ 547,
542
+ 549,
543
+ 551,
544
+ 552,
545
+ 553,
546
+ 554,
547
+ 556,
548
+ 557,
549
+ 558,
550
+ 559,
551
+ 561,
552
+ 562,
553
+ 563,
554
+ 564,
555
+ 566,
556
+ 568,
557
+ 569,
558
+ 572,
559
+ 573,
560
+ 574,
561
+ 575,
562
+ 576,
563
+ 577,
564
+ 578,
565
+ 581,
566
+ 582,
567
+ 583,
568
+ 584,
569
+ 585,
570
+ 586,
571
+ 587,
572
+ 588,
573
+ 589,
574
+ 590,
575
+ 591,
576
+ 593,
577
+ 594,
578
+ 595,
579
+ 596,
580
+ 597,
581
+ 598,
582
+ 599,
583
+ 600,
584
+ 601,
585
+ 602,
586
+ 603,
587
+ 604,
588
+ 605,
589
+ 606,
590
+ 607,
591
+ 608,
592
+ 609,
593
+ 610,
594
+ 611,
595
+ 612,
596
+ 614,
597
+ 615,
598
+ 616,
599
+ 618,
600
+ 619,
601
+ 620,
602
+ 621,
603
+ 623,
604
+ 625,
605
+ 626,
606
+ 628,
607
+ 629,
608
+ 630,
609
+ 632,
610
+ 633,
611
+ 635,
612
+ 636,
613
+ 637,
614
+ 640,
615
+ 641,
616
+ 642,
617
+ 643,
618
+ 645,
619
+ 646,
620
+ 647,
621
+ 648,
622
+ 649,
623
+ 650,
624
+ 651,
625
+ 652,
626
+ 653,
627
+ 654,
628
+ 655,
629
+ 656,
630
+ 659,
631
+ 661,
632
+ 662,
633
+ 663,
634
+ 664,
635
+ 665,
636
+ 666,
637
+ 667,
638
+ 668,
639
+ 669,
640
+ 670,
641
+ 671,
642
+ 672,
643
+ 673,
644
+ 674,
645
+ 676,
646
+ 678,
647
+ 679,
648
+ 680,
649
+ 681,
650
+ 682,
651
+ 683,
652
+ 684,
653
+ 686,
654
+ 688,
655
+ 689,
656
+ 692,
657
+ 693,
658
+ 695,
659
+ 697,
660
+ 698,
661
+ 699,
662
+ 701,
663
+ 703,
664
+ 704,
665
+ 705,
666
+ 706,
667
+ 707,
668
+ 709,
669
+ 711,
670
+ 712,
671
+ 713,
672
+ 714,
673
+ 715,
674
+ 716,
675
+ 720,
676
+ 722,
677
+ 726,
678
+ 727,
679
+ 730,
680
+ 731,
681
+ 732,
682
+ 734,
683
+ 735,
684
+ 736,
685
+ 737,
686
+ 738,
687
+ 739,
688
+ 741,
689
+ 742,
690
+ 743,
691
+ 744,
692
+ 745,
693
+ 746,
694
+ 747,
695
+ 748,
696
+ 749,
697
+ 750,
698
+ 751,
699
+ 753,
700
+ 754,
701
+ 756,
702
+ 757,
703
+ 758,
704
+ 759,
705
+ 760,
706
+ 761,
707
+ 762,
708
+ 764,
709
+ 765,
710
+ 766,
711
+ 767,
712
+ 768,
713
+ 770,
714
+ 772,
715
+ 774,
716
+ 775,
717
+ 777,
718
+ 778,
719
+ 779,
720
+ 780,
721
+ 781,
722
+ 783,
723
+ 784,
724
+ 785,
725
+ 786,
726
+ 787,
727
+ 789,
728
+ 791,
729
+ 792,
730
+ 793,
731
+ 794,
732
+ 795,
733
+ 796,
734
+ 797,
735
+ 798,
736
+ 799,
737
+ 800,
738
+ 802,
739
+ 803,
740
+ 805,
741
+ 806,
742
+ 807,
743
+ 809,
744
+ 810,
745
+ 811,
746
+ 812,
747
+ 814,
748
+ 815,
749
+ 816,
750
+ 819,
751
+ 820,
752
+ 821,
753
+ 823,
754
+ 824,
755
+ 825,
756
+ 826,
757
+ 827,
758
+ 828,
759
+ 829,
760
+ 830,
761
+ 831,
762
+ 832,
763
+ 834,
764
+ 835,
765
+ 837,
766
+ 838,
767
+ 840,
768
+ 841,
769
+ 842,
770
+ 844,
771
+ 845,
772
+ 846,
773
+ 848,
774
+ 850,
775
+ 851,
776
+ 853,
777
+ 855,
778
+ 856,
779
+ 857,
780
+ 858,
781
+ 859,
782
+ 860,
783
+ 861,
784
+ 862,
785
+ 864,
786
+ 865,
787
+ 868,
788
+ 869,
789
+ 870,
790
+ 871,
791
+ 872,
792
+ 873,
793
+ 874,
794
+ 875,
795
+ 878,
796
+ 879,
797
+ 880,
798
+ 881,
799
+ 882,
800
+ 883,
801
+ 884,
802
+ 886,
803
+ 887,
804
+ 891,
805
+ 892,
806
+ 893,
807
+ 897,
808
+ 898,
809
+ 899,
810
+ 900,
811
+ 901,
812
+ 903,
813
+ 904,
814
+ 905,
815
+ 906,
816
+ 907,
817
+ 908,
818
+ 909,
819
+ 910,
820
+ 911,
821
+ 913,
822
+ 914,
823
+ 915,
824
+ 916,
825
+ 917,
826
+ 918,
827
+ 920,
828
+ 922,
829
+ 923,
830
+ 925,
831
+ 926,
832
+ 928,
833
+ 929,
834
+ 931,
835
+ 933,
836
+ 934,
837
+ 936,
838
+ 937,
839
+ 938,
840
+ 939,
841
+ 941,
842
+ 942,
843
+ 943,
844
+ 944,
845
+ 945,
846
+ 946,
847
+ 948,
848
+ 949,
849
+ 950,
850
+ 951,
851
+ 952,
852
+ 953,
853
+ 954,
854
+ 955,
855
+ 956,
856
+ 957,
857
+ 958,
858
+ 959,
859
+ 960,
860
+ 961,
861
+ 962,
862
+ 965,
863
+ 967,
864
+ 968,
865
+ 970,
866
+ 971,
867
+ 972,
868
+ 973,
869
+ 974,
870
+ 975,
871
+ 977,
872
+ 978,
873
+ 979,
874
+ 982,
875
+ 983,
876
+ 984,
877
+ 985,
878
+ 986,
879
+ 987,
880
+ 988,
881
+ 989,
882
+ 994,
883
+ 997,
884
+ 998,
885
+ 999
886
+ ],
887
+ "not_both_correct_indices": [
888
+ 10,
889
+ 11,
890
+ 14,
891
+ 22,
892
+ 42,
893
+ 48,
894
+ 60,
895
+ 65,
896
+ 68,
897
+ 77,
898
+ 93,
899
+ 126,
900
+ 133,
901
+ 149,
902
+ 157,
903
+ 158,
904
+ 181,
905
+ 191,
906
+ 201,
907
+ 214,
908
+ 220,
909
+ 238,
910
+ 247,
911
+ 256,
912
+ 258,
913
+ 260,
914
+ 263,
915
+ 266,
916
+ 275,
917
+ 285,
918
+ 290,
919
+ 294,
920
+ 296,
921
+ 297,
922
+ 320,
923
+ 325,
924
+ 326,
925
+ 327,
926
+ 331,
927
+ 336,
928
+ 347,
929
+ 350,
930
+ 358,
931
+ 366,
932
+ 373,
933
+ 375,
934
+ 416,
935
+ 429,
936
+ 436,
937
+ 438,
938
+ 450,
939
+ 454,
940
+ 456,
941
+ 460,
942
+ 468,
943
+ 470,
944
+ 472,
945
+ 487,
946
+ 490,
947
+ 510,
948
+ 516,
949
+ 535,
950
+ 537,
951
+ 567,
952
+ 571,
953
+ 579,
954
+ 580,
955
+ 592,
956
+ 622,
957
+ 627,
958
+ 631,
959
+ 634,
960
+ 638,
961
+ 639,
962
+ 644,
963
+ 657,
964
+ 658,
965
+ 660,
966
+ 685,
967
+ 687,
968
+ 690,
969
+ 691,
970
+ 696,
971
+ 702,
972
+ 708,
973
+ 710,
974
+ 717,
975
+ 718,
976
+ 719,
977
+ 723,
978
+ 724,
979
+ 728,
980
+ 729,
981
+ 752,
982
+ 763,
983
+ 769,
984
+ 773,
985
+ 782,
986
+ 788,
987
+ 804,
988
+ 813,
989
+ 817,
990
+ 818,
991
+ 833,
992
+ 836,
993
+ 843,
994
+ 852,
995
+ 863,
996
+ 866,
997
+ 877,
998
+ 885,
999
+ 894,
1000
+ 896,
1001
+ 919,
1002
+ 921,
1003
+ 927,
1004
+ 930,
1005
+ 947,
1006
+ 963,
1007
+ 964,
1008
+ 969,
1009
+ 981,
1010
+ 990,
1011
+ 991,
1012
+ 992,
1013
+ 993
1014
+ ],
1015
+ "clean_baseline": 18.703125,
1016
+ "corrupted_baseline": -19.21875
1017
+ }
results/Qwen_Qwen2-5-72B-Instruct/phys/physics_brightness/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fea27d171a4eded11a363ec9dd74453b92921991061e894828f49202f452af64
3
+ size 18925174
results/Qwen_Qwen2-5-72B-Instruct/phys/physics_brightness/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ee84b57cf519b0451db0872688ed141698c16521d1cc7769a959f96f820fc658
3
+ size 9274128
results/Qwen_Qwen2-5-72B-Instruct/phys/physics_buoyancy/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2365440, "num_layers": 80, "num_units": 29568}
results/Qwen_Qwen2-5-72B-Instruct/phys/physics_buoyancy/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.854,
7
+ "corrupted_accuracy": 0.854,
8
+ "both_correct_accuracy": 0.715,
9
+ "n_both_correct": 715,
10
+ "both_correct_indices": [
11
+ 2,
12
+ 3,
13
+ 4,
14
+ 6,
15
+ 7,
16
+ 8,
17
+ 9,
18
+ 10,
19
+ 11,
20
+ 12,
21
+ 13,
22
+ 14,
23
+ 17,
24
+ 18,
25
+ 20,
26
+ 21,
27
+ 25,
28
+ 26,
29
+ 28,
30
+ 29,
31
+ 30,
32
+ 31,
33
+ 36,
34
+ 38,
35
+ 39,
36
+ 41,
37
+ 42,
38
+ 43,
39
+ 44,
40
+ 45,
41
+ 47,
42
+ 48,
43
+ 49,
44
+ 50,
45
+ 53,
46
+ 54,
47
+ 55,
48
+ 56,
49
+ 57,
50
+ 58,
51
+ 59,
52
+ 60,
53
+ 62,
54
+ 64,
55
+ 66,
56
+ 67,
57
+ 68,
58
+ 69,
59
+ 71,
60
+ 72,
61
+ 73,
62
+ 74,
63
+ 75,
64
+ 77,
65
+ 78,
66
+ 79,
67
+ 80,
68
+ 81,
69
+ 82,
70
+ 83,
71
+ 84,
72
+ 86,
73
+ 87,
74
+ 89,
75
+ 90,
76
+ 91,
77
+ 92,
78
+ 93,
79
+ 94,
80
+ 95,
81
+ 97,
82
+ 98,
83
+ 99,
84
+ 100,
85
+ 101,
86
+ 102,
87
+ 104,
88
+ 105,
89
+ 106,
90
+ 107,
91
+ 108,
92
+ 109,
93
+ 111,
94
+ 114,
95
+ 115,
96
+ 116,
97
+ 117,
98
+ 119,
99
+ 120,
100
+ 122,
101
+ 123,
102
+ 124,
103
+ 126,
104
+ 127,
105
+ 128,
106
+ 130,
107
+ 131,
108
+ 132,
109
+ 133,
110
+ 134,
111
+ 135,
112
+ 136,
113
+ 138,
114
+ 139,
115
+ 140,
116
+ 143,
117
+ 147,
118
+ 148,
119
+ 151,
120
+ 152,
121
+ 153,
122
+ 154,
123
+ 156,
124
+ 157,
125
+ 158,
126
+ 160,
127
+ 161,
128
+ 162,
129
+ 164,
130
+ 165,
131
+ 166,
132
+ 167,
133
+ 169,
134
+ 170,
135
+ 171,
136
+ 172,
137
+ 173,
138
+ 174,
139
+ 175,
140
+ 177,
141
+ 179,
142
+ 180,
143
+ 181,
144
+ 182,
145
+ 183,
146
+ 185,
147
+ 188,
148
+ 189,
149
+ 190,
150
+ 191,
151
+ 193,
152
+ 194,
153
+ 195,
154
+ 196,
155
+ 197,
156
+ 198,
157
+ 199,
158
+ 200,
159
+ 201,
160
+ 202,
161
+ 203,
162
+ 204,
163
+ 205,
164
+ 207,
165
+ 208,
166
+ 209,
167
+ 212,
168
+ 213,
169
+ 214,
170
+ 215,
171
+ 217,
172
+ 219,
173
+ 220,
174
+ 221,
175
+ 222,
176
+ 223,
177
+ 224,
178
+ 225,
179
+ 226,
180
+ 228,
181
+ 229,
182
+ 232,
183
+ 233,
184
+ 235,
185
+ 237,
186
+ 238,
187
+ 239,
188
+ 240,
189
+ 242,
190
+ 243,
191
+ 245,
192
+ 246,
193
+ 247,
194
+ 248,
195
+ 249,
196
+ 250,
197
+ 252,
198
+ 253,
199
+ 254,
200
+ 255,
201
+ 256,
202
+ 257,
203
+ 260,
204
+ 261,
205
+ 262,
206
+ 263,
207
+ 264,
208
+ 265,
209
+ 266,
210
+ 267,
211
+ 269,
212
+ 272,
213
+ 273,
214
+ 274,
215
+ 277,
216
+ 278,
217
+ 279,
218
+ 280,
219
+ 281,
220
+ 282,
221
+ 283,
222
+ 284,
223
+ 286,
224
+ 287,
225
+ 288,
226
+ 290,
227
+ 292,
228
+ 293,
229
+ 294,
230
+ 299,
231
+ 300,
232
+ 302,
233
+ 303,
234
+ 304,
235
+ 305,
236
+ 306,
237
+ 308,
238
+ 310,
239
+ 312,
240
+ 313,
241
+ 314,
242
+ 316,
243
+ 317,
244
+ 319,
245
+ 320,
246
+ 321,
247
+ 322,
248
+ 324,
249
+ 326,
250
+ 327,
251
+ 329,
252
+ 330,
253
+ 331,
254
+ 332,
255
+ 333,
256
+ 334,
257
+ 335,
258
+ 336,
259
+ 339,
260
+ 340,
261
+ 341,
262
+ 342,
263
+ 343,
264
+ 345,
265
+ 346,
266
+ 347,
267
+ 348,
268
+ 349,
269
+ 350,
270
+ 352,
271
+ 353,
272
+ 355,
273
+ 357,
274
+ 358,
275
+ 359,
276
+ 360,
277
+ 362,
278
+ 363,
279
+ 364,
280
+ 365,
281
+ 367,
282
+ 368,
283
+ 369,
284
+ 373,
285
+ 374,
286
+ 375,
287
+ 376,
288
+ 377,
289
+ 378,
290
+ 380,
291
+ 381,
292
+ 382,
293
+ 383,
294
+ 384,
295
+ 385,
296
+ 388,
297
+ 389,
298
+ 390,
299
+ 392,
300
+ 394,
301
+ 396,
302
+ 400,
303
+ 404,
304
+ 405,
305
+ 406,
306
+ 409,
307
+ 410,
308
+ 411,
309
+ 412,
310
+ 415,
311
+ 417,
312
+ 418,
313
+ 420,
314
+ 421,
315
+ 422,
316
+ 423,
317
+ 426,
318
+ 427,
319
+ 429,
320
+ 430,
321
+ 432,
322
+ 433,
323
+ 434,
324
+ 436,
325
+ 438,
326
+ 439,
327
+ 440,
328
+ 441,
329
+ 442,
330
+ 443,
331
+ 444,
332
+ 445,
333
+ 446,
334
+ 448,
335
+ 449,
336
+ 450,
337
+ 452,
338
+ 453,
339
+ 454,
340
+ 456,
341
+ 458,
342
+ 460,
343
+ 461,
344
+ 462,
345
+ 463,
346
+ 464,
347
+ 465,
348
+ 467,
349
+ 468,
350
+ 469,
351
+ 470,
352
+ 472,
353
+ 473,
354
+ 474,
355
+ 475,
356
+ 476,
357
+ 477,
358
+ 479,
359
+ 480,
360
+ 481,
361
+ 482,
362
+ 484,
363
+ 486,
364
+ 487,
365
+ 488,
366
+ 490,
367
+ 491,
368
+ 492,
369
+ 493,
370
+ 494,
371
+ 497,
372
+ 498,
373
+ 499,
374
+ 501,
375
+ 502,
376
+ 503,
377
+ 504,
378
+ 505,
379
+ 507,
380
+ 508,
381
+ 510,
382
+ 512,
383
+ 513,
384
+ 515,
385
+ 516,
386
+ 519,
387
+ 521,
388
+ 523,
389
+ 525,
390
+ 527,
391
+ 529,
392
+ 530,
393
+ 533,
394
+ 534,
395
+ 535,
396
+ 536,
397
+ 537,
398
+ 538,
399
+ 539,
400
+ 542,
401
+ 543,
402
+ 545,
403
+ 546,
404
+ 547,
405
+ 548,
406
+ 551,
407
+ 553,
408
+ 554,
409
+ 555,
410
+ 556,
411
+ 557,
412
+ 558,
413
+ 559,
414
+ 560,
415
+ 561,
416
+ 562,
417
+ 563,
418
+ 565,
419
+ 566,
420
+ 567,
421
+ 568,
422
+ 569,
423
+ 570,
424
+ 571,
425
+ 574,
426
+ 575,
427
+ 576,
428
+ 577,
429
+ 578,
430
+ 579,
431
+ 580,
432
+ 581,
433
+ 584,
434
+ 585,
435
+ 586,
436
+ 587,
437
+ 588,
438
+ 591,
439
+ 593,
440
+ 594,
441
+ 595,
442
+ 597,
443
+ 598,
444
+ 600,
445
+ 601,
446
+ 605,
447
+ 608,
448
+ 609,
449
+ 610,
450
+ 611,
451
+ 612,
452
+ 614,
453
+ 616,
454
+ 617,
455
+ 618,
456
+ 619,
457
+ 620,
458
+ 621,
459
+ 622,
460
+ 623,
461
+ 624,
462
+ 625,
463
+ 626,
464
+ 629,
465
+ 630,
466
+ 634,
467
+ 635,
468
+ 636,
469
+ 638,
470
+ 639,
471
+ 640,
472
+ 642,
473
+ 644,
474
+ 645,
475
+ 648,
476
+ 649,
477
+ 650,
478
+ 651,
479
+ 652,
480
+ 653,
481
+ 654,
482
+ 657,
483
+ 658,
484
+ 661,
485
+ 662,
486
+ 663,
487
+ 664,
488
+ 665,
489
+ 666,
490
+ 667,
491
+ 668,
492
+ 669,
493
+ 670,
494
+ 671,
495
+ 672,
496
+ 673,
497
+ 674,
498
+ 675,
499
+ 676,
500
+ 677,
501
+ 678,
502
+ 679,
503
+ 680,
504
+ 681,
505
+ 683,
506
+ 686,
507
+ 688,
508
+ 689,
509
+ 692,
510
+ 694,
511
+ 695,
512
+ 696,
513
+ 697,
514
+ 698,
515
+ 699,
516
+ 700,
517
+ 703,
518
+ 704,
519
+ 705,
520
+ 706,
521
+ 707,
522
+ 709,
523
+ 711,
524
+ 712,
525
+ 715,
526
+ 716,
527
+ 717,
528
+ 718,
529
+ 719,
530
+ 721,
531
+ 722,
532
+ 723,
533
+ 725,
534
+ 726,
535
+ 727,
536
+ 728,
537
+ 729,
538
+ 731,
539
+ 732,
540
+ 734,
541
+ 738,
542
+ 740,
543
+ 742,
544
+ 743,
545
+ 744,
546
+ 746,
547
+ 748,
548
+ 750,
549
+ 751,
550
+ 752,
551
+ 755,
552
+ 756,
553
+ 757,
554
+ 759,
555
+ 761,
556
+ 762,
557
+ 763,
558
+ 764,
559
+ 765,
560
+ 766,
561
+ 767,
562
+ 768,
563
+ 770,
564
+ 771,
565
+ 773,
566
+ 774,
567
+ 775,
568
+ 776,
569
+ 777,
570
+ 778,
571
+ 779,
572
+ 780,
573
+ 782,
574
+ 783,
575
+ 787,
576
+ 788,
577
+ 789,
578
+ 791,
579
+ 792,
580
+ 794,
581
+ 798,
582
+ 800,
583
+ 802,
584
+ 803,
585
+ 805,
586
+ 806,
587
+ 807,
588
+ 809,
589
+ 810,
590
+ 811,
591
+ 812,
592
+ 813,
593
+ 815,
594
+ 816,
595
+ 817,
596
+ 819,
597
+ 820,
598
+ 821,
599
+ 822,
600
+ 823,
601
+ 824,
602
+ 827,
603
+ 828,
604
+ 830,
605
+ 831,
606
+ 832,
607
+ 833,
608
+ 835,
609
+ 836,
610
+ 839,
611
+ 840,
612
+ 841,
613
+ 844,
614
+ 845,
615
+ 846,
616
+ 848,
617
+ 851,
618
+ 853,
619
+ 854,
620
+ 855,
621
+ 856,
622
+ 857,
623
+ 858,
624
+ 859,
625
+ 861,
626
+ 862,
627
+ 863,
628
+ 864,
629
+ 865,
630
+ 866,
631
+ 867,
632
+ 868,
633
+ 869,
634
+ 872,
635
+ 873,
636
+ 874,
637
+ 875,
638
+ 876,
639
+ 877,
640
+ 878,
641
+ 879,
642
+ 880,
643
+ 882,
644
+ 883,
645
+ 887,
646
+ 890,
647
+ 893,
648
+ 894,
649
+ 896,
650
+ 897,
651
+ 898,
652
+ 899,
653
+ 900,
654
+ 901,
655
+ 903,
656
+ 904,
657
+ 905,
658
+ 906,
659
+ 907,
660
+ 910,
661
+ 911,
662
+ 912,
663
+ 913,
664
+ 914,
665
+ 915,
666
+ 916,
667
+ 917,
668
+ 918,
669
+ 919,
670
+ 920,
671
+ 921,
672
+ 922,
673
+ 923,
674
+ 924,
675
+ 925,
676
+ 926,
677
+ 927,
678
+ 928,
679
+ 929,
680
+ 930,
681
+ 931,
682
+ 932,
683
+ 933,
684
+ 935,
685
+ 937,
686
+ 938,
687
+ 939,
688
+ 940,
689
+ 941,
690
+ 942,
691
+ 943,
692
+ 945,
693
+ 947,
694
+ 949,
695
+ 950,
696
+ 951,
697
+ 953,
698
+ 955,
699
+ 956,
700
+ 957,
701
+ 958,
702
+ 962,
703
+ 963,
704
+ 964,
705
+ 965,
706
+ 969,
707
+ 970,
708
+ 971,
709
+ 972,
710
+ 975,
711
+ 976,
712
+ 977,
713
+ 979,
714
+ 981,
715
+ 982,
716
+ 983,
717
+ 985,
718
+ 986,
719
+ 988,
720
+ 989,
721
+ 991,
722
+ 993,
723
+ 995,
724
+ 996,
725
+ 997
726
+ ],
727
+ "not_both_correct_indices": [
728
+ 0,
729
+ 1,
730
+ 5,
731
+ 15,
732
+ 16,
733
+ 19,
734
+ 22,
735
+ 23,
736
+ 24,
737
+ 27,
738
+ 32,
739
+ 33,
740
+ 34,
741
+ 35,
742
+ 37,
743
+ 40,
744
+ 46,
745
+ 51,
746
+ 52,
747
+ 61,
748
+ 63,
749
+ 65,
750
+ 70,
751
+ 76,
752
+ 85,
753
+ 88,
754
+ 96,
755
+ 103,
756
+ 110,
757
+ 112,
758
+ 113,
759
+ 118,
760
+ 121,
761
+ 125,
762
+ 129,
763
+ 137,
764
+ 141,
765
+ 142,
766
+ 144,
767
+ 145,
768
+ 146,
769
+ 149,
770
+ 150,
771
+ 155,
772
+ 159,
773
+ 163,
774
+ 168,
775
+ 176,
776
+ 178,
777
+ 184,
778
+ 186,
779
+ 187,
780
+ 192,
781
+ 206,
782
+ 210,
783
+ 211,
784
+ 216,
785
+ 218,
786
+ 227,
787
+ 230,
788
+ 231,
789
+ 234,
790
+ 236,
791
+ 241,
792
+ 244,
793
+ 251,
794
+ 258,
795
+ 259,
796
+ 268,
797
+ 270,
798
+ 271,
799
+ 275,
800
+ 276,
801
+ 285,
802
+ 289,
803
+ 291,
804
+ 295,
805
+ 296,
806
+ 297,
807
+ 298,
808
+ 301,
809
+ 307,
810
+ 309,
811
+ 311,
812
+ 315,
813
+ 318,
814
+ 323,
815
+ 325,
816
+ 328,
817
+ 337,
818
+ 338,
819
+ 344,
820
+ 351,
821
+ 354,
822
+ 356,
823
+ 361,
824
+ 366,
825
+ 370,
826
+ 371,
827
+ 372,
828
+ 379,
829
+ 386,
830
+ 387,
831
+ 391,
832
+ 393,
833
+ 395,
834
+ 397,
835
+ 398,
836
+ 399,
837
+ 401,
838
+ 402,
839
+ 403,
840
+ 407,
841
+ 408,
842
+ 413,
843
+ 414,
844
+ 416,
845
+ 419,
846
+ 424,
847
+ 425,
848
+ 428,
849
+ 431,
850
+ 435,
851
+ 437,
852
+ 447,
853
+ 451,
854
+ 455,
855
+ 457,
856
+ 459,
857
+ 466,
858
+ 471,
859
+ 478,
860
+ 483,
861
+ 485,
862
+ 489,
863
+ 495,
864
+ 496,
865
+ 500,
866
+ 506,
867
+ 509,
868
+ 511,
869
+ 514,
870
+ 517,
871
+ 518,
872
+ 520,
873
+ 522,
874
+ 524,
875
+ 526,
876
+ 528,
877
+ 531,
878
+ 532,
879
+ 540,
880
+ 541,
881
+ 544,
882
+ 549,
883
+ 550,
884
+ 552,
885
+ 564,
886
+ 572,
887
+ 573,
888
+ 582,
889
+ 583,
890
+ 589,
891
+ 590,
892
+ 592,
893
+ 596,
894
+ 599,
895
+ 602,
896
+ 603,
897
+ 604,
898
+ 606,
899
+ 607,
900
+ 613,
901
+ 615,
902
+ 627,
903
+ 628,
904
+ 631,
905
+ 632,
906
+ 633,
907
+ 637,
908
+ 641,
909
+ 643,
910
+ 646,
911
+ 647,
912
+ 655,
913
+ 656,
914
+ 659,
915
+ 660,
916
+ 682,
917
+ 684,
918
+ 685,
919
+ 687,
920
+ 690,
921
+ 691,
922
+ 693,
923
+ 701,
924
+ 702,
925
+ 708,
926
+ 710,
927
+ 713,
928
+ 714,
929
+ 720,
930
+ 724,
931
+ 730,
932
+ 733,
933
+ 735,
934
+ 736,
935
+ 737,
936
+ 739,
937
+ 741,
938
+ 745,
939
+ 747,
940
+ 749,
941
+ 753,
942
+ 754,
943
+ 758,
944
+ 760,
945
+ 769,
946
+ 772,
947
+ 781,
948
+ 784,
949
+ 785,
950
+ 786,
951
+ 790,
952
+ 793,
953
+ 795,
954
+ 796,
955
+ 797,
956
+ 799,
957
+ 801,
958
+ 804,
959
+ 808,
960
+ 814,
961
+ 818,
962
+ 825,
963
+ 826,
964
+ 829,
965
+ 834,
966
+ 837,
967
+ 838,
968
+ 842,
969
+ 843,
970
+ 847,
971
+ 849,
972
+ 850,
973
+ 852,
974
+ 860,
975
+ 870,
976
+ 871,
977
+ 881,
978
+ 884,
979
+ 885,
980
+ 886,
981
+ 888,
982
+ 889,
983
+ 891,
984
+ 892,
985
+ 895,
986
+ 902,
987
+ 908,
988
+ 909,
989
+ 934,
990
+ 936,
991
+ 944,
992
+ 946,
993
+ 948,
994
+ 952,
995
+ 954,
996
+ 959,
997
+ 960,
998
+ 961,
999
+ 966,
1000
+ 967,
1001
+ 968,
1002
+ 973,
1003
+ 974,
1004
+ 978,
1005
+ 980,
1006
+ 984,
1007
+ 987,
1008
+ 990,
1009
+ 992,
1010
+ 994,
1011
+ 998,
1012
+ 999
1013
+ ],
1014
+ "clean_baseline": 16.015625,
1015
+ "corrupted_baseline": -15.1640625
1016
+ }
results/Qwen_Qwen2-5-72B-Instruct/phys/physics_buoyancy/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:72ca26ac7f34715e80969f5542bdfe4826cfb707cae2bb7f5dd76a279edbd533
3
+ size 18925174
results/Qwen_Qwen2-5-72B-Instruct/phys/physics_buoyancy/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:50aedd11185d912fe6c19268244feaad61056bb1189c33a4a91ce187b6f6311e
3
+ size 9307744
results/Qwen_Qwen2-5-72B-Instruct/phys/physics_elasticity/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2365440, "num_layers": 80, "num_units": 29568}
results/Qwen_Qwen2-5-72B-Instruct/phys/physics_elasticity/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 230,
4
+ "token_misaligned_indices": [
5
+ 7,
6
+ 8,
7
+ 9,
8
+ 19,
9
+ 25,
10
+ 35,
11
+ 36,
12
+ 37,
13
+ 40,
14
+ 45,
15
+ 50,
16
+ 57,
17
+ 63,
18
+ 68,
19
+ 73,
20
+ 74,
21
+ 76,
22
+ 85,
23
+ 86,
24
+ 100,
25
+ 101,
26
+ 103,
27
+ 107,
28
+ 119,
29
+ 122,
30
+ 123,
31
+ 129,
32
+ 131,
33
+ 139,
34
+ 140,
35
+ 141,
36
+ 145,
37
+ 149,
38
+ 154,
39
+ 160,
40
+ 165,
41
+ 170,
42
+ 171,
43
+ 173,
44
+ 180,
45
+ 191,
46
+ 192,
47
+ 200,
48
+ 206,
49
+ 207,
50
+ 210,
51
+ 215,
52
+ 216,
53
+ 223,
54
+ 227,
55
+ 230,
56
+ 233,
57
+ 238,
58
+ 248,
59
+ 251,
60
+ 253,
61
+ 254,
62
+ 258,
63
+ 261,
64
+ 262,
65
+ 263,
66
+ 264,
67
+ 265,
68
+ 270,
69
+ 277,
70
+ 279,
71
+ 281,
72
+ 282,
73
+ 284,
74
+ 287,
75
+ 291,
76
+ 292,
77
+ 302,
78
+ 304,
79
+ 310,
80
+ 317,
81
+ 320,
82
+ 321,
83
+ 325,
84
+ 338,
85
+ 339,
86
+ 340,
87
+ 341,
88
+ 354,
89
+ 355,
90
+ 362,
91
+ 369,
92
+ 370,
93
+ 371,
94
+ 375,
95
+ 376,
96
+ 382,
97
+ 385,
98
+ 390,
99
+ 391,
100
+ 397,
101
+ 399,
102
+ 400,
103
+ 403,
104
+ 413,
105
+ 416,
106
+ 417,
107
+ 427,
108
+ 429,
109
+ 430,
110
+ 434,
111
+ 436,
112
+ 437,
113
+ 440,
114
+ 450,
115
+ 452,
116
+ 456,
117
+ 457,
118
+ 469,
119
+ 472,
120
+ 480,
121
+ 481,
122
+ 487,
123
+ 494,
124
+ 495,
125
+ 501,
126
+ 506,
127
+ 508,
128
+ 517,
129
+ 522,
130
+ 530,
131
+ 533,
132
+ 534,
133
+ 535,
134
+ 540,
135
+ 546,
136
+ 547,
137
+ 548,
138
+ 549,
139
+ 552,
140
+ 553,
141
+ 562,
142
+ 569,
143
+ 571,
144
+ 575,
145
+ 577,
146
+ 584,
147
+ 585,
148
+ 592,
149
+ 593,
150
+ 594,
151
+ 596,
152
+ 628,
153
+ 629,
154
+ 630,
155
+ 631,
156
+ 637,
157
+ 645,
158
+ 647,
159
+ 655,
160
+ 657,
161
+ 661,
162
+ 663,
163
+ 666,
164
+ 667,
165
+ 671,
166
+ 672,
167
+ 681,
168
+ 686,
169
+ 688,
170
+ 697,
171
+ 700,
172
+ 703,
173
+ 708,
174
+ 710,
175
+ 715,
176
+ 719,
177
+ 722,
178
+ 726,
179
+ 727,
180
+ 730,
181
+ 735,
182
+ 736,
183
+ 738,
184
+ 740,
185
+ 751,
186
+ 756,
187
+ 757,
188
+ 760,
189
+ 762,
190
+ 770,
191
+ 779,
192
+ 780,
193
+ 788,
194
+ 796,
195
+ 797,
196
+ 799,
197
+ 801,
198
+ 802,
199
+ 807,
200
+ 814,
201
+ 824,
202
+ 826,
203
+ 829,
204
+ 835,
205
+ 837,
206
+ 842,
207
+ 847,
208
+ 852,
209
+ 854,
210
+ 858,
211
+ 868,
212
+ 874,
213
+ 876,
214
+ 877,
215
+ 879,
216
+ 882,
217
+ 902,
218
+ 915,
219
+ 916,
220
+ 917,
221
+ 928,
222
+ 930,
223
+ 931,
224
+ 932,
225
+ 937,
226
+ 948,
227
+ 952,
228
+ 956,
229
+ 963,
230
+ 974,
231
+ 981,
232
+ 983,
233
+ 986,
234
+ 997
235
+ ],
236
+ "n_after_alignment_filter": 770,
237
+ "clean_accuracy": 1.0,
238
+ "corrupted_accuracy": 1.0,
239
+ "both_correct_accuracy": 1.0,
240
+ "n_both_correct": 770,
241
+ "both_correct_indices": [
242
+ 0,
243
+ 1,
244
+ 2,
245
+ 3,
246
+ 4,
247
+ 5,
248
+ 6,
249
+ 10,
250
+ 11,
251
+ 12,
252
+ 13,
253
+ 14,
254
+ 15,
255
+ 16,
256
+ 17,
257
+ 18,
258
+ 20,
259
+ 21,
260
+ 22,
261
+ 23,
262
+ 24,
263
+ 26,
264
+ 27,
265
+ 28,
266
+ 29,
267
+ 30,
268
+ 31,
269
+ 32,
270
+ 33,
271
+ 34,
272
+ 38,
273
+ 39,
274
+ 41,
275
+ 42,
276
+ 43,
277
+ 44,
278
+ 46,
279
+ 47,
280
+ 48,
281
+ 49,
282
+ 51,
283
+ 52,
284
+ 53,
285
+ 54,
286
+ 55,
287
+ 56,
288
+ 58,
289
+ 59,
290
+ 60,
291
+ 61,
292
+ 62,
293
+ 64,
294
+ 65,
295
+ 66,
296
+ 67,
297
+ 69,
298
+ 70,
299
+ 71,
300
+ 72,
301
+ 75,
302
+ 77,
303
+ 78,
304
+ 79,
305
+ 80,
306
+ 81,
307
+ 82,
308
+ 83,
309
+ 84,
310
+ 87,
311
+ 88,
312
+ 89,
313
+ 90,
314
+ 91,
315
+ 92,
316
+ 93,
317
+ 94,
318
+ 95,
319
+ 96,
320
+ 97,
321
+ 98,
322
+ 99,
323
+ 102,
324
+ 104,
325
+ 105,
326
+ 106,
327
+ 108,
328
+ 109,
329
+ 110,
330
+ 111,
331
+ 112,
332
+ 113,
333
+ 114,
334
+ 115,
335
+ 116,
336
+ 117,
337
+ 118,
338
+ 120,
339
+ 121,
340
+ 124,
341
+ 125,
342
+ 126,
343
+ 127,
344
+ 128,
345
+ 130,
346
+ 132,
347
+ 133,
348
+ 134,
349
+ 135,
350
+ 136,
351
+ 137,
352
+ 138,
353
+ 142,
354
+ 143,
355
+ 144,
356
+ 146,
357
+ 147,
358
+ 148,
359
+ 150,
360
+ 151,
361
+ 152,
362
+ 153,
363
+ 155,
364
+ 156,
365
+ 157,
366
+ 158,
367
+ 159,
368
+ 161,
369
+ 162,
370
+ 163,
371
+ 164,
372
+ 166,
373
+ 167,
374
+ 168,
375
+ 169,
376
+ 172,
377
+ 174,
378
+ 175,
379
+ 176,
380
+ 177,
381
+ 178,
382
+ 179,
383
+ 181,
384
+ 182,
385
+ 183,
386
+ 184,
387
+ 185,
388
+ 186,
389
+ 187,
390
+ 188,
391
+ 189,
392
+ 190,
393
+ 193,
394
+ 194,
395
+ 195,
396
+ 196,
397
+ 197,
398
+ 198,
399
+ 199,
400
+ 201,
401
+ 202,
402
+ 203,
403
+ 204,
404
+ 205,
405
+ 208,
406
+ 209,
407
+ 211,
408
+ 212,
409
+ 213,
410
+ 214,
411
+ 217,
412
+ 218,
413
+ 219,
414
+ 220,
415
+ 221,
416
+ 222,
417
+ 224,
418
+ 225,
419
+ 226,
420
+ 228,
421
+ 229,
422
+ 231,
423
+ 232,
424
+ 234,
425
+ 235,
426
+ 236,
427
+ 237,
428
+ 239,
429
+ 240,
430
+ 241,
431
+ 242,
432
+ 243,
433
+ 244,
434
+ 245,
435
+ 246,
436
+ 247,
437
+ 249,
438
+ 250,
439
+ 252,
440
+ 255,
441
+ 256,
442
+ 257,
443
+ 259,
444
+ 260,
445
+ 266,
446
+ 267,
447
+ 268,
448
+ 269,
449
+ 271,
450
+ 272,
451
+ 273,
452
+ 274,
453
+ 275,
454
+ 276,
455
+ 278,
456
+ 280,
457
+ 283,
458
+ 285,
459
+ 286,
460
+ 288,
461
+ 289,
462
+ 290,
463
+ 293,
464
+ 294,
465
+ 295,
466
+ 296,
467
+ 297,
468
+ 298,
469
+ 299,
470
+ 300,
471
+ 301,
472
+ 303,
473
+ 305,
474
+ 306,
475
+ 307,
476
+ 308,
477
+ 309,
478
+ 311,
479
+ 312,
480
+ 313,
481
+ 314,
482
+ 315,
483
+ 316,
484
+ 318,
485
+ 319,
486
+ 322,
487
+ 323,
488
+ 324,
489
+ 326,
490
+ 327,
491
+ 328,
492
+ 329,
493
+ 330,
494
+ 331,
495
+ 332,
496
+ 333,
497
+ 334,
498
+ 335,
499
+ 336,
500
+ 337,
501
+ 342,
502
+ 343,
503
+ 344,
504
+ 345,
505
+ 346,
506
+ 347,
507
+ 348,
508
+ 349,
509
+ 350,
510
+ 351,
511
+ 352,
512
+ 353,
513
+ 356,
514
+ 357,
515
+ 358,
516
+ 359,
517
+ 360,
518
+ 361,
519
+ 363,
520
+ 364,
521
+ 365,
522
+ 366,
523
+ 367,
524
+ 368,
525
+ 372,
526
+ 373,
527
+ 374,
528
+ 377,
529
+ 378,
530
+ 379,
531
+ 380,
532
+ 381,
533
+ 383,
534
+ 384,
535
+ 386,
536
+ 387,
537
+ 388,
538
+ 389,
539
+ 392,
540
+ 393,
541
+ 394,
542
+ 395,
543
+ 396,
544
+ 398,
545
+ 401,
546
+ 402,
547
+ 404,
548
+ 405,
549
+ 406,
550
+ 407,
551
+ 408,
552
+ 409,
553
+ 410,
554
+ 411,
555
+ 412,
556
+ 414,
557
+ 415,
558
+ 418,
559
+ 419,
560
+ 420,
561
+ 421,
562
+ 422,
563
+ 423,
564
+ 424,
565
+ 425,
566
+ 426,
567
+ 428,
568
+ 431,
569
+ 432,
570
+ 433,
571
+ 435,
572
+ 438,
573
+ 439,
574
+ 441,
575
+ 442,
576
+ 443,
577
+ 444,
578
+ 445,
579
+ 446,
580
+ 447,
581
+ 448,
582
+ 449,
583
+ 451,
584
+ 453,
585
+ 454,
586
+ 455,
587
+ 458,
588
+ 459,
589
+ 460,
590
+ 461,
591
+ 462,
592
+ 463,
593
+ 464,
594
+ 465,
595
+ 466,
596
+ 467,
597
+ 468,
598
+ 470,
599
+ 471,
600
+ 473,
601
+ 474,
602
+ 475,
603
+ 476,
604
+ 477,
605
+ 478,
606
+ 479,
607
+ 482,
608
+ 483,
609
+ 484,
610
+ 485,
611
+ 486,
612
+ 488,
613
+ 489,
614
+ 490,
615
+ 491,
616
+ 492,
617
+ 493,
618
+ 496,
619
+ 497,
620
+ 498,
621
+ 499,
622
+ 500,
623
+ 502,
624
+ 503,
625
+ 504,
626
+ 505,
627
+ 507,
628
+ 509,
629
+ 510,
630
+ 511,
631
+ 512,
632
+ 513,
633
+ 514,
634
+ 515,
635
+ 516,
636
+ 518,
637
+ 519,
638
+ 520,
639
+ 521,
640
+ 523,
641
+ 524,
642
+ 525,
643
+ 526,
644
+ 527,
645
+ 528,
646
+ 529,
647
+ 531,
648
+ 532,
649
+ 536,
650
+ 537,
651
+ 538,
652
+ 539,
653
+ 541,
654
+ 542,
655
+ 543,
656
+ 544,
657
+ 545,
658
+ 550,
659
+ 551,
660
+ 554,
661
+ 555,
662
+ 556,
663
+ 557,
664
+ 558,
665
+ 559,
666
+ 560,
667
+ 561,
668
+ 563,
669
+ 564,
670
+ 565,
671
+ 566,
672
+ 567,
673
+ 568,
674
+ 570,
675
+ 572,
676
+ 573,
677
+ 574,
678
+ 576,
679
+ 578,
680
+ 579,
681
+ 580,
682
+ 581,
683
+ 582,
684
+ 583,
685
+ 586,
686
+ 587,
687
+ 588,
688
+ 589,
689
+ 590,
690
+ 591,
691
+ 595,
692
+ 597,
693
+ 598,
694
+ 599,
695
+ 600,
696
+ 601,
697
+ 602,
698
+ 603,
699
+ 604,
700
+ 605,
701
+ 606,
702
+ 607,
703
+ 608,
704
+ 609,
705
+ 610,
706
+ 611,
707
+ 612,
708
+ 613,
709
+ 614,
710
+ 615,
711
+ 616,
712
+ 617,
713
+ 618,
714
+ 619,
715
+ 620,
716
+ 621,
717
+ 622,
718
+ 623,
719
+ 624,
720
+ 625,
721
+ 626,
722
+ 627,
723
+ 632,
724
+ 633,
725
+ 634,
726
+ 635,
727
+ 636,
728
+ 638,
729
+ 639,
730
+ 640,
731
+ 641,
732
+ 642,
733
+ 643,
734
+ 644,
735
+ 646,
736
+ 648,
737
+ 649,
738
+ 650,
739
+ 651,
740
+ 652,
741
+ 653,
742
+ 654,
743
+ 656,
744
+ 658,
745
+ 659,
746
+ 660,
747
+ 662,
748
+ 664,
749
+ 665,
750
+ 668,
751
+ 669,
752
+ 670,
753
+ 673,
754
+ 674,
755
+ 675,
756
+ 676,
757
+ 677,
758
+ 678,
759
+ 679,
760
+ 680,
761
+ 682,
762
+ 683,
763
+ 684,
764
+ 685,
765
+ 687,
766
+ 689,
767
+ 690,
768
+ 691,
769
+ 692,
770
+ 693,
771
+ 694,
772
+ 695,
773
+ 696,
774
+ 698,
775
+ 699,
776
+ 701,
777
+ 702,
778
+ 704,
779
+ 705,
780
+ 706,
781
+ 707,
782
+ 709,
783
+ 711,
784
+ 712,
785
+ 713,
786
+ 714,
787
+ 716,
788
+ 717,
789
+ 718,
790
+ 720,
791
+ 721,
792
+ 723,
793
+ 724,
794
+ 725,
795
+ 728,
796
+ 729,
797
+ 731,
798
+ 732,
799
+ 733,
800
+ 734,
801
+ 737,
802
+ 739,
803
+ 741,
804
+ 742,
805
+ 743,
806
+ 744,
807
+ 745,
808
+ 746,
809
+ 747,
810
+ 748,
811
+ 749,
812
+ 750,
813
+ 752,
814
+ 753,
815
+ 754,
816
+ 755,
817
+ 758,
818
+ 759,
819
+ 761,
820
+ 763,
821
+ 764,
822
+ 765,
823
+ 766,
824
+ 767,
825
+ 768,
826
+ 769,
827
+ 771,
828
+ 772,
829
+ 773,
830
+ 774,
831
+ 775,
832
+ 776,
833
+ 777,
834
+ 778,
835
+ 781,
836
+ 782,
837
+ 783,
838
+ 784,
839
+ 785,
840
+ 786,
841
+ 787,
842
+ 789,
843
+ 790,
844
+ 791,
845
+ 792,
846
+ 793,
847
+ 794,
848
+ 795,
849
+ 798,
850
+ 800,
851
+ 803,
852
+ 804,
853
+ 805,
854
+ 806,
855
+ 808,
856
+ 809,
857
+ 810,
858
+ 811,
859
+ 812,
860
+ 813,
861
+ 815,
862
+ 816,
863
+ 817,
864
+ 818,
865
+ 819,
866
+ 820,
867
+ 821,
868
+ 822,
869
+ 823,
870
+ 825,
871
+ 827,
872
+ 828,
873
+ 830,
874
+ 831,
875
+ 832,
876
+ 833,
877
+ 834,
878
+ 836,
879
+ 838,
880
+ 839,
881
+ 840,
882
+ 841,
883
+ 843,
884
+ 844,
885
+ 845,
886
+ 846,
887
+ 848,
888
+ 849,
889
+ 850,
890
+ 851,
891
+ 853,
892
+ 855,
893
+ 856,
894
+ 857,
895
+ 859,
896
+ 860,
897
+ 861,
898
+ 862,
899
+ 863,
900
+ 864,
901
+ 865,
902
+ 866,
903
+ 867,
904
+ 869,
905
+ 870,
906
+ 871,
907
+ 872,
908
+ 873,
909
+ 875,
910
+ 878,
911
+ 880,
912
+ 881,
913
+ 883,
914
+ 884,
915
+ 885,
916
+ 886,
917
+ 887,
918
+ 888,
919
+ 889,
920
+ 890,
921
+ 891,
922
+ 892,
923
+ 893,
924
+ 894,
925
+ 895,
926
+ 896,
927
+ 897,
928
+ 898,
929
+ 899,
930
+ 900,
931
+ 901,
932
+ 903,
933
+ 904,
934
+ 905,
935
+ 906,
936
+ 907,
937
+ 908,
938
+ 909,
939
+ 910,
940
+ 911,
941
+ 912,
942
+ 913,
943
+ 914,
944
+ 918,
945
+ 919,
946
+ 920,
947
+ 921,
948
+ 922,
949
+ 923,
950
+ 924,
951
+ 925,
952
+ 926,
953
+ 927,
954
+ 929,
955
+ 933,
956
+ 934,
957
+ 935,
958
+ 936,
959
+ 938,
960
+ 939,
961
+ 940,
962
+ 941,
963
+ 942,
964
+ 943,
965
+ 944,
966
+ 945,
967
+ 946,
968
+ 947,
969
+ 949,
970
+ 950,
971
+ 951,
972
+ 953,
973
+ 954,
974
+ 955,
975
+ 957,
976
+ 958,
977
+ 959,
978
+ 960,
979
+ 961,
980
+ 962,
981
+ 964,
982
+ 965,
983
+ 966,
984
+ 967,
985
+ 968,
986
+ 969,
987
+ 970,
988
+ 971,
989
+ 972,
990
+ 973,
991
+ 975,
992
+ 976,
993
+ 977,
994
+ 978,
995
+ 979,
996
+ 980,
997
+ 982,
998
+ 984,
999
+ 985,
1000
+ 987,
1001
+ 988,
1002
+ 989,
1003
+ 990,
1004
+ 991,
1005
+ 992,
1006
+ 993,
1007
+ 994,
1008
+ 995,
1009
+ 996,
1010
+ 998,
1011
+ 999
1012
+ ],
1013
+ "not_both_correct_indices": [],
1014
+ "clean_baseline": 20.375,
1015
+ "corrupted_baseline": -20.65625
1016
+ }
results/Qwen_Qwen2-5-72B-Instruct/phys/physics_elasticity/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:18cbb1158aa50121ec027aadc64d9b15439b72c92fc799af54917549c2b69312
3
+ size 18925174
results/Qwen_Qwen2-5-72B-Instruct/phys/physics_elasticity/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f516ed832cc1c4db2fffeaf3ecb51cd9b741b59cdd82657ae50a5ee84775757e
3
+ size 9251568
results/Qwen_Qwen2-5-72B-Instruct/phys/physics_solubility/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 2365440, "num_layers": 80, "num_units": 29568}
results/Qwen_Qwen2-5-72B-Instruct/phys/physics_solubility/baselines.json ADDED
@@ -0,0 +1,1017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 42,
4
+ "token_misaligned_indices": [
5
+ 1,
6
+ 16,
7
+ 24,
8
+ 47,
9
+ 62,
10
+ 65,
11
+ 139,
12
+ 176,
13
+ 203,
14
+ 206,
15
+ 239,
16
+ 249,
17
+ 301,
18
+ 303,
19
+ 340,
20
+ 357,
21
+ 381,
22
+ 405,
23
+ 411,
24
+ 443,
25
+ 444,
26
+ 505,
27
+ 510,
28
+ 520,
29
+ 531,
30
+ 574,
31
+ 628,
32
+ 641,
33
+ 693,
34
+ 701,
35
+ 716,
36
+ 730,
37
+ 771,
38
+ 778,
39
+ 788,
40
+ 832,
41
+ 837,
42
+ 914,
43
+ 936,
44
+ 959,
45
+ 960,
46
+ 985
47
+ ],
48
+ "n_after_alignment_filter": 958,
49
+ "clean_accuracy": 0.9916492693110647,
50
+ "corrupted_accuracy": 0.9947807933194155,
51
+ "both_correct_accuracy": 0.9864300626304802,
52
+ "n_both_correct": 945,
53
+ "both_correct_indices": [
54
+ 0,
55
+ 2,
56
+ 3,
57
+ 5,
58
+ 6,
59
+ 7,
60
+ 8,
61
+ 9,
62
+ 10,
63
+ 11,
64
+ 12,
65
+ 13,
66
+ 14,
67
+ 15,
68
+ 17,
69
+ 18,
70
+ 19,
71
+ 20,
72
+ 21,
73
+ 22,
74
+ 23,
75
+ 25,
76
+ 26,
77
+ 27,
78
+ 28,
79
+ 29,
80
+ 30,
81
+ 31,
82
+ 32,
83
+ 33,
84
+ 34,
85
+ 35,
86
+ 36,
87
+ 37,
88
+ 38,
89
+ 39,
90
+ 40,
91
+ 41,
92
+ 42,
93
+ 43,
94
+ 44,
95
+ 45,
96
+ 46,
97
+ 48,
98
+ 49,
99
+ 50,
100
+ 51,
101
+ 52,
102
+ 53,
103
+ 54,
104
+ 55,
105
+ 56,
106
+ 57,
107
+ 58,
108
+ 59,
109
+ 60,
110
+ 61,
111
+ 63,
112
+ 64,
113
+ 66,
114
+ 67,
115
+ 68,
116
+ 69,
117
+ 70,
118
+ 71,
119
+ 72,
120
+ 73,
121
+ 74,
122
+ 75,
123
+ 76,
124
+ 77,
125
+ 78,
126
+ 79,
127
+ 80,
128
+ 81,
129
+ 82,
130
+ 83,
131
+ 84,
132
+ 85,
133
+ 86,
134
+ 87,
135
+ 88,
136
+ 89,
137
+ 90,
138
+ 91,
139
+ 92,
140
+ 93,
141
+ 94,
142
+ 95,
143
+ 96,
144
+ 97,
145
+ 98,
146
+ 99,
147
+ 100,
148
+ 101,
149
+ 102,
150
+ 103,
151
+ 104,
152
+ 105,
153
+ 106,
154
+ 107,
155
+ 108,
156
+ 109,
157
+ 110,
158
+ 111,
159
+ 112,
160
+ 113,
161
+ 114,
162
+ 115,
163
+ 116,
164
+ 117,
165
+ 118,
166
+ 119,
167
+ 121,
168
+ 122,
169
+ 124,
170
+ 125,
171
+ 126,
172
+ 127,
173
+ 128,
174
+ 129,
175
+ 130,
176
+ 131,
177
+ 132,
178
+ 133,
179
+ 134,
180
+ 135,
181
+ 136,
182
+ 137,
183
+ 138,
184
+ 140,
185
+ 141,
186
+ 142,
187
+ 143,
188
+ 144,
189
+ 145,
190
+ 146,
191
+ 147,
192
+ 148,
193
+ 149,
194
+ 150,
195
+ 151,
196
+ 152,
197
+ 153,
198
+ 154,
199
+ 155,
200
+ 156,
201
+ 157,
202
+ 158,
203
+ 159,
204
+ 160,
205
+ 161,
206
+ 162,
207
+ 163,
208
+ 164,
209
+ 165,
210
+ 167,
211
+ 168,
212
+ 169,
213
+ 170,
214
+ 171,
215
+ 172,
216
+ 173,
217
+ 174,
218
+ 175,
219
+ 177,
220
+ 178,
221
+ 179,
222
+ 180,
223
+ 181,
224
+ 182,
225
+ 183,
226
+ 184,
227
+ 185,
228
+ 186,
229
+ 187,
230
+ 188,
231
+ 189,
232
+ 190,
233
+ 191,
234
+ 192,
235
+ 193,
236
+ 194,
237
+ 195,
238
+ 196,
239
+ 197,
240
+ 198,
241
+ 199,
242
+ 200,
243
+ 201,
244
+ 202,
245
+ 204,
246
+ 205,
247
+ 207,
248
+ 208,
249
+ 209,
250
+ 210,
251
+ 211,
252
+ 212,
253
+ 213,
254
+ 214,
255
+ 215,
256
+ 216,
257
+ 217,
258
+ 218,
259
+ 219,
260
+ 220,
261
+ 221,
262
+ 222,
263
+ 223,
264
+ 224,
265
+ 225,
266
+ 226,
267
+ 227,
268
+ 228,
269
+ 229,
270
+ 230,
271
+ 231,
272
+ 232,
273
+ 233,
274
+ 234,
275
+ 235,
276
+ 236,
277
+ 237,
278
+ 238,
279
+ 240,
280
+ 241,
281
+ 242,
282
+ 243,
283
+ 244,
284
+ 245,
285
+ 246,
286
+ 247,
287
+ 248,
288
+ 250,
289
+ 251,
290
+ 252,
291
+ 253,
292
+ 254,
293
+ 255,
294
+ 256,
295
+ 257,
296
+ 258,
297
+ 259,
298
+ 260,
299
+ 261,
300
+ 262,
301
+ 263,
302
+ 264,
303
+ 265,
304
+ 266,
305
+ 267,
306
+ 268,
307
+ 269,
308
+ 270,
309
+ 271,
310
+ 272,
311
+ 273,
312
+ 274,
313
+ 276,
314
+ 277,
315
+ 278,
316
+ 279,
317
+ 280,
318
+ 281,
319
+ 282,
320
+ 283,
321
+ 284,
322
+ 285,
323
+ 286,
324
+ 287,
325
+ 288,
326
+ 289,
327
+ 290,
328
+ 291,
329
+ 292,
330
+ 293,
331
+ 294,
332
+ 295,
333
+ 297,
334
+ 298,
335
+ 299,
336
+ 300,
337
+ 302,
338
+ 304,
339
+ 305,
340
+ 306,
341
+ 307,
342
+ 308,
343
+ 309,
344
+ 310,
345
+ 311,
346
+ 312,
347
+ 313,
348
+ 314,
349
+ 315,
350
+ 316,
351
+ 317,
352
+ 318,
353
+ 319,
354
+ 320,
355
+ 321,
356
+ 322,
357
+ 323,
358
+ 324,
359
+ 325,
360
+ 326,
361
+ 327,
362
+ 328,
363
+ 329,
364
+ 330,
365
+ 331,
366
+ 332,
367
+ 333,
368
+ 334,
369
+ 335,
370
+ 336,
371
+ 337,
372
+ 338,
373
+ 339,
374
+ 341,
375
+ 342,
376
+ 343,
377
+ 344,
378
+ 345,
379
+ 347,
380
+ 348,
381
+ 349,
382
+ 350,
383
+ 351,
384
+ 352,
385
+ 353,
386
+ 354,
387
+ 355,
388
+ 356,
389
+ 358,
390
+ 359,
391
+ 360,
392
+ 361,
393
+ 362,
394
+ 363,
395
+ 364,
396
+ 365,
397
+ 366,
398
+ 367,
399
+ 368,
400
+ 370,
401
+ 371,
402
+ 372,
403
+ 373,
404
+ 374,
405
+ 375,
406
+ 376,
407
+ 377,
408
+ 378,
409
+ 379,
410
+ 380,
411
+ 382,
412
+ 383,
413
+ 384,
414
+ 385,
415
+ 386,
416
+ 387,
417
+ 388,
418
+ 389,
419
+ 390,
420
+ 391,
421
+ 392,
422
+ 393,
423
+ 394,
424
+ 395,
425
+ 396,
426
+ 397,
427
+ 398,
428
+ 399,
429
+ 400,
430
+ 401,
431
+ 402,
432
+ 403,
433
+ 404,
434
+ 406,
435
+ 407,
436
+ 408,
437
+ 409,
438
+ 410,
439
+ 412,
440
+ 413,
441
+ 414,
442
+ 415,
443
+ 416,
444
+ 417,
445
+ 418,
446
+ 419,
447
+ 420,
448
+ 421,
449
+ 422,
450
+ 423,
451
+ 424,
452
+ 425,
453
+ 426,
454
+ 427,
455
+ 428,
456
+ 429,
457
+ 430,
458
+ 431,
459
+ 432,
460
+ 433,
461
+ 434,
462
+ 435,
463
+ 436,
464
+ 437,
465
+ 438,
466
+ 439,
467
+ 440,
468
+ 441,
469
+ 442,
470
+ 445,
471
+ 446,
472
+ 447,
473
+ 449,
474
+ 450,
475
+ 451,
476
+ 452,
477
+ 453,
478
+ 454,
479
+ 455,
480
+ 456,
481
+ 457,
482
+ 458,
483
+ 459,
484
+ 460,
485
+ 461,
486
+ 462,
487
+ 463,
488
+ 464,
489
+ 465,
490
+ 466,
491
+ 467,
492
+ 468,
493
+ 469,
494
+ 470,
495
+ 471,
496
+ 472,
497
+ 473,
498
+ 474,
499
+ 475,
500
+ 476,
501
+ 477,
502
+ 478,
503
+ 479,
504
+ 480,
505
+ 481,
506
+ 482,
507
+ 483,
508
+ 484,
509
+ 485,
510
+ 486,
511
+ 487,
512
+ 488,
513
+ 489,
514
+ 490,
515
+ 491,
516
+ 492,
517
+ 493,
518
+ 494,
519
+ 495,
520
+ 496,
521
+ 497,
522
+ 498,
523
+ 499,
524
+ 500,
525
+ 501,
526
+ 502,
527
+ 503,
528
+ 504,
529
+ 506,
530
+ 507,
531
+ 508,
532
+ 509,
533
+ 511,
534
+ 512,
535
+ 513,
536
+ 514,
537
+ 515,
538
+ 516,
539
+ 517,
540
+ 518,
541
+ 519,
542
+ 521,
543
+ 522,
544
+ 523,
545
+ 524,
546
+ 525,
547
+ 526,
548
+ 527,
549
+ 528,
550
+ 529,
551
+ 530,
552
+ 532,
553
+ 533,
554
+ 534,
555
+ 535,
556
+ 536,
557
+ 537,
558
+ 539,
559
+ 540,
560
+ 541,
561
+ 542,
562
+ 543,
563
+ 544,
564
+ 545,
565
+ 546,
566
+ 547,
567
+ 548,
568
+ 549,
569
+ 550,
570
+ 551,
571
+ 552,
572
+ 553,
573
+ 554,
574
+ 555,
575
+ 556,
576
+ 557,
577
+ 558,
578
+ 559,
579
+ 560,
580
+ 561,
581
+ 562,
582
+ 563,
583
+ 564,
584
+ 565,
585
+ 566,
586
+ 567,
587
+ 568,
588
+ 569,
589
+ 570,
590
+ 571,
591
+ 572,
592
+ 573,
593
+ 575,
594
+ 576,
595
+ 577,
596
+ 578,
597
+ 579,
598
+ 580,
599
+ 581,
600
+ 582,
601
+ 583,
602
+ 584,
603
+ 585,
604
+ 586,
605
+ 587,
606
+ 588,
607
+ 589,
608
+ 590,
609
+ 591,
610
+ 592,
611
+ 593,
612
+ 594,
613
+ 595,
614
+ 596,
615
+ 598,
616
+ 599,
617
+ 600,
618
+ 601,
619
+ 602,
620
+ 603,
621
+ 604,
622
+ 605,
623
+ 606,
624
+ 607,
625
+ 608,
626
+ 609,
627
+ 610,
628
+ 611,
629
+ 612,
630
+ 613,
631
+ 614,
632
+ 615,
633
+ 616,
634
+ 617,
635
+ 618,
636
+ 619,
637
+ 620,
638
+ 621,
639
+ 622,
640
+ 623,
641
+ 624,
642
+ 625,
643
+ 626,
644
+ 627,
645
+ 629,
646
+ 630,
647
+ 631,
648
+ 632,
649
+ 633,
650
+ 634,
651
+ 635,
652
+ 636,
653
+ 637,
654
+ 638,
655
+ 639,
656
+ 640,
657
+ 642,
658
+ 643,
659
+ 644,
660
+ 645,
661
+ 646,
662
+ 647,
663
+ 648,
664
+ 649,
665
+ 650,
666
+ 651,
667
+ 652,
668
+ 653,
669
+ 654,
670
+ 655,
671
+ 656,
672
+ 657,
673
+ 658,
674
+ 659,
675
+ 660,
676
+ 661,
677
+ 662,
678
+ 663,
679
+ 664,
680
+ 665,
681
+ 666,
682
+ 667,
683
+ 668,
684
+ 669,
685
+ 670,
686
+ 671,
687
+ 672,
688
+ 673,
689
+ 674,
690
+ 675,
691
+ 676,
692
+ 677,
693
+ 678,
694
+ 679,
695
+ 680,
696
+ 681,
697
+ 682,
698
+ 683,
699
+ 684,
700
+ 685,
701
+ 686,
702
+ 687,
703
+ 688,
704
+ 689,
705
+ 690,
706
+ 691,
707
+ 692,
708
+ 694,
709
+ 695,
710
+ 696,
711
+ 697,
712
+ 698,
713
+ 699,
714
+ 700,
715
+ 702,
716
+ 703,
717
+ 704,
718
+ 705,
719
+ 706,
720
+ 707,
721
+ 708,
722
+ 709,
723
+ 710,
724
+ 711,
725
+ 712,
726
+ 713,
727
+ 714,
728
+ 715,
729
+ 717,
730
+ 718,
731
+ 719,
732
+ 720,
733
+ 721,
734
+ 722,
735
+ 723,
736
+ 724,
737
+ 725,
738
+ 726,
739
+ 727,
740
+ 728,
741
+ 729,
742
+ 731,
743
+ 732,
744
+ 733,
745
+ 734,
746
+ 735,
747
+ 736,
748
+ 737,
749
+ 738,
750
+ 739,
751
+ 740,
752
+ 741,
753
+ 742,
754
+ 743,
755
+ 744,
756
+ 745,
757
+ 746,
758
+ 747,
759
+ 748,
760
+ 749,
761
+ 750,
762
+ 751,
763
+ 752,
764
+ 753,
765
+ 754,
766
+ 755,
767
+ 756,
768
+ 757,
769
+ 758,
770
+ 759,
771
+ 760,
772
+ 761,
773
+ 762,
774
+ 764,
775
+ 765,
776
+ 766,
777
+ 767,
778
+ 768,
779
+ 769,
780
+ 770,
781
+ 772,
782
+ 773,
783
+ 774,
784
+ 775,
785
+ 777,
786
+ 779,
787
+ 780,
788
+ 781,
789
+ 782,
790
+ 783,
791
+ 784,
792
+ 785,
793
+ 786,
794
+ 787,
795
+ 789,
796
+ 790,
797
+ 791,
798
+ 792,
799
+ 793,
800
+ 794,
801
+ 795,
802
+ 796,
803
+ 797,
804
+ 798,
805
+ 799,
806
+ 800,
807
+ 801,
808
+ 802,
809
+ 803,
810
+ 804,
811
+ 805,
812
+ 806,
813
+ 807,
814
+ 808,
815
+ 809,
816
+ 810,
817
+ 811,
818
+ 812,
819
+ 813,
820
+ 814,
821
+ 815,
822
+ 816,
823
+ 817,
824
+ 818,
825
+ 819,
826
+ 820,
827
+ 821,
828
+ 822,
829
+ 823,
830
+ 824,
831
+ 825,
832
+ 826,
833
+ 827,
834
+ 828,
835
+ 829,
836
+ 830,
837
+ 831,
838
+ 833,
839
+ 834,
840
+ 835,
841
+ 836,
842
+ 838,
843
+ 839,
844
+ 840,
845
+ 841,
846
+ 842,
847
+ 843,
848
+ 844,
849
+ 845,
850
+ 846,
851
+ 847,
852
+ 848,
853
+ 849,
854
+ 850,
855
+ 851,
856
+ 852,
857
+ 853,
858
+ 854,
859
+ 855,
860
+ 856,
861
+ 857,
862
+ 858,
863
+ 859,
864
+ 860,
865
+ 861,
866
+ 862,
867
+ 863,
868
+ 864,
869
+ 865,
870
+ 866,
871
+ 867,
872
+ 868,
873
+ 869,
874
+ 870,
875
+ 871,
876
+ 872,
877
+ 873,
878
+ 874,
879
+ 875,
880
+ 876,
881
+ 877,
882
+ 878,
883
+ 879,
884
+ 880,
885
+ 881,
886
+ 882,
887
+ 883,
888
+ 884,
889
+ 885,
890
+ 886,
891
+ 887,
892
+ 888,
893
+ 889,
894
+ 890,
895
+ 891,
896
+ 892,
897
+ 893,
898
+ 894,
899
+ 895,
900
+ 896,
901
+ 897,
902
+ 898,
903
+ 899,
904
+ 900,
905
+ 901,
906
+ 902,
907
+ 903,
908
+ 904,
909
+ 905,
910
+ 906,
911
+ 907,
912
+ 908,
913
+ 909,
914
+ 910,
915
+ 911,
916
+ 912,
917
+ 913,
918
+ 915,
919
+ 916,
920
+ 917,
921
+ 918,
922
+ 919,
923
+ 920,
924
+ 921,
925
+ 922,
926
+ 923,
927
+ 924,
928
+ 925,
929
+ 926,
930
+ 927,
931
+ 928,
932
+ 929,
933
+ 930,
934
+ 931,
935
+ 932,
936
+ 933,
937
+ 934,
938
+ 935,
939
+ 937,
940
+ 938,
941
+ 939,
942
+ 940,
943
+ 941,
944
+ 942,
945
+ 943,
946
+ 944,
947
+ 945,
948
+ 946,
949
+ 947,
950
+ 948,
951
+ 949,
952
+ 950,
953
+ 951,
954
+ 952,
955
+ 953,
956
+ 954,
957
+ 955,
958
+ 956,
959
+ 957,
960
+ 958,
961
+ 961,
962
+ 962,
963
+ 963,
964
+ 964,
965
+ 965,
966
+ 966,
967
+ 967,
968
+ 968,
969
+ 969,
970
+ 970,
971
+ 971,
972
+ 972,
973
+ 973,
974
+ 974,
975
+ 975,
976
+ 976,
977
+ 977,
978
+ 978,
979
+ 979,
980
+ 980,
981
+ 981,
982
+ 982,
983
+ 983,
984
+ 984,
985
+ 986,
986
+ 987,
987
+ 988,
988
+ 989,
989
+ 990,
990
+ 991,
991
+ 992,
992
+ 993,
993
+ 994,
994
+ 995,
995
+ 996,
996
+ 997,
997
+ 998,
998
+ 999
999
+ ],
1000
+ "not_both_correct_indices": [
1001
+ 4,
1002
+ 120,
1003
+ 123,
1004
+ 166,
1005
+ 275,
1006
+ 296,
1007
+ 346,
1008
+ 369,
1009
+ 448,
1010
+ 538,
1011
+ 597,
1012
+ 763,
1013
+ 776
1014
+ ],
1015
+ "clean_baseline": 19.21875,
1016
+ "corrupted_baseline": -19.453125
1017
+ }