barryhpr commited on
Commit
2109cc2
·
verified ·
1 Parent(s): d6b2fab

Add attribution tensors (901-993 of 993)

Browse files
This view is limited to 50 files because it contains too many changes.   See raw diff
Files changed (50) hide show
  1. README.md +87 -0
  2. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_1/attribution_meta.json +1 -0
  3. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_1/baselines.json +1016 -0
  4. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_1/neuron_attribution.pt +3 -0
  5. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_1/sorted_indices_positive.npy +3 -0
  6. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_symbolic/attribution_meta.json +1 -0
  7. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_symbolic/baselines.json +1016 -0
  8. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_symbolic/neuron_attribution.pt +3 -0
  9. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_symbolic/sorted_indices_positive.npy +3 -0
  10. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_1/attribution_meta.json +1 -0
  11. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_1/baselines.json +1016 -0
  12. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_1/neuron_attribution.pt +3 -0
  13. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_1/sorted_indices_positive.npy +3 -0
  14. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_symbolic/attribution_meta.json +1 -0
  15. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_symbolic/baselines.json +1016 -0
  16. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_symbolic/neuron_attribution.pt +3 -0
  17. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_symbolic/sorted_indices_positive.npy +3 -0
  18. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_symbolic/attribution_meta.json +1 -0
  19. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_symbolic/baselines.json +1017 -0
  20. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_symbolic/neuron_attribution.pt +3 -0
  21. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_symbolic/sorted_indices_positive.npy +3 -0
  22. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_verbal/attribution_meta.json +1 -0
  23. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_verbal/baselines.json +1017 -0
  24. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_verbal/neuron_attribution.pt +3 -0
  25. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_verbal/sorted_indices_positive.npy +3 -0
  26. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/number_sorting/attribution_meta.json +1 -0
  27. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/number_sorting/baselines.json +1016 -0
  28. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/number_sorting/neuron_attribution.pt +3 -0
  29. results/mistralai_Mistral-Small-24B-Instruct-2501/MD/number_sorting/sorted_indices_positive.npy +3 -0
  30. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/agent/attribution_meta.json +1 -0
  31. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/agent/baselines.json +961 -0
  32. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/agent/neuron_attribution.pt +3 -0
  33. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/agent/sorted_indices_positive.npy +3 -0
  34. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/desires_goals/attribution_meta.json +1 -0
  35. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/desires_goals/baselines.json +1097 -0
  36. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/desires_goals/neuron_attribution.pt +3 -0
  37. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/desires_goals/sorted_indices_positive.npy +3 -0
  38. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/emotion_fewshot/attribution_meta.json +1 -0
  39. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/emotion_fewshot/baselines.json +2017 -0
  40. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/emotion_fewshot/neuron_attribution.pt +3 -0
  41. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/emotion_fewshot/sorted_indices_positive.npy +3 -0
  42. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_appropriate/attribution_meta.json +1 -0
  43. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_appropriate/baselines.json +2016 -0
  44. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_appropriate/neuron_attribution.pt +3 -0
  45. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_appropriate/sorted_indices_positive.npy +3 -0
  46. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_moral/attribution_meta.json +1 -0
  47. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_moral/baselines.json +2016 -0
  48. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_moral/neuron_attribution.pt +3 -0
  49. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_moral/sorted_indices_positive.npy +3 -0
  50. results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/primary_emotions/attribution_meta.json +1 -0
README.md ADDED
@@ -0,0 +1,87 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: mit
3
+ pretty_name: LLM Modularity — per-task neuron attribution scores
4
+ tags:
5
+ - interpretability
6
+ - attribution-patching
7
+ - mechanistic-interpretability
8
+ size_categories:
9
+ - 1B<n<10B
10
+ ---
11
+
12
+ # Per-task neuron attribution scores for *Modular Cognitive Architecture Emerges in Large Language Models*
13
+
14
+ Code and analysis pipeline: <https://github.com/Pengrui-Han/LLM_Modularity>
15
+
16
+ This dataset contains the raw attribution-patching tensors that the GitHub
17
+ release omits (they are ~6 GB). With these files you can run every
18
+ overlap / ablation / statistics script in the repo without re-running
19
+ attribution patching on a GPU.
20
+
21
+ ## Layout
22
+
23
+ ```
24
+ results/<model>/<domain>/<task>/
25
+ neuron_attribution.pt float32 tensor, shape [num_layers, intermediate_size]
26
+ sorted_indices_positive.npy int array, shape [n_positive, 2] (layer, unit), best first
27
+ attribution_meta.json {"total_units", "num_layers", "num_units"}
28
+ baselines.json clean / corrupted baselines, both-correct accuracy, example indices
29
+ ```
30
+
31
+ `<model>` is the HuggingFace id with `/` and `.` replaced by `_` and `-`
32
+ (e.g. `Qwen_Qwen2-5-32B-Instruct`). `<domain>` is one of `Lan`, `MD`,
33
+ `ToM`, `phys`.
34
+
35
+ Models: Qwen2.5-32B-Instruct, Qwen2.5-72B-Instruct, OLMo-2-0325-32B-Instruct,
36
+ Llama-3.1-70B-Instruct, Mistral-Large-Instruct-2407,
37
+ Mistral-Small-24B-Instruct-2501 (the six models in the paper's main analysis).
38
+
39
+ Only tasks that passed the 60% both-correct inclusion filter have a
40
+ `neuron_attribution.pt` for a given model, so the task set differs slightly
41
+ per model (35–46 tasks). The task set is exactly the one in the GitHub
42
+ release (every task that has an `attribution_meta.json` there).
43
+
44
+ ## What the numbers are
45
+
46
+ For each MLP neuron *i* (the input to `mlp.down_proj`, i.e. the
47
+ post-activation hidden of size `intermediate_size`), evaluated at the final
48
+ prompt token with full-sequence teacher forcing:
49
+
50
+ ```
51
+ attribution_i = (clean_act_i − corrupted_act_i) · ∂ metric / ∂ act_i
52
+ ```
53
+
54
+ where the gradient is taken on the corrupted-prompt forward pass and the
55
+ metric is the normalized log-probability of the correct answer
56
+ (1 = clean baseline, 0 = corrupted baseline). Positive values mean that
57
+ restoring the clean activation moves the model toward its clean behaviour.
58
+ Scores are summed over the both-correct examples of a task.
59
+
60
+ ## Selecting a task circuit
61
+
62
+ The paper uses the top 0.1% positively attributed neurons:
63
+
64
+ ```python
65
+ import torch, numpy as np
66
+ attr = torch.load("results/<model>/<domain>/<task>/neuron_attribution.pt").numpy()
67
+ L, U = attr.shape
68
+ k = max(1, int(L * U * 0.1 / 100)) # 0.1 % ; use 1.0 for 1 %
69
+ idx = np.load("results/<model>/<domain>/<task>/sorted_indices_positive.npy")[:k] # (layer, unit) pairs
70
+ ```
71
+
72
+ Equivalently, flatten `attr`, keep entries `> 0`, sort descending, take the
73
+ first `k`. `sorted_indices_positive.npy` is just that ordering precomputed.
74
+
75
+ ## Download
76
+
77
+ ```python
78
+ from huggingface_hub import snapshot_download
79
+ snapshot_download("barryhpr/LLM_Modularity_attribution", repo_type="dataset",
80
+ local_dir="LLM_Modularity") # drops files into results/…
81
+ ```
82
+
83
+ Or a single model: add `allow_patterns=["results/allenai_OLMo-2-0325-32B-Instruct/**"]`.
84
+
85
+ ## Citation
86
+
87
+ See the GitHub repository; citation will be added upon publication.
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_1/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_1/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.787,
7
+ "corrupted_accuracy": 0.823,
8
+ "both_correct_accuracy": 0.631,
9
+ "n_both_correct": 631,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 4,
15
+ 5,
16
+ 11,
17
+ 14,
18
+ 15,
19
+ 17,
20
+ 19,
21
+ 23,
22
+ 26,
23
+ 27,
24
+ 28,
25
+ 29,
26
+ 30,
27
+ 31,
28
+ 32,
29
+ 35,
30
+ 37,
31
+ 38,
32
+ 40,
33
+ 42,
34
+ 46,
35
+ 47,
36
+ 48,
37
+ 51,
38
+ 52,
39
+ 54,
40
+ 57,
41
+ 60,
42
+ 64,
43
+ 65,
44
+ 66,
45
+ 67,
46
+ 69,
47
+ 71,
48
+ 72,
49
+ 75,
50
+ 76,
51
+ 78,
52
+ 79,
53
+ 80,
54
+ 82,
55
+ 83,
56
+ 84,
57
+ 85,
58
+ 88,
59
+ 89,
60
+ 91,
61
+ 93,
62
+ 94,
63
+ 96,
64
+ 97,
65
+ 98,
66
+ 99,
67
+ 100,
68
+ 102,
69
+ 104,
70
+ 105,
71
+ 106,
72
+ 107,
73
+ 108,
74
+ 112,
75
+ 113,
76
+ 114,
77
+ 116,
78
+ 117,
79
+ 118,
80
+ 122,
81
+ 124,
82
+ 125,
83
+ 126,
84
+ 128,
85
+ 130,
86
+ 131,
87
+ 133,
88
+ 135,
89
+ 137,
90
+ 139,
91
+ 140,
92
+ 142,
93
+ 144,
94
+ 145,
95
+ 147,
96
+ 148,
97
+ 149,
98
+ 152,
99
+ 154,
100
+ 155,
101
+ 157,
102
+ 160,
103
+ 163,
104
+ 165,
105
+ 167,
106
+ 168,
107
+ 169,
108
+ 170,
109
+ 172,
110
+ 173,
111
+ 175,
112
+ 176,
113
+ 177,
114
+ 178,
115
+ 179,
116
+ 182,
117
+ 184,
118
+ 185,
119
+ 186,
120
+ 187,
121
+ 188,
122
+ 189,
123
+ 190,
124
+ 191,
125
+ 192,
126
+ 193,
127
+ 194,
128
+ 196,
129
+ 197,
130
+ 198,
131
+ 199,
132
+ 200,
133
+ 201,
134
+ 203,
135
+ 204,
136
+ 208,
137
+ 210,
138
+ 211,
139
+ 213,
140
+ 214,
141
+ 215,
142
+ 217,
143
+ 218,
144
+ 220,
145
+ 221,
146
+ 222,
147
+ 226,
148
+ 228,
149
+ 229,
150
+ 231,
151
+ 235,
152
+ 237,
153
+ 240,
154
+ 241,
155
+ 245,
156
+ 246,
157
+ 247,
158
+ 249,
159
+ 252,
160
+ 254,
161
+ 257,
162
+ 258,
163
+ 259,
164
+ 260,
165
+ 261,
166
+ 262,
167
+ 263,
168
+ 264,
169
+ 265,
170
+ 266,
171
+ 267,
172
+ 269,
173
+ 270,
174
+ 271,
175
+ 272,
176
+ 273,
177
+ 274,
178
+ 275,
179
+ 277,
180
+ 279,
181
+ 282,
182
+ 284,
183
+ 286,
184
+ 287,
185
+ 289,
186
+ 290,
187
+ 291,
188
+ 293,
189
+ 294,
190
+ 297,
191
+ 300,
192
+ 301,
193
+ 303,
194
+ 304,
195
+ 305,
196
+ 306,
197
+ 307,
198
+ 308,
199
+ 310,
200
+ 316,
201
+ 317,
202
+ 319,
203
+ 321,
204
+ 322,
205
+ 323,
206
+ 324,
207
+ 328,
208
+ 329,
209
+ 331,
210
+ 332,
211
+ 333,
212
+ 334,
213
+ 335,
214
+ 336,
215
+ 338,
216
+ 339,
217
+ 340,
218
+ 341,
219
+ 342,
220
+ 345,
221
+ 346,
222
+ 347,
223
+ 350,
224
+ 351,
225
+ 352,
226
+ 353,
227
+ 354,
228
+ 355,
229
+ 356,
230
+ 358,
231
+ 359,
232
+ 360,
233
+ 361,
234
+ 362,
235
+ 363,
236
+ 364,
237
+ 365,
238
+ 367,
239
+ 368,
240
+ 371,
241
+ 373,
242
+ 375,
243
+ 376,
244
+ 377,
245
+ 378,
246
+ 379,
247
+ 380,
248
+ 382,
249
+ 384,
250
+ 385,
251
+ 387,
252
+ 388,
253
+ 389,
254
+ 391,
255
+ 392,
256
+ 394,
257
+ 398,
258
+ 400,
259
+ 402,
260
+ 403,
261
+ 405,
262
+ 407,
263
+ 409,
264
+ 411,
265
+ 412,
266
+ 413,
267
+ 414,
268
+ 416,
269
+ 418,
270
+ 419,
271
+ 421,
272
+ 423,
273
+ 424,
274
+ 426,
275
+ 427,
276
+ 428,
277
+ 429,
278
+ 430,
279
+ 431,
280
+ 432,
281
+ 434,
282
+ 435,
283
+ 439,
284
+ 440,
285
+ 442,
286
+ 443,
287
+ 444,
288
+ 445,
289
+ 446,
290
+ 447,
291
+ 448,
292
+ 451,
293
+ 452,
294
+ 453,
295
+ 454,
296
+ 455,
297
+ 456,
298
+ 457,
299
+ 458,
300
+ 461,
301
+ 462,
302
+ 463,
303
+ 464,
304
+ 465,
305
+ 466,
306
+ 468,
307
+ 469,
308
+ 471,
309
+ 473,
310
+ 474,
311
+ 475,
312
+ 477,
313
+ 478,
314
+ 479,
315
+ 482,
316
+ 484,
317
+ 487,
318
+ 489,
319
+ 490,
320
+ 492,
321
+ 493,
322
+ 496,
323
+ 497,
324
+ 498,
325
+ 499,
326
+ 500,
327
+ 503,
328
+ 504,
329
+ 505,
330
+ 506,
331
+ 507,
332
+ 508,
333
+ 509,
334
+ 512,
335
+ 515,
336
+ 516,
337
+ 517,
338
+ 518,
339
+ 519,
340
+ 520,
341
+ 521,
342
+ 523,
343
+ 527,
344
+ 530,
345
+ 532,
346
+ 533,
347
+ 534,
348
+ 536,
349
+ 538,
350
+ 540,
351
+ 542,
352
+ 544,
353
+ 545,
354
+ 546,
355
+ 547,
356
+ 548,
357
+ 549,
358
+ 550,
359
+ 552,
360
+ 553,
361
+ 554,
362
+ 556,
363
+ 557,
364
+ 559,
365
+ 560,
366
+ 561,
367
+ 562,
368
+ 563,
369
+ 564,
370
+ 566,
371
+ 567,
372
+ 569,
373
+ 572,
374
+ 574,
375
+ 575,
376
+ 581,
377
+ 582,
378
+ 583,
379
+ 584,
380
+ 586,
381
+ 587,
382
+ 588,
383
+ 589,
384
+ 590,
385
+ 594,
386
+ 595,
387
+ 597,
388
+ 598,
389
+ 599,
390
+ 600,
391
+ 601,
392
+ 602,
393
+ 603,
394
+ 605,
395
+ 606,
396
+ 608,
397
+ 609,
398
+ 611,
399
+ 615,
400
+ 616,
401
+ 617,
402
+ 618,
403
+ 619,
404
+ 620,
405
+ 621,
406
+ 622,
407
+ 623,
408
+ 624,
409
+ 626,
410
+ 631,
411
+ 633,
412
+ 634,
413
+ 635,
414
+ 636,
415
+ 637,
416
+ 638,
417
+ 639,
418
+ 640,
419
+ 641,
420
+ 642,
421
+ 643,
422
+ 644,
423
+ 645,
424
+ 648,
425
+ 649,
426
+ 651,
427
+ 652,
428
+ 654,
429
+ 656,
430
+ 657,
431
+ 658,
432
+ 659,
433
+ 663,
434
+ 665,
435
+ 666,
436
+ 668,
437
+ 669,
438
+ 673,
439
+ 674,
440
+ 675,
441
+ 677,
442
+ 680,
443
+ 682,
444
+ 684,
445
+ 685,
446
+ 687,
447
+ 688,
448
+ 689,
449
+ 692,
450
+ 693,
451
+ 694,
452
+ 695,
453
+ 697,
454
+ 699,
455
+ 701,
456
+ 702,
457
+ 703,
458
+ 705,
459
+ 706,
460
+ 708,
461
+ 709,
462
+ 710,
463
+ 712,
464
+ 714,
465
+ 715,
466
+ 716,
467
+ 717,
468
+ 719,
469
+ 720,
470
+ 721,
471
+ 722,
472
+ 723,
473
+ 724,
474
+ 725,
475
+ 726,
476
+ 727,
477
+ 730,
478
+ 731,
479
+ 732,
480
+ 733,
481
+ 734,
482
+ 735,
483
+ 736,
484
+ 737,
485
+ 738,
486
+ 739,
487
+ 741,
488
+ 744,
489
+ 746,
490
+ 747,
491
+ 748,
492
+ 749,
493
+ 750,
494
+ 751,
495
+ 752,
496
+ 753,
497
+ 755,
498
+ 756,
499
+ 758,
500
+ 759,
501
+ 762,
502
+ 763,
503
+ 764,
504
+ 766,
505
+ 767,
506
+ 769,
507
+ 770,
508
+ 771,
509
+ 773,
510
+ 774,
511
+ 775,
512
+ 776,
513
+ 777,
514
+ 778,
515
+ 779,
516
+ 782,
517
+ 786,
518
+ 790,
519
+ 791,
520
+ 792,
521
+ 793,
522
+ 796,
523
+ 797,
524
+ 798,
525
+ 800,
526
+ 802,
527
+ 804,
528
+ 807,
529
+ 809,
530
+ 810,
531
+ 811,
532
+ 812,
533
+ 813,
534
+ 814,
535
+ 815,
536
+ 816,
537
+ 817,
538
+ 818,
539
+ 820,
540
+ 821,
541
+ 824,
542
+ 825,
543
+ 826,
544
+ 827,
545
+ 829,
546
+ 830,
547
+ 831,
548
+ 832,
549
+ 833,
550
+ 835,
551
+ 836,
552
+ 837,
553
+ 838,
554
+ 839,
555
+ 843,
556
+ 846,
557
+ 847,
558
+ 852,
559
+ 854,
560
+ 855,
561
+ 857,
562
+ 858,
563
+ 859,
564
+ 862,
565
+ 863,
566
+ 864,
567
+ 865,
568
+ 866,
569
+ 868,
570
+ 870,
571
+ 872,
572
+ 873,
573
+ 875,
574
+ 877,
575
+ 879,
576
+ 880,
577
+ 881,
578
+ 882,
579
+ 884,
580
+ 885,
581
+ 889,
582
+ 891,
583
+ 893,
584
+ 894,
585
+ 896,
586
+ 897,
587
+ 902,
588
+ 903,
589
+ 905,
590
+ 906,
591
+ 908,
592
+ 909,
593
+ 910,
594
+ 912,
595
+ 913,
596
+ 915,
597
+ 916,
598
+ 920,
599
+ 921,
600
+ 922,
601
+ 923,
602
+ 925,
603
+ 930,
604
+ 931,
605
+ 934,
606
+ 935,
607
+ 939,
608
+ 941,
609
+ 943,
610
+ 946,
611
+ 947,
612
+ 948,
613
+ 951,
614
+ 952,
615
+ 953,
616
+ 954,
617
+ 955,
618
+ 956,
619
+ 960,
620
+ 961,
621
+ 964,
622
+ 965,
623
+ 966,
624
+ 969,
625
+ 970,
626
+ 971,
627
+ 973,
628
+ 974,
629
+ 978,
630
+ 980,
631
+ 983,
632
+ 984,
633
+ 986,
634
+ 987,
635
+ 988,
636
+ 989,
637
+ 991,
638
+ 992,
639
+ 994,
640
+ 998,
641
+ 999
642
+ ],
643
+ "not_both_correct_indices": [
644
+ 3,
645
+ 6,
646
+ 7,
647
+ 8,
648
+ 9,
649
+ 10,
650
+ 12,
651
+ 13,
652
+ 16,
653
+ 18,
654
+ 20,
655
+ 21,
656
+ 22,
657
+ 24,
658
+ 25,
659
+ 33,
660
+ 34,
661
+ 36,
662
+ 39,
663
+ 41,
664
+ 43,
665
+ 44,
666
+ 45,
667
+ 49,
668
+ 50,
669
+ 53,
670
+ 55,
671
+ 56,
672
+ 58,
673
+ 59,
674
+ 61,
675
+ 62,
676
+ 63,
677
+ 68,
678
+ 70,
679
+ 73,
680
+ 74,
681
+ 77,
682
+ 81,
683
+ 86,
684
+ 87,
685
+ 90,
686
+ 92,
687
+ 95,
688
+ 101,
689
+ 103,
690
+ 109,
691
+ 110,
692
+ 111,
693
+ 115,
694
+ 119,
695
+ 120,
696
+ 121,
697
+ 123,
698
+ 127,
699
+ 129,
700
+ 132,
701
+ 134,
702
+ 136,
703
+ 138,
704
+ 141,
705
+ 143,
706
+ 146,
707
+ 150,
708
+ 151,
709
+ 153,
710
+ 156,
711
+ 158,
712
+ 159,
713
+ 161,
714
+ 162,
715
+ 164,
716
+ 166,
717
+ 171,
718
+ 174,
719
+ 180,
720
+ 181,
721
+ 183,
722
+ 195,
723
+ 202,
724
+ 205,
725
+ 206,
726
+ 207,
727
+ 209,
728
+ 212,
729
+ 216,
730
+ 219,
731
+ 223,
732
+ 224,
733
+ 225,
734
+ 227,
735
+ 230,
736
+ 232,
737
+ 233,
738
+ 234,
739
+ 236,
740
+ 238,
741
+ 239,
742
+ 242,
743
+ 243,
744
+ 244,
745
+ 248,
746
+ 250,
747
+ 251,
748
+ 253,
749
+ 255,
750
+ 256,
751
+ 268,
752
+ 276,
753
+ 278,
754
+ 280,
755
+ 281,
756
+ 283,
757
+ 285,
758
+ 288,
759
+ 292,
760
+ 295,
761
+ 296,
762
+ 298,
763
+ 299,
764
+ 302,
765
+ 309,
766
+ 311,
767
+ 312,
768
+ 313,
769
+ 314,
770
+ 315,
771
+ 318,
772
+ 320,
773
+ 325,
774
+ 326,
775
+ 327,
776
+ 330,
777
+ 337,
778
+ 343,
779
+ 344,
780
+ 348,
781
+ 349,
782
+ 357,
783
+ 366,
784
+ 369,
785
+ 370,
786
+ 372,
787
+ 374,
788
+ 381,
789
+ 383,
790
+ 386,
791
+ 390,
792
+ 393,
793
+ 395,
794
+ 396,
795
+ 397,
796
+ 399,
797
+ 401,
798
+ 404,
799
+ 406,
800
+ 408,
801
+ 410,
802
+ 415,
803
+ 417,
804
+ 420,
805
+ 422,
806
+ 425,
807
+ 433,
808
+ 436,
809
+ 437,
810
+ 438,
811
+ 441,
812
+ 449,
813
+ 450,
814
+ 459,
815
+ 460,
816
+ 467,
817
+ 470,
818
+ 472,
819
+ 476,
820
+ 480,
821
+ 481,
822
+ 483,
823
+ 485,
824
+ 486,
825
+ 488,
826
+ 491,
827
+ 494,
828
+ 495,
829
+ 501,
830
+ 502,
831
+ 510,
832
+ 511,
833
+ 513,
834
+ 514,
835
+ 522,
836
+ 524,
837
+ 525,
838
+ 526,
839
+ 528,
840
+ 529,
841
+ 531,
842
+ 535,
843
+ 537,
844
+ 539,
845
+ 541,
846
+ 543,
847
+ 551,
848
+ 555,
849
+ 558,
850
+ 565,
851
+ 568,
852
+ 570,
853
+ 571,
854
+ 573,
855
+ 576,
856
+ 577,
857
+ 578,
858
+ 579,
859
+ 580,
860
+ 585,
861
+ 591,
862
+ 592,
863
+ 593,
864
+ 596,
865
+ 604,
866
+ 607,
867
+ 610,
868
+ 612,
869
+ 613,
870
+ 614,
871
+ 625,
872
+ 627,
873
+ 628,
874
+ 629,
875
+ 630,
876
+ 632,
877
+ 646,
878
+ 647,
879
+ 650,
880
+ 653,
881
+ 655,
882
+ 660,
883
+ 661,
884
+ 662,
885
+ 664,
886
+ 667,
887
+ 670,
888
+ 671,
889
+ 672,
890
+ 676,
891
+ 678,
892
+ 679,
893
+ 681,
894
+ 683,
895
+ 686,
896
+ 690,
897
+ 691,
898
+ 696,
899
+ 698,
900
+ 700,
901
+ 704,
902
+ 707,
903
+ 711,
904
+ 713,
905
+ 718,
906
+ 728,
907
+ 729,
908
+ 740,
909
+ 742,
910
+ 743,
911
+ 745,
912
+ 754,
913
+ 757,
914
+ 760,
915
+ 761,
916
+ 765,
917
+ 768,
918
+ 772,
919
+ 780,
920
+ 781,
921
+ 783,
922
+ 784,
923
+ 785,
924
+ 787,
925
+ 788,
926
+ 789,
927
+ 794,
928
+ 795,
929
+ 799,
930
+ 801,
931
+ 803,
932
+ 805,
933
+ 806,
934
+ 808,
935
+ 819,
936
+ 822,
937
+ 823,
938
+ 828,
939
+ 834,
940
+ 840,
941
+ 841,
942
+ 842,
943
+ 844,
944
+ 845,
945
+ 848,
946
+ 849,
947
+ 850,
948
+ 851,
949
+ 853,
950
+ 856,
951
+ 860,
952
+ 861,
953
+ 867,
954
+ 869,
955
+ 871,
956
+ 874,
957
+ 876,
958
+ 878,
959
+ 883,
960
+ 886,
961
+ 887,
962
+ 888,
963
+ 890,
964
+ 892,
965
+ 895,
966
+ 898,
967
+ 899,
968
+ 900,
969
+ 901,
970
+ 904,
971
+ 907,
972
+ 911,
973
+ 914,
974
+ 917,
975
+ 918,
976
+ 919,
977
+ 924,
978
+ 926,
979
+ 927,
980
+ 928,
981
+ 929,
982
+ 932,
983
+ 933,
984
+ 936,
985
+ 937,
986
+ 938,
987
+ 940,
988
+ 942,
989
+ 944,
990
+ 945,
991
+ 949,
992
+ 950,
993
+ 957,
994
+ 958,
995
+ 959,
996
+ 962,
997
+ 963,
998
+ 967,
999
+ 968,
1000
+ 972,
1001
+ 975,
1002
+ 976,
1003
+ 977,
1004
+ 979,
1005
+ 981,
1006
+ 982,
1007
+ 985,
1008
+ 990,
1009
+ 993,
1010
+ 995,
1011
+ 996,
1012
+ 997
1013
+ ],
1014
+ "clean_baseline": 5.546875,
1015
+ "corrupted_baseline": -5.61328125
1016
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_1/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:427bb9fb2779f1fc3e89b62f3aea1c14f6aef84188db9acd98b968065ba8f3fd
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_1/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f6bd26ab4237f4ee59d7cb6b43de3c7adb460d705d45269c6ce773b1034df104
3
+ size 5235224
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_symbolic/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_symbolic/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.793,
7
+ "corrupted_accuracy": 0.807,
8
+ "both_correct_accuracy": 0.614,
9
+ "n_both_correct": 614,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 4,
15
+ 5,
16
+ 6,
17
+ 7,
18
+ 8,
19
+ 9,
20
+ 11,
21
+ 12,
22
+ 13,
23
+ 15,
24
+ 16,
25
+ 17,
26
+ 19,
27
+ 20,
28
+ 22,
29
+ 26,
30
+ 32,
31
+ 35,
32
+ 36,
33
+ 37,
34
+ 41,
35
+ 42,
36
+ 43,
37
+ 44,
38
+ 45,
39
+ 46,
40
+ 47,
41
+ 48,
42
+ 49,
43
+ 50,
44
+ 52,
45
+ 53,
46
+ 54,
47
+ 56,
48
+ 57,
49
+ 59,
50
+ 60,
51
+ 61,
52
+ 62,
53
+ 63,
54
+ 64,
55
+ 65,
56
+ 66,
57
+ 70,
58
+ 71,
59
+ 73,
60
+ 75,
61
+ 76,
62
+ 80,
63
+ 81,
64
+ 82,
65
+ 83,
66
+ 84,
67
+ 87,
68
+ 88,
69
+ 89,
70
+ 91,
71
+ 92,
72
+ 93,
73
+ 94,
74
+ 95,
75
+ 96,
76
+ 99,
77
+ 101,
78
+ 103,
79
+ 105,
80
+ 107,
81
+ 108,
82
+ 110,
83
+ 113,
84
+ 114,
85
+ 115,
86
+ 117,
87
+ 118,
88
+ 119,
89
+ 121,
90
+ 122,
91
+ 123,
92
+ 124,
93
+ 126,
94
+ 129,
95
+ 130,
96
+ 131,
97
+ 132,
98
+ 134,
99
+ 136,
100
+ 137,
101
+ 138,
102
+ 139,
103
+ 140,
104
+ 142,
105
+ 143,
106
+ 147,
107
+ 148,
108
+ 151,
109
+ 152,
110
+ 153,
111
+ 154,
112
+ 155,
113
+ 156,
114
+ 158,
115
+ 160,
116
+ 161,
117
+ 162,
118
+ 169,
119
+ 170,
120
+ 172,
121
+ 176,
122
+ 177,
123
+ 179,
124
+ 182,
125
+ 183,
126
+ 185,
127
+ 186,
128
+ 187,
129
+ 188,
130
+ 189,
131
+ 193,
132
+ 197,
133
+ 198,
134
+ 201,
135
+ 203,
136
+ 206,
137
+ 208,
138
+ 209,
139
+ 211,
140
+ 214,
141
+ 216,
142
+ 218,
143
+ 219,
144
+ 221,
145
+ 223,
146
+ 224,
147
+ 225,
148
+ 226,
149
+ 227,
150
+ 228,
151
+ 229,
152
+ 230,
153
+ 232,
154
+ 233,
155
+ 235,
156
+ 236,
157
+ 239,
158
+ 243,
159
+ 244,
160
+ 245,
161
+ 246,
162
+ 247,
163
+ 248,
164
+ 249,
165
+ 250,
166
+ 251,
167
+ 252,
168
+ 253,
169
+ 255,
170
+ 257,
171
+ 258,
172
+ 259,
173
+ 260,
174
+ 263,
175
+ 264,
176
+ 267,
177
+ 270,
178
+ 274,
179
+ 275,
180
+ 276,
181
+ 279,
182
+ 281,
183
+ 283,
184
+ 288,
185
+ 289,
186
+ 290,
187
+ 291,
188
+ 292,
189
+ 293,
190
+ 296,
191
+ 301,
192
+ 302,
193
+ 303,
194
+ 304,
195
+ 305,
196
+ 307,
197
+ 309,
198
+ 310,
199
+ 312,
200
+ 313,
201
+ 314,
202
+ 315,
203
+ 316,
204
+ 318,
205
+ 319,
206
+ 321,
207
+ 324,
208
+ 325,
209
+ 326,
210
+ 328,
211
+ 329,
212
+ 330,
213
+ 333,
214
+ 334,
215
+ 335,
216
+ 336,
217
+ 337,
218
+ 338,
219
+ 339,
220
+ 342,
221
+ 343,
222
+ 344,
223
+ 345,
224
+ 347,
225
+ 349,
226
+ 350,
227
+ 359,
228
+ 360,
229
+ 361,
230
+ 362,
231
+ 363,
232
+ 364,
233
+ 365,
234
+ 366,
235
+ 367,
236
+ 370,
237
+ 372,
238
+ 373,
239
+ 374,
240
+ 375,
241
+ 376,
242
+ 377,
243
+ 379,
244
+ 380,
245
+ 383,
246
+ 384,
247
+ 386,
248
+ 387,
249
+ 388,
250
+ 389,
251
+ 390,
252
+ 392,
253
+ 393,
254
+ 395,
255
+ 397,
256
+ 398,
257
+ 399,
258
+ 400,
259
+ 401,
260
+ 402,
261
+ 407,
262
+ 409,
263
+ 410,
264
+ 412,
265
+ 413,
266
+ 414,
267
+ 415,
268
+ 416,
269
+ 417,
270
+ 419,
271
+ 421,
272
+ 422,
273
+ 424,
274
+ 427,
275
+ 428,
276
+ 429,
277
+ 430,
278
+ 431,
279
+ 433,
280
+ 434,
281
+ 435,
282
+ 436,
283
+ 437,
284
+ 439,
285
+ 441,
286
+ 442,
287
+ 443,
288
+ 445,
289
+ 446,
290
+ 448,
291
+ 450,
292
+ 451,
293
+ 453,
294
+ 455,
295
+ 456,
296
+ 457,
297
+ 459,
298
+ 460,
299
+ 462,
300
+ 463,
301
+ 464,
302
+ 465,
303
+ 466,
304
+ 467,
305
+ 469,
306
+ 470,
307
+ 471,
308
+ 475,
309
+ 476,
310
+ 477,
311
+ 479,
312
+ 481,
313
+ 482,
314
+ 486,
315
+ 488,
316
+ 490,
317
+ 492,
318
+ 494,
319
+ 495,
320
+ 497,
321
+ 501,
322
+ 503,
323
+ 504,
324
+ 507,
325
+ 508,
326
+ 509,
327
+ 511,
328
+ 515,
329
+ 516,
330
+ 517,
331
+ 518,
332
+ 519,
333
+ 520,
334
+ 523,
335
+ 524,
336
+ 525,
337
+ 526,
338
+ 527,
339
+ 529,
340
+ 533,
341
+ 535,
342
+ 536,
343
+ 539,
344
+ 540,
345
+ 542,
346
+ 543,
347
+ 544,
348
+ 546,
349
+ 547,
350
+ 549,
351
+ 551,
352
+ 552,
353
+ 556,
354
+ 557,
355
+ 558,
356
+ 559,
357
+ 560,
358
+ 561,
359
+ 563,
360
+ 564,
361
+ 567,
362
+ 568,
363
+ 569,
364
+ 571,
365
+ 572,
366
+ 575,
367
+ 577,
368
+ 578,
369
+ 579,
370
+ 580,
371
+ 581,
372
+ 583,
373
+ 584,
374
+ 586,
375
+ 590,
376
+ 593,
377
+ 596,
378
+ 598,
379
+ 599,
380
+ 601,
381
+ 602,
382
+ 603,
383
+ 604,
384
+ 607,
385
+ 610,
386
+ 611,
387
+ 612,
388
+ 614,
389
+ 616,
390
+ 617,
391
+ 618,
392
+ 619,
393
+ 620,
394
+ 623,
395
+ 625,
396
+ 626,
397
+ 627,
398
+ 628,
399
+ 629,
400
+ 631,
401
+ 632,
402
+ 635,
403
+ 636,
404
+ 638,
405
+ 639,
406
+ 640,
407
+ 642,
408
+ 643,
409
+ 645,
410
+ 646,
411
+ 652,
412
+ 653,
413
+ 654,
414
+ 656,
415
+ 657,
416
+ 660,
417
+ 665,
418
+ 668,
419
+ 669,
420
+ 671,
421
+ 672,
422
+ 674,
423
+ 678,
424
+ 680,
425
+ 681,
426
+ 682,
427
+ 684,
428
+ 686,
429
+ 688,
430
+ 689,
431
+ 690,
432
+ 691,
433
+ 693,
434
+ 694,
435
+ 695,
436
+ 696,
437
+ 697,
438
+ 698,
439
+ 700,
440
+ 701,
441
+ 702,
442
+ 704,
443
+ 708,
444
+ 710,
445
+ 712,
446
+ 713,
447
+ 715,
448
+ 716,
449
+ 717,
450
+ 719,
451
+ 720,
452
+ 721,
453
+ 723,
454
+ 725,
455
+ 726,
456
+ 727,
457
+ 728,
458
+ 729,
459
+ 730,
460
+ 732,
461
+ 733,
462
+ 734,
463
+ 735,
464
+ 738,
465
+ 739,
466
+ 742,
467
+ 743,
468
+ 746,
469
+ 747,
470
+ 748,
471
+ 749,
472
+ 755,
473
+ 756,
474
+ 757,
475
+ 758,
476
+ 759,
477
+ 760,
478
+ 761,
479
+ 763,
480
+ 764,
481
+ 765,
482
+ 766,
483
+ 767,
484
+ 768,
485
+ 769,
486
+ 770,
487
+ 771,
488
+ 772,
489
+ 773,
490
+ 774,
491
+ 775,
492
+ 778,
493
+ 780,
494
+ 781,
495
+ 782,
496
+ 783,
497
+ 785,
498
+ 788,
499
+ 789,
500
+ 790,
501
+ 793,
502
+ 794,
503
+ 795,
504
+ 798,
505
+ 801,
506
+ 803,
507
+ 804,
508
+ 807,
509
+ 813,
510
+ 818,
511
+ 819,
512
+ 820,
513
+ 823,
514
+ 824,
515
+ 825,
516
+ 826,
517
+ 828,
518
+ 829,
519
+ 831,
520
+ 832,
521
+ 833,
522
+ 834,
523
+ 837,
524
+ 838,
525
+ 840,
526
+ 842,
527
+ 843,
528
+ 844,
529
+ 845,
530
+ 846,
531
+ 847,
532
+ 848,
533
+ 849,
534
+ 850,
535
+ 851,
536
+ 852,
537
+ 853,
538
+ 856,
539
+ 857,
540
+ 858,
541
+ 859,
542
+ 860,
543
+ 861,
544
+ 862,
545
+ 863,
546
+ 864,
547
+ 868,
548
+ 870,
549
+ 871,
550
+ 872,
551
+ 873,
552
+ 874,
553
+ 877,
554
+ 879,
555
+ 882,
556
+ 883,
557
+ 884,
558
+ 885,
559
+ 886,
560
+ 887,
561
+ 888,
562
+ 889,
563
+ 890,
564
+ 893,
565
+ 894,
566
+ 895,
567
+ 896,
568
+ 898,
569
+ 901,
570
+ 902,
571
+ 904,
572
+ 905,
573
+ 906,
574
+ 909,
575
+ 911,
576
+ 912,
577
+ 913,
578
+ 918,
579
+ 921,
580
+ 923,
581
+ 924,
582
+ 926,
583
+ 928,
584
+ 929,
585
+ 931,
586
+ 933,
587
+ 934,
588
+ 935,
589
+ 936,
590
+ 937,
591
+ 938,
592
+ 939,
593
+ 941,
594
+ 942,
595
+ 945,
596
+ 946,
597
+ 949,
598
+ 953,
599
+ 955,
600
+ 957,
601
+ 958,
602
+ 963,
603
+ 964,
604
+ 965,
605
+ 967,
606
+ 970,
607
+ 972,
608
+ 973,
609
+ 974,
610
+ 975,
611
+ 978,
612
+ 979,
613
+ 980,
614
+ 983,
615
+ 984,
616
+ 985,
617
+ 987,
618
+ 989,
619
+ 990,
620
+ 993,
621
+ 996,
622
+ 997,
623
+ 998,
624
+ 999
625
+ ],
626
+ "not_both_correct_indices": [
627
+ 3,
628
+ 10,
629
+ 14,
630
+ 18,
631
+ 21,
632
+ 23,
633
+ 24,
634
+ 25,
635
+ 27,
636
+ 28,
637
+ 29,
638
+ 30,
639
+ 31,
640
+ 33,
641
+ 34,
642
+ 38,
643
+ 39,
644
+ 40,
645
+ 51,
646
+ 55,
647
+ 58,
648
+ 67,
649
+ 68,
650
+ 69,
651
+ 72,
652
+ 74,
653
+ 77,
654
+ 78,
655
+ 79,
656
+ 85,
657
+ 86,
658
+ 90,
659
+ 97,
660
+ 98,
661
+ 100,
662
+ 102,
663
+ 104,
664
+ 106,
665
+ 109,
666
+ 111,
667
+ 112,
668
+ 116,
669
+ 120,
670
+ 125,
671
+ 127,
672
+ 128,
673
+ 133,
674
+ 135,
675
+ 141,
676
+ 144,
677
+ 145,
678
+ 146,
679
+ 149,
680
+ 150,
681
+ 157,
682
+ 159,
683
+ 163,
684
+ 164,
685
+ 165,
686
+ 166,
687
+ 167,
688
+ 168,
689
+ 171,
690
+ 173,
691
+ 174,
692
+ 175,
693
+ 178,
694
+ 180,
695
+ 181,
696
+ 184,
697
+ 190,
698
+ 191,
699
+ 192,
700
+ 194,
701
+ 195,
702
+ 196,
703
+ 199,
704
+ 200,
705
+ 202,
706
+ 204,
707
+ 205,
708
+ 207,
709
+ 210,
710
+ 212,
711
+ 213,
712
+ 215,
713
+ 217,
714
+ 220,
715
+ 222,
716
+ 231,
717
+ 234,
718
+ 237,
719
+ 238,
720
+ 240,
721
+ 241,
722
+ 242,
723
+ 254,
724
+ 256,
725
+ 261,
726
+ 262,
727
+ 265,
728
+ 266,
729
+ 268,
730
+ 269,
731
+ 271,
732
+ 272,
733
+ 273,
734
+ 277,
735
+ 278,
736
+ 280,
737
+ 282,
738
+ 284,
739
+ 285,
740
+ 286,
741
+ 287,
742
+ 294,
743
+ 295,
744
+ 297,
745
+ 298,
746
+ 299,
747
+ 300,
748
+ 306,
749
+ 308,
750
+ 311,
751
+ 317,
752
+ 320,
753
+ 322,
754
+ 323,
755
+ 327,
756
+ 331,
757
+ 332,
758
+ 340,
759
+ 341,
760
+ 346,
761
+ 348,
762
+ 351,
763
+ 352,
764
+ 353,
765
+ 354,
766
+ 355,
767
+ 356,
768
+ 357,
769
+ 358,
770
+ 368,
771
+ 369,
772
+ 371,
773
+ 378,
774
+ 381,
775
+ 382,
776
+ 385,
777
+ 391,
778
+ 394,
779
+ 396,
780
+ 403,
781
+ 404,
782
+ 405,
783
+ 406,
784
+ 408,
785
+ 411,
786
+ 418,
787
+ 420,
788
+ 423,
789
+ 425,
790
+ 426,
791
+ 432,
792
+ 438,
793
+ 440,
794
+ 444,
795
+ 447,
796
+ 449,
797
+ 452,
798
+ 454,
799
+ 458,
800
+ 461,
801
+ 468,
802
+ 472,
803
+ 473,
804
+ 474,
805
+ 478,
806
+ 480,
807
+ 483,
808
+ 484,
809
+ 485,
810
+ 487,
811
+ 489,
812
+ 491,
813
+ 493,
814
+ 496,
815
+ 498,
816
+ 499,
817
+ 500,
818
+ 502,
819
+ 505,
820
+ 506,
821
+ 510,
822
+ 512,
823
+ 513,
824
+ 514,
825
+ 521,
826
+ 522,
827
+ 528,
828
+ 530,
829
+ 531,
830
+ 532,
831
+ 534,
832
+ 537,
833
+ 538,
834
+ 541,
835
+ 545,
836
+ 548,
837
+ 550,
838
+ 553,
839
+ 554,
840
+ 555,
841
+ 562,
842
+ 565,
843
+ 566,
844
+ 570,
845
+ 573,
846
+ 574,
847
+ 576,
848
+ 582,
849
+ 585,
850
+ 587,
851
+ 588,
852
+ 589,
853
+ 591,
854
+ 592,
855
+ 594,
856
+ 595,
857
+ 597,
858
+ 600,
859
+ 605,
860
+ 606,
861
+ 608,
862
+ 609,
863
+ 613,
864
+ 615,
865
+ 621,
866
+ 622,
867
+ 624,
868
+ 630,
869
+ 633,
870
+ 634,
871
+ 637,
872
+ 641,
873
+ 644,
874
+ 647,
875
+ 648,
876
+ 649,
877
+ 650,
878
+ 651,
879
+ 655,
880
+ 658,
881
+ 659,
882
+ 661,
883
+ 662,
884
+ 663,
885
+ 664,
886
+ 666,
887
+ 667,
888
+ 670,
889
+ 673,
890
+ 675,
891
+ 676,
892
+ 677,
893
+ 679,
894
+ 683,
895
+ 685,
896
+ 687,
897
+ 692,
898
+ 699,
899
+ 703,
900
+ 705,
901
+ 706,
902
+ 707,
903
+ 709,
904
+ 711,
905
+ 714,
906
+ 718,
907
+ 722,
908
+ 724,
909
+ 731,
910
+ 736,
911
+ 737,
912
+ 740,
913
+ 741,
914
+ 744,
915
+ 745,
916
+ 750,
917
+ 751,
918
+ 752,
919
+ 753,
920
+ 754,
921
+ 762,
922
+ 776,
923
+ 777,
924
+ 779,
925
+ 784,
926
+ 786,
927
+ 787,
928
+ 791,
929
+ 792,
930
+ 796,
931
+ 797,
932
+ 799,
933
+ 800,
934
+ 802,
935
+ 805,
936
+ 806,
937
+ 808,
938
+ 809,
939
+ 810,
940
+ 811,
941
+ 812,
942
+ 814,
943
+ 815,
944
+ 816,
945
+ 817,
946
+ 821,
947
+ 822,
948
+ 827,
949
+ 830,
950
+ 835,
951
+ 836,
952
+ 839,
953
+ 841,
954
+ 854,
955
+ 855,
956
+ 865,
957
+ 866,
958
+ 867,
959
+ 869,
960
+ 875,
961
+ 876,
962
+ 878,
963
+ 880,
964
+ 881,
965
+ 891,
966
+ 892,
967
+ 897,
968
+ 899,
969
+ 900,
970
+ 903,
971
+ 907,
972
+ 908,
973
+ 910,
974
+ 914,
975
+ 915,
976
+ 916,
977
+ 917,
978
+ 919,
979
+ 920,
980
+ 922,
981
+ 925,
982
+ 927,
983
+ 930,
984
+ 932,
985
+ 940,
986
+ 943,
987
+ 944,
988
+ 947,
989
+ 948,
990
+ 950,
991
+ 951,
992
+ 952,
993
+ 954,
994
+ 956,
995
+ 959,
996
+ 960,
997
+ 961,
998
+ 962,
999
+ 966,
1000
+ 968,
1001
+ 969,
1002
+ 971,
1003
+ 976,
1004
+ 977,
1005
+ 981,
1006
+ 982,
1007
+ 986,
1008
+ 988,
1009
+ 991,
1010
+ 992,
1011
+ 994,
1012
+ 995
1013
+ ],
1014
+ "clean_baseline": 2.134765625,
1015
+ "corrupted_baseline": -1.9794921875
1016
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_symbolic/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:b51c47a8191a5d6d2c24b9a013a88440551002000d03e51c893e5b8bd58076d7
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_propositional_symbolic/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f196fca680242656d05ae54e4f7a0fec1d5e8bfee6565e97f42f74c74b54de94
3
+ size 5239928
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_1/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_1/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.988,
7
+ "corrupted_accuracy": 0.983,
8
+ "both_correct_accuracy": 0.971,
9
+ "n_both_correct": 971,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 27,
38
+ 28,
39
+ 29,
40
+ 30,
41
+ 31,
42
+ 32,
43
+ 33,
44
+ 34,
45
+ 35,
46
+ 36,
47
+ 37,
48
+ 38,
49
+ 39,
50
+ 40,
51
+ 41,
52
+ 42,
53
+ 43,
54
+ 44,
55
+ 45,
56
+ 46,
57
+ 47,
58
+ 48,
59
+ 49,
60
+ 50,
61
+ 51,
62
+ 52,
63
+ 53,
64
+ 54,
65
+ 55,
66
+ 56,
67
+ 57,
68
+ 58,
69
+ 59,
70
+ 61,
71
+ 62,
72
+ 63,
73
+ 64,
74
+ 65,
75
+ 66,
76
+ 67,
77
+ 68,
78
+ 69,
79
+ 70,
80
+ 71,
81
+ 72,
82
+ 73,
83
+ 74,
84
+ 75,
85
+ 76,
86
+ 77,
87
+ 78,
88
+ 79,
89
+ 80,
90
+ 81,
91
+ 82,
92
+ 83,
93
+ 84,
94
+ 85,
95
+ 86,
96
+ 87,
97
+ 88,
98
+ 89,
99
+ 90,
100
+ 91,
101
+ 92,
102
+ 93,
103
+ 94,
104
+ 95,
105
+ 96,
106
+ 97,
107
+ 98,
108
+ 99,
109
+ 100,
110
+ 101,
111
+ 102,
112
+ 103,
113
+ 104,
114
+ 105,
115
+ 106,
116
+ 107,
117
+ 108,
118
+ 109,
119
+ 110,
120
+ 111,
121
+ 112,
122
+ 113,
123
+ 114,
124
+ 115,
125
+ 116,
126
+ 117,
127
+ 118,
128
+ 119,
129
+ 120,
130
+ 121,
131
+ 122,
132
+ 123,
133
+ 124,
134
+ 125,
135
+ 126,
136
+ 127,
137
+ 128,
138
+ 129,
139
+ 130,
140
+ 131,
141
+ 132,
142
+ 133,
143
+ 134,
144
+ 135,
145
+ 136,
146
+ 137,
147
+ 138,
148
+ 139,
149
+ 140,
150
+ 141,
151
+ 143,
152
+ 144,
153
+ 145,
154
+ 146,
155
+ 147,
156
+ 148,
157
+ 149,
158
+ 150,
159
+ 151,
160
+ 152,
161
+ 153,
162
+ 154,
163
+ 155,
164
+ 156,
165
+ 157,
166
+ 158,
167
+ 159,
168
+ 160,
169
+ 161,
170
+ 163,
171
+ 164,
172
+ 165,
173
+ 166,
174
+ 167,
175
+ 168,
176
+ 169,
177
+ 170,
178
+ 171,
179
+ 172,
180
+ 173,
181
+ 174,
182
+ 175,
183
+ 176,
184
+ 177,
185
+ 178,
186
+ 179,
187
+ 180,
188
+ 181,
189
+ 182,
190
+ 183,
191
+ 184,
192
+ 185,
193
+ 186,
194
+ 187,
195
+ 188,
196
+ 189,
197
+ 190,
198
+ 191,
199
+ 192,
200
+ 194,
201
+ 195,
202
+ 196,
203
+ 197,
204
+ 198,
205
+ 199,
206
+ 200,
207
+ 201,
208
+ 202,
209
+ 203,
210
+ 204,
211
+ 205,
212
+ 206,
213
+ 207,
214
+ 208,
215
+ 209,
216
+ 210,
217
+ 211,
218
+ 212,
219
+ 213,
220
+ 214,
221
+ 215,
222
+ 217,
223
+ 218,
224
+ 219,
225
+ 220,
226
+ 221,
227
+ 222,
228
+ 223,
229
+ 224,
230
+ 225,
231
+ 226,
232
+ 227,
233
+ 228,
234
+ 229,
235
+ 230,
236
+ 231,
237
+ 233,
238
+ 234,
239
+ 235,
240
+ 236,
241
+ 237,
242
+ 238,
243
+ 239,
244
+ 240,
245
+ 241,
246
+ 242,
247
+ 243,
248
+ 244,
249
+ 245,
250
+ 246,
251
+ 247,
252
+ 248,
253
+ 249,
254
+ 250,
255
+ 251,
256
+ 252,
257
+ 253,
258
+ 254,
259
+ 255,
260
+ 256,
261
+ 257,
262
+ 258,
263
+ 259,
264
+ 260,
265
+ 261,
266
+ 262,
267
+ 263,
268
+ 265,
269
+ 266,
270
+ 267,
271
+ 269,
272
+ 271,
273
+ 272,
274
+ 273,
275
+ 274,
276
+ 275,
277
+ 276,
278
+ 277,
279
+ 278,
280
+ 279,
281
+ 280,
282
+ 281,
283
+ 282,
284
+ 283,
285
+ 284,
286
+ 285,
287
+ 286,
288
+ 287,
289
+ 288,
290
+ 289,
291
+ 290,
292
+ 291,
293
+ 292,
294
+ 293,
295
+ 294,
296
+ 295,
297
+ 296,
298
+ 297,
299
+ 298,
300
+ 299,
301
+ 300,
302
+ 301,
303
+ 302,
304
+ 303,
305
+ 304,
306
+ 305,
307
+ 306,
308
+ 307,
309
+ 308,
310
+ 309,
311
+ 310,
312
+ 311,
313
+ 312,
314
+ 313,
315
+ 314,
316
+ 315,
317
+ 316,
318
+ 317,
319
+ 318,
320
+ 319,
321
+ 320,
322
+ 321,
323
+ 323,
324
+ 324,
325
+ 325,
326
+ 326,
327
+ 327,
328
+ 328,
329
+ 329,
330
+ 330,
331
+ 331,
332
+ 332,
333
+ 333,
334
+ 334,
335
+ 335,
336
+ 336,
337
+ 337,
338
+ 338,
339
+ 339,
340
+ 340,
341
+ 341,
342
+ 342,
343
+ 343,
344
+ 344,
345
+ 345,
346
+ 346,
347
+ 347,
348
+ 348,
349
+ 349,
350
+ 350,
351
+ 351,
352
+ 352,
353
+ 353,
354
+ 354,
355
+ 355,
356
+ 356,
357
+ 357,
358
+ 358,
359
+ 359,
360
+ 361,
361
+ 362,
362
+ 363,
363
+ 364,
364
+ 365,
365
+ 366,
366
+ 367,
367
+ 368,
368
+ 369,
369
+ 370,
370
+ 371,
371
+ 372,
372
+ 373,
373
+ 374,
374
+ 375,
375
+ 376,
376
+ 377,
377
+ 378,
378
+ 380,
379
+ 381,
380
+ 382,
381
+ 383,
382
+ 384,
383
+ 385,
384
+ 386,
385
+ 387,
386
+ 388,
387
+ 389,
388
+ 390,
389
+ 391,
390
+ 392,
391
+ 393,
392
+ 394,
393
+ 395,
394
+ 396,
395
+ 397,
396
+ 398,
397
+ 399,
398
+ 400,
399
+ 401,
400
+ 402,
401
+ 403,
402
+ 404,
403
+ 405,
404
+ 406,
405
+ 407,
406
+ 408,
407
+ 410,
408
+ 411,
409
+ 412,
410
+ 413,
411
+ 414,
412
+ 415,
413
+ 416,
414
+ 417,
415
+ 418,
416
+ 419,
417
+ 420,
418
+ 421,
419
+ 422,
420
+ 423,
421
+ 424,
422
+ 425,
423
+ 426,
424
+ 427,
425
+ 428,
426
+ 429,
427
+ 430,
428
+ 431,
429
+ 432,
430
+ 433,
431
+ 434,
432
+ 435,
433
+ 436,
434
+ 437,
435
+ 438,
436
+ 439,
437
+ 440,
438
+ 441,
439
+ 442,
440
+ 443,
441
+ 444,
442
+ 445,
443
+ 446,
444
+ 447,
445
+ 448,
446
+ 449,
447
+ 450,
448
+ 451,
449
+ 452,
450
+ 453,
451
+ 454,
452
+ 455,
453
+ 456,
454
+ 457,
455
+ 458,
456
+ 459,
457
+ 460,
458
+ 461,
459
+ 463,
460
+ 464,
461
+ 465,
462
+ 466,
463
+ 467,
464
+ 468,
465
+ 470,
466
+ 471,
467
+ 472,
468
+ 473,
469
+ 474,
470
+ 475,
471
+ 476,
472
+ 477,
473
+ 478,
474
+ 479,
475
+ 480,
476
+ 481,
477
+ 482,
478
+ 483,
479
+ 484,
480
+ 485,
481
+ 486,
482
+ 487,
483
+ 488,
484
+ 489,
485
+ 490,
486
+ 491,
487
+ 492,
488
+ 493,
489
+ 494,
490
+ 495,
491
+ 496,
492
+ 497,
493
+ 498,
494
+ 499,
495
+ 500,
496
+ 501,
497
+ 502,
498
+ 503,
499
+ 504,
500
+ 505,
501
+ 506,
502
+ 507,
503
+ 508,
504
+ 509,
505
+ 510,
506
+ 511,
507
+ 512,
508
+ 515,
509
+ 516,
510
+ 517,
511
+ 518,
512
+ 519,
513
+ 520,
514
+ 521,
515
+ 522,
516
+ 523,
517
+ 524,
518
+ 525,
519
+ 526,
520
+ 527,
521
+ 528,
522
+ 529,
523
+ 530,
524
+ 531,
525
+ 532,
526
+ 533,
527
+ 535,
528
+ 536,
529
+ 537,
530
+ 538,
531
+ 539,
532
+ 540,
533
+ 541,
534
+ 542,
535
+ 543,
536
+ 544,
537
+ 545,
538
+ 546,
539
+ 547,
540
+ 548,
541
+ 549,
542
+ 550,
543
+ 551,
544
+ 552,
545
+ 553,
546
+ 554,
547
+ 555,
548
+ 556,
549
+ 557,
550
+ 558,
551
+ 559,
552
+ 560,
553
+ 561,
554
+ 562,
555
+ 563,
556
+ 564,
557
+ 565,
558
+ 566,
559
+ 567,
560
+ 568,
561
+ 569,
562
+ 570,
563
+ 571,
564
+ 572,
565
+ 573,
566
+ 574,
567
+ 575,
568
+ 576,
569
+ 577,
570
+ 578,
571
+ 579,
572
+ 580,
573
+ 581,
574
+ 582,
575
+ 583,
576
+ 584,
577
+ 585,
578
+ 586,
579
+ 587,
580
+ 588,
581
+ 589,
582
+ 590,
583
+ 591,
584
+ 592,
585
+ 593,
586
+ 594,
587
+ 595,
588
+ 596,
589
+ 597,
590
+ 598,
591
+ 599,
592
+ 600,
593
+ 601,
594
+ 602,
595
+ 603,
596
+ 605,
597
+ 606,
598
+ 607,
599
+ 608,
600
+ 609,
601
+ 610,
602
+ 611,
603
+ 612,
604
+ 613,
605
+ 614,
606
+ 615,
607
+ 616,
608
+ 617,
609
+ 618,
610
+ 619,
611
+ 620,
612
+ 621,
613
+ 622,
614
+ 623,
615
+ 624,
616
+ 625,
617
+ 626,
618
+ 627,
619
+ 628,
620
+ 629,
621
+ 630,
622
+ 631,
623
+ 632,
624
+ 633,
625
+ 634,
626
+ 636,
627
+ 637,
628
+ 638,
629
+ 639,
630
+ 640,
631
+ 641,
632
+ 642,
633
+ 643,
634
+ 644,
635
+ 645,
636
+ 646,
637
+ 647,
638
+ 648,
639
+ 649,
640
+ 650,
641
+ 651,
642
+ 652,
643
+ 653,
644
+ 654,
645
+ 655,
646
+ 656,
647
+ 657,
648
+ 658,
649
+ 659,
650
+ 660,
651
+ 661,
652
+ 662,
653
+ 663,
654
+ 664,
655
+ 665,
656
+ 666,
657
+ 667,
658
+ 668,
659
+ 669,
660
+ 670,
661
+ 671,
662
+ 672,
663
+ 673,
664
+ 674,
665
+ 675,
666
+ 676,
667
+ 677,
668
+ 678,
669
+ 679,
670
+ 680,
671
+ 681,
672
+ 682,
673
+ 683,
674
+ 684,
675
+ 685,
676
+ 686,
677
+ 687,
678
+ 688,
679
+ 689,
680
+ 690,
681
+ 691,
682
+ 692,
683
+ 693,
684
+ 694,
685
+ 695,
686
+ 696,
687
+ 697,
688
+ 698,
689
+ 699,
690
+ 700,
691
+ 701,
692
+ 702,
693
+ 703,
694
+ 704,
695
+ 705,
696
+ 706,
697
+ 707,
698
+ 708,
699
+ 709,
700
+ 710,
701
+ 711,
702
+ 712,
703
+ 713,
704
+ 714,
705
+ 715,
706
+ 716,
707
+ 717,
708
+ 718,
709
+ 719,
710
+ 720,
711
+ 721,
712
+ 722,
713
+ 723,
714
+ 724,
715
+ 725,
716
+ 726,
717
+ 727,
718
+ 728,
719
+ 729,
720
+ 730,
721
+ 731,
722
+ 733,
723
+ 734,
724
+ 735,
725
+ 736,
726
+ 737,
727
+ 738,
728
+ 739,
729
+ 740,
730
+ 741,
731
+ 742,
732
+ 743,
733
+ 744,
734
+ 745,
735
+ 746,
736
+ 747,
737
+ 748,
738
+ 749,
739
+ 750,
740
+ 751,
741
+ 752,
742
+ 753,
743
+ 754,
744
+ 755,
745
+ 756,
746
+ 757,
747
+ 758,
748
+ 759,
749
+ 760,
750
+ 761,
751
+ 762,
752
+ 763,
753
+ 764,
754
+ 765,
755
+ 766,
756
+ 767,
757
+ 768,
758
+ 769,
759
+ 771,
760
+ 772,
761
+ 773,
762
+ 774,
763
+ 775,
764
+ 776,
765
+ 777,
766
+ 778,
767
+ 779,
768
+ 780,
769
+ 781,
770
+ 782,
771
+ 783,
772
+ 784,
773
+ 785,
774
+ 786,
775
+ 787,
776
+ 788,
777
+ 789,
778
+ 790,
779
+ 791,
780
+ 792,
781
+ 793,
782
+ 794,
783
+ 795,
784
+ 796,
785
+ 797,
786
+ 798,
787
+ 799,
788
+ 800,
789
+ 801,
790
+ 802,
791
+ 803,
792
+ 804,
793
+ 806,
794
+ 807,
795
+ 808,
796
+ 809,
797
+ 810,
798
+ 811,
799
+ 812,
800
+ 813,
801
+ 814,
802
+ 815,
803
+ 816,
804
+ 817,
805
+ 818,
806
+ 819,
807
+ 820,
808
+ 821,
809
+ 822,
810
+ 823,
811
+ 824,
812
+ 825,
813
+ 826,
814
+ 827,
815
+ 828,
816
+ 829,
817
+ 830,
818
+ 831,
819
+ 833,
820
+ 834,
821
+ 835,
822
+ 836,
823
+ 837,
824
+ 838,
825
+ 839,
826
+ 840,
827
+ 841,
828
+ 842,
829
+ 843,
830
+ 844,
831
+ 845,
832
+ 846,
833
+ 847,
834
+ 848,
835
+ 849,
836
+ 850,
837
+ 851,
838
+ 852,
839
+ 853,
840
+ 854,
841
+ 855,
842
+ 856,
843
+ 857,
844
+ 858,
845
+ 859,
846
+ 860,
847
+ 861,
848
+ 862,
849
+ 863,
850
+ 864,
851
+ 865,
852
+ 866,
853
+ 867,
854
+ 868,
855
+ 869,
856
+ 870,
857
+ 871,
858
+ 872,
859
+ 873,
860
+ 874,
861
+ 875,
862
+ 876,
863
+ 877,
864
+ 878,
865
+ 879,
866
+ 880,
867
+ 881,
868
+ 882,
869
+ 883,
870
+ 884,
871
+ 885,
872
+ 886,
873
+ 887,
874
+ 888,
875
+ 889,
876
+ 890,
877
+ 891,
878
+ 892,
879
+ 893,
880
+ 894,
881
+ 895,
882
+ 896,
883
+ 897,
884
+ 898,
885
+ 899,
886
+ 900,
887
+ 901,
888
+ 902,
889
+ 903,
890
+ 904,
891
+ 905,
892
+ 906,
893
+ 907,
894
+ 908,
895
+ 909,
896
+ 910,
897
+ 912,
898
+ 913,
899
+ 914,
900
+ 915,
901
+ 916,
902
+ 917,
903
+ 918,
904
+ 920,
905
+ 921,
906
+ 922,
907
+ 923,
908
+ 924,
909
+ 925,
910
+ 926,
911
+ 927,
912
+ 928,
913
+ 929,
914
+ 930,
915
+ 932,
916
+ 933,
917
+ 934,
918
+ 935,
919
+ 936,
920
+ 937,
921
+ 938,
922
+ 939,
923
+ 940,
924
+ 941,
925
+ 942,
926
+ 943,
927
+ 944,
928
+ 945,
929
+ 946,
930
+ 947,
931
+ 948,
932
+ 949,
933
+ 950,
934
+ 951,
935
+ 952,
936
+ 953,
937
+ 954,
938
+ 955,
939
+ 956,
940
+ 957,
941
+ 958,
942
+ 959,
943
+ 960,
944
+ 961,
945
+ 962,
946
+ 963,
947
+ 964,
948
+ 965,
949
+ 966,
950
+ 967,
951
+ 968,
952
+ 969,
953
+ 970,
954
+ 971,
955
+ 972,
956
+ 973,
957
+ 974,
958
+ 975,
959
+ 976,
960
+ 977,
961
+ 978,
962
+ 979,
963
+ 980,
964
+ 981,
965
+ 983,
966
+ 984,
967
+ 985,
968
+ 986,
969
+ 987,
970
+ 988,
971
+ 989,
972
+ 990,
973
+ 991,
974
+ 992,
975
+ 993,
976
+ 994,
977
+ 995,
978
+ 996,
979
+ 997,
980
+ 998,
981
+ 999
982
+ ],
983
+ "not_both_correct_indices": [
984
+ 26,
985
+ 60,
986
+ 142,
987
+ 162,
988
+ 193,
989
+ 216,
990
+ 232,
991
+ 264,
992
+ 268,
993
+ 270,
994
+ 322,
995
+ 360,
996
+ 379,
997
+ 409,
998
+ 462,
999
+ 469,
1000
+ 513,
1001
+ 514,
1002
+ 534,
1003
+ 604,
1004
+ 635,
1005
+ 732,
1006
+ 770,
1007
+ 805,
1008
+ 832,
1009
+ 911,
1010
+ 919,
1011
+ 931,
1012
+ 982
1013
+ ],
1014
+ "clean_baseline": 4.5625,
1015
+ "corrupted_baseline": -4.57421875
1016
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_1/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:3743bae37aa94f1ba9b30b2db4b04b1309f2b805f6fc893079d03d2ac19f83a9
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_1/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:52d488f8c57da411b718ca874c1b26806946d3cbe9700a95a00faff8c81ef761
3
+ size 5241432
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_symbolic/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_symbolic/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.927,
7
+ "corrupted_accuracy": 0.903,
8
+ "both_correct_accuracy": 0.84,
9
+ "n_both_correct": 840,
10
+ "both_correct_indices": [
11
+ 1,
12
+ 2,
13
+ 3,
14
+ 4,
15
+ 6,
16
+ 8,
17
+ 9,
18
+ 10,
19
+ 13,
20
+ 14,
21
+ 15,
22
+ 16,
23
+ 17,
24
+ 18,
25
+ 19,
26
+ 20,
27
+ 21,
28
+ 22,
29
+ 23,
30
+ 24,
31
+ 25,
32
+ 26,
33
+ 27,
34
+ 28,
35
+ 30,
36
+ 31,
37
+ 32,
38
+ 33,
39
+ 34,
40
+ 35,
41
+ 36,
42
+ 37,
43
+ 38,
44
+ 39,
45
+ 41,
46
+ 42,
47
+ 43,
48
+ 44,
49
+ 45,
50
+ 46,
51
+ 47,
52
+ 48,
53
+ 49,
54
+ 50,
55
+ 51,
56
+ 52,
57
+ 53,
58
+ 54,
59
+ 55,
60
+ 56,
61
+ 57,
62
+ 58,
63
+ 59,
64
+ 61,
65
+ 62,
66
+ 63,
67
+ 64,
68
+ 65,
69
+ 66,
70
+ 67,
71
+ 68,
72
+ 69,
73
+ 70,
74
+ 71,
75
+ 72,
76
+ 73,
77
+ 74,
78
+ 75,
79
+ 76,
80
+ 77,
81
+ 78,
82
+ 79,
83
+ 80,
84
+ 82,
85
+ 83,
86
+ 86,
87
+ 87,
88
+ 88,
89
+ 89,
90
+ 90,
91
+ 91,
92
+ 92,
93
+ 94,
94
+ 95,
95
+ 96,
96
+ 97,
97
+ 98,
98
+ 99,
99
+ 101,
100
+ 102,
101
+ 103,
102
+ 104,
103
+ 105,
104
+ 106,
105
+ 107,
106
+ 108,
107
+ 109,
108
+ 110,
109
+ 111,
110
+ 112,
111
+ 113,
112
+ 115,
113
+ 116,
114
+ 117,
115
+ 118,
116
+ 119,
117
+ 120,
118
+ 121,
119
+ 122,
120
+ 123,
121
+ 125,
122
+ 126,
123
+ 127,
124
+ 128,
125
+ 129,
126
+ 130,
127
+ 133,
128
+ 134,
129
+ 135,
130
+ 136,
131
+ 138,
132
+ 140,
133
+ 141,
134
+ 143,
135
+ 144,
136
+ 145,
137
+ 146,
138
+ 147,
139
+ 148,
140
+ 149,
141
+ 151,
142
+ 152,
143
+ 153,
144
+ 154,
145
+ 156,
146
+ 157,
147
+ 162,
148
+ 163,
149
+ 165,
150
+ 166,
151
+ 167,
152
+ 168,
153
+ 169,
154
+ 170,
155
+ 171,
156
+ 172,
157
+ 173,
158
+ 174,
159
+ 175,
160
+ 176,
161
+ 178,
162
+ 179,
163
+ 180,
164
+ 181,
165
+ 182,
166
+ 183,
167
+ 184,
168
+ 185,
169
+ 186,
170
+ 187,
171
+ 188,
172
+ 189,
173
+ 190,
174
+ 191,
175
+ 192,
176
+ 193,
177
+ 194,
178
+ 195,
179
+ 196,
180
+ 198,
181
+ 199,
182
+ 200,
183
+ 201,
184
+ 202,
185
+ 203,
186
+ 204,
187
+ 205,
188
+ 206,
189
+ 207,
190
+ 208,
191
+ 209,
192
+ 210,
193
+ 212,
194
+ 213,
195
+ 214,
196
+ 216,
197
+ 218,
198
+ 219,
199
+ 220,
200
+ 221,
201
+ 222,
202
+ 223,
203
+ 225,
204
+ 227,
205
+ 229,
206
+ 230,
207
+ 231,
208
+ 233,
209
+ 235,
210
+ 236,
211
+ 237,
212
+ 238,
213
+ 239,
214
+ 241,
215
+ 242,
216
+ 243,
217
+ 244,
218
+ 245,
219
+ 246,
220
+ 247,
221
+ 249,
222
+ 250,
223
+ 252,
224
+ 253,
225
+ 254,
226
+ 255,
227
+ 256,
228
+ 257,
229
+ 258,
230
+ 259,
231
+ 260,
232
+ 261,
233
+ 262,
234
+ 263,
235
+ 264,
236
+ 265,
237
+ 266,
238
+ 267,
239
+ 268,
240
+ 269,
241
+ 270,
242
+ 271,
243
+ 272,
244
+ 273,
245
+ 274,
246
+ 275,
247
+ 277,
248
+ 278,
249
+ 280,
250
+ 281,
251
+ 282,
252
+ 283,
253
+ 284,
254
+ 285,
255
+ 286,
256
+ 287,
257
+ 288,
258
+ 290,
259
+ 291,
260
+ 292,
261
+ 293,
262
+ 294,
263
+ 295,
264
+ 296,
265
+ 297,
266
+ 298,
267
+ 299,
268
+ 300,
269
+ 301,
270
+ 302,
271
+ 303,
272
+ 304,
273
+ 305,
274
+ 306,
275
+ 308,
276
+ 309,
277
+ 310,
278
+ 312,
279
+ 313,
280
+ 314,
281
+ 315,
282
+ 316,
283
+ 317,
284
+ 318,
285
+ 321,
286
+ 322,
287
+ 323,
288
+ 324,
289
+ 325,
290
+ 326,
291
+ 327,
292
+ 328,
293
+ 330,
294
+ 331,
295
+ 332,
296
+ 333,
297
+ 334,
298
+ 336,
299
+ 337,
300
+ 338,
301
+ 339,
302
+ 340,
303
+ 341,
304
+ 342,
305
+ 344,
306
+ 345,
307
+ 347,
308
+ 348,
309
+ 350,
310
+ 351,
311
+ 352,
312
+ 353,
313
+ 354,
314
+ 355,
315
+ 356,
316
+ 357,
317
+ 358,
318
+ 359,
319
+ 360,
320
+ 361,
321
+ 362,
322
+ 364,
323
+ 365,
324
+ 366,
325
+ 368,
326
+ 369,
327
+ 370,
328
+ 371,
329
+ 373,
330
+ 374,
331
+ 375,
332
+ 376,
333
+ 377,
334
+ 378,
335
+ 379,
336
+ 380,
337
+ 381,
338
+ 382,
339
+ 383,
340
+ 385,
341
+ 387,
342
+ 388,
343
+ 390,
344
+ 391,
345
+ 394,
346
+ 395,
347
+ 396,
348
+ 397,
349
+ 398,
350
+ 400,
351
+ 401,
352
+ 402,
353
+ 403,
354
+ 404,
355
+ 405,
356
+ 406,
357
+ 407,
358
+ 408,
359
+ 409,
360
+ 411,
361
+ 412,
362
+ 413,
363
+ 414,
364
+ 415,
365
+ 416,
366
+ 417,
367
+ 418,
368
+ 419,
369
+ 421,
370
+ 422,
371
+ 424,
372
+ 425,
373
+ 426,
374
+ 427,
375
+ 428,
376
+ 429,
377
+ 432,
378
+ 433,
379
+ 436,
380
+ 438,
381
+ 439,
382
+ 440,
383
+ 441,
384
+ 442,
385
+ 444,
386
+ 445,
387
+ 446,
388
+ 447,
389
+ 448,
390
+ 449,
391
+ 450,
392
+ 451,
393
+ 452,
394
+ 453,
395
+ 454,
396
+ 455,
397
+ 456,
398
+ 457,
399
+ 458,
400
+ 459,
401
+ 461,
402
+ 462,
403
+ 464,
404
+ 465,
405
+ 466,
406
+ 467,
407
+ 468,
408
+ 469,
409
+ 471,
410
+ 472,
411
+ 474,
412
+ 475,
413
+ 476,
414
+ 477,
415
+ 478,
416
+ 479,
417
+ 480,
418
+ 481,
419
+ 482,
420
+ 483,
421
+ 484,
422
+ 485,
423
+ 486,
424
+ 487,
425
+ 488,
426
+ 489,
427
+ 490,
428
+ 491,
429
+ 492,
430
+ 493,
431
+ 494,
432
+ 495,
433
+ 496,
434
+ 497,
435
+ 498,
436
+ 499,
437
+ 500,
438
+ 502,
439
+ 503,
440
+ 505,
441
+ 506,
442
+ 507,
443
+ 508,
444
+ 509,
445
+ 511,
446
+ 513,
447
+ 514,
448
+ 516,
449
+ 517,
450
+ 518,
451
+ 520,
452
+ 521,
453
+ 522,
454
+ 523,
455
+ 524,
456
+ 525,
457
+ 526,
458
+ 528,
459
+ 529,
460
+ 530,
461
+ 532,
462
+ 534,
463
+ 535,
464
+ 537,
465
+ 539,
466
+ 540,
467
+ 541,
468
+ 542,
469
+ 543,
470
+ 546,
471
+ 547,
472
+ 548,
473
+ 549,
474
+ 551,
475
+ 552,
476
+ 553,
477
+ 554,
478
+ 555,
479
+ 560,
480
+ 561,
481
+ 562,
482
+ 563,
483
+ 564,
484
+ 565,
485
+ 566,
486
+ 567,
487
+ 568,
488
+ 569,
489
+ 570,
490
+ 571,
491
+ 572,
492
+ 574,
493
+ 575,
494
+ 576,
495
+ 577,
496
+ 578,
497
+ 580,
498
+ 583,
499
+ 584,
500
+ 585,
501
+ 586,
502
+ 587,
503
+ 588,
504
+ 589,
505
+ 590,
506
+ 591,
507
+ 592,
508
+ 593,
509
+ 594,
510
+ 595,
511
+ 596,
512
+ 597,
513
+ 598,
514
+ 599,
515
+ 600,
516
+ 601,
517
+ 602,
518
+ 603,
519
+ 604,
520
+ 605,
521
+ 606,
522
+ 607,
523
+ 609,
524
+ 610,
525
+ 612,
526
+ 613,
527
+ 614,
528
+ 615,
529
+ 616,
530
+ 617,
531
+ 618,
532
+ 619,
533
+ 620,
534
+ 621,
535
+ 623,
536
+ 625,
537
+ 628,
538
+ 629,
539
+ 630,
540
+ 631,
541
+ 632,
542
+ 634,
543
+ 635,
544
+ 636,
545
+ 637,
546
+ 639,
547
+ 643,
548
+ 644,
549
+ 645,
550
+ 646,
551
+ 647,
552
+ 649,
553
+ 650,
554
+ 651,
555
+ 652,
556
+ 653,
557
+ 654,
558
+ 655,
559
+ 656,
560
+ 657,
561
+ 658,
562
+ 659,
563
+ 661,
564
+ 662,
565
+ 663,
566
+ 664,
567
+ 665,
568
+ 666,
569
+ 667,
570
+ 668,
571
+ 670,
572
+ 671,
573
+ 672,
574
+ 673,
575
+ 674,
576
+ 675,
577
+ 676,
578
+ 677,
579
+ 678,
580
+ 679,
581
+ 680,
582
+ 681,
583
+ 682,
584
+ 683,
585
+ 684,
586
+ 685,
587
+ 686,
588
+ 688,
589
+ 690,
590
+ 691,
591
+ 693,
592
+ 696,
593
+ 697,
594
+ 698,
595
+ 699,
596
+ 700,
597
+ 701,
598
+ 703,
599
+ 704,
600
+ 706,
601
+ 707,
602
+ 708,
603
+ 709,
604
+ 710,
605
+ 711,
606
+ 713,
607
+ 714,
608
+ 715,
609
+ 716,
610
+ 717,
611
+ 718,
612
+ 719,
613
+ 721,
614
+ 722,
615
+ 723,
616
+ 724,
617
+ 725,
618
+ 726,
619
+ 727,
620
+ 728,
621
+ 729,
622
+ 730,
623
+ 731,
624
+ 732,
625
+ 733,
626
+ 734,
627
+ 735,
628
+ 736,
629
+ 737,
630
+ 738,
631
+ 739,
632
+ 740,
633
+ 741,
634
+ 743,
635
+ 744,
636
+ 745,
637
+ 747,
638
+ 748,
639
+ 749,
640
+ 750,
641
+ 751,
642
+ 752,
643
+ 753,
644
+ 754,
645
+ 755,
646
+ 756,
647
+ 757,
648
+ 758,
649
+ 759,
650
+ 760,
651
+ 761,
652
+ 762,
653
+ 763,
654
+ 766,
655
+ 767,
656
+ 768,
657
+ 770,
658
+ 771,
659
+ 772,
660
+ 773,
661
+ 774,
662
+ 775,
663
+ 777,
664
+ 778,
665
+ 779,
666
+ 780,
667
+ 781,
668
+ 782,
669
+ 783,
670
+ 784,
671
+ 785,
672
+ 786,
673
+ 787,
674
+ 789,
675
+ 790,
676
+ 791,
677
+ 792,
678
+ 793,
679
+ 794,
680
+ 796,
681
+ 797,
682
+ 798,
683
+ 799,
684
+ 801,
685
+ 802,
686
+ 804,
687
+ 805,
688
+ 807,
689
+ 808,
690
+ 809,
691
+ 811,
692
+ 812,
693
+ 813,
694
+ 816,
695
+ 817,
696
+ 820,
697
+ 821,
698
+ 822,
699
+ 823,
700
+ 824,
701
+ 825,
702
+ 826,
703
+ 827,
704
+ 828,
705
+ 829,
706
+ 830,
707
+ 832,
708
+ 833,
709
+ 834,
710
+ 835,
711
+ 836,
712
+ 837,
713
+ 838,
714
+ 839,
715
+ 840,
716
+ 841,
717
+ 842,
718
+ 843,
719
+ 845,
720
+ 846,
721
+ 847,
722
+ 848,
723
+ 849,
724
+ 850,
725
+ 852,
726
+ 854,
727
+ 855,
728
+ 856,
729
+ 857,
730
+ 859,
731
+ 860,
732
+ 861,
733
+ 862,
734
+ 863,
735
+ 864,
736
+ 865,
737
+ 866,
738
+ 867,
739
+ 868,
740
+ 869,
741
+ 870,
742
+ 871,
743
+ 872,
744
+ 874,
745
+ 877,
746
+ 878,
747
+ 879,
748
+ 880,
749
+ 881,
750
+ 882,
751
+ 883,
752
+ 884,
753
+ 885,
754
+ 886,
755
+ 888,
756
+ 890,
757
+ 892,
758
+ 893,
759
+ 894,
760
+ 895,
761
+ 896,
762
+ 897,
763
+ 898,
764
+ 899,
765
+ 900,
766
+ 901,
767
+ 902,
768
+ 903,
769
+ 904,
770
+ 905,
771
+ 906,
772
+ 909,
773
+ 910,
774
+ 911,
775
+ 912,
776
+ 913,
777
+ 914,
778
+ 915,
779
+ 916,
780
+ 918,
781
+ 919,
782
+ 920,
783
+ 921,
784
+ 922,
785
+ 923,
786
+ 924,
787
+ 925,
788
+ 926,
789
+ 928,
790
+ 929,
791
+ 930,
792
+ 931,
793
+ 932,
794
+ 933,
795
+ 934,
796
+ 935,
797
+ 937,
798
+ 938,
799
+ 939,
800
+ 940,
801
+ 941,
802
+ 942,
803
+ 943,
804
+ 944,
805
+ 945,
806
+ 946,
807
+ 948,
808
+ 949,
809
+ 950,
810
+ 952,
811
+ 953,
812
+ 954,
813
+ 955,
814
+ 956,
815
+ 958,
816
+ 959,
817
+ 960,
818
+ 961,
819
+ 962,
820
+ 964,
821
+ 965,
822
+ 966,
823
+ 967,
824
+ 968,
825
+ 969,
826
+ 970,
827
+ 972,
828
+ 973,
829
+ 975,
830
+ 976,
831
+ 977,
832
+ 978,
833
+ 980,
834
+ 982,
835
+ 983,
836
+ 985,
837
+ 986,
838
+ 987,
839
+ 988,
840
+ 989,
841
+ 990,
842
+ 991,
843
+ 992,
844
+ 993,
845
+ 994,
846
+ 995,
847
+ 996,
848
+ 997,
849
+ 998,
850
+ 999
851
+ ],
852
+ "not_both_correct_indices": [
853
+ 0,
854
+ 5,
855
+ 7,
856
+ 11,
857
+ 12,
858
+ 29,
859
+ 40,
860
+ 60,
861
+ 81,
862
+ 84,
863
+ 85,
864
+ 93,
865
+ 100,
866
+ 114,
867
+ 124,
868
+ 131,
869
+ 132,
870
+ 137,
871
+ 139,
872
+ 142,
873
+ 150,
874
+ 155,
875
+ 158,
876
+ 159,
877
+ 160,
878
+ 161,
879
+ 164,
880
+ 177,
881
+ 197,
882
+ 211,
883
+ 215,
884
+ 217,
885
+ 224,
886
+ 226,
887
+ 228,
888
+ 232,
889
+ 234,
890
+ 240,
891
+ 248,
892
+ 251,
893
+ 276,
894
+ 279,
895
+ 289,
896
+ 307,
897
+ 311,
898
+ 319,
899
+ 320,
900
+ 329,
901
+ 335,
902
+ 343,
903
+ 346,
904
+ 349,
905
+ 363,
906
+ 367,
907
+ 372,
908
+ 384,
909
+ 386,
910
+ 389,
911
+ 392,
912
+ 393,
913
+ 399,
914
+ 410,
915
+ 420,
916
+ 423,
917
+ 430,
918
+ 431,
919
+ 434,
920
+ 435,
921
+ 437,
922
+ 443,
923
+ 460,
924
+ 463,
925
+ 470,
926
+ 473,
927
+ 501,
928
+ 504,
929
+ 510,
930
+ 512,
931
+ 515,
932
+ 519,
933
+ 527,
934
+ 531,
935
+ 533,
936
+ 536,
937
+ 538,
938
+ 544,
939
+ 545,
940
+ 550,
941
+ 556,
942
+ 557,
943
+ 558,
944
+ 559,
945
+ 573,
946
+ 579,
947
+ 581,
948
+ 582,
949
+ 608,
950
+ 611,
951
+ 622,
952
+ 624,
953
+ 626,
954
+ 627,
955
+ 633,
956
+ 638,
957
+ 640,
958
+ 641,
959
+ 642,
960
+ 648,
961
+ 660,
962
+ 669,
963
+ 687,
964
+ 689,
965
+ 692,
966
+ 694,
967
+ 695,
968
+ 702,
969
+ 705,
970
+ 712,
971
+ 720,
972
+ 742,
973
+ 746,
974
+ 764,
975
+ 765,
976
+ 769,
977
+ 776,
978
+ 788,
979
+ 795,
980
+ 800,
981
+ 803,
982
+ 806,
983
+ 810,
984
+ 814,
985
+ 815,
986
+ 818,
987
+ 819,
988
+ 831,
989
+ 844,
990
+ 851,
991
+ 853,
992
+ 858,
993
+ 873,
994
+ 875,
995
+ 876,
996
+ 887,
997
+ 889,
998
+ 891,
999
+ 907,
1000
+ 908,
1001
+ 917,
1002
+ 927,
1003
+ 936,
1004
+ 947,
1005
+ 951,
1006
+ 957,
1007
+ 963,
1008
+ 971,
1009
+ 974,
1010
+ 979,
1011
+ 981,
1012
+ 984
1013
+ ],
1014
+ "clean_baseline": 2.751953125,
1015
+ "corrupted_baseline": -2.72265625
1016
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_symbolic/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:c3232a3119b43da80e18e8f42059e921eb2cb6bee2295688d39f17d6f5bf07aa
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/logic_syllogism_symbolic/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:390af10f771413d11a8c6d643e11dfc387b9c3655885bda12628656ae59b3c39
3
+ size 5179000
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_symbolic/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_symbolic/baselines.json ADDED
@@ -0,0 +1,1017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 21,
4
+ "token_misaligned_indices": [
5
+ 3,
6
+ 14,
7
+ 25,
8
+ 91,
9
+ 105,
10
+ 127,
11
+ 188,
12
+ 213,
13
+ 251,
14
+ 290,
15
+ 313,
16
+ 333,
17
+ 382,
18
+ 506,
19
+ 562,
20
+ 671,
21
+ 738,
22
+ 801,
23
+ 839,
24
+ 928,
25
+ 979
26
+ ],
27
+ "n_after_alignment_filter": 979,
28
+ "clean_accuracy": 0.9867211440245148,
29
+ "corrupted_accuracy": 0.9816138917262512,
30
+ "both_correct_accuracy": 0.9683350357507661,
31
+ "n_both_correct": 948,
32
+ "both_correct_indices": [
33
+ 0,
34
+ 2,
35
+ 4,
36
+ 5,
37
+ 6,
38
+ 7,
39
+ 8,
40
+ 9,
41
+ 10,
42
+ 11,
43
+ 12,
44
+ 13,
45
+ 15,
46
+ 16,
47
+ 17,
48
+ 18,
49
+ 19,
50
+ 20,
51
+ 21,
52
+ 22,
53
+ 23,
54
+ 24,
55
+ 26,
56
+ 27,
57
+ 28,
58
+ 29,
59
+ 30,
60
+ 31,
61
+ 32,
62
+ 33,
63
+ 34,
64
+ 35,
65
+ 36,
66
+ 37,
67
+ 38,
68
+ 39,
69
+ 40,
70
+ 41,
71
+ 42,
72
+ 43,
73
+ 44,
74
+ 45,
75
+ 46,
76
+ 47,
77
+ 48,
78
+ 49,
79
+ 50,
80
+ 51,
81
+ 52,
82
+ 53,
83
+ 54,
84
+ 55,
85
+ 56,
86
+ 57,
87
+ 58,
88
+ 59,
89
+ 60,
90
+ 61,
91
+ 62,
92
+ 63,
93
+ 64,
94
+ 65,
95
+ 66,
96
+ 67,
97
+ 68,
98
+ 69,
99
+ 70,
100
+ 71,
101
+ 72,
102
+ 73,
103
+ 74,
104
+ 75,
105
+ 76,
106
+ 77,
107
+ 78,
108
+ 79,
109
+ 80,
110
+ 81,
111
+ 82,
112
+ 83,
113
+ 84,
114
+ 85,
115
+ 86,
116
+ 88,
117
+ 89,
118
+ 90,
119
+ 92,
120
+ 93,
121
+ 94,
122
+ 95,
123
+ 96,
124
+ 97,
125
+ 99,
126
+ 100,
127
+ 101,
128
+ 102,
129
+ 103,
130
+ 104,
131
+ 106,
132
+ 107,
133
+ 108,
134
+ 109,
135
+ 110,
136
+ 111,
137
+ 112,
138
+ 113,
139
+ 114,
140
+ 115,
141
+ 116,
142
+ 117,
143
+ 118,
144
+ 119,
145
+ 120,
146
+ 121,
147
+ 122,
148
+ 123,
149
+ 124,
150
+ 125,
151
+ 126,
152
+ 128,
153
+ 129,
154
+ 130,
155
+ 131,
156
+ 132,
157
+ 133,
158
+ 134,
159
+ 135,
160
+ 136,
161
+ 137,
162
+ 138,
163
+ 139,
164
+ 140,
165
+ 141,
166
+ 142,
167
+ 143,
168
+ 144,
169
+ 145,
170
+ 146,
171
+ 147,
172
+ 148,
173
+ 149,
174
+ 150,
175
+ 151,
176
+ 152,
177
+ 153,
178
+ 154,
179
+ 155,
180
+ 156,
181
+ 157,
182
+ 158,
183
+ 159,
184
+ 160,
185
+ 161,
186
+ 162,
187
+ 163,
188
+ 164,
189
+ 165,
190
+ 166,
191
+ 167,
192
+ 168,
193
+ 169,
194
+ 170,
195
+ 171,
196
+ 172,
197
+ 173,
198
+ 174,
199
+ 175,
200
+ 176,
201
+ 177,
202
+ 178,
203
+ 179,
204
+ 180,
205
+ 181,
206
+ 182,
207
+ 183,
208
+ 184,
209
+ 185,
210
+ 186,
211
+ 187,
212
+ 189,
213
+ 190,
214
+ 191,
215
+ 192,
216
+ 193,
217
+ 194,
218
+ 195,
219
+ 196,
220
+ 197,
221
+ 198,
222
+ 199,
223
+ 200,
224
+ 201,
225
+ 202,
226
+ 203,
227
+ 204,
228
+ 205,
229
+ 206,
230
+ 207,
231
+ 208,
232
+ 210,
233
+ 211,
234
+ 212,
235
+ 214,
236
+ 216,
237
+ 217,
238
+ 218,
239
+ 219,
240
+ 220,
241
+ 221,
242
+ 222,
243
+ 223,
244
+ 224,
245
+ 225,
246
+ 226,
247
+ 227,
248
+ 228,
249
+ 230,
250
+ 231,
251
+ 232,
252
+ 233,
253
+ 234,
254
+ 235,
255
+ 236,
256
+ 237,
257
+ 238,
258
+ 239,
259
+ 240,
260
+ 241,
261
+ 242,
262
+ 243,
263
+ 244,
264
+ 245,
265
+ 246,
266
+ 247,
267
+ 248,
268
+ 249,
269
+ 252,
270
+ 253,
271
+ 254,
272
+ 255,
273
+ 256,
274
+ 257,
275
+ 258,
276
+ 259,
277
+ 260,
278
+ 261,
279
+ 262,
280
+ 263,
281
+ 264,
282
+ 265,
283
+ 266,
284
+ 267,
285
+ 268,
286
+ 269,
287
+ 270,
288
+ 271,
289
+ 272,
290
+ 273,
291
+ 274,
292
+ 275,
293
+ 276,
294
+ 277,
295
+ 278,
296
+ 279,
297
+ 280,
298
+ 281,
299
+ 282,
300
+ 283,
301
+ 284,
302
+ 285,
303
+ 286,
304
+ 288,
305
+ 289,
306
+ 291,
307
+ 292,
308
+ 293,
309
+ 294,
310
+ 295,
311
+ 296,
312
+ 297,
313
+ 298,
314
+ 299,
315
+ 300,
316
+ 301,
317
+ 302,
318
+ 303,
319
+ 304,
320
+ 305,
321
+ 306,
322
+ 307,
323
+ 308,
324
+ 309,
325
+ 310,
326
+ 311,
327
+ 312,
328
+ 314,
329
+ 315,
330
+ 316,
331
+ 317,
332
+ 318,
333
+ 319,
334
+ 320,
335
+ 321,
336
+ 322,
337
+ 323,
338
+ 324,
339
+ 325,
340
+ 326,
341
+ 327,
342
+ 328,
343
+ 329,
344
+ 330,
345
+ 331,
346
+ 332,
347
+ 334,
348
+ 335,
349
+ 336,
350
+ 337,
351
+ 338,
352
+ 339,
353
+ 340,
354
+ 341,
355
+ 342,
356
+ 343,
357
+ 344,
358
+ 345,
359
+ 346,
360
+ 347,
361
+ 348,
362
+ 349,
363
+ 350,
364
+ 351,
365
+ 352,
366
+ 353,
367
+ 354,
368
+ 355,
369
+ 356,
370
+ 357,
371
+ 358,
372
+ 359,
373
+ 360,
374
+ 361,
375
+ 362,
376
+ 363,
377
+ 364,
378
+ 365,
379
+ 366,
380
+ 367,
381
+ 368,
382
+ 369,
383
+ 370,
384
+ 371,
385
+ 372,
386
+ 373,
387
+ 374,
388
+ 375,
389
+ 376,
390
+ 377,
391
+ 378,
392
+ 379,
393
+ 380,
394
+ 381,
395
+ 383,
396
+ 384,
397
+ 385,
398
+ 386,
399
+ 387,
400
+ 388,
401
+ 389,
402
+ 390,
403
+ 391,
404
+ 392,
405
+ 393,
406
+ 394,
407
+ 395,
408
+ 396,
409
+ 397,
410
+ 398,
411
+ 399,
412
+ 400,
413
+ 401,
414
+ 402,
415
+ 403,
416
+ 404,
417
+ 405,
418
+ 406,
419
+ 407,
420
+ 408,
421
+ 409,
422
+ 410,
423
+ 411,
424
+ 412,
425
+ 413,
426
+ 414,
427
+ 415,
428
+ 416,
429
+ 417,
430
+ 418,
431
+ 419,
432
+ 420,
433
+ 422,
434
+ 423,
435
+ 424,
436
+ 425,
437
+ 426,
438
+ 427,
439
+ 428,
440
+ 429,
441
+ 430,
442
+ 431,
443
+ 432,
444
+ 433,
445
+ 434,
446
+ 435,
447
+ 436,
448
+ 437,
449
+ 438,
450
+ 439,
451
+ 440,
452
+ 441,
453
+ 442,
454
+ 443,
455
+ 444,
456
+ 445,
457
+ 446,
458
+ 447,
459
+ 448,
460
+ 449,
461
+ 450,
462
+ 451,
463
+ 452,
464
+ 453,
465
+ 454,
466
+ 455,
467
+ 456,
468
+ 457,
469
+ 458,
470
+ 459,
471
+ 460,
472
+ 461,
473
+ 462,
474
+ 463,
475
+ 464,
476
+ 465,
477
+ 467,
478
+ 468,
479
+ 469,
480
+ 470,
481
+ 471,
482
+ 473,
483
+ 474,
484
+ 475,
485
+ 476,
486
+ 477,
487
+ 478,
488
+ 480,
489
+ 481,
490
+ 482,
491
+ 483,
492
+ 485,
493
+ 486,
494
+ 487,
495
+ 489,
496
+ 490,
497
+ 491,
498
+ 492,
499
+ 493,
500
+ 494,
501
+ 495,
502
+ 496,
503
+ 497,
504
+ 498,
505
+ 499,
506
+ 500,
507
+ 501,
508
+ 502,
509
+ 503,
510
+ 504,
511
+ 505,
512
+ 507,
513
+ 508,
514
+ 509,
515
+ 510,
516
+ 511,
517
+ 512,
518
+ 513,
519
+ 514,
520
+ 515,
521
+ 516,
522
+ 517,
523
+ 518,
524
+ 519,
525
+ 520,
526
+ 521,
527
+ 522,
528
+ 523,
529
+ 524,
530
+ 525,
531
+ 526,
532
+ 527,
533
+ 528,
534
+ 529,
535
+ 530,
536
+ 531,
537
+ 532,
538
+ 533,
539
+ 534,
540
+ 535,
541
+ 536,
542
+ 537,
543
+ 538,
544
+ 539,
545
+ 540,
546
+ 541,
547
+ 542,
548
+ 543,
549
+ 544,
550
+ 545,
551
+ 546,
552
+ 547,
553
+ 548,
554
+ 549,
555
+ 550,
556
+ 551,
557
+ 552,
558
+ 553,
559
+ 554,
560
+ 555,
561
+ 557,
562
+ 558,
563
+ 559,
564
+ 561,
565
+ 563,
566
+ 564,
567
+ 565,
568
+ 566,
569
+ 567,
570
+ 568,
571
+ 569,
572
+ 570,
573
+ 571,
574
+ 572,
575
+ 573,
576
+ 574,
577
+ 575,
578
+ 576,
579
+ 577,
580
+ 578,
581
+ 579,
582
+ 580,
583
+ 581,
584
+ 582,
585
+ 583,
586
+ 584,
587
+ 585,
588
+ 586,
589
+ 587,
590
+ 588,
591
+ 589,
592
+ 590,
593
+ 591,
594
+ 592,
595
+ 593,
596
+ 594,
597
+ 595,
598
+ 596,
599
+ 597,
600
+ 598,
601
+ 599,
602
+ 600,
603
+ 601,
604
+ 602,
605
+ 603,
606
+ 604,
607
+ 605,
608
+ 606,
609
+ 608,
610
+ 609,
611
+ 610,
612
+ 611,
613
+ 612,
614
+ 613,
615
+ 614,
616
+ 615,
617
+ 616,
618
+ 617,
619
+ 618,
620
+ 619,
621
+ 620,
622
+ 621,
623
+ 622,
624
+ 623,
625
+ 624,
626
+ 625,
627
+ 626,
628
+ 627,
629
+ 628,
630
+ 629,
631
+ 631,
632
+ 632,
633
+ 633,
634
+ 635,
635
+ 636,
636
+ 637,
637
+ 638,
638
+ 639,
639
+ 640,
640
+ 641,
641
+ 642,
642
+ 643,
643
+ 644,
644
+ 645,
645
+ 646,
646
+ 647,
647
+ 648,
648
+ 649,
649
+ 650,
650
+ 651,
651
+ 652,
652
+ 653,
653
+ 654,
654
+ 655,
655
+ 656,
656
+ 657,
657
+ 658,
658
+ 659,
659
+ 660,
660
+ 661,
661
+ 662,
662
+ 663,
663
+ 664,
664
+ 665,
665
+ 666,
666
+ 667,
667
+ 668,
668
+ 670,
669
+ 672,
670
+ 673,
671
+ 674,
672
+ 675,
673
+ 676,
674
+ 677,
675
+ 678,
676
+ 679,
677
+ 680,
678
+ 681,
679
+ 682,
680
+ 683,
681
+ 684,
682
+ 685,
683
+ 686,
684
+ 687,
685
+ 688,
686
+ 689,
687
+ 690,
688
+ 691,
689
+ 692,
690
+ 693,
691
+ 694,
692
+ 695,
693
+ 696,
694
+ 697,
695
+ 698,
696
+ 700,
697
+ 701,
698
+ 702,
699
+ 703,
700
+ 704,
701
+ 705,
702
+ 706,
703
+ 707,
704
+ 708,
705
+ 709,
706
+ 710,
707
+ 711,
708
+ 712,
709
+ 713,
710
+ 714,
711
+ 715,
712
+ 716,
713
+ 717,
714
+ 718,
715
+ 719,
716
+ 720,
717
+ 721,
718
+ 722,
719
+ 723,
720
+ 725,
721
+ 726,
722
+ 727,
723
+ 728,
724
+ 729,
725
+ 730,
726
+ 731,
727
+ 732,
728
+ 733,
729
+ 734,
730
+ 735,
731
+ 736,
732
+ 737,
733
+ 739,
734
+ 740,
735
+ 741,
736
+ 742,
737
+ 743,
738
+ 744,
739
+ 745,
740
+ 746,
741
+ 747,
742
+ 748,
743
+ 750,
744
+ 751,
745
+ 752,
746
+ 753,
747
+ 754,
748
+ 755,
749
+ 756,
750
+ 757,
751
+ 758,
752
+ 759,
753
+ 760,
754
+ 761,
755
+ 762,
756
+ 763,
757
+ 764,
758
+ 765,
759
+ 766,
760
+ 767,
761
+ 768,
762
+ 769,
763
+ 770,
764
+ 771,
765
+ 772,
766
+ 773,
767
+ 774,
768
+ 775,
769
+ 776,
770
+ 777,
771
+ 778,
772
+ 779,
773
+ 780,
774
+ 782,
775
+ 783,
776
+ 784,
777
+ 785,
778
+ 786,
779
+ 787,
780
+ 788,
781
+ 789,
782
+ 790,
783
+ 791,
784
+ 792,
785
+ 793,
786
+ 794,
787
+ 795,
788
+ 796,
789
+ 797,
790
+ 798,
791
+ 799,
792
+ 800,
793
+ 802,
794
+ 803,
795
+ 804,
796
+ 805,
797
+ 806,
798
+ 807,
799
+ 808,
800
+ 809,
801
+ 810,
802
+ 811,
803
+ 812,
804
+ 813,
805
+ 814,
806
+ 815,
807
+ 816,
808
+ 817,
809
+ 818,
810
+ 819,
811
+ 820,
812
+ 822,
813
+ 823,
814
+ 824,
815
+ 825,
816
+ 826,
817
+ 827,
818
+ 828,
819
+ 829,
820
+ 830,
821
+ 831,
822
+ 832,
823
+ 833,
824
+ 834,
825
+ 835,
826
+ 836,
827
+ 837,
828
+ 838,
829
+ 840,
830
+ 841,
831
+ 842,
832
+ 843,
833
+ 844,
834
+ 845,
835
+ 846,
836
+ 847,
837
+ 848,
838
+ 849,
839
+ 850,
840
+ 851,
841
+ 852,
842
+ 853,
843
+ 854,
844
+ 855,
845
+ 856,
846
+ 857,
847
+ 858,
848
+ 859,
849
+ 860,
850
+ 861,
851
+ 862,
852
+ 863,
853
+ 864,
854
+ 865,
855
+ 867,
856
+ 868,
857
+ 869,
858
+ 870,
859
+ 871,
860
+ 872,
861
+ 873,
862
+ 874,
863
+ 875,
864
+ 876,
865
+ 877,
866
+ 878,
867
+ 879,
868
+ 880,
869
+ 881,
870
+ 882,
871
+ 883,
872
+ 884,
873
+ 885,
874
+ 886,
875
+ 887,
876
+ 888,
877
+ 889,
878
+ 890,
879
+ 891,
880
+ 892,
881
+ 893,
882
+ 894,
883
+ 895,
884
+ 896,
885
+ 897,
886
+ 898,
887
+ 899,
888
+ 900,
889
+ 902,
890
+ 903,
891
+ 904,
892
+ 905,
893
+ 906,
894
+ 907,
895
+ 908,
896
+ 909,
897
+ 910,
898
+ 911,
899
+ 912,
900
+ 913,
901
+ 914,
902
+ 915,
903
+ 916,
904
+ 917,
905
+ 918,
906
+ 920,
907
+ 921,
908
+ 922,
909
+ 923,
910
+ 924,
911
+ 926,
912
+ 927,
913
+ 929,
914
+ 930,
915
+ 931,
916
+ 932,
917
+ 933,
918
+ 934,
919
+ 935,
920
+ 936,
921
+ 937,
922
+ 938,
923
+ 939,
924
+ 940,
925
+ 941,
926
+ 942,
927
+ 943,
928
+ 944,
929
+ 945,
930
+ 946,
931
+ 947,
932
+ 948,
933
+ 950,
934
+ 951,
935
+ 952,
936
+ 953,
937
+ 954,
938
+ 955,
939
+ 956,
940
+ 957,
941
+ 958,
942
+ 959,
943
+ 960,
944
+ 961,
945
+ 962,
946
+ 963,
947
+ 964,
948
+ 965,
949
+ 966,
950
+ 967,
951
+ 968,
952
+ 969,
953
+ 970,
954
+ 971,
955
+ 972,
956
+ 973,
957
+ 974,
958
+ 975,
959
+ 976,
960
+ 977,
961
+ 978,
962
+ 980,
963
+ 981,
964
+ 982,
965
+ 983,
966
+ 984,
967
+ 985,
968
+ 986,
969
+ 987,
970
+ 988,
971
+ 989,
972
+ 990,
973
+ 992,
974
+ 993,
975
+ 994,
976
+ 995,
977
+ 996,
978
+ 997,
979
+ 998,
980
+ 999
981
+ ],
982
+ "not_both_correct_indices": [
983
+ 1,
984
+ 87,
985
+ 98,
986
+ 209,
987
+ 215,
988
+ 229,
989
+ 250,
990
+ 287,
991
+ 421,
992
+ 466,
993
+ 472,
994
+ 479,
995
+ 484,
996
+ 488,
997
+ 556,
998
+ 560,
999
+ 607,
1000
+ 630,
1001
+ 634,
1002
+ 669,
1003
+ 699,
1004
+ 724,
1005
+ 749,
1006
+ 781,
1007
+ 821,
1008
+ 866,
1009
+ 901,
1010
+ 919,
1011
+ 925,
1012
+ 949,
1013
+ 991
1014
+ ],
1015
+ "clean_baseline": 11.59375,
1016
+ "corrupted_baseline": -11.703125
1017
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_symbolic/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:cca7e3ef13bf0eb1b1385d378c66359635722144cc184fd5d5347a0f7e73abda
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_symbolic/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:6b3849d1d4b705adc92dc39593984efff1c63c541bd01d8fad7fa1249d688759
3
+ size 5108240
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_verbal/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_verbal/baselines.json ADDED
@@ -0,0 +1,1017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 160,
4
+ "token_misaligned_indices": [
5
+ 12,
6
+ 15,
7
+ 21,
8
+ 23,
9
+ 26,
10
+ 28,
11
+ 37,
12
+ 45,
13
+ 51,
14
+ 53,
15
+ 70,
16
+ 79,
17
+ 88,
18
+ 95,
19
+ 100,
20
+ 118,
21
+ 126,
22
+ 128,
23
+ 131,
24
+ 132,
25
+ 140,
26
+ 146,
27
+ 151,
28
+ 152,
29
+ 153,
30
+ 158,
31
+ 164,
32
+ 167,
33
+ 170,
34
+ 174,
35
+ 176,
36
+ 180,
37
+ 181,
38
+ 202,
39
+ 203,
40
+ 209,
41
+ 215,
42
+ 216,
43
+ 224,
44
+ 225,
45
+ 228,
46
+ 231,
47
+ 234,
48
+ 243,
49
+ 263,
50
+ 276,
51
+ 283,
52
+ 306,
53
+ 309,
54
+ 329,
55
+ 331,
56
+ 333,
57
+ 340,
58
+ 347,
59
+ 356,
60
+ 357,
61
+ 358,
62
+ 359,
63
+ 360,
64
+ 366,
65
+ 370,
66
+ 388,
67
+ 397,
68
+ 403,
69
+ 407,
70
+ 417,
71
+ 421,
72
+ 422,
73
+ 429,
74
+ 437,
75
+ 440,
76
+ 441,
77
+ 444,
78
+ 450,
79
+ 456,
80
+ 471,
81
+ 475,
82
+ 478,
83
+ 492,
84
+ 507,
85
+ 513,
86
+ 515,
87
+ 523,
88
+ 528,
89
+ 540,
90
+ 544,
91
+ 551,
92
+ 560,
93
+ 566,
94
+ 589,
95
+ 591,
96
+ 593,
97
+ 604,
98
+ 606,
99
+ 609,
100
+ 610,
101
+ 617,
102
+ 619,
103
+ 620,
104
+ 623,
105
+ 630,
106
+ 635,
107
+ 640,
108
+ 641,
109
+ 661,
110
+ 662,
111
+ 665,
112
+ 675,
113
+ 683,
114
+ 684,
115
+ 700,
116
+ 710,
117
+ 715,
118
+ 730,
119
+ 732,
120
+ 735,
121
+ 744,
122
+ 751,
123
+ 754,
124
+ 784,
125
+ 785,
126
+ 800,
127
+ 802,
128
+ 820,
129
+ 823,
130
+ 826,
131
+ 840,
132
+ 848,
133
+ 851,
134
+ 853,
135
+ 855,
136
+ 861,
137
+ 866,
138
+ 868,
139
+ 869,
140
+ 873,
141
+ 882,
142
+ 885,
143
+ 890,
144
+ 891,
145
+ 893,
146
+ 897,
147
+ 898,
148
+ 912,
149
+ 914,
150
+ 920,
151
+ 921,
152
+ 926,
153
+ 928,
154
+ 937,
155
+ 944,
156
+ 945,
157
+ 966,
158
+ 972,
159
+ 975,
160
+ 988,
161
+ 992,
162
+ 993,
163
+ 995,
164
+ 998
165
+ ],
166
+ "n_after_alignment_filter": 840,
167
+ "clean_accuracy": 0.8869047619047619,
168
+ "corrupted_accuracy": 0.9178571428571428,
169
+ "both_correct_accuracy": 0.8142857142857143,
170
+ "n_both_correct": 684,
171
+ "both_correct_indices": [
172
+ 0,
173
+ 1,
174
+ 2,
175
+ 3,
176
+ 4,
177
+ 5,
178
+ 6,
179
+ 7,
180
+ 8,
181
+ 9,
182
+ 10,
183
+ 11,
184
+ 13,
185
+ 14,
186
+ 17,
187
+ 18,
188
+ 20,
189
+ 22,
190
+ 24,
191
+ 25,
192
+ 27,
193
+ 29,
194
+ 31,
195
+ 32,
196
+ 33,
197
+ 35,
198
+ 36,
199
+ 38,
200
+ 40,
201
+ 41,
202
+ 42,
203
+ 43,
204
+ 44,
205
+ 46,
206
+ 47,
207
+ 48,
208
+ 49,
209
+ 50,
210
+ 54,
211
+ 55,
212
+ 56,
213
+ 57,
214
+ 58,
215
+ 60,
216
+ 63,
217
+ 65,
218
+ 67,
219
+ 68,
220
+ 69,
221
+ 71,
222
+ 73,
223
+ 74,
224
+ 76,
225
+ 77,
226
+ 78,
227
+ 82,
228
+ 83,
229
+ 84,
230
+ 85,
231
+ 86,
232
+ 89,
233
+ 90,
234
+ 91,
235
+ 93,
236
+ 97,
237
+ 99,
238
+ 101,
239
+ 102,
240
+ 103,
241
+ 105,
242
+ 106,
243
+ 107,
244
+ 108,
245
+ 109,
246
+ 112,
247
+ 113,
248
+ 114,
249
+ 115,
250
+ 116,
251
+ 117,
252
+ 119,
253
+ 120,
254
+ 121,
255
+ 122,
256
+ 123,
257
+ 124,
258
+ 125,
259
+ 127,
260
+ 129,
261
+ 130,
262
+ 133,
263
+ 135,
264
+ 137,
265
+ 138,
266
+ 141,
267
+ 142,
268
+ 143,
269
+ 145,
270
+ 147,
271
+ 148,
272
+ 155,
273
+ 156,
274
+ 159,
275
+ 160,
276
+ 161,
277
+ 162,
278
+ 163,
279
+ 166,
280
+ 168,
281
+ 169,
282
+ 171,
283
+ 172,
284
+ 173,
285
+ 175,
286
+ 177,
287
+ 178,
288
+ 179,
289
+ 184,
290
+ 186,
291
+ 187,
292
+ 188,
293
+ 189,
294
+ 190,
295
+ 191,
296
+ 192,
297
+ 193,
298
+ 195,
299
+ 196,
300
+ 197,
301
+ 198,
302
+ 199,
303
+ 200,
304
+ 201,
305
+ 204,
306
+ 205,
307
+ 206,
308
+ 207,
309
+ 210,
310
+ 211,
311
+ 213,
312
+ 217,
313
+ 218,
314
+ 220,
315
+ 221,
316
+ 222,
317
+ 223,
318
+ 226,
319
+ 227,
320
+ 229,
321
+ 230,
322
+ 232,
323
+ 235,
324
+ 236,
325
+ 239,
326
+ 240,
327
+ 241,
328
+ 242,
329
+ 244,
330
+ 245,
331
+ 247,
332
+ 249,
333
+ 250,
334
+ 251,
335
+ 252,
336
+ 253,
337
+ 254,
338
+ 255,
339
+ 256,
340
+ 258,
341
+ 259,
342
+ 260,
343
+ 261,
344
+ 264,
345
+ 265,
346
+ 266,
347
+ 268,
348
+ 269,
349
+ 270,
350
+ 272,
351
+ 273,
352
+ 274,
353
+ 277,
354
+ 278,
355
+ 279,
356
+ 280,
357
+ 281,
358
+ 284,
359
+ 285,
360
+ 286,
361
+ 287,
362
+ 288,
363
+ 289,
364
+ 290,
365
+ 292,
366
+ 293,
367
+ 294,
368
+ 295,
369
+ 296,
370
+ 297,
371
+ 298,
372
+ 299,
373
+ 300,
374
+ 301,
375
+ 302,
376
+ 303,
377
+ 304,
378
+ 305,
379
+ 307,
380
+ 308,
381
+ 310,
382
+ 311,
383
+ 313,
384
+ 314,
385
+ 315,
386
+ 316,
387
+ 317,
388
+ 318,
389
+ 319,
390
+ 320,
391
+ 321,
392
+ 322,
393
+ 324,
394
+ 326,
395
+ 330,
396
+ 332,
397
+ 335,
398
+ 336,
399
+ 337,
400
+ 338,
401
+ 339,
402
+ 342,
403
+ 345,
404
+ 346,
405
+ 348,
406
+ 349,
407
+ 350,
408
+ 351,
409
+ 352,
410
+ 354,
411
+ 355,
412
+ 361,
413
+ 362,
414
+ 363,
415
+ 364,
416
+ 365,
417
+ 367,
418
+ 368,
419
+ 369,
420
+ 371,
421
+ 372,
422
+ 373,
423
+ 375,
424
+ 376,
425
+ 377,
426
+ 378,
427
+ 379,
428
+ 380,
429
+ 382,
430
+ 384,
431
+ 385,
432
+ 386,
433
+ 389,
434
+ 390,
435
+ 391,
436
+ 392,
437
+ 393,
438
+ 395,
439
+ 398,
440
+ 399,
441
+ 400,
442
+ 401,
443
+ 402,
444
+ 404,
445
+ 405,
446
+ 406,
447
+ 408,
448
+ 409,
449
+ 411,
450
+ 413,
451
+ 414,
452
+ 415,
453
+ 416,
454
+ 419,
455
+ 423,
456
+ 424,
457
+ 425,
458
+ 428,
459
+ 430,
460
+ 431,
461
+ 432,
462
+ 433,
463
+ 436,
464
+ 439,
465
+ 442,
466
+ 443,
467
+ 445,
468
+ 446,
469
+ 447,
470
+ 448,
471
+ 451,
472
+ 452,
473
+ 453,
474
+ 454,
475
+ 457,
476
+ 458,
477
+ 459,
478
+ 460,
479
+ 461,
480
+ 462,
481
+ 463,
482
+ 464,
483
+ 465,
484
+ 466,
485
+ 467,
486
+ 468,
487
+ 469,
488
+ 472,
489
+ 473,
490
+ 474,
491
+ 476,
492
+ 477,
493
+ 479,
494
+ 480,
495
+ 482,
496
+ 483,
497
+ 484,
498
+ 485,
499
+ 486,
500
+ 487,
501
+ 488,
502
+ 489,
503
+ 490,
504
+ 491,
505
+ 493,
506
+ 494,
507
+ 495,
508
+ 496,
509
+ 497,
510
+ 498,
511
+ 499,
512
+ 500,
513
+ 501,
514
+ 502,
515
+ 503,
516
+ 504,
517
+ 505,
518
+ 508,
519
+ 509,
520
+ 510,
521
+ 511,
522
+ 512,
523
+ 514,
524
+ 516,
525
+ 518,
526
+ 521,
527
+ 522,
528
+ 524,
529
+ 525,
530
+ 526,
531
+ 527,
532
+ 529,
533
+ 530,
534
+ 531,
535
+ 532,
536
+ 534,
537
+ 535,
538
+ 536,
539
+ 537,
540
+ 538,
541
+ 541,
542
+ 542,
543
+ 543,
544
+ 545,
545
+ 546,
546
+ 547,
547
+ 548,
548
+ 549,
549
+ 552,
550
+ 553,
551
+ 554,
552
+ 556,
553
+ 557,
554
+ 558,
555
+ 559,
556
+ 561,
557
+ 562,
558
+ 563,
559
+ 564,
560
+ 565,
561
+ 567,
562
+ 569,
563
+ 570,
564
+ 571,
565
+ 572,
566
+ 573,
567
+ 574,
568
+ 575,
569
+ 576,
570
+ 577,
571
+ 578,
572
+ 579,
573
+ 580,
574
+ 581,
575
+ 584,
576
+ 585,
577
+ 586,
578
+ 587,
579
+ 590,
580
+ 592,
581
+ 594,
582
+ 595,
583
+ 597,
584
+ 598,
585
+ 599,
586
+ 600,
587
+ 601,
588
+ 602,
589
+ 605,
590
+ 608,
591
+ 611,
592
+ 612,
593
+ 613,
594
+ 614,
595
+ 615,
596
+ 616,
597
+ 618,
598
+ 621,
599
+ 622,
600
+ 624,
601
+ 625,
602
+ 626,
603
+ 627,
604
+ 628,
605
+ 629,
606
+ 631,
607
+ 632,
608
+ 633,
609
+ 634,
610
+ 636,
611
+ 637,
612
+ 638,
613
+ 639,
614
+ 642,
615
+ 643,
616
+ 648,
617
+ 650,
618
+ 651,
619
+ 652,
620
+ 653,
621
+ 654,
622
+ 655,
623
+ 656,
624
+ 659,
625
+ 660,
626
+ 663,
627
+ 664,
628
+ 667,
629
+ 668,
630
+ 669,
631
+ 670,
632
+ 671,
633
+ 673,
634
+ 674,
635
+ 677,
636
+ 678,
637
+ 679,
638
+ 680,
639
+ 681,
640
+ 682,
641
+ 686,
642
+ 688,
643
+ 689,
644
+ 690,
645
+ 691,
646
+ 692,
647
+ 693,
648
+ 694,
649
+ 696,
650
+ 697,
651
+ 698,
652
+ 701,
653
+ 702,
654
+ 703,
655
+ 704,
656
+ 706,
657
+ 707,
658
+ 708,
659
+ 711,
660
+ 712,
661
+ 713,
662
+ 714,
663
+ 716,
664
+ 717,
665
+ 719,
666
+ 720,
667
+ 722,
668
+ 723,
669
+ 724,
670
+ 725,
671
+ 726,
672
+ 727,
673
+ 728,
674
+ 729,
675
+ 731,
676
+ 733,
677
+ 734,
678
+ 736,
679
+ 737,
680
+ 738,
681
+ 739,
682
+ 740,
683
+ 742,
684
+ 746,
685
+ 747,
686
+ 748,
687
+ 752,
688
+ 753,
689
+ 755,
690
+ 756,
691
+ 758,
692
+ 759,
693
+ 760,
694
+ 761,
695
+ 763,
696
+ 765,
697
+ 766,
698
+ 767,
699
+ 768,
700
+ 769,
701
+ 770,
702
+ 772,
703
+ 774,
704
+ 775,
705
+ 776,
706
+ 777,
707
+ 778,
708
+ 779,
709
+ 780,
710
+ 781,
711
+ 782,
712
+ 787,
713
+ 788,
714
+ 789,
715
+ 790,
716
+ 791,
717
+ 792,
718
+ 793,
719
+ 794,
720
+ 795,
721
+ 796,
722
+ 797,
723
+ 798,
724
+ 799,
725
+ 803,
726
+ 804,
727
+ 805,
728
+ 806,
729
+ 807,
730
+ 808,
731
+ 809,
732
+ 810,
733
+ 811,
734
+ 812,
735
+ 813,
736
+ 814,
737
+ 815,
738
+ 816,
739
+ 817,
740
+ 818,
741
+ 819,
742
+ 825,
743
+ 827,
744
+ 828,
745
+ 829,
746
+ 830,
747
+ 831,
748
+ 832,
749
+ 833,
750
+ 834,
751
+ 835,
752
+ 836,
753
+ 837,
754
+ 841,
755
+ 842,
756
+ 843,
757
+ 844,
758
+ 846,
759
+ 849,
760
+ 852,
761
+ 857,
762
+ 858,
763
+ 859,
764
+ 862,
765
+ 863,
766
+ 864,
767
+ 865,
768
+ 867,
769
+ 870,
770
+ 874,
771
+ 875,
772
+ 876,
773
+ 877,
774
+ 878,
775
+ 880,
776
+ 881,
777
+ 883,
778
+ 884,
779
+ 887,
780
+ 888,
781
+ 889,
782
+ 892,
783
+ 895,
784
+ 896,
785
+ 899,
786
+ 900,
787
+ 901,
788
+ 902,
789
+ 903,
790
+ 904,
791
+ 905,
792
+ 906,
793
+ 907,
794
+ 908,
795
+ 909,
796
+ 911,
797
+ 913,
798
+ 915,
799
+ 916,
800
+ 917,
801
+ 918,
802
+ 919,
803
+ 922,
804
+ 923,
805
+ 924,
806
+ 925,
807
+ 927,
808
+ 929,
809
+ 930,
810
+ 931,
811
+ 932,
812
+ 933,
813
+ 938,
814
+ 939,
815
+ 941,
816
+ 943,
817
+ 946,
818
+ 947,
819
+ 949,
820
+ 950,
821
+ 951,
822
+ 952,
823
+ 953,
824
+ 954,
825
+ 955,
826
+ 956,
827
+ 957,
828
+ 958,
829
+ 959,
830
+ 960,
831
+ 961,
832
+ 962,
833
+ 963,
834
+ 965,
835
+ 967,
836
+ 968,
837
+ 969,
838
+ 970,
839
+ 971,
840
+ 973,
841
+ 974,
842
+ 976,
843
+ 977,
844
+ 981,
845
+ 983,
846
+ 984,
847
+ 985,
848
+ 986,
849
+ 989,
850
+ 990,
851
+ 991,
852
+ 994,
853
+ 996,
854
+ 997,
855
+ 999
856
+ ],
857
+ "not_both_correct_indices": [
858
+ 16,
859
+ 19,
860
+ 30,
861
+ 34,
862
+ 39,
863
+ 52,
864
+ 59,
865
+ 61,
866
+ 62,
867
+ 64,
868
+ 66,
869
+ 72,
870
+ 75,
871
+ 80,
872
+ 81,
873
+ 87,
874
+ 92,
875
+ 94,
876
+ 96,
877
+ 98,
878
+ 104,
879
+ 110,
880
+ 111,
881
+ 134,
882
+ 136,
883
+ 139,
884
+ 144,
885
+ 149,
886
+ 150,
887
+ 154,
888
+ 157,
889
+ 165,
890
+ 182,
891
+ 183,
892
+ 185,
893
+ 194,
894
+ 208,
895
+ 212,
896
+ 214,
897
+ 219,
898
+ 233,
899
+ 237,
900
+ 238,
901
+ 246,
902
+ 248,
903
+ 257,
904
+ 262,
905
+ 267,
906
+ 271,
907
+ 275,
908
+ 282,
909
+ 291,
910
+ 312,
911
+ 323,
912
+ 325,
913
+ 327,
914
+ 328,
915
+ 334,
916
+ 341,
917
+ 343,
918
+ 344,
919
+ 353,
920
+ 374,
921
+ 381,
922
+ 383,
923
+ 387,
924
+ 394,
925
+ 396,
926
+ 410,
927
+ 412,
928
+ 418,
929
+ 420,
930
+ 426,
931
+ 427,
932
+ 434,
933
+ 435,
934
+ 438,
935
+ 449,
936
+ 455,
937
+ 470,
938
+ 481,
939
+ 506,
940
+ 517,
941
+ 519,
942
+ 520,
943
+ 533,
944
+ 539,
945
+ 550,
946
+ 555,
947
+ 568,
948
+ 582,
949
+ 583,
950
+ 588,
951
+ 596,
952
+ 603,
953
+ 607,
954
+ 644,
955
+ 645,
956
+ 646,
957
+ 647,
958
+ 649,
959
+ 657,
960
+ 658,
961
+ 666,
962
+ 672,
963
+ 676,
964
+ 685,
965
+ 687,
966
+ 695,
967
+ 699,
968
+ 705,
969
+ 709,
970
+ 718,
971
+ 721,
972
+ 741,
973
+ 743,
974
+ 745,
975
+ 749,
976
+ 750,
977
+ 757,
978
+ 762,
979
+ 764,
980
+ 771,
981
+ 773,
982
+ 783,
983
+ 786,
984
+ 801,
985
+ 821,
986
+ 822,
987
+ 824,
988
+ 838,
989
+ 839,
990
+ 845,
991
+ 847,
992
+ 850,
993
+ 854,
994
+ 856,
995
+ 860,
996
+ 871,
997
+ 872,
998
+ 879,
999
+ 886,
1000
+ 894,
1001
+ 910,
1002
+ 934,
1003
+ 935,
1004
+ 936,
1005
+ 940,
1006
+ 942,
1007
+ 948,
1008
+ 964,
1009
+ 978,
1010
+ 979,
1011
+ 980,
1012
+ 982,
1013
+ 987
1014
+ ],
1015
+ "clean_baseline": 7.2421875,
1016
+ "corrupted_baseline": -7.0234375
1017
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_verbal/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:856e71c6a53fbc31c031ee69766dc0282228f8de52cf4e4911ff095fa7e878a9
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/mul_div_2op_verbal/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a64a50b662fdd1b28704145034343a96b898d0852a06383e6254f954470fc847
3
+ size 5230656
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/number_sorting/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/number_sorting/baselines.json ADDED
@@ -0,0 +1,1016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 1000,
6
+ "clean_accuracy": 0.998,
7
+ "corrupted_accuracy": 0.999,
8
+ "both_correct_accuracy": 0.998,
9
+ "n_both_correct": 998,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 84,
96
+ 85,
97
+ 86,
98
+ 87,
99
+ 88,
100
+ 89,
101
+ 90,
102
+ 91,
103
+ 92,
104
+ 93,
105
+ 94,
106
+ 95,
107
+ 96,
108
+ 97,
109
+ 98,
110
+ 99,
111
+ 100,
112
+ 101,
113
+ 102,
114
+ 103,
115
+ 104,
116
+ 105,
117
+ 106,
118
+ 107,
119
+ 108,
120
+ 109,
121
+ 110,
122
+ 111,
123
+ 112,
124
+ 113,
125
+ 114,
126
+ 115,
127
+ 116,
128
+ 117,
129
+ 118,
130
+ 119,
131
+ 120,
132
+ 121,
133
+ 122,
134
+ 123,
135
+ 124,
136
+ 125,
137
+ 126,
138
+ 127,
139
+ 128,
140
+ 129,
141
+ 130,
142
+ 131,
143
+ 132,
144
+ 133,
145
+ 134,
146
+ 135,
147
+ 136,
148
+ 137,
149
+ 138,
150
+ 139,
151
+ 140,
152
+ 141,
153
+ 142,
154
+ 143,
155
+ 144,
156
+ 145,
157
+ 146,
158
+ 147,
159
+ 148,
160
+ 149,
161
+ 150,
162
+ 151,
163
+ 152,
164
+ 153,
165
+ 154,
166
+ 155,
167
+ 156,
168
+ 157,
169
+ 158,
170
+ 159,
171
+ 160,
172
+ 161,
173
+ 162,
174
+ 163,
175
+ 164,
176
+ 165,
177
+ 166,
178
+ 167,
179
+ 168,
180
+ 169,
181
+ 170,
182
+ 171,
183
+ 172,
184
+ 173,
185
+ 174,
186
+ 175,
187
+ 176,
188
+ 177,
189
+ 178,
190
+ 179,
191
+ 180,
192
+ 181,
193
+ 182,
194
+ 183,
195
+ 184,
196
+ 185,
197
+ 186,
198
+ 187,
199
+ 188,
200
+ 189,
201
+ 190,
202
+ 191,
203
+ 192,
204
+ 193,
205
+ 194,
206
+ 195,
207
+ 196,
208
+ 197,
209
+ 198,
210
+ 199,
211
+ 200,
212
+ 201,
213
+ 202,
214
+ 203,
215
+ 204,
216
+ 205,
217
+ 206,
218
+ 207,
219
+ 208,
220
+ 209,
221
+ 210,
222
+ 211,
223
+ 212,
224
+ 213,
225
+ 214,
226
+ 215,
227
+ 216,
228
+ 217,
229
+ 218,
230
+ 219,
231
+ 220,
232
+ 221,
233
+ 222,
234
+ 223,
235
+ 224,
236
+ 225,
237
+ 226,
238
+ 227,
239
+ 228,
240
+ 229,
241
+ 230,
242
+ 231,
243
+ 232,
244
+ 233,
245
+ 234,
246
+ 235,
247
+ 236,
248
+ 237,
249
+ 238,
250
+ 239,
251
+ 240,
252
+ 241,
253
+ 242,
254
+ 243,
255
+ 244,
256
+ 245,
257
+ 246,
258
+ 247,
259
+ 248,
260
+ 249,
261
+ 250,
262
+ 251,
263
+ 252,
264
+ 253,
265
+ 254,
266
+ 255,
267
+ 256,
268
+ 257,
269
+ 258,
270
+ 259,
271
+ 260,
272
+ 261,
273
+ 262,
274
+ 263,
275
+ 264,
276
+ 265,
277
+ 266,
278
+ 267,
279
+ 268,
280
+ 269,
281
+ 270,
282
+ 271,
283
+ 272,
284
+ 273,
285
+ 275,
286
+ 276,
287
+ 277,
288
+ 278,
289
+ 279,
290
+ 280,
291
+ 281,
292
+ 282,
293
+ 283,
294
+ 284,
295
+ 285,
296
+ 286,
297
+ 287,
298
+ 288,
299
+ 289,
300
+ 290,
301
+ 291,
302
+ 292,
303
+ 293,
304
+ 294,
305
+ 295,
306
+ 296,
307
+ 297,
308
+ 298,
309
+ 299,
310
+ 300,
311
+ 301,
312
+ 302,
313
+ 303,
314
+ 304,
315
+ 305,
316
+ 306,
317
+ 307,
318
+ 308,
319
+ 309,
320
+ 310,
321
+ 311,
322
+ 312,
323
+ 313,
324
+ 314,
325
+ 315,
326
+ 316,
327
+ 317,
328
+ 318,
329
+ 319,
330
+ 320,
331
+ 321,
332
+ 322,
333
+ 323,
334
+ 324,
335
+ 325,
336
+ 326,
337
+ 327,
338
+ 328,
339
+ 329,
340
+ 330,
341
+ 331,
342
+ 332,
343
+ 333,
344
+ 334,
345
+ 335,
346
+ 336,
347
+ 337,
348
+ 338,
349
+ 339,
350
+ 340,
351
+ 341,
352
+ 342,
353
+ 343,
354
+ 344,
355
+ 345,
356
+ 346,
357
+ 347,
358
+ 348,
359
+ 349,
360
+ 350,
361
+ 351,
362
+ 352,
363
+ 353,
364
+ 354,
365
+ 355,
366
+ 356,
367
+ 357,
368
+ 358,
369
+ 359,
370
+ 360,
371
+ 361,
372
+ 362,
373
+ 363,
374
+ 364,
375
+ 365,
376
+ 366,
377
+ 367,
378
+ 368,
379
+ 369,
380
+ 370,
381
+ 371,
382
+ 372,
383
+ 373,
384
+ 374,
385
+ 375,
386
+ 376,
387
+ 377,
388
+ 378,
389
+ 379,
390
+ 380,
391
+ 381,
392
+ 382,
393
+ 383,
394
+ 384,
395
+ 385,
396
+ 386,
397
+ 387,
398
+ 388,
399
+ 389,
400
+ 390,
401
+ 391,
402
+ 392,
403
+ 393,
404
+ 394,
405
+ 395,
406
+ 396,
407
+ 397,
408
+ 398,
409
+ 399,
410
+ 400,
411
+ 401,
412
+ 402,
413
+ 403,
414
+ 404,
415
+ 405,
416
+ 406,
417
+ 407,
418
+ 408,
419
+ 409,
420
+ 410,
421
+ 411,
422
+ 412,
423
+ 413,
424
+ 414,
425
+ 415,
426
+ 416,
427
+ 417,
428
+ 418,
429
+ 419,
430
+ 420,
431
+ 421,
432
+ 422,
433
+ 423,
434
+ 424,
435
+ 425,
436
+ 426,
437
+ 427,
438
+ 428,
439
+ 429,
440
+ 430,
441
+ 431,
442
+ 432,
443
+ 433,
444
+ 434,
445
+ 435,
446
+ 436,
447
+ 437,
448
+ 438,
449
+ 439,
450
+ 440,
451
+ 441,
452
+ 442,
453
+ 443,
454
+ 444,
455
+ 445,
456
+ 446,
457
+ 447,
458
+ 448,
459
+ 449,
460
+ 450,
461
+ 451,
462
+ 452,
463
+ 453,
464
+ 454,
465
+ 455,
466
+ 456,
467
+ 457,
468
+ 458,
469
+ 459,
470
+ 460,
471
+ 461,
472
+ 462,
473
+ 463,
474
+ 464,
475
+ 465,
476
+ 466,
477
+ 467,
478
+ 468,
479
+ 469,
480
+ 470,
481
+ 471,
482
+ 472,
483
+ 473,
484
+ 474,
485
+ 475,
486
+ 476,
487
+ 477,
488
+ 479,
489
+ 480,
490
+ 481,
491
+ 482,
492
+ 483,
493
+ 484,
494
+ 485,
495
+ 486,
496
+ 487,
497
+ 488,
498
+ 489,
499
+ 490,
500
+ 491,
501
+ 492,
502
+ 493,
503
+ 494,
504
+ 495,
505
+ 496,
506
+ 497,
507
+ 498,
508
+ 499,
509
+ 500,
510
+ 501,
511
+ 502,
512
+ 503,
513
+ 504,
514
+ 505,
515
+ 506,
516
+ 507,
517
+ 508,
518
+ 509,
519
+ 510,
520
+ 511,
521
+ 512,
522
+ 513,
523
+ 514,
524
+ 515,
525
+ 516,
526
+ 517,
527
+ 518,
528
+ 519,
529
+ 520,
530
+ 521,
531
+ 522,
532
+ 523,
533
+ 524,
534
+ 525,
535
+ 526,
536
+ 527,
537
+ 528,
538
+ 529,
539
+ 530,
540
+ 531,
541
+ 532,
542
+ 533,
543
+ 534,
544
+ 535,
545
+ 536,
546
+ 537,
547
+ 538,
548
+ 539,
549
+ 540,
550
+ 541,
551
+ 542,
552
+ 543,
553
+ 544,
554
+ 545,
555
+ 546,
556
+ 547,
557
+ 548,
558
+ 549,
559
+ 550,
560
+ 551,
561
+ 552,
562
+ 553,
563
+ 554,
564
+ 555,
565
+ 556,
566
+ 557,
567
+ 558,
568
+ 559,
569
+ 560,
570
+ 561,
571
+ 562,
572
+ 563,
573
+ 564,
574
+ 565,
575
+ 566,
576
+ 567,
577
+ 568,
578
+ 569,
579
+ 570,
580
+ 571,
581
+ 572,
582
+ 573,
583
+ 574,
584
+ 575,
585
+ 576,
586
+ 577,
587
+ 578,
588
+ 579,
589
+ 580,
590
+ 581,
591
+ 582,
592
+ 583,
593
+ 584,
594
+ 585,
595
+ 586,
596
+ 587,
597
+ 588,
598
+ 589,
599
+ 590,
600
+ 591,
601
+ 592,
602
+ 593,
603
+ 594,
604
+ 595,
605
+ 596,
606
+ 597,
607
+ 598,
608
+ 599,
609
+ 600,
610
+ 601,
611
+ 602,
612
+ 603,
613
+ 604,
614
+ 605,
615
+ 606,
616
+ 607,
617
+ 608,
618
+ 609,
619
+ 610,
620
+ 611,
621
+ 612,
622
+ 613,
623
+ 614,
624
+ 615,
625
+ 616,
626
+ 617,
627
+ 618,
628
+ 619,
629
+ 620,
630
+ 621,
631
+ 622,
632
+ 623,
633
+ 624,
634
+ 625,
635
+ 626,
636
+ 627,
637
+ 628,
638
+ 629,
639
+ 630,
640
+ 631,
641
+ 632,
642
+ 633,
643
+ 634,
644
+ 635,
645
+ 636,
646
+ 637,
647
+ 638,
648
+ 639,
649
+ 640,
650
+ 641,
651
+ 642,
652
+ 643,
653
+ 644,
654
+ 645,
655
+ 646,
656
+ 647,
657
+ 648,
658
+ 649,
659
+ 650,
660
+ 651,
661
+ 652,
662
+ 653,
663
+ 654,
664
+ 655,
665
+ 656,
666
+ 657,
667
+ 658,
668
+ 659,
669
+ 660,
670
+ 661,
671
+ 662,
672
+ 663,
673
+ 664,
674
+ 665,
675
+ 666,
676
+ 667,
677
+ 668,
678
+ 669,
679
+ 670,
680
+ 671,
681
+ 672,
682
+ 673,
683
+ 674,
684
+ 675,
685
+ 676,
686
+ 677,
687
+ 678,
688
+ 679,
689
+ 680,
690
+ 681,
691
+ 682,
692
+ 683,
693
+ 684,
694
+ 685,
695
+ 686,
696
+ 687,
697
+ 688,
698
+ 689,
699
+ 690,
700
+ 691,
701
+ 692,
702
+ 693,
703
+ 694,
704
+ 695,
705
+ 696,
706
+ 697,
707
+ 698,
708
+ 699,
709
+ 700,
710
+ 701,
711
+ 702,
712
+ 703,
713
+ 704,
714
+ 705,
715
+ 706,
716
+ 707,
717
+ 708,
718
+ 709,
719
+ 710,
720
+ 711,
721
+ 712,
722
+ 713,
723
+ 714,
724
+ 715,
725
+ 716,
726
+ 717,
727
+ 718,
728
+ 719,
729
+ 720,
730
+ 721,
731
+ 722,
732
+ 723,
733
+ 724,
734
+ 725,
735
+ 726,
736
+ 727,
737
+ 728,
738
+ 729,
739
+ 730,
740
+ 731,
741
+ 732,
742
+ 733,
743
+ 734,
744
+ 735,
745
+ 736,
746
+ 737,
747
+ 738,
748
+ 739,
749
+ 740,
750
+ 741,
751
+ 742,
752
+ 743,
753
+ 744,
754
+ 745,
755
+ 746,
756
+ 747,
757
+ 748,
758
+ 749,
759
+ 750,
760
+ 751,
761
+ 752,
762
+ 753,
763
+ 754,
764
+ 755,
765
+ 756,
766
+ 757,
767
+ 758,
768
+ 759,
769
+ 760,
770
+ 761,
771
+ 762,
772
+ 763,
773
+ 764,
774
+ 765,
775
+ 766,
776
+ 767,
777
+ 768,
778
+ 769,
779
+ 770,
780
+ 771,
781
+ 772,
782
+ 773,
783
+ 774,
784
+ 775,
785
+ 776,
786
+ 777,
787
+ 778,
788
+ 779,
789
+ 780,
790
+ 781,
791
+ 782,
792
+ 783,
793
+ 784,
794
+ 785,
795
+ 786,
796
+ 787,
797
+ 788,
798
+ 789,
799
+ 790,
800
+ 791,
801
+ 792,
802
+ 793,
803
+ 794,
804
+ 795,
805
+ 796,
806
+ 797,
807
+ 798,
808
+ 799,
809
+ 800,
810
+ 801,
811
+ 802,
812
+ 803,
813
+ 804,
814
+ 805,
815
+ 806,
816
+ 807,
817
+ 808,
818
+ 809,
819
+ 810,
820
+ 811,
821
+ 812,
822
+ 813,
823
+ 814,
824
+ 815,
825
+ 816,
826
+ 817,
827
+ 818,
828
+ 819,
829
+ 820,
830
+ 821,
831
+ 822,
832
+ 823,
833
+ 824,
834
+ 825,
835
+ 826,
836
+ 827,
837
+ 828,
838
+ 829,
839
+ 830,
840
+ 831,
841
+ 832,
842
+ 833,
843
+ 834,
844
+ 835,
845
+ 836,
846
+ 837,
847
+ 838,
848
+ 839,
849
+ 840,
850
+ 841,
851
+ 842,
852
+ 843,
853
+ 844,
854
+ 845,
855
+ 846,
856
+ 847,
857
+ 848,
858
+ 849,
859
+ 850,
860
+ 851,
861
+ 852,
862
+ 853,
863
+ 854,
864
+ 855,
865
+ 856,
866
+ 857,
867
+ 858,
868
+ 859,
869
+ 860,
870
+ 861,
871
+ 862,
872
+ 863,
873
+ 864,
874
+ 865,
875
+ 866,
876
+ 867,
877
+ 868,
878
+ 869,
879
+ 870,
880
+ 871,
881
+ 872,
882
+ 873,
883
+ 874,
884
+ 875,
885
+ 876,
886
+ 877,
887
+ 878,
888
+ 879,
889
+ 880,
890
+ 881,
891
+ 882,
892
+ 883,
893
+ 884,
894
+ 885,
895
+ 886,
896
+ 887,
897
+ 888,
898
+ 889,
899
+ 890,
900
+ 891,
901
+ 892,
902
+ 893,
903
+ 894,
904
+ 895,
905
+ 896,
906
+ 897,
907
+ 898,
908
+ 899,
909
+ 900,
910
+ 901,
911
+ 902,
912
+ 903,
913
+ 904,
914
+ 905,
915
+ 906,
916
+ 907,
917
+ 908,
918
+ 909,
919
+ 910,
920
+ 911,
921
+ 912,
922
+ 913,
923
+ 914,
924
+ 915,
925
+ 916,
926
+ 917,
927
+ 918,
928
+ 919,
929
+ 920,
930
+ 921,
931
+ 922,
932
+ 923,
933
+ 924,
934
+ 925,
935
+ 926,
936
+ 927,
937
+ 928,
938
+ 929,
939
+ 930,
940
+ 931,
941
+ 932,
942
+ 933,
943
+ 934,
944
+ 935,
945
+ 936,
946
+ 937,
947
+ 938,
948
+ 939,
949
+ 940,
950
+ 941,
951
+ 942,
952
+ 943,
953
+ 944,
954
+ 945,
955
+ 946,
956
+ 947,
957
+ 948,
958
+ 949,
959
+ 950,
960
+ 951,
961
+ 952,
962
+ 953,
963
+ 954,
964
+ 955,
965
+ 956,
966
+ 957,
967
+ 958,
968
+ 959,
969
+ 960,
970
+ 961,
971
+ 962,
972
+ 963,
973
+ 964,
974
+ 965,
975
+ 966,
976
+ 967,
977
+ 968,
978
+ 969,
979
+ 970,
980
+ 971,
981
+ 972,
982
+ 973,
983
+ 974,
984
+ 975,
985
+ 976,
986
+ 977,
987
+ 978,
988
+ 979,
989
+ 980,
990
+ 981,
991
+ 982,
992
+ 983,
993
+ 984,
994
+ 985,
995
+ 986,
996
+ 987,
997
+ 988,
998
+ 989,
999
+ 990,
1000
+ 991,
1001
+ 992,
1002
+ 993,
1003
+ 994,
1004
+ 995,
1005
+ 996,
1006
+ 997,
1007
+ 998,
1008
+ 999
1009
+ ],
1010
+ "not_both_correct_indices": [
1011
+ 274,
1012
+ 478
1013
+ ],
1014
+ "clean_baseline": 10.2890625,
1015
+ "corrupted_baseline": -10.390625
1016
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/number_sorting/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ca3c65860b8c2d5a49b4610cadee5a27912bc6afafba862fe8cd398858534ee6
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/MD/number_sorting/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a9527f7d70491a1f18c4288c00759fdd175cd1a32b59a5bc1280c110b0fa3b44
3
+ size 4726656
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/agent/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/agent/baselines.json ADDED
@@ -0,0 +1,961 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 945,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 945,
6
+ "clean_accuracy": 0.8243386243386244,
7
+ "corrupted_accuracy": 0.7788359788359789,
8
+ "both_correct_accuracy": 0.6624338624338625,
9
+ "n_both_correct": 626,
10
+ "both_correct_indices": [
11
+ 5,
12
+ 9,
13
+ 13,
14
+ 17,
15
+ 19,
16
+ 21,
17
+ 30,
18
+ 32,
19
+ 35,
20
+ 37,
21
+ 38,
22
+ 39,
23
+ 41,
24
+ 42,
25
+ 43,
26
+ 46,
27
+ 48,
28
+ 49,
29
+ 50,
30
+ 52,
31
+ 53,
32
+ 54,
33
+ 56,
34
+ 57,
35
+ 59,
36
+ 60,
37
+ 61,
38
+ 63,
39
+ 64,
40
+ 65,
41
+ 66,
42
+ 68,
43
+ 70,
44
+ 71,
45
+ 72,
46
+ 74,
47
+ 75,
48
+ 76,
49
+ 79,
50
+ 81,
51
+ 82,
52
+ 83,
53
+ 85,
54
+ 86,
55
+ 87,
56
+ 88,
57
+ 90,
58
+ 91,
59
+ 92,
60
+ 93,
61
+ 94,
62
+ 95,
63
+ 96,
64
+ 97,
65
+ 100,
66
+ 101,
67
+ 102,
68
+ 103,
69
+ 104,
70
+ 105,
71
+ 107,
72
+ 109,
73
+ 111,
74
+ 114,
75
+ 115,
76
+ 116,
77
+ 117,
78
+ 118,
79
+ 119,
80
+ 122,
81
+ 123,
82
+ 124,
83
+ 125,
84
+ 126,
85
+ 127,
86
+ 129,
87
+ 131,
88
+ 133,
89
+ 136,
90
+ 137,
91
+ 139,
92
+ 140,
93
+ 141,
94
+ 144,
95
+ 145,
96
+ 146,
97
+ 147,
98
+ 148,
99
+ 149,
100
+ 150,
101
+ 151,
102
+ 153,
103
+ 154,
104
+ 155,
105
+ 158,
106
+ 159,
107
+ 160,
108
+ 161,
109
+ 162,
110
+ 163,
111
+ 166,
112
+ 167,
113
+ 168,
114
+ 169,
115
+ 170,
116
+ 171,
117
+ 175,
118
+ 177,
119
+ 180,
120
+ 181,
121
+ 182,
122
+ 183,
123
+ 184,
124
+ 185,
125
+ 187,
126
+ 188,
127
+ 189,
128
+ 190,
129
+ 191,
130
+ 192,
131
+ 193,
132
+ 194,
133
+ 195,
134
+ 197,
135
+ 198,
136
+ 199,
137
+ 200,
138
+ 201,
139
+ 202,
140
+ 214,
141
+ 215,
142
+ 216,
143
+ 222,
144
+ 223,
145
+ 224,
146
+ 225,
147
+ 226,
148
+ 227,
149
+ 228,
150
+ 229,
151
+ 230,
152
+ 231,
153
+ 244,
154
+ 256,
155
+ 259,
156
+ 260,
157
+ 272,
158
+ 273,
159
+ 274,
160
+ 275,
161
+ 276,
162
+ 277,
163
+ 278,
164
+ 281,
165
+ 283,
166
+ 284,
167
+ 285,
168
+ 286,
169
+ 287,
170
+ 288,
171
+ 292,
172
+ 293,
173
+ 294,
174
+ 295,
175
+ 296,
176
+ 297,
177
+ 298,
178
+ 299,
179
+ 303,
180
+ 304,
181
+ 305,
182
+ 306,
183
+ 307,
184
+ 308,
185
+ 310,
186
+ 311,
187
+ 314,
188
+ 316,
189
+ 317,
190
+ 318,
191
+ 319,
192
+ 320,
193
+ 321,
194
+ 322,
195
+ 327,
196
+ 328,
197
+ 329,
198
+ 330,
199
+ 331,
200
+ 332,
201
+ 333,
202
+ 340,
203
+ 341,
204
+ 344,
205
+ 345,
206
+ 346,
207
+ 347,
208
+ 348,
209
+ 349,
210
+ 350,
211
+ 351,
212
+ 352,
213
+ 353,
214
+ 355,
215
+ 357,
216
+ 362,
217
+ 363,
218
+ 366,
219
+ 367,
220
+ 368,
221
+ 369,
222
+ 370,
223
+ 371,
224
+ 372,
225
+ 373,
226
+ 374,
227
+ 377,
228
+ 378,
229
+ 384,
230
+ 385,
231
+ 386,
232
+ 388,
233
+ 389,
234
+ 390,
235
+ 391,
236
+ 392,
237
+ 393,
238
+ 394,
239
+ 395,
240
+ 396,
241
+ 397,
242
+ 399,
243
+ 406,
244
+ 407,
245
+ 410,
246
+ 411,
247
+ 412,
248
+ 413,
249
+ 414,
250
+ 415,
251
+ 416,
252
+ 417,
253
+ 418,
254
+ 419,
255
+ 420,
256
+ 421,
257
+ 422,
258
+ 428,
259
+ 429,
260
+ 431,
261
+ 432,
262
+ 433,
263
+ 434,
264
+ 435,
265
+ 436,
266
+ 437,
267
+ 438,
268
+ 439,
269
+ 440,
270
+ 441,
271
+ 442,
272
+ 445,
273
+ 449,
274
+ 451,
275
+ 452,
276
+ 453,
277
+ 455,
278
+ 457,
279
+ 458,
280
+ 459,
281
+ 460,
282
+ 461,
283
+ 462,
284
+ 463,
285
+ 464,
286
+ 465,
287
+ 467,
288
+ 471,
289
+ 473,
290
+ 474,
291
+ 475,
292
+ 477,
293
+ 479,
294
+ 480,
295
+ 481,
296
+ 482,
297
+ 483,
298
+ 485,
299
+ 487,
300
+ 488,
301
+ 489,
302
+ 490,
303
+ 493,
304
+ 494,
305
+ 495,
306
+ 496,
307
+ 497,
308
+ 499,
309
+ 500,
310
+ 501,
311
+ 502,
312
+ 503,
313
+ 504,
314
+ 505,
315
+ 507,
316
+ 508,
317
+ 511,
318
+ 517,
319
+ 518,
320
+ 519,
321
+ 521,
322
+ 522,
323
+ 523,
324
+ 524,
325
+ 525,
326
+ 526,
327
+ 527,
328
+ 528,
329
+ 529,
330
+ 531,
331
+ 533,
332
+ 539,
333
+ 540,
334
+ 541,
335
+ 542,
336
+ 545,
337
+ 546,
338
+ 547,
339
+ 548,
340
+ 549,
341
+ 550,
342
+ 551,
343
+ 552,
344
+ 553,
345
+ 555,
346
+ 558,
347
+ 559,
348
+ 566,
349
+ 567,
350
+ 570,
351
+ 571,
352
+ 572,
353
+ 573,
354
+ 574,
355
+ 575,
356
+ 578,
357
+ 579,
358
+ 580,
359
+ 582,
360
+ 583,
361
+ 584,
362
+ 585,
363
+ 586,
364
+ 587,
365
+ 588,
366
+ 589,
367
+ 590,
368
+ 591,
369
+ 592,
370
+ 593,
371
+ 594,
372
+ 595,
373
+ 596,
374
+ 597,
375
+ 602,
376
+ 603,
377
+ 610,
378
+ 611,
379
+ 614,
380
+ 615,
381
+ 616,
382
+ 617,
383
+ 618,
384
+ 619,
385
+ 622,
386
+ 623,
387
+ 624,
388
+ 626,
389
+ 627,
390
+ 628,
391
+ 629,
392
+ 630,
393
+ 631,
394
+ 632,
395
+ 633,
396
+ 634,
397
+ 635,
398
+ 639,
399
+ 642,
400
+ 643,
401
+ 644,
402
+ 645,
403
+ 646,
404
+ 654,
405
+ 656,
406
+ 658,
407
+ 659,
408
+ 660,
409
+ 661,
410
+ 662,
411
+ 663,
412
+ 666,
413
+ 667,
414
+ 668,
415
+ 669,
416
+ 670,
417
+ 671,
418
+ 672,
419
+ 673,
420
+ 674,
421
+ 675,
422
+ 676,
423
+ 677,
424
+ 678,
425
+ 679,
426
+ 680,
427
+ 681,
428
+ 682,
429
+ 683,
430
+ 684,
431
+ 685,
432
+ 688,
433
+ 689,
434
+ 693,
435
+ 699,
436
+ 702,
437
+ 703,
438
+ 704,
439
+ 705,
440
+ 706,
441
+ 707,
442
+ 710,
443
+ 711,
444
+ 712,
445
+ 714,
446
+ 715,
447
+ 716,
448
+ 717,
449
+ 718,
450
+ 719,
451
+ 720,
452
+ 721,
453
+ 722,
454
+ 723,
455
+ 724,
456
+ 725,
457
+ 726,
458
+ 727,
459
+ 729,
460
+ 730,
461
+ 731,
462
+ 732,
463
+ 734,
464
+ 735,
465
+ 742,
466
+ 743,
467
+ 745,
468
+ 746,
469
+ 747,
470
+ 748,
471
+ 749,
472
+ 750,
473
+ 751,
474
+ 754,
475
+ 755,
476
+ 756,
477
+ 757,
478
+ 758,
479
+ 759,
480
+ 760,
481
+ 761,
482
+ 762,
483
+ 763,
484
+ 764,
485
+ 765,
486
+ 766,
487
+ 767,
488
+ 768,
489
+ 769,
490
+ 771,
491
+ 772,
492
+ 773,
493
+ 774,
494
+ 775,
495
+ 776,
496
+ 777,
497
+ 778,
498
+ 779,
499
+ 780,
500
+ 781,
501
+ 783,
502
+ 784,
503
+ 785,
504
+ 786,
505
+ 787,
506
+ 788,
507
+ 789,
508
+ 790,
509
+ 791,
510
+ 792,
511
+ 793,
512
+ 794,
513
+ 795,
514
+ 796,
515
+ 797,
516
+ 798,
517
+ 799,
518
+ 800,
519
+ 801,
520
+ 802,
521
+ 803,
522
+ 804,
523
+ 805,
524
+ 806,
525
+ 808,
526
+ 809,
527
+ 810,
528
+ 811,
529
+ 812,
530
+ 813,
531
+ 814,
532
+ 815,
533
+ 816,
534
+ 817,
535
+ 818,
536
+ 819,
537
+ 820,
538
+ 821,
539
+ 822,
540
+ 823,
541
+ 824,
542
+ 825,
543
+ 826,
544
+ 827,
545
+ 828,
546
+ 829,
547
+ 830,
548
+ 831,
549
+ 832,
550
+ 833,
551
+ 834,
552
+ 835,
553
+ 836,
554
+ 837,
555
+ 838,
556
+ 839,
557
+ 840,
558
+ 842,
559
+ 843,
560
+ 846,
561
+ 847,
562
+ 848,
563
+ 849,
564
+ 850,
565
+ 851,
566
+ 853,
567
+ 854,
568
+ 857,
569
+ 858,
570
+ 859,
571
+ 860,
572
+ 861,
573
+ 862,
574
+ 863,
575
+ 864,
576
+ 865,
577
+ 866,
578
+ 867,
579
+ 868,
580
+ 869,
581
+ 870,
582
+ 871,
583
+ 872,
584
+ 873,
585
+ 874,
586
+ 875,
587
+ 876,
588
+ 877,
589
+ 878,
590
+ 879,
591
+ 881,
592
+ 882,
593
+ 883,
594
+ 884,
595
+ 885,
596
+ 888,
597
+ 889,
598
+ 895,
599
+ 896,
600
+ 897,
601
+ 898,
602
+ 899,
603
+ 900,
604
+ 901,
605
+ 902,
606
+ 903,
607
+ 904,
608
+ 905,
609
+ 907,
610
+ 908,
611
+ 909,
612
+ 910,
613
+ 911,
614
+ 912,
615
+ 913,
616
+ 914,
617
+ 915,
618
+ 916,
619
+ 917,
620
+ 918,
621
+ 919,
622
+ 920,
623
+ 927,
624
+ 928,
625
+ 929,
626
+ 930,
627
+ 932,
628
+ 934,
629
+ 935,
630
+ 936,
631
+ 937,
632
+ 938,
633
+ 939,
634
+ 941,
635
+ 943,
636
+ 944
637
+ ],
638
+ "not_both_correct_indices": [
639
+ 0,
640
+ 1,
641
+ 2,
642
+ 3,
643
+ 4,
644
+ 6,
645
+ 7,
646
+ 8,
647
+ 10,
648
+ 11,
649
+ 12,
650
+ 14,
651
+ 15,
652
+ 16,
653
+ 18,
654
+ 20,
655
+ 22,
656
+ 23,
657
+ 24,
658
+ 25,
659
+ 26,
660
+ 27,
661
+ 28,
662
+ 29,
663
+ 31,
664
+ 33,
665
+ 34,
666
+ 36,
667
+ 40,
668
+ 44,
669
+ 45,
670
+ 47,
671
+ 51,
672
+ 55,
673
+ 58,
674
+ 62,
675
+ 67,
676
+ 69,
677
+ 73,
678
+ 77,
679
+ 78,
680
+ 80,
681
+ 84,
682
+ 89,
683
+ 98,
684
+ 99,
685
+ 106,
686
+ 108,
687
+ 110,
688
+ 112,
689
+ 113,
690
+ 120,
691
+ 121,
692
+ 128,
693
+ 130,
694
+ 132,
695
+ 134,
696
+ 135,
697
+ 138,
698
+ 142,
699
+ 143,
700
+ 152,
701
+ 156,
702
+ 157,
703
+ 164,
704
+ 165,
705
+ 172,
706
+ 173,
707
+ 174,
708
+ 176,
709
+ 178,
710
+ 179,
711
+ 186,
712
+ 196,
713
+ 203,
714
+ 204,
715
+ 205,
716
+ 206,
717
+ 207,
718
+ 208,
719
+ 209,
720
+ 210,
721
+ 211,
722
+ 212,
723
+ 213,
724
+ 217,
725
+ 218,
726
+ 219,
727
+ 220,
728
+ 221,
729
+ 232,
730
+ 233,
731
+ 234,
732
+ 235,
733
+ 236,
734
+ 237,
735
+ 238,
736
+ 239,
737
+ 240,
738
+ 241,
739
+ 242,
740
+ 243,
741
+ 245,
742
+ 246,
743
+ 247,
744
+ 248,
745
+ 249,
746
+ 250,
747
+ 251,
748
+ 252,
749
+ 253,
750
+ 254,
751
+ 255,
752
+ 257,
753
+ 258,
754
+ 261,
755
+ 262,
756
+ 263,
757
+ 264,
758
+ 265,
759
+ 266,
760
+ 267,
761
+ 268,
762
+ 269,
763
+ 270,
764
+ 271,
765
+ 279,
766
+ 280,
767
+ 282,
768
+ 289,
769
+ 290,
770
+ 291,
771
+ 300,
772
+ 301,
773
+ 302,
774
+ 309,
775
+ 312,
776
+ 313,
777
+ 315,
778
+ 323,
779
+ 324,
780
+ 325,
781
+ 326,
782
+ 334,
783
+ 335,
784
+ 336,
785
+ 337,
786
+ 338,
787
+ 339,
788
+ 342,
789
+ 343,
790
+ 354,
791
+ 356,
792
+ 358,
793
+ 359,
794
+ 360,
795
+ 361,
796
+ 364,
797
+ 365,
798
+ 375,
799
+ 376,
800
+ 379,
801
+ 380,
802
+ 381,
803
+ 382,
804
+ 383,
805
+ 387,
806
+ 398,
807
+ 400,
808
+ 401,
809
+ 402,
810
+ 403,
811
+ 404,
812
+ 405,
813
+ 408,
814
+ 409,
815
+ 423,
816
+ 424,
817
+ 425,
818
+ 426,
819
+ 427,
820
+ 430,
821
+ 443,
822
+ 444,
823
+ 446,
824
+ 447,
825
+ 448,
826
+ 450,
827
+ 454,
828
+ 456,
829
+ 466,
830
+ 468,
831
+ 469,
832
+ 470,
833
+ 472,
834
+ 476,
835
+ 478,
836
+ 484,
837
+ 486,
838
+ 491,
839
+ 492,
840
+ 498,
841
+ 506,
842
+ 509,
843
+ 510,
844
+ 512,
845
+ 513,
846
+ 514,
847
+ 515,
848
+ 516,
849
+ 520,
850
+ 530,
851
+ 532,
852
+ 534,
853
+ 535,
854
+ 536,
855
+ 537,
856
+ 538,
857
+ 543,
858
+ 544,
859
+ 554,
860
+ 556,
861
+ 557,
862
+ 560,
863
+ 561,
864
+ 562,
865
+ 563,
866
+ 564,
867
+ 565,
868
+ 568,
869
+ 569,
870
+ 576,
871
+ 577,
872
+ 581,
873
+ 598,
874
+ 599,
875
+ 600,
876
+ 601,
877
+ 604,
878
+ 605,
879
+ 606,
880
+ 607,
881
+ 608,
882
+ 609,
883
+ 612,
884
+ 613,
885
+ 620,
886
+ 621,
887
+ 625,
888
+ 636,
889
+ 637,
890
+ 638,
891
+ 640,
892
+ 641,
893
+ 647,
894
+ 648,
895
+ 649,
896
+ 650,
897
+ 651,
898
+ 652,
899
+ 653,
900
+ 655,
901
+ 657,
902
+ 664,
903
+ 665,
904
+ 686,
905
+ 687,
906
+ 690,
907
+ 691,
908
+ 692,
909
+ 694,
910
+ 695,
911
+ 696,
912
+ 697,
913
+ 698,
914
+ 700,
915
+ 701,
916
+ 708,
917
+ 709,
918
+ 713,
919
+ 728,
920
+ 733,
921
+ 736,
922
+ 737,
923
+ 738,
924
+ 739,
925
+ 740,
926
+ 741,
927
+ 744,
928
+ 752,
929
+ 753,
930
+ 770,
931
+ 782,
932
+ 807,
933
+ 841,
934
+ 844,
935
+ 845,
936
+ 852,
937
+ 855,
938
+ 856,
939
+ 880,
940
+ 886,
941
+ 887,
942
+ 890,
943
+ 891,
944
+ 892,
945
+ 893,
946
+ 894,
947
+ 906,
948
+ 921,
949
+ 922,
950
+ 923,
951
+ 924,
952
+ 925,
953
+ 926,
954
+ 931,
955
+ 933,
956
+ 940,
957
+ 942
958
+ ],
959
+ "clean_baseline": 5.3125,
960
+ "corrupted_baseline": -5.25
961
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/agent/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:680aa4fe15eb0a0c7c3d1211db3df4a503581c0559721355dd9d4ba227837b05
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/agent/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:c2dd7de36e4fe01f81aec52f8a080ed3b5bda4605c5808d96528a44ef05b0527
3
+ size 5222424
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/desires_goals/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/desires_goals/baselines.json ADDED
@@ -0,0 +1,1097 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 1080,
3
+ "n_token_misaligned": 120,
4
+ "token_misaligned_indices": [
5
+ 300,
6
+ 301,
7
+ 302,
8
+ 303,
9
+ 304,
10
+ 305,
11
+ 306,
12
+ 307,
13
+ 308,
14
+ 309,
15
+ 310,
16
+ 311,
17
+ 312,
18
+ 313,
19
+ 314,
20
+ 315,
21
+ 316,
22
+ 317,
23
+ 318,
24
+ 319,
25
+ 320,
26
+ 321,
27
+ 322,
28
+ 323,
29
+ 324,
30
+ 325,
31
+ 326,
32
+ 327,
33
+ 328,
34
+ 329,
35
+ 330,
36
+ 331,
37
+ 332,
38
+ 333,
39
+ 334,
40
+ 335,
41
+ 336,
42
+ 337,
43
+ 338,
44
+ 339,
45
+ 340,
46
+ 341,
47
+ 342,
48
+ 343,
49
+ 344,
50
+ 345,
51
+ 346,
52
+ 347,
53
+ 348,
54
+ 349,
55
+ 350,
56
+ 351,
57
+ 352,
58
+ 353,
59
+ 354,
60
+ 355,
61
+ 356,
62
+ 357,
63
+ 358,
64
+ 359,
65
+ 540,
66
+ 541,
67
+ 542,
68
+ 543,
69
+ 544,
70
+ 545,
71
+ 546,
72
+ 547,
73
+ 548,
74
+ 549,
75
+ 550,
76
+ 551,
77
+ 552,
78
+ 553,
79
+ 554,
80
+ 555,
81
+ 556,
82
+ 557,
83
+ 558,
84
+ 559,
85
+ 560,
86
+ 561,
87
+ 562,
88
+ 563,
89
+ 564,
90
+ 565,
91
+ 566,
92
+ 567,
93
+ 568,
94
+ 569,
95
+ 570,
96
+ 571,
97
+ 572,
98
+ 573,
99
+ 574,
100
+ 575,
101
+ 576,
102
+ 577,
103
+ 578,
104
+ 579,
105
+ 580,
106
+ 581,
107
+ 582,
108
+ 583,
109
+ 584,
110
+ 585,
111
+ 586,
112
+ 587,
113
+ 588,
114
+ 589,
115
+ 590,
116
+ 591,
117
+ 592,
118
+ 593,
119
+ 594,
120
+ 595,
121
+ 596,
122
+ 597,
123
+ 598,
124
+ 599
125
+ ],
126
+ "n_after_alignment_filter": 960,
127
+ "clean_accuracy": 0.8875,
128
+ "corrupted_accuracy": 0.8385416666666666,
129
+ "both_correct_accuracy": 0.7260416666666667,
130
+ "n_both_correct": 697,
131
+ "both_correct_indices": [
132
+ 0,
133
+ 1,
134
+ 2,
135
+ 3,
136
+ 4,
137
+ 5,
138
+ 6,
139
+ 7,
140
+ 8,
141
+ 9,
142
+ 10,
143
+ 11,
144
+ 12,
145
+ 13,
146
+ 14,
147
+ 15,
148
+ 16,
149
+ 17,
150
+ 18,
151
+ 19,
152
+ 20,
153
+ 21,
154
+ 22,
155
+ 23,
156
+ 24,
157
+ 25,
158
+ 26,
159
+ 27,
160
+ 28,
161
+ 29,
162
+ 30,
163
+ 31,
164
+ 32,
165
+ 33,
166
+ 34,
167
+ 35,
168
+ 36,
169
+ 37,
170
+ 38,
171
+ 39,
172
+ 40,
173
+ 41,
174
+ 42,
175
+ 43,
176
+ 44,
177
+ 45,
178
+ 46,
179
+ 47,
180
+ 48,
181
+ 49,
182
+ 50,
183
+ 51,
184
+ 52,
185
+ 53,
186
+ 54,
187
+ 55,
188
+ 56,
189
+ 57,
190
+ 58,
191
+ 59,
192
+ 60,
193
+ 61,
194
+ 62,
195
+ 63,
196
+ 64,
197
+ 65,
198
+ 66,
199
+ 67,
200
+ 68,
201
+ 69,
202
+ 70,
203
+ 71,
204
+ 72,
205
+ 73,
206
+ 74,
207
+ 75,
208
+ 76,
209
+ 77,
210
+ 78,
211
+ 79,
212
+ 80,
213
+ 81,
214
+ 82,
215
+ 83,
216
+ 84,
217
+ 85,
218
+ 86,
219
+ 87,
220
+ 88,
221
+ 89,
222
+ 90,
223
+ 91,
224
+ 92,
225
+ 93,
226
+ 94,
227
+ 95,
228
+ 96,
229
+ 97,
230
+ 98,
231
+ 99,
232
+ 100,
233
+ 101,
234
+ 102,
235
+ 103,
236
+ 104,
237
+ 105,
238
+ 106,
239
+ 107,
240
+ 108,
241
+ 109,
242
+ 110,
243
+ 111,
244
+ 112,
245
+ 113,
246
+ 114,
247
+ 115,
248
+ 116,
249
+ 117,
250
+ 118,
251
+ 119,
252
+ 120,
253
+ 121,
254
+ 122,
255
+ 123,
256
+ 124,
257
+ 125,
258
+ 126,
259
+ 127,
260
+ 128,
261
+ 129,
262
+ 130,
263
+ 131,
264
+ 132,
265
+ 133,
266
+ 134,
267
+ 135,
268
+ 136,
269
+ 137,
270
+ 138,
271
+ 139,
272
+ 140,
273
+ 141,
274
+ 142,
275
+ 143,
276
+ 144,
277
+ 145,
278
+ 146,
279
+ 147,
280
+ 148,
281
+ 149,
282
+ 150,
283
+ 151,
284
+ 152,
285
+ 154,
286
+ 155,
287
+ 157,
288
+ 158,
289
+ 159,
290
+ 160,
291
+ 161,
292
+ 162,
293
+ 163,
294
+ 164,
295
+ 166,
296
+ 167,
297
+ 168,
298
+ 169,
299
+ 170,
300
+ 171,
301
+ 172,
302
+ 173,
303
+ 174,
304
+ 175,
305
+ 176,
306
+ 177,
307
+ 178,
308
+ 179,
309
+ 180,
310
+ 181,
311
+ 182,
312
+ 183,
313
+ 184,
314
+ 185,
315
+ 186,
316
+ 187,
317
+ 188,
318
+ 189,
319
+ 190,
320
+ 191,
321
+ 192,
322
+ 193,
323
+ 194,
324
+ 195,
325
+ 196,
326
+ 197,
327
+ 198,
328
+ 199,
329
+ 200,
330
+ 201,
331
+ 202,
332
+ 203,
333
+ 204,
334
+ 205,
335
+ 206,
336
+ 207,
337
+ 208,
338
+ 209,
339
+ 210,
340
+ 211,
341
+ 212,
342
+ 213,
343
+ 214,
344
+ 215,
345
+ 216,
346
+ 217,
347
+ 218,
348
+ 219,
349
+ 220,
350
+ 221,
351
+ 222,
352
+ 223,
353
+ 224,
354
+ 225,
355
+ 226,
356
+ 227,
357
+ 228,
358
+ 229,
359
+ 230,
360
+ 231,
361
+ 232,
362
+ 233,
363
+ 234,
364
+ 235,
365
+ 236,
366
+ 237,
367
+ 238,
368
+ 239,
369
+ 240,
370
+ 241,
371
+ 242,
372
+ 243,
373
+ 244,
374
+ 245,
375
+ 246,
376
+ 247,
377
+ 248,
378
+ 249,
379
+ 250,
380
+ 251,
381
+ 252,
382
+ 253,
383
+ 254,
384
+ 255,
385
+ 256,
386
+ 257,
387
+ 258,
388
+ 259,
389
+ 260,
390
+ 261,
391
+ 262,
392
+ 263,
393
+ 264,
394
+ 265,
395
+ 266,
396
+ 267,
397
+ 268,
398
+ 269,
399
+ 270,
400
+ 271,
401
+ 272,
402
+ 273,
403
+ 274,
404
+ 275,
405
+ 276,
406
+ 277,
407
+ 278,
408
+ 279,
409
+ 280,
410
+ 281,
411
+ 282,
412
+ 283,
413
+ 284,
414
+ 285,
415
+ 286,
416
+ 287,
417
+ 288,
418
+ 289,
419
+ 290,
420
+ 291,
421
+ 292,
422
+ 293,
423
+ 294,
424
+ 295,
425
+ 296,
426
+ 297,
427
+ 298,
428
+ 299,
429
+ 360,
430
+ 361,
431
+ 362,
432
+ 363,
433
+ 364,
434
+ 365,
435
+ 366,
436
+ 367,
437
+ 368,
438
+ 369,
439
+ 370,
440
+ 371,
441
+ 372,
442
+ 373,
443
+ 374,
444
+ 375,
445
+ 376,
446
+ 377,
447
+ 378,
448
+ 379,
449
+ 380,
450
+ 381,
451
+ 382,
452
+ 383,
453
+ 384,
454
+ 385,
455
+ 386,
456
+ 387,
457
+ 388,
458
+ 389,
459
+ 390,
460
+ 391,
461
+ 392,
462
+ 393,
463
+ 394,
464
+ 395,
465
+ 396,
466
+ 397,
467
+ 398,
468
+ 399,
469
+ 400,
470
+ 401,
471
+ 402,
472
+ 403,
473
+ 404,
474
+ 405,
475
+ 406,
476
+ 407,
477
+ 408,
478
+ 409,
479
+ 410,
480
+ 411,
481
+ 412,
482
+ 413,
483
+ 414,
484
+ 415,
485
+ 416,
486
+ 417,
487
+ 418,
488
+ 419,
489
+ 480,
490
+ 481,
491
+ 482,
492
+ 483,
493
+ 484,
494
+ 485,
495
+ 486,
496
+ 487,
497
+ 488,
498
+ 489,
499
+ 490,
500
+ 491,
501
+ 492,
502
+ 493,
503
+ 494,
504
+ 495,
505
+ 496,
506
+ 497,
507
+ 498,
508
+ 499,
509
+ 500,
510
+ 501,
511
+ 502,
512
+ 503,
513
+ 504,
514
+ 505,
515
+ 506,
516
+ 507,
517
+ 508,
518
+ 509,
519
+ 510,
520
+ 511,
521
+ 512,
522
+ 513,
523
+ 514,
524
+ 515,
525
+ 516,
526
+ 517,
527
+ 518,
528
+ 519,
529
+ 520,
530
+ 521,
531
+ 522,
532
+ 523,
533
+ 524,
534
+ 525,
535
+ 526,
536
+ 527,
537
+ 528,
538
+ 529,
539
+ 530,
540
+ 531,
541
+ 532,
542
+ 533,
543
+ 534,
544
+ 535,
545
+ 536,
546
+ 537,
547
+ 538,
548
+ 539,
549
+ 600,
550
+ 601,
551
+ 602,
552
+ 603,
553
+ 604,
554
+ 605,
555
+ 606,
556
+ 607,
557
+ 608,
558
+ 609,
559
+ 610,
560
+ 611,
561
+ 612,
562
+ 613,
563
+ 614,
564
+ 615,
565
+ 616,
566
+ 617,
567
+ 618,
568
+ 619,
569
+ 620,
570
+ 621,
571
+ 622,
572
+ 623,
573
+ 624,
574
+ 625,
575
+ 626,
576
+ 627,
577
+ 628,
578
+ 629,
579
+ 630,
580
+ 631,
581
+ 632,
582
+ 633,
583
+ 634,
584
+ 635,
585
+ 636,
586
+ 637,
587
+ 638,
588
+ 639,
589
+ 640,
590
+ 641,
591
+ 642,
592
+ 643,
593
+ 644,
594
+ 645,
595
+ 646,
596
+ 647,
597
+ 648,
598
+ 649,
599
+ 650,
600
+ 651,
601
+ 652,
602
+ 653,
603
+ 654,
604
+ 655,
605
+ 656,
606
+ 657,
607
+ 658,
608
+ 659,
609
+ 662,
610
+ 670,
611
+ 674,
612
+ 682,
613
+ 686,
614
+ 694,
615
+ 698,
616
+ 706,
617
+ 710,
618
+ 718,
619
+ 720,
620
+ 721,
621
+ 722,
622
+ 723,
623
+ 724,
624
+ 725,
625
+ 726,
626
+ 727,
627
+ 728,
628
+ 729,
629
+ 730,
630
+ 731,
631
+ 732,
632
+ 733,
633
+ 734,
634
+ 735,
635
+ 736,
636
+ 737,
637
+ 738,
638
+ 739,
639
+ 740,
640
+ 741,
641
+ 742,
642
+ 743,
643
+ 744,
644
+ 745,
645
+ 746,
646
+ 747,
647
+ 748,
648
+ 749,
649
+ 750,
650
+ 751,
651
+ 752,
652
+ 753,
653
+ 754,
654
+ 755,
655
+ 756,
656
+ 757,
657
+ 758,
658
+ 759,
659
+ 760,
660
+ 761,
661
+ 762,
662
+ 763,
663
+ 764,
664
+ 765,
665
+ 766,
666
+ 767,
667
+ 768,
668
+ 769,
669
+ 770,
670
+ 771,
671
+ 772,
672
+ 773,
673
+ 774,
674
+ 775,
675
+ 776,
676
+ 777,
677
+ 778,
678
+ 779,
679
+ 780,
680
+ 781,
681
+ 782,
682
+ 783,
683
+ 784,
684
+ 785,
685
+ 786,
686
+ 787,
687
+ 788,
688
+ 789,
689
+ 790,
690
+ 791,
691
+ 792,
692
+ 793,
693
+ 794,
694
+ 795,
695
+ 796,
696
+ 797,
697
+ 798,
698
+ 799,
699
+ 800,
700
+ 801,
701
+ 802,
702
+ 803,
703
+ 804,
704
+ 805,
705
+ 806,
706
+ 807,
707
+ 808,
708
+ 809,
709
+ 810,
710
+ 811,
711
+ 812,
712
+ 813,
713
+ 814,
714
+ 815,
715
+ 816,
716
+ 817,
717
+ 818,
718
+ 819,
719
+ 820,
720
+ 821,
721
+ 822,
722
+ 823,
723
+ 824,
724
+ 825,
725
+ 826,
726
+ 827,
727
+ 828,
728
+ 829,
729
+ 830,
730
+ 831,
731
+ 832,
732
+ 833,
733
+ 834,
734
+ 835,
735
+ 836,
736
+ 837,
737
+ 838,
738
+ 839,
739
+ 840,
740
+ 841,
741
+ 843,
742
+ 844,
743
+ 846,
744
+ 847,
745
+ 848,
746
+ 850,
747
+ 882,
748
+ 888,
749
+ 889,
750
+ 894,
751
+ 895,
752
+ 896,
753
+ 898,
754
+ 960,
755
+ 961,
756
+ 962,
757
+ 963,
758
+ 964,
759
+ 965,
760
+ 966,
761
+ 967,
762
+ 968,
763
+ 969,
764
+ 970,
765
+ 971,
766
+ 972,
767
+ 973,
768
+ 974,
769
+ 975,
770
+ 976,
771
+ 977,
772
+ 978,
773
+ 979,
774
+ 980,
775
+ 981,
776
+ 982,
777
+ 983,
778
+ 984,
779
+ 985,
780
+ 986,
781
+ 987,
782
+ 988,
783
+ 989,
784
+ 990,
785
+ 991,
786
+ 992,
787
+ 993,
788
+ 994,
789
+ 995,
790
+ 996,
791
+ 997,
792
+ 998,
793
+ 999,
794
+ 1000,
795
+ 1001,
796
+ 1002,
797
+ 1003,
798
+ 1004,
799
+ 1005,
800
+ 1006,
801
+ 1007,
802
+ 1008,
803
+ 1009,
804
+ 1010,
805
+ 1011,
806
+ 1012,
807
+ 1013,
808
+ 1014,
809
+ 1015,
810
+ 1016,
811
+ 1017,
812
+ 1018,
813
+ 1019,
814
+ 1030,
815
+ 1054,
816
+ 1056,
817
+ 1057,
818
+ 1058,
819
+ 1059,
820
+ 1060,
821
+ 1061,
822
+ 1062,
823
+ 1063,
824
+ 1064,
825
+ 1065,
826
+ 1066,
827
+ 1067,
828
+ 1078
829
+ ],
830
+ "not_both_correct_indices": [
831
+ 153,
832
+ 156,
833
+ 165,
834
+ 420,
835
+ 421,
836
+ 422,
837
+ 423,
838
+ 424,
839
+ 425,
840
+ 426,
841
+ 427,
842
+ 428,
843
+ 429,
844
+ 430,
845
+ 431,
846
+ 432,
847
+ 433,
848
+ 434,
849
+ 435,
850
+ 436,
851
+ 437,
852
+ 438,
853
+ 439,
854
+ 440,
855
+ 441,
856
+ 442,
857
+ 443,
858
+ 444,
859
+ 445,
860
+ 446,
861
+ 447,
862
+ 448,
863
+ 449,
864
+ 450,
865
+ 451,
866
+ 452,
867
+ 453,
868
+ 454,
869
+ 455,
870
+ 456,
871
+ 457,
872
+ 458,
873
+ 459,
874
+ 460,
875
+ 461,
876
+ 462,
877
+ 463,
878
+ 464,
879
+ 465,
880
+ 466,
881
+ 467,
882
+ 468,
883
+ 469,
884
+ 470,
885
+ 471,
886
+ 472,
887
+ 473,
888
+ 474,
889
+ 475,
890
+ 476,
891
+ 477,
892
+ 478,
893
+ 479,
894
+ 660,
895
+ 661,
896
+ 663,
897
+ 664,
898
+ 665,
899
+ 666,
900
+ 667,
901
+ 668,
902
+ 669,
903
+ 671,
904
+ 672,
905
+ 673,
906
+ 675,
907
+ 676,
908
+ 677,
909
+ 678,
910
+ 679,
911
+ 680,
912
+ 681,
913
+ 683,
914
+ 684,
915
+ 685,
916
+ 687,
917
+ 688,
918
+ 689,
919
+ 690,
920
+ 691,
921
+ 692,
922
+ 693,
923
+ 695,
924
+ 696,
925
+ 697,
926
+ 699,
927
+ 700,
928
+ 701,
929
+ 702,
930
+ 703,
931
+ 704,
932
+ 705,
933
+ 707,
934
+ 708,
935
+ 709,
936
+ 711,
937
+ 712,
938
+ 713,
939
+ 714,
940
+ 715,
941
+ 716,
942
+ 717,
943
+ 719,
944
+ 842,
945
+ 845,
946
+ 849,
947
+ 851,
948
+ 852,
949
+ 853,
950
+ 854,
951
+ 855,
952
+ 856,
953
+ 857,
954
+ 858,
955
+ 859,
956
+ 860,
957
+ 861,
958
+ 862,
959
+ 863,
960
+ 864,
961
+ 865,
962
+ 866,
963
+ 867,
964
+ 868,
965
+ 869,
966
+ 870,
967
+ 871,
968
+ 872,
969
+ 873,
970
+ 874,
971
+ 875,
972
+ 876,
973
+ 877,
974
+ 878,
975
+ 879,
976
+ 880,
977
+ 881,
978
+ 883,
979
+ 884,
980
+ 885,
981
+ 886,
982
+ 887,
983
+ 890,
984
+ 891,
985
+ 892,
986
+ 893,
987
+ 897,
988
+ 899,
989
+ 900,
990
+ 901,
991
+ 902,
992
+ 903,
993
+ 904,
994
+ 905,
995
+ 906,
996
+ 907,
997
+ 908,
998
+ 909,
999
+ 910,
1000
+ 911,
1001
+ 912,
1002
+ 913,
1003
+ 914,
1004
+ 915,
1005
+ 916,
1006
+ 917,
1007
+ 918,
1008
+ 919,
1009
+ 920,
1010
+ 921,
1011
+ 922,
1012
+ 923,
1013
+ 924,
1014
+ 925,
1015
+ 926,
1016
+ 927,
1017
+ 928,
1018
+ 929,
1019
+ 930,
1020
+ 931,
1021
+ 932,
1022
+ 933,
1023
+ 934,
1024
+ 935,
1025
+ 936,
1026
+ 937,
1027
+ 938,
1028
+ 939,
1029
+ 940,
1030
+ 941,
1031
+ 942,
1032
+ 943,
1033
+ 944,
1034
+ 945,
1035
+ 946,
1036
+ 947,
1037
+ 948,
1038
+ 949,
1039
+ 950,
1040
+ 951,
1041
+ 952,
1042
+ 953,
1043
+ 954,
1044
+ 955,
1045
+ 956,
1046
+ 957,
1047
+ 958,
1048
+ 959,
1049
+ 1020,
1050
+ 1021,
1051
+ 1022,
1052
+ 1023,
1053
+ 1024,
1054
+ 1025,
1055
+ 1026,
1056
+ 1027,
1057
+ 1028,
1058
+ 1029,
1059
+ 1031,
1060
+ 1032,
1061
+ 1033,
1062
+ 1034,
1063
+ 1035,
1064
+ 1036,
1065
+ 1037,
1066
+ 1038,
1067
+ 1039,
1068
+ 1040,
1069
+ 1041,
1070
+ 1042,
1071
+ 1043,
1072
+ 1044,
1073
+ 1045,
1074
+ 1046,
1075
+ 1047,
1076
+ 1048,
1077
+ 1049,
1078
+ 1050,
1079
+ 1051,
1080
+ 1052,
1081
+ 1053,
1082
+ 1055,
1083
+ 1068,
1084
+ 1069,
1085
+ 1070,
1086
+ 1071,
1087
+ 1072,
1088
+ 1073,
1089
+ 1074,
1090
+ 1075,
1091
+ 1076,
1092
+ 1077,
1093
+ 1079
1094
+ ],
1095
+ "clean_baseline": 6.1953125,
1096
+ "corrupted_baseline": -8.078125
1097
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/desires_goals/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:d989f730169117dc0f9ae3ca34e390b792c35ae7118115874beff6f321e584c4
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/desires_goals/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:258a7eb734900b7985286b40e5520f79a652f0b86068fccf39f3afb95c6a1bb8
3
+ size 5247616
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/emotion_fewshot/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/emotion_fewshot/baselines.json ADDED
@@ -0,0 +1,2017 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 2000,
3
+ "n_token_misaligned": 5,
4
+ "token_misaligned_indices": [
5
+ 20,
6
+ 137,
7
+ 180,
8
+ 506,
9
+ 1738
10
+ ],
11
+ "n_after_alignment_filter": 1995,
12
+ "clean_accuracy": 0.9974937343358395,
13
+ "corrupted_accuracy": 0.9989974937343359,
14
+ "both_correct_accuracy": 0.9964912280701754,
15
+ "n_both_correct": 1988,
16
+ "both_correct_indices": [
17
+ 0,
18
+ 1,
19
+ 2,
20
+ 3,
21
+ 4,
22
+ 5,
23
+ 6,
24
+ 7,
25
+ 8,
26
+ 9,
27
+ 10,
28
+ 11,
29
+ 12,
30
+ 13,
31
+ 14,
32
+ 15,
33
+ 16,
34
+ 17,
35
+ 18,
36
+ 19,
37
+ 21,
38
+ 22,
39
+ 23,
40
+ 24,
41
+ 25,
42
+ 26,
43
+ 27,
44
+ 28,
45
+ 29,
46
+ 30,
47
+ 31,
48
+ 32,
49
+ 33,
50
+ 34,
51
+ 35,
52
+ 36,
53
+ 37,
54
+ 38,
55
+ 39,
56
+ 40,
57
+ 41,
58
+ 42,
59
+ 43,
60
+ 44,
61
+ 45,
62
+ 46,
63
+ 47,
64
+ 48,
65
+ 49,
66
+ 50,
67
+ 51,
68
+ 52,
69
+ 53,
70
+ 54,
71
+ 55,
72
+ 56,
73
+ 57,
74
+ 58,
75
+ 59,
76
+ 60,
77
+ 61,
78
+ 62,
79
+ 63,
80
+ 64,
81
+ 65,
82
+ 66,
83
+ 67,
84
+ 68,
85
+ 69,
86
+ 70,
87
+ 71,
88
+ 72,
89
+ 73,
90
+ 74,
91
+ 75,
92
+ 76,
93
+ 77,
94
+ 78,
95
+ 79,
96
+ 80,
97
+ 81,
98
+ 82,
99
+ 83,
100
+ 84,
101
+ 85,
102
+ 86,
103
+ 87,
104
+ 88,
105
+ 89,
106
+ 90,
107
+ 91,
108
+ 92,
109
+ 93,
110
+ 94,
111
+ 95,
112
+ 96,
113
+ 97,
114
+ 98,
115
+ 99,
116
+ 100,
117
+ 101,
118
+ 102,
119
+ 103,
120
+ 104,
121
+ 105,
122
+ 106,
123
+ 107,
124
+ 108,
125
+ 109,
126
+ 110,
127
+ 111,
128
+ 112,
129
+ 113,
130
+ 114,
131
+ 115,
132
+ 116,
133
+ 117,
134
+ 118,
135
+ 119,
136
+ 120,
137
+ 121,
138
+ 122,
139
+ 123,
140
+ 124,
141
+ 125,
142
+ 126,
143
+ 127,
144
+ 128,
145
+ 129,
146
+ 130,
147
+ 131,
148
+ 132,
149
+ 133,
150
+ 134,
151
+ 135,
152
+ 136,
153
+ 138,
154
+ 139,
155
+ 140,
156
+ 141,
157
+ 142,
158
+ 143,
159
+ 144,
160
+ 145,
161
+ 146,
162
+ 147,
163
+ 148,
164
+ 149,
165
+ 150,
166
+ 151,
167
+ 152,
168
+ 153,
169
+ 154,
170
+ 155,
171
+ 156,
172
+ 157,
173
+ 158,
174
+ 159,
175
+ 160,
176
+ 161,
177
+ 162,
178
+ 163,
179
+ 164,
180
+ 165,
181
+ 166,
182
+ 167,
183
+ 168,
184
+ 169,
185
+ 170,
186
+ 171,
187
+ 172,
188
+ 173,
189
+ 174,
190
+ 175,
191
+ 176,
192
+ 177,
193
+ 178,
194
+ 179,
195
+ 181,
196
+ 182,
197
+ 183,
198
+ 184,
199
+ 185,
200
+ 186,
201
+ 187,
202
+ 188,
203
+ 189,
204
+ 190,
205
+ 191,
206
+ 192,
207
+ 193,
208
+ 194,
209
+ 195,
210
+ 196,
211
+ 197,
212
+ 198,
213
+ 199,
214
+ 200,
215
+ 201,
216
+ 202,
217
+ 203,
218
+ 204,
219
+ 205,
220
+ 206,
221
+ 207,
222
+ 208,
223
+ 209,
224
+ 210,
225
+ 211,
226
+ 212,
227
+ 213,
228
+ 214,
229
+ 215,
230
+ 216,
231
+ 217,
232
+ 218,
233
+ 219,
234
+ 220,
235
+ 221,
236
+ 222,
237
+ 223,
238
+ 224,
239
+ 225,
240
+ 226,
241
+ 227,
242
+ 228,
243
+ 229,
244
+ 230,
245
+ 231,
246
+ 232,
247
+ 233,
248
+ 234,
249
+ 235,
250
+ 237,
251
+ 238,
252
+ 239,
253
+ 240,
254
+ 241,
255
+ 242,
256
+ 243,
257
+ 244,
258
+ 245,
259
+ 246,
260
+ 247,
261
+ 248,
262
+ 249,
263
+ 250,
264
+ 251,
265
+ 252,
266
+ 253,
267
+ 254,
268
+ 255,
269
+ 256,
270
+ 257,
271
+ 258,
272
+ 259,
273
+ 260,
274
+ 261,
275
+ 262,
276
+ 263,
277
+ 264,
278
+ 265,
279
+ 266,
280
+ 267,
281
+ 268,
282
+ 269,
283
+ 270,
284
+ 271,
285
+ 272,
286
+ 273,
287
+ 274,
288
+ 275,
289
+ 276,
290
+ 277,
291
+ 278,
292
+ 279,
293
+ 280,
294
+ 281,
295
+ 282,
296
+ 283,
297
+ 284,
298
+ 285,
299
+ 286,
300
+ 287,
301
+ 288,
302
+ 289,
303
+ 290,
304
+ 291,
305
+ 292,
306
+ 293,
307
+ 294,
308
+ 295,
309
+ 296,
310
+ 297,
311
+ 298,
312
+ 299,
313
+ 300,
314
+ 301,
315
+ 302,
316
+ 303,
317
+ 304,
318
+ 305,
319
+ 306,
320
+ 307,
321
+ 308,
322
+ 309,
323
+ 310,
324
+ 311,
325
+ 312,
326
+ 313,
327
+ 314,
328
+ 315,
329
+ 316,
330
+ 317,
331
+ 318,
332
+ 319,
333
+ 320,
334
+ 321,
335
+ 322,
336
+ 323,
337
+ 324,
338
+ 325,
339
+ 326,
340
+ 327,
341
+ 328,
342
+ 329,
343
+ 330,
344
+ 331,
345
+ 332,
346
+ 333,
347
+ 334,
348
+ 335,
349
+ 336,
350
+ 337,
351
+ 338,
352
+ 339,
353
+ 340,
354
+ 341,
355
+ 342,
356
+ 343,
357
+ 344,
358
+ 345,
359
+ 346,
360
+ 347,
361
+ 348,
362
+ 349,
363
+ 350,
364
+ 351,
365
+ 352,
366
+ 353,
367
+ 354,
368
+ 355,
369
+ 356,
370
+ 357,
371
+ 358,
372
+ 359,
373
+ 360,
374
+ 361,
375
+ 362,
376
+ 363,
377
+ 364,
378
+ 365,
379
+ 366,
380
+ 367,
381
+ 368,
382
+ 369,
383
+ 370,
384
+ 371,
385
+ 372,
386
+ 373,
387
+ 374,
388
+ 375,
389
+ 376,
390
+ 377,
391
+ 378,
392
+ 379,
393
+ 380,
394
+ 381,
395
+ 382,
396
+ 383,
397
+ 384,
398
+ 385,
399
+ 386,
400
+ 387,
401
+ 388,
402
+ 389,
403
+ 390,
404
+ 391,
405
+ 392,
406
+ 393,
407
+ 394,
408
+ 395,
409
+ 396,
410
+ 397,
411
+ 398,
412
+ 399,
413
+ 400,
414
+ 401,
415
+ 402,
416
+ 403,
417
+ 404,
418
+ 405,
419
+ 406,
420
+ 407,
421
+ 408,
422
+ 409,
423
+ 410,
424
+ 411,
425
+ 412,
426
+ 413,
427
+ 414,
428
+ 415,
429
+ 416,
430
+ 417,
431
+ 418,
432
+ 419,
433
+ 420,
434
+ 421,
435
+ 422,
436
+ 423,
437
+ 424,
438
+ 425,
439
+ 426,
440
+ 427,
441
+ 428,
442
+ 429,
443
+ 430,
444
+ 431,
445
+ 432,
446
+ 433,
447
+ 434,
448
+ 435,
449
+ 436,
450
+ 437,
451
+ 438,
452
+ 439,
453
+ 440,
454
+ 441,
455
+ 442,
456
+ 443,
457
+ 444,
458
+ 445,
459
+ 446,
460
+ 447,
461
+ 448,
462
+ 449,
463
+ 450,
464
+ 451,
465
+ 452,
466
+ 453,
467
+ 454,
468
+ 455,
469
+ 456,
470
+ 457,
471
+ 458,
472
+ 459,
473
+ 460,
474
+ 461,
475
+ 462,
476
+ 463,
477
+ 464,
478
+ 465,
479
+ 466,
480
+ 467,
481
+ 468,
482
+ 469,
483
+ 470,
484
+ 471,
485
+ 472,
486
+ 473,
487
+ 474,
488
+ 475,
489
+ 476,
490
+ 477,
491
+ 478,
492
+ 479,
493
+ 480,
494
+ 481,
495
+ 482,
496
+ 483,
497
+ 484,
498
+ 485,
499
+ 486,
500
+ 487,
501
+ 488,
502
+ 489,
503
+ 490,
504
+ 491,
505
+ 492,
506
+ 493,
507
+ 494,
508
+ 495,
509
+ 496,
510
+ 497,
511
+ 498,
512
+ 499,
513
+ 500,
514
+ 501,
515
+ 502,
516
+ 503,
517
+ 504,
518
+ 505,
519
+ 507,
520
+ 508,
521
+ 509,
522
+ 510,
523
+ 511,
524
+ 512,
525
+ 513,
526
+ 514,
527
+ 515,
528
+ 516,
529
+ 517,
530
+ 518,
531
+ 519,
532
+ 520,
533
+ 521,
534
+ 522,
535
+ 523,
536
+ 524,
537
+ 525,
538
+ 526,
539
+ 527,
540
+ 528,
541
+ 529,
542
+ 530,
543
+ 531,
544
+ 532,
545
+ 533,
546
+ 534,
547
+ 535,
548
+ 536,
549
+ 537,
550
+ 538,
551
+ 539,
552
+ 540,
553
+ 541,
554
+ 542,
555
+ 543,
556
+ 544,
557
+ 545,
558
+ 546,
559
+ 547,
560
+ 548,
561
+ 549,
562
+ 550,
563
+ 551,
564
+ 552,
565
+ 553,
566
+ 554,
567
+ 555,
568
+ 556,
569
+ 557,
570
+ 558,
571
+ 559,
572
+ 560,
573
+ 561,
574
+ 562,
575
+ 563,
576
+ 564,
577
+ 565,
578
+ 566,
579
+ 567,
580
+ 568,
581
+ 569,
582
+ 570,
583
+ 571,
584
+ 572,
585
+ 573,
586
+ 574,
587
+ 575,
588
+ 576,
589
+ 577,
590
+ 578,
591
+ 579,
592
+ 580,
593
+ 581,
594
+ 582,
595
+ 583,
596
+ 584,
597
+ 585,
598
+ 586,
599
+ 587,
600
+ 588,
601
+ 589,
602
+ 590,
603
+ 591,
604
+ 592,
605
+ 593,
606
+ 594,
607
+ 595,
608
+ 596,
609
+ 597,
610
+ 598,
611
+ 599,
612
+ 600,
613
+ 601,
614
+ 602,
615
+ 603,
616
+ 604,
617
+ 605,
618
+ 606,
619
+ 607,
620
+ 608,
621
+ 609,
622
+ 610,
623
+ 611,
624
+ 612,
625
+ 613,
626
+ 614,
627
+ 615,
628
+ 616,
629
+ 617,
630
+ 618,
631
+ 619,
632
+ 620,
633
+ 621,
634
+ 622,
635
+ 623,
636
+ 624,
637
+ 625,
638
+ 626,
639
+ 627,
640
+ 628,
641
+ 629,
642
+ 630,
643
+ 631,
644
+ 632,
645
+ 633,
646
+ 634,
647
+ 635,
648
+ 636,
649
+ 637,
650
+ 638,
651
+ 639,
652
+ 640,
653
+ 641,
654
+ 642,
655
+ 643,
656
+ 644,
657
+ 645,
658
+ 646,
659
+ 647,
660
+ 648,
661
+ 649,
662
+ 650,
663
+ 651,
664
+ 652,
665
+ 653,
666
+ 654,
667
+ 655,
668
+ 656,
669
+ 657,
670
+ 658,
671
+ 659,
672
+ 660,
673
+ 661,
674
+ 662,
675
+ 663,
676
+ 664,
677
+ 665,
678
+ 666,
679
+ 667,
680
+ 668,
681
+ 669,
682
+ 670,
683
+ 671,
684
+ 672,
685
+ 673,
686
+ 674,
687
+ 675,
688
+ 676,
689
+ 677,
690
+ 678,
691
+ 679,
692
+ 680,
693
+ 681,
694
+ 682,
695
+ 683,
696
+ 684,
697
+ 685,
698
+ 686,
699
+ 687,
700
+ 688,
701
+ 689,
702
+ 690,
703
+ 691,
704
+ 692,
705
+ 693,
706
+ 694,
707
+ 695,
708
+ 696,
709
+ 697,
710
+ 698,
711
+ 699,
712
+ 700,
713
+ 701,
714
+ 702,
715
+ 703,
716
+ 704,
717
+ 705,
718
+ 706,
719
+ 707,
720
+ 708,
721
+ 709,
722
+ 710,
723
+ 711,
724
+ 712,
725
+ 713,
726
+ 714,
727
+ 715,
728
+ 716,
729
+ 717,
730
+ 718,
731
+ 719,
732
+ 720,
733
+ 721,
734
+ 722,
735
+ 723,
736
+ 724,
737
+ 725,
738
+ 726,
739
+ 727,
740
+ 728,
741
+ 729,
742
+ 730,
743
+ 731,
744
+ 732,
745
+ 733,
746
+ 734,
747
+ 735,
748
+ 736,
749
+ 737,
750
+ 738,
751
+ 739,
752
+ 740,
753
+ 741,
754
+ 742,
755
+ 743,
756
+ 744,
757
+ 745,
758
+ 746,
759
+ 747,
760
+ 748,
761
+ 749,
762
+ 750,
763
+ 751,
764
+ 752,
765
+ 753,
766
+ 754,
767
+ 755,
768
+ 756,
769
+ 757,
770
+ 758,
771
+ 759,
772
+ 760,
773
+ 761,
774
+ 762,
775
+ 763,
776
+ 764,
777
+ 765,
778
+ 766,
779
+ 767,
780
+ 768,
781
+ 769,
782
+ 770,
783
+ 771,
784
+ 772,
785
+ 773,
786
+ 774,
787
+ 775,
788
+ 776,
789
+ 777,
790
+ 778,
791
+ 779,
792
+ 780,
793
+ 781,
794
+ 782,
795
+ 783,
796
+ 784,
797
+ 785,
798
+ 786,
799
+ 787,
800
+ 788,
801
+ 789,
802
+ 790,
803
+ 791,
804
+ 792,
805
+ 793,
806
+ 794,
807
+ 795,
808
+ 796,
809
+ 797,
810
+ 798,
811
+ 799,
812
+ 800,
813
+ 801,
814
+ 802,
815
+ 803,
816
+ 804,
817
+ 805,
818
+ 806,
819
+ 807,
820
+ 808,
821
+ 809,
822
+ 810,
823
+ 811,
824
+ 812,
825
+ 813,
826
+ 814,
827
+ 815,
828
+ 816,
829
+ 817,
830
+ 818,
831
+ 819,
832
+ 820,
833
+ 821,
834
+ 822,
835
+ 823,
836
+ 824,
837
+ 825,
838
+ 826,
839
+ 827,
840
+ 828,
841
+ 829,
842
+ 830,
843
+ 831,
844
+ 832,
845
+ 833,
846
+ 834,
847
+ 835,
848
+ 836,
849
+ 837,
850
+ 838,
851
+ 839,
852
+ 840,
853
+ 841,
854
+ 842,
855
+ 843,
856
+ 844,
857
+ 845,
858
+ 846,
859
+ 847,
860
+ 848,
861
+ 849,
862
+ 850,
863
+ 851,
864
+ 852,
865
+ 853,
866
+ 854,
867
+ 855,
868
+ 856,
869
+ 857,
870
+ 858,
871
+ 859,
872
+ 860,
873
+ 861,
874
+ 862,
875
+ 863,
876
+ 864,
877
+ 865,
878
+ 866,
879
+ 867,
880
+ 868,
881
+ 869,
882
+ 870,
883
+ 871,
884
+ 872,
885
+ 873,
886
+ 874,
887
+ 875,
888
+ 876,
889
+ 877,
890
+ 878,
891
+ 879,
892
+ 880,
893
+ 881,
894
+ 882,
895
+ 883,
896
+ 884,
897
+ 885,
898
+ 886,
899
+ 887,
900
+ 888,
901
+ 889,
902
+ 890,
903
+ 891,
904
+ 892,
905
+ 893,
906
+ 894,
907
+ 895,
908
+ 896,
909
+ 897,
910
+ 898,
911
+ 899,
912
+ 900,
913
+ 901,
914
+ 902,
915
+ 903,
916
+ 904,
917
+ 905,
918
+ 906,
919
+ 907,
920
+ 908,
921
+ 909,
922
+ 910,
923
+ 911,
924
+ 912,
925
+ 913,
926
+ 914,
927
+ 915,
928
+ 916,
929
+ 917,
930
+ 918,
931
+ 919,
932
+ 920,
933
+ 921,
934
+ 922,
935
+ 923,
936
+ 924,
937
+ 925,
938
+ 926,
939
+ 927,
940
+ 928,
941
+ 929,
942
+ 930,
943
+ 931,
944
+ 932,
945
+ 933,
946
+ 934,
947
+ 935,
948
+ 936,
949
+ 937,
950
+ 938,
951
+ 939,
952
+ 940,
953
+ 941,
954
+ 942,
955
+ 943,
956
+ 944,
957
+ 945,
958
+ 946,
959
+ 947,
960
+ 948,
961
+ 949,
962
+ 950,
963
+ 951,
964
+ 952,
965
+ 953,
966
+ 954,
967
+ 955,
968
+ 956,
969
+ 957,
970
+ 958,
971
+ 959,
972
+ 960,
973
+ 961,
974
+ 962,
975
+ 963,
976
+ 964,
977
+ 965,
978
+ 966,
979
+ 967,
980
+ 968,
981
+ 969,
982
+ 970,
983
+ 971,
984
+ 972,
985
+ 973,
986
+ 974,
987
+ 975,
988
+ 976,
989
+ 977,
990
+ 978,
991
+ 979,
992
+ 980,
993
+ 981,
994
+ 982,
995
+ 983,
996
+ 984,
997
+ 985,
998
+ 986,
999
+ 987,
1000
+ 988,
1001
+ 989,
1002
+ 990,
1003
+ 991,
1004
+ 992,
1005
+ 994,
1006
+ 995,
1007
+ 996,
1008
+ 997,
1009
+ 998,
1010
+ 999,
1011
+ 1000,
1012
+ 1001,
1013
+ 1002,
1014
+ 1003,
1015
+ 1004,
1016
+ 1005,
1017
+ 1006,
1018
+ 1007,
1019
+ 1008,
1020
+ 1009,
1021
+ 1010,
1022
+ 1011,
1023
+ 1012,
1024
+ 1013,
1025
+ 1014,
1026
+ 1015,
1027
+ 1016,
1028
+ 1017,
1029
+ 1018,
1030
+ 1019,
1031
+ 1020,
1032
+ 1021,
1033
+ 1022,
1034
+ 1023,
1035
+ 1024,
1036
+ 1025,
1037
+ 1026,
1038
+ 1027,
1039
+ 1028,
1040
+ 1029,
1041
+ 1030,
1042
+ 1031,
1043
+ 1032,
1044
+ 1033,
1045
+ 1034,
1046
+ 1035,
1047
+ 1036,
1048
+ 1037,
1049
+ 1038,
1050
+ 1039,
1051
+ 1040,
1052
+ 1041,
1053
+ 1042,
1054
+ 1043,
1055
+ 1044,
1056
+ 1045,
1057
+ 1046,
1058
+ 1047,
1059
+ 1048,
1060
+ 1049,
1061
+ 1050,
1062
+ 1051,
1063
+ 1052,
1064
+ 1053,
1065
+ 1054,
1066
+ 1055,
1067
+ 1056,
1068
+ 1057,
1069
+ 1058,
1070
+ 1059,
1071
+ 1060,
1072
+ 1061,
1073
+ 1062,
1074
+ 1063,
1075
+ 1064,
1076
+ 1065,
1077
+ 1066,
1078
+ 1067,
1079
+ 1068,
1080
+ 1069,
1081
+ 1070,
1082
+ 1071,
1083
+ 1072,
1084
+ 1073,
1085
+ 1074,
1086
+ 1075,
1087
+ 1076,
1088
+ 1077,
1089
+ 1078,
1090
+ 1079,
1091
+ 1080,
1092
+ 1081,
1093
+ 1082,
1094
+ 1083,
1095
+ 1084,
1096
+ 1085,
1097
+ 1086,
1098
+ 1087,
1099
+ 1088,
1100
+ 1089,
1101
+ 1090,
1102
+ 1091,
1103
+ 1092,
1104
+ 1093,
1105
+ 1094,
1106
+ 1095,
1107
+ 1096,
1108
+ 1097,
1109
+ 1098,
1110
+ 1099,
1111
+ 1100,
1112
+ 1101,
1113
+ 1102,
1114
+ 1103,
1115
+ 1104,
1116
+ 1105,
1117
+ 1106,
1118
+ 1108,
1119
+ 1109,
1120
+ 1111,
1121
+ 1112,
1122
+ 1113,
1123
+ 1114,
1124
+ 1115,
1125
+ 1116,
1126
+ 1117,
1127
+ 1118,
1128
+ 1119,
1129
+ 1120,
1130
+ 1121,
1131
+ 1122,
1132
+ 1123,
1133
+ 1124,
1134
+ 1125,
1135
+ 1126,
1136
+ 1127,
1137
+ 1128,
1138
+ 1129,
1139
+ 1130,
1140
+ 1131,
1141
+ 1132,
1142
+ 1133,
1143
+ 1134,
1144
+ 1135,
1145
+ 1136,
1146
+ 1137,
1147
+ 1138,
1148
+ 1139,
1149
+ 1140,
1150
+ 1141,
1151
+ 1142,
1152
+ 1143,
1153
+ 1144,
1154
+ 1145,
1155
+ 1146,
1156
+ 1147,
1157
+ 1148,
1158
+ 1149,
1159
+ 1150,
1160
+ 1151,
1161
+ 1152,
1162
+ 1153,
1163
+ 1154,
1164
+ 1155,
1165
+ 1156,
1166
+ 1157,
1167
+ 1158,
1168
+ 1159,
1169
+ 1160,
1170
+ 1161,
1171
+ 1162,
1172
+ 1163,
1173
+ 1164,
1174
+ 1165,
1175
+ 1166,
1176
+ 1167,
1177
+ 1169,
1178
+ 1170,
1179
+ 1171,
1180
+ 1172,
1181
+ 1173,
1182
+ 1174,
1183
+ 1175,
1184
+ 1176,
1185
+ 1177,
1186
+ 1178,
1187
+ 1179,
1188
+ 1180,
1189
+ 1181,
1190
+ 1183,
1191
+ 1184,
1192
+ 1185,
1193
+ 1186,
1194
+ 1187,
1195
+ 1188,
1196
+ 1189,
1197
+ 1190,
1198
+ 1191,
1199
+ 1192,
1200
+ 1193,
1201
+ 1194,
1202
+ 1195,
1203
+ 1196,
1204
+ 1197,
1205
+ 1198,
1206
+ 1199,
1207
+ 1200,
1208
+ 1201,
1209
+ 1202,
1210
+ 1203,
1211
+ 1204,
1212
+ 1205,
1213
+ 1206,
1214
+ 1207,
1215
+ 1208,
1216
+ 1209,
1217
+ 1210,
1218
+ 1211,
1219
+ 1212,
1220
+ 1213,
1221
+ 1214,
1222
+ 1215,
1223
+ 1216,
1224
+ 1217,
1225
+ 1218,
1226
+ 1219,
1227
+ 1220,
1228
+ 1221,
1229
+ 1222,
1230
+ 1223,
1231
+ 1224,
1232
+ 1225,
1233
+ 1226,
1234
+ 1227,
1235
+ 1228,
1236
+ 1229,
1237
+ 1230,
1238
+ 1231,
1239
+ 1232,
1240
+ 1233,
1241
+ 1234,
1242
+ 1235,
1243
+ 1236,
1244
+ 1237,
1245
+ 1238,
1246
+ 1239,
1247
+ 1240,
1248
+ 1241,
1249
+ 1242,
1250
+ 1243,
1251
+ 1244,
1252
+ 1245,
1253
+ 1246,
1254
+ 1247,
1255
+ 1248,
1256
+ 1249,
1257
+ 1250,
1258
+ 1251,
1259
+ 1252,
1260
+ 1253,
1261
+ 1254,
1262
+ 1255,
1263
+ 1256,
1264
+ 1257,
1265
+ 1258,
1266
+ 1259,
1267
+ 1260,
1268
+ 1261,
1269
+ 1262,
1270
+ 1263,
1271
+ 1264,
1272
+ 1265,
1273
+ 1266,
1274
+ 1267,
1275
+ 1268,
1276
+ 1269,
1277
+ 1270,
1278
+ 1271,
1279
+ 1272,
1280
+ 1273,
1281
+ 1274,
1282
+ 1275,
1283
+ 1276,
1284
+ 1277,
1285
+ 1278,
1286
+ 1279,
1287
+ 1280,
1288
+ 1281,
1289
+ 1282,
1290
+ 1283,
1291
+ 1284,
1292
+ 1285,
1293
+ 1286,
1294
+ 1287,
1295
+ 1288,
1296
+ 1289,
1297
+ 1290,
1298
+ 1291,
1299
+ 1292,
1300
+ 1293,
1301
+ 1294,
1302
+ 1295,
1303
+ 1296,
1304
+ 1297,
1305
+ 1298,
1306
+ 1299,
1307
+ 1300,
1308
+ 1301,
1309
+ 1302,
1310
+ 1303,
1311
+ 1304,
1312
+ 1305,
1313
+ 1306,
1314
+ 1307,
1315
+ 1308,
1316
+ 1309,
1317
+ 1310,
1318
+ 1311,
1319
+ 1312,
1320
+ 1313,
1321
+ 1314,
1322
+ 1315,
1323
+ 1316,
1324
+ 1317,
1325
+ 1318,
1326
+ 1319,
1327
+ 1320,
1328
+ 1321,
1329
+ 1322,
1330
+ 1323,
1331
+ 1324,
1332
+ 1325,
1333
+ 1326,
1334
+ 1327,
1335
+ 1328,
1336
+ 1329,
1337
+ 1330,
1338
+ 1331,
1339
+ 1332,
1340
+ 1333,
1341
+ 1334,
1342
+ 1335,
1343
+ 1336,
1344
+ 1337,
1345
+ 1338,
1346
+ 1339,
1347
+ 1340,
1348
+ 1341,
1349
+ 1342,
1350
+ 1343,
1351
+ 1344,
1352
+ 1345,
1353
+ 1346,
1354
+ 1347,
1355
+ 1348,
1356
+ 1349,
1357
+ 1350,
1358
+ 1351,
1359
+ 1352,
1360
+ 1353,
1361
+ 1354,
1362
+ 1355,
1363
+ 1356,
1364
+ 1357,
1365
+ 1358,
1366
+ 1359,
1367
+ 1360,
1368
+ 1361,
1369
+ 1362,
1370
+ 1363,
1371
+ 1364,
1372
+ 1365,
1373
+ 1366,
1374
+ 1367,
1375
+ 1368,
1376
+ 1369,
1377
+ 1370,
1378
+ 1371,
1379
+ 1372,
1380
+ 1373,
1381
+ 1374,
1382
+ 1375,
1383
+ 1376,
1384
+ 1377,
1385
+ 1378,
1386
+ 1379,
1387
+ 1380,
1388
+ 1381,
1389
+ 1382,
1390
+ 1383,
1391
+ 1384,
1392
+ 1385,
1393
+ 1386,
1394
+ 1387,
1395
+ 1388,
1396
+ 1389,
1397
+ 1390,
1398
+ 1391,
1399
+ 1392,
1400
+ 1393,
1401
+ 1394,
1402
+ 1395,
1403
+ 1396,
1404
+ 1397,
1405
+ 1398,
1406
+ 1399,
1407
+ 1400,
1408
+ 1401,
1409
+ 1402,
1410
+ 1403,
1411
+ 1404,
1412
+ 1405,
1413
+ 1406,
1414
+ 1407,
1415
+ 1408,
1416
+ 1409,
1417
+ 1410,
1418
+ 1411,
1419
+ 1412,
1420
+ 1413,
1421
+ 1414,
1422
+ 1415,
1423
+ 1416,
1424
+ 1417,
1425
+ 1418,
1426
+ 1419,
1427
+ 1420,
1428
+ 1421,
1429
+ 1422,
1430
+ 1423,
1431
+ 1424,
1432
+ 1425,
1433
+ 1426,
1434
+ 1427,
1435
+ 1428,
1436
+ 1429,
1437
+ 1430,
1438
+ 1431,
1439
+ 1432,
1440
+ 1433,
1441
+ 1434,
1442
+ 1435,
1443
+ 1436,
1444
+ 1437,
1445
+ 1438,
1446
+ 1439,
1447
+ 1440,
1448
+ 1441,
1449
+ 1442,
1450
+ 1443,
1451
+ 1444,
1452
+ 1445,
1453
+ 1446,
1454
+ 1447,
1455
+ 1448,
1456
+ 1449,
1457
+ 1450,
1458
+ 1451,
1459
+ 1452,
1460
+ 1453,
1461
+ 1454,
1462
+ 1455,
1463
+ 1456,
1464
+ 1457,
1465
+ 1458,
1466
+ 1459,
1467
+ 1460,
1468
+ 1461,
1469
+ 1462,
1470
+ 1463,
1471
+ 1464,
1472
+ 1465,
1473
+ 1466,
1474
+ 1467,
1475
+ 1468,
1476
+ 1469,
1477
+ 1470,
1478
+ 1471,
1479
+ 1472,
1480
+ 1473,
1481
+ 1474,
1482
+ 1475,
1483
+ 1476,
1484
+ 1477,
1485
+ 1478,
1486
+ 1479,
1487
+ 1480,
1488
+ 1481,
1489
+ 1482,
1490
+ 1483,
1491
+ 1484,
1492
+ 1485,
1493
+ 1486,
1494
+ 1487,
1495
+ 1488,
1496
+ 1489,
1497
+ 1490,
1498
+ 1491,
1499
+ 1492,
1500
+ 1493,
1501
+ 1494,
1502
+ 1495,
1503
+ 1496,
1504
+ 1497,
1505
+ 1498,
1506
+ 1499,
1507
+ 1500,
1508
+ 1501,
1509
+ 1502,
1510
+ 1503,
1511
+ 1504,
1512
+ 1505,
1513
+ 1506,
1514
+ 1507,
1515
+ 1508,
1516
+ 1509,
1517
+ 1510,
1518
+ 1511,
1519
+ 1512,
1520
+ 1513,
1521
+ 1514,
1522
+ 1515,
1523
+ 1516,
1524
+ 1517,
1525
+ 1518,
1526
+ 1519,
1527
+ 1520,
1528
+ 1521,
1529
+ 1522,
1530
+ 1523,
1531
+ 1524,
1532
+ 1525,
1533
+ 1526,
1534
+ 1527,
1535
+ 1528,
1536
+ 1529,
1537
+ 1530,
1538
+ 1531,
1539
+ 1532,
1540
+ 1533,
1541
+ 1534,
1542
+ 1535,
1543
+ 1536,
1544
+ 1537,
1545
+ 1538,
1546
+ 1539,
1547
+ 1540,
1548
+ 1541,
1549
+ 1542,
1550
+ 1543,
1551
+ 1544,
1552
+ 1545,
1553
+ 1546,
1554
+ 1547,
1555
+ 1548,
1556
+ 1549,
1557
+ 1550,
1558
+ 1551,
1559
+ 1552,
1560
+ 1553,
1561
+ 1554,
1562
+ 1555,
1563
+ 1556,
1564
+ 1557,
1565
+ 1558,
1566
+ 1559,
1567
+ 1560,
1568
+ 1561,
1569
+ 1562,
1570
+ 1563,
1571
+ 1564,
1572
+ 1565,
1573
+ 1566,
1574
+ 1567,
1575
+ 1568,
1576
+ 1569,
1577
+ 1570,
1578
+ 1571,
1579
+ 1572,
1580
+ 1573,
1581
+ 1574,
1582
+ 1575,
1583
+ 1576,
1584
+ 1577,
1585
+ 1578,
1586
+ 1579,
1587
+ 1580,
1588
+ 1581,
1589
+ 1582,
1590
+ 1583,
1591
+ 1584,
1592
+ 1585,
1593
+ 1586,
1594
+ 1587,
1595
+ 1588,
1596
+ 1589,
1597
+ 1590,
1598
+ 1591,
1599
+ 1592,
1600
+ 1593,
1601
+ 1594,
1602
+ 1595,
1603
+ 1596,
1604
+ 1597,
1605
+ 1598,
1606
+ 1599,
1607
+ 1600,
1608
+ 1601,
1609
+ 1602,
1610
+ 1603,
1611
+ 1604,
1612
+ 1605,
1613
+ 1606,
1614
+ 1607,
1615
+ 1608,
1616
+ 1609,
1617
+ 1610,
1618
+ 1611,
1619
+ 1612,
1620
+ 1613,
1621
+ 1614,
1622
+ 1615,
1623
+ 1616,
1624
+ 1617,
1625
+ 1618,
1626
+ 1619,
1627
+ 1620,
1628
+ 1621,
1629
+ 1622,
1630
+ 1623,
1631
+ 1624,
1632
+ 1625,
1633
+ 1626,
1634
+ 1627,
1635
+ 1628,
1636
+ 1629,
1637
+ 1630,
1638
+ 1631,
1639
+ 1632,
1640
+ 1633,
1641
+ 1634,
1642
+ 1635,
1643
+ 1636,
1644
+ 1637,
1645
+ 1638,
1646
+ 1639,
1647
+ 1640,
1648
+ 1641,
1649
+ 1642,
1650
+ 1643,
1651
+ 1644,
1652
+ 1645,
1653
+ 1646,
1654
+ 1647,
1655
+ 1648,
1656
+ 1649,
1657
+ 1650,
1658
+ 1651,
1659
+ 1652,
1660
+ 1653,
1661
+ 1654,
1662
+ 1655,
1663
+ 1656,
1664
+ 1657,
1665
+ 1658,
1666
+ 1659,
1667
+ 1660,
1668
+ 1661,
1669
+ 1662,
1670
+ 1663,
1671
+ 1664,
1672
+ 1665,
1673
+ 1666,
1674
+ 1667,
1675
+ 1668,
1676
+ 1669,
1677
+ 1670,
1678
+ 1671,
1679
+ 1672,
1680
+ 1673,
1681
+ 1674,
1682
+ 1675,
1683
+ 1676,
1684
+ 1677,
1685
+ 1678,
1686
+ 1679,
1687
+ 1680,
1688
+ 1681,
1689
+ 1682,
1690
+ 1683,
1691
+ 1684,
1692
+ 1685,
1693
+ 1686,
1694
+ 1687,
1695
+ 1688,
1696
+ 1689,
1697
+ 1690,
1698
+ 1691,
1699
+ 1692,
1700
+ 1693,
1701
+ 1694,
1702
+ 1695,
1703
+ 1696,
1704
+ 1698,
1705
+ 1699,
1706
+ 1700,
1707
+ 1701,
1708
+ 1702,
1709
+ 1703,
1710
+ 1704,
1711
+ 1705,
1712
+ 1706,
1713
+ 1707,
1714
+ 1708,
1715
+ 1709,
1716
+ 1710,
1717
+ 1711,
1718
+ 1712,
1719
+ 1713,
1720
+ 1714,
1721
+ 1715,
1722
+ 1716,
1723
+ 1717,
1724
+ 1718,
1725
+ 1719,
1726
+ 1720,
1727
+ 1721,
1728
+ 1722,
1729
+ 1723,
1730
+ 1724,
1731
+ 1725,
1732
+ 1726,
1733
+ 1727,
1734
+ 1728,
1735
+ 1729,
1736
+ 1730,
1737
+ 1731,
1738
+ 1732,
1739
+ 1733,
1740
+ 1734,
1741
+ 1735,
1742
+ 1736,
1743
+ 1737,
1744
+ 1739,
1745
+ 1740,
1746
+ 1741,
1747
+ 1742,
1748
+ 1743,
1749
+ 1744,
1750
+ 1745,
1751
+ 1746,
1752
+ 1747,
1753
+ 1748,
1754
+ 1749,
1755
+ 1750,
1756
+ 1751,
1757
+ 1752,
1758
+ 1753,
1759
+ 1754,
1760
+ 1755,
1761
+ 1756,
1762
+ 1757,
1763
+ 1758,
1764
+ 1759,
1765
+ 1760,
1766
+ 1761,
1767
+ 1762,
1768
+ 1763,
1769
+ 1764,
1770
+ 1765,
1771
+ 1766,
1772
+ 1767,
1773
+ 1768,
1774
+ 1769,
1775
+ 1770,
1776
+ 1771,
1777
+ 1772,
1778
+ 1773,
1779
+ 1774,
1780
+ 1775,
1781
+ 1776,
1782
+ 1777,
1783
+ 1778,
1784
+ 1779,
1785
+ 1780,
1786
+ 1781,
1787
+ 1782,
1788
+ 1783,
1789
+ 1784,
1790
+ 1785,
1791
+ 1786,
1792
+ 1787,
1793
+ 1788,
1794
+ 1789,
1795
+ 1790,
1796
+ 1791,
1797
+ 1792,
1798
+ 1793,
1799
+ 1794,
1800
+ 1795,
1801
+ 1796,
1802
+ 1797,
1803
+ 1798,
1804
+ 1799,
1805
+ 1800,
1806
+ 1801,
1807
+ 1802,
1808
+ 1803,
1809
+ 1804,
1810
+ 1805,
1811
+ 1806,
1812
+ 1807,
1813
+ 1808,
1814
+ 1809,
1815
+ 1810,
1816
+ 1811,
1817
+ 1812,
1818
+ 1813,
1819
+ 1814,
1820
+ 1815,
1821
+ 1816,
1822
+ 1817,
1823
+ 1818,
1824
+ 1819,
1825
+ 1820,
1826
+ 1821,
1827
+ 1822,
1828
+ 1823,
1829
+ 1824,
1830
+ 1825,
1831
+ 1826,
1832
+ 1827,
1833
+ 1828,
1834
+ 1829,
1835
+ 1830,
1836
+ 1831,
1837
+ 1832,
1838
+ 1833,
1839
+ 1834,
1840
+ 1835,
1841
+ 1836,
1842
+ 1837,
1843
+ 1838,
1844
+ 1839,
1845
+ 1840,
1846
+ 1841,
1847
+ 1842,
1848
+ 1843,
1849
+ 1844,
1850
+ 1845,
1851
+ 1846,
1852
+ 1847,
1853
+ 1848,
1854
+ 1849,
1855
+ 1850,
1856
+ 1851,
1857
+ 1852,
1858
+ 1853,
1859
+ 1854,
1860
+ 1855,
1861
+ 1856,
1862
+ 1857,
1863
+ 1858,
1864
+ 1859,
1865
+ 1860,
1866
+ 1861,
1867
+ 1862,
1868
+ 1863,
1869
+ 1864,
1870
+ 1865,
1871
+ 1866,
1872
+ 1867,
1873
+ 1868,
1874
+ 1869,
1875
+ 1870,
1876
+ 1871,
1877
+ 1872,
1878
+ 1873,
1879
+ 1874,
1880
+ 1875,
1881
+ 1876,
1882
+ 1877,
1883
+ 1878,
1884
+ 1879,
1885
+ 1880,
1886
+ 1881,
1887
+ 1882,
1888
+ 1883,
1889
+ 1884,
1890
+ 1885,
1891
+ 1886,
1892
+ 1887,
1893
+ 1888,
1894
+ 1889,
1895
+ 1890,
1896
+ 1891,
1897
+ 1892,
1898
+ 1893,
1899
+ 1894,
1900
+ 1895,
1901
+ 1896,
1902
+ 1897,
1903
+ 1898,
1904
+ 1899,
1905
+ 1900,
1906
+ 1901,
1907
+ 1902,
1908
+ 1903,
1909
+ 1904,
1910
+ 1905,
1911
+ 1906,
1912
+ 1907,
1913
+ 1908,
1914
+ 1909,
1915
+ 1910,
1916
+ 1911,
1917
+ 1912,
1918
+ 1913,
1919
+ 1914,
1920
+ 1915,
1921
+ 1916,
1922
+ 1917,
1923
+ 1918,
1924
+ 1919,
1925
+ 1920,
1926
+ 1921,
1927
+ 1922,
1928
+ 1923,
1929
+ 1924,
1930
+ 1925,
1931
+ 1926,
1932
+ 1927,
1933
+ 1928,
1934
+ 1929,
1935
+ 1930,
1936
+ 1931,
1937
+ 1932,
1938
+ 1933,
1939
+ 1934,
1940
+ 1935,
1941
+ 1936,
1942
+ 1937,
1943
+ 1938,
1944
+ 1939,
1945
+ 1940,
1946
+ 1941,
1947
+ 1942,
1948
+ 1943,
1949
+ 1944,
1950
+ 1945,
1951
+ 1946,
1952
+ 1947,
1953
+ 1948,
1954
+ 1949,
1955
+ 1950,
1956
+ 1951,
1957
+ 1952,
1958
+ 1953,
1959
+ 1954,
1960
+ 1955,
1961
+ 1956,
1962
+ 1957,
1963
+ 1958,
1964
+ 1959,
1965
+ 1960,
1966
+ 1961,
1967
+ 1962,
1968
+ 1963,
1969
+ 1964,
1970
+ 1965,
1971
+ 1966,
1972
+ 1967,
1973
+ 1968,
1974
+ 1969,
1975
+ 1970,
1976
+ 1971,
1977
+ 1972,
1978
+ 1973,
1979
+ 1974,
1980
+ 1975,
1981
+ 1976,
1982
+ 1977,
1983
+ 1978,
1984
+ 1979,
1985
+ 1980,
1986
+ 1981,
1987
+ 1982,
1988
+ 1983,
1989
+ 1984,
1990
+ 1985,
1991
+ 1986,
1992
+ 1987,
1993
+ 1988,
1994
+ 1989,
1995
+ 1990,
1996
+ 1991,
1997
+ 1992,
1998
+ 1993,
1999
+ 1994,
2000
+ 1995,
2001
+ 1996,
2002
+ 1997,
2003
+ 1998,
2004
+ 1999
2005
+ ],
2006
+ "not_both_correct_indices": [
2007
+ 236,
2008
+ 993,
2009
+ 1107,
2010
+ 1110,
2011
+ 1168,
2012
+ 1182,
2013
+ 1697
2014
+ ],
2015
+ "clean_baseline": 6.5703125,
2016
+ "corrupted_baseline": -6.5390625
2017
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/emotion_fewshot/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fac926ec5f45417c3ca118f31f79e1c4be265f9743ff0c6a8f4ef0c9bccdef66
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/emotion_fewshot/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fd584f08d5f2f4e016a20b6edb5895c430c209e3de362a32ea319af175b0fcaa
3
+ size 5238416
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_appropriate/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_appropriate/baselines.json ADDED
@@ -0,0 +1,2016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 2000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 2000,
6
+ "clean_accuracy": 0.996,
7
+ "corrupted_accuracy": 0.995,
8
+ "both_correct_accuracy": 0.991,
9
+ "n_both_correct": 1982,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 2,
14
+ 3,
15
+ 4,
16
+ 5,
17
+ 6,
18
+ 7,
19
+ 8,
20
+ 9,
21
+ 10,
22
+ 11,
23
+ 12,
24
+ 13,
25
+ 14,
26
+ 15,
27
+ 16,
28
+ 17,
29
+ 18,
30
+ 19,
31
+ 20,
32
+ 21,
33
+ 22,
34
+ 23,
35
+ 24,
36
+ 25,
37
+ 26,
38
+ 27,
39
+ 28,
40
+ 29,
41
+ 30,
42
+ 31,
43
+ 32,
44
+ 33,
45
+ 34,
46
+ 35,
47
+ 36,
48
+ 37,
49
+ 38,
50
+ 39,
51
+ 40,
52
+ 41,
53
+ 42,
54
+ 43,
55
+ 44,
56
+ 45,
57
+ 46,
58
+ 47,
59
+ 48,
60
+ 49,
61
+ 50,
62
+ 51,
63
+ 52,
64
+ 53,
65
+ 54,
66
+ 55,
67
+ 56,
68
+ 57,
69
+ 58,
70
+ 59,
71
+ 60,
72
+ 61,
73
+ 62,
74
+ 63,
75
+ 64,
76
+ 65,
77
+ 66,
78
+ 67,
79
+ 68,
80
+ 69,
81
+ 70,
82
+ 71,
83
+ 72,
84
+ 73,
85
+ 74,
86
+ 75,
87
+ 76,
88
+ 77,
89
+ 78,
90
+ 79,
91
+ 80,
92
+ 81,
93
+ 82,
94
+ 83,
95
+ 85,
96
+ 86,
97
+ 87,
98
+ 88,
99
+ 89,
100
+ 90,
101
+ 91,
102
+ 92,
103
+ 93,
104
+ 94,
105
+ 95,
106
+ 96,
107
+ 97,
108
+ 98,
109
+ 99,
110
+ 100,
111
+ 101,
112
+ 102,
113
+ 103,
114
+ 104,
115
+ 105,
116
+ 106,
117
+ 107,
118
+ 108,
119
+ 109,
120
+ 110,
121
+ 111,
122
+ 112,
123
+ 113,
124
+ 114,
125
+ 115,
126
+ 116,
127
+ 117,
128
+ 118,
129
+ 119,
130
+ 120,
131
+ 121,
132
+ 122,
133
+ 123,
134
+ 124,
135
+ 125,
136
+ 126,
137
+ 127,
138
+ 128,
139
+ 129,
140
+ 130,
141
+ 131,
142
+ 132,
143
+ 133,
144
+ 134,
145
+ 135,
146
+ 136,
147
+ 137,
148
+ 138,
149
+ 139,
150
+ 140,
151
+ 141,
152
+ 142,
153
+ 143,
154
+ 144,
155
+ 145,
156
+ 146,
157
+ 147,
158
+ 148,
159
+ 149,
160
+ 150,
161
+ 151,
162
+ 152,
163
+ 153,
164
+ 154,
165
+ 155,
166
+ 156,
167
+ 157,
168
+ 158,
169
+ 159,
170
+ 160,
171
+ 161,
172
+ 162,
173
+ 163,
174
+ 164,
175
+ 165,
176
+ 166,
177
+ 167,
178
+ 168,
179
+ 169,
180
+ 170,
181
+ 171,
182
+ 172,
183
+ 173,
184
+ 174,
185
+ 175,
186
+ 176,
187
+ 177,
188
+ 178,
189
+ 179,
190
+ 180,
191
+ 181,
192
+ 182,
193
+ 183,
194
+ 184,
195
+ 185,
196
+ 186,
197
+ 187,
198
+ 188,
199
+ 189,
200
+ 190,
201
+ 191,
202
+ 192,
203
+ 193,
204
+ 194,
205
+ 195,
206
+ 196,
207
+ 197,
208
+ 198,
209
+ 199,
210
+ 200,
211
+ 202,
212
+ 203,
213
+ 204,
214
+ 205,
215
+ 206,
216
+ 207,
217
+ 208,
218
+ 209,
219
+ 210,
220
+ 211,
221
+ 212,
222
+ 213,
223
+ 214,
224
+ 215,
225
+ 216,
226
+ 217,
227
+ 218,
228
+ 219,
229
+ 220,
230
+ 221,
231
+ 222,
232
+ 223,
233
+ 224,
234
+ 225,
235
+ 226,
236
+ 227,
237
+ 228,
238
+ 229,
239
+ 230,
240
+ 231,
241
+ 232,
242
+ 233,
243
+ 234,
244
+ 235,
245
+ 236,
246
+ 237,
247
+ 238,
248
+ 239,
249
+ 240,
250
+ 241,
251
+ 242,
252
+ 243,
253
+ 244,
254
+ 245,
255
+ 246,
256
+ 247,
257
+ 248,
258
+ 249,
259
+ 250,
260
+ 251,
261
+ 252,
262
+ 253,
263
+ 254,
264
+ 255,
265
+ 256,
266
+ 257,
267
+ 258,
268
+ 259,
269
+ 260,
270
+ 261,
271
+ 262,
272
+ 263,
273
+ 264,
274
+ 265,
275
+ 266,
276
+ 267,
277
+ 268,
278
+ 270,
279
+ 271,
280
+ 272,
281
+ 273,
282
+ 274,
283
+ 275,
284
+ 276,
285
+ 277,
286
+ 278,
287
+ 279,
288
+ 280,
289
+ 281,
290
+ 282,
291
+ 283,
292
+ 284,
293
+ 285,
294
+ 286,
295
+ 287,
296
+ 288,
297
+ 289,
298
+ 290,
299
+ 291,
300
+ 292,
301
+ 293,
302
+ 294,
303
+ 295,
304
+ 296,
305
+ 297,
306
+ 298,
307
+ 299,
308
+ 300,
309
+ 301,
310
+ 302,
311
+ 303,
312
+ 304,
313
+ 305,
314
+ 306,
315
+ 307,
316
+ 308,
317
+ 309,
318
+ 310,
319
+ 311,
320
+ 312,
321
+ 313,
322
+ 314,
323
+ 315,
324
+ 316,
325
+ 317,
326
+ 318,
327
+ 319,
328
+ 320,
329
+ 321,
330
+ 322,
331
+ 323,
332
+ 324,
333
+ 325,
334
+ 326,
335
+ 327,
336
+ 328,
337
+ 329,
338
+ 330,
339
+ 331,
340
+ 332,
341
+ 333,
342
+ 334,
343
+ 335,
344
+ 336,
345
+ 337,
346
+ 338,
347
+ 339,
348
+ 340,
349
+ 341,
350
+ 342,
351
+ 343,
352
+ 344,
353
+ 345,
354
+ 346,
355
+ 347,
356
+ 348,
357
+ 349,
358
+ 350,
359
+ 351,
360
+ 352,
361
+ 353,
362
+ 354,
363
+ 355,
364
+ 356,
365
+ 357,
366
+ 358,
367
+ 359,
368
+ 360,
369
+ 361,
370
+ 362,
371
+ 363,
372
+ 364,
373
+ 365,
374
+ 366,
375
+ 367,
376
+ 368,
377
+ 369,
378
+ 370,
379
+ 371,
380
+ 372,
381
+ 373,
382
+ 374,
383
+ 375,
384
+ 376,
385
+ 377,
386
+ 378,
387
+ 379,
388
+ 380,
389
+ 381,
390
+ 382,
391
+ 383,
392
+ 384,
393
+ 385,
394
+ 386,
395
+ 387,
396
+ 388,
397
+ 389,
398
+ 390,
399
+ 391,
400
+ 392,
401
+ 393,
402
+ 394,
403
+ 395,
404
+ 396,
405
+ 397,
406
+ 398,
407
+ 399,
408
+ 400,
409
+ 401,
410
+ 402,
411
+ 403,
412
+ 404,
413
+ 405,
414
+ 406,
415
+ 407,
416
+ 408,
417
+ 409,
418
+ 410,
419
+ 411,
420
+ 412,
421
+ 413,
422
+ 414,
423
+ 415,
424
+ 416,
425
+ 417,
426
+ 418,
427
+ 419,
428
+ 420,
429
+ 421,
430
+ 422,
431
+ 423,
432
+ 424,
433
+ 425,
434
+ 426,
435
+ 427,
436
+ 428,
437
+ 429,
438
+ 430,
439
+ 432,
440
+ 433,
441
+ 434,
442
+ 435,
443
+ 436,
444
+ 437,
445
+ 438,
446
+ 439,
447
+ 440,
448
+ 441,
449
+ 442,
450
+ 443,
451
+ 444,
452
+ 445,
453
+ 446,
454
+ 447,
455
+ 448,
456
+ 449,
457
+ 450,
458
+ 451,
459
+ 452,
460
+ 453,
461
+ 454,
462
+ 455,
463
+ 456,
464
+ 457,
465
+ 458,
466
+ 459,
467
+ 460,
468
+ 461,
469
+ 462,
470
+ 463,
471
+ 464,
472
+ 465,
473
+ 466,
474
+ 467,
475
+ 468,
476
+ 469,
477
+ 470,
478
+ 471,
479
+ 472,
480
+ 473,
481
+ 474,
482
+ 475,
483
+ 476,
484
+ 477,
485
+ 478,
486
+ 479,
487
+ 480,
488
+ 481,
489
+ 482,
490
+ 483,
491
+ 484,
492
+ 485,
493
+ 486,
494
+ 487,
495
+ 488,
496
+ 489,
497
+ 490,
498
+ 491,
499
+ 492,
500
+ 493,
501
+ 494,
502
+ 495,
503
+ 496,
504
+ 497,
505
+ 498,
506
+ 499,
507
+ 500,
508
+ 501,
509
+ 502,
510
+ 503,
511
+ 504,
512
+ 505,
513
+ 506,
514
+ 507,
515
+ 508,
516
+ 509,
517
+ 510,
518
+ 511,
519
+ 512,
520
+ 513,
521
+ 514,
522
+ 515,
523
+ 516,
524
+ 517,
525
+ 518,
526
+ 519,
527
+ 520,
528
+ 521,
529
+ 522,
530
+ 523,
531
+ 524,
532
+ 525,
533
+ 526,
534
+ 527,
535
+ 528,
536
+ 529,
537
+ 530,
538
+ 531,
539
+ 532,
540
+ 533,
541
+ 534,
542
+ 535,
543
+ 536,
544
+ 537,
545
+ 538,
546
+ 539,
547
+ 540,
548
+ 541,
549
+ 542,
550
+ 543,
551
+ 544,
552
+ 545,
553
+ 546,
554
+ 547,
555
+ 548,
556
+ 549,
557
+ 550,
558
+ 551,
559
+ 552,
560
+ 553,
561
+ 554,
562
+ 555,
563
+ 556,
564
+ 557,
565
+ 558,
566
+ 559,
567
+ 560,
568
+ 561,
569
+ 562,
570
+ 563,
571
+ 564,
572
+ 565,
573
+ 566,
574
+ 567,
575
+ 568,
576
+ 569,
577
+ 570,
578
+ 571,
579
+ 572,
580
+ 573,
581
+ 574,
582
+ 575,
583
+ 576,
584
+ 577,
585
+ 578,
586
+ 579,
587
+ 580,
588
+ 581,
589
+ 582,
590
+ 583,
591
+ 584,
592
+ 585,
593
+ 587,
594
+ 588,
595
+ 589,
596
+ 590,
597
+ 591,
598
+ 592,
599
+ 593,
600
+ 594,
601
+ 595,
602
+ 596,
603
+ 597,
604
+ 598,
605
+ 599,
606
+ 600,
607
+ 601,
608
+ 602,
609
+ 603,
610
+ 604,
611
+ 605,
612
+ 606,
613
+ 607,
614
+ 608,
615
+ 609,
616
+ 610,
617
+ 611,
618
+ 612,
619
+ 613,
620
+ 614,
621
+ 615,
622
+ 616,
623
+ 617,
624
+ 618,
625
+ 619,
626
+ 620,
627
+ 621,
628
+ 622,
629
+ 623,
630
+ 624,
631
+ 625,
632
+ 626,
633
+ 627,
634
+ 628,
635
+ 629,
636
+ 630,
637
+ 631,
638
+ 632,
639
+ 633,
640
+ 634,
641
+ 635,
642
+ 636,
643
+ 637,
644
+ 638,
645
+ 639,
646
+ 640,
647
+ 641,
648
+ 642,
649
+ 643,
650
+ 644,
651
+ 645,
652
+ 646,
653
+ 647,
654
+ 648,
655
+ 649,
656
+ 650,
657
+ 651,
658
+ 652,
659
+ 653,
660
+ 654,
661
+ 655,
662
+ 656,
663
+ 657,
664
+ 658,
665
+ 659,
666
+ 660,
667
+ 661,
668
+ 662,
669
+ 663,
670
+ 664,
671
+ 665,
672
+ 666,
673
+ 667,
674
+ 668,
675
+ 669,
676
+ 670,
677
+ 671,
678
+ 672,
679
+ 673,
680
+ 674,
681
+ 675,
682
+ 676,
683
+ 677,
684
+ 678,
685
+ 679,
686
+ 680,
687
+ 681,
688
+ 682,
689
+ 683,
690
+ 684,
691
+ 685,
692
+ 686,
693
+ 687,
694
+ 688,
695
+ 689,
696
+ 690,
697
+ 691,
698
+ 692,
699
+ 693,
700
+ 694,
701
+ 695,
702
+ 696,
703
+ 697,
704
+ 698,
705
+ 699,
706
+ 700,
707
+ 701,
708
+ 702,
709
+ 703,
710
+ 704,
711
+ 705,
712
+ 706,
713
+ 707,
714
+ 708,
715
+ 709,
716
+ 710,
717
+ 711,
718
+ 712,
719
+ 713,
720
+ 714,
721
+ 715,
722
+ 716,
723
+ 717,
724
+ 718,
725
+ 719,
726
+ 720,
727
+ 721,
728
+ 722,
729
+ 723,
730
+ 724,
731
+ 725,
732
+ 726,
733
+ 727,
734
+ 728,
735
+ 729,
736
+ 730,
737
+ 731,
738
+ 732,
739
+ 733,
740
+ 734,
741
+ 735,
742
+ 736,
743
+ 737,
744
+ 738,
745
+ 739,
746
+ 740,
747
+ 741,
748
+ 742,
749
+ 743,
750
+ 744,
751
+ 745,
752
+ 746,
753
+ 748,
754
+ 749,
755
+ 750,
756
+ 751,
757
+ 752,
758
+ 753,
759
+ 754,
760
+ 755,
761
+ 756,
762
+ 757,
763
+ 758,
764
+ 759,
765
+ 760,
766
+ 761,
767
+ 762,
768
+ 763,
769
+ 764,
770
+ 765,
771
+ 766,
772
+ 767,
773
+ 768,
774
+ 769,
775
+ 770,
776
+ 771,
777
+ 772,
778
+ 773,
779
+ 774,
780
+ 775,
781
+ 776,
782
+ 777,
783
+ 778,
784
+ 779,
785
+ 780,
786
+ 781,
787
+ 782,
788
+ 783,
789
+ 784,
790
+ 785,
791
+ 786,
792
+ 787,
793
+ 788,
794
+ 789,
795
+ 790,
796
+ 791,
797
+ 792,
798
+ 793,
799
+ 794,
800
+ 795,
801
+ 796,
802
+ 797,
803
+ 798,
804
+ 799,
805
+ 800,
806
+ 801,
807
+ 802,
808
+ 803,
809
+ 804,
810
+ 805,
811
+ 806,
812
+ 807,
813
+ 808,
814
+ 809,
815
+ 810,
816
+ 811,
817
+ 812,
818
+ 813,
819
+ 814,
820
+ 815,
821
+ 816,
822
+ 817,
823
+ 818,
824
+ 819,
825
+ 820,
826
+ 821,
827
+ 822,
828
+ 823,
829
+ 824,
830
+ 825,
831
+ 826,
832
+ 827,
833
+ 828,
834
+ 829,
835
+ 830,
836
+ 831,
837
+ 832,
838
+ 833,
839
+ 834,
840
+ 835,
841
+ 836,
842
+ 837,
843
+ 838,
844
+ 839,
845
+ 840,
846
+ 841,
847
+ 842,
848
+ 843,
849
+ 844,
850
+ 845,
851
+ 846,
852
+ 847,
853
+ 848,
854
+ 849,
855
+ 850,
856
+ 851,
857
+ 852,
858
+ 853,
859
+ 854,
860
+ 855,
861
+ 856,
862
+ 857,
863
+ 858,
864
+ 859,
865
+ 860,
866
+ 861,
867
+ 862,
868
+ 863,
869
+ 864,
870
+ 865,
871
+ 866,
872
+ 867,
873
+ 868,
874
+ 869,
875
+ 870,
876
+ 871,
877
+ 872,
878
+ 873,
879
+ 874,
880
+ 875,
881
+ 876,
882
+ 877,
883
+ 878,
884
+ 879,
885
+ 880,
886
+ 881,
887
+ 882,
888
+ 883,
889
+ 884,
890
+ 885,
891
+ 886,
892
+ 887,
893
+ 888,
894
+ 889,
895
+ 890,
896
+ 891,
897
+ 892,
898
+ 893,
899
+ 894,
900
+ 895,
901
+ 896,
902
+ 897,
903
+ 898,
904
+ 899,
905
+ 900,
906
+ 901,
907
+ 902,
908
+ 903,
909
+ 904,
910
+ 905,
911
+ 906,
912
+ 907,
913
+ 908,
914
+ 909,
915
+ 910,
916
+ 911,
917
+ 912,
918
+ 913,
919
+ 914,
920
+ 915,
921
+ 916,
922
+ 917,
923
+ 918,
924
+ 919,
925
+ 920,
926
+ 921,
927
+ 922,
928
+ 923,
929
+ 924,
930
+ 925,
931
+ 926,
932
+ 927,
933
+ 928,
934
+ 929,
935
+ 930,
936
+ 931,
937
+ 932,
938
+ 933,
939
+ 934,
940
+ 935,
941
+ 936,
942
+ 937,
943
+ 938,
944
+ 939,
945
+ 940,
946
+ 941,
947
+ 942,
948
+ 943,
949
+ 944,
950
+ 945,
951
+ 946,
952
+ 947,
953
+ 948,
954
+ 949,
955
+ 950,
956
+ 951,
957
+ 952,
958
+ 953,
959
+ 954,
960
+ 955,
961
+ 956,
962
+ 957,
963
+ 958,
964
+ 959,
965
+ 960,
966
+ 961,
967
+ 962,
968
+ 963,
969
+ 964,
970
+ 965,
971
+ 966,
972
+ 967,
973
+ 968,
974
+ 969,
975
+ 970,
976
+ 971,
977
+ 972,
978
+ 974,
979
+ 975,
980
+ 976,
981
+ 977,
982
+ 978,
983
+ 979,
984
+ 980,
985
+ 981,
986
+ 982,
987
+ 983,
988
+ 984,
989
+ 985,
990
+ 986,
991
+ 987,
992
+ 988,
993
+ 989,
994
+ 990,
995
+ 991,
996
+ 992,
997
+ 993,
998
+ 994,
999
+ 995,
1000
+ 996,
1001
+ 997,
1002
+ 998,
1003
+ 999,
1004
+ 1000,
1005
+ 1001,
1006
+ 1002,
1007
+ 1003,
1008
+ 1004,
1009
+ 1005,
1010
+ 1006,
1011
+ 1007,
1012
+ 1008,
1013
+ 1009,
1014
+ 1010,
1015
+ 1011,
1016
+ 1012,
1017
+ 1013,
1018
+ 1014,
1019
+ 1015,
1020
+ 1016,
1021
+ 1017,
1022
+ 1018,
1023
+ 1019,
1024
+ 1020,
1025
+ 1021,
1026
+ 1022,
1027
+ 1023,
1028
+ 1024,
1029
+ 1025,
1030
+ 1026,
1031
+ 1027,
1032
+ 1028,
1033
+ 1029,
1034
+ 1030,
1035
+ 1031,
1036
+ 1032,
1037
+ 1033,
1038
+ 1034,
1039
+ 1035,
1040
+ 1036,
1041
+ 1037,
1042
+ 1038,
1043
+ 1039,
1044
+ 1040,
1045
+ 1041,
1046
+ 1042,
1047
+ 1043,
1048
+ 1044,
1049
+ 1045,
1050
+ 1046,
1051
+ 1047,
1052
+ 1048,
1053
+ 1049,
1054
+ 1050,
1055
+ 1051,
1056
+ 1053,
1057
+ 1054,
1058
+ 1055,
1059
+ 1056,
1060
+ 1057,
1061
+ 1058,
1062
+ 1059,
1063
+ 1060,
1064
+ 1061,
1065
+ 1062,
1066
+ 1063,
1067
+ 1064,
1068
+ 1065,
1069
+ 1066,
1070
+ 1067,
1071
+ 1068,
1072
+ 1069,
1073
+ 1070,
1074
+ 1071,
1075
+ 1072,
1076
+ 1073,
1077
+ 1074,
1078
+ 1075,
1079
+ 1076,
1080
+ 1077,
1081
+ 1078,
1082
+ 1079,
1083
+ 1080,
1084
+ 1081,
1085
+ 1082,
1086
+ 1083,
1087
+ 1084,
1088
+ 1085,
1089
+ 1086,
1090
+ 1087,
1091
+ 1088,
1092
+ 1089,
1093
+ 1090,
1094
+ 1091,
1095
+ 1092,
1096
+ 1093,
1097
+ 1094,
1098
+ 1095,
1099
+ 1096,
1100
+ 1097,
1101
+ 1098,
1102
+ 1099,
1103
+ 1100,
1104
+ 1101,
1105
+ 1102,
1106
+ 1103,
1107
+ 1104,
1108
+ 1105,
1109
+ 1106,
1110
+ 1107,
1111
+ 1108,
1112
+ 1109,
1113
+ 1110,
1114
+ 1111,
1115
+ 1112,
1116
+ 1113,
1117
+ 1114,
1118
+ 1115,
1119
+ 1116,
1120
+ 1117,
1121
+ 1118,
1122
+ 1119,
1123
+ 1120,
1124
+ 1121,
1125
+ 1122,
1126
+ 1123,
1127
+ 1124,
1128
+ 1125,
1129
+ 1126,
1130
+ 1128,
1131
+ 1129,
1132
+ 1130,
1133
+ 1131,
1134
+ 1132,
1135
+ 1133,
1136
+ 1134,
1137
+ 1135,
1138
+ 1136,
1139
+ 1137,
1140
+ 1138,
1141
+ 1139,
1142
+ 1140,
1143
+ 1141,
1144
+ 1142,
1145
+ 1143,
1146
+ 1144,
1147
+ 1145,
1148
+ 1146,
1149
+ 1147,
1150
+ 1148,
1151
+ 1149,
1152
+ 1150,
1153
+ 1151,
1154
+ 1152,
1155
+ 1153,
1156
+ 1154,
1157
+ 1155,
1158
+ 1156,
1159
+ 1157,
1160
+ 1158,
1161
+ 1159,
1162
+ 1160,
1163
+ 1161,
1164
+ 1162,
1165
+ 1163,
1166
+ 1164,
1167
+ 1165,
1168
+ 1166,
1169
+ 1167,
1170
+ 1168,
1171
+ 1169,
1172
+ 1170,
1173
+ 1171,
1174
+ 1172,
1175
+ 1173,
1176
+ 1174,
1177
+ 1175,
1178
+ 1176,
1179
+ 1177,
1180
+ 1178,
1181
+ 1179,
1182
+ 1180,
1183
+ 1181,
1184
+ 1182,
1185
+ 1183,
1186
+ 1184,
1187
+ 1185,
1188
+ 1186,
1189
+ 1187,
1190
+ 1188,
1191
+ 1189,
1192
+ 1190,
1193
+ 1191,
1194
+ 1192,
1195
+ 1193,
1196
+ 1194,
1197
+ 1195,
1198
+ 1196,
1199
+ 1197,
1200
+ 1198,
1201
+ 1199,
1202
+ 1200,
1203
+ 1201,
1204
+ 1202,
1205
+ 1203,
1206
+ 1204,
1207
+ 1205,
1208
+ 1206,
1209
+ 1207,
1210
+ 1208,
1211
+ 1209,
1212
+ 1210,
1213
+ 1211,
1214
+ 1212,
1215
+ 1213,
1216
+ 1214,
1217
+ 1215,
1218
+ 1216,
1219
+ 1217,
1220
+ 1218,
1221
+ 1219,
1222
+ 1220,
1223
+ 1221,
1224
+ 1222,
1225
+ 1223,
1226
+ 1224,
1227
+ 1225,
1228
+ 1226,
1229
+ 1227,
1230
+ 1228,
1231
+ 1229,
1232
+ 1230,
1233
+ 1231,
1234
+ 1232,
1235
+ 1233,
1236
+ 1234,
1237
+ 1235,
1238
+ 1236,
1239
+ 1237,
1240
+ 1239,
1241
+ 1240,
1242
+ 1241,
1243
+ 1242,
1244
+ 1243,
1245
+ 1244,
1246
+ 1245,
1247
+ 1246,
1248
+ 1247,
1249
+ 1248,
1250
+ 1249,
1251
+ 1250,
1252
+ 1251,
1253
+ 1252,
1254
+ 1253,
1255
+ 1254,
1256
+ 1255,
1257
+ 1256,
1258
+ 1257,
1259
+ 1259,
1260
+ 1260,
1261
+ 1261,
1262
+ 1262,
1263
+ 1263,
1264
+ 1264,
1265
+ 1265,
1266
+ 1266,
1267
+ 1267,
1268
+ 1268,
1269
+ 1269,
1270
+ 1270,
1271
+ 1271,
1272
+ 1272,
1273
+ 1273,
1274
+ 1274,
1275
+ 1275,
1276
+ 1276,
1277
+ 1277,
1278
+ 1278,
1279
+ 1279,
1280
+ 1280,
1281
+ 1281,
1282
+ 1282,
1283
+ 1283,
1284
+ 1284,
1285
+ 1285,
1286
+ 1286,
1287
+ 1287,
1288
+ 1288,
1289
+ 1289,
1290
+ 1290,
1291
+ 1291,
1292
+ 1292,
1293
+ 1293,
1294
+ 1294,
1295
+ 1295,
1296
+ 1296,
1297
+ 1297,
1298
+ 1298,
1299
+ 1299,
1300
+ 1300,
1301
+ 1301,
1302
+ 1302,
1303
+ 1303,
1304
+ 1304,
1305
+ 1305,
1306
+ 1306,
1307
+ 1307,
1308
+ 1308,
1309
+ 1309,
1310
+ 1310,
1311
+ 1311,
1312
+ 1312,
1313
+ 1313,
1314
+ 1314,
1315
+ 1315,
1316
+ 1316,
1317
+ 1317,
1318
+ 1318,
1319
+ 1319,
1320
+ 1320,
1321
+ 1321,
1322
+ 1322,
1323
+ 1323,
1324
+ 1324,
1325
+ 1325,
1326
+ 1326,
1327
+ 1327,
1328
+ 1328,
1329
+ 1329,
1330
+ 1330,
1331
+ 1331,
1332
+ 1332,
1333
+ 1333,
1334
+ 1334,
1335
+ 1335,
1336
+ 1336,
1337
+ 1337,
1338
+ 1338,
1339
+ 1339,
1340
+ 1340,
1341
+ 1341,
1342
+ 1342,
1343
+ 1344,
1344
+ 1345,
1345
+ 1346,
1346
+ 1347,
1347
+ 1348,
1348
+ 1349,
1349
+ 1350,
1350
+ 1351,
1351
+ 1352,
1352
+ 1353,
1353
+ 1354,
1354
+ 1355,
1355
+ 1356,
1356
+ 1357,
1357
+ 1358,
1358
+ 1359,
1359
+ 1360,
1360
+ 1361,
1361
+ 1362,
1362
+ 1363,
1363
+ 1364,
1364
+ 1365,
1365
+ 1366,
1366
+ 1367,
1367
+ 1368,
1368
+ 1369,
1369
+ 1370,
1370
+ 1371,
1371
+ 1372,
1372
+ 1373,
1373
+ 1374,
1374
+ 1375,
1375
+ 1376,
1376
+ 1377,
1377
+ 1378,
1378
+ 1379,
1379
+ 1380,
1380
+ 1381,
1381
+ 1382,
1382
+ 1383,
1383
+ 1384,
1384
+ 1385,
1385
+ 1386,
1386
+ 1387,
1387
+ 1388,
1388
+ 1389,
1389
+ 1390,
1390
+ 1391,
1391
+ 1392,
1392
+ 1393,
1393
+ 1394,
1394
+ 1395,
1395
+ 1396,
1396
+ 1397,
1397
+ 1398,
1398
+ 1399,
1399
+ 1400,
1400
+ 1401,
1401
+ 1402,
1402
+ 1403,
1403
+ 1404,
1404
+ 1405,
1405
+ 1406,
1406
+ 1407,
1407
+ 1408,
1408
+ 1409,
1409
+ 1410,
1410
+ 1411,
1411
+ 1413,
1412
+ 1414,
1413
+ 1415,
1414
+ 1416,
1415
+ 1417,
1416
+ 1418,
1417
+ 1419,
1418
+ 1420,
1419
+ 1421,
1420
+ 1422,
1421
+ 1423,
1422
+ 1424,
1423
+ 1425,
1424
+ 1426,
1425
+ 1427,
1426
+ 1428,
1427
+ 1429,
1428
+ 1430,
1429
+ 1431,
1430
+ 1432,
1431
+ 1433,
1432
+ 1434,
1433
+ 1435,
1434
+ 1436,
1435
+ 1437,
1436
+ 1438,
1437
+ 1439,
1438
+ 1440,
1439
+ 1441,
1440
+ 1442,
1441
+ 1443,
1442
+ 1444,
1443
+ 1445,
1444
+ 1446,
1445
+ 1447,
1446
+ 1448,
1447
+ 1449,
1448
+ 1450,
1449
+ 1451,
1450
+ 1452,
1451
+ 1453,
1452
+ 1454,
1453
+ 1455,
1454
+ 1456,
1455
+ 1457,
1456
+ 1458,
1457
+ 1459,
1458
+ 1460,
1459
+ 1461,
1460
+ 1462,
1461
+ 1463,
1462
+ 1464,
1463
+ 1465,
1464
+ 1466,
1465
+ 1467,
1466
+ 1468,
1467
+ 1469,
1468
+ 1470,
1469
+ 1471,
1470
+ 1472,
1471
+ 1473,
1472
+ 1474,
1473
+ 1475,
1474
+ 1476,
1475
+ 1477,
1476
+ 1478,
1477
+ 1479,
1478
+ 1480,
1479
+ 1481,
1480
+ 1482,
1481
+ 1483,
1482
+ 1484,
1483
+ 1485,
1484
+ 1486,
1485
+ 1487,
1486
+ 1488,
1487
+ 1489,
1488
+ 1490,
1489
+ 1491,
1490
+ 1492,
1491
+ 1493,
1492
+ 1494,
1493
+ 1495,
1494
+ 1496,
1495
+ 1497,
1496
+ 1498,
1497
+ 1499,
1498
+ 1501,
1499
+ 1502,
1500
+ 1503,
1501
+ 1504,
1502
+ 1505,
1503
+ 1506,
1504
+ 1507,
1505
+ 1508,
1506
+ 1509,
1507
+ 1510,
1508
+ 1511,
1509
+ 1512,
1510
+ 1513,
1511
+ 1514,
1512
+ 1515,
1513
+ 1516,
1514
+ 1517,
1515
+ 1518,
1516
+ 1519,
1517
+ 1520,
1518
+ 1521,
1519
+ 1522,
1520
+ 1523,
1521
+ 1524,
1522
+ 1525,
1523
+ 1526,
1524
+ 1527,
1525
+ 1528,
1526
+ 1529,
1527
+ 1530,
1528
+ 1531,
1529
+ 1532,
1530
+ 1533,
1531
+ 1534,
1532
+ 1535,
1533
+ 1536,
1534
+ 1537,
1535
+ 1538,
1536
+ 1539,
1537
+ 1540,
1538
+ 1541,
1539
+ 1542,
1540
+ 1543,
1541
+ 1544,
1542
+ 1545,
1543
+ 1546,
1544
+ 1547,
1545
+ 1548,
1546
+ 1549,
1547
+ 1550,
1548
+ 1551,
1549
+ 1552,
1550
+ 1553,
1551
+ 1554,
1552
+ 1555,
1553
+ 1556,
1554
+ 1557,
1555
+ 1558,
1556
+ 1559,
1557
+ 1560,
1558
+ 1561,
1559
+ 1562,
1560
+ 1563,
1561
+ 1564,
1562
+ 1565,
1563
+ 1566,
1564
+ 1567,
1565
+ 1568,
1566
+ 1569,
1567
+ 1570,
1568
+ 1571,
1569
+ 1572,
1570
+ 1573,
1571
+ 1574,
1572
+ 1575,
1573
+ 1576,
1574
+ 1577,
1575
+ 1578,
1576
+ 1579,
1577
+ 1580,
1578
+ 1581,
1579
+ 1582,
1580
+ 1583,
1581
+ 1584,
1582
+ 1585,
1583
+ 1586,
1584
+ 1587,
1585
+ 1588,
1586
+ 1589,
1587
+ 1590,
1588
+ 1591,
1589
+ 1592,
1590
+ 1593,
1591
+ 1594,
1592
+ 1595,
1593
+ 1596,
1594
+ 1597,
1595
+ 1598,
1596
+ 1599,
1597
+ 1600,
1598
+ 1601,
1599
+ 1602,
1600
+ 1603,
1601
+ 1604,
1602
+ 1605,
1603
+ 1606,
1604
+ 1607,
1605
+ 1608,
1606
+ 1609,
1607
+ 1610,
1608
+ 1611,
1609
+ 1612,
1610
+ 1613,
1611
+ 1614,
1612
+ 1615,
1613
+ 1616,
1614
+ 1617,
1615
+ 1618,
1616
+ 1619,
1617
+ 1620,
1618
+ 1621,
1619
+ 1622,
1620
+ 1623,
1621
+ 1624,
1622
+ 1625,
1623
+ 1626,
1624
+ 1627,
1625
+ 1628,
1626
+ 1629,
1627
+ 1630,
1628
+ 1631,
1629
+ 1632,
1630
+ 1633,
1631
+ 1634,
1632
+ 1635,
1633
+ 1636,
1634
+ 1637,
1635
+ 1638,
1636
+ 1639,
1637
+ 1640,
1638
+ 1641,
1639
+ 1642,
1640
+ 1643,
1641
+ 1644,
1642
+ 1645,
1643
+ 1646,
1644
+ 1647,
1645
+ 1648,
1646
+ 1649,
1647
+ 1650,
1648
+ 1651,
1649
+ 1652,
1650
+ 1653,
1651
+ 1654,
1652
+ 1655,
1653
+ 1656,
1654
+ 1657,
1655
+ 1658,
1656
+ 1659,
1657
+ 1660,
1658
+ 1661,
1659
+ 1662,
1660
+ 1663,
1661
+ 1664,
1662
+ 1665,
1663
+ 1666,
1664
+ 1667,
1665
+ 1668,
1666
+ 1669,
1667
+ 1670,
1668
+ 1671,
1669
+ 1672,
1670
+ 1673,
1671
+ 1674,
1672
+ 1675,
1673
+ 1676,
1674
+ 1677,
1675
+ 1678,
1676
+ 1679,
1677
+ 1680,
1678
+ 1681,
1679
+ 1682,
1680
+ 1683,
1681
+ 1684,
1682
+ 1685,
1683
+ 1686,
1684
+ 1687,
1685
+ 1688,
1686
+ 1689,
1687
+ 1690,
1688
+ 1691,
1689
+ 1692,
1690
+ 1693,
1691
+ 1694,
1692
+ 1695,
1693
+ 1696,
1694
+ 1697,
1695
+ 1698,
1696
+ 1699,
1697
+ 1700,
1698
+ 1701,
1699
+ 1702,
1700
+ 1703,
1701
+ 1704,
1702
+ 1705,
1703
+ 1706,
1704
+ 1707,
1705
+ 1708,
1706
+ 1709,
1707
+ 1710,
1708
+ 1711,
1709
+ 1712,
1710
+ 1713,
1711
+ 1714,
1712
+ 1715,
1713
+ 1716,
1714
+ 1717,
1715
+ 1718,
1716
+ 1719,
1717
+ 1720,
1718
+ 1721,
1719
+ 1722,
1720
+ 1723,
1721
+ 1724,
1722
+ 1725,
1723
+ 1726,
1724
+ 1727,
1725
+ 1728,
1726
+ 1729,
1727
+ 1730,
1728
+ 1731,
1729
+ 1732,
1730
+ 1733,
1731
+ 1734,
1732
+ 1735,
1733
+ 1736,
1734
+ 1737,
1735
+ 1738,
1736
+ 1739,
1737
+ 1740,
1738
+ 1741,
1739
+ 1742,
1740
+ 1743,
1741
+ 1744,
1742
+ 1745,
1743
+ 1746,
1744
+ 1747,
1745
+ 1748,
1746
+ 1749,
1747
+ 1750,
1748
+ 1751,
1749
+ 1752,
1750
+ 1753,
1751
+ 1754,
1752
+ 1755,
1753
+ 1756,
1754
+ 1757,
1755
+ 1758,
1756
+ 1759,
1757
+ 1760,
1758
+ 1761,
1759
+ 1762,
1760
+ 1763,
1761
+ 1764,
1762
+ 1765,
1763
+ 1766,
1764
+ 1767,
1765
+ 1769,
1766
+ 1770,
1767
+ 1771,
1768
+ 1772,
1769
+ 1773,
1770
+ 1774,
1771
+ 1775,
1772
+ 1776,
1773
+ 1777,
1774
+ 1778,
1775
+ 1779,
1776
+ 1780,
1777
+ 1781,
1778
+ 1782,
1779
+ 1783,
1780
+ 1784,
1781
+ 1785,
1782
+ 1786,
1783
+ 1787,
1784
+ 1788,
1785
+ 1789,
1786
+ 1790,
1787
+ 1791,
1788
+ 1792,
1789
+ 1793,
1790
+ 1794,
1791
+ 1795,
1792
+ 1796,
1793
+ 1797,
1794
+ 1798,
1795
+ 1799,
1796
+ 1800,
1797
+ 1801,
1798
+ 1802,
1799
+ 1803,
1800
+ 1804,
1801
+ 1805,
1802
+ 1806,
1803
+ 1807,
1804
+ 1808,
1805
+ 1809,
1806
+ 1810,
1807
+ 1811,
1808
+ 1812,
1809
+ 1813,
1810
+ 1814,
1811
+ 1815,
1812
+ 1816,
1813
+ 1817,
1814
+ 1818,
1815
+ 1819,
1816
+ 1820,
1817
+ 1821,
1818
+ 1822,
1819
+ 1823,
1820
+ 1824,
1821
+ 1825,
1822
+ 1826,
1823
+ 1828,
1824
+ 1829,
1825
+ 1830,
1826
+ 1831,
1827
+ 1832,
1828
+ 1833,
1829
+ 1834,
1830
+ 1835,
1831
+ 1836,
1832
+ 1837,
1833
+ 1838,
1834
+ 1839,
1835
+ 1840,
1836
+ 1841,
1837
+ 1842,
1838
+ 1843,
1839
+ 1844,
1840
+ 1845,
1841
+ 1846,
1842
+ 1847,
1843
+ 1848,
1844
+ 1849,
1845
+ 1850,
1846
+ 1851,
1847
+ 1852,
1848
+ 1853,
1849
+ 1854,
1850
+ 1855,
1851
+ 1856,
1852
+ 1857,
1853
+ 1858,
1854
+ 1859,
1855
+ 1860,
1856
+ 1861,
1857
+ 1862,
1858
+ 1863,
1859
+ 1864,
1860
+ 1865,
1861
+ 1866,
1862
+ 1867,
1863
+ 1868,
1864
+ 1869,
1865
+ 1870,
1866
+ 1871,
1867
+ 1872,
1868
+ 1873,
1869
+ 1874,
1870
+ 1875,
1871
+ 1876,
1872
+ 1877,
1873
+ 1878,
1874
+ 1879,
1875
+ 1880,
1876
+ 1881,
1877
+ 1882,
1878
+ 1883,
1879
+ 1884,
1880
+ 1885,
1881
+ 1886,
1882
+ 1887,
1883
+ 1888,
1884
+ 1889,
1885
+ 1890,
1886
+ 1891,
1887
+ 1892,
1888
+ 1893,
1889
+ 1894,
1890
+ 1895,
1891
+ 1896,
1892
+ 1897,
1893
+ 1898,
1894
+ 1899,
1895
+ 1901,
1896
+ 1902,
1897
+ 1903,
1898
+ 1904,
1899
+ 1905,
1900
+ 1906,
1901
+ 1907,
1902
+ 1908,
1903
+ 1909,
1904
+ 1910,
1905
+ 1911,
1906
+ 1912,
1907
+ 1913,
1908
+ 1914,
1909
+ 1915,
1910
+ 1916,
1911
+ 1917,
1912
+ 1918,
1913
+ 1919,
1914
+ 1920,
1915
+ 1921,
1916
+ 1922,
1917
+ 1923,
1918
+ 1924,
1919
+ 1925,
1920
+ 1926,
1921
+ 1927,
1922
+ 1928,
1923
+ 1929,
1924
+ 1930,
1925
+ 1931,
1926
+ 1932,
1927
+ 1933,
1928
+ 1934,
1929
+ 1935,
1930
+ 1936,
1931
+ 1937,
1932
+ 1938,
1933
+ 1939,
1934
+ 1940,
1935
+ 1941,
1936
+ 1942,
1937
+ 1943,
1938
+ 1944,
1939
+ 1945,
1940
+ 1946,
1941
+ 1947,
1942
+ 1948,
1943
+ 1949,
1944
+ 1950,
1945
+ 1951,
1946
+ 1952,
1947
+ 1953,
1948
+ 1954,
1949
+ 1955,
1950
+ 1956,
1951
+ 1957,
1952
+ 1958,
1953
+ 1959,
1954
+ 1960,
1955
+ 1961,
1956
+ 1962,
1957
+ 1963,
1958
+ 1964,
1959
+ 1965,
1960
+ 1966,
1961
+ 1967,
1962
+ 1968,
1963
+ 1969,
1964
+ 1970,
1965
+ 1971,
1966
+ 1972,
1967
+ 1973,
1968
+ 1974,
1969
+ 1975,
1970
+ 1976,
1971
+ 1977,
1972
+ 1978,
1973
+ 1979,
1974
+ 1980,
1975
+ 1981,
1976
+ 1983,
1977
+ 1984,
1978
+ 1985,
1979
+ 1986,
1980
+ 1987,
1981
+ 1988,
1982
+ 1989,
1983
+ 1990,
1984
+ 1991,
1985
+ 1992,
1986
+ 1993,
1987
+ 1994,
1988
+ 1995,
1989
+ 1996,
1990
+ 1997,
1991
+ 1998,
1992
+ 1999
1993
+ ],
1994
+ "not_both_correct_indices": [
1995
+ 84,
1996
+ 201,
1997
+ 269,
1998
+ 431,
1999
+ 586,
2000
+ 747,
2001
+ 973,
2002
+ 1052,
2003
+ 1127,
2004
+ 1238,
2005
+ 1258,
2006
+ 1343,
2007
+ 1412,
2008
+ 1500,
2009
+ 1768,
2010
+ 1827,
2011
+ 1900,
2012
+ 1982
2013
+ ],
2014
+ "clean_baseline": 6.40625,
2015
+ "corrupted_baseline": -6.35546875
2016
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_appropriate/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:37bdadb5e151954a258ba95bd5c42cdf666abd7e8d9921921509067a276000df
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_appropriate/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a9a791a77fe626cb25452ef4bb09d95e30f4cdcf676e76db50663a70cecf8e9a
3
+ size 5241736
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_moral/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_moral/baselines.json ADDED
@@ -0,0 +1,2016 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "n_total": 2000,
3
+ "n_token_misaligned": 0,
4
+ "token_misaligned_indices": [],
5
+ "n_after_alignment_filter": 2000,
6
+ "clean_accuracy": 0.961,
7
+ "corrupted_accuracy": 0.9595,
8
+ "both_correct_accuracy": 0.9205,
9
+ "n_both_correct": 1841,
10
+ "both_correct_indices": [
11
+ 0,
12
+ 1,
13
+ 3,
14
+ 4,
15
+ 6,
16
+ 7,
17
+ 8,
18
+ 9,
19
+ 10,
20
+ 11,
21
+ 12,
22
+ 13,
23
+ 14,
24
+ 15,
25
+ 16,
26
+ 17,
27
+ 18,
28
+ 19,
29
+ 20,
30
+ 21,
31
+ 22,
32
+ 23,
33
+ 24,
34
+ 25,
35
+ 26,
36
+ 27,
37
+ 28,
38
+ 29,
39
+ 30,
40
+ 31,
41
+ 33,
42
+ 34,
43
+ 35,
44
+ 36,
45
+ 37,
46
+ 38,
47
+ 39,
48
+ 40,
49
+ 41,
50
+ 42,
51
+ 43,
52
+ 44,
53
+ 45,
54
+ 46,
55
+ 47,
56
+ 49,
57
+ 50,
58
+ 51,
59
+ 52,
60
+ 53,
61
+ 54,
62
+ 56,
63
+ 57,
64
+ 58,
65
+ 59,
66
+ 61,
67
+ 62,
68
+ 63,
69
+ 64,
70
+ 65,
71
+ 66,
72
+ 67,
73
+ 69,
74
+ 70,
75
+ 71,
76
+ 72,
77
+ 73,
78
+ 74,
79
+ 76,
80
+ 77,
81
+ 78,
82
+ 79,
83
+ 80,
84
+ 81,
85
+ 82,
86
+ 83,
87
+ 84,
88
+ 86,
89
+ 87,
90
+ 88,
91
+ 89,
92
+ 90,
93
+ 91,
94
+ 92,
95
+ 93,
96
+ 94,
97
+ 95,
98
+ 96,
99
+ 97,
100
+ 98,
101
+ 99,
102
+ 100,
103
+ 101,
104
+ 102,
105
+ 103,
106
+ 104,
107
+ 105,
108
+ 106,
109
+ 107,
110
+ 108,
111
+ 109,
112
+ 110,
113
+ 111,
114
+ 112,
115
+ 113,
116
+ 114,
117
+ 116,
118
+ 117,
119
+ 118,
120
+ 119,
121
+ 121,
122
+ 122,
123
+ 124,
124
+ 125,
125
+ 126,
126
+ 127,
127
+ 128,
128
+ 129,
129
+ 130,
130
+ 131,
131
+ 132,
132
+ 133,
133
+ 134,
134
+ 135,
135
+ 136,
136
+ 137,
137
+ 138,
138
+ 139,
139
+ 140,
140
+ 142,
141
+ 143,
142
+ 144,
143
+ 145,
144
+ 146,
145
+ 148,
146
+ 149,
147
+ 150,
148
+ 151,
149
+ 153,
150
+ 154,
151
+ 155,
152
+ 156,
153
+ 157,
154
+ 158,
155
+ 159,
156
+ 160,
157
+ 161,
158
+ 163,
159
+ 164,
160
+ 165,
161
+ 166,
162
+ 167,
163
+ 168,
164
+ 169,
165
+ 170,
166
+ 171,
167
+ 172,
168
+ 173,
169
+ 174,
170
+ 175,
171
+ 177,
172
+ 178,
173
+ 179,
174
+ 180,
175
+ 181,
176
+ 182,
177
+ 183,
178
+ 184,
179
+ 185,
180
+ 186,
181
+ 187,
182
+ 188,
183
+ 189,
184
+ 190,
185
+ 191,
186
+ 192,
187
+ 193,
188
+ 194,
189
+ 195,
190
+ 196,
191
+ 197,
192
+ 198,
193
+ 199,
194
+ 200,
195
+ 201,
196
+ 202,
197
+ 203,
198
+ 204,
199
+ 205,
200
+ 206,
201
+ 208,
202
+ 209,
203
+ 210,
204
+ 212,
205
+ 213,
206
+ 214,
207
+ 215,
208
+ 216,
209
+ 217,
210
+ 218,
211
+ 219,
212
+ 220,
213
+ 221,
214
+ 222,
215
+ 223,
216
+ 224,
217
+ 225,
218
+ 226,
219
+ 227,
220
+ 228,
221
+ 229,
222
+ 230,
223
+ 232,
224
+ 233,
225
+ 234,
226
+ 235,
227
+ 236,
228
+ 237,
229
+ 238,
230
+ 239,
231
+ 240,
232
+ 241,
233
+ 242,
234
+ 243,
235
+ 244,
236
+ 245,
237
+ 246,
238
+ 247,
239
+ 248,
240
+ 249,
241
+ 251,
242
+ 252,
243
+ 253,
244
+ 254,
245
+ 255,
246
+ 256,
247
+ 257,
248
+ 258,
249
+ 259,
250
+ 260,
251
+ 261,
252
+ 262,
253
+ 263,
254
+ 264,
255
+ 265,
256
+ 266,
257
+ 268,
258
+ 269,
259
+ 270,
260
+ 271,
261
+ 272,
262
+ 273,
263
+ 274,
264
+ 275,
265
+ 277,
266
+ 278,
267
+ 279,
268
+ 280,
269
+ 281,
270
+ 282,
271
+ 283,
272
+ 285,
273
+ 286,
274
+ 287,
275
+ 288,
276
+ 289,
277
+ 291,
278
+ 292,
279
+ 293,
280
+ 294,
281
+ 295,
282
+ 296,
283
+ 297,
284
+ 298,
285
+ 299,
286
+ 300,
287
+ 302,
288
+ 303,
289
+ 304,
290
+ 305,
291
+ 306,
292
+ 308,
293
+ 310,
294
+ 311,
295
+ 312,
296
+ 313,
297
+ 314,
298
+ 315,
299
+ 316,
300
+ 317,
301
+ 318,
302
+ 321,
303
+ 322,
304
+ 323,
305
+ 324,
306
+ 325,
307
+ 326,
308
+ 327,
309
+ 328,
310
+ 330,
311
+ 331,
312
+ 332,
313
+ 333,
314
+ 334,
315
+ 335,
316
+ 336,
317
+ 337,
318
+ 338,
319
+ 339,
320
+ 340,
321
+ 341,
322
+ 343,
323
+ 344,
324
+ 346,
325
+ 347,
326
+ 348,
327
+ 349,
328
+ 350,
329
+ 353,
330
+ 354,
331
+ 355,
332
+ 356,
333
+ 357,
334
+ 358,
335
+ 359,
336
+ 360,
337
+ 361,
338
+ 362,
339
+ 363,
340
+ 364,
341
+ 365,
342
+ 366,
343
+ 367,
344
+ 368,
345
+ 369,
346
+ 370,
347
+ 371,
348
+ 372,
349
+ 373,
350
+ 374,
351
+ 375,
352
+ 376,
353
+ 377,
354
+ 378,
355
+ 379,
356
+ 380,
357
+ 382,
358
+ 383,
359
+ 384,
360
+ 385,
361
+ 386,
362
+ 387,
363
+ 388,
364
+ 390,
365
+ 391,
366
+ 392,
367
+ 393,
368
+ 394,
369
+ 395,
370
+ 396,
371
+ 397,
372
+ 399,
373
+ 400,
374
+ 401,
375
+ 402,
376
+ 403,
377
+ 404,
378
+ 405,
379
+ 406,
380
+ 407,
381
+ 408,
382
+ 409,
383
+ 410,
384
+ 412,
385
+ 413,
386
+ 415,
387
+ 416,
388
+ 417,
389
+ 418,
390
+ 419,
391
+ 420,
392
+ 421,
393
+ 422,
394
+ 423,
395
+ 424,
396
+ 425,
397
+ 426,
398
+ 428,
399
+ 429,
400
+ 430,
401
+ 431,
402
+ 432,
403
+ 433,
404
+ 434,
405
+ 435,
406
+ 436,
407
+ 437,
408
+ 438,
409
+ 439,
410
+ 440,
411
+ 441,
412
+ 442,
413
+ 443,
414
+ 444,
415
+ 445,
416
+ 446,
417
+ 448,
418
+ 449,
419
+ 450,
420
+ 451,
421
+ 452,
422
+ 453,
423
+ 454,
424
+ 455,
425
+ 456,
426
+ 457,
427
+ 458,
428
+ 459,
429
+ 461,
430
+ 462,
431
+ 463,
432
+ 464,
433
+ 465,
434
+ 466,
435
+ 467,
436
+ 468,
437
+ 469,
438
+ 470,
439
+ 471,
440
+ 472,
441
+ 473,
442
+ 474,
443
+ 475,
444
+ 476,
445
+ 477,
446
+ 478,
447
+ 480,
448
+ 481,
449
+ 482,
450
+ 483,
451
+ 484,
452
+ 485,
453
+ 486,
454
+ 487,
455
+ 488,
456
+ 489,
457
+ 490,
458
+ 491,
459
+ 492,
460
+ 494,
461
+ 495,
462
+ 496,
463
+ 497,
464
+ 498,
465
+ 499,
466
+ 500,
467
+ 501,
468
+ 503,
469
+ 504,
470
+ 505,
471
+ 506,
472
+ 507,
473
+ 508,
474
+ 509,
475
+ 510,
476
+ 511,
477
+ 512,
478
+ 513,
479
+ 514,
480
+ 515,
481
+ 516,
482
+ 517,
483
+ 518,
484
+ 519,
485
+ 520,
486
+ 521,
487
+ 522,
488
+ 523,
489
+ 524,
490
+ 525,
491
+ 526,
492
+ 527,
493
+ 529,
494
+ 530,
495
+ 531,
496
+ 532,
497
+ 533,
498
+ 534,
499
+ 535,
500
+ 536,
501
+ 537,
502
+ 538,
503
+ 539,
504
+ 540,
505
+ 541,
506
+ 542,
507
+ 543,
508
+ 544,
509
+ 545,
510
+ 547,
511
+ 548,
512
+ 549,
513
+ 550,
514
+ 551,
515
+ 552,
516
+ 553,
517
+ 556,
518
+ 557,
519
+ 558,
520
+ 559,
521
+ 560,
522
+ 561,
523
+ 562,
524
+ 563,
525
+ 564,
526
+ 565,
527
+ 566,
528
+ 567,
529
+ 568,
530
+ 569,
531
+ 570,
532
+ 571,
533
+ 572,
534
+ 575,
535
+ 578,
536
+ 579,
537
+ 580,
538
+ 581,
539
+ 582,
540
+ 583,
541
+ 584,
542
+ 585,
543
+ 586,
544
+ 587,
545
+ 588,
546
+ 589,
547
+ 590,
548
+ 591,
549
+ 592,
550
+ 593,
551
+ 594,
552
+ 595,
553
+ 596,
554
+ 597,
555
+ 598,
556
+ 599,
557
+ 600,
558
+ 601,
559
+ 602,
560
+ 603,
561
+ 604,
562
+ 605,
563
+ 606,
564
+ 607,
565
+ 608,
566
+ 609,
567
+ 611,
568
+ 612,
569
+ 613,
570
+ 614,
571
+ 615,
572
+ 616,
573
+ 617,
574
+ 618,
575
+ 619,
576
+ 620,
577
+ 621,
578
+ 622,
579
+ 623,
580
+ 624,
581
+ 625,
582
+ 626,
583
+ 627,
584
+ 628,
585
+ 629,
586
+ 630,
587
+ 631,
588
+ 632,
589
+ 633,
590
+ 634,
591
+ 635,
592
+ 637,
593
+ 638,
594
+ 639,
595
+ 640,
596
+ 641,
597
+ 642,
598
+ 643,
599
+ 644,
600
+ 645,
601
+ 646,
602
+ 647,
603
+ 648,
604
+ 649,
605
+ 650,
606
+ 651,
607
+ 652,
608
+ 653,
609
+ 654,
610
+ 655,
611
+ 656,
612
+ 657,
613
+ 659,
614
+ 660,
615
+ 661,
616
+ 662,
617
+ 664,
618
+ 665,
619
+ 666,
620
+ 667,
621
+ 668,
622
+ 669,
623
+ 670,
624
+ 671,
625
+ 672,
626
+ 673,
627
+ 674,
628
+ 675,
629
+ 676,
630
+ 677,
631
+ 678,
632
+ 679,
633
+ 680,
634
+ 681,
635
+ 682,
636
+ 683,
637
+ 684,
638
+ 685,
639
+ 686,
640
+ 687,
641
+ 688,
642
+ 690,
643
+ 691,
644
+ 692,
645
+ 693,
646
+ 694,
647
+ 695,
648
+ 696,
649
+ 697,
650
+ 698,
651
+ 699,
652
+ 700,
653
+ 701,
654
+ 702,
655
+ 703,
656
+ 704,
657
+ 705,
658
+ 706,
659
+ 707,
660
+ 709,
661
+ 711,
662
+ 712,
663
+ 713,
664
+ 714,
665
+ 715,
666
+ 716,
667
+ 717,
668
+ 718,
669
+ 719,
670
+ 720,
671
+ 721,
672
+ 722,
673
+ 724,
674
+ 725,
675
+ 726,
676
+ 727,
677
+ 728,
678
+ 729,
679
+ 730,
680
+ 731,
681
+ 732,
682
+ 733,
683
+ 734,
684
+ 735,
685
+ 736,
686
+ 737,
687
+ 738,
688
+ 739,
689
+ 740,
690
+ 741,
691
+ 742,
692
+ 743,
693
+ 744,
694
+ 745,
695
+ 746,
696
+ 747,
697
+ 748,
698
+ 749,
699
+ 750,
700
+ 751,
701
+ 752,
702
+ 753,
703
+ 754,
704
+ 755,
705
+ 756,
706
+ 757,
707
+ 758,
708
+ 759,
709
+ 760,
710
+ 761,
711
+ 762,
712
+ 763,
713
+ 764,
714
+ 765,
715
+ 766,
716
+ 767,
717
+ 768,
718
+ 769,
719
+ 770,
720
+ 771,
721
+ 772,
722
+ 773,
723
+ 774,
724
+ 775,
725
+ 776,
726
+ 777,
727
+ 778,
728
+ 779,
729
+ 780,
730
+ 781,
731
+ 782,
732
+ 783,
733
+ 784,
734
+ 785,
735
+ 786,
736
+ 787,
737
+ 788,
738
+ 789,
739
+ 790,
740
+ 791,
741
+ 792,
742
+ 793,
743
+ 794,
744
+ 795,
745
+ 796,
746
+ 798,
747
+ 799,
748
+ 800,
749
+ 801,
750
+ 802,
751
+ 803,
752
+ 804,
753
+ 805,
754
+ 807,
755
+ 808,
756
+ 809,
757
+ 810,
758
+ 811,
759
+ 812,
760
+ 813,
761
+ 814,
762
+ 815,
763
+ 816,
764
+ 817,
765
+ 818,
766
+ 819,
767
+ 820,
768
+ 821,
769
+ 822,
770
+ 823,
771
+ 824,
772
+ 825,
773
+ 826,
774
+ 827,
775
+ 828,
776
+ 829,
777
+ 830,
778
+ 831,
779
+ 833,
780
+ 835,
781
+ 836,
782
+ 837,
783
+ 839,
784
+ 840,
785
+ 841,
786
+ 842,
787
+ 843,
788
+ 844,
789
+ 845,
790
+ 846,
791
+ 847,
792
+ 848,
793
+ 849,
794
+ 850,
795
+ 851,
796
+ 852,
797
+ 853,
798
+ 854,
799
+ 855,
800
+ 856,
801
+ 858,
802
+ 859,
803
+ 860,
804
+ 862,
805
+ 863,
806
+ 864,
807
+ 865,
808
+ 866,
809
+ 867,
810
+ 868,
811
+ 869,
812
+ 870,
813
+ 871,
814
+ 872,
815
+ 873,
816
+ 874,
817
+ 875,
818
+ 876,
819
+ 877,
820
+ 880,
821
+ 881,
822
+ 882,
823
+ 883,
824
+ 884,
825
+ 885,
826
+ 886,
827
+ 887,
828
+ 888,
829
+ 889,
830
+ 890,
831
+ 891,
832
+ 893,
833
+ 894,
834
+ 895,
835
+ 896,
836
+ 897,
837
+ 898,
838
+ 900,
839
+ 902,
840
+ 903,
841
+ 904,
842
+ 905,
843
+ 906,
844
+ 907,
845
+ 908,
846
+ 909,
847
+ 913,
848
+ 914,
849
+ 915,
850
+ 916,
851
+ 917,
852
+ 918,
853
+ 919,
854
+ 920,
855
+ 921,
856
+ 922,
857
+ 923,
858
+ 924,
859
+ 925,
860
+ 926,
861
+ 927,
862
+ 928,
863
+ 929,
864
+ 930,
865
+ 931,
866
+ 932,
867
+ 933,
868
+ 934,
869
+ 935,
870
+ 936,
871
+ 937,
872
+ 938,
873
+ 939,
874
+ 940,
875
+ 941,
876
+ 942,
877
+ 943,
878
+ 944,
879
+ 945,
880
+ 946,
881
+ 947,
882
+ 948,
883
+ 949,
884
+ 950,
885
+ 951,
886
+ 952,
887
+ 953,
888
+ 954,
889
+ 955,
890
+ 956,
891
+ 958,
892
+ 959,
893
+ 960,
894
+ 961,
895
+ 962,
896
+ 963,
897
+ 964,
898
+ 966,
899
+ 967,
900
+ 968,
901
+ 969,
902
+ 970,
903
+ 971,
904
+ 972,
905
+ 973,
906
+ 974,
907
+ 975,
908
+ 976,
909
+ 977,
910
+ 978,
911
+ 979,
912
+ 980,
913
+ 981,
914
+ 983,
915
+ 984,
916
+ 985,
917
+ 986,
918
+ 987,
919
+ 988,
920
+ 989,
921
+ 990,
922
+ 992,
923
+ 993,
924
+ 994,
925
+ 995,
926
+ 996,
927
+ 997,
928
+ 998,
929
+ 999,
930
+ 1000,
931
+ 1001,
932
+ 1003,
933
+ 1004,
934
+ 1005,
935
+ 1006,
936
+ 1007,
937
+ 1008,
938
+ 1010,
939
+ 1011,
940
+ 1012,
941
+ 1013,
942
+ 1014,
943
+ 1017,
944
+ 1018,
945
+ 1019,
946
+ 1020,
947
+ 1021,
948
+ 1022,
949
+ 1023,
950
+ 1024,
951
+ 1025,
952
+ 1026,
953
+ 1027,
954
+ 1028,
955
+ 1029,
956
+ 1030,
957
+ 1033,
958
+ 1034,
959
+ 1035,
960
+ 1036,
961
+ 1037,
962
+ 1038,
963
+ 1039,
964
+ 1040,
965
+ 1042,
966
+ 1043,
967
+ 1044,
968
+ 1045,
969
+ 1046,
970
+ 1047,
971
+ 1048,
972
+ 1049,
973
+ 1050,
974
+ 1051,
975
+ 1052,
976
+ 1053,
977
+ 1054,
978
+ 1055,
979
+ 1056,
980
+ 1057,
981
+ 1058,
982
+ 1059,
983
+ 1060,
984
+ 1061,
985
+ 1062,
986
+ 1063,
987
+ 1064,
988
+ 1065,
989
+ 1066,
990
+ 1067,
991
+ 1068,
992
+ 1069,
993
+ 1070,
994
+ 1071,
995
+ 1072,
996
+ 1073,
997
+ 1074,
998
+ 1075,
999
+ 1076,
1000
+ 1077,
1001
+ 1078,
1002
+ 1079,
1003
+ 1080,
1004
+ 1081,
1005
+ 1082,
1006
+ 1083,
1007
+ 1084,
1008
+ 1085,
1009
+ 1086,
1010
+ 1087,
1011
+ 1088,
1012
+ 1090,
1013
+ 1092,
1014
+ 1093,
1015
+ 1094,
1016
+ 1095,
1017
+ 1096,
1018
+ 1097,
1019
+ 1098,
1020
+ 1099,
1021
+ 1100,
1022
+ 1101,
1023
+ 1103,
1024
+ 1104,
1025
+ 1105,
1026
+ 1106,
1027
+ 1107,
1028
+ 1108,
1029
+ 1109,
1030
+ 1110,
1031
+ 1111,
1032
+ 1112,
1033
+ 1113,
1034
+ 1114,
1035
+ 1115,
1036
+ 1116,
1037
+ 1117,
1038
+ 1118,
1039
+ 1119,
1040
+ 1120,
1041
+ 1121,
1042
+ 1122,
1043
+ 1123,
1044
+ 1124,
1045
+ 1125,
1046
+ 1126,
1047
+ 1127,
1048
+ 1128,
1049
+ 1131,
1050
+ 1132,
1051
+ 1133,
1052
+ 1134,
1053
+ 1135,
1054
+ 1136,
1055
+ 1137,
1056
+ 1138,
1057
+ 1139,
1058
+ 1140,
1059
+ 1143,
1060
+ 1144,
1061
+ 1145,
1062
+ 1146,
1063
+ 1147,
1064
+ 1148,
1065
+ 1149,
1066
+ 1150,
1067
+ 1152,
1068
+ 1153,
1069
+ 1154,
1070
+ 1156,
1071
+ 1157,
1072
+ 1158,
1073
+ 1159,
1074
+ 1160,
1075
+ 1161,
1076
+ 1162,
1077
+ 1163,
1078
+ 1164,
1079
+ 1165,
1080
+ 1166,
1081
+ 1167,
1082
+ 1168,
1083
+ 1169,
1084
+ 1170,
1085
+ 1171,
1086
+ 1172,
1087
+ 1173,
1088
+ 1174,
1089
+ 1175,
1090
+ 1176,
1091
+ 1177,
1092
+ 1178,
1093
+ 1179,
1094
+ 1180,
1095
+ 1181,
1096
+ 1183,
1097
+ 1184,
1098
+ 1185,
1099
+ 1186,
1100
+ 1187,
1101
+ 1188,
1102
+ 1189,
1103
+ 1190,
1104
+ 1191,
1105
+ 1193,
1106
+ 1194,
1107
+ 1195,
1108
+ 1196,
1109
+ 1197,
1110
+ 1199,
1111
+ 1200,
1112
+ 1201,
1113
+ 1202,
1114
+ 1203,
1115
+ 1204,
1116
+ 1205,
1117
+ 1206,
1118
+ 1207,
1119
+ 1208,
1120
+ 1209,
1121
+ 1211,
1122
+ 1212,
1123
+ 1213,
1124
+ 1214,
1125
+ 1215,
1126
+ 1216,
1127
+ 1218,
1128
+ 1219,
1129
+ 1220,
1130
+ 1221,
1131
+ 1222,
1132
+ 1224,
1133
+ 1225,
1134
+ 1226,
1135
+ 1227,
1136
+ 1228,
1137
+ 1229,
1138
+ 1230,
1139
+ 1231,
1140
+ 1232,
1141
+ 1234,
1142
+ 1235,
1143
+ 1236,
1144
+ 1237,
1145
+ 1238,
1146
+ 1239,
1147
+ 1240,
1148
+ 1241,
1149
+ 1242,
1150
+ 1243,
1151
+ 1244,
1152
+ 1245,
1153
+ 1246,
1154
+ 1247,
1155
+ 1248,
1156
+ 1249,
1157
+ 1250,
1158
+ 1252,
1159
+ 1253,
1160
+ 1254,
1161
+ 1255,
1162
+ 1257,
1163
+ 1258,
1164
+ 1260,
1165
+ 1261,
1166
+ 1262,
1167
+ 1263,
1168
+ 1264,
1169
+ 1266,
1170
+ 1267,
1171
+ 1268,
1172
+ 1269,
1173
+ 1271,
1174
+ 1272,
1175
+ 1273,
1176
+ 1274,
1177
+ 1275,
1178
+ 1276,
1179
+ 1277,
1180
+ 1278,
1181
+ 1279,
1182
+ 1280,
1183
+ 1281,
1184
+ 1282,
1185
+ 1283,
1186
+ 1284,
1187
+ 1285,
1188
+ 1286,
1189
+ 1287,
1190
+ 1288,
1191
+ 1289,
1192
+ 1291,
1193
+ 1292,
1194
+ 1293,
1195
+ 1294,
1196
+ 1295,
1197
+ 1296,
1198
+ 1298,
1199
+ 1299,
1200
+ 1300,
1201
+ 1301,
1202
+ 1302,
1203
+ 1303,
1204
+ 1304,
1205
+ 1305,
1206
+ 1306,
1207
+ 1307,
1208
+ 1308,
1209
+ 1309,
1210
+ 1310,
1211
+ 1311,
1212
+ 1312,
1213
+ 1313,
1214
+ 1314,
1215
+ 1315,
1216
+ 1316,
1217
+ 1317,
1218
+ 1318,
1219
+ 1319,
1220
+ 1320,
1221
+ 1321,
1222
+ 1322,
1223
+ 1323,
1224
+ 1324,
1225
+ 1325,
1226
+ 1326,
1227
+ 1327,
1228
+ 1328,
1229
+ 1329,
1230
+ 1330,
1231
+ 1332,
1232
+ 1333,
1233
+ 1334,
1234
+ 1335,
1235
+ 1336,
1236
+ 1337,
1237
+ 1338,
1238
+ 1339,
1239
+ 1340,
1240
+ 1341,
1241
+ 1342,
1242
+ 1344,
1243
+ 1345,
1244
+ 1346,
1245
+ 1347,
1246
+ 1348,
1247
+ 1349,
1248
+ 1350,
1249
+ 1351,
1250
+ 1352,
1251
+ 1354,
1252
+ 1355,
1253
+ 1356,
1254
+ 1357,
1255
+ 1358,
1256
+ 1359,
1257
+ 1360,
1258
+ 1361,
1259
+ 1362,
1260
+ 1363,
1261
+ 1364,
1262
+ 1365,
1263
+ 1366,
1264
+ 1367,
1265
+ 1368,
1266
+ 1369,
1267
+ 1370,
1268
+ 1371,
1269
+ 1372,
1270
+ 1373,
1271
+ 1374,
1272
+ 1375,
1273
+ 1376,
1274
+ 1377,
1275
+ 1378,
1276
+ 1379,
1277
+ 1380,
1278
+ 1381,
1279
+ 1382,
1280
+ 1383,
1281
+ 1384,
1282
+ 1385,
1283
+ 1387,
1284
+ 1388,
1285
+ 1389,
1286
+ 1391,
1287
+ 1392,
1288
+ 1394,
1289
+ 1396,
1290
+ 1397,
1291
+ 1398,
1292
+ 1399,
1293
+ 1400,
1294
+ 1401,
1295
+ 1402,
1296
+ 1404,
1297
+ 1405,
1298
+ 1406,
1299
+ 1407,
1300
+ 1408,
1301
+ 1409,
1302
+ 1410,
1303
+ 1411,
1304
+ 1412,
1305
+ 1413,
1306
+ 1414,
1307
+ 1415,
1308
+ 1416,
1309
+ 1418,
1310
+ 1419,
1311
+ 1420,
1312
+ 1421,
1313
+ 1422,
1314
+ 1423,
1315
+ 1425,
1316
+ 1426,
1317
+ 1427,
1318
+ 1429,
1319
+ 1430,
1320
+ 1431,
1321
+ 1433,
1322
+ 1434,
1323
+ 1436,
1324
+ 1437,
1325
+ 1438,
1326
+ 1439,
1327
+ 1440,
1328
+ 1441,
1329
+ 1443,
1330
+ 1445,
1331
+ 1446,
1332
+ 1447,
1333
+ 1448,
1334
+ 1449,
1335
+ 1450,
1336
+ 1451,
1337
+ 1452,
1338
+ 1453,
1339
+ 1454,
1340
+ 1455,
1341
+ 1456,
1342
+ 1458,
1343
+ 1459,
1344
+ 1460,
1345
+ 1461,
1346
+ 1462,
1347
+ 1463,
1348
+ 1464,
1349
+ 1465,
1350
+ 1466,
1351
+ 1467,
1352
+ 1468,
1353
+ 1469,
1354
+ 1470,
1355
+ 1471,
1356
+ 1472,
1357
+ 1473,
1358
+ 1474,
1359
+ 1475,
1360
+ 1476,
1361
+ 1477,
1362
+ 1478,
1363
+ 1479,
1364
+ 1480,
1365
+ 1481,
1366
+ 1482,
1367
+ 1483,
1368
+ 1484,
1369
+ 1485,
1370
+ 1486,
1371
+ 1487,
1372
+ 1488,
1373
+ 1489,
1374
+ 1490,
1375
+ 1491,
1376
+ 1492,
1377
+ 1493,
1378
+ 1494,
1379
+ 1495,
1380
+ 1496,
1381
+ 1497,
1382
+ 1498,
1383
+ 1499,
1384
+ 1500,
1385
+ 1501,
1386
+ 1502,
1387
+ 1504,
1388
+ 1505,
1389
+ 1506,
1390
+ 1507,
1391
+ 1508,
1392
+ 1509,
1393
+ 1510,
1394
+ 1511,
1395
+ 1512,
1396
+ 1513,
1397
+ 1515,
1398
+ 1516,
1399
+ 1517,
1400
+ 1518,
1401
+ 1519,
1402
+ 1520,
1403
+ 1521,
1404
+ 1522,
1405
+ 1523,
1406
+ 1524,
1407
+ 1526,
1408
+ 1527,
1409
+ 1528,
1410
+ 1529,
1411
+ 1530,
1412
+ 1531,
1413
+ 1532,
1414
+ 1533,
1415
+ 1535,
1416
+ 1536,
1417
+ 1538,
1418
+ 1539,
1419
+ 1540,
1420
+ 1541,
1421
+ 1542,
1422
+ 1543,
1423
+ 1544,
1424
+ 1545,
1425
+ 1546,
1426
+ 1547,
1427
+ 1548,
1428
+ 1549,
1429
+ 1550,
1430
+ 1551,
1431
+ 1552,
1432
+ 1553,
1433
+ 1554,
1434
+ 1555,
1435
+ 1556,
1436
+ 1557,
1437
+ 1558,
1438
+ 1559,
1439
+ 1560,
1440
+ 1561,
1441
+ 1562,
1442
+ 1563,
1443
+ 1564,
1444
+ 1565,
1445
+ 1566,
1446
+ 1567,
1447
+ 1568,
1448
+ 1569,
1449
+ 1570,
1450
+ 1571,
1451
+ 1572,
1452
+ 1573,
1453
+ 1574,
1454
+ 1575,
1455
+ 1576,
1456
+ 1577,
1457
+ 1578,
1458
+ 1579,
1459
+ 1580,
1460
+ 1581,
1461
+ 1582,
1462
+ 1583,
1463
+ 1584,
1464
+ 1585,
1465
+ 1586,
1466
+ 1587,
1467
+ 1588,
1468
+ 1589,
1469
+ 1590,
1470
+ 1591,
1471
+ 1592,
1472
+ 1593,
1473
+ 1594,
1474
+ 1595,
1475
+ 1596,
1476
+ 1597,
1477
+ 1598,
1478
+ 1599,
1479
+ 1600,
1480
+ 1601,
1481
+ 1602,
1482
+ 1603,
1483
+ 1604,
1484
+ 1605,
1485
+ 1606,
1486
+ 1607,
1487
+ 1608,
1488
+ 1609,
1489
+ 1610,
1490
+ 1611,
1491
+ 1612,
1492
+ 1613,
1493
+ 1614,
1494
+ 1615,
1495
+ 1616,
1496
+ 1617,
1497
+ 1619,
1498
+ 1620,
1499
+ 1621,
1500
+ 1622,
1501
+ 1623,
1502
+ 1624,
1503
+ 1625,
1504
+ 1626,
1505
+ 1627,
1506
+ 1628,
1507
+ 1629,
1508
+ 1630,
1509
+ 1632,
1510
+ 1634,
1511
+ 1635,
1512
+ 1636,
1513
+ 1637,
1514
+ 1638,
1515
+ 1639,
1516
+ 1640,
1517
+ 1641,
1518
+ 1642,
1519
+ 1643,
1520
+ 1644,
1521
+ 1645,
1522
+ 1646,
1523
+ 1647,
1524
+ 1648,
1525
+ 1649,
1526
+ 1650,
1527
+ 1651,
1528
+ 1652,
1529
+ 1653,
1530
+ 1655,
1531
+ 1656,
1532
+ 1658,
1533
+ 1659,
1534
+ 1660,
1535
+ 1661,
1536
+ 1662,
1537
+ 1663,
1538
+ 1664,
1539
+ 1666,
1540
+ 1667,
1541
+ 1668,
1542
+ 1669,
1543
+ 1670,
1544
+ 1671,
1545
+ 1672,
1546
+ 1673,
1547
+ 1674,
1548
+ 1675,
1549
+ 1676,
1550
+ 1677,
1551
+ 1678,
1552
+ 1679,
1553
+ 1680,
1554
+ 1681,
1555
+ 1682,
1556
+ 1683,
1557
+ 1684,
1558
+ 1685,
1559
+ 1686,
1560
+ 1687,
1561
+ 1688,
1562
+ 1689,
1563
+ 1690,
1564
+ 1691,
1565
+ 1693,
1566
+ 1694,
1567
+ 1695,
1568
+ 1696,
1569
+ 1697,
1570
+ 1698,
1571
+ 1699,
1572
+ 1700,
1573
+ 1701,
1574
+ 1702,
1575
+ 1703,
1576
+ 1704,
1577
+ 1705,
1578
+ 1706,
1579
+ 1707,
1580
+ 1708,
1581
+ 1709,
1582
+ 1710,
1583
+ 1711,
1584
+ 1712,
1585
+ 1713,
1586
+ 1714,
1587
+ 1715,
1588
+ 1716,
1589
+ 1717,
1590
+ 1718,
1591
+ 1719,
1592
+ 1720,
1593
+ 1721,
1594
+ 1722,
1595
+ 1723,
1596
+ 1724,
1597
+ 1725,
1598
+ 1726,
1599
+ 1727,
1600
+ 1728,
1601
+ 1729,
1602
+ 1730,
1603
+ 1731,
1604
+ 1732,
1605
+ 1733,
1606
+ 1734,
1607
+ 1735,
1608
+ 1736,
1609
+ 1737,
1610
+ 1738,
1611
+ 1739,
1612
+ 1740,
1613
+ 1742,
1614
+ 1743,
1615
+ 1744,
1616
+ 1746,
1617
+ 1747,
1618
+ 1748,
1619
+ 1749,
1620
+ 1750,
1621
+ 1751,
1622
+ 1752,
1623
+ 1753,
1624
+ 1754,
1625
+ 1755,
1626
+ 1756,
1627
+ 1757,
1628
+ 1758,
1629
+ 1759,
1630
+ 1760,
1631
+ 1761,
1632
+ 1762,
1633
+ 1763,
1634
+ 1764,
1635
+ 1765,
1636
+ 1766,
1637
+ 1767,
1638
+ 1769,
1639
+ 1770,
1640
+ 1771,
1641
+ 1772,
1642
+ 1773,
1643
+ 1774,
1644
+ 1775,
1645
+ 1776,
1646
+ 1777,
1647
+ 1778,
1648
+ 1779,
1649
+ 1780,
1650
+ 1781,
1651
+ 1782,
1652
+ 1783,
1653
+ 1784,
1654
+ 1785,
1655
+ 1786,
1656
+ 1787,
1657
+ 1788,
1658
+ 1789,
1659
+ 1790,
1660
+ 1791,
1661
+ 1792,
1662
+ 1793,
1663
+ 1794,
1664
+ 1795,
1665
+ 1796,
1666
+ 1797,
1667
+ 1798,
1668
+ 1799,
1669
+ 1800,
1670
+ 1801,
1671
+ 1802,
1672
+ 1803,
1673
+ 1804,
1674
+ 1805,
1675
+ 1806,
1676
+ 1807,
1677
+ 1808,
1678
+ 1809,
1679
+ 1810,
1680
+ 1811,
1681
+ 1812,
1682
+ 1813,
1683
+ 1814,
1684
+ 1815,
1685
+ 1817,
1686
+ 1818,
1687
+ 1819,
1688
+ 1820,
1689
+ 1821,
1690
+ 1822,
1691
+ 1823,
1692
+ 1824,
1693
+ 1825,
1694
+ 1826,
1695
+ 1827,
1696
+ 1828,
1697
+ 1829,
1698
+ 1830,
1699
+ 1831,
1700
+ 1832,
1701
+ 1833,
1702
+ 1834,
1703
+ 1835,
1704
+ 1836,
1705
+ 1837,
1706
+ 1838,
1707
+ 1839,
1708
+ 1840,
1709
+ 1841,
1710
+ 1842,
1711
+ 1843,
1712
+ 1844,
1713
+ 1845,
1714
+ 1846,
1715
+ 1847,
1716
+ 1848,
1717
+ 1849,
1718
+ 1850,
1719
+ 1851,
1720
+ 1852,
1721
+ 1853,
1722
+ 1854,
1723
+ 1855,
1724
+ 1856,
1725
+ 1857,
1726
+ 1858,
1727
+ 1859,
1728
+ 1860,
1729
+ 1861,
1730
+ 1862,
1731
+ 1863,
1732
+ 1864,
1733
+ 1866,
1734
+ 1867,
1735
+ 1868,
1736
+ 1870,
1737
+ 1871,
1738
+ 1872,
1739
+ 1873,
1740
+ 1874,
1741
+ 1875,
1742
+ 1876,
1743
+ 1877,
1744
+ 1879,
1745
+ 1880,
1746
+ 1881,
1747
+ 1883,
1748
+ 1884,
1749
+ 1885,
1750
+ 1886,
1751
+ 1887,
1752
+ 1888,
1753
+ 1890,
1754
+ 1891,
1755
+ 1892,
1756
+ 1893,
1757
+ 1894,
1758
+ 1895,
1759
+ 1896,
1760
+ 1897,
1761
+ 1898,
1762
+ 1900,
1763
+ 1901,
1764
+ 1902,
1765
+ 1903,
1766
+ 1906,
1767
+ 1907,
1768
+ 1908,
1769
+ 1909,
1770
+ 1910,
1771
+ 1912,
1772
+ 1913,
1773
+ 1914,
1774
+ 1915,
1775
+ 1916,
1776
+ 1917,
1777
+ 1918,
1778
+ 1919,
1779
+ 1920,
1780
+ 1921,
1781
+ 1922,
1782
+ 1923,
1783
+ 1924,
1784
+ 1925,
1785
+ 1926,
1786
+ 1927,
1787
+ 1928,
1788
+ 1929,
1789
+ 1930,
1790
+ 1931,
1791
+ 1932,
1792
+ 1933,
1793
+ 1934,
1794
+ 1935,
1795
+ 1936,
1796
+ 1937,
1797
+ 1938,
1798
+ 1939,
1799
+ 1940,
1800
+ 1941,
1801
+ 1942,
1802
+ 1943,
1803
+ 1944,
1804
+ 1945,
1805
+ 1946,
1806
+ 1948,
1807
+ 1949,
1808
+ 1950,
1809
+ 1951,
1810
+ 1952,
1811
+ 1953,
1812
+ 1955,
1813
+ 1956,
1814
+ 1957,
1815
+ 1959,
1816
+ 1960,
1817
+ 1961,
1818
+ 1962,
1819
+ 1963,
1820
+ 1964,
1821
+ 1965,
1822
+ 1966,
1823
+ 1967,
1824
+ 1968,
1825
+ 1970,
1826
+ 1971,
1827
+ 1972,
1828
+ 1973,
1829
+ 1974,
1830
+ 1975,
1831
+ 1976,
1832
+ 1978,
1833
+ 1980,
1834
+ 1981,
1835
+ 1982,
1836
+ 1983,
1837
+ 1984,
1838
+ 1985,
1839
+ 1986,
1840
+ 1987,
1841
+ 1988,
1842
+ 1989,
1843
+ 1990,
1844
+ 1992,
1845
+ 1993,
1846
+ 1994,
1847
+ 1995,
1848
+ 1996,
1849
+ 1997,
1850
+ 1998,
1851
+ 1999
1852
+ ],
1853
+ "not_both_correct_indices": [
1854
+ 2,
1855
+ 5,
1856
+ 32,
1857
+ 48,
1858
+ 55,
1859
+ 60,
1860
+ 68,
1861
+ 75,
1862
+ 85,
1863
+ 115,
1864
+ 120,
1865
+ 123,
1866
+ 141,
1867
+ 147,
1868
+ 152,
1869
+ 162,
1870
+ 176,
1871
+ 207,
1872
+ 211,
1873
+ 231,
1874
+ 250,
1875
+ 267,
1876
+ 276,
1877
+ 284,
1878
+ 290,
1879
+ 301,
1880
+ 307,
1881
+ 309,
1882
+ 319,
1883
+ 320,
1884
+ 329,
1885
+ 342,
1886
+ 345,
1887
+ 351,
1888
+ 352,
1889
+ 381,
1890
+ 389,
1891
+ 398,
1892
+ 411,
1893
+ 414,
1894
+ 427,
1895
+ 447,
1896
+ 460,
1897
+ 479,
1898
+ 493,
1899
+ 502,
1900
+ 528,
1901
+ 546,
1902
+ 554,
1903
+ 555,
1904
+ 573,
1905
+ 574,
1906
+ 576,
1907
+ 577,
1908
+ 610,
1909
+ 636,
1910
+ 658,
1911
+ 663,
1912
+ 689,
1913
+ 708,
1914
+ 710,
1915
+ 723,
1916
+ 797,
1917
+ 806,
1918
+ 832,
1919
+ 834,
1920
+ 838,
1921
+ 857,
1922
+ 861,
1923
+ 878,
1924
+ 879,
1925
+ 892,
1926
+ 899,
1927
+ 901,
1928
+ 910,
1929
+ 911,
1930
+ 912,
1931
+ 957,
1932
+ 965,
1933
+ 982,
1934
+ 991,
1935
+ 1002,
1936
+ 1009,
1937
+ 1015,
1938
+ 1016,
1939
+ 1031,
1940
+ 1032,
1941
+ 1041,
1942
+ 1089,
1943
+ 1091,
1944
+ 1102,
1945
+ 1129,
1946
+ 1130,
1947
+ 1141,
1948
+ 1142,
1949
+ 1151,
1950
+ 1155,
1951
+ 1182,
1952
+ 1192,
1953
+ 1198,
1954
+ 1210,
1955
+ 1217,
1956
+ 1223,
1957
+ 1233,
1958
+ 1251,
1959
+ 1256,
1960
+ 1259,
1961
+ 1265,
1962
+ 1270,
1963
+ 1290,
1964
+ 1297,
1965
+ 1331,
1966
+ 1343,
1967
+ 1353,
1968
+ 1386,
1969
+ 1390,
1970
+ 1393,
1971
+ 1395,
1972
+ 1403,
1973
+ 1417,
1974
+ 1424,
1975
+ 1428,
1976
+ 1432,
1977
+ 1435,
1978
+ 1442,
1979
+ 1444,
1980
+ 1457,
1981
+ 1503,
1982
+ 1514,
1983
+ 1525,
1984
+ 1534,
1985
+ 1537,
1986
+ 1618,
1987
+ 1631,
1988
+ 1633,
1989
+ 1654,
1990
+ 1657,
1991
+ 1665,
1992
+ 1692,
1993
+ 1741,
1994
+ 1745,
1995
+ 1768,
1996
+ 1816,
1997
+ 1865,
1998
+ 1869,
1999
+ 1878,
2000
+ 1882,
2001
+ 1889,
2002
+ 1899,
2003
+ 1904,
2004
+ 1905,
2005
+ 1911,
2006
+ 1947,
2007
+ 1954,
2008
+ 1958,
2009
+ 1969,
2010
+ 1977,
2011
+ 1979,
2012
+ 1991
2013
+ ],
2014
+ "clean_baseline": 5.52734375,
2015
+ "corrupted_baseline": -5.53125
2016
+ }
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_moral/neuron_attribution.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:b1628423b2c9336416a936eebcd5c6a9624e95d849652cce5b1a7ff00117cf1d
3
+ size 10487414
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/norm_moral/sorted_indices_positive.npy ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:49d006f17acdeec85a070a301b2b8b7fee4c241fdb49479c79e5d397831a0781
3
+ size 5264008
results/mistralai_Mistral-Small-24B-Instruct-2501/ToM/primary_emotions/attribution_meta.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_units": 1310720, "num_layers": 40, "num_units": 32768}