iclr-mol commited on
Commit
159171b
·
verified ·
1 Parent(s): 87e72fd

Exp 093: FineWeb-Edu 80M controls (best checkpoints + results)

Browse files
093_fineweb_80m_controls/moe_ffn_top2_s256_best.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:1050f4c57815652c4141428bc73373f81eee2610854739f481c4b639f7e2397c
3
+ size 869485512
093_fineweb_80m_controls/moe_ffn_top2_s256_results.json ADDED
@@ -0,0 +1,2505 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "label": "moe_ffn_top2_s256",
3
+ "condition": "moe_ffn_top2",
4
+ "total_params": 217361408,
5
+ "steps": [
6
+ 50,
7
+ 100,
8
+ 150,
9
+ 200,
10
+ 250,
11
+ 300,
12
+ 350,
13
+ 400,
14
+ 450,
15
+ 500,
16
+ 550,
17
+ 600,
18
+ 650,
19
+ 700,
20
+ 750,
21
+ 800,
22
+ 850,
23
+ 900,
24
+ 950,
25
+ 1000,
26
+ 1050,
27
+ 1100,
28
+ 1150,
29
+ 1200,
30
+ 1250,
31
+ 1300,
32
+ 1350,
33
+ 1400,
34
+ 1450,
35
+ 1500,
36
+ 1550,
37
+ 1600,
38
+ 1650,
39
+ 1700,
40
+ 1750,
41
+ 1800,
42
+ 1850,
43
+ 1900,
44
+ 1950,
45
+ 2000,
46
+ 2050,
47
+ 2100,
48
+ 2150,
49
+ 2200,
50
+ 2250,
51
+ 2300,
52
+ 2350,
53
+ 2400,
54
+ 2450,
55
+ 2500,
56
+ 2550,
57
+ 2600,
58
+ 2650,
59
+ 2700,
60
+ 2750,
61
+ 2800,
62
+ 2850,
63
+ 2900,
64
+ 2950,
65
+ 3000,
66
+ 3050,
67
+ 3100,
68
+ 3150,
69
+ 3200,
70
+ 3250,
71
+ 3300,
72
+ 3350,
73
+ 3400,
74
+ 3450,
75
+ 3500,
76
+ 3550,
77
+ 3600,
78
+ 3650,
79
+ 3700,
80
+ 3750,
81
+ 3800,
82
+ 3850,
83
+ 3900,
84
+ 3950,
85
+ 4000,
86
+ 4050,
87
+ 4100,
88
+ 4150,
89
+ 4200,
90
+ 4250,
91
+ 4300,
92
+ 4350,
93
+ 4400,
94
+ 4450,
95
+ 4500,
96
+ 4550,
97
+ 4600,
98
+ 4650,
99
+ 4700,
100
+ 4750,
101
+ 4800,
102
+ 4850,
103
+ 4900,
104
+ 4950,
105
+ 5000,
106
+ 5050,
107
+ 5100,
108
+ 5150,
109
+ 5200,
110
+ 5250,
111
+ 5300,
112
+ 5350,
113
+ 5400,
114
+ 5450,
115
+ 5500,
116
+ 5550,
117
+ 5600,
118
+ 5650,
119
+ 5700,
120
+ 5750,
121
+ 5800,
122
+ 5850,
123
+ 5900,
124
+ 5950,
125
+ 6000,
126
+ 6050,
127
+ 6100,
128
+ 6150,
129
+ 6200,
130
+ 6250,
131
+ 6300,
132
+ 6350,
133
+ 6400,
134
+ 6450,
135
+ 6500,
136
+ 6550,
137
+ 6600,
138
+ 6650,
139
+ 6700,
140
+ 6750,
141
+ 6800,
142
+ 6850,
143
+ 6900,
144
+ 6950,
145
+ 7000,
146
+ 7050,
147
+ 7100,
148
+ 7150,
149
+ 7200,
150
+ 7250,
151
+ 7300,
152
+ 7350,
153
+ 7400,
154
+ 7450,
155
+ 7500,
156
+ 7550,
157
+ 7600,
158
+ 7650,
159
+ 7700,
160
+ 7750,
161
+ 7800,
162
+ 7850,
163
+ 7900,
164
+ 7950,
165
+ 8000,
166
+ 8050,
167
+ 8100,
168
+ 8150,
169
+ 8200,
170
+ 8250,
171
+ 8300,
172
+ 8350,
173
+ 8400,
174
+ 8450,
175
+ 8500,
176
+ 8550,
177
+ 8600,
178
+ 8650,
179
+ 8700,
180
+ 8750,
181
+ 8800,
182
+ 8850,
183
+ 8900,
184
+ 8950,
185
+ 9000,
186
+ 9050,
187
+ 9100,
188
+ 9150,
189
+ 9200,
190
+ 9250,
191
+ 9300,
192
+ 9350,
193
+ 9400,
194
+ 9450,
195
+ 9500,
196
+ 9550,
197
+ 9600,
198
+ 9650,
199
+ 9700,
200
+ 9750,
201
+ 9800,
202
+ 9850,
203
+ 9900,
204
+ 9950,
205
+ 10000,
206
+ 10050,
207
+ 10100,
208
+ 10150,
209
+ 10200,
210
+ 10250,
211
+ 10300,
212
+ 10350,
213
+ 10400,
214
+ 10450,
215
+ 10500,
216
+ 10550,
217
+ 10600,
218
+ 10650,
219
+ 10700,
220
+ 10750,
221
+ 10800,
222
+ 10850,
223
+ 10900,
224
+ 10950,
225
+ 11000,
226
+ 11050,
227
+ 11100,
228
+ 11150,
229
+ 11200,
230
+ 11250,
231
+ 11300,
232
+ 11350,
233
+ 11400,
234
+ 11450,
235
+ 11500,
236
+ 11550,
237
+ 11600,
238
+ 11650,
239
+ 11700,
240
+ 11750,
241
+ 11800,
242
+ 11850,
243
+ 11900,
244
+ 11950,
245
+ 12000,
246
+ 12050,
247
+ 12100,
248
+ 12150,
249
+ 12200,
250
+ 12250,
251
+ 12300,
252
+ 12350,
253
+ 12400,
254
+ 12450,
255
+ 12500,
256
+ 12550,
257
+ 12600,
258
+ 12650,
259
+ 12700,
260
+ 12750,
261
+ 12800,
262
+ 12850,
263
+ 12900,
264
+ 12950,
265
+ 13000,
266
+ 13050,
267
+ 13100,
268
+ 13150,
269
+ 13200,
270
+ 13250,
271
+ 13300,
272
+ 13350,
273
+ 13400,
274
+ 13450,
275
+ 13500,
276
+ 13550,
277
+ 13600,
278
+ 13650,
279
+ 13700,
280
+ 13750,
281
+ 13800,
282
+ 13850,
283
+ 13900,
284
+ 13950,
285
+ 14000,
286
+ 14050,
287
+ 14100,
288
+ 14150,
289
+ 14200,
290
+ 14250,
291
+ 14300,
292
+ 14350,
293
+ 14400,
294
+ 14450,
295
+ 14500,
296
+ 14550,
297
+ 14600,
298
+ 14650,
299
+ 14700,
300
+ 14750,
301
+ 14800,
302
+ 14850,
303
+ 14900,
304
+ 14950,
305
+ 15000,
306
+ 15050,
307
+ 15100,
308
+ 15150,
309
+ 15200,
310
+ 15250,
311
+ 15300,
312
+ 15350,
313
+ 15400,
314
+ 15450,
315
+ 15500,
316
+ 15550,
317
+ 15600,
318
+ 15650,
319
+ 15700,
320
+ 15750,
321
+ 15800,
322
+ 15850,
323
+ 15900,
324
+ 15950,
325
+ 16000,
326
+ 16050,
327
+ 16100,
328
+ 16150,
329
+ 16200,
330
+ 16250,
331
+ 16300,
332
+ 16350,
333
+ 16400,
334
+ 16450,
335
+ 16500,
336
+ 16550,
337
+ 16600,
338
+ 16650,
339
+ 16700,
340
+ 16750,
341
+ 16800,
342
+ 16850,
343
+ 16900,
344
+ 16950,
345
+ 17000,
346
+ 17050,
347
+ 17100,
348
+ 17150,
349
+ 17200,
350
+ 17250,
351
+ 17300,
352
+ 17350,
353
+ 17400,
354
+ 17450,
355
+ 17500,
356
+ 17550,
357
+ 17600,
358
+ 17650,
359
+ 17700,
360
+ 17750,
361
+ 17800,
362
+ 17850,
363
+ 17900,
364
+ 17950,
365
+ 18000,
366
+ 18050,
367
+ 18100,
368
+ 18150,
369
+ 18200,
370
+ 18250,
371
+ 18300,
372
+ 18350,
373
+ 18400,
374
+ 18450,
375
+ 18500,
376
+ 18550,
377
+ 18600,
378
+ 18650,
379
+ 18700,
380
+ 18750,
381
+ 18800,
382
+ 18850,
383
+ 18900,
384
+ 18950,
385
+ 19000,
386
+ 19050,
387
+ 19100,
388
+ 19150,
389
+ 19200,
390
+ 19250,
391
+ 19300,
392
+ 19350,
393
+ 19400,
394
+ 19450,
395
+ 19500,
396
+ 19550,
397
+ 19600,
398
+ 19650,
399
+ 19700,
400
+ 19750,
401
+ 19800,
402
+ 19850,
403
+ 19900,
404
+ 19950,
405
+ 20000,
406
+ 20050,
407
+ 20100,
408
+ 20150,
409
+ 20200,
410
+ 20250,
411
+ 20300,
412
+ 20350,
413
+ 20400,
414
+ 20450,
415
+ 20500,
416
+ 20550,
417
+ 20600,
418
+ 20650,
419
+ 20700,
420
+ 20750,
421
+ 20800,
422
+ 20850,
423
+ 20900,
424
+ 20950,
425
+ 21000,
426
+ 21050,
427
+ 21100,
428
+ 21150,
429
+ 21200,
430
+ 21250,
431
+ 21300,
432
+ 21350,
433
+ 21400,
434
+ 21450,
435
+ 21500,
436
+ 21550,
437
+ 21600,
438
+ 21650,
439
+ 21700,
440
+ 21750,
441
+ 21800,
442
+ 21850,
443
+ 21900,
444
+ 21950,
445
+ 22000,
446
+ 22050,
447
+ 22100,
448
+ 22150,
449
+ 22200,
450
+ 22250,
451
+ 22300,
452
+ 22350,
453
+ 22400,
454
+ 22450,
455
+ 22500,
456
+ 22550,
457
+ 22600,
458
+ 22650,
459
+ 22700,
460
+ 22750,
461
+ 22800,
462
+ 22850,
463
+ 22900,
464
+ 22950,
465
+ 23000,
466
+ 23050,
467
+ 23100,
468
+ 23150,
469
+ 23200,
470
+ 23250,
471
+ 23300,
472
+ 23350,
473
+ 23400,
474
+ 23450,
475
+ 23500,
476
+ 23550,
477
+ 23600,
478
+ 23650,
479
+ 23700,
480
+ 23750,
481
+ 23800,
482
+ 23850,
483
+ 23900,
484
+ 23950,
485
+ 24000,
486
+ 24050,
487
+ 24100,
488
+ 24150,
489
+ 24200,
490
+ 24250,
491
+ 24300,
492
+ 24350,
493
+ 24400,
494
+ 24450,
495
+ 24500,
496
+ 24550,
497
+ 24600,
498
+ 24650,
499
+ 24700,
500
+ 24750,
501
+ 24800,
502
+ 24850,
503
+ 24900,
504
+ 24950,
505
+ 25000,
506
+ 25050,
507
+ 25100,
508
+ 25150,
509
+ 25200,
510
+ 25250,
511
+ 25300,
512
+ 25350,
513
+ 25400,
514
+ 25450,
515
+ 25500,
516
+ 25550,
517
+ 25600,
518
+ 25650,
519
+ 25700,
520
+ 25750,
521
+ 25800,
522
+ 25850,
523
+ 25900,
524
+ 25950,
525
+ 26000,
526
+ 26050,
527
+ 26100,
528
+ 26150,
529
+ 26200,
530
+ 26250,
531
+ 26300,
532
+ 26350,
533
+ 26400,
534
+ 26450,
535
+ 26500,
536
+ 26550,
537
+ 26600,
538
+ 26650,
539
+ 26700,
540
+ 26750,
541
+ 26800,
542
+ 26850,
543
+ 26900,
544
+ 26950,
545
+ 27000,
546
+ 27050,
547
+ 27100,
548
+ 27150,
549
+ 27200,
550
+ 27250,
551
+ 27300,
552
+ 27350,
553
+ 27400,
554
+ 27450,
555
+ 27500,
556
+ 27550,
557
+ 27600,
558
+ 27650,
559
+ 27700,
560
+ 27750,
561
+ 27800,
562
+ 27850,
563
+ 27900,
564
+ 27950,
565
+ 28000,
566
+ 28050,
567
+ 28100,
568
+ 28150,
569
+ 28200,
570
+ 28250,
571
+ 28300,
572
+ 28350,
573
+ 28400,
574
+ 28450,
575
+ 28500,
576
+ 28550,
577
+ 28600,
578
+ 28650,
579
+ 28700,
580
+ 28750,
581
+ 28800,
582
+ 28850,
583
+ 28900,
584
+ 28950,
585
+ 29000,
586
+ 29050,
587
+ 29100,
588
+ 29150,
589
+ 29200,
590
+ 29250,
591
+ 29300,
592
+ 29350,
593
+ 29400,
594
+ 29450,
595
+ 29500,
596
+ 29550,
597
+ 29600,
598
+ 29650,
599
+ 29700,
600
+ 29750,
601
+ 29800,
602
+ 29850,
603
+ 29900,
604
+ 29950,
605
+ 30000,
606
+ 30050,
607
+ 30100,
608
+ 30150,
609
+ 30200,
610
+ 30250,
611
+ 30300,
612
+ 30350,
613
+ 30400,
614
+ 30450,
615
+ 30500,
616
+ 30550,
617
+ 30600,
618
+ 30650,
619
+ 30700,
620
+ 30750,
621
+ 30800,
622
+ 30850,
623
+ 30900,
624
+ 30950,
625
+ 31000,
626
+ 31050,
627
+ 31100,
628
+ 31150,
629
+ 31200,
630
+ 31250,
631
+ 31300,
632
+ 31350,
633
+ 31400,
634
+ 31450,
635
+ 31500,
636
+ 31550,
637
+ 31600,
638
+ 31650,
639
+ 31700,
640
+ 31750,
641
+ 31800,
642
+ 31850,
643
+ 31900,
644
+ 31950,
645
+ 32000,
646
+ 32050,
647
+ 32100,
648
+ 32150,
649
+ 32200,
650
+ 32250,
651
+ 32300,
652
+ 32350,
653
+ 32400,
654
+ 32450,
655
+ 32500,
656
+ 32550,
657
+ 32600,
658
+ 32650,
659
+ 32700,
660
+ 32750,
661
+ 32800,
662
+ 32850,
663
+ 32900,
664
+ 32950,
665
+ 33000,
666
+ 33050,
667
+ 33100,
668
+ 33150,
669
+ 33200,
670
+ 33250,
671
+ 33300,
672
+ 33350,
673
+ 33400,
674
+ 33450,
675
+ 33500,
676
+ 33550,
677
+ 33600,
678
+ 33650,
679
+ 33700,
680
+ 33750,
681
+ 33800,
682
+ 33850,
683
+ 33900,
684
+ 33950,
685
+ 34000,
686
+ 34050,
687
+ 34100,
688
+ 34150,
689
+ 34200,
690
+ 34250,
691
+ 34300,
692
+ 34350,
693
+ 34400,
694
+ 34450,
695
+ 34500,
696
+ 34550,
697
+ 34600,
698
+ 34650,
699
+ 34700,
700
+ 34750,
701
+ 34800,
702
+ 34850,
703
+ 34900,
704
+ 34950,
705
+ 35000,
706
+ 35050,
707
+ 35100,
708
+ 35150,
709
+ 35200,
710
+ 35250,
711
+ 35300,
712
+ 35350,
713
+ 35400,
714
+ 35450,
715
+ 35500,
716
+ 35550,
717
+ 35600,
718
+ 35650,
719
+ 35700,
720
+ 35750,
721
+ 35800,
722
+ 35850,
723
+ 35900,
724
+ 35950,
725
+ 36000,
726
+ 36050,
727
+ 36100,
728
+ 36150,
729
+ 36200,
730
+ 36250,
731
+ 36300,
732
+ 36350,
733
+ 36400,
734
+ 36450,
735
+ 36500,
736
+ 36550,
737
+ 36600,
738
+ 36650,
739
+ 36700,
740
+ 36750,
741
+ 36800,
742
+ 36850,
743
+ 36900,
744
+ 36950,
745
+ 37000,
746
+ 37050,
747
+ 37100,
748
+ 37150,
749
+ 37200,
750
+ 37250,
751
+ 37300,
752
+ 37350,
753
+ 37400,
754
+ 37450,
755
+ 37500,
756
+ 37550,
757
+ 37600,
758
+ 37650,
759
+ 37700,
760
+ 37750,
761
+ 37800,
762
+ 37850,
763
+ 37900,
764
+ 37950,
765
+ 38000,
766
+ 38050,
767
+ 38100,
768
+ 38150,
769
+ 38200,
770
+ 38250,
771
+ 38300,
772
+ 38350,
773
+ 38400,
774
+ 38450,
775
+ 38500,
776
+ 38550,
777
+ 38600,
778
+ 38650,
779
+ 38700,
780
+ 38750,
781
+ 38800,
782
+ 38850,
783
+ 38900,
784
+ 38950,
785
+ 39000,
786
+ 39050,
787
+ 39100,
788
+ 39150,
789
+ 39200,
790
+ 39250,
791
+ 39300,
792
+ 39350,
793
+ 39400,
794
+ 39450,
795
+ 39500,
796
+ 39550,
797
+ 39600,
798
+ 39650,
799
+ 39700,
800
+ 39750,
801
+ 39800,
802
+ 39850,
803
+ 39900,
804
+ 39950,
805
+ 40000,
806
+ 40050,
807
+ 40100,
808
+ 40150,
809
+ 40200,
810
+ 40250,
811
+ 40300,
812
+ 40350,
813
+ 40400,
814
+ 40450,
815
+ 40500,
816
+ 40550,
817
+ 40600,
818
+ 40650,
819
+ 40700,
820
+ 40750,
821
+ 40800,
822
+ 40850,
823
+ 40900,
824
+ 40950,
825
+ 41000,
826
+ 41050,
827
+ 41100,
828
+ 41150,
829
+ 41200,
830
+ 41250,
831
+ 41300,
832
+ 41350,
833
+ 41400,
834
+ 41450,
835
+ 41500,
836
+ 41550,
837
+ 41600,
838
+ 41650,
839
+ 41700,
840
+ 41750,
841
+ 41800,
842
+ 41850,
843
+ 41900,
844
+ 41950,
845
+ 42000,
846
+ 42050,
847
+ 42100,
848
+ 42150,
849
+ 42200,
850
+ 42250,
851
+ 42300,
852
+ 42350,
853
+ 42400,
854
+ 42450,
855
+ 42500,
856
+ 42550,
857
+ 42600,
858
+ 42650,
859
+ 42700,
860
+ 42750,
861
+ 42800,
862
+ 42850,
863
+ 42900,
864
+ 42950,
865
+ 43000,
866
+ 43050,
867
+ 43100,
868
+ 43150,
869
+ 43200,
870
+ 43250,
871
+ 43300,
872
+ 43350,
873
+ 43400,
874
+ 43450,
875
+ 43500,
876
+ 43550,
877
+ 43600,
878
+ 43650,
879
+ 43700,
880
+ 43750,
881
+ 43800,
882
+ 43850,
883
+ 43900,
884
+ 43950,
885
+ 44000,
886
+ 44050,
887
+ 44100,
888
+ 44150,
889
+ 44200,
890
+ 44250,
891
+ 44300,
892
+ 44350,
893
+ 44400,
894
+ 44450,
895
+ 44500,
896
+ 44550,
897
+ 44600,
898
+ 44650,
899
+ 44700,
900
+ 44750,
901
+ 44800,
902
+ 44850,
903
+ 44900,
904
+ 44950,
905
+ 45000,
906
+ 45050,
907
+ 45100,
908
+ 45150,
909
+ 45200,
910
+ 45250,
911
+ 45300,
912
+ 45350,
913
+ 45400,
914
+ 45450,
915
+ 45500,
916
+ 45550,
917
+ 45600,
918
+ 45650,
919
+ 45700,
920
+ 45750,
921
+ 45800,
922
+ 45850,
923
+ 45900,
924
+ 45950,
925
+ 46000,
926
+ 46050,
927
+ 46100,
928
+ 46150,
929
+ 46200,
930
+ 46250,
931
+ 46300,
932
+ 46350,
933
+ 46400,
934
+ 46450,
935
+ 46500,
936
+ 46550,
937
+ 46600,
938
+ 46650,
939
+ 46700,
940
+ 46750,
941
+ 46800,
942
+ 46850,
943
+ 46900,
944
+ 46950,
945
+ 47000,
946
+ 47050,
947
+ 47100,
948
+ 47150,
949
+ 47200,
950
+ 47250,
951
+ 47300,
952
+ 47350,
953
+ 47400,
954
+ 47450,
955
+ 47500,
956
+ 47550,
957
+ 47600,
958
+ 47650,
959
+ 47700,
960
+ 47750,
961
+ 47800,
962
+ 47850,
963
+ 47900,
964
+ 47950,
965
+ 48000,
966
+ 48050,
967
+ 48100,
968
+ 48150,
969
+ 48200,
970
+ 48250,
971
+ 48300,
972
+ 48350,
973
+ 48400,
974
+ 48450,
975
+ 48500,
976
+ 48550,
977
+ 48600,
978
+ 48650,
979
+ 48700,
980
+ 48750,
981
+ 48800,
982
+ 48850,
983
+ 48900,
984
+ 48950,
985
+ 49000,
986
+ 49050,
987
+ 49100,
988
+ 49150,
989
+ 49200,
990
+ 49250,
991
+ 49300,
992
+ 49350,
993
+ 49400,
994
+ 49450,
995
+ 49500,
996
+ 49550,
997
+ 49600,
998
+ 49650,
999
+ 49700,
1000
+ 49750,
1001
+ 49800,
1002
+ 49850,
1003
+ 49900,
1004
+ 49950,
1005
+ 50000,
1006
+ 50050,
1007
+ 50100,
1008
+ 50150,
1009
+ 50200,
1010
+ 50250,
1011
+ 50300,
1012
+ 50350,
1013
+ 50400,
1014
+ 50450,
1015
+ 50500,
1016
+ 50550,
1017
+ 50600,
1018
+ 50650,
1019
+ 50700,
1020
+ 50750,
1021
+ 50800,
1022
+ 50850,
1023
+ 50900,
1024
+ 50950,
1025
+ 51000,
1026
+ 51050,
1027
+ 51100,
1028
+ 51150,
1029
+ 51200,
1030
+ 51250,
1031
+ 51300,
1032
+ 51350,
1033
+ 51400,
1034
+ 51450,
1035
+ 51500,
1036
+ 51550,
1037
+ 51600,
1038
+ 51650,
1039
+ 51700,
1040
+ 51750,
1041
+ 51800,
1042
+ 51850,
1043
+ 51900,
1044
+ 51950,
1045
+ 52000,
1046
+ 52050,
1047
+ 52100,
1048
+ 52150,
1049
+ 52200,
1050
+ 52250,
1051
+ 52300,
1052
+ 52350,
1053
+ 52400,
1054
+ 52450,
1055
+ 52500,
1056
+ 52550,
1057
+ 52600,
1058
+ 52650,
1059
+ 52700,
1060
+ 52750,
1061
+ 52800,
1062
+ 52850,
1063
+ 52900,
1064
+ 52950,
1065
+ 53000,
1066
+ 53050,
1067
+ 53100,
1068
+ 53150,
1069
+ 53200,
1070
+ 53250,
1071
+ 53300,
1072
+ 53350,
1073
+ 53400,
1074
+ 53450,
1075
+ 53500,
1076
+ 53550,
1077
+ 53600,
1078
+ 53650,
1079
+ 53700,
1080
+ 53750,
1081
+ 53800,
1082
+ 53850,
1083
+ 53900,
1084
+ 53950,
1085
+ 54000,
1086
+ 54050,
1087
+ 54100,
1088
+ 54150,
1089
+ 54200,
1090
+ 54250,
1091
+ 54300,
1092
+ 54350,
1093
+ 54400,
1094
+ 54450,
1095
+ 54500,
1096
+ 54550,
1097
+ 54600,
1098
+ 54650,
1099
+ 54700,
1100
+ 54750,
1101
+ 54800,
1102
+ 54850,
1103
+ 54900,
1104
+ 54950,
1105
+ 55000,
1106
+ 55050,
1107
+ 55100,
1108
+ 55150,
1109
+ 55200,
1110
+ 55250,
1111
+ 55300,
1112
+ 55350,
1113
+ 55400,
1114
+ 55450,
1115
+ 55500,
1116
+ 55550,
1117
+ 55600,
1118
+ 55650,
1119
+ 55700,
1120
+ 55750,
1121
+ 55800,
1122
+ 55850,
1123
+ 55900,
1124
+ 55950,
1125
+ 56000,
1126
+ 56050,
1127
+ 56100,
1128
+ 56150,
1129
+ 56200,
1130
+ 56250,
1131
+ 56300,
1132
+ 56350,
1133
+ 56400,
1134
+ 56450,
1135
+ 56500,
1136
+ 56550,
1137
+ 56600,
1138
+ 56650,
1139
+ 56700,
1140
+ 56750,
1141
+ 56800,
1142
+ 56850,
1143
+ 56900,
1144
+ 56950,
1145
+ 57000,
1146
+ 57050,
1147
+ 57100,
1148
+ 57150,
1149
+ 57200,
1150
+ 57250,
1151
+ 57300,
1152
+ 57350,
1153
+ 57400,
1154
+ 57450,
1155
+ 57500,
1156
+ 57550,
1157
+ 57600,
1158
+ 57650,
1159
+ 57700,
1160
+ 57750,
1161
+ 57800,
1162
+ 57850,
1163
+ 57900,
1164
+ 57950,
1165
+ 58000,
1166
+ 58050,
1167
+ 58100,
1168
+ 58150,
1169
+ 58200,
1170
+ 58250,
1171
+ 58300,
1172
+ 58350,
1173
+ 58400,
1174
+ 58450,
1175
+ 58500,
1176
+ 58550,
1177
+ 58600,
1178
+ 58650,
1179
+ 58700,
1180
+ 58750,
1181
+ 58800,
1182
+ 58850,
1183
+ 58900,
1184
+ 58950,
1185
+ 59000,
1186
+ 59050,
1187
+ 59100,
1188
+ 59150,
1189
+ 59200,
1190
+ 59250,
1191
+ 59300,
1192
+ 59350,
1193
+ 59400,
1194
+ 59450,
1195
+ 59500,
1196
+ 59550,
1197
+ 59600,
1198
+ 59650,
1199
+ 59700,
1200
+ 59750,
1201
+ 59800,
1202
+ 59850,
1203
+ 59900,
1204
+ 59950,
1205
+ 60000
1206
+ ],
1207
+ "train_lm_loss": [
1208
+ 18.18744659423828,
1209
+ 9.309255063533783,
1210
+ 8.255793631076813,
1211
+ 7.532173275947571,
1212
+ 7.282073259353638,
1213
+ 6.969740003347397,
1214
+ 6.772701740264893,
1215
+ 6.561336189508438,
1216
+ 6.47457218170166,
1217
+ 6.338465720415115,
1218
+ 6.140574485063553,
1219
+ 6.07351616024971,
1220
+ 5.980797648429871,
1221
+ 5.9187513291835785,
1222
+ 5.964728832244873,
1223
+ 5.711794048547745,
1224
+ 5.632867246866226,
1225
+ 5.62189719080925,
1226
+ 5.478474646806717,
1227
+ 5.496908724308014,
1228
+ 5.422797501087189,
1229
+ 5.311734825372696,
1230
+ 5.248335808515549,
1231
+ 5.183826744556427,
1232
+ 5.101587533950806,
1233
+ 5.188618361949921,
1234
+ 5.093042761087418,
1235
+ 5.077401667833328,
1236
+ 5.030250757932663,
1237
+ 5.006137877702713,
1238
+ 4.915842652320862,
1239
+ 4.854666352272034,
1240
+ 4.902378857135773,
1241
+ 4.7470356822013855,
1242
+ 4.715069949626923,
1243
+ 4.763428717851639,
1244
+ 4.803904443979263,
1245
+ 4.7221819460392,
1246
+ 4.692165642976761,
1247
+ 4.639376580715179,
1248
+ 4.494176656007767,
1249
+ 4.567750573158264,
1250
+ 4.652719169855118,
1251
+ 4.429311513900757,
1252
+ 4.465991139411926,
1253
+ 4.459705471992493,
1254
+ 4.401959598064423,
1255
+ 4.244444832205772,
1256
+ 4.356457948684692,
1257
+ 4.307635337114334,
1258
+ 4.270643517374992,
1259
+ 4.326897412538528,
1260
+ 4.24972228705883,
1261
+ 4.240832656621933,
1262
+ 4.34016478061676,
1263
+ 4.250780299305916,
1264
+ 4.2217987179756165,
1265
+ 4.130002170801163,
1266
+ 4.155919075012207,
1267
+ 4.1190056800842285,
1268
+ 4.09077662229538,
1269
+ 4.1359003484249115,
1270
+ 4.058368727564812,
1271
+ 4.117687106132507,
1272
+ 4.138407930731773,
1273
+ 4.152832090854645,
1274
+ 4.1778764128685,
1275
+ 4.09792360663414,
1276
+ 3.9494185000658035,
1277
+ 4.076051518321037,
1278
+ 4.034773662686348,
1279
+ 3.995726227760315,
1280
+ 4.081315442919731,
1281
+ 4.109192833304405,
1282
+ 4.076841488480568,
1283
+ 4.002926588058472,
1284
+ 3.9638444036245346,
1285
+ 4.015928506851196,
1286
+ 3.974593758583069,
1287
+ 4.023756176233292,
1288
+ 4.017084643244743,
1289
+ 3.9917326867580414,
1290
+ 3.9722124189138412,
1291
+ 3.9995044618844986,
1292
+ 4.0066370368003845,
1293
+ 3.924084648489952,
1294
+ 3.912532389163971,
1295
+ 3.9910613149404526,
1296
+ 3.891548067331314,
1297
+ 3.7337585538625717,
1298
+ 3.831489697098732,
1299
+ 3.9697811603546143,
1300
+ 3.8679912090301514,
1301
+ 3.8476971685886383,
1302
+ 3.893180802464485,
1303
+ 3.9035749286413193,
1304
+ 3.9063034504652023,
1305
+ 3.9798954874277115,
1306
+ 3.8492909371852875,
1307
+ 3.81852850317955,
1308
+ 3.8720574527978897,
1309
+ 3.9406262934207916,
1310
+ 3.809140309691429,
1311
+ 3.802620753645897,
1312
+ 3.932546839118004,
1313
+ 3.913332685828209,
1314
+ 3.8311657160520554,
1315
+ 3.8259701877832413,
1316
+ 3.8321043252944946,
1317
+ 3.8924859762191772,
1318
+ 3.8660763800144196,
1319
+ 3.9397416561841965,
1320
+ 3.892843574285507,
1321
+ 3.8797095119953156,
1322
+ 3.814483195543289,
1323
+ 3.846793532371521,
1324
+ 3.7768132090568542,
1325
+ 3.857560619711876,
1326
+ 3.883099317550659,
1327
+ 3.7966334372758865,
1328
+ 3.7026050090789795,
1329
+ 3.8438049107789993,
1330
+ 3.7447827011346817,
1331
+ 3.89266699552536,
1332
+ 3.7709929049015045,
1333
+ 3.841283291578293,
1334
+ 3.737610250711441,
1335
+ 3.6920383870601654,
1336
+ 3.7687492966651917,
1337
+ 3.807777315378189,
1338
+ 3.7870753705501556,
1339
+ 3.7825433909893036,
1340
+ 3.7919757068157196,
1341
+ 3.731213316321373,
1342
+ 3.717019334435463,
1343
+ 3.7507695853710175,
1344
+ 3.6921043694019318,
1345
+ 3.744086056947708,
1346
+ 3.72921422123909,
1347
+ 3.8323488533496857,
1348
+ 3.7547916620969772,
1349
+ 3.674904242157936,
1350
+ 3.7825476974248886,
1351
+ 3.720662161707878,
1352
+ 3.705043748021126,
1353
+ 3.6597853302955627,
1354
+ 3.6729084253311157,
1355
+ 3.7155338525772095,
1356
+ 3.8175453692674637,
1357
+ 3.6837595105171204,
1358
+ 3.7494169920682907,
1359
+ 3.6712204962968826,
1360
+ 3.7601664662361145,
1361
+ 3.7666276544332504,
1362
+ 3.6834390312433243,
1363
+ 3.7801215052604675,
1364
+ 3.633313938975334,
1365
+ 3.659332424402237,
1366
+ 3.714764282107353,
1367
+ 3.7408665269613266,
1368
+ 3.728473737835884,
1369
+ 3.6340352296829224,
1370
+ 3.6673796325922012,
1371
+ 3.8002156168222427,
1372
+ 3.6997919529676437,
1373
+ 3.7000419199466705,
1374
+ 3.6571541279554367,
1375
+ 3.7076292783021927,
1376
+ 3.754237622022629,
1377
+ 3.806455582380295,
1378
+ 3.67218841612339,
1379
+ 3.571089446544647,
1380
+ 3.745171904563904,
1381
+ 3.6729655861854553,
1382
+ 3.723417490720749,
1383
+ 3.692105069756508,
1384
+ 3.677235931158066,
1385
+ 3.766372472047806,
1386
+ 3.6670227646827698,
1387
+ 3.7174583673477173,
1388
+ 3.6229597330093384,
1389
+ 3.758845791220665,
1390
+ 3.6528135389089584,
1391
+ 3.7245230674743652,
1392
+ 3.685478761792183,
1393
+ 3.6814044713974,
1394
+ 3.7276543974876404,
1395
+ 3.507586181163788,
1396
+ 3.6821322292089462,
1397
+ 3.6989295333623886,
1398
+ 3.655770570039749,
1399
+ 3.5807267129421234,
1400
+ 3.6368176639080048,
1401
+ 3.5528152137994766,
1402
+ 3.61540088057518,
1403
+ 3.6462405771017075,
1404
+ 3.692185014486313,
1405
+ 3.5903467535972595,
1406
+ 3.5936538130044937,
1407
+ 3.6595718562602997,
1408
+ 3.611542120575905,
1409
+ 3.613360181450844,
1410
+ 3.6383818238973618,
1411
+ 3.5088911950588226,
1412
+ 3.6789101660251617,
1413
+ 3.7142864167690277,
1414
+ 3.5782053768634796,
1415
+ 3.606606975197792,
1416
+ 3.646869644522667,
1417
+ 3.634593591094017,
1418
+ 3.6264074742794037,
1419
+ 3.599782094359398,
1420
+ 3.6953066885471344,
1421
+ 3.582291930913925,
1422
+ 3.6754482239484787,
1423
+ 3.580104723572731,
1424
+ 3.5666492879390717,
1425
+ 3.6610245406627655,
1426
+ 3.6180481910705566,
1427
+ 3.573705181479454,
1428
+ 3.54289473593235,
1429
+ 3.6512275487184525,
1430
+ 3.5312009751796722,
1431
+ 3.5186323672533035,
1432
+ 3.6029717326164246,
1433
+ 3.596541002392769,
1434
+ 3.5794124007225037,
1435
+ 3.5452140122652054,
1436
+ 3.6507169902324677,
1437
+ 3.5934514850378036,
1438
+ 3.6175130754709244,
1439
+ 3.6150075048208237,
1440
+ 3.522929146885872,
1441
+ 3.6048096418380737,
1442
+ 3.688711002469063,
1443
+ 3.580654576420784,
1444
+ 3.5592696219682693,
1445
+ 3.5944980829954147,
1446
+ 3.6019158214330673,
1447
+ 3.598804622888565,
1448
+ 3.560787796974182,
1449
+ 3.560604840517044,
1450
+ 3.55832576751709,
1451
+ 3.52716501057148,
1452
+ 3.6349781304597855,
1453
+ 3.6665162295103073,
1454
+ 3.503932401537895,
1455
+ 3.610669434070587,
1456
+ 3.51033553481102,
1457
+ 3.676109954714775,
1458
+ 3.543876960873604,
1459
+ 3.5493635833263397,
1460
+ 3.643692433834076,
1461
+ 3.476339563727379,
1462
+ 3.4930549412965775,
1463
+ 3.55234631896019,
1464
+ 3.5921341329813004,
1465
+ 3.504277855157852,
1466
+ 3.524970069527626,
1467
+ 3.6040341556072235,
1468
+ 3.5017667561769485,
1469
+ 3.4238815754652023,
1470
+ 3.5782645642757416,
1471
+ 3.5606074780225754,
1472
+ 3.588665395975113,
1473
+ 3.4458878934383392,
1474
+ 3.6262311190366745,
1475
+ 3.6047955006361008,
1476
+ 3.4634069949388504,
1477
+ 3.630353629589081,
1478
+ 3.6122197955846786,
1479
+ 3.5561894476413727,
1480
+ 3.5578263849020004,
1481
+ 3.50196535885334,
1482
+ 3.629682272672653,
1483
+ 3.5750655084848404,
1484
+ 3.60828398168087,
1485
+ 3.5333521515130997,
1486
+ 3.56214040517807,
1487
+ 3.5217384696006775,
1488
+ 3.554460719227791,
1489
+ 3.5278720259666443,
1490
+ 3.5577332675457,
1491
+ 3.571107029914856,
1492
+ 3.5869767516851425,
1493
+ 3.5299705862998962,
1494
+ 3.50218266248703,
1495
+ 3.5800594836473465,
1496
+ 3.56131748855114,
1497
+ 3.520070254802704,
1498
+ 3.494617983698845,
1499
+ 3.4868850111961365,
1500
+ 3.5879462212324142,
1501
+ 3.5899859368801117,
1502
+ 3.5263977646827698,
1503
+ 3.505381241440773,
1504
+ 3.5316713750362396,
1505
+ 3.5379377901554108,
1506
+ 3.4566645473241806,
1507
+ 3.604143112897873,
1508
+ 3.6475465148687363,
1509
+ 3.4816475212574005,
1510
+ 3.5348265022039413,
1511
+ 3.5763520002365112,
1512
+ 3.537971183657646,
1513
+ 3.4312871396541595,
1514
+ 3.5170974731445312,
1515
+ 3.4616179913282394,
1516
+ 3.5451792925596237,
1517
+ 3.4983758628368378,
1518
+ 3.5850497037172318,
1519
+ 3.4695693999528885,
1520
+ 3.495342880487442,
1521
+ 3.586682826280594,
1522
+ 3.45661598443985,
1523
+ 3.454480856657028,
1524
+ 3.518394097685814,
1525
+ 3.518433779478073,
1526
+ 3.5021645575761795,
1527
+ 3.580015152692795,
1528
+ 3.504117637872696,
1529
+ 3.5444447100162506,
1530
+ 3.4988853484392166,
1531
+ 3.5471440106630325,
1532
+ 3.4583478420972824,
1533
+ 3.5161523818969727,
1534
+ 3.566974714398384,
1535
+ 3.5933584719896317,
1536
+ 3.4490037113428116,
1537
+ 3.483402758836746,
1538
+ 3.3964413702487946,
1539
+ 3.498699516057968,
1540
+ 3.537591442465782,
1541
+ 3.5607576817274094,
1542
+ 3.53674453496933,
1543
+ 3.5554985255002975,
1544
+ 3.4909960478544235,
1545
+ 3.564430147409439,
1546
+ 3.499841883778572,
1547
+ 3.501652792096138,
1548
+ 3.3293050974607468,
1549
+ 3.532074674963951,
1550
+ 3.539783537387848,
1551
+ 3.4852548837661743,
1552
+ 3.5217346251010895,
1553
+ 3.3665539026260376,
1554
+ 3.5024389028549194,
1555
+ 3.548206865787506,
1556
+ 3.522487461566925,
1557
+ 3.5689362436532974,
1558
+ 3.489812061190605,
1559
+ 3.509770318865776,
1560
+ 3.48102405667305,
1561
+ 3.506039798259735,
1562
+ 3.4288491010665894,
1563
+ 3.5763911455869675,
1564
+ 3.4843435287475586,
1565
+ 3.3859579116106033,
1566
+ 3.534196436405182,
1567
+ 3.543319433927536,
1568
+ 3.5437388867139816,
1569
+ 3.5760090202093124,
1570
+ 3.390137404203415,
1571
+ 3.4029752612113953,
1572
+ 3.5112852603197098,
1573
+ 3.45420104265213,
1574
+ 3.411106199026108,
1575
+ 3.523409217596054,
1576
+ 3.545787051320076,
1577
+ 3.579560726881027,
1578
+ 3.503322497010231,
1579
+ 3.4865605235099792,
1580
+ 3.511448457837105,
1581
+ 3.439462274312973,
1582
+ 3.461981639266014,
1583
+ 3.528410255908966,
1584
+ 3.336288183927536,
1585
+ 3.428882122039795,
1586
+ 3.545510560274124,
1587
+ 3.5015550702810287,
1588
+ 3.539967343211174,
1589
+ 3.4840749353170395,
1590
+ 3.5087216943502426,
1591
+ 3.4656167775392532,
1592
+ 3.556732654571533,
1593
+ 3.5534467846155167,
1594
+ 3.3114206045866013,
1595
+ 3.5271543711423874,
1596
+ 3.407460182905197,
1597
+ 3.44063538312912,
1598
+ 3.5997945219278336,
1599
+ 3.392320528626442,
1600
+ 3.4881432503461838,
1601
+ 3.5892797708511353,
1602
+ 3.5565248280763626,
1603
+ 3.48530276119709,
1604
+ 3.493096187710762,
1605
+ 3.4330220073461533,
1606
+ 3.39497771859169,
1607
+ 3.463546931743622,
1608
+ 3.48971126973629,
1609
+ 3.385853260755539,
1610
+ 3.3825743943452835,
1611
+ 3.495021417737007,
1612
+ 3.52436526119709,
1613
+ 3.5723468214273453,
1614
+ 3.5396701842546463,
1615
+ 3.4780734181404114,
1616
+ 3.487409830093384,
1617
+ 3.4682350009679794,
1618
+ 3.4747814536094666,
1619
+ 3.479345291852951,
1620
+ 3.3682778030633926,
1621
+ 3.4976494014263153,
1622
+ 3.445458620786667,
1623
+ 3.382574886083603,
1624
+ 3.4189088195562363,
1625
+ 3.538178473711014,
1626
+ 3.589637592434883,
1627
+ 3.4953136444091797,
1628
+ 3.439990058541298,
1629
+ 3.378756284713745,
1630
+ 3.4715507328510284,
1631
+ 3.347586825489998,
1632
+ 3.35174123942852,
1633
+ 3.473974645137787,
1634
+ 3.3999495953321457,
1635
+ 3.470347210764885,
1636
+ 3.4190158993005753,
1637
+ 3.441736578941345,
1638
+ 3.4734226763248444,
1639
+ 3.409502550959587,
1640
+ 3.51676706969738,
1641
+ 3.483948662877083,
1642
+ 3.358655273914337,
1643
+ 3.4408415406942368,
1644
+ 3.4722819328308105,
1645
+ 3.3161105513572693,
1646
+ 3.4610371738672256,
1647
+ 3.473409980535507,
1648
+ 3.406921699643135,
1649
+ 3.4118244647979736,
1650
+ 3.442666083574295,
1651
+ 3.43449629843235,
1652
+ 3.4140508472919464,
1653
+ 3.39687380194664,
1654
+ 3.473421797156334,
1655
+ 3.4419088065624237,
1656
+ 3.480076849460602,
1657
+ 3.4203840643167496,
1658
+ 3.4531136602163315,
1659
+ 3.459586873650551,
1660
+ 3.5211227238178253,
1661
+ 3.3981049954891205,
1662
+ 3.424904778599739,
1663
+ 3.460895851254463,
1664
+ 3.418233096599579,
1665
+ 3.4289817810058594,
1666
+ 3.3275133073329926,
1667
+ 3.3884980976581573,
1668
+ 3.418729528784752,
1669
+ 3.3258875012397766,
1670
+ 3.4416442960500717,
1671
+ 3.4566154778003693,
1672
+ 3.4155237525701523,
1673
+ 3.38571934401989,
1674
+ 3.4676279425621033,
1675
+ 3.4490256160497665,
1676
+ 3.3911741077899933,
1677
+ 3.472112461924553,
1678
+ 3.4682680517435074,
1679
+ 3.448110893368721,
1680
+ 3.316306009888649,
1681
+ 3.3606334030628204,
1682
+ 3.392220765352249,
1683
+ 3.418612241744995,
1684
+ 3.4220496714115143,
1685
+ 3.509358063340187,
1686
+ 3.3237181305885315,
1687
+ 3.422095477581024,
1688
+ 3.338881179690361,
1689
+ 3.2804688811302185,
1690
+ 3.4484567046165466,
1691
+ 3.3817960917949677,
1692
+ 3.3742345571517944,
1693
+ 3.420799672603607,
1694
+ 3.5163291692733765,
1695
+ 3.5256574898958206,
1696
+ 3.4867527037858963,
1697
+ 3.378926560282707,
1698
+ 3.445977106690407,
1699
+ 3.535894900560379,
1700
+ 3.486179441213608,
1701
+ 3.486626625061035,
1702
+ 3.402646631002426,
1703
+ 3.386773645877838,
1704
+ 3.4336293637752533,
1705
+ 3.460850104689598,
1706
+ 3.4813793003559113,
1707
+ 3.392915904521942,
1708
+ 3.416111037135124,
1709
+ 3.474421203136444,
1710
+ 3.3567545861005783,
1711
+ 3.5197897106409073,
1712
+ 3.337500810623169,
1713
+ 3.442624405026436,
1714
+ 3.2916510105133057,
1715
+ 3.4295903593301773,
1716
+ 3.406638339161873,
1717
+ 3.4271331131458282,
1718
+ 3.1918313950300217,
1719
+ 3.418351724743843,
1720
+ 3.4813795387744904,
1721
+ 3.338949903845787,
1722
+ 3.432752326130867,
1723
+ 3.3315166383981705,
1724
+ 3.4259275794029236,
1725
+ 3.425860956311226,
1726
+ 3.3875651210546494,
1727
+ 3.3990295231342316,
1728
+ 3.3754905611276627,
1729
+ 3.388106197118759,
1730
+ 3.3972940891981125,
1731
+ 3.424556642770767,
1732
+ 3.3794878870248795,
1733
+ 3.420791417360306,
1734
+ 3.4607067108154297,
1735
+ 3.4026444405317307,
1736
+ 3.4053359925746918,
1737
+ 3.426198497414589,
1738
+ 3.429946795105934,
1739
+ 3.435047462582588,
1740
+ 3.4762449115514755,
1741
+ 3.3547638803720474,
1742
+ 3.3428568243980408,
1743
+ 3.243662491440773,
1744
+ 3.3742890805006027,
1745
+ 3.428496837615967,
1746
+ 3.314430981874466,
1747
+ 3.4626491516828537,
1748
+ 3.3707794696092606,
1749
+ 3.4431890547275543,
1750
+ 3.3920353949069977,
1751
+ 3.3439299762248993,
1752
+ 3.372576877474785,
1753
+ 3.3170555531978607,
1754
+ 3.505576580762863,
1755
+ 3.331006705760956,
1756
+ 3.3423221856355667,
1757
+ 3.447932481765747,
1758
+ 3.3864280581474304,
1759
+ 3.4345173090696335,
1760
+ 3.435738295316696,
1761
+ 3.347167655825615,
1762
+ 3.2670592814683914,
1763
+ 3.3108639121055603,
1764
+ 3.3522175401449203,
1765
+ 3.3821689784526825,
1766
+ 3.3756299167871475,
1767
+ 3.3103097528219223,
1768
+ 3.362692207098007,
1769
+ 3.411075547337532,
1770
+ 3.3634657114744186,
1771
+ 3.2960237711668015,
1772
+ 3.3310146927833557,
1773
+ 3.3308442682027817,
1774
+ 3.3684701323509216,
1775
+ 3.336323767900467,
1776
+ 3.3877128064632416,
1777
+ 3.444233149290085,
1778
+ 3.421165883541107,
1779
+ 3.451593264937401,
1780
+ 3.2981117367744446,
1781
+ 3.3683723509311676,
1782
+ 3.532728925347328,
1783
+ 3.350312829017639,
1784
+ 3.292802646756172,
1785
+ 3.3495412915945053,
1786
+ 3.3292178958654404,
1787
+ 3.3132656514644623,
1788
+ 3.3958085030317307,
1789
+ 3.456035926938057,
1790
+ 3.4375663101673126,
1791
+ 3.289159208536148,
1792
+ 3.407281279563904,
1793
+ 3.428493410348892,
1794
+ 3.330688998103142,
1795
+ 3.2903900891542435,
1796
+ 3.251230150461197,
1797
+ 3.3279833495616913,
1798
+ 3.3177037835121155,
1799
+ 3.2915336340665817,
1800
+ 3.3424068689346313,
1801
+ 3.362947016954422,
1802
+ 3.399005204439163,
1803
+ 3.4015088379383087,
1804
+ 3.4409549087285995,
1805
+ 3.3899601846933365,
1806
+ 3.2771655917167664,
1807
+ 3.379806563258171,
1808
+ 3.3214884847402573,
1809
+ 3.352835923433304,
1810
+ 3.349323332309723,
1811
+ 3.4008229076862335,
1812
+ 3.38458813726902,
1813
+ 3.2185464799404144,
1814
+ 3.377972036600113,
1815
+ 3.3177363723516464,
1816
+ 3.3941202610731125,
1817
+ 3.4139683842658997,
1818
+ 3.3032896518707275,
1819
+ 3.3894896060228348,
1820
+ 3.2749636322259903,
1821
+ 3.270029991865158,
1822
+ 3.4541338831186295,
1823
+ 3.3158871084451675,
1824
+ 3.378569483757019,
1825
+ 3.4174943417310715,
1826
+ 3.3635447323322296,
1827
+ 3.3234785944223404,
1828
+ 3.3095068484544754,
1829
+ 3.313094839453697,
1830
+ 3.310055151581764,
1831
+ 3.3289912939071655,
1832
+ 3.292035326361656,
1833
+ 3.380499929189682,
1834
+ 3.3619142025709152,
1835
+ 3.2520293444395065,
1836
+ 3.2713770419359207,
1837
+ 3.379837602376938,
1838
+ 3.310341164469719,
1839
+ 3.398113653063774,
1840
+ 3.3383289873600006,
1841
+ 3.3614092618227005,
1842
+ 3.2636759132146835,
1843
+ 3.275355339050293,
1844
+ 3.3666419833898544,
1845
+ 3.320468932390213,
1846
+ 3.2470189183950424,
1847
+ 3.3144331127405167,
1848
+ 3.361355572938919,
1849
+ 3.261305332183838,
1850
+ 3.3257481455802917,
1851
+ 3.407427966594696,
1852
+ 3.3634225726127625,
1853
+ 3.4742072075605392,
1854
+ 3.360745668411255,
1855
+ 3.2791290432214737,
1856
+ 3.427066221833229,
1857
+ 3.3832110464572906,
1858
+ 3.293691650032997,
1859
+ 3.449724569916725,
1860
+ 3.2781458646059036,
1861
+ 3.268695965409279,
1862
+ 3.418939247727394,
1863
+ 3.5180250108242035,
1864
+ 3.324683353304863,
1865
+ 3.3633099794387817,
1866
+ 3.397688165307045,
1867
+ 3.291579946875572,
1868
+ 3.3889844119548798,
1869
+ 3.1765613108873367,
1870
+ 3.307345688343048,
1871
+ 3.26393486559391,
1872
+ 3.4513452649116516,
1873
+ 3.3459307700395584,
1874
+ 3.2630650252103806,
1875
+ 3.3661864548921585,
1876
+ 3.282845601439476,
1877
+ 3.355662450194359,
1878
+ 3.417592853307724,
1879
+ 3.3879440873861313,
1880
+ 3.2974474728107452,
1881
+ 3.39488522708416,
1882
+ 3.2419429421424866,
1883
+ 3.3215267211198807,
1884
+ 3.35054711997509,
1885
+ 3.330634593963623,
1886
+ 3.267312526702881,
1887
+ 3.2929992377758026,
1888
+ 3.2915738821029663,
1889
+ 3.431537628173828,
1890
+ 3.3037608712911606,
1891
+ 3.2570642232894897,
1892
+ 3.3322079181671143,
1893
+ 3.3239832371473312,
1894
+ 3.4420115798711777,
1895
+ 3.4016349762678146,
1896
+ 3.3308382481336594,
1897
+ 3.347731053829193,
1898
+ 3.271709844470024,
1899
+ 3.3010907024145126,
1900
+ 3.4345054775476456,
1901
+ 3.3822564631700516,
1902
+ 3.3283208161592484,
1903
+ 3.321629524230957,
1904
+ 3.369625434279442,
1905
+ 3.327714741230011,
1906
+ 3.287306487560272,
1907
+ 3.2957401871681213,
1908
+ 3.2123395800590515,
1909
+ 3.252193570137024,
1910
+ 3.309310495853424,
1911
+ 3.3635934442281723,
1912
+ 3.352259874343872,
1913
+ 3.2931045591831207,
1914
+ 3.3117149025201797,
1915
+ 3.3736108541488647,
1916
+ 3.4913315176963806,
1917
+ 3.350405514240265,
1918
+ 3.3231195509433746,
1919
+ 3.398219659924507,
1920
+ 3.3950563818216324,
1921
+ 3.323994070291519,
1922
+ 3.3865668326616287,
1923
+ 3.2232184410095215,
1924
+ 3.2665332555770874,
1925
+ 3.434589758515358,
1926
+ 3.3286551237106323,
1927
+ 3.390954151749611,
1928
+ 3.338358089327812,
1929
+ 3.4251421242952347,
1930
+ 3.36045004427433,
1931
+ 3.2920065373182297,
1932
+ 3.339228183031082,
1933
+ 3.435269057750702,
1934
+ 3.1747449040412903,
1935
+ 3.32524873316288,
1936
+ 3.354880139231682,
1937
+ 3.344090551137924,
1938
+ 3.325512319803238,
1939
+ 3.33313050866127,
1940
+ 3.28053617477417,
1941
+ 3.317685529589653,
1942
+ 3.368869975209236,
1943
+ 3.2331759482622147,
1944
+ 3.1493088006973267,
1945
+ 3.3087217956781387,
1946
+ 3.2536104321479797,
1947
+ 3.5108784586191177,
1948
+ 3.3877490013837814,
1949
+ 3.354679971933365,
1950
+ 3.2805951982736588,
1951
+ 3.3286107927560806,
1952
+ 3.2994613647460938,
1953
+ 3.3013632148504257,
1954
+ 3.3022027611732483,
1955
+ 3.3441741317510605,
1956
+ 3.361855924129486,
1957
+ 3.2640351355075836,
1958
+ 3.3039254248142242,
1959
+ 3.260177433490753,
1960
+ 3.3406024873256683,
1961
+ 3.322243422269821,
1962
+ 3.217043161392212,
1963
+ 3.2385553121566772,
1964
+ 3.3324094414711,
1965
+ 3.34710294008255,
1966
+ 3.297569125890732,
1967
+ 3.2647754997015,
1968
+ 3.251529037952423,
1969
+ 3.3003579527139664,
1970
+ 3.324946492910385,
1971
+ 3.253751426935196,
1972
+ 3.2750564962625504,
1973
+ 3.28801029920578,
1974
+ 3.226339653134346,
1975
+ 3.3675637543201447,
1976
+ 3.2918441891670227,
1977
+ 3.275382101535797,
1978
+ 3.3410845398902893,
1979
+ 3.314641147851944,
1980
+ 3.4134359806776047,
1981
+ 3.23546339571476,
1982
+ 3.313803493976593,
1983
+ 3.3157174587249756,
1984
+ 3.325210824608803,
1985
+ 3.2509492188692093,
1986
+ 3.306586056947708,
1987
+ 3.325989916920662,
1988
+ 3.3057704120874405,
1989
+ 3.2359292954206467,
1990
+ 3.284664109349251,
1991
+ 3.2493338584899902,
1992
+ 3.3077359348535538,
1993
+ 3.258258104324341,
1994
+ 3.286566600203514,
1995
+ 3.3097264617681503,
1996
+ 3.218432441353798,
1997
+ 3.3295928388834,
1998
+ 3.2555731683969498,
1999
+ 3.374393090605736,
2000
+ 3.3205044716596603,
2001
+ 3.3495433926582336,
2002
+ 3.3216938227415085,
2003
+ 3.29572893679142,
2004
+ 3.2510171234607697,
2005
+ 3.3135522603988647,
2006
+ 3.25770965218544,
2007
+ 3.2343631833791733,
2008
+ 3.288783013820648,
2009
+ 3.235625311732292,
2010
+ 3.2185991257429123,
2011
+ 3.212796702980995,
2012
+ 3.2587925791740417,
2013
+ 3.251183196902275,
2014
+ 3.2753485441207886,
2015
+ 3.3095509707927704,
2016
+ 3.2204721719026566,
2017
+ 3.3086264431476593,
2018
+ 3.3333839774131775,
2019
+ 3.2999389469623566,
2020
+ 3.3237578868865967,
2021
+ 3.312881201505661,
2022
+ 3.2921672463417053,
2023
+ 3.2942826449871063,
2024
+ 3.3381962031126022,
2025
+ 3.3356812596321106,
2026
+ 3.3058395385742188,
2027
+ 3.256538152694702,
2028
+ 3.3479543030261993,
2029
+ 3.307414561510086,
2030
+ 3.2461435347795486,
2031
+ 3.2414561808109283,
2032
+ 3.3206376880407333,
2033
+ 3.3439420610666275,
2034
+ 3.2673537135124207,
2035
+ 3.3435566425323486,
2036
+ 3.2123730033636093,
2037
+ 3.192770376801491,
2038
+ 3.3239409029483795,
2039
+ 3.299256607890129,
2040
+ 3.3070287108421326,
2041
+ 3.402373284101486,
2042
+ 3.2401100546121597,
2043
+ 3.286501497030258,
2044
+ 3.2542520463466644,
2045
+ 3.300304889678955,
2046
+ 3.2941843569278717,
2047
+ 3.324847921729088,
2048
+ 3.214942693710327,
2049
+ 3.3267761915922165,
2050
+ 3.2564117163419724,
2051
+ 3.371524766087532,
2052
+ 3.381696343421936,
2053
+ 3.2763276249170303,
2054
+ 3.2936293333768845,
2055
+ 3.2734015434980392,
2056
+ 3.2300994247198105,
2057
+ 3.3221414536237717,
2058
+ 3.283233031630516,
2059
+ 3.2103092968463898,
2060
+ 3.2767278105020523,
2061
+ 3.3066564053297043,
2062
+ 3.338053435087204,
2063
+ 3.3297118842601776,
2064
+ 3.2104153484106064,
2065
+ 3.143735095858574,
2066
+ 3.2319986820220947,
2067
+ 3.220849260687828,
2068
+ 3.35358864068985,
2069
+ 3.2578193843364716,
2070
+ 3.269700512290001,
2071
+ 3.2172340601682663,
2072
+ 3.2105799466371536,
2073
+ 3.306247428059578,
2074
+ 3.380756676197052,
2075
+ 3.314818263053894,
2076
+ 3.2681902647018433,
2077
+ 3.2851739525794983,
2078
+ 3.204971417784691,
2079
+ 3.3369812667369843,
2080
+ 3.150625929236412,
2081
+ 3.312365174293518,
2082
+ 3.365532085299492,
2083
+ 3.1816557943820953,
2084
+ 3.295734792947769,
2085
+ 3.206241652369499,
2086
+ 3.155827760696411,
2087
+ 3.2780035734176636,
2088
+ 3.301576554775238,
2089
+ 3.326084181666374,
2090
+ 3.3087745010852814,
2091
+ 3.2442957013845444,
2092
+ 3.2468519806861877,
2093
+ 3.2386487275362015,
2094
+ 3.2629602402448654,
2095
+ 3.2968623489141464,
2096
+ 3.328562393784523,
2097
+ 3.357218623161316,
2098
+ 3.3312655091285706,
2099
+ 3.228987902402878,
2100
+ 3.216007187962532,
2101
+ 3.2293202728033066,
2102
+ 3.360614165663719,
2103
+ 3.299151375889778,
2104
+ 3.236158922314644,
2105
+ 3.174368277192116,
2106
+ 3.233797609806061,
2107
+ 3.260866641998291,
2108
+ 3.314495801925659,
2109
+ 3.179883509874344,
2110
+ 3.2877397686243057,
2111
+ 3.2373016625642776,
2112
+ 3.2491571605205536,
2113
+ 3.309524029493332,
2114
+ 3.416679561138153,
2115
+ 3.3064724057912827,
2116
+ 3.2042415887117386,
2117
+ 3.2005031555891037,
2118
+ 3.3528061360120773,
2119
+ 3.2340915203094482,
2120
+ 3.1815610975027084,
2121
+ 3.2579306960105896,
2122
+ 3.303918808698654,
2123
+ 3.426800385117531,
2124
+ 3.2737355530261993,
2125
+ 3.239487424492836,
2126
+ 3.1857851445674896,
2127
+ 3.2695615738630295,
2128
+ 3.2996481359004974,
2129
+ 3.1794473975896835,
2130
+ 3.2874901741743088,
2131
+ 3.171143814921379,
2132
+ 3.2874981611967087,
2133
+ 3.3093332052230835,
2134
+ 3.296563506126404,
2135
+ 3.351071283221245,
2136
+ 3.2803106606006622,
2137
+ 3.267365351319313,
2138
+ 3.2985506504774094,
2139
+ 3.334409639239311,
2140
+ 3.2669812589883804,
2141
+ 3.194675713777542,
2142
+ 3.219530776143074,
2143
+ 3.2584538012742996,
2144
+ 3.2723764330148697,
2145
+ 3.312386155128479,
2146
+ 3.2975073903799057,
2147
+ 3.2649048268795013,
2148
+ 3.2178055942058563,
2149
+ 3.349332705140114,
2150
+ 3.181055471301079,
2151
+ 3.2752723395824432,
2152
+ 3.3191623836755753,
2153
+ 3.2543845921754837,
2154
+ 3.339861109852791,
2155
+ 3.278842717409134,
2156
+ 3.3046162873506546,
2157
+ 3.2630043625831604,
2158
+ 3.2963454574346542,
2159
+ 3.1500295251607895,
2160
+ 3.271207258105278,
2161
+ 3.3082898259162903,
2162
+ 3.1326457113027573,
2163
+ 3.262606605887413,
2164
+ 3.2737657725811005,
2165
+ 3.348826289176941,
2166
+ 3.3047454208135605,
2167
+ 3.2851060032844543,
2168
+ 3.3127714842557907,
2169
+ 3.2181479185819626,
2170
+ 3.2193237245082855,
2171
+ 3.1879805475473404,
2172
+ 3.217108517885208,
2173
+ 3.3048765808343887,
2174
+ 3.2765348106622696,
2175
+ 3.3873917907476425,
2176
+ 3.3373255878686905,
2177
+ 3.2572476863861084,
2178
+ 3.2883861362934113,
2179
+ 3.2373407781124115,
2180
+ 3.1773430705070496,
2181
+ 3.3654084503650665,
2182
+ 3.2983290553092957,
2183
+ 3.2098535895347595,
2184
+ 3.2198033034801483,
2185
+ 3.073620021343231,
2186
+ 3.220205172896385,
2187
+ 3.150747984647751,
2188
+ 3.181453838944435,
2189
+ 3.3011438101530075,
2190
+ 3.1395289301872253,
2191
+ 3.2685494273900986,
2192
+ 3.2604575157165527,
2193
+ 3.2815769761800766,
2194
+ 3.239400014281273,
2195
+ 3.2926852256059647,
2196
+ 3.229806050658226,
2197
+ 3.268631547689438,
2198
+ 3.2061856240034103,
2199
+ 3.184941455721855,
2200
+ 3.2633582055568695,
2201
+ 3.21921306848526,
2202
+ 3.2560864984989166,
2203
+ 3.2052628099918365,
2204
+ 3.3205137848854065,
2205
+ 3.279900774359703,
2206
+ 3.2746314704418182,
2207
+ 3.2324937134981155,
2208
+ 3.2016629427671432,
2209
+ 3.1768651604652405,
2210
+ 3.293856203556061,
2211
+ 3.2684417217969894,
2212
+ 3.193166807293892,
2213
+ 3.2206075340509415,
2214
+ 3.3152081072330475,
2215
+ 3.3129220008850098,
2216
+ 3.2499099373817444,
2217
+ 3.3243914991617203,
2218
+ 3.359631583094597,
2219
+ 3.2673653960227966,
2220
+ 3.198051318526268,
2221
+ 3.2425001114606857,
2222
+ 3.197183832526207,
2223
+ 3.20468008518219,
2224
+ 3.2451656609773636,
2225
+ 3.2606977969408035,
2226
+ 3.2692153602838516,
2227
+ 3.2730103582143784,
2228
+ 3.3602489233016968,
2229
+ 3.3178949058055878,
2230
+ 3.350657433271408,
2231
+ 3.30740387737751,
2232
+ 3.243744134902954,
2233
+ 3.2583087980747223,
2234
+ 3.216918721795082,
2235
+ 3.319619342684746,
2236
+ 3.2627221643924713,
2237
+ 3.2754831463098526,
2238
+ 3.258132204413414,
2239
+ 3.323366090655327,
2240
+ 3.249048039317131,
2241
+ 3.3178023397922516,
2242
+ 3.132953956723213,
2243
+ 3.2571056932210922,
2244
+ 3.249643325805664,
2245
+ 3.3157854676246643,
2246
+ 3.300023928284645,
2247
+ 3.2581014186143875,
2248
+ 3.1967847496271133,
2249
+ 3.241722449660301,
2250
+ 3.228653907775879,
2251
+ 3.2300581634044647,
2252
+ 3.356298416852951,
2253
+ 3.314491033554077,
2254
+ 3.2172530740499496,
2255
+ 3.350113183259964,
2256
+ 3.3174120485782623,
2257
+ 3.15407857298851,
2258
+ 3.343836694955826,
2259
+ 3.2221397012472153,
2260
+ 3.2131488770246506,
2261
+ 3.297909915447235,
2262
+ 3.2336883693933487,
2263
+ 3.2051290720701218,
2264
+ 3.297922447323799,
2265
+ 3.336528867483139,
2266
+ 3.178445056080818,
2267
+ 3.3264481872320175,
2268
+ 3.289669305086136,
2269
+ 3.250065878033638,
2270
+ 3.180666744709015,
2271
+ 3.305009424686432,
2272
+ 3.241672307252884,
2273
+ 3.2268241494894028,
2274
+ 3.3044029027223587,
2275
+ 3.2456322014331818,
2276
+ 3.3861519247293472,
2277
+ 3.255848377943039,
2278
+ 3.2292589396238327,
2279
+ 3.2034541070461273,
2280
+ 3.1354725509881973,
2281
+ 3.2357815951108932,
2282
+ 3.2304620295763016,
2283
+ 3.091912418603897,
2284
+ 3.2445110082626343,
2285
+ 3.3467301726341248,
2286
+ 3.2461803257465363,
2287
+ 3.177346244454384,
2288
+ 3.182513579726219,
2289
+ 3.264153942465782,
2290
+ 3.2634334564208984,
2291
+ 3.2875190526247025,
2292
+ 3.176283076405525,
2293
+ 3.2258836776018143,
2294
+ 3.284291848540306,
2295
+ 3.220252498984337,
2296
+ 3.2509143203496933,
2297
+ 3.2700949907302856,
2298
+ 3.248854711651802,
2299
+ 3.296539470553398,
2300
+ 3.2353411316871643,
2301
+ 3.283098593354225,
2302
+ 3.2453310042619705,
2303
+ 3.265491873025894,
2304
+ 3.276324987411499,
2305
+ 3.1263961493968964,
2306
+ 3.1255436837673187,
2307
+ 3.215349480509758,
2308
+ 3.3059166073799133,
2309
+ 3.271481513977051,
2310
+ 3.3619437515735626,
2311
+ 3.168340042233467,
2312
+ 3.299233555793762,
2313
+ 3.287880688905716,
2314
+ 3.1938962787389755,
2315
+ 3.274488940834999,
2316
+ 3.2545866072177887,
2317
+ 3.275829926133156,
2318
+ 3.3926408141851425,
2319
+ 3.236359715461731,
2320
+ 3.1981287449598312,
2321
+ 3.2818915992975235,
2322
+ 3.317334219813347,
2323
+ 3.280142590403557,
2324
+ 3.3306682258844376,
2325
+ 3.1607971489429474,
2326
+ 3.3600510954856873,
2327
+ 3.3447944074869156,
2328
+ 3.22866889834404,
2329
+ 3.3255657106637955,
2330
+ 3.153762385249138,
2331
+ 3.276158630847931,
2332
+ 3.2472588568925858,
2333
+ 3.341894879937172,
2334
+ 3.2048961967229843,
2335
+ 3.240461602807045,
2336
+ 3.35566346347332,
2337
+ 3.2876302003860474,
2338
+ 3.2221268117427826,
2339
+ 3.187828242778778,
2340
+ 3.2411416321992874,
2341
+ 3.3485535979270935,
2342
+ 3.2879083156585693,
2343
+ 3.3230308294296265,
2344
+ 3.3986588418483734,
2345
+ 3.201571688055992,
2346
+ 3.3248887211084366,
2347
+ 3.24569171667099,
2348
+ 3.245531439781189,
2349
+ 3.257492497563362,
2350
+ 3.2375664561986923,
2351
+ 3.2271006405353546,
2352
+ 3.1791220009326935,
2353
+ 3.2156103402376175,
2354
+ 3.120029628276825,
2355
+ 3.2337192595005035,
2356
+ 3.2733186930418015,
2357
+ 3.223628208041191,
2358
+ 3.3007009476423264,
2359
+ 3.1895484030246735,
2360
+ 3.222547799348831,
2361
+ 3.225561037659645,
2362
+ 3.3003814220428467,
2363
+ 3.332641690969467,
2364
+ 3.1687120348215103,
2365
+ 3.2432765811681747,
2366
+ 3.2183752208948135,
2367
+ 3.21333147585392,
2368
+ 3.236244037747383,
2369
+ 3.1985700577497482,
2370
+ 3.235948920249939,
2371
+ 3.1886381059885025,
2372
+ 3.2495056986808777,
2373
+ 3.1992060840129852,
2374
+ 3.301105320453644,
2375
+ 3.2361215204000473,
2376
+ 3.188396707177162,
2377
+ 3.287011966109276,
2378
+ 3.21629436314106,
2379
+ 3.2667780220508575,
2380
+ 3.2394916266202927,
2381
+ 3.2591614574193954,
2382
+ 3.3077210634946823,
2383
+ 3.2600424140691757,
2384
+ 3.1510829031467438,
2385
+ 3.282458022236824,
2386
+ 3.252813011407852,
2387
+ 3.2033246010541916,
2388
+ 3.222491890192032,
2389
+ 3.195985287427902,
2390
+ 3.2911032289266586,
2391
+ 3.232424423098564,
2392
+ 3.2086289823055267,
2393
+ 3.2075667083263397,
2394
+ 3.2041452527046204,
2395
+ 3.3205350786447525,
2396
+ 3.369669944047928,
2397
+ 3.289415344595909,
2398
+ 3.297067701816559,
2399
+ 3.2587939649820328,
2400
+ 3.2567476630210876,
2401
+ 3.247955158352852,
2402
+ 3.2133373767137527,
2403
+ 3.2504914104938507,
2404
+ 3.2857603281736374,
2405
+ 3.2968974858522415,
2406
+ 3.1876560002565384,
2407
+ 3.3222658783197403
2408
+ ],
2409
+ "val_steps": [
2410
+ 2000,
2411
+ 4000,
2412
+ 6000,
2413
+ 8000,
2414
+ 10000,
2415
+ 12000,
2416
+ 14000,
2417
+ 16000,
2418
+ 18000,
2419
+ 20000,
2420
+ 22000,
2421
+ 24000,
2422
+ 26000,
2423
+ 28000,
2424
+ 30000,
2425
+ 32000,
2426
+ 34000,
2427
+ 36000,
2428
+ 38000,
2429
+ 40000,
2430
+ 42000,
2431
+ 44000,
2432
+ 46000,
2433
+ 48000,
2434
+ 50000,
2435
+ 52000,
2436
+ 54000,
2437
+ 56000,
2438
+ 58000,
2439
+ 60000
2440
+ ],
2441
+ "val_lm_loss": [
2442
+ 4.659377212524414,
2443
+ 4.009193139076233,
2444
+ 3.823287286758423,
2445
+ 3.718728051185608,
2446
+ 3.6507562828063964,
2447
+ 3.5944960927963256,
2448
+ 3.5502814149856565,
2449
+ 3.517011637687683,
2450
+ 3.4878752756118776,
2451
+ 3.461129150390625,
2452
+ 3.437528204917908,
2453
+ 3.4152940940856933,
2454
+ 3.3944183826446532,
2455
+ 3.3740377616882324,
2456
+ 3.35643132686615,
2457
+ 3.340167212486267,
2458
+ 3.325236611366272,
2459
+ 3.3123626613616945,
2460
+ 3.297655940055847,
2461
+ 3.284417219161987,
2462
+ 3.273220057487488,
2463
+ 3.2632088804244996,
2464
+ 3.2551650762557984,
2465
+ 3.2473361778259275,
2466
+ 3.242753257751465,
2467
+ 3.239454345703125,
2468
+ 3.238019042015076,
2469
+ 3.2361705541610717,
2470
+ 3.2331749296188352,
2471
+ 3.23080153465271
2472
+ ],
2473
+ "val_ppl": [
2474
+ 105.57031380969953,
2475
+ 55.10239265469441,
2476
+ 45.75436910654851,
2477
+ 41.211941277177864,
2478
+ 38.50377478327704,
2479
+ 36.39735447693407,
2480
+ 34.82311585548256,
2481
+ 33.68361905362773,
2482
+ 32.71636055648882,
2483
+ 31.85292295677806,
2484
+ 31.109965592619176,
2485
+ 30.425896188026854,
2486
+ 29.7973177968877,
2487
+ 29.196176580827913,
2488
+ 28.686634770662646,
2489
+ 28.223845690270906,
2490
+ 27.805576979943496,
2491
+ 27.449903744167717,
2492
+ 27.04915969840095,
2493
+ 26.693423365377292,
2494
+ 26.396199923171896,
2495
+ 26.13326125080667,
2496
+ 25.923893600094434,
2497
+ 25.7217304601121,
2498
+ 25.60411953182863,
2499
+ 25.519792962861022,
2500
+ 25.483190583951597,
2501
+ 25.43612872571306,
2502
+ 25.36004564930427,
2503
+ 25.29992761476021
2504
+ ]
2505
+ }