podtech-okamura commited on
Commit
86dad72
·
verified ·
1 Parent(s): 629b5ea

quality report (items 22, 25-29)

Browse files
reports/quality_20260905T011530Z/quality_report.json ADDED
@@ -0,0 +1,470 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "generated_at_utc": "2026-09-04T21:40:48.401642+00:00",
3
+ "features_glob": "/cleaned/outputs_v2/**/features.parquet",
4
+ "records_total": 222924152,
5
+ "records_retained": 211669682,
6
+ "item22_dedup": {
7
+ "upstream": {
8
+ "performed_by": "ABEJA(配布元、ABEJA-CC-JA 構築時)",
9
+ "methods": [
10
+ {
11
+ "method": "URL 重複除去(同一 URL は最新のスナップショットを採用)",
12
+ "threshold": "完全一致"
13
+ },
14
+ {
15
+ "method": "MinHash による近似重複除去(text-dedup、Dataproc 上で実行)",
16
+ "threshold": "非公開(記事に閾値の記載なし)"
17
+ }
18
+ ],
19
+ "source_urls": [
20
+ "https://tech-blog.abeja.asia/entry/abeja-nedo-project-part2-202405",
21
+ "https://tech-blog.abeja.asia/entry/abeja-cc-ja-202409",
22
+ "https://registry.opendata.aws/abeja-cc-ja/"
23
+ ],
24
+ "decision_ja": "配布元で URL 重複除去と MinHash 近似重複除去が実施済みのため、近似重複除去は再実行しない。完全一致(本文 SHA-1、URL)の残存だけを全件で再確認して記録する。"
25
+ },
26
+ "exact_duplicate_check": {
27
+ "scope": "第2パス後の保持文書(全件)",
28
+ "content_sha1_duplicates": 247644,
29
+ "url_duplicates": 299141,
30
+ "content_sha1_duplicate_rate": 0.00117,
31
+ "url_duplicate_rate": 0.001413
32
+ }
33
+ },
34
+ "item25_language": {
35
+ "tool": "fastText lid.176(文書先頭1,000字。行判定は30字以上の行を最大50行)",
36
+ "scope": "第1パス後の文書(有害フィルタ削除分を除く)",
37
+ "distribution": [
38
+ {
39
+ "lang": "ja",
40
+ "records": 221291612,
41
+ "ratio": 0.99987
42
+ },
43
+ {
44
+ "lang": "en",
45
+ "records": 14026,
46
+ "ratio": 6e-05
47
+ },
48
+ {
49
+ "lang": "unk",
50
+ "records": 4799,
51
+ "ratio": 2e-05
52
+ },
53
+ {
54
+ "lang": "zh",
55
+ "records": 2488,
56
+ "ratio": 1e-05
57
+ },
58
+ {
59
+ "lang": "sh",
60
+ "records": 2213,
61
+ "ratio": 1e-05
62
+ },
63
+ {
64
+ "lang": "tr",
65
+ "records": 1731,
66
+ "ratio": 1e-05
67
+ },
68
+ {
69
+ "lang": "fr",
70
+ "records": 943,
71
+ "ratio": 0.0
72
+ },
73
+ {
74
+ "lang": "ru",
75
+ "records": 721,
76
+ "ratio": 0.0
77
+ },
78
+ {
79
+ "lang": "es",
80
+ "records": 544,
81
+ "ratio": 0.0
82
+ },
83
+ {
84
+ "lang": "th",
85
+ "records": 236,
86
+ "ratio": 0.0
87
+ },
88
+ {
89
+ "lang": "de",
90
+ "records": 219,
91
+ "ratio": 0.0
92
+ },
93
+ {
94
+ "lang": "uk",
95
+ "records": 193,
96
+ "ratio": 0.0
97
+ },
98
+ {
99
+ "lang": "ko",
100
+ "records": 188,
101
+ "ratio": 0.0
102
+ },
103
+ {
104
+ "lang": "it",
105
+ "records": 137,
106
+ "ratio": 0.0
107
+ },
108
+ {
109
+ "lang": "hu",
110
+ "records": 135,
111
+ "ratio": 0.0
112
+ }
113
+ ],
114
+ "japanese_ratio": 0.99987,
115
+ "mixed_language_records": 665764,
116
+ "mixed_definition": "文書は日本語判定だが、30字以上の行のうち非日本語判定が3割以上",
117
+ "processing": {
118
+ "non_japanese": "削除(14867 文書、確信度0.5以上)",
119
+ "mixed": "保持し件数のみ記録(非日本語行は行単位で削除しない)"
120
+ }
121
+ },
122
+ "item26_perplexity": {
123
+ "filter": {
124
+ "applied_by": "Podtech(入力データセット abeja-cc-ja-filtered の作成時)",
125
+ "model": "KenLM(lighttransport/japanese-scoring-model)",
126
+ "threshold": "perplexity < 40 を保持",
127
+ "source_url": "https://huggingface.co/datasets/Podtech/abeja-cc-ja-filtered"
128
+ },
129
+ "distribution_retained": {
130
+ "min": 2.2653319578385624,
131
+ "p5": 9.783503816134573,
132
+ "p25": 13.460497833510995,
133
+ "p50": 17.661450515163345,
134
+ "p75": 23.633965676577905,
135
+ "p95": 34.04114484824785,
136
+ "max": 39.99999971479578
137
+ },
138
+ "histogram_bin5": [
139
+ {
140
+ "bin_start": 0,
141
+ "records": 1407
142
+ },
143
+ {
144
+ "bin_start": 5,
145
+ "records": 13004262
146
+ },
147
+ {
148
+ "bin_start": 10,
149
+ "records": 64161385
150
+ },
151
+ {
152
+ "bin_start": 15,
153
+ "records": 59722754
154
+ },
155
+ {
156
+ "bin_start": 20,
157
+ "records": 39153836
158
+ },
159
+ {
160
+ "bin_start": 25,
161
+ "records": 23625541
162
+ },
163
+ {
164
+ "bin_start": 30,
165
+ "records": 14344601
166
+ },
167
+ {
168
+ "bin_start": 35,
169
+ "records": 8910366
170
+ }
171
+ ],
172
+ "examples_near_threshold_retained": [
173
+ {
174
+ "url": "https://ponte.jpn.com/fashion/40579",
175
+ "perplexity": 39.99999971479578,
176
+ "chars": 567,
177
+ "genre": "ec_product"
178
+ },
179
+ {
180
+ "url": "http://www.himawaricli.jp/blog/%E3%82%AF%E3%83%AA%E3%82%B9%E3%83%9E%E3%82%B9%EF%BC%92%EF%BC%81/",
181
+ "perplexity": 39.999998497642615,
182
+ "chars": 266,
183
+ "genre": "diary_blog"
184
+ },
185
+ {
186
+ "url": "https://finance.yahoo.co.jp/cm/message/1008508/a5a4a5ca53a1bc/49/430",
187
+ "perplexity": 39.999998312050586,
188
+ "chars": 537,
189
+ "genre": "other"
190
+ },
191
+ {
192
+ "url": "http://blog2828.blog17.fc2.com/blog-entry-1212.html",
193
+ "perplexity": 39.99999800964512,
194
+ "chars": 1738,
195
+ "genre": "diary_blog"
196
+ },
197
+ {
198
+ "url": "http://fabrog.com/araya/?p=1568",
199
+ "perplexity": 39.99999718855152,
200
+ "chars": 496,
201
+ "genre": "other"
202
+ }
203
+ ],
204
+ "examples_lowest_perplexity": [
205
+ {
206
+ "url": "https://www.jmrlsi.co.jp/company/message.html",
207
+ "perplexity": 2.2653319578385624,
208
+ "chars": 424,
209
+ "genre": "other"
210
+ },
211
+ {
212
+ "url": "http://e-pege.com/%E7%94%BA%E3%81%AF%E3%82%AE%E3%83%AA%E3%82%B7%E3%83%A3%E4%BA%BA%E3%81%AB%E7%99%BA%E8%A6%8B%E3%81%95%E3%82%8Chttp-p104-ezboard-com-skordiski-fistorijabalkanafrm27-showmessage-7/",
213
+ "perplexity": 3.5086999602730344,
214
+ "chars": 1348,
215
+ "genre": "other"
216
+ },
217
+ {
218
+ "url": "https://jp.famousbirthdays.com/people/sho-nakata.html",
219
+ "perplexity": 3.6298390343216482,
220
+ "chars": 239,
221
+ "genre": "other"
222
+ },
223
+ {
224
+ "url": "https://tommyinaka.com/%E4%BF%B3%E5%84%AA%E3%83%BB%E7%94%B7%E6%80%A7%E3%83%A2%E3%83%87%E3%83%AB%E3%83%BB%E3%82%BF%E3%83%AC%E3%83%B3%E3%83%88%E3%83%BB%E3%82%A2%E3%83%8A%E3%82%A6%E3%83%B3%E3%82%B5%E3%83%BC/kyary-pamyu-pamyu/",
225
+ "perplexity": 3.688557239721754,
226
+ "chars": 6151,
227
+ "genre": "other"
228
+ },
229
+ {
230
+ "url": "https://oll-academy.com/page-sample/",
231
+ "perplexity": 3.8197551471302544,
232
+ "chars": 323,
233
+ "genre": "diary_blog"
234
+ }
235
+ ],
236
+ "note_ja": "閾値以上(除外側)の文書は入力データに含まれないため、除外例は配布元データ(S3 の原本)からの抽出が必要。ここでは保持側の分布と閾値付近の残存例を示す。"
237
+ },
238
+ "item27_length": {
239
+ "chars_input_all": {
240
+ "records": 222924152,
241
+ "min": 1,
242
+ "p5": 211.0,
243
+ "p50": 937.0,
244
+ "p95": 4735.0,
245
+ "max": 469718,
246
+ "mean": 1560.2,
247
+ "sum": 347802755643
248
+ },
249
+ "chars_final_retained": {
250
+ "records": 211669682,
251
+ "min": 200,
252
+ "p5": 267.0,
253
+ "p50": 981.0,
254
+ "p95": 4727.0,
255
+ "max": 99992,
256
+ "mean": 1588.5,
257
+ "sum": 336235859889
258
+ },
259
+ "chars_input_deleted_toxic": {
260
+ "records": 1603314,
261
+ "min": 11,
262
+ "p5": 475.0,
263
+ "p50": 2964.0,
264
+ "p95": 14948.0,
265
+ "max": 366834,
266
+ "mean": 5067.7,
267
+ "sum": 8125063309
268
+ },
269
+ "chars_input_deleted_noise": {
270
+ "records": 9651156,
271
+ "min": 1,
272
+ "p5": 112.0,
273
+ "p50": 168.0,
274
+ "p95": 198.0,
275
+ "max": 469718,
276
+ "mean": 271.0,
277
+ "sum": 2615572575
278
+ },
279
+ "deletion_rate_by_genre": {
280
+ "affiliate": {
281
+ "label_ja": "投資・美容・健康のアフィリエイト",
282
+ "records": 13100763,
283
+ "deleted_noise": 2016702,
284
+ "deleted_toxic": 48430,
285
+ "retained": 11035631,
286
+ "deleted_rate": 0.15763
287
+ },
288
+ "diary_blog": {
289
+ "label_ja": "日記ブログ",
290
+ "records": 38036018,
291
+ "deleted_noise": 1833914,
292
+ "deleted_toxic": 105315,
293
+ "retained": 36096789,
294
+ "deleted_rate": 0.05098
295
+ },
296
+ "ec_product": {
297
+ "label_ja": "EC 商品ページ",
298
+ "records": 14629097,
299
+ "deleted_noise": 609211,
300
+ "deleted_toxic": 20178,
301
+ "retained": 13999708,
302
+ "deleted_rate": 0.04302
303
+ },
304
+ "entertainment": {
305
+ "label_ja": "芸能",
306
+ "records": 9962397,
307
+ "deleted_noise": 298725,
308
+ "deleted_toxic": 78676,
309
+ "retained": 9584996,
310
+ "deleted_rate": 0.03788
311
+ },
312
+ "game": {
313
+ "label_ja": "ゲーム",
314
+ "records": 5855284,
315
+ "deleted_noise": 262601,
316
+ "deleted_toxic": 47815,
317
+ "retained": 5544868,
318
+ "deleted_rate": 0.05301
319
+ },
320
+ "other": {
321
+ "label_ja": "その他",
322
+ "records": 141340593,
323
+ "deleted_noise": 4630003,
324
+ "deleted_toxic": 1302900,
325
+ "retained": 135407690,
326
+ "deleted_rate": 0.04198
327
+ }
328
+ },
329
+ "tokens_note_ja": "トークン数は方針によりトークナイザを指定しないため未集計(文字数のみ)。"
330
+ },
331
+ "item28_low_quality": {
332
+ "definition_ja": "保持文書のうち次のいずれかに該当: short_lt500(最終本文が500字未満)、symbol_digit_ratio_gt30(記号・数字比率30%超)、line_repetition_gt30(同一行の反復30%超)、avg_line_len_lt20(平均行長20字未満)、template_commerce(販促・商品ページの定型)、low_lid_confidence(言語判定の確信度0.5未満)",
333
+ "method_ja": "第2パスで文書ごとに決定的規則で判定(doc_features.py)。分類の妥当性はサ��プルの目視で確認する。",
334
+ "records_retained": 211669682,
335
+ "low_quality_records": 56424597,
336
+ "low_quality_rate": 0.26657,
337
+ "by_flag": [
338
+ {
339
+ "flag": "short_lt500",
340
+ "label_ja": "最終本文が500字未満",
341
+ "records": 49707412,
342
+ "ratio": 0.23483
343
+ },
344
+ {
345
+ "flag": "template_commerce",
346
+ "label_ja": "販促・商品ページの定型",
347
+ "records": 6554660,
348
+ "ratio": 0.03097
349
+ },
350
+ {
351
+ "flag": "avg_line_len_lt20",
352
+ "label_ja": "平均行長20字未満",
353
+ "records": 5575572,
354
+ "ratio": 0.02634
355
+ },
356
+ {
357
+ "flag": "symbol_digit_ratio_gt30",
358
+ "label_ja": "記号・数字比率30%超",
359
+ "records": 164622,
360
+ "ratio": 0.00078
361
+ },
362
+ {
363
+ "flag": "low_lid_confidence",
364
+ "label_ja": "言語判定の確信度0.5未満",
365
+ "records": 11570,
366
+ "ratio": 5e-05
367
+ },
368
+ {
369
+ "flag": "line_repetition_gt30",
370
+ "label_ja": "同一行の反復30%超",
371
+ "records": 2468,
372
+ "ratio": 1e-05
373
+ }
374
+ ],
375
+ "by_genre": [
376
+ {
377
+ "genre": "other",
378
+ "label_ja": "その他",
379
+ "records": 135407690,
380
+ "low_quality": 21669520,
381
+ "rate": 0.16
382
+ },
383
+ {
384
+ "genre": "diary_blog",
385
+ "label_ja": "日記ブログ",
386
+ "records": 36096789,
387
+ "low_quality": 15089199,
388
+ "rate": 0.418
389
+ },
390
+ {
391
+ "genre": "ec_product",
392
+ "label_ja": "EC 商品ページ",
393
+ "records": 13999708,
394
+ "low_quality": 7664404,
395
+ "rate": 0.5475
396
+ },
397
+ {
398
+ "genre": "affiliate",
399
+ "label_ja": "投資・美容・健康のアフィリエイト",
400
+ "records": 11035631,
401
+ "low_quality": 6369085,
402
+ "rate": 0.5771
403
+ },
404
+ {
405
+ "genre": "entertainment",
406
+ "label_ja": "芸能",
407
+ "records": 9584996,
408
+ "low_quality": 3157369,
409
+ "rate": 0.3294
410
+ },
411
+ {
412
+ "genre": "game",
413
+ "label_ja": "ゲーム",
414
+ "records": 5544868,
415
+ "low_quality": 2475020,
416
+ "rate": 0.4464
417
+ }
418
+ ],
419
+ "previous_review_rate": null,
420
+ "comparison_ja": "前回レビューの指摘値が未入力のため比較なし"
421
+ },
422
+ "item29_genre": {
423
+ "method_ja": "wordlists/genre/genre_rules.json の URL 規則と手がかり語で、1,000字あたりの異なり手がかり語数をスコア化(しきい値2.0)。製造業・重工の適合スコアは独立に算出。",
424
+ "distribution_retained": [
425
+ {
426
+ "genre": "other",
427
+ "label_ja": "その他",
428
+ "records": 135407690,
429
+ "ratio": 0.63971
430
+ },
431
+ {
432
+ "genre": "diary_blog",
433
+ "label_ja": "日記ブログ",
434
+ "records": 36096789,
435
+ "ratio": 0.17053
436
+ },
437
+ {
438
+ "genre": "ec_product",
439
+ "label_ja": "EC 商品ページ",
440
+ "records": 13999708,
441
+ "ratio": 0.06614
442
+ },
443
+ {
444
+ "genre": "affiliate",
445
+ "label_ja": "投資・美容・健康のアフィリエイト",
446
+ "records": 11035631,
447
+ "ratio": 0.05214
448
+ },
449
+ {
450
+ "genre": "entertainment",
451
+ "label_ja": "芸能",
452
+ "records": 9584996,
453
+ "ratio": 0.04528
454
+ },
455
+ {
456
+ "genre": "game",
457
+ "label_ja": "ゲーム",
458
+ "records": 5544868,
459
+ "ratio": 0.0262
460
+ }
461
+ ],
462
+ "manufacturing_relevant_records": 12164536,
463
+ "manufacturing_relevant_ratio": 0.05747,
464
+ "exclusion_decision": {
465
+ "excluded_genres": [],
466
+ "note_ja": "除外するジャンルは方針として決める。除外する場合は第3パスで genre 列を条件に削除し、件数を記録する。"
467
+ }
468
+ },
469
+ "noise_summaries_glob": "/cleaned/outputs_v2/**/noise_summary.json"
470
+ }
reports/quality_20260905T011530Z/quality_report.md ADDED
@@ -0,0 +1,97 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # 品質監査報告(E 重複・F 言語/品質・G ドメイン適合)
2
+
3
+ - 生成日時: 2026-09-04T21:40:48.401642+00:00
4
+ - 対象文書: 222,924,152(保持 211,669,682)
5
+
6
+ ## 項目22: 重複除去
7
+
8
+ - 配布元の実施: ABEJA(配布元、ABEJA-CC-JA 構築時)
9
+ - URL 重複除去(同一 URL は最新のスナップショットを採用)(閾値: 完全一致)
10
+ - MinHash による近似重複除去(text-dedup、Dataproc 上で実行)(閾値: 非公開(記事に閾値の記載なし))
11
+ - 出典: https://tech-blog.abeja.asia/entry/abeja-nedo-project-part2-202405, https://tech-blog.abeja.asia/entry/abeja-cc-ja-202409, https://registry.opendata.aws/abeja-cc-ja/
12
+ - 判断: 配布元で URL 重複除去と MinHash 近似重複除去が実施済みのため、近似重複除去は再実行しない。完全一致(本文 SHA-1、URL)の残存だけを全件で再確認して記録する。
13
+ - 完全一致の再確認(第2パス後の保持文書(全件)): 本文 SHA-1 重複 247,644(0.1170%)、URL 重複 299,141
14
+
15
+ ## 項目25: 言語判定
16
+
17
+ - ツール: fastText lid.176(文書先頭1,000字。行判定は30字以上の行を最大50行)。対象: 第1パス後の文書(有害フィルタ削除分を除く)
18
+ - 日本語比率: 99.9870%。混在文書(文書は日本語判定だが、30字以上の行のうち非日本語判定が3割以上): 665,764
19
+ - 処理: non_japanese: 削除(14867 文書、確信度0.5以上)、mixed: 保持し件数のみ記録(非日本語行は行単位で削除しない)
20
+
21
+ | 言語 | 文書数 | 比率 |
22
+ |---|---:|---:|
23
+ | ja | 221,291,612 | 99.9870% |
24
+ | en | 14,026 | 0.0060% |
25
+ | unk | 4,799 | 0.0020% |
26
+ | zh | 2,488 | 0.0010% |
27
+ | sh | 2,213 | 0.0010% |
28
+ | tr | 1,731 | 0.0010% |
29
+ | fr | 943 | 0.0000% |
30
+ | ru | 721 | 0.0000% |
31
+
32
+ ## 項目26: perplexity フィルタ
33
+
34
+ - 適用者: Podtech(入力データセット abeja-cc-ja-filtered の作成時)、モデル: KenLM(lighttransport/japanese-scoring-model)、閾値: perplexity < 40 を保持(https://huggingface.co/datasets/Podtech/abeja-cc-ja-filtered)
35
+ - 保持側の分布: min 2.3 / p5 9.8 / p50 17.7 / p95 34.0 / max 40.0
36
+ - ヒストグラム(5刻み): 0-5: 1,407, 5-10: 13,004,262, 10-15: 64,161,385, 15-20: 59,722,754, 20-25: 39,153,836, 25-30: 23,625,541, 30-35: 14,344,601, 35-40: 8,910,366
37
+ - 閾値付近の残存例:
38
+ - https://ponte.jpn.com/fashion/40579 (ppl 40.0, 567字, ec_product)
39
+ - http://www.himawaricli.jp/blog/%E3%82%AF%E3%83%AA%E3%82%B9%E3%83%9E%E3%82%B9%EF%BC%92%EF%B (ppl 40.0, 266字, diary_blog)
40
+ - https://finance.yahoo.co.jp/cm/message/1008508/a5a4a5ca53a1bc/49/430 (ppl 40.0, 537字, other)
41
+ - http://blog2828.blog17.fc2.com/blog-entry-1212.html (ppl 40.0, 1738字, diary_blog)
42
+ - http://fabrog.com/araya/?p=1568 (ppl 40.0, 496字, other)
43
+ - 注記: 閾値以上(除外側)の文書は入力データに含まれないため、除外例は配布元データ(S3 の原本)からの抽出が必要。ここでは保持側の分布と閾値付近の残存例を示す。
44
+
45
+ ## 項目27: 文書長の分布(フィルタ前後)
46
+
47
+ | 区分 | 文書数 | min | p5 | p50 | p95 | max | 平均 |
48
+ |---|---:|---:|---:|---:|---:|---:|---:|
49
+ | 入力(全件) | 222,924,152 | 1 | 211 | 937 | 4735 | 469718 | 1560.2 |
50
+ | 最終(保持) | 211,669,682 | 200 | 267 | 981 | 4727 | 99992 | 1588.5 |
51
+ | 有害フィルタで削除 | 1,603,314 | 11 | 475 | 2964 | 14948 | 366834 | 5067.7 |
52
+ | ノイズで削除 | 9,651,156 | 1 | 112 | 168 | 198 | 469718 | 271.0 |
53
+
54
+ ジャンル別の削除率(特定ジャンルだけが大量に落ちていないかの確認):
55
+
56
+ | ジャンル | 文書数 | 有害で削除 | ノイズで削除 | 削除率 |
57
+ |---|---:|---:|---:|---:|
58
+ | その他 | 141,340,593 | 1,302,900 | 4,630,003 | 4.20% |
59
+ | 日記ブログ | 38,036,018 | 105,315 | 1,833,914 | 5.10% |
60
+ | EC 商品ページ | 14,629,097 | 20,178 | 609,211 | 4.30% |
61
+ | 投資・美容・健康のアフィリエイト | 13,100,763 | 48,430 | 2,016,702 | 15.76% |
62
+ | 芸能 | 9,962,397 | 78,676 | 298,725 | 3.79% |
63
+ | ゲーム | 5,855,284 | 47,815 | 262,601 | 5.30% |
64
+
65
+ トークン数は方針によりトークナイザを指定しないため未集計(文字数のみ)。
66
+
67
+ ## 項目28: 低品質ページ
68
+
69
+ - 定義: 保持文書のうち次のいずれかに該当: short_lt500(最終本文が500字未満)、symbol_digit_ratio_gt30(記号・数字比率30%超)、line_repetition_gt30(同一行の反復30%超)、avg_line_len_lt20(平均行長20字未満)、template_commerce(販促・商品ページの定型)、low_lid_confidence(言語判定の確信度0.5未満)
70
+ - 方法: 第2パスで文書ごとに決定的規則で判定(doc_features.py)。分類の妥当性はサンプルの目視で確認する。
71
+ - 比率: 56,424,597 / 211,669,682 = 26.66%。前回レビューの指摘値が未入力のため比較なし
72
+
73
+ | 該当条件 | 文書数 | 比率 |
74
+ |---|---:|---:|
75
+ | 最終本文が500字未満 | 49,707,412 | 23.48% |
76
+ | 販促・商品ページの定型 | 6,554,660 | 3.10% |
77
+ | 平均行長20字未満 | 5,575,572 | 2.63% |
78
+ | 記号・数字比率30%超 | 164,622 | 0.08% |
79
+ | 言語判定の確信度0.5未満 | 11,570 | 0.01% |
80
+ | 同一行の反復30%超 | 2,468 | 0.00% |
81
+
82
+ ## 項目29: 無関係ジャンルの比率
83
+
84
+ - 方法: wordlists/genre/genre_rules.json の URL 規則と手がかり語で、1,000字あたりの異なり手がかり語数をスコア化(しきい値2.0)。製造業・重工の適合スコアは独立に算出。
85
+
86
+ | ジャンル | 文書数 | 比率 |
87
+ |---|---:|---:|
88
+ | その他 | 135,407,690 | 63.97% |
89
+ | 日記ブログ | 36,096,789 | 17.05% |
90
+ | EC 商品ページ | 13,999,708 | 6.61% |
91
+ | 投資・美容・健康のアフィリエイト | 11,035,631 | 5.21% |
92
+ | 芸能 | 9,584,996 | 4.53% |
93
+ | ゲーム | 5,544,868 | 2.62% |
94
+
95
+ - 製造業・重工に適合(スコア2.0以上): 12,164,536(5.75%)
96
+ - 除外の判断: 除外ジャンル = なし。除外するジャンルは方針として決める。除外する場合は第3パスで genre 列を条件に削除し、件数を記録する。
97
+