quality report (items 22, 25-29)

reports/quality_20260905T202529Z/quality_report.json

@@ -0,0 +1,514 @@
+{
+  "generated_at_utc": "2026-09-05T20:23:11.846580+00:00",
+  "features_glob": "/work/features/outputs_v2/**/features.parquet",
+  "records_total": 222924152,
+  "records_retained": 211377871,
+  "guard_pass": {
+    "guard_removed_glob": "/work/features/outputs_v3/**/guard_removed.jsonl",
+    "records_in_guard_removed": 291811,
+    "records_matched_to_features": 291811,
+    "by_category": [
+      {
+        "category": "Sexual Content or Sexual Acts",
+        "records": 206204
+      },
+      {
+        "category": "Non-violent Illegal Acts",
+        "records": 37154
+      },
+      {
+        "category": "Violent",
+        "records": 25307
+      },
+      {
+        "category": "Unethical Acts",
+        "records": 16923
+      },
+      {
+        "category": "Suicide & Self-Harm",
+        "records": 6223
+      }
+    ],
+    "note_ja": "第3パス（Qwen3Guard による削除）を features の status に 'deleted_guard:classifier' として反映。以降の保持件数はこの削除後の値。"
+  },
+  "item22_dedup": {
+    "upstream": {
+      "performed_by": "ABEJA（配布元、ABEJA-CC-JA 構築時）",
+      "methods": [
+        {
+          "method": "URL 重複除去（同一 URL は最新のスナップショットを採用）",
+          "threshold": "完全一致"
+        },
+        {
+          "method": "MinHash による近似重複除去（text-dedup、Dataproc 上で実行）",
+          "threshold": "非公開（記事に閾値の記載なし）"
+        }
+      ],
+      "source_urls": [
+        "https://tech-blog.abeja.asia/entry/abeja-nedo-project-part2-202405",
+        "https://tech-blog.abeja.asia/entry/abeja-cc-ja-202409",
+        "https://registry.opendata.aws/abeja-cc-ja/"
+      ],
+      "decision_ja": "配布元で URL 重複除去と MinHash 近似重複除去が実施済みのため、近似重複除去は再実行しない。完全一致（本文 SHA-1、URL）の残存だけを全件で再確認して記録する。"
+    },
+    "exact_duplicate_check": {
+      "scope": "第3パス後の保持文書（全件）",
+      "content_sha1_duplicates": 247312,
+      "url_duplicates": 298769,
+      "content_sha1_duplicate_rate": 0.00117,
+      "url_duplicate_rate": 0.001413
+    }
+  },
+  "item25_language": {
+    "tool": "fastText lid.176（文書先頭1,000字。行判定は30字以上の行を最大50行）",
+    "scope": "第1パス後の文書（有害フィルタ削除分を除く）",
+    "distribution": [
+      {
+        "lang": "ja",
+        "records": 221291612,
+        "ratio": 0.99987
+      },
+      {
+        "lang": "en",
+        "records": 14026,
+        "ratio": 6e-05
+      },
+      {
+        "lang": "unk",
+        "records": 4799,
+        "ratio": 2e-05
+      },
+      {
+        "lang": "zh",
+        "records": 2488,
+        "ratio": 1e-05
+      },
+      {
+        "lang": "sh",
+        "records": 2213,
+        "ratio": 1e-05
+      },
+      {
+        "lang": "tr",
+        "records": 1731,
+        "ratio": 1e-05
+      },
+      {
+        "lang": "fr",
+        "records": 943,
+        "ratio": 0.0
+      },
+      {
+        "lang": "ru",
+        "records": 721,
+        "ratio": 0.0
+      },
+      {
+        "lang": "es",
+        "records": 544,
+        "ratio": 0.0
+      },
+      {
+        "lang": "th",
+        "records": 236,
+        "ratio": 0.0
+      },
+      {
+        "lang": "de",
+        "records": 219,
+        "ratio": 0.0
+      },
+      {
+        "lang": "uk",
+        "records": 193,
+        "ratio": 0.0
+      },
+      {
+        "lang": "ko",
+        "records": 188,
+        "ratio": 0.0
+      },
+      {
+        "lang": "it",
+        "records": 137,
+        "ratio": 0.0
+      },
+      {
+        "lang": "hu",
+        "records": 135,
+        "ratio": 0.0
+      }
+    ],
+    "japanese_ratio": 0.99987,
+    "mixed_language_records": 664985,
+    "mixed_definition": "文書は日本語判定だが、30字以上の行のうち非日本語判定が3割以上",
+    "processing": {
+      "non_japanese": "削除（14867 文書、確信度0.5以上）",
+      "mixed": "保持し件数のみ記録（非日本語行は行単位で削除しない）"
+    }
+  },
+  "item26_perplexity": {
+    "filter": {
+      "applied_by": "Podtech（入力データセット abeja-cc-ja-filtered の作成時）",
+      "model": "KenLM（lighttransport/japanese-scoring-model）",
+      "threshold": "perplexity < 40 を保持",
+      "source_url": "https://huggingface.co/datasets/Podtech/abeja-cc-ja-filtered"
+    },
+    "distribution_retained": {
+      "min": 2.2653319578385624,
+      "p5": 9.783503816134573,
+      "p25": 13.460497833510995,
+      "p50": 17.661450515163345,
+      "p75": 23.633965676577905,
+      "p95": 34.04114484824785,
+      "max": 39.99999971479578
+    },
+    "histogram_bin5": [
+      {
+        "bin_start": 0,
+        "records": 1407
+      },
+      {
+        "bin_start": 5,
+        "records": 13004262
+      },
+      {
+        "bin_start": 10,
+        "records": 64161385
+      },
+      {
+        "bin_start": 15,
+        "records": 59722754
+      },
+      {
+        "bin_start": 20,
+        "records": 39153836
+      },
+      {
+        "bin_start": 25,
+        "records": 23625541
+      },
+      {
+        "bin_start": 30,
+        "records": 14344601
+      },
+      {
+        "bin_start": 35,
+        "records": 8910366
+      }
+    ],
+    "examples_near_threshold_retained": [
+      {
+        "url": "https://ponte.jpn.com/fashion/40579",
+        "perplexity": 39.99999971479578,
+        "chars": 567,
+        "genre": "ec_product"
+      },
+      {
+        "url": "http://www.himawaricli.jp/blog/%E3%82%AF%E3%83%AA%E3%82%B9%E3%83%9E%E3%82%B9%EF%BC%92%EF%BC%81/",
+        "perplexity": 39.999998497642615,
+        "chars": 266,
+        "genre": "diary_blog"
+      },
+      {
+        "url": "https://finance.yahoo.co.jp/cm/message/1008508/a5a4a5ca53a1bc/49/430",
+        "perplexity": 39.999998312050586,
+        "chars": 537,
+        "genre": "other"
+      },
+      {
+        "url": "http://blog2828.blog17.fc2.com/blog-entry-1212.html",
+        "perplexity": 39.99999800964512,
+        "chars": 1738,
+        "genre": "diary_blog"
+      },
+      {
+        "url": "http://fabrog.com/araya/?p=1568",
+        "perplexity": 39.99999718855152,
+        "chars": 496,
+        "genre": "other"
+      }
+    ],
+    "examples_lowest_perplexity": [
+      {
+        "url": "https://www.jmrlsi.co.jp/company/message.html",
+        "perplexity": 2.2653319578385624,
+        "chars": 424,
+        "genre": "other"
+      },
+      {
+        "url": "http://e-pege.com/%E7%94%BA%E3%81%AF%E3%82%AE%E3%83%AA%E3%82%B7%E3%83%A3%E4%BA%BA%E3%81%AB%E7%99%BA%E8%A6%8B%E3%81%95%E3%82%8Chttp-p104-ezboard-com-skordiski-fistorijabalkanafrm27-showmessage-7/",
+        "perplexity": 3.5086999602730344,
+        "chars": 1348,
+        "genre": "other"
+      },
+      {
+        "url": "https://jp.famousbirthdays.com/people/sho-nakata.html",
+        "perplexity": 3.6298390343216482,
+        "chars": 239,
+        "genre": "other"
+      },
+      {
+        "url": "https://tommyinaka.com/%E4%BF%B3%E5%84%AA%E3%83%BB%E7%94%B7%E6%80%A7%E3%83%A2%E3%83%87%E3%83%AB%E3%83%BB%E3%82%BF%E3%83%AC%E3%83%B3%E3%83%88%E3%83%BB%E3%82%A2%E3%83%8A%E3%82%A6%E3%83%B3%E3%82%B5%E3%83%BC/kyary-pamyu-pamyu/",
+        "perplexity": 3.688557239721754,
+        "chars": 6151,
+        "genre": "other"
+      },
+      {
+        "url": "https://oll-academy.com/page-sample/",
+        "perplexity": 3.8197551471302544,
+        "chars": 323,
+        "genre": "diary_blog"
+      }
+    ],
+    "note_ja": "閾値以上（除外側）の文書は入力データに含まれないため、除外例は配布元データ（S3 の原本）からの抽出が必要。ここでは保持側の分布と閾値付近の残存例を示す。"
+  },
+  "item27_length": {
+    "chars_input_all": {
+      "records": 222924152,
+      "min": 1,
+      "p5": 211.0,
+      "p50": 937.0,
+      "p95": 4735.0,
+      "max": 469718,
+      "mean": 1560.2,
+      "sum": 347802755643
+    },
+    "chars_final_retained": {
+      "records": 211377871,
+      "min": 200,
+      "p5": 267.0,
+      "p50": 981.0,
+      "p95": 4728.0,
+      "max": 99992,
+      "mean": 1588.8,
+      "sum": 335840921345
+    },
+    "chars_input_deleted_toxic": {
+      "records": 1603314,
+      "min": 11,
+      "p5": 475.0,
+      "p50": 2964.0,
+      "p95": 14948.0,
+      "max": 366834,
+      "mean": 5067.7,
+      "sum": 8125063309
+    },
+    "chars_input_deleted_noise": {
+      "records": 9651156,
+      "min": 1,
+      "p5": 112.0,
+      "p50": 168.0,
+      "p95": 198.0,
+      "max": 469718,
+      "mean": 271.0,
+      "sum": 2615572575
+    },
+    "chars_input_deleted_guard": {
+      "records": 291811,
+      "min": 200,
+      "p5": 248.0,
+      "p50": 759.0,
+      "p95": 4119.0,
+      "max": 93591,
+      "mean": 1355.8,
+      "sum": 395634767
+    },
+    "deletion_rate_by_genre": {
+      "affiliate": {
+        "label_ja": "投資・美容・健康のアフィリエイト",
+        "records": 13100763,
+        "deleted_guard": 24973,
+        "deleted_noise": 2016702,
+        "deleted_toxic": 48430,
+        "retained": 11010658,
+        "deleted_rate": 0.15954
+      },
+      "diary_blog": {
+        "label_ja": "日記ブログ",
+        "records": 38036018,
+        "deleted_guard": 34115,
+        "deleted_noise": 1833914,
+        "deleted_toxic": 105315,
+        "retained": 36062674,
+        "deleted_rate": 0.05188
+      },
+      "ec_product": {
+        "label_ja": "EC 商品ページ",
+        "records": 14629097,
+        "deleted_guard": 11369,
+        "deleted_noise": 609211,
+        "deleted_toxic": 20178,
+        "retained": 13988339,
+        "deleted_rate": 0.0438
+      },
+      "entertainment": {
+        "label_ja": "芸能",
+        "records": 9962397,
+        "deleted_guard": 21134,
+        "deleted_noise": 298725,
+        "deleted_toxic": 78676,
+        "retained": 9563862,
+        "deleted_rate": 0.04
+      },
+      "game": {
+        "label_ja": "ゲーム",
+        "records": 5855284,
+        "deleted_guard": 12230,
+        "deleted_noise": 262601,
+        "deleted_toxic": 47815,
+        "retained": 5532638,
+        "deleted_rate": 0.0551
+      },
+      "other": {
+        "label_ja": "その他",
+        "records": 141340593,
+        "deleted_guard": 187990,
+        "deleted_noise": 4630003,
+        "deleted_toxic": 1302900,
+        "retained": 135219700,
+        "deleted_rate": 0.04331
+      }
+    },
+    "tokens_note_ja": "トークン数は方針によりトークナイザを指定しないため未集計（文字数のみ）。"
+  },
+  "item28_low_quality": {
+    "definition_ja": "保持文書のうち次のいずれかに該当: short_lt500（最終本文が500字未満）、symbol_digit_ratio_gt30（記号・数字比率30%超）、line_repetition_gt30（同一行の反復30%超）、avg_line_len_lt20（平均行長20字未満）、template_commerce（販促・商品ページの定型）、low_lid_confidence（言語判定の確信度0.5未満）",
+    "method_ja": "第2パスで文書ごとに決定的規則で判定（doc_features.py）。分類の妥当性はサンプルの目視で確認する。",
+    "records_retained": 211377871,
+    "low_quality_records": 56327845,
+    "low_quality_rate": 0.26648,
+    "by_flag": [
+      {
+        "flag": "short_lt500",
+        "label_ja": "最終本文が500字未満",
+        "records": 49617521,
+        "ratio": 0.23473
+      },
+      {
+        "flag": "template_commerce",
+        "label_ja": "販促・商品ページの定型",
+        "records": 6546929,
+        "ratio": 0.03097
+      },
+      {
+        "flag": "avg_line_len_lt20",
+        "label_ja": "平均行長20字未満",
+        "records": 5569534,
+        "ratio": 0.02635
+      },
+      {
+        "flag": "symbol_digit_ratio_gt30",
+        "label_ja": "記号・数字比率30%超",
+        "records": 164138,
+        "ratio": 0.00078
+      },
+      {
+        "flag": "low_lid_confidence",
+        "label_ja": "言語判定の確信度0.5未満",
+        "records": 11562,
+        "ratio": 5e-05
+      },
+      {
+        "flag": "line_repetition_gt30",
+        "label_ja": "同一行の反復30%超",
+        "records": 2466,
+        "ratio": 1e-05
+      }
+    ],
+    "by_genre": [
+      {
+        "genre": "other",
+        "label_ja": "その他",
+        "records": 135219700,
+        "low_quality": 21629818,
+        "rate": 0.16
+      },
+      {
+        "genre": "diary_blog",
+        "label_ja": "日記ブログ",
+        "records": 36062674,
+        "low_quality": 15070888,
+        "rate": 0.4179
+      },
+      {
+        "genre": "ec_product",
+        "label_ja": "EC 商品ページ",
+        "records": 13988339,
+        "low_quality": 7657830,
+        "rate": 0.5474
+      },
+      {
+        "genre": "affiliate",
+        "label_ja": "投資・美容・健康のアフィリエイト",
+        "records": 11010658,
+        "low_quality": 6357138,
+        "rate": 0.5774
+      },
+      {
+        "genre": "entertainment",
+        "label_ja": "芸能",
+        "records": 9563862,
+        "low_quality": 3146150,
+        "rate": 0.329
+      },
+      {
+        "genre": "game",
+        "label_ja": "ゲーム",
+        "records": 5532638,
+        "low_quality": 2466021,
+        "rate": 0.4457
+      }
+    ],
+    "previous_review_rate": null,
+    "comparison_ja": "前回レビューの指摘値が未入力のため比較なし"
+  },
+  "item29_genre": {
+    "method_ja": "wordlists/genre/genre_rules.json の URL 規則と手がかり語で、1,000字あたりの異なり手がかり語数をスコア化（しきい値2.0）。製造業・重工の適合スコアは独立に算出。",
+    "distribution_retained": [
+      {
+        "genre": "other",
+        "label_ja": "その他",
+        "records": 135219700,
+        "ratio": 0.63971
+      },
+      {
+        "genre": "diary_blog",
+        "label_ja": "日記ブログ",
+        "records": 36062674,
+        "ratio": 0.17061
+      },
+      {
+        "genre": "ec_product",
+        "label_ja": "EC 商品ページ",
+        "records": 13988339,
+        "ratio": 0.06618
+      },
+      {
+        "genre": "affiliate",
+        "label_ja": "投資・美容・健康のアフィリエイト",
+        "records": 11010658,
+        "ratio": 0.05209
+      },
+      {
+        "genre": "entertainment",
+        "label_ja": "芸能",
+        "records": 9563862,
+        "ratio": 0.04525
+      },
+      {
+        "genre": "game",
+        "label_ja": "ゲーム",
+        "records": 5532638,
+        "ratio": 0.02617
+      }
+    ],
+    "manufacturing_relevant_records": 12158031,
+    "manufacturing_relevant_ratio": 0.05752,
+    "exclusion_decision": {
+      "excluded_genres": [],
+      "note_ja": "除外するジャンルは方針として決める。除外する場合は第3パスで genre 列を条件に削除し���件数を記録する。"
+    }
+  },
+  "noise_summaries_glob": "/work/features/outputs_v2/**/noise_summary.json"
+}

reports/quality_20260905T202529Z/quality_report.md

@@ -0,0 +1,103 @@
+# 品質監査報告（E 重複・F 言語/品質・G ドメイン適合）
+
+- 生成日時: 2026-09-05T20:23:11.846580+00:00
+- 対象文書: 222,924,152（保持 211,377,871）
+
+## 第3パス（分類器による削除）の反映
+
+- 第3パス（Qwen3Guard による削除）を features の status に 'deleted_guard:classifier' として反映。以降の保持件数はこの削除後の値。
+- 削除記録 291,811 件、features に突合できた件数 291,811
+- カテゴリ別: Sexual Content or Sexual Acts 206,204, Non-violent Illegal Acts 37,154, Violent 25,307, Unethical Acts 16,923, Suicide & Self-Harm 6,223
+
+## 項目22: 重複除去
+
+- 配布元の実施: ABEJA（配布元、ABEJA-CC-JA 構築時）
+  - URL 重複除去（同一 URL は最新のスナップショットを採用）（閾値: 完全一致）
+  - MinHash による近似重複除去（text-dedup、Dataproc 上で実行）（閾値: 非公開（記事に閾値の記載なし））
+- 出典: https://tech-blog.abeja.asia/entry/abeja-nedo-project-part2-202405, https://tech-blog.abeja.asia/entry/abeja-cc-ja-202409, https://registry.opendata.aws/abeja-cc-ja/
+- 判断: 配布元で URL 重複除去と MinHash 近似重複除去が実施済みのため、近似重複除去は再実行しない。完全一致（本文 SHA-1、URL）の残存だけを全件で再確認して記録する。
+- 完全一致の再確認（第3パス後の保持文書（全件））: 本文 SHA-1 重複 247,312（0.1170%）、URL 重複 298,769
+
+## 項目25: 言語判定
+
+- ツール: fastText lid.176（文書先頭1,000字。行判定は30字以上の行を最大50行）。対象: 第1パス後の文書（有害フィルタ削除分を除く）
+- 日本語比率: 99.9870%。混在文書（文書は日本語判定だが、30字以上の行のうち非日本語判定が3割以上）: 664,985
+- 処理: non_japanese: 削除（14867 文書、確信度0.5以上）、mixed: 保持し件数のみ記録（非日本語行は行単位で削除しない）
+
+| 言語 | 文書数 | 比率 |
+|---|---:|---:|
+| ja | 221,291,612 | 99.9870% |
+| en | 14,026 | 0.0060% |
+| unk | 4,799 | 0.0020% |
+| zh | 2,488 | 0.0010% |
+| sh | 2,213 | 0.0010% |
+| tr | 1,731 | 0.0010% |
+| fr | 943 | 0.0000% |
+| ru | 721 | 0.0000% |
+
+## 項目26: perplexity フィルタ
+
+- 適用者: Podtech（入力データセット abeja-cc-ja-filtered の作成時）、モデル: KenLM（lighttransport/japanese-scoring-model）、閾値: perplexity < 40 を保持（https://huggingface.co/datasets/Podtech/abeja-cc-ja-filtered）
+- 保持側の分布: min 2.3 / p5 9.8 / p50 17.7 / p95 34.0 / max 40.0
+- ヒストグラム（5刻み）: 0-5: 1,407, 5-10: 13,004,262, 10-15: 64,161,385, 15-20: 59,722,754, 20-25: 39,153,836, 25-30: 23,625,541, 30-35: 14,344,601, 35-40: 8,910,366
+- 閾値付近の残存例:
+  - https://ponte.jpn.com/fashion/40579 (ppl 40.0, 567字, ec_product)
+  - http://www.himawaricli.jp/blog/%E3%82%AF%E3%83%AA%E3%82%B9%E3%83%9E%E3%82%B9%EF%BC%92%EF%B (ppl 40.0, 266字, diary_blog)
+  - https://finance.yahoo.co.jp/cm/message/1008508/a5a4a5ca53a1bc/49/430 (ppl 40.0, 537字, other)
+  - http://blog2828.blog17.fc2.com/blog-entry-1212.html (ppl 40.0, 1738字, diary_blog)
+  - http://fabrog.com/araya/?p=1568 (ppl 40.0, 496字, other)
+- 注記: 閾値以上（除外側）の文書は入力データに含まれないため、除外例は配布元データ（S3 の原本）からの抽出が必要。ここでは保持側の分布と閾値付近の残存例を示す。
+
+## 項目27: 文書長の分布（フィルタ前後）
+
+| 区分 | 文書数 | min | p5 | p50 | p95 | max | 平均 |
+|---|---:|---:|---:|---:|---:|---:|---:|
+| 入力（全件） | 222,924,152 | 1 | 211 | 937 | 4735 | 469718 | 1560.2 |
+| 最終（保持） | 211,377,871 | 200 | 267 | 981 | 4728 | 99992 | 1588.8 |
+| 有害フィルタで削除 | 1,603,314 | 11 | 475 | 2964 | 14948 | 366834 | 5067.7 |
+| ノイズで削除 | 9,651,156 | 1 | 112 | 168 | 198 | 469718 | 271.0 |
+
+ジャンル別の削除率（特定ジャンルだけが大量に落ちていないかの確認）:
+
+| ジャンル | 文書数 | 有害で削除 | ノイズで削除 | 削除率 |
+|---|---:|---:|---:|---:|
+| その他 | 141,340,593 | 1,302,900 | 4,630,003 | 4.33% |
+| 日記ブログ | 38,036,018 | 105,315 | 1,833,914 | 5.19% |
+| EC 商品ページ | 14,629,097 | 20,178 | 609,211 | 4.38% |
+| 投資・美容・健康のアフィリエイト | 13,100,763 | 48,430 | 2,016,702 | 15.95% |
+| 芸能 | 9,962,397 | 78,676 | 298,725 | 4.00% |
+| ゲーム | 5,855,284 | 47,815 | 262,601 | 5.51% |
+
+トークン数は方針によりトークナイザを指定しないため未集計（文字数のみ）。
+
+## 項目28: 低品質ページ
+
+- 定義: 保持文書のうち次のいずれかに該当: short_lt500（最終本文が500字未満）、symbol_digit_ratio_gt30（記号・数字比率30%超）、line_repetition_gt30（同一行の反復30%超）、avg_line_len_lt20（平均行長20字未満）、template_commerce（販促・商品ページの定型）、low_lid_confidence（言語判定の確信度0.5未満）
+- 方法: 第2パスで文書ごとに決定的規則で判定（doc_features.py）。分類の妥当性はサンプルの目視で確認する。
+- 比率: 56,327,845 / 211,377,871 = 26.65%。前回レビューの指摘値が未入力のため比較なし
+
+| 該当条件 | 文書数 | 比率 |
+|---|---:|---:|
+| 最終本文が500字未満 | 49,617,521 | 23.47% |
+| 販促・商品ページの定型 | 6,546,929 | 3.10% |
+| 平均行長20字未満 | 5,569,534 | 2.63% |
+| 記号・数字比率30%超 | 164,138 | 0.08% |
+| 言語判定の確信度0.5未満 | 11,562 | 0.01% |
+| 同一行の反復30%超 | 2,466 | 0.00% |
+
+## 項目29: 無関係ジャンルの比率
+
+- 方法: wordlists/genre/genre_rules.json の URL 規則と手がかり語で、1,000字あたりの異なり手がかり語数をスコア化（しきい値2.0）。製造業・重工の適合スコアは独立に算出。
+
+| ジャンル | 文書数 | 比率 |
+|---|---:|---:|
+| その他 | 135,219,700 | 63.97% |
+| 日記ブログ | 36,062,674 | 17.06% |
+| EC 商品ページ | 13,988,339 | 6.62% |
+| 投資・美容・健康のアフィリエイト | 11,010,658 | 5.21% |
+| 芸能 | 9,563,862 | 4.52% |
+| ゲーム | 5,532,638 | 2.62% |
+
+- 製造業・重工に適合（スコア2.0以上）: 12,158,031（5.75%）
+- 除外の判断: 除外ジャンル = なし。除外するジャンルは方針として決める。除外する場合は第3パスで genre 列を条件に削除し、件数を記録する。
+