J-TTS-Eval20K: Japanese Multi-Domain Corpus for TTS/ASR Evaluation & Duration Modeling

---

📊 データセット統計

項目	統計値
総文数 (Total Sentences)	20,070 件
カテゴリ数 (Categories)	134 種類
収録ドメイン群 (Major Domains)	8大ドメイン
総文字数 (Text Characters)	649,260 文字 (平均 32.3文字 / 文)
総発音文字数 (Pronunciation Chars)	881,405 文字 (平均 43.9文字 / 文)
文長レンジ (Length Range)	最小 2 文字 〜 最大 133 文字 (IQR: 21 〜 42文字)
欠損値・NULL (Missing Values)	0 件 (100% 完全性)
ID 重複 (ID Duplication)	0 件 (全件ユニーク)

分割内訳 (Split Distribution)

Split	件数	割合	説明
train	16,056	80.0%	音声合成モデル・時間予測モデル・GRPO学習用
validation	2,007	10.0%	チェックポイント選定・ハイパーパラメータ調整用
test	2,007	10.0%	最終評価・公開ベンチマーク用
sample_100	100	-	CI/CD・高速動作確認用軽量サブセット (testより100カテゴリ層化抽出)
dataset_full	20,070	100.0%	全量アーカイブ

---

🌳 収録カテゴリの体系的ツリー (134カテゴリ / 8大ドメイン)

本コーパスは、日常的な会話から極限の難読語、専門的な学術・法令文書まで、音声合成・認識が直面するあらゆる課題を網羅しています。

J-TTS-Eval20K (20,070件 / 134カテゴリ)
│
├── 1. 法令・公用文 (Law & Governance) [1,181件]
│   ├── LAW_CONSTITUTION (憲法)
│   ├── LAW_CIVIL (民法)
│   ├── LAW_PENAL (刑法)
│   ├── LAW_COMMERCIAL (商法)
│   ├── LAW_JUDICIAL (裁判・手続法)
│   └── 法律・行政用語 (TERM_LAW / EXT_OFFICIAL / EXT_INTERNAL)
│
├── 2. 教科書・学術・専門 (Education & Academia) [4,212件]
│   ├── 教科書12科目: 日本史 (EDU_JAPAN_HIST), 世界史 (EDU_WORLD_HIST), 地理 (EDU_GEOGRAPHY),
│   │                 公民 (EDU_CIVICS), 情報 (EDU_INFORMATICS), 地学 (EDU_GEOLOGY),
│   │                 生物 (EDU_BIOLOGY), 化学 (EDU_CHEMISTRY), 物理 (EDU_PHYSICS),
│   │                 数学 (EDU_MATH), 古典 (EDU_CLASSICAL_JP), 漢文 (EDU_KANBUN)
│   └── 学術・論文: PAPER_ACADEMIC (学術論文), PHILOSOPHY (哲学思想), MANUAL_TECH (技術仕様),
│                   FINANCE_ECON (経済金融), 科学解説 (EXT_SCI), 歴史解説 (EXT_HIST), 教育・学術用語 (TERM_EDU)
│
├── 3. AIエージェント・対話・通知 (AI Agent & Dialog) [3,648件]
│   ├── AGENT_ASSISTANT (AI対話エージェント・音声案内)
│   ├── GENERAL_CONV / PRACTICAL_TALK (実用日常対話)
│   ├── CHAT / DAILY / DAILY_CASUAL / EXT_DAILY (口語チャット・カジュアル対話)
│   └── 短文・状態通知: SHORT_REACTION (リアクション), EXT_AI, TECH_SUPPORT,
│                       EXT_SYS, EXT_GUIDE, EXT_ERR, EXT_APOLOGY
│
├── 4. 四字熟語・ことわざ・古典文学 (Proverbs & Classics) [1,503件]
│   ├── YOJI_PROVERB (四字熟語)
│   ├── PROVERB / EXT_IDIOM (慣用句・ことわざ)
│   ├── LIT_CLASSIC (古典名作) / EXT_CLASSIC / TERM_HIST (歴史・古典用語)
│   └── 文学朗読: TERM_LIT, EXT_LIT, EXT_NARRATION, EXT_CHILD, EXT_DOC, EXT_TRAVEL_ESSAY
│
├── 5. SNS・実況・現代口語 (Social Media & Streams) [2,130件]
│   ├── SNS_POST (短文投稿・ネットスラング・ハッシュタグ混じり)
│   ├── GAME_STREAM / STREAM_COMMENT / EXT_STREAM (ゲーム実況・生放送コメント)
│   └── キャラクター台詞: CHARA / EXT_CHARA / EXT_EMOTION
│
├── 6. 報道・ビジネス・アナウンス (News, Business & Public) [874件]
│   ├── 報道ニュース: NEWS / EXT_NEWS / EXT_BIZ_NEWS
│   ├── ビジネス・敬語: BIZ_FORMAL / EXT_KEIGO / EXT_BIZ / NANDOKU_BIZ
│   └── 公共アナウンス: NAV_ANNOUNCE (交通ナビ), EXT_FACILITY, EXT_ANNOUNCE, EXT_GREETING
│
├── 7. 難読漢字・音素ストレステスト (Phonetics & Orthography) [5,230件]
│   ├── 固有名詞難読: NANDOKU_NAME, NANDOKU_GEO, NANDOKU_STATION, NANDOKU_PROPER, TERM_ADDRESS
│   ├── 同音異義語・文脈読み: HOMO, HOMO_NOUN, HOMO_VERB,
│   │                         YOMIKAE (人数数量、動詞地名、時間日付、文脈読み変わり)
│   ├── 難度最高峰漢字: NANDOKU_KANJI, KANJI_DIFF, NANDOKU_MISC
│   ├── 特殊音素・発音変化: PHON_LONG, PHON_BIDAKU, EXT_DIALECT, 早口言葉 (TONGUE), LONG_STRESS
│   ├── 助数詞・数字・記号: NUM_COUNTER, NUM_DATE, NUM_SYMBOL, LOAN
│   └── 分野別専門用語難読: TERM_MED, TERM_SCI, TERM_IT,
│                           TERM_FIN, TERM_FOOD, TERM_NATURE, TERM_DISASTER,
│                           NANDOKU_PLANT, NANDOKU_ANIMAL, TERM_MUSIC, TERM_SPORT, TERM_RELIGION
│
└── 8. その他・実用日常 (Other / General Scenarios) [1,292件]
    ├── COOKING_RECIPE (料理レシピ)
    ├── WEATHER / EXT_WEATHER / NANDOKU_WEATHER
    ├── TRAVEL (旅行・観光) / SHOP (店舗・買い物)
    └── EXT_STORY / EXT_DESC

---

📋 カラム定義 (Schema & Design Intent)

各レコードは以下の8つのフィールドで構成されています。

カラム名	型	設計意図・用途	記述例
id	string	各サンプルを一意に識別するキー。サブセットや分野ごとのプレフィックスを保持。	EXT_DAILY_0001
category	string	134種類の詳細カテゴリID。ドメイン別の評価や層化サンプリングのキー。	EXT_DAILY
text	string	実際のTTS/ASR運用の入力となる漢字仮名交じり表記。句読点や数字・アルファベットを含む。	今日は朝から雨が降っているね。
ruby_text	string	漢字・数字・英略語・記号ごとに丸括弧で純ひらがな読みを付与したルビ付き表記。G2Pのグラウンドトゥルース。	今日(きょう)は朝(あさ)から雨(あめ)が降(ふ)っているね。
hiragana	string	全文ひらがな表記。expand_ruby(ruby_text) により決定論的に展開された純度100%のひらがな読み。	きょうはあさからあめがふっているね。
katakana	string	表層カタカナ表記。hira_to_kata(hiragana) による決定論的変換。音節数やモーラ境界の同定に有用。	キョウハアサカラアメガフッテイルネ。
pronunciation	string	音響モデル・発音辞書用の完全発音カタカナ。助詞「は」→「ワ」、「へ」→「エ」、長音化「きょう」→「キョー」を完全反映。	キョーワアサカラアメガフッテイルネ。
notes	string	発話スタイル、音響的特徴、難読ポイント、アクセント注意点などのメタデータ。	普通体、天気の雑談、きょうの長音

---

🎯 主なベンチマーク・研究用途

1. TTS（音声合成）の音響・時間予測評価:
   • 生成音声の文字認識（ASR）による CER (Character Error Rate) / WER (Word Error Rate) 測定。
   • text からの推定と、pronunciation（発音表記）との乖離をドメイン別に解析。
2. DiT / 潜在時間予測器（Duration Predictor）の蒸留 & GRPO 強化学習:
   • 音声DiffusionモデルやARモデルにおける「発話長予測」「無音区間制御」の強化学習（GRPO）用プロンプトコーパス。
   • 2文字の超短文から133文字の長文まで、幅広い文長での継続長アラインメント評価。
3. ASR（自動音声認識）の堅牢性・ドメイン適応検証:
   • 法律・学術の難解語、早口言葉、SNSスラング、助数詞（「一日」「一本」「一匹」「一人」）に対する認識限界の測定。
4. G2P（Grapheme-to-Phoneme）辞書・言語モデルの評価:
   • 同音異義語（「市立」と「私立」、「橋」と「端」）や文脈による読み分け（「1日」＝「ついたち」or「いちにち」）の正答率測定。

---

💻 使い方・コードスニペット

同梱の j_tts_eval_utils.py を用いることで、Hugging Face datasets または pandas として1行で読み込めます。

1. Hugging Face datasets による読み込み

from j_tts_eval_utils import load_j_tts_eval

# train / validation / test を DatasetDict として一括読み込み
dataset_dict = load_j_tts_eval()
print(dataset_dict)
# DatasetDict({
#     train: Dataset({ features: ['id', 'category', 'text', 'ruby_text', 'hiragana', 'katakana', 'pronunciation', 'notes'], num_rows: 16056 }),
#     validation: Dataset({ features: [...], num_rows: 2007 }),
#     test: Dataset({ features: [...], num_rows: 2007 })
# })

# test スプリットのみをロード
test_ds = load_j_tts_eval(split="test")
print(test_ds[0])

2. Pandas DataFrame による読み込み (高速 Parquet 推奨)

from j_tts_eval_utils import load_j_tts_eval

# Pandas DataFrame として読み込み
test_df = load_j_tts_eval(split="test", fmt="parquet", as_hf=False)
print(test_df.info())

# 軽量サンプル (100カテゴリ層化抽出) の読み込み
sample_df = load_j_tts_eval(split="sample_100", as_hf=False)
print(sample_df.head())

3. CER（文字誤り率）評価ヘルパーの使用例

from j_tts_eval_utils import compute_cer, evaluate_cer_batch

# 単一サンプルの評価
ref = "今日は朝から雨が降っているね。"
hyp = "きょうは朝から雨が降っているね。"
result = compute_cer(ref, hyp)
print(f"CER: {result['cer']:.4f}, Edits: {result['distance']}")

# バッチ評価（カテゴリ別集計付き）
test_refs = ["今日は晴れです。", "憲法第9条を遵守する。"]
test_hyps = ["きょうは晴れです。", "憲法第9条を遵守する。"]
categories = ["EXT_DAILY", "LAW_CONSTITUTION"]

batch_eval = evaluate_cer_batch(test_refs, test_hyps, categories=categories)
print("Micro CER:", batch_eval["micro_cer"])
print("Category Breakdown:", batch_eval["by_category"])

---

📦 ファイル一覧 (Available Formats)

本リポジトリ配下に以下の形式が全て格納されています。

• Parquet (推奨・高速):
  • train.parquet (6.21 MB), validation.parquet (862 KB), test.parquet (860 KB)
  • sample_100.parquet (59 KB), dataset_full.parquet (7.65 MB)
• TSV / CSV:
  • train.tsv / train.csv, validation.tsv / validation.csv, test.tsv / test.csv
  • sample_100.tsv / sample_100.csv, dataset_full.tsv / dataset_full.csv
• JSONL:
  • train.jsonl, validation.jsonl, test.jsonl, sample_100.jsonl, dataset_full.jsonl
• コード & メタデータ:
  • j_tts_eval_utils.py: HF/Pandas ローダー、ルビ展開関数 expand_ruby()、CER 評価 & 完全整合性検証モジュール
  • split_statistics.json: 全134カテゴリ別・スプリット別詳細統計
  • patch_log.csv: v1.0.7 修正の1件ごとの記録（id・列・修正前・修正後・理由）
  • README.md: データセットカード（ドキュメント）

---

---

🔄 更新履歴 (Changelog)

• v1.0.7 (2026-11-08):
  • 読み・本文の精査修正（279行）: MeCab (UniDic) との全件突き合わせと目視確認により、以下を修正。修正内容は1件ごとに patch_log.csv に記録。
    • 系統的な誤読の一括修正: 漢数字の年号の一字読み（七〇一年＝ななれいいち→ななひゃくいち、一一九二年→せんひゃくきゅうじゅうに 等 74箇所）、曜日・誕生日などの連濁漏れ（土曜日＝どようひ→どようび 等 64箇所）、法令文の「〜者」（債務者＝さいむもの→さいむしゃ 等 27箇所）、都＝と→みやこ（20箇所）、中国・外国の皇帝の帝＝みかど→てい（光武帝 等）、重複ルビ（A4＝えーえーよん 等）、伏せ字〇〇＝れいれい→まるまる。
    • 個別の誤読修正: 虞美人（おそれびじん→ぐびじん）、秦（はた→しん）、楚（すわえ→そ）、孫子・老子・墨子・荘子、李白「早発白帝城」、未成年後見人（ひつじせいねん…ひと→みせいねん…にん）、後白河、刀狩令、比叡山、素因数分解、主系列星、寒気、短鎖脂肪酸、涙腺、巧言令色鮮し仁 等。
    • 本文の誤字修正: 必用→必要、ご認の上→ご確認の上、ご認ください→ご覧ください、全開で→全力で、未筆→末筆、平日常→平日、自動販売→自動販売機、惜か→吝か、一り→独り、魚獲量→漁獲量、儺→儵、筒井筒井筒→筒井つの井筒、キーパット→キースイッチ。
    • pronunciation のモーラ脱落・タイポ修正: シツレイタシマス→シツレーイタシマス、シローウト→シロート、ヤーヤー（やうやう）→ヨーヨー 等。
    • text / hiragana / katakana は修正後の ruby_text から決定論的に再生成し、validate_dataset_integrity() で全20,070行 PASSED を確認。
• v1.0.6 (2026-11-08):
  • 全5カラム（text / ruby_text / hiragana / katakana / pronunciation）完全決定論的アライメント & 構造・音韻オーバーホール（全20,070行 エラー0件）:
    • ruby_text ⇔ hiragana 100%決定論的展開の達成: expand_ruby(ruby_text) == hiragana が全20,070行で100%完全一致するよう、熟字訓・複合語・数字・単位の重複ルビ（四(よん)海(しかい)、三(さん)重(みえ)、知(し)識(ちしき)、混(ま)乱(こんらん)、14(じゅうよん)時(じゅうよじ)、USB(ゆーえすびー) Type-C(ゆーえすびーたいぷしー) 等 約500件）および丸括弧内のカタカナ混入（729件）を完全解消。
    • 未展開記号・数字・英略語の完全ゼロ化: V=IR、12%、T2ファージ、保土ケ谷 等のルビ抜け・親文字残存を全件解消し、hiragana・katakana・pronunciation における英数字・記号（%, =, ±, ℃, ― 等）の未展開リークを 完全0件 に純化。
    • 文脈誤読・誤字・LLMモーラ抜けの徹底修正:
      • 原文・熟語誤記修正：千載一遇（YOJI_0179）、百人一首大会（GEN_0640）、水素と酸素が化合すると、水ができる（EXT_SCI_0048）、鰻の蒲焼（EXT_FOOD_0040）。
      • 漢文・古文・歴史・理科の誤読是正：仁(ひとし)→仁(じん)、季(き)文子(ふみこ)→季文子(きぶんし)、明月(あかつき)→明月(めいげつ)、青山(あおやま)→青山(せいざん)、深林(ふかばやし)→深林(しんりん)、昔人(むかしびと)→昔人(せきじん)、黒雲(くろくも)母(はは)→黒雲母(くろうんも)、塵(ごみ)→塵(ちり)、光(ひかり)合成→光合成(こうごうせい)、木曜(もくよう)日(ひ)→木曜日(もくようび)、生(せい)年(ねん)月(がつ)日(ひ)→生年月日(せいねんがっぴ) 等。
      • pronunciation のLLMタイポ・モーラ脱落修正：イッセングーオクエン→イッセンオクエン、ゴミヤマハバ→ゴミリハバ、ペットボヤルト→ペットボトルヤ、ゴンゴダードン→ゴンゴドーダン、オムライスクツッタヨ→オムライスツクッタヨ、オスメ→オススメ、ク―キ（ダッシュ混入）→クーキ 等140件超を全件修正。
    • 構造・メタデータ修復: sample_100 を test スプリットからの100カテゴリ層化抽出（RANDOM_SEED=42）に復元し、split_statistics.json に全134カテゴリのスプリット別分布（category_distributions）を完全収録。validate_dataset_integrity() に expand_ruby(ruby_text) == hiragana・ルビ括弧内ひらがな純度・記号リーク検査を追加。
• v1.0.5 (2026-11-07):
  • 列間文章不一致の完全解消・多列決定論的同期パイプラインの導入（全20,070行 多列整合率100%）:
    • 原文（text）マスター同期の徹底: ruby_text から括弧を除去した文字列が text と 100% 完全一致するよう、パッチ適用時に生じていた列間文章の食い違い（EXT_WEATHER_0002, 0004, 0032〜0049, EXT_NEWS_0033, KOBUN_0001〜0096, PAPER_0060〜0189 等 計68レコード）を完全解消。
    • 決定論的文字コード変換の全行強制: hiragana から hira_to_kata()（文字コードシフト + ヴ・ヵ・ヶマッピング）で katakana を決定論的に生成し、列間タイポ・脱字・別文の発生可能性を数学的に完全排除（hira_to_kata(hiragana) == katakana エラー0件）。
    • 旧生成ルビのスタッター（吃音・数字混入）全件除去: 「ににたったら」「とりとりのぞき」「じゅうじゅうごふん」「4がつ12にち」等、初期ルビ展開時に生じていた二重読み・数字混入（計120件）を全行走査・クレンジング。
    • ユーザー指摘の微細誤読・誤字全件修正: 先方（せんぽう / センポー）、十人十色（ジューニントイロ、重複誤記解消）、鳥取砂丘の風紋（とっとりさきゅう、ふうもんとよばれる）、本件に関して（お申し付けください、きがねなく）、朝霧（あさぎり）、宇宙ビッグバン（たんじょうしたさい）、洪水（キケン）、午後2時（ゴゴニジ）等。
    • 公式バリデータ validate_dataset_integrity() の強化: 従来の文字種・構文検査に加え、ruby_stripped == text および hira_to_kata(hiragana) == katakana の厳密な列間アライメント検査を標準搭載。全20,070行・全スプリットで PASSED (エラー0件) を保証。
• v1.0.4 (2026-11-07):
  • 構造的データ整合性の完全改修・全20,070行自動バリデーション合格（エラー0件達成）:
    • 助数詞・促音化・濁点抜けの完全是正（197件）: 一階（イッカイ）、四時（ヨジ）、一週間（イッシュウカン）、四つ（ヨッツ）、富士山（フジサン）等の系統的音韻崩れを全件修正。
    • 数字・単位の二重読みおよび重複展開解消（28件）: 「2024年（ニセンニジュウヨネン）」、「12V」、「150kW」等における親文字残存・重複展開を完全解消。
    • LLM幻覚・モーラ置換バグの完全修正（196件）: katakana 列と pronunciation 列の間で発生していた1モーラすげ替え（操作は→スマートフォントーサ、成敗してくれる→セーバイスルケレド、進んでください→ススメテクダサイ等）を全件精査・是正。
    • 難読語・古典文学・ルビ崩壊の厳密修正（約90件）: 『草枕』冒頭「山路（やまじ）」、老舗（しにせ）、鳥取砂丘の風紋（さきゅう）、外務省情勢不安（ジョウセイ）、太宰府「梅ヶ枝餅（うめがえもち）」、会津若松「鶴ヶ城（つるがじょう）」、二位の尼・紫の上のルビ親文字残存、助数詞「〜分（イップン・サンプン・ロップン・ハップン）」の正規化。
    • 文字種完全純化（全20,070行走査）: hiragana カラムに残存していた外来語・カタカナ語（7,005行）を純度100%のひらがなに一括変換、pronunciation 列の鉤括弧（「」『』417件）の除去、および「ジッブン」→「ジップン」の正規化。
    • 公式バリデーション関数 validate_dataset_integrity() の提供: j_tts_eval_utils.py に全カラムの文字種純度、未変換漢字リーク、欠損値、括弧文法整合性を一括検証するバリデータを追加。全スプリットにおいて PASSED (エラー0件) を保証。
• v1.0.3 (2026-11-06):
  • 大規模精密品質改修（計259レコード、全スキャン修正）:
    • 学術・理工用語の誤読是正: 小角X線散乱（SAXS）の修験道誤認「役小角（おづぬ）」→「しょうかく」修正、物理化学の「相転移」「相分離」が「あい」「しょう」になっていた系統的誤読を「そう」に統一、原子間力顕微鏡（AFM）の「原子間ちから」→「原子間力（げんしかんりょく）」等。
    • 古典・文学の誤読是正: 源氏物語「亡き更衣」の「衣替え（ころもがえ）」誤読→「こうい」、平家物語「波の下にも都がございます」等における都の機械的音読み「と」→「みやこ」全件統一、竹取物語の求婚者名（阿倍御主人、石作皇子、車持皇子、石上麻呂足等）の歴史的仮名遣い復元。
    • 記号・人名の不整合解消: 外国人複合名のダブルハイフン「＝」が数学記号「イコール」と発音されていた全件（ルソー、メルロ＝ポンティ、レヴィ＝ストロース等）の中黒化、会話文中の長音波ダッシュ「〜」が「から」と誤読されていた問題の解消。
    • 日常会話・ネットスラング・発音タイポ修正: 「最大手（さいおおて）」が「さいがいて」となっていた誤読の解消、心臓のルビミス「心(こころ)臓(ぞう)」の解消、不要な濁音化タイポ（不自然→フジゼン、逆らって→サガラッテ、行くね→イグネ等）の完全修正。
    • ルビ展開エンジンの大幅刷新: 括弧・特殊記号・上付き文字を含む複合語のルビ展開漏れを全走査し、未展開ルビ漏れ件数 完全0件 を達成。
• v1.0.2 (2026-11-06):
  • カタカナ語脱落バグの修正、数字スタッター解消、長音記号重複の正常化。
• v1.0.1 (2026-11-06):
  • 鎮痛剤・お薬系統の発音アライメント修正。
• v1.0.0 (2026-11-05):
  • 初回公式リリース。

---

📜 ライセンス (License)

本コーパスは Creative Commons Attribution 4.0 International (CC-BY 4.0) の下で公開されています。 学術研究、商用利用、改変、再配布が自由に認められています。クレジット表記を行っていただければ商用TTSエンジンの学習・評価にも無償でご活用いただけます。

---

---

📖 引用情報 (Citation)

本データセットを研究や開発、ベンチマーク等でご利用の際は、以下の BibTeX 形式で引用いただけます。

@dataset{j_tts_eval_20k_2026,
  author       = {rose3},
  title        = {J-TTS-Eval20K: Japanese Multi-Domain Corpus for TTS/ASR Evaluation & Duration Modeling},
  year         = {2026},
  publisher    = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets/rose3/J-TTS-Eval20K}}
}