Dataset Viewer
The dataset viewer is not available for this subset.
Job has been terminated due to a temporary spike in resource usage and may be restarted later.

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

jwtd-misconversion-table

日本語の漢字の誤変換について、「Wikipedia の編集者がある語を何に直したか、何回直したか」と「直した後の文にその語が何回残っているか」をまとめた表です。日本語 Wikipedia 入力誤りデータセット(JWTD)v2(京都大学 言語メディア研究室、CC BY-SA 3.0)の train から作りました。

誤変換の検出で、怪しい語の言い換え候補を出すのに使います(「以外」→「意外」など)。

2026-10-21 に、音声入力の聞き違いの表(voice-confusions.json)を足しました。入力した文には少ない取り違え(「好意」→「行為」、「直観」→「直感」)を補うためのものです。

中身

confusions.json: 38,843 語。キーは直される前の語(漢字を含む 6 字以内)です。

フィールド 内容
wrong JWTD v2 train で、この語が漢字の誤変換(カテゴリー kanji-conversion_a・kanji-conversion_b)として直された回数
kept 直した後の文全体に、この語が文字列として現れる回数(直されずに使われている回数の目安)
to 直した先の語。多い順に最大 3 つ

例: "以外": {"wrong": 121, "kept": 6409, "to": ["意外", "遺骸", "違い"]}

wrong / (wrong + kept) が、その語が誤変換である割合の大まかな目安になります。文は含めていません。

voice-confusions.json: 9,458 語(取り違え 26,805 回)。形は confusions.json と同じで、音声認識(Whisper)が同音の別の語を書いた箇所をまとめています。キーは Whisper が書いた語、to は話し手が実際に言った語です(多い順)。

フィールド 内容
wrong Whisper がこの語を、同音の別の語の代わりに書いた回数
kept 書き起こしの全体にこの語が現れた回数から wrong を引いた値(正しく使われた回数の目安)
to 話し手が言った語(多い順)

例: "好意": {"wrong": 500, "kept": 36, "to": ["行為", "高位", "皇位"]}。数語にまたがる聞き違いは、句のまま 1 つのキーになっています。

元にしたのは次の 2 つの書き起こしです。

  • Mozilla Common Voice 日本語(27.0)の train の音声(CC0)。評価に使う話者・文は除きました
  • JWTD v2 train の直した文を、音声合成 Kokoro-82M(Apache-2.0)で読み上げた音声。評価に使う文は除きました

書き起こしは whisper-large-v3-turbo(MIT)で行い、文字の差分で取り違えを取り出しました。音声・文・書き起こしは含めていません。voice_table.py(MIT)は表を作ったスクリプトです(入力の書き起こしは公開していません)。

作り方

confusions.py(MIT)に JWTD v2 の train.jsonl を渡すと、同じ表ができます。

python3 confusions.py jwtd_v2.0/train.jsonl confusions.json

ライセンスと出典

CC BY-SA 3.0。JWTD v2(CC BY-SA 3.0)を元にした二次的なデータなので、同じライセンスです。JWTD の元は日本語 Wikipedia の編集履歴で、その文章の著作者は Wikipedia の執筆者です。voice-confusions.json には、Common Voice(CC0)の書き起こしから取った分も含まれます。

田中佑, 村脇有吾, 河原大輔, 黒橋禎夫. 日本語 Wikipedia の編集履歴に基づく入力誤りデータセットと訂正システムの改良. 言語処理学会第27回年次大会, 2021.

English

A table of Japanese kanji misconversions from the Japanese Wikipedia Typo Dataset (JWTD) v2 train split: for each word Wikipedia editors corrected as a kanji misconversion, how often it was corrected (wrong), how often it appears in the corrected sentences (kept), and its top three corrections (to). 38,843 words, no sentences. CC BY-SA 3.0, as JWTD. Built with confusions.py (MIT).

voice-confusions.json (added 2026-10-21) has the same form for speech recognition: for each word Whisper (large-v3-turbo) wrote in place of a homophone, what the speaker said. 9,458 words from transcripts of Mozilla Common Voice Japanese 27.0 train clips (CC0) and Kokoro-82M readings of JWTD v2 train sentences; no audio, sentences or transcripts.

Downloads last month
57