The dataset viewer is not available for this subset.
Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
jwtd-misconversion-table
日本語の漢字の誤変換について、「Wikipedia の編集者がある語を何に直したか、何回直したか」と「直した後の文にその語が何回残っているか」をまとめた表です。日本語 Wikipedia 入力誤りデータセット(JWTD)v2(京都大学 言語メディア研究室、CC BY-SA 3.0)の train から作りました。
誤変換の検出で、怪しい語の言い換え候補を出すのに使います(「以外」→「意外」など)。
2026-10-21 に、音声入力の聞き違いの表(voice-confusions.json)を足しました。入力した文には少ない取り違え(「好意」→「行為」、「直観」→「直感」)を補うためのものです。
中身
confusions.json: 38,843 語。キーは直される前の語(漢字を含む 6 字以内)です。
| フィールド | 内容 |
|---|---|
wrong |
JWTD v2 train で、この語が漢字の誤変換(カテゴリー kanji-conversion_a・kanji-conversion_b)として直された回数 |
kept |
直した後の文全体に、この語が文字列として現れる回数(直されずに使われている回数の目安) |
to |
直した先の語。多い順に最大 3 つ |
例: "以外": {"wrong": 121, "kept": 6409, "to": ["意外", "遺骸", "違い"]}
wrong / (wrong + kept) が、その語が誤変換である割合の大まかな目安になります。文は含めていません。
voice-confusions.json: 9,458 語(取り違え 26,805 回)。形は confusions.json と同じで、音声認識(Whisper)が同音の別の語を書いた箇所をまとめています。キーは Whisper が書いた語、to は話し手が実際に言った語です(多い順)。
| フィールド | 内容 |
|---|---|
wrong |
Whisper がこの語を、同音の別の語の代わりに書いた回数 |
kept |
書き起こしの全体にこの語が現れた回数から wrong を引いた値(正しく使われた回数の目安) |
to |
話し手が言った語(多い順) |
例: "好意": {"wrong": 500, "kept": 36, "to": ["行為", "高位", "皇位"]}。数語にまたがる聞き違いは、句のまま 1 つのキーになっています。
元にしたのは次の 2 つの書き起こしです。
- Mozilla Common Voice 日本語(27.0)の train の音声(CC0)。評価に使う話者・文は除きました
- JWTD v2 train の直した文を、音声合成 Kokoro-82M(Apache-2.0)で読み上げた音声。評価に使う文は除きました
書き起こしは whisper-large-v3-turbo(MIT)で行い、文字の差分で取り違えを取り出しました。音声・文・書き起こしは含めていません。voice_table.py(MIT)は表を作ったスクリプトです(入力の書き起こしは公開していません)。
作り方
confusions.py(MIT)に JWTD v2 の train.jsonl を渡すと、同じ表ができます。
python3 confusions.py jwtd_v2.0/train.jsonl confusions.json
ライセンスと出典
CC BY-SA 3.0。JWTD v2(CC BY-SA 3.0)を元にした二次的なデータなので、同じライセンスです。JWTD の元は日本語 Wikipedia の編集履歴で、その文章の著作者は Wikipedia の執筆者です。voice-confusions.json には、Common Voice(CC0)の書き起こしから取った分も含まれます。
田中佑, 村脇有吾, 河原大輔, 黒橋禎夫. 日本語 Wikipedia の編集履歴に基づく入力誤りデータセットと訂正システムの改良. 言語処理学会第27回年次大会, 2021.
English
A table of Japanese kanji misconversions from the Japanese Wikipedia Typo Dataset (JWTD) v2 train split: for each word Wikipedia editors corrected as a kanji misconversion, how often it was corrected (wrong), how often it appears in the corrected sentences (kept), and its top three corrections (to). 38,843 words, no sentences. CC BY-SA 3.0, as JWTD. Built with confusions.py (MIT).
voice-confusions.json (added 2026-10-21) has the same form for speech recognition: for each word Whisper (large-v3-turbo) wrote in place of a homophone, what the speaker said. 9,458 words from transcripts of Mozilla Common Voice Japanese 27.0 train clips (CC0) and Kokoro-82M readings of JWTD v2 train sentences; no audio, sentences or transcripts.
- Downloads last month
- 57