Typed Decisions — 日本語版（typed-decisions-ja v3）

LocalLLaMA/typed-decisions の日本語版です。1 つの state（業務の状況）に対して型付きの質問をまとめて答え、それぞれの答えを確率分布で返す課題です。 数値は、すべて実際に測った値です。測っていないものは、そう書いています。

概要

• 元データ: LocalLLaMA/typed-decisions、revision f7a2487edd7a043a5441a5e9ccc7fe5ddbd9ebe8（Apache-2.0）。
• 翻訳器: Qwen3.5-35B-A3B（Ollama の qwen3.5:35b-a3b-q4_K_M、digest 3460ffeede5453ead027dbd2f821b12ad0aa3de54630971993babdb2165221f7、Apache-2.0）。
  • temperature 0、thinking は off です。
• 件数: 1,600 件です。
  • 4 ワークフロー × test 100 件 + train 300 件です（元と同じ構成）。
  • test は 400 件・2,000 判定です。
• ワークフロー（config 名）: agent_trace_observability、customer_service、invoice_processing、security_incidents。
  • 全件は all（既定）です。
• 質問の型: noul / choice / score（元と同じ）。
• 列:

列	中身
id、workflow、split、n_questions	元と同じ
state	日本語の JSON（文字列）
questions	日本語の JSON（文字列）
gold、factors、label_agreement	元と同じ（英語の state に対する教師の分布。変えていない）
back_translation_match	逆翻訳の検算の結果（bool）
mismatch_category	不一致のときの、理由の大まかな分類（questions / state / both / other、一致のときは null）
verifier_reason	判定器が書いた 1 文の理由（英語、全件）

翻訳したもの、しなかったもの

• 翻訳したもの:
  • state の JSON の中の文字列の値。
  • 各質問の instructions、選択肢の説明（choice と noul の criteria の値）、score の水準の説明。
• 翻訳していないもの:
  • JSON のキー、数値、真偽値、choice のラベル（criteria のキー）。
  • gold、factors、label_agreement、id、workflow、split。
  • 識別子らしい文字列（空白を含まず、数字か @ / _ . を含むもの）。
  • 列挙値のフィールドの値（status、tier、vendor など）。
• 同じ文字列は、全体で同じ訳です（辞書: 原文 → 訳文、5,085 エントリ。そのうち翻訳したのは 2,161）。
• 手での修正（辞書のエントリで直した）:
  • 質問文の 3 か所（2026-09-28）。
    • urgency の水準に英語の "indefinitely" が残っていたもの。
    • invoice の "Material" と urgency の "Critical" が、どちらも「重要」になっていたもの（→「実質的」「緊急」）。
  • 証拠の欄の 6 か所（2026-09-29）。train の tr_security_incidents_000225〜000230 で、翻訳器が原文にない日付「2026-09-15T」を時刻の前に付けていたものです（例: 原文 "at 14:22 UTC" → 誤訳「2026-09-15T14:22 UTC」→ 修正「14:22 UTC」）。
• gold は変えていません。 gold は、元の英語の state に対する教師（「4B 級」、3 回のサンプルの平均）の分布です。日本語の state に対する正解として作り直したものではありません。

品質

逆翻訳による全件検算

• 判定器: Mistral-Small-3.2-24B（Ollama の mistral-small3.2:24b、digest 5a408ab55df5c1b5cf46533c368813b30bf9e4d8fc39263bf2a3338cfa3b895b、Apache-2.0）、temperature 0。
• 手順:
  1. 日本語版を、同じモデルで英語に逆翻訳します。
  2. 原文と「事実、数値、識別子、各質問と選択肢の意味が一致するか」を yes / no と 1 文の理由で判定させます。
  3. 1 件ずつ、1,600 件すべてを判定します（2026-09-28 20:26 – 09-29 02:11、20,694 秒）。
• 日付を直した 6 件は、修正後に同じ判定器で判定し直しました（2026-09-29）。5 件が一致に変わり、1 件（000229）は、質問と選択肢の意味の違いを理由に不一致のままです。

	一致	一致率
全体	1,513 / 1,600	0.946
test	378 / 400	0.945
train	1,135 / 1,200	0.946

ワークフロー	一致（400 件中）	一致率	test	train
agent_trace_observability	388	0.970	99 / 100	289 / 300
customer_service	394	0.985	99 / 100	295 / 300
invoice_processing	386	0.965	98 / 100	288 / 300
security_incidents	345	0.863	82 / 100	263 / 300

• 日付の修正の前は、全体が 0.9425（1,508 / 1,600）、security_incidents が 0.850 でした。

層化 200 件の推定との比較と、判定器の揺れ

• 層化 200 件の推定: 検算を全件に広げる前に、ワークフローごとに 50 件を抜いて判定しました。
  • 結果は 0.915（183 / 200）で、ワークフロー別は agent 49、customer 48、invoice 46、security 40（各 50 件中）です。
  • この推定の 95% 区間は [0.880, 0.950] です（正規近似、有限母集団の補正あり）。全件の値は、この区間の中にあります。
• 判定器の揺れ: 同じ 200 件を、全件検算の実行で判定し直すと 0.950（190 / 200）でした。
  • 判定が同じだったのは 187 件で、13 件が入れ替わりました（no → yes が 10、yes → no が 3）。
  • 間に invoice の質問文の修正があったので、この入れ替わりには、修正の効果と、同じ入力でも判定が揺れることの両方が入っています（切り分けていません）。
  • 1 件ごとの back_translation_match は、この程度に揺れる判定器の 1 回の判定です。

不一致の分類（87 件）

判定器の理由の文を、キーワードで大まかに分けたものです（mismatch_category）。人は確認していません。

分類	件数	agent_trace	customer_service	invoice	security
questions（質問文・選択肢・水準の説明だけ）	46	2	0	14	30
both（state の内容と、質問文・選択肢の両方）	30	9	1	0	20
state（state の内容だけ：事実、日付、証拠、メッセージ）	11	1	5	0	5

識別子の残存率

• 元の文字列から正規表現で抜いた ID、メールアドレス、URL、時刻、スネークケースの名前が、訳文に原文どおり残っているかを調べました。
• 残存率は 0.9934（1,355 個のうち、9 個が残っていない）。日付の修正の前後で変わりません。

既知の限界

• security_incidents が低い（0.863）。 不一致 55 件の内訳は、questions 30、both 20、state 5 です。
  • 55 件のうち 31 件の理由が、severity / urgency の水準の説明に触れています。
  • 7 件は、最初の水準のラベルが逆翻訳で "Minor" になった（原文は "Negligible"）ことを挙げています。この 7 件は、訳文の誤りか、逆翻訳の側の言い換えかを区別していません。
  • state 側では、「MFA が有効」を「無効」と読んだもの、「権限のない」を「権限のある」と読んだものなどがあります（理由の文による）。
• invoice の不一致 14 件は、すべて質問文・選択肢に触れています（質問文の修正の後も）。invoice の質問文は全ケースで共通なので、同じ文に対して判定が件ごとに分かれています。
• 機械翻訳で、人手の確認はしていません。 検算もモデルによる判定です。
• gold は英語の state に対するもので、翻訳で生じたずれは反映していません。
• 翻訳器（Qwen3.5）の語彙や言い回しの癖が、state 全体に乗っています。

ゼロショット（generalist）の参考値

すべてゼロショット（generalist）の値です。 AnyJev のハーネス（bench/run_typed.py の pooled）の定義に揃えた非公式採点です（元データセットに公式の採点スクリプトはありません）。

• 対象は test の 400 件・2,000 決定です。日本語は、質問文を修正した後の版です。
• 日付の修正は train だけなので、test はこの表のときと同じです（SHA-256 70989c13…）。

モデル	acc（日本語）	acc（英語の元の test）	soft_acc（日本語）	ECE（日本語）	brier_mean（日本語）
Lev（interfaze-ai/lev、較正あり）	0.628	0.635	0.446	0.074	0.161
AnyJev L0 + Qwen3-8B	0.625	0.648	0.523	0.292	0.199
laya-multilingual	0.348	0.353	0.331	0.316	0.279
sokudan v0.2（較正なし）	0.424	0.435	0.384	0.180	0.212
参考: Prior（train のラベル頻度）	0.483	0.483	0.390	0.045	0.174

• 引用: TypeSafe の Jev 1.13.0 の英語の acc は 0.727 です（Laya が公表した値。私たちは測っていません）。
• 採点の再現の確認: 英語の元の test で、AnyJev L0 + Qwen3-8B の acc は、推論のバッチが 32 のとき 0.647 でした。AnyJev の README の公表値と一致します（バッチ 16 では 0.648）。

specialist（この版の train で学習）の参考値

上の generalist の表とは並べないでください。 この版の train split で学習したモデルの値です（元のカードの区別に従う）。

モデル	acc（日本語、この版の test）	学習
sokudan md8（v0.1 の学習データ + この版の train 5,799 行、v0.1 と同じ設定）	0.703（8 シードの平均、SD 0.009。0.687〜0.714）	この版の train split（specialist）

• 採点は、上の表と同じ AnyJev の定義の acc です。
• この学習は、日付の修正の前の train で行いました（直した 6 件を含む）。
• 同じ描画・同じ採点で、train で学習していない v0.1 の設定の 16 本は、0.405（SD 0.021）でした。

使い方

from datasets import load_dataset

test = load_dataset("GeneLab/typed-decisions-ja", "customer_service", split="test")
train = load_dataset("GeneLab/typed-decisions-ja", "all", split="train")

# 逆翻訳の検算で一致したケースだけを使う
test_ok = test.filter(lambda r: r["back_translation_match"])

# 質問文・選択肢の不一致だけを除く（state の内容の不一致は残す）
test_no_q = test.filter(lambda r: r["mismatch_category"] not in ("questions", "both"))

• state と questions は JSON の文字列です（json.loads で読む）。gold の形は元と同じです。
• specialist と generalist を区別してください（元のカードの要請）。
  • specialist: この 4 ワークフローの train で学習し、ラベル空間が固定。
  • generalist: 別のワークフローで学習し、ここはゼロショット。
  • この日本語版の数字にも、どちらのモードかを書いてください。
• フラグで絞ったときは、絞った件数も書いてください（test は 400 件中 378 件が一致）。

ライセンス

• Apache-2.0（元データと同じ）です。
• 元データ: LocalLLaMA/typed-decisions（revision f7a2487…）。
  • データセットカードの YAML に license: apache-2.0 とあります。2026-09-29 の最新版（bd9eee1）でも同じです。
  • リポジトリに LICENSE ファイルはなく、カードの本文にもライセンスの記述や追加の条件（非商用など）はありません。
  • state、質問、gold ラベル、潜在因子は、すべて元データに由来します。
• 変更点: state と質問の文字列を日本語にし、上の「手での修正」を加え、検算の 3 列を足しました。gold などの列は変えていません。
• 元データを作ったモデルの利用条件は、確認できていません。
  • 元のカードには、state の文章を書いたモデルと、gold を付けた教師モデル（「4B 級」とだけ書かれている）の名前がありません。
  • そのため、モデル側の利用条件は不明です。
• 翻訳器（Qwen3.5-35B-A3B）と判定器（Mistral-Small-3.2-24B）は、どちらも Apache-2.0 です。
• 元データは TypeSafe AI の System One の形に沿っていますが、TypeSafe とは無関係です（元のカードのとおり）。この日本語版も無関係です。

引用

@misc{typed_decisions_ja_2026,
  title        = {Typed Decisions (Japanese): typed-decisions-ja v3},
  author       = {hiroki-abe-58},
  year         = {2026},
  howpublished = {\url{https://huggingface.co/datasets/GeneLab/typed-decisions-ja}},
  note         = {Japanese translation of LocalLLaMA/typed-decisions (revision f7a2487)}
}

元データも引用してください（LocalLLaMA/typed-decisions）。

連絡先

• このデータセットの Discussions、または https://github.com/hiroki-abe-58/sokudan の Issues。
• 作成と評価の記録は、sokudan のリポジトリにあります（評価に使ったモデル: GeneLab/sokudan-ja-310m）。

版の履歴

• v1（Qwen3-30B-A3B、保護なし）: 検算 0.40 で、生成を止めました。
• v2（プレースホルダによる保護）: 2 回とも生成の途中で失敗しました。
• v3（Qwen3.5-35B-A3B、プレースホルダなし + 事後検査）: この版です。
  • 2026-09-28: 質問文を修正し、全件を検算しました。
  • 2026-09-29: 日付の 6 件を修正し、公開しました。