monju-mask-ja-01
日本語の文章から個人情報と認証情報を見つけて伏せる、CPU 向けの小型モデルです。 「三人寄れば文殊の知恵」のとおり、見方の違う小さなモデル(専門家)3 つが同じ文を同時に読み、3 つの判定(確率)を平均して決めます。 AI に文章を送る前に、手元の PC で念のためマスクする用途を想定しています。匿名化を保証するものではありません。
構成
| 専門家 | 型 | パラメータ(表を除く) |
|---|---|---|
| gru_h192_l2 | 双方向 GRU | 46 万 |
| conv_h192_l6 | 拡張畳み込み(8 ビット) | 103 万 |
| attn_h192_l4 | 小型 Transformer(8 ビット、384 トークンの窓) | 132 万 |
- 入力は、OpenAI Privacy Filter(Apache-2.0)の語彙埋め込み表(200,064 語)に学習した写像を掛け、1 枚の表に畳み込んだものです。推論時は表を引くだけです。
- ラベルは Privacy Filter と同じ 8 分類(氏名、住所、メール、電話、日付、口座・ID、URL、認証情報)。
- 3 つがトークンごとに出した確率(対数)を平均し、「個人情報ではない」側から補正値 2.5 を引いてから、1 回だけ復号します。補正値は
monju.jsonのdefault_config.biasで変えられます(小さくすると誤検知が減り、漏れが増えます)。 - 依存は numpy・onnxruntime・tiktoken だけです(GPU 不要)。ファイルは合計 234 MB。
使い方
OSS のツール Toramon Mask から使います。Toramon Mask はモデルを切り替えられる作りで、このモデルは --backend monju で選びます。
git clone https://github.com/toramon-shield/toramon-mask && cd toramon-mask
uv venv .venv --python 3.12 && uv pip install --python .venv/bin/python -e . onnxruntime
.venv/bin/hf download toramon/monju-mask-ja-01 --local-dir models/monju-mask-ja-01
echo "山田太郎様の電話は090-1234-5678です。" \
| .venv/bin/python scripts/toramon_cli.py redact --backend monju --model-dir models/monju-mask-ja-01
# → [PERSON_1]様の電話は[PHONE_1]です。
Python から:
from toramon.adapters.monju_onnx import load_monju
from toramon.filter import ToramonFilter
filt = ToramonFilter(load_monju("models/monju-mask-ja-01", threads=4), "monju-mask-ja-01")
print(filt.redact("山田太郎様の電話は090-1234-5678です。").redacted_text)
ローカル API と、AI サービスへの送信前に自動で伏せるゲートウェイも、同じ --backend monju で動きます。
速度(Arm Cortex-X925、約 900 字の文書 1 件、ルール込み)
| 4 スレッド | 1 スレッド | |
|---|---|---|
| monju-mask-ja-01 | 16.8 ms | 40.7 ms |
| Sumi(1.3 億パラメータ、8 ビット) | 109.4 ms | 298.0 ms |
| OpenAI Privacy Filter(14 億パラメータ、8 ビット GGUF) | 442.3 ms | 1,424.5 ms |
精度(strict F1 / PII が残った文書の割合、共通ルール併用)
| 評価セット | monju-mask-ja-01 | そのセットで最良のモデル |
|---|---|---|
| Monju PII Bench(業務文書 1,000 件) | 0.943 / 17.5% | 本モデル(当方の未公開の 14 億パラメータモデルは 0.933 / 19.7%) |
| Nemotron-PII-Japan(学習から除いた 1,000 件) | 0.982 / 5.4% | 本モデル |
| privacy-filter-jp ベンチ v2(人手 106 件) | 0.833 / 34.8% | privacy-filter-jp: 0.894 / 15.7% |
| Sumi コーパス test(2,000 件) | 0.764 / 71.6% | Sumi: 0.977 / 20.0% |
| Sumi コーパス ood(520 件) | 0.799 / 56.5% | F1 は本モデルと Sumi(0.796 / 53.7%)が同等(差は有意でない) |
どのモデルも、自分の作者が作ったベンチで最良になります。本モデルも privacy-filter-jp ベンチと Sumi コーパス test では 2 位以下です。 業務文書でも 17% の文書に何らかの PII が残ります。PII を含まない文書の 22% で誤って何かを伏せます(Sumi コーパスの負例では 32%)。
3 つを合わせる効果と、補正値の選び方(Monju PII Bench、ルール併用)
| 構成 | F1 | 適合率 | 再現率 | PII が残った文書 | 負例の誤検知 |
|---|---|---|---|---|---|
| 再帰型 1 つだけ | 0.950 | 0.948 | 0.951 | 25.9% | 16.3% |
| 3 つの平均、補正 0 | 0.954 | 0.955 | 0.953 | 24.5% | 12.3% |
| 3 つの平均、補正 2.5(既定) | 0.943 | 0.924 | 0.963 | 17.5% | 22.5% |
| 再帰型 1 つだけ、補正 2.5 | 0.939 | 0.919 | 0.959 | 19.7% | 24.7% |
補正値 2.5 は、公開していない検証用 531 文書で、開発中に使っていた多数決方式と同じ漏れ率になる最小の値として選びました。誤検知を減らしたい場合は補正値を下げてください。
Nemotron-PII-Japan だけでは足りないのか
学習文書の 78% は Nemotron-PII-Japan です。残りの 22%(ローカルの公開重みモデルで作った 14,180 文書)が効いているかを確かめるため、同じ構成を Nemotron の 50,000 文書だけで学習した版と比べました。
| 評価セット | Nemotron のみ | 本モデル | F1 の差 [95% 信頼区間] |
|---|---|---|---|
| Monju PII Bench | 0.643 | 0.943 | +0.300 [+0.273, +0.329] |
| Nemotron-PII-Japan(1,000 件) | 0.982 | 0.982 | 0.000 |
| privacy-filter-jp ベンチ v2 | 0.615 | 0.833 | +0.218 [+0.164, +0.274] |
| Sumi コーパス test | 0.631 | 0.764 | +0.134 [+0.128, +0.139] |
| Sumi コーパス ood | 0.729 | 0.799 | +0.070 [+0.057, +0.084] |
| Sumi 負例の誤検知 | 38.1% | 32.3% |
- Nemotron の中では差がありません。Nemotron の外では、作り足した文書を加えた版が大きく上回ります。
- Monju PII Bench での差には、作り足した文書とベンチが同じ作り方(同じモデル、同じ値の埋め方、同じ方針)であることも含まれます。
- 他者が作った privacy-filter-jp ベンチと Sumi コーパスでの差(+0.07〜0.22)は、その事情では説明できません。1 つの合成データだけで学習すると、そのデータの書式や約束ごとに寄ってしまい、作り方の違う文書を足すとそれが和らぐ、と解釈しています。
- 作り足した文書は、拒否応答を減らす加工をした派生モデル(BLACKFOLD)が書きました。加工していない元のモデルとは比べていないので、この加工が精度に効いたかどうかは分かりません。
学習データ
- nvidia/Nemotron-PII-Japan(CC BY 4.0)50,000 文書
- Dolly-ja(llm-jp/databricks-dolly-15k-ja、CC BY-SA 3.0)の項目を、ローカルの公開重みモデル(DeepSeek-V4.1-Flash-1017 の派生版 BLACKFOLD、いずれも MIT)で合成 PII 入りに書き直した 14,180 文書
- 教師モデルは使っていません。商用の言語モデル API が書いた文章は学習に使っていません。実在の個人情報は使っていません。
- 3 つの専門家の組み合わせは、開発中に別の構成(蒸留版、非公開)で選んだものをそのまま使っています。その選定には、商用モデルが書いた業務文書の評価結果を使いました。
制約
- 評価はすべて合成文書か小規模な人手ベンチです。実際の業務文書での精度は未確認です。
- 学習は各専門家 1 回(乱数種 1 つ)です。速度は Arm の 1 機種でだけ測っています。
- 学習に使っていない書式(業務文書など)では、誤検知が増えます。
- 途中経過の選定には、Monju PII Bench と同じ作り方の非公開 531 文書を使いました。
ライセンス
重みは CC BY-SA 4.0 です。商用利用できます。再配布や、この重みを追加学習した派生モデルの公開は、作者の表示と同じライセンスが条件です。 学習データに CC BY-SA 3.0 由来の項目(Dolly-ja)が含まれるため、慎重な解釈に従ってこのライセンスにしています。
表示:
- Monju Mask(monju-mask-ja-01)© 2026 AIGYM Co., Ltd.
- 入力表は OpenAI Privacy Filter(Apache-2.0)の語彙埋め込み表から作っています。
- 学習データ: nvidia/Nemotron-PII-Japan(CC BY 4.0)、llm-jp/databricks-dolly-15k-ja(CC BY-SA 3.0。元は Databricks の databricks-dolly-15k)。
- 詳細は同梱の NOTICE を参照。
引用
Kanda, Y. (2026). Monju Mask: Soft Voting of Three Small Experts for Japanese PII Masking at CPU Speed, with a Benchmark of Business Documents. Zenodo. https://doi.org/10.5281/zenodo.24335930