Nemotron-PII-Japan Dataset Card

日本語PII検出・編集のための合成データ / Synthetic Japanese Data for PII Detection and Redaction

データセット概要 (Dataset Overview)

Nemotron-PII-Japanは、日本語テキスト内の個人識別情報（PII）の検出、抽出、編集、評価を目的とした、ペルソナに基づく合成データセットです。日本の氏名、住所、識別子、金融慣習、組織、業務文書などの文脈を扱い、実在する機密性の高い文書に依存しないモデル開発を支援します。

Nemotron-PII-Japan is a synthetic, persona-grounded dataset for training and evaluating the detection, extraction, and redaction of personally identifiable information (PII) in Japanese text. It covers Japanese names, addresses, identifiers, financial conventions, organizations, and business-document contexts without relying on real-world sensitive or confidential documents.

本データセットは NVIDIA NeMo Data Designer を用いて生成されます。人物属性には Nemotron-Personas-Japan を基盤とするData Designer向け日本語persona assetを使用し、固定形式の値は決定的なsampler・expression・PIIプラグイン、地域固有の名称は管理された合成カタログ、自然な文書本文はLLM生成と検証・正規化を組み合わせて作成します。

The dataset is generated with NVIDIA NeMo Data Designer. Person attributes are sampled from a Japanese Data Designer person asset grounded in Nemotron-Personas-Japan; fixed-format values use deterministic samplers, expressions, and PII plug-ins; locale-specific names use managed synthetic catalogs; and natural document text combines LLM generation with validation and normalization.

データセットに含まれないもの (What is NOT in the Dataset)

本データセットは、実在人物の記録、顧客データ、または真正な金融・医療・行政・雇用・法務文書を収集したものではありません。生成文書は、本人確認、契約、診療、送金、雇用判断、その他の業務上または法的な証明として使用できません。

The dataset does not contain collected records about real individuals, customer data, or authentic financial, medical, administrative, employment, or legal documents. Generated documents must not be used as identity evidence, contracts, clinical records, payment instructions, employment records, or other operational or legal proof.

データセット作者 (Data Developer)

NVIDIA Corporation

リリース情報 (Release Information)

リリース日: 2026.11.10 / Release date: 2026.11.10

ライセンス (License / Terms of Use)

ライセンスはCreative Commons Attribution 4.0 International（CC BY 4.0）です。
本データセットは、商用・非商用を問わず利用可能です。

The license is Creative Commons Attribution 4.0 International (CC BY 4.0).
This dataset is ready for commercial or non-commercial uses.

ユースケース (Use Cases)

• 日本語PIIの固有表現認識と抽出 / Japanese PII named-entity recognition and extraction
• PIIの黒塗り、匿名化、編集処理の学習・評価 / Training and evaluation of PII redaction, anonymization, and editing
• Data Loss Prevention、検索、RAG、エージェント、会話AIの安全性評価 / Safety evaluation for DLP, search, RAG, agents, and conversational AI
• 構造化・非構造化の日本語文書に対する文書分類と堅牢性評価 / Document classification and robustness testing across structured and unstructured Japanese text
• 日本固有の住所、マイナンバー、銀行・支店、車両、医療・雇用識別子への対応評価 / Evaluation of Japan-specific addresses, My Number, bank and branch data, vehicle identifiers, and medical and employment identifiers

想定される利用方法 (Intended Use)

本データセットは、研究、モデル学習、評価、回帰テスト、レッドチーミングなど、合成データで日本語PII処理能力を改善する用途を想定しています。実運用では、対象業界の法令、規程、リスク許容度に合わせた追加評価が必要です。

The intended uses are research, model training, evaluation, regression testing, and red teaming for Japanese PII processing. Deployment requires additional validation against the target domain, applicable regulations, organizational policies, and risk tolerance.

合成データで良好な結果を得ても、実データ上の完全な検出、公平性、プライバシー保護、法令遵守、漏えい防止を保証するものではありません。

Performance on synthetic data does not guarantee complete detection, fairness, privacy protection, legal compliance, or prevention of downstream leakage on real-world data.

データセットの特性(Dataset Characterization)

データ収集方法(Data Collection Method)

ハイブリッド：シードデータおよび合成データ(Hybrid: Seed and Synthetic)

Nemotron PII Japanは、人物サンプリング、ルールベース生成、合成カタログ、LLMによる文書生成を組み合わせたハイブリッド方式で生成されます。
8つの業務分野に属する43種類の日本語文書から文書種別を選択し、文書種別ごとのポリシーに基づいて、必須、推奨、または禁止されるPIIエンティティを決定します。
生成されたレコードは、PIIの形式、必須値の包含、アノテーションの整合性、および文書固有の規則について検証されます。検証要件を満たさないレコードは、不採用または再生成の対象となります。

Nemotron PII Japan is generated through a hybrid pipeline combining persona sampling, rule-based generation, synthetic catalogs, and LLM-based document generation.
A document type is selected from 43 Japanese document types across eight business domains. Document-specific policies determine which PII entities are required, preferred, or prohibited.
Generated records are validated for PII format, required-value inclusion, annotation consistency, and document-specific rules. Records that do not satisfy the validation requirements are rejected or regenerated.

ラベリング方法(Labeling Method)

PIIラベルは、Nemotron PII Japanの生成プロセスにおいて自動的に作成されます。
各文書種別について、事前に定義されたポリシーにより、必須、推奨、または禁止されるPIIエンティティを決定します。
選択されたPII値は、生成される日本語文書に組み込まれ、アノテーションの正解データとして使用されます。
文字単位の位置情報とエンティティラベルは、確定した文書テキストからプログラムによって生成されます。

PII labels are created automatically during the Nemotron PII Japan generation process.
For each document type, predefined policies determine which PII entities are required, preferred, or prohibited.
The selected PII values are inserted into the generated Japanese document and used as the ground truth for annotation.
Character-level spans and entity labels are generated programmatically from the finalized document text.

Dataset Format(データセット形式)

データセットは、主にParquet形式で提供されます。
各レコードは、アノテーション付きPIIを含む1件の合成日本語文書を表します。
本データセットは100,000文書を単一のdata.parquetに保存しています。学習時には、この10万件のデータから検証データを抽出します。
出力される各レコードには、以下のフィールドが含まれます。

The dataset is primarily provided in Parquet format.
Each record represents one synthetic Japanese document containing annotated PII.
The dataset stores all 100,000 documents in a single data.parquet file. Validation data are selected from this 100,000-document dataset for training.
Each exported record contains the following fields:

{
    "uid": {
      "type": "string",
      "description": "Unique record identifier"
    },
    "domain": {
      "type": "string",
      "description": "Business domain"
    },
    "document_type": {
      "type": "string",
      "description": "Type of Japanese document"
    },
    "document_description": {
      "type": "string",
      "description": "Description of the document"
    },
    "document_format": {
      "type": "string",
      "description": "Document format or structure"
    },
    "locale": {
      "type": "string",
      "description": "Output locale code; set to \"jp\" for Japanese exports"
    },
    "text": {
      "type": "string",
      "description": "Generated Japanese document text"
    },
    "spans": {
      "type": "list[dict]",
      "description": "Serialized list of PII spans containing start, end, text, and label"
    },
    "text_tagged": {
      "type": "string",
      "description": "Document text with inline PII annotations in [value]label format"
    }
  }

データセットの定量情報(Dataset Quantification)

8つの業務分野に属する43種類の日本語文書を対象としています。
対象分野は、医療、金融、行政、雇用、教育、法務、通信・IT、およびECです。
氏名、住所、連絡先、マイナンバー、金融・医療・デジタル識別子、日付・日時・時刻など、56種類のPIIラベル（医療機関名・教育機関名・公的機関名を含む）に対応し、810,703スパンを含みます。
各レコードには、1件の文書と複数の文字単位PIIアノテーションが含まれます。data.parquetは75.52 MBです。

It covers 43 Japanese document types across eight business domains.
The covered domains are Healthcare, Finance, Government, Employment, Education, Legal, Telecommunications and IT, and E-commerce.
The dataset supports 56 native PII labels (including medical and educational institution names and public-body names), including names, addresses, contact information, My Number, financial, medical and digital identifiers, dates, datetimes and times, with 810,703 annotated spans.
Each record contains one document and multiple character-level PII annotations. The data.parquet file is 75.52 MB.

データセット詳細 (Dataset Details)

オープンデータとしての特徴 / Open-data characteristics

• 言語: 日本語（ja） / Language: Japanese (ja)
• タスク: 個人識別情報の抽出、マスキング処理の評価 / Tasks: PII extraction, and redaction evaluation
• 生成・注釈方法: persona sampler、決定的sampler・expression、PIIプラグイン、合成カタログなどでPIIの値を先に生成し、その値を含む日本語文書をLLMで生成します。確定した本文に対してルールベースの後処理を行い、文字単位の範囲（span）とラベルを付与します。/ Generation and annotation: PII values are generated first using person samplers, deterministic samplers and expressions, PII plug-ins, and synthetic catalogs. An LLM then generates Japanese documents incorporating those values. Rule-based post-processing assigns character-level spans and labels to the finalized text.
• 人物範囲: 成人のみ（18～74歳） / Population scope: adults only (ages 18–74)
• ドメイン: 8 / Domains: 8
• 総件数: 100,000件 / Total count: 100,000 records /
• 学習taxonomyの文書タイプ: 43 / Document types in the training taxonomy: 43
• PIIラベル: 56 / Native PII labels: 56
• レコード数: 100,000 / Record count: 100,000
• 保存形式: data.parquet、100,000文書の単一ファイル / Storage layout: data.parquet, a single file of 100,000 documents
• ストレージサイズ: data.parquet 75.52 MB / Storage: data.parquet, 75.52 MB
• トークン数: 34,737,684（約3,474万） / Token count: 34,737,684（approximately 34,740,000）
  • トークン数は、Nemotron Nano v2 Japaneseのトークナイザーを使用し、特殊トークンとチャットテンプレートを除外して、文書本文から直接計測しました / The token counts were measured directly from the document text using the tokenizer for Nemotron Nano v2 Japanese, excluding special tokens and chat templates.
• PIIスパン数：810,703（約81.1万）。本文中のPIIに付けた位置・ラベル注釈の総数で、1文書平均約8.11箇所です。/ PII span count: 810,703 (approximately 811,000). This is the total number of position and label annotations attached to PII in the document text、 averaging approximately 8.11 spans per document.
• ラベルの範囲: 注釈は、生成スロットとして用意したPII値と、ルールで検出した範囲を中心としています。本文中の同種の情報をすべて網羅するものではなく、スロット以外の値やルールの対象外となる表現には、ラベルが付いていない場合があります。/ Annotation coverage: Labels primarily cover PII values prepared in generation slots and spans detected by rules. Coverage is not exhaustive: other values of the same type, or expressions outside the rules, may remain unannotated.
• 文脈による注釈範囲: 機関・施設の所在地、機器・文書のID、銀行などの組織情報には、注釈方針や出現箇所の文脈に応じて、ラベルが付く場合と付かない場合があります。これらを一律に対象外としているわけではありません。この区別はPIIの法的な定義ではなく、本データセットの注釈範囲・制約を示します。また、注釈対象に該当する情報でも、ラベルの欠落や範囲・分類の誤りが残っている可能性があります。/ Context-dependent scope: Institutional or facility locations, equipment or document IDs, and organizational information such as bank names may be labeled or left unannotated depending on the annotation policy and occurrence context. These categories are not categorically excluded. This describes the dataset's annotation scope and limitations, rather than a legal definition of PII. Additionally, information within the annotation scope may still have missing labels, incorrect span boundaries, or misclassified labels.

対象ドメイン (Domains)

• 医療 / Medical
• 金融 / Finance
• 行政 / Public administration
• 雇用 / Employment
• 教育 / Education
• 法務 / Legal
• 通信・IT / Telecommunications and IT
• Eコマース / E-commerce

代表的なエンティティ (Representative Entities)

• 氏名、生年月日、年齢、性別、マイナンバー / Names, date of birth, age, sex, and My Number
• 都道府県、市区町村、郵便番号、住所、座標、電話、FAX、メール / Prefecture, city, postcode, street address, coordinates, phone, fax, and email
• 職業、雇用状態、従業員ID、教育レベル、会社名、医療・教育機関名、公的機関名（public_body_name） / Occupation, employment status, employee ID, education level, company name, medical and educational institution names, and public-body names (public_body_name)
• 口座番号、銀行コード、支店コード、SWIFT/BIC、カード番号、CVV、PIN / Account number, bank code, branch code, SWIFT/BIC, card number, CVV, and PIN
• 診療録番号、健康保険識別子、血液型、言語、センシティブ属性 / Medical record number, health-insurance identifier, blood type, language, and sensitive attributes
• ユーザー名、パスワード、API key、Cookie、URL、IP、MAC、端末ID / Username, password, API key, cookie, URL, IP address, MAC address, and device ID
• 車両番号、車両識別子、顧客ID、日時 / License plate, vehicle identifier, customer ID, date, and time

文書タイプとサンプル (Document Types and Examples)

以下は、医療・金融・行政の3文書を抜粋した合成サンプルです。記載される人物・組織・連絡先・識別子は実在性を意図しません。合成された連絡先が実在する連絡先と偶然一致する可能性があるため、公開用サンプルに含まれる連絡先への連絡や実在性の照合には使用しないでください。 /

The following are three synthetic samples covering medical, finance and public-administration documents. The people, organizations, contact details, and identifiers are not intended to be real. Because synthetic contact details may coincidentally match real ones, do not use contact details in public examples for outreach or identity verification.

医療 (Medical)

文書タイプ / Document type: 診療情報提供書 (Medical Referral Letter)
収録サンプル / Sample from (UID: b9d76902728a43699eb182b07d298f3b):

 診療情報提供書

  診療情報提供書

  紹介先医療機関: 腎臓内科専門病院
  紹介先診療科: 腎臓内科
  紹介目的: RAS阻害薬による蛋白尿抑制および腎機能悪化防止の継続依頼

  患者情報
  山崎 勝恵
  患者ID: P4069128
  患者連絡先電話番号: 09059186651
  診断名: 慢性腎臓病

  経過
  当院にて経過観察を行っております山崎 勝恵様は、慢性腎臓病の診断に基づき、現在まで継続的な管理を行ってまいりました。これまでの経過において、腎機能の維持および蛋白尿のコントロールを主眼とした治療を継続しております。

  検査結果
  当院（紹介元医療機関: 医療法人社団凪会 凪メディカルセンター）にて実施した検査結果によれば、eGFRは42mL/min/1.73m2、尿蛋白は2+を示しております。

  現在の治療内容
  現在、テルミサルタン錠40mgを1日1回経口投与することで、血圧管理および腎保護を図っております。

  今後の治療方針
  貴院におかれましては、引き続きRAS阻害薬による蛋白尿の抑制および腎機能悪化防止に向けた治療の継続をお願いしたく存じます。今後の詳細な管理につきまして、ご指導のほどよろしくお願い申し上げます。

  紹介元医療機関: 医療法人社団凪会 凪メディカルセンター
  紹介元医師確認: 電子署名済み

金融 (Finance)

文書タイプ / Document type: 口座開設申込書 (Account Opening Application)
収録サンプル / Sample from (UID: 6ee53c8431ae4100a63335757cd89c5d):

 口座開設申込書

  口座開設申込書

  三和中央銀行（0005）新星町支店（840）へ、以下の通り新規口座の開設を申し込みます。

  申込者情報
  峯田 観月
  生年月日: 昭和50年4月29日
  住所: 神奈川県横浜市鶴見区尻手91番4号 新白樺新町シティハイム613号室
  電話番号: 090(3157)6012
  本人連絡先メールアドレス: mmineta29@gmail.com

  申込内容
  申込先金融機関名: 三和中央銀行（0005）
  受付支店: 新星町支店（840）
  口座種別: 普通預金
  利用目的: 生活費決済および貯蓄

  本人確認事項
  提示書類による本人確認は完了しており、記載事項と原本の照合により本人確認済みです。

  受付処理: 承認待ち

行政 (Public Administration)

文書タイプ / Document type: 問い合わせ受付票 (Inquiry Intake Form)
収録サンプル / Sample from (UID: 071cc5d287fe4af4a8fcc9b121f672a2):

 問い合わせ受付票

  問い合わせ受付票

  文書情報
  使用言語: 日本語

  受付日時: 2023/08/09 19時11分
  問い合わせ分類: 行政手続に関する相談
  相談内容: 住民票の交付申請に関する手続きの確認

  相談者情報
  顧客ID: CUST-071CC5D2
  ユーザー名: risakomishima

  連絡先
  電話番号: 090-5475-4879

  相談詳細:
  相談者より、住民票の交付申請を行う際の手続きについて窓口での問い合わせがありました。申請にあたって必要な書類の確認および、窓口以外での申請方法についてのご質問をいただいております。

  対応方針:
  窓口での申請をご希望の場合は、本人確認書類（運転免許証、マイナンバーカード、資格確認書など）をご持参いただく必要がある旨を案内いたします。また、郵送による請求を希望される場合には、自治体所定の請求書、本人確認書類の写し、自治体指定の交付手数料（定額小為替等）、切手貼付済み返信用封筒が必要となること、および郵送・オンライン・コンビニ交付等の可否や、必要となる本人確認書類の種類・点数・組み合わせについては、申請先自治体の最新の案内を必ず確認していただくようお伝えいたします。窓口手数料については、各手続ごとの窓口手数料を確認するようご案内いたします。

自動検証 / Automated Validation

形式・必須項目、PIIと本文の整合性、日本語表現、重複を自動検証します。全100,000 UID・810,703スパンと保存形式の一致を検証しました。LLMによる文面評価は、評価時点の本文に紐付きます。標本レビューは母集団の誤り率を推定しません。

Automated checks cover formats, required fields, PII/text consistency, Japanese text quality and duplication. Verification checks all 100,000 UIDs, 810,703 spans and saved representations. LLM reviews remain bound to the text originally evaluated. Sample reviews do not estimate population error rates.

人物サンプリング (Persona Sampling)

人物データ (Persona Data)

Persona Data は、Nemotron-Personas-Japanを基盤とする100万件のData Designer向け日本語person assetを、標準のPerson Sampler経由で使用します。氏名、年齢、生年月日、性別、職業、電話、メール、都道府県、市区町村、郵便番号などを、同一人物内で整合する生成基盤として利用します。

Persona Data uses a 1,000,000-record Japanese Data Designer persona asset grounded in Nemotron-Personas-Japan through the standard Person Sampler. It provides names, ages, dates of birth, sex, occupations, phone numbers, email addresses, prefectures, cities, postcodes, and other attributes as a consistent per-person generation foundation.

シードデータ (Seed Data)

銀行データ (Bank Data)

金融機関コードと金融機関名は、デジタル庁の「登録可能な金融機関の一覧」をオフライン生成時のシードとしてのみ参照します。公開情報の金融機関名をそのまま文書へ出力せず、合成銀行名・合成支店名を生成します。支店コードは決定的に生成され、実在顧客の口座情報とは結び付けません。参照: デジタル庁の金融機関一覧およびデジタル庁ウェブサイト利用規約。

Financial-institution codes and names are taken from the Digital Agency's List of Financial Institutions Eligible for Account Registration only as offline generation seeds. Official institution names are not emitted directly in generated documents; synthetic bank and branch names are generated instead. Branch codes are generated deterministically and are not linked to real customer accounts. References: Digital Agency financial-institution list and Digital Agency website terms of use.

会社名データ (Company Name Data)

国内会社名カタログは、国税庁法人番号公表サイトの全件データに含まれる法人名をオフライン生成のシードとしてのみ使用します。実行時カタログでは、正規化後に公式名と一致する名称を除外し、合成会社名を使用します。参照: 国税庁法人番号公表サイトの全件データおよび現行サイト利用規約。

The domestic company-name catalog uses names from the National Tax Agency Corporate Number Publication Site all-record data only as offline generation seeds. Runtime catalogs exclude names that match official names after normalization and use synthetic company names. References: National Tax Agency all-record data and the current site terms of use.

シードとして公的名称を使用しても、データセットが当該組織の承認、提携、実在人物との関係を示すものではありません。合成名称が既存名称や新規登録名称と偶然一致する可能性は残ります。

Use of public names as seeds does not imply endorsement, affiliation, or a relationship between any organization and a generated person or document. A synthetic name may still coincidentally match an existing or newly registered name.

使い方 (How to Use)

単一Parquetファイルを読み込む例です。 / Example: loading the single Parquet file.

from datasets import load_dataset  
ds = load_dataset("nvidia/Nemotron-PII-Japan")

モデル性能の評価結果 (Model Evaluation Results)

追加学習で確認された改善 (Observed Improvements from Fine-Tuning)

公開データセットは、固定のtrain/test分割を設けず、100,000文書を単一のdata.parquetで提供しています。
全100,000文書を学習用95,000文書・内部検証用5,000文書に分割しました。
学習用95,000文書・56ラベルでurchade/gliner_multi-v2.1を初期モデルから3エポック追加学習し、5,000文書の検証F1（56ラベル・完全一致micro F1、しきい値0.5固定）が最初に最大となったepoch 1（step 6,104、98.08%）を選択しました。epoch 2は97.53%、epoch 3は97.53%でした。
文書間の類似性が高いため、内部検証F1はチェックポイント選択のための指標とし、異なる文書への汎化性能は、以下の外部データで別途評価しました。

The public dataset contains 100,000 documents in a single data.parquet file, without a fixed train/test split.
All 100,000 documents were split into 95,000 training documents and 5,000 internal validation documents.
urchade/gliner_multi-v2.1 was fine-tuned from the original pretrained weights for three epochs with 56 labels using the 95,000 training documents. Epoch 1 (step 6,104; native 56-label validation F1 98.08%) was selected as the first epoch at which exact-span micro F1 on the 5,000 validation documents reached its maximum at a fixed threshold of 0.5. Validation F1 was 97.53% at epoch 2 and 97.53% at epoch 3.
Because the documents are highly similar, the internal validation F1 reported here was used for checkpoint selection. Generalization to different documents was evaluated separately using the external datasets described below.

Sumi test・OODの外部評価では、氏名・電話番号・住所・メール・日付・URL・口座番号・カード番号の共通8分類に対応付け、しきい値0.5固定・文字範囲とラベルの完全一致micro F1で採点しました。Janome、最大span幅25語、window 120／overlap 20を使用しました。主な比較では、Baseと追加学習後（+FT）に同じ56候補ラベルを同じ順序で指定して推論し、予測を共通8分類へ対応付けて採点しています。外部評価データは今回の追加学習、モデル選択、しきい値選択に使用していません。
56ラベルから8分類への対応では、first_name／last_nameを氏名、street_address／prefecture／city／postcodeを住所、phone_number／previous_phone_number／fax_numberを電話番号にまとめます。email、url、account_number／customer_id、credit_debit_cardは、それぞれメール、URL、口座番号、カード番号に対応付けます。Sumiの日付はdate_of_birthを対象とし、一般の日付・日時の扱いは後述します。共通8分類に対応しないラベルは、この採点の対象外です。
正解と予測の両方にこの対応を適用したうえで、氏名の範囲が隣接するか、間に半角・全角空白やタブだけがある場合は一つに結合します。例えば、別々に検出した姓「佐藤」と名「陽奈美」は、本文が「佐藤 陽奈美」であれば空白を含む一つの氏名として採点します。改行や句読点を挟む氏名は結合しません。住所の範囲は、本文上の文字位置が重なる場合だけ結合します。例えば、本文が「東京都世田谷区松原1番1号」で、「東京都世田谷区」と「世田谷区松原1番1号」を検出した場合は、「世田谷区」の文字位置が重なるため、全体を一つの住所として結合します。一方、同じ本文から「東京都」と「世田谷区松原1番1号」を別々に検出した場合は、範囲が隣接するだけで重ならないため、結合せず二つの範囲のまま採点します。結合後の開始位置・終了位置と8分類のラベルが正解と一致した場合を正解とする、完全一致micro F1で比較しています。
Sumi test（2,000文書）は、メールや申請書などの業務文書テンプレートで作成した日本語の合成PII評価データです。Sumi OOD（520文書）は、Wikipedia・法令・文学の文章に合成PIIを埋め込み、テンプレート外への汎化を評価するデータです。
表はBaseと追加学習後（+FT）を同じ56ラベル推論で比較し、共通8分類で採点したmicro F1です。Baseは追加学習前のモデル、+FTは56ラベルで学習し、検証データで選択したモデルです。

External evaluation uses Sumi test and Sumi OOD, with exact character-span-and-label micro F1 over eight common categories: person names, phone numbers, addresses, email addresses, dates, URLs, bank/customer account numbers, and credit card numbers. Base is the original pretrained model. Base and the fine-tuned model (+FT) use the same 56 native candidate labels, in the same order, projected to the eight scoring categories. Both use the same evaluation data, preprocessing, fixed threshold of 0.5, Janome, maximum span width of 25 words, and window 120 / overlap 20. External evaluation data were not used for fine-tuning, checkpoint selection, or threshold selection.
To map the 56 labels to eight categories, first_name and last_name are grouped as person names; street_address, prefecture, city, and postcode as addresses; and phone_number, previous_phone_number, and fax_number as phone numbers. The labels email, url, account_number/customer_id, and credit_debit_card map to email addresses, URLs, account numbers, and credit card numbers, respectively. For Sumi, date_of_birth is scored as a date; the treatment of general date and date-time predictions is explained below. Labels that do not map to the eight common categories are excluded from this scoring.
This mapping is applied to both gold annotations and predictions before scoring. Name spans are merged when they are adjacent or separated only by half-width spaces, full-width spaces, or tabs. For example, separately detected family name “佐藤” and given name “陽奈美” are scored as a single name span, including the space, when the text reads “佐藤 陽奈美”. Names separated by a newline or punctuation are not merged.
Address spans are merged only when their character positions in the document overlap. For example, if the text is “東京都世田谷区松原1番1号” and the detected spans are “東京都世田谷区” and “世田谷区松原1番1号”, the character positions for “世田谷区” overlap, so the spans are merged into one address covering the full text. By contrast, if “東京都” and “世田谷区松原1番1号” are detected separately in the same text, they are adjacent without overlapping and are scored as two separate spans. Exact-match micro F1 requires the start position, end position, and common category label of each span after merging to match the gold annotation.
Sumi test (2,000 documents) is synthetic Japanese PII evaluation data generated from business-document templates, such as emails and application forms. Sumi OOD (520 documents) inserts synthetic PII into Wikipedia, statute, and literary prose to evaluate generalization beyond those templates.
The table compares Base and the fine-tuned model (+FT) under the same 56-label inference conditions, scored as exact character-span-and-label micro F1 over eight common categories. Base is the model before fine-tuning; +FT is the model trained with 56 labels and selected using the validation data.

モデル / Model	Sumi test 2,000	Sumi OOD 520
urchade/gliner_multi-v2.1 Base 56ラベル推論	13.41%	8.13%
urchade/gliner_multi-v2.1 +FT 56ラベル推論	73.80%	65.30%

同じ56ラベル推論のBaseに対するF1の改善幅は、Sumi test +60.39 pp、Sumi OOD +57.17 ppです。差は丸め前の値から算出した百分率ポイント（pp）です。追加学習後の適合率／再現率は、Sumi testが85.17%／65.10%、Sumi OODが61.63%／69.43%でした。
Sumiでは日付の正解ラベルが生年月日のみです。56ラベル推論では一般の日付（date）・日時（date_time）の予測を採点前に除外し、生年月日（date_of_birth）の予測だけを日付として採点します。

Under the same 56-label inference conditions, +FT improves over Base by 60.39 percentage points (pp) on Sumi test and 57.17 pp on Sumi OOD. Gains are calculated from unrounded values. After fine-tuning, precision/recall is 85.17%/65.10% on Sumi test and 61.63%/69.43% on Sumi OOD.
In Sumi, the gold date annotations cover only dates of birth. In 56-label inference, predictions labeled date or date_time are removed before scoring; only date_of_birth predictions are scored as dates.

倫理的考慮事項 (Ethical Considerations)

本データセットはsynthetic-by-designですが、フィッシング、なりすまし、偽造文書、認証情報や金融識別子を含む悪用に転用される可能性があります。生成文書は必ず合成データとして表示し、真正な記録や法的文書として扱わないでください。

Although the dataset is synthetic by design, it could be misused for phishing, impersonation, forged documents, or scenarios involving credentials and financial identifiers. Generated documents must be clearly identified as synthetic and must not be treated as authentic records or legal instruments.

すべてのデータは、実世界の分布を反映しているものの、完全に人工的に生成されたものです。氏名やペルソナに関する記述が、存命・故人を問わず実在の人物と類似している場合でも、それはすべて偶然の一致です。

All data, while mirroring real-world distributions, is completely artificially generated. Any similarity in names or persona descriptions to actual persons, living or dead, is purely coincidental.

利用者は、対象業界のプライバシー、セキュリティ、公平性、データガバナンス要件を確認し、予期しない誤用や漏えいを継続的に評価する責任があります。NVIDIAはTrustworthy AIを共有責任と位置付けています。

Users are responsible for evaluating applicable privacy, security, fairness, and data-governance requirements and for monitoring unexpected misuse or leakage. NVIDIA considers Trustworthy AI a shared responsibility.

NVIDIAは『信頼できるAI（Trustworthy AI）』は共有された責任であると考えており、幅広いAIアプリケーションの開発を可能にするためのポリシーと実践を確立しています。開発者は、本データセットが関連する業界やユースケースの要件を満たし、予期せぬ製品の誤用に対処できるよう、社内の開発チームと連携する必要があります。
品質、リスク、セキュリティの脆弱性、またはNVIDIAのAIに関する懸念については、こちらから報告してください。

NVIDIA believes Trustworthy AI is a shared responsibility and we have established policies and practices to enable development for a wide array of AI applications. Developers should work with their internal developer teams to ensure this dataset meets requirements for the relevant industry and use case and addresses unforeseen product misuse.
Please report quality, risk, security vulnerabilities or NVIDIA AI Concerns [here]

引用 (Citation)

@dataset{nemotron-pii-japan,  
  author = {Ogushi, Masaya and Fujita, Atsunori and Gong, Vincent and Yamamoto, Kotaro and Ruan, Colleen and Suhara, Yoshi and Jennings, Will and Manoel, Andre},  
  title = {Nemotron-PII-Japan: Synthetic Japanese Data for PII Detection and Redaction},  
  year = {2026},  
  publisher = {NVIDIA},  
  url = {https://huggingface.co/datasets/nvidia/Nemotron-PII-Japan}  
}

参考資料 (References)

• Nemotron-Personas-Japan — 公式データセットページ / official dataset page
• Nemotron-PII — 公式データセットページ / official dataset page
• NVIDIA NeMo Data Designer — 公式ドキュメント / official documentation
• デジタル庁「登録可能な金融機関の一覧」 / Digital Agency list of eligible financial institutions
• デジタル庁ウェブサイト利用規約 / Digital Agency website terms of use
• 国税庁法人番号公表サイト 全件データ / National Tax Agency all-record corporate data
• 国税庁法人番号公表サイト利用規約 / National Tax Agency Corporate Number Publication Site terms of use
• Creative Commons Attribution 4.0 International — ライセンス本文 / license text
• NVIDIA Trustworthy AI — 信頼できるAIの方針 / trustworthy AI policy
• NVIDIA AI Concerns / Security Reporting — AI懸念・脆弱性報告窓口 / AI concerns and security reporting