RYasuda/kev-ja-emotion

Kev Japanese Emotion Dataset

日本語文章の話者が感じている怒り・悲しみ・喜びを、3つのyes/noラベルで表す合成データセットです。Kev日本語感情モデルの追加学習・誤り分析・候補選択に使いました。

AIによる作成・確認を含むデータで、独立した人手アノテーションは未実施です。 実際の顧客会話を収集したデータではありません。既に実験で確認した評価分割を含みます。

Synthetic Japanese texts with independent anger, sadness and joy labels. Contains 460 distinct texts. No independent human annotation has been performed. Evaluation splits have already been inspected during model development and should not be treated as a fresh final benchmark.

対応する追加学習モデルの公開先: RYasuda/kev-ja-emotion-kl-0.8b。

分割と使用履歴

分割	文章	感情質問	使用履歴
train	240	720	最終KL3試行の学習。最初の140文章＋誤り分析後に作成した別の100文章
validation	100	300	誤り分析、追加例の方針決定、チェックポイント選択に繰り返し使用
historical_evaluation	60	180	以前の候補モデルの評価に使用。結果確認後にKL実験へ進んだため、KL3の独立した最終評価ではない
legacy_validation	30	90	初期の学習・Optuna探索・モデル選択に使用
legacy_test	30	90	以前の候補モデルの評価に使用。その後の改善実験前に確認済み
合計	460	1,380	各文章に3感情ラベル

historical_evaluation と legacy_test を、新しい未使用テストとして扱わないでください。一般タスクのdecision-v7リプレイ800件・一般評価パネル・教師の確率は含みません。このデータだけでは最終モデルの学習全体を再現できません。

主な分割の文章カテゴリ

カテゴリ	train	validation	historical_evaluation
anger	35	20	10
sadness	50	20	10
joy	50	20	10
neutral	65	20	10
anxiety	20	10	10
mixed	20	10	10

カテゴリは文章作成時の区分です。学習ターゲットは3つの感情ラベルであり、6カテゴリの単一分類ではありません。

ラベルの方針

• 現在の話者自身が感じている怒り・悲しみ・喜びを判定します。
• 感情の引用、他人の感情、否定、依頼、解消した過去の感情、単なる出来事の報告とは区別します。
• 混合感情では複数の感情がyesになります。
• 中立・不安だけの文章は対象3感情をnoとします。不安の有無自体は学習ターゲットにありません。
• yes/noラベルは感情の有無であり、強度や臨床的状態のラベルではありません。

100文章の開発パネルはAIで再確認し、ラベル変更は0件でした。この確認は正解ラベルの妥当性を保証するものではありません。他の分割について、全件に同じ再確認を行ったとは主張しません。独立した人手確認・複数評定者の一致率は未確認です。

ファイル形式

data/ はDataset Viewerと一般的な学習に使いやすいフラットなJSONLです。

列	型	内容
id	string	元データの文章ID
text	string	日本語文章
anger / sadness / joy	bool	true=yes、false=no
category	string	作成時のカテゴリ
split	string	この公開セットでの分割
origin_group	string	trainではoriginal_140 / added_100。それ以外では分割名
label_status	string	確認状況
anger_question / sadness_question / joy_question	string	実験で使用した元の質問文。日本語または英語

kev/ には、Kevの学習スクリプトで直接読み込める元のJSONLを保存しています。state、questions、_meta を保持し、ラベル・質問・メタデータを変更していません。両形式は同じ460文章の別表現であり、追加の文章ではありません。

manifest.json に件数、カテゴリ内訳、陽性ラベル数、使用履歴、ファイルのSHA256を記録しています。文章ID、およびNFKC正規化して前後の空白を除いた文章について、各分割内と分割間の完全一致重複0件を確認しました。意味の近い文章や類似テンプレートがないことは保証していません。

Pythonから読み込む

公開先は RYasuda/kev-ja-emotion です。

pip install datasets

from datasets import load_dataset

ds = load_dataset("RYasuda/kev-ja-emotion", "default")
print(ds["train"][0])
print(ds["validation"].num_rows)  # 100

Kev用データをダウンロード

pip install huggingface_hub
hf download RYasuda/kev-ja-emotion \
  --repo-type dataset --local-dir kev-ja-emotion-data

Kev学習では kev-ja-emotion-data/kev/train.jsonl を学習データ、kev-ja-emotion-data/kev/validation.jsonl を開発データとして指定します。一般能力の検証データとリプレイは別途必要です。

作成・復元の経緯

最初の140学習文章は元の感情例と対照例から作成しました。100文章の開発パネルの誤り分析を踏まえ、別の100学習文章を追加しました。学習例には中立と感情の区別、引用・依頼・否定、不安と悲しみの区別、混合感情などを含みます。

元データの整理時に削除された後、残存していた作成コードから復元しました。240学習文章、100開発文章、追加100学習文章、60評価文章は、削除前の既知のSHA256との一致を確認しています。保存された作成コードの再実行による復元ですが、上記4ファイルはハッシュの一致で元ファイルと同一であることを確認しました。公開向けの整形では、文章・ラベル・質問文を変更していません。初期30＋30文章は元の作成コードから復元し、独立した削除前ハッシュとの比較はありません。

実利用の文章分布との一致や、方言・長文・皮肉・文脈依存への対応範囲は測定していません。合成データの表現やラベル方針に偏りがある可能性があります。最終的な性能確認には、用途に合う未使用文章と独立した人手確認が必要です。

ライセンス

独自作成した感情文章・ラベルをApache-2.0で公開します。LICENSEを参照してください。上流の一般タスクデータは本リポジトリに含みません。

アップロード

ローカルのプロジェクト直下から実行します。

.venv/bin/hf auth login
.venv/bin/hf upload RYasuda/kev-ja-emotion \
  release-datasets/kev-ja-emotion . --repo-type dataset