Datasets:
The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.
tyqiangz/multilingual-sentiments(複製)
データの内容
複数の多言語センチメント・データセットを、正・中立・負の 3 クラスにそろえて集めたもの。1 行が 1 件のテキストで、text に本文、label に 3 クラスのいずれか、language に言語、source に元データの情報が入る。日本語を含むが、日本語分の元データは調査メモで出典が不透明とされており、原典の確認が要る。
データの概要
| 項目 | 値 |
|---|---|
| 行数 | 591,442(13 構成・39 分割の合計) |
| 列数 | 3〜4(構成による) |
| 容量 | 41.95 KB(ファイル 5 本) |
| ファイルの形式 | json 1、py 1 |
| 言語 | de, en, es, fr, ja, zh, id, ar, hi, it, ms, pt |
| 公開 | public |
構成と分割
| 構成(config) | 分割(split)ごとの行数 | 列数 |
|---|---|---|
all |
train 270,399、validation 10,857、test 14,465 |
4 |
arabic |
train 1,839、validation 324、test 870 |
3 |
chinese |
train 120,000、validation 3,000、test 3,000 |
3 |
english |
train 1,839、validation 324、test 870 |
3 |
french |
train 1,839、validation 324、test 870 |
3 |
german |
train 1,839、validation 324、test 870 |
3 |
hindi |
train 1,839、validation 324、test 870 |
3 |
indonesian |
train 11,000、validation 1,260、test 500 |
3 |
italian |
train 1,839、validation 324、test 870 |
3 |
japanese |
train 120,000、validation 3,000、test 3,000 |
3 |
malay |
train 4,687、validation 1,005、test 1,005 |
3 |
portuguese |
train 1,839、validation 324、test 870 |
3 |
spanish |
train 1,839、validation 324、test 870 |
3 |
列(構成 all・分割 train。構成ごとに列が違う)
| 列 | 型 | 先頭の行の値 |
|---|---|---|
text |
string |
yang memerlukan pemerhatian dan tindakan serius |
source |
string |
malaya |
language |
string |
malay |
label |
class_label(3: positive, neutral, negative) |
0 |
行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は HYUKI5/dataset-catalog にある。
複製について
tyqiangz/multilingual-sentiments をリビジョン a3080a58e563138e9c7a61765d8120b388dc572d の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。
出典
- 元のデータセット: https://huggingface.co/datasets/tyqiangz/multilingual-sentiments
- 複製したリビジョン:
a3080a58e563138e9c7a61765d8120b388dc572d(2023-05-23 15:01:51+00:00) - 元のライセンス表記:
apache-2.0
論文
- 元のカードに論文へのリンクは見つからなかった
アノテーションの方法
元のカードにアノテーションの節が無かった。下の「調査メモの記述」と「元のカード」を参照。
微調整に使うときの注意
- 調査メモの台帳での区分: B(継承条件・gated・モデル由来の条件・上流の規約などが付く)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
調査メモの記述
| メモ | 節 | ライセンス(記載) | 確認 | 注記 |
|---|---|---|---|---|
multilingual_cjk.md |
1. 大規模多言語データセット(XNLI, PAWS-X, MASSIVE, SIB-200, Belebele ほか) (L26) | apache-2.0(各原典データの個別ライセンスは card に記載なし → 未確認) | 確認済 | 上流/条件注記 / 確認印なし(各ファイルの凡例により確認済扱い) / 原文注記: script同梱。出典が不透明で、日本語 126k の元データは未確認。要原典確認 |
jev_sources_tasksource_bekko.csv |
CSV(tasksource-jev-typed-decisions) | apache-2.0 / license_use=commercial | 確認済 | license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
元のカード(日本語訳)
以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。
多言語センチメント・データセット
正・中立・負の 3 クラスにまとめた、多言語のセンチメントデータセットの集まり。
ほとんどの多言語センチメントデータセットは、正と負の 2 クラス、製品レビューの 5 段階評価(例: Amazon の多言語データセット)、あるいは複数の感情のクラスのいずれかである。しかし一般の人にとっては、正・負・中立の 3 クラスで足りることも多く、より単純で付与しやすい。また、正と負の 2 分類は単純すぎる。世界のテキストの大半は、実際にはセンチメントとして中立である。さらに、ほとんどの多言語センチメントデータセットにはアジアの言語(例: マレー語、インドネシア語)が含まれず、英語やドイツ語などの西欧の言語が中心である。
Git リポジトリ: https://github.com/tyqiangz/multilingual-sentiment-datasets
データセットの説明
原文(英語)
Multilingual Sentiments Dataset
A collection of multilingual sentiments datasets grouped into 3 classes -- positive, neutral, negative.
Most multilingual sentiment datasets are either 2-class positive or negative, 5-class ratings of products reviews (e.g. Amazon multilingual dataset) or multiple classes of emotions. However, to an average person, sometimes positive, negative and neutral classes suffice and are more straightforward to perceive and annotate. Also, a positive/negative classification is too naive, most of the text in the world is actually neutral in sentiment. Furthermore, most multilingual sentiment datasets don't include Asian languages (e.g. Malay, Indonesian) and are dominated by Western languages (e.g. English, German).
Git repo: https://github.com/tyqiangz/multilingual-sentiment-datasets
- Downloads last month
- 88