Datasets:
Tasks:
Text Classification
Modalities:
Text
Sub-tasks:
intent-classification
Languages:
English
Size:
10K<n<100K
License:
Dataset Preview
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
Job manager crashed while running this job (missing heartbeats).
Error code: JobManagerCrashedError
Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
text string | user_id int64 | subforum_id int64 | num_contexts int64 | label class label |
|---|---|---|---|---|
file_id,user_id,subforum_id,num_contexts,label | null | null | null | null |
12834217_1,572066,1346,0,noHate | null | null | null | null |
12834217_2,572066,1346,0,noHate | null | null | null | null |
12834217_3,572066,1346,0,noHate | null | null | null | null |
12834217_4,572066,1346,0,hate | null | null | null | null |
12834217_5,572066,1346,0,noHate | null | null | null | null |
12834217_6,572066,1346,0,noHate | null | null | null | null |
12834217_7,572066,1346,0,noHate | null | null | null | null |
12834217_8,572066,1346,0,noHate | null | null | null | null |
12834217_9,572066,1346,0,noHate | null | null | null | null |
12834217_10,572066,1346,0,noHate | null | null | null | null |
12834493_1,572058,1396,0,hate | null | null | null | null |
12843221_1,575003,1396,0,noHate | null | null | null | null |
12843221_2,575003,1396,0,noHate | null | null | null | null |
12845600_1,575437,1396,0,noHate | null | null | null | null |
12845600_2,575437,1396,0,noHate | null | null | null | null |
12845600_3,575437,1396,0,noHate | null | null | null | null |
12845600_4,575437,1396,0,noHate | null | null | null | null |
12845808_1,572287,1396,1,noHate | null | null | null | null |
12845808_2,572287,1396,1,noHate | null | null | null | null |
12849464_1,575975,1346,0,noHate | null | null | null | null |
12849464_2,575975,1346,0,noHate | null | null | null | null |
12849464_3,575975,1346,1,hate | null | null | null | null |
12849464_4,575975,1346,1,hate | null | null | null | null |
12849464_5,575975,1346,1,noHate | null | null | null | null |
12851329_1,576176,1346,0,noHate | null | null | null | null |
12851329_2,576176,1346,0,noHate | null | null | null | null |
12851329_3,576176,1346,0,noHate | null | null | null | null |
12854837_1,573356,1346,0,noHate | null | null | null | null |
12854837_2,573356,1346,0,noHate | null | null | null | null |
12854837_3,573356,1346,0,noHate | null | null | null | null |
12854837_4,573356,1346,0,noHate | null | null | null | null |
12855154_1,576372,1346,0,hate | null | null | null | null |
12855349_1,572083,1346,0,noHate | null | null | null | null |
12855349_2,572083,1346,0,noHate | null | null | null | null |
12855497_1,575939,1346,0,noHate | null | null | null | null |
12855497_2,575939,1346,0,noHate | null | null | null | null |
12855497_3,575939,1346,1,noHate | null | null | null | null |
12855806_1,575744,1346,0,noHate | null | null | null | null |
12855806_2,575744,1346,0,noHate | null | null | null | null |
12856993_1,575948,1346,0,noHate | null | null | null | null |
12856993_2,575948,1346,3,noHate | null | null | null | null |
12858701_1,572179,1346,2,noHate | null | null | null | null |
12860820_1,573375,1346,0,hate | null | null | null | null |
12863641_1,572066,1346,0,noHate | null | null | null | null |
12869018_1,575841,1346,0,noHate | null | null | null | null |
12869018_2,575841,1346,0,noHate | null | null | null | null |
12869018_3,575841,1346,1,hate | null | null | null | null |
12869757_1,573148,1346,1,noHate | null | null | null | null |
12870229_1,572066,1346,0,noHate | null | null | null | null |
12870229_2,572066,1346,0,noHate | null | null | null | null |
12870229_3,572066,1346,0,noHate | null | null | null | null |
12870229_4,572066,1346,0,noHate | null | null | null | null |
12870229_5,572066,1346,0,noHate | null | null | null | null |
12870229_6,572066,1346,0,noHate | null | null | null | null |
12875264_1,575695,1397,0,noHate | null | null | null | null |
12875264_2,575695,1397,0,noHate | null | null | null | null |
12875264_3,575695,1397,0,noHate | null | null | null | null |
12875264_4,575695,1397,0,noHate | null | null | null | null |
12875264_5,575695,1397,0,noHate | null | null | null | null |
12883101_1,577823,1345,4,hate | null | null | null | null |
12883101_2,577823,1345,4,noHate | null | null | null | null |
12883101_3,577823,1345,4,noHate | null | null | null | null |
12904919_1,572076,1345,0,hate | null | null | null | null |
12904919_2,572076,1345,0,noHate | null | null | null | null |
12905790_1,578244,1345,2,noHate | null | null | null | null |
12905790_2,578244,1345,2,noHate | null | null | null | null |
12915702_1,575999,1345,0,noHate | null | null | null | null |
12915702_2,575999,1345,0,noHate | null | null | null | null |
12915702_3,575999,1345,0,noHate | null | null | null | null |
12915702_4,575999,1345,0,noHate | null | null | null | null |
13061184_1,577495,1345,1,hate | null | null | null | null |
13061184_2,577495,1345,1,hate | null | null | null | null |
13061184_3,577495,1345,1,noHate | null | null | null | null |
13063006_1,578159,1345,1,noHate | null | null | null | null |
13063006_2,578159,1345,1,noHate | null | null | null | null |
13063290_1,578990,1345,0,noHate | null | null | null | null |
13063290_2,578990,1345,2,noHate | null | null | null | null |
13063290_3,578990,1345,2,noHate | null | null | null | null |
13119410_1,572508,1345,1,noHate | null | null | null | null |
13139571_1,572139,1345,3,noHate | null | null | null | null |
13139571_2,572139,1345,3,noHate | null | null | null | null |
13177001_1,579206,1345,0,noHate | null | null | null | null |
13177001_2,579206,1345,1,noHate | null | null | null | null |
13177001_3,579206,1345,1,noHate | null | null | null | null |
13177001_4,579206,1345,1,noHate | null | null | null | null |
13177001_5,579206,1345,1,noHate | null | null | null | null |
13209219_1,575645,1345,0,noHate | null | null | null | null |
13209219_2,575645,1345,0,noHate | null | null | null | null |
13209219_3,575645,1345,0,noHate | null | null | null | null |
13209219_4,575645,1345,0,noHate | null | null | null | null |
13271390_1,577040,1345,2,noHate | null | null | null | null |
13271390_2,577040,1345,2,noHate | null | null | null | null |
13288494_1,572180,1345,6,noHate | null | null | null | null |
13288494_2,572180,1345,0,noHate | null | null | null | null |
13288494_3,572180,1345,6,noHate | null | null | null | null |
13288494_4,572180,1345,6,noHate | null | null | null | null |
13288494_5,572180,1345,6,noHate | null | null | null | null |
13288494_6,572180,1345,6,noHate | null | null | null | null |
13288494_7,572180,1345,6,noHate | null | null | null | null |
End of preview.
odegiber/hate_speech18（複製）
データの内容
白人至上主義のフォーラム Stormfront の英語の投稿を文に分け、ヘイトスピーチかどうかを手作業で判定したデータ。1 行が 1 文で、text に文、label に hate・noHate・relation・idk/skip のいずれかが入っている。relation は、その文だけではヘイトと判定できず、同じ投稿の他の文と合わせるとヘイトになるものを指す。投稿は複数のサブフォーラムから無作為に抽出されている。
データの概要
| 項目 | 値 |
|---|---|
| 行数 | 10,944（1 構成・1 分割の合計） |
| 列数 | 5 |
| 容量 | 3.20 MB（ファイル 4 本） |
| ファイルの形式 | zip 1、py 1 |
| 言語 | en |
| 公開 | public |
構成と分割
| 構成（config） | 分割（split）ごとの行数 | 列数 |
|---|---|---|
default |
train 10,944 |
5 |
列（構成 default）
| 列 | 型 |
|---|---|
text |
string |
user_id |
int64 |
subforum_id |
int64 |
num_contexts |
int64 |
label |
struct{class_label: struct{names: struct{…}}} |
行数と列は元のカードの YAML（dataset_info）の記載。データセットビューアでは読めなかった。全データセットの一覧は HYUKI5/dataset-catalog にある。
複製について
odegiber/hate_speech18 をリビジョン 34e1d3d74774f7470a4105efb67c535c0778d892 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。
出典
- 元のデータセット: https://huggingface.co/datasets/odegiber/hate_speech18
- 複製したリビジョン:
34e1d3d74774f7470a4105efb67c535c0778d892（2024-01-18 11:04:44+00:00） - 元のライセンス表記:
['cc-by-sa-3.0']
論文
アノテーションの方法
元のカードにアノテーションの節はあるが、中身は空欄（More Information Needed）だった。
微調整に使うときの注意
- 調査メモの台帳での区分: B（継承条件・gated・モデル由来の条件・上流の規約などが付く）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
調査メモの記述
| メモ | 節 | ライセンス（記載） | 確認 | 注記 |
|---|---|---|---|---|
jev_sources_tasksource_bekko.csv |
CSV（tasksource-jev-typed-decisions） | cc-by-sa-3.0, CC BY-SA 3.0 (DPI) / license_use=commercial | 確認済 | license_use=commercial ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
元のカード（日本語訳）
以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。
データセットカード: [データセット名]
目次
- データセットの説明
- データセットの概要
- 対象タスクとリーダーボード
- 言語
- データセットの構造
- データのインスタンス
- データのフィールド
- データ分割
- データセットの作成
- 収集の根拠
- 元データ
- アノテーション
- 個人情報と機微な情報
- データの利用に関する考慮事項
- データセットの社会的影響
- バイアスについての議論
- その他の既知の制約
- 追加情報
- データセットの作成者
- ライセンス情報
- 引用情報
- 貢献
データセットの説明
- ホームページ: https://github.com/Vicomtech/hate-speech-dataset
- リポジトリ: https://github.com/Vicomtech/hate-speech-dataset
- 論文: https://www.aclweb.org/anthology/W18-51.pdf
- リーダーボード:
- 連絡先:
データセットの概要
これらのファイルには、白人至上主義のフォーラム Stormfront から抽出したテキストが含まれる。複数のサブフォーラムからフォーラム投稿をランダムに抽出し、文に分割した。それらの文は、一定のアノテーションガイドラインに従って、ヘイトスピーチを含むかどうかを手作業でラベル付けされた。
対象タスクとリーダーボード
[More Information Needed]
言語
英語
データセットの構造
データのインスタンス
[More Information Needed]
データのフィールド
- text: 提供された文
- user_id: これらの文が属する会話を再構築するための情報
- subforum_id: これらの文が属する会話を再構築するための情報
- num_contexts: アノテーターが文のカテゴリを判定する前に読まなければならなかった先行投稿の数
- label: hate、noHate、relation（その文だけではヘイトを含まないが、投稿内の複数の文を組み合わせるとヘイトを含む）、または idk/skip（英語ではない、またはヘイトか noHate かに分類するための情報を含まない文）
データ分割
[More Information Needed]
データセットの作成
収集の根拠
[More Information Needed]
元データ
初期のデータ収集と正規化
[More Information Needed]
元の言語の生成者は誰か？
[More Information Needed]
アノテーション
アノテーションの過程
[More Information Needed]
アノテーターは誰か？
[More Information Needed]
個人情報と機微な情報
[More Information Needed]
データの利用に関する考慮事項
データセットの社会的影響
[More Information Needed]
バイアスについての議論
[More Information Needed]
その他の既知の制約
[More Information Needed]
追加情報
データセットの作成者
[More Information Needed]
ライセンス情報
[More Information Needed]
引用情報
@inproceedings{gibert2018hate,
title = "{Hate Speech Dataset from a White Supremacy Forum}",
author = "de Gibert, Ona and
Perez, Naiara and
Garc{\'\i}a-Pablos, Aitor and
Cuadros, Montse",
booktitle = "Proceedings of the 2nd Workshop on Abusive Language Online ({ALW}2)",
month = oct,
year = "2018",
address = "Brussels, Belgium",
publisher = "Association for Computational Linguistics",
url = "https://www.aclweb.org/anthology/W18-5102",
doi = "10.18653/v1/W18-5102",
pages = "11--20",
}
貢献
このデータセットを追加してくれた @czabo に感謝する。
原文（英語）
Dataset Card for [Dataset Name]
Dataset Summary
These files contain text extracted from Stormfront, a white supremacist forum. A random set of forums posts have been sampled from several subforums and split into sentences. Those sentences have been manually labelled as containing hate speech or not, according to certain annotation guidelines.
Supported Tasks and Leaderboards
[More Information Needed]
Languages
English
Dataset Structure
Data Instances
[More Information Needed]
Data Fields
- text: the provided sentence
- user_id: information to make it possible to re-build the conversations these sentences belong to
- subforum_id: information to make it possible to re-build the conversations these sentences belong to
- num_contexts: number of previous posts the annotator had to read before making a decision over the category of the sentence
- label: hate, noHate, relation (sentence in the post doesn't contain hate speech on their own, but combination of serveral sentences does) or idk/skip (sentences that are not written in English or that don't contain information as to be classified into hate or noHate)
Data Splits
[More Information Needed]
Dataset Creation
Curation Rationale
[More Information Needed]
Source Data
Initial Data Collection and Normalization
[More Information Needed]
Who are the source language producers?
[More Information Needed]
Annotations
Annotation process
[More Information Needed]
Who are the annotators?
[More Information Needed]
Personal and Sensitive Information
[More Information Needed]
Considerations for Using the Data
Social Impact of Dataset
[More Information Needed]
Discussion of Biases
[More Information Needed]
Other Known Limitations
[More Information Needed]
Additional Information
Dataset Curators
[More Information Needed]
Licensing Information
[More Information Needed]
Citation Information
@inproceedings{gibert2018hate,
title = "{Hate Speech Dataset from a White Supremacy Forum}",
author = "de Gibert, Ona and
Perez, Naiara and
Garc{\'\i}a-Pablos, Aitor and
Cuadros, Montse",
booktitle = "Proceedings of the 2nd Workshop on Abusive Language Online ({ALW}2)",
month = oct,
year = "2018",
address = "Brussels, Belgium",
publisher = "Association for Computational Linguistics",
url = "https://www.aclweb.org/anthology/W18-5102",
doi = "10.18653/v1/W18-5102",
pages = "11--20",
}
Contributions
Thanks to @czabo for adding this dataset.
- Downloads last month
- 40