Datasets:
The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.
allenai/scifact(複製)
データの内容
専門家が書いた科学的な主張を抄録と組にし、ラベルと論拠を付けた事実検証のデータ。claims の構成は主張(claim)、根拠の判定(evidence_label)、根拠の文番号(evidence_sentences)を持ち、corpus の構成は論文の題名(title)と抄録(abstract)を持つ。
データの概要
| 項目 | 値 |
|---|---|
| 行数 | 7,194(2 構成・4 分割の合計) |
| 列数 | 4〜6(構成による) |
| 容量 | 20.48 KB(ファイル 4 本) |
| ファイルの形式 | json 1、py 1 |
| 言語 | en |
| 公開 | public |
構成と分割
| 構成(config) | 分割(split)ごとの行数 | 列数 |
|---|---|---|
corpus |
train 5,183 |
4 |
claims |
train 1,261、test 300、validation 450 |
6 |
列(構成 corpus。構成ごとに列が違う)
| 列 | 型 |
|---|---|
doc_id |
int32 |
title |
string |
abstract |
list<string> |
structured |
bool |
行数と列は元のカードの YAML(dataset_info)の記載。データセットビューアでは読めなかった。全データセットの一覧は HYUKI5/dataset-catalog にある。
複製について
allenai/scifact をリビジョン 1fe54665deee011033b2dd98db5752e0d586fdfb の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。
出典
- 元のデータセット: https://huggingface.co/datasets/allenai/scifact
- 複製したリビジョン:
1fe54665deee011033b2dd98db5752e0d586fdfb(2023-12-21 10:19:34+00:00) - 元のライセンス表記:
['cc-by-nc-2.0']
論文
アノテーションの方法
作成の根拠
初期のデータ収集と正規化
元の言語データの作成者は誰か?
アノテーションの過程
微調整に使うときの注意
- 調査メモの台帳での区分: C(NC・ND・研究専用・評価専用など、商用の利用を妨げうる記載がある)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
調査メモの記述
| メモ | 節 | ライセンス(記載) | 確認 | 注記 |
|---|---|---|---|---|
general_english_nlu.md |
2. NLI・言い換え・事実検証・スタンス(noul / 3 択 choice) (L131) | cc-by-nc-2.0(非商用) | 確認済 | 原文注記: - allenai/scifact: 科学主張の検証。claims: train 1,261 / val 450 / test 300、corpus 5,183。license cc-by-nc-2.0(非商用)。sci |
元のカード(日本語訳)
以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。
データセットカード "scifact"
目次
- データセットの説明
- データセットの概要
- 対応するタスクとリーダーボード
- 言語
- データセットの構造
- データのインスタンス
- データの項目
- データの分割
- データセットの作成
- 作成の根拠
- 元データ
- アノテーション
- 個人情報と機微な情報
- データを使う際の留意点
- データセットの社会的影響
- 偏りについての議論
- その他の既知の制限
- 追加情報
- データセットの整備者
- ライセンス情報
- 引用情報
- 貢献者
データセットの説明
- ホームページ: https://scifact.apps.allenai.org/
- リポジトリ: https://github.com/allenai/scifact
- 論文: Fact or Fiction: Verifying Scientific Claims
- 連絡先: David Wadden
- ダウンロードしたデータセットファイルのサイズ: 6.23 MB
- 生成されたデータセットのサイズ: 8.26 MB
- ディスクの総使用量: 14.49 MB
データセットの概要
SciFact は、専門家が書いた 1.4K 件の科学的主張を、根拠を含む抄録と対にし、ラベルと論拠を付けたデータセットである。
対応するタスクとリーダーボード
言語
データセットの構造
データのインスタンス
claims
- ダウンロードしたデータセットファイルのサイズ: 3.12 MB
- 生成されたデータセットのサイズ: 262.61 kB
- ディスクの総使用量: 3.38 MB
'validation' の例は次のとおり。
{
"cited_doc_ids": [14717500],
"claim": "1,000 genomes project enables mapping of genetic sequence variation consisting of rare variants with larger penetrance effects than common variants.",
"evidence_doc_id": "14717500",
"evidence_label": "SUPPORT",
"evidence_sentences": [2, 5],
"id": 3
}
corpus
- ダウンロードしたデータセットファイルのサイズ: 3.12 MB
- 生成されたデータセットのサイズ: 7.99 MB
- ディスクの総使用量: 11.11 MB
'train' の例は次のとおり。
This example was too long and was cropped:
{
"abstract": "[\"Alterations of the architecture of cerebral white matter in the developing human brain can affect cortical development and res...",
"doc_id": 4983,
"structured": false,
"title": "Microstructural development of human newborn cerebral white matter assessed in vivo by diffusion tensor magnetic resonance imaging."
}
データの項目
データの項目は、すべての分割で同じである。
claims
id:int32型の項目。claim:string型の項目。evidence_doc_id:string型の項目。evidence_label:string型の項目。evidence_sentences:int32のlist型の項目。cited_doc_ids:int32のlist型の項目。
corpus
doc_id:int32型の項目。title:string型の項目。abstract:stringのlist型の項目。structured:bool型の項目。
データの分割
claims
| train | validation | test | |
|---|---|---|---|
| claims | 1261 | 450 | 300 |
corpus
| train | |
|---|---|
| corpus | 5183 |
データセットの作成
作成の根拠
元データ
初期のデータ収集と正規化
元の言語データの作成者は誰か?
アノテーション
アノテーションの過程
アノテーターは誰か?
個人情報と機微な情報
データを使う際の留意点
データセットの社会的影響
偏りについての議論
その他の既知の制限
追加情報
データセットの整備者
ライセンス情報
https://github.com/allenai/scifact/blob/master/LICENSE.md
SciFact データセットは CC BY-NC 2.0 のもとで公開されている。SciFact のデータを使うことは、その利用条件に同意することを意味する。
引用情報
@inproceedings{wadden-etal-2020-fact,
title = "Fact or Fiction: Verifying Scientific Claims",
author = "Wadden, David and
Lin, Shanchuan and
Lo, Kyle and
Wang, Lucy Lu and
van Zuylen, Madeleine and
Cohan, Arman and
Hajishirzi, Hannaneh",
booktitle = "Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP)",
month = nov,
year = "2020",
address = "Online",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2020.emnlp-main.609",
doi = "10.18653/v1/2020.emnlp-main.609",
pages = "7534--7550",
}
貢献者
このデータセットを追加してくれた @thomwolf、@lhoestq、@dwadden、@patrickvonplaten、@mariamabarham、@lewtun に感謝する。
原文(英語)
Dataset Card for "scifact"
Dataset Summary
SciFact, a dataset of 1.4K expert-written scientific claims paired with evidence-containing abstracts, and annotated with labels and rationales.
Supported Tasks and Leaderboards
Languages
Dataset Structure
Data Instances
claims
- Size of downloaded dataset files: 3.12 MB
- Size of the generated dataset: 262.61 kB
- Total amount of disk used: 3.38 MB
An example of 'validation' looks as follows.
{
"cited_doc_ids": [14717500],
"claim": "1,000 genomes project enables mapping of genetic sequence variation consisting of rare variants with larger penetrance effects than common variants.",
"evidence_doc_id": "14717500",
"evidence_label": "SUPPORT",
"evidence_sentences": [2, 5],
"id": 3
}
corpus
- Size of downloaded dataset files: 3.12 MB
- Size of the generated dataset: 7.99 MB
- Total amount of disk used: 11.11 MB
An example of 'train' looks as follows.
This example was too long and was cropped:
{
"abstract": "[\"Alterations of the architecture of cerebral white matter in the developing human brain can affect cortical development and res...",
"doc_id": 4983,
"structured": false,
"title": "Microstructural development of human newborn cerebral white matter assessed in vivo by diffusion tensor magnetic resonance imaging."
}
Data Fields
The data fields are the same among all splits.
claims
id: aint32feature.claim: astringfeature.evidence_doc_id: astringfeature.evidence_label: astringfeature.evidence_sentences: alistofint32features.cited_doc_ids: alistofint32features.
corpus
doc_id: aint32feature.title: astringfeature.abstract: alistofstringfeatures.structured: aboolfeature.
Data Splits
claims
| train | validation | test | |
|---|---|---|---|
| claims | 1261 | 450 | 300 |
corpus
| train | |
|---|---|
| corpus | 5183 |
Dataset Creation
Curation Rationale
Source Data
Initial Data Collection and Normalization
Who are the source language producers?
Annotations
Annotation process
Who are the annotators?
Personal and Sensitive Information
Considerations for Using the Data
Social Impact of Dataset
Discussion of Biases
Other Known Limitations
Additional Information
Dataset Curators
Licensing Information
https://github.com/allenai/scifact/blob/master/LICENSE.md
The SciFact dataset is released under the CC BY-NC 2.0. By using the SciFact data, you are agreeing to its usage terms.
Citation Information
@inproceedings{wadden-etal-2020-fact,
title = "Fact or Fiction: Verifying Scientific Claims",
author = "Wadden, David and
Lin, Shanchuan and
Lo, Kyle and
Wang, Lucy Lu and
van Zuylen, Madeleine and
Cohan, Arman and
Hajishirzi, Hannaneh",
booktitle = "Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP)",
month = nov,
year = "2020",
address = "Online",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2020.emnlp-main.609",
doi = "10.18653/v1/2020.emnlp-main.609",
pages = "7534--7550",
}
Contributions
Thanks to @thomwolf, @lhoestq, @dwadden, @patrickvonplaten, @mariamabarham, @lewtun for adding this dataset.
- Downloads last month
- 85