DocRED: A Large-Scale Document-Level Relation Extraction Dataset
Paper • 1906.06127 • Published • 1
Datasets:
Tasks:
Text Retrieval
Sub-tasks:
entity-linking-retrieval
Languages:
English
Size:
100K<n<1M
ArXiv:
License:
Dataset Viewer
The dataset viewer is not available for this split.
Cannot load the dataset split (in streaming mode) to extract the first rows.
Error code: StreamingRowsError
Exception: TypeError
Message: Couldn't cast array of type
list<item: struct<r: string, h: int64, t: int64, evidence: list<item: int64>>>
to
{'head': List(Value('int32')), 'tail': List(Value('int32')), 'relation_id': List(Value('string')), 'relation_text': List(Value('string')), 'evidence': List(List(Value('int32')))}
Traceback: Traceback (most recent call last):
File "/src/services/worker/src/worker/utils.py", line 149, in get_rows_or_raise
return get_rows(
dataset=dataset,
...<4 lines>...
column_names=column_names,
)
File "/src/libs/libcommon/src/libcommon/utils.py", line 272, in decorator
return func(*args, **kwargs)
File "/src/services/worker/src/worker/utils.py", line 129, in get_rows
rows_plus_one = list(itertools.islice(safe_iter(ds, dataset=dataset), rows_max_number + 1))
File "/src/services/worker/src/worker/utils.py", line 544, in safe_iter
yield from ds.decode(False) if ds.features else ds
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 3052, in __iter__
for key, example in ex_iterable:
^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2559, in __iter__
for key, pa_table in self._iter_arrow():
~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2584, in _iter_arrow
for key, pa_table in self.ex_iterable._iter_arrow():
~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 558, in _iter_arrow
for key, pa_table in iterator:
^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 440, in _iter_arrow
for key, pa_table in self.generate_tables_fn(**gen_kwags):
~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 361, in _generate_tables
self._cast_table(pa_table, json_field_paths=json_field_paths),
~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 132, in _cast_table
pa_table = table_cast(pa_table, self.info.features.arrow_schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2381, in table_cast
return cast_table_to_schema(table, schema)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2315, in cast_table_to_schema
cast_array_to_feature(
~~~~~~~~~~~~~~~~~~~~~^
table[name] if name in table_column_names else pa.array([None] * len(table), type=schema.field(name).type),
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
feature,
^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 1861, in wrapper
return pa.chunked_array([func(chunk, *args, **kwargs) for chunk in array.chunks])
~~~~^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2161, in cast_array_to_feature
raise TypeError(f"Couldn't cast array of type\n{_short_str(array.type)}\nto\n{_short_str(feature)}")
TypeError: Couldn't cast array of type
list<item: struct<r: string, h: int64, t: int64, evidence: list<item: int64>>>
to
{'head': List(Value('int32')), 'tail': List(Value('int32')), 'relation_id': List(Value('string')), 'relation_text': List(Value('string')), 'evidence': List(List(Value('int32')))}Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
thunlp/docred（複製）
データの内容
Wikipedia と Wikidata から構築した、文書レベルの関係抽出のデータ（DocRED）。1 件は 1 文書で、sents（文ごとの単語の列）、vertexSet（同じ実体の言及の集まり）、labels（実体の組と関係の ID）が入る。人手でアノテーションされた部分と、大規模な遠隔教師ありのデータの両方がある。文書は長く、Wikipedia の文体で金融に特化していない。
データの概要
| 項目 | 値 |
|---|---|
| 行数 | 106,924（1 構成・4 分割の合計） |
| 列数 | 4 |
| 容量 | 95.58 MB（ファイル 8 本） |
| ファイルの形式 | json.gz 5、py 1 |
| 言語 | en |
| 公開 | public |
構成と分割
| 構成（config） | 分割（split）ごとの行数 | 列数 |
|---|---|---|
default |
validation 998、test 1,000、train_annotated 3,053、train_distant 101,873 |
4 |
列（構成 default）
| 列 | 型 |
|---|---|
title |
string |
sents |
list<list<string>> |
vertexSet |
list<list<struct>> |
labels |
list<?> |
行数と列は元のカードの YAML（dataset_info）の記載。データセットビューアでは読めなかった。全データセットの一覧は HYUKI5/dataset-catalog にある。
複製について
thunlp/docred をリビジョン 7985b4e0371e6c61a756feb41b7b27becf71c666 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。
出典
- 元のデータセット: https://huggingface.co/datasets/thunlp/docred
- 複製したリビジョン:
7985b4e0371e6c61a756feb41b7b27becf71c666（2023-06-14 14:07:55+00:00） - 元のライセンス表記:
['mit']
論文
アノテーションの方法
収集の根拠
初期のデータ収集と正規化
元データの言語の作成者は誰か？
アノテーションの手順
データセットの作成者
微調整に使うときの注意
- 調査メモの台帳での区分: B（継承条件・gated・モデル由来の条件・上流の規約などが付く）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
調査メモの記述
| メモ | 節 | ライセンス（記載） | 確認 | 注記 |
|---|---|---|---|---|
ontology_kg_entity.md |
Q1. 関係分類（TACRED 系・DocRED・FewRel・SemEval-2010・金融関係抽出）にどんなデータがあり、「供給・競合・買収・提携」を判断する Laya にどう載るか (L29) | thunlp/docred は MIT、Re-DocRED も MIT（HF タグ）。元文書は Wikipedia（CC BY-SA 3.0、事前知識）で、継承 | 事前知識 | 複数/混在 ／ 原文注記: Wikipedia 文体で金融特化でない。文書は長く、Laya の既定 max_len（英語版 2,048、記憶ファイル laya-lab-stage0）に収まるか文書ごとに確認が必要。DocRED は偽陰性が多く、それ |
jev_sources_tasksource_bekko.csv |
CSV（tasksource-jev-typed-decisions） | mit / license_use=commercial | 確認済 | license_use=commercial ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
元のカード（日本語訳）
以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。
データセットカード DocRED
目次
- データセットの説明
- データセットの概要
- 対応タスクとリーダーボード
- 言語
- データセットの構造
- データインスタンス
- データのフィールド
- データの分割
- データセットの作成
- 収集の根拠
- 元データ
- アノテーション
- 個人情報と機微情報
- データ利用上の留意点
- データセットの社会的影響
- バイアスについての議論
- その他の既知の制約
- 追加情報
- データセットの作成者
- ライセンス情報
- 引用情報
- 貢献
データセットの説明
- リポジトリ: https://github.com/thunlp/DocRED
- 論文: DocRED: A Large-Scale Document-Level Relation Extraction Dataset
- 問い合わせ先: More Information Needed
- ダウンロードしたデータセットファイルのサイズ: 21.00 MB
- 生成されたデータセットのサイズ: 20.12 MB
- ディスクの総使用量: 41.14 MB
データセットの概要
文書中の複数のエンティティは、一般に文をまたぐ複雑な関係を示すが、既存の関係抽出（RE）手法では十分に扱えない。既存の手法の多くは、1 つのエンティティの組について文の内部の関係を抽出することに焦点を当てているためである。文書レベルの RE の研究を加速するため、Wikipedia と Wikidata から構築した新しいデータセット DocRED を導入する。その特徴は次の 3 点である: - DocRED は固有表現と関係の両方にアノテーションを付ける。プレーンテキストからの文書レベル RE のための、人手でアノテーションされたデータセットとしては最大である。 - DocRED では、エンティティを抽出し関係を推論するために、文書内の複数の文を読み、文書全体の情報を統合する必要がある。 - 人手でアノテーションされたデータに加えて、大規模な遠隔教師ありデータも提供する。これにより、DocRED は教師あり・弱教師ありの両方の設定で使える。
対応タスクとリーダーボード
言語
データセットの構造
データインスタンス
default
- ダウンロードしたデータセットファイルのサイズ: 21.00 MB
- 生成されたデータセットのサイズ: 20.12 MB
- ディスクの総使用量: 41.14 MB
'train_annotated' の例は次のとおり。
{
"labels": {
"evidence": [[0]],
"head": [0],
"relation_id": ["P1"],
"relation_text": ["is_a"],
"tail": [0]
},
"sents": [["This", "is", "a", "sentence"], ["This", "is", "another", "sentence"]],
"title": "Title of the document",
"vertexSet": [[{
"name": "sentence",
"pos": [3],
"sent_id": 0,
"type": "NN"
}, {
"name": "sentence",
"pos": [3],
"sent_id": 1,
"type": "NN"
}], [{
"name": "This",
"pos": [0],
"sent_id": 0,
"type": "NN"
}]]
}
データのフィールド
データのフィールドは、すべての分割で共通である。
default
title:string型の feature。sents: 次を含む dictionary feature:feature:string型の feature。
name:string型の feature。sent_id:int32型の feature。pos:int32型の feature からなるlist。type:string型の feature。labels: 次を含む dictionary feature:head:int32型の feature。tail:int32型の feature。relation_id:string型の feature。relation_text:string型の feature。evidence:int32型の feature からなるlist。
データの分割
| name | train_annotated | train_distant | validation | test |
|---|---|---|---|---|
| default | 3053 | 101873 | 998 | 1000 |
データセットの作成
収集の根拠
元データ
初期のデータ収集と正規化
元データの言語の作成者は誰か？
アノテーション
アノテーションの手順
アノテーターは誰か？
個人情報と機微情報
データ利用上の留意点
データセットの社会的影響
バイアスについての議論
その他の既知の制約
追加情報
データセットの作成者
ライセンス情報
引用情報
@inproceedings{yao-etal-2019-docred,
title = "{D}oc{RED}: A Large-Scale Document-Level Relation Extraction Dataset",
author = "Yao, Yuan and
Ye, Deming and
Li, Peng and
Han, Xu and
Lin, Yankai and
Liu, Zhenghao and
Liu, Zhiyuan and
Huang, Lixin and
Zhou, Jie and
Sun, Maosong",
booktitle = "Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics",
month = jul,
year = "2019",
address = "Florence, Italy",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/P19-1074",
doi = "10.18653/v1/P19-1074",
pages = "764--777",
}
貢献
このデータセットを追加してくれた @ghomasHudson、@thomwolf、@lhoestq に感謝する。
原文（英語）
Dataset Card for DocRED
Dataset Summary
Multiple entities in a document generally exhibit complex inter-sentence relations, and cannot be well handled by existing relation extraction (RE) methods that typically focus on extracting intra-sentence relations for single entity pairs. In order to accelerate the research on document-level RE, we introduce DocRED, a new dataset constructed from Wikipedia and Wikidata with three features: - DocRED annotates both named entities and relations, and is the largest human-annotated dataset for document-level RE from plain text. - DocRED requires reading multiple sentences in a document to extract entities and infer their relations by synthesizing all information of the document. - Along with the human-annotated data, we also offer large-scale distantly supervised data, which enables DocRED to be adopted for both supervised and weakly supervised scenarios.
Supported Tasks and Leaderboards
Languages
Dataset Structure
Data Instances
default
- Size of downloaded dataset files: 21.00 MB
- Size of the generated dataset: 20.12 MB
- Total amount of disk used: 41.14 MB
An example of 'train_annotated' looks as follows.
{
"labels": {
"evidence": [[0]],
"head": [0],
"relation_id": ["P1"],
"relation_text": ["is_a"],
"tail": [0]
},
"sents": [["This", "is", "a", "sentence"], ["This", "is", "another", "sentence"]],
"title": "Title of the document",
"vertexSet": [[{
"name": "sentence",
"pos": [3],
"sent_id": 0,
"type": "NN"
}, {
"name": "sentence",
"pos": [3],
"sent_id": 1,
"type": "NN"
}], [{
"name": "This",
"pos": [0],
"sent_id": 0,
"type": "NN"
}]]
}
Data Fields
The data fields are the same among all splits.
default
title: astringfeature.sents: a dictionary feature containing:feature: astringfeature.
name: astringfeature.sent_id: aint32feature.pos: alistofint32features.type: astringfeature.labels: a dictionary feature containing:head: aint32feature.tail: aint32feature.relation_id: astringfeature.relation_text: astringfeature.evidence: alistofint32features.
Data Splits
| name | train_annotated | train_distant | validation | test |
|---|---|---|---|---|
| default | 3053 | 101873 | 998 | 1000 |
Dataset Creation
Curation Rationale
Source Data
Initial Data Collection and Normalization
Who are the source language producers?
Annotations
Annotation process
Who are the annotators?
Personal and Sensitive Information
Considerations for Using the Data
Social Impact of Dataset
Discussion of Biases
Other Known Limitations
Additional Information
Dataset Curators
Licensing Information
Citation Information
@inproceedings{yao-etal-2019-docred,
title = "{D}oc{RED}: A Large-Scale Document-Level Relation Extraction Dataset",
author = "Yao, Yuan and
Ye, Deming and
Li, Peng and
Han, Xu and
Lin, Yankai and
Liu, Zhenghao and
Liu, Zhiyuan and
Huang, Lixin and
Zhou, Jie and
Sun, Maosong",
booktitle = "Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics",
month = jul,
year = "2019",
address = "Florence, Italy",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/P19-1074",
doi = "10.18653/v1/P19-1074",
pages = "764--777",
}
Contributions
Thanks to @ghomasHudson, @thomwolf, @lhoestq for adding this dataset.
- Downloads last month
- 21
Repository:
github.com
Paper:
DocRED: A Large-Scale Document-Level Relation Extraction Dataset
Size of downloaded dataset files:
21.00 MB
Total file size:
95.6 MB