hover-nlp__hover / README.md
HYUKI5's picture
カードを組み立て直す(訳文と書式の修正を反映)
c26d79c verified
|
Raw History Blame Contribute Delete
10.7 kB
---
license:
- cc-by-sa-4.0
pretty_name: hover-nlp/hover (mirror)
source_datasets:
- hover-nlp/hover
tags:
- laya
- laya-finetune
- mirror
- domain-general
- use-conditional
- genre-encyclopedia
- label-binary
- annot-expert
- lang-en
language:
- en
task_categories:
- text-retrieval
task_ids:
- fact-checking-retrieval
size_categories:
- 10K<n<100K
dataset_info:
features:
- name: id
dtype: int32
- name: uid
dtype: string
- name: claim
dtype: string
- name: supporting_facts
list:
- name: key
dtype: string
- name: value
dtype: int32
- name: label
dtype:
class_label:
names:
'0': NOT_SUPPORTED
'1': SUPPORTED
- name: num_hops
dtype: int32
- name: hpqa_id
dtype: string
splits:
- name: train
num_bytes: 5532178
num_examples: 18171
- name: validation
num_bytes: 1299252
num_examples: 4000
- name: test
num_bytes: 927513
num_examples: 4000
download_size: 12257835
dataset_size: 7758943
---
# hover-nlp/hover(複製)
## データの内容
事実検証(主張が根拠の文書で支持されるかを判定する)のデータ。1 行が 1 件の主張(`claim`)で、根拠の一覧(`supporting_facts`)、ラベル(`label`、SUPPORTED か NOT_SUPPORTED)、根拠の段数(`num_hops`)を持つ。test 分割のラベルは非公開で、-1 で表される。
## データの概要
| 項目 | 値 |
|---|---|
| 行数 | 26,171(1 構成・3 分割の合計) |
| 列数 | 7 |
| 容量 | 9.79 KB(ファイル 3 本) |
| ファイルの形式 | py 1 |
| 言語 | en |
| 公開 | public |
### 構成と分割
| 構成(config) | 分割(split)ごとの行数 | 列数 |
|---|---|---:|
| `default` | `train` 18,171、`validation` 4,000、`test` 4,000 | 7 |
### 列(構成 `default`)
| 列 | 型 |
|---|---|
| `id` | `int32` |
| `uid` | `string` |
| `claim` | `string` |
| `supporting_facts` | `list<struct>` |
| `label` | `struct{class_label: struct{names: struct{…}}}` |
| `num_hops` | `int32` |
| `hpqa_id` | `string` |
行数と列は元のカードの YAML(dataset_info)の記載。データセットビューアでは読めなかった。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。
## 複製について
[`hover-nlp/hover`](https://huggingface.co/datasets/hover-nlp/hover) をリビジョン `c0e43052759879b3461642ca6c0dd26658f47691` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(`convaiinnovations/laya`)の微調整に使う候補として、調査メモ(`Laya 学習用データセット調査`)に載せたデータを集めている。
## 出典
- 元のデータセット: https://huggingface.co/datasets/hover-nlp/hover
- 複製したリビジョン: `c0e43052759879b3461642ca6c0dd26658f47691`(2024-01-18 11:05:51+00:00)
- 元のライセンス表記: `['cc-by-sa-4.0']`
## 論文
- https://arxiv.org/abs/2011.03088
## アノテーションの方法
元のカードにアノテーションの節はあるが、中身は空欄(More Information Needed)だった。
## 微調整に使うときの注意
- 調査メモの台帳での区分: B(継承条件・gated・モデル由来の条件・上流の規約などが付く)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
## 調査メモの記述
| メモ | 節 | ライセンス(記載) | 確認 | 注記 |
|---|---|---|---|---|
| `general_english_nlu.md` | 2. NLI・言い換え・事実検証・スタンス(noul / 3 択 choice) (L130) | cc-by-sa-4.0 | 確認済 | 原文注記: - hover-nlp/hover: arXiv 2011.03088(タグ)。train 18,171 / val 4,000 / test 4,000(test ラベルは非公開と理解)。ラベル NOT_SUPPORT |
## 元のカード(日本語訳)
以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。
---
# データセットカード: HoVer
## 目次
- データセットの説明
- データセットの概要
- 対応するタスクとリーダーボード
- 言語
- データセットの構造
- データのインスタンス
- データのフィールド
- データの Splits
- データセットの作成
- 整備の根拠
- 元データ
- アノテーション
- 個人情報と機微な情報
- データを使う際の考慮事項
- データセットの社会的影響
- バイアスについての議論
- その他の既知の制限
- 追加情報
- データセットの整備者
- ライセンス情報
- 引用情報
- 貢献
## データセットの説明
- **ホームページ:** https://hover-nlp.github.io/
- **リポジトリ:** https://github.com/hover-nlp/hover
- **論文:** https://arxiv.org/abs/2011.03088
- **リーダーボード:** https://hover-nlp.github.io/
- **連絡先:** [More Information Needed]
### データセットの概要
[More Information Needed]
### 対応するタスクとリーダーボード
[More Information Needed]
### 言語
[More Information Needed]
## データセットの構造
### データのインスタンス
学習用データの例を以下に示す。
```
{'id': 14856, 'uid': 'a0cf45ea-b5cd-4c4e-9ffa-73b39ebd78ce', 'claim': 'The park at which Tivolis Koncertsal is located opened on 15 August 1843.', 'supporting_facts': [{'key': 'Tivolis Koncertsal', 'value': 0}, {'key': 'Tivoli Gardens', 'value': 1}], 'label': 'SUPPORTED', 'num_hops': 2, 'hpqa_id': '5abca1a55542993a06baf937'}
```
test set では、文に対して利用できるのは id、uid、claim だけである。test set のラベルは利用できず、-1 で表される。
### データのフィールド
[More Information Needed]
### データの Splits
[More Information Needed]
## データセットの作成
### 整備の根拠
[More Information Needed]
### 元データ
[More Information Needed]
#### 初期のデータ収集と正規化
[More Information Needed]
#### 元の言語の生産者は誰か?
[More Information Needed]
### アノテーション
[More Information Needed]
#### アノテーションの過程
[More Information Needed]
#### アノテーターは誰か?
[More Information Needed]
### 個人情報と機微な情報
[More Information Needed]
## データを使う際の考慮事項
### データセットの社会的影響
[More Information Needed]
### バイアスについての議論
[More Information Needed]
### その他の既知の制限
[More Information Needed]
## 追加情報
### データセットの整備者
[More Information Needed]
### ライセンス情報
[More Information Needed]
### 引用情報
[More Information Needed]
### 貢献
このデータセットを追加してくれた [@abhishekkrthakur](https://github.com/abhishekkrthakur) に感謝する。
<details>
<summary>原文(英語)</summary>
# Dataset Card for HoVer
## Table of Contents
- [Dataset Description](#dataset-description)
- [Dataset Summary](#dataset-summary)
- [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards)
- [Languages](#languages)
- [Dataset Structure](#dataset-structure)
- [Data Instances](#data-instances)
- [Data Fields](#data-fields)
- [Data Splits](#data-splits)
- [Dataset Creation](#dataset-creation)
- [Curation Rationale](#curation-rationale)
- [Source Data](#source-data)
- [Annotations](#annotations)
- [Personal and Sensitive Information](#personal-and-sensitive-information)
- [Considerations for Using the Data](#considerations-for-using-the-data)
- [Social Impact of Dataset](#social-impact-of-dataset)
- [Discussion of Biases](#discussion-of-biases)
- [Other Known Limitations](#other-known-limitations)
- [Additional Information](#additional-information)
- [Dataset Curators](#dataset-curators)
- [Licensing Information](#licensing-information)
- [Citation Information](#citation-information)
- [Contributions](#contributions)
## Dataset Description
- **Homepage:** https://hover-nlp.github.io/
- **Repository:** https://github.com/hover-nlp/hover
- **Paper:** https://arxiv.org/abs/2011.03088
- **Leaderboard:** https://hover-nlp.github.io/
- **Point of Contact:** [More Information Needed]
### Dataset Summary
[More Information Needed]
### Supported Tasks and Leaderboards
[More Information Needed]
### Languages
[More Information Needed]
## Dataset Structure
### Data Instances
A sample training set is provided below
```
{'id': 14856, 'uid': 'a0cf45ea-b5cd-4c4e-9ffa-73b39ebd78ce', 'claim': 'The park at which Tivolis Koncertsal is located opened on 15 August 1843.', 'supporting_facts': [{'key': 'Tivolis Koncertsal', 'value': 0}, {'key': 'Tivoli Gardens', 'value': 1}], 'label': 'SUPPORTED', 'num_hops': 2, 'hpqa_id': '5abca1a55542993a06baf937'}
```
Please note that in test set sentence only id, uid and claim are available. Labels are not available in test set and are represented by -1.
### Data Fields
[More Information Needed]
### Data Splits
[More Information Needed]
## Dataset Creation
### Curation Rationale
[More Information Needed]
### Source Data
[More Information Needed]
#### Initial Data Collection and Normalization
[More Information Needed]
#### Who are the source language producers?
[More Information Needed]
### Annotations
[More Information Needed]
#### Annotation process
[More Information Needed]
#### Who are the annotators?
[More Information Needed]
### Personal and Sensitive Information
[More Information Needed]
## Considerations for Using the Data
### Social Impact of Dataset
[More Information Needed]
### Discussion of Biases
[More Information Needed]
### Other Known Limitations
[More Information Needed]
## Additional Information
### Dataset Curators
[More Information Needed]
### Licensing Information
[More Information Needed]
### Citation Information
[More Information Needed]
### Contributions
Thanks to [@abhishekkrthakur](https://github.com/abhishekkrthakur) for adding this dataset.
</details>