Datasets:
Tasks:
Text Retrieval
Sub-tasks:
fact-checking-retrieval
Languages:
English
Size:
10K<n<100K
ArXiv:
License:
|
Download README.md from HYUKI5/hover-nlp__hover: direct link, hf CLI and curl.
- Browser
- Download file 10.7 kB
-
https://huggingface.co/datasets/HYUKI5/hover-nlp__hover/resolve/main/README.md
- Command line
-
hf download hf://datasets/HYUKI5/hover-nlp__hover/README.md
-
curl -L -o README.md https://huggingface.co/datasets/HYUKI5/hover-nlp__hover/resolve/main/README.md
10.7 kB
| license: | |
| - cc-by-sa-4.0 | |
| pretty_name: hover-nlp/hover (mirror) | |
| source_datasets: | |
| - hover-nlp/hover | |
| tags: | |
| - laya | |
| - laya-finetune | |
| - mirror | |
| - domain-general | |
| - use-conditional | |
| - genre-encyclopedia | |
| - label-binary | |
| - annot-expert | |
| - lang-en | |
| language: | |
| - en | |
| task_categories: | |
| - text-retrieval | |
| task_ids: | |
| - fact-checking-retrieval | |
| size_categories: | |
| - 10K<n<100K | |
| dataset_info: | |
| features: | |
| - name: id | |
| dtype: int32 | |
| - name: uid | |
| dtype: string | |
| - name: claim | |
| dtype: string | |
| - name: supporting_facts | |
| list: | |
| - name: key | |
| dtype: string | |
| - name: value | |
| dtype: int32 | |
| - name: label | |
| dtype: | |
| class_label: | |
| names: | |
| '0': NOT_SUPPORTED | |
| '1': SUPPORTED | |
| - name: num_hops | |
| dtype: int32 | |
| - name: hpqa_id | |
| dtype: string | |
| splits: | |
| - name: train | |
| num_bytes: 5532178 | |
| num_examples: 18171 | |
| - name: validation | |
| num_bytes: 1299252 | |
| num_examples: 4000 | |
| - name: test | |
| num_bytes: 927513 | |
| num_examples: 4000 | |
| download_size: 12257835 | |
| dataset_size: 7758943 | |
| # hover-nlp/hover(複製) | |
| ## データの内容 | |
| 事実検証(主張が根拠の文書で支持されるかを判定する)のデータ。1 行が 1 件の主張(`claim`)で、根拠の一覧(`supporting_facts`)、ラベル(`label`、SUPPORTED か NOT_SUPPORTED)、根拠の段数(`num_hops`)を持つ。test 分割のラベルは非公開で、-1 で表される。 | |
| ## データの概要 | |
| | 項目 | 値 | | |
| |---|---| | |
| | 行数 | 26,171(1 構成・3 分割の合計) | | |
| | 列数 | 7 | | |
| | 容量 | 9.79 KB(ファイル 3 本) | | |
| | ファイルの形式 | py 1 | | |
| | 言語 | en | | |
| | 公開 | public | | |
| ### 構成と分割 | |
| | 構成(config) | 分割(split)ごとの行数 | 列数 | | |
| |---|---|---:| | |
| | `default` | `train` 18,171、`validation` 4,000、`test` 4,000 | 7 | | |
| ### 列(構成 `default`) | |
| | 列 | 型 | | |
| |---|---| | |
| | `id` | `int32` | | |
| | `uid` | `string` | | |
| | `claim` | `string` | | |
| | `supporting_facts` | `list<struct>` | | |
| | `label` | `struct{class_label: struct{names: struct{…}}}` | | |
| | `num_hops` | `int32` | | |
| | `hpqa_id` | `string` | | |
| 行数と列は元のカードの YAML(dataset_info)の記載。データセットビューアでは読めなかった。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。 | |
| ## 複製について | |
| [`hover-nlp/hover`](https://huggingface.co/datasets/hover-nlp/hover) をリビジョン `c0e43052759879b3461642ca6c0dd26658f47691` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(`convaiinnovations/laya`)の微調整に使う候補として、調査メモ(`Laya 学習用データセット調査`)に載せたデータを集めている。 | |
| ## 出典 | |
| - 元のデータセット: https://huggingface.co/datasets/hover-nlp/hover | |
| - 複製したリビジョン: `c0e43052759879b3461642ca6c0dd26658f47691`(2024-01-18 11:05:51+00:00) | |
| - 元のライセンス表記: `['cc-by-sa-4.0']` | |
| ## 論文 | |
| - https://arxiv.org/abs/2011.03088 | |
| ## アノテーションの方法 | |
| 元のカードにアノテーションの節はあるが、中身は空欄(More Information Needed)だった。 | |
| ## 微調整に使うときの注意 | |
| - 調査メモの台帳での区分: B(継承条件・gated・モデル由来の条件・上流の規約などが付く)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。 | |
| - Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。 | |
| - 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。 | |
| ## 調査メモの記述 | |
| | メモ | 節 | ライセンス(記載) | 確認 | 注記 | | |
| |---|---|---|---|---| | |
| | `general_english_nlu.md` | 2. NLI・言い換え・事実検証・スタンス(noul / 3 択 choice) (L130) | cc-by-sa-4.0 | 確認済 | 原文注記: - hover-nlp/hover: arXiv 2011.03088(タグ)。train 18,171 / val 4,000 / test 4,000(test ラベルは非公開と理解)。ラベル NOT_SUPPORT | | |
| ## 元のカード(日本語訳) | |
| 以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。 | |
| --- | |
| # データセットカード: HoVer | |
| ## 目次 | |
| - データセットの説明 | |
| - データセットの概要 | |
| - 対応するタスクとリーダーボード | |
| - 言語 | |
| - データセットの構造 | |
| - データのインスタンス | |
| - データのフィールド | |
| - データの Splits | |
| - データセットの作成 | |
| - 整備の根拠 | |
| - 元データ | |
| - アノテーション | |
| - 個人情報と機微な情報 | |
| - データを使う際の考慮事項 | |
| - データセットの社会的影響 | |
| - バイアスについての議論 | |
| - その他の既知の制限 | |
| - 追加情報 | |
| - データセットの整備者 | |
| - ライセンス情報 | |
| - 引用情報 | |
| - 貢献 | |
| ## データセットの説明 | |
| - **ホームページ:** https://hover-nlp.github.io/ | |
| - **リポジトリ:** https://github.com/hover-nlp/hover | |
| - **論文:** https://arxiv.org/abs/2011.03088 | |
| - **リーダーボード:** https://hover-nlp.github.io/ | |
| - **連絡先:** [More Information Needed] | |
| ### データセットの概要 | |
| [More Information Needed] | |
| ### 対応するタスクとリーダーボード | |
| [More Information Needed] | |
| ### 言語 | |
| [More Information Needed] | |
| ## データセットの構造 | |
| ### データのインスタンス | |
| 学習用データの例を以下に示す。 | |
| ``` | |
| {'id': 14856, 'uid': 'a0cf45ea-b5cd-4c4e-9ffa-73b39ebd78ce', 'claim': 'The park at which Tivolis Koncertsal is located opened on 15 August 1843.', 'supporting_facts': [{'key': 'Tivolis Koncertsal', 'value': 0}, {'key': 'Tivoli Gardens', 'value': 1}], 'label': 'SUPPORTED', 'num_hops': 2, 'hpqa_id': '5abca1a55542993a06baf937'} | |
| ``` | |
| test set では、文に対して利用できるのは id、uid、claim だけである。test set のラベルは利用できず、-1 で表される。 | |
| ### データのフィールド | |
| [More Information Needed] | |
| ### データの Splits | |
| [More Information Needed] | |
| ## データセットの作成 | |
| ### 整備の根拠 | |
| [More Information Needed] | |
| ### 元データ | |
| [More Information Needed] | |
| #### 初期のデータ収集と正規化 | |
| [More Information Needed] | |
| #### 元の言語の生産者は誰か? | |
| [More Information Needed] | |
| ### アノテーション | |
| [More Information Needed] | |
| #### アノテーションの過程 | |
| [More Information Needed] | |
| #### アノテーターは誰か? | |
| [More Information Needed] | |
| ### 個人情報と機微な情報 | |
| [More Information Needed] | |
| ## データを使う際の考慮事項 | |
| ### データセットの社会的影響 | |
| [More Information Needed] | |
| ### バイアスについての議論 | |
| [More Information Needed] | |
| ### その他の既知の制限 | |
| [More Information Needed] | |
| ## 追加情報 | |
| ### データセットの整備者 | |
| [More Information Needed] | |
| ### ライセンス情報 | |
| [More Information Needed] | |
| ### 引用情報 | |
| [More Information Needed] | |
| ### 貢献 | |
| このデータセットを追加してくれた [@abhishekkrthakur](https://github.com/abhishekkrthakur) に感謝する。 | |
| <details> | |
| <summary>原文(英語)</summary> | |
| # Dataset Card for HoVer | |
| ## Table of Contents | |
| - [Dataset Description](#dataset-description) | |
| - [Dataset Summary](#dataset-summary) | |
| - [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards) | |
| - [Languages](#languages) | |
| - [Dataset Structure](#dataset-structure) | |
| - [Data Instances](#data-instances) | |
| - [Data Fields](#data-fields) | |
| - [Data Splits](#data-splits) | |
| - [Dataset Creation](#dataset-creation) | |
| - [Curation Rationale](#curation-rationale) | |
| - [Source Data](#source-data) | |
| - [Annotations](#annotations) | |
| - [Personal and Sensitive Information](#personal-and-sensitive-information) | |
| - [Considerations for Using the Data](#considerations-for-using-the-data) | |
| - [Social Impact of Dataset](#social-impact-of-dataset) | |
| - [Discussion of Biases](#discussion-of-biases) | |
| - [Other Known Limitations](#other-known-limitations) | |
| - [Additional Information](#additional-information) | |
| - [Dataset Curators](#dataset-curators) | |
| - [Licensing Information](#licensing-information) | |
| - [Citation Information](#citation-information) | |
| - [Contributions](#contributions) | |
| ## Dataset Description | |
| - **Homepage:** https://hover-nlp.github.io/ | |
| - **Repository:** https://github.com/hover-nlp/hover | |
| - **Paper:** https://arxiv.org/abs/2011.03088 | |
| - **Leaderboard:** https://hover-nlp.github.io/ | |
| - **Point of Contact:** [More Information Needed] | |
| ### Dataset Summary | |
| [More Information Needed] | |
| ### Supported Tasks and Leaderboards | |
| [More Information Needed] | |
| ### Languages | |
| [More Information Needed] | |
| ## Dataset Structure | |
| ### Data Instances | |
| A sample training set is provided below | |
| ``` | |
| {'id': 14856, 'uid': 'a0cf45ea-b5cd-4c4e-9ffa-73b39ebd78ce', 'claim': 'The park at which Tivolis Koncertsal is located opened on 15 August 1843.', 'supporting_facts': [{'key': 'Tivolis Koncertsal', 'value': 0}, {'key': 'Tivoli Gardens', 'value': 1}], 'label': 'SUPPORTED', 'num_hops': 2, 'hpqa_id': '5abca1a55542993a06baf937'} | |
| ``` | |
| Please note that in test set sentence only id, uid and claim are available. Labels are not available in test set and are represented by -1. | |
| ### Data Fields | |
| [More Information Needed] | |
| ### Data Splits | |
| [More Information Needed] | |
| ## Dataset Creation | |
| ### Curation Rationale | |
| [More Information Needed] | |
| ### Source Data | |
| [More Information Needed] | |
| #### Initial Data Collection and Normalization | |
| [More Information Needed] | |
| #### Who are the source language producers? | |
| [More Information Needed] | |
| ### Annotations | |
| [More Information Needed] | |
| #### Annotation process | |
| [More Information Needed] | |
| #### Who are the annotators? | |
| [More Information Needed] | |
| ### Personal and Sensitive Information | |
| [More Information Needed] | |
| ## Considerations for Using the Data | |
| ### Social Impact of Dataset | |
| [More Information Needed] | |
| ### Discussion of Biases | |
| [More Information Needed] | |
| ### Other Known Limitations | |
| [More Information Needed] | |
| ## Additional Information | |
| ### Dataset Curators | |
| [More Information Needed] | |
| ### Licensing Information | |
| [More Information Needed] | |
| ### Citation Information | |
| [More Information Needed] | |
| ### Contributions | |
| Thanks to [@abhishekkrthakur](https://github.com/abhishekkrthakur) for adding this dataset. | |
| </details> | |