--- license: - cc-by-sa-4.0 pretty_name: hover-nlp/hover (mirror) source_datasets: - hover-nlp/hover tags: - laya - laya-finetune - mirror - domain-general - use-conditional - genre-encyclopedia - label-binary - annot-expert - lang-en language: - en task_categories: - text-retrieval task_ids: - fact-checking-retrieval size_categories: - 10K` | | `label` | `struct{class_label: struct{names: struct{…}}}` | | `num_hops` | `int32` | | `hpqa_id` | `string` | 行数と列は元のカードの YAML(dataset_info)の記載。データセットビューアでは読めなかった。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。 ## 複製について [`hover-nlp/hover`](https://huggingface.co/datasets/hover-nlp/hover) をリビジョン `c0e43052759879b3461642ca6c0dd26658f47691` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(`convaiinnovations/laya`)の微調整に使う候補として、調査メモ(`Laya 学習用データセット調査`)に載せたデータを集めている。 ## 出典 - 元のデータセット: https://huggingface.co/datasets/hover-nlp/hover - 複製したリビジョン: `c0e43052759879b3461642ca6c0dd26658f47691`(2024-01-18 11:05:51+00:00) - 元のライセンス表記: `['cc-by-sa-4.0']` ## 論文 - https://arxiv.org/abs/2011.03088 ## アノテーションの方法 元のカードにアノテーションの節はあるが、中身は空欄(More Information Needed)だった。 ## 微調整に使うときの注意 - 調査メモの台帳での区分: B(継承条件・gated・モデル由来の条件・上流の規約などが付く)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。 - Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。 - 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。 ## 調査メモの記述 | メモ | 節 | ライセンス(記載) | 確認 | 注記 | |---|---|---|---|---| | `general_english_nlu.md` | 2. NLI・言い換え・事実検証・スタンス(noul / 3 択 choice) (L130) | cc-by-sa-4.0 | 確認済 | 原文注記: - hover-nlp/hover: arXiv 2011.03088(タグ)。train 18,171 / val 4,000 / test 4,000(test ラベルは非公開と理解)。ラベル NOT_SUPPORT | ## 元のカード(日本語訳) 以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。 --- # データセットカード: HoVer ## 目次 - データセットの説明 - データセットの概要 - 対応するタスクとリーダーボード - 言語 - データセットの構造 - データのインスタンス - データのフィールド - データの Splits - データセットの作成 - 整備の根拠 - 元データ - アノテーション - 個人情報と機微な情報 - データを使う際の考慮事項 - データセットの社会的影響 - バイアスについての議論 - その他の既知の制限 - 追加情報 - データセットの整備者 - ライセンス情報 - 引用情報 - 貢献 ## データセットの説明 - **ホームページ:** https://hover-nlp.github.io/ - **リポジトリ:** https://github.com/hover-nlp/hover - **論文:** https://arxiv.org/abs/2011.03088 - **リーダーボード:** https://hover-nlp.github.io/ - **連絡先:** [More Information Needed] ### データセットの概要 [More Information Needed] ### 対応するタスクとリーダーボード [More Information Needed] ### 言語 [More Information Needed] ## データセットの構造 ### データのインスタンス 学習用データの例を以下に示す。 ``` {'id': 14856, 'uid': 'a0cf45ea-b5cd-4c4e-9ffa-73b39ebd78ce', 'claim': 'The park at which Tivolis Koncertsal is located opened on 15 August 1843.', 'supporting_facts': [{'key': 'Tivolis Koncertsal', 'value': 0}, {'key': 'Tivoli Gardens', 'value': 1}], 'label': 'SUPPORTED', 'num_hops': 2, 'hpqa_id': '5abca1a55542993a06baf937'} ``` test set では、文に対して利用できるのは id、uid、claim だけである。test set のラベルは利用できず、-1 で表される。 ### データのフィールド [More Information Needed] ### データの Splits [More Information Needed] ## データセットの作成 ### 整備の根拠 [More Information Needed] ### 元データ [More Information Needed] #### 初期のデータ収集と正規化 [More Information Needed] #### 元の言語の生産者は誰か? [More Information Needed] ### アノテーション [More Information Needed] #### アノテーションの過程 [More Information Needed] #### アノテーターは誰か? [More Information Needed] ### 個人情報と機微な情報 [More Information Needed] ## データを使う際の考慮事項 ### データセットの社会的影響 [More Information Needed] ### バイアスについての議論 [More Information Needed] ### その他の既知の制限 [More Information Needed] ## 追加情報 ### データセットの整備者 [More Information Needed] ### ライセンス情報 [More Information Needed] ### 引用情報 [More Information Needed] ### 貢献 このデータセットを追加してくれた [@abhishekkrthakur](https://github.com/abhishekkrthakur) に感謝する。
原文(英語) # Dataset Card for HoVer ## Table of Contents - [Dataset Description](#dataset-description) - [Dataset Summary](#dataset-summary) - [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards) - [Languages](#languages) - [Dataset Structure](#dataset-structure) - [Data Instances](#data-instances) - [Data Fields](#data-fields) - [Data Splits](#data-splits) - [Dataset Creation](#dataset-creation) - [Curation Rationale](#curation-rationale) - [Source Data](#source-data) - [Annotations](#annotations) - [Personal and Sensitive Information](#personal-and-sensitive-information) - [Considerations for Using the Data](#considerations-for-using-the-data) - [Social Impact of Dataset](#social-impact-of-dataset) - [Discussion of Biases](#discussion-of-biases) - [Other Known Limitations](#other-known-limitations) - [Additional Information](#additional-information) - [Dataset Curators](#dataset-curators) - [Licensing Information](#licensing-information) - [Citation Information](#citation-information) - [Contributions](#contributions) ## Dataset Description - **Homepage:** https://hover-nlp.github.io/ - **Repository:** https://github.com/hover-nlp/hover - **Paper:** https://arxiv.org/abs/2011.03088 - **Leaderboard:** https://hover-nlp.github.io/ - **Point of Contact:** [More Information Needed] ### Dataset Summary [More Information Needed] ### Supported Tasks and Leaderboards [More Information Needed] ### Languages [More Information Needed] ## Dataset Structure ### Data Instances A sample training set is provided below ``` {'id': 14856, 'uid': 'a0cf45ea-b5cd-4c4e-9ffa-73b39ebd78ce', 'claim': 'The park at which Tivolis Koncertsal is located opened on 15 August 1843.', 'supporting_facts': [{'key': 'Tivolis Koncertsal', 'value': 0}, {'key': 'Tivoli Gardens', 'value': 1}], 'label': 'SUPPORTED', 'num_hops': 2, 'hpqa_id': '5abca1a55542993a06baf937'} ``` Please note that in test set sentence only id, uid and claim are available. Labels are not available in test set and are represented by -1. ### Data Fields [More Information Needed] ### Data Splits [More Information Needed] ## Dataset Creation ### Curation Rationale [More Information Needed] ### Source Data [More Information Needed] #### Initial Data Collection and Normalization [More Information Needed] #### Who are the source language producers? [More Information Needed] ### Annotations [More Information Needed] #### Annotation process [More Information Needed] #### Who are the annotators? [More Information Needed] ### Personal and Sensitive Information [More Information Needed] ## Considerations for Using the Data ### Social Impact of Dataset [More Information Needed] ### Discussion of Biases [More Information Needed] ### Other Known Limitations [More Information Needed] ## Additional Information ### Dataset Curators [More Information Needed] ### Licensing Information [More Information Needed] ### Citation Information [More Information Needed] ### Contributions Thanks to [@abhishekkrthakur](https://github.com/abhishekkrthakur) for adding this dataset.