Datasets:

HYUKI5
/

hover-nlp__hover

license:
  - cc-by-sa-4.0
pretty_name: hover-nlp/hover (mirror)
source_datasets:
  - hover-nlp/hover
tags:
  - laya
  - laya-finetune
  - mirror
  - domain-general
  - use-conditional
  - genre-encyclopedia
  - label-binary
  - annot-expert
  - lang-en
language:
  - en
task_categories:
  - text-retrieval
task_ids:
  - fact-checking-retrieval
size_categories:
  - 10K<n<100K
dataset_info:
  features:
    - name: id
      dtype: int32
    - name: uid
      dtype: string
    - name: claim
      dtype: string
    - name: supporting_facts
      list:
        - name: key
          dtype: string
        - name: value
          dtype: int32
    - name: label
      dtype:
        class_label:
          names:
            '0': NOT_SUPPORTED
            '1': SUPPORTED
    - name: num_hops
      dtype: int32
    - name: hpqa_id
      dtype: string
  splits:
    - name: train
      num_bytes: 5532178
      num_examples: 18171
    - name: validation
      num_bytes: 1299252
      num_examples: 4000
    - name: test
      num_bytes: 927513
      num_examples: 4000
  download_size: 12257835
  dataset_size: 7758943

hover-nlp/hover（複製）

データの内容

事実検証（主張が根拠の文書で支持されるかを判定する）のデータ。1 行が 1 件の主張（claim）で、根拠の一覧（supporting_facts）、ラベル（label、SUPPORTED か NOT_SUPPORTED）、根拠の段数（num_hops）を持つ。test 分割のラベルは非公開で、-1 で表される。

データの概要

項目	値
行数	26,171（1 構成・3 分割の合計）
列数	7
容量	9.79 KB（ファイル 3 本）
ファイルの形式	py 1
言語	en
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
`default`	`train` 18,171、`validation` 4,000、`test` 4,000	7

列（構成 `default`）

列	型
`id`	`int32`
`uid`	`string`
`claim`	`string`
`supporting_facts`	`list<struct>`
`label`	`struct{class_label: struct{names: struct{…}}}`
`num_hops`	`int32`
`hpqa_id`	`string`

行数と列は元のカードの YAML（dataset_info）の記載。データセットビューアでは読めなかった。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

hover-nlp/hover をリビジョン c0e43052759879b3461642ca6c0dd26658f47691 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

元のデータセット: https://huggingface.co/datasets/hover-nlp/hover
複製したリビジョン: c0e43052759879b3461642ca6c0dd26658f47691（2024-01-18 11:05:51+00:00）
元のライセンス表記: ['cc-by-sa-4.0']

論文

https://arxiv.org/abs/2011.03088

アノテーションの方法

元のカードにアノテーションの節はあるが、中身は空欄（More Information Needed）だった。

微調整に使うときの注意

調査メモの台帳での区分: B（継承条件・gated・モデル由来の条件・上流の規約などが付く）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
`general_english_nlu.md`	2. NLI・言い換え・事実検証・スタンス（noul / 3 択 choice） (L130)	cc-by-sa-4.0	確認済	原文注記: - hover-nlp/hover: arXiv 2011.03088（タグ）。train 18,171 / val 4,000 / test 4,000（test ラベルは非公開と理解）。ラベル NOT_SUPPORT

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

データセットカード: HoVer

データセットの説明
- データセットの概要
- 対応するタスクとリーダーボード
- 言語
データセットの構造
- データのインスタンス
- データのフィールド
- データの Splits
データセットの作成
- 整備の根拠
- 元データ
- アノテーション
- 個人情報と機微な情報
データを使う際の考慮事項
- データセットの社会的影響
- バイアスについての議論
- その他の既知の制限
追加情報
- データセットの整備者
- ライセンス情報
- 引用情報
- 貢献

データセットの説明

ホームページ: https://hover-nlp.github.io/
リポジトリ: https://github.com/hover-nlp/hover
論文: https://arxiv.org/abs/2011.03088
リーダーボード: https://hover-nlp.github.io/
連絡先: [More Information Needed]

データセットの概要

[More Information Needed]

対応するタスクとリーダーボード

[More Information Needed]

言語

[More Information Needed]

データセットの構造

データのインスタンス

学習用データの例を以下に示す。

{'id': 14856, 'uid': 'a0cf45ea-b5cd-4c4e-9ffa-73b39ebd78ce', 'claim': 'The park at which Tivolis Koncertsal is located opened on 15 August 1843.', 'supporting_facts': [{'key': 'Tivolis Koncertsal', 'value': 0}, {'key': 'Tivoli Gardens', 'value': 1}], 'label': 'SUPPORTED', 'num_hops': 2, 'hpqa_id': '5abca1a55542993a06baf937'}

test set では、文に対して利用できるのは id、uid、claim だけである。test set のラベルは利用できず、-1 で表される。

データのフィールド

[More Information Needed]

データの Splits

[More Information Needed]

データセットの作成

整備の根拠

[More Information Needed]

元データ

[More Information Needed]

初期のデータ収集と正規化

[More Information Needed]

元の言語の生産者は誰か？

[More Information Needed]

アノテーション

[More Information Needed]

アノテーションの過程

[More Information Needed]

アノテーターは誰か？

[More Information Needed]

個人情報と機微な情報

[More Information Needed]

データを使う際の考慮事項

データセットの社会的影響

[More Information Needed]

バイアスについての議論

[More Information Needed]

その他の既知の制限

[More Information Needed]

追加情報

データセットの整備者

[More Information Needed]

ライセンス情報

[More Information Needed]

引用情報

[More Information Needed]

貢献

このデータセットを追加してくれた @abhishekkrthakur に感謝する。

原文（英語）

Dataset Card for HoVer

Dataset Description
Dataset Structure
Dataset Creation
Considerations for Using the Data
Additional Information

Dataset Description

Homepage: https://hover-nlp.github.io/
Repository: https://github.com/hover-nlp/hover
Paper: https://arxiv.org/abs/2011.03088
Leaderboard: https://hover-nlp.github.io/
Point of Contact: [More Information Needed]

Dataset Summary

[More Information Needed]

Supported Tasks and Leaderboards

[More Information Needed]

Languages

[More Information Needed]

Dataset Structure

Data Instances

A sample training set is provided below

{'id': 14856, 'uid': 'a0cf45ea-b5cd-4c4e-9ffa-73b39ebd78ce', 'claim': 'The park at which Tivolis Koncertsal is located opened on 15 August 1843.', 'supporting_facts': [{'key': 'Tivolis Koncertsal', 'value': 0}, {'key': 'Tivoli Gardens', 'value': 1}], 'label': 'SUPPORTED', 'num_hops': 2, 'hpqa_id': '5abca1a55542993a06baf937'}

Please note that in test set sentence only id, uid and claim are available. Labels are not available in test set and are represented by -1.

Data Fields

[More Information Needed]

Data Splits

[More Information Needed]

Dataset Creation

Curation Rationale

[More Information Needed]

Source Data

[More Information Needed]

Initial Data Collection and Normalization

[More Information Needed]

Who are the source language producers?

[More Information Needed]

Annotations

[More Information Needed]

Annotation process

[More Information Needed]

Who are the annotators?

[More Information Needed]

Personal and Sensitive Information

[More Information Needed]

Considerations for Using the Data

Social Impact of Dataset

[More Information Needed]

Discussion of Biases

[More Information Needed]

Other Known Limitations

[More Information Needed]

Additional Information

Dataset Curators

[More Information Needed]

Licensing Information

[More Information Needed]

Citation Information

[More Information Needed]

Contributions

Thanks to @abhishekkrthakur for adding this dataset.

hover-nlp/hover（複製）

データの内容

データの概要

構成と分割

列（構成 default）

複製について

出典

論文

アノテーションの方法

微調整に使うときの注意

調査メモの記述

元のカード（日本語訳）

データセットカード: HoVer

目次

データセットの説明

データセットの概要

対応するタスクとリーダーボード

言語

データセットの構造

データのインスタンス

データのフィールド

データの Splits

データセットの作成

整備の根拠

元データ

初期のデータ収集と正規化

元の言語の生産者は誰か？

アノテーション

アノテーションの過程

アノテーターは誰か？

個人情報と機微な情報

データを使う際の考慮事項

データセットの社会的影響

バイアスについての議論

その他の既知の制限

追加情報

データセットの整備者

ライセンス情報

引用情報

貢献

Dataset Card for HoVer

Table of Contents

Dataset Description

Dataset Summary

Supported Tasks and Leaderboards

Languages

Dataset Structure

Data Instances

Data Fields

Data Splits

Dataset Creation

Curation Rationale

Source Data

Initial Data Collection and Normalization

Who are the source language producers?

Annotations

Annotation process

Who are the annotators?

Personal and Sensitive Information

Considerations for Using the Data

Social Impact of Dataset

Discussion of Biases

Other Known Limitations

Additional Information

Dataset Curators

Licensing Information

Citation Information

Contributions

列（構成 `default`）