Dataset Viewer

The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.

QAngaroo/wiki_hop(複製)

データの内容

論文の題(Constructing Datasets for Multi-hop Reading Comprehension Across Documents)から、文書をまたぐ多段の読解のデータである。1 行が 1 つの問い(query)で、candidates に候補の答え、answer に正解、supports と annotations に根拠の列が入っている。構成は masked と original の 2 つがある。元のカードの大半は未記入で、この説明は列名と論文の題から書いた。

データの概要

項目 値
行数 97,734(2 構成・4 分割の合計)
列数 6
容量 9.66 KB(ファイル 3 本)
ファイルの形式 py 1
言語 en
公開 public

構成と分割

構成(config) 分割(split)ごとの行数 列数
original train 43,738、validation 5,129 6
masked train 43,738、validation 5,129 6

列(構成 original。構成ごとに列が違う)

列 型
id string
query string
answer string
candidates list<string>
supports list<string>
annotations list<list<string>>

行数と列は元のカードの YAML(dataset_info)の記載。データセットビューアでは読めなかった。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

QAngaroo/wiki_hop をリビジョン 15b7dfb153aeff20243913f4f3632548e2deabfa の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。

出典

論文

アノテーションの方法

元のカードにアノテーションの節はあるが、中身は空欄(More Information Needed)だった。

微調整に使うときの注意

  • 調査メモの台帳での区分: B(継承条件・gated・モデル由来の条件・上流の規約などが付く)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
  • Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
  • 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ 節 ライセンス(記載) 確認 注記
jev_sources_tasksource_bekko.csv CSV(tasksource-jev-typed-decisions) cc-by-sa-3.0 / license_use=commercial 確認済 license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r

元のカード(日本語訳)

以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。


データセットカード: WikiHop

目次

  • データセットの説明
    • データセットの概要
    • 対応するタスクとリーダーボード
    • 言語
  • データセットの構造
    • データのインスタンス
    • データのフィールド
    • データの分割
  • データセットの作成
    • 収集の理由
    • 元データ
    • アノテーション
    • 個人情報と機微な情報
  • データの利用上の留意点
    • データセットの社会的影響
    • バイアスについての議論
    • その他の既知の制約
  • 追加情報
    • データセットの作成者
    • ライセンス情報
    • 引用情報
    • 貢献者

データセットの説明

データセットの概要

[More Information Needed]

対応するタスクとリーダーボード

[More Information Needed]

言語

[More Information Needed]

データセットの構造

データのインスタンス

[More Information Needed]

データのフィールド

[More Information Needed]

データの分割

[More Information Needed]

データセットの作成

収集の理由

[More Information Needed]

元データ

[More Information Needed]

最初のデータ収集と正規化

[More Information Needed]

元の言語の作成者は誰か?

[More Information Needed]

アノテーション

[More Information Needed]

アノテーションの過程

[More Information Needed]

アノテーターは誰か?

[More Information Needed]

個人情報と機微な情報

[More Information Needed]

データの利用上の留意点

データセットの社会的影響

[More Information Needed]

バイアスについての議論

[More Information Needed]

その他の既知の制約

[More Information Needed]

追加情報

データセットの作成者

[More Information Needed]

ライセンス情報

[More Information Needed]

引用情報

[More Information Needed]

貢献者

このデータセットを追加してくれた @patil-suraj に感謝する。

原文(英語)

Dataset Card for WikiHop

Dataset Summary

[More Information Needed]

Supported Tasks and Leaderboards

[More Information Needed]

Languages

[More Information Needed]

Dataset Structure

Data Instances

[More Information Needed]

Data Fields

[More Information Needed]

Data Splits

[More Information Needed]

Dataset Creation

Curation Rationale

[More Information Needed]

Source Data

[More Information Needed]

Initial Data Collection and Normalization

[More Information Needed]

Who are the source language producers?

[More Information Needed]

Annotations

[More Information Needed]

Annotation process

[More Information Needed]

Who are the annotators?

[More Information Needed]

Personal and Sensitive Information

[More Information Needed]

Considerations for Using the Data

Social Impact of Dataset

[More Information Needed]

Discussion of Biases

[More Information Needed]

Other Known Limitations

[More Information Needed]

Additional Information

Dataset Curators

[More Information Needed]

Licensing Information

[More Information Needed]

Citation Information

[More Information Needed]

Contributions

Thanks to @patil-suraj for adding this dataset.

Downloads last month
76

Paper for HYUKI5/QAngaroo__wiki_hop