Datasets:

HYUKI5
/

tasksource__robustLR

license: other
pretty_name: tasksource/robustLR (mirror)
source_datasets:
  - tasksource/robustLR
tags:
  - laya
  - laya-finetune
  - mirror
  - domain-math
  - use-unclear
  - genre-other
  - label-binary
  - annot-rule
dataset_info:
  features:
    - name: context
      dtype: string
    - name: statement
      dtype: string
    - name: label
      dtype: string
  splits:
    - name: train
      num_bytes: 2436331
      num_examples: 2317
    - name: test
      num_bytes: 3066737
      num_examples: 3000
    - name: dev
      num_bytes: 2512690
      num_examples: 2317
  download_size: 1330059
  dataset_size: 8015758

tasksource/robustLR（複製）

データの内容

演繹推論で論理的な摂動への頑健性を評価する、Sanyal ら（2022）の RobustLR のデータ。1 行は文脈（context）と主張（statement）の組で、正誤が label に入る。元データの注釈を決定的な変換で作り直したものである。

データの概要

項目	値
行数	7,634（1 構成・3 分割の合計）
列数	3
容量	1.33 MB（ファイル 5 本）
ファイルの形式	parquet 3
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
`default`	`train` 2,317、`test` 3,000、`dev` 2,317	3

列（構成 `default`・分割 `train`）

列	型	先頭の行の値
`context`	`string`	`Fiona is not Harry's uncle. Anne is the wife of …`
`statement`	`string`	`Fiona is not the uncle of Gary.`
`label`	`string`	`entailment`

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

tasksource/robustLR をリビジョン 369ce16fbe4467f46916efe3730d04fb607c0391 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

元のデータセット: https://huggingface.co/datasets/tasksource/robustLR
複製したリビジョン: 369ce16fbe4467f46916efe3730d04fb607c0391（2023-06-22 14:12:37+00:00）
元のライセンス表記: other

論文

https://arxiv.org/abs/2205.12598

アノテーションの方法

元のカードにアノテーションの節が無かった。下の「調査メモの記述」と「元のカード」を参照。

微調整に使うときの注意

調査メモの台帳での区分: D（記載なし・other・unknown・資料間の食い違い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
`jev_sources_tasksource_bekko.csv`	CSV（tasksource-jev-typed-decisions）	unspecified / license_use=unspecified	確認済	license_use=unspecified ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r
`jev_sources_tasksource_bekko.csv`	CSV（bekko-system-one-dataset-v0）	MIT	確認済	[Jev 元データ source] source_annotation_or_rule_labels(eval only)

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

データセットカード: "robustLR"

https://github.com/INK-USC/RobustLR

@article{sanyal2022robustlr,
  title={Robustlr: Evaluating robustness to logical perturbation in deductive reasoning},
  author={Sanyal, Soumya and Liao, Zeyi and Ren, Xiang},
  journal={arXiv preprint arXiv:2205.12598},
  year={2022}
}

原文（英語）

Dataset Card for "robustLR"