Hugging Face's logo

Datasets:
HYUKI5
/
tasksource__comve

Modalities:
Text
Formats:
parquet
Size:
10K - 100K
Tags:
laya
laya-finetune
mirror
domain-commonsense
use-conditional
genre-other
Libraries:
Datasets
pandas
Polars
License:
Dataset card Data Studio Files
xet
 Community
tasksource__comve / README.md
HYUKI5's picture
HYUKI5
カードを組み立て直す（訳文と書式の修正を反映）
fb0aead verified
preview code
|
Raw History Blame Contribute Delete
6.48 kB
metadata 
license: cc-by-sa-4.0
pretty_name: tasksource/comve (mirror)
source_datasets:
  - tasksource/comve
tags:
  - laya
  - laya-finetune
  - mirror
  - domain-commonsense
  - use-conditional
  - genre-other
  - label-choice
  - annot-unknown
  - lang-en
configs:
  - config_name: default
    data_files:
      - split: test
        path: data/test-*
      - split: validation
        path: data/validation-*
      - split: train
        path: data/train-*
dataset_info:
  features:
    - name: inputs
      dtype: string
    - name: choices_list
      list: string
    - name: labels
      dtype: int64
    - name: metadata
      dtype: string
  splits:
    - name: test
      num_bytes: 349165
      num_examples: 999
    - name: validation
      num_bytes: 358552
      num_examples: 997
    - name: train
      num_bytes: 3553117
      num_examples: 9966
  download_size: 1925400
  dataset_size: 4260834

tasksource/comve（複製）

データの内容

SemEval-2020 Task 4 の ComVE サブタスク A の、常識に合う文と合わない文を判定するためのデータ。1 行が文（inputs）と選択肢の列（choices_list）、正解の番号（labels）、付随情報（metadata）からなる。公式の CSV を結合し、無意味のラベルを反転させ、元からある holdout を取り分けて作った。生成した選択肢や負例は含まず、元の README は CC BY-SA 4.0 と明記している。

データの概要

項目 値
行数 11,962（1 構成・3 分割の合計）
列数 4
容量 1.93 MB（ファイル 7 本）
ファイルの形式 parquet 3、jsonl 1、json 1
公開 public

構成と分割

構成（config） 分割（split）ごとの行数 列数
default test 999、validation 997、train 9,966 4

列（構成 default・分割 train）

列 型 先頭の行の値
inputs string Which statement is more sensible in ordinary cir…
choices_list list<string> [2 件]
labels int64 1
metadata string {"annotation_origin": "human", "id": "train:0", …

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

tasksource/comve をリビジョン 3bf449686b1f3c2867aafecb2237ae5c9027e240 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

論文

  • 元のカードに論文へのリンクは見つからなかった

アノテーションの方法

（元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した）

元の配布先: https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation 元の README はライセンスを CC BY-SA 4.0 と明記している。生成した選択肢や負例は含まない。

微調整に使うときの注意

  • 調査メモの台帳での区分: B（継承条件・gated・モデル由来の条件・上流の規約などが付く）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
  • Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
  • 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ 節 ライセンス（記載） 確認 注記
jev_sources_tasksource_bekko.csv CSV（tasksource-jev-typed-decisions） cc-by-sa-4.0, cc-by-sa-4.0 (original source) / license_use=commercial 確認済 license_use=commercial ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

comve

公式の ComVE サブタスク A の CSV を結合し、無意味のラベルを反転させ、元からある holdout を取り分けておく。

元の配布先: https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation 元の README はライセンスを CC BY-SA 4.0 と明記している。生成した選択肢や負例は含まない。

元のデータ: 元の配布先。tasksource 向けに scripts/repackage_dataset/comve.py で parquet に再梱包した。

変換の来歴: 元の版、ハッシュ、設定、除外の内訳。

原文（英語）

comve

Join official ComVE subtask-A CSVs, invert nonsense labels, reserve native holdouts.

Original distribution: https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation Original README declares CC BY-SA 4.0. No generated choices or negatives.

Original data: original distribution. Repackaged as parquet for tasksource by scripts/repackage_dataset/comve.py.

Conversion provenance: source revisions, hashes, configuration and exclusions.