--- license: cc-by-sa-4.0 pretty_name: tasksource/comve (mirror) source_datasets: - tasksource/comve tags: - laya - laya-finetune - mirror - domain-commonsense - use-conditional - genre-other - label-choice - annot-unknown - lang-en configs: - config_name: default data_files: - split: test path: data/test-* - split: validation path: data/validation-* - split: train path: data/train-* dataset_info: features: - name: inputs dtype: string - name: choices_list list: string - name: labels dtype: int64 - name: metadata dtype: string splits: - name: test num_bytes: 349165 num_examples: 999 - name: validation num_bytes: 358552 num_examples: 997 - name: train num_bytes: 3553117 num_examples: 9966 download_size: 1925400 dataset_size: 4260834 --- # tasksource/comve(複製) ## データの内容 SemEval-2020 Task 4 の ComVE サブタスク A の、常識に合う文と合わない文を判定するためのデータ。1 行が文(`inputs`)と選択肢の列(`choices_list`)、正解の番号(`labels`)、付随情報(`metadata`)からなる。公式の CSV を結合し、無意味のラベルを反転させ、元からある holdout を取り分けて作った。生成した選択肢や負例は含まず、元の README は CC BY-SA 4.0 と明記している。 ## データの概要 | 項目 | 値 | |---|---| | 行数 | 11,962(1 構成・3 分割の合計) | | 列数 | 4 | | 容量 | 1.93 MB(ファイル 7 本) | | ファイルの形式 | parquet 3、jsonl 1、json 1 | | 公開 | public | ### 構成と分割 | 構成(config) | 分割(split)ごとの行数 | 列数 | |---|---|---:| | `default` | `test` 999、`validation` 997、`train` 9,966 | 4 | ### 列(構成 `default`・分割 `train`) | 列 | 型 | 先頭の行の値 | |---|---|---| | `inputs` | `string` | `Which statement is more sensible in ordinary cir…` | | `choices_list` | `list` | `[2 件]` | | `labels` | `int64` | `1` | | `metadata` | `string` | `{"annotation_origin": "human", "id": "train:0", …` | 行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。 ## 複製について [`tasksource/comve`](https://huggingface.co/datasets/tasksource/comve) をリビジョン `3bf449686b1f3c2867aafecb2237ae5c9027e240` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(`convaiinnovations/laya`)の微調整に使う候補として、調査メモ(`Laya 学習用データセット調査`)に載せたデータを集めている。 ## 出典 - 元のデータセット: https://huggingface.co/datasets/tasksource/comve - 複製したリビジョン: `3bf449686b1f3c2867aafecb2237ae5c9027e240`(2026-10-15 09:47:54+00:00) - 元のライセンス表記: `cc-by-sa-4.0` ## 論文 - 元のカードに論文へのリンクは見つからなかった ## アノテーションの方法 (元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した) 元の配布先: https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation 元の README はライセンスを CC BY-SA 4.0 と明記している。生成した選択肢や負例は含まない。 ## 微調整に使うときの注意 - 調査メモの台帳での区分: B(継承条件・gated・モデル由来の条件・上流の規約などが付く)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。 - Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。 - 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。 ## 調査メモの記述 | メモ | 節 | ライセンス(記載) | 確認 | 注記 | |---|---|---|---|---| | `jev_sources_tasksource_bekko.csv` | CSV(tasksource-jev-typed-decisions) | cc-by-sa-4.0, cc-by-sa-4.0 (original source) / license_use=commercial | 確認済 | license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r | ## 元のカード(日本語訳) 以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。 --- # comve 公式の ComVE サブタスク A の CSV を結合し、無意味のラベルを反転させ、元からある holdout を取り分けておく。 元の配布先: https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation 元の README はライセンスを CC BY-SA 4.0 と明記している。生成した選択肢や負例は含まない。 元のデータ: [元の配布先](https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation)。[tasksource](https://github.com/sileod/tasksource) 向けに [scripts/repackage_dataset/comve.py](https://github.com/sileod/tasksource/blob/main/scripts/repackage_dataset/comve.py#L56) で parquet に再梱包した。 [変換の来歴](provenance.json): 元の版、ハッシュ、設定、除外の内訳。
原文(英語) # comve Join official ComVE subtask-A CSVs, invert nonsense labels, reserve native holdouts. Original distribution: https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation Original README declares CC BY-SA 4.0. No generated choices or negatives. Original data: [original distribution](https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation). Repackaged as parquet for [tasksource](https://github.com/sileod/tasksource) by [scripts/repackage_dataset/comve.py](https://github.com/sileod/tasksource/blob/main/scripts/repackage_dataset/comve.py#L56). [Conversion provenance](provenance.json): source revisions, hashes, configuration and exclusions.