| --- |
| license: cc-by-sa-4.0 |
| pretty_name: tasksource/comve (mirror) |
| source_datasets: |
| - tasksource/comve |
| tags: |
| - laya |
| - laya-finetune |
| - mirror |
| - domain-commonsense |
| - use-conditional |
| - genre-other |
| - label-choice |
| - annot-unknown |
| - lang-en |
| configs: |
| - config_name: default |
| data_files: |
| - split: test |
| path: data/test-* |
| - split: validation |
| path: data/validation-* |
| - split: train |
| path: data/train-* |
| dataset_info: |
| features: |
| - name: inputs |
| dtype: string |
| - name: choices_list |
| list: string |
| - name: labels |
| dtype: int64 |
| - name: metadata |
| dtype: string |
| splits: |
| - name: test |
| num_bytes: 349165 |
| num_examples: 999 |
| - name: validation |
| num_bytes: 358552 |
| num_examples: 997 |
| - name: train |
| num_bytes: 3553117 |
| num_examples: 9966 |
| download_size: 1925400 |
| dataset_size: 4260834 |
| --- |
| |
| # tasksource/comve（複製） |
|
|
| ## データの内容 |
|
|
| SemEval-2020 Task 4 の ComVE サブタスク A の、常識に合う文と合わない文を判定するためのデータ。1 行が文（`inputs`）と選択肢の列（`choices_list`）、正解の番号（`labels`）、付随情報（`metadata`）からなる。公式の CSV を結合し、無意味のラベルを反転させ、元からある holdout を取り分けて作った。生成した選択肢や負例は含まず、元の README は CC BY-SA 4.0 と明記している。 |
|
|
| ## データの概要 |
|
|
| | 項目 | 値 | |
| |---|---| |
| | 行数 | 11,962（1 構成・3 分割の合計） | |
| | 列数 | 4 | |
| | 容量 | 1.93 MB（ファイル 7 本） | |
| | ファイルの形式 | parquet 3、jsonl 1、json 1 | |
| | 公開 | public | |
|
|
| ### 構成と分割 |
|
|
| | 構成（config） | 分割（split）ごとの行数 | 列数 | |
| |---|---|---:| |
| | `default` | `test` 999、`validation` 997、`train` 9,966 | 4 | |
|
|
| ### 列（構成 `default`・分割 `train`） |
|
|
| | 列 | 型 | 先頭の行の値 | |
| |---|---|---| |
| | `inputs` | `string` | `Which statement is more sensible in ordinary cir…` | |
| | `choices_list` | `list<string>` | `[2 件]` | |
| | `labels` | `int64` | `1` | |
| | `metadata` | `string` | `{"annotation_origin": "human", "id": "train:0", …` | |
|
|
| 行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。 |
|
|
| ## 複製について |
|
|
| [`tasksource/comve`](https://huggingface.co/datasets/tasksource/comve) をリビジョン `3bf449686b1f3c2867aafecb2237ae5c9027e240` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（`convaiinnovations/laya`）の微調整に使う候補として、調査メモ（`Laya 学習用データセット調査`）に載せたデータを集めている。 |
|
|
| ## 出典 |
|
|
| - 元のデータセット: https://huggingface.co/datasets/tasksource/comve |
| - 複製したリビジョン: `3bf449686b1f3c2867aafecb2237ae5c9027e240`（2026-10-15 09:47:54+00:00） |
| - 元のライセンス表記: `cc-by-sa-4.0` |
|
|
| ## 論文 |
|
|
| - 元のカードに論文へのリンクは見つからなかった |
|
|
| ## アノテーションの方法 |
|
|
| （元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した） |
|
|
| 元の配布先: https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation |
| 元の README はライセンスを CC BY-SA 4.0 と明記している。生成した選択肢や負例は含まない。 |
|
|
| ## 微調整に使うときの注意 |
|
|
| - 調査メモの台帳での区分: B（継承条件・gated・モデル由来の条件・上流の規約などが付く）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。 |
| - Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。 |
| - 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。 |
|
|
| ## 調査メモの記述 |
|
|
| | メモ | 節 | ライセンス（記載） | 確認 | 注記 | |
| |---|---|---|---|---| |
| | `jev_sources_tasksource_bekko.csv` | CSV（tasksource-jev-typed-decisions） | cc-by-sa-4.0, cc-by-sa-4.0 (original source) / license_use=commercial | 確認済 | license_use=commercial ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r | |
|
|
| ## 元のカード（日本語訳） |
|
|
| 以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。 |
|
|
| --- |
|
|
| # comve |
|
|
| 公式の ComVE サブタスク A の CSV を結合し、無意味のラベルを反転させ、元からある holdout を取り分けておく。 |
|
|
| 元の配布先: https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation |
| 元の README はライセンスを CC BY-SA 4.0 と明記している。生成した選択肢や負例は含まない。 |
|
|
| 元のデータ: [元の配布先](https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation)。[tasksource](https://github.com/sileod/tasksource) 向けに [scripts/repackage_dataset/comve.py](https://github.com/sileod/tasksource/blob/main/scripts/repackage_dataset/comve.py#L56) で parquet に再梱包した。 |
|
|
| [変換の来歴](provenance.json): 元の版、ハッシュ、設定、除外の内訳。 |
|
|
| <details> |
| <summary>原文（英語）</summary> |
|
|
| # comve |
|
|
| Join official ComVE subtask-A CSVs, invert nonsense labels, reserve native holdouts. |
|
|
| Original distribution: https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation |
| Original README declares CC BY-SA 4.0. No generated choices or negatives. |
|
|
| Original data: [original distribution](https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation). Repackaged as parquet for [tasksource](https://github.com/sileod/tasksource) by [scripts/repackage_dataset/comve.py](https://github.com/sileod/tasksource/blob/main/scripts/repackage_dataset/comve.py#L56). |
|
|
| [Conversion provenance](provenance.json): source revisions, hashes, configuration and exclusions. |
|
|
| </details> |
|
|
