tasksource/comve@3bf449686b1f を複製し、カードを日本語で書く

README.md

@@ -0,0 +1,140 @@
+---
+license: cc-by-sa-4.0
+pretty_name: tasksource/comve (mirror)
+source_datasets:
+- tasksource/comve
+tags:
+- laya
+- laya-finetune
+- mirror
+configs:
+- config_name: default
+  data_files:
+  - split: test
+    path: data/test-*
+  - split: validation
+    path: data/validation-*
+  - split: train
+    path: data/train-*
+dataset_info:
+  features:
+  - name: inputs
+    dtype: string
+  - name: choices_list
+    list: string
+  - name: labels
+    dtype: int64
+  - name: metadata
+    dtype: string
+  splits:
+  - name: test
+    num_bytes: 349165
+    num_examples: 999
+  - name: validation
+    num_bytes: 358552
+    num_examples: 997
+  - name: train
+    num_bytes: 3553117
+    num_examples: 9966
+  download_size: 1925400
+  dataset_size: 4260834
+---
+
+# tasksource/comve（複製）
+
+## データの内容
+
+SemEval-2020 Task 4 の ComVE サブタスク A の、常識に合う文と合わない文を判定するためのデータ。1 行が文（`inputs`）と選択肢の列（`choices_list`）、正解の番号（`labels`）、付随情報（`metadata`）からなる。公式の CSV を結合し、無意味のラベルを反転させ、元からある holdout を取り分けて作った。生成した選択肢や負例は含まず、元の README は CC BY-SA 4.0 と明記している。
+
+## データの概要
+
+| 項目 | 値 |
+|---|---|
+| 行数 | 11,962（1 構成・3 分割の合計） |
+| 列数 | 4 |
+| 容量 | 1.93 MB（ファイル 7 本） |
+| ファイルの形式 | parquet 3、jsonl 1、json 1 |
+| 公開 | public |
+
+### 構成と分割
+
+| 構成（config） | 分割（split）ごとの行数 | 列数 |
+|---|---|---:|
+| `default` | `test` 999、`validation` 997、`train` 9,966 | 4 |
+
+### 列（構成 `default`・分割 `train`）
+
+| 列 | 型 | 先頭の行の値 |
+|---|---|---|
+| `inputs` | `string` | `Which statement is more sensible in ordinary cir…` |
+| `choices_list` | `list<string>` | `[2 件]` |
+| `labels` | `int64` | `1` |
+| `metadata` | `string` | `{"annotation_origin": "human", "id": "train:0", …` |
+
+行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。
+
+## 複製について
+
+[`tasksource/comve`](https://huggingface.co/datasets/tasksource/comve) をリビジョン `3bf449686b1f3c2867aafecb2237ae5c9027e240` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（`convaiinnovations/laya`）の微調整に使う候補として、調査メモ（`Laya 学習用データセット調査`）に載せたデータを集めている。
+
+## 出典
+
+- 元のデータセット: https://huggingface.co/datasets/tasksource/comve
+- 複製したリビジョン: `3bf449686b1f3c2867aafecb2237ae5c9027e240`（2026-10-15 09:47:54+00:00）
+- 元のライセンス表記: `cc-by-sa-4.0`
+
+## 論文
+
+- 元のカードに論文へのリンクは見つからなかった
+
+## アノテーションの方法
+
+（元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した）
+
+元の配布先: https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation
+元の README はライセンスを CC BY-SA 4.0 と明記している。生成した選択肢や負例は含まない。
+
+## 微調整に使うときの注意
+
+- 調査メモの台帳での区分: B（継承条件・gated・モデル由来の条件・上流の規約などが付く）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
+- Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
+- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
+
+## 調査メモの記述
+
+| メモ | 節 | ライセンス（記載） | 確認 | 注記 |
+|---|---|---|---|---|
+| `jev_sources_tasksource_bekko.csv` | CSV（tasksource-jev-typed-decisions） | cc-by-sa-4.0, cc-by-sa-4.0 (original source) / license_use=commercial | 確認済 | license_use=commercial ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
+
+## 元のカード（日本語訳）
+
+以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。
+
+---
+
+# comve
+
+公式の ComVE サブタスク A の CSV を結合し、無意味のラベルを反転させ、元からある holdout を取り分けておく。
+
+元の配布先: https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation
+元の README はライセンスを CC BY-SA 4.0 と明記している。生成した選択肢や負例は含まない。
+
+元のデータ: [元の配布先](https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation)。[tasksource](https://github.com/sileod/tasksource) 向けに [scripts/repackage_dataset/comve.py](https://github.com/sileod/tasksource/blob/main/scripts/repackage_dataset/comve.py#L56) で parquet に再梱包した。
+
+[変換の来歴](provenance.json): 元の版、ハッシュ、設定、除外の内訳。
+
+<details>
+<summary>原文（英語）</summary>
+
+# comve
+
+Join official ComVE subtask-A CSVs, invert nonsense labels, reserve native holdouts.
+
+Original distribution: https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation
+Original README declares CC BY-SA 4.0. No generated choices or negatives.
+
+Original data: [original distribution](https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation). Repackaged as parquet for [tasksource](https://github.com/sileod/tasksource) by [scripts/repackage_dataset/comve.py](https://github.com/sileod/tasksource/blob/main/scripts/repackage_dataset/comve.py#L56).
+
+[Conversion provenance](provenance.json): source revisions, hashes, configuration and exclusions.
+
+</details>

data/test-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5e1d360a1a4a7fcbd56cf82e581f99f2f92d916d2b0908b7b42cdb9192cc2b75
+size 160896

data/train-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e1b5493eea8409c19a7622d25968f90841c3bd6a29217aa5a4d037edde2a6b83
+size 1605429

data/validation-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:fd82af5c7a2616acffef67012354c70f148ec76d8bf5654d22ae731fdfee0780
+size 159075

excluded-questions.jsonl

@@ -0,0 +1,35 @@
+{"split": "test", "id": "635", "reason": "duplicate_pair"}
+{"split": "train", "id": "553", "reason": "duplicate_pair"}
+{"split": "train", "id": "2077", "reason": "duplicate_pair"}
+{"split": "train", "id": "2251", "reason": "duplicate_pair"}
+{"split": "train", "id": "2559", "reason": "duplicate_pair"}
+{"split": "train", "id": "3543", "reason": "duplicate_pair"}
+{"split": "train", "id": "3714", "reason": "duplicate_pair"}
+{"split": "train", "id": "4075", "reason": "invalid_choices"}
+{"split": "train", "id": "4121", "reason": "invalid_choices"}
+{"split": "train", "id": "4279", "reason": "duplicate_pair"}
+{"split": "train", "id": "4313", "reason": "invalid_choices"}
+{"split": "train", "id": "4965", "reason": "conflicting_gold"}
+{"split": "train", "id": "5697", "reason": "duplicate_pair"}
+{"split": "train", "id": "5698", "reason": "duplicate_pair"}
+{"split": "train", "id": "5699", "reason": "duplicate_pair"}
+{"split": "train", "id": "5700", "reason": "duplicate_pair"}
+{"split": "train", "id": "5703", "reason": "duplicate_pair"}
+{"split": "train", "id": "5795", "reason": "duplicate_pair"}
+{"split": "train", "id": "6398", "reason": "invalid_choices"}
+{"split": "train", "id": "6954", "reason": "duplicate_pair"}
+{"split": "train", "id": "7047", "reason": "duplicate_pair"}
+{"split": "train", "id": "7700", "reason": "invalid_choices"}
+{"split": "train", "id": "7931", "reason": "duplicate_pair"}
+{"split": "train", "id": "7957", "reason": "conflicting_gold"}
+{"split": "train", "id": "8130", "reason": "duplicate_pair"}
+{"split": "train", "id": "8420", "reason": "duplicate_pair"}
+{"split": "train", "id": "8760", "reason": "duplicate_pair"}
+{"split": "train", "id": "8773", "reason": "duplicate_pair"}
+{"split": "train", "id": "8774", "reason": "duplicate_pair"}
+{"split": "train", "id": "8776", "reason": "duplicate_pair"}
+{"split": "train", "id": "8779", "reason": "duplicate_pair"}
+{"split": "train", "id": "8780", "reason": "duplicate_pair"}
+{"split": "train", "id": "8786", "reason": "duplicate_pair"}
+{"split": "train", "id": "9459", "reason": "duplicate_pair"}
+{"split": "train", "id": "9965", "reason": "duplicate_pair"}

provenance.json

@@ -0,0 +1,54 @@
+{
+  "source": "https://github.com/wangcunxiang/SemEval2020-Task4-Commonsense-Validation-and-Explanation",
+  "revision": "c55b1a9e6cb66997675f85073e17a9522cf38c2c",
+  "source_sha256": {
+    "ALL data/Training  Data/subtaskA_data_all.csv": "e0f0dca581e92d6f97a819f44a3157058741e1c9dc92fd036f91bf3adf382215",
+    "ALL data/Training  Data/subtaskA_answers_all.csv": "8a30a09dcfcdc536d03201bea976708dff3813691667a3c1a346af15bfabbc69",
+    "ALL data/Dev Data/subtaskA_dev_data.csv": "60f32177d667016e4ca2513fe75113f4e30b8336e3d3c5b8de4bcedfa53571bc",
+    "ALL data/Dev Data/subtaskA_gold_answers.csv": "405e8a28b1d79c19deb7855d44c46e9ac2e5d0d09dd2280476b21341fa492a95",
+    "ALL data/Test Data/subtaskA_test_data.csv": "801e49314f3d6b2dcb72f30cce58d1212b4d84c1fc9b7f1e1da27c6285a32814",
+    "ALL data/Test Data/subtaskA_gold_answers.csv": "a0fb5a54d788975168d87e058339aa490842e89c94d0719d2ca3016b47a39836"
+  },
+  "license": "cc-by-sa-4.0",
+  "annotation_origin": "human",
+  "native_counts": {
+    "train": 10000,
+    "validation": 997,
+    "test": 1000
+  },
+  "excluded_counts": {
+    "test": {
+      "duplicate_pair": 1
+    },
+    "validation": {},
+    "train": {
+      "duplicate_pair": 27,
+      "invalid_choices": 5,
+      "conflicting_gold": 2
+    }
+  },
+  "conversion_sha256": "ccc0a2f4fc29716c1bb140b511cfcf7210ab72e8958d6718635747e591a52f13",
+  "configuration": {
+    "gold": "invert native nonsensical index",
+    "split_policy": "native; test > validation > train"
+  },
+  "splits": {
+    "test": 999,
+    "validation": 997,
+    "train": 9966
+  },
+  "label_counts": {
+    "test": {
+      "1": 508,
+      "0": 491
+    },
+    "validation": {
+      "1": 518,
+      "0": 479
+    },
+    "train": {
+      "1": 4961,
+      "0": 5005
+    }
+  }
+}