tasksource/perspectrum@721184de6ed0 を複製し、カードを日本語で書く
Browse files- README.md +144 -0
- data/test-00000-of-00001.parquet +3 -0
- data/train-00000-of-00001.parquet +3 -0
- data/validation-00000-of-00001.parquet +3 -0
- excluded-questions.jsonl +0 -0
- provenance.json +36 -0
README.md
ADDED
|
@@ -0,0 +1,144 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
license: cc-by-sa-4.0
|
| 3 |
+
pretty_name: tasksource/perspectrum (mirror)
|
| 4 |
+
source_datasets:
|
| 5 |
+
- tasksource/perspectrum
|
| 6 |
+
tags:
|
| 7 |
+
- laya
|
| 8 |
+
- laya-finetune
|
| 9 |
+
- mirror
|
| 10 |
+
configs:
|
| 11 |
+
- config_name: default
|
| 12 |
+
data_files:
|
| 13 |
+
- split: train
|
| 14 |
+
path: data/train-*
|
| 15 |
+
- split: validation
|
| 16 |
+
path: data/validation-*
|
| 17 |
+
- split: test
|
| 18 |
+
path: data/test-*
|
| 19 |
+
dataset_info:
|
| 20 |
+
features:
|
| 21 |
+
- name: sentence1
|
| 22 |
+
dtype: string
|
| 23 |
+
- name: sentence2
|
| 24 |
+
dtype: string
|
| 25 |
+
- name: labels
|
| 26 |
+
dtype: string
|
| 27 |
+
- name: metadata
|
| 28 |
+
dtype: string
|
| 29 |
+
splits:
|
| 30 |
+
- name: train
|
| 31 |
+
num_bytes: 1027913
|
| 32 |
+
num_examples: 2939
|
| 33 |
+
- name: validation
|
| 34 |
+
num_bytes: 318416
|
| 35 |
+
num_examples: 910
|
| 36 |
+
- name: test
|
| 37 |
+
num_bytes: 416493
|
| 38 |
+
num_examples: 1204
|
| 39 |
+
download_size: 485850
|
| 40 |
+
dataset_size: 1762822
|
| 41 |
+
---
|
| 42 |
+
|
| 43 |
+
# tasksource/perspectrum(複製)
|
| 44 |
+
|
| 45 |
+
## データの内容
|
| 46 |
+
|
| 47 |
+
PERSPECTRUM の主張と見解の立場(stance)のデータを、parquet に詰め直したもの。1 行が主張(`sentence1`)と見解(`sentence2`)の組 1 件で、立場のラベルは `labels`、`metadata` 列も持つ。公式の見解のプールと結合し、各アノテーション済みのクラスタで最初の元の見解を使い、言い換えの展開や負例の作成はしていない。利用条件は CC BY-SA 4.0 で、元データの license.txt に記録されている。
|
| 48 |
+
|
| 49 |
+
## データの概要
|
| 50 |
+
|
| 51 |
+
| 項目 | 値 |
|
| 52 |
+
|---|---|
|
| 53 |
+
| 行数 | 5,053(1 構成・3 分割の合計) |
|
| 54 |
+
| 列数 | 4 |
|
| 55 |
+
| 容量 | 490.85 KB(ファイル 7 本) |
|
| 56 |
+
| ファイルの形式 | parquet 3、jsonl 1、json 1 |
|
| 57 |
+
| 公開 | public |
|
| 58 |
+
|
| 59 |
+
### 構成と分割
|
| 60 |
+
|
| 61 |
+
| 構成(config) | 分割(split)ごとの行数 | 列数 |
|
| 62 |
+
|---|---|---:|
|
| 63 |
+
| `default` | `train` 2,939、`validation` 910、`test` 1,204 | 4 |
|
| 64 |
+
|
| 65 |
+
### 列(構成 `default`・分割 `train`)
|
| 66 |
+
|
| 67 |
+
| 列 | 型 | 先頭の行の値 |
|
| 68 |
+
|---|---|---|
|
| 69 |
+
| `sentence1` | `string` | `Male infant circumcision is tantamount to child …` |
|
| 70 |
+
| `sentence2` | `string` | `Parents have the right to use their best judgmen…` |
|
| 71 |
+
| `labels` | `string` | `UNDERMINE` |
|
| 72 |
+
| `metadata` | `string` | `{"claim_id": 167, "id": "167:1242", "native_clus…` |
|
| 73 |
+
|
| 74 |
+
行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。
|
| 75 |
+
|
| 76 |
+
## 複製について
|
| 77 |
+
|
| 78 |
+
[`tasksource/perspectrum`](https://huggingface.co/datasets/tasksource/perspectrum) をリビジョン `721184de6ed05314fba04c6b706863fff4a5b647` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(`convaiinnovations/laya`)の微調整に使う候補として、調査メモ(`Laya 学習用データセット調査`)に載せたデータを集めている。
|
| 79 |
+
|
| 80 |
+
## 出典
|
| 81 |
+
|
| 82 |
+
- 元のデータセット: https://huggingface.co/datasets/tasksource/perspectrum
|
| 83 |
+
- 複製したリビジョン: `721184de6ed05314fba04c6b706863fff4a5b647`(2026-10-11 14:35:53+00:00)
|
| 84 |
+
- 元のライセンス表記: `cc-by-sa-4.0`
|
| 85 |
+
|
| 86 |
+
## 論文
|
| 87 |
+
|
| 88 |
+
- 元のカードに論文へのリンクは見つからなかった
|
| 89 |
+
|
| 90 |
+
## アノテーションの方法
|
| 91 |
+
|
| 92 |
+
(元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した)
|
| 93 |
+
|
| 94 |
+
公式の見解のプールと結合する。各アノテーション済みのクラスタで最初の元の見解を使う。言い換えを展開したり、負例を作り出したりはしない。
|
| 95 |
+
元の配布: https://github.com/CogComp/perspectrum/tree/master/data/dataset。
|
| 96 |
+
データセットの利用条件は CC BY-SA 4.0 で、元の data/dataset/license.txt に記録されている。
|
| 97 |
+
|
| 98 |
+
## 微調整に使うときの注意
|
| 99 |
+
|
| 100 |
+
- 調査メモの台帳での区分: B(継承条件・gated・モデル由来の条件・上流の規約などが付く)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
|
| 101 |
+
- Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
|
| 102 |
+
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
|
| 103 |
+
|
| 104 |
+
## 調査メモの記述
|
| 105 |
+
|
| 106 |
+
| メモ | 節 | ライセンス(記載) | 確認 | 注記 |
|
| 107 |
+
|---|---|---|---|---|
|
| 108 |
+
| `jev_sources_tasksource_bekko.csv` | CSV(tasksource-jev-typed-decisions) | cc-by-sa-4.0, cc-by-sa-4.0 (original source) / license_use=commercial | 確認済 | license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
|
| 109 |
+
|
| 110 |
+
## 元のカード(日本語訳)
|
| 111 |
+
|
| 112 |
+
以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。
|
| 113 |
+
|
| 114 |
+
---
|
| 115 |
+
|
| 116 |
+
# perspectrum
|
| 117 |
+
|
| 118 |
+
PERSPECTRUM のネイティブな主張と見解の立場(stance)。元の主張の分割を用いる。
|
| 119 |
+
|
| 120 |
+
公式の見解のプールと結合する。各アノテーション済みのクラスタで最初の元の見解を使う。言い換えを展開したり、負例を作り出したりはしない。
|
| 121 |
+
元の配布: https://github.com/CogComp/perspectrum/tree/master/data/dataset。
|
| 122 |
+
データセットの利用条件は CC BY-SA 4.0 で、元の data/dataset/license.txt に記録されている。
|
| 123 |
+
|
| 124 |
+
元データ: [原配布](https://github.com/CogComp/perspectrum)。[tasksource](https://github.com/sileod/tasksource) 向けに [scripts/repackage_dataset/stance.py](https://github.com/sileod/tasksource/blob/main/scripts/repackage_dataset/stance.py#L95) で parquet に再パッケージ化した。
|
| 125 |
+
|
| 126 |
+
[変換の来歴](provenance.json): 元データの版、ハッシュ、設定、除外の記録。
|
| 127 |
+
|
| 128 |
+
<details>
|
| 129 |
+
<summary>原文(英語)</summary>
|
| 130 |
+
|
| 131 |
+
# perspectrum
|
| 132 |
+
|
| 133 |
+
PERSPECTRUM native claim/perspective stance with original claim partitions.
|
| 134 |
+
|
| 135 |
+
Joins the official perspective pool; uses the first original perspective in
|
| 136 |
+
each annotated cluster, without expanding paraphrases or inventing negatives.
|
| 137 |
+
Original distribution: https://github.com/CogComp/perspectrum/tree/master/data/dataset.
|
| 138 |
+
Dataset terms: CC BY-SA 4.0, recorded in the original data/dataset/license.txt.
|
| 139 |
+
|
| 140 |
+
Original data: [original distribution](https://github.com/CogComp/perspectrum). Repackaged as parquet for [tasksource](https://github.com/sileod/tasksource) by [scripts/repackage_dataset/stance.py](https://github.com/sileod/tasksource/blob/main/scripts/repackage_dataset/stance.py#L95).
|
| 141 |
+
|
| 142 |
+
[Conversion provenance](provenance.json): source revisions, hashes, configuration and exclusions.
|
| 143 |
+
|
| 144 |
+
</details>
|
data/test-00000-of-00001.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:4ce7b6d6ea9747c7e90786c5c210b35f8cb2f891b74613b00be7979a6fbfc06c
|
| 3 |
+
size 122678
|
data/train-00000-of-00001.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:4d9e15c2f80db416e3aed9ad35ab271804ea914c6da20d8dc939e5554590c2c6
|
| 3 |
+
size 276796
|
data/validation-00000-of-00001.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:fb2437cfe9c5f18f1bd91ea87382bf8d59d72a00c454da59f18edeaf69671d7f
|
| 3 |
+
size 86376
|
excluded-questions.jsonl
ADDED
|
File without changes
|
provenance.json
ADDED
|
@@ -0,0 +1,36 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"source": "https://github.com/CogComp/perspectrum",
|
| 3 |
+
"revision": "b42c27b85f20f2a35c0a0895698fa242ccf160ab",
|
| 4 |
+
"source_hashes": {
|
| 5 |
+
"data/dataset/perspective_pool_v1.0.json": "d4d4e78c4777ea971d26546a8819aa9e02c5a68ffff45e10b40ca0cb91b43ae4",
|
| 6 |
+
"data/dataset/dataset_split_v1.0.json": "5ba5296f6e5956c44a2fd014b15a3f7c10b9a253451162932acaf217f20cd7da",
|
| 7 |
+
"data/dataset/perspectrum_with_answers_v1.0.json": "39d0391d26ebe21efb1cc3162abcc3c4212d2eadfb07514129c3015d6f6ae1f1"
|
| 8 |
+
},
|
| 9 |
+
"conversion_sha256": "32aec03d9c79ab7959747d178567b9fdb70e3b809a6882d797bf5d4fa88998b6",
|
| 10 |
+
"split_policy": "native claim partitions",
|
| 11 |
+
"license": "cc-by-sa-4.0",
|
| 12 |
+
"excluded_group_overlap": {
|
| 13 |
+
"test": 0,
|
| 14 |
+
"validation": 4,
|
| 15 |
+
"train": 38
|
| 16 |
+
},
|
| 17 |
+
"splits": {
|
| 18 |
+
"train": 2939,
|
| 19 |
+
"validation": 910,
|
| 20 |
+
"test": 1204
|
| 21 |
+
},
|
| 22 |
+
"label_counts": {
|
| 23 |
+
"train": {
|
| 24 |
+
"UNDERMINE": 1442,
|
| 25 |
+
"SUPPORT": 1497
|
| 26 |
+
},
|
| 27 |
+
"validation": {
|
| 28 |
+
"SUPPORT": 472,
|
| 29 |
+
"UNDERMINE": 438
|
| 30 |
+
},
|
| 31 |
+
"test": {
|
| 32 |
+
"SUPPORT": 635,
|
| 33 |
+
"UNDERMINE": 569
|
| 34 |
+
}
|
| 35 |
+
}
|
| 36 |
+
}
|