HYUKI5 commited on
Commit
3386c8b
·
verified ·
1 Parent(s): fca5ca3

tasksource/perspectrum@721184de6ed0 を複製し、カードを日本語で書く

Browse files
README.md ADDED
@@ -0,0 +1,144 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: cc-by-sa-4.0
3
+ pretty_name: tasksource/perspectrum (mirror)
4
+ source_datasets:
5
+ - tasksource/perspectrum
6
+ tags:
7
+ - laya
8
+ - laya-finetune
9
+ - mirror
10
+ configs:
11
+ - config_name: default
12
+ data_files:
13
+ - split: train
14
+ path: data/train-*
15
+ - split: validation
16
+ path: data/validation-*
17
+ - split: test
18
+ path: data/test-*
19
+ dataset_info:
20
+ features:
21
+ - name: sentence1
22
+ dtype: string
23
+ - name: sentence2
24
+ dtype: string
25
+ - name: labels
26
+ dtype: string
27
+ - name: metadata
28
+ dtype: string
29
+ splits:
30
+ - name: train
31
+ num_bytes: 1027913
32
+ num_examples: 2939
33
+ - name: validation
34
+ num_bytes: 318416
35
+ num_examples: 910
36
+ - name: test
37
+ num_bytes: 416493
38
+ num_examples: 1204
39
+ download_size: 485850
40
+ dataset_size: 1762822
41
+ ---
42
+
43
+ # tasksource/perspectrum(複製)
44
+
45
+ ## データの内容
46
+
47
+ PERSPECTRUM の主張と見解の立場(stance)のデータを、parquet に詰め直したもの。1 行が主張(`sentence1`)と見解(`sentence2`)の組 1 件で、立場のラベルは `labels`、`metadata` 列も持つ。公式の見解のプールと結合し、各アノテーション済みのクラスタで最初の元の見解を使い、言い換えの展開や負例の作成はしていない。利用条件は CC BY-SA 4.0 で、元データの license.txt に記録されている。
48
+
49
+ ## データの概要
50
+
51
+ | 項目 | 値 |
52
+ |---|---|
53
+ | 行数 | 5,053(1 構成・3 分割の合計) |
54
+ | 列数 | 4 |
55
+ | 容量 | 490.85 KB(ファイル 7 本) |
56
+ | ファイルの形式 | parquet 3、jsonl 1、json 1 |
57
+ | 公開 | public |
58
+
59
+ ### 構成と分割
60
+
61
+ | 構成(config) | 分割(split)ごとの行数 | 列数 |
62
+ |---|---|---:|
63
+ | `default` | `train` 2,939、`validation` 910、`test` 1,204 | 4 |
64
+
65
+ ### 列(構成 `default`・分割 `train`)
66
+
67
+ | 列 | 型 | 先頭の行の値 |
68
+ |---|---|---|
69
+ | `sentence1` | `string` | `Male infant circumcision is tantamount to child …` |
70
+ | `sentence2` | `string` | `Parents have the right to use their best judgmen…` |
71
+ | `labels` | `string` | `UNDERMINE` |
72
+ | `metadata` | `string` | `{"claim_id": 167, "id": "167:1242", "native_clus…` |
73
+
74
+ 行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。
75
+
76
+ ## 複製について
77
+
78
+ [`tasksource/perspectrum`](https://huggingface.co/datasets/tasksource/perspectrum) をリビジョン `721184de6ed05314fba04c6b706863fff4a5b647` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(`convaiinnovations/laya`)の微調整に使う候補として、調査メモ(`Laya 学習用データセット調査`)に載せたデータを集めている。
79
+
80
+ ## 出典
81
+
82
+ - 元のデータセット: https://huggingface.co/datasets/tasksource/perspectrum
83
+ - 複製したリビジョン: `721184de6ed05314fba04c6b706863fff4a5b647`(2026-10-11 14:35:53+00:00)
84
+ - 元のライセンス表記: `cc-by-sa-4.0`
85
+
86
+ ## 論文
87
+
88
+ - 元のカードに論文へのリンクは見つからなかった
89
+
90
+ ## アノテーションの方法
91
+
92
+ (元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した)
93
+
94
+ 公式の見解のプールと結合する。各アノテーション済みのクラスタで最初の元の見解を使う。言い換えを展開したり、負例を作り出したりはしない。
95
+ 元の配布: https://github.com/CogComp/perspectrum/tree/master/data/dataset。
96
+ データセットの利用条件は CC BY-SA 4.0 で、元の data/dataset/license.txt に記録されている。
97
+
98
+ ## 微調整に使うときの注意
99
+
100
+ - 調査メモの台帳での区分: B(継承条件・gated・モデル由来の条件・上流の規約などが付く)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
101
+ - Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
102
+ - 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
103
+
104
+ ## 調査メモの記述
105
+
106
+ | メモ | 節 | ライセンス(記載) | 確認 | 注記 |
107
+ |---|---|---|---|---|
108
+ | `jev_sources_tasksource_bekko.csv` | CSV(tasksource-jev-typed-decisions) | cc-by-sa-4.0, cc-by-sa-4.0 (original source) / license_use=commercial | 確認済 | license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
109
+
110
+ ## 元のカード(日本語訳)
111
+
112
+ 以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。
113
+
114
+ ---
115
+
116
+ # perspectrum
117
+
118
+ PERSPECTRUM のネイティブな主張と見解の立場(stance)。元の主張の分割を用いる。
119
+
120
+ 公式の見解のプールと結合する。各アノテーション済みのクラスタで最初の元の見解を使う。言い換えを展開したり、負例を作り出したりはしない。
121
+ 元の配布: https://github.com/CogComp/perspectrum/tree/master/data/dataset。
122
+ データセットの利用条件は CC BY-SA 4.0 で、元の data/dataset/license.txt に記録されている。
123
+
124
+ 元データ: [原配布](https://github.com/CogComp/perspectrum)。[tasksource](https://github.com/sileod/tasksource) 向けに [scripts/repackage_dataset/stance.py](https://github.com/sileod/tasksource/blob/main/scripts/repackage_dataset/stance.py#L95) で parquet に再パッケージ化した。
125
+
126
+ [変換の来歴](provenance.json): 元データの版、ハッシュ、設定、除外の記録。
127
+
128
+ <details>
129
+ <summary>原文(英語)</summary>
130
+
131
+ # perspectrum
132
+
133
+ PERSPECTRUM native claim/perspective stance with original claim partitions.
134
+
135
+ Joins the official perspective pool; uses the first original perspective in
136
+ each annotated cluster, without expanding paraphrases or inventing negatives.
137
+ Original distribution: https://github.com/CogComp/perspectrum/tree/master/data/dataset.
138
+ Dataset terms: CC BY-SA 4.0, recorded in the original data/dataset/license.txt.
139
+
140
+ Original data: [original distribution](https://github.com/CogComp/perspectrum). Repackaged as parquet for [tasksource](https://github.com/sileod/tasksource) by [scripts/repackage_dataset/stance.py](https://github.com/sileod/tasksource/blob/main/scripts/repackage_dataset/stance.py#L95).
141
+
142
+ [Conversion provenance](provenance.json): source revisions, hashes, configuration and exclusions.
143
+
144
+ </details>
data/test-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4ce7b6d6ea9747c7e90786c5c210b35f8cb2f891b74613b00be7979a6fbfc06c
3
+ size 122678
data/train-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4d9e15c2f80db416e3aed9ad35ab271804ea914c6da20d8dc939e5554590c2c6
3
+ size 276796
data/validation-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fb2437cfe9c5f18f1bd91ea87382bf8d59d72a00c454da59f18edeaf69671d7f
3
+ size 86376
excluded-questions.jsonl ADDED
File without changes
provenance.json ADDED
@@ -0,0 +1,36 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "source": "https://github.com/CogComp/perspectrum",
3
+ "revision": "b42c27b85f20f2a35c0a0895698fa242ccf160ab",
4
+ "source_hashes": {
5
+ "data/dataset/perspective_pool_v1.0.json": "d4d4e78c4777ea971d26546a8819aa9e02c5a68ffff45e10b40ca0cb91b43ae4",
6
+ "data/dataset/dataset_split_v1.0.json": "5ba5296f6e5956c44a2fd014b15a3f7c10b9a253451162932acaf217f20cd7da",
7
+ "data/dataset/perspectrum_with_answers_v1.0.json": "39d0391d26ebe21efb1cc3162abcc3c4212d2eadfb07514129c3015d6f6ae1f1"
8
+ },
9
+ "conversion_sha256": "32aec03d9c79ab7959747d178567b9fdb70e3b809a6882d797bf5d4fa88998b6",
10
+ "split_policy": "native claim partitions",
11
+ "license": "cc-by-sa-4.0",
12
+ "excluded_group_overlap": {
13
+ "test": 0,
14
+ "validation": 4,
15
+ "train": 38
16
+ },
17
+ "splits": {
18
+ "train": 2939,
19
+ "validation": 910,
20
+ "test": 1204
21
+ },
22
+ "label_counts": {
23
+ "train": {
24
+ "UNDERMINE": 1442,
25
+ "SUPPORT": 1497
26
+ },
27
+ "validation": {
28
+ "SUPPORT": 472,
29
+ "UNDERMINE": 438
30
+ },
31
+ "test": {
32
+ "SUPPORT": 635,
33
+ "UNDERMINE": 569
34
+ }
35
+ }
36
+ }