File size: 13,051 Bytes
8316711 d730caf 8316711 fd62f50 8316711 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377 378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395 396 397 398 399 400 401 402 403 404 405 406 407 408 409 410 411 412 413 414 415 416 417 418 419 420 421 422 423 424 425 426 427 428 429 430 431 432 433 434 435 436 437 438 439 440 441 442 443 444 445 446 447 448 449 450 451 452 453 454 455 456 457 458 459 460 461 462 | ---
license: other
pretty_name: lighteval/EntityMatching (mirror)
source_datasets:
- lighteval/EntityMatching
tags:
- laya
- laya-finetune
- mirror
- domain-business
- use-unclear
- genre-table
- label-binary
- annot-unknown
- lang-en
configs:
- config_name: Abt_Buy
data_files:
- split: train
path: Abt_Buy/train-*
- split: validation
path: Abt_Buy/validation-*
- split: test
path: Abt_Buy/test-*
- config_name: Amazon_Google
data_files:
- split: train
path: Amazon_Google/train-*
- split: validation
path: Amazon_Google/validation-*
- split: test
path: Amazon_Google/test-*
- config_name: Beer
data_files:
- split: train
path: Beer/train-*
- split: validation
path: Beer/validation-*
- split: test
path: Beer/test-*
- config_name: Company
data_files:
- split: train
path: Company/train-*
- split: validation
path: Company/validation-*
- split: test
path: Company/test-*
- config_name: DBLP_ACM
data_files:
- split: train
path: DBLP_ACM/train-*
- split: validation
path: DBLP_ACM/validation-*
- split: test
path: DBLP_ACM/test-*
- config_name: DBLP_GoogleScholar
data_files:
- split: train
path: DBLP_GoogleScholar/train-*
- split: validation
path: DBLP_GoogleScholar/validation-*
- split: test
path: DBLP_GoogleScholar/test-*
- config_name: Dirty_DBLP_ACM
data_files:
- split: train
path: Dirty_DBLP_ACM/train-*
- split: validation
path: Dirty_DBLP_ACM/validation-*
- split: test
path: Dirty_DBLP_ACM/test-*
- config_name: Dirty_DBLP_GoogleScholar
data_files:
- split: train
path: Dirty_DBLP_GoogleScholar/train-*
- split: validation
path: Dirty_DBLP_GoogleScholar/validation-*
- split: test
path: Dirty_DBLP_GoogleScholar/test-*
- config_name: Dirty_Walmart_Amazon
data_files:
- split: train
path: Dirty_Walmart_Amazon/train-*
- split: validation
path: Dirty_Walmart_Amazon/validation-*
- split: test
path: Dirty_Walmart_Amazon/test-*
- config_name: Dirty_iTunes_Amazon
data_files:
- split: train
path: Dirty_iTunes_Amazon/train-*
- split: validation
path: Dirty_iTunes_Amazon/validation-*
- split: test
path: Dirty_iTunes_Amazon/test-*
- config_name: Fodors_Zagats
data_files:
- split: train
path: Fodors_Zagats/train-*
- split: validation
path: Fodors_Zagats/validation-*
- split: test
path: Fodors_Zagats/test-*
- config_name: Walmart_Amazon
data_files:
- split: train
path: Walmart_Amazon/train-*
- split: validation
path: Walmart_Amazon/validation-*
- split: test
path: Walmart_Amazon/test-*
- config_name: iTunes_Amazon
data_files:
- split: train
path: iTunes_Amazon/train-*
- split: validation
path: iTunes_Amazon/validation-*
- split: test
path: iTunes_Amazon/test-*
dataset_info:
- config_name: Abt_Buy
features:
- name: productA
dtype: string
- name: productB
dtype: string
- name: same
dtype: bool_
splits:
- name: train
num_bytes: 580495
num_examples: 1232
- name: validation
num_bytes: 926013
num_examples: 1916
- name: test
num_bytes: 937812
num_examples: 1916
download_size: 508497
dataset_size: 2444320
- config_name: Amazon_Google
features:
- name: productA
dtype: string
- name: productB
dtype: string
- name: same
dtype: bool_
splits:
- name: train
num_bytes: 262631
num_examples: 1398
- name: validation
num_bytes: 430776
num_examples: 2293
- name: test
num_bytes: 429953
num_examples: 2293
download_size: 247843
dataset_size: 1123360
- config_name: Beer
features:
- name: productA
dtype: string
- name: productB
dtype: string
- name: same
dtype: bool_
splits:
- name: train
num_bytes: 20547
num_examples: 80
- name: validation
num_bytes: 24191
num_examples: 91
- name: test
num_bytes: 24255
num_examples: 91
download_size: 29542
dataset_size: 68993
- config_name: Company
features:
- name: productA
dtype: string
- name: productB
dtype: string
- name: same
dtype: bool_
splits:
- name: train
num_bytes: 438041265
num_examples: 33718
- name: validation
num_bytes: 322303999
num_examples: 22533
- name: test
num_bytes: 309899980
num_examples: 22503
download_size: 365685795
dataset_size: 1070245244
- config_name: DBLP_ACM
features:
- name: productA
dtype: string
- name: productB
dtype: string
- name: same
dtype: bool_
splits:
- name: train
num_bytes: 917934
num_examples: 2664
- name: validation
num_bytes: 848473
num_examples: 2473
- name: test
num_bytes: 843238
num_examples: 2473
download_size: 824232
dataset_size: 2609645
- config_name: DBLP_GoogleScholar
features:
- name: productA
dtype: string
- name: productB
dtype: string
- name: same
dtype: bool_
splits:
- name: train
num_bytes: 1911584
num_examples: 6414
- name: validation
num_bytes: 1658208
num_examples: 5742
- name: test
num_bytes: 1650462
num_examples: 5742
download_size: 1611925
dataset_size: 5220254
- config_name: Dirty_DBLP_ACM
features:
- name: productA
dtype: string
- name: productB
dtype: string
- name: same
dtype: bool_
splits:
- name: train
num_bytes: 960882
num_examples: 2664
- name: validation
num_bytes: 882597
num_examples: 2473
- name: test
num_bytes: 877988
num_examples: 2473
download_size: 871768
dataset_size: 2721467
- config_name: Dirty_DBLP_GoogleScholar
features:
- name: productA
dtype: string
- name: productB
dtype: string
- name: same
dtype: bool_
splits:
- name: train
num_bytes: 1980418
num_examples: 6414
- name: validation
num_bytes: 1721356
num_examples: 5742
- name: test
num_bytes: 1713932
num_examples: 5742
download_size: 1681464
dataset_size: 5415706
- config_name: Dirty_Walmart_Amazon
features:
- name: productA
dtype: string
- name: productB
dtype: string
- name: same
dtype: bool_
splits:
- name: train
num_bytes: 357946
num_examples: 1152
- name: validation
num_bytes: 645692
num_examples: 2049
- name: test
num_bytes: 645688
num_examples: 2049
download_size: 487611
dataset_size: 1649326
- config_name: Dirty_iTunes_Amazon
features:
- name: productA
dtype: string
- name: productB
dtype: string
- name: same
dtype: bool_
splits:
- name: train
num_bytes: 93461
num_examples: 156
- name: validation
num_bytes: 66813
num_examples: 109
- name: test
num_bytes: 67621
num_examples: 109
download_size: 82094
dataset_size: 227895
- config_name: Fodors_Zagats
features:
- name: productA
dtype: string
- name: productB
dtype: string
- name: same
dtype: bool_
splits:
- name: train
num_bytes: 34487
num_examples: 132
- name: validation
num_bytes: 49533
num_examples: 190
- name: test
num_bytes: 49544
num_examples: 189
download_size: 42929
dataset_size: 133564
- config_name: Walmart_Amazon
features:
- name: productA
dtype: string
- name: productB
dtype: string
- name: same
dtype: bool_
splits:
- name: train
num_bytes: 341160
num_examples: 1152
- name: validation
num_bytes: 616628
num_examples: 2049
- name: test
num_bytes: 615948
num_examples: 2049
download_size: 460436
dataset_size: 1573736
- config_name: iTunes_Amazon
features:
- name: productA
dtype: string
- name: productB
dtype: string
- name: same
dtype: bool_
splits:
- name: train
num_bytes: 88464
num_examples: 156
- name: validation
num_bytes: 63901
num_examples: 109
- name: test
num_bytes: 64425
num_examples: 109
download_size: 70776
dataset_size: 216790
---
# lighteval/EntityMatching（複製）
## データの内容
2 つのレコードが同じものを指すかを判定するためのデータ。1 件は `productA` と `productB` の 2 つのレコードの組で、同じかどうかを `same` が示し、Abt_Buy、Beer、Company など 13 の構成に分かれる。元のカードは空で、この説明は列名と調査メモから書いた。
## データの概要
| 項目 | 値 |
|---|---|
| 行数 | 152,839（13 構成・39 分割の合計） |
| 列数 | 3 |
| 容量 | 372.61 MB（ファイル 41 本） |
| ファイルの形式 | parquet 39 |
| 公開 | public |
### 構成と分割
| 構成（config） | 分割（split）ごとの行数 | 列数 |
|---|---|---:|
| `Abt_Buy` | `train` 1,232、`validation` 1,916、`test` 1,916 | 3 |
| `Amazon_Google` | `train` 1,398、`validation` 2,293、`test` 2,293 | 3 |
| `Beer` | `train` 80、`validation` 91、`test` 91 | 3 |
| `Company` | `train` 33,718、`validation` 22,533、`test` 22,503 | 3 |
| `DBLP_ACM` | `train` 2,664、`validation` 2,473、`test` 2,473 | 3 |
| `DBLP_GoogleScholar` | `train` 6,414、`validation` 5,742、`test` 5,742 | 3 |
| `Dirty_DBLP_ACM` | `train` 2,664、`validation` 2,473、`test` 2,473 | 3 |
| `Dirty_DBLP_GoogleScholar` | `train` 6,414、`validation` 5,742、`test` 5,742 | 3 |
| `Dirty_Walmart_Amazon` | `train` 1,152、`validation` 2,049、`test` 2,049 | 3 |
| `Dirty_iTunes_Amazon` | `train` 156、`validation` 109、`test` 109 | 3 |
| `Fodors_Zagats` | `train` 132、`validation` 190、`test` 189 | 3 |
| `Walmart_Amazon` | `train` 1,152、`validation` 2,049、`test` 2,049 | 3 |
| `iTunes_Amazon` | `train` 156、`validation` 109、`test` 109 | 3 |
### 列（構成 `Abt_Buy`・分割 `train`。どの構成も同じ列）
| 列 | 型 | 先頭の行の値 |
|---|---|---|
| `productA` | `string` | `name: canon high capacity color ink cartridge co…` |
| `productB` | `string` | `name: canon cli-221 black ink cartridge 2946b001…` |
| `same` | `bool_` | `False` |
行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。
## 複製について
[`lighteval/EntityMatching`](https://huggingface.co/datasets/lighteval/EntityMatching) をリビジョン `dbc9ec9d4de43d805215f0f7da051673bd938747` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（`convaiinnovations/laya`）の微調整に使う候補として、調査メモ（`Laya 学習用データセット調査`）に載せたデータを集めている。
## 出典
- 元のデータセット: https://huggingface.co/datasets/lighteval/EntityMatching
- 複製したリビジョン: `dbc9ec9d4de43d805215f0f7da051673bd938747`（2025-08-18 13:15:21+00:00）
- 元のライセンス表記: `other`
## 論文
- 元のカードに論文へのリンクは見つからなかった
## アノテーションの方法
元のカードにアノテーションの節が無かった。下の「調査メモの記述」と「元のカード」を参照。
## 微調整に使うときの注意
- 調査メモの台帳での区分: D（記載なし・other・unknown・資料間の食い違い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
## 調査メモの記述
| メモ | 節 | ライセンス（記載） | 確認 | 注記 |
|---|---|---|---|---|
| `ontology_kg_entity.md` | Q2. エンティティ型付け・NER・エンティティリンキング・名寄せ（同名企業の寄せ）にどんなデータがあり、Laya にどう載るか (L68) | lighteval: タグなし。wdc/products-2017: unknown。matchbench: タグなし | 確認済 | 確認印なし(各ファイルの凡例により確認済扱い) ／ 原文注記: Company の A 側 100 件の平均長は 7,462 文字（先頭 100 件の計測）で、先頭 100 件に正例が 0 件。小文字化・記号除去済みでノイズが多い。1 件が Laya の入力長を超えるので切り詰めが要 |
| `ontology_tables_schema_kg.md` | Q2. 2 つのスキーマ・2 つのレコードが同じものを指すか（スキーマ照合・エンティティ照合・商品の同一判定）のラベルつきデータは何があるか (L72) | タグなし | 確認済 | 原文注記: train が test より小さく、学習量は少ない。ライセンス不明 |
## 元のカード
（元のカードは空だった）
|