| --- |
| license: other |
| pretty_name: lighteval/EntityMatching (mirror) |
| source_datasets: |
| - lighteval/EntityMatching |
| tags: |
| - laya |
| - laya-finetune |
| - mirror |
| - domain-business |
| - use-unclear |
| - genre-table |
| - label-binary |
| - annot-unknown |
| - lang-en |
| configs: |
| - config_name: Abt_Buy |
| data_files: |
| - split: train |
| path: Abt_Buy/train-* |
| - split: validation |
| path: Abt_Buy/validation-* |
| - split: test |
| path: Abt_Buy/test-* |
| - config_name: Amazon_Google |
| data_files: |
| - split: train |
| path: Amazon_Google/train-* |
| - split: validation |
| path: Amazon_Google/validation-* |
| - split: test |
| path: Amazon_Google/test-* |
| - config_name: Beer |
| data_files: |
| - split: train |
| path: Beer/train-* |
| - split: validation |
| path: Beer/validation-* |
| - split: test |
| path: Beer/test-* |
| - config_name: Company |
| data_files: |
| - split: train |
| path: Company/train-* |
| - split: validation |
| path: Company/validation-* |
| - split: test |
| path: Company/test-* |
| - config_name: DBLP_ACM |
| data_files: |
| - split: train |
| path: DBLP_ACM/train-* |
| - split: validation |
| path: DBLP_ACM/validation-* |
| - split: test |
| path: DBLP_ACM/test-* |
| - config_name: DBLP_GoogleScholar |
| data_files: |
| - split: train |
| path: DBLP_GoogleScholar/train-* |
| - split: validation |
| path: DBLP_GoogleScholar/validation-* |
| - split: test |
| path: DBLP_GoogleScholar/test-* |
| - config_name: Dirty_DBLP_ACM |
| data_files: |
| - split: train |
| path: Dirty_DBLP_ACM/train-* |
| - split: validation |
| path: Dirty_DBLP_ACM/validation-* |
| - split: test |
| path: Dirty_DBLP_ACM/test-* |
| - config_name: Dirty_DBLP_GoogleScholar |
| data_files: |
| - split: train |
| path: Dirty_DBLP_GoogleScholar/train-* |
| - split: validation |
| path: Dirty_DBLP_GoogleScholar/validation-* |
| - split: test |
| path: Dirty_DBLP_GoogleScholar/test-* |
| - config_name: Dirty_Walmart_Amazon |
| data_files: |
| - split: train |
| path: Dirty_Walmart_Amazon/train-* |
| - split: validation |
| path: Dirty_Walmart_Amazon/validation-* |
| - split: test |
| path: Dirty_Walmart_Amazon/test-* |
| - config_name: Dirty_iTunes_Amazon |
| data_files: |
| - split: train |
| path: Dirty_iTunes_Amazon/train-* |
| - split: validation |
| path: Dirty_iTunes_Amazon/validation-* |
| - split: test |
| path: Dirty_iTunes_Amazon/test-* |
| - config_name: Fodors_Zagats |
| data_files: |
| - split: train |
| path: Fodors_Zagats/train-* |
| - split: validation |
| path: Fodors_Zagats/validation-* |
| - split: test |
| path: Fodors_Zagats/test-* |
| - config_name: Walmart_Amazon |
| data_files: |
| - split: train |
| path: Walmart_Amazon/train-* |
| - split: validation |
| path: Walmart_Amazon/validation-* |
| - split: test |
| path: Walmart_Amazon/test-* |
| - config_name: iTunes_Amazon |
| data_files: |
| - split: train |
| path: iTunes_Amazon/train-* |
| - split: validation |
| path: iTunes_Amazon/validation-* |
| - split: test |
| path: iTunes_Amazon/test-* |
| dataset_info: |
| - config_name: Abt_Buy |
| features: |
| - name: productA |
| dtype: string |
| - name: productB |
| dtype: string |
| - name: same |
| dtype: bool_ |
| splits: |
| - name: train |
| num_bytes: 580495 |
| num_examples: 1232 |
| - name: validation |
| num_bytes: 926013 |
| num_examples: 1916 |
| - name: test |
| num_bytes: 937812 |
| num_examples: 1916 |
| download_size: 508497 |
| dataset_size: 2444320 |
| - config_name: Amazon_Google |
| features: |
| - name: productA |
| dtype: string |
| - name: productB |
| dtype: string |
| - name: same |
| dtype: bool_ |
| splits: |
| - name: train |
| num_bytes: 262631 |
| num_examples: 1398 |
| - name: validation |
| num_bytes: 430776 |
| num_examples: 2293 |
| - name: test |
| num_bytes: 429953 |
| num_examples: 2293 |
| download_size: 247843 |
| dataset_size: 1123360 |
| - config_name: Beer |
| features: |
| - name: productA |
| dtype: string |
| - name: productB |
| dtype: string |
| - name: same |
| dtype: bool_ |
| splits: |
| - name: train |
| num_bytes: 20547 |
| num_examples: 80 |
| - name: validation |
| num_bytes: 24191 |
| num_examples: 91 |
| - name: test |
| num_bytes: 24255 |
| num_examples: 91 |
| download_size: 29542 |
| dataset_size: 68993 |
| - config_name: Company |
| features: |
| - name: productA |
| dtype: string |
| - name: productB |
| dtype: string |
| - name: same |
| dtype: bool_ |
| splits: |
| - name: train |
| num_bytes: 438041265 |
| num_examples: 33718 |
| - name: validation |
| num_bytes: 322303999 |
| num_examples: 22533 |
| - name: test |
| num_bytes: 309899980 |
| num_examples: 22503 |
| download_size: 365685795 |
| dataset_size: 1070245244 |
| - config_name: DBLP_ACM |
| features: |
| - name: productA |
| dtype: string |
| - name: productB |
| dtype: string |
| - name: same |
| dtype: bool_ |
| splits: |
| - name: train |
| num_bytes: 917934 |
| num_examples: 2664 |
| - name: validation |
| num_bytes: 848473 |
| num_examples: 2473 |
| - name: test |
| num_bytes: 843238 |
| num_examples: 2473 |
| download_size: 824232 |
| dataset_size: 2609645 |
| - config_name: DBLP_GoogleScholar |
| features: |
| - name: productA |
| dtype: string |
| - name: productB |
| dtype: string |
| - name: same |
| dtype: bool_ |
| splits: |
| - name: train |
| num_bytes: 1911584 |
| num_examples: 6414 |
| - name: validation |
| num_bytes: 1658208 |
| num_examples: 5742 |
| - name: test |
| num_bytes: 1650462 |
| num_examples: 5742 |
| download_size: 1611925 |
| dataset_size: 5220254 |
| - config_name: Dirty_DBLP_ACM |
| features: |
| - name: productA |
| dtype: string |
| - name: productB |
| dtype: string |
| - name: same |
| dtype: bool_ |
| splits: |
| - name: train |
| num_bytes: 960882 |
| num_examples: 2664 |
| - name: validation |
| num_bytes: 882597 |
| num_examples: 2473 |
| - name: test |
| num_bytes: 877988 |
| num_examples: 2473 |
| download_size: 871768 |
| dataset_size: 2721467 |
| - config_name: Dirty_DBLP_GoogleScholar |
| features: |
| - name: productA |
| dtype: string |
| - name: productB |
| dtype: string |
| - name: same |
| dtype: bool_ |
| splits: |
| - name: train |
| num_bytes: 1980418 |
| num_examples: 6414 |
| - name: validation |
| num_bytes: 1721356 |
| num_examples: 5742 |
| - name: test |
| num_bytes: 1713932 |
| num_examples: 5742 |
| download_size: 1681464 |
| dataset_size: 5415706 |
| - config_name: Dirty_Walmart_Amazon |
| features: |
| - name: productA |
| dtype: string |
| - name: productB |
| dtype: string |
| - name: same |
| dtype: bool_ |
| splits: |
| - name: train |
| num_bytes: 357946 |
| num_examples: 1152 |
| - name: validation |
| num_bytes: 645692 |
| num_examples: 2049 |
| - name: test |
| num_bytes: 645688 |
| num_examples: 2049 |
| download_size: 487611 |
| dataset_size: 1649326 |
| - config_name: Dirty_iTunes_Amazon |
| features: |
| - name: productA |
| dtype: string |
| - name: productB |
| dtype: string |
| - name: same |
| dtype: bool_ |
| splits: |
| - name: train |
| num_bytes: 93461 |
| num_examples: 156 |
| - name: validation |
| num_bytes: 66813 |
| num_examples: 109 |
| - name: test |
| num_bytes: 67621 |
| num_examples: 109 |
| download_size: 82094 |
| dataset_size: 227895 |
| - config_name: Fodors_Zagats |
| features: |
| - name: productA |
| dtype: string |
| - name: productB |
| dtype: string |
| - name: same |
| dtype: bool_ |
| splits: |
| - name: train |
| num_bytes: 34487 |
| num_examples: 132 |
| - name: validation |
| num_bytes: 49533 |
| num_examples: 190 |
| - name: test |
| num_bytes: 49544 |
| num_examples: 189 |
| download_size: 42929 |
| dataset_size: 133564 |
| - config_name: Walmart_Amazon |
| features: |
| - name: productA |
| dtype: string |
| - name: productB |
| dtype: string |
| - name: same |
| dtype: bool_ |
| splits: |
| - name: train |
| num_bytes: 341160 |
| num_examples: 1152 |
| - name: validation |
| num_bytes: 616628 |
| num_examples: 2049 |
| - name: test |
| num_bytes: 615948 |
| num_examples: 2049 |
| download_size: 460436 |
| dataset_size: 1573736 |
| - config_name: iTunes_Amazon |
| features: |
| - name: productA |
| dtype: string |
| - name: productB |
| dtype: string |
| - name: same |
| dtype: bool_ |
| splits: |
| - name: train |
| num_bytes: 88464 |
| num_examples: 156 |
| - name: validation |
| num_bytes: 63901 |
| num_examples: 109 |
| - name: test |
| num_bytes: 64425 |
| num_examples: 109 |
| download_size: 70776 |
| dataset_size: 216790 |
| --- |
| |
| # lighteval/EntityMatching（複製） |
|
|
| ## データの内容 |
|
|
| 2 つのレコードが同じものを指すかを判定するためのデータ。1 件は `productA` と `productB` の 2 つのレコードの組で、同じかどうかを `same` が示し、Abt_Buy、Beer、Company など 13 の構成に分かれる。元のカードは空で、この説明は列名と調査メモから書いた。 |
| |
| ## データの概要 |
| |
| | 項目 | 値 | |
| |---|---| |
| | 行数 | 152,839（13 構成・39 分割の合計） | |
| | 列数 | 3 | |
| | 容量 | 372.61 MB（ファイル 41 本） | |
| | ファイルの形式 | parquet 39 | |
| | 公開 | public | |
| |
| ### 構成と分割 |
| |
| | 構成（config） | 分割（split）ごとの行数 | 列数 | |
| |---|---|---:| |
| | `Abt_Buy` | `train` 1,232、`validation` 1,916、`test` 1,916 | 3 | |
| | `Amazon_Google` | `train` 1,398、`validation` 2,293、`test` 2,293 | 3 | |
| | `Beer` | `train` 80、`validation` 91、`test` 91 | 3 | |
| | `Company` | `train` 33,718、`validation` 22,533、`test` 22,503 | 3 | |
| | `DBLP_ACM` | `train` 2,664、`validation` 2,473、`test` 2,473 | 3 | |
| | `DBLP_GoogleScholar` | `train` 6,414、`validation` 5,742、`test` 5,742 | 3 | |
| | `Dirty_DBLP_ACM` | `train` 2,664、`validation` 2,473、`test` 2,473 | 3 | |
| | `Dirty_DBLP_GoogleScholar` | `train` 6,414、`validation` 5,742、`test` 5,742 | 3 | |
| | `Dirty_Walmart_Amazon` | `train` 1,152、`validation` 2,049、`test` 2,049 | 3 | |
| | `Dirty_iTunes_Amazon` | `train` 156、`validation` 109、`test` 109 | 3 | |
| | `Fodors_Zagats` | `train` 132、`validation` 190、`test` 189 | 3 | |
| | `Walmart_Amazon` | `train` 1,152、`validation` 2,049、`test` 2,049 | 3 | |
| | `iTunes_Amazon` | `train` 156、`validation` 109、`test` 109 | 3 | |
|
|
| ### 列（構成 `Abt_Buy`・分割 `train`。どの構成も同じ列） |
| |
| | 列 | 型 | 先頭の行の値 | |
| |---|---|---| |
| | `productA` | `string` | `name: canon high capacity color ink cartridge co…` | |
| | `productB` | `string` | `name: canon cli-221 black ink cartridge 2946b001…` | |
| | `same` | `bool_` | `False` | |
|
|
| 行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。 |
|
|
| ## 複製について |
|
|
| [`lighteval/EntityMatching`](https://huggingface.co/datasets/lighteval/EntityMatching) をリビジョン `dbc9ec9d4de43d805215f0f7da051673bd938747` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（`convaiinnovations/laya`）の微調整に使う候補として、調査メモ（`Laya 学習用データセット調査`）に載せたデータを集めている。 |
|
|
| ## 出典 |
|
|
| - 元のデータセット: https://huggingface.co/datasets/lighteval/EntityMatching |
| - 複製したリビジョン: `dbc9ec9d4de43d805215f0f7da051673bd938747`（2025-08-18 13:15:21+00:00） |
| - 元のライセンス表記: `other` |
|
|
| ## 論文 |
|
|
| - 元のカードに論文へのリンクは見つからなかった |
|
|
| ## アノテーションの方法 |
|
|
| 元のカードにアノテーションの節が無かった。下の「調査メモの記述」と「元のカード」を参照。 |
|
|
| ## 微調整に使うときの注意 |
|
|
| - 調査メモの台帳での区分: D（記載なし・other・unknown・資料間の食い違い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。 |
| - Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。 |
| - 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。 |
|
|
| ## 調査メモの記述 |
|
|
| | メモ | 節 | ライセンス（記載） | 確認 | 注記 | |
| |---|---|---|---|---| |
| | `ontology_kg_entity.md` | Q2. エンティティ型付け・NER・エンティティリンキング・名寄せ（同名企業の寄せ）にどんなデータがあり、Laya にどう載るか (L68) | lighteval: タグなし。wdc/products-2017: unknown。matchbench: タグなし | 確認済 | 確認印なし(各ファイルの凡例により確認済扱い) ／ 原文注記: Company の A 側 100 件の平均長は 7,462 文字（先頭 100 件の計測）で、先頭 100 件に正例が 0 件。小文字化・記号除去済みでノイズが多い。1 件が Laya の入力長を超えるので切り詰めが要 | |
| | `ontology_tables_schema_kg.md` | Q2. 2 つのスキーマ・2 つのレコードが同じものを指すか（スキーマ照合・エンティティ照合・商品の同一判定）のラベルつきデータは何があるか (L72) | タグなし | 確認済 | 原文注記: train が test より小さく、学習量は少ない。ライセンス不明 | |
|
|
| ## 元のカード |
|
|
| （元のカードは空だった） |
|
|
