HYUKI5/pszemraj__multi_fc

pszemraj/multi_fc（複製）

データの内容

英語の事実確認サイトで検証された主張に、人間の専門のジャーナリストが真偽のラベルを付けたデータ。1 行が 1 件の主張で、claim（主張の文）・label（真偽）・claimURL・speaker・publish date などのメタデータを持つ。主張の文を Google 検索の問い合わせに使って得た上位 10 件のスニペットも別のフォルダにある。test の label はダミーの値で、ライセンスは現時点で不明とカードにある。

データの概要

項目	値
行数	34,842（1 構成・3 分割の合計）
列数	13
容量	93.40 MB（ファイル 5 本）
ファイルの形式	csv 3
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
default	train 27,871、validation 3,484、test 3,487	13

列（構成 default・分割 train）

列	型	先頭の行の値
claimID	string	pomt-03627
claim	string	Six out of 10 of the highest unemployment rates …
label	string	half-true
claimURL	string	/ohio/statements/2013/may/06/chris-redfern/ohio-…
reason	string	When a couple of Statehouse Republicans prepared…
categories	string	null
speaker	string	Chris Redfern
checker	string	null
tags	string	null
article title	string	null
publish date	string	2013-05-06T06:00:00
climate	string	2013-04-30
entities	string	['None']

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

pszemraj/multi_fc をリビジョン 210f476c07dd5f486a9a51311e193a51c1ff8aec の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

• 元のデータセット: https://huggingface.co/datasets/pszemraj/multi_fc
• 複製したリビジョン: 210f476c07dd5f486a9a51311e193a51c1ff8aec（2025-12-29 03:55:54+00:00）
• 元のライセンス表記: other

論文

• https://arxiv.org/abs/1909.03242

アノテーションの方法

元のカードにアノテーションの節が無かった。下の「調査メモの記述」と「元のカード」を参照。

微調整に使うときの注意

• 調査メモの台帳での区分: D（記載なし・other・unknown・資料間の食い違い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
• Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
• 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
alphaxiv_chat_and_buyside.md	Q2. 金融・政治・SNS の補足データ（FIN-FACT・MultiFC・BiasLab・PHEME・CrisisLexT26・ContractNLI と既出データの所在） (L96)	ミラーのカードに「ライセンスは不明、原論文・原サイトを参照」とある（HF API 確認）	確認済	確認印なし(各ファイルの凡例により確認済扱い) ／ 原文注記: チャットの github.com/utahnlp/multifc は、utahnlp 組織のリポジトリ一覧に multifc が無く（utahnlp/x-fact のみ）、404。URL の誤りの可能性が高い。原データの

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

---

multiFC

• 自動の主張検証タスクのためのデータセット

• ライセンスは現時点で不明である。原論文またはデータセットのサイトを参照すること:

• https://arxiv.org/abs/1909.03242

データセットの内容

• 重要: test セットの label 列にはダミーの値が入っている。提供されていないためである（説明は原文の README の節を参照）。

DatasetDict({
    train: Dataset({
        features: ['claimID', 'claim', 'label', 'claimURL', 'reason', 'categories', 'speaker', 'checker', 'tags', 'article title', 'publish date', 'climate', 'entities'],
        num_rows: 27871
    })
    test: Dataset({
        features: ['claimID', 'claim', 'label', 'claimURL', 'reason', 'categories', 'speaker', 'checker', 'tags', 'article title', 'publish date', 'climate', 'entities'],
        num_rows: 3487
    })
    validation: Dataset({
        features: ['claimID', 'claim', 'label', 'claimURL', 'reason', 'categories', 'speaker', 'checker', 'tags', 'article title', 'publish date', 'climate', 'entities'],
        num_rows: 3484
    })
})

論文の要旨・引用

我々は、自然に発生した事実の主張からなる、公開されたデータセットとしては最大のものを提供する。26 の英語のファクトチェックのサイトから収集し、本文の情報源と豊富なメタデータを組み合わせ、人間の専門のジャーナリストが真偽のラベルを付けている。データセットの特徴と課題を詳しく分析する。さらに、既存の基準モデルと、証拠のページの順位付けと真偽の予測を同時に行う新しい手法とで、真偽の予測の結果を示す。証拠のエンコードとメタデータのモデル化によって、性能は大きく向上する。最も性能の高いモデルは Macro F1 で 49.2% を達成しており、主張の真偽の予測にとって難しい検証の場であることを示している。

@inproceedings{conf/emnlp2019/Augenstein,
added-at = {2019-10-27T00:00:00.000+0200},
author = {Augenstein, Isabelle and Lioma, Christina and Wang, Dongsheng and Chaves Lima, Lucas and Hansen, Casper and Hansen, Christian and Grue Simonsen, Jakob},
booktitle = {EMNLP},
crossref = {conf/emnlp/2019},
publisher = {Association for Computational Linguistics},
title = {MultiFC: A Real-World Multi-Domain Dataset for Evidence-Based Fact Checking of Claims},
year = 2019
}

原文の README

主張の証拠に基づくファクトチェックのための、実世界の多領域データセット

MultiFC は、自動の主張検証のための、自然に発生した事実の主張からなる公開データセットとしては最大のものである。26 の英語のファクトチェックのサイトから、本文の情報源と豊富なメタデータを組み合わせて収集され、人間の専門のジャーナリストによって真偽のラベルが付けられている。

TRAIN と DEV

train と dev のファイルは（タブ区切りで）次のメタデータを含む: claimID, claim, label, claimURL, reason, categories, speaker, checker, tags, article title, publish date, climate, entities

クロールできなかったフィールドには "None" が入っている。要約統計は、論文の表 11 を参照すること。

TEST

test のファイルも同じ構造である。ただし label は取り除いてある。そのため、メタデータは 12 個だけが示される。 claimID, claim, claim, reason, categories, speaker, checker, tags, article title, publish date, climate, entities

クロールできなかったフィールドには "None" が入っている。要約統計は、論文の表 11 を参照すること。

スニペット

各主張の本文は、引用符なしでそのまま Google Search API にクエリとして送られている。 フォルダ snippet には、取得された上位 10 件のスニペットを収めた。場合によってはスニペットが少ないことがある。主張の URL（claimURL）をスニペットから除外したためである。 snippets フォルダ内の各ファイルは、クエリとして送った主張の claimID にちなんで名付けられている。 スニペットのファイルは（タブ区切りで）次のメタデータを含む: rank_position, title, snippet, snippet_url

詳細は論文を参照: 参考文献: Isabelle Augenstein, Christina Lioma, Dongsheng Wang, Lucas Chaves Lima, Casper Hansen, Christian Hansen, and Jakob Grue Simonsen. 2019. MultiFC: A Real-World Multi-Domain Dataset for Evidence-Based Fact Checking of Claims. In EMNLP. Association for Computational Linguistics.

https://copenlu.github.io/publication/2019_emnlp_augenstein/

原文（英語）

multiFC

• a dataset for the task of automatic claim verification

• License is currently unknown, please refer to the original paper/dataset site:

• https://arxiv.org/abs/1909.03242

Dataset contents

• IMPORTANT: the label column in the test set has dummy values as these were not provided (see original readme section for explanation)

DatasetDict({
    train: Dataset({
        features: ['claimID', 'claim', 'label', 'claimURL', 'reason', 'categories', 'speaker', 'checker', 'tags', 'article title', 'publish date', 'climate', 'entities'],
        num_rows: 27871
    })
    test: Dataset({
        features: ['claimID', 'claim', 'label', 'claimURL', 'reason', 'categories', 'speaker', 'checker', 'tags', 'article title', 'publish date', 'climate', 'entities'],
        num_rows: 3487
    })
    validation: Dataset({
        features: ['claimID', 'claim', 'label', 'claimURL', 'reason', 'categories', 'speaker', 'checker', 'tags', 'article title', 'publish date', 'climate', 'entities'],
        num_rows: 3484
    })
})

Paper Abstract / Citation

We contribute the largest publicly available dataset of naturally occurring factual claims for the purpose of automatic claim verification. It is collected from 26 fact checking websites in English, paired with textual sources and rich metadata, and labelled for veracity by human expert journalists. We present an in-depth analysis of the dataset, highlighting characteristics and challenges. Further, we present results for automatic veracity prediction, both with established baselines and with a novel method for joint ranking of evidence pages and predicting veracity that outperforms all baselines. Significant performance increases are achieved by encoding evidence, and by modelling metadata. Our best-performing model achieves a Macro F1 of 49.2%, showing that this is a challenging testbed for claim veracity prediction.

@inproceedings{conf/emnlp2019/Augenstein,
added-at = {2019-10-27T00:00:00.000+0200},
author = {Augenstein, Isabelle and Lioma, Christina and Wang, Dongsheng and Chaves Lima, Lucas and Hansen, Casper and Hansen, Christian and Grue Simonsen, Jakob},
booktitle = {EMNLP},
crossref = {conf/emnlp/2019},
publisher = {Association for Computational Linguistics},
title = {MultiFC: A Real-World Multi-Domain Dataset for Evidence-Based Fact Checking of Claims},
year = 2019
}

Original README

Real-World Multi-Domain Dataset for Evidence-Based Fact Checking of Claims

The MultiFC is the largest publicly available dataset of naturally occurring factual claims for automatic claim verification. It is collected from 26 English fact-checking websites paired with textual sources and rich metadata and labeled for veracity by human expert journalists.

TRAIN and DEV

The train and dev files are (tab-separated) and contain the following metadata: claimID, claim, label, claimURL, reason, categories, speaker, checker, tags, article title, publish date, climate, entities

Fields that could not be crawled were set as "None." Please refer to Table 11 of our paper to see the summary statistics.

TEST

The test file follows the same structure. However, we have removed the label. Thus, it only presents 12 metadata. claimID, claim, claim, reason, categories, speaker, checker, tags, article title, publish date, climate, entities

Fields that could not be crawled were set as "None." Please refer to Table 11 of our paper to see the summary statistics.

Snippets

The text of each claim is submitted verbatim as a query to the Google Search API (without quotes). In the folder snippet, we provide the top 10 snippets retrieved. In some cases, fewer snippets are provided since we have excluded the claimURL from the snippets. Each file in the snippets folder is named after the claimID of the claim submitted as a query. Snippets file is (tab-separated) and contains the following metadata: rank_position, title, snippet, snippet_url

For more information, please refer to our paper: References: Isabelle Augenstein, Christina Lioma, Dongsheng Wang, Lucas Chaves Lima, Casper Hansen, Christian Hansen, and Jakob Grue Simonsen. 2019. MultiFC: A Real-World Multi-Domain Dataset for Evidence-Based Fact Checking of Claims. In EMNLP. Association for Computational Linguistics.

https://copenlu.github.io/publication/2019_emnlp_augenstein/