HYUKI5/YuehHanChen__forecasting

YuehHanChen/forecasting（複製）

データの内容

カードが引用する Halawi らの論文（Approaching Human-Level Forecasting with Language Models）と関連する、予測質問のデータ。各行に質問文・背景・解決基準・群衆の予測・解決の結果の列があるが、作り方はカードに書かれていない。台帳には、論文の test の基準日（2023 年 6 月 1 日以降）とカードの記述（2024 年 6 月 1 日以降）が食い違うという注記がある。

データの概要

項目	値
行数	5,516（1 構成・3 分割の合計）
列数	14
容量	48.67 MB（ファイル 5 本）
ファイルの形式	json 3
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
default	train 3,762、validation 840、test 914	14

列（構成 default・分割 train）

列	型	先頭の行の値
date_resolve_at	string	2016-02-01
date_begin	string	2015-10-02
extracted_urls	string	[]
question_type	string	binary
community_predictions	string	[["2015-10-02", 0.69], ["2015-11-03", 0.72], ["2…
url	string	https://www.metaculus.com/api2/questions/1/
background	string	Not applicable/available for this question.
gpt_3p5_category	string	Science & Tech
resolution_criteria	string	The Advanced Laser Interferometer Gravitational-…
is_resolved	bool	True
date_close	string	2015-12-15
question	string	Will advanced LIGO announce discovery of gravita…
data_source	string	metaculus
resolution	float64	0.0

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

YuehHanChen/forecasting をリビジョン c88acc8705f03c8a6526b0b057200c1f0b1b8505 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

• 元のデータセット: https://huggingface.co/datasets/YuehHanChen/forecasting
• 複製したリビジョン: c88acc8705f03c8a6526b0b057200c1f0b1b8505（2024-03-02 23:20:35+00:00）
• 元のライセンス表記: apache-2.0

論文

• https://arxiv.org/abs/2402.18563

アノテーションの方法

（元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した）

"Approaching Human-Level Forecasting with Language Models" のデータセット

本書は、研究論文 Approaching Human-Level Forecasting with Language Models のために構築したキュレーション済みのデータセットを説明するものである。著者は Danny Halawi、Fred Zhang、Chen Yueh-Han、Jacob Steinhardt である。

微調整に使うときの注意

• 調査メモの台帳での区分: B（継承条件・gated・モデル由来の条件・上流の規約などが付く）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
• Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
• 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
finance_reasoning_traces.md	Q3. 予測（forecasting）の推論トレースをモデルが出したデータは公開されているか (L91)	apache-2.0	確認済	生成元モデルの出力規約が別に及ぶ(Q4) ／ 原文注記: 論文の system が生成した理由は、この HF のセットに含まれない（列を確認。論文側の公開は未確認）
macro_forecasting.md	Q3. 予測質問のデータで、質問文 + 解決結果 + 群衆確率の時系列が揃うものは何か (L88)	apache-2.0（HF 表示）	確認済	原文注記: リーク: 論文は test を 2023-06-01 以降の公開質問とするが、カードは「2024 年 6 月 1 日以降」と書いており、論文との食い違いがある（どちらが正かは未確認）。プラットフォーム（Metaculus

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

---

"Approaching Human-Level Forecasting with Language Models" のデータセット

本書は、研究論文 Approaching Human-Level Forecasting with Language Models のために構築したキュレーション済みのデータセットを説明するものである。著者は Danny Halawi、Fred Zhang、Chen Yueh-Han、Jacob Steinhardt である。

データの出典と形式

データセットは、Metaculus、Good Judgment Open、INFER、Polymarket、Manifold などの予測プラットフォームから集めたものである。これらのプラットフォームでは、利用者が各結果に確率を割り当てることで将来の出来事を予測する。データは次の構造になっている:

• 背景の説明: 各予測の質問に関する文脈の情報。
• 解決基準: 各質問をいつ、どのように解決済みとみなすかの指針。
• タイムスタンプ: 公開日（開始日）、予測の提出期限（締切日）、結果の確定日（解決日）などの重要な日付。

予測の提出は、開始日から、解決日と締切日のうち早い方までの間に受け付ける。詳しい例は論文の表 1 を参照されたい。

生データの構成

生のデータセットには、2015 年から 2024 年までの、世界中のさまざまな種類とテーマの 48,754 件の質問と 7,174,607 件の利用者の予測が含まれる。ただし、不適切に定義された質問が含まれることや、2023 年 6 月 1 日以降に、予測の提供元の寄与に大きな偏りがあるといった課題がある。生データの全体は、Hugging Face 上の当方のデータセット で見られる。

データのキュレーションの過程

分析の厳密さを高めるため、次の手順でデータセットを洗練した:

• フィルタリング: データの品質と関連性を確保するため、不適切に定義された質問、あまりに個人的な質問、ニッチな関心に限られる質問を除外した。
• 偏りの調整: 最近の提供元の偏りを抑えるため、予測の質問を多様に代表するように慎重に選んだ。
• 二値への限定: 多肢選択式の質問を二値の形式に変換し、分析を簡潔にするため二値の結果に集中した。
• 時間による分離: 言語モデルの事前学習からの情報漏えいを防ぐため、テストセットには 2024 年 6 月 1 日以降に公開された質問のみを含め、それより前の質問は学習と検証に割り当てた。

このキュレーションの結果、5,516 件の二値の質問が得られ、そのうち 3,762 件を学習、840 件を検証、914 件をテストに使う。詳しい例とキュレーションの知見は、論文の表 2a と付録 C に示している。

研究上の意義

このキュレーション済みのデータセットは、言語モデルの予測能力を調べる当方の研究の中心にある。人間の予測性能を基準にして、それに迫る、あるいは超えることを目指すものである。高品質で関連性の高い予測の質問に絞った分析を可能にする。

研究の詳細と知見は、このドキュメントの冒頭にリンクした論文に載っている。研究の発展のため、フィードバックや協力を歓迎する。

引用方法

このデータセットと研究が役に立った場合は、次の BibTeX を使って引用されたい。

@misc{halawi2024approaching,
      title={Approaching Human-Level Forecasting with Language Models}, 
      author={Danny Halawi and Fred Zhang and Chen Yueh-Han and Jacob Steinhardt},
      year={2024},
      eprint={2402.18563},
      archivePrefix={arXiv},
      primaryClass={cs.LG}
}

<details>
<summary>原文（英語）</summary>

<p align="center"><h1>Dataset from "Approaching Human-Level Forecasting with Language Models"</h1></p>

<p>This document details the curated dataset developed for our research paper, <strong><a href="https://arxiv.org/abs/2402.18563" target="_blank">Approaching Human-Level Forecasting with Language Models</a></strong>, authored by <a href="mailto:dhalawi@berkeley.edu">Danny Halawi</a>, <a href="mailto:z0@eecs.berkeley.edu">Fred Zhang</a>, <a href="mailto:john0922ucb@berkeley.edu">Chen Yueh-Han</a>, and <a href="mailto:jsteinhardt@berkeley.edu">Jacob Steinhardt</a>.</p>

<h2>Data Source and Format</h2>
<p>The dataset is compiled from forecasting platforms including Metaculus, Good Judgment Open, INFER, Polymarket, and Manifold. These platforms enable users to predict future events by assigning probabilities to different outcomes, structured as follows:</p>
<ul>
  <li><strong>Background Description:</strong> Contextual information for each forecasting question.</li>
  <li><strong>Resolution Criterion:</strong> Guidelines on how and when each question is considered resolved.</li>
  <li><strong>Timestamps:</strong> Key dates including the publication (begin date), forecast submission deadline (close date), and outcome resolution (resolve date).</li>
</ul>

<p>Submissions are accepted between the begin date and the earlier of the resolve or close dates. See <em>Table 1</em> in our paper for an in-depth example.</p>

<h2>Raw Data Composition</h2>
<p>The raw dataset encompasses 48,754 questions and 7,174,607 user forecasts from 2015 to 2024, across various question types and topics globally. However, it includes challenges such as ill-defined questions and a significant imbalance in source platform contributions post-June 1, 2023. For a complete view of the raw data, visit <a href="https://huggingface.co/datasets/YuehHanChen/forecasting_raw" target="_blank">our dataset on Hugging Face</a>.</p>

<h2>Data Curation Process</h2>
<p>To refine the dataset for analytical rigor, we undertook the following steps:</p>
<ul>
  <li><strong>Filtering:</strong> Exclusion of ill-defined, overly personal, or niche-interest questions to ensure data quality and relevance.</li>
  <li><strong>Adjustment for Imbalance:</strong> Careful selection to mitigate the recent source imbalance, focusing on a diverse representation of forecasting questions.</li>
  <li><strong>Binary Focus:</strong> Conversion of multiple-choice questions to binary format, concentrating on binary outcomes for a streamlined analysis.</li>
  <li><strong>Temporal Segregation:</strong> To prevent leakage from language models' pre-training, the test set includes only questions published after June 1, 2024, with earlier questions allocated to training and validation sets.</li>
</ul>

<p>This curation resulted in 5,516 binary questions, with 3,762 for training, 840 for validation, and 914 for testing. Detailed examples and curation insights are provided in <em>Table 2a</em> and <em>Appendix C</em> of our paper.</p>

<h2>Significance for Research</h2>
<p>The curated dataset is pivotal for our investigation into language models' forecasting capabilities, aiming to benchmark against or exceed human predictive performance. It enables focused analysis on high-quality, relevant forecasting questions.</p>

<p>Detailed methodologies and insights from our study are available in the linked paper at the beginning of this document. We invite feedback and collaboration to further this field of research.</p>

<h2>How to Cite</h2>
<p>If you find our dataset and research useful for your work, please cite it using the following BibTeX entry:</p>

```bibtex
@misc{halawi2024approaching,
      title={Approaching Human-Level Forecasting with Language Models}, 
      author={Danny Halawi and Fred Zhang and Chen Yueh-Han and Jacob Steinhardt},
      year={2024},
      eprint={2402.18563},
      archivePrefix={arXiv},
      primaryClass={cs.LG}
}

</details>