HYUKI5/openai__summarize_from_feedback

openai/summarize_from_feedback（複製）

データの内容

人間が 2 つの要約のうち良い方を選んだ比較と、要約の質をリッカート尺度で採点した評価を集めた、報酬モデルの学習用に公開された人間のフィードバックのデータ。comparisons は比較の構成で、1 行が 1 件の比較となり、元の投稿を info、2 つの要約を summaries、選ばれた方を choice に入れている。報酬モデルの学習に使った要約は TL;DR データセットから、追加の validation と test は TL;DR に加えて CNN と Daily Mail の記事から来ている。

データの概要

項目	値
行数	193,841（2 構成・4 分割の合計）
列数	5〜7（構成による）
容量	13.26 KB（ファイル 3 本）
ファイルの形式	py 1
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
axis	test 6,312、validation 8,585	5
comparisons	train 92,858、validation 86,086	7

列（構成 comparisons・分割 train。構成ごとに列が違う）

列	型	先頭の行の値
info	struct{id: string, post: string, title: string, subreddit: string, site: string, …}	{id, post, title, subreddit, …}
summaries	list<struct{text: string, policy: string, note: string}>	[2 件]
choice	int32	1
worker	string	qo6WIyEh27cwAjWpA3Q60J7NaDxzQJ
batch	string	batch3
split	string	train
extra	struct{confidence: int32}	{confidence}

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

openai/summarize_from_feedback をリビジョン b8f7d168b6f4e95b2a92e84768bd6c955bed2f29 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

• 元のデータセット: https://huggingface.co/datasets/openai/summarize_from_feedback
• 複製したリビジョン: b8f7d168b6f4e95b2a92e84768bd6c955bed2f29（2023-01-03 16:55:41+00:00）
• 元のライセンス表記: other

論文

• https://arxiv.org/abs/2009.01325

アノテーションの方法

（元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した）

Learning to Summarize from Human Feedback の論文では、人間のフィードバックから報酬モデルを学習した。 その報酬モデルは、要約モデルを人間の選好に合わせるための学習に使われた。これは報酬モデリングのために公開された、人間のフィードバックのデータセットである。 このデータセットには 2 つの部分がある: comparisons と axis。comparisons では、アノテーターが 2 つの要約のうち良い方を選んだ。axis では、アノテーターが要約の質をリッカート尺度で採点した。 comparisons は train と validation の split だけを持ち、axis は test と validation の split だけを持つ。

詳細は こちら のリポジトリを参照。

微調整に使うときの注意

• 調査メモの台帳での区分: C（NC・ND・研究専用・評価専用など、商用の利用を妨げうる記載がある）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
• Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
• 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
safety_judge_scoring.md	2. LLM-as-judge / 報酬モデル / 品質スコア系 (L107)	なし	確認済	原文注記: - openai/summarize_from_feedback (arXiv 2009.01325) — license タグなし、比較データ+軸別 1-7 評価(accuracy/coverage/coherence
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	Apache License 2.0 (DPI), CC BY 4.0 (DPI), OpenAI (DPI) / license_use=non-commer	確認済	複数/混在 ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

---

データセットカード: Summarize from Feedback

データセットの説明

Learning to Summarize from Human Feedback の論文では、人間のフィードバックから報酬モデルを学習した。 その報酬モデルは、要約モデルを人間の選好に合わせるための学習に使われた。これは報酬モデリングのために公開された、人間のフィードバックのデータセットである。 このデータセットには 2 つの部分がある: comparisons と axis。comparisons では、アノテーターが 2 つの要約のうち良い方を選んだ。axis では、アノテーターが要約の質をリッカート尺度で採点した。 comparisons は train と validation の split だけを持ち、axis は test と validation の split だけを持つ。

論文で報酬モデルの学習に使った要約は、TL;DR データセットから来ている。 追加の validation と test のデータは、TL;DR データセット、CNN の記事、Daily Mail の記事から来ている。

詳細は こちら のリポジトリを参照。

引用情報

https://arxiv.org/abs/2009.01325

@inproceedings{stienon2020learning,
  author = {Nisan Stiennon and Long Ouyang and Jeff Wu and Daniel M. Ziegler and Ryan Lowe and Chelsea Voss and Alec Radford and Dario Amodei and Paul Christiano},
  title = {Learning to summarize from human feedback},
  booktitle = {NeurIPS},
  year = 2020,
}

このデータセットは @Tristan の協力を得て Hugging Face Hub に追加された。

原文（英語）

Dataset Card for Summarize from Feedback

Dataset Description

In the Learning to Summarize from Human Feedback paper, a reward model was trained from human feedback. The reward model was then used to train a summarization model to align with human preferences. This is the dataset of human feedback that was released for reward modelling. There are two parts of this dataset: comparisons and axis. In the comparisons part, human annotators were asked to choose the best out of two summaries. In the axis part, human annotators gave scores on a likert scale for the quality of a summary. The comparisons part only has a train and validation split, and the axis part only has a test and validation split.

The summaries used for training the reward model in the paper come from the TL;DR dataset. Additional validation and test data come from the TL;DR dataset, CNN articles, and Daily Mail articles.

For more information, see the repo here.

Citation Information

https://arxiv.org/abs/2009.01325

@inproceedings{stienon2020learning,
  author = {Nisan Stiennon and Long Ouyang and Jeff Wu and Daniel M. Ziegler and Ryan Lowe and Chelsea Voss and Alec Radford and Dario Amodei and Paul Christiano},
  title = {Learning to summarize from human feedback},
  booktitle = {NeurIPS},
  year = 2020,
}

Dataset added to the Hugging Face Hub with help from @Tristan