HYUKI5/jpcorb20__multidogo

jpcorb20/multidogo（複製）

データの内容

六つのドメインの目的志向の対話（顧客とエージェントの会話）を集めた MultiDoGo のデータ。1 行は一つの発話（utterance）で、conversationId、turnNumber、sentenceNumber で対話の中の位置が分かり、intent と slot-labels にインテントとスロットのラベルが入る。Wizard-of-Oz の方式で、クラウドソーシングの作業者（customer）を訓練されたアノテーター（agent）と組ませて対話を集め、そのうち 5 万を超える対話にラベルを付けた。ライセンスは Community Data License Agreement – Permissive, Version 1.0。

データの概要

項目	値
行数	243,272（1 構成・3 分割の合計）
列数	7
容量	81.89 MB（ファイル 44 本）
ファイルの形式	parquet 42
言語	en
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
default	train 170,592、validation 23,940、test 48,740	7

列（構成 default・分割 train）

列	型	先頭の行の値
conversationId	string	31971762-f14e-4d55-b909-0370f6e4db19
turnNumber	int64	0
sentenceNumber	int64	0
utteranceId	string	<CONV>31971762-f14e-4d55-b909-0370f6e4db19<TURN>…
utterance	string	hi good morning
slot-labels	string	O O O
intent	string	openinggreeting

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

jpcorb20/multidogo をリビジョン 503eee0894f308dbd1d74c1b4ecf4cfc99dd43f9 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

• 元のデータセット: https://huggingface.co/datasets/jpcorb20/multidogo
• 複製したリビジョン: 503eee0894f308dbd1d74c1b4ecf4cfc99dd43f9（2022-10-20 18:33:00+00:00）
• 元のライセンス表記: ['other']

論文

• https://aclanthology.org/D19-1460/

アノテーションの方法

（元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した）

要旨 高品質で大規模な目的志向の対話データセットへのニーズは、バーチャルアシスタントが広く普及するにつれて高まり続けている。しかし、この分野で使える公開データセットは、規模、言語的多様性、ドメインの広さ、またはアノテーションの粒度のいずれかに限界がある。本論文では、大規模な目的志向の対話データを整備し、アノテーションを付けるための方策を示す。これらの限界を克服するために MultiDoGO データセットを導入する。6 つのドメインから収集した 81K 超の対話を持ち、現在公開されている最大級の比較可能な対話データセットである MultiWOZ の 8 倍以上の規模となる。収集した対話のうち 54K 超には、インテントのクラスとスロットのラベルが付けられている。Wizard-of-Oz の方式を採用し、クラウドソーシングの作業者（「customer」）を、訓練を受けたアノテーター（「agent」）と組にした。データの整備過程では、変動する対話方針のもとで対話の流れの多様性を確保するよう、バイアスを与えて制御した。エージェントの発話と顧客の発話それぞれに異なるクラスのラベルタグを付け、該当するスロットラベルも付与した。さらに、アノテーションの粒度（ターン単位と文単位）について我々の方策を比較・対照した。加えて、専門のアノテーターを使ったアノテーションとクラウドによるアノテーションを比較・対照した。このような対話データセットを引き出しアノテーションするための我々の方策は、モダリティ、ドメイン、そして将来的には言語をまたいでも拡張できると考える。考案した方策の有効性を示すため、エージェントと顧客の発話に対する分類と、各ドメインのスロットラベリングについてニューラルのベースラインを構築した。

微調整に使うときの注意

• 調査メモの台帳での区分: A（許諾型のライセンスだけで、疑義の注記が無い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
• Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
• 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	other, cdla-permissive-1.0 (original source) / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	other, cdla-permissive-1.0 (original source) / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	other, cdla-permissive-1.0 (original source) / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	other, cdla-permissive-1.0 (original source) / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	other, cdla-permissive-1.0 (original source) / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r
jev_sources_tasksource_bekko.csv	CSV（tasksource-jev-typed-decisions）	other, cdla-permissive-1.0 (original source) / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

---

MultiDoGo 対話データセット:

• 論文: https://aclanthology.org/D19-1460/
• git リポジトリ: https://github.com/awslabs/multi-domain-goal-oriented-dialogues-dataset

要旨 高品質で大規模な目的志向の対話データセットへのニーズは、バーチャルアシスタントが広く普及するにつれて高まり続けている。しかし、この分野で使える公開データセットは、規模、言語的多様性、ドメインの広さ、またはアノテーションの粒度のいずれかに限界がある。本論文では、大規模な目的志向の対話データを整備し、アノテーションを付けるための方策を示す。これらの限界を克服するために MultiDoGO データセットを導入する。6 つのドメインから収集した 81K 超の対話を持ち、現在公開されている最大級の比較可能な対話データセットである MultiWOZ の 8 倍以上の規模となる。収集した対話のうち 54K 超には、インテントのクラスとスロットのラベルが付けられている。Wizard-of-Oz の方式を採用し、クラウドソーシングの作業者（「customer」）を、訓練を受けたアノテーター（「agent」）と組にした。データの整備過程では、変動する対話方針のもとで対話の流れの多様性を確保するよう、バイアスを与えて制御した。エージェントの発話と顧客の発話それぞれに異なるクラスのラベルタグを付け、該当するスロットラベルも付与した。さらに、アノテーションの粒度（ターン単位と文単位）について我々の方策を比較・対照した。加えて、専門のアノテーターを使ったアノテーションとクラウドによるアノテーションを比較・対照した。このような対話データセットを引き出しアノテーションするための我々の方策は、モダリティ、ドメイン、そして将来的には言語をまたいでも拡張できると考える。考案した方策の有効性を示すため、エージェントと顧客の発話に対する分類と、各ドメインのスロットラベリングについてニューラルのベースラインを構築した。

ライセンス情報

Community Data License Agreement – Permissive, Version 1.0.

原文（英語）

MultiDoGo dialog dataset:

• paper: https://aclanthology.org/D19-1460/
• git repo: https://github.com/awslabs/multi-domain-goal-oriented-dialogues-dataset

Abstract The need for high-quality, large-scale, goal-oriented dialogue datasets continues to grow as virtual assistants become increasingly wide-spread. However, publicly available datasets useful for this area are limited either in their size, linguistic diversity, domain coverage, or annotation granularity. In this paper, we present strategies toward curating and annotating large scale goal oriented dialogue data. We introduce the MultiDoGO dataset to overcome these limitations. With a total of over 81K dialogues harvested across six domains, MultiDoGO is over 8 times the size of MultiWOZ, the other largest comparable dialogue dataset currently available to the public. Over 54K of these harvested conversations are annotated for intent classes and slot labels. We adopt a Wizard-of-Oz approach wherein a crowd-sourced worker (the “customer”) is paired with a trained annotator (the “agent”). The data curation process was controlled via biases to ensure a diversity in dialogue flows following variable dialogue policies. We provide distinct class label tags for agents vs. customer utterances, along with applicable slot labels. We also compare and contrast our strategies on annotation granularity, i.e. turn vs. sentence level. Furthermore, we compare and contrast annotations curated by leveraging professional annotators vs the crowd. We believe our strategies for eliciting and annotating such a dialogue dataset scales across modalities and domains and potentially languages in the future. To demonstrate the efficacy of our devised strategies we establish neural baselines for classification on the agent and customer utterances as well as slot labeling for each domain.

Licensing information

Community Data License Agreement – Permissive, Version 1.0.