Datasets:
TASTE2 SFT 中文語音對話資料(DATA_SFT_ZH)
繁體中文的語音對話 SFT 資料,每筆是一段完整對話(system prompt + 多輪 user / assistant),每一輪都附文字與音檔。共 5 個子集、256 個 parquet 檔。
| 子集 (config) | 檔案 | 檔數 | 筆數 | 音檔總長 | 大小 | 每筆訊息數 | 一句話說明 |
|---|---|---|---|---|---|---|---|
shuffled (train) |
shuffled_train_part_*.parquet |
11 | 44,000 | 76.0 h | 11.3 GB | 3 | 單輪指令遵循(朗讀、數數、算術…),部分帶情緒/語速要求 |
shuffled (validation) |
shuffled_dev.parquet |
1 | 4,000 | 7.0 h | 1.0 GB | 3 | 同上,驗證集 |
tc |
tc_part_*.parquet |
99 | 9,020 | 308.7 h | 106.7 GB | 13–16 | 多輪角色扮演任務對話,無語音風格控制 |
tc_emo |
tc_emo_part_*.parquet |
73 | 6,984 | 226.2 h | 78.2 GB | 13–15 | 多輪情緒/同理心主題對話,無語音風格控制 |
para |
para_part_*.parquet |
23 | 4,100 | 71.1 h | 24.7 GB | 7 或 9 | 多輪對話,使用者中途要求改變音量或語速 |
variant |
variant_part_*.parquet |
49 | 7,380 | 166.1 h | 45.5 GB | 7 或 9 | 同一情境做成 10 種說話風格版本(中性、6 種情緒、快/慢、耳語) |
| 合計 | 256 | 75,484 | 855.1 h | 267.4 GB |
音檔總長以每筆最後一輪的
timestamp_range結束時間加總。
1. 文字在哪裡
沒有獨立的文字檔或 transcript 檔,所有文字都和音檔一起存在 parquet 的 message 欄位裡:
| 想要的文字 | 位置 |
|---|---|
| System prompt | message[0].text(message[0].role == "system",每筆都有) |
| 使用者說的話(user 音檔的逐字稿) | message[i].text,message[i].role == "user" |
| 助理回覆(assistant 音檔的逐字稿) | message[i].text,message[i].role == "assistant" |
| 該輪的語音風格標籤 | message[i].para_tags(JSON 字串) |
情境描述(只有 para 有值) |
meta.scenario_description(內容與 system prompt 相同) |
| 指令類型 / 主題 | meta.para_dimension、meta.topic |
每一輪的 text 就是同一輪 audio 的內容。
2. Parquet 資料結構
5 個子集的 schema 完全相同:
idx: string
meta: struct<
para_dimension: string,
topic: string,
scenario_id: string,
scenario_description: string
>
message: list<struct<
role: string, # "system" | "user" | "assistant"
text: string, # 該輪文字
audio: binary, # 該輪完整 WAV 檔位元組(含 RIFF header);system 為 null
timestamp_range: list<int64>, # [開始ms, 結束ms],在整段對話時間軸上的位置;system 為 null
para_tags: string # JSON 字串的風格標籤;沒有標籤時為 null
>>
欄位說明
| 欄位 | 型別 | 說明 |
|---|---|---|
idx |
string | 樣本 ID。例:read_aloud_045022、Art_normal_1、Art_emo_normal_1、Art_para_10_mirror、Art/Art_scenario10_emotion_angry |
meta.para_dimension |
string | shuffled:指令類型(read_aloud、counting…,見 §3.1);tc/tc_emo:normal;para:para;variant:variant |
meta.topic |
string | 主題。shuffled 為空字串;tc/para/variant 為 41 個主題之一;tc_emo 為 31 個 <主題>_emo |
meta.scenario_id |
string | 情境 ID。shuffled 為空;例:scenario1、scenario_Art_para_1、Art_scenario10_emotion_angry |
meta.scenario_description |
string | 只有 para 有值(情境描述),其他子集為空字串 |
message[].role |
string | 第 0 則固定是 system,之後 user / assistant 交替 |
message[].text |
string | 文字內容 |
message[].audio |
binary | 一個完整的 .wav 檔,可直接寫到磁碟或用 soundfile.read(io.BytesIO(b)) 讀取 |
message[].timestamp_range |
list[int64] | 毫秒。把每輪音檔放在 start 位置即可還原整段對話 |
message[].para_tags |
string | JSON 字串,需要 json.loads。例:{"emotion": "sad"}、{"volume": "quiet"}、{"speed": "fast", "variant_type": "speed_fast"} |
音檔格式(各檔第一筆抽查)
| 子集 | 格式 |
|---|---|
shuffled |
WAV PCM int16,24 kHz,單聲道 |
tc、tc_emo、para |
WAV IEEE float32,24 kHz,單聲道 |
variant |
WAV IEEE float32,22.05 kHz,單聲道 |
混用子集時請注意取樣率不同。
para_tags 可能的鍵值
| 鍵 | 值 | 出現在 |
|---|---|---|
emotion |
happy sad angry fearful disgusted surprised whisper |
shuffled |
emotion |
happy sad angry fear disgust surprised |
variant |
speed |
slow fast |
shuffled、variant |
speed |
very_slow slow fast very_fast |
para |
volume |
very_quiet quiet loud very_loud |
para |
whisper |
"true"(字串,不是布林) |
variant |
variant_type |
neutral speed_fast speed_slow whisper |
variant |
tc、tc_emo 沒有任何 para_tags。注意 shuffled 和 variant 的情緒值拼法不同(fearful vs fear、disgusted vs disgust)。
3. 各子集說明與文字範例
3.1 shuffled:單輪指令遵循
每筆固定 3 則訊息:system → user → assistant。
System prompt 全部相同:「你是一個樂於幫助的語音助理,請仔細遵循使用者的指示來回答。」
meta.para_dimension是指令類型,共 26 種(train + dev):read_aloud40,706、counting1,229、format_constraint815、negative_constraint606、spelling526、sequence506、repetition418、listing414、conditional369、number_reading307、multi_step300、replacement251、simple_arithmetic236、reverse_sequence203、short_description167、required_word136、exact_count129、word_extraction106、time_date_reading95、completion84、comparison83、filtering79、short_generation68、selection60、transformation55、ordering52部分樣本要求特定情緒/語速,此時 user 與 assistant 兩輪都帶相同的
para_tags。
{
"idx": "read_aloud_045022",
"meta": {"para_dimension": "read_aloud", "topic": "", "scenario_id": "", "scenario_description": ""},
"message": [
{"role": "system", "text": "你是一個樂於幫助的語音助理,請仔細遵循使用者的指示來回答。", "audio": null, "timestamp_range": null, "para_tags": null},
{"role": "user", "text": "用緩慢的語調,補完這個句子:路漫漫其修遠兮,吾將上下。", "audio": "<wav bytes>", "timestamp_range": [0, 5642], "para_tags": "{\"speed\": \"slow\"}"},
{"role": "assistant", "text": "而求索。", "audio": "<wav bytes>", "timestamp_range": [5642, 8042], "para_tags": "{\"speed\": \"slow\"}"}
]
}
其他範例:
[USER] 請回答:六減三等於多少?
[ASSISTANT] 三。
[USER] 從五倒數到三。
[ASSISTANT] 五、四、三。
3.2 tc:多輪任務型對話
- 41 個主題 × 220 筆,每筆的 system prompt 都不同(角色扮演設定)。
- 每筆 13–16 則訊息。約一半(4,533 筆)以 user 輪結尾,訓練時若需要以 assistant 結尾請自行截掉最後一輪。
- 主題:Art, Books, Cars, Celebrities, Coding, Cooking, Education, Events, Fashion, Finance, Fitness, Food, Gaming, Gardening, Health, History, Hobbies, Holidays, Home, Languages, Makeup, Movies, Music, Nature, News, Pets, Philosophy, Photography, Podcasts, Politics, Relationships, Science, Shopping, Social Media, Spirituality, Sports, Technology, Traditions, Travel, Weather, Work
idx: Art_normal_1 meta.topic: Art meta.scenario_id: scenario1
[SYSTEM] 請扮演市集的管理人,協助這位年輕藝術家解決她的困難。首先,詢問她的作品類型,並了解她的目標客群。接著,提供一些具體的建議,讓她的攤位更吸引人。最後,鼓勵她分享一些她的想法或需求,並持續提出建議。
[USER] 我有點慌,我這裡的攤位怎麼這麼冷清呢
[ASSISTANT] 我知道你很擔心,先告訴我你的作品類型是什麼,目標客群是誰呢?
[USER] 我主要是畫一些水彩畫,想要吸引一些年輕人和喜愛藝術的遊客。
[ASSISTANT] 我了解你的目標,接下來可以考慮把攤位佈置得更有藝術感,現在有沒有什麼裝飾可以增加吸引力?
...
3.3 tc_emo:多輪情緒/同理心對話
- 31 個主題(
<主題>_emo),前 30 個各 230 筆、Relationships_emo84 筆。每筆 system prompt 都不同。 - 每筆 13–15 則訊息,1,601 筆以 user 輪結尾。
- 情緒體現在對話內容(使用者表達困擾,助理安撫引導),沒有
para_tags。
idx: Art_emo_normal_1 meta.topic: Art_emo
[SYSTEM] 請模擬一位老師與一位學生在藝術工作坊的對話。學生對於選擇顏色表達情感感到困惑,請老師熱情地分享色彩心理學的基本概念。確保每一行都是一個完整的句子,老師要引導學生思考並詢問他的故事背景與情感。
[USER] 老師,我現在真的很糾結,不知道如何選擇合適的顏色來表達我的情感。
[ASSISTANT] 我了解你的困擾,選擇顏色可以從情感出發,例如藍色通常代表平靜,而紅色則象徵熱情,你有沒有特別想表達的情感呢?
[USER] 其實我想要表達的感覺是孤獨和渴望自由,老師您覺得什麼顏色能夠代表這種複雜的情感呢?
...
3.4 para:對話中途切換音量/語速
- 41 個主題 × 100 筆,共 2,050 個情境,每個情境有兩筆:原版
<topic>_para_<n>與反向版<topic>_para_<n>_mirror(例如原版要求小聲、mirror 要求大聲)。 - 使用者在某一輪用文字提出要求,從該輪之後的 assistant 輪都帶上對應的
para_tags;之前的 assistant 輪沒有標籤。 - 控制維度:
volume(very_quiet / quiet / loud / very_loud)或speed(very_slow / slow / fast / very_fast)。 - 情境描述同時存在
meta.scenario_description和 system prompt。
idx: Art_para_10 meta.scenario_description: 小雪在家中想要設計一個藝術牆…
[SYSTEM] 小雪在家中想要設計一個藝術牆,但對於顏色搭配感到困惑。她請教家中的設計師朋友,了解如何選擇適合的顏色和風格。
[USER] 我想要在家裡設計一個藝術牆,但是不知道該怎麼搭配顏色。
[ASSISTANT] 我了解你對顏色搭配的困惑,可以先選擇一到兩個主要顏色,再搭配一些輔助色……
[USER] 我想設計一個簡單又優雅的風格,可能搭配一些自然元素。
[ASSISTANT] 我明白你想要簡單優雅的風格,可以選擇淺色系的綠色和米色……
[USER] 你可以把聲音放低一點嗎,我在想搭配一些木質元素……會不會太過陳舊呢?
[ASSISTANT] 我明白你的要求,搭配木質元素和天然石頭其實可以創造出溫暖又不失時尚感的效果…… para_tags: {"volume": "quiet"}
[USER] 我在想使用橡木或是檜木,搭配一些天然石頭的元素。
[ASSISTANT] 橡木和檜木搭配天然石頭會很有質感…… para_tags: {"volume": "quiet"}
Art_para_10_mirror 的同一位置改成「你可以大聲一點嗎」,assistant 帶 {"volume": "loud"}。
3.5 variant:同一情境的 10 種風格版本
738 個情境 × 10 種版本 = 7,380 筆。同一情境的 10 筆文字內容幾乎相同,只有風格不同:
idx後綴版本 標籤方式 (無後綴) neutral 每輪 {"variant_type": "neutral"}_emotion_angry/_disgust/_fear/_happy/_sad/_surprised6 種情緒 整段每一輪都帶 {"emotion": ...}_speed_fast/_speed_slow語速 每輪帶 variant_type;使用者中途提出要求後,assistant 輪才加上speed_whisper耳語 每輪帶 variant_type;要求之後 assistant 輪加上{"whisper": "true"}idx格式為<topic>/<topic>_scenario<n>[_<variant>]。
idx: Art/Art_scenario10_speed_slow
[SYSTEM] 小君對數位藝術有興趣,想報名線上課程但不知該選哪個平台。請給她一些有價值的課程推薦與評價。引導小君分享她的需求,比如她希望學習的內容或預算範圍。
[USER] 最近對數位藝術很感興趣,想請問有沒有好的線上課程推薦。 para_tags: {"variant_type": "speed_slow"}
[ASSISTANT] 可以分享一下你希望學習的內容嗎?…… para_tags: {"variant_type": "speed_slow"}
[USER] 麻煩說得慢一點,我想每個字都聽清楚,我想學習基本的繪圖技巧和圖像編輯…… para_tags: {"variant_type": "speed_slow"}
[ASSISTANT] 了解了!那我可以推薦幾個平台的課程,像是Skillshare和Udemy…… para_tags: {"speed": "slow", "variant_type": "speed_slow"}
idx: Art/Art_scenario10_emotion_angry
[USER] 最近對數位藝術很感興趣,想請問有沒有好的線上課程推薦。 para_tags: {"emotion": "angry"}
[ASSISTANT] 可以分享一下你希望學習的內容嗎?…… para_tags: {"emotion": "angry"}
[USER] 說話帶點不滿感好嗎,我想學習基本的繪圖技巧和圖像編輯…… para_tags: {"emotion": "angry"}
...
4. 讀取範例
import io, json
import soundfile as sf
from datasets import load_dataset
ds = load_dataset("wilzzzz/TASTE2-SFT-ZH", "para", split="train", streaming=True)
row = next(iter(ds))
for m in row["message"]:
tags = json.loads(m["para_tags"]) if m["para_tags"] else None
print(m["role"], m["timestamp_range"], tags, m["text"])
if m["audio"]:
wav, sr = sf.read(io.BytesIO(m["audio"]))
只要文字、不想下載音訊時,可以用 pyarrow 只讀巢狀欄位:
import pyarrow.parquet as pq
t = pq.ParquetFile("para_part_0000.parquet").read(columns=[
"idx", "meta",
"message.list.element.role",
"message.list.element.text",
"message.list.element.para_tags",
"message.list.element.timestamp_range",
])
還原整段對話音檔:建一條全長的空白波形,把每輪 audio 放在 timestamp_range[0] 毫秒的位置。
- Downloads last month
- 672