You need to agree to share your Hugging Face information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

TASTE2 SFT 中文語音對話資料(DATA_SFT_ZH)

繁體中文的語音對話 SFT 資料,每筆是一段完整對話(system prompt + 多輪 user / assistant),每一輪都附文字與音檔。共 5 個子集、256 個 parquet 檔。

子集 (config) 檔案 檔數 筆數 音檔總長 大小 每筆訊息數 一句話說明
shuffled (train) shuffled_train_part_*.parquet 11 44,000 76.0 h 11.3 GB 3 單輪指令遵循(朗讀、數數、算術…),部分帶情緒/語速要求
shuffled (validation) shuffled_dev.parquet 1 4,000 7.0 h 1.0 GB 3 同上,驗證集
tc tc_part_*.parquet 99 9,020 308.7 h 106.7 GB 13–16 多輪角色扮演任務對話,無語音風格控制
tc_emo tc_emo_part_*.parquet 73 6,984 226.2 h 78.2 GB 13–15 多輪情緒/同理心主題對話,無語音風格控制
para para_part_*.parquet 23 4,100 71.1 h 24.7 GB 7 或 9 多輪對話,使用者中途要求改變音量或語速
variant variant_part_*.parquet 49 7,380 166.1 h 45.5 GB 7 或 9 同一情境做成 10 種說話風格版本(中性、6 種情緒、快/慢、耳語)
合計 256 75,484 855.1 h 267.4 GB

音檔總長以每筆最後一輪的 timestamp_range 結束時間加總。


1. 文字在哪裡

沒有獨立的文字檔或 transcript 檔,所有文字都和音檔一起存在 parquet 的 message 欄位裡:

想要的文字 位置
System prompt message[0].text(message[0].role == "system",每筆都有)
使用者說的話(user 音檔的逐字稿) message[i].text,message[i].role == "user"
助理回覆(assistant 音檔的逐字稿) message[i].text,message[i].role == "assistant"
該輪的語音風格標籤 message[i].para_tags(JSON 字串)
情境描述(只有 para 有值) meta.scenario_description(內容與 system prompt 相同)
指令類型 / 主題 meta.para_dimension、meta.topic

每一輪的 text 就是同一輪 audio 的內容。


2. Parquet 資料結構

5 個子集的 schema 完全相同:

idx:  string
meta: struct<
        para_dimension:       string,
        topic:                string,
        scenario_id:          string,
        scenario_description: string
      >
message: list<struct<
        role:            string,          # "system" | "user" | "assistant"
        text:            string,          # 該輪文字
        audio:           binary,          # 該輪完整 WAV 檔位元組(含 RIFF header);system 為 null
        timestamp_range: list<int64>,     # [開始ms, 結束ms],在整段對話時間軸上的位置;system 為 null
        para_tags:       string           # JSON 字串的風格標籤;沒有標籤時為 null
      >>

欄位說明

欄位 型別 說明
idx string 樣本 ID。例:read_aloud_045022、Art_normal_1、Art_emo_normal_1、Art_para_10_mirror、Art/Art_scenario10_emotion_angry
meta.para_dimension string shuffled:指令類型(read_aloud、counting…,見 §3.1);tc/tc_emo:normal;para:para;variant:variant
meta.topic string 主題。shuffled 為空字串;tc/para/variant 為 41 個主題之一;tc_emo 為 31 個 <主題>_emo
meta.scenario_id string 情境 ID。shuffled 為空;例:scenario1、scenario_Art_para_1、Art_scenario10_emotion_angry
meta.scenario_description string 只有 para 有值(情境描述),其他子集為空字串
message[].role string 第 0 則固定是 system,之後 user / assistant 交替
message[].text string 文字內容
message[].audio binary 一個完整的 .wav 檔,可直接寫到磁碟或用 soundfile.read(io.BytesIO(b)) 讀取
message[].timestamp_range list[int64] 毫秒。把每輪音檔放在 start 位置即可還原整段對話
message[].para_tags string JSON 字串,需要 json.loads。例:{"emotion": "sad"}、{"volume": "quiet"}、{"speed": "fast", "variant_type": "speed_fast"}

音檔格式(各檔第一筆抽查)

子集 格式
shuffled WAV PCM int16,24 kHz,單聲道
tc、tc_emo、para WAV IEEE float32,24 kHz,單聲道
variant WAV IEEE float32,22.05 kHz,單聲道

混用子集時請注意取樣率不同。

para_tags 可能的鍵值

鍵 值 出現在
emotion happy sad angry fearful disgusted surprised whisper shuffled
emotion happy sad angry fear disgust surprised variant
speed slow fast shuffled、variant
speed very_slow slow fast very_fast para
volume very_quiet quiet loud very_loud para
whisper "true"(字串,不是布林) variant
variant_type neutral speed_fast speed_slow whisper variant

tc、tc_emo 沒有任何 para_tags。注意 shuffled 和 variant 的情緒值拼法不同(fearful vs fear、disgusted vs disgust)。


3. 各子集說明與文字範例

3.1 shuffled:單輪指令遵循

  • 每筆固定 3 則訊息:system → user → assistant。

  • System prompt 全部相同:「你是一個樂於幫助的語音助理,請仔細遵循使用者的指示來回答。」

  • meta.para_dimension 是指令類型,共 26 種(train + dev):

    read_aloud 40,706、counting 1,229、format_constraint 815、negative_constraint 606、spelling 526、sequence 506、repetition 418、listing 414、conditional 369、number_reading 307、multi_step 300、replacement 251、simple_arithmetic 236、reverse_sequence 203、short_description 167、required_word 136、exact_count 129、word_extraction 106、time_date_reading 95、completion 84、comparison 83、filtering 79、short_generation 68、selection 60、transformation 55、ordering 52

  • 部分樣本要求特定情緒/語速,此時 user 與 assistant 兩輪都帶相同的 para_tags。

{
  "idx": "read_aloud_045022",
  "meta": {"para_dimension": "read_aloud", "topic": "", "scenario_id": "", "scenario_description": ""},
  "message": [
    {"role": "system", "text": "你是一個樂於幫助的語音助理,請仔細遵循使用者的指示來回答。", "audio": null, "timestamp_range": null, "para_tags": null},
    {"role": "user", "text": "用緩慢的語調,補完這個句子:路漫漫其修遠兮,吾將上下。", "audio": "<wav bytes>", "timestamp_range": [0, 5642], "para_tags": "{\"speed\": \"slow\"}"},
    {"role": "assistant", "text": "而求索。", "audio": "<wav bytes>", "timestamp_range": [5642, 8042], "para_tags": "{\"speed\": \"slow\"}"}
  ]
}

其他範例:

[USER]      請回答:六減三等於多少?
[ASSISTANT] 三。

[USER]      從五倒數到三。
[ASSISTANT] 五、四、三。

3.2 tc:多輪任務型對話

  • 41 個主題 × 220 筆,每筆的 system prompt 都不同(角色扮演設定)。
  • 每筆 13–16 則訊息。約一半(4,533 筆)以 user 輪結尾,訓練時若需要以 assistant 結尾請自行截掉最後一輪。
  • 主題:Art, Books, Cars, Celebrities, Coding, Cooking, Education, Events, Fashion, Finance, Fitness, Food, Gaming, Gardening, Health, History, Hobbies, Holidays, Home, Languages, Makeup, Movies, Music, Nature, News, Pets, Philosophy, Photography, Podcasts, Politics, Relationships, Science, Shopping, Social Media, Spirituality, Sports, Technology, Traditions, Travel, Weather, Work
idx: Art_normal_1    meta.topic: Art    meta.scenario_id: scenario1

[SYSTEM]    請扮演市集的管理人,協助這位年輕藝術家解決她的困難。首先,詢問她的作品類型,並了解她的目標客群。接著,提供一些具體的建議,讓她的攤位更吸引人。最後,鼓勵她分享一些她的想法或需求,並持續提出建議。
[USER]      我有點慌,我這裡的攤位怎麼這麼冷清呢
[ASSISTANT] 我知道你很擔心,先告訴我你的作品類型是什麼,目標客群是誰呢?
[USER]      我主要是畫一些水彩畫,想要吸引一些年輕人和喜愛藝術的遊客。
[ASSISTANT] 我了解你的目標,接下來可以考慮把攤位佈置得更有藝術感,現在有沒有什麼裝飾可以增加吸引力?
...

3.3 tc_emo:多輪情緒/同理心對話

  • 31 個主題(<主題>_emo),前 30 個各 230 筆、Relationships_emo 84 筆。每筆 system prompt 都不同。
  • 每筆 13–15 則訊息,1,601 筆以 user 輪結尾。
  • 情緒體現在對話內容(使用者表達困擾,助理安撫引導),沒有 para_tags。
idx: Art_emo_normal_1    meta.topic: Art_emo

[SYSTEM]    請模擬一位老師與一位學生在藝術工作坊的對話。學生對於選擇顏色表達情感感到困惑,請老師熱情地分享色彩心理學的基本概念。確保每一行都是一個完整的句子,老師要引導學生思考並詢問他的故事背景與情感。
[USER]      老師,我現在真的很糾結,不知道如何選擇合適的顏色來表達我的情感。
[ASSISTANT] 我了解你的困擾,選擇顏色可以從情感出發,例如藍色通常代表平靜,而紅色則象徵熱情,你有沒有特別想表達的情感呢?
[USER]      其實我想要表達的感覺是孤獨和渴望自由,老師您覺得什麼顏色能夠代表這種複雜的情感呢?
...

3.4 para:對話中途切換音量/語速

  • 41 個主題 × 100 筆,共 2,050 個情境,每個情境有兩筆:原版 <topic>_para_<n> 與反向版 <topic>_para_<n>_mirror(例如原版要求小聲、mirror 要求大聲)。
  • 使用者在某一輪用文字提出要求,從該輪之後的 assistant 輪都帶上對應的 para_tags;之前的 assistant 輪沒有標籤。
  • 控制維度:volume(very_quiet / quiet / loud / very_loud)或 speed(very_slow / slow / fast / very_fast)。
  • 情境描述同時存在 meta.scenario_description 和 system prompt。
idx: Art_para_10    meta.scenario_description: 小雪在家中想要設計一個藝術牆…

[SYSTEM]    小雪在家中想要設計一個藝術牆,但對於顏色搭配感到困惑。她請教家中的設計師朋友,了解如何選擇適合的顏色和風格。
[USER]      我想要在家裡設計一個藝術牆,但是不知道該怎麼搭配顏色。
[ASSISTANT] 我了解你對顏色搭配的困惑,可以先選擇一到兩個主要顏色,再搭配一些輔助色……
[USER]      我想設計一個簡單又優雅的風格,可能搭配一些自然元素。
[ASSISTANT] 我明白你想要簡單優雅的風格,可以選擇淺色系的綠色和米色……
[USER]      你可以把聲音放低一點嗎,我在想搭配一些木質元素……會不會太過陳舊呢?
[ASSISTANT] 我明白你的要求,搭配木質元素和天然石頭其實可以創造出溫暖又不失時尚感的效果……   para_tags: {"volume": "quiet"}
[USER]      我在想使用橡木或是檜木,搭配一些天然石頭的元素。
[ASSISTANT] 橡木和檜木搭配天然石頭會很有質感……                                               para_tags: {"volume": "quiet"}

Art_para_10_mirror 的同一位置改成「你可以大聲一點嗎」,assistant 帶 {"volume": "loud"}。

3.5 variant:同一情境的 10 種風格版本

  • 738 個情境 × 10 種版本 = 7,380 筆。同一情境的 10 筆文字內容幾乎相同,只有風格不同:

    idx 後綴 版本 標籤方式
    (無後綴) neutral 每輪 {"variant_type": "neutral"}
    _emotion_angry / _disgust / _fear / _happy / _sad / _surprised 6 種情緒 整段每一輪都帶 {"emotion": ...}
    _speed_fast / _speed_slow 語速 每輪帶 variant_type;使用者中途提出要求後,assistant 輪才加上 speed
    _whisper 耳語 每輪帶 variant_type;要求之後 assistant 輪加上 {"whisper": "true"}
  • idx 格式為 <topic>/<topic>_scenario<n>[_<variant>]。

idx: Art/Art_scenario10_speed_slow

[SYSTEM]    小君對數位藝術有興趣,想報名線上課程但不知該選哪個平台。請給她一些有價值的課程推薦與評價。引導小君分享她的需求,比如她希望學習的內容或預算範圍。
[USER]      最近對數位藝術很感興趣,想請問有沒有好的線上課程推薦。                     para_tags: {"variant_type": "speed_slow"}
[ASSISTANT] 可以分享一下你希望學習的內容嗎?……                                         para_tags: {"variant_type": "speed_slow"}
[USER]      麻煩說得慢一點,我想每個字都聽清楚,我想學習基本的繪圖技巧和圖像編輯……     para_tags: {"variant_type": "speed_slow"}
[ASSISTANT] 了解了!那我可以推薦幾個平台的課程,像是Skillshare和Udemy……               para_tags: {"speed": "slow", "variant_type": "speed_slow"}
idx: Art/Art_scenario10_emotion_angry

[USER]      最近對數位藝術很感興趣,想請問有沒有好的線上課程推薦。                     para_tags: {"emotion": "angry"}
[ASSISTANT] 可以分享一下你希望學習的內容嗎?……                                         para_tags: {"emotion": "angry"}
[USER]      說話帶點不滿感好嗎,我想學習基本的繪圖技巧和圖像編輯……                     para_tags: {"emotion": "angry"}
...

4. 讀取範例

import io, json
import soundfile as sf
from datasets import load_dataset

ds = load_dataset("wilzzzz/TASTE2-SFT-ZH", "para", split="train", streaming=True)
row = next(iter(ds))

for m in row["message"]:
    tags = json.loads(m["para_tags"]) if m["para_tags"] else None
    print(m["role"], m["timestamp_range"], tags, m["text"])
    if m["audio"]:
        wav, sr = sf.read(io.BytesIO(m["audio"]))

只要文字、不想下載音訊時,可以用 pyarrow 只讀巢狀欄位:

import pyarrow.parquet as pq
t = pq.ParquetFile("para_part_0000.parquet").read(columns=[
    "idx", "meta",
    "message.list.element.role",
    "message.list.element.text",
    "message.list.element.para_tags",
    "message.list.element.timestamp_range",
])

還原整段對話音檔:建一條全長的空白波形,把每輪 audio 放在 timestamp_range[0] 毫秒的位置。

Downloads last month
672