README.md

metadata

language:
  - vi
  - en
task_categories:
  - automatic-speech-recognition
pretty_name: Vietnamese–English code-switching (YouTube)
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*.parquet

code_switch_OM

Các câu tiếng Việt có chen từ tiếng Anh (code-switching), cắt từ video YouTube, mỗi câu dài 5–15 giây.

• Audio: FLAC, 16 kHz, mono, cắt từ audio gốc của YouTube (AAC khoảng 128 kbps).
• Text (text, nhãn golden): kết hợp 3 bản chép độc lập: phụ đề tự động YouTube (vi-orig), model ASR nội bộ v5 và Gemini.
  • Câu cả 3 nguồn khớp nhau thì giữ nguyên (label_source = agree_3).
  • Câu còn chỗ lệch thì LLM viết lại thành một bản, lấy Gemini làm nền: DeepSeek cho câu lệch ít (merge_deepseek), GLM cho câu lệch nhiều (merge_glm).
  • Nếu LLM trả rỗng hoặc viết ra từ không nguồn nào nghe thấy mà câu lệch Gemini nhiều thì lùi về bản Gemini (gemini).
  • Khoảng 260 câu Gemini từ chối chép thì giữ phụ đề YouTube (youtube).
  • Nhãn chưa được người nghe lại.
• Mốc câu và mốc từ: forced alignment bằng nguyenvulebinh/wav2vec2-base-vietnamese-250h.

Cột	Ý nghĩa
id	<youtube_id>_<ms bắt đầu>_<ms kết thúc> (mốc tính trong video)
audio	đoạn audio của câu
text	nhãn golden (xem trên)
text_youtube	phụ đề tự động YouTube gốc (nhãn cũ trước 2026-10-29)
text_v5	bản chép của model v5
text_gemini	bản chép của Gemini (rỗng nếu Gemini từ chối)
label_source	agree_3 / merge_deepseek / merge_glm / gemini / youtube
target_words	các từ tiếng Anh mục tiêu có trong câu
targets	với mỗi từ: word (dạng chuẩn), surface (dạng xuất hiện trong text), start/end (giây, tính trong clip), align_score (0–1)
youtube_id, youtube_url	video nguồn; link đã kèm ?t= để nhảy tới câu
channel	tên kênh YouTube
yt_start, yt_end	mốc bắt đầu / kết thúc của câu trong video (giây)
duration	độ dài clip (giây)

Dataset được đẩy dần theo từng shard 1.000 câu. targets (surface, mốc từ) được align theo phụ đề YouTube nên surface có thể khác chữ trong text.