Datasets:

lambui
/

VLS1

annotations_creators:
  - machine-generated
language_creators:
  - found
language:
  - vi
license: cc-by-nc-4.0
multilinguality:
  - monolingual
size_categories:
  - 10K<n<100K
source_datasets:
  - original
task_categories:
  - audio-visual-speech-processing
  - text-to-speech
  - other
task_ids:
  - lip-sync
tags:
  - lip-sync
  - vietnamese
  - wav2lip
  - talklip
  - musetalk
  - speech
  - multimodal
pretty_name: Vietnamese Lip-Sync Dataset (VLS1)

VLS1: Vietnamese Lip-Sync Dataset (v1.0 - 40.67 Giờ Sạch)

Bộ dữ liệu chuẩn hóa khẩu hình tiếng Việt (Vietnamese Lip-Sync Dataset - VLS1) phục vụ huấn luyện và tinh chỉnh (fine-tune) các mô hình sinh khẩu hình (Wav2Lip, TalkLip, MuseTalk, SyncNet, v.v.).

1. Tổng quan & Thông số kỹ thuật

Tiêu chí	Thông số kỹ thuật
Tổng số clip	24,670 clips (chuẩn lọc chặt `sync_conf >= 3.0` & `lang_prob >= 0.8`)
Tổng thời lượng dữ liệu sạch	40.67 giờ
Số danh tính người nói (Identities)	254 danh tính độc lập (không rò rỉ chéo giữa các tập)
Độ phân giải video	512 × 512 px (đã crop vuông căn giữa khuôn mặt)
Tốc độ khung hình (FPS)	25.0 fps (H.264, pix_fmt: `yuv420p`, CRF: 18)
Định dạng âm thanh	16 kHz Mono WAV/AAC (đồng bộ chuẩn SyncNet)
Thời lượng mỗi clip	3.0 – 10.0 giây
Dung lượng lưu trữ trên đĩa	~17.1 GB

2. Phân chia tập dữ liệu (Splits)

Bộ dữ liệu được phân chia theo danh tính người nói (Identity-disjoint splits), đảm bảo người nói trong tập Train không bao giờ xuất hiện trong tập Val hoặc Test (kiểm tra tương đồng ArcFace chéo tối đa chỉ 0.413 < 0.500).

Tập dữ liệu	File chỉ mục	Số clips	Thời lượng (giờ)	Tỷ lệ	Số danh tính (Identities)
Train	`splits/train.csv`	19,536	32.53h	80.0%	199
Validation	`splits/val.csv`	2,414	4.07h	10.0%	28
Test	`splits/test.csv`	2,720	4.07h	10.0%	27
Tổng cộng		24,670	40.67h	100.0%	254

3. Cấu trúc thư mục

VLS1/
├── README.md                     # Tài liệu bộ dữ liệu VLS1 & HF Dataset Card
├── metadata/
│   ├── clips.csv                 # Toàn bộ danh sách clip kèm điểm SyncNet & Whisper
│   ├── clips_identity.csv        # Danh sách clip kèm gán nhãn identity_id
│   ├── identities.csv            # Thống kê từng danh tính (thời lượng, kênh, video)
│   ├── manifest.csv              # Danh sách video gốc YouTube đã chuẩn hoá
│   ├── channels.csv              # Danh mục kênh nguồn
│   ├── raw_deleted_log.csv       # Log kiểm tra 5 lớp & xóa video raw (đầy đủ metadata)
│   ├── identity_sheets/          # Ảnh lưới kiểm tra trực quan từng khuôn mặt
│   └── curate/                   # Chi tiết JSON thống kê từng video sau lọc
├── splits/
│   ├── train.csv                 # Chỉ mục tập Train
│   ├── val.csv                   # Chỉ mục tập Validation
│   ├── test.csv                  # Chỉ mục tập Test
│   └── report.json               # Báo cáo phân chia & kiểm tra rò rỉ chéo
└── clips/
    └── <channel_id>/
        └── <video_id>/
            ├── <clip_id>.mp4     # Video 512x512 25fps có tiếng 16kHz
            ├── <clip_id>.json    # Bounding boxes, landmarks, transcription tiếng Việt
            └── <clip_id>.npy     # Embedding khuôn mặt ArcFace (512 chiều)

4. Định dạng Metadata các file CSV

Các file splits/train.csv, splits/val.csv, splits/test.csv có các trường:

clip_id: Mã định danh clip (<video_id>_<start_frame>_<end_frame>).
video_id, channel_id, channel: Thông tin video nguồn và tên kênh.
start_frame, end_frame: Frame bắt đầu và kết thúc trên video gốc.
seconds: Thời lượng clip (giây).
face_height: Chiều cao trung vị khuôn mặt (pixel).
sharpness: Điểm độ nét vùng mặt (Laplacian variance).
lang, lang_prob: Ngôn ngữ nhận dạng bởi Faster-Whisper (vi >= 0.8).
sync_conf, sync_offset: Điểm tự tin khớp khẩu hình SyncNet và độ lệch frame.
text: Phụ đề văn bản tiếng Việt do Whisper bóc tách.
clip_path: Đường dẫn tương đối tới file video .mp4.
meta_path: Đường dẫn tương đối tới file .json.
emb_path: Đường dẫn tương đối tới file .npy.
identity_id: Mã danh tính (id_00000 đến id_00253).