| --- |
| annotations_creators: |
| - machine-generated |
| language_creators: |
| - found |
| language: |
| - vi |
| license: cc-by-nc-4.0 |
| multilinguality: |
| - monolingual |
| size_categories: |
| - 10K<n<100K |
| source_datasets: |
| - original |
| task_categories: |
| - audio-visual-speech-processing |
| - text-to-speech |
| - other |
| task_ids: |
| - lip-sync |
| tags: |
| - lip-sync |
| - vietnamese |
| - wav2lip |
| - talklip |
| - musetalk |
| - speech |
| - multimodal |
| pretty_name: Vietnamese Lip-Sync Dataset (VLS1) |
| --- |
| |
| # VLS1: Vietnamese Lip-Sync Dataset (v1.0 - 40.67 Giờ Sạch) |
|
|
| Bộ dữ liệu chuẩn hóa khẩu hình tiếng Việt (**Vietnamese Lip-Sync Dataset - VLS1**) phục vụ huấn luyện và tinh chỉnh (fine-tune) các mô hình sinh khẩu hình (Wav2Lip, TalkLip, MuseTalk, SyncNet, v.v.). |
|
|
| --- |
|
|
| ## 1. Tổng quan & Thông số kỹ thuật |
|
|
| | Tiêu chí | Thông số kỹ thuật | |
| | :--- | :--- | |
| | **Tổng số clip** | **24,670 clips** (chuẩn lọc chặt `sync_conf >= 3.0` & `lang_prob >= 0.8`) | |
| | **Tổng thời lượng dữ liệu sạch** | **40.67 giờ** | |
| | **Số danh tính người nói (Identities)** | **254 danh tính độc lập** (không rò rỉ chéo giữa các tập) | |
| | **Độ phân giải video** | **512 × 512 px** (đã crop vuông căn giữa khuôn mặt) | |
| | **Tốc độ khung hình (FPS)** | **25.0 fps** (H.264, pix_fmt: `yuv420p`, CRF: 18) | |
| | **Định dạng âm thanh** | **16 kHz Mono WAV/AAC** (đồng bộ chuẩn SyncNet) | |
| | **Thời lượng mỗi clip** | **3.0 – 10.0 giây** | |
| | **Dung lượng lưu trữ trên đĩa** | **~17.1 GB** | |
| |
| --- |
| |
| ## 2. Phân chia tập dữ liệu (Splits) |
| |
| Bộ dữ liệu được phân chia theo **danh tính người nói (Identity-disjoint splits)**, đảm bảo người nói trong tập Train không bao giờ xuất hiện trong tập Val hoặc Test (kiểm tra tương đồng ArcFace chéo tối đa chỉ `0.413 < 0.500`). |
| |
| | Tập dữ liệu | File chỉ mục | Số clips | Thời lượng (giờ) | Tỷ lệ | Số danh tính (Identities) | |
| | :--- | :--- | :---: | :---: | :---: | :---: | |
| | **Train** | [`splits/train.csv`](splits/train.csv) | **19,536** | **32.53h** | **80.0%** | 199 | |
| | **Validation** | [`splits/val.csv`](splits/val.csv) | **2,414** | **4.07h** | **10.0%** | 28 | |
| | **Test** | [`splits/test.csv`](splits/test.csv) | **2,720** | **4.07h** | **10.0%** | 27 | |
| | **Tổng cộng** | | **24,670** | **40.67h** | **100.0%** | **254** | |
| |
| --- |
| |
| ## 3. Cấu trúc thư mục |
| |
| ``` |
| VLS1/ |
| ├── README.md # Tài liệu bộ dữ liệu VLS1 & HF Dataset Card |
| ├── metadata/ |
| │ ├── clips.csv # Toàn bộ danh sách clip kèm điểm SyncNet & Whisper |
| │ ├── clips_identity.csv # Danh sách clip kèm gán nhãn identity_id |
| │ ├── identities.csv # Thống kê từng danh tính (thời lượng, kênh, video) |
| │ ├── manifest.csv # Danh sách video gốc YouTube đã chuẩn hoá |
| │ ├── channels.csv # Danh mục kênh nguồn |
| │ ├── raw_deleted_log.csv # Log kiểm tra 5 lớp & xóa video raw (đầy đủ metadata) |
| │ ├── identity_sheets/ # Ảnh lưới kiểm tra trực quan từng khuôn mặt |
| │ └── curate/ # Chi tiết JSON thống kê từng video sau lọc |
| ├── splits/ |
| │ ├── train.csv # Chỉ mục tập Train |
| │ ├── val.csv # Chỉ mục tập Validation |
| │ ├── test.csv # Chỉ mục tập Test |
| │ └── report.json # Báo cáo phân chia & kiểm tra rò rỉ chéo |
| └── clips/ |
| └── <channel_id>/ |
| └── <video_id>/ |
| ├── <clip_id>.mp4 # Video 512x512 25fps có tiếng 16kHz |
| ├── <clip_id>.json # Bounding boxes, landmarks, transcription tiếng Việt |
| └── <clip_id>.npy # Embedding khuôn mặt ArcFace (512 chiều) |
| ``` |
| |
| --- |
|
|
| ## 4. Định dạng Metadata các file CSV |
|
|
| Các file `splits/train.csv`, `splits/val.csv`, `splits/test.csv` có các trường: |
| * `clip_id`: Mã định danh clip (`<video_id>_<start_frame>_<end_frame>`). |
| * `video_id`, `channel_id`, `channel`: Thông tin video nguồn và tên kênh. |
| * `start_frame`, `end_frame`: Frame bắt đầu và kết thúc trên video gốc. |
| * `seconds`: Thời lượng clip (giây). |
| * `face_height`: Chiều cao trung vị khuôn mặt (pixel). |
| * `sharpness`: Điểm độ nét vùng mặt (Laplacian variance). |
| * `lang`, `lang_prob`: Ngôn ngữ nhận dạng bởi Faster-Whisper (`vi` >= 0.8). |
| * `sync_conf`, `sync_offset`: Điểm tự tin khớp khẩu hình SyncNet và độ lệch frame. |
| * `text`: Phụ đề văn bản tiếng Việt do Whisper bóc tách. |
| * `clip_path`: Đường dẫn tương đối tới file video `.mp4`. |
| * `meta_path`: Đường dẫn tương đối tới file `.json`. |
| * `emb_path`: Đường dẫn tương đối tới file `.npy`. |
| * `identity_id`: Mã danh tính (`id_00000` đến `id_00253`). |
|
|
