Datasets:
File size: 5,058 Bytes
5a9a196 648c24e 5a9a196 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 | ---
annotations_creators:
- machine-generated
language_creators:
- found
language:
- vi
license: cc-by-nc-4.0
multilinguality:
- monolingual
size_categories:
- 10K<n<100K
source_datasets:
- original
task_categories:
- audio-visual-speech-processing
- text-to-speech
- other
task_ids:
- lip-sync
tags:
- lip-sync
- vietnamese
- wav2lip
- talklip
- musetalk
- speech
- multimodal
pretty_name: Vietnamese Lip-Sync Dataset (VLS1)
---
# VLS1: Vietnamese Lip-Sync Dataset (v1.0 - 40.67 Giờ Sạch)
Bộ dữ liệu chuẩn hóa khẩu hình tiếng Việt (**Vietnamese Lip-Sync Dataset - VLS1**) phục vụ huấn luyện và tinh chỉnh (fine-tune) các mô hình sinh khẩu hình (Wav2Lip, TalkLip, MuseTalk, SyncNet, v.v.).
---
## 1. Tổng quan & Thông số kỹ thuật
| Tiêu chí | Thông số kỹ thuật |
| :--- | :--- |
| **Tổng số clip** | **24,670 clips** (chuẩn lọc chặt `sync_conf >= 3.0` & `lang_prob >= 0.8`) |
| **Tổng thời lượng dữ liệu sạch** | **40.67 giờ** |
| **Số danh tính người nói (Identities)** | **254 danh tính độc lập** (không rò rỉ chéo giữa các tập) |
| **Độ phân giải video** | **512 × 512 px** (đã crop vuông căn giữa khuôn mặt) |
| **Tốc độ khung hình (FPS)** | **25.0 fps** (H.264, pix_fmt: `yuv420p`, CRF: 18) |
| **Định dạng âm thanh** | **16 kHz Mono WAV/AAC** (đồng bộ chuẩn SyncNet) |
| **Thời lượng mỗi clip** | **3.0 – 10.0 giây** |
| **Dung lượng lưu trữ trên đĩa** | **~17.1 GB** |
---
## 2. Phân chia tập dữ liệu (Splits)
Bộ dữ liệu được phân chia theo **danh tính người nói (Identity-disjoint splits)**, đảm bảo người nói trong tập Train không bao giờ xuất hiện trong tập Val hoặc Test (kiểm tra tương đồng ArcFace chéo tối đa chỉ `0.413 < 0.500`).
| Tập dữ liệu | File chỉ mục | Số clips | Thời lượng (giờ) | Tỷ lệ | Số danh tính (Identities) |
| :--- | :--- | :---: | :---: | :---: | :---: |
| **Train** | [`splits/train.csv`](splits/train.csv) | **19,536** | **32.53h** | **80.0%** | 199 |
| **Validation** | [`splits/val.csv`](splits/val.csv) | **2,414** | **4.07h** | **10.0%** | 28 |
| **Test** | [`splits/test.csv`](splits/test.csv) | **2,720** | **4.07h** | **10.0%** | 27 |
| **Tổng cộng** | | **24,670** | **40.67h** | **100.0%** | **254** |
---
## 3. Cấu trúc thư mục
```
VLS1/
├── README.md # Tài liệu bộ dữ liệu VLS1 & HF Dataset Card
├── metadata/
│ ├── clips.csv # Toàn bộ danh sách clip kèm điểm SyncNet & Whisper
│ ├── clips_identity.csv # Danh sách clip kèm gán nhãn identity_id
│ ├── identities.csv # Thống kê từng danh tính (thời lượng, kênh, video)
│ ├── manifest.csv # Danh sách video gốc YouTube đã chuẩn hoá
│ ├── channels.csv # Danh mục kênh nguồn
│ ├── raw_deleted_log.csv # Log kiểm tra 5 lớp & xóa video raw (đầy đủ metadata)
│ ├── identity_sheets/ # Ảnh lưới kiểm tra trực quan từng khuôn mặt
│ └── curate/ # Chi tiết JSON thống kê từng video sau lọc
├── splits/
│ ├── train.csv # Chỉ mục tập Train
│ ├── val.csv # Chỉ mục tập Validation
│ ├── test.csv # Chỉ mục tập Test
│ └── report.json # Báo cáo phân chia & kiểm tra rò rỉ chéo
└── clips/
└── <channel_id>/
└── <video_id>/
├── <clip_id>.mp4 # Video 512x512 25fps có tiếng 16kHz
├── <clip_id>.json # Bounding boxes, landmarks, transcription tiếng Việt
└── <clip_id>.npy # Embedding khuôn mặt ArcFace (512 chiều)
```
---
## 4. Định dạng Metadata các file CSV
Các file `splits/train.csv`, `splits/val.csv`, `splits/test.csv` có các trường:
* `clip_id`: Mã định danh clip (`<video_id>_<start_frame>_<end_frame>`).
* `video_id`, `channel_id`, `channel`: Thông tin video nguồn và tên kênh.
* `start_frame`, `end_frame`: Frame bắt đầu và kết thúc trên video gốc.
* `seconds`: Thời lượng clip (giây).
* `face_height`: Chiều cao trung vị khuôn mặt (pixel).
* `sharpness`: Điểm độ nét vùng mặt (Laplacian variance).
* `lang`, `lang_prob`: Ngôn ngữ nhận dạng bởi Faster-Whisper (`vi` >= 0.8).
* `sync_conf`, `sync_offset`: Điểm tự tin khớp khẩu hình SyncNet và độ lệch frame.
* `text`: Phụ đề văn bản tiếng Việt do Whisper bóc tách.
* `clip_path`: Đường dẫn tương đối tới file video `.mp4`.
* `meta_path`: Đường dẫn tương đối tới file `.json`.
* `emb_path`: Đường dẫn tương đối tới file `.npy`.
* `identity_id`: Mã danh tính (`id_00000` đến `id_00253`).
|