File size: 5,058 Bytes
5a9a196
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
648c24e
 
 
 
5a9a196
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
---
annotations_creators:
- machine-generated
language_creators:
- found
language:
- vi
license: cc-by-nc-4.0
multilinguality:
- monolingual
size_categories:
- 10K<n<100K
source_datasets:
- original
task_categories:
- audio-visual-speech-processing
- text-to-speech
- other
task_ids:
- lip-sync
tags:
- lip-sync
- vietnamese
- wav2lip
- talklip
- musetalk
- speech
- multimodal
pretty_name: Vietnamese Lip-Sync Dataset (VLS1)
---

# VLS1: Vietnamese Lip-Sync Dataset (v1.0 - 40.67 Giờ Sạch)

Bộ dữ liệu chuẩn hóa khẩu hình tiếng Việt (**Vietnamese Lip-Sync Dataset - VLS1**) phục vụ huấn luyện và tinh chỉnh (fine-tune) các mô hình sinh khẩu hình (Wav2Lip, TalkLip, MuseTalk, SyncNet, v.v.).

---

## 1. Tổng quan & Thông số kỹ thuật

| Tiêu chí | Thông số kỹ thuật |
| :--- | :--- |
| **Tổng số clip** | **24,670 clips** (chuẩn lọc chặt `sync_conf >= 3.0` & `lang_prob >= 0.8`) |
| **Tổng thời lượng dữ liệu sạch** | **40.67 giờ** |
| **Số danh tính người nói (Identities)** | **254 danh tính độc lập** (không rò rỉ chéo giữa các tập) |
| **Độ phân giải video** | **512 × 512 px** (đã crop vuông căn giữa khuôn mặt) |
| **Tốc độ khung hình (FPS)** | **25.0 fps** (H.264, pix_fmt: `yuv420p`, CRF: 18) |
| **Định dạng âm thanh** | **16 kHz Mono WAV/AAC** (đồng bộ chuẩn SyncNet) |
| **Thời lượng mỗi clip** | **3.0 – 10.0 giây** |
| **Dung lượng lưu trữ trên đĩa** | **~17.1 GB** |

---

## 2. Phân chia tập dữ liệu (Splits)

Bộ dữ liệu được phân chia theo **danh tính người nói (Identity-disjoint splits)**, đảm bảo người nói trong tập Train không bao giờ xuất hiện trong tập Val hoặc Test (kiểm tra tương đồng ArcFace chéo tối đa chỉ `0.413 < 0.500`).

| Tập dữ liệu | File chỉ mục | Số clips | Thời lượng (giờ) | Tỷ lệ | Số danh tính (Identities) |
| :--- | :--- | :---: | :---: | :---: | :---: |
| **Train** | [`splits/train.csv`](splits/train.csv) | **19,536** | **32.53h** | **80.0%** | 199 |
| **Validation** | [`splits/val.csv`](splits/val.csv) | **2,414** | **4.07h** | **10.0%** | 28 |
| **Test** | [`splits/test.csv`](splits/test.csv) | **2,720** | **4.07h** | **10.0%** | 27 |
| **Tổng cộng** | | **24,670** | **40.67h** | **100.0%** | **254** |

---

## 3. Cấu trúc thư mục

```
VLS1/
├── README.md                     # Tài liệu bộ dữ liệu VLS1 & HF Dataset Card
├── metadata/
│   ├── clips.csv                 # Toàn bộ danh sách clip kèm điểm SyncNet & Whisper
│   ├── clips_identity.csv        # Danh sách clip kèm gán nhãn identity_id
│   ├── identities.csv            # Thống kê từng danh tính (thời lượng, kênh, video)
│   ├── manifest.csv              # Danh sách video gốc YouTube đã chuẩn hoá
│   ├── channels.csv              # Danh mục kênh nguồn
│   ├── raw_deleted_log.csv       # Log kiểm tra 5 lớp & xóa video raw (đầy đủ metadata)
│   ├── identity_sheets/          # Ảnh lưới kiểm tra trực quan từng khuôn mặt
│   └── curate/                   # Chi tiết JSON thống kê từng video sau lọc
├── splits/
│   ├── train.csv                 # Chỉ mục tập Train
│   ├── val.csv                   # Chỉ mục tập Validation
│   ├── test.csv                  # Chỉ mục tập Test
│   └── report.json               # Báo cáo phân chia & kiểm tra rò rỉ chéo
└── clips/
    └── <channel_id>/
        └── <video_id>/
            ├── <clip_id>.mp4     # Video 512x512 25fps có tiếng 16kHz
            ├── <clip_id>.json    # Bounding boxes, landmarks, transcription tiếng Việt
            └── <clip_id>.npy     # Embedding khuôn mặt ArcFace (512 chiều)
```

---

## 4. Định dạng Metadata các file CSV

Các file `splits/train.csv`, `splits/val.csv`, `splits/test.csv` có các trường:
* `clip_id`: Mã định danh clip (`<video_id>_<start_frame>_<end_frame>`).
* `video_id`, `channel_id`, `channel`: Thông tin video nguồn và tên kênh.
* `start_frame`, `end_frame`: Frame bắt đầu và kết thúc trên video gốc.
* `seconds`: Thời lượng clip (giây).
* `face_height`: Chiều cao trung vị khuôn mặt (pixel).
* `sharpness`: Điểm độ nét vùng mặt (Laplacian variance).
* `lang`, `lang_prob`: Ngôn ngữ nhận dạng bởi Faster-Whisper (`vi` >= 0.8).
* `sync_conf`, `sync_offset`: Điểm tự tin khớp khẩu hình SyncNet và độ lệch frame.
* `text`: Phụ đề văn bản tiếng Việt do Whisper bóc tách.
* `clip_path`: Đường dẫn tương đối tới file video `.mp4`.
* `meta_path`: Đường dẫn tương đối tới file `.json`.
* `emb_path`: Đường dẫn tương đối tới file `.npy`.
* `identity_id`: Mã danh tính (`id_00000` đến `id_00253`).