Restore 76bfa5a6 (README, curated JSON, parquet were overwritten by 53a6596e by mistake); add verified_turns subset in verified/
Browse files- README.md +48 -140
- curated_youtube_interpreter_interviews.json +0 -0
- data/cabin_interpreter_interviews_test.parquet +2 -2
- verified/README.md +143 -0
- verified/curated_verified.json +0 -0
- verified/data/cabin_interpreter_interviews_verified.parquet +3 -0
- {results → verified/results}/judge-pairs.json +0 -0
- {results → verified/results}/judge-summary.json +0 -0
- {results → verified/results}/production-2026-10-28.md +0 -0
README.md
CHANGED
|
@@ -1,163 +1,71 @@
|
|
| 1 |
---
|
| 2 |
-
language:
|
| 3 |
-
- vi
|
| 4 |
-
- ko
|
| 5 |
-
- en
|
| 6 |
license: mit
|
| 7 |
task_categories:
|
| 8 |
- automatic-speech-recognition
|
| 9 |
- translation
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 10 |
tags:
|
| 11 |
- cabin-ai
|
| 12 |
-
-
|
| 13 |
- interview
|
| 14 |
-
- consecutive-
|
| 15 |
-
-
|
| 16 |
-
- test-benchmark
|
| 17 |
size_categories:
|
| 18 |
- n<1K
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 19 |
---
|
| 20 |
|
| 21 |
-
# Cabin AI
|
| 22 |
|
| 23 |
-
|
| 24 |
-
có người phiên dịch:
|
| 25 |
|
| 26 |
-
|
| 27 |
-
- **
|
| 28 |
-
- **
|
| 29 |
-
- **
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 30 |
|
| 31 |
-
|
| 32 |
-
|
| 33 |
-
|
|
|
|
| 34 |
|
| 35 |
-
|
| 36 |
-
|
| 37 |
-
|
| 38 |
-
| Cặp ngôn ngữ | vi↔en 15, vi↔ko 12 (một số clip có thêm ngôn ngữ thứ ba: en, ar, th) |
|
| 39 |
-
| Lượt nói | 596, trong đó lượt phiên dịch nối với câu gốc: 184 |
|
| 40 |
-
| Audio | 16 kHz mono WAV (`audio.bytes`) |
|
| 41 |
|
| 42 |
-
##
|
| 43 |
|
| 44 |
-
|
| 45 |
-
|
| 46 |
-
|
| 47 |
-
|---|---|---|
|
| 48 |
-
| `S-WvC8Yamg8` | Minh Nghi phỏng vấn Faker | IG **TheShy** sau trận thắng Team Liquid (vi↔ko) |
|
| 49 |
-
| `KmmzFbPWyRQ` | Miss Grand, vi/en | **SKT Mata**, MSI 2019 (vi↔ko) |
|
| 50 |
-
| `F4DZDOWtfqc` | Giao lưu đạo diễn phim, vi/ko | **G2 Caps**, MSI 2019 (vi↔en) |
|
| 51 |
-
| `D1-Oh0DCR9I` | vi/ko | Meliodas, MSI 2019 — thực tế **vi↔en** |
|
| 52 |
-
| `ugxow6wRjA4` (README v1) | Running Man | Video đã bị gỡ khỏi YouTube, không có trong v2 |
|
| 53 |
-
|
| 54 |
-
Tiêu đề v2 lấy thẳng từ YouTube; vai trò và ngôn ngữ do model nghe audio xác nhận.
|
| 55 |
-
2. **Clip đúng đoạn phiên dịch.** v1 cắt 180 s đầu video (thường là intro). v2 chọn đoạn 180–300 s có
|
| 56 |
-
nhiều vòng *hỏi → dịch → trả lời → dịch* nhất (`clip_start_sec` / `clip_end_sec` trong video gốc).
|
| 57 |
-
3. **Transcript tham chiếu từng lượt** (`turns`): vai trò, ngôn ngữ, thời gian, nội dung nguyên văn, và
|
| 58 |
-
lượt phiên dịch đang dịch câu nào (`interprets`) → có sẵn cặp *câu gốc ↔ bản dịch của người* để so
|
| 59 |
-
với bản dịch của Cabin.
|
| 60 |
-
4. **Kết quả production** của Cabin trên đúng các clip này (bên dưới).
|
| 61 |
-
|
| 62 |
-
## Cột dữ liệu
|
| 63 |
-
|
| 64 |
-
Giữ nguyên toàn bộ cột v1 (cùng tên, cùng kiểu):
|
| 65 |
-
`video_id`, `title`, `url`, `format_type`, `languages` (JSON string), `scenario`, `audio` {bytes, path},
|
| 66 |
-
`sample_rate`, `duration_sec` (độ dài clip).
|
| 67 |
-
|
| 68 |
-
Thêm ở v2:
|
| 69 |
-
|
| 70 |
-
| Cột | Ý nghĩa |
|
| 71 |
-
|---|---|
|
| 72 |
-
| `channel`, `upload_date`, `video_duration_sec` | Từ YouTube |
|
| 73 |
-
| `clip_start_sec`, `clip_end_sec` | Vị trí clip trong video gốc |
|
| 74 |
-
| `category` | football / esports / pageant / event / v1 |
|
| 75 |
-
| `setting` | press_conference, esports_stage, event, … |
|
| 76 |
-
| `interpreter_mode` | consecutive / simultaneous / mixed |
|
| 77 |
-
| `guest_language`, `cycles_in_clip`, `audio_quality`, `notes` | Từ bước sàng lọc |
|
| 78 |
-
| `turns` | JSON: `[{start_sec, end_sec, role, speaker_name, lang, text, interprets}]` |
|
| 79 |
-
| `num_turns`, `num_interpreter_links` | Đếm từ `turns` |
|
| 80 |
-
| `reference_model`, `screen_model` | Model tạo tham chiếu |
|
| 81 |
-
| `in_v1` | Dòng có từ v1 |
|
| 82 |
-
|
| 83 |
-
`role` ∈ mc, journalist, interpreter, guest, audience, narrator, other. `interprets` = chỉ số (0-based)
|
| 84 |
-
của lượt mà lượt phiên dịch đang dịch; `-1` cho các lượt khác.
|
| 85 |
|
| 86 |
```python
|
| 87 |
from datasets import load_dataset
|
| 88 |
-
|
| 89 |
-
ds = load_dataset("doanhlt/cabin-interpreter-interview-test", split="train")
|
| 90 |
-
row = ds[0]
|
| 91 |
-
turns = json.loads(row["turns"])
|
| 92 |
-
pairs = [(turns[t["interprets"]], t) for t in turns if t["role"] == "interpreter" and t["interprets"] >= 0]
|
| 93 |
```
|
| 94 |
|
| 95 |
-
|
| 96 |
-
|
| 97 |
-
1. Tìm YouTube bằng 28 truy vấn (vi/en): họp báo có phiên dịch, phỏng vấn khách nước ngoài, fan meeting,
|
| 98 |
-
hoa hậu, eSports… → 55 video ứng viên.
|
| 99 |
-
2. **Sàng lọc** (Gemini 2.5 Flash, nghe toàn bộ audio): chỉ giữ video có **phiên dịch viên thật sự nói**
|
| 100 |
-
(không phải phụ đề, lồng tiếng, hay bản tin tóm tắt), chọn đoạn 180–300 s nhiều vòng nhất.
|
| 101 |
-
28 video bị loại: bản tin thuật lại họp báo, phỏng vấn trực tiếp bằng tiếng Anh không qua phiên dịch,
|
| 102 |
-
talkshow *nói về* nghề phiên dịch, hoặc không có cặp hỏi–dịch–đáp. Danh sách và lý do: `excluded` trong
|
| 103 |
-
`curated_youtube_interpreter_interviews.json`.
|
| 104 |
-
3. **Transcript tham chiếu** (Gemini 2.5 Pro trên clip): nguyên văn từng lượt, vai trò, ngôn ngữ,
|
| 105 |
-
liên kết lượt phiên dịch.
|
| 106 |
-
|
| 107 |
-
### Lưu ý về tham chiếu
|
| 108 |
-
|
| 109 |
-
- Tham chiếu do **model** tạo, chưa có người duyệt. Đủ tin cậy để so sánh hệ thống / phiên bản với nhau,
|
| 110 |
-
không nên coi là "ground truth" tuyệt đối.
|
| 111 |
-
- `start_sec` / `end_sec` là **ước lượng** của model (sai lệch vài giây), không dùng để cắt từng câu.
|
| 112 |
-
- `interprets` được kiểm tra tay trên một mẫu: phần lớn đúng; một số lượt phiên dịch gộp nhiều câu gốc,
|
| 113 |
-
khi đó chỉ trỏ tới một câu.
|
| 114 |
-
|
| 115 |
-
## Kết quả Cabin production (2026-10-28)
|
| 116 |
-
|
| 117 |
-
Cabin backend đang chạy production (Railway, deploy 2026-10-28 13:07 = `cabin-be` `b529f37`), Soniox +
|
| 118 |
-
Gemini thật, phiên **two-way** vi ↔ ngôn ngữ của khách, phát lại audio theo thời gian thực.
|
| 119 |
-
|
| 120 |
-
**Nhận dạng giọng nói** (CER cho ko, WER cho vi/en; chỉ tính hai ngôn ngữ của phiên, và chỉ clip có
|
| 121 |
-
≥ 40 token của ngôn ngữ đó):
|
| 122 |
-
|
| 123 |
-
| | vi | en | ko |
|
| 124 |
-
|---|---|---|---|
|
| 125 |
-
| Trung vị theo clip | **13.0 %** | **10.1 %** | **39.1 %** |
|
| 126 |
-
| Gộp toàn bộ | 20.7 % | 23.3 % | 37.5 % |
|
| 127 |
-
|
| 128 |
-
- Gắn đúng ngôn ngữ cho câu: **95.9 %**.
|
| 129 |
-
- Lời nói ở **ngôn ngữ thứ ba** (ngoài cặp của phiên, ví dụ một câu hỏi tiếng Anh trong họp báo vi↔ko):
|
| 130 |
-
2.0 % số token — phiên two-way không nhận dạng được, theo thiết kế.
|
| 131 |
-
- Hai clip kéo con số gộp lên: `f7Y_duSpQjk` (đám đông, nói chồng — Cabin bỏ sót phần lớn lời) và
|
| 132 |
-
`V1HkTKOfOmo` (nhạc nền — bỏ sót phần lớn tiếng Hàn).
|
| 133 |
-
|
| 134 |
-
**Bản dịch Cabin so với phiên dịch viên thật**, 139 cặp (câu gốc → người dịch vs Cabin), chấm mù
|
| 135 |
-
bởi Gemini 2.5 Pro (ẩn nhãn, đảo thứ tự), thang 1–5:
|
| 136 |
-
|
| 137 |
-
| | Trung thành | Đầy đủ | Tự nhiên |
|
| 138 |
-
|---|---|---|---|
|
| 139 |
-
| **Cabin** | **3.91** | **4.29** | **4.08** |
|
| 140 |
-
| Phiên dịch viên | 1.94 | 2.24 | 3.30 |
|
| 141 |
-
|
| 142 |
-
Cabin tốt hơn **112/139 (81 %)**, phiên dịch viên tốt hơn 26, hòa 1. Kiểm tra chéo: một model khác
|
| 143 |
-
(Claude) chấm mù 15 cặp ngẫu nhiên → trùng kết luận với Gemini 14/15.
|
| 144 |
-
|
| 145 |
-
Đọc kết quả này đúng cách:
|
| 146 |
-
- Phiên dịch viên thật **tóm lược, thêm ngữ cảnh, làm mềm** câu nói — với người nghe điều đó thường ổn,
|
| 147 |
-
nhưng bị chấm thấp ở "trung thành". Nhiều trường hợp người dịch sai nghĩa thật ("chọn Nico ở đường
|
| 148 |
-
trên" → "giữ đường trên tốt", "from day one" → "ngày hôm qua").
|
| 149 |
-
- Điểm yếu của Cabin trong các cặp người dịch thắng: **dịch nguyên văn lời ấp úng** ("thua thua thua…" →
|
| 150 |
-
"We lost, we lost. We lost, lost…"), **sai tên riêng** (TheShy → "The Shine", Ulsan Hyundai →
|
| 151 |
-
"Hyundai Viet"), **thuật ngữ game** (버프리/후픽).
|
| 152 |
-
- chrF giữa bản Cabin và lời phiên dịch viên chỉ 23.7 — vì người dịch diễn đạt lại rất nhiều, không phải
|
| 153 |
-
vì Cabin dịch sai. Không dùng chrF này làm điểm chất lượng tuyệt đối.
|
| 154 |
-
|
| 155 |
-
Chi tiết từng clip: `results/production-2026-10-28.md`; điểm từng cặp: `results/judge-pairs.json`.
|
| 156 |
-
|
| 157 |
-
## Nguồn & bản quyền
|
| 158 |
-
|
| 159 |
-
Audio trích từ các video YouTube công khai; quyền đối với nội dung gốc thuộc kênh đăng tải (`channel`,
|
| 160 |
-
`url` trong từng dòng). Bộ dữ liệu chỉ phục vụ kiểm thử nội bộ Cabin AI.
|
| 161 |
-
|
| 162 |
-
---
|
| 163 |
-
Cabin AI Engineering — v2, 2026-10-28.
|
|
|
|
| 1 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
| 2 |
license: mit
|
| 3 |
task_categories:
|
| 4 |
- automatic-speech-recognition
|
| 5 |
- translation
|
| 6 |
+
language:
|
| 7 |
+
- vi
|
| 8 |
+
- en
|
| 9 |
+
- ko
|
| 10 |
+
- ja
|
| 11 |
+
- zh
|
| 12 |
+
- es
|
| 13 |
+
- fr
|
| 14 |
tags:
|
| 15 |
- cabin-ai
|
| 16 |
+
- interpretation
|
| 17 |
- interview
|
| 18 |
+
- consecutive-interpreting
|
| 19 |
+
- test-data
|
|
|
|
| 20 |
size_categories:
|
| 21 |
- n<1K
|
| 22 |
+
configs:
|
| 23 |
+
- config_name: default
|
| 24 |
+
data_files:
|
| 25 |
+
- split: train
|
| 26 |
+
path: data/cabin_interpreter_interviews_test.parquet
|
| 27 |
+
- config_name: verified_turns
|
| 28 |
+
data_files:
|
| 29 |
+
- split: train
|
| 30 |
+
path: verified/data/cabin_interpreter_interviews_verified.parquet
|
| 31 |
---
|
| 32 |
|
| 33 |
+
# Cabin AI - Multilingual Interpreter Interview Test Dataset
|
| 34 |
|
| 35 |
+
Tập dữ liệu video YouTube phỏng vấn người nước ngoài có phiên dịch viên nối tiếp (consecutive interpreter) và MC trao đổi, hỏi đáp 2 chiều để kiểm thử và benchmark ứng dụng dịch thời gian thực **Cabin AI**.
|
|
|
|
| 36 |
|
| 37 |
+
## Tổng quan bộ dữ liệu
|
| 38 |
+
- **Tổng số video tuyển chọn**: 167 video.
|
| 39 |
+
- **Phân bổ theo cặp ngôn ngữ (Language Pairs)**:
|
| 40 |
+
- **VI-EN**: 54 video
|
| 41 |
+
- **EN-JA**: 18 video
|
| 42 |
+
- **EN-KO**: 18 video
|
| 43 |
+
- **VI-KO**: 15 video
|
| 44 |
+
- **VI-JA**: 13 video
|
| 45 |
+
- **EN-ES**: 13 video
|
| 46 |
+
- **EN-ZH**: 12 video
|
| 47 |
+
- **EN-FR**: 11 video
|
| 48 |
+
- **VI-FR**: 9 video
|
| 49 |
+
- **VI-ZH**: 4 video
|
| 50 |
|
| 51 |
+
## Tiêu chí tuyển chọn & Kiểm định
|
| 52 |
+
1. **Có phiên dịch viên (`has_interpreter = True`)**: Video có phiên dịch viên chuyên nghiệp hoặc thông dịch viên song ngữ trực tiếp hỗ trợ giao tiếp.
|
| 53 |
+
2. **MC hỏi đáp 2 chiều (`has_reciprocal_questions = True`)**: MC đặt câu hỏi -> Phiên dịch viên dịch sang ngôn ngữ khách -> Khách trả lời -> Phiên dịch dịch lại cho MC/khán phòng.
|
| 54 |
+
3. **Mẫu âm thanh chuẩn kiểm thử**: Trích xuất mẫu 60s âm thanh thực tế (16kHz mono WAV), lưu trữ trong `data/cabin_interpreter_interviews_test.parquet`.
|
| 55 |
|
| 56 |
+
## Cấu trúc tệp trên Hub
|
| 57 |
+
- `curated_youtube_interpreter_interviews.json`: Danh mục 167 video với thông tin chi tiết (video_id, URL, title, language_pair, duration, channel, verification flags).
|
| 58 |
+
- `data/cabin_interpreter_interviews_test.parquet`: Bảng dữ liệu audio chuẩn hóa và metadata kiểm thử.
|
|
|
|
|
|
|
|
|
|
| 59 |
|
| 60 |
+
## Bộ con `verified_turns` (27 clip có transcript tham chiếu từng lượt)
|
| 61 |
|
| 62 |
+
Thư mục `verified/` là một bộ con riêng, **không thay đổi dữ liệu ở trên**: 27 clip 163–300 s (111.8 phút) đã
|
| 63 |
+
được nghe lại để xác nhận có phiên dịch viên thật, kèm transcript tham chiếu từng lượt (vai trò MC / nhà báo /
|
| 64 |
+
phiên dịch viên / khách, ngôn ngữ, lượt phiên dịch đang dịch câu nào) và kết quả Cabin production ngày 2026-10-28.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 65 |
|
| 66 |
```python
|
| 67 |
from datasets import load_dataset
|
| 68 |
+
verified = load_dataset("doanhlt/cabin-interpreter-interview-test", "verified_turns", split="train")
|
|
|
|
|
|
|
|
|
|
|
|
|
| 69 |
```
|
| 70 |
|
| 71 |
+
Chi tiết cột, cách tạo và kết quả: [`verified/README.md`](verified/README.md).
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
curated_youtube_interpreter_interviews.json
CHANGED
|
The diff for this file is too large to render.
See raw diff
|
|
|
data/cabin_interpreter_interviews_test.parquet
CHANGED
|
@@ -1,3 +1,3 @@
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
-
oid sha256:
|
| 3 |
-
size
|
|
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:e439f961c8822514300e50f6bb722f6869a583fc6aba19c5afbcdb5e025e308c
|
| 3 |
+
size 37525589
|
verified/README.md
ADDED
|
@@ -0,0 +1,143 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# `verified_turns` — 27 clip phỏng vấn có phiên dịch, kèm transcript tham chiếu
|
| 2 |
+
|
| 3 |
+
Bộ dữ liệu kiểm thử **Cabin App / Cabin Translation & ASR Engine** trong đúng kịch bản phỏng vấn
|
| 4 |
+
có người phiên dịch:
|
| 5 |
+
|
| 6 |
+
- **MC / nhà báo hỏi** (thường bằng tiếng Việt),
|
| 7 |
+
- **phiên dịch viên** dịch câu hỏi sang tiếng của khách (Hàn, Anh…),
|
| 8 |
+
- **khách nước ngoài trả lời** bằng tiếng mẹ đẻ,
|
| 9 |
+
- **phiên dịch viên dịch ngược** câu trả lời cho MC và khán giả.
|
| 10 |
+
|
| 11 |
+
**v2: 27 clip, 111.8 phút, 596 lượt nói có transcript tham chiếu**, từ họp báo bóng đá (Park Hang-seo,
|
| 12 |
+
Kim Sang-sik, U23 vs Ulsan…), phỏng vấn eSports MSI 2019, họp báo Miss Grand, sự kiện có phiên dịch
|
| 13 |
+
chuyên nghiệp (ELSA, Autodesk, Lãnh sự quán Ý…).
|
| 14 |
+
|
| 15 |
+
| | |
|
| 16 |
+
|---|---|
|
| 17 |
+
| Clip | 27 (5 từ v1 + 22 mới), mỗi clip 163–300 s (ngắn hơn 180 s khi cả video ngắn hơn) |
|
| 18 |
+
| Cặp ngôn ngữ | vi↔en 15, vi↔ko 12 (một số clip có thêm ngôn ngữ thứ ba: en, ar, th) |
|
| 19 |
+
| Lượt nói | 596, trong đó lượt phiên dịch nối với câu gốc: 184 |
|
| 20 |
+
| Audio | 16 kHz mono WAV (`audio.bytes`) |
|
| 21 |
+
|
| 22 |
+
## Khác gì so với bản 5 mẫu đầu tiên (v1)
|
| 23 |
+
|
| 24 |
+
1. **Sửa metadata v1.** v1 có 5 dòng, tiêu đề/ngôn ngữ của 3 dòng không khớp video thật:
|
| 25 |
+
|
| 26 |
+
| video_id | v1 ghi | Thực tế (YouTube) |
|
| 27 |
+
|---|---|---|
|
| 28 |
+
| `S-WvC8Yamg8` | Minh Nghi phỏng vấn Faker | IG **TheShy** sau trận thắng Team Liquid (vi↔ko) |
|
| 29 |
+
| `KmmzFbPWyRQ` | Miss Grand, vi/en | **SKT Mata**, MSI 2019 (vi↔ko) |
|
| 30 |
+
| `F4DZDOWtfqc` | Giao lưu đạo diễn phim, vi/ko | **G2 Caps**, MSI 2019 (vi↔en) |
|
| 31 |
+
| `D1-Oh0DCR9I` | vi/ko | Meliodas, MSI 2019 — thực tế **vi↔en** |
|
| 32 |
+
| `ugxow6wRjA4` (README v1) | Running Man | Video đã bị gỡ khỏi YouTube, không có trong v2 |
|
| 33 |
+
|
| 34 |
+
Tiêu đề v2 lấy thẳng từ YouTube; vai trò và ngôn ngữ do model nghe audio xác nhận.
|
| 35 |
+
2. **Clip đúng đoạn phiên dịch.** v1 cắt 180 s đầu video (thường là intro). v2 chọn đoạn 180–300 s có
|
| 36 |
+
nhiều vòng *hỏi → dịch → trả lời → dịch* nhất (`clip_start_sec` / `clip_end_sec` trong video gốc).
|
| 37 |
+
3. **Transcript tham chiếu từng lượt** (`turns`): vai trò, ngôn ngữ, thời gian, nội dung nguyên văn, và
|
| 38 |
+
lượt phiên dịch đang dịch câu nào (`interprets`) → có sẵn cặp *câu gốc ↔ bản dịch của người* để so
|
| 39 |
+
với bản dịch của Cabin.
|
| 40 |
+
4. **Kết quả production** của Cabin trên đúng các clip này (bên dưới).
|
| 41 |
+
|
| 42 |
+
## Cột dữ liệu
|
| 43 |
+
|
| 44 |
+
Giữ nguyên toàn bộ cột v1 (cùng tên, cùng kiểu):
|
| 45 |
+
`video_id`, `title`, `url`, `format_type`, `languages` (JSON string), `scenario`, `audio` {bytes, path},
|
| 46 |
+
`sample_rate`, `duration_sec` (độ dài clip).
|
| 47 |
+
|
| 48 |
+
Thêm ở v2:
|
| 49 |
+
|
| 50 |
+
| Cột | Ý nghĩa |
|
| 51 |
+
|---|---|
|
| 52 |
+
| `channel`, `upload_date`, `video_duration_sec` | Từ YouTube |
|
| 53 |
+
| `clip_start_sec`, `clip_end_sec` | Vị trí clip trong video gốc |
|
| 54 |
+
| `category` | football / esports / pageant / event / v1 |
|
| 55 |
+
| `setting` | press_conference, esports_stage, event, … |
|
| 56 |
+
| `interpreter_mode` | consecutive / simultaneous / mixed |
|
| 57 |
+
| `guest_language`, `cycles_in_clip`, `audio_quality`, `notes` | Từ bước sàng lọc |
|
| 58 |
+
| `turns` | JSON: `[{start_sec, end_sec, role, speaker_name, lang, text, interprets}]` |
|
| 59 |
+
| `num_turns`, `num_interpreter_links` | Đếm từ `turns` |
|
| 60 |
+
| `reference_model`, `screen_model` | Model tạo tham chiếu |
|
| 61 |
+
| `in_v1` | Dòng có từ v1 |
|
| 62 |
+
|
| 63 |
+
`role` ∈ mc, journalist, interpreter, guest, audience, narrator, other. `interprets` = chỉ số (0-based)
|
| 64 |
+
của lượt mà lượt phiên dịch đang dịch; `-1` cho các lượt khác.
|
| 65 |
+
|
| 66 |
+
```python
|
| 67 |
+
from datasets import load_dataset
|
| 68 |
+
import json
|
| 69 |
+
ds = load_dataset("doanhlt/cabin-interpreter-interview-test", "verified_turns", split="train")
|
| 70 |
+
row = ds[0]
|
| 71 |
+
turns = json.loads(row["turns"])
|
| 72 |
+
pairs = [(turns[t["interprets"]], t) for t in turns if t["role"] == "interpreter" and t["interprets"] >= 0]
|
| 73 |
+
```
|
| 74 |
+
|
| 75 |
+
## Cách tạo
|
| 76 |
+
|
| 77 |
+
1. Tìm YouTube bằng 28 truy vấn (vi/en): họp báo có phiên dịch, phỏng vấn khách nước ngoài, fan meeting,
|
| 78 |
+
hoa hậu, eSports… → 55 video ứng viên.
|
| 79 |
+
2. **Sàng lọc** (Gemini 2.5 Flash, nghe toàn bộ audio): chỉ giữ video có **phiên dịch viên thật sự nói**
|
| 80 |
+
(không phải phụ đề, lồng tiếng, hay bản tin tóm tắt), chọn đoạn 180–300 s nhiều vòng nhất.
|
| 81 |
+
28 video bị loại: bản tin thuật lại họp báo, phỏng vấn trực tiếp bằng tiếng Anh không qua phiên dịch,
|
| 82 |
+
talkshow *nói về* nghề phiên dịch, hoặc không có cặp hỏi–dịch–đáp. Danh sách và lý do: `excluded` trong
|
| 83 |
+
`verified/curated_verified.json`.
|
| 84 |
+
3. **Transcript tham chiếu** (Gemini 2.5 Pro trên clip): nguyên văn từng lượt, vai trò, ngôn ngữ,
|
| 85 |
+
liên kết lượt phiên dịch.
|
| 86 |
+
|
| 87 |
+
### Lưu ý về tham chiếu
|
| 88 |
+
|
| 89 |
+
- Tham chiếu do **model** tạo, chưa có người duyệt. Đủ tin cậy để so sánh hệ thống / phiên bản với nhau,
|
| 90 |
+
không nên coi là "ground truth" tuyệt đối.
|
| 91 |
+
- `start_sec` / `end_sec` là **ước lượng** của model (sai lệch vài giây), không dùng để cắt từng câu.
|
| 92 |
+
- `interprets` được kiểm tra tay trên một mẫu: phần lớn đúng; một số lượt phiên dịch gộp nhiều câu gốc,
|
| 93 |
+
khi đó chỉ trỏ tới một câu.
|
| 94 |
+
|
| 95 |
+
## Kết quả Cabin production (2026-10-28)
|
| 96 |
+
|
| 97 |
+
Cabin backend đang chạy production (Railway, deploy 2026-10-28 13:07 = `cabin-be` `b529f37`), Soniox +
|
| 98 |
+
Gemini thật, phiên **two-way** vi ↔ ngôn ngữ của khách, phát lại audio theo thời gian thực.
|
| 99 |
+
|
| 100 |
+
**Nhận dạng giọng nói** (CER cho ko, WER cho vi/en; chỉ tính hai ngôn ngữ của phiên, và chỉ clip có
|
| 101 |
+
≥ 40 token của ngôn ngữ đó):
|
| 102 |
+
|
| 103 |
+
| | vi | en | ko |
|
| 104 |
+
|---|---|---|---|
|
| 105 |
+
| Trung vị theo clip | **13.0 %** | **10.1 %** | **39.1 %** |
|
| 106 |
+
| Gộp toàn bộ | 20.7 % | 23.3 % | 37.5 % |
|
| 107 |
+
|
| 108 |
+
- Gắn đúng ngôn ngữ cho câu: **95.9 %**.
|
| 109 |
+
- Lời nói ở **ngôn ngữ thứ ba** (ngoài cặp của phiên, ví dụ một câu hỏi tiếng Anh trong họp báo vi↔ko):
|
| 110 |
+
2.0 % số token — phiên two-way không nhận dạng được, theo thiết kế.
|
| 111 |
+
- Hai clip kéo con số gộp lên: `f7Y_duSpQjk` (đám đông, nói chồng — Cabin bỏ sót phần lớn lời) và
|
| 112 |
+
`V1HkTKOfOmo` (nhạc nền — bỏ sót phần lớn tiếng Hàn).
|
| 113 |
+
|
| 114 |
+
**Bản dịch Cabin so với phiên dịch viên thật**, 139 cặp (câu gốc → người dịch vs Cabin), chấm mù
|
| 115 |
+
bởi Gemini 2.5 Pro (ẩn nhãn, đảo thứ tự), thang 1–5:
|
| 116 |
+
|
| 117 |
+
| | Trung thành | Đầy đủ | Tự nhiên |
|
| 118 |
+
|---|---|---|---|
|
| 119 |
+
| **Cabin** | **3.91** | **4.29** | **4.08** |
|
| 120 |
+
| Phiên dịch viên | 1.94 | 2.24 | 3.30 |
|
| 121 |
+
|
| 122 |
+
Cabin tốt hơn **112/139 (81 %)**, phiên dịch viên tốt hơn 26, hòa 1. Kiểm tra chéo: một model khác
|
| 123 |
+
(Claude) chấm mù 15 cặp ngẫu nhiên → trùng kết luận với Gemini 14/15.
|
| 124 |
+
|
| 125 |
+
Đọc kết quả này đúng cách:
|
| 126 |
+
- Phiên dịch viên thật **tóm lược, thêm ngữ cảnh, làm mềm** câu nói — với người nghe điều đó thường ổn,
|
| 127 |
+
nhưng bị chấm thấp ở "trung thành". Nhiều trường hợp người dịch sai nghĩa thật ("chọn Nico ở đường
|
| 128 |
+
trên" → "giữ đường trên tốt", "from day one" → "ngày hôm qua").
|
| 129 |
+
- Điểm yếu của Cabin trong các cặp người dịch thắng: **dịch nguyên văn lời ấp úng** ("thua thua thua…" →
|
| 130 |
+
"We lost, we lost. We lost, lost…"), **sai tên riêng** (TheShy → "The Shine", Ulsan Hyundai →
|
| 131 |
+
"Hyundai Viet"), **thuật ngữ game** (버프리/후픽).
|
| 132 |
+
- chrF giữa bản Cabin và lời phiên dịch viên chỉ 23.7 — vì người dịch diễn đạt lại rất nhiều, không phải
|
| 133 |
+
vì Cabin dịch sai. Không dùng chrF này làm điểm chất lượng tuyệt đối.
|
| 134 |
+
|
| 135 |
+
Chi tiết từng clip: `verified/results/production-2026-10-28.md`; điểm từng cặp: `verified/results/judge-pairs.json`.
|
| 136 |
+
|
| 137 |
+
## Nguồn & bản quyền
|
| 138 |
+
|
| 139 |
+
Audio trích từ các video YouTube công khai; quyền đối với nội dung gốc thuộc kênh đăng tải (`channel`,
|
| 140 |
+
`url` trong từng dòng). Bộ dữ liệu chỉ phục vụ kiểm thử nội bộ Cabin AI.
|
| 141 |
+
|
| 142 |
+
---
|
| 143 |
+
Cabin AI Engineering — v2, 2026-10-28.
|
verified/curated_verified.json
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|
verified/data/cabin_interpreter_interviews_verified.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:6dab797798f590e666d35f36a57e9770591477111bcd95081d0bf449eeb7af3b
|
| 3 |
+
size 212265894
|
{results → verified/results}/judge-pairs.json
RENAMED
|
File without changes
|
{results → verified/results}/judge-summary.json
RENAMED
|
File without changes
|
{results → verified/results}/production-2026-10-28.md
RENAMED
|
File without changes
|