doanhlt commited on
Commit
fbf9b6c
·
verified ·
1 Parent(s): 53a6596

Restore 76bfa5a6 (README, curated JSON, parquet were overwritten by 53a6596e by mistake); add verified_turns subset in verified/

Browse files
README.md CHANGED
@@ -1,163 +1,71 @@
1
  ---
2
- language:
3
- - vi
4
- - ko
5
- - en
6
  license: mit
7
  task_categories:
8
  - automatic-speech-recognition
9
  - translation
 
 
 
 
 
 
 
 
10
  tags:
11
  - cabin-ai
12
- - interpreter
13
  - interview
14
- - consecutive-interpretation
15
- - bilingual
16
- - test-benchmark
17
  size_categories:
18
  - n<1K
 
 
 
 
 
 
 
 
 
19
  ---
20
 
21
- # Cabin AI — Interpreter Interview Benchmark (v2)
22
 
23
- Bộ dữ liệu kiểm thử **Cabin App / Cabin Translation & ASR Engine** trong đúng kịch bản phỏng vấn
24
- có người phiên dịch:
25
 
26
- - **MC / nhà báo hỏi** (thường bằng tiếng Việt),
27
- - **phiên dịch viên** dịch câu hỏi sang tiếng của khách (Hàn, Anh…),
28
- - **khách nước ngoài trả lời** bằng tiếng mẹ đẻ,
29
- - **phiên dịch viên dịch ngược** câu trả lời cho MC và khán giả.
 
 
 
 
 
 
 
 
 
30
 
31
- **v2: 27 clip, 111.8 phút, 596 lượt nói có transcript tham chiếu**, từ họp báo bóng đá (Park Hang-seo,
32
- Kim Sang-sik, U23 vs Ulsan…), phỏng vấn eSports MSI 2019, họp báo Miss Grand, sự kiện có phiên dịch
33
- chuyên nghiệp (ELSA, Autodesk, Lãnh sự quán Ý…).
 
34
 
35
- | | |
36
- |---|---|
37
- | Clip | 27 (5 từ v1 + 22 mới), mỗi clip 163–300 s (ngắn hơn 180 s khi cả video ngắn hơn) |
38
- | Cặp ngôn ngữ | vi↔en 15, vi↔ko 12 (một số clip có thêm ngôn ngữ thứ ba: en, ar, th) |
39
- | Lượt nói | 596, trong đó lượt phiên dịch nối với câu gốc: 184 |
40
- | Audio | 16 kHz mono WAV (`audio.bytes`) |
41
 
42
- ## Có gì mới so với v1
43
 
44
- 1. **Sửa metadata v1.** v1 có 5 dòng, tiêu đề/ngôn ngữ của 3 dòng không khớp video thật:
45
-
46
- | video_id | v1 ghi | Thực tế (YouTube) |
47
- |---|---|---|
48
- | `S-WvC8Yamg8` | Minh Nghi phỏng vấn Faker | IG **TheShy** sau trận thắng Team Liquid (vi↔ko) |
49
- | `KmmzFbPWyRQ` | Miss Grand, vi/en | **SKT Mata**, MSI 2019 (vi↔ko) |
50
- | `F4DZDOWtfqc` | Giao lưu đạo diễn phim, vi/ko | **G2 Caps**, MSI 2019 (vi↔en) |
51
- | `D1-Oh0DCR9I` | vi/ko | Meliodas, MSI 2019 — thực tế **vi↔en** |
52
- | `ugxow6wRjA4` (README v1) | Running Man | Video đã bị gỡ khỏi YouTube, không có trong v2 |
53
-
54
- Tiêu đề v2 lấy thẳng từ YouTube; vai trò và ngôn ngữ do model nghe audio xác nhận.
55
- 2. **Clip đúng đoạn phiên dịch.** v1 cắt 180 s đầu video (thường là intro). v2 chọn đoạn 180–300 s có
56
- nhiều vòng *hỏi → dịch → trả lời → dịch* nhất (`clip_start_sec` / `clip_end_sec` trong video gốc).
57
- 3. **Transcript tham chiếu từng lượt** (`turns`): vai trò, ngôn ngữ, thời gian, nội dung nguyên văn, và
58
- lượt phiên dịch đang dịch câu nào (`interprets`) → có sẵn cặp *câu gốc ↔ bản dịch của người* để so
59
- với bản dịch của Cabin.
60
- 4. **Kết quả production** của Cabin trên đúng các clip này (bên dưới).
61
-
62
- ## Cột dữ liệu
63
-
64
- Giữ nguyên toàn bộ cột v1 (cùng tên, cùng kiểu):
65
- `video_id`, `title`, `url`, `format_type`, `languages` (JSON string), `scenario`, `audio` {bytes, path},
66
- `sample_rate`, `duration_sec` (độ dài clip).
67
-
68
- Thêm ở v2:
69
-
70
- | Cột | Ý nghĩa |
71
- |---|---|
72
- | `channel`, `upload_date`, `video_duration_sec` | Từ YouTube |
73
- | `clip_start_sec`, `clip_end_sec` | Vị trí clip trong video gốc |
74
- | `category` | football / esports / pageant / event / v1 |
75
- | `setting` | press_conference, esports_stage, event, … |
76
- | `interpreter_mode` | consecutive / simultaneous / mixed |
77
- | `guest_language`, `cycles_in_clip`, `audio_quality`, `notes` | Từ bước sàng lọc |
78
- | `turns` | JSON: `[{start_sec, end_sec, role, speaker_name, lang, text, interprets}]` |
79
- | `num_turns`, `num_interpreter_links` | Đếm từ `turns` |
80
- | `reference_model`, `screen_model` | Model tạo tham chiếu |
81
- | `in_v1` | Dòng có từ v1 |
82
-
83
- `role` ∈ mc, journalist, interpreter, guest, audience, narrator, other. `interprets` = chỉ số (0-based)
84
- của lượt mà lượt phiên dịch đang dịch; `-1` cho các lượt khác.
85
 
86
  ```python
87
  from datasets import load_dataset
88
- import json
89
- ds = load_dataset("doanhlt/cabin-interpreter-interview-test", split="train")
90
- row = ds[0]
91
- turns = json.loads(row["turns"])
92
- pairs = [(turns[t["interprets"]], t) for t in turns if t["role"] == "interpreter" and t["interprets"] >= 0]
93
  ```
94
 
95
- ## Cách tạo
96
-
97
- 1. Tìm YouTube bằng 28 truy vấn (vi/en): họp báo có phiên dịch, phỏng vấn khách nước ngoài, fan meeting,
98
- hoa hậu, eSports… → 55 video ứng viên.
99
- 2. **Sàng lọc** (Gemini 2.5 Flash, nghe toàn bộ audio): chỉ giữ video có **phiên dịch viên thật sự nói**
100
- (không phải phụ đề, lồng tiếng, hay bản tin tóm tắt), chọn đoạn 180–300 s nhiều vòng nhất.
101
- 28 video bị loại: bản tin thuật lại họp báo, phỏng vấn trực tiếp bằng tiếng Anh không qua phiên dịch,
102
- talkshow *nói về* nghề phiên dịch, hoặc không có cặp hỏi–dịch–đáp. Danh sách và lý do: `excluded` trong
103
- `curated_youtube_interpreter_interviews.json`.
104
- 3. **Transcript tham chiếu** (Gemini 2.5 Pro trên clip): nguyên văn từng lượt, vai trò, ngôn ngữ,
105
- liên kết lượt phiên dịch.
106
-
107
- ### Lưu ý về tham chiếu
108
-
109
- - Tham chiếu do **model** tạo, chưa có người duyệt. Đủ tin cậy để so sánh hệ thống / phiên bản với nhau,
110
- không nên coi là "ground truth" tuyệt đối.
111
- - `start_sec` / `end_sec` là **ước lượng** của model (sai lệch vài giây), không dùng để cắt từng câu.
112
- - `interprets` được kiểm tra tay trên một mẫu: phần lớn đúng; một số lượt phiên dịch gộp nhiều câu gốc,
113
- khi đó chỉ trỏ tới một câu.
114
-
115
- ## Kết quả Cabin production (2026-10-28)
116
-
117
- Cabin backend đang chạy production (Railway, deploy 2026-10-28 13:07 = `cabin-be` `b529f37`), Soniox +
118
- Gemini thật, phiên **two-way** vi ↔ ngôn ngữ của khách, phát lại audio theo thời gian thực.
119
-
120
- **Nhận dạng giọng nói** (CER cho ko, WER cho vi/en; chỉ tính hai ngôn ngữ của phiên, và chỉ clip có
121
- ≥ 40 token của ngôn ngữ đó):
122
-
123
- | | vi | en | ko |
124
- |---|---|---|---|
125
- | Trung vị theo clip | **13.0 %** | **10.1 %** | **39.1 %** |
126
- | Gộp toàn bộ | 20.7 % | 23.3 % | 37.5 % |
127
-
128
- - Gắn đúng ngôn ngữ cho câu: **95.9 %**.
129
- - Lời nói ở **ngôn ngữ thứ ba** (ngoài cặp của phiên, ví dụ một câu hỏi tiếng Anh trong họp báo vi↔ko):
130
- 2.0 % số token — phiên two-way không nhận dạng được, theo thiết kế.
131
- - Hai clip kéo con số gộp lên: `f7Y_duSpQjk` (đám đông, nói chồng — Cabin bỏ sót phần lớn lời) và
132
- `V1HkTKOfOmo` (nhạc nền — bỏ sót phần lớn tiếng Hàn).
133
-
134
- **Bản dịch Cabin so với phiên dịch viên thật**, 139 cặp (câu gốc → người dịch vs Cabin), chấm mù
135
- bởi Gemini 2.5 Pro (ẩn nhãn, đảo thứ tự), thang 1–5:
136
-
137
- | | Trung thành | Đầy đủ | Tự nhiên |
138
- |---|---|---|---|
139
- | **Cabin** | **3.91** | **4.29** | **4.08** |
140
- | Phiên dịch viên | 1.94 | 2.24 | 3.30 |
141
-
142
- Cabin tốt hơn **112/139 (81 %)**, phiên dịch viên tốt hơn 26, hòa 1. Kiểm tra chéo: một model khác
143
- (Claude) chấm mù 15 cặp ngẫu nhiên → trùng kết luận với Gemini 14/15.
144
-
145
- Đọc kết quả này đúng cách:
146
- - Phiên dịch viên thật **tóm lược, thêm ngữ cảnh, làm mềm** câu nói — với người nghe điều đó thường ổn,
147
- nhưng bị chấm thấp ở "trung thành". Nhiều trường hợp người dịch sai nghĩa thật ("chọn Nico ở đường
148
- trên" → "giữ đường trên tốt", "from day one" → "ngày hôm qua").
149
- - Điểm yếu của Cabin trong các cặp người dịch thắng: **dịch nguyên văn lời ấp úng** ("thua thua thua…" →
150
- "We lost, we lost. We lost, lost…"), **sai tên riêng** (TheShy → "The Shine", Ulsan Hyundai →
151
- "Hyundai Viet"), **thuật ngữ game** (버프리/후픽).
152
- - chrF giữa bản Cabin và lời phiên dịch viên chỉ 23.7 — vì người dịch diễn đạt lại rất nhiều, không phải
153
- vì Cabin dịch sai. Không dùng chrF này làm điểm chất lượng tuyệt đối.
154
-
155
- Chi tiết từng clip: `results/production-2026-10-28.md`; điểm từng cặp: `results/judge-pairs.json`.
156
-
157
- ## Nguồn & bản quyền
158
-
159
- Audio trích từ các video YouTube công khai; quyền đối với nội dung gốc thuộc kênh đăng tải (`channel`,
160
- `url` trong từng dòng). Bộ dữ liệu chỉ phục vụ kiểm thử nội bộ Cabin AI.
161
-
162
- ---
163
- Cabin AI Engineering — v2, 2026-10-28.
 
1
  ---
 
 
 
 
2
  license: mit
3
  task_categories:
4
  - automatic-speech-recognition
5
  - translation
6
+ language:
7
+ - vi
8
+ - en
9
+ - ko
10
+ - ja
11
+ - zh
12
+ - es
13
+ - fr
14
  tags:
15
  - cabin-ai
16
+ - interpretation
17
  - interview
18
+ - consecutive-interpreting
19
+ - test-data
 
20
  size_categories:
21
  - n<1K
22
+ configs:
23
+ - config_name: default
24
+ data_files:
25
+ - split: train
26
+ path: data/cabin_interpreter_interviews_test.parquet
27
+ - config_name: verified_turns
28
+ data_files:
29
+ - split: train
30
+ path: verified/data/cabin_interpreter_interviews_verified.parquet
31
  ---
32
 
33
+ # Cabin AI - Multilingual Interpreter Interview Test Dataset
34
 
35
+ Tập dữ liệu video YouTube phỏng vấn người nước ngoài có phiên dịch viên nối tiếp (consecutive interpreter) và MC trao đổi, hỏi đáp 2 chiều để kiểm thử và benchmark ứng dụng dịch thời gian thực **Cabin AI**.
 
36
 
37
+ ## Tổng quan bộ dữ liệu
38
+ - **Tổng số video tuyển chọn**: 167 video.
39
+ - **Phân bổ theo cặp ngôn ngữ (Language Pairs)**:
40
+ - **VI-EN**: 54 video
41
+ - **EN-JA**: 18 video
42
+ - **EN-KO**: 18 video
43
+ - **VI-KO**: 15 video
44
+ - **VI-JA**: 13 video
45
+ - **EN-ES**: 13 video
46
+ - **EN-ZH**: 12 video
47
+ - **EN-FR**: 11 video
48
+ - **VI-FR**: 9 video
49
+ - **VI-ZH**: 4 video
50
 
51
+ ## Tiêu chí tuyển chọn & Kiểm định
52
+ 1. **Có phiên dịch viên (`has_interpreter = True`)**: Video có phiên dịch viên chuyên nghiệp hoặc thông dịch viên song ngữ trực tiếp hỗ trợ giao tiếp.
53
+ 2. **MC hỏi đáp 2 chiều (`has_reciprocal_questions = True`)**: MC đặt câu hỏi -> Phiên dịch viên dịch sang ngôn ngữ khách -> Khách trả lời -> Phiên dịch dịch lại cho MC/khán phòng.
54
+ 3. **Mẫu âm thanh chuẩn kiểm thử**: Trích xuất mẫu 60s âm thanh thực tế (16kHz mono WAV), lưu trữ trong `data/cabin_interpreter_interviews_test.parquet`.
55
 
56
+ ## Cấu trúc tệp trên Hub
57
+ - `curated_youtube_interpreter_interviews.json`: Danh mục 167 video với thông tin chi tiết (video_id, URL, title, language_pair, duration, channel, verification flags).
58
+ - `data/cabin_interpreter_interviews_test.parquet`: Bảng dữ liệu audio chuẩn hóa và metadata kiểm thử.
 
 
 
59
 
60
+ ## Bộ con `verified_turns` (27 clip có transcript tham chiếu từng lượt)
61
 
62
+ Thư mục `verified/` là một bộ con riêng, **không thay đổi dữ liệu ở trên**: 27 clip 163–300 s (111.8 phút) đã
63
+ được nghe lại để xác nhận có phiên dịch viên thật, kèm transcript tham chiếu từng lượt (vai trò MC / nhà báo /
64
+ phiên dịch viên / khách, ngôn ngữ, lượt phiên dịch đang dịch câu nào) và kết quả Cabin production ngày 2026-10-28.
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
65
 
66
  ```python
67
  from datasets import load_dataset
68
+ verified = load_dataset("doanhlt/cabin-interpreter-interview-test", "verified_turns", split="train")
 
 
 
 
69
  ```
70
 
71
+ Chi tiết cột, cách tạo và kết quả: [`verified/README.md`](verified/README.md).
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
curated_youtube_interpreter_interviews.json CHANGED
The diff for this file is too large to render. See raw diff
 
data/cabin_interpreter_interviews_test.parquet CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:6dab797798f590e666d35f36a57e9770591477111bcd95081d0bf449eeb7af3b
3
- size 212265894
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:e439f961c8822514300e50f6bb722f6869a583fc6aba19c5afbcdb5e025e308c
3
+ size 37525589
verified/README.md ADDED
@@ -0,0 +1,143 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # `verified_turns` — 27 clip phỏng vấn có phiên dịch, kèm transcript tham chiếu
2
+
3
+ Bộ dữ liệu kiểm thử **Cabin App / Cabin Translation & ASR Engine** trong đúng kịch bản phỏng vấn
4
+ có người phiên dịch:
5
+
6
+ - **MC / nhà báo hỏi** (thường bằng tiếng Việt),
7
+ - **phiên dịch viên** dịch câu hỏi sang tiếng của khách (Hàn, Anh…),
8
+ - **khách nước ngoài trả lời** bằng tiếng mẹ đẻ,
9
+ - **phiên dịch viên dịch ngược** câu trả lời cho MC và khán giả.
10
+
11
+ **v2: 27 clip, 111.8 phút, 596 lượt nói có transcript tham chiếu**, từ họp báo bóng đá (Park Hang-seo,
12
+ Kim Sang-sik, U23 vs Ulsan…), phỏng vấn eSports MSI 2019, họp báo Miss Grand, sự kiện có phiên dịch
13
+ chuyên nghiệp (ELSA, Autodesk, Lãnh sự quán Ý…).
14
+
15
+ | | |
16
+ |---|---|
17
+ | Clip | 27 (5 từ v1 + 22 mới), mỗi clip 163–300 s (ngắn hơn 180 s khi cả video ngắn hơn) |
18
+ | Cặp ngôn ngữ | vi↔en 15, vi↔ko 12 (một số clip có thêm ngôn ngữ thứ ba: en, ar, th) |
19
+ | Lượt nói | 596, trong đó lượt phiên dịch nối với câu gốc: 184 |
20
+ | Audio | 16 kHz mono WAV (`audio.bytes`) |
21
+
22
+ ## Khác gì so với bản 5 mẫu đầu tiên (v1)
23
+
24
+ 1. **Sửa metadata v1.** v1 có 5 dòng, tiêu đề/ngôn ngữ của 3 dòng không khớp video thật:
25
+
26
+ | video_id | v1 ghi | Thực tế (YouTube) |
27
+ |---|---|---|
28
+ | `S-WvC8Yamg8` | Minh Nghi phỏng vấn Faker | IG **TheShy** sau trận thắng Team Liquid (vi↔ko) |
29
+ | `KmmzFbPWyRQ` | Miss Grand, vi/en | **SKT Mata**, MSI 2019 (vi↔ko) |
30
+ | `F4DZDOWtfqc` | Giao lưu đạo diễn phim, vi/ko | **G2 Caps**, MSI 2019 (vi↔en) |
31
+ | `D1-Oh0DCR9I` | vi/ko | Meliodas, MSI 2019 — thực tế **vi↔en** |
32
+ | `ugxow6wRjA4` (README v1) | Running Man | Video đã bị gỡ khỏi YouTube, không có trong v2 |
33
+
34
+ Tiêu đề v2 lấy thẳng từ YouTube; vai trò và ngôn ngữ do model nghe audio xác nhận.
35
+ 2. **Clip đúng đoạn phiên dịch.** v1 cắt 180 s đầu video (thường là intro). v2 chọn đoạn 180–300 s có
36
+ nhiều vòng *hỏi → dịch → trả lời → dịch* nhất (`clip_start_sec` / `clip_end_sec` trong video gốc).
37
+ 3. **Transcript tham chiếu từng lượt** (`turns`): vai trò, ngôn ngữ, thời gian, nội dung nguyên văn, và
38
+ lượt phiên dịch đang dịch câu nào (`interprets`) → có sẵn cặp *câu gốc ↔ bản dịch của người* để so
39
+ với bản dịch của Cabin.
40
+ 4. **Kết quả production** của Cabin trên đúng các clip này (bên dưới).
41
+
42
+ ## Cột dữ liệu
43
+
44
+ Giữ nguyên toàn bộ cột v1 (cùng tên, cùng kiểu):
45
+ `video_id`, `title`, `url`, `format_type`, `languages` (JSON string), `scenario`, `audio` {bytes, path},
46
+ `sample_rate`, `duration_sec` (độ dài clip).
47
+
48
+ Thêm ở v2:
49
+
50
+ | Cột | Ý nghĩa |
51
+ |---|---|
52
+ | `channel`, `upload_date`, `video_duration_sec` | Từ YouTube |
53
+ | `clip_start_sec`, `clip_end_sec` | Vị trí clip trong video gốc |
54
+ | `category` | football / esports / pageant / event / v1 |
55
+ | `setting` | press_conference, esports_stage, event, … |
56
+ | `interpreter_mode` | consecutive / simultaneous / mixed |
57
+ | `guest_language`, `cycles_in_clip`, `audio_quality`, `notes` | Từ bước sàng lọc |
58
+ | `turns` | JSON: `[{start_sec, end_sec, role, speaker_name, lang, text, interprets}]` |
59
+ | `num_turns`, `num_interpreter_links` | Đếm từ `turns` |
60
+ | `reference_model`, `screen_model` | Model tạo tham chiếu |
61
+ | `in_v1` | Dòng có từ v1 |
62
+
63
+ `role` ∈ mc, journalist, interpreter, guest, audience, narrator, other. `interprets` = chỉ số (0-based)
64
+ của lượt mà lượt phiên dịch đang dịch; `-1` cho các lượt khác.
65
+
66
+ ```python
67
+ from datasets import load_dataset
68
+ import json
69
+ ds = load_dataset("doanhlt/cabin-interpreter-interview-test", "verified_turns", split="train")
70
+ row = ds[0]
71
+ turns = json.loads(row["turns"])
72
+ pairs = [(turns[t["interprets"]], t) for t in turns if t["role"] == "interpreter" and t["interprets"] >= 0]
73
+ ```
74
+
75
+ ## Cách tạo
76
+
77
+ 1. Tìm YouTube bằng 28 truy vấn (vi/en): họp báo có phiên dịch, phỏng vấn khách nước ngoài, fan meeting,
78
+ hoa hậu, eSports… → 55 video ứng viên.
79
+ 2. **Sàng lọc** (Gemini 2.5 Flash, nghe toàn bộ audio): chỉ giữ video có **phiên dịch viên thật sự nói**
80
+ (không phải phụ đề, lồng tiếng, hay bản tin tóm tắt), chọn đoạn 180–300 s nhiều vòng nhất.
81
+ 28 video bị loại: bản tin thuật lại họp báo, phỏng vấn trực tiếp bằng tiếng Anh không qua phiên dịch,
82
+ talkshow *nói về* nghề phiên dịch, hoặc không có cặp hỏi–dịch–đáp. Danh sách và lý do: `excluded` trong
83
+ `verified/curated_verified.json`.
84
+ 3. **Transcript tham chiếu** (Gemini 2.5 Pro trên clip): nguyên văn từng lượt, vai trò, ngôn ngữ,
85
+ liên kết lượt phiên dịch.
86
+
87
+ ### Lưu ý về tham chiếu
88
+
89
+ - Tham chiếu do **model** tạo, chưa có người duyệt. Đủ tin cậy để so sánh hệ thống / phiên bản với nhau,
90
+ không nên coi là "ground truth" tuyệt đối.
91
+ - `start_sec` / `end_sec` là **ước lượng** của model (sai lệch vài giây), không dùng để cắt từng câu.
92
+ - `interprets` được kiểm tra tay trên một mẫu: phần lớn đúng; một số lượt phiên dịch gộp nhiều câu gốc,
93
+ khi đó chỉ trỏ tới một câu.
94
+
95
+ ## Kết quả Cabin production (2026-10-28)
96
+
97
+ Cabin backend đang chạy production (Railway, deploy 2026-10-28 13:07 = `cabin-be` `b529f37`), Soniox +
98
+ Gemini thật, phiên **two-way** vi ↔ ngôn ngữ của khách, phát lại audio theo thời gian thực.
99
+
100
+ **Nhận dạng giọng nói** (CER cho ko, WER cho vi/en; chỉ tính hai ngôn ngữ của phiên, và chỉ clip có
101
+ ≥ 40 token của ngôn ngữ đó):
102
+
103
+ | | vi | en | ko |
104
+ |---|---|---|---|
105
+ | Trung vị theo clip | **13.0 %** | **10.1 %** | **39.1 %** |
106
+ | Gộp toàn bộ | 20.7 % | 23.3 % | 37.5 % |
107
+
108
+ - Gắn đúng ngôn ngữ cho câu: **95.9 %**.
109
+ - Lời nói ở **ngôn ngữ thứ ba** (ngoài cặp của phiên, ví dụ một câu hỏi tiếng Anh trong họp báo vi↔ko):
110
+ 2.0 % số token — phiên two-way không nhận dạng được, theo thiết kế.
111
+ - Hai clip kéo con số gộp lên: `f7Y_duSpQjk` (đám đông, nói chồng — Cabin bỏ sót phần lớn lời) và
112
+ `V1HkTKOfOmo` (nhạc nền — bỏ sót phần lớn tiếng Hàn).
113
+
114
+ **Bản dịch Cabin so với phiên dịch viên thật**, 139 cặp (câu gốc → người dịch vs Cabin), chấm mù
115
+ bởi Gemini 2.5 Pro (ẩn nhãn, đảo thứ tự), thang 1–5:
116
+
117
+ | | Trung thành | Đầy đủ | Tự nhiên |
118
+ |---|---|---|---|
119
+ | **Cabin** | **3.91** | **4.29** | **4.08** |
120
+ | Phiên dịch viên | 1.94 | 2.24 | 3.30 |
121
+
122
+ Cabin tốt hơn **112/139 (81 %)**, phiên dịch viên tốt hơn 26, hòa 1. Kiểm tra chéo: một model khác
123
+ (Claude) chấm mù 15 cặp ngẫu nhiên → trùng kết luận với Gemini 14/15.
124
+
125
+ Đọc kết quả này đúng cách:
126
+ - Phiên dịch viên thật **tóm lược, thêm ngữ cảnh, làm mềm** câu nói — với người nghe điều đó thường ổn,
127
+ nhưng bị chấm thấp ở "trung thành". Nhiều trường hợp người dịch sai nghĩa thật ("chọn Nico ở đường
128
+ trên" → "giữ đường trên tốt", "from day one" → "ngày hôm qua").
129
+ - Điểm yếu của Cabin trong các cặp người dịch thắng: **dịch nguyên văn lời ấp úng** ("thua thua thua…" →
130
+ "We lost, we lost. We lost, lost…"), **sai tên riêng** (TheShy → "The Shine", Ulsan Hyundai →
131
+ "Hyundai Viet"), **thuật ngữ game** (버프리/후픽).
132
+ - chrF giữa bản Cabin và lời phiên dịch viên chỉ 23.7 — vì người dịch diễn đạt lại rất nhiều, không phải
133
+ vì Cabin dịch sai. Không dùng chrF này làm điểm chất lượng tuyệt đối.
134
+
135
+ Chi tiết từng clip: `verified/results/production-2026-10-28.md`; điểm từng cặp: `verified/results/judge-pairs.json`.
136
+
137
+ ## Nguồn & bản quyền
138
+
139
+ Audio trích từ các video YouTube công khai; quyền đối với nội dung gốc thuộc kênh đăng tải (`channel`,
140
+ `url` trong từng dòng). Bộ dữ liệu chỉ phục vụ kiểm thử nội bộ Cabin AI.
141
+
142
+ ---
143
+ Cabin AI Engineering — v2, 2026-10-28.
verified/curated_verified.json ADDED
The diff for this file is too large to render. See raw diff
 
verified/data/cabin_interpreter_interviews_verified.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:6dab797798f590e666d35f36a57e9770591477111bcd95081d0bf449eeb7af3b
3
+ size 212265894
{results → verified/results}/judge-pairs.json RENAMED
File without changes
{results → verified/results}/judge-summary.json RENAMED
File without changes
{results → verified/results}/production-2026-10-28.md RENAMED
File without changes