Datasets:

doanhlt
/

cabin-interpreter-interview-test

@@ -1,28 +1,93 @@
 ---
 language:
 - vi
-- en
 - ko
 - zh
-- ja
 tags:
-- audio
-- speech-recognition
 - interpreter
 - interview
-- benchmark
-- cabin-ai
 size_categories:
-- n<102
 ---
-# Cabin AI - Interpreter & MC Two-Way Interview Test Dataset
-Tập dữ liệu kiểm thử thực tế phục vụ trực tiếp cho ứng dụng Cabin AI (phiên dịch thoại song ngữ hai chiều):
-- **Cấu trúc phỏng vấn**: Phỏng vấn người nước ngoài có thông dịch viên nối tiếp (consecutive interpreting) kết hợp MC hỏi đáp hai chiều (MC hỏi tiếng Việt -> Thông dịch viên dịch sang ngoại ngữ -> Khách nước ngoài trả lời -> Thông dịch viên dịch ngược lại tiếng Việt).
-- **Quy mô lô dữ liệu hàng ngày**: 52 video YouTube (đã trích xuất và tải sẵn audio 16kHz mono WAV sẵn sàng cho benchmark ASR).
-- **Mục tiêu sử dụng**:
-  1. Kiểm thử độ trễ ngắt câu (VAD) và tự động nhận diện người nói (MC, Khách mời, Phiên dịch viên).
-  2. Đo lường tỷ lệ WER/CER chuyển đổi ngôn ngữ linh hoạt giữa tiếng Việt và tiếng nước ngoài (Anh, Hàn, Trung, Nhật...).
-  3. Đánh giá chất lượng dịch thuật 2 chiều trong các kịch bản thực tế: họp báo, phỏng vấn thể thao, giao lưu nghệ sĩ quốc tế.
-- **Tần suất cập nhật**: Lên lịch tự động thu thập định kỳ mỗi ngày tối thiểu 50 video theo yêu cầu.

 ---
 language:
 - vi
 - ko
+- en
 - zh
+license: mit
+task_categories:
+- automatic-speech-recognition
+- translation
 tags:
+- cabin-ai
 - interpreter
 - interview
+- consecutive-interpretation
+- bilingual
+- test-benchmark
 size_categories:
+- n<1K
+configs:
+- config_name: v1_audio_clips
+  data_files: data/cabin_interpreter_interviews_test.parquet
+- config_name: videos
+  data_files: data/videos.jsonl
+- config_name: window_segments
+  data_files: data/window_segments.jsonl
+- config_name: auto_segments
+  data_files: data/auto_segments.jsonl
 ---
+# Cabin AI - Interpreter Interview Benchmark Dataset
+Tập dữ liệu kiểm thử cho Cabin App (ASR + dịch hai chiều) trong kịch bản phỏng vấn / họp báo có **phiên dịch viên**:
+MC hoặc phóng viên hỏi bằng tiếng Việt, phiên dịch dịch sang tiếng khách, khách trả lời bằng tiếng mẹ đẻ, phiên dịch dịch ngược về tiếng Việt.
+## v2 (2026-10-28): thêm 12 video, nhãn từng lượt nói, sửa nhãn ngôn ngữ v1
+- **17 video** (5 của v1 + 12 mới: họp báo HLV Park Hang-seo, Hudson, Polking, Troussier, U23 Việt Nam, sự kiện diễn viên Trung Quốc...).
+- Mỗi video có một **cửa sổ 3 phút** nhiều lượt qua lại nhất: tổng 51 phút, **368 lượt nói** có ngôn ngữ + lời thoại nguyên văn, **129 lần đổi ngôn ngữ**.
+- Toàn bộ video: **1.794 lượt nói** có nhãn ngôn ngữ tự động (không có lời thoại) để test dài.
+- Cặp: ko–vi 6 video, en–vi 6, ko + en–vi 4, zh–vi 1.
+### Cách chọn video
+1. Tìm trên YouTube (họp báo HLV ngoại, phỏng vấn có phiên dịch...).
+2. Cắt lượt nói bằng VAD (silero), gán ngôn ngữ từng lượt bằng SenseVoice. **Bỏ** video gần như một ngôn ngữ (không có phiên dịch thật): 7 video bị loại.
+3. Chọn cửa sổ 3 phút có nhiều lần đổi ngôn ngữ nhất.
+4. Gán ngôn ngữ + lời thoại nguyên văn từng lượt trong cửa sổ bằng **Gemini 2.5 Pro**.
+### Sửa nhãn ngôn ngữ v1 (nghe lại thực tế)
+| Video | v1 ghi | Thực tế |
+|---|---|---|
+| `D1-Oh0DCR9I` (MSI 2019, Meliodas) | vi, ko | **en, vi** |
+| `KmmzFbPWyRQ` | vi, en | **ko, vi** |
+| `F4DZDOWtfqc` | vi, ko | **en, vi** |
+| `S-WvC8Yamg8` | vi, ko, en | ko, vi |
+## Cấu trúc
+| file | nội dung |
+|---|---|
+| `data/videos.jsonl` | 1 dòng / video: `video_id`, `url`, `title`, `channel`, `duration_sec`, `languages_heard`, `v1_languages`, `window` (`start_sec`, `end_sec`, `segments`, `language_switches`), `lang_min_auto`, `switches_per_min_auto` |
+| `data/window_segments.jsonl` | 1 dòng / lượt nói trong cửa sổ: `video_id`, `start_sec`, `end_sec` (giây trong video gốc), `lang` (vi / ko / en / zh / none / other), `transcript`, `auto_lang`, `sensevoice_tag` |
+| `data/auto_segments.jsonl` | mọi lượt nói của cả video: `video_id`, `start_sec`, `end_sec`, `auto_lang`, `sensevoice_tag` |
+| `data/cabin_interpreter_interviews_test.parquet` | v1: 5 đoạn audio 3 phút (16 kHz WAV) + mô tả |
+| `rehydrate.py` | tải lại audio từ YouTube và cắt đúng các cửa sổ (`pip install -U "yt-dlp[default]" soundfile`) |
+| Video | Tiêu đề | Cặp | Cửa sổ | Lượt | Đổi ngôn ngữ |
+|---|---|---|---|---|---|
+| `RyH0nits7X4` | HLV Park Hang Seo xúc động tại buổi họp báo riêng cuối cùng,nói thẳng  | en–ko–vi | 2243–2423 s | 35 | 11 |
+| `IZThxTIqHIU` | Toàn cảnh phần trả lời họp báo sau trận Malaysia của HLV Park Hang-seo | en–ko–vi | 2–182 s | 20 | 11 |
+| `WjUnGqqRLlI` | HLV Park Hang-seo "tức giận" với phóng viên Việt Nam khi bị hỏi về vấn | ko–vi | 58–238 s | 27 | 12 |
+| `C6Mw-tguOFs` | HLV Park Hang-seo: ”Bùi Tiến Dũng là cầu thủ duy nhất chắc suất đá AFF | ko–vi | 99–279 s | 20 | 2 |
+| `pS567sNYvP0` | Full họp báo Việt Nam vs Trung Quốc: Thầy Park yêu cầu Duy Mạnh rời họ | ko–vi | 742–922 s | 23 | 3 |
+| `6S6S6z_J9BQ` | Đội tuyển Việt Nam họp báo trực tuyến: HLV Park Hang Seo giải mã đội t | en–ko–vi | 191–371 s | 31 | 12 |
+| `sq4r4MQP-6Q` | HLV Park Hang Seo: "Chưa bao giờ tôi thấy kiếm 1 điểm khó đến vậy" | V | en–ko–vi | 1013–1193 s | 42 | 10 |
+| `j_yCW7Wq58E` | Full họp báo Thái Lan 0-2 Việt Nam: HLV Hudson đổ lỗi thể lực, thầy Ki | en–vi | 115–295 s | 16 | 4 |
+| `GIrv2Q9rGz4` | HLV Polking toát mồ hôi khi nói về tấm thẻ đỏ của Văn Hậu, mong HLV Po | en–vi | 565–745 s | 18 | 7 |
+| `snUaXFvW54U` | Họp báo U23 Việt Nam (có phiên dịch): HLV Malaysia bỏ họp, HLV Thái La | en–vi | 1076–1256 s | 21 | 10 |
+| `udQQ6I8NP7c` | DV Hứa Khải cực ga lăng và tinh tế với Châu Dã tại sự kiện quảng bá ph | zh–vi | 1225–1405 s | 24 | 8 |
+| `tul-DCsQZNM` | HỌP BÁO BẢNG B MÔN BÓNG ĐÁ NAM SEA GAMES 32: HLV Troussier nói gì trướ | en–vi | 755–935 s | 15 | 7 |
+| `D1-Oh0DCR9I` | Khoảnh khắc cân cả MSI 2019 của anh Thông Dịch Viên Việt Nam - Phỏng v | en–vi (v1 ghi: ko, vi) | 28–208 s | 22 | 4 |
+| `S-WvC8Yamg8` | Minh Nghi Phỏng Vấn Tuyển Thủ Quốc Tế & Faker MSI 2019 | ko–vi (v1 ghi: en, ko, vi) | 100–280 s | 15 | 7 |
+| `KmmzFbPWyRQ` | Phỏng vấn Hoa hậu / Giám khảo quốc tế Miss Grand tại Việt Nam có phiên | ko–vi (v1 ghi: en, vi) | 1–181 s | 13 | 5 |
+| `F4DZDOWtfqc` | Giao lưu đạo diễn & diễn viên phim điện ảnh quốc tế tại TP.HCM (Họp bá | en–vi (v1 ghi: ko, vi) | 88–268 s | 11 | 9 |
+| `RDFmUwuQRQw` | Faker nói gì khi trải nghiệm rank Việt tại phỏng vấn MSI | ko–vi (v1 ghi: en/ko, vi) | 30–210 s | 15 | 7 |
+## Lưu ý sử dụng
+- **Chỉ để kiểm thử**, không dùng để train: lời thoại là output của Gemini (điều khoản Google không cho train model cạnh tranh), và audio là video YouTube **giấy phép tiêu chuẩn**.
+- Vì vậy v2 **không đăng lại audio**: chỉ có ID video, mốc thời gian và nhãn; dùng `rehydrate.py` để tải. Đoạn audio của v1 (parquet) cũng là audio YouTube giấy phép tiêu chuẩn, nhãn `license: mit` của repo chỉ áp dụng cho metadata và nhãn, không áp dụng cho audio đó.
+- Lời thoại do Gemini 2.5 Pro viết, chưa được người kiểm lại; lượt rất ngắn hoặc nhiều người nói chồng có thể sai.
+---
+Tạo bởi Cabin AI Engineering Team.

data/auto_segments.jsonl ADDED Viewed

The diff for this file is too large to render. See raw diff

data/videos.jsonl ADDED Viewed

	@@ -0,0 +1,17 @@

+{"video_id": "RyH0nits7X4", "url": "https://www.youtube.com/watch?v=RyH0nits7X4", "title": "HLV Park Hang Seo xúc động tại buổi họp báo riêng cuối cùng,nói thẳng về mục tiêu World Cup của ĐTVN", "channel": "Quán Thể Thao - Viettel Media", "upload_date": "20221122", "duration_sec": 3540, "in_v1": false, "v1_languages": null, "languages_heard": ["en", "ko", "vi"], "speech_min": 46.5, "lang_min_auto": {"zh": 1.3, "vi": 19.9, "ko": 24.4, "ja": 0.5, "en": 0.4}, "switches_per_min_auto": 3.38, "window": {"start_sec": 2243.34, "end_sec": 2423.34, "segments": 35, "labelled": 35, "language_switches": 11}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "IZThxTIqHIU", "url": "https://www.youtube.com/watch?v=IZThxTIqHIU", "title": "Toàn cảnh phần trả lời họp báo sau trận Malaysia của HLV Park Hang-seo | Vietnam 1-0 Malaysia", "channel": "VIE Football", "upload_date": "20191011", "duration_sec": 1110, "in_v1": false, "v1_languages": null, "languages_heard": ["en", "ko", "vi"], "speech_min": 14.8, "lang_min_auto": {"vi": 4.8, "en": 4.5, "ko": 4.9, "ja": 0.4, "zh": 0.2}, "switches_per_min_auto": 3.91, "window": {"start_sec": 1.94, "end_sec": 181.94, "segments": 20, "labelled": 20, "language_switches": 11}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "WjUnGqqRLlI", "url": "https://www.youtube.com/watch?v=WjUnGqqRLlI", "title": "HLV Park Hang-seo \"tức giận\" với phóng viên Việt Nam khi bị hỏi về vấn đề giảm lương mùa dịch", "channel": "Ted Trần TV", "upload_date": "20200818", "duration_sec": 834, "in_v1": false, "v1_languages": null, "languages_heard": ["ko", "vi"], "speech_min": 9.7, "lang_min_auto": {"en": 0.1, "vi": 7.1, "ja": 0.4, "zh": 0.5, "ko": 1.6}, "switches_per_min_auto": 4.72, "window": {"start_sec": 57.9, "end_sec": 237.9, "segments": 27, "labelled": 27, "language_switches": 12}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "C6Mw-tguOFs", "url": "https://www.youtube.com/watch?v=C6Mw-tguOFs", "title": "HLV Park Hang-seo: ”Bùi Tiến Dũng là cầu thủ duy nhất chắc suất đá AFF Cup 2022”", "channel": "Báo Bóng đá ", "upload_date": "20221220", "duration_sec": 708, "in_v1": false, "v1_languages": null, "languages_heard": ["ko", "vi"], "speech_min": 3.9, "lang_min_auto": {"vi": 1.4, "zh": 0.4, "ja": 0.4, "ko": 1.7, "en": 0.0}, "switches_per_min_auto": 13.53, "window": {"start_sec": 99.25, "end_sec": 279.25, "segments": 20, "labelled": 20, "language_switches": 2}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "pS567sNYvP0", "url": "https://www.youtube.com/watch?v=pS567sNYvP0", "title": "Full họp báo Việt Nam vs Trung Quốc: Thầy Park yêu cầu Duy Mạnh rời họp báo, chịu mọi áp lực về mình", "channel": "Ted Trần TV", "upload_date": "20211006", "duration_sec": 1326, "in_v1": false, "v1_languages": null, "languages_heard": ["ko", "vi"], "speech_min": 17.0, "lang_min_auto": {"vi": 11.9, "en": 1.9, "zh": 0.2, "ko": 2.2, "ja": 0.7}, "switches_per_min_auto": 2.83, "window": {"start_sec": 742.42, "end_sec": 922.42, "segments": 23, "labelled": 23, "language_switches": 3}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "6S6S6z_J9BQ", "url": "https://www.youtube.com/watch?v=6S6S6z_J9BQ", "title": "Đội tuyển Việt Nam họp báo trực tuyến: HLV Park Hang Seo giải mã đội tuyển Úc", "channel": "Ngoài đường piste", "upload_date": "20210906", "duration_sec": 846, "in_v1": false, "v1_languages": null, "languages_heard": ["en", "ko", "vi"], "speech_min": 11.9, "lang_min_auto": {"vi": 6.3, "en": 0.4, "zh": 0.1, "ko": 4.5, "ja": 0.5}, "switches_per_min_auto": 4.98, "window": {"start_sec": 190.67, "end_sec": 370.67, "segments": 31, "labelled": 31, "language_switches": 12}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "sq4r4MQP-6Q", "url": "https://www.youtube.com/watch?v=sq4r4MQP-6Q", "title": "HLV Park Hang Seo: \"Chưa bao giờ tôi thấy kiếm 1 điểm khó đến vậy\" | VTV24", "channel": "VTV24", "upload_date": "20211111", "duration_sec": 1278, "in_v1": false, "v1_languages": null, "languages_heard": ["en", "ko", "vi"], "speech_min": 17.4, "lang_min_auto": {"vi": 6.7, "zh": 0.5, "en": 3.1, "ja": 0.4, "ko": 6.7}, "switches_per_min_auto": 3.67, "window": {"start_sec": 1013.23, "end_sec": 1193.23, "segments": 42, "labelled": 42, "language_switches": 10}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "j_yCW7Wq58E", "url": "https://www.youtube.com/watch?v=j_yCW7Wq58E", "title": "Full họp báo Thái Lan 0-2 Việt Nam: HLV Hudson đổ lỗi thể lực, thầy Kim khen nức nở Lê Giang Patrik", "channel": "Báo Bóng đá ", "upload_date": "20260822", "duration_sec": 486, "in_v1": false, "v1_languages": null, "languages_heard": ["en", "vi"], "speech_min": 7.8, "lang_min_auto": {"vi": 6.1, "ko": 1.2, "zh": 0.0, "en": 0.5, "ja": 0.0}, "switches_per_min_auto": 1.54, "window": {"start_sec": 114.51, "end_sec": 294.51, "segments": 16, "labelled": 16, "language_switches": 4}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "GIrv2Q9rGz4", "url": "https://www.youtube.com/watch?v=GIrv2Q9rGz4", "title": "HLV Polking toát mồ hôi khi nói về tấm thẻ đỏ của Văn Hậu, mong HLV Popov ở lại Việt Nam lâu hơn", "channel": "Báo Bóng đá ", "upload_date": "20260910", "duration_sec": 756, "in_v1": false, "v1_languages": null, "languages_heard": ["en", "vi"], "speech_min": 10.2, "lang_min_auto": {"vi": 5.2, "en": 4.7, "ja": 0.2, "zh": 0.0}, "switches_per_min_auto": 2.16, "window": {"start_sec": 564.72, "end_sec": 744.72, "segments": 18, "labelled": 18, "language_switches": 7}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "snUaXFvW54U", "url": "https://www.youtube.com/watch?v=snUaXFvW54U", "title": "Họp báo U23 Việt Nam (có phiên dịch): HLV Malaysia bỏ họp, HLV Thái Lan tự tin, HLV Lào khiêm tốn", "channel": "Vlog Ngoài đường piste", "upload_date": "20230429", "duration_sec": 3240, "in_v1": false, "v1_languages": null, "languages_heard": ["en", "vi"], "speech_min": 43.6, "lang_min_auto": {"vi": 36.6, "en": 4.6, "zh": 1.1, "ja": 0.2, "ko": 1.1}, "switches_per_min_auto": 2.52, "window": {"start_sec": 1075.66, "end_sec": 1255.66, "segments": 21, "labelled": 21, "language_switches": 10}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "udQQ6I8NP7c", "url": "https://www.youtube.com/watch?v=udQQ6I8NP7c", "title": "DV Hứa Khải cực ga lăng và tinh tế với Châu Dã tại sự kiện quảng bá phim Nhất Âu Xuân", "channel": "8 Sài Gòn", "upload_date": "20260922", "duration_sec": 1860, "in_v1": false, "v1_languages": null, "languages_heard": ["vi", "zh"], "speech_min": 24.9, "lang_min_auto": {"zh": 12.8, "vi": 11.7, "ja": 0.3, "en": 0.1}, "switches_per_min_auto": 2.49, "window": {"start_sec": 1225.39, "end_sec": 1405.39, "segments": 24, "labelled": 24, "language_switches": 8}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "tul-DCsQZNM", "url": "https://www.youtube.com/watch?v=tul-DCsQZNM", "title": "HỌP BÁO BẢNG B MÔN BÓNG ĐÁ NAM SEA GAMES 32: HLV Troussier nói gì trước ngày ra quân?", "channel": "NEXT SPORTS", "upload_date": "20230429", "duration_sec": 2028, "in_v1": false, "v1_languages": null, "languages_heard": ["en", "vi"], "speech_min": 22.4, "lang_min_auto": {"ja": 0.5, "vi": 11.0, "en": 10.8, "zh": 0.1}, "switches_per_min_auto": 2.67, "window": {"start_sec": 754.83, "end_sec": 934.83, "segments": 15, "labelled": 15, "language_switches": 7}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "D1-Oh0DCR9I", "url": "https://www.youtube.com/watch?v=D1-Oh0DCR9I", "title": "Khoảnh khắc cân cả MSI 2019 của anh Thông Dịch Viên Việt Nam - Phỏng vấn Meliodas & Faker", "channel": null, "upload_date": null, "duration_sec": 354, "in_v1": true, "v1_languages": ["vi", "ko"], "languages_heard": ["en", "vi"], "speech_min": 3.5, "lang_min_auto": {"en": 2.2, "vi": 1.0, "zh": 0.1, "ja": 0.1}, "switches_per_min_auto": 4.34, "window": {"start_sec": 27.66, "end_sec": 207.66, "segments": 22, "labelled": 22, "language_switches": 4}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "S-WvC8Yamg8", "url": "https://www.youtube.com/watch?v=S-WvC8Yamg8", "title": "Minh Nghi Phỏng Vấn Tuyển Thủ Quốc Tế & Faker MSI 2019", "channel": null, "upload_date": null, "duration_sec": 276, "in_v1": true, "v1_languages": ["vi", "ko", "en"], "languages_heard": ["ko", "vi"], "speech_min": 3.7, "lang_min_auto": {"zh": 0.1, "ko": 2.9, "vi": 0.7}, "switches_per_min_auto": 2.16, "window": {"start_sec": 100.24, "end_sec": 280.24, "segments": 15, "labelled": 15, "language_switches": 7}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "KmmzFbPWyRQ", "url": "https://www.youtube.com/watch?v=KmmzFbPWyRQ", "title": "Phỏng vấn Hoa hậu / Giám khảo quốc tế Miss Grand tại Việt Nam có phiên dịch viên song ngữ", "channel": null, "upload_date": null, "duration_sec": 318, "in_v1": true, "v1_languages": ["vi", "en"], "languages_heard": ["ko", "vi"], "speech_min": 4.6, "lang_min_auto": {"vi": 1.9, "ko": 2.7, "zh": 0.0}, "switches_per_min_auto": 2.39, "window": {"start_sec": 1.46, "end_sec": 181.46, "segments": 13, "labelled": 13, "language_switches": 5}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "F4DZDOWtfqc", "url": "https://www.youtube.com/watch?v=F4DZDOWtfqc", "title": "Giao lưu đạo diễn & diễn viên phim điện ảnh quốc tế tại TP.HCM (Họp báo ra mắt có phiên dịch viên)", "channel": null, "upload_date": null, "duration_sec": 294, "in_v1": true, "v1_languages": ["vi", "ko"], "languages_heard": ["en", "vi"], "speech_min": 4.6, "lang_min_auto": {"zh": 0.0, "vi": 2.7, "en": 1.8}, "switches_per_min_auto": 2.85, "window": {"start_sec": 88.37, "end_sec": 268.37, "segments": 11, "labelled": 11, "language_switches": 9}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}
+{"video_id": "RDFmUwuQRQw", "url": "https://www.youtube.com/watch?v=RDFmUwuQRQw", "title": "Faker nói gì khi trải nghiệm rank Việt tại phỏng vấn MSI", "channel": null, "upload_date": null, "duration_sec": 216, "in_v1": true, "v1_languages": ["vi", "en/ko"], "languages_heard": ["ko", "vi"], "speech_min": 3.0, "lang_min_auto": {"ko": 1.9, "vi": 1.1, "zh": 0.0}, "switches_per_min_auto": 3.31, "window": {"start_sec": 29.55, "end_sec": 209.55, "segments": 15, "labelled": 15, "language_switches": 7}, "licence": "YouTube standard licence: audio NOT redistributed here, re-download with rehydrate.py"}

data/window_segments.jsonl ADDED Viewed

The diff for this file is too large to render. See raw diff

rehydrate.py ADDED Viewed

	@@ -0,0 +1,29 @@

+"""Re-download the audio and cut the labelled windows (needs yt-dlp + ffmpeg).
+    pip install -U "yt-dlp[default]" soundfile numpy
+    python rehydrate.py [--out windows] [--full]
+-> <out>/<video_id>.wav: the 16 kHz mono window of data/videos.jsonl (or the whole video with --full).
+Segment times in data/window_segments.jsonl are seconds in the ORIGINAL video.
+"""
+import json, os, subprocess, sys
+import soundfile as sf
+out = sys.argv[sys.argv.index('--out') + 1] if '--out' in sys.argv else 'windows'
+full = '--full' in sys.argv
+os.makedirs(out, exist_ok=True)
+for line in open(os.path.join(os.path.dirname(os.path.abspath(__file__)), 'data', 'videos.jsonl'), encoding='utf-8'):
+    v = json.loads(line)
+    dst = os.path.join(out, v['video_id'] + '.wav')
+    if os.path.exists(dst):
+        continue
+    tmp = os.path.join(out, v['video_id'] + '.full.wav')
+    subprocess.run(['yt-dlp', '-f', 'bestaudio', '-x', '--audio-format', 'wav', '--postprocessor-args',
+                    'ExtractAudio:-ar 16000 -ac 1', '-o', tmp.replace('.wav', '.%(ext)s'), '--', v['video_id']], check=True)
+    if full:
+        os.replace(tmp, dst)
+        continue
+    x, sr = sf.read(tmp, dtype='float32')
+    w = v['window']
+    sf.write(dst, x[int(w['start_sec'] * sr): int(w['end_sec'] * sr)], sr, subtype='PCM_16')
+    os.remove(tmp)
+    print(dst)