midas48/russian-asr-correction

Синтетические пары исправления ASR

Основной генератор: Qwen/Qwen3-4B-Instruct-2507, локальный инференс через Transformers. Домен — короткие русскоязычные голосовые запросы, имена, названия, бытовые фразы.

Правильные цели берутся из заголовков русской Википедии, категории фильмов, актёров, музыкантов и писателей. Используется MediaWiki Categorymembers API. Сырые ответы API и очищенные цели сохранены в локальном проекте; на Hub опубликованы итоговые пары и сводный аудит генерации. Содержимое статей не копируется. В каждой строке есть ссылка на исходную статью.

Поля: input, output, identity, topic, batch_id, generator, source_url, source_title, raw_input, noise_source, noise_type. Нормализация: lowercase, ё→е, пунктуация заменена пробелами. Исходные ответы и промпты сохранены локально в llm_raw/; четыре pilot-файла показывают последовательные варианты промпта на Qwen2.5-3B-Instruct. Пилоты и отклонённые партии этой модели не добавляются в обучающий датасет. После их ручной проверки выбран Qwen3 4B с few-shot промптом и температурой 0.7. Свободная генерация этой модели тоже отклонена: основной датасет создаётся только с заданными правильными целями. LLM генерирует повреждённый input, output сверяется со списком заголовков. Эталоны задания исключаются до передачи целей LLM.

Итоговый корпус гибридный: LLM слишком часто копирует заданный текст. Примерно 25% её identity-ответов сохраняются, к остальным применяется воспроизводимая фонетическая замена, удаление буквы или изменение границы слов. Поле raw_input содержит исходный ответ модели, noise_source=rule_fallback обозначает такое преобразование; эти ошибки НЕ приписываются LLM. noise_source=llm означает, что изменение пришло непосредственно из её ответа. Числа по источникам ошибок сохранены в generation_audit.json и показаны в ноутбуке.

Фильтры: корректность структуры, длина, кириллица в цели, ограничение CER, удаление повторов input, исключение точных пересечений с эталонами задания. Семантическая корректность всех синтетических пар не гарантирована. Точные числа и SHA-256 находятся в generation_audit.json.

Train/validation разделены по нормализованной цели с seed 42; все варианты одного правильного текста находятся в одной части. В дополнительном обучении identity-примеры добавляются только из train. Эталоны реальных аудио не передавались LLM и не использовались как обучающие примеры.

Загрузка: datasets.load_from_disk('data/hf_dataset') или datasets.load_dataset('json', data_files={'train': 'data/train.jsonl', 'validation': 'data/validation.jsonl'}).

Публичный датасет: midas48/russian-asr-correction.

Состав и загрузка с Hub

Всего 1518 пар: 1366 train, 152 validation. Источники: 97 изменений LLM, 1076 ошибок по правилам, 345 identity-пар. Это синтетический учебный корпус для коррекции текста ASR, а не транскрипции реальных аудиозаписей. Аудио и тестовые эталоны не включены.

from datasets import load_dataset

dataset = load_dataset("midas48/russian-asr-correction")
print(dataset["train"][0])

Поля

• input: текст с синтетической ошибкой либо identity-пример.
• output: нормализованный правильный текст.
• identity: совпадают ли input и output.
• raw_input: исходный ответ генератора до применения правил.
• noise_source, noise_type: источник и тип преобразования.
• generator, batch_id, topic: модель, партия и тема генерации.
• source_title, source_url: исходный заголовок Википедии и ссылка.

Ограничения

Домен ограничен преимущественно именами и названиями из Википедии. Искусственные ошибки могут отличаться от ошибок Whisper; качество коррекции на реальных аудио следует оценивать отдельно. В учебном эксперименте дообучение T5 на этих парах не улучшило test WER.