RUAccent Tiny Compact (INT8 + FST)
Оптимизированная и квантованная версия модели RUAccent Tiny для автоматической расстановки ударений и буквы «ё» в русском тексте.
Разработано для использования в TTSBard и библиотеке ruaccent-rs.
Ключевые характеристики
| Параметр | Исходная RUAccent Tiny | RUAccent Tiny Compact | Улучшение |
|---|---|---|---|
| Размер на диске | ~135 МБ | 52.2 МБ | -61.3% |
| Словарь ударений | 167 МБ JSON (21 МБ gzip) | 4.53 МБ (FST binary) | -78.4% (от gzip) |
| RAM (Working Set) | 650 МБ | 116 МБ | в 5.6 раз меньше |
| RAM (Private Commit) | 706 МБ | 103 МБ | в 6.8 раз меньше |
| Время загрузки | 2.36 с | 0.35 с | в 6.7 раз быстрее |
| Точность | 100% baseline | 100% совпадение | Потери точности: 0 |
Что оптимизировано:
- Словарь
dictionary/accents.fst: 3 194 879 слов упакованы в конечный преобразователь (FST Map), отображаемый в память черезmmap. Полностью устранены аллокации миллионов объектовStringв памяти приложения. - Квантование ONNX (INT8):
nn_stress_usage_predictor: 111 МБ → 27.9 МБ (-74.9%).nn_yo_homograph_resolver: 13.7 МБ → 3.5 МБ (-74.1%).nn_omograph/tiny: квантована в исходном проекте (10 МБ).nn_accent: оставлена в FP32 (0.77 МБ).
Структура файлов
dictionary/accents.fst— бинарный FST-словарь ударений.dictionary/omographs.json.gz— словарь омографов.dictionary/yo_words.json.gz— словарь слов с «ё».dictionary/yo_homographs.json.gz— словарь омографов с «ё».nn/— ONNX модели и конфигурации токенизаторов.
Лицензия
MIT License (Denis Petrov, RUAccent).