alksef's picture
Initial release of RUAccent Tiny Compact (INT8 + FST)
d15ef35 verified
|
Raw History Blame Contribute Delete
2.59 kB
metadata
license: mit
language:
  - ru
tags:
  - text-to-speech
  - tts
  - ruaccent
  - russian
  - stress
  - int8
  - onnx

RUAccent Tiny Compact (INT8 + FST)

Оптимизированная и квантованная версия модели RUAccent Tiny для автоматической расстановки ударений и буквы «ё» в русском тексте.

Разработано для использования в TTSBard и библиотеке ruaccent-rs.

Ключевые характеристики

Параметр Исходная RUAccent Tiny RUAccent Tiny Compact Улучшение
Размер на диске ~135 МБ 52.2 МБ -61.3%
Словарь ударений 167 МБ JSON (21 МБ gzip) 4.53 МБ (FST binary) -78.4% (от gzip)
RAM (Working Set) 650 МБ 116 МБ в 5.6 раз меньше
RAM (Private Commit) 706 МБ 103 МБ в 6.8 раз меньше
Время загрузки 2.36 с 0.35 с в 6.7 раз быстрее
Точность 100% baseline 100% совпадение Потери точности: 0

Что оптимизировано:

  1. Словарь dictionary/accents.fst: 3 194 879 слов упакованы в конечный преобразователь (FST Map), отображаемый в память через mmap. Полностью устранены аллокации миллионов объектов String в памяти приложения.
  2. Квантование ONNX (INT8):
    • nn_stress_usage_predictor: 111 МБ → 27.9 МБ (-74.9%).
    • nn_yo_homograph_resolver: 13.7 МБ → 3.5 МБ (-74.1%).
    • nn_omograph/tiny: квантована в исходном проекте (10 МБ).
    • nn_accent: оставлена в FP32 (0.77 МБ).

Структура файлов

  • dictionary/accents.fst — бинарный FST-словарь ударений.
  • dictionary/omographs.json.gz — словарь омографов.
  • dictionary/yo_words.json.gz — словарь слов с «ё».
  • dictionary/yo_homographs.json.gz — словарь омографов с «ё».
  • nn/ — ONNX модели и конфигурации токенизаторов.

Лицензия

MIT License (Denis Petrov, RUAccent).