Upload fp32 HolosTTS bundle (official onnx/, vocab truncated to 181)

holos-onnx/README.md

@@ -1,9 +1,9 @@
-# HolosTTS → Promin ONNX bundle (`holos-onnx`)
+# HolosTTS → Promin ONNX bundle (`holos-onnx`, fp32)
 
 Багатоетапний ONNX-бандл для рушія
 [Promin TTS](https://github.com/Karnemorkon/promin-tts) (`format_version: 2`).
 Це не один граф, а набір сесій: Rust рахує вирівнювання кадрів між ними й
-передає `f0`/`energy`, тому довжина тексту не фіксується в графі.
+передає `f0`/`energy`.
 
 > **Голоси та згода дикторів.** `voices.npz` містить 27 пресетів із HolosTTS.
 > Автор HolosTTS зазначає, що диктори не надавали згоди на синтез їхніх голосів
@@ -13,27 +13,65 @@
 > людини. Не використовуйте ці пресети для публікації або монетизації
 > синтезованого мовлення без окремого дозволу диктора.
 
+## Джерело та версія
+
+Це **офіційний fp32-бандл** із релізу
+[`patriotyk/HolosTTS`](https://huggingface.co/patriotyk/HolosTTS) від
+2026-11-01, зазеркалений без донавчання. Використано `onnx/` та нові
+`holos.pt` / `voices.pt` / `voice_encoder.pt`:
+
+| Файл | SHA-256 |
+|---|---|
+| `holos.pt` | `ecb427ea9dce0ec5d3587e36016cfd25f447581eb1eb9579d35d28cef5d7dda6` |
+| `voices.pt` | `58033c9bedfed0a34d581310f89e1053a091c80356e23ab18baec2881c861ef8` |
+| `voice_encoder.pt` | `81d6134dbfe105131d908333f5132a01c471e80d9070f5f381745eabdd48fe74` |
+
+Маніфест змінено лише в одному місці: `vocab` обрізано з 184 до **181**
+записів. Офіційний список має 184 символи, але лише 181 унікальний, тоді як
+таблиці ембедінгів мають 181 рядок. Зайві три записи — дублікати апострофа та
+рідкісні `̩`/`ᵻ`, яких немає в таблиці; без обрізання токенізатор міг би
+видати id ≥ 181 і зламати граф. Перші 181 запис збігаються з попереднім
+опублікованим вокабуляром.
+
 ## Вміст
 
 | Файл | Розмір | Призначення |
 |---|---|---|
-| `holos_onnx.json` | 2.2 KB | маніфест: вокабуляр, частота, етапи, ліміти |
-| `encoder.onnx` | 265 MB | `tokens[1,T]`, `voice[1,256]`, `speed[1]` → `acoustic_tokens[1,512,T]`, `prosodic_tokens[1,T,512]`, `durations[1,T]` |
+| `holos_onnx.json` | 2.5 KB | маніфест: вокабуляр, частота, етапи, ліміти |
+| `encoder.onnx` | 266 MB | `tokens[1,T]`, `voice[1,256]`, `speed[1]` → `acoustic_tokens[1,512,T]`, `prosodic_tokens[1,T,512]`, `durations[1,T]` |
 | `prosody.onnx` | 68 MB | `prosodic_tokens`, `frame_to_token[F]`, `voice` → `f0[1,2F]`, `energy[1,2F]` |
-| `decoder.onnx` | 210 MB | exact-декодер на всю репліку → `audio[1,600F]` |
-| `source.onnx` | 13 KB | `f0[1,2F]` → збудження `source[1,600F]` для стрімінгу |
+| `decoder.onnx` | 212 MB | exact-декодер на всю репліку → `audio[1,600F]` |
+| `source.onnx` | 2.5 MB | `f0[1,2F]` → збудження `source[1,600F]` для стрімінгу |
 | `decoder_window.onnx` | 210 MB | віконний декодер, споживає готовий `source` |
-| `voices.npz` | 29 KB | 27 пресетів голосів (`names`, `values[27,256]`) |
+| `voices.npz` | 26 KB | 27 пресетів голосів (`names`, `values[27,256]`) |
+| `../tts/voice_encoder.onnx` | 195 MB | **окремо**: wave `[1,N]` @24 кГц → voice `[1,256]` для клонування |
+
+24 кГц, 600 семплів на кадр (25 мс).
+
+## Ліміт 1000 кадрів
 
-24 кГц, 600 семплів на кадр (25 мс), `max_frames: 20000` (≈8.3 хв на
-репліку). Стрімінг: чанк 10 кадрів (250 мс), контекст 2 кадри.
+`max_frames: 1000` — це **жорсткий ліміт усередині графів**, а не порада.
+Офіційний експорт робить `seq_length = 1000` статичним; 987 кадрів
+працюють, а 1125 падають в ONNX Runtime з помилкою broadcast
+(`600000 by 675000`). 1000 кадрів — це ≈25 с аудіо на один виклик моделі.
+
+Promin TTS v0.19+ ріже занадто довгі фонемні частини по пробілах/межах слів,
+а якщо передбачена довжина все одно перевищує ліміт — ділить шматок навпіл і
+повторює. Інші клієнти мають робити так само або відхиляти задовгі входи.
+
+## Стрімінг
+
+`chunk_frames: 40` (1 с), `context_frames: 20` (0.5 с), вікно 80 кадрів
+(2 с). Для fp32 exact- і віконний декодер дають **біт-у-біт однакове**
+аудіо на тестових фразах.
 
 ## Використання
 
 ```bash
 pip install huggingface_hub
 python -c "from huggingface_hub import snapshot_download; \
-  snapshot_download('Morkon/holos-native-models', allow_patterns=['holos-onnx/*'], \
+  snapshot_download('Morkon/holos-native-models', \
+  allow_patterns=['holos-onnx/*', 'tts/voice_encoder.onnx'], \
   local_dir='models')"
 ```
 
@@ -41,32 +79,39 @@ python -c "from huggingface_hub import snapshot_download; \
 `holos-onnx/holos_onnx.json` і підніме всі етапи. Якщо каталогу моделей
 немає зовсім, Promin завантажує бандл автоматично з цього репозиторію.
 
-Маніфест можна читати як контракт: імена файлів, вокабуляр (181 запис),
-частота й розмірності беруться з нього, а не з коду.
+`voice_encoder.onnx` лежить у `models/tts/voice_encoder.onnx` (або плоско в
+`models/voice_encoder.onnx`). Без нього клонування вимкнено.
+
+**Старі клони несумісні.** Новий `voice_encoder.pt` дає інший 256-вимірний
+простір, ніж попередній: ембеддінги з `speakers/*.npy`, зроблені старим
+енкодером, не можна використовувати з новими вагами. Перезапишіть кожен
+клонований голос із референсного WAV (енролмент заново).
+
+## Перевірка
+
+- ONNX Runtime 1.31.0, IR 10 / opset 20 — графи завантажуються.
+- Офіційний fp32: exact і streaming біт-у-біт; 987 кадрів — OK, 1125 —
+  очікувана помилка broadcast.
+- Новий `voice_encoder.onnx` звірено з PyTorch `VoiceEncoder`: maxdiff
+  ≈1e-5, cosine 1.000000.
+- Синтезоване мовлення `Speaker_0`, закодоване новим енкодером, найближче до
+  пресета `Speaker_0` (cosine 0.55–0.64; наступний пресет ≈0.33).
+- INT8-бандл (окремо, `holos-onnx-int8/`) має log-spectrogram correlation
+  ≈0.88–0.95 з fp32; streaming vs exact ≈0.71. Для максимальної якості
+  використовуйте fp32.
+
+Скрипт експорту/перевірки: `tools/export_holos_bundle.py` у репозиторії
+Promin TTS. Контрольні суми — у `SHA256SUMS`.
 
 ## Походження та ліцензія
 
 - Ваги й архітектура: [patriotyk/HolosTTS](https://github.com/patriotyk/HolosTTS),
   модель [`patriotyk/HolosTTS`](https://huggingface.co/patriotyk/HolosTTS)
-  (MIT, © автор HolosTTS). Експорт виконано з `holos.pt` і `voices.pt` без
-  донавчання.
-- ONNX-обгортки й експортер: [Promin TTS](https://github.com/Karnemorkon/promin-tts),
-  MIT.
+  (MIT, © автор HolosTTS). Це офіційний ONNX-експорт, без донавчання.
+- `voice_encoder.onnx` експортовано з офіційного `voice_encoder.pt`
+  (PyTorch → ONNX, opset 20) у Promin TTS; інтерфейс
+  `wave[1,N] → voice[1,256]` збережено.
 - **Голосові пресети (`voices.npz`) не покриваються MIT як дозволом на
   використання голосу.** Згода дикторів не підтверджена; див. попередження
   вище та [discussion #5](https://huggingface.co/patriotyk/HolosTTS/discussions/5).
 - Репозиторій загалом має окрему ліцензію через Gemma-вербалізатор.
-
-## Перевірка
-
-Експорт звірено з PyTorch на трьох фразах:
-
-- `encoder` — `allclose` з точністю ~2e-6, `durations` збігаються точно;
-- `prosody` — `f0`/`energy` з точністю ~5e-5;
-- `decoder` — довжина `600·F` семплів, RMS-відношення ≈1.000, косинус 0.995+;
-- `decoder_window` — максимальна різниця ~4e-6 (детермінований `source`);
-- довільні довжини 1, 2, 7, 37, 101 кадр — коректна довжина й скінченні
-  значення.
-
-Скрипт експорту й перевірки: `tools/export_holos_bundle.py` у репозиторії
-Promin TTS. Контрольні суми — у `SHA256SUMS`.

holos-onnx/SHA256SUMS

@@ -1,7 +1,7 @@
-2f1d44f9baeedf7a554bdbe5005a63feefbba0e2a51bba1b8b6e23aabff0134c  decoder.onnx
-47f946460121dd614d0d3ec79ea4dcef84a6cafdac9fb30a72d9082d1d915192  decoder_window.onnx
-8119a7ea027b9fbf555589e3170c42a90c046280ef31abd6fc2585386f5d5bfb  encoder.onnx
-455a9e2fd704cf5d1608008252e7b0b11bae61c6ef6247b108c1cd723f21b575  holos_onnx.json
-493b4425e61736777cbb685c89fa5f92dc45abee1d1016ce54ec2e44b0153f97  prosody.onnx
-4d2056202c9d3bb31648d98ba13de92c02cacefccf4e7e6ff26a9a7eac909726  source.onnx
-9f096dc8b9559b29f538bc398104713fe4a1ee065a073789c49232bd55d62c94  voices.npz
+948e4ebcc0fac1c8a31f5804d65459275a841cffff78e75d11b4fb14ae183060  encoder.onnx
+ac5ca06e46b4e4c44670ecb94744e4f5d4214931bfb070b1c63e9f50dbe5e901  prosody.onnx
+8de4592bea18d15398a949a60ea794c3affec31845623179f5245d48e301c800  decoder.onnx
+d75b9820a694a8bd6468aa6925817603f0853e2f906afd34cb3723772f65ee64  decoder_window.onnx
+ced5242be197382289663f8a0b2760c92593b7c8a4dfedb976e43b0420aeac6b  source.onnx
+5124ef2311e03c89228cc62ffdf8cefd88f8c07f0d8161063a03538af8f1b436  voices.npz
+c244c21c8e2d888cc540fed98a5eaaf4d110a5ee56bde290468d55c9d54e24b8  holos_onnx.json

holos-onnx/decoder.onnx

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:2f1d44f9baeedf7a554bdbe5005a63feefbba0e2a51bba1b8b6e23aabff0134c
-size 209537078
+oid sha256:8de4592bea18d15398a949a60ea794c3affec31845623179f5245d48e301c800
+size 212379551

holos-onnx/decoder_window.onnx

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:47f946460121dd614d0d3ec79ea4dcef84a6cafdac9fb30a72d9082d1d915192
-size 209523994
+oid sha256:d75b9820a694a8bd6468aa6925817603f0853e2f906afd34cb3723772f65ee64
+size 209942803

holos-onnx/encoder.onnx

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:8119a7ea027b9fbf555589e3170c42a90c046280ef31abd6fc2585386f5d5bfb
-size 264753169
+oid sha256:948e4ebcc0fac1c8a31f5804d65459275a841cffff78e75d11b4fb14ae183060
+size 266448569

holos-onnx/holos_onnx.json

@@ -190,13 +190,25 @@
   ],
   "sample_rate": 24000,
   "samples_per_frame": 600,
-  "max_frames": 20000,
+  "max_frames": 1000,
   "decoder_mode": "exact",
   "alignment_format": "gather",
+  "attention_format": "tensorrt_fused_bmm",
+  "projection_format": "fused_qkv_swiglu",
+  "shape_inference_format": "onnx_standard",
+  "tensorrt_profile": {
+    "min_text_length": 2,
+    "opt_text_length": 128,
+    "max_text_length": 512,
+    "min_frames": 2,
+    "opt_frames": 256,
+    "max_frames": 1000
+  },
   "streaming": {
-    "source": "source.onnx",
     "decoder": "decoder_window.onnx",
-    "chunk_frames": 10,
-    "context_frames": 2
+    "source": "source.onnx",
+    "chunk_frames": 40,
+    "context_frames": 20,
+    "window_frames": 80
   }
 }

holos-onnx/prosody.onnx

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:493b4425e61736777cbb685c89fa5f92dc45abee1d1016ce54ec2e44b0153f97
-size 68178145
+oid sha256:ac5ca06e46b4e4c44670ecb94744e4f5d4214931bfb070b1c63e9f50dbe5e901
+size 68411510

holos-onnx/source.onnx

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:4d2056202c9d3bb31648d98ba13de92c02cacefccf4e7e6ff26a9a7eac909726
-size 13161
+oid sha256:ced5242be197382289663f8a0b2760c92593b7c8a4dfedb976e43b0420aeac6b
+size 2467810

holos-onnx/voices.npz

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:9f096dc8b9559b29f538bc398104713fe4a1ee065a073789c49232bd55d62c94
-size 29344
+oid sha256:5124ef2311e03c89228cc62ffdf8cefd88f8c07f0d8161063a03538af8f1b436
+size 26289