Upload optional INT8 HolosTTS bundle (official onnx-int8/)

holos-onnx-int8/README.md

@@ -0,0 +1,96 @@
+# HolosTTS → Promin ONNX bundle (`holos-onnx-int8`, optional)
+
+Опційний **int8**-варіант офіційного багатоетапного ONNX-бандла HolosTTS для
+рушія [Promin TTS](https://github.com/Karnemorkon/promin-tts)
+(`format_version: 2`). Менший розмір завантаження, ніж fp32, але нижча якість.
+Для максимальної якості використовуйте `holos-onnx/`.
+
+> **Голоси та згода дикторів.** `voices.npz` містить 27 пресетів із HolosTTS.
+> Автор HolosTTS зазначає, що диктори не надавали згоди на синтез їхніх голосів
+> і що домовлятися з ними потрібно окремо
+> ([discussion #5](https://huggingface.co/patriotyk/HolosTTS/discussions/5)).
+> MIT стосується коду та ваг моделі, але не є дозволом на використання голосу
+> людини. Не використовуйте ці пресети для публікації або монетизації
+> синтезованого мовлення без окремого дозволу диктора.
+
+## Джерело
+
+Це **офіційний int8-бандл** із релізу
+[`patriotyk/HolosTTS`](https://huggingface.co/patriotyk/HolosTTS) від
+2026-11-01 (`onnx-int8/`), зазеркалений без донавчання. Маніфест змінено лише
+так само, як у fp32: `vocab` обрізано до 181 запису, щоб id не виходили за
+межі 181-рядкових таблиць ембедінгів.
+
+`holos-onnx-int8/holos_onnx.json` містить `quantization`:
+`u8s8`, `Conv` + `MatMul`, `waveform_precision: late`, `reduce_range: false`.
+
+## Вміст
+
+| Файл | Розмір | Призначення |
+|---|---|---|
+| `holos_onnx.json` | 2.7 KB | маніфест: вокабуляр, частота, етапи, ліміти, квантування |
+| `encoder.onnx` | 217 MB | `tokens`, `voice`, `speed` → `acoustic_tokens`, `prosodic_tokens`, `durations` |
+| `prosody.onnx` | 23 MB | `prosodic_tokens`, `frame_to_token`, `voice` → `f0`, `energy` |
+| `decoder.onnx` | 83 MB | exact-декодер на всю репліку |
+| `source.onnx` | 2.5 MB | збудження для стрімінгу |
+| `decoder_window.onnx` | 80 MB | віконний декодер |
+| `voices.npz` | 26 KB | 27 пресетів голосів (той самий файл, що у fp32) |
+
+24 кГц, 600 семплів на кадр (25 мс), `max_frames: 1000` (≈25 с на виклик),
+стрімінг: чанк 40 кадрів (1 с), контекст 20 (0.5 с), вікно 80 (2 с).
+
+Для клонування потрібен **спільний** `tts/voice_encoder.onnx` (fp32) з
+основного репозиторію. Старі клони несумісні з новим енкодером — їх треба
+зареєструвати заново.
+
+## Використання
+
+```bash
+python -c "from huggingface_hub import snapshot_download; \
+  snapshot_download('Morkon/holos-native-models', \
+  allow_patterns=['holos-onnx-int8/*', 'tts/voice_encoder.onnx'], \
+  local_dir='models')"
+```
+
+Локально каталог має називатися `holos-onnx/` (Promin шукає саме його):
+
+```bash
+mv models/holos-onnx-int8 models/holos-onnx
+PROMIN_MODELS_DIR=models PROMIN_MODEL_FORMAT=bundle
+```
+
+Для автозавантаження без ручного перейменування:
+
+```bash
+PROMIN_HF_BUNDLE_PREFIX=holos-onnx-int8 PROMIN_MODEL_FORMAT=bundle
+```
+
+## Якість
+
+Порівняно з fp32 на тих самих фразах:
+
+- log-spectrogram correlation ≈0.88–0.95;
+- waveform correlation низька через різницю фаз, але спектр і тривалість
+  близькі;
+- int8 streaming vs int8 exact: log-spectrogram correlation ≈0.71 (у fp32
+  exact і streaming біт-у-біт однакові).
+
+Тому int8 — компроміс для малого диска/трафіку, не для еталонної якості.
+
+## Перевірка
+
+- ONNX Runtime 1.31.0, IR 10 / opset 20 — графи завантажуються.
+- Короткі фрази, абзаци, `speed=0.5`, апострофи й стрімінг перевірено через
+  `speech-server`.
+- 1000-кадровий ліміт той самий, що у fp32; Promin ріже довгі частини.
+
+Контрольні суми — у `SHA256SUMS`.
+
+## Ліцензія
+
+- Ваги й архітектура: [patriotyk/HolosTTS](https://github.com/patriotyk/HolosTTS)
+  (MIT, © автор HolosTTS). Це офіційний int8-експорт, без донавчання.
+- **Голосові пресети (`voices.npz`) не покриваються MIT як дозволом на
+  використання голосу.** Згода дикторів не підтверджена; див. попередження
+  вище та [discussion #5](https://huggingface.co/patriotyk/HolosTTS/discussions/5).
+- Репозиторій загалом має окрему ліцензію через Gemma-вербалізатор.

holos-onnx-int8/SHA256SUMS

@@ -0,0 +1,7 @@
+1dbb302b305c57c40a77d08b512214fa1714561aba9dda188b45da2e79d1b1a9  encoder.onnx
+2d2b33b32bf5584c837af24c4c8b4cf4f7a0370256ea72908a4cc3216d2f650c  prosody.onnx
+e112001b5d1bb3849545e8df814cfdeb1060eabeb3e60e197e7d1c3cbbd925c3  decoder.onnx
+e31ddf2efa9f340db2941076365a8166e84512dcb6ae1e8e92c62c974ae75e26  decoder_window.onnx
+ced5242be197382289663f8a0b2760c92593b7c8a4dfedb976e43b0420aeac6b  source.onnx
+5124ef2311e03c89228cc62ffdf8cefd88f8c07f0d8161063a03538af8f1b436  voices.npz
+c3f8bc1e9abbea737cca3e0151c8236b99033c77c16ede664722016e9199795d  holos_onnx.json

holos-onnx-int8/decoder.onnx

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e112001b5d1bb3849545e8df814cfdeb1060eabeb3e60e197e7d1c3cbbd925c3
+size 82692164

holos-onnx-int8/decoder_window.onnx

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e31ddf2efa9f340db2941076365a8166e84512dcb6ae1e8e92c62c974ae75e26
+size 80254452

holos-onnx-int8/encoder.onnx

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:1dbb302b305c57c40a77d08b512214fa1714561aba9dda188b45da2e79d1b1a9
+size 217064975

holos-onnx-int8/holos_onnx.json

@@ -0,0 +1,223 @@
+{
+  "format": "holos-onnx",
+  "format_version": 2,
+  "encoder": "encoder.onnx",
+  "prosody": "prosody.onnx",
+  "decoder": "decoder.onnx",
+  "voices": "voices.npz",
+  "vocab": [
+    "$",
+    "-",
+    "´",
+    ";",
+    ":",
+    ",",
+    ".",
+    "!",
+    "?",
+    "¡",
+    "¿",
+    "—",
+    "…",
+    "\"",
+    "«",
+    "»",
+    "“",
+    "”",
+    " ",
+    "(",
+    ")",
+    "†",
+    "/",
+    "=",
+    "A",
+    "B",
+    "C",
+    "D",
+    "E",
+    "F",
+    "G",
+    "H",
+    "I",
+    "J",
+    "K",
+    "L",
+    "M",
+    "N",
+    "O",
+    "P",
+    "Q",
+    "R",
+    "S",
+    "T",
+    "U",
+    "V",
+    "W",
+    "X",
+    "Y",
+    "Z",
+    "a",
+    "b",
+    "c",
+    "d",
+    "e",
+    "f",
+    "g",
+    "h",
+    "i",
+    "j",
+    "k",
+    "l",
+    "m",
+    "n",
+    "o",
+    "p",
+    "q",
+    "r",
+    "s",
+    "t",
+    "u",
+    "v",
+    "w",
+    "x",
+    "y",
+    "z",
+    "é",
+    "ý",
+    "í",
+    "ó",
+    "'",
+    "̯",
+    "'",
+    "͡",
+    "ɑ",
+    "ɐ",
+    "ɒ",
+    "æ",
+    "ɓ",
+    "ʙ",
+    "β",
+    "ɔ",
+    "ɕ",
+    "ç",
+    "ɗ",
+    "ɖ",
+    "ð",
+    "ʤ",
+    "ə",
+    "ɘ",
+    "ɚ",
+    "ɛ",
+    "ɜ",
+    "ɝ",
+    "ɞ",
+    "ɟ",
+    "ʄ",
+    "ɡ",
+    "ɠ",
+    "ɢ",
+    "ʛ",
+    "ɦ",
+    "ɧ",
+    "ħ",
+    "ɥ",
+    "ʜ",
+    "ɨ",
+    "ɪ",
+    "ʝ",
+    "ɭ",
+    "ɬ",
+    "ɫ",
+    "ɮ",
+    "ʟ",
+    "ɱ",
+    "ɯ",
+    "ɰ",
+    "ŋ",
+    "ɳ",
+    "ɲ",
+    "ɴ",
+    "ø",
+    "ɵ",
+    "ɸ",
+    "θ",
+    "œ",
+    "ɶ",
+    "ʘ",
+    "ɹ",
+    "ɺ",
+    "ɾ",
+    "ɻ",
+    "ʀ",
+    "ʁ",
+    "ɽ",
+    "ʂ",
+    "ʃ",
+    "ʈ",
+    "ʧ",
+    "ʉ",
+    "ʊ",
+    "ʋ",
+    "ⱱ",
+    "ʌ",
+    "ɣ",
+    "ɤ",
+    "ʍ",
+    "χ",
+    "ʎ",
+    "ʏ",
+    "ʑ",
+    "ʐ",
+    "ʒ",
+    "ʔ",
+    "ʡ",
+    "ʕ",
+    "ʢ",
+    "ǀ",
+    "ǁ",
+    "ǂ",
+    "ǃ",
+    "ˈ",
+    "ˌ",
+    "ː",
+    "ˑ",
+    "ʼ",
+    "ʴ",
+    "ʰ",
+    "ʱ",
+    "ʲ",
+    "'"
+  ],
+  "sample_rate": 24000,
+  "samples_per_frame": 600,
+  "max_frames": 1000,
+  "decoder_mode": "exact",
+  "alignment_format": "gather",
+  "attention_format": "tensorrt_fused_bmm",
+  "projection_format": "fused_qkv_swiglu",
+  "shape_inference_format": "onnx_standard",
+  "tensorrt_profile": {
+    "min_text_length": 2,
+    "opt_text_length": 128,
+    "max_text_length": 512,
+    "min_frames": 2,
+    "opt_frames": 256,
+    "max_frames": 1000
+  },
+  "streaming": {
+    "decoder": "decoder_window.onnx",
+    "source": "source.onnx",
+    "chunk_frames": 40,
+    "context_frames": 20,
+    "window_frames": 80
+  },
+  "quantization": {
+    "type": "u8s8",
+    "op_types": [
+      "Conv",
+      "MatMul"
+    ],
+    "waveform_precision": "late",
+    "reduce_range": false
+  }
+}

holos-onnx-int8/prosody.onnx

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2d2b33b32bf5584c837af24c4c8b4cf4f7a0370256ea72908a4cc3216d2f650c
+size 23338460

holos-onnx-int8/source.onnx

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:ced5242be197382289663f8a0b2760c92593b7c8a4dfedb976e43b0420aeac6b
+size 2467810

holos-onnx-int8/voices.npz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5124ef2311e03c89228cc62ffdf8cefd88f8c07f0d8161063a03538af8f1b436
+size 26289