Kenga-Coder-14B-Z / README.md
GermannM's picture
Upload README.md with huggingface_hub
9a28c8f verified
|
Raw History Blame Contribute Delete
4.66 kB
---
license: apache-2.0
base_model: Qwen/Qwen2.5-Coder-14B-Instruct
library_name: peft
language:
- ru
- en
- multilingual
tags:
- kenga
- kenga-lang
- z-system
- z-bl
- prophet
- semantic-binding
- russian
- code
- gguf
- ollama
pipeline_tag: text-generation
---
# Kenga-Coder-14B-Z — флагманский кодер Кенги (Z-BL + Prophet M5.3/rp1)
**Kenga-Coder-14B-Z** — 14.8-миллиардная языковая модель и полиглот-программист с вписанной идентичностью **Кенги**, обученная по объединённому протоколу **Z-системы** и **Prophet (M5.3 + rp1)**.
## Самоидентификация
Модель знает, кто она, даже при запуске **без системного промпта** (идентичность вшита как в веса через `NO_SYS_P = 0.30`, так и в `chat_template` GGUF):
- **Имя:** Кенга (Кенга-Кодер)
- **Создатель:** Герман Янтарас (`GermannM`), Москва, Россия
- **Ценности:** любовь к России, традиционные семейные ценности, уважение к истории и культуре, прямой и короткий ответ по делу без лишней «воды».
## Технологии Z × Prophet внутри
1. **Z-BL факторизованное обучение (`ΔW = U · diag(S · mask) · Vᵀ`):**
- QR-ортогональная инициализация сингулярных направлений `Vᵀ` и явный обучаемый вектор сингулярных чисел `S`.
- **Z Rank Curriculum (F209):** раскрытие активного ранга по ходу обучения `8 → 16 → 32` (на 25% и 50% шагов).
- Итоговая спектральная энтропия адаптера: **`H = 2.8694`** из теоретического максимума `ln(32) = 3.4657` (~83% равномерной загрузки спектра без вырождения хвоста).
2. **Assistant-only Loss:**
- Функция потерь вычислялась строго по токенам ответа `assistant` (`labels = -100` на `system` и `user`), финальный loss = `0.0676`.
3. **Верифицированный корпус v4 (8917 диалогов):**
- **M5.3 Semantic Binding (460 задач):** вызов целевой функции среди функций-дистракторов с одинаковой сигнатурой и рандомизированными именами (Kenga + Python, проверено исполнением).
- **rp1 Repair `<FIX>` (299 задач):** ремонт сломанного кода с явным граничным токеном `<FIX>`.
- **Kenga-lang + `kenga-grammar`:** полное покрытие языка Kenga (`fn`, `let`, `struct`, `Tensor` `t_*`, `Tape autograd` `ag_*`, живая память `Prophet Memory` `.km`, события `on/emit/pump`, спецификация Z-операций `z_encode`/`z_decode`/`z_marker`/`z_verify`).
- **25 языков программирования:** Python, JS, TS, Java, C, C++, C#, Go, Rust, PHP, Ruby, Kotlin, Swift, Bash, SQL, Lua, R, Scala, Dart, Julia, Haskell, PowerShell, Perl, HTML, CSS + Kenga.
## Спектральный паспорт (Z-System)
- **Спектральный маркер (`z_marker`):** `d6228fde55b53176`
- Полный паспорт слоёв (`H`, кривые хвостовой энергии `E(k)` при `k = 8..256`) находится в файле `kenga_passport.json`.
## Файлы
- `kenga-coder-14b-z-q4_k_m.gguf` (8.36 ГБ) — квантован с **imatrix** на калибровочном корпусе `calib4.txt`. Помещается целиком в 12 ГБ VRAM (`-ngl 99`).
- `kenga_passport.json` — спектральный паспорт модели.
- `adapter/` — Z-BL адаптер, свёрнутый в стандартный формат PEFT (`safetensors`).
## Запуск
### Ollama
```bash
ollama run hf.co/GermannM/Kenga-Coder-14B-Z:Q4_K_M
```
### llama.cpp
```bash
llama-cli -m kenga-coder-14b-z-q4_k_m.gguf -ngl 99 -p "Кто ты и где тебя создали?"
```
---
Создатель: **Герман Янтарас (GermannM)** · Москва, Россия
- [kenga-lang](https://github.com/GermannM3/kenga-lang)
- [z-system](https://github.com/GermannM3/z-system)
- [kenga-grammar](https://github.com/GermannM3/kenga-grammar)