--- license: apache-2.0 language: - ru - en base_model: Qwen/Qwen2.5-Coder-7B-Instruct library_name: peft tags: - kenga - kenga-lang - russian - z-system - code - qwen2.5-coder - gguf - conversational --- # Kenga-Coder-7B Кодер-модель Кенги на базе **Qwen2.5-Coder-7B-Instruct**, дообученная на верифицированном датасете (язык Kenga + Python-ката + Z-система + идентичность). ## Что внутри - **~640 программ на языке Kenga, проверенных компилятором** (`kenga-lite`): каждая реально скомпилирована и запущена (compiler-in-the-loop). - **700 Python-задач**, сгенерированных и проверенных исполнением. - Документация языка Kenga (struct, enum, map, events, stdlib math/list/agent, tensor). - Z-система и материалы kenga-lang, идентичность Кенги, Россия/культура, математика. - Принцип M5.3: правильность — не мнение, а факт (программа запускается, ответ проверен). ## Обучение - База: `Qwen/Qwen2.5-Coder-7B-Instruct` - Метод: QLoRA (r=32, alpha=64, NF4 double-quant), bf16, grad-checkpointing - Железо: RTX 4070 SUPER 12GB, локально - Датасет: 6394 диалога, 3 эпохи, seq 2048 - Квантизация: **imatrix** (Q4_K_M / Q5_K_M) ## Файлы - `kenga-coder-7b-q4_k_m.gguf` — ~4.4GB, для 6GB GPU - `kenga-coder-7b-q5_k_m.gguf` — выше качество, ~5.3GB - `adapter/` — LoRA-адаптер ## Запуск ```bash ollama run hf.co/GermannM/Kenga-Coder-7B:Q4_K_M ``` ```python from transformers import AutoModelForCausalLM, AutoTokenizer tok = AutoTokenizer.from_pretrained("GermannM/Kenga-Coder-7B") model = AutoModelForCausalLM.from_pretrained("GermannM/Kenga-Coder-7B") ``` --- Создатель проекта: Герман Янтарас (GermannM)