Moliq LoRA

LoRA-адаптер для Qwen/Qwen3-4B (режим без размышлений, enable_thinking=False) — помощник Moliq по банковским услугам Узбекистана.

  • Обучение: QLoRA r=16, α=32, все линейные слои; 1 эпоха на 2 219 примерах (Kaggle, T4, 6 ч), v2: вопросы по банку и виду кредита, меньше ложных отказов.
  • Данные: вопросы и ответы, собранные из официальных данных ЦБ — портал bankxizmatlari.uz (34 банка: реквизиты, кредиты, вклады, карты, курсы) и finlit.uz (FAQ, статьи). Ответ строится только по контексту со ссылками [n]; ~10% примеров — отказ, если ответа в контексте нет.
  • Валидационный лосс: 1,432 → 0,050.
  • Работает в связке с поиском moliq_rag.py (тот же формат промпта) — Space Azamaka/moliq-ai.
Downloads last month
31
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for Azamaka/moliq-lora

Finetuned
Qwen/Qwen3-4B
Adapter
(1200)
this model