Instructions to use nativemind/braindler_final_model with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use nativemind/braindler_final_model with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="nativemind/braindler_final_model")# Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("nativemind/braindler_final_model") model = AutoModelForCausalLM.from_pretrained("nativemind/braindler_final_model", device_map="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use nativemind/braindler_final_model with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "nativemind/braindler_final_model" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "nativemind/braindler_final_model", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker
docker model run hf.co/nativemind/braindler_final_model
- SGLang
How to use nativemind/braindler_final_model with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "nativemind/braindler_final_model" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "nativemind/braindler_final_model", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "nativemind/braindler_final_model" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "nativemind/braindler_final_model", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }' - Docker Model Runner
How to use nativemind/braindler_final_model with Docker Model Runner:
docker model run hf.co/nativemind/braindler_final_model
File size: 5,451 Bytes
1e85d2d ac17011 1e85d2d ac17011 1e85d2d ac17011 1e85d2d ac17011 1e85d2d ac17011 1e85d2d ac17011 1e85d2d ac17011 1e85d2d ac17011 1e85d2d ac17011 1e85d2d a2df15d 1e85d2d ac17011 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 | # Braindler Final Model v2
🎓 **Образовательный AI-ассистент для изучения русского языка**
Модель fine-tuned на образовательных датасетах для помощи детям и взрослым в изучении русского языка.
## 📦 Доступные форматы
### HuggingFace (PyTorch)
Стандартный формат для использования с Transformers (501 MB)
### GGUF (llama.cpp / Ollama)
Оптимизированные квантизированные версии для локального запуска:
| Версия | Размер | Качество | Рекомендация |
|--------|--------|----------|--------------|
| Q2_K | 68 MB | Минимальное | Слабые устройства 📱 |
| Q3_K_S | 73 MB | Низкое | Мобильные 💻 |
| Q4_K_S | 84 MB | Среднее | Баланс ⚖️ |
| **Q4_K_M** | **90 MB** | **Хорошее** | ⭐ **РЕКОМЕНДУЕТСЯ** |
| Q5_K_M | 99 MB | Высокое | Продакшн 💎 |
| Q8_0 | 133 MB | Отличное | Максимум 🏆 |
| F16 | 244 MB | Без потерь | GPU 🎯 |
## 📚 Датасеты для обучения
1. **mozgach_trener** (97 примеров)
- Алфавит (66 примеров)
- Цифры (11 примеров)
- Цвета (10 примеров)
- Геометрические фигуры (5 примеров)
- Голосовые команды (5 примеров)
2. **alice_gift** (66 примеров)
- Дополнительные текстовые данные на русском
**Всего примеров: 163 | Эпох: 3**
## 🚀 Использование
### С Transformers (PyTorch)
```python
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained("nativemind/braindler_final_model")
tokenizer = AutoTokenizer.from_pretrained("nativemind/braindler_final_model")
prompt = "User: Как произносится буква А?\nAssistant:"
inputs = tokenizer(prompt, return_tensors="pt")
outputs = model.generate(**inputs, max_length=200, temperature=0.7)
print(tokenizer.decode(outputs[0]))
```
### С Ollama (GGUF) ⭐ Рекомендуется
```bash
# 1. Скачайте GGUF файл
huggingface-cli download nativemind/braindler_final_model \
braindler_final_model_Q4_K_M.gguf --local-dir ./
# 2. Создайте Modelfile
cat > Modelfile << 'EOF'
FROM ./braindler_final_model_Q4_K_M.gguf
TEMPLATE """{{- if .System }}System: {{ .System }}{{- end }}
User: {{ .Prompt }}
Assistant:"""
PARAMETER temperature 0.7
PARAMETER top_p 0.9
PARAMETER num_ctx 2048
SYSTEM """Ты - Braindler, образовательный ассистент для изучения русского языка. Помогаешь учить буквы, цифры, цвета и слова. Отвечай дружелюбно и понятно."""
EOF
# 3. Создайте модель
ollama create braindler -f Modelfile
# 4. Запустите
ollama run braindler
```
### С llama.cpp
```bash
# Скачайте GGUF файл и запустите
./llama-cli \
-m braindler_final_model_Q4_K_M.gguf \
-p "User: Расскажи о букве А\nAssistant:" \
-n 128 --temp 0.7 -ngl 99
```
## 📖 Примеры
```
User: Как произносится буква А?
Assistant: Буква 'А' произносится как 'а'. Попробуй произнести её вслух: а.
User: Назови слова на букву Б
Assistant: Слова на букву 'б': банан, бабочка, барабан, белка
User: Что такое треугольник?
Assistant: Треугольник - это фигура с 3 сторонами и 3 углами. Похож на крышу дома.
```
## 📊 Характеристики модели
- Базовая модель: nativemind/braindler_full_trained_model
- Архитектура: GPT-2 (125M параметров)
- Язык: Русский 🇷🇺
- Контекст: 2048 токенов
- Задача: Text Generation, Образовательный ассистент
- Лицензия: NativeMindNONC (Non-Commercial)
## 🎯 Применение
- Образовательные приложения для детей
- Обучение русскому языку
- Интерактивные образовательные боты
- Голосовые ассистенты
- Локальные AI приложения
## ⚙️ Рекомендации по выбору версии
- **Мобильные устройства**: Q2_K или Q3_K_S
- **Десктопы/ноутбуки**: Q4_K_M ⭐ (лучший баланс)
- **Продакшн**: Q5_K_M
- **Максимальное качество**: Q8_0 или F16
## 🔗 Ссылки
- **Model**: https://huggingface.co/nativemind/braindler_final_model
- **Dataset 1**: https://huggingface.co/datasets/nativemind/mozgach_trener
- **Dataset 2**: https://huggingface.co/datasets/nativemind/mozgach_alice_gift
## 📧 Контакты
- Email: anton.v.dodonov@gmail.com
- HuggingFace: nativemind
- Дата: 2025-10-20
---
© 2025 NativeMind. Для некоммерческого использования.
**Образование должно быть доступным!** 🎓
|