Instructions to use emrevrg/Norovox-0.1 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use emrevrg/Norovox-0.1 with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="emrevrg/Norovox-0.1", trust_remote_code=True) messages = [ {"role": "user", "content": "Who are you?"}, ] pipe(messages)# pip install -U transformers accelerate # Load model directly from transformers import AutoModelForCausalLM model = AutoModelForCausalLM.from_pretrained("emrevrg/Norovox-0.1", trust_remote_code=True, device_map="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use emrevrg/Norovox-0.1 with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "emrevrg/Norovox-0.1" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "emrevrg/Norovox-0.1", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker
docker model run hf.co/emrevrg/Norovox-0.1
- SGLang
How to use emrevrg/Norovox-0.1 with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "emrevrg/Norovox-0.1" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "emrevrg/Norovox-0.1", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "emrevrg/Norovox-0.1" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "emrevrg/Norovox-0.1", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }' - Docker Model Runner
How to use emrevrg/Norovox-0.1 with Docker Model Runner:
docker model run hf.co/emrevrg/Norovox-0.1
Norovox 0.1
🔬 Önizleme (Preview) — Bu model geliştirilmeye devam ediyor; güçlendirilmiş sürümler bu depoya gelecek.
Norovox (Nöro Voksel) — sıfırdan, özgün olarak geliştirilen, Türkçe-odaklı küçük bir yapay zekâ dil modeli. Decoder-only transformer mimarisi, 11.71M parametre, 1390 token Byte-level BPE vokabüleri.
⚠️ Bu model
trust_remote_code=Truegerektirir (özel mimari sınıfı kullanır).
Mimari
- Tür: Causal LM (decoder-only transformer)
- Blok sayısı: 6
- Kafa sayısı: 6 (Multi-Head Attention)
- Embedding boyutu: 384
- İç katman boyutu: 1536
- Bağlam penceresi: 128 token
- Vocab: 1390 (Norovox BPE, Türkçe-odaklı, Byte-level)
- Parametre: 11.71M
- Aktivasyon: GELU (tanh yaklaşımı — Norovox özgün)
- Projeksiyon: Conv1D ağırlık düzeni
[in, out] - Ağırlık paylaşımı: Embedding ve lm_head tied
- Eğitim verisi:
data/norovox_korpus_full.txt - Lisans: MIT
Kullanım
Transformers ile
from transformers import AutoTokenizer, AutoModelForCausalLM
tok = AutoTokenizer.from_pretrained("emrevrg/Norovox-0.1", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("emrevrg/Norovox-0.1", trust_remote_code=True)
girdi = tok("Merhaba, benim adım", return_tensors="pt")
cikti = model.generate(**girdi, max_new_tokens=50, do_sample=True, top_p=0.95, temperature=0.8)
print(tok.decode(cikti[0]))
Norovox paketiyle (tavsiye edilen)
pip install norovox
from norovox import NorovoxAgent
agent = NorovoxAgent()
print(agent.ask("Hava nasıl?").text)
Sohbet Şablonu
<|system|>
<|user|>
<|assistant|>
<|end|>
Detaylar: chat_template.json.
Dosya Listesi
| Dosya | Açıklama |
|---|---|
config.json |
HF model yapılandırması (model_type=norovox) |
modeling_norovox.py |
Özel model sınıfı (trust_remote_code için gerekli) |
generation_config.json |
Üretim parametreleri (top_k, top_p, temperature) |
model.safetensors |
14.5 MB model ağırlıkları |
tokenizer_config.json |
Tokenizer meta verileri (PreTrainedTokenizerFast) |
tokenizer.json |
HuggingFace-uyumlu tokenizer tanımı (Byte-level BPE) |
vocab.json |
BPE vokabüleri (1390 token) |
merges.txt |
BPE birleştirme kuralları |
special_tokens_map.json |
Özel token'lar |
chat_template.json |
Sohbet şablonu |
norovox_surgery.json |
Norovox mimari bilgileri |
norovox_tokenizer_info.json |
Tokenizer bilgileri |
LICENSE |
MIT |
MODEL_CARD.md |
Detaylı model kartı |
Eğitim Detayları
- Korpus:
data/norovox_korpus_full.txt(Norovox özgün, MIT lisanslı) - Tokenizer: Byte-level BPE, vocab_size=1390
- Mimari: Sıfırdan tasarlanmış decoder-only transformer
- Lisans: MIT
- Cihaz: CPU
Önemli Notlar
- Bu model
trust_remote_code=Trueolmadan yüklenemez (NorovoxConfig ve NorovoxForCausalLM özel sınıflar kullanır). - Qwen/Llama/GPT-4 gibi büyük modellerin yerini almaz; eğitim amaçlı ve Norovox ekosisteminin temelini oluşturur.
- Ajan (
NorovoxAgent) bu modele bağlı değildir; kendi bilgi tabanı, SymPy, ChemistryEngine ve multimodal decoder ile çalışır.
Lisans
MIT — Norovox Project, 2026
Support Norovox
Norovox is built by one 17-year-old high school student in Türkiye: no company, no sponsor, no budget. Every model on this page was trained on free GPU quotas that run out within days. When they run out, training stops halfway and the next, stronger version has to wait, sometimes for a week.
Your support goes directly into GPU time. Even a small contribution lets a training run finish instead of stopping, and helps the Nythos, N1, AUBIN and Norovox Embed models get better faster. Supporters are credited in the model cards and get early access to new releases.
Contact: zgremre@gmail.com · emrevrgdev@gmail.com
🇹🇷 Norovox'u Türkiye'de 17 yaşında bir lise öğrencisi tek başına geliştiriyor: şirket yok, sponsor yok, bütçe yok. Buradaki modellerin hepsi birkaç günde biten ücretsiz GPU kotalarıyla eğitildi; kota bitince eğitim yarıda kalıyor ve daha güçlü sürüm bekliyor. Desteğin doğrudan GPU süresine gider; küçük bir katkı bile bir eğitimin yarıda kalmadan tamamlanmasını sağlar. Destekçiler model kartlarında anılır ve yeni sürümlere erken erişir. İletişim: zgremre@gmail.com · emrevrgdev@gmail.com
- Downloads last month
- -