Norovox 0.1

🔬 Önizleme (Preview) — Bu model geliştirilmeye devam ediyor; güçlendirilmiş sürümler bu depoya gelecek.

Norovox (Nöro Voksel) — sıfırdan, özgün olarak geliştirilen, Türkçe-odaklı küçük bir yapay zekâ dil modeli. Decoder-only transformer mimarisi, 11.71M parametre, 1390 token Byte-level BPE vokabüleri.

⚠️ Bu model trust_remote_code=True gerektirir (özel mimari sınıfı kullanır).

Mimari

  • Tür: Causal LM (decoder-only transformer)
  • Blok sayısı: 6
  • Kafa sayısı: 6 (Multi-Head Attention)
  • Embedding boyutu: 384
  • İç katman boyutu: 1536
  • Bağlam penceresi: 128 token
  • Vocab: 1390 (Norovox BPE, Türkçe-odaklı, Byte-level)
  • Parametre: 11.71M
  • Aktivasyon: GELU (tanh yaklaşımı — Norovox özgün)
  • Projeksiyon: Conv1D ağırlık düzeni [in, out]
  • Ağırlık paylaşımı: Embedding ve lm_head tied
  • Eğitim verisi: data/norovox_korpus_full.txt
  • Lisans: MIT

Kullanım

Transformers ile

from transformers import AutoTokenizer, AutoModelForCausalLM

tok = AutoTokenizer.from_pretrained("emrevrg/Norovox-0.1", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("emrevrg/Norovox-0.1", trust_remote_code=True)

girdi = tok("Merhaba, benim adım", return_tensors="pt")
cikti = model.generate(**girdi, max_new_tokens=50, do_sample=True, top_p=0.95, temperature=0.8)
print(tok.decode(cikti[0]))

Norovox paketiyle (tavsiye edilen)

pip install norovox
from norovox import NorovoxAgent
agent = NorovoxAgent()
print(agent.ask("Hava nasıl?").text)

Sohbet Şablonu

<|system|>
<|user|>
<|assistant|>
<|end|>

Detaylar: chat_template.json.

Dosya Listesi

Dosya Açıklama
config.json HF model yapılandırması (model_type=norovox)
modeling_norovox.py Özel model sınıfı (trust_remote_code için gerekli)
generation_config.json Üretim parametreleri (top_k, top_p, temperature)
model.safetensors 14.5 MB model ağırlıkları
tokenizer_config.json Tokenizer meta verileri (PreTrainedTokenizerFast)
tokenizer.json HuggingFace-uyumlu tokenizer tanımı (Byte-level BPE)
vocab.json BPE vokabüleri (1390 token)
merges.txt BPE birleştirme kuralları
special_tokens_map.json Özel token'lar
chat_template.json Sohbet şablonu
norovox_surgery.json Norovox mimari bilgileri
norovox_tokenizer_info.json Tokenizer bilgileri
LICENSE MIT
MODEL_CARD.md Detaylı model kartı

Eğitim Detayları

  • Korpus: data/norovox_korpus_full.txt (Norovox özgün, MIT lisanslı)
  • Tokenizer: Byte-level BPE, vocab_size=1390
  • Mimari: Sıfırdan tasarlanmış decoder-only transformer
  • Lisans: MIT
  • Cihaz: CPU

Önemli Notlar

  • Bu model trust_remote_code=True olmadan yüklenemez (NorovoxConfig ve NorovoxForCausalLM özel sınıflar kullanır).
  • Qwen/Llama/GPT-4 gibi büyük modellerin yerini almaz; eğitim amaçlı ve Norovox ekosisteminin temelini oluşturur.
  • Ajan (NorovoxAgent) bu modele bağlı değildir; kendi bilgi tabanı, SymPy, ChemistryEngine ve multimodal decoder ile çalışır.

Lisans

MIT — Norovox Project, 2026


Support Norovox

Norovox is built by one 17-year-old high school student in Türkiye: no company, no sponsor, no budget. Every model on this page was trained on free GPU quotas that run out within days. When they run out, training stops halfway and the next, stronger version has to wait, sometimes for a week.

Your support goes directly into GPU time. Even a small contribution lets a training run finish instead of stopping, and helps the Nythos, N1, AUBIN and Norovox Embed models get better faster. Supporters are credited in the model cards and get early access to new releases.

Contact: zgremre@gmail.com · emrevrgdev@gmail.com

🇹🇷 Norovox'u Türkiye'de 17 yaşında bir lise öğrencisi tek başına geliştiriyor: şirket yok, sponsor yok, bütçe yok. Buradaki modellerin hepsi birkaç günde biten ücretsiz GPU kotalarıyla eğitildi; kota bitince eğitim yarıda kalıyor ve daha güçlü sürüm bekliyor. Desteğin doğrudan GPU süresine gider; küçük bir katkı bile bir eğitimin yarıda kalmadan tamamlanmasını sağlar. Destekçiler model kartlarında anılır ve yeni sürümlere erken erişir. İletişim: zgremre@gmail.com · emrevrgdev@gmail.com

Downloads last month
-
Safetensors
Model size
3.63M params
Tensor type
F32
·
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Collection including emrevrg/Norovox-0.1