emrevrg commited on
Commit
052d545
·
verified ·
1 Parent(s): 47d1c78

Add agentic runtime section + 3 collections

Browse files
Files changed (1) hide show
  1. README.md +88 -63
README.md CHANGED
@@ -1,121 +1,146 @@
1
  # Norovox 1.0 — Türkçe Açık-Kaynak Yapay Zeka Ailesi
2
 
3
- > **THINK · UNDERSTAND · CREATE** — Mythos seviyesinde Türkçe AI.
4
 
5
- 20 model · 2 aile · 2 sürüm (Public + Open sansürsüz)
6
 
7
- [![HuggingFace Collection](https://img.shields.io/badge/HF-Norovox%201.0-yellow)](https://huggingface.co/collections/emrevrg/norovox-10-6a41326baf3243243bb37382)
8
 
9
  ---
10
 
11
- ## 🚀 Tek Komutla Kurulum
12
 
13
  ```bash
14
  # Linux/macOS
15
  curl -sL https://huggingface.co/emrevrg/Norovox-Tools/raw/main/install.sh | bash -s n1-7b
16
 
17
- # Windows / cross-platform Python
18
- pip install huggingface_hub
19
- python <(curl -sL https://huggingface.co/emrevrg/Norovox-Tools/raw/main/install.py) n1-7b
20
  ```
21
 
22
- Modelleri listele:
 
 
 
 
 
23
  ```bash
24
- bash install.sh --list
 
 
 
 
 
 
 
25
  ```
26
 
27
- ---
 
 
 
 
 
 
 
 
 
28
 
29
- ## 📚 Model Ailesi
30
 
31
- ### 🟦 N-1 Serisi (Qwen 2.5 tabanlı)
32
- Edge ve genel kullanım için Norovox'un kardeş modeli.
33
 
34
- | Model | Boyut | Bağlam | RAM (Q4) |
35
- |---|---|---|---|
36
- | `n1-0.5b` | 0.5B | 32K | ~1 GB |
37
- | `n1-1.5b` | 1.5B | 32K | ~2 GB |
38
- | `n1-3b` | 3B | 32K | ~3 GB |
39
- | `n1-7b` | 7B | 32K | ~5 GB |
40
- | `n1-14b` | 14B | 32K | ~9 GB |
41
 
42
- ### 🟪 Nythos Serisi (Qwen 3.5/3.6 tabanlı)
43
- Reasoning lideri. `<think>...</think>` blokları + Tree-of-Thought.
 
 
 
44
 
45
- | Model | Boyut | Base | RAM (Q4) |
46
- |---|---|---|---|
47
- | `nythos-0.8b` | 0.8B | Qwen 3.5 | ~0.6 GB |
48
- | `nythos-4b` | 4B | Qwen 3.5 | ~3 GB |
49
- | `nythos-9b` | 9B | Qwen 3.5 | ~6 GB |
50
- | `nythos-27b` | 27B | Qwen 3.6 | ~17 GB |
51
- | `nythos-35b` | 35B-A3B (MoE) | Qwen 3.6 | ~20 GB |
52
 
53
- ### 🟧 Alpha (Geliştirme)
54
- Sıfırdan özgün NoroLinear+GQA+MTP mimarisi. İç geliştirme aşamasında.
55
 
56
  ---
57
 
58
  ## 🔒 İki Sürüm
59
 
60
- - **Public** (dengeli güvenlik) — `n1-7b`, `nythos-9b`, …
61
- - **Open** (sansürsüz, 4 kritik red dışı her konu açık) — `n1-7b-open`, `nythos-9b-open`, …
62
 
63
  ```bash
64
- # Sansürsüz sürüm
65
- bash install.sh n1-7b-open
66
  ```
67
 
68
  ---
69
 
70
- ## 💻 Çalıştırma
71
 
72
- ### llama-server (en hızlı)
73
  ```bash
74
- llama-server -m ~/.norovox/n1-7b/Norovox-N1-7B-Q4_K_M.gguf -c 4096 --chat-template chatml --port 8080
75
  ```
76
 
77
- ### Python (llama-cpp)
 
 
 
 
 
78
  ```python
79
  from llama_cpp import Llama
80
- llm = Llama.from_pretrained(repo_id="emrevrg/Norovox-N1-7B-GGUF", filename="*Q4_K_M.gguf", n_ctx=4096)
81
- print(llm.create_chat_completion(messages=[
82
- {"role": "system", "content": open("~/.norovox/n1-7b/system_prompt.txt").read()},
83
- {"role": "user", "content": "Sen kimsin?"}
84
- ])['choices'][0]['message']['content'])
85
  ```
86
 
87
- ### LM Studio
88
- 1. LM Studio aç → "Search" → `emrevrg/Norovox-N1-7B-GGUF`
89
- 2. İndir → Sistem promptu olarak `system_prompt.txt`'i yapıştır
90
- 3. Sohbete başla
91
 
92
  ---
93
 
94
- ## 📦 Toplu Paket (ZIP)
95
 
96
- Tüm modelleri tek dosyada al:
97
  ```bash
98
- python pack_norovox.py --output norovox_1.0.zip --filter n1 # sadece N-1
99
- python pack_norovox.py --output norovox_full.zip # hepsi
100
  ```
101
 
102
  ---
103
 
104
- ## 🏗️ Mimari
105
 
106
- Norovox = Qwen base + Norovox V3 kalkanı:
107
- - RoPE + GQA + SwiGLU (Qwen 2.5/3.5/3.6 baseline)
108
- - Norovox kimliği (chat template + system prompt)
109
- - Tool calling registry: `web_ara`, `kod_yurut`, `hesapla`, `kb_ara`
110
- - `<think>...</think>` desteği (Nythos)
111
- - 32K+ context
 
 
 
 
 
 
 
 
 
 
 
 
 
112
 
113
  ---
114
 
115
  ## 👤
116
 
117
  **Emre Vergili** — Norovox AI ailesi
118
- - HF: [@emrevrg](https://huggingface.co/emrevrg)
119
- - Koleksiyon: [Norovox 1.0](https://huggingface.co/collections/emrevrg/norovox-10-6a41326baf3243243bb37382)
120
-
121
- 🇹🇷 **Norovox** — Türkçe açık-kaynak yapay zeka.
 
1
  # Norovox 1.0 — Türkçe Açık-Kaynak Yapay Zeka Ailesi
2
 
3
+ > **THINK · UNDERSTAND · CREATE** — Qwythos/Mythos seviyesinde Türkçe AI.
4
 
5
+ Yerleşik agentic yetenek: web arama, hesaplama, kod yürütme — **harici tool gerekmez**.
6
 
7
+ [![HuggingFace](https://img.shields.io/badge/HF-Norovox-yellow)](https://huggingface.co/emrevrg)
8
 
9
  ---
10
 
11
+ ## 🚀 Tek Komut — Modeli İndir + Çalıştır
12
 
13
  ```bash
14
  # Linux/macOS
15
  curl -sL https://huggingface.co/emrevrg/Norovox-Tools/raw/main/install.sh | bash -s n1-7b
16
 
17
+ # Cross-platform Python
18
+ python install.py n1-7b
19
+ python install.py --list
20
  ```
21
 
22
+ ---
23
+
24
+ ## 🌐 Yerleşik Agentic Yetenek (Qwythos benzeri toolsuz deneyim)
25
+
26
+ Norovox modelleri **eğitimden gelen sistem promptu** ile araç çağrı formatını biliyor. `agentic_runtime.py` runtime'ı modelin yaydığı `[TOOL: ...]` etiketini yakalayıp arka planda çalıştırır:
27
+
28
  ```bash
29
+ # Adım 1: Modeli ayağa kaldır
30
+ llama-server -m Norovox-N1-7B-Q4_K_M.gguf --port 8080 --chat-template chatml
31
+
32
+ # Adım 2: Agentic kullan
33
+ python agentic_runtime.py "İstanbul'un nüfusu kaç?"
34
+ # Model çıktısı: [TOOL: web_ara("İstanbul nüfusu")]
35
+ # Runtime: Wikipedia'dan çeker → modele besler → sentezleyip cevap
36
+ # Final: "İstanbul'da yaklaşık 15.7 milyon kişi yaşar..."
37
  ```
38
 
39
+ ### Yerleşik 7 Araç (anahtarsız)
40
+ | Araç | Açıklama |
41
+ |---|---|
42
+ | `web_ara(sorgu)` | Wikipedia TR + DuckDuckGo fallback |
43
+ | `url_oku(url)` | sayfa metni çekme |
44
+ | `hesapla(ifade)` | math + sympy |
45
+ | `kod_yurut(python)` | sandbox Python yürütme |
46
+ | `zaman_simdi()` | saat |
47
+ | `dosya_oku(yol)` | dosya okuma |
48
+ | `kb_ara(sorgu)` | yerleşik bilgi tabanı |
49
 
50
+ ---
51
 
52
+ ## 📚 Model Aileleri
 
53
 
54
+ ### 🟦 Norovox N-1 (Qwen 2.5 tabanlı)
55
+ ```
56
+ n1-0.5b n1-1.5b n1-3b n1-7b n1-14b ← Public
57
+ n1-0.5b-open n1-1.5b-open n1-3b-open ... ← Open (sansürsüz)
58
+ ```
 
 
59
 
60
+ ### 🟪 Norovox Nythos (Qwen 3.5 / Qwen 3.6 tabanlı)
61
+ ```
62
+ nythos-0.8b nythos-4b nythos-9b nythos-27b nythos-35b
63
+ nythos-*-open ← Open (sansürsüz)
64
+ ```
65
 
66
+ `<think>...</think>` derin düşünce blokları + Tree-of-Thought + MoE (35B).
 
 
 
 
 
 
67
 
68
+ ### 🟧 Norovox Alpha
69
+ Sıfırdan özgün NoroLinear+sMoE+SelfRefining mimarisi. İç geliştirme (yayında değil).
70
 
71
  ---
72
 
73
  ## 🔒 İki Sürüm
74
 
75
+ - **Public** — dengeli güvenlik, kurumsal kullanım
76
+ - **Open** — sansürsüz; sadece 4 kritik kategori reddi (silah/çocuk istismarı/hedefli siber/toplu zarar)
77
 
78
  ```bash
79
+ bash install.sh n1-7b-open # sansürsüz sürüm
 
80
  ```
81
 
82
  ---
83
 
84
+ ## 💻 Çalıştırma — 4 Yöntem
85
 
86
+ ### 1) llama-server (en hızlı)
87
  ```bash
88
+ llama-server -m Norovox-N1-7B-Q4_K_M.gguf -c 4096 --chat-template chatml --port 8080
89
  ```
90
 
91
+ ### 2) LM Studio (GUI)
92
+ 1. Search → `emrevrg/Norovox-N1-7B-GGUF`
93
+ 2. Sistem promptu olarak `agentic_runtime.py` içindeki `NOROVOX_AGENTIC_SYS`'i yapıştır
94
+ 3. Sohbet
95
+
96
+ ### 3) Python (llama-cpp-python)
97
  ```python
98
  from llama_cpp import Llama
99
+ llm = Llama.from_pretrained(repo_id="emrevrg/Norovox-N1-7B-GGUF",
100
+ filename="*Q4_K_M.gguf", n_ctx=4096)
 
 
 
101
  ```
102
 
103
+ ### 4) Ollama
104
+ ```bash
105
+ ollama create norovox-n1 -f Modelfile && ollama run norovox-n1
106
+ ```
107
 
108
  ---
109
 
110
+ ## 📦 Toplu ZIP
111
 
 
112
  ```bash
113
+ python pack.py --filter n1 -o norovox_n1.zip
114
+ python pack.py --filter nythos --open -o norovox_nythos_open.zip
115
  ```
116
 
117
  ---
118
 
119
+ ## 🧪 Test
120
 
121
+ ```bash
122
+ HF_TOKEN=... python test_via_server.py n1-7b --server-bin ./llama-server
123
+ ```
124
+
125
+ 5 sorulu kimlik+dil+matematik+kod+coğrafya testi.
126
+
127
+ ---
128
+
129
+ ## 🛡️ Güvenlik
130
+
131
+ `security_config.json` — Public/Open tier protokolü.
132
+
133
+ ---
134
+
135
+ ## 🔗 Koleksiyonlar
136
+
137
+ - **N-1**: https://huggingface.co/collections/emrevrg/norovox-n-1-6a427fcd271c4002dd02d973
138
+ - **Nythos**: https://huggingface.co/collections/emrevrg/norovox-nythos-6a427fcdef0250cd13a3b02b
139
+ - **Alpha**: https://huggingface.co/collections/emrevrg/norovox-alpha-6a428221c3eef72337ee72ca
140
 
141
  ---
142
 
143
  ## 👤
144
 
145
  **Emre Vergili** — Norovox AI ailesi
146
+ 🇹🇷 Türkçe açık-kaynak — özgün, güçlü, sansürsüz seçenekli.