Töz-1 (toz1-sft-h.pt)

README.md

@@ -7,6 +7,7 @@ pipeline_tag: text-generation
 base_model: TozAI/Toz-1-Base
 datasets:
 - TozAI/Toz-1-SFT
+- kilicai/turkish-ft-balanced-200k
 tags:
 - turkish
 - türkçe
@@ -26,6 +27,26 @@ Küçük bir model: sıradan bir bilgisayarın işlemcisinde çalışır, kısa
 cevaplar verir. Bir bilgi kaynağı değil, **küçük bir modelin neler yapabildiğini
 gösteren bir deney** olarak görülmeli (bkz. Sınırlamalar).
 
+## Sürümler
+
+| sürüm | tarih | ne değişti |
+|---|---|---|
+| **v2** (bu sürüm) | Ekim 2026 | SFT'ye ~9.000 filtrelenmiş Türkçe sohbet örneği eklendi, matematik örnekleri 1.000 azaltıldı |
+| v1 | 27 Eylül 2026 | ilk yayın; `revision="v1"` ile hâlâ indirilebilir |
+
+**v2 neden?** v1 kendi ürettiğimiz dar kalıplarla eğitilmişti ve tanımadığı soru türlerini en yakın
+kalıba zorluyordu: "Valorant oynayayım mı?" → "Hayır, adım Töz-1", "Matematik kursu almalı
+mıyım?" → "Sadece tek basamaklı işlemler yapabiliyorum", "Valorant oynayabilir miyim?" →
+"Bilgisayarına erişimim yok". Tavsiye, fikir ve gündelik sorular veride neredeyse yoktu;
+"ben … miyim" (kullanıcı kendini soruyor) ile "sen … misin" (modelin yeteneği soruluyor) ayrımı
+da öğrenilmemişti. v2 bu boşluğu gerçek sohbet örnekleriyle kapatmayı hedefliyor. Bilgi
+düzeyi aynı: ön eğitim değişmedi.
+
+```python
+# v1'i kullanmak için
+model = AutoModelForCausalLM.from_pretrained("TozAI/Toz-1", revision="v1")
+```
+
 ## Hızlı başlangıç
 
 ```python
@@ -77,11 +98,11 @@ Hepsi aynı scriptle (`mmlu_olc.py`, `turblimp_olc.py`), 0-shot, şıkların/cü
 olasılığı karşılaştırılarak ölçüldü. Karşılaştırma için ufakzeka-1-base de **aynı scriptle**
 ölçüldü.
 
-| benchmark | şans | Töz-1 (sohbet) | Töz-1-Base | ufakzeka-1-base |
-|---|---|---|---|---|
-| **TurBLiMP** — Türkçe dilbilgisi, 16 konu × 1.000 cümle çifti | %50 | %91.2 | **%93.2** | %92.0 |
-| **Turkish MMLU** — alibayram/turkish_mmlu, 6.200 sınav sorusu, 5 şık (cloze, uzunluk normalize) | %20 | %24.1 | %25.0 | — |
-| Turkish MMLU — aynı set, şık harfi (A–E) | %20 | %20.5 | %21.1 | — |
+| benchmark | şans | Töz-1 v2 | Töz-1 v1 | Töz-1-Base | ufakzeka-1-base |
+|---|---|---|---|---|---|
+| **TurBLiMP** — Türkçe dilbilgisi, 16 konu × 1.000 cümle çifti | %50 | <<DOLDUR: v2 TurBLiMP>> | %91.2 | **%93.2** | %92.0 |
+| **Turkish MMLU** — alibayram/turkish_mmlu, 6.200 sınav sorusu, 5 şık (cloze, uzunluk normalize) | %20 | <<DOLDUR: v2 cloze_norm>> | %24.1 | %25.0 | — |
+| Turkish MMLU — aynı set, şık harfi (A–E) | %20 | <<DOLDUR: v2 harf>> | %20.5 | %21.1 | — |
 
 * TurBLiMP'te Töz-1-Base, 13.5B tokenla eğitilmiş ufakzeka-1-base'in (151M) önünde; Töz-1 4.42B
   tokenla eğitildi. Dilbilgisi az veriyle doyan bir yetenek; dünya bilgisi gerektiren testlerde
@@ -89,18 +110,18 @@ olasılığı karşılaştırılarak ölçüldü. Karşılaştırma için ufakze
 * Turkish MMLU (KPSS, TUS, ALES vb.) 195M bir model için çok zor: sonuç şansın üstünde
   (6.200 soruda ±0.5 puan gürültü) ama düşük. Şık harfi biçimi küçük modellerde şans
   seviyesinde kalır. ufakzeka-1 bu seti bizim scriptimizle ölçülmediği için "—".
-* SFT, bilgi testinde (MMLU) skoru korudu; dilbilgisi testinde 2 puan düşürdü.
+* SFT bilgi testinde (MMLU) skoru korudu: v2'deki 9.000 sohbet örneği de modelin bilgisini bozmadı.
 
 ### Kendi donuk setlerimiz
 
 Eğitimde hiç görülmeyen, modelin öğrenmesini istediğimiz davranışları ölçen setler
 (veri setinde `olcum/`, puanlayıcılar `uretim/` altında):
 
-| set | ne ölçüyor | Töz-1 |
-|---|---|---|
-| matematik (305) | tek basamaklı işlemler, eğitimde olmayan soru kalıplarıyla | **%99.7** |
-| kısıt (230) | talimat takibi (IFEval tarzı): biçim / tam doğru | **%75.2 / %40.4** |
-| tanım (90) | ham modelin bildiği ama SFT'de görmediği varlıklarda doğru kategori | **%25.6** |
+| set | ne ölçüyor | Töz-1 v2 | Töz-1 v1 |
+|---|---|---|---|
+| matematik (305) | tek basamaklı işlemler, eğitimde olmayan soru kalıplarıyla | <<DOLDUR: v2 matematik>> | %99.7 |
+| kısıt (230) | talimat takibi (IFEval tarzı): biçim / tam doğru | <<DOLDUR: v2 kısıt biçim / tam>> | %75.2 / %40.4 |
+| tanım (90) | ham modelin bildiği ama SFT'de görmediği varlıklarda doğru kategori | <<DOLDUR: v2 tanım>> | %25.6 |
 
 Tek bir eğitim koşusunun rastgeleliği bu küçük setlerde ±3–4 puan oynatabiliyor.
 
@@ -114,12 +135,18 @@ Tek bir eğitim koşusunun rastgeleliği bu küçük setlerde ±3–4 puan oynat
 * AdamW (0.9, 0.95), weight decay 0.1, z-loss 1e-4, fp16 karışık hassasiyet
 * Donanım: Kaggle 2× Tesla T4 ve tek bir RTX 3060 Ti (8 GB)
 
-**SFT**
-* 12.297 örnek, 3 epoch, lr 1e-4 (kosinüs), kayıp yalnızca cevap tokenlarında
-* Tek RTX 3060 Ti'de **101 saniye**
-* Verinin neredeyse tamamı kodla üretildi; Vikipedi tanımları, ham modele okutulup
-  **modelin zaten bildiği** varlıklar seçilerek alındı (bilmediği bilgiyi SFT'de
-  öğretmek uydurmayı öğretir). Ayrıntılar: [TozAI/Toz-1-SFT](https://huggingface.co/datasets/TozAI/Toz-1-SFT)
+**SFT (v2)**
+* <<DOLDUR: toplam örnek sayısı, eğitim logundaki "toplam" satırı>> örnek, 3 epoch, lr 1e-4 (kosinüs),
+  kayıp yalnızca cevap tokenlarında, tek RTX 3060 Ti
+* **Kodla üretilen veri** (v1'den): kimlik, sohbet, bilgi, takip soruları, talimat kısıtları,
+  tek basamaklı matematik (v2'de 1.000 örnek azaltıldı), Vikipedi tanımları. Vikipedi tanımları
+  ham modele okutulup **modelin zaten bildiği** varlıklar seçilerek alındı (bilmediği bilgiyi
+  SFT'de öğretmek uydurmayı öğretir). Ayrıntılar: [TozAI/Toz-1-SFT](https://huggingface.co/datasets/TozAI/Toz-1-SFT)
+* **Sohbet verisi** (v2'de eklendi): [kilicai/turkish-sft-clean-v5-strict-pruned](https://huggingface.co/datasets/kilicai/turkish-sft-clean-v5-strict-pruned)
+  (yazarın en sıkı temizlenmiş sürümü: güvensiz içerik ve tekrarlar silinmiş) içinden ~9.000 örnek;
+  soru-cevap, talimat, yaratıcı yazım ve çok turlu sohbet kategorileri. Sistem mesajları atıldı;
+  kod, başka model kimliği ("ChatGPT", "OpenAI"…), İngilizce ağırlıklı metin, 300 tokeni aşan
+  cevaplar ve 1024 tokeni aşan konuşmalar elendi (`sohbet_veri.py`).
 
 **Mimari**
 
@@ -149,16 +176,18 @@ ağırlıklar Qwen'den **türetilmedi**, tamamen sıfırdan eğitildi.
 
 ## Lisans
 
-Model ağırlıkları **Apache-2.0**. SFT verisinin Vikipedi kısmı CC BY-SA 4.0;
-ticari olmayan lisanslı (Alpaca kökenli) veri eğitimde **kullanılmadı**.
+Model ağırlıkları **Apache-2.0**. SFT verisinin Vikipedi kısmı CC BY-SA 4.0; v2'de eklenen
+sohbet verisi (kilicai/turkish-sft-clean-v5-strict-pruned) Apache-2.0. Ticari olmayan lisanslı (Alpaca kökenli)
+veri eğitimde **kullanılmadı**.
 
 ---
 
 ## English summary
 
 Töz-1 is a 195M-parameter Turkish-only language model trained **from scratch** by Töz AI
-(own tokenizer, 4.42B pre-training tokens on 2× T4 + one RTX 3060 Ti), followed by a
-101-second SFT on 12.3K mostly programmatically generated examples. It handles casual chat,
+(own tokenizer, 4.42B pre-training tokens on 2× T4 + one RTX 3060 Ti), followed by SFT on
+programmatically generated examples plus (since v2, October 2026) ~9K filtered Turkish chat
+conversations. v1 (27 Sep 2026) remains available via `revision="v1"`. It handles casual chat,
 common facts, follow-up questions, single-digit arithmetic and simple formatting
 instructions, and it confidently makes factual errors. On TurBLiMP (Turkish grammar
 minimal pairs) the base model scores 93.2% vs 92.0% for ufakzeka-1-base (13.5B tokens), both

model.safetensors

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:f8053c6b01fd912f8ae378a159f389c68c65e11f227b6abfd6b2aa79ed28e1e1
+oid sha256:ca7e632232dc73505ae5e5105259e3013660659c8f432ac388b8b6be2edbb57e
 size 390153808