aigencydev commited on
Commit
88a7d58
·
verified ·
1 Parent(s): e14df4c

Surum 2 karti (main)

Browse files
Files changed (1) hide show
  1. README.md +51 -19
README.md CHANGED
@@ -25,8 +25,17 @@ model-index:
25
  type: turkishmmlu
26
  metrics:
27
  - type: accuracy
28
- value: 69.7
29
- name: TurkishMMLU (0-shot, 9 ders ortalaması)
 
 
 
 
 
 
 
 
 
30
  ---
31
  <div align="center">
32
 
@@ -40,10 +49,10 @@ model-index:
40
  <br>
41
 
42
  [![Hugging Face](https://img.shields.io/badge/🤗_Model-ecloudtech%2FErk--14B-ffcc00?style=for-the-badge)](https://huggingface.co/ecloudtech/Erk-14B)
43
- [![TurkishMMLU](https://img.shields.io/badge/TurkishMMLU-%25_69.7-2ea043?style=for-the-badge)](degerlendirme/turkishmmlu.md)
44
  [![Parametre](https://img.shields.io/badge/Parametre-14B-2563eb?style=for-the-badge)](#)
45
 
46
- **TurkishMMLU'da kendi temel modelini +6,60 puan geçiyor** — güven aralığı ve protokol aşağıda
47
 
48
  [Modeli indir (🤗)](https://huggingface.co/ecloudtech/Erk-14B) · [Türkçe](#türkçe) · [English](#english) · [eCloud Tech.](https://www.e-cloud.web.tr)
49
 
@@ -53,6 +62,38 @@ model-index:
53
 
54
  ## Türkçe
55
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
56
  ### Erk nedir?
57
 
58
  **Erk**, [eCloud Yazılım Teknolojileri](https://www.e-cloud.web.tr) tarafından
@@ -86,22 +127,13 @@ Daha sıkı protokolde (kirli sorular çıkarılmış, şık döndürmeli, eşli
86
  aynı karşılaştırma: Qwen3-14B %60,58 · **Erk-14B %67,18** · fark
87
  **+6,60 [+3,07, +10,28]**. İki protokolde de tabana göre kazanç anlamlıdır.
88
 
89
- #### Neden başka modellerle sıralama tablosu yok
90
-
91
- Bu kartın önceki sürümünde diğer açık Türkçe modellerle bir sıralama tablosu ve
92
- "birincisi" ifadesi vardı. Kaldırdık, çünkü savunulabilir değildi: o sayılar
93
- başkaları tarafından, başka protokollerle yayımlanmıştı, bizimki kendi
94
- ölçümümüzdü, hiçbirinde kirlilik denetimi ve güven aralığı yoktu.
95
-
96
- Bunun soyut bir titizlik olmadığını kendi ölçümlerimizde gördük. Aynı modelin
97
- aynı soru kümesindeki puanı **yalnız istem biçimi değişince** oynuyor: Qwen3-32B
98
- %63,38'den %67,13'e çıktı, başka bir modelde sade istem 15 puan kaybettirdi.
99
- Bir başka ölçümde, bir çıkarım servisinin sunduğu modelin puanı aynı ağırlıkların
100
- yerel ölçümünün 26 puan altında çıktı. Bu büyüklükteki oynamalar bir sıralama
101
- tablosunun sırasını tek başına belirler.
102
 
103
- Başka modellerle kıyas yayımlayacaksak onları **kendi protokolümüzle kendimiz**
104
- ölçmemiz gerekir. O çalışma sürüyor; bitmeden sıra iddiası yazmayacağız.
 
 
 
105
 
106
  **Ders bazında Erk:**
107
 
 
25
  type: turkishmmlu
26
  metrics:
27
  - type: accuracy
28
+ value: 66.9
29
+ name: TurkishMMLU (temiz 652, şık döndürmeli)
30
+ - task:
31
+ type: multiple-choice
32
+ dataset:
33
+ name: TurkMorfBench
34
+ type: ecloudtech/TurkMorfBench
35
+ metrics:
36
+ - type: accuracy
37
+ value: 80.0
38
+ name: TurkMorfBench 3.6 çekirdek (harf kuralı)
39
  ---
40
  <div align="center">
41
 
 
49
  <br>
50
 
51
  [![Hugging Face](https://img.shields.io/badge/🤗_Model-ecloudtech%2FErk--14B-ffcc00?style=for-the-badge)](https://huggingface.co/ecloudtech/Erk-14B)
52
+ [![TurkMorfBench](https://img.shields.io/badge/TurkMorfBench-%231_%2F_17-2ea043?style=for-the-badge)](https://huggingface.co/datasets/ecloudtech/TurkMorfBench)
53
  [![Parametre](https://img.shields.io/badge/Parametre-14B-2563eb?style=for-the-badge)](#)
54
 
55
+ **Sürüm 2: TurkMorfBench liderlik tablosunda 17 model arasında birinci** — protokol ve güven aralıkları aşağıda
56
 
57
  [Modeli indir (🤗)](https://huggingface.co/ecloudtech/Erk-14B) · [Türkçe](#türkçe) · [English](#english) · [eCloud Tech.](https://www.e-cloud.web.tr)
58
 
 
62
 
63
  ## Türkçe
64
 
65
+ ## Sürüm 2 — 29 Eylül 2026
66
+
67
+ Bu depodaki `main` dalı artık **Erk-14B v2**'dir; önceki ağırlıklar `v1` etiketinde durur.
68
+
69
+ **Ne değişti.** v1'in üzerine üç aşamalı devam eğitimi yapıldı: (1) FineWeb-2 Türkçe metniyle
70
+ tam parametreli devam ön-eğitimi, (2) kural motorundan üretilmiş, kıyas gövdelerini içermeyen
71
+ Türkçe biçim bilgisi cümleleri (kısaltma, sayı, çatı, birleşik isim, özel ad) ve talimat verisiyle
72
+ kısa turlar, (3) genel yeteneği korumak için v1 ağırlıklarıyla doğrusal karışım (0,85) ve kısa bir
73
+ kimlik pekiştirme turu. Tokenizer ve mimari değişmedi; Qwen3-14B tabanı aynıdır.
74
+
75
+ **Sonuçlar** (aynı sabit protokol, hücre kümeli %95 güven aralığı, eşli fark v1'e göre):
76
+
77
+ | Ölçüm | v1 | **v2** | Fark |
78
+ |---|---|---|---|
79
+ | TurkMorfBench 3.6 çekirdek (1.836 madde) | %75,4 | **%80,0** | +4,5 [+1,3, +5,9] |
80
+ | TurkishMMLU temiz 652, şık döndürmeli | %67,2 | %66,9 | −0,3 [−3,1, +2,6] |
81
+
82
+ TurkMorfBench liderlik tablosunda (17 model) v2 **birinci sırada**; ilk üç istatistiksel olarak
83
+ beraberdir. Kimlik sınavı (30 tuzaklı soru) 30/30. Kazanç istisna kovalarında yoğunlaşır: çatı, ünsüz ikizleşmesi, ünlü düşmesi, uyum
84
+ kırıcı alıntılar. Genel yetenek farkı güven aralığının içindedir. Tablo ve protokol:
85
+ [TurkMorfBench](https://huggingface.co/datasets/ecloudtech/TurkMorfBench).
86
+
87
+ **Hangisini indirmeli.** Türkçe metin üretimi ve biçim bilgisi için **v2** (`main`). Yalnız v1 ile
88
+ karşılaştırma gerekiyorsa `revision="v1"`. GGUF sürümleri:
89
+ [Erk-14B-GGUF](https://huggingface.co/ecloudtech/Erk-14B-GGUF) (Q4_K_M önerilir).
90
+
91
+ ```python
92
+ from transformers import AutoModelForCausalLM, AutoTokenizer
93
+ m = AutoModelForCausalLM.from_pretrained("ecloudtech/Erk-14B") # v2
94
+ m1 = AutoModelForCausalLM.from_pretrained("ecloudtech/Erk-14B", revision="v1") # önceki sürüm
95
+ ```
96
+
97
  ### Erk nedir?
98
 
99
  **Erk**, [eCloud Yazılım Teknolojileri](https://www.e-cloud.web.tr) tarafından
 
127
  aynı karşılaştırma: Qwen3-14B %60,58 · **Erk-14B %67,18** · fark
128
  **+6,60 [+3,07, +10,28]**. İki protokolde de tabana göre kazanç anlamlıdır.
129
 
130
+ #### Başka modellerle karşılaştırma
 
 
 
 
 
 
 
 
 
 
 
 
131
 
132
+ Sıralama iddiasını yalnız **kendi protokolümüzle kendimiz ölçtüğümüz** modeller için yaparız.
133
+ Bu ölçüm tamamlandı: 17 açık model, aynı 1.836 madde, aynı sabit betik, hücre kümeli güven
134
+ aralıkları ve TurkishMMLU sütunu ile
135
+ [TurkMorfBench liderlik tablosunda](https://huggingface.co/datasets/ecloudtech/TurkMorfBench).
136
+ Erk-14B v2 birinci sıradadır; ilk üç istatistiksel olarak beraberdir ve bunu tabloda yazarız.
137
 
138
  **Ders bazında Erk:**
139