aigencydev commited on
Commit
e4cd16d
·
verified ·
1 Parent(s): 3be9b60

Kart: savunulamaz siralama iddialari kaldirildi

Browse files

Diger acik Turkce modellerle yapilan siralama tablosu ve 'birincisi' ifadesi kaldirildi: o sayilar baskalari tarafindan farkli protokollerle yayimlanmisti, kirlilik denetimi ve guven araligi yoktu. Yerine yalniz kendi tabanimiza karsi olcum ve guven araligi kondu.

Files changed (1) hide show
  1. README.md +69 -26
README.md CHANGED
@@ -43,7 +43,7 @@ model-index:
43
  [![TurkishMMLU](https://img.shields.io/badge/TurkishMMLU-%25_69.7-2ea043?style=for-the-badge)](degerlendirme/turkishmmlu.md)
44
  [![Parametre](https://img.shields.io/badge/Parametre-14B-2563eb?style=for-the-badge)](#)
45
 
46
- **Açık Türkçe modeller arasında TurkishMMLU birincisi**
47
 
48
  [Modeli indir (🤗)](https://huggingface.co/ecloudtech/Erk-14B) · [Türkçe](#türkçe) · [English](#english) · [eCloud Tech.](https://www.e-cloud.web.tr)
49
 
@@ -73,17 +73,35 @@ belirgin biçimde ileri taşır.
73
 
74
  ### Değerlendirme — Evaluation
75
 
76
- Erk, bağımsız ve kamuya açık **TurkishMMLU** kıyaslamasında (9 ders, 0-shot doğruluk)
77
- test edilen açık Türkçe modellerin **en iyisidir.**
78
 
79
- | Sıra | Model | Ölçek | TurkishMMLU |
80
- |:--:|:---|:--:|:--:|
81
- | | **Erk** | **14B** | **%69,7** |
82
- | | Qwen3-14B *(temel model)* | 14B | %63,4 |
83
- | | Trendyol Asure | 12B | %60,9 |
84
- | 4 | Turkish-Gemma (YTÜ) | 9B | %60,4 |
85
- | 5 | Trendyol v4 | 7B | %53,0 |
86
- | 6 | Kumru (VNGRS) | 2B | %20,1 |
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
87
 
88
  **Ders bazında Erk:**
89
 
@@ -233,9 +251,21 @@ sıkı protokolle aynı model yeniden ölçüldü:
233
 
234
  İki sayı çelişmez: %69,7 ile %67,18 aynı modelin iki farklı koşulda ölçümüdür;
235
  fark protokolden gelir. Tabana göre kazanç her iki koşulda da anlamlıdır
236
- (+6,3 tam küme, +6,6 temiz küme). Yukarıdaki sıralama tablosu tam-küme
237
- protokolüne aittir; karşılaştırılan diğer modeller temiz protokolle yeniden
238
- ölçülmemiştir.
 
 
 
 
 
 
 
 
 
 
 
 
239
 
240
  Protokolün tamamı ve yeniden üretim betikleri:
241
  [Erk-32B — Ölçüm Protokolü](https://huggingface.co/ecloudtech/Erk-32B).
@@ -249,8 +279,7 @@ pretraining corpus excluded (plus 150 used for monitoring), remaining 652
249
  measured with option rotation, paired bootstrap CIs — Erk-14B scores
250
  **67.18%** vs **60.58%** for Qwen3-14B (+6.60 [+3.07, +10.28]). The two numbers
251
  are the same model under two protocols; the gain over the base is significant
252
- under both. The ranking table above is on the full-set protocol; other models
253
- were not re-measured under the clean one. Full protocol and scripts:
254
  [Erk-32B](https://huggingface.co/ecloudtech/Erk-32B).
255
 
256
  ## English
@@ -278,16 +307,30 @@ instruction tuning that move the base model meaningfully forward in Turkish.
278
  ### Evaluation
279
 
280
  On the independent, public **TurkishMMLU** benchmark (9 subjects, 0-shot accuracy),
281
- Erk is **the best of the open Turkish models tested.**
282
-
283
- | Rank | Model | Size | TurkishMMLU |
284
- |:--:|:---|:--:|:--:|
285
- | | **Erk** | **14B** | **69.7%** |
286
- | | Qwen3-14B *(base model)* | 14B | 63.4% |
287
- | | Trendyol Asure | 12B | 60.9% |
288
- | 4 | Turkish-Gemma | 9B | 60.4% |
289
- | 5 | Trendyol v4 | 7B | 53.0% |
290
- | 6 | Kumru | 2B | 20.1% |
 
 
 
 
 
 
 
 
 
 
 
 
 
 
291
 
292
  Strongest subjects: **Geography 85% · Philosophy 85% · Religion & Ethics 83% ·
293
  History 76%.** All results measured with `lm-evaluation-harness` on the public
 
43
  [![TurkishMMLU](https://img.shields.io/badge/TurkishMMLU-%25_69.7-2ea043?style=for-the-badge)](degerlendirme/turkishmmlu.md)
44
  [![Parametre](https://img.shields.io/badge/Parametre-14B-2563eb?style=for-the-badge)](#)
45
 
46
+ **TurkishMMLU'da kendi temel modelini +6,60 puan geçiyor** — güven aralığı ve protokol aşağıda
47
 
48
  [Modeli indir (🤗)](https://huggingface.co/ecloudtech/Erk-14B) · [Türkçe](#türkçe) · [English](#english) · [eCloud Tech.](https://www.e-cloud.web.tr)
49
 
 
73
 
74
  ### Değerlendirme — Evaluation
75
 
76
+ Kontrol ettiğimiz tek kıyas **kendi temel modelimize karşı** olandır: aynı
77
+ sorular, aynı protokol, aynı ölçüm, eşli güven aralığı.
78
 
79
+ | Model | TurkishMMLU (9 ders, 0-shot) |
80
+ |:---|:--:|
81
+ | Qwen3-14B *(temel model)* | %63,4 |
82
+ | **Erk-14B** | **%69,7** |
83
+ | **Fark** | **+6,3** |
84
+
85
+ Daha sıkı protokolde (kirli sorular çıkarılmış, şık döndürmeli, eşli bootstrap)
86
+ aynı karşılaştırma: Qwen3-14B %60,58 · **Erk-14B %67,18** · fark
87
+ **+6,60 [+3,07, +10,28]**. İki protokolde de tabana göre kazanç anlamlıdır.
88
+
89
+ #### Neden başka modellerle sıralama tablosu yok
90
+
91
+ Bu kartın önceki sürümünde diğer açık Türkçe modellerle bir sıralama tablosu ve
92
+ "birincisi" ifadesi vardı. Kaldırdık, çünkü savunulabilir değildi: o sayılar
93
+ başkaları tarafından, başka protokollerle yayımlanmıştı, bizimki kendi
94
+ ölçümümüzdü, hiçbirinde kirlilik denetimi ve güven aralığı yoktu.
95
+
96
+ Bunun soyut bir titizlik olmadığını kendi ölçümlerimizde gördük. Aynı modelin
97
+ aynı soru kümesindeki puanı **yalnız istem biçimi değişince** oynuyor: Qwen3-32B
98
+ %63,38'den %67,13'e çıktı, başka bir modelde sade istem 15 puan kaybettirdi.
99
+ Bir başka ölçümde, bir çıkarım servisinin sunduğu modelin puanı aynı ağırlıkların
100
+ yerel ölçümünün 26 puan altında çıktı. Bu büyüklükteki oynamalar bir sıralama
101
+ tablosunun sırasını tek başına belirler.
102
+
103
+ Başka modellerle kıyas yayımlayacaksak onları **kendi protokolümüzle kendimiz**
104
+ ölçmemiz gerekir. O çalışma sürüyor; bitmeden sıra iddiası yazmayacağız.
105
 
106
  **Ders bazında Erk:**
107
 
 
251
 
252
  İki sayı çelişmez: %69,7 ile %67,18 aynı modelin iki farklı koşulda ölçümüdür;
253
  fark protokolden gelir. Tabana göre kazanç her iki koşulda da anlamlıdır
254
+ (+6,3 tam küme, +6,6 temiz küme).
255
+
256
+
257
+ ## Benimsenme
258
+
259
+ 21 Eylül 2026 anlık ölçümü; doğrulanabilir:
260
+ `curl "https://huggingface.co/api/models/ecloudtech/Erk-14B?expand[]=downloadsAllTime"`
261
+
262
+ | Depo | İndirme (tüm zamanlar) |
263
+ |---|---|
264
+ | `ecloudtech/Erk-14B` | 538 |
265
+
266
+ Erk ailesinin tamamı (14B, 32B ve topluluğun ürettiği GGUF depoları dahil):
267
+ **6.790 indirme**. Günlük sayaç kaydı tutulmaktadır; Hugging Face indirme
268
+ geçmişi yayımlamadığı için eğilim iddiası ancak seri birikince yazılacaktır.
269
 
270
  Protokolün tamamı ve yeniden üretim betikleri:
271
  [Erk-32B — Ölçüm Protokolü](https://huggingface.co/ecloudtech/Erk-32B).
 
279
  measured with option rotation, paired bootstrap CIs — Erk-14B scores
280
  **67.18%** vs **60.58%** for Qwen3-14B (+6.60 [+3.07, +10.28]). The two numbers
281
  are the same model under two protocols; the gain over the base is significant
282
+ under both. Full protocol and scripts:
 
283
  [Erk-32B](https://huggingface.co/ecloudtech/Erk-32B).
284
 
285
  ## English
 
307
  ### Evaluation
308
 
309
  On the independent, public **TurkishMMLU** benchmark (9 subjects, 0-shot accuracy),
310
+ The only comparison we control is **against our own base model**: same
311
+ questions, same protocol, paired confidence intervals.
312
+
313
+ | Model | TurkishMMLU (9 subjects, 0-shot) |
314
+ |:---|:--:|
315
+ | Qwen3-14B *(base model)* | 63.4% |
316
+ | **Erk-14B** | **69.7%** |
317
+ | **Difference** | **+6.3** |
318
+
319
+ Under the stricter protocol (contaminated questions removed, option rotation,
320
+ paired bootstrap): Qwen3-14B 60.58% vs **Erk-14B 67.18%**, +6.60 [+3.07, +10.28].
321
+ The gain over the base is significant under both protocols.
322
+
323
+ **Why there is no ranking table against other models.** An earlier version of
324
+ this card ranked Erk against other open Turkish models and called it first. We
325
+ removed that: those numbers were published by others under different protocols,
326
+ ours was our own measurement, and none had contamination checks or confidence
327
+ intervals. Our own measurements show why this matters — the same model on the
328
+ same questions moves by 4 points when only the prompt format changes, by 15
329
+ points for another model, and one inference endpoint scored 26 points below the
330
+ local weights of the model it claimed to serve. Swings of that size decide the
331
+ order of a ranking table by themselves. To publish a comparison we would have to
332
+ measure the other models ourselves under our protocol. That work is ongoing.
333
+
334
 
335
  Strongest subjects: **Geography 85% · Philosophy 85% · Religion & Ethics 83% ·
336
  History 76%.** All results measured with `lm-evaluation-harness` on the public