File size: 7,606 Bytes
ab536ac
206f168
 
 
 
 
ab536ac
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
dcfcc9f
 
 
 
 
 
 
 
 
 
 
 
 
 
ab536ac
 
 
 
 
 
 
 
 
 
 
 
 
 
6bae9ba
 
 
 
 
606ce37
 
 
 
ab536ac
 
 
 
 
 
 
 
 
 
 
 
206f168
ab536ac
 
 
 
6bae9ba
606ce37
70c9965
ab536ac
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
206f168
 
 
 
ab536ac
 
 
 
 
 
 
 
 
 
 
 
6bae9ba
606ce37
ab536ac
 
6bae9ba
 
606ce37
 
70c9965
ab536ac
 
 
 
 
 
 
6bae9ba
606ce37
ab536ac
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
---
configs:
  - config_name: default
    data_files:
      - split: train
        path: benchmark.csv
language:
  - tr
license: cc-by-4.0
task_categories:
  - question-answering
  - text-generation
tags:
  - turkish
  - benchmark
  - cultural-knowledge
  - small-language-model
  - evaluation
pretty_name: KultuTR
size_categories:
  - n<1K
---

# KultuTR: Türkçe Kültür Bilgisi Benchmark'ı

**KultuTR**, Türkçe konuşan küçük dil modellerinin Türkiye kültürü ve genel
kültür bilgisini kısa soru-cevap görevleriyle incelemek için hazırlanmış,
100 soruluk deneysel bir benchmark'tır.

Benchmark; coğrafya, tarih, edebiyat, gelenekler, yemekler ve kültürel miras
konularından örnekler içerir. Özellikle **1 milyardan az parametreli küçük
dil modellerini** denemek için tasarlanmıştır. Sonuçlar model seçimi veya
üretim ortamı için tek başına yeterli bir kalite ölçüsü değildir.

## İlk deney sonuçları

| Model | Yaklaşık parametre | Puanlama ölçütü | Doğru | Doğruluk |
|---|---:|---|---:|---:|
| Töz-1.5-SFT-v9 | 604M | Anlam temelli | 55/100 | **%55** |
| Ufakzeka-1 | 182M | Anlam temelli | 34/100 | **%34** |
| Töz-1 | 195M | Anlam temelli | 31/100 | **%31** |
| Yedikule-1.4 | 202M | Anlam temelli | 30/100 | **%30** |
| Qwen3-0.6B | 752M | Anlam temelli, ek yanlış bilgi yanlış sayılır | 2/100 | **%2** |
| Qwen3.5-0.8B (T=0.4) | 800M | Katı anlam temelli | 0/100 | **%0** |
| Qwen3.5-0.8B (T=0.4) | 800M | Referans cevap yanıtta geçiyor* | 6/100 | **%6** |
| Qwen3.5-0.8B (T=0.7) | 800M | Referans cevap yanıtta geçiyor* | 3/100 | **%3** |

* “Referans cevap yanıtta geçiyor” ölçütünde yanlış ek bilgiler yok sayılır.
Bu ölçüt katı anlam temelli puanlamayla aynı değildir; ilgili satırları diğer
modellerle doğrudan karşılaştırmayın.

### Puanlama ve sınırlamalar

Bu ilk sonuçlar **manuel, anlam temelli** puanlamadır. Referans yanıtla aynı
anlamı taşıyan farklı ifadeler doğru kabul edildi; yanlış veya soruyu
yanıtlamayan ek bilgi içeren yanıtlar doğru sayılmadı. Bu, otomatik
exact-match skoru veya bağımsız hakem değerlendirmesi değildir. Skorlar
ön inceleme niteliğindedir; tekrar puanlama sonuçları değiştirebilir.

Her soru tek turda, her model için tek üretimle soruldu. Bütün deneylerde
sıcaklık `0.4`, `top_p` `0.9` ve üst sınır 64 yeni token olarak ayarlandı.
Model uygulamalarının gerektirdiği diğer örnekleme ayrıntıları aynı değildir;
bu nedenle tablo tam kontrollü, birebir eşdeğer bir laboratuvar karşılaştırması
olarak yorumlanmamalıdır.
Qwen3-0.6B'de düşünme modu kapatıldı; ayrıca `top_k=40` ve tekrar cezası
`1.1` kullanıldı. Bu ayarlar Qwen'in model kartındaki düşünmesiz üretim
önerilerinden farklıdır; sıcaklık ve `top_p`, diğer modellerle ortak deney
ayarlarına uyum için kullanıldı. Qwen yanıtları ayrıca tekil ve batch
üretimle kontrol edildi; görülen düşük sonuç batch doldurma kaynaklı değildi.
Qwen3.5-0.8B de düşünmesiz modda, aynı ortak üretim ayarlarıyla çalıştırıldı.
Referans cevabın yanı sıra çelişkili/yanlış ek bilgi içeren yanıtlar doğru
sayılmadı; bu nedenle doğru ifadeleri yanlış bağlamla birlikte anan birkaç
yanıt puana dahil edilmedi.

Bu veri seti akademik olarak doğrulanmış, dengelenmiş veya kapsamlı biçimde
kalibre edilmiş resmî bir benchmark değildir. Soruların konu dağılımı ve
zorluk düzeyi eşit değildir; 100 soru geniş kültürel yeterliliği ölçmek için
yeterli değildir. Sonuçları kesin sıralama veya modelin genel kabiliyeti
olarak sunmayın.

## Dosyalar

| Dosya | İçerik |
|---|---|
| [`benchmark.jsonl`](benchmark.jsonl) | `prompt` ve `answer` alanlarıyla 100 soru ve referans yanıt |
| [`benchmark.csv`](benchmark.csv) | Dataset Viewer için aynı 100 soru ve yanıtın CSV kopyası |
| [`toz1_predictions.jsonl`](toz1_predictions.jsonl) | Töz-1'in model yanıtları ve üretim metaverisi |
| [`toz15_predictions.jsonl`](toz15_predictions.jsonl) | Töz-1.5-SFT-v9'un model yanıtları ve üretim metaverisi |
| [`ufakzeka_predictions.jsonl`](ufakzeka_predictions.jsonl) | Ufakzeka-1'in model yanıtları ve üretim metaverisi |
| [`yedikule_predictions.jsonl`](yedikule_predictions.jsonl) | Yedikule-1.4'ün model yanıtları ve üretim metaverisi |
| [`qwen3_0_6b_predictions.jsonl`](qwen3_0_6b_predictions.jsonl) | Qwen3-0.6B'nin model yanıtları ve üretim metaverisi |
| [`qwen3_5_0_8b_predictions.jsonl`](qwen3_5_0_8b_predictions.jsonl) | Qwen3.5-0.8B'nin model yanıtları ve üretim metaverisi |
| [`qwen3_5_0_8b_temp07_predictions.jsonl`](qwen3_5_0_8b_temp07_predictions.jsonl) | Qwen3.5-0.8B'nin `temperature=0.7` yanıtları ve üretim metaverisi |

Her tahmin dosyasında soru numarası, soru, referans yanıt, model yanıtı, model
sürümü ve üretim ayarları bulunur. Tahminler model çıktılarıdır; doğru bilgi
olarak değerlendirilmemeli veya model geliştiricilerinin onayladığı şeklinde
yorumlanmamalıdır.

## Yeniden kullanım

Her satır ayrı bir JSON nesnesidir (JSONL):

```python
import json

with open("benchmark.jsonl", encoding="utf-8") as f:
    examples = [json.loads(line) for line in f if line.strip()]

for example in examples:
    prompt = example["prompt"]
    reference = example["answer"]
```

Hugging Face Dataset Viewer, yukarıdaki `default` yapılandırmasında
`benchmark.csv` dosyasını `train` bölümü olarak gösterir. JSONL benchmark
dosyası ve model tahminleri indirme için depoda korunur.

Yeniden kullanımda KultuTR benchmark'ına ve veri seti deposuna atıf yapın.
Model ağırlıkları, adları ve lisansları kendi model kartlarına tabidir.

## Deney kayıtları

Ufakzeka-1, Töz-1 ve Yedikule-1.4 deneyleri Kaggle CPU ortamında çalıştırıldı.
Her çalışmanın kodu ve tam üretim çıktısı, ilgili Kaggle kernel sayfasından
incelenebilir:

- [Ufakzeka-1 — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/ufakzeka-1-kultutr-benchmark)
- [Töz-1 — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/toz-1-kultutr-benchmark)
- [Yedikule-1.4 — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/yedikule-1-4-kultutr-benchmark)
- [Qwen3-0.6B — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/qwen3-0-6b-kultutr-benchmark)
- [Qwen3.5-0.8B — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/qwen3-5-0-8b-kultutr-benchmark)

Töz-1.5-SFT-v9 yerel checkpoint ve tokenizer ile çalıştırıldı.
Qwen3-0.6B, iki Tesla T4 GPU'lu Kaggle ortamında çalıştırıldı; model
indirildikten sonraki model yükleme ve üretim işlemi 11,1 saniye sürdü.
Qwen3.5-0.8B de iki Tesla T4 GPU'da çalıştırıldı; model indirildikten sonraki
model yükleme ve üretim işlemi 16,3 saniye sürdü.
Sıcaklık `0.7` ek denemesi aynı iki GPU'da 16,5 saniyede tamamlandı.

## Model kaynakları

- [TozAI/Toz-1](https://huggingface.co/TozAI/Toz-1)
- [TozAI/Toz-1.5](https://huggingface.co/TozAI/Toz-1.5)
- [ufakai/ufakzeka-1](https://huggingface.co/ufakai/ufakzeka-1)
- [MarulAI/Yedikule-1.4](https://huggingface.co/MarulAI/Yedikule-1.4)
- [Qwen/Qwen3-0.6B](https://huggingface.co/Qwen/Qwen3-0.6B)
- [Qwen/Qwen3.5-0.8B](https://huggingface.co/Qwen/Qwen3.5-0.8B)

## Atıf

```bibtex
@misc{kultutr,
  title        = {KultuTR: Türkçe Kültür Bilgisi Benchmark'ı},
  author       = {TozAI},
  year         = {2026},
  howpublished = {Hugging Face Datasets},
  note         = {100 soruluk deneysel küçük dil modeli değerlendirmesi}
}
```