File size: 7,606 Bytes
ab536ac 206f168 ab536ac dcfcc9f ab536ac 6bae9ba 606ce37 ab536ac 206f168 ab536ac 6bae9ba 606ce37 70c9965 ab536ac 206f168 ab536ac 6bae9ba 606ce37 ab536ac 6bae9ba 606ce37 70c9965 ab536ac 6bae9ba 606ce37 ab536ac | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 | ---
configs:
- config_name: default
data_files:
- split: train
path: benchmark.csv
language:
- tr
license: cc-by-4.0
task_categories:
- question-answering
- text-generation
tags:
- turkish
- benchmark
- cultural-knowledge
- small-language-model
- evaluation
pretty_name: KultuTR
size_categories:
- n<1K
---
# KultuTR: Türkçe Kültür Bilgisi Benchmark'ı
**KultuTR**, Türkçe konuşan küçük dil modellerinin Türkiye kültürü ve genel
kültür bilgisini kısa soru-cevap görevleriyle incelemek için hazırlanmış,
100 soruluk deneysel bir benchmark'tır.
Benchmark; coğrafya, tarih, edebiyat, gelenekler, yemekler ve kültürel miras
konularından örnekler içerir. Özellikle **1 milyardan az parametreli küçük
dil modellerini** denemek için tasarlanmıştır. Sonuçlar model seçimi veya
üretim ortamı için tek başına yeterli bir kalite ölçüsü değildir.
## İlk deney sonuçları
| Model | Yaklaşık parametre | Puanlama ölçütü | Doğru | Doğruluk |
|---|---:|---|---:|---:|
| Töz-1.5-SFT-v9 | 604M | Anlam temelli | 55/100 | **%55** |
| Ufakzeka-1 | 182M | Anlam temelli | 34/100 | **%34** |
| Töz-1 | 195M | Anlam temelli | 31/100 | **%31** |
| Yedikule-1.4 | 202M | Anlam temelli | 30/100 | **%30** |
| Qwen3-0.6B | 752M | Anlam temelli, ek yanlış bilgi yanlış sayılır | 2/100 | **%2** |
| Qwen3.5-0.8B (T=0.4) | 800M | Katı anlam temelli | 0/100 | **%0** |
| Qwen3.5-0.8B (T=0.4) | 800M | Referans cevap yanıtta geçiyor* | 6/100 | **%6** |
| Qwen3.5-0.8B (T=0.7) | 800M | Referans cevap yanıtta geçiyor* | 3/100 | **%3** |
* “Referans cevap yanıtta geçiyor” ölçütünde yanlış ek bilgiler yok sayılır.
Bu ölçüt katı anlam temelli puanlamayla aynı değildir; ilgili satırları diğer
modellerle doğrudan karşılaştırmayın.
### Puanlama ve sınırlamalar
Bu ilk sonuçlar **manuel, anlam temelli** puanlamadır. Referans yanıtla aynı
anlamı taşıyan farklı ifadeler doğru kabul edildi; yanlış veya soruyu
yanıtlamayan ek bilgi içeren yanıtlar doğru sayılmadı. Bu, otomatik
exact-match skoru veya bağımsız hakem değerlendirmesi değildir. Skorlar
ön inceleme niteliğindedir; tekrar puanlama sonuçları değiştirebilir.
Her soru tek turda, her model için tek üretimle soruldu. Bütün deneylerde
sıcaklık `0.4`, `top_p` `0.9` ve üst sınır 64 yeni token olarak ayarlandı.
Model uygulamalarının gerektirdiği diğer örnekleme ayrıntıları aynı değildir;
bu nedenle tablo tam kontrollü, birebir eşdeğer bir laboratuvar karşılaştırması
olarak yorumlanmamalıdır.
Qwen3-0.6B'de düşünme modu kapatıldı; ayrıca `top_k=40` ve tekrar cezası
`1.1` kullanıldı. Bu ayarlar Qwen'in model kartındaki düşünmesiz üretim
önerilerinden farklıdır; sıcaklık ve `top_p`, diğer modellerle ortak deney
ayarlarına uyum için kullanıldı. Qwen yanıtları ayrıca tekil ve batch
üretimle kontrol edildi; görülen düşük sonuç batch doldurma kaynaklı değildi.
Qwen3.5-0.8B de düşünmesiz modda, aynı ortak üretim ayarlarıyla çalıştırıldı.
Referans cevabın yanı sıra çelişkili/yanlış ek bilgi içeren yanıtlar doğru
sayılmadı; bu nedenle doğru ifadeleri yanlış bağlamla birlikte anan birkaç
yanıt puana dahil edilmedi.
Bu veri seti akademik olarak doğrulanmış, dengelenmiş veya kapsamlı biçimde
kalibre edilmiş resmî bir benchmark değildir. Soruların konu dağılımı ve
zorluk düzeyi eşit değildir; 100 soru geniş kültürel yeterliliği ölçmek için
yeterli değildir. Sonuçları kesin sıralama veya modelin genel kabiliyeti
olarak sunmayın.
## Dosyalar
| Dosya | İçerik |
|---|---|
| [`benchmark.jsonl`](benchmark.jsonl) | `prompt` ve `answer` alanlarıyla 100 soru ve referans yanıt |
| [`benchmark.csv`](benchmark.csv) | Dataset Viewer için aynı 100 soru ve yanıtın CSV kopyası |
| [`toz1_predictions.jsonl`](toz1_predictions.jsonl) | Töz-1'in model yanıtları ve üretim metaverisi |
| [`toz15_predictions.jsonl`](toz15_predictions.jsonl) | Töz-1.5-SFT-v9'un model yanıtları ve üretim metaverisi |
| [`ufakzeka_predictions.jsonl`](ufakzeka_predictions.jsonl) | Ufakzeka-1'in model yanıtları ve üretim metaverisi |
| [`yedikule_predictions.jsonl`](yedikule_predictions.jsonl) | Yedikule-1.4'ün model yanıtları ve üretim metaverisi |
| [`qwen3_0_6b_predictions.jsonl`](qwen3_0_6b_predictions.jsonl) | Qwen3-0.6B'nin model yanıtları ve üretim metaverisi |
| [`qwen3_5_0_8b_predictions.jsonl`](qwen3_5_0_8b_predictions.jsonl) | Qwen3.5-0.8B'nin model yanıtları ve üretim metaverisi |
| [`qwen3_5_0_8b_temp07_predictions.jsonl`](qwen3_5_0_8b_temp07_predictions.jsonl) | Qwen3.5-0.8B'nin `temperature=0.7` yanıtları ve üretim metaverisi |
Her tahmin dosyasında soru numarası, soru, referans yanıt, model yanıtı, model
sürümü ve üretim ayarları bulunur. Tahminler model çıktılarıdır; doğru bilgi
olarak değerlendirilmemeli veya model geliştiricilerinin onayladığı şeklinde
yorumlanmamalıdır.
## Yeniden kullanım
Her satır ayrı bir JSON nesnesidir (JSONL):
```python
import json
with open("benchmark.jsonl", encoding="utf-8") as f:
examples = [json.loads(line) for line in f if line.strip()]
for example in examples:
prompt = example["prompt"]
reference = example["answer"]
```
Hugging Face Dataset Viewer, yukarıdaki `default` yapılandırmasında
`benchmark.csv` dosyasını `train` bölümü olarak gösterir. JSONL benchmark
dosyası ve model tahminleri indirme için depoda korunur.
Yeniden kullanımda KultuTR benchmark'ına ve veri seti deposuna atıf yapın.
Model ağırlıkları, adları ve lisansları kendi model kartlarına tabidir.
## Deney kayıtları
Ufakzeka-1, Töz-1 ve Yedikule-1.4 deneyleri Kaggle CPU ortamında çalıştırıldı.
Her çalışmanın kodu ve tam üretim çıktısı, ilgili Kaggle kernel sayfasından
incelenebilir:
- [Ufakzeka-1 — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/ufakzeka-1-kultutr-benchmark)
- [Töz-1 — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/toz-1-kultutr-benchmark)
- [Yedikule-1.4 — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/yedikule-1-4-kultutr-benchmark)
- [Qwen3-0.6B — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/qwen3-0-6b-kultutr-benchmark)
- [Qwen3.5-0.8B — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/qwen3-5-0-8b-kultutr-benchmark)
Töz-1.5-SFT-v9 yerel checkpoint ve tokenizer ile çalıştırıldı.
Qwen3-0.6B, iki Tesla T4 GPU'lu Kaggle ortamında çalıştırıldı; model
indirildikten sonraki model yükleme ve üretim işlemi 11,1 saniye sürdü.
Qwen3.5-0.8B de iki Tesla T4 GPU'da çalıştırıldı; model indirildikten sonraki
model yükleme ve üretim işlemi 16,3 saniye sürdü.
Sıcaklık `0.7` ek denemesi aynı iki GPU'da 16,5 saniyede tamamlandı.
## Model kaynakları
- [TozAI/Toz-1](https://huggingface.co/TozAI/Toz-1)
- [TozAI/Toz-1.5](https://huggingface.co/TozAI/Toz-1.5)
- [ufakai/ufakzeka-1](https://huggingface.co/ufakai/ufakzeka-1)
- [MarulAI/Yedikule-1.4](https://huggingface.co/MarulAI/Yedikule-1.4)
- [Qwen/Qwen3-0.6B](https://huggingface.co/Qwen/Qwen3-0.6B)
- [Qwen/Qwen3.5-0.8B](https://huggingface.co/Qwen/Qwen3.5-0.8B)
## Atıf
```bibtex
@misc{kultutr,
title = {KultuTR: Türkçe Kültür Bilgisi Benchmark'ı},
author = {TozAI},
year = {2026},
howpublished = {Hugging Face Datasets},
note = {100 soruluk deneysel küçük dil modeli değerlendirmesi}
}
```
|