|
Download README.md from TozAI/KultuTR: direct link, hf CLI and curl.
- Browser
- Download file 7.61 kB
-
https://huggingface.co/datasets/TozAI/KultuTR/resolve/main/README.md
- Command line
-
hf download hf://datasets/TozAI/KultuTR/README.md
-
curl -L -o README.md https://huggingface.co/datasets/TozAI/KultuTR/resolve/main/README.md
7.61 kB
| configs: | |
| - config_name: default | |
| data_files: | |
| - split: train | |
| path: benchmark.csv | |
| language: | |
| - tr | |
| license: cc-by-4.0 | |
| task_categories: | |
| - question-answering | |
| - text-generation | |
| tags: | |
| - turkish | |
| - benchmark | |
| - cultural-knowledge | |
| - small-language-model | |
| - evaluation | |
| pretty_name: KultuTR | |
| size_categories: | |
| - n<1K | |
| # KultuTR: Türkçe Kültür Bilgisi Benchmark'ı | |
| **KultuTR**, Türkçe konuşan küçük dil modellerinin Türkiye kültürü ve genel | |
| kültür bilgisini kısa soru-cevap görevleriyle incelemek için hazırlanmış, | |
| 100 soruluk deneysel bir benchmark'tır. | |
| Benchmark; coğrafya, tarih, edebiyat, gelenekler, yemekler ve kültürel miras | |
| konularından örnekler içerir. Özellikle **1 milyardan az parametreli küçük | |
| dil modellerini** denemek için tasarlanmıştır. Sonuçlar model seçimi veya | |
| üretim ortamı için tek başına yeterli bir kalite ölçüsü değildir. | |
| ## İlk deney sonuçları | |
| | Model | Yaklaşık parametre | Puanlama ölçütü | Doğru | Doğruluk | | |
| |---|---:|---|---:|---:| | |
| | Töz-1.5-SFT-v9 | 604M | Anlam temelli | 55/100 | **%55** | | |
| | Ufakzeka-1 | 182M | Anlam temelli | 34/100 | **%34** | | |
| | Töz-1 | 195M | Anlam temelli | 31/100 | **%31** | | |
| | Yedikule-1.4 | 202M | Anlam temelli | 30/100 | **%30** | | |
| | Qwen3-0.6B | 752M | Anlam temelli, ek yanlış bilgi yanlış sayılır | 2/100 | **%2** | | |
| | Qwen3.5-0.8B (T=0.4) | 800M | Katı anlam temelli | 0/100 | **%0** | | |
| | Qwen3.5-0.8B (T=0.4) | 800M | Referans cevap yanıtta geçiyor* | 6/100 | **%6** | | |
| | Qwen3.5-0.8B (T=0.7) | 800M | Referans cevap yanıtta geçiyor* | 3/100 | **%3** | | |
| * “Referans cevap yanıtta geçiyor” ölçütünde yanlış ek bilgiler yok sayılır. | |
| Bu ölçüt katı anlam temelli puanlamayla aynı değildir; ilgili satırları diğer | |
| modellerle doğrudan karşılaştırmayın. | |
| ### Puanlama ve sınırlamalar | |
| Bu ilk sonuçlar **manuel, anlam temelli** puanlamadır. Referans yanıtla aynı | |
| anlamı taşıyan farklı ifadeler doğru kabul edildi; yanlış veya soruyu | |
| yanıtlamayan ek bilgi içeren yanıtlar doğru sayılmadı. Bu, otomatik | |
| exact-match skoru veya bağımsız hakem değerlendirmesi değildir. Skorlar | |
| ön inceleme niteliğindedir; tekrar puanlama sonuçları değiştirebilir. | |
| Her soru tek turda, her model için tek üretimle soruldu. Bütün deneylerde | |
| sıcaklık `0.4`, `top_p` `0.9` ve üst sınır 64 yeni token olarak ayarlandı. | |
| Model uygulamalarının gerektirdiği diğer örnekleme ayrıntıları aynı değildir; | |
| bu nedenle tablo tam kontrollü, birebir eşdeğer bir laboratuvar karşılaştırması | |
| olarak yorumlanmamalıdır. | |
| Qwen3-0.6B'de düşünme modu kapatıldı; ayrıca `top_k=40` ve tekrar cezası | |
| `1.1` kullanıldı. Bu ayarlar Qwen'in model kartındaki düşünmesiz üretim | |
| önerilerinden farklıdır; sıcaklık ve `top_p`, diğer modellerle ortak deney | |
| ayarlarına uyum için kullanıldı. Qwen yanıtları ayrıca tekil ve batch | |
| üretimle kontrol edildi; görülen düşük sonuç batch doldurma kaynaklı değildi. | |
| Qwen3.5-0.8B de düşünmesiz modda, aynı ortak üretim ayarlarıyla çalıştırıldı. | |
| Referans cevabın yanı sıra çelişkili/yanlış ek bilgi içeren yanıtlar doğru | |
| sayılmadı; bu nedenle doğru ifadeleri yanlış bağlamla birlikte anan birkaç | |
| yanıt puana dahil edilmedi. | |
| Bu veri seti akademik olarak doğrulanmış, dengelenmiş veya kapsamlı biçimde | |
| kalibre edilmiş resmî bir benchmark değildir. Soruların konu dağılımı ve | |
| zorluk düzeyi eşit değildir; 100 soru geniş kültürel yeterliliği ölçmek için | |
| yeterli değildir. Sonuçları kesin sıralama veya modelin genel kabiliyeti | |
| olarak sunmayın. | |
| ## Dosyalar | |
| | Dosya | İçerik | | |
| |---|---| | |
| | [`benchmark.jsonl`](benchmark.jsonl) | `prompt` ve `answer` alanlarıyla 100 soru ve referans yanıt | | |
| | [`benchmark.csv`](benchmark.csv) | Dataset Viewer için aynı 100 soru ve yanıtın CSV kopyası | | |
| | [`toz1_predictions.jsonl`](toz1_predictions.jsonl) | Töz-1'in model yanıtları ve üretim metaverisi | | |
| | [`toz15_predictions.jsonl`](toz15_predictions.jsonl) | Töz-1.5-SFT-v9'un model yanıtları ve üretim metaverisi | | |
| | [`ufakzeka_predictions.jsonl`](ufakzeka_predictions.jsonl) | Ufakzeka-1'in model yanıtları ve üretim metaverisi | | |
| | [`yedikule_predictions.jsonl`](yedikule_predictions.jsonl) | Yedikule-1.4'ün model yanıtları ve üretim metaverisi | | |
| | [`qwen3_0_6b_predictions.jsonl`](qwen3_0_6b_predictions.jsonl) | Qwen3-0.6B'nin model yanıtları ve üretim metaverisi | | |
| | [`qwen3_5_0_8b_predictions.jsonl`](qwen3_5_0_8b_predictions.jsonl) | Qwen3.5-0.8B'nin model yanıtları ve üretim metaverisi | | |
| | [`qwen3_5_0_8b_temp07_predictions.jsonl`](qwen3_5_0_8b_temp07_predictions.jsonl) | Qwen3.5-0.8B'nin `temperature=0.7` yanıtları ve üretim metaverisi | | |
| Her tahmin dosyasında soru numarası, soru, referans yanıt, model yanıtı, model | |
| sürümü ve üretim ayarları bulunur. Tahminler model çıktılarıdır; doğru bilgi | |
| olarak değerlendirilmemeli veya model geliştiricilerinin onayladığı şeklinde | |
| yorumlanmamalıdır. | |
| ## Yeniden kullanım | |
| Her satır ayrı bir JSON nesnesidir (JSONL): | |
| ```python | |
| import json | |
| with open("benchmark.jsonl", encoding="utf-8") as f: | |
| examples = [json.loads(line) for line in f if line.strip()] | |
| for example in examples: | |
| prompt = example["prompt"] | |
| reference = example["answer"] | |
| ``` | |
| Hugging Face Dataset Viewer, yukarıdaki `default` yapılandırmasında | |
| `benchmark.csv` dosyasını `train` bölümü olarak gösterir. JSONL benchmark | |
| dosyası ve model tahminleri indirme için depoda korunur. | |
| Yeniden kullanımda KultuTR benchmark'ına ve veri seti deposuna atıf yapın. | |
| Model ağırlıkları, adları ve lisansları kendi model kartlarına tabidir. | |
| ## Deney kayıtları | |
| Ufakzeka-1, Töz-1 ve Yedikule-1.4 deneyleri Kaggle CPU ortamında çalıştırıldı. | |
| Her çalışmanın kodu ve tam üretim çıktısı, ilgili Kaggle kernel sayfasından | |
| incelenebilir: | |
| - [Ufakzeka-1 — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/ufakzeka-1-kultutr-benchmark) | |
| - [Töz-1 — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/toz-1-kultutr-benchmark) | |
| - [Yedikule-1.4 — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/yedikule-1-4-kultutr-benchmark) | |
| - [Qwen3-0.6B — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/qwen3-0-6b-kultutr-benchmark) | |
| - [Qwen3.5-0.8B — Kaggle çalışması](https://www.kaggle.com/code/ahmettrsane/qwen3-5-0-8b-kultutr-benchmark) | |
| Töz-1.5-SFT-v9 yerel checkpoint ve tokenizer ile çalıştırıldı. | |
| Qwen3-0.6B, iki Tesla T4 GPU'lu Kaggle ortamında çalıştırıldı; model | |
| indirildikten sonraki model yükleme ve üretim işlemi 11,1 saniye sürdü. | |
| Qwen3.5-0.8B de iki Tesla T4 GPU'da çalıştırıldı; model indirildikten sonraki | |
| model yükleme ve üretim işlemi 16,3 saniye sürdü. | |
| Sıcaklık `0.7` ek denemesi aynı iki GPU'da 16,5 saniyede tamamlandı. | |
| ## Model kaynakları | |
| - [TozAI/Toz-1](https://huggingface.co/TozAI/Toz-1) | |
| - [TozAI/Toz-1.5](https://huggingface.co/TozAI/Toz-1.5) | |
| - [ufakai/ufakzeka-1](https://huggingface.co/ufakai/ufakzeka-1) | |
| - [MarulAI/Yedikule-1.4](https://huggingface.co/MarulAI/Yedikule-1.4) | |
| - [Qwen/Qwen3-0.6B](https://huggingface.co/Qwen/Qwen3-0.6B) | |
| - [Qwen/Qwen3.5-0.8B](https://huggingface.co/Qwen/Qwen3.5-0.8B) | |
| ## Atıf | |
| ```bibtex | |
| @misc{kultutr, | |
| title = {KultuTR: Türkçe Kültür Bilgisi Benchmark'ı}, | |
| author = {TozAI}, | |
| year = {2026}, | |
| howpublished = {Hugging Face Datasets}, | |
| note = {100 soruluk deneysel küçük dil modeli değerlendirmesi} | |
| } | |
| ``` | |