Datasets:

bilalabic
/

math-toolcall-tr-benchmark

benchmark stringclasses 3 values	soru_no float64 0 249 ⌀	bolum stringclasses 61 values	model stringclasses 2 values	cevap stringclasses 5 values	dogru_mu bool 2 classes	no float64 0 149 ⌀	senaryo stringclasses 8 values	beklenen stringclasses 61 values	uretilen stringclasses 71 values	format_gecerli bool 2 classes	cikti stringlengths 76 300 ⌀	tahmin float64 -100 276k ⌀	altin float64 1 276k ⌀	arac_cagirdi bool 2 classes
mmlu	0	Yönetim Bİlişim Sistemleri	base	E	true	null	null	null	null	null	null	null	null	null
mmlu	1	Laborant ve Veteriner Sağlık	base	A	false	null	null	null	null	null	null	null	null	null
mmlu	2	Lojistik	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	3	Çalışma Ekonomisi ve Endüstri İlişkileri	base	D	false	null	null	null	null	null	null	null	null	null
mmlu	4	Felsefe	base	E	true	null	null	null	null	null	null	null	null	null
mmlu	5	Adalet	base	E	true	null	null	null	null	null	null	null	null	null
mmlu	6	Ehliyet Sınavı	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	7	Uluslar Arası İlişkiler	base	D	true	null	null	null	null	null	null	null	null	null
mmlu	8	DHBT	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	9	Okul Öncesi Öğretmenliği	base	E	true	null	null	null	null	null	null	null	null	null
mmlu	10	Turizm ve Otel İşletmeciliği	base	B	false	null	null	null	null	null	null	null	null	null
mmlu	11	Menkul Kıymetler ve Sermaye Piyasası	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	12	Yerel Yönetimler	base	D	true	null	null	null	null	null	null	null	null	null
mmlu	13	Turizm ve Otel İşletmeciliği	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	14	Uluslararası Ticaret ve Lojistik Yönetimi	base	E	true	null	null	null	null	null	null	null	null	null
mmlu	15	İlahiyat	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	16	Çalışma Ekonomisi ve Endüstri İlişkileri	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	17	Okul Öncesi Öğretmenliği	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	18	Havacılık Yönetimi	base	E	true	null	null	null	null	null	null	null	null	null
mmlu	19	Elektrik Enerjisi Üretim,İletim ve Dağıtımı	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	20	Uluslararası Ticaret ve Lojistik Yönetimi	base	E	true	null	null	null	null	null	null	null	null	null
mmlu	21	Turizm ve Seyehat Hizmetleri	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	22	Kültürel Miras ve Turizm	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	23	Dini Bilgiler	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	24	Dini Bilgiler	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	25	Yerel Yönetimler	base	E	true	null	null	null	null	null	null	null	null	null
mmlu	26	Felsefe	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	27	Adalet	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	28	Maliye	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	29	Spor Yönetimi	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	30	Parakende Satış ve Mağaza Yöneticiliği	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	31	Uluslararası Ticaret ve Lojistik Yönetimi	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	32	Havacılık Yönetimi	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	33	Sağlık Yönetimi	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	34	Muhasebe ve Vergi Uygulamaları	base	C	false	null	null	null	null	null	null	null	null	null
mmlu	35	Acil Durum ve Afet Yönetimi	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	36	Medya ve İletişim	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	37	Tıbbi Dökümantasyon ve Sekreterlik	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	38	Halkla İlişkiler ve Tanıtım	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	39	Sosyal Hizmet	base	D	false	null	null	null	null	null	null	null	null	null
mmlu	40	Elektrik Enerjisi Üretim,İletim ve Dağıtımı	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	41	Sosyal Hizmetler	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	42	Havacılık Yönetimi	base	D	true	null	null	null	null	null	null	null	null	null
mmlu	43	Tıbbi Dökümantasyon ve Sekreterlik	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	44	Okul Öncesi Öğretmenliği	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	45	Maliye	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	46	Okul Öncesi Öğretmenliği	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	47	Tarih	base	D	true	null	null	null	null	null	null	null	null	null
mmlu	48	Marka İletişimi	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	49	Dini Bilgiler	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	50	Bankacılık ve Sigortacılık	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	51	İşletme Yönetimi	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	52	Medya ve İletişim	base	D	false	null	null	null	null	null	null	null	null	null
mmlu	53	KPSS Denemeleri	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	54	Emlak ve Emlak Yönetimi	base	B	false	null	null	null	null	null	null	null	null	null
mmlu	55	Üniversite Giriş Sınavı Temel Bilimler	base	E	true	null	null	null	null	null	null	null	null	null
mmlu	56	Tarım	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	57	Muhasebe ve Vergi Uygulamaları	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	58	Uluslararası Ticaret ve Lojistik Yönetimi	base	D	true	null	null	null	null	null	null	null	null	null
mmlu	59	Sosyal Hizmetler	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	60	Turizm ve Seyehat Hizmetleri	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	61	Halkla İlişkiler ve Tanıtım	base	D	true	null	null	null	null	null	null	null	null	null
mmlu	62	Tıbbi Dökümantasyon ve Sekreterlik	base	C	false	null	null	null	null	null	null	null	null	null
mmlu	63	Parakende Satış ve Mağaza Yöneticiliği	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	64	Çağrı Merkezi Hizmetleri	base	D	true	null	null	null	null	null	null	null	null	null
mmlu	65	Sosyal Hizmetler	base	B	false	null	null	null	null	null	null	null	null	null
mmlu	66	Tarım	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	67	Turizm ve Otel İşletmeciliği	base	E	false	null	null	null	null	null	null	null	null	null
mmlu	68	Çalışma Ekonomisi ve Endüstri İlişkileri	base	E	true	null	null	null	null	null	null	null	null	null
mmlu	69	Üniversite Giriş Sınavı Temel Bilimler	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	70	Aşçılık	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	71	Futbol	base	B	false	null	null	null	null	null	null	null	null	null
mmlu	72	Tıbbi Dökümantasyon ve Sekreterlik	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	73	DHBT	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	74	AUZEF	base	E	false	null	null	null	null	null	null	null	null	null
mmlu	75	Uluslar Arası İlişkiler	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	76	Lojistik	base	B	false	null	null	null	null	null	null	null	null	null
mmlu	77	Radyo ve Televizyon Programcılığı	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	78	İktisat	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	79	Okul Öncesi Öğretmenliği	base	E	false	null	null	null	null	null	null	null	null	null
mmlu	80	Özel Koruma ve Güvenlik	base	E	true	null	null	null	null	null	null	null	null	null
mmlu	81	Üniversite Giriş Sınavı Temel Bilimler	base	D	true	null	null	null	null	null	null	null	null	null
mmlu	82	Muhasebe ve Vergi Uygulamaları	base	D	false	null	null	null	null	null	null	null	null	null
mmlu	83	Üniversite Giriş Sınavı Temel Bilimler	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	84	Futbol	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	85	Turizm ve Otel İşletmeciliği	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	86	İlahiyat	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	87	Muhasebe ve Vergi Uygulamaları	base	D	true	null	null	null	null	null	null	null	null	null
mmlu	88	Uluslararası Ticaret ve Lojistik Yönetimi	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	89	Laborant ve Veteriner Sağlık	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	90	Kim 500 Milyar İster	base	D	false	null	null	null	null	null	null	null	null	null
mmlu	91	İlahiyat	base	A	false	null	null	null	null	null	null	null	null	null
mmlu	92	Üniversite Giriş Sınavı Temel Bilimler	base	E	true	null	null	null	null	null	null	null	null	null
mmlu	93	Yerel Yönetimler	base	E	true	null	null	null	null	null	null	null	null	null
mmlu	94	Çalışma Ekonomisi ve Endüstri İlişkileri	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	95	Uluslararası Ticaret ve Lojistik Yönetimi	base	C	true	null	null	null	null	null	null	null	null	null
mmlu	96	Yönetim Bİlişim Sistemleri	base	A	true	null	null	null	null	null	null	null	null	null
mmlu	97	Sosyal Hizmet	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	98	Sosyal Hizmet	base	B	true	null	null	null	null	null	null	null	null	null
mmlu	99	İktisat	base	B	true	null	null	null	null	null	null	null	null	null

End of preview. Expand in Data Studio

math-toolcall-tr-benchmark

bilalabic/gemma_4_math-toolcall-tr_lora LoRA adaptörünü temel Gemma-4 E4B modeliyle karşılaştıran benchmark sonuçları.

Bu depo yalnızca değerlendirme çıktılarını içerir. Eğitim veri seti ayrı olarak bilalabic/math-toolcall-tr adresinde yayımlanmaktadır.

Benchmark'lar

Benchmark	Örnek	Ölçülen davranış
Türkçe MMLU	250	Genel bilgi doğruluğu ve eğitim sonrası bilgi kaybı
Matematik Tool-Call	150	Araç seçimi, çekimserlik ve çıktı formatı
GSM8K	150	Matematik muhakemesi ve gereksiz araç çağırma eğilimi

Sonuç özeti

Benchmark	Metrik	Base	Fine-tune	Fark
Türkçe MMLU	Doğruluk	%75,20	%68,00	−7,20 puan
Matematik Tool-Call	Genel doğruluk	%56,67	%59,33	+2,66 puan
Matematik Tool-Call	Araç seçimi	%53,77	%54,72	+0,95 puan
Matematik Tool-Call	Çekimserlik	%63,64	%70,45	+6,81 puan
Matematik Tool-Call	Format geçerliliği	%98,67	%99,33	+0,66 puan
GSM8K	Doğruluk	%66,00	%73,33	+7,33 puan
GSM8K	Gereksiz araç çağrısı (düşük daha iyi)	%0,00	%14,00	+14,00 puan

Sonuçlar tek bir çalıştırmaya aittir; birden fazla seed ortalaması veya güven aralığı değildir.

Dosyalar ve yapılandırmalar

Yapılandırma	Dosya	Satır	İçerik
`summary`	`data/benchmark_ozet.csv`	7	Üç benchmark'ın toplu metrikleri
`details`	`data/benchmark_detay.csv`	1.100	Örnek ve model bazında ham değerlendirme çıktıları
`mmlu_sections`	`data/benchmark_mmlu_bolum.csv`	61	Türkçe MMLU bölüm kırılımı

from datasets import load_dataset

summary = load_dataset(
    "bilalabic/math-toolcall-tr-benchmark",
    "summary",
    split="test",
)
details = load_dataset(
    "bilalabic/math-toolcall-tr-benchmark",
    "details",
    split="test",
)
mmlu_sections = load_dataset(
    "bilalabic/math-toolcall-tr-benchmark",
    "mmlu_sections",
    split="test",
)

Değerlendirme notları

Tool-call testi, modelin eğitiminde kullanılan ilk 757 kayıttan sonra gelen ve eğitim sırasında görülmeyen örnek havuzundan senaryo dengeli seçilmiştir.
GSM8K testi standart test bölümündeki İngilizce matematik problemlerini kullanır.
MMLU bölüm kırılımlarının bazıları az sayıda örnek içerdiğinden bölüm yüzdeleri yüksek varyans gösterebilir.
benchmark_detay.csv farklı benchmark türlerinin alanlarını tek tabloda birleştirir; belirli bir benchmark için kullanılmayan sütunlar boş bırakılır.

Yeniden üretim

Benchmark notebook'u: benchmark_base_vs_finetune.ipynb

Lisans

Apache-2.0. Temel model Gemma kullanım şartlarına, GSM8K ve Türkçe MMLU kaynakları kendi lisans ve kullanım koşullarına tabidir.

Downloads last month: 37