math-toolcall-tr

Türkçe matematik odaklı fonksiyon çağırma (tool calling) veri seti — 2.127 örnek, ShareGPT formatında, düşünme adımları (<think>) dahil.

EN: A Turkish synthetic dataset for training LLMs to call math functions correctly and present the results clearly. 2,127 ShareGPT-format conversations with reasoning traces, covering 70 math topics and 8 tool-calling scenarios.

Ne öğretir

İki beceriyi birlikte hedefler:

1. Doğru araç seçimi ve parametre çıkarımı — gereksiz çağrı yapmamak dahil.
2. Ham sayısal çıktıyı kullanıcıya doğal dille anlatmak.

Veri seti kasıtlı olarak sadece "başarılı çağrı" öğretmez. Örneklerin %29,6'sında hiç araç çağrılmaz: ya soru zaten bilgiyle cevaplanabilir, ya da zorunlu bir parametre eksiktir ve model uydurmak yerine netleştirme sorusu sorar.

Format

Her satır bir konuşma. Araç çağıran örnekler 4 turlu:

Tur	Rol	İçerik
1	human	kullanıcı sorusu
2	gpt	<think>…</think> + <tool_call>{"name":…,"arguments":…}</tool_call>
3	human	<tool_response>{…}</tool_response>
4	gpt	doğal dille son cevap

Araç gerektirmeyen örneklerde tek gpt turu olur: <think> + cevap.

Bu kurgu, train_on_responses_only ile eğitildiğinde modelin araç sonucunu uydurmayı değil, yorumlamayı öğrenmesini sağlar — kayıp yalnızca gpt turlarında hesaplanır, tool_response turu maskelidir.

Örnek

[
  {"from": "human",
   "value": "Atölye için ayırdığım 12 bin lira iki yıl %14 büyürse, enflasyon %11 olursa gerçek karşılığı ne olur?"},
  {"from": "gpt",
   "value": "<think>\nKullanıcı hem nominal birikimi hem enflasyona göre reel alım gücünü soruyor…\n</think>\n\n<tool_call>{\"name\": \"compound_interest\", \"arguments\": {\"principal\": \"12000\", \"annual_rate\": \"0.14\", \"years\": \"2\", \"inflation_rate\": \"0.11\"}}</tool_call>"},
  {"from": "human",
   "value": "<tool_response>{\"nominal_amount\": \"15595.20\", \"real_amount\": \"12657.41\"}</tool_response>"},
  {"from": "gpt",
   "value": "12 bin lira, yılda %14 getiriyle 2 yıl sonunda nominal olarak 15.595,20 TL olur…"}
]

Kapsam

13 alt alan, 70 konunun tamamı temsil edilir.

Alt alan	Örnek	Alt alan	Örnek
cebir	275	olasilik_kombinatorik	145
analiz	192	birim_olcu	140
finansal_matematik	186	istatistik	155
geometri	205	ayrik_matematik	105
aritmetik	171	optimizasyon	86
trigonometri	146
sayi_teorisi	181
lineer_cebir	140

Senaryolar

Senaryo	Örnek	Ne öğretir
arac_gereksiz	318	Araç gerekmiyorsa çağırmamak
tek_cagri	305	Tek aracı doğru parametreyle çağırmak
hata_yonetimi	276	Sıfıra bölme / tanımsızlık gibi hataları açıklamak
yanlis_arac_tuzagi	286	Benzer isimli araçlar arasından doğrusunu seçmek
eksik_parametre	237	Uydurmak yerine netleştirme sorusu sormak
cok_adimli_gorev	220	Tek istekte 3+ çağrıyla tamamlamak
paralel_cagri	255	Bağımsız hesapları aynı anda yapmak
zincirli_cagri	230	İkinci çağrının girdisini ilkinin sonucundan almak

Zorluk: kolay 819 · orta 603 · zor 705

Araç çağrısı olmayan örnek: 629 · Çoklu çağrı içeren örnek: 761

Kullanım

from datasets import load_dataset
dataset = load_dataset("bilalabic/math-toolcall-tr", split="train")

Unsloth ile (ShareGPT formatı doğrudan desteklenir):

from unsloth.chat_templates import standardize_data_formats
dataset = standardize_data_formats(dataset)

def formatting_prompts_func(examples):
    convos = examples["conversations"]
    return {"text": [tokenizer.apply_chat_template(c, tokenize=False).removeprefix("<bos>")
                     for c in convos]}

dataset = dataset.map(formatting_prompts_func, batched=True)

Eğitimde train_on_responses_only kullanılması önerilir — kullanıcı ve tool_response turları maskelenir, kayıp yalnızca model yanıtlarında hesaplanır.

Üretim yöntemi

İki aşamalı sentetik üretim, tamamı gpt-5.4-mini ile (reasoning effort: medium):

1. Soru üretimi — her istek için (alt alan, konu, senaryo, zorluk) kombinasyonu seçilir; model 2-4 fonksiyon şeması + doğal bir kullanıcı mesajı üretir. Şemaların yalnızca 1-2'si gerçekten gereklidir, diğerleri inandırıcı çeldiricidir.
2. Cevap üretimi — aynı model düşünme adımlarını, araç çağrılarını, beklenen araç sonuçlarını ve son yanıtı üretir.

Tekrar eden sorular elenir. Konu dağılımı, işlenmemiş konular önceliklendirilerek 70/70 kapsamaya ulaştırılmıştır.

Üretim kodunun tamamı açık: github.com/BilalAbic/math-toolcall-tr

İlgili model

🤖 LoRA adaptörü	bilalabic/gemma_4_math-toolcall-tr_lora
📓 Eğitim notebook'u	gemma4_e4b_math_toolcall_lora.ipynb
💻 GitHub	https://github.com/BilalAbic/math-toolcall-tr

Gemma-4 E4B üzerine LoRA (r=8) ile eğitilmiştir; 3 epoch, train_on_responses_only.

⚠️ Sürüm farkı: Bu adaptör, veri setinin 757 örneklik daha eski bir anlık görüntüsüyle eğitilmiştir — buradaki güncel 2.127 örnekle değil. Güncel sürümle yeniden eğitim henüz yapılmamıştır.

İlgili modelin benchmark sonuçları

Bu veri setinin ilk 757 kaydıyla eğitilen LoRA adaptörü, eğitimde görülmeyen 571 kayıt arasından senaryo dengeli seçilmiş 150 örnekte değerlendirilmiştir:

Matematik Tool-Call metriği	Base	Fine-tune	Fark
Genel doğruluk	%56,67	%59,33	+2,66 puan
Araç seçimi	%53,77	%54,72	+0,95 puan
Çekimserlik (abstain)	%63,64	%70,45	+6,81 puan
Format geçerliliği	%98,67	%99,33	+0,66 puan

Bu tablo veri setinin doğrudan bir kalite skoru değildir; belirli bir Gemma-4 E4B LoRA eğitiminin sonucudur. Türkçe MMLU ve GSM8K dahil tam değerlendirme, ilgili model kartında raporlanmıştır.

Sınırlamalar

Bu veri seti sentetiktir ve insan doğrulamasından geçmemiştir. Kullanmadan önce bilinmesi gerekenler:

• Araç sonuçları gerçek değildir. tool_response içerikleri gerçek bir fonksiyon çalıştırılarak değil, model tarafından üretilmiştir. Gerçekçi olacak şekilde yönlendirilmiştir ancak doğrulukları garanti edilemez.
• Matematiksel hatalar mümkündür. Prompt matematiksel doğruluğu şart koşar ve incelenen örneklerde hesaplar doğrudur, ancak tüm örnekler tek tek doğrulanmamıştır.
• Senaryo tutarsızlığı: %3,5. 74 örnekte araç çağrısı beklenirken çağrı listesi boştur (çoğunlukla hata_yonetimi senaryosunda). Kritik uygulamalarda bu örnekler filtrelenebilir.
• Tek model kaynaklı. Tamamı tek bir modelden üretildiği için o modelin üslup ve akıl yürütme kalıplarını taşır.
• Sadece Türkçe ve sadece matematik. Başka alanlara veya dillere genellemez.

Alıntı

@misc{math-toolcall-tr,
  title  = {math-toolcall-tr: Turkish Math Tool-Calling Dataset},
  author = {Bilal Abiç},
  year   = {2026},
  url    = {https://huggingface.co/datasets/bilalabic/math-toolcall-tr}
}