mvdelibas/tr-netlestirme

TR-Netleştirme

Bir dil modeli, isteği yerine getirmek için gerekli bir bilgi eksikken soru sorabiliyor mu, bilgi tamken de gereksiz soru sormadan cevap verebiliyor mu? TR-Netleştirme bunu Türkçe, eşli (150 senaryo, 300 öğe) bir sınamayla ölçer.

Neden

Aynı türden başka bir görevde (Türkçe harita komutu ayrıştırma) normal isteklerde modeller arasındaki fark 2,3 puan iken eksik bilgili isteklerde 26 puana çıktı. TR-Netleştirme bu gözlemi coğrafi bilgi sistemi dışına, gündelik ve kamu hizmeti alanlarına taşır.

Tasarım: eşli sürümler

Her senaryo iki sürümde bulunur ve iki sürüm, çıkarılan tek bilgi dışında birebir aynı metindir:

• tam: gerekli her bilgi verilmiş. Doğru davranış: cevap vermek (cevap).
• eksik: tek bir gerekli bilgi (sayı, tarih, ad, belge, metin ya da seçim) çıkarılmış. Doğru davranış: sormak (netlestir).

Eşleme önemlidir: her zaman soran bir model eksik sürümde tam puan alır ama tam sürümde sıfır alır. Bu yüzden iki başarı birlikte ve dengeli doğruluk (ikisinin ortalaması) olarak raporlanır.

Alanlar (tam sürüm sayısı = senaryo sayısı):

Alan	Senaryo
basvuru	17
fatura	17
hukuk_bilgi	16
kargo	17
randevu	17
saglik_bilgi	16
seyahat	17
tablo	17
yazilim	16

saglik_bilgi öğeleri genel bilgilendirme ve hesaplama isteyen sorulardır (BKİ, aşı takvimi bilgisi, kan bağışı ölçütü vb.); tıbbi tavsiye ya da teşhis istemez. hukuk_bilgi öğeleri genel bilgi, taslak ve hesaplama ister; hukuki görüş istemez.

Alanlar

Alan	Açıklama
id	Öğe kimliği (TRN-001 ...)
cift_id	Tam ve eksik sürümü birleştiren senaryo kimliği
alan	Konu alanı
sablon	Üretimde kullanılan şablon kodu (54 şablon)
surum	tam ya da eksik
istek	Kullanıcı isteği (Türkçe)
beklenen	cevap (tam) ya da netlestir (eksik)
hedef_slot, hedef_etiket	Eksik sürümde çıkarılan bilgi (tam sürümde: eşleşen çiftte çıkarılan bilgi)
hedef_anahtar	Netleştirme sorusunun hedefi tutup tutmadığını denetleyen katlanmış anahtar sözcük parçaları (^ sözcük başı, $ sözcük sonu)

Üretim

54 şablonun her biri 2 ila 3 kez, tohumlu rastgele değerlerle (tohum 20261107) örneklenir. Hangi bilginin çıkarılacağı da tohumlu seçilir. Selamlama ve teşekkür kalıpları çiftin iki sürümünde aynıdır. Bütün kişi adları, kurumlar, numaralar ve tutarlar uydurmadır; gerçek kişisel veri yoktur. Başka bir veri setinden ya da Hugging Face'ten veri alınmadı. Üretici kod kod/ altındadır ve aynı tohumla aynı dosyayı üretir.

Denetim. Veriyi üreten asistan her üçüncü çifti (50 çift) ve 54 şablonun her biri için en az bir çifti okudu; bulunan sorunlar (ürün ile satıcının uyuşmaması, ertelemede geçmişe giden yeni tarih, ek ve noktalama hataları) düzeltildi, düzeltilen şablonların çiftleri yeniden okundu. Bağımsız bir insan denetimi yapılmadı.

Ölçüm yöntemi

Sistem istemi (kod/ortak.py, sistem_istemi) modele, gerekli bilgilerin hepsi varsa isteği yerine getirmesini, biri eksikse tahmin yürütmeyip kısa bir soru sormasını ve yanıtı yalnızca şu JSON biçimlerinden biriyle vermesini söyler: {"islem":"cevap","cevap":...} ya da {"islem":"netlestir","soru":...,"eksik":[...]}. Sıcaklık 0, en çok 4096 çıktı jetonu, eşzamanlılık 2, her öğe için tek çalıştırma; barındırılan bir API üzerinden beş sohbet modeli, ölçüm tarihi 2026-11-09.

Ölçümü yapan istemci (evren.py, barındırılan API'ye bağlanır) pakete dahil değildir; kod/olc.py içindeki evren.sohbet çağrısı OpenAI uyumlu başka bir sohbet uç noktasıyla değiştirilebilir. Anahtarlar kayıtlara yazılmaz.

Metrikler:

• Eksikte sordu: eksik sürümlerde islem = netlestir oranı.
• Tamda sormadı: tam sürümlerde islem = cevap oranı.
• Dengeli doğruluk: yukarıdaki ikisinin ortalaması; aralığı senaryo çiftleri üzerinde bootstrap ile (4000 örnekleme) hesaplanır; her iki sürümü de ölçülmüş çift sayısı yetersizse (kısmi ölçüm) eksik ve tam öğeler bağımsız yeniden örneklenir.
• Soru hedefi tuttu: netleştirme yapılan eksik öğelerde soru ve eksik alanlarının, çıkarılan bilginin anahtar sözcüklerinden en az birini içermesi.
• Oranlar için %95 Wilson aralığı verilir. Aralıkları çakışan modeller birbirinden farklı diye sıralanmaz.
• JSON üretmeyen (json_yok), 4096 jeton tavanına takılan (tavan) ve API hatasıyla sonuçlanan yanıtlar ayrı sayılır; ana oranlarda yanlış sayılır. Geçerli yanıtlar üzerinden hesaplanan oranlar sonuclar/ozet.json içindedir.

Sonuçlar

Hücrelerde yüzde, (başarı/öğe sayısı; %95 Wilson aralığı alt–üst, puan olarak) verilmiştir. Ölçülemeyen yanıtlar (tavan, JSON yok, API hatası) yanlış sayılmıştır.

Model	Eksikte sordu	Tamda sormadı	Dengeli doğruluk (bootstrap %95)	Soru hedefi tuttu	Tavan / JSON yok / API hata
deepseek-v4.1-flash	%88 (132/150; 82–92)	%87 (131/150; 81–92)	%88 (84–91)	126/132	0 / 0 / 0
mimo-v2.6-pro	%87 (131/150; 81–92)	%87 (130/150; 80–91)	%87 (83–90)	124/131	0 / 0 / 1
gemma-4-31b	%85 (128/150; 79–90)	%88 (132/150; 82–92)	%87 (83–90)	121/128	0 / 0 / 0
qwen3.8-flash-next	%75 (112/150; 67–81)	%93 (139/150; 87–96)	%84 (79–88)	106/112	12 / 0 / 0
glm-5.3	%69 (103/150; 61–76)	%62 (93/150; 54–69)	%65 (60–71)	102/103	7 / 0 / 70

Dengeli doğruluk aralıkları ayrık olan (ayırt edilebilen) çiftler: gemma-4-31b > glm-5.3; deepseek-v4.1-flash > glm-5.3; qwen3.8-flash-next > glm-5.3; mimo-v2.6-pro > glm-5.3. Listede olmayan hiçbir çift ayırt edilemez; tablo sırası onlar için sıralama değildir.

Anahtar sözcük denetiminin kontrolü:

Model	Eksik sürümde sorulan soru hedefe isabet	Tam sürümde sorulan soru, eşleşen bilginin anahtarına isabet (kontrol)	Eksikte "cevap" verirken cevabın sonunda soru işareti
deepseek-v4.1-flash	%95 (126/132; 90–98)	%32 (6/19; 15–54)	1/18
mimo-v2.6-pro	%95 (124/131; 89–97)	%32 (6/19; 15–54)	0/19
gemma-4-31b	%95 (121/128; 89–97)	%22 (4/18; 9–45)	0/22
qwen3.8-flash-next	%95 (106/112; 89–98)	%0 (0/2; 0–66)	2/35
glm-5.3	%99 (102/103; 95–100)	%12 (1/8; 2–47)	0/19

Ayrıntılar (alan bazında oranlar, geçerli yanıtlar üzerinden oranlar, jeton sayıları) sonuclar/ozet.json, ham yanıtlar sonuclar/ham/ altındadır.

Sınırlar

• Şablon tabanlıdır: 54 şablonla sözcük çeşitliliği sınırlıdır; gerçek kullanıcı dilini temsil etmez.
• Hangi bilginin "zorunlu" olduğu bizim kararımızdır. Bazı eksik sürümler makul bir varsayımla ya da genel bir cevapla da karşılanabilir (ör. çıkarılan hata kodu, fatura türü ya da tablo sütunları); bu durumda cevap vermek savunulabilir.
• Sınıflandırma yalnız islem alanına bakar. cevap içine gömülü bir soru "cevap" sayılır; eksik sürümde bu durumların sayısı yukarıdaki kontrol tablosunda verilmiştir.
• Anahtar sözcük denetimi anlamsal değildir: her şeyi birden soran bir soru geçer, farklı sözcüklerle ifade edilen doğru bir soru kaçabilir. Tam sürümde sorulan soruların aynı anahtarlara isabeti, denetimin kendiliğinden ne kadar isabet ettirdiğine dair bir kontrol sunar.
• Eksik sürümler ortalama 34 karakter daha kısadır (tam 197, eksik 163); uzunluğun davranışı etkilediği ayrıca sınanmadı.
• Tek çalıştırma, tek sıcaklık, tek sistem istemi. Sistem istemindeki "tahmin yürütme" ve "gereksiz soru sorma" yönergeleri sonuçları etkiler; başka bir istemle sıralama değişebilir.
• Ölçümün başında gemma-4-31b ve glm-5.3 için sağlayıcı yük durumu "yoğun" görünüyordu; gecikme ve süre raporlanmadı.
• Ölçüm tamamlandığında 150 öğelik hücrelerde oranlar için aralıklar yaklaşık ±5–8 puan olacaktır; mevcut kısmi ölçümde hücreler 5–10 öğelik olduğundan çok daha geniştir.
• Sonuç yalnız bu görev içindir, genel bir model sıralaması değildir.

Lisans

CC0-1.0 (kamu malı bağışı). Veri tamamen sentetiktir.

English summary

TR-Netleştirme is a small Turkish benchmark (300 items = 150 paired scenarios across 9 everyday and public-service domains) that tests whether a language model asks a clarifying question when a required piece of information is missing, and answers directly when everything is provided. Each scenario has a complete version (expected: answer) and an incomplete version (one required slot removed; expected: ask), so a model that always asks scores poorly. Items are generated deterministically from 54 templates with seeded variation; all names and values are fictional, no real personal data, and no external dataset was used. Five chat models were run once each through a hosted API (temperature 0, 4096 max tokens, JSON output with islem = cevap or netlestir). We report asked-when-incomplete, did-not-ask-when-complete, balanced accuracy (paired bootstrap) with 95% intervals, and a rule-based keyword check on whether the question targets the missing slot. Limits: template-based language, the notion of a "required" slot is our judgement, the keyword check is not semantic, single run and single prompt, and the review of the items was done by the assistant that generated them, not by an independent human. License: CC0-1.0.

İlgili çalışmalar / Related on Hugging Face

Türkçe dil modeli sınamaları ve külliyat / Turkish LLM benchmarks and corpus: tr-cbs-komut · tr-mevzuat-sc · tr-mevzuat-kulliyat · tr-cbs-olcum · tr-netlestirme-sonuc · tr-mevzuat-arama

Tüm çalışmalar / All work: https://huggingface.co/mvdelibas