11,713 Turkish natural-language requests to a municipal GIS application, each paired with a schema-conformant JSON command (select, count, buffer, coordinate conversion, clarification, and more), scored automatically. An evaluation set (test split only) for measuring how well language models turn Turkish GIS requests into structured output. It is fully generic and contains no organisation data or personal data. License: CC0-1.0. Results page: https://huggingface.co/spaces/mvdelibas/tr-cbs-olcum

import json
from datasets import load_dataset

ds = load_dataset("mvdelibas/tr-cbs-komut", split="test")
row = ds[0]
print(row["istek"], json.loads(row["altin"])["islem"])

Questions or issues? Open a discussion in the Community tab.

TR-CBS-Komut — Türkçe CBS komut anlama değerlendirme seti

11.713 örnek · Türkçe doğal dil isteği → şemaya uygun JSON komut · otomatik puanlama · CBS (GIS) · CC0-1.0 · Türkçe

Bir belediye CBS (coğrafi bilgi sistemi) uygulamasına Türkçe yazılan istekleri ("Adapazarı ilçesindeki çapı 200 mm'den büyük ve 1990 öncesi döşenmiş içme suyu borularını seç", "41.0082, 28.9784 koordinatını TM30'a dönüştür", "yakındaki vanaları göster") otomatik puanlanabilir bir JSON komutuna çeviren dil modellerini ölçmek için hazırlandı. Set tamamen jenerik ve kamuya açık CBS kavramlarıyla kuruldu: hiçbir kurumun verisi, katman adı, sunucu adı, iç adresi ya da kişisel veri yoktur.

Aynı kayıtlar EVREN'de de yayımlıdır (11.713 öğe, CC0-1.0): EVREN profili. Kardeş set: TR-Mevzuat-SC. Ölçüm kodu ve model sonuçları: GitHub deposu turkce-llm-degerlendirme (olc.py).

Dosyalar ve kullanım

• data/test.jsonl — datasets ile yüklenebilen sürüm. altin alanı JSON metni olarak saklanır (filtre değerleri sayı/metin/liste karışık olduğu için Arrow şemasına sığmaz); nesneye json.loads ile çevrilir.
• ham/tr_cbs_komut.jsonl — EVREN'de yayımlanan kayıtların birebir kopyası (altin iç içe nesne). Değerlendirme kodu bunu kullanır; bayt düzeyinde EVREN kayıtlarıyla (sha256) aynıdır. data/test.jsonl içindeki json.loads(altin) bu dosyadaki nesneye eşittir.

import json
from datasets import load_dataset
ds = load_dataset("mvdelibas/tr-cbs-komut", split="test")   # tek bölüm: test (EVREN'de bölüm ayrımı yoktur)
r = ds[0]
altin = json.loads(r["altin"])
print(r["istek"], altin["islem"])
v1 = ds.filter(lambda x: int(x["id"].split("-")[1]) <= 1962)   # yayımlanan ilk ölçümün havuzu

Bu set bir değerlendirme setidir; eğitim için bölünmemiştir. Eğitimde kullanacaksanız kendi bölümünüzü ayırın ve ölçümü ayrı tutun.

Görev ve şema

Model bir sistem talimatı (katman kataloğu, şema, kurallar; GitHub deposunda kod/set2_sema.py: sistem_istemi()) ve tek bir kullanıcı isteği alır; tek bir JSON döndürür:

{"islem": "goster|sec|say|tampon|yakinlas|koordinat_donustur|birim_donustur|netlestir|olc|disa_aktar|coklu",
 "katman": "su_hatti", "konum": {"il": null, "ilce": "Adapazarı"},
 "filtre": [{"alan": "anma_capi_mm", "op": ">", "deger": 200}, {"alan": "yapim_yili", "op": "<", "deger": 1990}],
 "mekansal": null, "tampon": null, "toplama": null, "siralama": null, "donusum": null, "eksik": []}

• 24 jenerik katman (v1: 16, v2: +8): yol, bina, parsel, su_hatti, vana, abone_noktasi, hidrant, kanalizasyon_hatti, rogar, park, okul, durak, aydinlatma_diregi, agac, mahalle_siniri, dere; otopark, trafik_isigi, bisiklet_yolu, afet_toplanma_alani, su_deposu, cop_konteyneri, saglik_tesisi, kopru. Her katmanın jenerik öznitelikleri ve izinli değerleri katalogdadır.
• Filtre işleçleri: = != > >= < <= arasinda icinde iceren bos (+ v2: icinde_degil bos_degil baslar, göreli tarih son_gun son_ay son_yil eski_gun). Mekânsal ilişkiler: yakininda uzaginda kesisen icinde (+ v2: kesismeyen disinda).
• Koordinat sistemleri: EPSG:4326, 3857, WGS84 UTM 35–38N, ED50 UTM 35–38N, ITRF96 TM27–TM45. Model dönüşümü hesaplamaz, parametreleri çıkarır. Birimler: mm, cm, m, km, inç, fit, mil, m², km², hektar, dönüm, ar.
• Netleştirme: eksik/belirsiz istekte islem = "netlestir" ve eksik listesi (katman, konum, mesafe, hedef, alan, deger, hedef_crs, kaynak_crs, hedef_birim, kaynak_birim, bicim, olcum).
• v2 işlemleri: olc (uzunluk/alan/çevre ölçümü), disa_aktar (geojson, kml, shp, csv, dxf), coklu (2–3 adımlı komut; önceki adımın sonucuna uygulanan adımda onceki_sonuc: true).

Kayıt alanları

Alan	Açıklama
id	trcbs-00001 … trcbs-11713 (v1: 00001–01962; v2 şablon: 01963–10242; v2 LLM: 10243–11713)
istek	Türkçe kullanıcı isteği
altin	Altın JSON komut (bütün anahtarlar var; kullanılmayanlar null / boş liste) — bu depoda JSON metni, bkz. Dosyalar
gorev	filtre, mekansal, tampon, toplama, siralama, yakinlas, koordinat, birim, netlestirme, olcum, disa_aktar, coklu, serbest (+ _v2 ekli v2 türleri)
uretim	sablon (kural), llm_parafraz, llm_serbest
uretici_model	LLM örneklerinde üreten model (qwen3.8-flash-next); şablonda null
dogrulama	Geçilen denetimler (şema, sayılar, yer adları, katman, kurum süzgeci; LLM örneklerinde anlam_korunumu / ikinci_model notu)
sema_surumu	v2 örneklerinde (şablon ve LLM) 2; v1 örneklerinde null
lisans	CC0-1.0

Dağılım (11.713)

• Üretim: şablon 9.610 · LLM parafraz 1.358 · LLM serbest 745.
• İşlem: sec 2.782 · goster 2.418 · coklu 2.149 · netlestir 1.105 · say 676 · olc 582 · disa_aktar 532 · tampon 500 · koordinat_donustur 414 · birim_donustur 326 · yakinlas 229.
• Görev: filtre 2.909 (v1 + v2) · çok adımlı 2.103 · mekânsal 1.744 · serbest 745 · netleştirme 970 · toplama 588 · ölçüm 526 · dışa aktarma 462 · tampon 448 · koordinat 444 · birim 335 · sıralama 252 · yakınlaştırma 187.
• 4.651 örnekte konum (il/ilçe) var. Yer adları 81 il ve yaklaşık 300 ilçe adından gelir.

Nasıl üretildi

1. Şablon (9.610): önce altın JSON kurulur, sonra istek Türkçe şablondan üretilir (eş anlamlı katman adları, ünlü uyumuna göre ekler, farklı fiiller, rakam/ondalık virgül yazımları, tarih biçimleri). v2 (8.280) şema genişlemesiyle gelir; v1 kayıtları değişmedi ve v2 doğrulayıcısından da hatasız geçer.
2. LLM parafraz (1.358; 459 v1 + 899 v2): şablon cümleleri EVREN LLM'de qwen3.8-flash-next (Apache-2.0) ile günlük dile çevrildi. Kabul: tutarlılık denetimi + anlam korunumu: doğrulayıcı (gemma-4-31b) özgün ve parafraz cümleyi ayrı ayrı ayrıştırır; iki ayrıştırma birebir aynı olmalıdır (doğrulayıcının doğru olması gerekmez, yalnız iki cümleyi aynı anlaması aranır). Kabul oranı v1 %91, v2 %87.
3. LLM serbest (745; 173 v1 + 572 v2): üretici, görev türü ve katman ipucuyla yeni istek + altın JSON yazdı. Kabul: tutarlılık + doğrulayıcının ayrıştırması altınla birebir aynı (kabul oranı v1 %72, v2 %71).
4. Tutarlılık doğrulayıcısı (her örnek): altın JSON şemaya uyar; altındaki her sayı ve tarih metinde geçer, metinde altında olmayan sayı yoktur; il/ilçe adları metinde geçer; katman (netleştirme dışında) metinde eş anlamlısıyla anılır; çok adımlıda her adımın katmanı denetlenir.
5. Kurum süzgeci: kurum adı/kısaltması, iç sunucu/IP/URL kalıbı, e-posta, 11 haneli sayı ve gerçek bir kurumsal ölçüm düzeneğinde görülen katman/alan adları geçen örnekler atılır (0 eşleşme). Alan kodları bu düzenekteki adlarla çakışmasın diye bilerek farklı seçildi.
6. Tekrar ayıklama (normalize metin; v1 ve v2 birlikte).

Puanlama

Kod GitHub deposundadır (kod/set2_sema.py: puanla, olc.py):

• Tam eşleşme: kanonik (yol, değer) çiftleri kümesi altınla aynı. Mesafeler metreye çevrilir (0,5 km = 500 m), metin değerleri Türkçe harf katlamasıyla karşılaştırılır ("işyeri" = "isyeri"), arasinda/icinde listeleri sırasızdır, sayılar 6 basamakta yuvarlanır. Çok adımlı komutta her adımın alanları adimN. önekiyle karşılaştırılır.
• Alan bazında F1: islem, katman, konum, filtre, mekansal, tampon, toplama, siralama, donusum, eksik gruplarında mikro F1.
• Şema geçerliliği: JSON ayrıştırılabilir ve şema doğrulayıcısı hatasız.
• Netleştirme doğruluğu: netlestirme* görevlerinde tam eşleşme (eksik bilgiyi fark etme).
• Altında il yoksa (istek yalnız ilçe adı veriyorsa) modelin eklediği il yok sayılır.

Lisans ve LLM üretimli kısımlar

Veri CC0-1.0, kod (GitHub deposunda) MIT.

• Katalog, şablonlar, altın JSON'lar ve şablon istekleri (9.610) hazırlayan tarafından jenerik ve kamuya açık CBS kavramları ile Türkiye il/ilçe adlarından sıfırdan kuruldu; CC0-1.0'dır. İl/ilçe adları kamuya açık olgudur; EPSG kodları olgu bilgisidir.
• LLM parafraz ve serbest örnekler (2.103; uretim ≠ sablon) Apache-2.0 lisanslı qwen3.8-flash-next ile EVREN LLM API'sinde üretildi. EVREN LLM Kullanım Şartları v1 çıktı kullanımına özgü kısıt koymuyor (yalnız barındırılan modellerin kendi lisans kısıtlarına uyulmasını istiyor); Apache-2.0 çıktılar üzerinde hak iddia etmez. Bu nedenle bu örnekler de CC0-1.0 olarak yayımlanır. İsteyen uretim ve uretici_model alanlarıyla LLM ürünü örnekleri ayıklayabilir.
• Doğrulayıcı gemma-4-31b yalnız kontrol için kullanıldı; çıktısı veri setine girmedi.

Ölçüm sonuçları (EVREN LLM API, 25.10.2026; v1 örnekleri, 497 örneklik katmanlı alt örneklem)

Cevap tavanı 4.096 jeton, sıcaklık 0, v1 sistem talimatı, modellerin varsayılan ayarları.

Model	Tam eşleşme %	Alan F1 (mikro)	Şema geçerli %	İşlem doğru %	Netleştirme tam %	Şablon alt kümesi tam %
gemma-4-31b	99.6	0.999	100.0	99.8	98.3	99.7
glm-5.3	98.8	0.996	99.8	98.8	96.7	99.1
deepseek-v4.1-flash	97.4	0.993	99.8	97.6	91.7	97.0
mimo-v2.6-pro	95.8	0.990	99.6	96.4	76.7	95.5
qwen3.8-flash-next	94.4	0.987	99.0	96.0	78.3	95.0
qwen3-vl-30b	51.3	0.846	82.7	84.7	0.0	50.7

Güçlü modeller %94–99 tam eşleşmede; ayırt edici alt görevler netleştirme ve şema uyumudur. v2 örnekleri (çok adımlı, olumsuz işleçler, göreli tarih, ölçüm, dışa aktarma) henüz bu şekilde ölçülmedi; sistem talimatı v2 kurallarını içerecek biçimde genişledi (v1 sorularını da kapsar), bu yüzden güncel kodla yapılan v1 ölçümü yayımlanan tabloyla küçük farklar gösterebilir. gemma-4-31b LLM alt kümesinin doğrulayıcısıydı (seçilim yanlılığı olabilir); şablon alt kümesinde de ilk sıradadır.

Yeniden ölçüm (2026-11-06): 5 sohbet modeli, güncel sürümden 400 örnek

Sürüm 2'nin 11.713 örneğinden tabakalı (tohum 20261105) 400 örnek seçildi: 300 normal istek, 100 eksik bilgili istek. Her model aynı örnekleri gördü. Aynı sistem talimatı ve puanla kullanıldı. Çıktı tavanı 4096 jeton, sıcaklık 0, eşzamanlılık 3.

Model	Normal istek (n=300)	Eksik bilgili (n=100)	Eksikte sormadan komut üretti (n=100)	Tümü (n=400)
gemma-4-31b	%99,0	%95	4	%98,0
deepseek-v4.1-flash	%96,7	%91	7	%95,3
glm-5.3	%97,0	%89	5	%95,0
qwen3.8-flash-next	%97,7	%79	13	%93,0
mimo-v2.6-pro	%96,7	%69	25	%89,8

Bulgular: Normal isteklerde modeller 2,3 puan içinde. Eksik bilgili isteklerde fark 26 puana çıkıyor. Bir modeli seçerken yalnız doğruluğa değil, eksik bilgide soru sorma davranışına da bakın.

Sınırlar:

• 100 örnekli hücrelerde belirsizlik yaklaşık ±5-9 puandır; gemma, deepseek ve glm birbirinden ayırt edilemez.
• Tek çalıştırma, tek sıcaklık. Örneklerin 334'ü şablon, 45'i LLM parafraz, 21'i LLM serbest.
• Netleştirme örnekleri örnekte %25'e çıkarıldı, "Tümü" sütunu doğal dağılımı yansıtmaz.
• Görüntü-dil modeli qwen3-vl-30b kapsam dışıdır; önceki 6 modellik tablo ile doğrudan karşılaştırılmamalıdır.
• Gecikmeler yoğun saatte ölçüldüğü için tabloya alınmadı.
• 4096 jeton tavanına glm-5.3'ün 6, qwen3.8-flash-next'in 1 cevabı takıldı. Bu cevaplar geçerli JSON üretmediği için yanlış sayıldı; eksik bilgili 100 örnekte GLM'nin 4, Qwen'in 1 cevabı bu durumdadır. "Sormadan komut üretti" sütununa dahil değildir.

Bilinen sınırlar

• İstekler yazılı ve kısadır; gerçek kullanıcı yazım hataları azdır (LLM kısımları bunu kısmen karşılar). Şablon örnekleri (9.610) kalıp çeşitliliğiyle sınırlıdır.
• Netleştirme örneklerinde eksik listesi tek doğru kabul edilir; bazı belirsiz isteklerde birden çok makul eksik listesi olabilir.
• llm_parafraz / llm_serbest kısımlarında doğrulayıcı gemma-4-31b olduğu için gemma lehine seçilim yanlılığı olabilir.
• Katalog ve şema bu set için tasarlandı; belirli bir CBS ürününün (QGIS, ArcGIS, GeoServer) sorgu diline bire bir karşılık gelmez.
• Gerçek bir belediye CBS'sindeki katman/alan adları, yetki ve güvenlik kuralları bu sette yoktur; sonuç "bir modelin CBS komutunu anlama becerisi" için bir göstergedir, bir ürünün hazır olduğunun kanıtı değildir.

English summary

TR-CBS-Komut (11,713 items) is a Turkish natural-language-to-JSON benchmark for municipal GIS commands: attribute filters (incl. dates, relative dates, negations), spatial relations (near/far/intersects/disjoint/within with distances), buffers, counts and aggregates, top-N sorting, measurement, export, 2–3-step commands, zoom-to-place, coordinate-system and unit-conversion parameter extraction, and clarification requests for ambiguous input. Gold JSON follows a fixed schema with 24 generic layers; scoring is automatic (exact match after canonicalisation, field-group micro-F1, schema validity, clarification accuracy). 9,610 items are template-generated, 1,358 are LLM paraphrases verified for meaning preservation, 745 are LLM-written and verified by a second model. Built only from generic public GIS concepts and Turkish province/district names — no institutional data. The only split is test. data/test.jsonl stores the gold command as a JSON string for Arrow compatibility; ham/tr_cbs_komut.jsonl holds the original records byte for byte. CC0-1.0 (data), MIT (code, in the GitHub repo). Baseline exact match on the v1 subsample (497 items): gemma-4-31b 99.6, glm-5.3 98.8, deepseek-v4.1-flash 97.4, qwen3.8-flash-next 94.4, qwen3-vl-30b 51.3.

İlgili çalışmalar / Related on Hugging Face

Türkçe dil modeli sınamaları ve külliyat / Turkish LLM benchmarks and corpus: tr-netlestirme · tr-mevzuat-sc · tr-mevzuat-kulliyat · tr-cbs-olcum · tr-netlestirme-sonuc · tr-mevzuat-arama

Tüm çalışmalar / All work: https://huggingface.co/mvdelibas