Mustafa2735/iik-bench

İİK-Bench — Türk İcra ve İflas Hukuku Açık Uçlu Benchmark

Türk icra ve iflas hukuku alanında dil modellerini değerlendirmek için hazırlanmış, 41 açık uçlu sorudan oluşan bir benchmark. Bir ders ödevi kapsamında, alana özel fine-tune edilmiş bir modelin ölçülmesi amacıyla tasarlanmıştır.

Genel amaçlı benchmark'lar (örneğin MMLU), alana özel bir modelin hedeflendiği görevdeki performansını ölçemez. Bu benchmark, modelin hukuk asistanı olarak gerçekte yaptığı işi — düzyazı hukuki açıklama üretmeyi — değerlendirir.

Veri yapısı

Her kayıt bir soru ve onu değerlendirmek için gereken bilgileri içerir:

{
  "id": 1,
  "konu": "Gecikmiş itiraz",
  "madde": "m.65",
  "soru": "Borçlu, elinde olmayan bir engel nedeniyle ödeme emrine süresinde itiraz edememişse ne yapabilir?",
  "referans_cevap": "Borçlu kusuru olmaksızın bir engel sebebiyle ...",
  "anahtar_bilgiler": [
    ["gecikmiş itiraz", "gecikmis itiraz"],
    ["üç gün", "3 gün"],
    ["paraya çevirme", "satış tamamlanıncaya"],
    ["icra mahkemesi"],
    ["mazeret"]
  ],
  "yanlis_isaretler": ["yedi gün içinde mazeret", "genel mahkeme", "süresiz olarak itiraz"]
}

Alan	Açıklama
soru	Modele sorulacak açık uçlu soru
referans_cevap	İİK'nın resmî metninden doğrulanmış örnek cevap
anahtar_bilgiler	Cevapta bulunması gereken bilgiler; her biri kabul edilen yazım varyantlarının listesidir
yanlis_isaretler	Cevapta bulunmaması gereken, bilinen yanlış bilgiler
konu, madde	Sorunun konusu ve dayandığı İİK maddesi

Tasarım kararları

1. Açık uçlu format

Hukuk asistanı olarak kullanılan bir model, düzyazı açıklama üretir. Çoktan seçmeli bir test, modelin bu yeteneğini değil "tek harf yazma" becerisini ölçer; üstelik alana özel fine-tune edilmiş modeller çoğu zaman kısa cevap talimatına uymakta zorlanır. Bu benchmark modeli doğal kullanımında değerlendirir.

2. Anahtar bilgi kontrolü (fact-checking)

Salt anlamsal benzerlik hukukta yanıltıcıdır: "süre yedi gündür" ile "süre on gündür" cümleleri birbirine çok benzer, ancak biri tamamen yanlıştır. Bu nedenle her soru için cevapta bulunması gereken bilgiler (süreler, oranlar, madde numaraları, merciler, kurumlar) ve bulunmaması gereken yanlış işaretler önceden tanımlanmıştır.

3. Veri sızıntısı önlemi

Sorular, değerlendirilen modelin eğitim verisinde kullanılmayan İİK maddelerinden seçilmiştir: gecikmiş itiraz (m.65), borçtan kurtulma davası (m.69), hacze iştirak (m.100), haczin kalkması (m.110), kira ve tahliye (m.269), taşınmaz teslimi (m.26), iflas tasfiyesi, konkordato mühletleri, icra suçları ve diğerleri. Böylece ölçülen şey ezber değil, genellemedir.

4. Referans doğrulama

Referans cevaplar, İcra ve İflas Kanunu'nun (Kanun No. 2004) resmî metninden doğrulanarak yazılmıştır. Benchmark'ın referansı hatalı olursa tüm ölçüm geçersiz olacağından bu adım ayrıca önemsenmiştir.

Kapsanan konular

41 farklı konu; her konudan bir soru:

İcra teşkilatı ve tutanaklar, ilamların icrası (taşınır teslimi, taşınmaz tahliyesi, bir işin yapılması), takip talebi, gecikmiş itiraz, borçtan kurtulma davası, takibin iptali/taliki, haciz talebi süresi, haczi caiz olmayan mallar, maaş haczi, hacze iştirak, haczin kalkması, yediemin sorumluluğu, şirket payının haczi, ortaklığın giderilmesi, taşınmaz satışında artırma şartları, ihalenin bozulmasında sorumluluk, paraların paylaştırılması, rehin açığı belgesi, kambiyo takibinde şikayet, kira alacağı ve tahliye, ihtiyati haczin tamamlanması ve itiraz, iflas yolları (depo kararı, doğrudan iflas, iflasın kaldırılması, alacak kaydı, itibarın iadesi), konkordato (geçici/kesin mühlet, komiser, alacaklı çoğunluğu), icra suçları, kanun yolları ve icranın iadesi.

Puanlama

kapsam = bulunan anahtar bilgi / toplam anahtar bilgi
ceza   = yanlış işaret başına −0.25 (en fazla −1.0)
puan   = max(0, kapsam + ceza)
skor   = ortalama puan × 100

İki katılık düzeyi. Standart skor tüm anahtar bilgileri sayar. Katı skor yalnızca spesifik bilgileri (süre, oran, sayı) sayar; bunlar tesadüfen tutturulamayacağı için hukuki isabetin daha güvenilir göstergesidir. 41 sorunun 19'unda spesifik bilgi bulunur; toplam 25 spesifik anahtar bilgi vardır.

İkisi arasındaki açık, bir modelin hukuk terminolojisini kullanmayı öğrenirken spesifik hukuki bilgiyi edinip edinemediğini gösterir.

Referans sonuçlar

Aşağıdaki sonuçlar, iki model 41 sorunun tamamına aynı koşullarda (max_new_tokens=300, greedy üretim, 4-bit yükleme, T4 GPU) yanıt verdiğinde elde edilmiştir.

Model	Standart skor	Katı skor	Spesifik bilgi isabeti	Yanlış işaret
unsloth/gemma-3-1b-it	13.21	3.51	2 / 25 (%8)	—
İcra-iflas fine-tune (LoRA, 1B)	18.01	15.79	4 / 25 (%16)	0

Yorum. Her iki modelin de mutlak performansı düşüktür. Modeller hukuk terminolojisine uygun, akıcı cevaplar üretmekte; ancak süre, oran ve madde gibi belirleyici bilgileri büyük ölçüde verememektedir. Fine-tune edilmiş model temel modelin üzerinde çıkmakla birlikte, spesifik bilgi isabetindeki fark yalnızca 2 isabettir ve permütasyon testinde p = 0.66 bulunmuştur; yani istatistiksel olarak anlamlı değildir. Bu sonuçlar, 1B büyüklüğündeki modellerin hukuk gibi ayrıntı gerektiren alanlarda yetersiz kaldığını göstermektedir.

Kullanım

import json

sorular = [json.loads(l) for l in open("iik_bench.jsonl", encoding="utf-8") if l.strip()]

def puanla(cevap, anahtar_bilgiler, yanlis_isaretler):
    c = cevap.lower().replace("ı", "i")
    bulunan = sum(
        1 for varyantlar in anahtar_bilgiler
        if any(v.lower().replace("ı", "i") in c for v in varyantlar)
    )
    kapsam = bulunan / len(anahtar_bilgiler)
    yanlis = sum(1 for y in yanlis_isaretler if y.lower().replace("ı", "i") in c)
    return max(0.0, kapsam - 0.25 * min(yanlis, 4))

# Her soru için modelden cevap alıp puanla, ortalamasını hesapla.

Sınırlamalar

Örneklem büyüklüğü. 41 soru, iki modelin eşleştirilmiş karşılaştırmasında yaklaşık ±6 puanlık bir belirsizlik payı bırakır. Bundan küçük farklar gürültü sayılmalıdır. Ayrıca her konuda tek soru bulunduğundan, konu bazlı çıkarımlar (örneğin "model konkordatoda zayıf") güvenilir değildir.

Puanlama yönteminin sınırı. Değerlendirme, anahtar ifadenin cevapta geçip geçmediğini denetler; o bilginin doğru bağlamda kullanılıp kullanılmadığını değerlendirmez. Bu nedenle hukuki terminoloji içeren ancak soruyu yanıtlamayan cevaplar kısmi puan alabilir. Katı skor bu etkiyi azaltır, ancak tamamen ortadan kaldırmaz. Daha kesin bir değerlendirme için insan değerlendirmesi veya daha güçlü bir modelle hakemlik (LLM-as-judge) yöntemleri kullanılabilir.

Kapsam. Benchmark, İİK'nın tamamını değil, seçilmiş 41 konuyu kapsar. Değerlendirilen modelin eğitim verisiyle çakışmayı önlemek amacıyla bazı temel konular (tasarrufun iptali, ihalenin feshi, istihkak, meskeniyet vb.) bilinçli olarak dışarıda bırakılmıştır. Bu nedenle benchmark, icra-iflas hukukunun dengeli bir temsili değil, sızıntısız bir alt kümesidir.

Kaynak ve lisans

Sorular ve referans cevaplar, İcra ve İflas Kanunu'nun (Kanun No. 2004) resmî metnine dayanılarak özgün biçimde hazırlanmıştır. Kanun metinleri telife tabi değildir; bu veri setindeki metinler CC BY 4.0 ile paylaşılmaktadır.

Bu benchmark eğitim ve değerlendirme amaçlıdır. İçerdiği bilgiler genel niteliktedir ve hukuki tavsiye niteliği taşımaz.