er3nhf/kdv-rag-benchmark

KDV RAG Benchmark

Türk KDV (Katma Değer Vergisi) mevzuatı için retrieval benchmark veri seti.

Diferansiyel: Point-in-Time Retrieval

Genel amaçlı LLM'ler "2019'da bu işlem KDV'den istisna mıydı?" sorusuna bugünkü kuralı döner. Bu benchmark, retrieval sistemlerini olay tarihinde yürürlükte olan madde versiyonunu bulabilme kapasitesine göre değerlendirir.

Dataset Yapısı

Splits

Split	Kayıt	Dönem
train	728	2018–2023
test	154	2024–2026

Split stratejisi: temporal — train ve test farklı zaman dilimlerinden. Data leakage riski minimuma indirilmiş.

Corpus

İki granülaritede sunuluyor — chunk edilmiş versiyon retrieval'da belirgin daha iyi sonuç veriyor (bkz. Baseline Skorlar):

Config	Kayıt	İçerik
corpus	110	KDV Kanunu (3065) maddeleri, bölünmemiş
corpus_chunked	174	Aynı maddeler, 2000+ karakterlik 27 madde alt bölümlere ayrılmış

Features

train / test:

id             : int      — GIB özelge ID
siteLink       : string   — kaynak URL (gib.gov.tr)
ozelgeNo       : string   — resmi özelge numarası
ozelgeTarih    : string   — yayın tarihi (YYYY-MM-DD)
baslik         : string   — özelge başlığı
kanunNo        : string   — 3065
soru           : string   — mükellefin sorusu
cevap          : string   — GIB'in cevabı
madde_atiflar  : list     — atıf yapılan maddeler [{id, title}]

corpus:

id             : int      — madde ID
title          : string   — "Madde 17 Sosyal ve Askeri Amaçlı İstisnalarla..."
metin          : string   — madde tam metni
siteLink       : string   — kaynak URL
priority       : int      — madde sırası
bolum          : string   — bölüm başlığı

corpus_chunked:

chunk_id       : string   — "MADDE_<article_id>_<part>"
article_id     : int      — corpus'taki madde id'si (ground truth eşleşmesi bununla yapılır)
title          : string   — madde başlığı
section        : string?  — alt bölüm başlığı (varsa)
part           : int      — madde içindeki sıra
metin          : string   — chunk metni
metin_len      : int      — karakter uzunluğu

Baseline Skorlar

Query: özelge sorusu · k=154 test · Ground truth: madde_atiflar (chunk config'te article_id ile eşleştirilir, çoklu chunk aynı maddeye denk gelirse ilk/en iyi rank kullanılır)

Model	Boyut	corpus (article) recall@10	corpus_chunked recall@10
BM25	—	0.344	0.407
e5-large	560M	0.285	0.353
BGE-M3	560M	0.272	0.388
Qwen3-Embedding-0.6B	0.6B	0.377	0.316
Qwen3-Embedding-4B	4B	—¹	0.363
Qwen3-Embedding-8B	8B	—¹	0.515
Nomic Embed v2-moe	305M aktif (MoE)	—¹	0.602
Türkçe-native (trmteb)	—	—¹	0.429

¹ article corpus'ta test edilmedi — bölünmemiş bazı maddeler (örn. Madde 17, 35K karakter) uzun-context modellerde tüm VRAM'i tüketip pratik olmayan sürelere yol açtı; chunk corpus zaten kesin daha iyi sonuç verdiği için (bkz. Bulgu 1) bu maliyeti göze almaya değmedi.

Bulgu 1: chunking (article → corpus_chunked), model değişikliğinden daha büyük etki yarattı — hatta Qwen3-Embedding-0.6B özelinde chunk'lamak recall'ı düşürdü (0.377 → 0.316), tek istisna; küçük modellerde bazen tüm maddeyi görmek parçalı bağlamdan daha faydalı olabiliyor.

Bulgu 2: madde_atiflar'ın %41'i konudan bağımsız, hemen her özelgede geçen 3 boilerplate maddeye (KDV oranı, verginin konusu, vergi sorumlusu) atıf yapıyor — bu sorgular içerik-eşleştirmeli retrieval ile yapısal olarak çözülemez. Bu sorgular çıkarılınca (kalan 91 sorgu) gerçek content-retrieval kalitesi çok daha yüksek çıkıyor: BM25 0.533, Nomic v2 0.626.

Bulgu 3: en küçük model (Nomic v2, 305M aktif param) MTEB liderlik tablosunun tepesindeki modelleri (Qwen3-Embedding-8B) geçti — ama istatistiksel testte (bootstrap) bu fark, boilerplate-hariç zor sorularda anlamsızlaşıyor. MTEB sıralaması bu tür spesifik/düşük-kaynaklı dil + küçük corpus görevlerine doğrudan yansımıyor.

Hibrit Rerank (BM25 + dense, Reciprocal Rank Fusion)

Kombinasyon	Ham recall@10 (n=154)	Temiz recall@10 (n=91)
BM25 (tek başına)	0.407	0.533
Nomic v2 (tek başına)	0.602	0.626
Qwen3-Embedding-8B (tek başına)	0.515	0.583
BM25 + Nomic v2 (RRF)	0.554	0.658
BM25 + Qwen3-Embedding-8B (RRF)	0.570	0.663

Bulgu 4: hibrit rerank (RRF, rrf_k=60) tek yönlü bir kazanç değil. Zayıf/genel-amaçlı modeli (Qwen3-8B) BM25 ile birleştirmek, temiz veri setinde istatistiksel olarak anlamlı bir iyileşme sağlıyor (%98 güven, bootstrap n=10000) ve modeli en güçlü standalone modelin (Nomic v2) seviyesine getiriyor. Ama zaten göreve-özel eğitilmiş güçlü modeli (Nomic v2) hibritlemek net katkı sağlamıyor (temiz veride %82 güven — anlamsız; ham veride hafif zarar — BM25'in boilerplate maddelerdeki zayıflığı Nomic'in oradaki gücünü sulandırıyor).

Pointwise Cross-Encoder Rerank

First-stage (Nomic v2 standalone dense) top-k aday havuzu (top-20/top-50) çıkarılıp cross-encoder ile yeniden sıralanıyor — first-stage'siz "tüm corpus'u rerank et" bilinçli olarak yapılmadı (corpus küçük diye first-stage'i atlamak, corpus büyüdüğünde üretimde asla ulaşılamayacak yapay bir tavan ölçer):

Kombinasyon	Ham recall@10 (n=154)	Temiz recall@10 (n=91)
bge-reranker-v2-m3, pool20	0.580	0.631
Qwen3-Reranker-8B, pool20	0.632	0.687

Bulgu 5: zayıf bir cross-encoder (bge, 568M) hiçbir varyantta standalone Nomic'i ya da hibrit RRF'yi istatistiksel olarak anlamlı geçemedi — cross-encoder mimarisi tek başına yeterli değil, modelin kendi kalitesi belirleyici. Güçlü bir cross-encoder (Qwen3-Reranker-8B) küçük veri setinde (91 sorgu) hem BM25'i hem Nomic standalone'u anlamlı farkla geçti — ama bkz. Bulgu 6, bu sonuç veri seti büyüyünce değişti.

Genişletilmiş/Temizlenmiş Baseline (Bulgu 6)

İki iyileştirme uygulandı: (1) madde_atiflar'daki bazı atıfların (76 benzersiz id) KDV Kanunu dışı bir kanuna (çoğunlukla Vergi Usul Kanunu — "Amortisman", "Şüpheli Alacaklar" gibi başlıklar) ait olup corpus'ta hiç bulunmadığı tespit edildi, bu yapısal olarak-imkansız atıflar ölçümden çıkarıldı; (2) istatistiksel güç için train split'i de (fine-tune YAPILMADAN, sadece ek eval sorgusu olarak) test'e eklendi — 154 → 813 ham / 270 temiz sorgu.

⚠️ Uyarı: Bu 813/270 sayıları sadece zero-shot/pretrained model karşılaştırması için geçerli (bu benchmark'ta hiçbir model train split'i ile fine-tune edilmedi). Eğer siz train split'inde fine-tune yapıyorsanız, değerlendirmeyi sadece orijinal 154-kayıtlı test split'inde yapın — train'i eval'e katmak fine-tune edilmiş bir model için data leakage olur.

Yöntem	Ham (n=813)	Temiz (n=270)
BM25	0.377	0.624
Nomic v2 (standalone)	0.593	0.646
Hibrit BM25+Nomic (RRF)	0.569	0.706
Hibrit BM25+Qwen3-8B (RRF)	0.559	0.698
bge-reranker-v2-m3, pool20	0.618	0.653
Qwen3-Reranker-8B, pool20	0.644	0.664

İstatistiksel güç artınca (91→270 "temiz" sorgu) sonuç tersine döndü: küçük veri setinde cross-encoder (Qwen3-Reranker-8B) hibridi geçiyordu, büyük/temiz sette hibrit RRF öne geçti (%98 güven, bootstrap n=10000). Olası sebep mimari değil, yapısal: cross-encoder tek bir first-stage retriever'ın (Nomic) top-k'sıyla sınırlı; hibrit RRF ise BM25 ve Nomic'in bağımsız tam sıralamalarını birleştirdiği için birinin kaçırdığını diğeri yakalayabiliyor. Ham (boilerplate-ağırlıklı) sette cross-encoder hâlâ öne geçiyor. Ders: küçük veri setinden çıkardığınız sonuca güvenmeyin, mümkünse istatistiksel gücü artırın.

Cross-Encoder First-Stage Havuzu: BM25 ∪ Nomic (Bulgu 7)

Bulgu 6'nın hipotezi test edildi: first-stage havuzu tek kaynak (Nomic top-20) yerine BM25 top-20 ∪ Nomic top-20 (iki kaynağın kendi kanıtlanmış top-k'sı küçültülmeden birleştiriliyor, ≤40 aday) olarak kuruldu. Reranker: Qwen3-Reranker-8B, pool20.

Yöntem	Ham (n=813)	Temiz (n=270)
Hibrit BM25+Nomic (RRF)	0.569	0.706
Qwen3-Reranker-8B, sadece-Nomic havuz	0.644	0.664
Qwen3-Reranker-8B, BM25∪Nomic havuz	0.664	0.725

Bulgu 7: hipotez doğrulandı. Union havuz hem ham hem temiz sette istatistiksel olarak anlamlı bir kazanç sağladı (sırasıyla %98 ve %100 güven, bootstrap n=10000) — önemli olan havuzu aynı kaynağın sıralamasında büyütmek değil, farklı kaynaktan aday eklemekmiş. Temiz sette Bulgu 6'daki kayıp kapandı: hibrit RRF'e karşı fark artık istatistiksel olarak anlamsız (%82 güven) — iki yöntem pratikte eşdeğer. Bedel: havuz artık sabit değil (≤40), sorgu başına süre kabaca 2x arttı. Yeni proje rekoru: temiz sette recall@10 = 0.725.

Query Rewriting: First-Stage Havuza LLM ile Yeniden Yazılmış Query (Bulgu 8)

Özelge sorusu günlük dilde, madde metni hukuki dilde ("teslim", "istisna", "matrah", "tevkifat") — bu asimetri LLM ile query rewriting'le ele alındı. Lokal bir LLM (Qwen3-8B, vLLM) sorguyu hukuki-dile yaklaştırarak yeniden yazdı (mükellefe özgü detaylar atılıp kavramsal çekirdek korunarak); rewrite, first-stage aday havuzuna bağımsız bir kaynak olarak eklendi (Nomic_orig ∪ BM25_orig ∪ Nomic_rewrite ∪ BM25_rewrite), reranker'a ise her zaman orijinal soru verildi — ground truth orijinal soru niyetine göre etiketlendiği için olası bir rewrite halüsinasyonunun etkisini zararsız first-stage'e hapsetmek için.

Yöntem	Ham (n=809)	Temiz (n=269)
Qwen3-Reranker-8B, BM25∪Nomic havuz (Bulgu 7)	0.665	0.724
+ rewrite-pool	0.690	0.738 (nominal)

Bulgu 8: karışık ama dürüst sonuç. İzolasyonda (standalone BM25/Nomic, rewrite ile query değiştirilerek) rewrite neredeyse evrensel işe yaradı — 4 kombinasyondan 3'ünde istatistiksel olarak anlamlı kazanç (BM25 ham +0.085, Nomic ham +0.037, Nomic temiz +0.045; tek istisna BM25 temiz'de küçük, istatistiksel olarak anlamsız bir gerileme). Ana deneyde ham sette kazanç istatistiksel olarak sağlam (%99 güven, bootstrap n=10000), temiz/zor sette ise nominal bir rekor kırılsa da bootstrap'ta kanıtlanamadı (%84 güven, CI sıfırı kesiyor) — örneklem küçük (n=269) ve şampiyon zaten güçlü bir taban olduğu için marjinal katkı gürültüye karışıyor. Bulgu 6→7'deki dersle tutarlı: nominal bir "yeni rekor" sayıya bakıp hemen sonuç çıkarmamak gerekiyor.

BM25, Nomic v2, BM25+dense hibrit ve BM25∪Nomic havuzlu Qwen3-Reranker-8B rerank (opsiyonel: + rewrite-pool, ham sette istatistiksel olarak kanıtlanmış bir kazanç) şu anki en güçlü başlangıç noktaları. Daha büyük hedef: point-in-time filtreleme — bu benchmark'ın asıl farkı ve henüz hiç test edilmedi (üstelik gerekli veri de eksik: madde değişiklik tarihleri var ama dönemsel madde metni snapshot'ları yok — sadece "ne zaman değişti" biliniyor, "neye değişti" bilinmiyor).

Kullanım

from datasets import load_dataset

# Benchmark
train = load_dataset("er3nhf/kdv-rag-benchmark", "benchmark", split="train")
test  = load_dataset("er3nhf/kdv-rag-benchmark", "benchmark", split="test")

# Corpus (bölünmemiş, 110 madde)
corpus = load_dataset("er3nhf/kdv-rag-benchmark", "corpus", split="train")

# Corpus (chunk'lanmış, 174 kayıt — retrieval'da daha iyi sonuç verir)
corpus_chunked = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_chunked", split="train")

Değerlendirme örneği

# Her test kaydı için:
# query  = record["soru"]
# ground_truth = {a["id"] for a in record["madde_atiflar"]}
# retrieved = retrieval_system(query, corpus, top_k=10)
# recall@10 = len(ground_truth & set(retrieved[:10])) / len(ground_truth)

Veri Kaynağı

• Özelgeler: Gelir İdaresi Başkanlığı — KDV Kanunu özelge veritabanı
• Maddeler: mevzuat.gov.tr — 3065 sayılı KDV Kanunu

Ham metin değil, referans + etiket yayınlanmaktadır.

Lisans

CC BY 4.0 — Kaynak belirtilmesi koşuluyla kullanılabilir.

Kaynak veriler Türkiye Cumhuriyeti kamu kurumlarına ait açık verilerdir.