README.md

metadata

language:
  - tr
license: other
license_name: synthetic-llm-generated
task_categories:
  - text-classification
tags:
  - answerability
  - rag
  - turkish
  - synthetic
size_categories:
  - 10K<n<100K
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train.jsonl
      - split: test
        path: data/test.jsonl

Cevaplanabilirlik minimal pair'leri (sentetik, Türkçe)

Bu belge bu soruyu cevaplayabilir mi? LLM ile yazılmış gerçekçi Türkçe belgeler (haber, ürün sayfası, resmi duyuru, rapor, SSS, teknik özellik listesi, başlık listesi…) ve her belge için hem cevaplanabilir sorular hem de konuyla ilgili ama belgenin cevaplamadığı tuzak sorular. Public veri setlerinin kapsamadığı durumlar için üretildi: belge aynı türden bilgiyi içeriyor, ama başka bir kurum, varlık, yer, dönem ya da yön için.

Split	Satır	Belge	Evet	Hayır
train	10.774	1.757	3.245	7.529
test	1.170	195	352	818

Soru türleri (kind)

Tür	Satır	Ne
answerable	3.597	Cevabı belgede açıkça yazıyor (evet)
kismi	2.330	İki parçalı soru: bir parçası cevapsız
varlik	1.260	Aynı türden başka bir varlığın aynı özniteliği
eksik_oznitelik	1.234	Belgede olmayan bir öznitelik
kurum	1.227	Aynı işi yapan başka bir kurumun aynı bilgisi
zaman	1.158	Yayın tarihinden sonraki ya da kapsanmayan bir dönem
yer_facet	1.138	Başka bir şehir/bölge ya da istenenden farklı bir yön

Nasıl üretildi

1. Writer (mimo-v2.6-pro, reasoning kapalı, temperature=0.9): her seed için (25 konu × 10 belge türü, 2025-2026'dan bir yayın tarihi, 6 tuzak türünden 5'i) 120-250 kelimelik bir belge (başlık, yayın tarihi, kaynak, metin), 2 cevaplanabilir soru (belgeden birebir kanıt alıntısıyla) ve her tuzak türü için 1 cevaplanamaz soru yazdı. Kurgusal şirket, ürün ve kişi adları; gerçek kamu kurumları geçebilir, rakamlar kurgusaldır.
2. Judge (deepseek-v4.1-flash, reasoning_effort=low): her (belge, soru) çiftini writer'ın label'ını görmeden yeniden etiketledi.
3. Tutulanlar: yalnızca judge'ın writer ile aynı label'ı verdiği ve cevaplanabilir sorularda kanıt alıntısının metinde birebir geçtiği sorular. Yazılan 12.934 sorudan 617 tanesinde judge writer'dan ayrıştı ve soru atıldı.
4. Belirli bir değerlendirme setiyle (judge set) örtüşmemesi için bazı adlar ve kombinasyonlar üretimden çıkarıldı.

document: başlık, yayın tarihi, kaynak ve metin, tek bir metin olarak. meta: konu, belge türü, tarih, writer'ın gerekçesi ve kanıt alıntısı. Test bölümü, train'de hiç geçmeyen belgelerden oluşur (belgeler bütün olarak ayrıldı).

Sınırlamalar

• Belgeler ve sorular LLM ürünüdür; bir insan tarafından kontrol edilmedi. İki modelin anlaşması etiket gürültüsünü azaltır, sıfırlamaz.
• Hayır soruları evetlerin yaklaşık iki katıdır; eğitimde dengeleyin.
• Çıktıları üreten modellerin ve servis sağlayıcının kullanım şartları bu veri için de geçerli olabilir; ticari kullanımdan önce kontrol edin.