Datasets:
Tasks:
Text Classification
Modalities:
Text
Formats:
json
Languages:
Turkish
Size:
10K - 100K
License:
| language: | |
| - tr | |
| license: other | |
| license_name: synthetic-llm-generated | |
| task_categories: | |
| - text-classification | |
| tags: | |
| - answerability | |
| - rag | |
| - turkish | |
| - synthetic | |
| size_categories: | |
| - 10K<n<100K | |
| configs: | |
| - config_name: default | |
| data_files: | |
| - split: train | |
| path: data/train.jsonl | |
| - split: test | |
| path: data/test.jsonl | |
| # Cevaplanabilirlik minimal pair'leri (sentetik, Türkçe) | |
| **Bu belge bu soruyu cevaplayabilir mi?** LLM ile yazılmış gerçekçi Türkçe belgeler (haber, ürün sayfası, resmi duyuru, rapor, | |
| SSS, teknik özellik listesi, başlık listesi…) ve her belge için hem cevaplanabilir sorular hem de konuyla ilgili ama belgenin | |
| cevaplamadığı **tuzak** sorular. Public veri setlerinin kapsamadığı durumlar için üretildi: belge aynı türden bilgiyi | |
| içeriyor, ama başka bir kurum, varlık, yer, dönem ya da yön için. | |
| | Split | Satır | Belge | Evet | Hayır | | |
| |---|---:|---:|---:|---:| | |
| | train | 10.774 | 1.757 | 3.245 | 7.529 | | |
| | test | 1.170 | 195 | 352 | 818 | | |
| ## Soru türleri (`kind`) | |
| | Tür | Satır | Ne | | |
| |---|---:|---| | |
| | `answerable` | 3.597 | Cevabı belgede açıkça yazıyor (evet) | | |
| | `kismi` | 2.330 | İki parçalı soru: bir parçası cevapsız | | |
| | `varlik` | 1.260 | Aynı türden başka bir varlığın aynı özniteliği | | |
| | `eksik_oznitelik` | 1.234 | Belgede olmayan bir öznitelik | | |
| | `kurum` | 1.227 | Aynı işi yapan başka bir kurumun aynı bilgisi | | |
| | `zaman` | 1.158 | Yayın tarihinden sonraki ya da kapsanmayan bir dönem | | |
| | `yer_facet` | 1.138 | Başka bir şehir/bölge ya da istenenden farklı bir yön | | |
| ## Nasıl üretildi | |
| 1. **Writer** (`mimo-v2.6-pro`, reasoning kapalı, `temperature=0.9`): her seed için (25 konu × 10 belge türü, 2025-2026'dan bir | |
| yayın tarihi, 6 tuzak türünden 5'i) 120-250 kelimelik bir belge (başlık, yayın tarihi, kaynak, metin), 2 cevaplanabilir soru | |
| (belgeden birebir kanıt alıntısıyla) ve her tuzak türü için 1 cevaplanamaz soru yazdı. Kurgusal şirket, ürün ve kişi adları; | |
| gerçek kamu kurumları geçebilir, rakamlar kurgusaldır. | |
| 2. **Judge** (`deepseek-v4.1-flash`, `reasoning_effort=low`): her (belge, soru) çiftini writer'ın label'ını görmeden yeniden etiketledi. | |
| 3. **Tutulanlar:** yalnızca judge'ın writer ile aynı label'ı verdiği ve cevaplanabilir sorularda kanıt alıntısının metinde birebir | |
| geçtiği sorular. Yazılan 12.934 sorudan 617 tanesinde judge writer'dan ayrıştı ve soru atıldı. | |
| 4. Belirli bir değerlendirme setiyle (judge set) örtüşmemesi için bazı adlar ve kombinasyonlar üretimden çıkarıldı. | |
| `document`: başlık, yayın tarihi, kaynak ve metin, tek bir metin olarak. `meta`: konu, belge türü, tarih, writer'ın gerekçesi ve | |
| kanıt alıntısı. Test bölümü, train'de hiç geçmeyen belgelerden oluşur (belgeler bütün olarak ayrıldı). | |
| ## Sınırlamalar | |
| - Belgeler ve sorular LLM ürünüdür; bir insan tarafından kontrol edilmedi. İki modelin anlaşması etiket gürültüsünü azaltır, | |
| sıfırlamaz. | |
| - Hayır soruları evetlerin yaklaşık iki katıdır; eğitimde dengeleyin. | |
| - Çıktıları üreten modellerin ve servis sağlayıcının kullanım şartları bu veri için de geçerli olabilir; ticari kullanımdan önce | |
| kontrol edin. | |