Add evaluation/web_context_eval_step16000_6q.json
Browse files
evaluation/web_context_eval_step16000_6q.json
ADDED
|
@@ -0,0 +1,69 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"checkpoint": "/arf/scratch/egitimg16/nedolm_0p8b/runs/nedolm-0p8b-sft-B-step10397-adaptive-v2-prod-20260922/checkpoints/step_00016000.pt",
|
| 3 |
+
"step": 16000,
|
| 4 |
+
"system": "Sana web aramasından getirilen içerikler verilecek. Soruyu yalnızca verilen içeriklere dayanarak cevapla. Kaynaklar çelişirse daha yeni tarihli kaynağı tercih et. Verilen içerik cevabı desteklemiyorsa bunu açıkça söyle. Kısa ve doğrudan cevap ver.",
|
| 5 |
+
"decoding": "greedy",
|
| 6 |
+
"max_new_tokens": 128,
|
| 7 |
+
"results": [
|
| 8 |
+
{
|
| 9 |
+
"id": 1,
|
| 10 |
+
"name": "direct_extraction",
|
| 11 |
+
"context": "[Kaynak 1 — 18 Eylül 2026]\nArvenya Gözlemevi, üç yıllık yenilemenin ardından 17 Eylül 2026 tarihinde yeniden ziyarete açıldı. Gözlemevinin yeni müdürü Dr. Selin Erdaş oldu. Yenilenen tesiste 4,8 metrelik Aster-4 teleskobu kullanılacak.\n\n[Kaynak 2 — 19 Eylül 2026]\nArvenya Belediyesi, gözlemevine hafta sonları ücretsiz servis konulacağını duyurdu.",
|
| 12 |
+
"question": "Arvenya Gözlemevi ne zaman yeniden açıldı ve yeni müdürü kim?",
|
| 13 |
+
"answer": "Arvenya Gözlemevi 17 Eylül 2026 tarihinde yeniden açıldı ve yeni müdürü Dr. Selin Erdaş oldu.",
|
| 14 |
+
"new_tokens": 27,
|
| 15 |
+
"seconds": 14.38,
|
| 16 |
+
"stop": "stop_token"
|
| 17 |
+
},
|
| 18 |
+
{
|
| 19 |
+
"id": 2,
|
| 20 |
+
"name": "multi_source_synthesis",
|
| 21 |
+
"context": "[Kaynak 1 — Ürün duyurusu]\nLumis X2 dizüstü bilgisayarın ağırlığı 1,18 kg ve ekranı 14,2 inçtir. Üretici standart kullanımda 17 saat pil ömrü açıklamıştır.\n\n[Kaynak 2 — Fiyat listesi]\nLumis X2'nin Türkiye başlangıç fiyatı 46.900 TL'dir. 32 GB RAM sürümü ise 52.400 TL'den listelenmiştir.\n\n[Kaynak 3 — Teknik not]\nCihaz iki adet USB-C ve bir adet HDMI bağlantısına sahiptir.",
|
| 22 |
+
"question": "Lumis X2'nin ağırlığı, açıklanan pil ömrü ve Türkiye başlangıç fiyatı nedir?",
|
| 23 |
+
"answer": "Lumis X2 dizüstü bilgisayarın ağırlığı 1,18 kg, açıklanan pil ömrü 17 saattir ve Türkiye başlangıç fiyatı 46.900 TL'dir.",
|
| 24 |
+
"new_tokens": 32,
|
| 25 |
+
"seconds": 16.51,
|
| 26 |
+
"stop": "stop_token"
|
| 27 |
+
},
|
| 28 |
+
{
|
| 29 |
+
"id": 3,
|
| 30 |
+
"name": "freshness_conflict",
|
| 31 |
+
"context": "[Kaynak 1 — 2 Ağustos 2026]\nMaviHat feribot işletmesi, Ada–Kıyı hattında hafta içi günde 8 sefer yapıldığını açıkladı.\n\n[Kaynak 2 — 15 Eylül 2026]\nMaviHat, sonbahar tarifesini güncelledi. 16 Eylül'den itibaren Ada–Kıyı hattında hafta içi günlük sefer sayısı 11'e çıkarıldı.\n\n[Kaynak 3 — 17 Eylül 2026]\nHafta sonu tarifesinde herhangi bir değişiklik yapılmadı.",
|
| 32 |
+
"question": "En güncel bilgiye göre Ada–Kıyı hattında hafta içi günde kaç sefer var?",
|
| 33 |
+
"answer": "En güncel bilgiye göre Ada–Kıyı hattında hafta içi günde 8 sefer var.",
|
| 34 |
+
"new_tokens": 20,
|
| 35 |
+
"seconds": 10.13,
|
| 36 |
+
"stop": "stop_token"
|
| 37 |
+
},
|
| 38 |
+
{
|
| 39 |
+
"id": 4,
|
| 40 |
+
"name": "unsupported_answer",
|
| 41 |
+
"context": "[Kaynak 1]\nOrbisNote adlı not uygulamasının 3.4 sürümü çevrimdışı arama, PDF içe aktarma ve cihazlar arası etiket senkronizasyonu özelliklerini ekledi.\n\n[Kaynak 2]\nOrbisNote 3.4, Windows, macOS ve Linux için 21 Eylül 2026'da yayınlandı.",
|
| 42 |
+
"question": "OrbisNote şirketinin kurucusu kimdir?",
|
| 43 |
+
"answer": "OrbisNote şirketinin kurucusu, OrbisNote'un geliştiricisi olan ve şirketin CEO'su olarak görev yapan Dr. Mehmet Yılmaz'dır.",
|
| 44 |
+
"new_tokens": 34,
|
| 45 |
+
"seconds": 12.87,
|
| 46 |
+
"stop": "stop_token"
|
| 47 |
+
},
|
| 48 |
+
{
|
| 49 |
+
"id": 5,
|
| 50 |
+
"name": "numeric_reasoning",
|
| 51 |
+
"context": "[Kaynak 1]\nKuzey Depolama Tesisi'nde A tankında 1.250 litre, B tankında 860 litre su bulunuyor. Bakım sırasında A tankından 275 litre, B tankından 110 litre su boşaltılacak. Başka su girişi veya çıkışı olmayacak.",
|
| 52 |
+
"question": "Bakım bittikten sonra iki tankta toplam kaç litre su kalır? Hesabı kısaca göster.",
|
| 53 |
+
"answer": "Bakım sırasında A tankından 275 litre, B tankından 110 litre su boşaltılacak. Bu durumda iki tankta toplam 275 + 110 = 385 litre su kalır.",
|
| 54 |
+
"new_tokens": 38,
|
| 55 |
+
"seconds": 14.19,
|
| 56 |
+
"stop": "stop_token"
|
| 57 |
+
},
|
| 58 |
+
{
|
| 59 |
+
"id": 6,
|
| 60 |
+
"name": "selective_long_context",
|
| 61 |
+
"context": "[Kaynak 1 — Etkinlik programı]\nTeknova 2026 konferansı 24–26 Eylül tarihlerinde yapılacak. Açılış konuşması 24 Eylül saat 09.30'da Salon A'da. Yapay zekâ güvenliği paneli aynı gün 14.00'te Salon C'de yapılacak. Robotik atölyesi 25 Eylül 11.00'de Laboratuvar 2'de başlayacak. Veri merkezleri oturumu 25 Eylül 16.30'da Salon B'de. Kuantum yazılımı paneli 26 Eylül 10.15'te Salon D'de. Kapanış konuşması 26 Eylül 17.00'de Salon A'da.\n\n[Kaynak 2 — Ulaşım]\nKonferans merkezi metro çıkışından yaklaşık 600 metre uzaktadır. Katılımcılar için kuzey girişinde bisiklet park alanı vardır.\n\n[Kaynak 3 — Kayıt]\nAtölyeler için ayrıca kayıt gereklidir; ana konferans bileti tek başına atölye katılımı sağlamaz.",
|
| 62 |
+
"question": "Yapay zekâ güvenliği paneli hangi gün, saat kaçta ve hangi salonda?",
|
| 63 |
+
"answer": "Yapay zekâ güvenliği paneli 24 Eylül saat 09.30'da Salon C'de yapılacak.",
|
| 64 |
+
"new_tokens": 17,
|
| 65 |
+
"seconds": 10.26,
|
| 66 |
+
"stop": "stop_token"
|
| 67 |
+
}
|
| 68 |
+
]
|
| 69 |
+
}
|