namruni/meb-ogretmen-benchmark

Dataset Card for MEB Öğretmen Mevzuatı Alan Benchmark'ı

Dataset Summary

MEB Öğretmen Mevzuatı Alan Benchmark'ı, bir dil modelinin Millî Eğitim Bakanlığı öğretmen özlük/mevzuat soru-cevabındaki başarımını ölçmek için hazırlanmış, 142 soruluk bir değerlendirme (test) veri setidir. Sorular çoktan seçmeli değil, açık uçludur; her sorunun mevzuata dayalı bir referans (altın) cevabı vardır.

Veri seti, namruni/meb-ogretmen-qwen3-14b-lora fine-tune modelini kendi uzmanlık alanında değerlendirmek için üretilmiştir. Genel Türkçe benchmark'lar (ör. TR-MMLU) bu dar alanı ölçemediğinden, bu boşluğu doldurur.

⚠️ Şeffaflık: Referans cevaplar insan uzman tarafından değil, güçlü bir dil modeli (ChatGPT/Codex) tarafından gerçek MEB mevzuat belgelerine dayandırılarak üretilmiştir (damıtma-tarzı referans). Bağlayıcı hukuki bilgi değildir.

Supported Tasks and Leaderboards

• question-answering, closed-domain-qa: model, MEB mevzuatına dair açık uçlu bir soruya serbest metin cevap üretir.
• Değerlendirme yöntemi (LLM-as-judge): Cevaplar açık uçlu olduğundan birebir eşleşme uygun değildir. Bir hakem modele (soru, referans_cevap, model_cevabı) verilip "Doğru / Kısmen / Yanlış" kararı aldırılır. Kontrollü kıyas için aynı sorular hem taban modele hem fine-tune modele sorulup eşleştirilmiş karşılaştırma yapılır.
• Resmî bir leaderboard yoktur.

Languages

Türkçe (tr). Metinler MEB resmî mevzuat diliyle ve öğretmen forum diliyle yazılmıştır.

Dataset Structure

Data Instances

{
  "id": "B001",
  "bolum": "B",
  "soru": "Bir öğretmenin başka bir öğretmenlik alanına geçişinin 'alan değişikliği' sayılabilmesi için hangi şartlar birlikte aranır?",
  "referans_cevap": "Öğretmenin kadrolu olması, geçilecek alanın Bakanlıkça belirlenmiş olması ve bu alanın mezun olunan yükseköğretim programına bağlı olması gerekir.",
  "kaynak": "Millî Eğitim Bakanlığına Bağlı Öğretmenlerin Atama ve Yer Değiştirme Yönetmeliği",
  "dayanak": "\"Alan değişikliği: Kadrolu öğretmenlerin, Bakanlık tarafından belirlenen ... başka alanlara geçişlerini\""
}

Data Fields

Alan	Tip	Açıklama
id	string	Soru kimliği (Axxx / Bxxx)
bolum	string	A (gerçek forum sorusu) veya B (belgeden mevzuat sorusu)
soru	string	Soru metni
referans_cevap	string	Mevzuata dayalı altın cevap (LLM üretimi)
kaynak	string	Cevabın dayandığı MEB belgesi (Bölüm A'da "forum sorusu")
dayanak	string	Belgedeki ilgili alıntı/kural (B) veya forum konu kimliği (A)

Data Splits

Split	Soru	İçerik
test	142	Bölüm A (6 gerçek forum sorusu) + Bölüm B (136 belgeden mevzuat sorusu)

Not: Bu veri seti yalnızca test split'i içerir; bilinçli olarak eğitim (train) split'i yoktur. Bir değerlendirme benchmark'ıdır; modelleri bununla eğitmek benchmark'ı geçersiz kılar (veri sızıntısı).

Dataset Creation

Curation Rationale

Amaç: fine-tune edilmiş bir modelin kendi alanında işe yarayıp yaramadığını sayısal ölçmek. Genel benchmark'lar bunu göremediğinden, modelin senaryosuna (MEB öğretmen mevzuatı) özel, modelin eğitimde görmediği sorulardan oluşan bir test seti üretildi.

Source Data

• Bölüm A: memurlar.net kamuya açık öğretmen forumundaki gerçek sorular.
• Bölüm B: resmî MEB mevzuat belgeleri (Atama ve Yer Değiştirme Yönetmeliği, mazeret duyuruları, 7528 sayılı Öğretmenlik Meslek Kanunu, 657 sayılı DMK, Yönetici Görevlendirme Yönetmeliği, izin/rapor, ek ders kararı, kariyer basamakları vb.). Belgeler, gerçek forum sorularında en çok kullanılan kaynaklara göre ağırlıklandırılmıştır.

Annotations

• Annotation process: Bölüm B'de belge parçaları bir dil modeline (Codex/ChatGPT) verilip, yalnızca o metne dayanan, ayırt edici (tanım/evet-hayır olmayan) soru-cevap çiftleri üretildi. Bölüm A'da gerçek forum soruları ilgili belge parçalarıyla eşlenip belgeye dayalı yetkili cevap üretildi; belgeyle güvenilir cevaplanamayanlar elendi. Otomatik + gözle kalite süzgeci uygulandı.
• Who are the annotators? Cevaplar bir dil modeli (LLM) tarafından, MEB belgelerine demirlenerek üretildi; insan doğrulaması sınırlıdır.

Personal and Sensitive Information

Forum soruları anonimdir; kişi/kullanıcı adı içermez. Sorular kamuya açık forum gönderilerinden türetilmiştir ve özel kişisel veri barındırmaz.

Considerations for Using the Data

Social Impact of Dataset

Türkçe, dar-alan (öğretmen mevzuatı) değerlendirmesine katkı sağlar; alan-özel fine-tune'un etkisini ölçmeyi kolaylaştırır.

Discussion of Biases

Sorular gerçek forum konu dağılımına göre ağırlıklandırıldığından, en sık sorulan konulara (atama/yer değiştirme, mazeret) doğru bir eğilim vardır. Referans cevaplar bir LLM tarafından üretildiği için o modelin olası önyargı/eksiklerini taşıyabilir.

Other Known Limitations

• Referans cevaplar LLM üretimidir (mevzuata demirli ama insan onaylı değil).
• Bölüm A küçüktür (n=6): yüzde skor için değil, niteliksel örnek için kullanılmalıdır.
• Mevzuat 2025–2026 dönemine dayanır; sonradan değişen hükümler olabilir.
• Bağlayıcı hukuki tavsiye değildir.

Additional Information

Dataset Curators

namruni.

Licensing Information

CC BY 4.0. Sorular MEB kamu mevzuatından ve memurlar.net kamuya açık forum içeriğinden türetilmiştir.

Citation Information

@misc{meb_ogretmen_benchmark_2026,
  title        = {MEB Öğretmen Mevzuatı Alan Benchmark'ı},
  author       = {namruni},
  year         = {2026},
  howpublished = {\url{https://huggingface.co/datasets/namruni/meb-ogretmen-benchmark}},
  note         = {Açık uçlu, LLM-as-judge ile değerlendirilen Türkçe MEB mevzuat benchmark'ı}
}