--- license: cc-by-4.0 language: - tr pretty_name: TurkishMMLU Kirlilik Listesi / Contamination List tags: - turkish - türkçe - benchmark-contamination - data-contamination - turkishmmlu - evaluation - llm size_categories: - n<1K --- # TurkishMMLU Kirlilik Listesi — Türkçe web'de aynen bulunan test soruları **TurkishMMLU** test kümesindeki 900 sorunun **113'ü (%12,6)** 527 milyon kelimelik bir Türkçe web külliyatında **birebir** geçmektedir. Bu depo o soruların listesini, bulunma yöntemini ve yeniden üretim betiğini içerir; amaç, Türkçe web metniyle eğitilen modellerin TurkishMMLU puanlarını kirlilik dışı bırakılmış bir alt kümede de raporlayabilmesidir. *English summary at the end.* ## Neden önemli Bir kıyas sorusu eğitim külliyatında aynen geçiyorsa, modelin o soruyu "bilmesi" yetenek değil ezberdir. Türkçe web'den toplanan her külliyat için bu risk vardır; soruların büyük kısmı ders kitabı ve deneme sınavı sitelerinden geldiği için web'de kopyaları bulunur. Kendi ölçümümüzde etkisi şuydu: bir devam-eğitimi modelinin tabanına göre farkı tüm 900 soruda **+6,27** puan, kirli sorular çıkarılınca **+4,14** puan ölçüldü. Yani raporlanan farkın üçte biri kirlilikten geliyordu. ## Yöntem GPT-3 ve Llama teknik raporlarındaki ölçütün aynısı — **n-kelimelik pencere (shingle) birebir eşleşmesi**: 1. Soru metni normalize edilir: NFC, Türkçe küçük harf (İ→i, I→ı), noktalama ve sayı dışı karakterler boşluğa çevrilir, kelimelere ayrılır. 2. Her sorudan ardışık *n* kelimelik tüm pencereler çıkarılır. 3. Külliyat aynı normalizasyonla akıtılır; herhangi bir pencere külliyatta birebir geçiyorsa soru **kirli** sayılır. İki eşik raporlanır: | Eşik | Anlamı | Kirli soru | Oran | |---|---|---|---| | **n = 13** (katı) | tesadüfi eşleşme pratikte imkânsız; standart ölçüt | **113** | %12,6 | | n = 8 (gevşek) | kısmi / yeniden ifade edilmiş sızıntıya duyarlı, yanlış pozitif olası (kalıp cümleler) | 252 | %28,0 | Taranan külliyat: 526.593.877 kelimelik Türkçe web metni (akış sırasıyla ilk 4,3 GB). Pencereler **soru metni ve şıklardan** (en çok 5 şık) çıkarılır; cevap anahtarı metin olmadığı için taranmaz. Liste yine de bir **alt sınırdır**: yeniden ifade edilmiş, kelimesi değiştirilmiş ya da 13 kelimeden kısa parçalar hâlinde sızan sorular katı eşikte yakalanmaz. Konu dağılımı (n = 13): Din Kültürü ve Ahlak 26 · Fizik 22 · Biyoloji 19 · Kimya 15 · Tarih 15 · Türk Dili ve Edebiyatı 10 · Felsefe 3 · Coğrafya 3. ## Listenin biçimi `turkishmmlu_kirlilik.json`: ```json { "kaynak_kume": "AYueksel/TurkishMMLU (config All, split test)", "taranan_soru": 900, "kulliyat_kelime": 526593877, "kirli_13": [ {"index": 0, "sha256_soru": "e84db08c…", "konu": "Biology"}, … ], "kirli_8": [ … ] } ``` - `index`: Hugging Face `AYueksel/TurkishMMLU`, config `All`, split `test` içindeki sıra. - `sha256_soru`: `question` alanının (`strip()` sonrası, UTF-8) SHA-256 özeti. Kümenin sıralaması değişse bile soru bu özetle eşleştirilebilir. - `konu`: kaynak kümedeki konu etiketi. **Soru metni bu depoda yoktur.** TurkishMMLU kontrollü erişimli bir kümedir (erişim için yazarlara başvurulur); bu liste yalnızca dizin ve özet taşır, kümeye erişimi olan herkes özetle eşleştirip kendi kopyasında soruyu bulur. ## Kullanım ```python import json, hashlib from datasets import load_dataset ds = load_dataset("AYueksel/TurkishMMLU", "All", split="test") k = json.load(open("turkishmmlu_kirlilik.json", encoding="utf-8")) kirli = {r["sha256_soru"] for r in k["kirli_13"]} def ozet(q): return hashlib.sha256(q.strip().encode("utf-8")).hexdigest() temiz = ds.filter(lambda ex: ozet(ex["question"]) not in kirli) print(len(ds), "->", len(temiz)) # 900 -> 787 ``` Önerilen raporlama: tam kümedeki puanın yanında **temiz-787** puanı, ve iki puan arasındaki fark. Fark büyükse modelin külliyatı bu soruları görmüştür. ## Yeniden üretim ``` python kirlilik_denetimi.py ``` Betik külliyatı satır satır akıtır, bellek kullanımı külliyat boyutundan bağımsızdır. Kendi külliyatınızı taratırsanız listeniz bizimkinden farklı çıkar — bu listede olan bir soru **sizin** külliyatınızda olmayabilir, olmayan bir soru olabilir. ## Sınırlar 1. Liste **bizim** külliyatımıza göredir. Türkçe web'in başka bir kesitiyle eğitilen bir modelin kirliliği farklıdır; ama aynı kaynaklar (ders siteleri, deneme sınavları) her kesitte bulunduğu için örtüşme yüksek olacaktır. 2. Soru ve şık metinleri tarandı; cevap anahtarı metin olmadığından taranamaz. Yeniden ifade edilmiş kopyalar katı eşikte kaçar; liste bir alt sınırdır. 3. n = 13 katı eşiği yeniden ifade edilmiş kopyaları kaçırır; n = 8 listesi bu yüzden verilmiştir, ama yanlış pozitif içerir. 4. Kaynak kümenin sıralaması değişirse `index` geçersizleşir; `sha256_soru` kullanın. ## Atıf ``` eCloud Tech. (2026). TurkishMMLU Kirlilik Listesi: Türkçe web külliyatında birebir geçen test soruları. https://github.com/ecloudtechnology/turkishmmlu-kirlilik ``` TurkishMMLU'nun kendisi için: Yüksel, A. vd. (2024), *TurkishMMLU*. Lisans: liste ve betik **CC BY 4.0**. İletişim: info@e-cloud.web.tr --- ## English summary — TurkishMMLU contamination list **113 of the 900 TurkishMMLU test questions (12.6%) appear verbatim** in a 527-million-word Turkish web corpus (strict 13-word shingle match); 252 (28.0%) match at the looser 8-word threshold. Any model pretrained on Turkish web text is likely exposed to these items. In our own measurement, a continued-pretraining model's gain over its base was +6.27 points on all 900 questions and +4.14 on the clean subset — a third of the reported gain came from contamination. Method: GPT-3/Llama-style exact n-gram (shingle) overlap between the normalized question-plus-choices text and the streamed corpus. Paraphrased copies escape the strict threshold, so the list is a lower bound. Each entry gives the dataset index, a SHA-256 of the question text (robust to reordering) and the subject. TurkishMMLU is a controlled-access dataset; no question text is redistributed here — match by hash in your own licensed copy. Recommended use: report TurkishMMLU on the full set **and** on the 787 unflagged questions. Reproduce with `kirlilik_denetimi.py