README.md

---
license: cc-by-4.0
language:
  - tr
pretty_name: TurkishMMLU Kirlilik Listesi / Contamination List
tags:
  - turkish
  - türkçe
  - benchmark-contamination
  - data-contamination
  - turkishmmlu
  - evaluation
  - llm
size_categories:
  - n<1K
---

# TurkishMMLU Kirlilik Listesi — Türkçe web'de aynen bulunan test soruları

**TurkishMMLU** test kümesindeki 900 sorunun **113'ü (%12,6)** 527 milyon kelimelik
bir Türkçe web külliyatında **birebir** geçmektedir. Bu depo o soruların listesini,
bulunma yöntemini ve yeniden üretim betiğini içerir; amaç, Türkçe web metniyle
eğitilen modellerin TurkishMMLU puanlarını kirlilik dışı bırakılmış bir alt kümede
de raporlayabilmesidir.

*English summary at the end.*

## Neden önemli

Bir kıyas sorusu eğitim külliyatında aynen geçiyorsa, modelin o soruyu "bilmesi"
yetenek değil ezberdir. Türkçe web'den toplanan her külliyat için bu risk vardır;
soruların büyük kısmı ders kitabı ve deneme sınavı sitelerinden geldiği için web'de
kopyaları bulunur.

Kendi ölçümümüzde etkisi şuydu: bir devam-eğitimi modelinin tabanına göre farkı
tüm 900 soruda **+6,27** puan, kirli sorular çıkarılınca **+4,14** puan ölçüldü.
Yani raporlanan farkın üçte biri kirlilikten geliyordu.

## Yöntem

GPT-3 ve Llama teknik raporlarındaki ölçütün aynısı — **n-kelimelik pencere
(shingle) birebir eşleşmesi**:

1. Soru metni normalize edilir: NFC, Türkçe küçük harf (İ→i, I→ı), noktalama ve
   sayı dışı karakterler boşluğa çevrilir, kelimelere ayrılır.
2. Her sorudan ardışık *n* kelimelik tüm pencereler çıkarılır.
3. Külliyat aynı normalizasyonla akıtılır; herhangi bir pencere külliyatta birebir
   geçiyorsa soru **kirli** sayılır.

İki eşik raporlanır:

| Eşik | Anlamı | Kirli soru | Oran |
|---|---|---|---|
| **n = 13** (katı) | tesadüfi eşleşme pratikte imkânsız; standart ölçüt | **113** | %12,6 |
| n = 8 (gevşek) | kısmi / yeniden ifade edilmiş sızıntıya duyarlı, yanlış pozitif olası (kalıp cümleler) | 252 | %28,0 |

Taranan külliyat: 526.593.877 kelimelik Türkçe web metni (akış sırasıyla ilk 4,3 GB).
Pencereler **soru metni ve şıklardan** (en çok 5 şık) çıkarılır; cevap anahtarı
metin olmadığı için taranmaz. Liste yine de bir **alt sınırdır**: yeniden ifade
edilmiş, kelimesi değiştirilmiş ya da 13 kelimeden kısa parçalar hâlinde sızan
sorular katı eşikte yakalanmaz.

Konu dağılımı (n = 13): Din Kültürü ve Ahlak 26 · Fizik 22 · Biyoloji 19 ·
Kimya 15 · Tarih 15 · Türk Dili ve Edebiyatı 10 · Felsefe 3 · Coğrafya 3.

## Listenin biçimi

`turkishmmlu_kirlilik.json`:

```json
{
  "kaynak_kume": "AYueksel/TurkishMMLU (config All, split test)",
  "taranan_soru": 900,
  "kulliyat_kelime": 526593877,
  "kirli_13": [
    {"index": 0,
     "sha256_soru": "e84db08c…",
     "konu": "Biology"},
    …
  ],
  "kirli_8": [ … ]
}
```

- `index`: Hugging Face `AYueksel/TurkishMMLU`, config `All`, split `test` içindeki sıra.
- `sha256_soru`: `question` alanının (`strip()` sonrası, UTF-8) SHA-256 özeti.
  Kümenin sıralaması değişse bile soru bu özetle eşleştirilebilir.
- `konu`: kaynak kümedeki konu etiketi.

**Soru metni bu depoda yoktur.** TurkishMMLU kontrollü erişimli bir kümedir
(erişim için yazarlara başvurulur); bu liste yalnızca dizin ve özet taşır, kümeye
erişimi olan herkes özetle eşleştirip kendi kopyasında soruyu bulur.

## Kullanım

```python
import json, hashlib
from datasets import load_dataset

ds = load_dataset("AYueksel/TurkishMMLU", "All", split="test")
k = json.load(open("turkishmmlu_kirlilik.json", encoding="utf-8"))
kirli = {r["sha256_soru"] for r in k["kirli_13"]}

def ozet(q): return hashlib.sha256(q.strip().encode("utf-8")).hexdigest()
temiz = ds.filter(lambda ex: ozet(ex["question"]) not in kirli)
print(len(ds), "->", len(temiz))   # 900 -> 787
```

Önerilen raporlama: tam kümedeki puanın yanında **temiz-787** puanı, ve iki puan
arasındaki fark. Fark büyükse modelin külliyatı bu soruları görmüştür.

## Yeniden üretim

```
python kirlilik_denetimi.py <kulliyat.txt> <etiket>
```

Betik külliyatı satır satır akıtır, bellek kullanımı külliyat boyutundan bağımsızdır.
Kendi külliyatınızı taratırsanız listeniz bizimkinden farklı çıkar — bu listede olan
bir soru **sizin** külliyatınızda olmayabilir, olmayan bir soru olabilir.

## Sınırlar

1. Liste **bizim** külliyatımıza göredir. Türkçe web'in başka bir kesitiyle
   eğitilen bir modelin kirliliği farklıdır; ama aynı kaynaklar (ders siteleri,
   deneme sınavları) her kesitte bulunduğu için örtüşme yüksek olacaktır.
2. Soru ve şık metinleri tarandı; cevap anahtarı metin olmadığından taranamaz.
   Yeniden ifade edilmiş kopyalar katı eşikte kaçar; liste bir alt sınırdır.
3. n = 13 katı eşiği yeniden ifade edilmiş kopyaları kaçırır; n = 8 listesi bu
   yüzden verilmiştir, ama yanlış pozitif içerir.
4. Kaynak kümenin sıralaması değişirse `index` geçersizleşir; `sha256_soru`
   kullanın.

## Atıf

```
eCloud Tech. (2026). TurkishMMLU Kirlilik Listesi: Türkçe web külliyatında
birebir geçen test soruları. https://github.com/ecloudtechnology/turkishmmlu-kirlilik
```

TurkishMMLU'nun kendisi için: Yüksel, A. vd. (2024), *TurkishMMLU*.

Lisans: liste ve betik **CC BY 4.0**. İletişim: info@e-cloud.web.tr

---

## English summary — TurkishMMLU contamination list

**113 of the 900 TurkishMMLU test questions (12.6%) appear verbatim** in a
527-million-word Turkish web corpus (strict 13-word shingle match); 252 (28.0%)
match at the looser 8-word threshold. Any model pretrained on Turkish web text is
likely exposed to these items. In our own measurement, a continued-pretraining
model's gain over its base was +6.27 points on all 900 questions and +4.14 on the
clean subset — a third of the reported gain came from contamination.

Method: GPT-3/Llama-style exact n-gram (shingle) overlap between the normalized
question-plus-choices text and the streamed corpus. Paraphrased copies escape the
strict threshold, so the list is a lower bound. Each entry gives the dataset index, a
SHA-256 of the question text (robust to reordering) and the subject. TurkishMMLU is
a controlled-access dataset; no question text is redistributed here — match by hash
in your own licensed copy.

Recommended use: report TurkishMMLU on the full set **and** on the 787 unflagged
questions. Reproduce with `kirlilik_denetimi.py <corpus.txt> <label>`; your own
corpus will yield a different list. License CC BY 4.0.