| --- |
| license: cc-by-4.0 |
| language: |
| - tr |
| pretty_name: TurkishMMLU Kirlilik Listesi / Contamination List |
| tags: |
| - turkish |
| - türkçe |
| - benchmark-contamination |
| - data-contamination |
| - turkishmmlu |
| - evaluation |
| - llm |
| size_categories: |
| - n<1K |
| --- |
| |
| # TurkishMMLU Kirlilik Listesi — Türkçe web'de aynen bulunan test soruları |
|
|
| **TurkishMMLU** test kümesindeki 900 sorunun **113'ü (%12,6)** 527 milyon kelimelik |
| bir Türkçe web külliyatında **birebir** geçmektedir. Bu depo o soruların listesini, |
| bulunma yöntemini ve yeniden üretim betiğini içerir; amaç, Türkçe web metniyle |
| eğitilen modellerin TurkishMMLU puanlarını kirlilik dışı bırakılmış bir alt kümede |
| de raporlayabilmesidir. |
|
|
| *English summary at the end.* |
|
|
| ## Neden önemli |
|
|
| Bir kıyas sorusu eğitim külliyatında aynen geçiyorsa, modelin o soruyu "bilmesi" |
| yetenek değil ezberdir. Türkçe web'den toplanan her külliyat için bu risk vardır; |
| soruların büyük kısmı ders kitabı ve deneme sınavı sitelerinden geldiği için web'de |
| kopyaları bulunur. |
|
|
| Kendi ölçümümüzde etkisi şuydu: bir devam-eğitimi modelinin tabanına göre farkı |
| tüm 900 soruda **+6,27** puan, kirli sorular çıkarılınca **+4,14** puan ölçüldü. |
| Yani raporlanan farkın üçte biri kirlilikten geliyordu. |
|
|
| ## Yöntem |
|
|
| GPT-3 ve Llama teknik raporlarındaki ölçütün aynısı — **n-kelimelik pencere |
| (shingle) birebir eşleşmesi**: |
|
|
| 1. Soru metni normalize edilir: NFC, Türkçe küçük harf (İ→i, I→ı), noktalama ve |
| sayı dışı karakterler boşluğa çevrilir, kelimelere ayrılır. |
| 2. Her sorudan ardışık *n* kelimelik tüm pencereler çıkarılır. |
| 3. Külliyat aynı normalizasyonla akıtılır; herhangi bir pencere külliyatta birebir |
| geçiyorsa soru **kirli** sayılır. |
|
|
| İki eşik raporlanır: |
|
|
| | Eşik | Anlamı | Kirli soru | Oran | |
| |---|---|---|---| |
| | **n = 13** (katı) | tesadüfi eşleşme pratikte imkânsız; standart ölçüt | **113** | %12,6 | |
| | n = 8 (gevşek) | kısmi / yeniden ifade edilmiş sızıntıya duyarlı, yanlış pozitif olası (kalıp cümleler) | 252 | %28,0 | |
|
|
| Taranan külliyat: 526.593.877 kelimelik Türkçe web metni (akış sırasıyla ilk 4,3 GB). |
| Pencereler **soru metni ve şıklardan** (en çok 5 şık) çıkarılır; cevap anahtarı |
| metin olmadığı için taranmaz. Liste yine de bir **alt sınırdır**: yeniden ifade |
| edilmiş, kelimesi değiştirilmiş ya da 13 kelimeden kısa parçalar hâlinde sızan |
| sorular katı eşikte yakalanmaz. |
|
|
| Konu dağılımı (n = 13): Din Kültürü ve Ahlak 26 · Fizik 22 · Biyoloji 19 · |
| Kimya 15 · Tarih 15 · Türk Dili ve Edebiyatı 10 · Felsefe 3 · Coğrafya 3. |
|
|
| ## Listenin biçimi |
|
|
| `turkishmmlu_kirlilik.json`: |
|
|
| ```json |
| { |
| "kaynak_kume": "AYueksel/TurkishMMLU (config All, split test)", |
| "taranan_soru": 900, |
| "kulliyat_kelime": 526593877, |
| "kirli_13": [ |
| {"index": 0, |
| "sha256_soru": "e84db08c…", |
| "konu": "Biology"}, |
| … |
| ], |
| "kirli_8": [ … ] |
| } |
| ``` |
|
|
| - `index`: Hugging Face `AYueksel/TurkishMMLU`, config `All`, split `test` içindeki sıra. |
| - `sha256_soru`: `question` alanının (`strip()` sonrası, UTF-8) SHA-256 özeti. |
| Kümenin sıralaması değişse bile soru bu özetle eşleştirilebilir. |
| - `konu`: kaynak kümedeki konu etiketi. |
|
|
| **Soru metni bu depoda yoktur.** TurkishMMLU kontrollü erişimli bir kümedir |
| (erişim için yazarlara başvurulur); bu liste yalnızca dizin ve özet taşır, kümeye |
| erişimi olan herkes özetle eşleştirip kendi kopyasında soruyu bulur. |
|
|
| ## Kullanım |
|
|
| ```python |
| import json, hashlib |
| from datasets import load_dataset |
| |
| ds = load_dataset("AYueksel/TurkishMMLU", "All", split="test") |
| k = json.load(open("turkishmmlu_kirlilik.json", encoding="utf-8")) |
| kirli = {r["sha256_soru"] for r in k["kirli_13"]} |
| |
| def ozet(q): return hashlib.sha256(q.strip().encode("utf-8")).hexdigest() |
| temiz = ds.filter(lambda ex: ozet(ex["question"]) not in kirli) |
| print(len(ds), "->", len(temiz)) # 900 -> 787 |
| ``` |
|
|
| Önerilen raporlama: tam kümedeki puanın yanında **temiz-787** puanı, ve iki puan |
| arasındaki fark. Fark büyükse modelin külliyatı bu soruları görmüştür. |
|
|
| ## Yeniden üretim |
|
|
| ``` |
| python kirlilik_denetimi.py <kulliyat.txt> <etiket> |
| ``` |
|
|
| Betik külliyatı satır satır akıtır, bellek kullanımı külliyat boyutundan bağımsızdır. |
| Kendi külliyatınızı taratırsanız listeniz bizimkinden farklı çıkar — bu listede olan |
| bir soru **sizin** külliyatınızda olmayabilir, olmayan bir soru olabilir. |
|
|
| ## Sınırlar |
|
|
| 1. Liste **bizim** külliyatımıza göredir. Türkçe web'in başka bir kesitiyle |
| eğitilen bir modelin kirliliği farklıdır; ama aynı kaynaklar (ders siteleri, |
| deneme sınavları) her kesitte bulunduğu için örtüşme yüksek olacaktır. |
| 2. Soru ve şık metinleri tarandı; cevap anahtarı metin olmadığından taranamaz. |
| Yeniden ifade edilmiş kopyalar katı eşikte kaçar; liste bir alt sınırdır. |
| 3. n = 13 katı eşiği yeniden ifade edilmiş kopyaları kaçırır; n = 8 listesi bu |
| yüzden verilmiştir, ama yanlış pozitif içerir. |
| 4. Kaynak kümenin sıralaması değişirse `index` geçersizleşir; `sha256_soru` |
| kullanın. |
|
|
| ## Atıf |
|
|
| ``` |
| eCloud Tech. (2026). TurkishMMLU Kirlilik Listesi: Türkçe web külliyatında |
| birebir geçen test soruları. https://github.com/ecloudtechnology/turkishmmlu-kirlilik |
| ``` |
|
|
| TurkishMMLU'nun kendisi için: Yüksel, A. vd. (2024), *TurkishMMLU*. |
|
|
| Lisans: liste ve betik **CC BY 4.0**. İletişim: info@e-cloud.web.tr |
|
|
| --- |
|
|
| ## English summary — TurkishMMLU contamination list |
|
|
| **113 of the 900 TurkishMMLU test questions (12.6%) appear verbatim** in a |
| 527-million-word Turkish web corpus (strict 13-word shingle match); 252 (28.0%) |
| match at the looser 8-word threshold. Any model pretrained on Turkish web text is |
| likely exposed to these items. In our own measurement, a continued-pretraining |
| model's gain over its base was +6.27 points on all 900 questions and +4.14 on the |
| clean subset — a third of the reported gain came from contamination. |
|
|
| Method: GPT-3/Llama-style exact n-gram (shingle) overlap between the normalized |
| question-plus-choices text and the streamed corpus. Paraphrased copies escape the |
| strict threshold, so the list is a lower bound. Each entry gives the dataset index, a |
| SHA-256 of the question text (robust to reordering) and the subject. TurkishMMLU is |
| a controlled-access dataset; no question text is redistributed here — match by hash |
| in your own licensed copy. |
|
|
| Recommended use: report TurkishMMLU on the full set **and** on the 787 unflagged |
| questions. Reproduce with `kirlilik_denetimi.py <corpus.txt> <label>`; your own |
| corpus will yield a different list. License CC BY 4.0. |
|
|
