File size: 7,341 Bytes
e590240 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 | """TurkMorfBench değerlendirme betiği — herhangi bir Hugging Face nedensel dil modeli.
İki kip:
zorunlu : altın cevap + sesbilimsel çeldiriciler arasından log-olasılığı en yüksek
olan seçilir (öğretmen zorlamalı, uzunluğa bölünmüş). Biçim uyumundan
bağımsız, yalnızca bilgi.
uretim : model soruya serbest cevap üretir, normalize edilmiş tam eşleşme.
Bilgi + biçime uyma. (Sohbet şablonu varsa kullanılır; yoksa düz istem.)
Kullanım:
python turkmorfbench_olc.py --model Qwen/Qwen3-32B --kip zorunlu
python turkmorfbench_olc.py --model Qwen/Qwen3-32B --kip uretim --dusunme-kapali
Çıktı JSON'da madde bazlı 0/1 vektörü bulunur; iki modeli aynı maddelerde
karşılaştırmak için bootstrap.py kullanın.
"""
import argparse, itertools, json, re, sys, time
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
IKILI, DORTLU = "ae", "ıiuü"
# Az-örnekli gövdeler KIYASIN DIŞINDAN seçilmiştir (kıyas gövdeleriyle çakışmaz).
ORNEK = [("'tahta' kelimesinin çoğulu nedir?", "tahtalar"),
("'sepet' kelimesine -de/-da bulunma eki ekle.", "sepette"),
("'sandalye' kelimesini 'onun (3. tekil) ...' iyelik ekiyle çek.", "sandalyesi"),
("'kabak' kelimesini 'benim (1. tekil) ...' iyelik ekiyle çek.", "kabağım")]
ONEK = "".join("Soru: %s\nCevap: %s\n\n" % (s, c) for s, c in ORNEK)
def celdiriciler(kok, altin, en_cok=7):
"""Altın cevabın ek kısmını bulup ünlü uyumu / ünsüz benzeşmesi / yumuşama varyantları üret."""
i = 0
while i < min(len(kok), len(altin)) and kok[i] == altin[i]:
i += 1
govde, ek = altin[:i], altin[i:]
if not ek:
return []
yerler = [(j, ch) for j, ch in enumerate(ek) if ch in IKILI + DORTLU]
if not yerler:
return []
secenekler = [list(IKILI if ch in IKILI else DORTLU) for _, ch in yerler]
adaylar = set()
for kombo in itertools.product(*secenekler):
y = list(ek)
for (j, _), v in zip(yerler, kombo):
y[j] = v
adaylar.add(govde + "".join(y))
for a in list(adaylar): # benzeşme: d <-> t
e = a[len(govde):]
if e and e[0] in "dt":
adaylar.add(govde + ("t" if e[0] == "d" else "d") + e[1:])
if i < len(kok) and i < len(altin) and kok[i] != altin[i]: # yumuşamamış hâl
adaylar.add(kok[:i + 1] + altin[i + 1:])
adaylar.discard(altin)
return sorted(adaylar)[:en_cok]
def temizle(s):
return re.sub(r"[.,!?;:\"'()\[\]*`]", "", s.strip().lower())
def zorunlu(model, tok, data):
items = []
for x in data:
cel = celdiriciler(x["kok"], x["cevap"])
if cel:
items.append((x, [x["cevap"]] + cel))
print("zorunlu seçim uygulanabilen madde: %d / %d" % (len(items), len(data)), flush=True)
vec, tipler = [], []
with torch.no_grad():
for x, adaylar in items:
soru = x["soru"].replace(" Sadece kelimeyi yaz.", "")
p_ids = tok(ONEK + "Soru: %s\nCevap:" % soru, return_tensors="pt").input_ids.to(model.device)
en_iyi, en_skor = None, -1e9
for a in adaylar:
a_ids = tok(" " + a, add_special_tokens=False, return_tensors="pt").input_ids.to(model.device)
ids = torch.cat([p_ids, a_ids], dim=1)
lp = torch.log_softmax(model(ids).logits[0, :-1].float(), dim=-1)
n = a_ids.shape[1]
s = float(lp[-n:].gather(1, ids[0, 1:][-n:].unsqueeze(1)).sum()) / n
if s > en_skor:
en_skor, en_iyi = s, a
vec.append(int(en_iyi == x["cevap"])); tipler.append(x["tip"])
return vec, tipler
def uretim(model, tok, data, yigin, maks_yeni, dusunme_kapali):
tok.padding_side = "left"
if tok.pad_token is None:
tok.pad_token = tok.eos_token
istemler = []
for x in data:
soru = x["soru"] + (" /no_think" if dusunme_kapali else "")
if getattr(tok, "chat_template", None):
istemler.append(tok.apply_chat_template([{"role": "user", "content": soru}],
tokenize=False, add_generation_prompt=True))
else:
istemler.append(ONEK + "Soru: %s\nCevap:" % x["soru"])
vec, tipler, kesik = [], [], 0
with torch.no_grad():
for b in range(0, len(data), yigin):
enc = tok(istemler[b:b + yigin], return_tensors="pt", padding=True,
add_special_tokens=False).to(model.device)
out = model.generate(**enc, max_new_tokens=maks_yeni, do_sample=False,
pad_token_id=tok.pad_token_id)
for j, x in enumerate(data[b:b + yigin]):
r = tok.decode(out[j][enc.input_ids.shape[1]:], skip_special_tokens=True)
if "</think>" in r:
r = r.split("</think>", 1)[1]
elif "<think>" in r:
kesik += 1; r = "" # düşünme bloğu bitmedi
ilk = temizle(r).split("\n")[0].strip()
vec.append(int(ilk == temizle(x["cevap"]) or temizle(r) == temizle(x["cevap"])))
tipler.append(x["tip"])
print(" %d / %d" % (min(b + yigin, len(data)), len(data)), flush=True)
print("kesik (cevapsız) üretim: %d" % kesik, flush=True)
return vec, tipler
def ozet(vec, tipler):
def oran(t):
v = [a for a, b in zip(vec, tipler) if t is None or b == t]
return 100.0 * sum(v) / max(len(v), 1), len(v)
return {"toplam": oran(None), "gercek": oran("gercek"), "wug": oran("wug")}
def main():
ap = argparse.ArgumentParser()
ap.add_argument("--model", required=True)
ap.add_argument("--kip", choices=["zorunlu", "uretim"], default="zorunlu")
ap.add_argument("--bench", default="turkmorfbench.json")
ap.add_argument("--out", default=None)
ap.add_argument("--yigin", type=int, default=16)
ap.add_argument("--maks-yeni", type=int, default=64)
ap.add_argument("--dusunme-kapali", action="store_true",
help="Qwen3 gibi hibrit düşünen modellerde /no_think ekle")
ap.add_argument("--dtype", default="bfloat16")
a = ap.parse_args()
data = json.load(open(a.bench, encoding="utf-8"))
t0 = time.time()
tok = AutoTokenizer.from_pretrained(a.model)
model = AutoModelForCausalLM.from_pretrained(a.model, torch_dtype=getattr(torch, a.dtype),
device_map="auto").eval()
if a.kip == "zorunlu":
vec, tipler = zorunlu(model, tok, data)
else:
vec, tipler = uretim(model, tok, data, a.yigin, a.maks_yeni, a.dusunme_kapali)
oz = ozet(vec, tipler)
print("\n%s | %s" % (a.model, a.kip))
for k in ("toplam", "gercek", "wug"):
print(" %-7s %%%.2f (n=%d)" % (k, oz[k][0], oz[k][1]))
out = a.out or "sonuc_%s_%s.json" % (re.sub(r"[^A-Za-z0-9]+", "_", a.model), a.kip)
json.dump({"model": a.model, "kip": a.kip, "bench": a.bench, "ozet": oz,
"vec": vec, "tip": tipler, "sure_sn": round(time.time() - t0)},
open(out, "w", encoding="utf-8"), ensure_ascii=False, indent=1)
print("-> %s" % out)
if __name__ == "__main__":
main()
|