Update app.py

app.py

@@ -1,219 +1,215 @@
 import torch
 import wikipedia
-import spaces
-import os
-import re
 import gradio as gr
-from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline
+from transformers import pipeline, AutoTokenizer, AutoModelForCausalLM
+from fuzzywuzzy import process
+import re
+
+# -------------------------------
+# 1. MODELLER VE KÜRESEL AYARLAR
+# -------------------------------
 
-# --- 1. MODELLERİN HAZIRLANMASI ---
-ner_pipe = pipeline("ner", model="xlm-roberta-large-finetuned-conll03-english", aggregation_strategy="simple", device=-1)
-model_id = "Qwen/Qwen2.5-1.5B-Instruct"
-tokenizer = AutoTokenizer.from_pretrained(model_id)
+# Türkçe için daha iyi bir NER modeli (multilingual ve Türkçe performansı yüksek)
+NER_MODEL = "savasy/bert-base-turkish-ner-cased"  # Alternatif: "dbmdz/bert-large-cased-finetuned-conll03-german" multilingual
+ner_pipe = pipeline(
+    "ner",
+    model=NER_MODEL,
+    aggregation_strategy="simple",
+    device=0 if torch.cuda.is_available() else -1
+)
+
+# LLM (Qwen2.5 1.5B - hafif ve hızlı)
+MODEL_ID = "Qwen/Qwen2.5-1.5B-Instruct"
+tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, trust_remote_code=True)
 
 try:
-    llm_model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.bfloat16, device_map="cpu", trust_remote_code=True)
-    IS_LLM_ENABLED = True
+    llm_model = AutoModelForCausalLM.from_pretrained(
+        MODEL_ID,
+        torch_dtype=torch.bfloat16 if torch.cuda.is_available() else torch.float32,
+        device_map="auto",
+        trust_remote_code=True
+    )
+    LLM_AVAILABLE = True
 except Exception as e:
-    IS_LLM_ENABLED = False
-
-# --- 2. YARDIMCI FONKSİYONLAR ---
-def get_wiki_summary(term):
-    """Varlık için Wikipedia özeti getirir."""
-    try:
-        wikipedia.set_lang("tr")
-        search_results = wikipedia.search(term)
-        if not search_results: return None
-        return wikipedia.summary(search_results[0], sentences=2, auto_suggest=False)
-    except: return None
-
-def get_random_examples():
-    """Wikipedia'dan rastgele cümleler çekerek örnek listesi oluşturur."""
-    wikipedia.set_lang("tr")
+    print(f"LLM yüklenemedi: {e}")
+    llm_model = None
+    LLM_AVAILABLE = False
+
+# Wikipedia Türkçe
+wikipedia.set_lang("tr")
+
+# Özel etiket tanımları
+CUSTOM_LABELS = {
+    "MOVIE": {"tanim": "Sinema filmleri ve diziler", "anahtar": ["film", "filmi", "dizi", "yönetmen"]},
+    "BOOK": {"tanim": "Kitaplar ve yazılı edebi eserler", "anahtar": ["kitap", "roman", "yazar", "yazıldı"]},
+    "SOFTWARE": {"tanim": "Yazılım ve işletim sistemleri", "anahtar": ["yazılım", "program", "uygulama", "işletim sistemi"]},
+    "AWARD": {"tanim": "Ödüller ve madalyalar", "anahtar": ["ödül", "oscar", "nobel", "altın"]},
+    "PRODUCT": {"tanim": "Ticari ürünler ve markalar", "anahtar": ["telefon", "araba", "model", "marka", "ürün"]},
+    "NORP": {"tanim": "Milliyet, etnik grup, din", "anahtar": ["türk", "amerikalı", "fransız", "müslüman", "hristiyan"]},
+    "GPE": {"tanim": "Ülkeler, şehirler, coğrafi bölgeler", "anahtar": ["türkiye", "istanbul", "paris", "abd"]}
+}
+
+# -------------------------------
+# 2. YARDIMCI FONKSİYONLAR
+# -------------------------------
+
+def get_best_wiki_summary(entity):
+    """Wikipedia'dan en uygun özeti getirir (fuzzy matching ile)"""
     try:
-        random_titles = wikipedia.random(pages=3)
-        return [[wikipedia.summary(t, sentences=1, auto_suggest=False)] for t in random_titles]
+        candidates = wikipedia.search(entity, results=5)
+        if not candidates:
+            return None
+        # En iyi eşleşeni seç
+        best_title, score = process.extractOne(entity, candidates)
+        if score < 60:  # Eşleşme düşükse vazgeç
+            return None
+        return wikipedia.summary(best_title, sentences=2, auto_suggest=False)
     except:
-        return [["Oppenheimer filmi geçen yıl vizyona girdi."], ["Sefiller romanı Victor Hugo tarafından yazılmıştır."]]
+        return None
 
-@spaces.GPU
-def refine_label_with_llm(entity_text, full_sentence, wiki_context, custom_label_definitions):
-    if not IS_LLM_ENABLED: return "MISC", "LLM Aktif Değil"
-    
-    device = "cuda" if torch.cuda.is_available() else "cpu"
-    llm_model.to(device)
+def batch_llm_refine(entities_data):
+    """Birden fazla varlığı tek prompt'ta analiz eder (batch processing)"""
+    if not LLM_AVAILABLE or not entities_data:
+        return {e["entity"]: ("MISC", "LLM kullanılamıyor") for e in entities_data}
 
-    # 1. Etiket Tanımları (Bilgi Kaynağı)
+    device = next(llm_model.parameters()).device
+
+    # Prompt hazırlığı
     label_rules = ""
-    for k, v in custom_label_definitions.items():
-        label_rules += f"### {k}\n- TANIM: {v['tanim']}\n- ANAHTARLAR: {', '.join(v['anahtar_kelimeler'])}\n\n"
+    for k, v in CUSTOM_LABELS.items():
+        label_rules += f"### {k}\n- TANIM: {v['tanim']}\n- ANAHTAR KELİMELER: {', '.join(v['anahtar'])}\n\n"
+
+    tasks = ""
+    for i, item in enumerate(entities_data, 1):
+        tasks += f"""
+GÖREV {i}:
+- VARLIK: {item['entity']}
+- CÜMLE: "{item['sentence']}"
+- WIKI: "{item['wiki'] or 'Bilgi yok'}"
+"""
 
-    # 2. Sistematik CoT ve Kuralların Tanımlanması
-    prompt = f"""Sen yüksek hassasiyetli bir semantik analiz uzmanısın.
-Görevin, '[[{entity_text}]]' varlığını aşağıdaki 4 adımlı Sistematik CoT protokolüne göre sınıflandırmaktır.
+    prompt = f"""Sen bir NER uzmanısın. Aşağıdaki varlıkları sırayla analiz et ve her biri için sadece etiketi ver.
 
-ETİKET TANIMLARI:
+ETİKET KURALLARI:
 {label_rules}
 
-SİSTEMATİK CoT ADIMLARI:
-1. **Sentaktik İnceleme:** Cümle içinde varlığın sağındaki ve solundaki kelimeleri (niteleyicileri) tespit et. Varlık bir fiille mi (yazıldı, vizyona girdi) yoksa bir isimle mi (yazılımı, ödülü) ilişkili?
-2. **Bilgi Entegrasyonu:** Wikipedia verisindeki genel tanımı oku. Varlığın tarihsel veya teknik kimliğini belirle.
-3. **Çelişki ve Hiyerarşi Denetimi:** Wikipedia bilgisi ile cümledeki kullanım amacı çelişiyor mu? (Örn: Wiki 'film' diyor ama cümle 'kitap' diyorsa, cümledeki kullanım esastır).
-4. **Etiket Eşleşmesi:** Elde edilen nihai kanıtları, 'ETİKET TANIMLARI'ndaki en yakın kategoriyle eşleştir ve son kararı ver.
-
-REFERANS ANALİZLER (FEW-SHOT):
-Örnek 1 (Tam Uyum):
-VARLIK: 'Inception'
-CÜMLE: "Dün gece Inception filmini tekrar izledim."
-WIKI: "Inception, Christopher Nolan tarafından yönetilen 2010 yapımı bilimkurgu filmidir."
-ANALİZ: 
-- Adım 1: Cümlede 'film' ve 'izlemek' kelimeleri görsel esere işaret ediyor.
-- Adım 2: Wiki verisi varlığın bir film olduğunu doğruluyor.
-- Adım 3: Kaynaklar arasında çelişki yok.
-- Adım 4: MOVIE etiketi uygundur.
-CEVAP: MOVIE
-
-Örnek 2 (Kritik Çelişki):
-VARLIK: 'Gizli Bahçe'
-CÜMLE: "Yazar son romanı 'Gizli Bahçe' ile ödül aldı."
-WIKI: "Gizli Bahçe: 1993 yapımı bir dram filmidir."
-ANALİZ: 
-- Adım 1: Cümlede 'roman' ve 'yazar' kelimeleri varlığı doğrudan kitap olarak niteliyor.
-- Adım 2: Wiki verisi bu ismi bir film (movie) olarak gösteriyor.
-- Adım 3: ÇELİŞKİ TESPİT EDİLDİ. Kaynak hiyerarşisi gereği cümledeki 'roman' ifadesi Wikipedia'dan daha önceliklidir.
-- Adım 4: BOOK etiketi uygundur.
-CEVAP: BOOK
-
-GÜNCEL GÖREV:
-- HEDEF VARLIK: {entity_text}
-- ORİJİNAL CÜMLE: "{full_sentence}"
-- HARİCİ BİLGİ (Wikipedia): "{wiki_context}"
-
-ÇIKTI KURALLARI:
-- Cevabında asla yıldız (*) veya markdown kullanma.
-- Analiz adımlarını yukarıdaki 4 adımlı protokole göre yaz.
-
-ÇIKTI FORMATI:
-Analiz: [4 Adımlı CoT Analizi]
-Cevap: [SADECE_ETIKET_ADI]"""
+FEW-SHOT ÖRNEK:
+VARLIK: Inception | CÜMLE: Inception filmini izledim | WIKI: Christopher Nolan filmi → MOVIE
+VARLIK: 1984 | CÜMLE: Orwell'in kitabı 1984 | WIKI: Roman → BOOK
+VARLIK: iPhone | CÜMLE: Yeni iPhone aldım | WIKI: Apple telefonu → PRODUCT
+
+Şimdi görevler:
+{tasks}
+
+ÇIKTI FORMATI (her satır bir görev):
+GÖREV X: [ETIKET]
+"""
 
     messages = [{"role": "user", "content": prompt}]
     text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
-    model_inputs = tokenizer([text], return_tensors="pt").to(device)
+    inputs = tokenizer([text], return_tensors="pt").to(device)
+
+    with torch.no_grad():
+        generated = llm_model.generate(
+            inputs.input_ids,
+            max_new_tokens=512,
+            temperature=0.1,
+            do_sample=False
+        )
+
+    response = tokenizer.decode(generated[0][inputs.input_ids.shape[-1]:], skip_special_tokens=True)
+
+    # Etiketleri çıkar
+    results = {}
+    for i, item in enumerate(entities_data, 1):
+        pattern = rf"GÖREV {i}:\s*([A-Z_]+)"
+        match = re.search(pattern, response)
+        label = match.group(1) if match and match.group(1) in CUSTOM_LABELS else "MISC"
+        results[item["entity"]] = (label, response)  # Tüm analiz metni ortak
+    return results
+
+# -------------------------------
+# 3. ANA İŞLEM
+# -------------------------------
 
-    try:
-        generated_ids = llm_model.generate(model_inputs.input_ids, max_new_tokens=450, do_sample=False, temperature=0.1)
-        response_ids = [output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)]
-        full_output = tokenizer.batch_decode(response_ids, skip_special_tokens=True)[0].strip()
-        
-        # Markdown temizliği ve Etiket Ayıklama
-        clean_output = full_output.replace("*", "")
-        final_label = "MISC"
-        valid_keys = list(custom_label_definitions.keys())
-        match = re.search(r"Cevap:\s*([A-Z_]+)", clean_output, re.IGNORECASE)
-        
-        if match:
-            extracted = match.group(1).upper().strip()
-            if extracted in valid_keys: final_label = extracted
-            
-        return final_label, clean_output
-    except Exception as e:
-        return "MISC", f"Hata: {str(e)}"
-
-# --- 3. ANA İŞLEM HATTI ---
 def process_ner(text):
-    current_logs = ["🚀 <b>Sistem Başlatıldı:</b> Metin analiz ediliyor..."]
-    final_results = []
-    yield "<br>".join(current_logs), []
-
-    custom_labels = {
-        "MOVIE": {"tanim": "Sinematik eserler.", "anahtar_kelimeler": ["film", "dizi"], "ornekler": ["Inception", "Ezel"]},
-        "BOOK": {"tanim": "Yazılı edebi eserler.", "anahtar_kelimeler": ["kitap", "roman"], "ornekler": ["Sefiller", "Nutuk"]},
-        "SOFTWARE": {"tanim": "Dijital sistemler.", "anahtar_kelimeler": ["yazılım", "kod"], "ornekler": ["Linux", "Python"]},
-        "AWARD": {"tanim": "Resmi ödüller.", "anahtar_kelimeler": ["ödül", "oscar"], "ornekler": ["Nobel", "Altın Portakal"]},
-        "PRODUCT": {"tanim": "Ticari ürünler.", "anahtar_kelimeler": ["marka", "model"], "ornekler": ["iPhone", "Tesla"]},
-        "NORP": {"tanim": "Etnik ve dini gruplar.", "anahtar_kelimeler": ["millet", "topluluk"], "ornekler": ["Türkler", "Ruslar"]},
-        "GPE": {"tanim": "Siyasi bölgeler.", "anahtar_kelimeler": ["ülke", "şehir"], "ornekler": ["Türkiye", "İstanbul"]}
-    }
-
-    initial_results = ner_pipe(text)
-
-    for entity in initial_results:
-        word = entity['word'].replace(" ", " ").strip()
-        label = entity['entity_group']
-        
+    logs = ["🚀 Analiz başlatıldı..."]
+    yield "<br>".join(logs), []
+
+    # NER ile varlıkları çıkar
+    raw_entities = ner_pipe(text)
+    misc_entities = []
+
+    results = []
+    for ent in raw_entities:
+        word = ent['word'].strip()
+        label = ent['entity_group']
+
         if label in ["PER", "ORG", "LOC"]:
-            res = {"Varlık": word, "İlk Etiket": label, "Nihai Etiket": label, "Kaynak": "Model"}
-            current_logs.append(f"✅ <b>{word}</b>: {label} (Doğrudan Tespit)")
-        elif label == "MISC":
-            current_logs.append(f"🔍 <b>Analiz Başladı:</b> '{word}'")
-            yield "<br>".join(current_logs), [[r["Varlık"], r["İlk Etiket"], r["Nihai Etiket"], r["Kaynak"]] for r in final_results]
-            
-            wiki_text = get_wiki_summary(word)
-            if wiki_text:
-                current_logs.append(f"<div style='margin-left:20px; border-left:2px solid #007bff; padding-left:10px; color:#555;'>🌐 <b>Wiki:</b> {wiki_text}</div>")
-                new_label, cot_text = refine_label_with_llm(word, text, wiki_text, custom_labels)
-                current_logs.append(f"<div style='margin-left:20px; border-left:2px solid #28a745; padding-left:10px;'>🧠 <b>CoT Analizi:</b> {cot_text}</div>")
-                res = {"Varlık": word, "İlk Etiket": label, "Nihai Etiket": new_label, "Kaynak": "RAG+LLM"}
+            results.append({"Varlık": word, "İlk": label, "Nihai": label, "Kaynak": "NER Model"})
+            logs.append(f"✅ <b>{word}</b> → {label} (doğrudan)")
+        else:  # MISC veya bilinmeyen
+            wiki = get_best_wiki_summary(word)
+            if wiki:
+                logs.append(f"🌐 <b>{word}</b> için Wiki bulundu")
             else:
-                current_logs.append(f"⚠️ '{word}' için Wikipedia kaydı bulunamadı.")
-                res = {"Varlık": word, "İlk Etiket": label, "Nihai Etiket": "MISC", "Kaynak": "Model"}
-        
-        final_results.append(res)
-        # Tablo çıktısında Nihai Etiket bold yapılır
-        table_display = [[r["Varlık"], r["İlk Etiket"], f"<b>{r['Nihai Etiket']}</b>", r["Kaynak"]] for r in final_results]
-        yield "<br>".join(current_logs), table_display
-
-    current_logs.append("✨ <b>Analiz Tamamlandı.</b>")
-    yield "<br>".join(current_logs), [[r["Varlık"], r["İlk Etiket"], f"<b>{r['Nihai Etiket']}</b>", r["Kaynak"]] for r in final_results]
-
-# --- 4. GRADIO ARAYÜZÜ ---
-with gr.Blocks(title="RAG-NER Uzman Karar Destek Sistemi") as demo:
-    gr.Markdown("# 🚀 RAG-NER Uzman Karar Destek Sistemi")
-    
-    with gr.Tab("Metin Analizi"):
-        input_text = gr.Textbox(
-            label="Analiz Edilecek Metin", 
-            placeholder="Analiz etmek istediğiniz metni buraya girin...",
-            lines=3
-        )
-        
-        # EKSİK OLAN ÖRNEKLER BÖLÜMÜ BURADA TANIMLANDI
-        examples_list = [
-            ["Türk yönetmen Nuri Bilge Ceylan, Venedik Film Festivali'nde Altın Aslan ödülünü kazandığı Kış Uykusu filmiyle uluslararası üne kavuştu."],
-            ["Amerikalı yazar George Orwell'in ünlü kitabı 1984, Apple şirketinin Macintosh tanıtım reklamında ilham kaynağı olarak kullanılmış ve Windows işletim sistemine karşı bir metafor haline gelmişti."],
-            ["Fransız oyuncu Marion Cotillard, Christopher Nolan'ın Inception filmiyle Oscar ödülüne aday gösterilmiş ve daha önce La Vie en Rose performansıyla En İyi Kadın Oyuncu Akademi Ödülü'nü kazanmıştı."]
-        ]
-        
-        gr.Examples(
-            examples=examples_list, 
-            inputs=input_text,
-            label="Hazır Örnek Senaryolar"
+                logs.append(f"⚠️ <b>{word}</b> için Wiki bulunamadı")
+                results.append({"Varlık": word, "İlk": "MISC", "Nihai": "MISC", "Kaynak": "Fallback"})
+            misc_entities.append({"entity": word, "sentence": text, "wiki": wiki})
+
+        yield "<br>".join(logs), [[r["Varlık"], r["İlk"], f"<b>{r['Nihai']}</b>", r["Kaynak"]] for r in results]
+
+    # Batch LLM rafinasyonu
+    if misc_entities and LLM_AVAILABLE:
+        logs.append("🧠 LLM ile toplu analiz yapılıyor...")
+        yield "<br>".join(logs), [[r["Varlık"], r["İlk"], f"<b>{r['Nihai']}</b>", r["Kaynak"]] for r in results]
+
+        refined = batch_llm_refine(misc_entities)
+        for item in misc_entities:
+            entity = item["entity"]
+            new_label, _ = refined.get(entity, ("MISC", ""))
+            # Sonuçları güncelle
+            for r in results:
+                if r["Varlık"] == entity:
+                    r["Nihai"] = new_label
+                    r["Kaynak"] = "RAG+LLM"
+
+    logs.append("✨ Analiz tamamlandı!")
+    yield "<br>".join(logs), [[r["Varlık"], r["İlk"], f"<b>{r['Nihai']}</b>", r["Kaynak"]] for r in results]
+
+# -------------------------------
+# 4. GRADIO ARAYÜZ
+# -------------------------------
+
+with gr.Blocks(title="RAG-NER Türkçe", theme=gr.themes.Soft()) as demo:
+    gr.Markdown("# 🇹🇷 RAG-NER: Gelişmiş Türkçe Varlık Tanılama")
+    gr.Markdown("Standart NER + Wikipedia + Yerel LLM ile yüksek doğruluklu özel varlık tanıma")
+
+    with gr.Tab("Analiz"):
+        txt_input = gr.Textbox(
+            label="Metin Girin",
+            lines=4,
+            placeholder="Örnek: Türk yönetmen Nuri Bilge Ceylan, Kış Uykusu filmiyle Altın Aslan ödülünü kazandı..."
         )
-        
+        btn = gr.Button("Analiz Et", variant="primary", size="lg")
+
         with gr.Row():
-            # Log çıktısı için HTML bileşeni
-            log_output = gr.HTML(label="Sistem Günlüğü")
-            # Tablo çıktısı (Markdown desteği ile kalın yazıları gösterir)
-            table_output = gr.Dataframe(
-                headers=["Varlık", "İlk Etiket", "Nihai Etiket", "Kaynak"], 
-                datatype="markdown",
-                wrap=True
+            log_out = gr.HTML(label="İşlem Günlüğü")
+            table_out = gr.Dataframe(
+                headers=["Varlık", "İlk Etiket", "Nihai Etiket", "Kaynak"],
+                datatype=["str", "str", "markdown", "str"],
+                interactive=False
             )
-        
-        btn = gr.Button("Analiz Et", variant="primary")
-        
-        # Buton fonksiyonu
-        btn.click(
-            process_ner, 
-            inputs=input_text, 
-            outputs=[log_output, table_output]
+
+        examples = gr.Examples(
+            examples=[
+                ["Türk yönetmen Nuri Bilge Ceylan, Venedik Film Festivali'nde Altın Aslan ödülünü kazandığı Kış Uykusu filmiyle uluslararası üne kavuştu."],
+                ["Amerikalı yazar George Orwell'in ünlü kitabı 1984, Apple şirketinin Macintosh tanıtım reklamında ilham kaynağı olarak kullanılmış ve Windows işletim sistemine karşı bir metafor haline gelmişti."],
+                ["Fransız oyuncu Marion Cotillard, Christopher Nolan'ın Inception filmiyle Oscar ödülüne aday gösterilmiş ve daha önce La Vie en Rose performansıyla En İyi Kadın Oyuncu Akademi Ödülü'nü kazanmıştı."],
+            ],
+            inputs=txt_input
         )
 
-# --- 5. KULLANICI DENETİMİ (LOGIN) ---
-if __name__ == "__main__":
-  
-    demo.launch(
-        auth=("admin", "1113"),
-        auth_message="Lütfen uzman paneline erişmek için giriş yapın."
-    )
+        btn.click(process_ner, inputs=txt_input, outputs=[log_out, table_out])
+
+demo.queue(max_size=20).launch()