apak commited on
Commit
8fabcb8
·
verified ·
1 Parent(s): a11b1a3

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +23 -31
app.py CHANGED
@@ -7,7 +7,6 @@ import gradio as gr
7
  from transformers import pipeline
8
 
9
  # --- 1. MODELLERİN HAZIRLANMASI ---
10
- # NER Modeli (XLM-Roberta) CPU üzerinde yüklenir
11
  ner_pipe = pipeline(
12
  "ner",
13
  model="xlm-roberta-large-finetuned-conll03-english",
@@ -15,7 +14,6 @@ ner_pipe = pipeline(
15
  device="cpu"
16
  )
17
 
18
- # LLM Modeli (Qwen 2.5-1.5B)
19
  model_id = "Qwen/Qwen2.5-1.5B-Instruct"
20
  try:
21
  gen_pipe = pipeline(
@@ -37,24 +35,22 @@ def get_wiki_summary(term):
37
  wikipedia.set_lang("tr")
38
  search_results = wikipedia.search(term)
39
  if not search_results: return None
40
- # En alakalı sonucun ilk 2 cümlesini getirir
41
  return wikipedia.summary(search_results[0], sentences=2, auto_suggest=False)
42
  except:
43
  return None
44
 
45
  @spaces.GPU
46
  def refine_label_with_llm(entity_text, wiki_context, custom_label_definitions):
47
- """ZeroGPU kullanarak LLM üzerinden etiket doğrulaması yapar."""
48
  if not IS_LLM_ENABLED: return "MISC", "LLM Aktif Değil"
49
 
50
- # Modeli anlık olarak GPU'ya taşı
51
- if next(gen_pipe.model.parameters()).device.type != "cuda":
52
- gen_pipe.model.to("cuda")
53
 
54
- # Etiket tanımlarını LLM'in anlayacağı formata getir
55
  label_defs_str = "\n".join([f"KATEGORİ: {k} -> TANIM: {v}" for k, v in custom_label_definitions.items()])
56
 
57
- prompt = f"""Aşağıdaki Wikipedia bağlamını analiz ederek varlığı EN UYGUN kategoriye yerleştir.
58
 
59
  KATEGORİ LİSTESİ:
60
  {label_defs_str}
@@ -63,8 +59,8 @@ VARLIK: {entity_text}
63
  WIKIPEDIA BAĞLAMI: {wiki_context}
64
 
65
  ANALİZ KURALLARI:
66
- 1. Önce Wikipedia bağlamındaki anahtar kelimeleri (roman, film, ödül, yazılım vb.) açıkla.
67
- 2. Bu anahtar kelimeleri Kategori Listesi ile kıyasla.
68
  3. Cevabını SADECE şu formatta bitir: 'Cevap: ETİKET_ADI'
69
 
70
  Gerekçe:"""
@@ -74,11 +70,11 @@ Gerekçe:"""
74
  outputs = gen_pipe(messages, max_new_tokens=200, do_sample=False, temperature=0.1)
75
  full_output = outputs[0]["generated_text"][-1]["content"].strip()
76
 
77
- # --- GELİŞMİŞ ETİKET AYIKLAMA MANTIĞI ---
78
  final_label = "MISC"
79
  valid_keys = list(custom_label_definitions.keys())
80
 
81
- # 1. Yöntem: 'Cevap:' satırını kontrol et
82
  lines = full_output.split('\n')
83
  for line in reversed(lines):
84
  if "Cevap:" in line:
@@ -87,7 +83,7 @@ Gerekçe:"""
87
  final_label = found
88
  break
89
 
90
- # 2. Yöntem (Yedek): Tüm metin içinde geçerli anahtar kelimeleri tara
91
  if final_label == "MISC":
92
  for key in valid_keys:
93
  if key in full_output.upper():
@@ -96,24 +92,25 @@ Gerekçe:"""
96
 
97
  return final_label, full_output
98
  except Exception as e:
99
- return "MISC", f"Hata: {str(e)}"
 
 
100
 
101
- # --- 3. ANA İŞLEM HATTI (PIPELINE) ---
102
 
103
  def process_ner(text):
104
  logs = ["🚀 İşlem başlatıldı..."]
105
  yield logs, []
106
 
107
  custom_labels = {
108
- "SOFTWARE": "Bilgisayar programları, işletim sistemleri, mobil uygulamalar ve dijital araçlar.",
109
  "AWARD": "Ödüller, festivaller, madalyalar ve onur nişanları.",
110
- "BOOK": "Kitaplar, romanlar, yazılı eserler ve edebi yayınlar.",
111
- "MOVIE": "Sinema filmleri, diziler ve görsel yapımlar.",
112
- "PRODUCT": "Ticari ürünler, somut cihazlar, modeller ve markalar.",
113
- "NORP": "Milliyetler, etnik gruplar, dini topluluklar veya siyasi gruplar."
114
  }
115
 
116
- # İlk aşama: Standart NER
117
  initial_results = ner_pipe(text)
118
  final_results = []
119
 
@@ -122,7 +119,6 @@ def process_ner(text):
122
  label = entity['entity_group']
123
  res = {"Varlık": word, "İlk Etiket": label, "Nihai Etiket": label, "Kaynak": "Model"}
124
 
125
- # Eğer etiket belirsizse (MISC), RAG sürecini başlat
126
  if label == "MISC":
127
  standardized = word.strip().title()
128
  logs.append(f"⚠️ <b>{word}</b> için Wikipedia taranıyor...")
@@ -130,15 +126,13 @@ def process_ner(text):
130
 
131
  wiki_text = get_wiki_summary(standardized)
132
  if wiki_text:
133
- # Wikipedia bilgisini log alanına yazdır
134
  logs.append(f"ℹ️ <b>Wiki Özeti:</b> {wiki_text[:120]}...")
135
- logs.append(f"🤖 LLM Analiz Ediyor...")
136
  yield logs, [[r["Varlık"], r["İlk Etiket"], r["Nihai Etiket"], r["Kaynak"]] for r in final_results]
137
 
138
- # LLM Karar Mekanizması
139
  new_label, raw_llm_response = refine_label_with_llm(standardized, wiki_text, custom_labels)
140
 
141
- # Modelin ham yanıtını (Gerekçe + Cevap) loga yazdır
142
  logs.append(f"<div style='color: #444; border-left: 3px solid #ffa500; padding-left: 8px; margin: 5px 0; font-size: 0.9em; background: #fff5e6;'><b>Model Yanıtı:</b><br>{raw_llm_response}</div>")
143
 
144
  res["Nihai Etiket"] = new_label
@@ -148,19 +142,18 @@ def process_ner(text):
148
  logs.append(f"❌ '{word}' için Wikipedia bağlamı bulunamadı.")
149
 
150
  final_results.append(res)
151
- # Her adımda tabloyu güncelle
152
  yield logs, [[r["Varlık"], r["İlk Etiket"], r["Nihai Etiket"], r["Kaynak"]] for r in final_results]
153
 
154
  logs.append("✨ Analiz başarıyla tamamlandı.")
155
  yield logs, [[r["Varlık"], r["İlk Etiket"], r["Nihai Etiket"], r["Kaynak"]] for r in final_results]
156
 
157
- # --- 4. GRADIO ARAYÜZ TASARIMI ---
158
 
159
  with gr.Blocks(title="NER RAG v3") as demo:
160
  gr.Markdown("# 🚀 Gelişmiş NER & RAG Sistemi")
161
 
162
  with gr.Row():
163
- input_text = gr.Textbox(label="Analiz Edilecek Metin", lines=5, placeholder="Buraya bir metin girin...")
164
 
165
  with gr.Row():
166
  with gr.Column(scale=1):
@@ -172,7 +165,6 @@ with gr.Blocks(title="NER RAG v3") as demo:
172
 
173
  def update_ui(text):
174
  for logs, table in process_ner(text):
175
- # Logları HTML formatında düzenle
176
  log_html = "<div style='background: #f0f4f8; padding: 10px; border-radius: 5px; font-family: sans-serif; height: 400px; overflow-y: auto;'>"
177
  for m in logs:
178
  log_html += f"<div style='margin-bottom: 8px; border-bottom: 1px solid #dee2e6; padding-bottom: 4px;'>{m}</div>"
 
7
  from transformers import pipeline
8
 
9
  # --- 1. MODELLERİN HAZIRLANMASI ---
 
10
  ner_pipe = pipeline(
11
  "ner",
12
  model="xlm-roberta-large-finetuned-conll03-english",
 
14
  device="cpu"
15
  )
16
 
 
17
  model_id = "Qwen/Qwen2.5-1.5B-Instruct"
18
  try:
19
  gen_pipe = pipeline(
 
35
  wikipedia.set_lang("tr")
36
  search_results = wikipedia.search(term)
37
  if not search_results: return None
 
38
  return wikipedia.summary(search_results[0], sentences=2, auto_suggest=False)
39
  except:
40
  return None
41
 
42
  @spaces.GPU
43
  def refine_label_with_llm(entity_text, wiki_context, custom_label_definitions):
44
+ """Cihaz çakışması hatasını gideren GPU fonksiyonu."""
45
  if not IS_LLM_ENABLED: return "MISC", "LLM Aktif Değil"
46
 
47
+ # TÜM PIPELINE'ı GPU'ya taşı (Hata çözümü için kritik)
48
+ if gen_pipe.device.type != "cuda":
49
+ gen_pipe.to("cuda")
50
 
 
51
  label_defs_str = "\n".join([f"KATEGORİ: {k} -> TANIM: {v}" for k, v in custom_label_definitions.items()])
52
 
53
+ prompt = f"""Wikipedia bağlamını analiz ederek varlığı EN UYGUN kategoriye yerleştir.
54
 
55
  KATEGORİ LİSTESİ:
56
  {label_defs_str}
 
59
  WIKIPEDIA BAĞLAMI: {wiki_context}
60
 
61
  ANALİZ KURALLARI:
62
+ 1. Wikipedia bağlamındaki anahtar kelimeleri tespit et ve açıkla.
63
+ 2. Bu kelimelerin hangi KATEGORİ tanımına uyduğunu belirle.
64
  3. Cevabını SADECE şu formatta bitir: 'Cevap: ETİKET_ADI'
65
 
66
  Gerekçe:"""
 
70
  outputs = gen_pipe(messages, max_new_tokens=200, do_sample=False, temperature=0.1)
71
  full_output = outputs[0]["generated_text"][-1]["content"].strip()
72
 
73
+ # ETİKET AYIKLAMA MANTIĞI
74
  final_label = "MISC"
75
  valid_keys = list(custom_label_definitions.keys())
76
 
77
+ # Satır bazlı arama
78
  lines = full_output.split('\n')
79
  for line in reversed(lines):
80
  if "Cevap:" in line:
 
83
  final_label = found
84
  break
85
 
86
+ # Kelime bazlı yedek arama
87
  if final_label == "MISC":
88
  for key in valid_keys:
89
  if key in full_output.upper():
 
92
 
93
  return final_label, full_output
94
  except Exception as e:
95
+ # Hata durumunda CPU'ya çekerek temizle
96
+ gen_pipe.to("cpu")
97
+ return "MISC", f"LLM Hatası: {str(e)}"
98
 
99
+ # --- 3. ANA İŞLEM HATTI ---
100
 
101
  def process_ner(text):
102
  logs = ["🚀 İşlem başlatıldı..."]
103
  yield logs, []
104
 
105
  custom_labels = {
106
+ "SOFTWARE": "Bilgisayar programları, işletim sistemleri ve dijital araçlar.",
107
  "AWARD": "Ödüller, festivaller, madalyalar ve onur nişanları.",
108
+ "BOOK": "Kitaplar, romanlar ve edebi yayınlar.",
109
+ "MOVIE": "Sinema filmleri ve görsel yapımlar.",
110
+ "PRODUCT": "Ticari ürünler, cihazlar ve markalar.",
111
+ "NORP": "Milliyetler, etnik gruplar veya topluluklar."
112
  }
113
 
 
114
  initial_results = ner_pipe(text)
115
  final_results = []
116
 
 
119
  label = entity['entity_group']
120
  res = {"Varlık": word, "İlk Etiket": label, "Nihai Etiket": label, "Kaynak": "Model"}
121
 
 
122
  if label == "MISC":
123
  standardized = word.strip().title()
124
  logs.append(f"⚠️ <b>{word}</b> için Wikipedia taranıyor...")
 
126
 
127
  wiki_text = get_wiki_summary(standardized)
128
  if wiki_text:
 
129
  logs.append(f"ℹ️ <b>Wiki Özeti:</b> {wiki_text[:120]}...")
130
+ logs.append(f"🤖 LLM Karar veriyor...")
131
  yield logs, [[r["Varlık"], r["İlk Etiket"], r["Nihai Etiket"], r["Kaynak"]] for r in final_results]
132
 
 
133
  new_label, raw_llm_response = refine_label_with_llm(standardized, wiki_text, custom_labels)
134
 
135
+ # Model Yanıtını Logla
136
  logs.append(f"<div style='color: #444; border-left: 3px solid #ffa500; padding-left: 8px; margin: 5px 0; font-size: 0.9em; background: #fff5e6;'><b>Model Yanıtı:</b><br>{raw_llm_response}</div>")
137
 
138
  res["Nihai Etiket"] = new_label
 
142
  logs.append(f"❌ '{word}' için Wikipedia bağlamı bulunamadı.")
143
 
144
  final_results.append(res)
 
145
  yield logs, [[r["Varlık"], r["İlk Etiket"], r["Nihai Etiket"], r["Kaynak"]] for r in final_results]
146
 
147
  logs.append("✨ Analiz başarıyla tamamlandı.")
148
  yield logs, [[r["Varlık"], r["İlk Etiket"], r["Nihai Etiket"], r["Kaynak"]] for r in final_results]
149
 
150
+ # --- 4. ARAYÜZ TASARIMI ---
151
 
152
  with gr.Blocks(title="NER RAG v3") as demo:
153
  gr.Markdown("# 🚀 Gelişmiş NER & RAG Sistemi")
154
 
155
  with gr.Row():
156
+ input_text = gr.Textbox(label="Analiz Edilecek Metin", lines=5)
157
 
158
  with gr.Row():
159
  with gr.Column(scale=1):
 
165
 
166
  def update_ui(text):
167
  for logs, table in process_ner(text):
 
168
  log_html = "<div style='background: #f0f4f8; padding: 10px; border-radius: 5px; font-family: sans-serif; height: 400px; overflow-y: auto;'>"
169
  for m in logs:
170
  log_html += f"<div style='margin-bottom: 8px; border-bottom: 1px solid #dee2e6; padding-bottom: 4px;'>{m}</div>"