apak commited on
Commit
b74477c
·
verified ·
1 Parent(s): 8fabcb8

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +15 -14
app.py CHANGED
@@ -7,6 +7,7 @@ import gradio as gr
7
  from transformers import pipeline
8
 
9
  # --- 1. MODELLERİN HAZIRLANMASI ---
 
10
  ner_pipe = pipeline(
11
  "ner",
12
  model="xlm-roberta-large-finetuned-conll03-english",
@@ -14,6 +15,7 @@ ner_pipe = pipeline(
14
  device="cpu"
15
  )
16
 
 
17
  model_id = "Qwen/Qwen2.5-1.5B-Instruct"
18
  try:
19
  gen_pipe = pipeline(
@@ -30,7 +32,6 @@ except Exception as e:
30
  # --- 2. YARDIMCI FONKSİYONLAR ---
31
 
32
  def get_wiki_summary(term):
33
- """Wikipedia'dan terim hakkında özet bilgi çeker."""
34
  try:
35
  wikipedia.set_lang("tr")
36
  search_results = wikipedia.search(term)
@@ -41,10 +42,11 @@ def get_wiki_summary(term):
41
 
42
  @spaces.GPU
43
  def refine_label_with_llm(entity_text, wiki_context, custom_label_definitions):
44
- """Cihaz çakışması hatasını gideren GPU fonksiyonu."""
45
  if not IS_LLM_ENABLED: return "MISC", "LLM Aktif Değil"
46
 
47
- # TÜM PIPELINE'ı GPU'ya taşı (Hata çözümü için kritik)
 
48
  if gen_pipe.device.type != "cuda":
49
  gen_pipe.to("cuda")
50
 
@@ -59,22 +61,22 @@ VARLIK: {entity_text}
59
  WIKIPEDIA BAĞLAMI: {wiki_context}
60
 
61
  ANALİZ KURALLARI:
62
- 1. Wikipedia bağlamındaki anahtar kelimeleri tespit et ve açıkla.
63
- 2. Bu kelimelerin hangi KATEGORİ tanımına uyduğunu belirle.
64
  3. Cevabını SADECE şu formatta bitir: 'Cevap: ETİKET_ADI'
65
 
66
  Gerekçe:"""
67
 
68
  messages = [{"role": "user", "content": prompt}]
69
  try:
 
70
  outputs = gen_pipe(messages, max_new_tokens=200, do_sample=False, temperature=0.1)
71
  full_output = outputs[0]["generated_text"][-1]["content"].strip()
72
 
73
- # ETİKET AYIKLAMA MANTIĞI
74
  final_label = "MISC"
75
  valid_keys = list(custom_label_definitions.keys())
76
 
77
- # Satır bazlı arama
78
  lines = full_output.split('\n')
79
  for line in reversed(lines):
80
  if "Cevap:" in line:
@@ -83,7 +85,6 @@ Gerekçe:"""
83
  final_label = found
84
  break
85
 
86
- # Kelime bazlı yedek arama
87
  if final_label == "MISC":
88
  for key in valid_keys:
89
  if key in full_output.upper():
@@ -92,9 +93,9 @@ Gerekçe:"""
92
 
93
  return final_label, full_output
94
  except Exception as e:
95
- # Hata durumunda CPU'ya çekerek temizle
96
  gen_pipe.to("cpu")
97
- return "MISC", f"LLM Hatası: {str(e)}"
98
 
99
  # --- 3. ANA İŞLEM HATTI ---
100
 
@@ -105,7 +106,7 @@ def process_ner(text):
105
  custom_labels = {
106
  "SOFTWARE": "Bilgisayar programları, işletim sistemleri ve dijital araçlar.",
107
  "AWARD": "Ödüller, festivaller, madalyalar ve onur nişanları.",
108
- "BOOK": "Kitaplar, romanlar ve edebi yayınlar.",
109
  "MOVIE": "Sinema filmleri ve görsel yapımlar.",
110
  "PRODUCT": "Ticari ürünler, cihazlar ve markalar.",
111
  "NORP": "Milliyetler, etnik gruplar veya topluluklar."
@@ -127,12 +128,12 @@ def process_ner(text):
127
  wiki_text = get_wiki_summary(standardized)
128
  if wiki_text:
129
  logs.append(f"ℹ️ <b>Wiki Özeti:</b> {wiki_text[:120]}...")
130
- logs.append(f"🤖 LLM Karar veriyor...")
131
  yield logs, [[r["Varlık"], r["İlk Etiket"], r["Nihai Etiket"], r["Kaynak"]] for r in final_results]
132
 
133
  new_label, raw_llm_response = refine_label_with_llm(standardized, wiki_text, custom_labels)
134
 
135
- # Model Yanıtını Logla
136
  logs.append(f"<div style='color: #444; border-left: 3px solid #ffa500; padding-left: 8px; margin: 5px 0; font-size: 0.9em; background: #fff5e6;'><b>Model Yanıtı:</b><br>{raw_llm_response}</div>")
137
 
138
  res["Nihai Etiket"] = new_label
@@ -147,7 +148,7 @@ def process_ner(text):
147
  logs.append("✨ Analiz başarıyla tamamlandı.")
148
  yield logs, [[r["Varlık"], r["İlk Etiket"], r["Nihai Etiket"], r["Kaynak"]] for r in final_results]
149
 
150
- # --- 4. ARAYÜZ TASARIMI ---
151
 
152
  with gr.Blocks(title="NER RAG v3") as demo:
153
  gr.Markdown("# 🚀 Gelişmiş NER & RAG Sistemi")
 
7
  from transformers import pipeline
8
 
9
  # --- 1. MODELLERİN HAZIRLANMASI ---
10
+ # NER modeli CPU'da kalabilir, hafıza tasarrufu sağlar.
11
  ner_pipe = pipeline(
12
  "ner",
13
  model="xlm-roberta-large-finetuned-conll03-english",
 
15
  device="cpu"
16
  )
17
 
18
+ # LLM Modeli CPU'da başlatılır, @spaces.GPU çağrıldığında GPU'ya taşınır.
19
  model_id = "Qwen/Qwen2.5-1.5B-Instruct"
20
  try:
21
  gen_pipe = pipeline(
 
32
  # --- 2. YARDIMCI FONKSİYONLAR ---
33
 
34
  def get_wiki_summary(term):
 
35
  try:
36
  wikipedia.set_lang("tr")
37
  search_results = wikipedia.search(term)
 
42
 
43
  @spaces.GPU
44
  def refine_label_with_llm(entity_text, wiki_context, custom_label_definitions):
45
+ """Hata veren cihaz çakışmasını çözen güncellenmiş GPU fonksiyonu."""
46
  if not IS_LLM_ENABLED: return "MISC", "LLM Aktif Değil"
47
 
48
+ # KRİTİK DÜZELTME: Tüm pipeline bileşenlerini (model + tensorler) GPU'ya zorla taşır.
49
+ # Aldığın hatayı bu satır çözer.
50
  if gen_pipe.device.type != "cuda":
51
  gen_pipe.to("cuda")
52
 
 
61
  WIKIPEDIA BAĞLAMI: {wiki_context}
62
 
63
  ANALİZ KURALLARI:
64
+ 1. Wikipedia bağlamındaki anahtar kelimeleri (film, kitap, yazılım vb.) açıkla.
65
+ 2. Bu kelimeleri kategori tanımlarıyla kıyasla.
66
  3. Cevabını SADECE şu formatta bitir: 'Cevap: ETİKET_ADI'
67
 
68
  Gerekçe:"""
69
 
70
  messages = [{"role": "user", "content": prompt}]
71
  try:
72
+ # Pipeline çağrısı (CUDA üzerinde güvenli çalıştırma)
73
  outputs = gen_pipe(messages, max_new_tokens=200, do_sample=False, temperature=0.1)
74
  full_output = outputs[0]["generated_text"][-1]["content"].strip()
75
 
76
+ # Etiket ayıklama (Sondan başa tarama ve kelime bazlı kontrol)
77
  final_label = "MISC"
78
  valid_keys = list(custom_label_definitions.keys())
79
 
 
80
  lines = full_output.split('\n')
81
  for line in reversed(lines):
82
  if "Cevap:" in line:
 
85
  final_label = found
86
  break
87
 
 
88
  if final_label == "MISC":
89
  for key in valid_keys:
90
  if key in full_output.upper():
 
93
 
94
  return final_label, full_output
95
  except Exception as e:
96
+ # Hata durumunda sistemi temizlemek için CPU'ya çekmeyi dener.
97
  gen_pipe.to("cpu")
98
+ return "MISC", f"LLM Cihaz Hatası: {str(e)}"
99
 
100
  # --- 3. ANA İŞLEM HATTI ---
101
 
 
106
  custom_labels = {
107
  "SOFTWARE": "Bilgisayar programları, işletim sistemleri ve dijital araçlar.",
108
  "AWARD": "Ödüller, festivaller, madalyalar ve onur nişanları.",
109
+ "BOOK": "Kitaplar, romanlar ve edibi yayınlar.",
110
  "MOVIE": "Sinema filmleri ve görsel yapımlar.",
111
  "PRODUCT": "Ticari ürünler, cihazlar ve markalar.",
112
  "NORP": "Milliyetler, etnik gruplar veya topluluklar."
 
128
  wiki_text = get_wiki_summary(standardized)
129
  if wiki_text:
130
  logs.append(f"ℹ️ <b>Wiki Özeti:</b> {wiki_text[:120]}...")
131
+ logs.append(f"🤖 LLM Analiz Ediyor...")
132
  yield logs, [[r["Varlık"], r["İlk Etiket"], r["Nihai Etiket"], r["Kaynak"]] for r in final_results]
133
 
134
  new_label, raw_llm_response = refine_label_with_llm(standardized, wiki_text, custom_labels)
135
 
136
+ # Modelin analizini sarı kutu içinde günlüğe basar.
137
  logs.append(f"<div style='color: #444; border-left: 3px solid #ffa500; padding-left: 8px; margin: 5px 0; font-size: 0.9em; background: #fff5e6;'><b>Model Yanıtı:</b><br>{raw_llm_response}</div>")
138
 
139
  res["Nihai Etiket"] = new_label
 
148
  logs.append("✨ Analiz başarıyla tamamlandı.")
149
  yield logs, [[r["Varlık"], r["İlk Etiket"], r["Nihai Etiket"], r["Kaynak"]] for r in final_results]
150
 
151
+ # --- 4. ARAYÜZ (GÖRSEL TASARIM SABİT) ---
152
 
153
  with gr.Blocks(title="NER RAG v3") as demo:
154
  gr.Markdown("# 🚀 Gelişmiş NER & RAG Sistemi")