apak commited on
Commit
62e5592
·
verified ·
1 Parent(s): c17f539

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +104 -89
app.py CHANGED
@@ -6,151 +6,166 @@ import re
6
  import gradio as gr
7
  from transformers import pipeline
8
 
9
- # --- 1. MODELLERİN YÜKLENMESİ ---
10
- # NER Modeli CPU'da çalışır
 
 
11
  ner_pipe = pipeline(
12
  "ner",
13
  model="xlm-roberta-large-finetuned-conll03-english",
14
  aggregation_strategy="simple",
15
- device="cpu"
16
  )
17
 
18
- # LLM Modeli CPU'da başlar, @spaces.GPU ile GPU'ya geçer
19
  model_id = "Qwen/Qwen2.5-1.5B-Instruct"
20
  try:
21
  gen_pipe = pipeline(
22
  "text-generation",
23
  model=model_id,
24
  model_kwargs={"dtype": torch.bfloat16},
25
- device_map="cpu",
26
  trust_remote_code=True
27
  )
28
  IS_LLM_ENABLED = True
29
  except Exception as e:
30
- print(f"LLM Yükleme Hatası: {e}")
31
  IS_LLM_ENABLED = False
32
 
33
- # --- 2. YARDIMCI FONKSİYONLAR ---
34
 
35
  def get_wiki_summary(term):
36
- """Wikipedia'dan hata almadan özet çeker."""
37
  try:
38
  wikipedia.set_lang("tr")
39
- # Belirsizlik (Disambiguation) hatalarını önlemek için arama sonucunun ilkini alıyoruz
40
  search_results = wikipedia.search(term)
41
- if not search_results:
42
- return None
43
- # summary fonksiyonunda auto_suggest=False kullanarak tam eşleşme arıyoruz
44
  return wikipedia.summary(search_results[0], sentences=2, auto_suggest=False)
45
- except Exception as e:
46
- print(f"Wiki Hatası ({term}): {e}")
47
  return None
48
 
49
  @spaces.GPU
50
  def refine_label_with_llm(entity_text, wiki_context, custom_label_definitions):
51
- """ZeroGPU üzerinde çalışan akıllı etiketleme."""
52
- if not IS_LLM_ENABLED or gen_pipe is None:
53
- return "MISC", "LLM Yüklenemedi."
54
-
55
- # GPU'ya taşıma kontrolü
56
  if next(gen_pipe.model.parameters()).device.type != "cuda":
57
  gen_pipe.model.to("cuda")
58
 
59
- label_defs = "\n".join([f"- {k}: {v}" for k, v in custom_label_definitions.items()])
60
 
61
  prompt = f"""Görevin, Wikipedia bağlamını kullanarak varlığı en uygun etikete yerleştirmektir.
62
 
63
  ETİKET TANIMLARI:
64
- {label_defs}
65
 
66
  GÖREV:
67
  VARLIK: {entity_text}
68
  BAĞLAM: {wiki_context}
69
 
70
- Kurallar:
71
- 1. Sadece tanımlardaki etiketlerden birini seç.
72
- 2. Kararını Gerekçe ve Cevap formatında yaz.
73
 
74
- Gerekçe: [Analiz]
75
- Cevap: [ETİKET]"""
76
 
77
  messages = [{"role": "user", "content": prompt}]
78
-
79
  try:
80
  outputs = gen_pipe(messages, max_new_tokens=100, do_sample=False, temperature=0.1)
81
  full_output = outputs[0]["generated_text"][-1]["content"].strip()
82
 
83
- # Cevap kısmını yakala (Büyük/Küçük harf duyarsız)
84
- match = re.search(r"Cevap:\s*([A-Z_]+)", full_output, re.IGNORECASE)
85
- final_label = match.group(1).upper() if match else "MISC"
86
-
87
- # Seçilen etiket listede var mı kontrolü
88
- if final_label not in custom_label_definitions:
89
- final_label = "MISC"
90
-
91
  return final_label, full_output
92
- except Exception as e:
93
- return "MISC", f"Hata: {str(e)}"
94
-
95
- # --- 3. ANA İŞLEM HATTI (PIPELINE) ---
96
-
97
- def advanced_ner_pipeline(text, target_labels):
98
- """Hem Gradio hem terminal için uyumlu ana fonksiyon."""
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
99
  initial_results = ner_pipe(text)
100
  final_results = []
101
 
102
- for entity in initial_results:
 
103
  word = entity['word']
104
  label = entity['entity_group']
105
 
106
- res_obj = {
107
- "entity": word,
108
- "initial_label": label,
109
- "final_label": label,
110
- "source": "Model",
111
- "reasoning": ""
112
- }
113
-
114
- # Sadece MISC ise ve Wiki/LLM süreci başlatılacaksa
115
  if label == "MISC":
116
- standardized_word = word.strip().title()
117
- wiki_context = get_wiki_summary(standardized_word)
118
-
119
- if wiki_context:
120
- new_label, reasoning = refine_label_with_llm(standardized_word, wiki_context, target_labels)
121
- res_obj.update({
122
- "final_label": new_label,
123
- "source": "RAG+LLM",
124
- "reasoning": reasoning
125
- })
 
 
 
 
 
 
126
 
127
- final_results.append(res_obj)
 
 
 
 
 
 
 
 
 
 
128
 
129
- return final_results
130
-
131
- # --- 4. GRADIO ARAYÜZÜ ---
132
-
133
- custom_label_definitions = {
134
- "SOFTWARE": "Bilgisayar programları, işletim sistemleri.",
135
- "AWARD": "Ödüller, madalyalar.",
136
- "BOOK": "Kitaplar ve yazılı eserler.",
137
- "MOVIE": "Sinema filmleri.",
138
- "PRODUCT": "Ticari ürünler ve cihazlar.",
139
- "NORP": "Milliyetler, dini veya politik gruplar."
140
- }
141
-
142
- def process_and_display(text):
143
- results = advanced_ner_pipeline(text, custom_label_definitions)
144
- # Gradio Dataframe için veriyi listeye çevir
145
- table_data = [[r['entity'], r['initial_label'], r['final_label'], r['source']] for r in results]
146
- return table_data
147
-
148
- iface = gr.Interface(
149
- fn=process_and_display,
150
- inputs=gr.Textbox(label="Metin Girin", lines=5),
151
- outputs=gr.Dataframe(headers=["Varlık", "İlk Etiket", "Nihai Etiket", "Kaynak"]),
152
- title="NER RAG Final v2"
153
- )
154
 
155
  if __name__ == "__main__":
156
- iface.launch(server_name="0.0.0.0", server_port=7860)
 
6
  import gradio as gr
7
  from transformers import pipeline
8
 
9
+ # --- 1. MODELLERİN HAZIRLANMASI ---
10
+ _initial_logs = ["Sistem başlatılıyor..."]
11
+
12
+ # NER Modeli (CPU)
13
  ner_pipe = pipeline(
14
  "ner",
15
  model="xlm-roberta-large-finetuned-conll03-english",
16
  aggregation_strategy="simple",
17
+ device="cpu"
18
  )
19
 
20
+ # LLM Modeli (Qwen)
21
  model_id = "Qwen/Qwen2.5-1.5B-Instruct"
22
  try:
23
  gen_pipe = pipeline(
24
  "text-generation",
25
  model=model_id,
26
  model_kwargs={"dtype": torch.bfloat16},
27
+ device_map="cpu",
28
  trust_remote_code=True
29
  )
30
  IS_LLM_ENABLED = True
31
  except Exception as e:
 
32
  IS_LLM_ENABLED = False
33
 
34
+ # --- 2. FONKSİYONLAR ---
35
 
36
  def get_wiki_summary(term):
37
+ """Wikipedia'dan güvenli veri çekme."""
38
  try:
39
  wikipedia.set_lang("tr")
 
40
  search_results = wikipedia.search(term)
41
+ if not search_results: return None
 
 
42
  return wikipedia.summary(search_results[0], sentences=2, auto_suggest=False)
43
+ except:
 
44
  return None
45
 
46
  @spaces.GPU
47
  def refine_label_with_llm(entity_text, wiki_context, custom_label_definitions):
48
+ """ZeroGPU üzerinde LLM ile etiketleme ve süreç takibi."""
49
+ if not IS_LLM_ENABLED: return "MISC", "LLM Aktif Değil"
50
+
 
 
51
  if next(gen_pipe.model.parameters()).device.type != "cuda":
52
  gen_pipe.model.to("cuda")
53
 
54
+ label_defs_str = "\n".join([f"- {k}: {v}" for k, v in custom_label_definitions.items()])
55
 
56
  prompt = f"""Görevin, Wikipedia bağlamını kullanarak varlığı en uygun etikete yerleştirmektir.
57
 
58
  ETİKET TANIMLARI:
59
+ {label_defs_str}
60
 
61
  GÖREV:
62
  VARLIK: {entity_text}
63
  BAĞLAM: {wiki_context}
64
 
65
+ ÇIKTI FORMATI:
66
+ Gerekçe: [Analiziniz]
67
+ Cevap: [SADECE ETİKET ADI]
68
 
69
+ Gerekçe:"""
 
70
 
71
  messages = [{"role": "user", "content": prompt}]
 
72
  try:
73
  outputs = gen_pipe(messages, max_new_tokens=100, do_sample=False, temperature=0.1)
74
  full_output = outputs[0]["generated_text"][-1]["content"].strip()
75
 
76
+ # Etiketi ayıklama (En sağlam yöntem)
77
+ final_label = "MISC"
78
+ for line in full_output.split('\n'):
79
+ if "Cevap:" in line:
80
+ raw = line.split("Cevap:")[-1].strip().upper()
81
+ raw = re.sub(r'[^A-Z_]', '', raw) # Noktalama temizle
82
+ if raw in custom_label_definitions:
83
+ final_label = raw
84
  return final_label, full_output
85
+ except:
86
+ return "MISC", "LLM Hatası"
87
+
88
+ # --- 3. ANA SÜREÇ (GRADIO UYUMLU) ---
89
+
90
+ def process_ner(text, progress=gr.Progress()):
91
+ logs = ["🚀 İşlem başlatıldı..."]
92
+ yield logs, [] # İlk boş tabloyu gönder
93
+
94
+ # Tanımlar
95
+ custom_labels = {
96
+ "SOFTWARE": "Bilgisayar programları, işletim sistemleri ve dijital araçlar.",
97
+ "AWARD": "Ödüller, festivaller ve madalyalar.",
98
+ "BOOK": "Kitaplar ve yazılı eserler.",
99
+ "MOVIE": "Sinema filmleri ve yapımlar.",
100
+ "PRODUCT": "Ticari ürünler, cihazlar ve modeller.",
101
+ "NORP": "Milliyetler, etnik gruplar veya dini topluluklar."
102
+ }
103
+
104
+ # 1. Aşama: Temel NER
105
+ logs.append("🔍 Temel NER modeli çalışıyor...")
106
+ yield logs, []
107
+
108
  initial_results = ner_pipe(text)
109
  final_results = []
110
 
111
+ # 2. Aşama: Varlık inceleme döngüsü
112
+ for i, entity in enumerate(initial_results):
113
  word = entity['word']
114
  label = entity['entity_group']
115
 
116
+ res = {"Varlık": word, "İlk Etiket": label, "Nihai Etiket": label, "Kaynak": "Model"}
117
+
 
 
 
 
 
 
 
118
  if label == "MISC":
119
+ logs.append(f"⚠️ '{word}' için RAG süreci başladı...")
120
+ yield logs, [[r["Varlık"], r["İlk Etiket"], r["Nihai Etiket"], r["Kaynak"]] for r in final_results]
121
+
122
+ # Wiki
123
+ wiki_text = get_wiki_summary(word.title())
124
+ if wiki_text:
125
+ logs.append(f"📄 '{word}' için Wikipedia bağlamı bulundu.")
126
+ logs.append(f"🤖 LLM (GPU) karar veriyor...")
127
+ yield logs, [[r["Varlık"], r["İlk Etiket"], r["Nihai Etiket"], r["Kaynak"]] for r in final_results]
128
+
129
+ new_label, reason = refine_label_with_llm(word.title(), wiki_text, custom_labels)
130
+ res["Nihai Etiket"] = new_label
131
+ res["Kaynak"] = "RAG+LLM"
132
+ logs.append(f"✅ Sonuç: {word} -> {new_label}")
133
+ else:
134
+ logs.append(f"❌ '{word}' için Wiki kaydı bulunamadı.")
135
 
136
+ final_results.append(res)
137
+ # Tabloyu her adımda güncelle
138
+ yield logs, [[r["Varlık"], r["İlk Etiket"], r["Nihai Etiket"], r["Kaynak"]] for r in final_results]
139
+
140
+ logs.append("✨ Analiz başarıyla tamamlandı.")
141
+ yield logs, [[r["Varlık"], r["İlk Etiket"], r["Nihai Etiket"], r["Kaynak"]] for r in final_results]
142
+
143
+ # --- 4. ARAYÜZ ---
144
+
145
+ with gr.Blocks(title="NER RAG v3") as demo:
146
+ gr.Markdown("# 🚀 Gelişmiş NER & RAG Sistemi")
147
 
148
+ with gr.Row():
149
+ input_text = gr.Textbox(label="Analiz Edilecek Metin", lines=5, placeholder="Örn: Rus askerleri Yüzüklerin Efendisi izledi...")
150
+
151
+ with gr.Row():
152
+ with gr.Column(scale=1):
153
+ log_output = gr.HTML(label="Sistem Günlüğü", value="Sistem Hazır...")
154
+ with gr.Column(scale=2):
155
+ table_output = gr.Dataframe(headers=["Varlık", "İlk Etiket", "Nihai Etiket", "Kaynak"])
156
+
157
+ submit_btn = gr.Button("Analiz Et", variant="primary")
158
+
159
+ # Logları HTML'e dönüştüren yardımcı fonksiyon
160
+ def update_ui(text):
161
+ for logs, table in process_ner(text):
162
+ log_html = "<div style='background: #f0f4f8; padding: 10px; border-radius: 5px; font-family: monospace; height: 300px; overflow-y: auto;'>"
163
+ for m in logs:
164
+ log_html += f"<p style='margin: 0; border-bottom: 1px solid #ddd; padding: 2px 0;'>{m}</p>"
165
+ log_html += "</div>"
166
+ yield log_html, table
167
+
168
+ submit_btn.click(update_ui, inputs=input_text, outputs=[log_output, table_output])
 
 
 
 
169
 
170
  if __name__ == "__main__":
171
+ demo.launch(server_name="0.0.0.0", server_port=7860)