File size: 3,694 Bytes
ab773bf | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 | """
Arama & Eşik (Threshold) Yönetimi
--------------------------------------
Sorguyu embed eder, ChromaDB'de en yakın TOP_K chunk'ı bulur. En yüksek
(top-1) benzerlik skoru SIMILARITY_THRESHOLD'un altındaysa sistem
"Bu sorunun cevabı dokümanlarımda yer almamaktadır" der ve LLM'e hiçbir
chunk göndermez (böylece halüsinasyon riski ortadan kalkar). Eşiğin
üzerindeyse, en alakalı chunk'lar (ve kaynak url'leri) döndürülür.
NOT: Threshold'un doğru değeri, embedding modeline ve veri setine göre
DENEYSEL olarak belirlenmelidir — bkz. eval/run_eval.py ve README'deki
"Eşik (Threshold) Analizi" bölümü.
"""
import sys
import os
sys.path.append(os.path.join(os.path.dirname(__file__), ".."))
from src import config
from src.embedder import get_embedder
from src.vector_store import VectorStore
NO_ANSWER_MESSAGE = "Bu sorunun cevabı dokümanlarımda yer almamaktadır."
class RAGSearcher:
def __init__(self, store: VectorStore = None, embedder=None, threshold: float = None, top_k: int = None):
self.store = store or VectorStore()
self.embedder = embedder or get_embedder()
self.threshold = threshold if threshold is not None else config.SIMILARITY_THRESHOLD
self.top_k = top_k or config.TOP_K
def search(self, question: str):
"""
Dönüş: {
"question": str,
"answered": bool,
"top_score": float,
"message": str, # answered=False ise NO_ANSWER_MESSAGE
"retrieved_chunks": list[dict], # answered=True ise threshold üstü chunk'lar
}
"""
query_vector = self.embedder.embed([question])[0]
results = self.store.query(query_vector, top_k=self.top_k)
top_score = results[0]["score"] if results else 0.0
answered = top_score >= self.threshold
if not answered:
return {
"question": question,
"answered": False,
"top_score": top_score,
"message": NO_ANSWER_MESSAGE,
"retrieved_chunks": [],
}
relevant = [r for r in results if r["score"] >= self.threshold]
return {
"question": question,
"answered": True,
"top_score": top_score,
"message": None,
"retrieved_chunks": relevant,
}
def format_answer_for_llm(result: dict) -> str:
"""
Bir LLM'e (ör. Anthropic API) beslenecek bağlam metnini hazırlar.
Bu fonksiyon retrieval katmanı ile generation katmanı arasındaki köprüdür;
ödev kapsamı asıl retrieval+threshold mekanizması olduğu için burada basit
tutulmuştur. Gerçek bir sohbet asistanına bağlamak için bu context'i
sistem promptuna ekleyip "SADECE bu bağlama dayanarak cevap ver" talimatı
vermek yeterlidir (bkz. README "Sonraki Adım" bölümü).
"""
if not result["answered"]:
return result["message"]
context_blocks = []
for chunk in result["retrieved_chunks"]:
context_blocks.append(
f"[Kaynak: {chunk['title']} - {chunk['url']}]\n{chunk['chunk_text']}"
)
return "\n\n---\n\n".join(context_blocks)
if __name__ == "__main__":
searcher = RAGSearcher()
for q in ["Diyabetin belirtileri nelerdir?", "Marsta hayat var mı?"]:
r = searcher.search(q)
print(f"\nSoru: {q}")
print(f"Yanıtlandı mı: {r['answered']} (top_score={r['top_score']:.3f}, threshold={searcher.threshold})")
if r["answered"]:
print("İlk chunk:", r["retrieved_chunks"][0]["chunk_text"][:100], "...")
else:
print("Mesaj:", r["message"])
|