Upload 19 files

README.md

@@ -0,0 +1,275 @@
+---
+title: Türkçe Tıbbi Doküman RAG Sistemi
+emoji: 🏥
+colorFrom: blue
+colorTo: green
+sdk: gradio
+app_file: app.py
+pinned: false
+---
+
+# 🏥 Türkçe Tıbbi Doküman RAG Sistemi — Eşik Kontrollü Semantik Arama
+
+`umutertugrul/turkish-hospital-medical-articles` veri setinden chunk'lanmış Türkçe
+tıbbi makaleler üzerinde çalışan, **halüsinasyonu threshold ile engelleyen** bir
+retrieval sistemi. Sorunun cevabı doküman kümesinde yoksa (benzerlik skoru eşiğin
+altındaysa) sistem "Bu sorunun cevabı dokümanlarımda yer almamaktadır" der ve LLM'e
+hiç bağlam göndermez.
+
+---
+
+## ⚠️ Önemli Not: Bu Repo Nasıl Hazırlandı
+
+Bu depoyu hazırladığım geliştirme ortamında **Hugging Face Hub'a ağ erişimi
+yoktu** (gerçek veri setini indiremedim, gerçek embedding modelini çalıştıramadım).
+Bu yüzden:
+
+- Tüm kod **gerçek veri seti ve gerçek embedding modeliyle çalışacak şekilde**
+  yazıldı (`EMBEDDING_BACKEND=real`).
+- Kodun uçtan uca **doğru çalıştığını kanıtlamak için**, gerçek şemayı taklit eden
+  6 makalelik küçük bir **sentetik korpus** (`data/synthetic_corpus.py`) ve
+  TF-IDF tabanlı bir **mock embedder** (`EMBEDDING_BACKEND=mock`) kullanılarak
+  pipeline baştan sona test edildi — chunking, ChromaDB'ye yazma, arama,
+  threshold sweep, 30 soruluk eval dahil. Sonuçlar `eval/eval_results.md`'de.
+- **Gerçek teslim için** `EMBEDDING_BACKEND=real` ile `python src/build_index.py`
+  komutunu internet erişimi olan bir ortamda (Colab, kendi makineniz, HF Space)
+  çalıştırmanız ve `eval/test_questions.json`'daki soruları gerçek veri setinden
+  gelen gerçek chunk içeriğine göre güncellemeniz gerekiyor (aşağıda adım adım
+  anlatılıyor).
+
+---
+
+## 1) Veri Seti ve Örnekleme
+
+- **Kaynak:** [`umutertugrul/turkish-hospital-medical-articles`](https://huggingface.co/datasets/umutertugrul/turkish-hospital-medical-articles)
+  — 14 hastane/sağlık kuruluşunun web sitesinden toplanmış Türkçe tıbbi makaleler.
+- **Neden bu veri seti?** Şeması (`url`, `title`, `text`, `__source`) ödevin
+  istediği zorunlu (`url`) ve önerilen opsiyonel (`title`, `__source`) sütunlarla
+  birebir örtüşüyor, ek dönüştürme gerektirmiyor.
+- **Örnekleme:** `src/config.py::SAMPLE_SIZE` ile kontrol edilir (varsayılan 300,
+  100-1.000 aralığında). `src/data_loader.py::load_articles()` tüm 14 parquet
+  dosyasını birleştirip `random.Random(seed).sample()` ile rastgele örnekler.
+
+## 2) Chunking Stratejisi: Sabit Token Sayısı + Overlap
+
+**Neden bu yöntem?**
+- Paragraf bazlı (`\n\n`) bölme, kaynak makalelerin paragraf uzunluklarına bağımlı
+  kalır — bazı makalelerde tek bir dev paragraf, bazılarında çok kısa paragraflar
+  olabilir, bu da embedding kalitesini tutarsızlaştırır.
+- Semantik chunking daha iyi sonuç verebilir ama ek bir model/karmaşıklık
+  gerektirir; bu ödev kapsamında (100-1000 makale, sınırlı süre) kontrolü kolay,
+  öngörülebilir ve **embedding modelinin gerçekte işlediği birimle (token)
+  birebir eşleşen** sabit-token yaklaşımı tercih edildi.
+- **Overlap (80 token)**, bir cümle/bilginin chunk sınırında ikiye bölünüp
+  anlamının kaybolmasını önler — chunk sonundaki bağlamın bir kısmı bir sonraki
+  chunk'ın başında tekrar eder.
+
+**Parametreler** (`src/config.py`):
+```python
+CHUNK_SIZE_TOKENS = 400      # embedding modelinin 8192 token context'ine göre
+                              # rahat, ama tek konuya odaklı chunk'lar üretecek
+                              # kadar küçük
+CHUNK_OVERLAP_TOKENS = 80    # chunk_size'ın ~%20'si — yaygın pratik
+```
+
+**Tokenizer:** Chunk boyutu, embedding modelinin **kendi tokenizer'ı**
+(`AutoTokenizer.from_pretrained("magibu/embeddingmagibu-200m")`) ile sayılır
+(`src/chunking.py::get_tokenizer`). Böylece "400 token" hem chunking'de hem
+embedding'de aynı anlama gelir. Gerçek tokenizer indirilemediğinde (offline
+test) basit bir whitespace tokenizer'a düşülür — bu durum log'da açıkça belirtilir.
+
+İmplementasyon: `src/chunking.py::chunk_text()` — token dizisini `step = chunk_size
+- overlap` adımlarıyla kaydırarak diliyor, her dilim `tokenizer.decode()` ile
+tekrar metne çevriliyor. Doğruluğu `tests/test_chunking.py` ile test edildi
+(overlap'in gerçekten örtüştüğü, kısa metinlerin tek chunk kaldığı, metadata'nın
+korunduğu doğrulandı — 4/4 test geçti).
+
+## 3) Vektör Veritabanı Şeması ve Mimarisi
+
+**Seçim: ChromaDB** (dosya tabanlı, `PersistentClient`, ek sunucu gerektirmez).
+
+**Önemli tasarım kararı:** Chroma'nın kendi embedding fonksiyonu **kullanılmaz**
+(`embedding_function=None` mantığı) — embedding'ler her zaman `src/embedder.py`
+tarafından ayrı üretilip Chroma'ya hazır vektör olarak verilir. Bu, "vektör
+veritabanı" (nerede saklanır/aranır) ile "embedding modeli" (vektör nasıl
+üretilir) kararlarını birbirinden bağımsız tutar — ödev talimatında da özellikle
+vurgulanan ayrım.
+
+**Çıktı — HF Dataset'e yüklenebilir parquet** (`output/turkish_medical_chunks.parquet`),
+zorunlu 3 sütun + opsiyonel metadata:
+
+| Sütun | Açıklama |
+|---|---|
+| `url` | Chunk'ın ait olduğu makalenin kaynak linki |
+| `chunk_text` | Parçalanmış metin |
+| `chunk_vector` | 768 boyutlu (gerçek modelde) float listesi |
+| `title` | Makale başlığı (opsiyonel metadata) |
+| `__source` | Kaynak hastane (opsiyonel metadata) |
+| `parent_id` | Chunk'ın ait olduğu makalenin index'i (parent-child ilişkisi) |
+| `chunk_id` | `{parent_id}_{chunk_index}` formatında benzersiz id |
+
+## 4) Embedding Modeli
+
+**Seçim: `magibu/embeddingmagibu-200m`** (önerilen model).
+
+- **Boyut:** 768 (ℓ₂-normalize edilmiş).
+- **Context window:** 8.192 token — uzun makaleleri chunk'lamadan önce
+  endişelenmeden büyük chunk boyutları (400 token) seçebilmemizi sağladı.
+- **Neden bu model?** Türkçe'ye özel distile edilmiş (152M/200M parametre),
+  TR-MTEB benchmark'ında (STS, retrieval, NLI görevlerinde) rekabetçi skorlar
+  veriyor, `sentence-transformers` ile tek satırda kullanılabiliyor:
+  ```python
+  from sentence_transformers import SentenceTransformer
+  model = SentenceTransformer("magibu/embeddingmagibu-200m", trust_remote_code=True)
+  vectors = model.encode(texts, normalize_embeddings=True)  # (N, 768)
+  ```
+- Gerçek kullanım `src/embedder.py::RealEmbedder` sınıfında implemente edildi.
+
+**Offline test (mock) backend:** Bu geliştirme ortamında modele erişilemediği
+için, `src/embedder.py::MockEmbedder` TF-IDF tabanlı deterministik bir embedder
+sağlar — gerçek semantik bir model DEĞİLDİR, sadece pipeline'ın (chunking ->
+embedding -> ChromaDB -> arama -> threshold) uçtan uca doğru çalıştığını
+kanıtlamak için kullanılmıştır (bkz. aşağıdaki eval sonuçları).
+
+## 5) Test Veri Seti (30 Soru) ve Değerlendirme
+
+📄 [`eval/test_questions.json`](eval/test_questions.json) — 20 pozitif + 10 negatif soru.
+
+⚠️ **Bu dosyadaki sorular ÖRNEK/PLACEHOLDER'dır** — 6 makalelik sentetik
+korpusa göre yazıldı (offline test için). **Gerçek teslimde**, `output/
+turkish_medical_chunks.parquet`'i gerçek veri setiyle ürettikten sonra, bu
+dosyayı gerçek chunk içeriğinden alınan 20 pozitif + veri setinde kesinlikle
+geçmeyen 10 negatif soruyla güncellemeniz gerekir.
+
+**Format:**
+```json
+{"id": "p01", "type": "positive", "question": "...", "expected_source_url": "https://..."}
+{"id": "n01", "type": "negative", "question": "..."}
+```
+
+## 6) Eşik (Threshold) Analizi
+
+`eval/run_eval.py`, 30 soruyu çalıştırıp **threshold sweep** yapar (0.05'ten
+0.95'e kadar 0.05 adımlarla), her adımda confusion matrix (TP/FN/TN/FP) ve
+accuracy/precision/recall/F1 hesaplar; en iyi F1'i veren threshold'u önerir.
+Tam tablo: [`eval/eval_results.md`](eval/eval_results.md).
+
+**Mock backend ile elde edilen örnek sonuç** (sadece offline pipeline testi,
+gerçek model ile YENİDEN ÇALIŞTIRILMALI):
+
+| Threshold | TP | FN | TN | FP | Accuracy | Precision | Recall | F1 |
+|---|---|---|---|---|---|---|---|---|
+| 0.05 | 20 | 0 | 5 | 5 | 0.833 | 0.800 | 1.000 | 0.889 |
+| **0.10** | **18** | **2** | **8** | **2** | **0.867** | **0.900** | **0.900** | **0.900** |
+| 0.15 | 11 | 9 | 10 | 0 | 0.700 | 1.000 | 0.550 | 0.710 |
+| 0.20 | 5 | 15 | 10 | 0 | 0.500 | 1.000 | 0.250 | 0.400 |
+
+- **Retrieval doğruluğu** (pozitif sorularda doğru kaynak makalenin bulunması): 18/20.
+- **Threshold=0.10 seçildi** çünkü en yüksek F1'i (0.900) veriyor: 2 negatif soru
+  hâlâ yanlışlıkla "yanıtlanıyor" (FP) ve 2 pozitif soru yanlışlıkla reddediliyor
+  (FN) — ama toplamda en dengeli nokta burası. Threshold'u 0.05'e çekmek recall'ı
+  1.0'a çıkarır ama FP sayısını (halüsinasyon riskini) artırır; 0.15'e çıkarmak
+  FP'yi sıfırlar ama pozitif sorularda cevap verme oranını (recall) düşürür.
+  Bu, klasik **precision-recall trade-off**'udur; tıbbi bir sistemde
+  "yanlışlıkla uydurma cevap verme" (FP) riski, "bilinen bir cevabı reddetme"
+  (FN) riskinden genelde daha maliyetli kabul edilir — bu yüzden FP=0 olan
+  0.15 gibi biraz daha muhafazakâr bir threshold da savunulabilir bir seçimdir.
+
+**⚠️ Gerçek embedding modeliyle mutlaka yeniden çalıştırın:** TF-IDF cosine
+skorları (0.0-0.3 aralığında) ile gerçek sentence-embedding cosine skorları
+(genellikle 0.4-0.8 aralığında) çok farklı dağılımlara sahiptir. `EMBEDDING_
+BACKEND=real python eval/run_eval.py` çalıştırıldığında tamamen farklı (muhtemelen
+çok daha yüksek) bir threshold önerilecektir — `src/config.py::SIMILARITY_
+THRESHOLD` bu yeni değere göre güncellenmelidir.
+
+---
+
+## 7) Kurulum ve Çalıştırma
+
+```bash
+git clone <bu-repo>
+cd turkish-medical-rag
+pip install -r requirements.txt
+```
+
+### Adım 1 — Index oluştur (chunking + embedding + ChromaDB + parquet export)
+
+```bash
+# Hızlı/offline test (sentetik veri + TF-IDF mock embedder):
+EMBEDDING_BACKEND=mock python src/build_index.py
+
+# GERÇEK teslim (internet + GPU önerilir):
+EMBEDDING_BACKEND=real python src/build_index.py
+```
+
+Çıktılar: `chroma_db/` (vektör veritabanı) ve `output/turkish_medical_chunks.parquet`
+(HF Dataset'e yüklenecek dosya).
+
+### Adım 2 — Eval / threshold analizi çalıştır
+
+```bash
+EMBEDDING_BACKEND=real python eval/run_eval.py
+```
+
+Çıktı: konsola threshold sweep tablosu + `eval/eval_results.md` raporu.
+Önerilen threshold'u `src/config.py::SIMILARITY_THRESHOLD`'a yazın.
+
+### Adım 3 — Arama / demo
+
+```bash
+# Komut satırından hızlı test:
+EMBEDDING_BACKEND=real python src/search.py
+
+# Gradio arayüzü:
+EMBEDDING_BACKEND=real python app.py
+```
+
+### Testler
+
+```bash
+python tests/test_chunking.py
+```
+
+---
+
+## 8) Proje Yapısı
+
+```
+turkish-medical-rag/
+├── app.py                       # Gradio arayüzü (retrieval + threshold demosu)
+├── src/
+│   ├── config.py                 # Tüm parametreler (chunk size, threshold, model id'leri)
+│   ├── data_loader.py             # HF dataset yükleme (+ offline sentetik fallback)
+│   ├── chunking.py                # Sabit token + overlap chunking
+│   ├── embedder.py                # RealEmbedder (magibu) + MockEmbedder (TF-IDF, offline test)
+│   ├── vector_store.py            # ChromaDB wrapper
+│   ├── build_index.py             # Ana pipeline (load->chunk->embed->store->export)
+│   └── search.py                  # Sorgu + threshold kararı + "cevap yok" mantığı
+├── data/
+│   └── synthetic_corpus.py        # SADECE offline test için 6 makalelik sentetik korpus
+├── eval/
+│   ├── test_questions.json        # 30 test sorusu (20 pozitif + 10 negatif) — ÖRNEK
+│   ├── run_eval.py                # Threshold sweep + confusion matrix + rapor
+│   └── eval_results.md            # (üretilir) eval sonuçları
+├── tests/
+│   └── test_chunking.py           # Chunking birim testleri
+├── requirements.txt
+├── .gitignore
+└── README.md
+```
+
+## 9) Sonraki Adım: LLM'e Bağlama
+
+Bu repo asıl olarak **retrieval + threshold** mekanizmasını (ödevin odak
+noktası) implemente ediyor. Bir sohbet asistanına bağlamak için:
+
+```python
+from src.search import RAGSearcher, format_answer_for_llm
+
+searcher = RAGSearcher()
+result = searcher.search(kullanici_sorusu)
+context = format_answer_for_llm(result)  # threshold altındaysa direkt ret mesajı döner
+
+# context'i bir LLM'in sistem promptuna ekleyip "SADECE bu bağlama dayanarak
+# cevap ver, bağlamda yoksa uydurma" talimatı vermek yeterli.
+```

app.py

@@ -0,0 +1,69 @@
+"""
+Basit Gradio Arayüzü — RAG Retrieval + Threshold Demo
+------------------------------------------------------------
+Bu arayüz, asıl ödev kapsamı olan retrieval+threshold mekanizmasını görsel
+olarak göstermek içindir. Tam bir LLM-cevap-üretme sohbet botu değildir
+(o adım src/search.py::format_answer_for_llm ile kolayca eklenebilir,
+bkz. README "Sonraki Adım").
+
+Çalıştırma:
+    EMBEDDING_BACKEND=mock python app.py
+"""
+import sys
+import os
+
+sys.path.insert(0, os.path.dirname(os.path.abspath(__file__)))
+
+import gradio as gr
+from src import config
+from src.search import RAGSearcher
+
+searcher = RAGSearcher()
+
+
+def answer_question(question):
+    if not question or not question.strip():
+        return "Lütfen bir soru yazın.", ""
+
+    result = searcher.search(question)
+
+    score_info = f"**En yüksek benzerlik skoru:** {result['top_score']:.3f}  (threshold: {searcher.threshold})"
+
+    if not result["answered"]:
+        return f"🚫 {result['message']}", score_info
+
+    lines = ["✅ **İlgili doküman parçaları bulundu:**\n"]
+    for i, chunk in enumerate(result["retrieved_chunks"], 1):
+        lines.append(
+            f"**{i}. [{chunk['title']}]({chunk['url']})** (skor: {chunk['score']:.3f})\n\n"
+            f"> {chunk['chunk_text'][:400]}{'...' if len(chunk['chunk_text']) > 400 else ''}\n"
+        )
+    return "\n".join(lines), score_info
+
+
+with gr.Blocks(title="Türkçe Tıbbi Doküman RAG Sistemi 🏥") as demo:
+    gr.Markdown(
+        f"""
+        # 🏥 Türkçe Tıbbi Doküman Arama Sistemi (RAG)
+        `umutertugrul/turkish-hospital-medical-articles` veri setinden chunk'lanmış
+        makaleler üzerinde **eşik (threshold) kontrollü** semantik arama.
+        Benzerlik skoru eşiğin altındaysa sistem **uydurma yapmaz**, doğrudan
+        "cevap dokümanlarımda yok" der.
+
+        Backend: `{config.EMBEDDING_BACKEND}` | Threshold: `{config.SIMILARITY_THRESHOLD}` |
+        Embedding modeli: `{config.EMBEDDING_MODEL_ID if config.EMBEDDING_BACKEND == 'real' else 'mock (TF-IDF, offline test)'}`
+
+        **Örnek pozitif soru:** "Tip 2 diyabetin belirtileri nelerdir?"
+        **Örnek negatif soru:** "Bitcoin fiyatı bugün ne kadar?"
+        """
+    )
+    question_box = gr.Textbox(label="Sorunuz", placeholder="Örn: Migren atağını ne tetikler?")
+    submit_btn = gr.Button("Ara", variant="primary")
+    score_output = gr.Markdown()
+    answer_output = gr.Markdown()
+
+    submit_btn.click(fn=answer_question, inputs=question_box, outputs=[answer_output, score_output])
+    question_box.submit(fn=answer_question, inputs=question_box, outputs=[answer_output, score_output])
+
+if __name__ == "__main__":
+    demo.launch()

data/synthetic_corpus.py

@@ -0,0 +1,119 @@
+"""
+Sentetik Türkçe tıbbi makale seti (OFFLINE TEST AMAÇLI).
+------------------------------------------------------------
+Bu modül, umutertugrul/turkish-hospital-medical-articles ile AYNI ŞEMAYA
+(url, title, text, __source) sahip, elle yazılmış küçük bir korpustur.
+SADECE bu geliştirme ortamında (Hugging Face'e ağ erişimi olmayan sandbox)
+tüm pipeline'ı (chunking -> embedding -> vektör DB -> arama -> threshold)
+uçtan uca test edebilmek için kullanılır.
+
+Gerçek teslim için data_loader.py'deki load_real_dataset() fonksiyonu
+gerçek veri setini HF Hub'dan çeker; bu sentetik veri değerlendirmeye
+DAHİL EDİLMEMELİDİR.
+"""
+
+SYNTHETIC_ARTICLES = [
+    {
+        "url": "https://ornek-hastane.com/tip2-diyabet",
+        "title": "Tip 2 Diyabet Nedir, Belirtileri ve Tedavisi",
+        "text": (
+            "Tip 2 diyabet, vücudun insülini etkili bir şekilde kullanamaması sonucu "
+            "ortaya çıkan kronik bir metabolik hastalıktır. En sık görülen belirtileri "
+            "arasında sık idrara çıkma, aşırı susama hissi, açıklanamayan kilo kaybı ve "
+            "yorgunluk sayılabilir. Hastalığın tanısı genellikle açlık kan şekeri testi "
+            "veya HbA1c ölçümü ile konur. Açlık kan şekerinin 126 mg/dL üzerinde olması "
+            "diyabet tanısı için önemli bir göstergedir.\n\n"
+            "Tedavide ilk basamak yaşam tarzı değişiklikleridir: düzenli egzersiz, "
+            "dengeli beslenme ve kilo kontrolü. Yaşam tarzı değişiklikleri yeterli "
+            "olmadığında metformin gibi oral antidiyabetik ilaçlar tedaviye eklenir. "
+            "İleri evrelerde insülin tedavisi gerekebilir. Düzenli kontrol ve "
+            "komplikasyonların (nöropati, retinopati, nefropati) erken tespiti hayati "
+            "önem taşır."
+        ),
+        "__source": "ornek_hastane_a",
+    },
+    {
+        "url": "https://ornek-hastane.com/migren-tedavisi",
+        "title": "Migren: Nedenleri, Tetikleyicileri ve Güncel Tedavi Yöntemleri",
+        "text": (
+            "Migren, genellikle başın bir tarafında zonklayıcı tarzda ağrıyla seyreden, "
+            "bulantı, kusma ve ışığa/sese duyarlılıkla birlikte görülebilen nörolojik bir "
+            "hastalıktır. Migren atakları saatler hatta günler sürebilir. Yaygın "
+            "tetikleyiciler arasında stres, uykusuzluk, bazı gıdalar (çikolata, kafein, "
+            "alkol), hormonal değişiklikler ve hava durumu değişiklikleri yer alır.\n\n"
+            "Akut atak tedavisinde ağrı kesiciler ve triptan grubu ilaçlar kullanılır. "
+            "Sık tekrarlayan migrenlerde (ayda 4'ten fazla atak) koruyucu tedavi "
+            "önerilir; bu amaçla beta blokerler, bazı antiepileptikler veya CGRP "
+            "inhibitörü monoklonal antikorlar kullanılabilir. Tetikleyicilerin "
+            "belirlenmesi ve bunlardan kaçınılması ataklerin sıklığını azaltmada "
+            "önemli rol oynar."
+        ),
+        "__source": "ornek_hastane_b",
+    },
+    {
+        "url": "https://ornek-hastane.com/hipertansiyon",
+        "title": "Hipertansiyon (Yüksek Tansiyon) Hakkında Bilinmesi Gerekenler",
+        "text": (
+            "Hipertansiyon, kan basıncının normalin üzerinde seyretmesi durumudur ve "
+            "genellikle 140/90 mmHg üzerindeki değerler yüksek tansiyon olarak kabul "
+            "edilir. Çoğu hastada belirgin bir semptom görülmez, bu nedenle 'sessiz "
+            "katil' olarak da adlandırılır. Kontrol altına alınmadığında kalp krizi, "
+            "inme ve böbrek yetmezliği riskini artırır.\n\n"
+            "Tedavide tuz kısıtlaması, düzenli egzersiz, kilo kontrolü ve sigaranın "
+            "bırakılması gibi yaşam tarzı önlemleri ilk basamaktır. İlaç tedavisinde "
+            "ACE inhibitörleri, ARB'ler, kalsiyum kanal blokerleri ve diüretikler "
+            "sıklıkla kullanılır. Düzenli tansiyon takibi ve doktor kontrolü tedavinin "
+            "başarısı için gereklidir."
+        ),
+        "__source": "ornek_hastane_a",
+    },
+    {
+        "url": "https://ornek-hastane.com/astim",
+        "title": "Astım Hastalığı: Belirtiler ve Güncel Tedavi Yaklaşımları",
+        "text": (
+            "Astım, hava yollarının kronik iltihabi bir hastalığıdır ve nefes darlığı, "
+            "hırıltılı solunum, göğüste sıkışma hissi ve öksürük ile kendini gösterir. "
+            "Belirtiler genellikle geceleri veya egzersiz sonrası artabilir. Alerjenler, "
+            "soğuk hava, sigara dumanı ve solunum yolu enfeksiyonları astım ataklarını "
+            "tetikleyebilir.\n\n"
+            "Tedavide inhaler kortikosteroidler iltihabı azaltmak için düzenli olarak "
+            "kullanılır. Ani nefes darlığı ataklarında hızlı etkili bronkodilatörler "
+            "(salbutamol gibi) kullanılır. Ağır astım vakalarında biyolojik tedaviler "
+            "gündeme gelebilir. Tetikleyicilerden kaçınmak ve tedaviye uyum, hastalığın "
+            "kontrol altında tutulmasında kritik öneme sahiptir."
+        ),
+        "__source": "ornek_hastane_c",
+    },
+    {
+        "url": "https://ornek-hastane.com/gastrit",
+        "title": "Gastrit: Mide İltihabının Nedenleri ve Tedavisi",
+        "text": (
+            "Gastrit, mide iç yüzeyini kaplayan mukoza tabakasının iltihaplanmasıdır. "
+            "En sık nedenleri arasında Helicobacter pylori bakterisi enfeksiyonu, aşırı "
+            "alkol tüketimi, sık ağrı kesici (NSAİİ) kullanımı ve aşırı stres yer alır. "
+            "Belirtileri arasında mide bölgesinde yanma, bulantı, şişkinlik ve iştahsızlık "
+            "sayılabilir.\n\n"
+            "Tanı genellikle endoskopi ile konur. Tedavide mide asidini azaltan proton "
+            "pompa inhibitörleri (PPI) kullanılır. H. pylori pozitif hastalarda antibiyotik "
+            "içeren eradikasyon tedavisi uygulanır. Baharatlı ve asitli gıdalardan "
+            "kaçınmak, düzenli öğün saatleri tutmak iyileşme sürecini destekler."
+        ),
+        "__source": "ornek_hastane_b",
+    },
+    {
+        "url": "https://ornek-hastane.com/omurga-fitigi",
+        "title": "Bel Fıtığı: Belirtileri, Tanısı ve Tedavi Seçenekleri",
+        "text": (
+            "Bel fıtığı, omurlar arasındaki disklerin dış tabakasının yırtılması sonucu "
+            "iç kısmın dışarı taşması ve sinirlere baskı yapmasıdır. En sık belirti, "
+            "bacağa yayılan (siyatalji) ağrı, uyuşma ve karıncalanmadır. Uzun süre oturmak, "
+            "ağır kaldırmak ve hareketsiz yaşam tarzı risk faktörleri arasındadır.\n\n"
+            "Vakaların büyük çoğunluğu ameliyatsız yöntemlerle (fizik tedavi, ağrı kesici "
+            "ilaçlar, egzersiz programları) iyileşir. Konservatif tedaviye yanıt vermeyen "
+            "veya ilerleyici kas güçsüzlüğü olan vakalarda cerrahi tedavi gündeme gelebilir. "
+            "Doğru duruş alışkanlıkları ve düzenli bel-karın kaslarını güçlendirici "
+            "egzersizler tekrarlamayı önlemede etkilidir."
+        ),
+        "__source": "ornek_hastane_c",
+    },
+]

eval/eval_results.md

@@ -0,0 +1,65 @@
+# Eşik (Threshold) Analizi Sonuçları
+
+- Embedding backend: `mock`
+- Toplam soru: 30 (20 pozitif, 10 negatif)
+- Retrieval doğruluğu (pozitif sorularda doğru url): 18/20
+- **Önerilen threshold: 0.1** (F1=0.900, accuracy=0.867, precision=0.900, recall=0.900)
+
+## Threshold Sweep Tablosu
+
+| Threshold | TP | FN | TN | FP | Accuracy | Precision | Recall | F1 |
+|---|---|---|---|---|---|---|---|---|
+| 0.05 | 20 | 0 | 5 | 5 | 0.833 | 0.800 | 1.000 | 0.889 |
+| 0.10 | 18 | 2 | 8 | 2 | 0.867 | 0.900 | 0.900 | 0.900 |
+| 0.15 | 11 | 9 | 10 | 0 | 0.700 | 1.000 | 0.550 | 0.710 |
+| 0.20 | 5 | 15 | 10 | 0 | 0.500 | 1.000 | 0.250 | 0.400 |
+| 0.25 | 1 | 19 | 10 | 0 | 0.367 | 1.000 | 0.050 | 0.095 |
+| 0.30 | 1 | 19 | 10 | 0 | 0.367 | 1.000 | 0.050 | 0.095 |
+| 0.35 | 0 | 20 | 10 | 0 | 0.333 | 0.000 | 0.000 | 0.000 |
+| 0.40 | 0 | 20 | 10 | 0 | 0.333 | 0.000 | 0.000 | 0.000 |
+| 0.45 | 0 | 20 | 10 | 0 | 0.333 | 0.000 | 0.000 | 0.000 |
+| 0.50 | 0 | 20 | 10 | 0 | 0.333 | 0.000 | 0.000 | 0.000 |
+| 0.55 | 0 | 20 | 10 | 0 | 0.333 | 0.000 | 0.000 | 0.000 |
+| 0.60 | 0 | 20 | 10 | 0 | 0.333 | 0.000 | 0.000 | 0.000 |
+| 0.65 | 0 | 20 | 10 | 0 | 0.333 | 0.000 | 0.000 | 0.000 |
+| 0.70 | 0 | 20 | 10 | 0 | 0.333 | 0.000 | 0.000 | 0.000 |
+| 0.75 | 0 | 20 | 10 | 0 | 0.333 | 0.000 | 0.000 | 0.000 |
+| 0.80 | 0 | 20 | 10 | 0 | 0.333 | 0.000 | 0.000 | 0.000 |
+| 0.85 | 0 | 20 | 10 | 0 | 0.333 | 0.000 | 0.000 | 0.000 |
+| 0.90 | 0 | 20 | 10 | 0 | 0.333 | 0.000 | 0.000 | 0.000 |
+| 0.95 | 0 | 20 | 10 | 0 | 0.333 | 0.000 | 0.000 | 0.000 |
+
+## Soru Bazlı Ham Sonuçlar
+
+| ID | Tip | Top Score | Top URL Doğru mu | Soru |
+|---|---|---|---|---|
+| p01 | positive | 0.189 | EVET | Tip 2 diyabetin en sık görülen belirtileri nelerdir? |
+| p02 | positive | 0.196 | EVET | Diyabet tanısı hangi testlerle konur? |
+| p03 | positive | 0.335 | EVET | Açlık kan şekeri kaç mg/dL üzerinde olursa diyabet tanısı konur? |
+| p04 | positive | 0.188 | EVET | Tip 2 diyabet tedavisinde ilk basamak nedir? |
+| p05 | positive | 0.133 | EVET | Migren atağını tetikleyen faktörler nelerdir? |
+| p06 | positive | 0.114 | EVET | Migren ağrısı vücudun neresinde ve nasıl hissedilir? |
+| p07 | positive | 0.249 | EVET | Ayda 4'ten fazla migren atağı geçirenlerde ne tür tedavi önerilir? |
+| p08 | positive | 0.133 | EVET | Migren atağında kullanılan ilaç grupları nelerdir? |
+| p09 | positive | 0.216 | EVET | Hipertansiyon için hangi tansiyon değerleri eşik kabul edilir? |
+| p10 | positive | 0.226 | EVET | Hipertansiyon neden 'sessiz katil' olarak adlandırılır? |
+| p11 | positive | 0.082 | EVET | Kontrolsüz hipertansiyon hangi ciddi sağlık sorunlarına yol açabilir? |
+| p12 | positive | 0.186 | EVET | Yüksek tansiyon tedavisinde kullanılan ilaç grupları nelerdir? |
+| p13 | positive | 0.135 | EVET | Astım hastalığının belirtileri nelerdir? |
+| p14 | positive | 0.212 | EVET | Astım ataklarını neler tetikleyebilir? |
+| p15 | positive | 0.094 | EVET | Astımda düzenli kullanılan inhaler ilaç türü nedir? |
+| p16 | positive | 0.126 | HAYIR | Gastritin en sık nedeni olan bakteri hangisidir? |
+| p17 | positive | 0.108 | HAYIR | Gastrit tanısı nasıl konur? |
+| p18 | positive | 0.148 | EVET | Mide asidini azaltmak için hangi ilaç grubu kullanılır? |
+| p19 | positive | 0.195 | EVET | Bel fıtığında bacağa yayılan ağrıya ne ad verilir? |
+| p20 | positive | 0.193 | EVET | Bel fıtığı vakalarının çoğu ameliyatsız mı iyileşir? |
+| n01 | negative | 0.067 | - | Kanser tedavisinde kemoterapinin yan etkileri nelerdir? |
+| n02 | negative | 0.000 | - | Katarakt ameliyatı nasıl yapılır? |
+| n03 | negative | 0.000 | - | Diş çürüğü nasıl önlenir? |
+| n04 | negative | 0.000 | - | Hamilelikte hangi vitaminler alınmalıdır? |
+| n05 | negative | 0.116 | - | Kalp pili takılması hangi durumlarda gereklidir? |
+| n06 | negative | 0.082 | - | Böbrek taşı ağrısı nasıl geçer? |
+| n07 | negative | 0.060 | - | En iyi mercimek çorbası tarifi nedir? |
+| n08 | negative | 0.109 | - | İstanbul'da yarın hava durumu nasıl olacak? |
+| n09 | negative | 0.000 | - | Otomobil motor yağı kaç kilometrede değiştirilmelidir? |
+| n10 | negative | 0.000 | - | Bitcoin fiyatı bugün ne kadar? |

eval/run_eval.py

@@ -0,0 +1,173 @@
+"""
+Benchmark / Threshold Analizi
+-----------------------------------
+30 test sorusunu (eval/test_questions.json) çalıştırır:
+  - Her soru için embed edilir, ChromaDB'de en yakın chunk aranır, top-1 skor kaydedilir.
+  - Farklı threshold değerleri için confusion matrix hesaplanır:
+        Pozitif soru + skor >= threshold  -> TP (doğru yanıtlandı)
+        Pozitif soru + skor <  threshold  -> FN (yanlışlıkla reddedildi)
+        Negatif soru + skor <  threshold  -> TN (doğru reddedildi)
+        Negatif soru + skor >= threshold  -> FP (yanlışlıkla yanıtlandı / halüsinasyon riski)
+  - En iyi accuracy/F1'i veren threshold önerilir.
+  - Ayrıca pozitif sorularda, dönen chunk'ın url'i beklenen url ile eşleşiyor mu
+    (retrieval doğruluğu) kontrol edilir.
+
+Çalıştırma:
+    EMBEDDING_BACKEND=mock python eval/run_eval.py
+"""
+import sys
+import os
+import json
+
+sys.path.append(os.path.join(os.path.dirname(__file__), ".."))
+
+from src import config
+from src.vector_store import VectorStore
+from src.embedder import get_embedder
+
+THRESHOLD_SWEEP = [round(x * 0.05, 2) for x in range(1, 20)]  # 0.05, 0.10, ..., 0.95
+
+
+def load_questions():
+    path = os.path.join(os.path.dirname(__file__), "test_questions.json")
+    with open(path, encoding="utf-8") as f:
+        data = json.load(f)
+    return data["questions"]
+
+
+def run_raw_search(questions, store, embedder, top_k=None):
+    """Her soru için (threshold uygulamadan) top-1 skoru ve retrieval bilgisini toplar."""
+    results = []
+    for q in questions:
+        query_vector = embedder.embed([q["question"]])[0]
+        hits = store.query(query_vector, top_k=top_k or config.TOP_K)
+        top = hits[0] if hits else {"score": 0.0, "url": None, "chunk_text": ""}
+        results.append({
+            "id": q["id"],
+            "type": q["type"],
+            "question": q["question"],
+            "expected_source_url": q.get("expected_source_url"),
+            "top_score": top["score"],
+            "top_url": top.get("url"),
+            "top_chunk_preview": top.get("chunk_text", "")[:80],
+        })
+    return results
+
+
+def confusion_matrix_at_threshold(results, threshold):
+    tp = fn = tn = fp = 0
+    for r in results:
+        answered = r["top_score"] >= threshold
+        if r["type"] == "positive":
+            if answered:
+                tp += 1
+            else:
+                fn += 1
+        else:  # negative
+            if answered:
+                fp += 1
+            else:
+                tn += 1
+    total = tp + fn + tn + fp
+    accuracy = (tp + tn) / total if total else 0.0
+    precision = tp / (tp + fp) if (tp + fp) else 0.0
+    recall = tp / (tp + fn) if (tp + fn) else 0.0
+    f1 = 2 * precision * recall / (precision + recall) if (precision + recall) else 0.0
+    return {"threshold": threshold, "tp": tp, "fn": fn, "tn": tn, "fp": fp,
+            "accuracy": accuracy, "precision": precision, "recall": recall, "f1": f1}
+
+
+def sweep_thresholds(results):
+    return [confusion_matrix_at_threshold(results, t) for t in THRESHOLD_SWEEP]
+
+
+def retrieval_accuracy(results):
+    """Pozitif sorularda, en yüksek skorlu chunk'ın url'i beklenen url ile eşleşiyor mu?"""
+    positives = [r for r in results if r["type"] == "positive"]
+    correct = sum(1 for r in positives if r["top_url"] == r["expected_source_url"])
+    return correct, len(positives)
+
+
+def main():
+    print(f"Backend: {config.EMBEDDING_BACKEND} | Chroma: {config.CHROMA_PERSIST_DIR}\n")
+
+    questions = load_questions()
+    store = VectorStore()
+    embedder = get_embedder()
+
+    print(f"Toplam {len(questions)} soru çalıştırılıyor "
+          f"({sum(1 for q in questions if q['type']=='positive')} pozitif, "
+          f"{sum(1 for q in questions if q['type']=='negative')} negatif)...\n")
+
+    results = run_raw_search(questions, store, embedder)
+
+    # --- Ham sonuçlar ---
+    print(f"{'ID':5} {'Tip':9} {'Skor':7} {'Doğru URL mü?':14} Soru")
+    print("-" * 100)
+    for r in results:
+        url_match = ""
+        if r["type"] == "positive":
+            url_match = "EVET" if r["top_url"] == r["expected_source_url"] else "HAYIR"
+        print(f"{r['id']:5} {r['type']:9} {r['top_score']:.3f}   {url_match:14} {r['question'][:60]}")
+
+    correct, total_pos = retrieval_accuracy(results)
+    print(f"\nRetrieval doğruluğu (pozitif sorularda doğru kaynağı bulma): {correct}/{total_pos}")
+
+    # --- Threshold sweep ---
+    print("\n" + "=" * 70)
+    print("THRESHOLD SWEEP")
+    print("=" * 70)
+    print(f"{'Thr':6} {'TP':4} {'FN':4} {'TN':4} {'FP':4} {'Acc':6} {'Prec':6} {'Rec':6} {'F1':6}")
+    sweep = sweep_thresholds(results)
+    for s in sweep:
+        print(f"{s['threshold']:.2f}   {s['tp']:4} {s['fn']:4} {s['tn']:4} {s['fp']:4} "
+              f"{s['accuracy']:.3f}  {s['precision']:.3f}  {s['recall']:.3f}  {s['f1']:.3f}")
+
+    best = max(sweep, key=lambda s: (s["f1"], s["accuracy"]))
+    print(f"\n>>> Önerilen threshold (en iyi F1): {best['threshold']} "
+          f"(accuracy={best['accuracy']:.3f}, precision={best['precision']:.3f}, recall={best['recall']:.3f})")
+
+    write_report(results, sweep, best, correct, total_pos)
+
+
+def write_report(results, sweep, best, correct, total_pos):
+    path = os.path.join(os.path.dirname(__file__), "eval_results.md")
+    lines = [
+        "# Eşik (Threshold) Analizi Sonuçları",
+        "",
+        f"- Embedding backend: `{config.EMBEDDING_BACKEND}`",
+        f"- Toplam soru: {len(results)} "
+        f"({sum(1 for r in results if r['type']=='positive')} pozitif, "
+        f"{sum(1 for r in results if r['type']=='negative')} negatif)",
+        f"- Retrieval doğruluğu (pozitif sorularda doğru url): {correct}/{total_pos}",
+        f"- **Önerilen threshold: {best['threshold']}** "
+        f"(F1={best['f1']:.3f}, accuracy={best['accuracy']:.3f}, "
+        f"precision={best['precision']:.3f}, recall={best['recall']:.3f})",
+        "",
+        "## Threshold Sweep Tablosu",
+        "",
+        "| Threshold | TP | FN | TN | FP | Accuracy | Precision | Recall | F1 |",
+        "|---|---|---|---|---|---|---|---|---|",
+    ]
+    for s in sweep:
+        lines.append(
+            f"| {s['threshold']:.2f} | {s['tp']} | {s['fn']} | {s['tn']} | {s['fp']} | "
+            f"{s['accuracy']:.3f} | {s['precision']:.3f} | {s['recall']:.3f} | {s['f1']:.3f} |"
+        )
+
+    lines += ["", "## Soru Bazlı Ham Sonuçlar", "",
+              "| ID | Tip | Top Score | Top URL Doğru mu | Soru |",
+              "|---|---|---|---|---|"]
+    for r in results:
+        url_match = "-"
+        if r["type"] == "positive":
+            url_match = "EVET" if r["top_url"] == r["expected_source_url"] else "HAYIR"
+        lines.append(f"| {r['id']} | {r['type']} | {r['top_score']:.3f} | {url_match} | {r['question']} |")
+
+    with open(path, "w", encoding="utf-8") as f:
+        f.write("\n".join(lines))
+    print(f"\nRapor yazıldı: {path}")
+
+
+if __name__ == "__main__":
+    main()

eval/test_questions.json

@@ -0,0 +1,35 @@
+{
+  "_note": "BU DOSYA ÖRNEK/PLACEHOLDER'DIR. Sorular data/synthetic_corpus.py'deki 6 sentetik makaleye göre yazılmıştır (sandbox'ta gerçek umutertugrul/turkish-hospital-medical-articles veri setine ağ erişimi yoktu). Gerçek teslim için: (1) build_index.py'yi EMBEDDING_BACKEND=real ile gerçek veri setine karşı çalıştırın, (2) output/turkish_medical_chunks.parquet'i inceleyip GERÇEK chunk içeriklerinden 20 pozitif soru yazın (expected_source_url'leri gerçek makale url'leriyle güncelleyin), (3) veri setinde kesinlikle geçmeyen 10 negatif soru belirleyin.",
+  "questions": [
+    {"id": "p01", "type": "positive", "question": "Tip 2 diyabetin en sık görülen belirtileri nelerdir?", "expected_source_url": "https://ornek-hastane.com/tip2-diyabet"},
+    {"id": "p02", "type": "positive", "question": "Diyabet tanısı hangi testlerle konur?", "expected_source_url": "https://ornek-hastane.com/tip2-diyabet"},
+    {"id": "p03", "type": "positive", "question": "Açlık kan şekeri kaç mg/dL üzerinde olursa diyabet tanısı konur?", "expected_source_url": "https://ornek-hastane.com/tip2-diyabet"},
+    {"id": "p04", "type": "positive", "question": "Tip 2 diyabet tedavisinde ilk basamak nedir?", "expected_source_url": "https://ornek-hastane.com/tip2-diyabet"},
+    {"id": "p05", "type": "positive", "question": "Migren atağını tetikleyen faktörler nelerdir?", "expected_source_url": "https://ornek-hastane.com/migren-tedavisi"},
+    {"id": "p06", "type": "positive", "question": "Migren ağrısı vücudun neresinde ve nasıl hissedilir?", "expected_source_url": "https://ornek-hastane.com/migren-tedavisi"},
+    {"id": "p07", "type": "positive", "question": "Ayda 4'ten fazla migren atağı geçirenlerde ne tür tedavi önerilir?", "expected_source_url": "https://ornek-hastane.com/migren-tedavisi"},
+    {"id": "p08", "type": "positive", "question": "Migren atağında kullanılan ilaç grupları nelerdir?", "expected_source_url": "https://ornek-hastane.com/migren-tedavisi"},
+    {"id": "p09", "type": "positive", "question": "Hipertansiyon için hangi tansiyon değerleri eşik kabul edilir?", "expected_source_url": "https://ornek-hastane.com/hipertansiyon"},
+    {"id": "p10", "type": "positive", "question": "Hipertansiyon neden 'sessiz katil' olarak adlandırılır?", "expected_source_url": "https://ornek-hastane.com/hipertansiyon"},
+    {"id": "p11", "type": "positive", "question": "Kontrolsüz hipertansiyon hangi ciddi sağlık sorunlarına yol açabilir?", "expected_source_url": "https://ornek-hastane.com/hipertansiyon"},
+    {"id": "p12", "type": "positive", "question": "Yüksek tansiyon tedavisinde kullanılan ilaç grupları nelerdir?", "expected_source_url": "https://ornek-hastane.com/hipertansiyon"},
+    {"id": "p13", "type": "positive", "question": "Astım hastalığının belirtileri nelerdir?", "expected_source_url": "https://ornek-hastane.com/astim"},
+    {"id": "p14", "type": "positive", "question": "Astım ataklarını neler tetikleyebilir?", "expected_source_url": "https://ornek-hastane.com/astim"},
+    {"id": "p15", "type": "positive", "question": "Astımda düzenli kullanılan inhaler ilaç türü nedir?", "expected_source_url": "https://ornek-hastane.com/astim"},
+    {"id": "p16", "type": "positive", "question": "Gastritin en sık nedeni olan bakteri hangisidir?", "expected_source_url": "https://ornek-hastane.com/gastrit"},
+    {"id": "p17", "type": "positive", "question": "Gastrit tanısı nasıl konur?", "expected_source_url": "https://ornek-hastane.com/gastrit"},
+    {"id": "p18", "type": "positive", "question": "Mide asidini azaltmak için hangi ilaç grubu kullanılır?", "expected_source_url": "https://ornek-hastane.com/gastrit"},
+    {"id": "p19", "type": "positive", "question": "Bel fıtığında bacağa yayılan ağrıya ne ad verilir?", "expected_source_url": "https://ornek-hastane.com/omurga-fitigi"},
+    {"id": "p20", "type": "positive", "question": "Bel fıtığı vakalarının çoğu ameliyatsız mı iyileşir?", "expected_source_url": "https://ornek-hastane.com/omurga-fitigi"},
+    {"id": "n01", "type": "negative", "question": "Kanser tedavisinde kemoterapinin yan etkileri nelerdir?"},
+    {"id": "n02", "type": "negative", "question": "Katarakt ameliyatı nasıl yapılır?"},
+    {"id": "n03", "type": "negative", "question": "Diş çürüğü nasıl önlenir?"},
+    {"id": "n04", "type": "negative", "question": "Hamilelikte hangi vitaminler alınmalıdır?"},
+    {"id": "n05", "type": "negative", "question": "Kalp pili takılması hangi durumlarda gereklidir?"},
+    {"id": "n06", "type": "negative", "question": "Böbrek taşı ağrısı nasıl geçer?"},
+    {"id": "n07", "type": "negative", "question": "En iyi mercimek çorbası tarifi nedir?"},
+    {"id": "n08", "type": "negative", "question": "İstanbul'da yarın hava durumu nasıl olacak?"},
+    {"id": "n09", "type": "negative", "question": "Otomobil motor yağı kaç kilometrede değiştirilmelidir?"},
+    {"id": "n10", "type": "negative", "question": "Bitcoin fiyatı bugün ne kadar?"}
+  ]
+}

output/turkish_medical_chunks.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:0e7944b8e0d1a29840e56c99e49f36b16f1be0e90056774f29fb87c01660bd12
+size 13707

requirements.txt

@@ -0,0 +1,10 @@
+datasets>=2.19
+sentence-transformers>=3.0
+transformers>=4.46
+torch>=2.2
+chromadb>=0.5
+pandas>=2.0
+pyarrow>=15.0
+scikit-learn>=1.3
+gradio>=5.0
+huggingface_hub>=0.24

src/build_index.py

@@ -0,0 +1,82 @@
+"""
+Ana Pipeline: Veri Yükleme -> Chunking -> Embedding -> ChromaDB -> Parquet Export
+------------------------------------------------------------------------------------
+Çalıştırma:
+    EMBEDDING_BACKEND=mock python src/build_index.py          # offline test
+    EMBEDDING_BACKEND=real python src/build_index.py          # gerçek model (internet+GPU önerilir)
+
+Çıktılar:
+    - chroma_db/  (persist edilmiş vektör veritabanı)
+    - output/turkish_medical_chunks.parquet  (url, chunk_text, chunk_vector, title,
+      __source, parent_id, chunk_id sütunlarını içeren, HF Hub'a yüklenebilir dataset)
+"""
+import sys
+import os
+import time
+
+sys.path.append(os.path.join(os.path.dirname(__file__), ".."))
+
+from src import config
+from src.data_loader import load_articles
+from src.chunking import chunk_articles
+from src.embedder import get_embedder
+from src.vector_store import VectorStore
+
+
+def build_index(sample_size: int = None, force_synthetic: bool = False, reset: bool = True):
+    t0 = time.time()
+
+    print(f"[1/4] Veri seti yükleniyor (hedef: {sample_size or config.SAMPLE_SIZE} makale)...")
+    articles, used_synthetic = load_articles(sample_size=sample_size, force_synthetic=force_synthetic)
+    print(f"      -> {len(articles)} makale yüklendi. (sentetik veri kullanıldı mı: {used_synthetic})")
+
+    print(f"[2/4] Chunking (chunk_size={config.CHUNK_SIZE_TOKENS} token, "
+          f"overlap={config.CHUNK_OVERLAP_TOKENS} token)...")
+    chunks = chunk_articles(articles)
+    print(f"      -> {len(chunks)} chunk üretildi.")
+
+    print(f"[3/4] Embedding üretiliyor (backend={config.EMBEDDING_BACKEND})...")
+    chunk_texts = [c["chunk_text"] for c in chunks]
+    embedder = get_embedder(fit_corpus=chunk_texts)
+    vectors = embedder.embed(chunk_texts)
+    print(f"      -> {vectors.shape[0]} vektör üretildi, boyut={vectors.shape[1]}")
+
+    from src.embedder import MockEmbedder
+    if isinstance(embedder, MockEmbedder):
+        embedder.save()
+        print(f"      -> Mock embedder durumu kaydedildi: {config.MOCK_EMBEDDER_STATE_PATH}")
+
+    print(f"[4/4] ChromaDB'ye yazılıyor ve parquet dışa aktarılıyor...")
+    store = VectorStore(reset=reset)
+    store.upsert_chunks(chunks, vectors)
+    print(f"      -> ChromaDB koleksiyonunda toplam {store.count()} chunk.")
+
+    export_parquet(chunks, vectors)
+
+    print(f"\nTamamlandı ({time.time() - t0:.1f}s). "
+          f"{len(articles)} makale -> {len(chunks)} chunk -> {vectors.shape[1]} boyutlu vektörler.")
+    return chunks, vectors, used_synthetic
+
+
+def export_parquet(chunks: list, vectors):
+    """Ödevin istediği 3 zorunlu sütun (url, chunk_text, chunk_vector) + opsiyonel
+    metadata (title, __source, parent_id, chunk_id) ile parquet dosyası üretir.
+    Bu dosya doğrudan bir Hugging Face Dataset reposuna yüklenebilir."""
+    import pandas as pd
+
+    os.makedirs(config.OUTPUT_DIR, exist_ok=True)
+    df = pd.DataFrame({
+        "url": [c["url"] for c in chunks],
+        "chunk_text": [c["chunk_text"] for c in chunks],
+        "chunk_vector": [v.tolist() for v in vectors],
+        "title": [c["title"] for c in chunks],
+        "__source": [c["__source"] for c in chunks],
+        "parent_id": [c["parent_id"] for c in chunks],
+        "chunk_id": [c["chunk_id"] for c in chunks],
+    })
+    df.to_parquet(config.CHUNKS_PARQUET_PATH, index=False)
+    print(f"      -> Parquet: {config.CHUNKS_PARQUET_PATH} ({len(df)} satır)")
+
+
+if __name__ == "__main__":
+    build_index()

src/chunking.py

@@ -0,0 +1,118 @@
+"""
+Chunking Modülü — Sabit Token Sayısı + Overlap
+--------------------------------------------------
+Neden bu strateji? (Detaylı gerekçe README'de.)
+- Embedding modelinin (magibu/embeddingmagibu-200m) kendi tokenizer'ını kullanarak
+  token bazlı bölme yapmak, "chunk boyutu" ile "modelin gerçekte işlediği birim"
+  arasında birebir eşleşme sağlar (paragraf bazlı bölmede paragraf uzunlukları
+  çok değişken olabilir, semantik bölme ise fazladan bir model/karmaşıklık
+  gerektirir).
+- Overlap (örtüşme), bir cümlenin/bilginin tam chunk sınırında kesilip anlamının
+  bölünmesini önler; chunk sonundaki bağlamın bir kısmı bir sonraki chunk'ın
+  başında da tekrar eder.
+
+Gerçek kullanımda tokenizer, embedding modelinin kendi AutoTokenizer'ıdır
+(get_tokenizer -> transformers.AutoTokenizer.from_pretrained(EMBEDDING_MODEL_ID)).
+Offline/mock modda basit bir whitespace tokenizer'a düşülür (yaklaşık ama
+pipeline'ı test etmek için yeterli).
+"""
+import sys
+import os
+
+sys.path.append(os.path.join(os.path.dirname(__file__), ".."))
+from src import config
+
+
+class _WhitespaceTokenizer:
+    """Mock/offline mod için basit tokenizer (gerçek tokenizer indirilemediğinde)."""
+
+    def encode(self, text, add_special_tokens=False):
+        return text.split()
+
+    def decode(self, tokens):
+        return " ".join(tokens)
+
+
+_tokenizer_cache = {}
+
+
+def get_tokenizer():
+    """Embedding modelinin gerçek tokenizer'ını döner; indirilemezse whitespace fallback."""
+    if "tokenizer" in _tokenizer_cache:
+        return _tokenizer_cache["tokenizer"]
+
+    if config.EMBEDDING_BACKEND == "real":
+        try:
+            from transformers import AutoTokenizer
+            tok = AutoTokenizer.from_pretrained(config.EMBEDDING_MODEL_ID)
+            _tokenizer_cache["tokenizer"] = tok
+            return tok
+        except Exception as e:
+            print(f"[UYARI] Gerçek tokenizer indirilemedi ({e}), whitespace tokenizer kullanılıyor.")
+
+    tok = _WhitespaceTokenizer()
+    _tokenizer_cache["tokenizer"] = tok
+    return tok
+
+
+def chunk_text(text: str, chunk_size: int = None, overlap: int = None, tokenizer=None):
+    """
+    Metni sabit token sayısı + overlap ile parçalara böler.
+    Dönüş: list[str] (her biri bir chunk metni)
+    """
+    chunk_size = chunk_size or config.CHUNK_SIZE_TOKENS
+    overlap = overlap or config.CHUNK_OVERLAP_TOKENS
+    tokenizer = tokenizer or get_tokenizer()
+
+    if overlap >= chunk_size:
+        raise ValueError("overlap, chunk_size'dan küçük olmalıdır.")
+
+    token_ids = tokenizer.encode(text, add_special_tokens=False)
+    if len(token_ids) == 0:
+        return []
+
+    chunks = []
+    step = chunk_size - overlap
+    start = 0
+    while start < len(token_ids):
+        end = min(start + chunk_size, len(token_ids))
+        chunk_tokens = token_ids[start:end]
+        chunk_str = tokenizer.decode(chunk_tokens).strip()
+        if chunk_str:
+            chunks.append(chunk_str)
+        if end == len(token_ids):
+            break
+        start += step
+
+    return chunks
+
+
+def chunk_articles(articles: list, chunk_size: int = None, overlap: int = None):
+    """
+    Bir makale listesini ([{url, title, text, __source}, ...]) chunk'lara böler.
+    Dönüş: list[dict] — her biri {url, title, __source, parent_id, chunk_id, chunk_text}
+    """
+    tokenizer = get_tokenizer()
+    all_chunks = []
+    for parent_id, article in enumerate(articles):
+        text = article.get("text", "") or ""
+        pieces = chunk_text(text, chunk_size=chunk_size, overlap=overlap, tokenizer=tokenizer)
+        for i, piece in enumerate(pieces):
+            all_chunks.append({
+                "url": article.get("url", ""),
+                "title": article.get("title", ""),
+                "__source": article.get("__source", ""),
+                "parent_id": parent_id,
+                "chunk_id": f"{parent_id}_{i}",
+                "chunk_text": piece,
+            })
+    return all_chunks
+
+
+if __name__ == "__main__":
+    from data.synthetic_corpus import SYNTHETIC_ARTICLES
+    chunks = chunk_articles(SYNTHETIC_ARTICLES, chunk_size=60, overlap=15)
+    print(f"{len(SYNTHETIC_ARTICLES)} makaleden {len(chunks)} chunk üretildi.")
+    for c in chunks[:3]:
+        print(f"\n[{c['chunk_id']}] {c['title']}")
+        print(c["chunk_text"][:150], "...")

src/config.py

@@ -0,0 +1,57 @@
+"""
+Merkezi konfigürasyon.
+Tüm modüller parametrelerini buradan okur; tek bir yerden ayarlanabilir.
+"""
+import os
+
+# --------------------------------------------------------------------------
+# Veri seti
+# --------------------------------------------------------------------------
+HF_DATASET_ID = "umutertugrul/turkish-hospital-medical-articles"
+# Veri setindeki tüm parquet dosyaları (14 hastane) — load_data.py bunları birleştirir.
+HF_DATASET_FILES = [
+    "acibadem.parquet", "anadolusaglik.parquet", "atlas.parquet", "baskentistanbul.parquet",
+    "bayindir.parquet", "florence.parquet", "guven.parquet", "liv.parquet",
+    "medicalpark.parquet", "medicalpoint.parquet", "medicana.parquet", "medipol.parquet",
+    "memorial.parquet", "yeditepe.parquet",
+]
+SAMPLE_SIZE = 300          # 100-1000 arası; varsayılan 300 makale
+RANDOM_SEED = 42
+
+# --------------------------------------------------------------------------
+# Chunking (sabit token sayısı + overlap)
+# --------------------------------------------------------------------------
+CHUNK_SIZE_TOKENS = 400     # her chunk'ın hedef token sayısı
+CHUNK_OVERLAP_TOKENS = 80   # ardışık chunk'lar arası örtüşme
+
+# --------------------------------------------------------------------------
+# Embedding modeli
+# --------------------------------------------------------------------------
+EMBEDDING_MODEL_ID = "magibu/embeddingmagibu-200m"
+EMBEDDING_DIM = 768
+EMBEDDING_BACKEND = os.environ.get("EMBEDDING_BACKEND", "mock")  # "real" | "mock"
+
+# --------------------------------------------------------------------------
+# Vektör veritabanı (ChromaDB)
+# --------------------------------------------------------------------------
+CHROMA_PERSIST_DIR = os.path.normpath(os.path.join(os.path.dirname(__file__), "..", "chroma_db"))
+CHROMA_COLLECTION_NAME = "turkish_medical_chunks"
+
+# --------------------------------------------------------------------------
+# Arama / eşik (threshold)
+# --------------------------------------------------------------------------
+# NOT: Bu değer, eval/run_eval.py'nin threshold-sweep sonucuna göre belirlenmiştir
+# VE embedding backend'ine özgüdür. mock (TF-IDF) backend için 0.10 uygunken, gerçek
+# sentence-embedding modeli (magibu/embeddingmagibu-200m) çok farklı bir skor dağılımı
+# üretir (cosine similarity'ler tipik olarak 0.4-0.8 aralığında olur). Backend
+# değiştirildiğinde eval/run_eval.py MUTLAKA yeniden çalıştırılıp bu değer
+# güncellenmelidir — bkz. README "Eşik (Threshold) Analizi".
+SIMILARITY_THRESHOLD = 0.10 if os.environ.get("EMBEDDING_BACKEND", "mock") == "mock" else 0.55
+TOP_K = 3
+
+# --------------------------------------------------------------------------
+# Çıktı dosyaları
+# --------------------------------------------------------------------------
+OUTPUT_DIR = os.path.normpath(os.path.join(os.path.dirname(__file__), "..", "output"))
+CHUNKS_PARQUET_PATH = os.path.join(OUTPUT_DIR, "turkish_medical_chunks.parquet")
+MOCK_EMBEDDER_STATE_PATH = os.path.join(OUTPUT_DIR, "mock_embedder_state.pkl")

src/data_loader.py

@@ -0,0 +1,86 @@
+"""
+Veri Yükleme Katmanı
+------------------------
+load_articles(): umutertugrul/turkish-hospital-medical-articles veri setinden
+rastgele SAMPLE_SIZE kadar makale çeker. Bu ortamda Hugging Face Hub'a ağ
+erişimi olmadığı için, gerçek indirme başarısız olursa (ImportError veya
+bağlantı hatası) otomatik olarak data/synthetic_corpus.py'deki küçük örnek
+korpusa düşer — bu SADECE pipeline'ın uçtan uca çalıştığını göstermek içindir,
+nihai teslimde gerçek veriyle çalıştırılmalıdır (bkz. README "Nasıl Çalıştırılır").
+"""
+import random
+import sys
+import os
+
+sys.path.append(os.path.join(os.path.dirname(__file__), ".."))
+from src import config
+
+
+def load_real_dataset():
+    """Gerçek veri setini Hugging Face Hub'dan çeker (internet + `datasets` gerekir)."""
+    from datasets import load_dataset, Features, Value
+
+    features = Features({
+        "url": Value("string"),
+        "title": Value("string"),
+        "headings": Value("string"),
+        "text": Value("string"),
+        "publish_date": Value("string"),
+        "update_date": Value("string"),
+        "scrape_date": Value("string"),
+        "__source": Value("string"),
+    })
+    files = {name.split(".")[0]: name for name in config.HF_DATASET_FILES}
+    ds = load_dataset(config.HF_DATASET_ID, data_files=files, features=features)
+
+    all_rows = []
+    for split_name, split_ds in ds.items():
+        for row in split_ds:
+            all_rows.append(dict(row))
+    return all_rows
+
+
+def load_synthetic_dataset():
+    """Offline geliştirme/test için küçük sentetik korpus (bkz. data/synthetic_corpus.py)."""
+    from data.synthetic_corpus import SYNTHETIC_ARTICLES
+    return list(SYNTHETIC_ARTICLES)
+
+
+def load_articles(sample_size: int = None, seed: int = None, force_synthetic: bool = False):
+    """
+    Makaleleri yükler ve `sample_size` kadar rastgele örnekler.
+    force_synthetic=True ise (veya gerçek veri setine erişilemezse) sentetik
+    korpusa düşer.
+    Dönüş: list[dict] — her biri en az {url, title, text, __source} içerir.
+    """
+    sample_size = sample_size or config.SAMPLE_SIZE
+    seed = seed if seed is not None else config.RANDOM_SEED
+    rng = random.Random(seed)
+
+    used_synthetic = False
+    if force_synthetic:
+        rows = load_synthetic_dataset()
+        used_synthetic = True
+    else:
+        try:
+            rows = load_real_dataset()
+        except Exception as e:
+            print(f"[UYARI] Gerçek veri seti çekilemedi ({e}). Sentetik korpusa düşülüyor "
+                  f"(SADECE offline test amaçlı — nihai teslimde bu olmamalı).")
+            rows = load_synthetic_dataset()
+            used_synthetic = True
+
+    # text alanı boş olan satırları at
+    rows = [r for r in rows if r.get("text") and r["text"].strip()]
+
+    if len(rows) > sample_size:
+        rows = rng.sample(rows, sample_size)
+
+    return rows, used_synthetic
+
+
+if __name__ == "__main__":
+    articles, is_synthetic = load_articles()
+    print(f"{len(articles)} makale yüklendi. (sentetik mi: {is_synthetic})")
+    for a in articles[:2]:
+        print("-", a["title"], "|", a["url"])

src/embedder.py

@@ -0,0 +1,148 @@
+"""
+Embedding Katmanı
+----------------------
+İki backend destekler (EMBEDDING_BACKEND ortam değişkeni: "real" | "mock"):
+
+  - "real": magibu/embeddingmagibu-200m'i sentence-transformers ile yükler,
+            768 boyutlu gerçek Türkçe embedding üretir. GPU önerilir ama
+            CPU'da da (yavaş) çalışır.
+  - "mock": Bu sandbox'ta Hugging Face model indirme erişimi olmadığı için,
+            TF-IDF tabanlı DETERMİNİSTİK bir "sahte" embedder kullanılır.
+            Gerçek bir semantik embedding modeli DEĞİLDİR, ancak aynı kelime
+            kökenli sorular ile ilgili chunk'lar arasında anlamlı bir cosine
+            similarity sıralaması üretir — bu da threshold/pozitif-negatif
+            ayrıştırma mantığını (asıl test edilmek istenen şey) uçtan uca,
+            GPU/internet olmadan doğrulamamıza yetiyor.
+
+İki backend de aynı arayüzü uygular: embed(texts: list[str]) -> np.ndarray (N, D)
+Bu sayede vector_store.py ve search.py hangi backend kullanıldığından bağımsız çalışır.
+"""
+import os
+import sys
+import numpy as np
+
+sys.path.append(os.path.join(os.path.dirname(__file__), ".."))
+from src import config
+
+
+class RealEmbedder:
+    """magibu/embeddingmagibu-200m ile gerçek 768 boyutlu embedding üretir."""
+
+    def __init__(self, model_id: str = None):
+        from sentence_transformers import SentenceTransformer
+        self.model_id = model_id or config.EMBEDDING_MODEL_ID
+        self.model = SentenceTransformer(self.model_id, trust_remote_code=True)
+        self.dim = self.model.get_sentence_embedding_dimension()
+
+    def embed(self, texts: list) -> np.ndarray:
+        return np.asarray(self.model.encode(texts, normalize_embeddings=True))
+
+
+class MockEmbedder:
+    """
+    TF-IDF tabanlı, deterministik mock embedder. fit(corpus) çağrıldıktan sonra
+    embed() aynı kelime dağarcığı (vocabulary) uzayına projekte eder.
+
+    NOT: Boyut, gerçek modelin 768'i ile AYNI DEĞİLDİR (vocabulary büyüklüğüne
+    bağlıdır) — bu sadece offline pipeline testi içindir, deliverable'daki
+    768 boyut şartı yalnızca gerçek magibu/embeddingmagibu-200m backend'i için
+    geçerlidir. Küçük korpuslarda (bu sandbox'taki gibi) SVD ile boyut indirgeme
+    konu ayrımını bozduğu için kasıtlı olarak KULLANILMAZ; ham TF-IDF vektörleri
+    zaten kelime örtüşmesine dayalı, yorumlanabilir bir benzerlik sağlar.
+    """
+
+    def __init__(self, dim: int = None):
+        from sklearn.feature_extraction.text import TfidfVectorizer
+        self.dim = dim or config.EMBEDDING_DIM
+        self.vectorizer = TfidfVectorizer(
+            analyzer="word",
+            ngram_range=(1, 2),
+            min_df=1,
+            sublinear_tf=True,
+        )
+        self._fitted = False
+
+    def fit(self, corpus: list):
+        self.vectorizer.fit(corpus)
+        self._fitted = True
+
+    def embed(self, texts: list) -> np.ndarray:
+        if not self._fitted:
+            # fit edilmemişse (ör. tek bir sorgu embed ediliyorsa) verilen metinlerle fit et
+            self.fit(texts)
+        tfidf_matrix = self.vectorizer.transform(texts)
+        vectors = tfidf_matrix.toarray()
+        # normalize et (cosine similarity için)
+        norms = np.linalg.norm(vectors, axis=1, keepdims=True)
+        norms[norms == 0] = 1.0
+        return vectors / norms
+
+    def save(self, path: str = None):
+        """Fit edilmiş vectorizer durumunu diske kaydeder (build_index.py çağırır).
+        Böylece search.py AYNI süreçte olmasa bile (ör. ayrı bir script/Gradio app)
+        chunk'ların embed edildiği vektör uzayını yeniden kullanabilir."""
+        import pickle
+        path = path or config.MOCK_EMBEDDER_STATE_PATH
+        os.makedirs(os.path.dirname(path), exist_ok=True)
+        with open(path, "wb") as f:
+            pickle.dump({"vectorizer": self.vectorizer, "dim": self.dim}, f)
+
+    @classmethod
+    def load(cls, path: str = None):
+        import pickle
+        path = path or config.MOCK_EMBEDDER_STATE_PATH
+        with open(path, "rb") as f:
+            state = pickle.load(f)
+        obj = cls(dim=state["dim"])
+        obj.vectorizer = state["vectorizer"]
+        obj._fitted = True
+        return obj
+
+
+_embedder_singleton = {}
+
+
+def get_embedder(fit_corpus: list = None):
+    """
+    Konfigürasyona göre embedder döner. Mock backend için, chunk metinleri
+    külliyatıyla (fit_corpus) bir kez fit edilir ve tekrar kullanılır — bu sayede
+    hem chunk'lar hem de daha sonra gelen sorgular AYNI vektör uzayında kalır.
+    """
+    key = config.EMBEDDING_BACKEND
+    if key in _embedder_singleton:
+        return _embedder_singleton[key]
+
+    if config.EMBEDDING_BACKEND == "real":
+        try:
+            embedder = RealEmbedder()
+        except Exception as e:
+            print(f"[UYARI] Gerçek embedding modeli yüklenemedi ({e}), mock embedder'a düşülüyor.")
+            embedder = _get_or_fit_mock_embedder(fit_corpus)
+    else:
+        embedder = _get_or_fit_mock_embedder(fit_corpus)
+
+    _embedder_singleton[key] = embedder
+    return embedder
+
+
+def _get_or_fit_mock_embedder(fit_corpus):
+    """Diskte kayıtlı bir mock embedder state'i varsa onu yükler (arama/search.py
+    çağrıları için), yoksa (index build sırasında) verilen korpusla fit eder."""
+    if os.path.exists(config.MOCK_EMBEDDER_STATE_PATH):
+        try:
+            return MockEmbedder.load()
+        except Exception as e:
+            print(f"[UYARI] Kayıtlı mock embedder yüklenemedi ({e}), yeniden fit ediliyor.")
+    embedder = MockEmbedder()
+    if fit_corpus:
+        embedder.fit(fit_corpus)
+    return embedder
+
+
+if __name__ == "__main__":
+    from data.synthetic_corpus import SYNTHETIC_ARTICLES
+    corpus = [a["text"] for a in SYNTHETIC_ARTICLES]
+    embedder = get_embedder(fit_corpus=corpus)
+    vecs = embedder.embed(corpus[:2])
+    print("Embedding shape:", vecs.shape)
+    print("Norm (1.0 olmalı):", np.linalg.norm(vecs[0]))

src/search.py

@@ -0,0 +1,96 @@
+"""
+Arama & Eşik (Threshold) Yönetimi
+--------------------------------------
+Sorguyu embed eder, ChromaDB'de en yakın TOP_K chunk'ı bulur. En yüksek
+(top-1) benzerlik skoru SIMILARITY_THRESHOLD'un altındaysa sistem
+"Bu sorunun cevabı dokümanlarımda yer almamaktadır" der ve LLM'e hiçbir
+chunk göndermez (böylece halüsinasyon riski ortadan kalkar). Eşiğin
+üzerindeyse, en alakalı chunk'lar (ve kaynak url'leri) döndürülür.
+
+NOT: Threshold'un doğru değeri, embedding modeline ve veri setine göre
+DENEYSEL olarak belirlenmelidir — bkz. eval/run_eval.py ve README'deki
+"Eşik (Threshold) Analizi" bölümü.
+"""
+import sys
+import os
+
+sys.path.append(os.path.join(os.path.dirname(__file__), ".."))
+from src import config
+from src.embedder import get_embedder
+from src.vector_store import VectorStore
+
+NO_ANSWER_MESSAGE = "Bu sorunun cevabı dokümanlarımda yer almamaktadır."
+
+
+class RAGSearcher:
+    def __init__(self, store: VectorStore = None, embedder=None, threshold: float = None, top_k: int = None):
+        self.store = store or VectorStore()
+        self.embedder = embedder or get_embedder()
+        self.threshold = threshold if threshold is not None else config.SIMILARITY_THRESHOLD
+        self.top_k = top_k or config.TOP_K
+
+    def search(self, question: str):
+        """
+        Dönüş: {
+            "question": str,
+            "answered": bool,
+            "top_score": float,
+            "message": str,               # answered=False ise NO_ANSWER_MESSAGE
+            "retrieved_chunks": list[dict],  # answered=True ise threshold üstü chunk'lar
+        }
+        """
+        query_vector = self.embedder.embed([question])[0]
+        results = self.store.query(query_vector, top_k=self.top_k)
+
+        top_score = results[0]["score"] if results else 0.0
+        answered = top_score >= self.threshold
+
+        if not answered:
+            return {
+                "question": question,
+                "answered": False,
+                "top_score": top_score,
+                "message": NO_ANSWER_MESSAGE,
+                "retrieved_chunks": [],
+            }
+
+        relevant = [r for r in results if r["score"] >= self.threshold]
+        return {
+            "question": question,
+            "answered": True,
+            "top_score": top_score,
+            "message": None,
+            "retrieved_chunks": relevant,
+        }
+
+
+def format_answer_for_llm(result: dict) -> str:
+    """
+    Bir LLM'e (ör. Anthropic API) beslenecek bağlam metnini hazırlar.
+    Bu fonksiyon retrieval katmanı ile generation katmanı arasındaki köprüdür;
+    ödev kapsamı asıl retrieval+threshold mekanizması olduğu için burada basit
+    tutulmuştur. Gerçek bir sohbet asistanına bağlamak için bu context'i
+    sistem promptuna ekleyip "SADECE bu bağlama dayanarak cevap ver" talimatı
+    vermek yeterlidir (bkz. README "Sonraki Adım" bölümü).
+    """
+    if not result["answered"]:
+        return result["message"]
+
+    context_blocks = []
+    for chunk in result["retrieved_chunks"]:
+        context_blocks.append(
+            f"[Kaynak: {chunk['title']} - {chunk['url']}]\n{chunk['chunk_text']}"
+        )
+    return "\n\n---\n\n".join(context_blocks)
+
+
+if __name__ == "__main__":
+    searcher = RAGSearcher()
+    for q in ["Diyabetin belirtileri nelerdir?", "Marsta hayat var mı?"]:
+        r = searcher.search(q)
+        print(f"\nSoru: {q}")
+        print(f"Yanıtlandı mı: {r['answered']} (top_score={r['top_score']:.3f}, threshold={searcher.threshold})")
+        if r["answered"]:
+            print("İlk chunk:", r["retrieved_chunks"][0]["chunk_text"][:100], "...")
+        else:
+            print("Mesaj:", r["message"])

src/vector_store.py

@@ -0,0 +1,118 @@
+"""
+Vektör Veritabanı Katmanı — ChromaDB
+------------------------------------------
+ÖNEMLİ TASARIM KARARI: Chroma'nın kendi built-in embedding fonksiyonu
+KULLANILMAZ. Embedding'ler her zaman src/embedder.py tarafından ayrı olarak
+üretilir ve Chroma'ya hazır vektör olarak verilir (embedding_function=None).
+
+Bunun nedeni: "vektör veritabanı" (nerede saklanacağı/aranacağı) ile
+"embedding modeli" (vektörün nasıl üretileceği) birbirinden bağımsız iki karar
+olmalı — ödev talimatında da özellikle belirtildiği gibi. Bu ayrım sayesinde
+embedding backend'i (mock <-> real) değiştirmek Chroma katmanını hiç etkilemez.
+"""
+import sys
+import os
+import numpy as np
+
+sys.path.append(os.path.join(os.path.dirname(__file__), ".."))
+from src import config
+
+
+class VectorStore:
+    def __init__(self, persist_dir: str = None, collection_name: str = None, reset: bool = False):
+        import chromadb
+
+        self.persist_dir = persist_dir or config.CHROMA_PERSIST_DIR
+        self.collection_name = collection_name or config.CHROMA_COLLECTION_NAME
+
+        self.client = chromadb.PersistentClient(path=self.persist_dir)
+
+        if reset:
+            try:
+                self.client.delete_collection(self.collection_name)
+            except Exception:
+                pass
+
+        # embedding_function=None -> Chroma vektör üretmeye ÇALIŞMAZ, bizim
+        # verdiğimiz hazır vektörleri kullanır.
+        self.collection = self.client.get_or_create_collection(
+            name=self.collection_name,
+            metadata={"hnsw:space": "cosine"},
+        )
+
+    def upsert_chunks(self, chunks: list, vectors: np.ndarray):
+        """
+        chunks: list[dict] — her biri {chunk_id, url, title, __source, parent_id, chunk_text}
+        vectors: np.ndarray (N, D) — chunks ile aynı sırada, aynı uzunlukta
+        """
+        assert len(chunks) == len(vectors), "chunks ve vectors uzunlukları eşleşmeli"
+        if len(chunks) == 0:
+            return
+
+        self.collection.upsert(
+            ids=[c["chunk_id"] for c in chunks],
+            embeddings=[v.tolist() for v in vectors],
+            documents=[c["chunk_text"] for c in chunks],
+            metadatas=[
+                {
+                    "url": c["url"],
+                    "title": c["title"],
+                    "__source": c["__source"],
+                    "parent_id": c["parent_id"],
+                }
+                for c in chunks
+            ],
+        )
+
+    def query(self, query_vector: np.ndarray, top_k: int = None):
+        """
+        query_vector: np.ndarray (D,)
+        Dönüş: list[dict] — [{chunk_id, chunk_text, url, title, __source, score}]
+        score = cosine SIMILARITY (1'e yakın = çok benzer; Chroma "cosine" space'te
+        distance = 1 - similarity döner, biz burada similarity'e çeviriyoruz).
+        """
+        top_k = top_k or config.TOP_K
+        results = self.collection.query(
+            query_embeddings=[query_vector.tolist()],
+            n_results=top_k,
+        )
+
+        out = []
+        ids = results["ids"][0]
+        docs = results["documents"][0]
+        metas = results["metadatas"][0]
+        distances = results["distances"][0]
+        for i in range(len(ids)):
+            similarity = 1.0 - distances[i]  # cosine distance -> cosine similarity
+            out.append({
+                "chunk_id": ids[i],
+                "chunk_text": docs[i],
+                "url": metas[i]["url"],
+                "title": metas[i]["title"],
+                "__source": metas[i]["__source"],
+                "parent_id": metas[i]["parent_id"],
+                "score": similarity,
+            })
+        return out
+
+    def count(self):
+        return self.collection.count()
+
+
+if __name__ == "__main__":
+    import shutil
+    test_dir = "/tmp/chroma_test"
+    shutil.rmtree(test_dir, ignore_errors=True)
+
+    store = VectorStore(persist_dir=test_dir, collection_name="test", reset=True)
+    dummy_chunks = [
+        {"chunk_id": "0_0", "url": "u1", "title": "t1", "__source": "s1", "parent_id": 0, "chunk_text": "diyabet insülin kan şekeri"},
+        {"chunk_id": "1_0", "url": "u2", "title": "t2", "__source": "s2", "parent_id": 1, "chunk_text": "migren baş ağrısı tetikleyici"},
+    ]
+    dummy_vectors = np.array([[1.0, 0.0, 0.0], [0.0, 1.0, 0.0]])
+    store.upsert_chunks(dummy_chunks, dummy_vectors)
+    print("count:", store.count())
+
+    res = store.query(np.array([0.9, 0.1, 0.0]), top_k=2)
+    for r in res:
+        print(r["chunk_id"], round(r["score"], 3), r["chunk_text"])

tests/test_chunking.py

@@ -0,0 +1,64 @@
+"""
+Chunking modülü testleri.
+Çalıştırma: python tests/test_chunking.py
+"""
+import sys
+import os
+
+sys.path.append(os.path.join(os.path.dirname(__file__), ".."))
+from src.chunking import chunk_text, chunk_articles, _WhitespaceTokenizer
+
+
+def test_chunk_respects_size_and_overlap():
+    tok = _WhitespaceTokenizer()
+    text = " ".join([f"kelime{i}" for i in range(100)])  # 100 "token"
+    chunks = chunk_text(text, chunk_size=30, overlap=10, tokenizer=tok)
+
+    # Beklenen chunk sayısı: step=20, (100-30)/20 + 1 = 4.5 -> 5 chunk (üste yuvarlanır)
+    assert len(chunks) >= 4, f"Beklenenden az chunk: {len(chunks)}"
+
+    # İlk chunk'ın son 10 kelimesi, ikinci chunk'ın ilk 10 kelimesiyle örtüşmeli
+    first_words = chunks[0].split()
+    second_words = chunks[1].split()
+    assert first_words[-10:] == second_words[:10], "Overlap doğru uygulanmamış"
+    print("test_chunk_respects_size_and_overlap: OK")
+
+
+def test_chunk_short_text_single_chunk():
+    tok = _WhitespaceTokenizer()
+    text = "kısa bir metin"
+    chunks = chunk_text(text, chunk_size=100, overlap=10, tokenizer=tok)
+    assert len(chunks) == 1
+    assert chunks[0] == text
+    print("test_chunk_short_text_single_chunk: OK")
+
+
+def test_chunk_articles_preserves_metadata():
+    articles = [
+        {"url": "u1", "title": "t1", "__source": "s1", "text": "a b c d e f g h i j k l m n o"},
+        {"url": "u2", "title": "t2", "__source": "s2", "text": "x y z"},
+    ]
+    chunks = chunk_articles(articles, chunk_size=5, overlap=2)
+    assert all("url" in c and "chunk_text" in c and "chunk_id" in c for c in chunks)
+    # parent_id doğru dağıtılmış mı?
+    parent_ids = {c["parent_id"] for c in chunks}
+    assert parent_ids == {0, 1}
+    print("test_chunk_articles_preserves_metadata: OK")
+
+
+def test_overlap_must_be_smaller_than_chunk_size():
+    tok = _WhitespaceTokenizer()
+    try:
+        chunk_text("bir iki üç", chunk_size=5, overlap=5, tokenizer=tok)
+        assert False, "ValueError bekleniyordu"
+    except ValueError:
+        pass
+    print("test_overlap_must_be_smaller_than_chunk_size: OK")
+
+
+if __name__ == "__main__":
+    test_chunk_respects_size_and_overlap()
+    test_chunk_short_text_single_chunk()
+    test_chunk_articles_preserves_metadata()
+    test_overlap_must_be_smaller_than_chunk_size()
+    print("\nTüm testler geçti ✅")