Datasets:

Talayhan
/

task4.2

@@ -8,25 +8,63 @@ app_file: app.py
 pinned: false
 ---
-# 🏥 Tıbbi RAG Sistemi: Halüsinasyon Korumalı Arama
-Bu proje, Türkçe tıbbi dokümanlar üzerinde çalışan ve **eşik değeri (threshold)** kullanarak LLM'lerin uydurma (halüsinasyon) yapmasını engelleyen bir RAG sistemidir. Aranan cevap veritabanında belirli bir benzerlik skorunun altındaysa, sistem "cevap yok" döner ve LLM'e yanıltıcı bir bağlam göndermez.
-## 🚀 Hızlı Başlangıç
-*Not: Proje çevrimdışı (offline) test edilebilmesi için mock (sahte) verilerle geliştirilmiştir. Gerçek veri ve modellerle çalışmak için internet bağlantısı gereklidir ve tüm komutlar `EMBEDDING_BACKEND=real` değişkeni ile çalıştırılmalıdır.*
-```bash
-# 1. Kurulum
-git clone <repo-url>
-cd turkish-medical-rag
-pip install -r requirements.txt
-# 2. İndeks Oluşturma (Chunking -> Embedding -> ChromaDB)
-EMBEDDING_BACKEND=real python src/build_index.py
-# 3. Eşik (Threshold) Analizi
-EMBEDDING_BACKEND=real python eval/run_eval.py
-# 4. Arama ve Gradio Arayüzü
-EMBEDDING_BACKEND=real python app.py

 pinned: false
 ---
+# 🏥 Türkçe Tıbbi RAG Sistemi: Güvenilir ve Eşik Kontrollü Bilgi Getirimi
+Bu proje, `umutertugrul/turkish-hospital-medical-articles` veri setindeki tıbbi makaleleri temel alan gelişmiş bir retrieval (bilgi getirimi) sistemidir. Sistemin temel amacı **halüsinasyonu (uydurma bilgi üretimini) engellemektir.** Gelen soruya karşılık veritabanında yeterli benzerlikte (belirlenen eşik değerinin üzerinde) bir bağlam bulunamazsa, sistem "Bu sorunun cevabı dokümanlarımda yer almamaktadır" yanıtını verir ve LLM'e (Büyük Dil Modeli) hiçbir eksik veya yanlış bilgi iletmez.
+---
+## ⚠️ Geliştirme Süreci ve Kritik Uyarılar
+Bu projenin temel iskeleti **internete kapalı (offline) bir ortamda** inşa edilmiştir. Hugging Face Hub'a erişim sağlanamadığı için gerçek veri setleri ve modeller indirilmeden geliştirme yapılmıştır. Bu durumun getirdiği bazı gereksinimler şunlardır:
+*   **Offline Test Altyapısı:** Kodun sorunsuz çalıştığından emin olmak adına 6 makaleden oluşan bir **sentetik veri seti** (`data/synthetic_corpus.py`) ve TF-IDF temelli bir **mock (sahte) embedder** kullanılmıştır.
+*   **Gerçek Ortam Gereksinimi:** Projeyi eksiksiz kapasitesiyle (gerçek veri seti ve semantik modelle) çalıştırmak için internet bağlantısı olan bir ortama (Google Colab, HF Spaces vb.) ihtiyacınız vardır.
+*   **Çalıştırma Parametresi:** Gerçek sistemi ayağa kaldırmak için tüm komutlarda mutlaka `EMBEDDING_BACKEND=real` çevresel değişkeni kullanılmalıdır. Ayrıca `eval/test_questions.json` içindeki sorular, gerçek veritabanı oluştuktan sonra yeniden düzenlenmelidir.
+---
+## 1. Veri Seti Seçimi ve Hazırlık
+*   **Kullanılan Kaynak:** 14 farklı hastane ve sağlık kurumunun web sitesinden derlenen [`umutertugrul/turkish-hospital-medical-articles`](https://huggingface.co/datasets/umutertugrul/turkish-hospital-medical-articles) veri seti tercih edilmiştir.
+*   **Neden Tercih Edildi?** Veri setinin sunduğu kolon yapısı (`url`, `title`, `text`, `__source`), projenin gerektirdiği zorunlu ve opsiyonel metadata alanlarıyla birebir uyuşmaktadır.
+*   **Veri Örnekleme:** 14 farklı parquet dosyası `src/data_loader.py` üzerinden birleştirilmekte ve `src/config.py` dosyasındaki `SAMPLE_SIZE` parametresine (varsayılan: 300) göre rastgele örneklere ayrılmaktadır.
+## 2. Metin Parçalama (Chunking) Yaklaşımı
+Makalelerin uzunlukları ve paragraf yapıları çok değişken olduğu için "paragraf bazlı bölme" yerine, sistemin istikrarını artıracak **Sabit Token + Örtüşme (Overlap)** stratejisi benimsenmiştir.
+*   `CHUNK_SIZE_TOKENS = 400`: Embedding modelinin kapasitesi göz önünde bulundurularak, konsept bütünlüğünü bozmayacak en ideal boyut seçilmiştir.
+*   `CHUNK_OVERLAP_TOKENS = 80`: Bilginin parçalanma sınırlarında (chunk sınırları) kaybolmaması için yaklaşık %20 oranında bir örtüşme payı bırakılmıştır.
+*Not: Token sayımları doğrudan kullanılan embedding modelinin (`magibu/embeddingmagibu-200m`) kendi tokenizer'ı ile yapılarak tam uyumluluk sağlanmıştır.*
+## 3. Vektör Depolama Mimarisi
+*   **Veritabanı:** Ek bir sunucu kurulumu gerektirmeyen, disk tabanlı **ChromaDB** kullanılmıştır.
+*   **Mimari Karar:** ChromaDB'nin kendi dahili embedding özellikleri devre dışı bırakılmıştır (`embedding_function=None`). Vektörler `src/embedder.py` üzerinden bağımsız olarak üretilip veritabanına kaydedilir. Bu sayede model ve veritabanı bağımlılıkları birbirinden tamamen izole edilmiştir.
+*   **Dışa Aktarım:** Oluşturulan veriler Hugging Face'e yüklenebilecek standartlarda bir parquet dosyasına (`output/turkish_medical_chunks.parquet`) dönüştürülür. Çıktı şu sütunları içerir: `url`, `chunk_text`, `chunk_vector`, `title`, `__source`, `parent_id` ve `chunk_id`.
+## 4. Kullanılan Embedding Modeli
+Semantik arama için **`magibu/embeddingmagibu-200m`** modeli entegre edilmiştir.
+*   **Özellikleri:** 768 vektör boyutuna ve 8.192 tokenlık oldukça geniş bir bağlam penceresine (context window) sahiptir.
+*   **Tercih Sebebi:** Doğrudan Türkçe diline özel distile edilmiş olması ve TR-MTEB testlerinde arama (retrieval) ile STS görevlerinde yüksek performans sergilemesidir.
+## 5. Değerlendirme (Evaluation) ve Eşik (Threshold) Mekanizması
+Proje içerisinde yer alan `eval/run_eval.py` dosyası, sistemin ne kadar doğru yanıt verdiğini test etmek için 20'si veri setinde olan (pozitif), 10'u olmayan (negatif) toplam 30 soruluk bir test grubunu (`eval/test_questions.json`) kullanır.
+Sistem, 0.05 ile 0.95 arasındaki eşik (threshold) değerlerini tarayarak bir **Confusion Matrix (Karmaşıklık Matrisi)** çıkarır. Tıbbi uygulamalarda "yanlış bilgi uydurmak (False Positive)", "bilinen bir cevabı verememekten (False Negative)" çok daha risklidir. Bu nedenle ideal eşik değeri, F1 skorunu maksimize eden aynı zamanda False Positive oranını minimize eden nokta olarak belirlenir.
+**Önemli:** Mock (TF-IDF) ortamında belirlenen ideal eşik değeri ile gerçek embedding modelinin üreteceği kosinüs (cosine) benzerlik skorları tamamen farklı dağılımlar gösterecektir. Gerçek modelle değerlendirme script'i çalıştırıldıktan sonra, çıkan yeni ideal oran `src/config.py` içerisindeki `SIMILARITY_THRESHOLD` değerine manuel olarak girilmelidir.
+---
+## 🚀 Hızlı Kurulum ve Kullanım Rehberi
+Projeyi bilgisayarınıza indirin ve gerekli kütüphaneleri kurun:
+```bash
+git clone <bu-repo>
+cd turkish-medical-rag
+pip install -r requirements.txt