Update app.py

app.py

@@ -1,88 +1,38 @@
-import gradio as gr
 import requests
-from huggingface_hub import InferenceClient
 
-# Instellingen
 WEAVIATE_URL = "https://ojk79flbtdqux0f4uua2qa.c0.europe-west3.gcp.weaviate.cloud/v1/graphql"
 WEAVIATE_API_KEY = "jAFExacOCYMfDgbzlVwPIFrrDHxca9rA6GSs"
 
-client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
-
-
-# 🔍 Functie om data op te halen uit Weaviate
-def fetch_relevant_docs(query_text):
+def fetch_relevant_docs(user_query):
     query = {
-        "query": f"""
-        {{
-          Get {{
+        "query": """
+        {
+          Get {
             DigiD_Document_Vectorized(
-              nearText: {{ concepts: ["{query_text}"] }}
+              nearText: { concepts: ["%s"] }
               limit: 3
-            ) {{
+            ) {
               title
               content
               url
-            }}
-          }}
-        }}
-        """
+            }
+          }
+        }
+        """ % user_query
     }
-    
 
-    headers = {"Authorization": f"Bearer {WEAVIATE_API_KEY}", "Content-Type": "application/json"}
+    headers = {"Authorization": f"Bearer {WEAVIATE_API_KEY}"}
     
+    # ✅ Zorg ervoor dat `response` wordt gedefinieerd voordat we `json()` aanroepen
+    response = requests.post(WEAVIATE_URL, json=query, headers=headers)
+    
+    # ✅ Voeg een print toe om de volledige response te debuggen
     print("DEBUG: Volledige Weaviate API response:")
-    print(response.json())  # Print de volledige Weaviate API response
+    print(response.text)  # Gebruik .text in plaats van .json() om raw output te zien
 
     if response.status_code == 200:
         data = response.json()
         documents = data.get("data", {}).get("Get", {}).get("DigiD_Document_Vectorized", [])
+        return documents  # Hier wordt de data teruggegeven aan de chatbot
 
-        print("DEBUG: Weaviate response:", documents)  # ✅ Debug response
-
-        if not documents:
-            return "Er zijn geen relevante documenten gevonden voor deze vraag."
-
-        combined_text = "\n\n".join([f"**{doc['title']}**\n{doc['content']}" for doc in documents])
-        return combined_text
-    else:
-        print(f"❌ Fout bij ophalen van data uit Weaviate: {response.status_code}, {response.text}")
-        return "Er is een fout opgetreden bij het ophalen van informatie."
-
-
-# 🔹 AI-vraag beantwoorden
-def respond(message, history, system_message, max_tokens, temperature, top_p):
-    documentation = fetch_relevant_docs(message)
-
-    if "Er zijn geen relevante documenten gevonden" in documentation or "Er is een fout opgetreden" in documentation:
-        return documentation  # Geef de foutmelding direct terug
-
-    prompt = f"""
-    Je bent een slimme assistent bij Logius. Gebruik de volgende documentatie om een bondig en feitelijk antwoord te geven:
-
-    {documentation}
-
-    De gebruiker vraagt: "{message}"
-    """
-
-    print("DEBUG: LLM Prompt wordt verstuurd naar Mistral:", prompt)  # ✅ Debug prompt naar LLM
-
-    response = ""
-    for message in client.text_generation(prompt, max_new_tokens=max_tokens, stream=True, temperature=temperature, top_p=top_p):
-        response += message
-        yield response
-
-
-# 🔹 Gradio chatbot interface
-demo = gr.ChatInterface(
-    respond,
-    additional_inputs=[
-        gr.Textbox(value="Je bent een formele, feitelijke en toegankelijke assistent bij Logius.", label="System message"),
-        gr.Slider(minimum=1, maximum=2048, value=512, step=1, label="Max new tokens"),
-        gr.Slider(minimum=0.1, maximum=2.0, value=0.2, step=0.1, label="Temperature"),
-        gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-p (nucleus sampling)"),
-    ],
-)
-
-if __name__ == "__main__":
-    demo.launch()
+    return []  # Als er een fout is, geef een lege lijst terug