Jesselg commited on
Commit
2fa06cf
·
verified ·
1 Parent(s): d75a1e8

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +27 -10
app.py CHANGED
@@ -24,7 +24,7 @@ SYSTEM_PROMPT = (
24
  "Als je het antwoord niet weet, zeg dan dat je het niet weet en verwijs de gebruiker naar Logius."
25
  )
26
 
27
- # Functie om relevante documenten uit Weaviate op te halen
28
  def fetch_relevant_docs(user_query):
29
  query = {
30
  "query": f"""
@@ -64,18 +64,23 @@ def fetch_relevant_docs(user_query):
64
  print(f"❌ Fout bij ophalen documentatie: {response.status_code}, {response.text}")
65
  return None
66
 
67
- # Functie om antwoord te genereren met Mistral
68
  def generate_answer(vraag, history=[]):
 
 
 
 
 
69
  messages = [{"role": "system", "content": SYSTEM_PROMPT}]
70
 
71
- # Haal relevante documentatie op
72
  documentatie = fetch_relevant_docs(vraag)
73
  if documentatie:
74
- messages.append({"role": "system", "content": f"Hier is de beschikbare documentatie:\n\n{documentatie}"})
75
  else:
76
  return "⚠️ Er is geen relevante documentatie gevonden voor deze vraag."
77
 
78
- # Loop door de gespreksgeschiedenis en voeg alleen geldige entries toe
79
  for turn in history:
80
  if turn[0]: # Controleer of de gebruiker iets zei
81
  messages.append({"role": "user", "content": turn[0]})
@@ -88,26 +93,38 @@ def generate_answer(vraag, history=[]):
88
  # Debug: laat de opgebouwde berichtenstructuur zien
89
  print("DEBUG: Verstuurde prompt naar Mistral:", messages)
90
 
91
- # API call naar Mistral
92
  MISTRAL_API_URL = "https://api.mistral.ai/v1/chat/completions"
93
  MISTRAL_HEADERS = {
94
  "Authorization": f"Bearer {MISTRAL_API_KEY}",
95
  "Content-Type": "application/json"
96
  }
97
 
 
98
  response = requests.post(
99
  MISTRAL_API_URL,
100
  headers=MISTRAL_HEADERS,
101
- json={"messages": messages, "max_tokens": 512, "temperature": 0.2}
 
 
 
 
 
102
  )
103
 
 
104
  if response.status_code == 200:
105
- antwoord = response.json()["choices"][0]["message"]["content"]
106
- return antwoord
 
 
 
 
107
  else:
 
108
  return f"⚠️ Fout bij genereren antwoord: {response.status_code}, {response.text}"
109
 
110
- # Gradio UI
111
  demo = gr.ChatInterface(generate_answer)
112
 
113
  if __name__ == "__main__":
 
24
  "Als je het antwoord niet weet, zeg dan dat je het niet weet en verwijs de gebruiker naar Logius."
25
  )
26
 
27
+ # **Functie om relevante documenten uit Weaviate op te halen**
28
  def fetch_relevant_docs(user_query):
29
  query = {
30
  "query": f"""
 
64
  print(f"❌ Fout bij ophalen documentatie: {response.status_code}, {response.text}")
65
  return None
66
 
67
+ # **Functie om antwoord te genereren met Mistral**
68
  def generate_answer(vraag, history=[]):
69
+ # Check of Mistral API-key bestaat
70
+ if not MISTRAL_API_KEY:
71
+ print("❌ MISTRAL API-key ontbreekt! Controleer je Hugging Face Secrets.")
72
+ return "⚠️ Er is een fout opgetreden met de AI-service. Probeer het later opnieuw."
73
+
74
  messages = [{"role": "system", "content": SYSTEM_PROMPT}]
75
 
76
+ # **Relevante documentatie ophalen**
77
  documentatie = fetch_relevant_docs(vraag)
78
  if documentatie:
79
+ messages.append({"role": "user", "content": f"Hier is de beschikbare documentatie:\n\n{documentatie}"})
80
  else:
81
  return "⚠️ Er is geen relevante documentatie gevonden voor deze vraag."
82
 
83
+ # **Loop door de gespreksgeschiedenis en voeg alleen geldige entries toe**
84
  for turn in history:
85
  if turn[0]: # Controleer of de gebruiker iets zei
86
  messages.append({"role": "user", "content": turn[0]})
 
93
  # Debug: laat de opgebouwde berichtenstructuur zien
94
  print("DEBUG: Verstuurde prompt naar Mistral:", messages)
95
 
96
+ # **Mistral API instellingen**
97
  MISTRAL_API_URL = "https://api.mistral.ai/v1/chat/completions"
98
  MISTRAL_HEADERS = {
99
  "Authorization": f"Bearer {MISTRAL_API_KEY}",
100
  "Content-Type": "application/json"
101
  }
102
 
103
+ # **API-aanroep naar Mistral**
104
  response = requests.post(
105
  MISTRAL_API_URL,
106
  headers=MISTRAL_HEADERS,
107
+ json={
108
+ "model": "mistral-medium", # ✅ Modelnaam toegevoegd!
109
+ "messages": messages,
110
+ "max_tokens": 512,
111
+ "temperature": 0.2
112
+ }
113
  )
114
 
115
+ # **Response verwerken**
116
  if response.status_code == 200:
117
+ data = response.json()
118
+ if "choices" in data and len(data["choices"]) > 0:
119
+ antwoord = data["choices"][0]["message"]["content"]
120
+ return antwoord
121
+ else:
122
+ return "⚠️ Geen geldig antwoord ontvangen van de AI-service."
123
  else:
124
+ print(f"❌ Fout bij Mistral API-aanroep: {response.status_code}, {response.text}")
125
  return f"⚠️ Fout bij genereren antwoord: {response.status_code}, {response.text}"
126
 
127
+ # **Gradio UI**
128
  demo = gr.ChatInterface(generate_answer)
129
 
130
  if __name__ == "__main__":