Pierber commited on
Commit
54dd71a
·
verified ·
1 Parent(s): e8ae272

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +27 -40
app.py CHANGED
@@ -1,55 +1,42 @@
1
  import gradio as gr
2
- from groq import Groq
3
- import os
4
 
5
- # --- TUA CHIAVE GROQ (Diretta, per evitare errori di Segreti) ---
6
- # Ho inserito la chiave che hai condiviso per assicurarci che funzioni subito.
7
- API_KEY = "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"
 
 
8
 
9
  def rispondi_a_marco(messaggio, storia):
 
 
 
 
 
 
 
 
 
 
 
 
 
10
  try:
11
- # 1. Creiamo la connessione (Nuova ogni volta)
12
- client = Groq(api_key=API_KEY)
13
-
14
- # 2. Prompt
15
- system_prompt = """
16
- SEI MARCO, 14 ANNI.
17
- Sei uno studente svogliato, ribelle e sarcastico.
18
- Odi la scuola. Rispondi male ai professori.
19
- Usa slang ("Boh", "Che ansia", "Raga", "Cringe").
20
- NON essere mai servizievole. Rispondi in 1-2 frasi.
21
- """
22
-
23
- # 3. Memoria
24
- messages = [{"role": "system", "content": system_prompt}]
25
- for turno in storia:
26
- if turno[0] and turno[1]:
27
- messages.append({"role": "user", "content": str(turno[0])})
28
- messages.append({"role": "assistant", "content": str(turno[1])})
29
- messages.append({"role": "user", "content": messaggio})
30
-
31
- # 4. CHIAMATA RAPIDA (NO STREAMING)
32
- # Usiamo 'llama-3.1-8b-instant'. È velocissimo (0.5 secondi).
33
- # stream=False impedisce che la connessione cada a metà.
34
- completion = client.chat.completions.create(
35
  model="llama-3.1-8b-instant",
36
  messages=messages,
37
- temperature=0.7,
38
  max_tokens=150,
39
- stream=False
40
  )
 
41
 
42
- return completion.choices[0].message.content
43
-
44
  except Exception as e:
45
- return f"⚠️ ERRORE: {str(e)}"
46
 
47
- # Interfaccia Semplice
48
- demo = gr.ChatInterface(
49
- fn=rispondi_a_marco,
50
- title="Project Janus: Marco (Instant)",
51
- description="Motore: Groq Llama Instant. Velocità massima."
52
- )
53
 
54
  if __name__ == "__main__":
55
  demo.launch()
 
1
  import gradio as gr
2
+ from openai import OpenAI
 
3
 
4
+ # Configurazione Client (Groq via OpenAI lib)
5
+ client = OpenAI(
6
+ api_key="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",
7
+ base_url="https://api.groq.com/openai/v1"
8
+ )
9
 
10
  def rispondi_a_marco(messaggio, storia):
11
+ # 1. Prompt di Sistema
12
+ system_prompt = "SEI MARCO, 14 ANNI. Sei svogliato, ribelle e usi slang. Odi la scuola. Rispondi in massimo 2 frasi."
13
+
14
+ # 2. Costruzione Memoria
15
+ messages = [{"role": "system", "content": system_prompt}]
16
+
17
+ for turno in storia:
18
+ if turno[0] and turno[1]:
19
+ messages.append({"role": "user", "content": str(turno[0])})
20
+ messages.append({"role": "assistant", "content": str(turno[1])})
21
+
22
+ messages.append({"role": "user", "content": messaggio})
23
+
24
  try:
25
+ # 3. Chiamata al modello Veloce (No Streaming)
26
+ response = client.chat.completions.create(
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
27
  model="llama-3.1-8b-instant",
28
  messages=messages,
29
+ temperature=0.8,
30
  max_tokens=150,
31
+ stream=False
32
  )
33
+ return response.choices[0].message.content
34
 
 
 
35
  except Exception as e:
36
+ return f"Errore: {str(e)}"
37
 
38
+ # Interfaccia Minima (Senza Temi)
39
+ demo = gr.ChatInterface(fn=rispondi_a_marco)
 
 
 
 
40
 
41
  if __name__ == "__main__":
42
  demo.launch()