File size: 1,271 Bytes
f68fb00
943e17d
 
f68fb00
943e17d
 
f68fb00
943e17d
 
 
 
f68fb00
 
943e17d
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
f68fb00
 
943e17d
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
import gradio as gr
from openai import OpenAI
import os

# Recupera il token in modo sicuro dalle variabili d'ambiente
token = os.environ.get("HF_TOKEN")

# Inizializza il client con il base URL fornito
client = OpenAI(
    base_url="https://router.huggingface.co/v1",
    api_key=token,
)

def chat_con_glm(messaggio, cronologia):
    # Costruiamo l'array dei messaggi nel formato richiesto
    messages = [{"role": "system", "content": "Sei un assistente utile e competente."}]
    
    # Aggiungiamo lo storico della conversazione
    for user_msg, ai_msg in cronologia:
        messages.append({"role": "user", "content": user_msg})
        messages.append({"role": "assistant", "content": ai_msg})
    
    # Aggiungiamo il nuovo messaggio dell'utente
    messages.append({"role": "user", "content": messaggio})

    # Chiamata all'API di GLM-5.2
    response = client.chat.completions.create(
        model="zai-org/GLM-5.2:novita",
        messages=messages,
    )
    
    return response.choices[0].message.content

# Creiamo l'interfaccia chat pre-impostata di Gradio
demo = gr.ChatInterface(
    fn=chat_con_glm,
    title="GLM-5.2 Chatbot",
    description="Interfaccia web basata su API per il modello GLM-5.2"
)

if __name__ == "__main__":
    demo.launch()