glm-5-chat / app.py
ServerX's picture
Create app.py
943e17d verified
Raw History Blame Contribute Delete
1.27 kB
import gradio as gr
from openai import OpenAI
import os
# Recupera il token in modo sicuro dalle variabili d'ambiente
token = os.environ.get("HF_TOKEN")
# Inizializza il client con il base URL fornito
client = OpenAI(
base_url="https://router.huggingface.co/v1",
api_key=token,
)
def chat_con_glm(messaggio, cronologia):
# Costruiamo l'array dei messaggi nel formato richiesto
messages = [{"role": "system", "content": "Sei un assistente utile e competente."}]
# Aggiungiamo lo storico della conversazione
for user_msg, ai_msg in cronologia:
messages.append({"role": "user", "content": user_msg})
messages.append({"role": "assistant", "content": ai_msg})
# Aggiungiamo il nuovo messaggio dell'utente
messages.append({"role": "user", "content": messaggio})
# Chiamata all'API di GLM-5.2
response = client.chat.completions.create(
model="zai-org/GLM-5.2:novita",
messages=messages,
)
return response.choices[0].message.content
# Creiamo l'interfaccia chat pre-impostata di Gradio
demo = gr.ChatInterface(
fn=chat_con_glm,
title="GLM-5.2 Chatbot",
description="Interfaccia web basata su API per il modello GLM-5.2"
)
if __name__ == "__main__":
demo.launch()