| import gradio as gr |
| from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline |
|
|
| |
| model_name = "microsoft/Phi-4-mini-instruct" |
| tokenizer = AutoTokenizer.from_pretrained(model_name) |
| model = AutoModelForCausalLM.from_pretrained( |
| model_name, |
| device_map="auto", |
| torch_dtype="auto", |
| ) |
|
|
| |
| system_prompt = """Tu es un compagnon d'écoute doux et bienveillant. |
| Ton rôle est d'aider la personne à clarifier ce qu'elle vit, sans juger, sans analyser. |
| |
| À chaque réponse : |
| 1. Reformule en quelques mots ce que tu as compris. |
| 2. Aide doucement la personne à exprimer ses sentiments et besoins. |
| 3. Si approprié, propose une petite action concrète qu'elle pourrait envisager. |
| |
| Utilise un style simple, humain, respectueux et posé. |
| Ne donne pas de conseils. Pose seulement une question douce à la fois si besoin. |
| Parle en français naturel, sans anglicismes. |
| """ |
|
|
| |
| chat_pipeline = pipeline( |
| "text-generation", |
| model=model, |
| tokenizer=tokenizer, |
| max_new_tokens=256, |
| temperature=0.5, |
| top_p=0.9, |
| repetition_penalty=1.1, |
| ) |
|
|
| |
| def chat(user_message, history): |
| prompt = system_prompt + "\n\n" |
| for user_msg, bot_msg in history: |
| prompt += f"Utilisateur : {user_msg}\nAssistant : {bot_msg}\n" |
| prompt += f"Utilisateur : {user_message}\nAssistant :" |
| |
| response = chat_pipeline(prompt)[0]["generated_text"] |
| |
| |
| if "Assistant :" in response: |
| response = response.split("Assistant :")[-1].strip() |
| |
| return response |
|
|
| |
| iface = gr.ChatInterface( |
| chat, |
| title="Écoute Empathique (Phi-4 Mini)", |
| description="Un compagnon d'écoute structuré, doux, inspiré de la CNV.", |
| ) |
|
|
| iface |
|
|
