Vdphacker commited on
Commit
17d7adb
·
verified ·
1 Parent(s): 1896b42

Upload 2 files

Browse files
Files changed (2) hide show
  1. app.py +60 -0
  2. requirements.txt +5 -0
app.py ADDED
@@ -0,0 +1,60 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ from transformers import AutoTokenizer, AutoModelForCausalLM
2
+ import gradio as gr
3
+ import torch
4
+
5
+ print("🔍 Chargement du modèle...")
6
+ model_name = "microsoft/Phi-3-mini-4k-instruct"
7
+
8
+ tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
9
+ model = AutoModelForCausalLM.from_pretrained(
10
+ model_name,
11
+ torch_dtype=torch.float16,
12
+ device_map="auto",
13
+ trust_remote_code=True
14
+ # ✅ FlashAttention-2 DÉSACTIVÉ → pas de dépendance manquante
15
+ )
16
+
17
+ SYSTEM_PROMPT = (
18
+ "Tu es un expert en cybersécurité qui sensibilise le grand public. "
19
+ "Réponds toujours en français, de manière claire, simple et pédagogique. "
20
+ "Donne des conseils pratiques sur : mots de passe, phishing, mises à jour, "
21
+ "authentification à deux facteurs, réseaux Wi-Fi publics, etc. "
22
+ "N'invente pas d'informations. Si tu ne sais pas, dis-le poliment."
23
+ )
24
+
25
+ def generate_response(user_message, history):
26
+ messages = [{"role": "system", "content": SYSTEM_PROMPT}]
27
+ for human, ai in history:
28
+ messages.append({"role": "user", "content": human})
29
+ messages.append({"role": "assistant", "content": ai})
30
+ messages.append({"role": "user", "content": user_message})
31
+
32
+ input_ids = tokenizer.apply_chat_template(
33
+ messages, return_tensors="pt", add_generation_prompt=True
34
+ ).to(model.device)
35
+
36
+ outputs = model.generate(
37
+ input_ids,
38
+ max_new_tokens=256,
39
+ do_sample=True,
40
+ temperature=0.7,
41
+ top_p=0.95,
42
+ pad_token_id=tokenizer.eos_token_id
43
+ )
44
+
45
+ response = tokenizer.decode(outputs[0][input_ids.shape[1]:], skip_special_tokens=True)
46
+ return response
47
+
48
+ demo = gr.ChatInterface(
49
+ fn=generate_response,
50
+ title="🛡️ Assistant Cybersécurité",
51
+ description="Posez-moi des questions sur la sécurité en ligne.",
52
+ examples=[
53
+ "Comment reconnaître un e-mail de phishing ?",
54
+ "Qu'est-ce qu'un mot de passe fort ?",
55
+ "Pourquoi activer la double authentification ?"
56
+ ],
57
+ )
58
+
59
+ if __name__ == "__main__":
60
+ demo.launch()
requirements.txt ADDED
@@ -0,0 +1,5 @@
 
 
 
 
 
 
1
+ torch>=2.1.0
2
+ transformers>=4.38.0
3
+ gradio>=4.20.0
4
+ accelerate>=0.27.0
5
+ sentencepiece