Jakephobia commited on
Commit
dc6d9fe
·
verified ·
1 Parent(s): ae3ed23

Create app.py

Browse files
Files changed (1) hide show
  1. app.py +87 -0
app.py ADDED
@@ -0,0 +1,87 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ import gradio as gr
2
+ from PIL import Image
3
+ import spaces
4
+ import torch
5
+ from transformers import AutoProcessor, Qwen2_5_VLForConditionalGeneration
6
+
7
+ # 1. Definiamo il modello a 7B parametri
8
+ MODEL_ID = "Qwen/Qwen2.5-VL-7B-Instruct"
9
+
10
+ print("Caricamento del modello in corso... Attendere qualche istante.")
11
+
12
+ # 2. Carichiamo il processore e il modello con ottimizzazione della memoria
13
+ processor = AutoProcessor.from_pretrained(MODEL_ID)
14
+ model = Qwen2_5_VLForConditionalGeneration.from_pretrained(
15
+ MODEL_ID, torch_dtype=torch.float16, device_map="auto"
16
+ )
17
+
18
+
19
+ # 3. La funzione che analizza la foto usando ZeroGPU
20
+ @spaces.GPU
21
+ def analizza_cibo_e_ricette(immagine: Image.Image, dieta_utente: str):
22
+ if immagine is None:
23
+ return "Per favore, carica un'immagine del tuo frigorifero, della dispensa o di uno scontrino."
24
+
25
+ # Messaggio di istruzioni inviato al modello
26
+ prompt = f"""
27
+ Sei un assistente nutrizionale esperto.
28
+ 1. Identifica chiaramente tutti gli alimenti ed ingredienti visibili nell'immagine.
29
+ 2. Considera le seguenti preferenze/restrizioni di dieta dell'utente: "{dieta_utente}".
30
+ 3. Suggerisci 2 ricette pratiche da cucinare usando principalmente gli ingredienti rilevati.
31
+
32
+ Rispondi in modo chiaro, ordinato e sempre in lingua italiana.
33
+ """
34
+
35
+ messages = [
36
+ {
37
+ "role": "user",
38
+ "content": [
39
+ {"type": "image", "image": immagine},
40
+ {"type": "text", "text": prompt},
41
+ ],
42
+ }
43
+ ]
44
+
45
+ # Preparazione dei dati per la scheda grafica
46
+ text_prompt = processor.apply_chat_template(
47
+ messages, tokenize=False, add_generation_prompt=True
48
+ )
49
+ inputs = processor(
50
+ text=[text_prompt], images=[immagine], padding=True, return_tensors="pt"
51
+ ).to("cuda")
52
+
53
+ # Generazione della risposta
54
+ generated_ids = model.generate(**inputs, max_new_tokens=600)
55
+ generated_ids_trimmed = [
56
+ out_ids[len(in_ids) :]
57
+ for in_ids, out_ids in zip(inputs.input_ids, generated_ids)
58
+ ]
59
+
60
+ risposta = processor.batch_decode(
61
+ generated_ids_trimmed,
62
+ skip_special_tokens=True,
63
+ clean_up_tokenization_spaces=False,
64
+ )[0]
65
+
66
+ return risposta
67
+
68
+
69
+ # 4. Creazione dell'interfaccia web e dell'API automatica
70
+ demo = gr.Interface(
71
+ fn=analizza_cibo_e_ricette,
72
+ inputs=[
73
+ gr.Image(type="pil", label="Foto Frigo / Dispensa"),
74
+ gr.Textbox(
75
+ label="Preferenze Dieta",
76
+ value="Iperproteica, senza lattosio",
77
+ placeholder="Es: Vegetariana, Keto, Basso contenuto di sale...",
78
+ ),
79
+ ],
80
+ outputs=gr.Textbox(label="Risposta Assistente Cibo"),
81
+ title="API Gestione Cibo & Ricette (Qwen 7B)",
82
+ description="Carica la foto degli alimenti e indica la tua dieta per ottenere l'analisi e le ricette.",
83
+ )
84
+
85
+ # Avvio del server
86
+ if __name__ == "__main__":
87
+ demo.launch()