Update app.py

app.py

@@ -2,23 +2,22 @@ import gradio as gr
 from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline
 import torch
 
-MODEL_NAME = "TinyLlama/TinyLlama-1.1B-Chat-v1.0"  # در صورت نیاز مدل کوچک‌تر انتخاب کنید
+MODEL_NAME = "TinyLlama/TinyLlama-1.1B-Chat-v1.0"  
+
 
-# بارگذاری مدل و توکنایزر
 tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
 model = AutoModelForCausalLM.from_pretrained(
     MODEL_NAME,
-    device_map="auto",           # GPU اگر باشد استفاده می‌کند
-    torch_dtype="auto"           # دقت مناسب سخت‌افزار
+    device_map="auto",           
+    torch_dtype="auto"           
 )
 
-# ساخت پایپلاین تولید متن
+
 generator = pipeline("text-generation", model=model, tokenizer=tokenizer)
 
 def generate_text(prompt, max_new_tokens, temperature, top_p):
     """
-    تولید پاسخ با استفاده از max_new_tokens (مستقل از طول ورودی).
-    در صورت خطای حافظه، یک بار با نصف max_new_tokens تلاش مجدد می‌کند.
+ میتونی حرف بزنی
     """
     max_new_tokens = int(max_new_tokens)
     temperature = float(temperature)