Update app.py

app.py

@@ -4,7 +4,16 @@ import time
 import json
 import sys
 
-# ===== প্রথমে GPU ডিটেক্ট করুন =====
+# ===== ZeroGPU ডেকোরেটর =====
+try:
+    from spaces import GPU
+    HAS_SPACES = True
+    print("✅ spaces মডিউল পাওয়া গেছে")
+except ImportError:
+    HAS_SPACES = False
+    print("⚠️ spaces মডিউল পাওয়া যায়নি")
+
+# ===== GPU ডিটেক্ট =====
 try:
     import torch
     HAS_GPU = torch.cuda.is_available()
@@ -16,7 +25,7 @@ except Exception as e:
     HAS_GPU = False
     print(f"⚠️ torch ইম্পোর্টে সমস্যা: {e}")
 
-# এখন llama_cpp ইম্পোর্ট করুন
+# llama_cpp ইম্পোর্ট
 try:
     from llama_cpp import Llama
     print("✅ llama-cpp-python ইম্পোর্ট সফল")
@@ -47,21 +56,18 @@ model_path = hf_hub_download(
 )
 print(f"✅ ডাউনলোড সম্পূর্ণ: {model_path}")
 
-# --- ২. মডেল লোড (ZeroGPU অটো ডিটেক্ট) ---
+# --- ২. মডেল লোড ---
 print("⏳ মডেল লোড হচ্ছে...")
 cpu_count = os.cpu_count() or 4
 
 def load_model():
-    """ZeroGPU-তে অটো ডিটেক্ট করে GPU/CPU লোড"""
-    
-    # ZeroGPU তে CPU ভার্সন ইনস্টল থাকলেও n_gpu_layers=-1 দিলে GPU চেষ্টা করবে
+    """GPU/CPU অটো ডিটেক্ট"""
     try:
-        # প্রথমে GPU চেষ্টা (ZeroGPU থাকলে কাজ করবে)
         print("🚀 GPU মোডে লোড করার চেষ্টা করছি...")
         llm = Llama(
             model_path=model_path,
             n_ctx=2048,
-            n_gpu_layers=-1,  # GPU ব্যবহারের চেষ্টা
+            n_gpu_layers=-1,
             n_threads=cpu_count,
             n_threads_batch=cpu_count,
             n_batch=512,
@@ -73,13 +79,12 @@ def load_model():
         print(f"⚠️ GPU লোড করতে ব্যর্থ: {e}")
         print("🔄 CPU-তে ফিরে যাচ্ছি...")
     
-    # CPU-তে লোড (ব্যাকআপ)
     try:
         print("🐢 CPU মোডে লোড হচ্ছে...")
         llm = Llama(
             model_path=model_path,
             n_ctx=2048,
-            n_gpu_layers=0,  # CPU-তে সব
+            n_gpu_layers=0,
             n_threads=cpu_count,
             n_threads_batch=cpu_count,
             n_batch=512,
@@ -94,7 +99,7 @@ def load_model():
 llm, device_mode = load_model()
 
 if llm is None:
-    print("❌ মডেল লোড করা সম্ভব হয়নি! সার্ভার চালু হবে না।")
+    print("❌ মডেল লোড করা সম্ভব হয়নি!")
     sys.exit(1)
 
 # --- ৩. ওয়ার্মআপ ---
@@ -139,7 +144,6 @@ HTML_TEMPLATE = """
         }
         .header h2 { margin: 0; font-weight: 400; }
         .header small { opacity: 0.8; font-size: 14px; }
-
         .chat-box {
             background: #f8f9fa;
             border-radius: 12px;
@@ -297,11 +301,9 @@ HTML_TEMPLATE = """
             <h2>🌳 Bonsai 8B (১-বিট) চ্যাট</h2>
             <small>ZeroGPU • মডেল সাইজ: ~১.১৫ GB • <span id="deviceBadge">🔄 লোড হচ্ছে...</span></small>
         </div>
-
         <div class="chat-box" id="chatBox">
             <div class="message bot-msg">👋 হ্যালো! আমি Bonsai 8B। আপনি কী জানতে চান?</div>
         </div>
-
         <div class="input-area">
             <input type="text" id="userInput" placeholder="এখানে প্রশ্ন লিখুন..." />
             <button id="sendBtn">পাঠান</button>
@@ -314,7 +316,6 @@ HTML_TEMPLATE = """
             Powered by llama-cpp-python • Bonsai 8B (Q1_0, 1-bit)
         </div>
     </div>
-
     <script>
         const chatBox = document.getElementById('chatBox');
         const input = document.getElementById('userInput');
@@ -466,7 +467,8 @@ HTML_TEMPLATE = """
 </html>
 """
 
-# --- ৫. রাউট ---
+# ===== ৫. রাউট (ZeroGPU ডেকোরেটর সহ) =====
+
 @app.route('/device')
 def get_device():
     try:
@@ -482,8 +484,21 @@ def get_device():
 def index():
     return render_template_string(HTML_TEMPLATE)
 
-@app.route('/chat', methods=['POST'])
-def chat():
+# ===== ZeroGPU ডেকোরেটর =====
+# এটি সবচেয়ে গুরুত্বপূর্ণ! ZeroGPU চালানোর জন্য বাধ্যতামূলক
+
+if HAS_SPACES:
+    @app.route('/chat', methods=['POST'])
+    @GPU(duration=120)  # ২ মিনিট GPU সময়
+    def chat():
+        return chat_handler()
+else:
+    @app.route('/chat', methods=['POST'])
+    def chat():
+        return chat_handler()
+
+def chat_handler():
+    """আসল চ্যাট হ্যান্ডলার"""
     data = request.get_json()
     user_prompt = data.get('prompt', '')