Update app.py

app.py

@@ -2,9 +2,10 @@ import gradio as gr
 from huggingface_hub import InferenceClient
 import os
 
-# 1. Khởi tạo Client (Sử dụng Llama-3.2-3B)
+# 1. Khởi tạo Client với Qwen 2.5 (Ổn định và mạnh mẽ hơn cho Inference API)
 HF_TOKEN = os.getenv("HUGGINGFACE_HUB_TOKEN")
-client = InferenceClient(model="meta-llama/Llama-3.2-3B-Instruct", token=HF_TOKEN)
+# Qwen/Qwen2.5-7B-Instruct là lựa chọn an toàn và Pro nhất hiện tại
+client = InferenceClient(model="Qwen/Qwen2.5-7B-Instruct", token=HF_TOKEN)
 
 custom_css = """
 .header-node { 
@@ -12,10 +13,11 @@ custom_css = """
     padding: 25px; border-radius: 12px; color: white; text-align: center;
     border: 1px solid #334155; margin-bottom: 20px;
 }
+.sidebar-box { background: #f8fafc; padding: 15px; border-radius: 10px; border: 1px solid #e2e8f0; }
 """
 
 def process_chat(message, history, session_memory, profile: gr.OAuthProfile | None):
-    # Trích xuất text từ định dạng Gradio 6
+    # Trích xuất nội dung tin nhắn
     if isinstance(message, dict):
         user_input = message.get("text", "")
     elif isinstance(message, list):
@@ -25,87 +27,89 @@ def process_chat(message, history, session_memory, profile: gr.OAuthProfile | No
 
     user_name = profile.name if profile else "Guest"
     
-    # 2. INTERNAL MEMORY LOGIC
-    system_msg = f"Bạn là NodeAI Pro. Đang hỗ trợ {user_name}."
+    # 2. AUTO-MEMORY LOGIC (Lưu trữ nội bộ)
+    system_msg = f"Bạn là NodeAI Pro, một trợ lý AI cao cấp. Đang hỗ trợ {user_name}."
     if session_memory:
-        system_msg += f" Bối cảnh quan trọng cần nhớ: {session_memory}"
+        system_msg += f" [Hệ thống nhớ]: {session_memory}"
 
     messages = [{"role": "system", "content": system_msg}]
     
-    # Chuyển history sang API format
-    for turn in history:
-        # turn có dạng: {"role": "user", "content": [{"type": "text", "text": "..."}]}
-        role = turn["role"]
-        content = turn["content"][0]["text"]
-        messages.append({"role": role, "content": content})
+    # Chuyển history sang định dạng API
+    if history:
+        for turn in history:
+            role = turn["role"]
+            # Đảm bảo lấy đúng text từ format phức tạp của Gradio 6
+            content = turn["content"][0]["text"] if isinstance(turn["content"], list) else turn["content"]
+            messages.append({"role": role, "content": content})
     
     messages.append({"role": "user", "content": user_input})
 
     try:
         full_response = ""
-        # Gọi API Streaming
-        for token in client.chat_completion(messages=messages, max_tokens=1024, stream=True):
+        # Gọi API với Qwen
+        for token in client.chat_completion(messages=messages, max_tokens=1500, stream=True, temperature=0.7):
             delta = token.choices[0].delta.content
             if delta:
                 full_response += delta
-                # Cập nhật history liên tục cho Gradio 6
-                current_history = history + [
+                # Cập nhật history theo chuẩn Gradio 6
+                new_history = history + [
                     {"role": "user", "content": [{"type": "text", "text": user_input}]},
                     {"role": "assistant", "content": [{"type": "text", "text": full_response}]}
                 ]
-                yield "", current_history, session_memory
+                yield "", new_history, session_memory
         
-        # Tự động tóm tắt hoặc lưu thông tin vào Memory ẩn
-        if len(user_input) > 10:
-            session_memory = f"{session_memory} | Người dùng quan tâm đến: {user_input[:50]}..."
+        # Tự động cập nhật bộ nhớ ẩn sau lượt chat
+        if len(user_input) > 5:
+            new_info = f"Người dùng quan tâm: {user_input[:40]}."
+            session_memory = (session_memory + " " + new_info)[-500:] # Giữ 500 ký tự cuối
 
     except Exception as e:
-        error_history = history + [
-            {"role": "user", "content": [{"type": "text", "text": user_input}]},
-            {"role": "assistant", "content": [{"type": "text", "text": f"❌ Error: {str(e)}"}]}
-        ]
-        yield "", error_history, session_memory
+        error_msg = f"❌ API Error: {str(e)}"
+        yield "", history + [{"role": "assistant", "content": [{"type": "text", "text": error_msg}]}], session_memory
 
 with gr.Blocks(title="NodeAI Pro") as demo:
-    # Bộ nhớ ẩn nội bộ
+    # State lưu trữ Memory trong script
     internal_memory = gr.State("")
 
     gr.HTML("""
         <div class="header-node">
             <h1 style='margin:0'>NODE AI PRO</h1>
-            <p style='margin:0; opacity: 0.7;'>Neural Interface v3.1 • Memory Enabled</p>
+            <p style='margin:0; opacity: 0.7;'>Qwen-2.5 Neural Interface • Memory Enabled</p>
         </div>
     """)
 
     with gr.Row():
         with gr.Column(scale=1):
             with gr.Group():
-                gr.Markdown("### 🛡️ Secure Login")
+                gr.Markdown("### 👤 Profile")
                 login_btn = gr.LoginButton()
                 @gr.render(inputs=login_btn)
                 def render_user(profile: gr.OAuthProfile | None, *args):
                     if profile:
-                        return gr.Markdown(f"👤 User: **{profile.name}**")
-                    return gr.Markdown("🌐 Chế độ: **Ẩn danh**")
+                        return gr.Markdown(f"✅ User: **{profile.name}**")
+                    return gr.Markdown("🌐 Mode: **Anonymous**")
 
-            clear_btn = gr.Button("🗑️ Reset Chat", variant="secondary")
+            with gr.Group():
+                gr.Markdown("### ⚙️ System")
+                gr.Markdown(f"**Engine:** `Qwen-2.5-7B`")
+                gr.Markdown("**Memory:** `Auto-Active` ✅")
+
+            clear_btn = gr.Button("🗑️ Reset Session", variant="secondary")
             
         with gr.Column(scale=4):
-            # Chỉ giữ lại các tham số cơ bản nhất để tránh TypeError
-            chatbot = gr.Chatbot(label="NodeAI Neural Feed", height=550)
+            chatbot = gr.Chatbot(label="NodeAI Console", height=550)
             
             with gr.Row():
-                msg_input = gr.Textbox(placeholder="Nhập lệnh...", show_label=False, scale=9)
+                msg_input = gr.Textbox(placeholder="Nhập yêu cầu...", show_label=False, scale=9)
                 submit_btn = gr.Button("🚀", variant="primary", scale=1)
 
-    # Sự kiện
-    input_list = [msg_input, chatbot, internal_memory]
-    output_list = [msg_input, chatbot, internal_memory]
+    # Xử lý sự kiện
+    input_data = [msg_input, chatbot, internal_memory]
+    output_data = [msg_input, chatbot, internal_memory]
     
-    msg_input.submit(process_chat, input_list, output_list)
-    submit_btn.click(process_chat, input_list, output_list)
+    msg_input.submit(process_chat, input_data, output_data)
+    submit_btn.click(process_chat, input_data, output_data)
     clear_btn.click(lambda: (None, [], ""), None, [msg_input, chatbot, internal_memory])
 
 if __name__ == "__main__":
-    # Đưa CSS vào đây để fix UserWarning
     demo.launch(css=custom_css)