Update app.py

app.py

@@ -1,24 +1,36 @@
 import gradio as gr
 import spaces
+from huggingface_hub import InferenceClient
+
+# 初始化客户端
+client = InferenceClient("deepseek-ai/DeepSeek-R1-Distill-Qwen-32B")
 
-# 定义推理逻辑
 @spaces.GPU
 def chat_fn(message, history):
-    # 使用 gr.load 远程调用模型，这是在 Space 中最稳定的方案
-    model = gr.load("models/deepseek-ai/DeepSeek-R1-Distill-Qwen-32B")
-    # 获取返回结果
-    response = model(message)
-    return response
+    # 构建对话流
+    messages = [{"role": "user", "content": message}]
+    
+    response = ""
+    # 使用流式输出，体验更好
+    for message in client.chat_completion(
+        messages,
+        max_tokens=2048,
+        stream=True,
+    ):
+        token = message.choices[0].delta.content
+        if token:
+            response += token
+            yield response
 
-# 构建 OpenIPOS 品牌界面
+# 构建 OpenIPOS 界面
 with gr.Blocks(fill_height=True) as demo:
     gr.Markdown("# 🚀 OpenIPOS Global 算力节点")
     gr.Markdown("### DeepSeek-R1 32B 满血版演示站")
     
-    # 核心聊天组件（去掉了导致报错的 type 参数）
     gr.ChatInterface(
         chat_fn,
         description="本节点由 OpenIPOS 提供法律级高逻辑推理算力支持。",
+        type="messages" # 在最新的流式接口中建议带上
     )
 
 demo.launch()