Update app.py

app.py

@@ -1,23 +1,18 @@
 import gradio as gr
 from transformers import AutoTokenizer, AutoModelForCausalLM
 import torch
-import os
 
-# ======= 配置模型 =======
-# 方案 A：使用本地上传模型
-LOCAL_MODEL_PATH = "./model"  # 上传到 Space 的模型文件夹
-# 方案 B：使用公开 HuggingFace Hub 模型
+USE_LOCAL_MODEL = True
+LOCAL_MODEL_PATH = "./model"
 HUB_MODEL_NAME = "TheBloke/llama-7b-hf"
 
-# 是否使用本地模型
-USE_LOCAL_MODEL = True  # True 使用本地模型，False 使用 Hub 模型
-
 if USE_LOCAL_MODEL:
     model_name = LOCAL_MODEL_PATH
-    tokenizer = AutoTokenizer.from_pretrained(model_name)
+    tokenizer = AutoTokenizer.from_pretrained(model_name, local_files_only=True)
     model = AutoModelForCausalLM.from_pretrained(
         model_name,
-        torch_dtype=torch.float16
+        torch_dtype=torch.float16,
+        local_files_only=True
     ).to("cuda" if torch.cuda.is_available() else "cpu")
 else:
     model_name = HUB_MODEL_NAME
@@ -27,7 +22,6 @@ else:
         torch_dtype=torch.float16
     ).to("cuda" if torch.cuda.is_available() else "cpu")
 
-# ======= 聊天函数 =======
 def chat(user_input):
     inputs = tokenizer(user_input, return_tensors="pt").to(model.device)
     outputs = model.generate(
@@ -40,13 +34,11 @@ def chat(user_input):
     )
     return tokenizer.decode(outputs[0], skip_special_tokens=True, clean_up_tokenization_spaces=True)
 
-# ======= Gradio 网页界面 =======
 interface = gr.Interface(
     fn=chat,
     inputs=gr.Textbox(lines=3, label="输入你的问题"),
-    outputs=gr.Textbox(lines=10, label="模型回答"),
-    title="我的AI模型",
-    description="在 HuggingFace Space 上运行的 LLaMA/GPT 模型网页"
+    outputs=gr.Textbox(lines=10, label="模型回答")
 )
 
 interface.launch()
+