Update README.md

README.md

@@ -1,10 +1,59 @@
 ---
-title: Qwen3 TTS 2
-emoji: 🎙️
+title: Qwen3 Agent LLM
+emoji: 🤖
 colorFrom: blue
 colorTo: purple
 sdk: docker
 app_port: 7860
 pinned: false
 license: apache-2.0
----
+---
+
+Qwen3-4B Agent LLM Server (CPU Basic)
+
+基于 llama.cpp 的 llama-server,一个端口同时提供:
+
+OpenAI 兼容 API: POST /v1/chat/completions(支持 tools=[...] 传入 function schema,--jinja 已启用 tool_calls 解析)
+内置网页聊天界面: 访问 Space 根路径 / 即可
+接入 OpenClaw LLM Gateway
+
+把这个 Space 的 URL 作为一个 OpenAI-compatible endpoint 加入你的 provider 列表:
+
+base_url: https://<你的空间>.hf.space/v1
+api_key: "sk-anything"   # llama-server 默认不校验 key,如需鉴权用 --api-key 参数加一个环境变量
+model: "qwen3-4b"        # 随便填,llama-server 只加载了一个模型
+测试 tool calling
+bash
+curl https://<你的空间>.hf.space/v1/chat/completions \
+  -H "Content-Type: application/json" \
+  -d '{
+    "model": "qwen3-4b",
+    "messages": [{"role": "user", "content": "现在几点了?"}],
+    "tools": [{
+      "type": "function",
+      "function": {
+        "name": "get_current_time",
+        "description": "获取当前时间",
+        "parameters": {"type": "object", "properties": {}}
+      }
+    }]
+  }'
+
+返回里应该能看到 tool_calls 字段指向 get_current_time。
+
+换模型 / 调参(不用改代码)
+
+在 Space 的 Settings → Variables 里改这几个环境变量,重启即可生效:
+
+变量	默认值	说明
+MODEL_REPO	Qwen/Qwen3-4B-Instruct-2507-GGUF	HF上的GGUF仓库
+MODEL_QUANT	Q4_K_M	量化等级,想更快可改 Q4_K_S,想更准可改 Q5_K_M
+CTX_SIZE	4096	上下文长度,越大越吃内存
+N_THREADS	2	对应免费CPU的2 vCPU
+
+如果发现4B在实际请求里延迟太高(免费CPU下单条回复可能到几十秒),换成更轻的 tool-calling 模型: MODEL_REPO=Qwen/Qwen3-1.7B-Instruct-GGUF,MODEL_QUANT=Q4_K_M,速度会明显提升,牺牲一些复杂多步工具编排的准确率。
+
+注意事项
+免费 CPU Basic 无持久存储,每次容器重启都会重新从HF Hub下载模型(几GB,启动会慢1-2分钟属正常)。
+免费 CPU Space 闲置48小时后会自动 sleep,首次请求会有冷启动延迟。
+如果要长期稳定运行给OpenClaw做agent决策核心,建议这个Space仅作为次要/备用节点(和你现有的NIM/OpenRouter/Gemini网关搭配),不要单点依赖。