Download internal/server/busy.go from a3216/gcli2api: direct link, hf CLI and curl.
- Browser
- Download file 3.72 kB
-
https://huggingface.co/spaces/a3216/gcli2api/resolve/main/internal/server/busy.go
- Command line
-
hf download hf://spaces/a3216/gcli2api/internal/server/busy.go
-
curl -L -o busy.go https://huggingface.co/spaces/a3216/gcli2api/resolve/main/internal/server/busy.go
3.72 kB
| // busy.go 对外暴露官方客户端的「模型忙」预检端点:POST /v2/chat/busy。 | |
| // | |
| // 为什么需要它(2026-10-21 真机抓包): | |
| // - 国内版 5.8.3 / 国际版 5.8.4 客户端在每次对话前都会调这个端点,body 形如 | |
| // {"models":["deepseek-v4.1-flash", ...]},官方上游回 | |
| // {"code":0,"msg":"OK","data":[{"model":"...","busy_level":"idle|busy|unknown"}]}, | |
| // 客户端据此给模型选择器打「繁忙」标记。 | |
| // - 国区上游该路径返回 200(真机实测);国际版同一路径返回 404 Route Not Found | |
| // —— 客户端会自己兜住,但**网关**完全没实现这条路径时,用网关当后端的客户端 | |
| // (自建面板/脚本)拿不到任何忙闲信息,只能靠 503 撞出来。 | |
| // | |
| // 实现选择:**本地按池状态算**,不打上游。理由: | |
| // - 上游国区虽可用,但国际版 404,透传会让两个 realm 行为不一致; | |
| // - 网关自己就有权威的模型级冷却台账(modelCooldowns),比上游的 | |
| // "unknown" 更准——上游对聚合别名(fast-model/balanced-model/deep-model) | |
| // 一律回 unknown,等于没有信息; | |
| // - 不引入额外上游调用,不消耗额度、不放大风控面。 | |
| package server | |
| import ( | |
| "encoding/json" | |
| "net/http" | |
| "github.com/misakano7545/workbuddy2api-panel/internal/session" | |
| ) | |
| // busyLevel 取值与官方一致:idle / busy / unknown。 | |
| const ( | |
| busyLevelIdle = "idle" | |
| busyLevelBusy = "busy" | |
| busyLevelUnknown = "unknown" | |
| ) | |
| // chatBusy 处理 POST /v2/chat/busy。 | |
| // | |
| // 语义:每个请求模型映射成 busy_level | |
| // - busy:该模型在本域所有可用账号上都处于模型级冷却(等同 chat 会走到 | |
| // model_busy / model_unavailable 的那一档); | |
| // - idle:还有账号能服务该模型; | |
| // - unknown:模型不在本网关的服务目录里(拼错/未适配/被隐藏),或请求为空。 | |
| // | |
| // 未知模型回 unknown 而不是 idle:这是与官方口径一致的选择(官方对无法判定的 | |
| // 模型也回 unknown),且不会让客户端误以为可以选。 | |
| func (h *Handler) chatBusy(w http.ResponseWriter, r *http.Request) { | |
| var req struct { | |
| Models []string `json:"models"` | |
| } | |
| if err := json.NewDecoder(http.MaxBytesReader(w, r.Body, 1<<20)).Decode(&req); err != nil { | |
| writeOpenAIError(w, http.StatusBadRequest, "invalid_request", "invalid JSON body: "+err.Error()) | |
| return | |
| } | |
| out := make([]map[string]any, 0, len(req.Models)) | |
| known := h.servableModelSet() | |
| for _, m := range req.Models { | |
| realm, bare := resolveModel(m) | |
| lvl := busyLevelUnknown | |
| if _, ok := known[bare]; ok { | |
| if h.cfg.Pool != nil && h.cfg.Pool.ModelBlockedForRealm(bare, realm).Blocked { | |
| lvl = busyLevelBusy | |
| } else { | |
| lvl = busyLevelIdle | |
| } | |
| } | |
| out = append(out, map[string]any{"model": m, "busy_level": lvl}) | |
| } | |
| writeJSON(w, http.StatusOK, map[string]any{ | |
| "code": 0, | |
| "msg": "OK", | |
| "requestId": session.NewMessageID(), | |
| "data": out, | |
| }) | |
| } | |
| // servableModelSet 返回网关当前对外提供的模型 id 集合(裸名,不含 realm 前缀)。 | |
| // | |
| // 取 /v1/models 同一份动态目录缓存(modelList 内部已按 hidden_models 过滤, | |
| // 这里不再重复过滤);缓存为空(还没探测过/探测失败)时回空集,调用方据此把 | |
| // 模型判为 unknown —— 不编造「这个模型我们有」。 | |
| func (h *Handler) servableModelSet() map[string]struct{} { | |
| infos := h.modelList() | |
| set := make(map[string]struct{}, len(infos)) | |
| for _, it := range infos { | |
| id, _ := it["id"].(string) | |
| if id == "" { | |
| continue | |
| } | |
| _, bare := resolveModel(id) | |
| set[bare] = struct{}{} | |
| } | |
| return set | |
| } | |