gcli2api / internal /server /busy.go
a3216's picture
feat: 同步上游 320f5d4;扩展模型(多免费渠道/自定义映射/访问密钥/模型白名单)
e48a2d8
Raw History Blame Contribute Delete
3.72 kB
// busy.go 对外暴露官方客户端的「模型忙」预检端点:POST /v2/chat/busy。
//
// 为什么需要它(2026-10-21 真机抓包):
// - 国内版 5.8.3 / 国际版 5.8.4 客户端在每次对话前都会调这个端点,body 形如
// {"models":["deepseek-v4.1-flash", ...]},官方上游回
// {"code":0,"msg":"OK","data":[{"model":"...","busy_level":"idle|busy|unknown"}]},
// 客户端据此给模型选择器打「繁忙」标记。
// - 国区上游该路径返回 200(真机实测);国际版同一路径返回 404 Route Not Found
// —— 客户端会自己兜住,但**网关**完全没实现这条路径时,用网关当后端的客户端
// (自建面板/脚本)拿不到任何忙闲信息,只能靠 503 撞出来。
//
// 实现选择:**本地按池状态算**,不打上游。理由:
// - 上游国区虽可用,但国际版 404,透传会让两个 realm 行为不一致;
// - 网关自己就有权威的模型级冷却台账(modelCooldowns),比上游的
// "unknown" 更准——上游对聚合别名(fast-model/balanced-model/deep-model)
// 一律回 unknown,等于没有信息;
// - 不引入额外上游调用,不消耗额度、不放大风控面。
package server
import (
"encoding/json"
"net/http"
"github.com/misakano7545/workbuddy2api-panel/internal/session"
)
// busyLevel 取值与官方一致:idle / busy / unknown。
const (
busyLevelIdle = "idle"
busyLevelBusy = "busy"
busyLevelUnknown = "unknown"
)
// chatBusy 处理 POST /v2/chat/busy。
//
// 语义:每个请求模型映射成 busy_level
// - busy:该模型在本域所有可用账号上都处于模型级冷却(等同 chat 会走到
// model_busy / model_unavailable 的那一档);
// - idle:还有账号能服务该模型;
// - unknown:模型不在本网关的服务目录里(拼错/未适配/被隐藏),或请求为空。
//
// 未知模型回 unknown 而不是 idle:这是与官方口径一致的选择(官方对无法判定的
// 模型也回 unknown),且不会让客户端误以为可以选。
func (h *Handler) chatBusy(w http.ResponseWriter, r *http.Request) {
var req struct {
Models []string `json:"models"`
}
if err := json.NewDecoder(http.MaxBytesReader(w, r.Body, 1<<20)).Decode(&req); err != nil {
writeOpenAIError(w, http.StatusBadRequest, "invalid_request", "invalid JSON body: "+err.Error())
return
}
out := make([]map[string]any, 0, len(req.Models))
known := h.servableModelSet()
for _, m := range req.Models {
realm, bare := resolveModel(m)
lvl := busyLevelUnknown
if _, ok := known[bare]; ok {
if h.cfg.Pool != nil && h.cfg.Pool.ModelBlockedForRealm(bare, realm).Blocked {
lvl = busyLevelBusy
} else {
lvl = busyLevelIdle
}
}
out = append(out, map[string]any{"model": m, "busy_level": lvl})
}
writeJSON(w, http.StatusOK, map[string]any{
"code": 0,
"msg": "OK",
"requestId": session.NewMessageID(),
"data": out,
})
}
// servableModelSet 返回网关当前对外提供的模型 id 集合(裸名,不含 realm 前缀)。
//
// 取 /v1/models 同一份动态目录缓存(modelList 内部已按 hidden_models 过滤,
// 这里不再重复过滤);缓存为空(还没探测过/探测失败)时回空集,调用方据此把
// 模型判为 unknown —— 不编造「这个模型我们有」。
func (h *Handler) servableModelSet() map[string]struct{} {
infos := h.modelList()
set := make(map[string]struct{}, len(infos))
for _, it := range infos {
id, _ := it["id"].(string)
if id == "" {
continue
}
_, bare := resolveModel(id)
set[bare] = struct{}{}
}
return set
}