File size: 3,723 Bytes
e48a2d8
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
// busy.go 对外暴露官方客户端的「模型忙」预检端点:POST /v2/chat/busy。
//
// 为什么需要它(2026-10-21 真机抓包):
//   - 国内版 5.8.3 / 国际版 5.8.4 客户端在每次对话前都会调这个端点,body 形如
//     {"models":["deepseek-v4.1-flash", ...]},官方上游回
//     {"code":0,"msg":"OK","data":[{"model":"...","busy_level":"idle|busy|unknown"}]},
//     客户端据此给模型选择器打「繁忙」标记。
//   - 国区上游该路径返回 200(真机实测);国际版同一路径返回 404 Route Not Found
//     —— 客户端会自己兜住,但**网关**完全没实现这条路径时,用网关当后端的客户端
//     (自建面板/脚本)拿不到任何忙闲信息,只能靠 503 撞出来。
//
// 实现选择:**本地按池状态算**,不打上游。理由:
//   - 上游国区虽可用,但国际版 404,透传会让两个 realm 行为不一致;
//   - 网关自己就有权威的模型级冷却台账(modelCooldowns),比上游的
//     "unknown" 更准——上游对聚合别名(fast-model/balanced-model/deep-model)
//     一律回 unknown,等于没有信息;
//   - 不引入额外上游调用,不消耗额度、不放大风控面。
package server

import (
	"encoding/json"
	"net/http"

	"github.com/misakano7545/workbuddy2api-panel/internal/session"
)

// busyLevel 取值与官方一致:idle / busy / unknown。
const (
	busyLevelIdle    = "idle"
	busyLevelBusy    = "busy"
	busyLevelUnknown = "unknown"
)

// chatBusy 处理 POST /v2/chat/busy。
//
// 语义:每个请求模型映射成 busy_level
//   - busy:该模型在本域所有可用账号上都处于模型级冷却(等同 chat 会走到
//     model_busy / model_unavailable 的那一档);
//   - idle:还有账号能服务该模型;
//   - unknown:模型不在本网关的服务目录里(拼错/未适配/被隐藏),或请求为空。
//
// 未知模型回 unknown 而不是 idle:这是与官方口径一致的选择(官方对无法判定的
// 模型也回 unknown),且不会让客户端误以为可以选。
func (h *Handler) chatBusy(w http.ResponseWriter, r *http.Request) {
	var req struct {
		Models []string `json:"models"`
	}
	if err := json.NewDecoder(http.MaxBytesReader(w, r.Body, 1<<20)).Decode(&req); err != nil {
		writeOpenAIError(w, http.StatusBadRequest, "invalid_request", "invalid JSON body: "+err.Error())
		return
	}
	out := make([]map[string]any, 0, len(req.Models))
	known := h.servableModelSet()
	for _, m := range req.Models {
		realm, bare := resolveModel(m)
		lvl := busyLevelUnknown
		if _, ok := known[bare]; ok {
			if h.cfg.Pool != nil && h.cfg.Pool.ModelBlockedForRealm(bare, realm).Blocked {
				lvl = busyLevelBusy
			} else {
				lvl = busyLevelIdle
			}
		}
		out = append(out, map[string]any{"model": m, "busy_level": lvl})
	}
	writeJSON(w, http.StatusOK, map[string]any{
		"code":      0,
		"msg":       "OK",
		"requestId": session.NewMessageID(),
		"data":      out,
	})
}

// servableModelSet 返回网关当前对外提供的模型 id 集合(裸名,不含 realm 前缀)。
//
// 取 /v1/models 同一份动态目录缓存(modelList 内部已按 hidden_models 过滤,
// 这里不再重复过滤);缓存为空(还没探测过/探测失败)时回空集,调用方据此把
// 模型判为 unknown —— 不编造「这个模型我们有」。
func (h *Handler) servableModelSet() map[string]struct{} {
	infos := h.modelList()
	set := make(map[string]struct{}, len(infos))
	for _, it := range infos {
		id, _ := it["id"].(string)
		if id == "" {
			continue
		}
		_, bare := resolveModel(id)
		set[bare] = struct{}{}
	}
	return set
}