Upload anthropic_proxy.py with huggingface_hub

anthropic_proxy.py

@@ -25,6 +25,18 @@ UPSTREAM = os.environ.get("VL_UPSTREAM", "http://127.0.0.1:8080")
 MODEL = os.environ.get("VL_SERVED_NAME", "qwen")
 TIMEOUT = float(os.environ.get("VL_TIMEOUT", "1800"))
 
+# Claude Code refuse tout identifiant de modele qui ne commence pas par
+# "claude-" : il valide le nom avant d'emettre la requete. On expose donc des
+# alias conformes, et on ignore le nom recu pour router vers l'unique modele
+# reellement charge -- le client choisit une etiquette, pas un moteur.
+ALIASES = [
+    "claude-kimi-k3",
+    "claude-kimi-k3-linear",
+    "claude-qwen3-coder",
+    "claude-sonnet-4-5",       # alias de compatibilite : certains clients
+    "claude-3-5-haiku",        # codent en dur un modele "rapide" et un "lent"
+]
+
 app = FastAPI(title="anthropic-bridge")
 _client = httpx.AsyncClient(base_url=UPSTREAM, timeout=TIMEOUT)
 
@@ -311,17 +323,46 @@ async def health():
 
 
 @app.get("/v1/models")
-async def models():
-    """Relais plutot que reponse figee : les clients et les bancs lisent
-    `max_model_len` ici, et une reponse inventee le ferait disparaitre."""
+async def models(request: Request):
+    """Deux protocoles sur la meme route.
+
+    Un client Anthropic attend `{"data":[{"type":"model","id":...}]}` avec des
+    identifiants en "claude-*". Un client OpenAI ou un banc attend la reponse
+    de vLLM, dont il lit `max_model_len`. On distingue sur l'en-tete
+    `anthropic-version`, et on renvoie a chacun ce qu'il sait lire.
+    """
+    if "anthropic-version" not in request.headers:
+        try:
+            r = await _client.get("/v1/models", timeout=10)
+            if r.status_code == 200:
+                return JSONResponse(r.json())
+        except Exception:
+            pass
+
+    ctx = None
     try:
         r = await _client.get("/v1/models", timeout=10)
         if r.status_code == 200:
-            return JSONResponse(r.json())
+            ctx = (r.json().get("data") or [{}])[0].get("max_model_len")
     except Exception:
         pass
-    return JSONResponse({"data": [{"id": MODEL, "type": "model",
-                                   "display_name": MODEL}]})
+
+    data = [{
+        "type": "model",
+        "id": a,
+        "display_name": f"{a} ({MODEL})",
+        "created_at": "2026-01-01T00:00:00Z",
+        **({"context_window": ctx} if ctx else {}),
+    } for a in ALIASES]
+    return JSONResponse({"data": data, "has_more": False,
+                         "first_id": data[0]["id"], "last_id": data[-1]["id"]})
+
+
+@app.get("/v1/models/{model_id}")
+async def model_detail(model_id: str):
+    return JSONResponse({"type": "model", "id": model_id,
+                         "display_name": f"{model_id} ({MODEL})",
+                         "created_at": "2026-01-01T00:00:00Z"})
 
 # ------------------------------------------------------------------ passe-plat
 # Le pod n'expose qu'un port. Le pont le prend (c'est l'API que Claude Code