UI: sidebar + insight panel; metrics retrieval/time; fix InferenceClient provider

app/crag/llm_client.py

@@ -1,17 +1,20 @@
 """Client LLM unique pour tout le pipeline CRAG.
 
-Modèle de production : deepseek-ai/DeepSeek-V4.1-Flash, servi via l'API
-d'inférence Hugging Face (huggingface_hub.InferenceClient, chat.completions).
-Un mode "mock" (LLM_PROVIDER=mock) permet de faire tourner l'app, les tests et
-la démo sans token HF ni appel réseau — utile en CI ou pour un premier test
-local avant configuration du Space.
+Modèle : deepseek-ai/DeepSeek-V4.1-Flash via huggingface_hub.InferenceClient.
+Mode mock (LLM_PROVIDER=mock) pour CI / démo sans token.
 """
 from __future__ import annotations
 
+import inspect
 import json
 import logging
 
-from tenacity import retry, stop_after_attempt, wait_exponential
+from tenacity import (
+    retry,
+    retry_if_exception_type,
+    stop_after_attempt,
+    wait_exponential,
+)
 
 from app.core.config import get_settings
 
@@ -23,12 +26,7 @@ class LLMError(RuntimeError):
 
 
 def _mock_complete(system_prompt: str, user_prompt: str, json_mode: bool) -> str:
-    """Réponses déterministes pour les tests / la démo hors-ligne.
-
-    Volontairement simple : ce n'est PAS un modèle de langage, seulement un
-    filet de sécurité pour que `docker build && docker run` fonctionne sans
-    HF_TOKEN configuré, et pour des tests unitaires rapides et déterministes.
-    """
+    """Réponses déterministes hors-ligne (tests / démo sans HF_TOKEN)."""
     if json_mode:
         if "score" in system_prompt.lower() or "pertinence" in system_prompt.lower():
             return json.dumps({
@@ -43,35 +41,58 @@ def _mock_complete(system_prompt: str, user_prompt: str, json_mode: bool) -> str
     )
 
 
-@retry(stop=stop_after_attempt(3), wait=wait_exponential(multiplier=1, min=1, max=8))
-def _hf_complete(system_prompt: str, user_prompt: str, json_mode: bool) -> str:
+def _build_inference_client(settings):
     from huggingface_hub import InferenceClient
 
+    kwargs: dict = {"token": settings.hf_token}
+    # Certaines versions acceptent model= au constructeur, d'autres non.
+    init_params = inspect.signature(InferenceClient.__init__).parameters
+    if "model" in init_params:
+        kwargs["model"] = settings.hf_model_id
+    if settings.hf_inference_provider and "provider" in init_params:
+        kwargs["provider"] = settings.hf_inference_provider
+    elif settings.hf_inference_provider:
+        logger.warning(
+            "HF_INFERENCE_PROVIDER=%s ignoré : cette version de "
+            "huggingface_hub ne supporte pas provider= sur InferenceClient. "
+            "Mettez à jour huggingface_hub ou videz la variable.",
+            settings.hf_inference_provider,
+        )
+    return InferenceClient(**kwargs), settings.hf_model_id
+
+
+@retry(
+    stop=stop_after_attempt(3),
+    wait=wait_exponential(multiplier=1, min=1, max=8),
+    retry=retry_if_exception_type((TimeoutError, ConnectionError, OSError)),
+    reraise=True,
+)
+def _hf_complete(system_prompt: str, user_prompt: str, json_mode: bool) -> str:
     settings = get_settings()
     if not settings.hf_token:
         raise LLMError(
-            "HF_TOKEN manquant. Définissez HF_TOKEN dans .env ou dans les "
-            "secrets du Space Hugging Face (Settings > Variables and secrets)."
+            "HF_TOKEN manquant. Définissez HF_TOKEN dans les secrets du Space."
         )
 
-    client_kwargs = {"model": settings.hf_model_id, "token": settings.hf_token}
-    if settings.hf_inference_provider:
-        # API multi-fournisseurs de Hugging Face ("Inference Providers") :
-        # certains modèles volumineux (ex. DeepSeek, grands MoE) ne sont pas
-        # servis par l'API serverless HF "historique" mais routés vers un
-        # fournisseur tiers (together, novita, fireworks-ai, nebius, ...).
-        # Voir https://huggingface.co/docs/inference-providers
-        client_kwargs["provider"] = settings.hf_inference_provider
-    client = InferenceClient(**client_kwargs)
+    client, model_id = _build_inference_client(settings)
     messages = [
         {"role": "system", "content": system_prompt},
         {"role": "user", "content": user_prompt},
     ]
-    completion = client.chat_completion(
-        messages=messages,
-        max_tokens=800,
-        temperature=0.1 if json_mode else 0.3,
-    )
+    try:
+        completion = client.chat_completion(
+            messages=messages,
+            model=model_id,
+            max_tokens=800,
+            temperature=0.1 if json_mode else 0.3,
+        )
+    except TypeError:
+        # Anciennes signatures sans model= dans chat_completion
+        completion = client.chat_completion(
+            messages=messages,
+            max_tokens=800,
+            temperature=0.1 if json_mode else 0.3,
+        )
     return completion.choices[0].message.content
 
 
@@ -82,6 +103,8 @@ def complete(system_prompt: str, user_prompt: str, json_mode: bool = False) -> s
         return _mock_complete(system_prompt, user_prompt, json_mode)
     try:
         return _hf_complete(system_prompt, user_prompt, json_mode)
-    except Exception as exc:  # noqa: BLE001 - on veut journaliser puis remonter
+    except LLMError:
+        raise
+    except Exception as exc:  # noqa: BLE001
         logger.error("Échec appel LLM (%s): %s", settings.hf_model_id, exc)
         raise LLMError(str(exc)) from exc