Spaces:
Runtime error
Runtime error
Commit ·
e803030
1
Parent(s): 89d5b4d
revert(chat): la reponse garde la reflexion du modele
Browse filesChoix de l'utilisateur apres comparaison sur deux questions, meme
contexte : « low » repondait en 3 a 5 s au lieu de 11 a 12, avec les
memes articles cites, mais un peu moins precis par endroits. Le reglage
reste disponible par GEMINI_REFLEXION_REPONSE ; la classification garde
« minimal ».
Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
app/core/config.py
CHANGED
|
@@ -148,13 +148,16 @@ class Settings(BaseSettings):
|
|
| 148 |
# gemini-3-flash-preview, une question au chat, 37 s au total :
|
| 149 |
# classification 8,5 s (232 jetons de reflexion pour une sortie de 18),
|
| 150 |
# recherche 0,26 s, reponse 28 s (3 104 jetons de reflexion pour 247 de
|
| 151 |
-
# reponse). En «
|
| 152 |
-
#
|
| 153 |
-
#
|
|
|
|
|
|
|
|
|
|
| 154 |
# Valeurs : minimal, low, medium, high ; vide = choix du modele.
|
| 155 |
# N'agit que sur les modeles Gemini 3 (les 2.5 reglent un budget, pas un
|
| 156 |
# niveau).
|
| 157 |
-
GEMINI_REFLEXION_REPONSE: Optional[Literal["minimal", "low", "medium", "high"]] =
|
| 158 |
GEMINI_REFLEXION_CLASSIFICATION: Optional[Literal["minimal", "low", "medium", "high"]] = "minimal"
|
| 159 |
|
| 160 |
# ---- Fusion hybride ----
|
|
|
|
| 148 |
# gemini-3-flash-preview, une question au chat, 37 s au total :
|
| 149 |
# classification 8,5 s (232 jetons de reflexion pour une sortie de 18),
|
| 150 |
# recherche 0,26 s, reponse 28 s (3 104 jetons de reflexion pour 247 de
|
| 151 |
+
# reponse). En « minimal », la classification descend a 3,6 s.
|
| 152 |
+
#
|
| 153 |
+
# La REPONSE garde la reflexion du modele, par choix de l'utilisateur.
|
| 154 |
+
# Compare sur deux questions, meme contexte : « low » repondait en 3 a 5 s
|
| 155 |
+
# au lieu de 11 a 12, avec les memes articles cites, mais un peu moins
|
| 156 |
+
# precis par endroits. « low » reste disponible par .env.
|
| 157 |
# Valeurs : minimal, low, medium, high ; vide = choix du modele.
|
| 158 |
# N'agit que sur les modeles Gemini 3 (les 2.5 reglent un budget, pas un
|
| 159 |
# niveau).
|
| 160 |
+
GEMINI_REFLEXION_REPONSE: Optional[Literal["minimal", "low", "medium", "high"]] = None
|
| 161 |
GEMINI_REFLEXION_CLASSIFICATION: Optional[Literal["minimal", "low", "medium", "high"]] = "minimal"
|
| 162 |
|
| 163 |
# ---- Fusion hybride ----
|
tests/test_services/test_gemini_failure_modes.py
CHANGED
|
@@ -283,5 +283,5 @@ class TestNiveauDeReflexion:
|
|
| 283 |
def test_defauts_mesures(self):
|
| 284 |
from app.core.config import settings
|
| 285 |
|
| 286 |
-
assert settings.GEMINI_REFLEXION_REPONSE
|
| 287 |
assert settings.GEMINI_REFLEXION_CLASSIFICATION == "minimal"
|
|
|
|
| 283 |
def test_defauts_mesures(self):
|
| 284 |
from app.core.config import settings
|
| 285 |
|
| 286 |
+
assert settings.GEMINI_REFLEXION_REPONSE is None, "la reponse garde la reflexion du modele"
|
| 287 |
assert settings.GEMINI_REFLEXION_CLASSIFICATION == "minimal"
|
tests/test_services/test_rag_service.py
CHANGED
|
@@ -227,7 +227,7 @@ class TestCoreFunctionality:
|
|
| 227 |
|
| 228 |
assert response.answer.endswith(MENTION_REPONSE_TRONQUEE)
|
| 229 |
assert rag_service.llm.generate.call_args.kwargs["max_tokens"] == 8192
|
| 230 |
-
assert rag_service.llm.generate.call_args.kwargs["reflexion"]
|
| 231 |
|
| 232 |
@pytest.mark.asyncio
|
| 233 |
async def test_ask_with_no_search_results(
|
|
@@ -955,7 +955,7 @@ class TestFluxAligneSurAsk:
|
|
| 955 |
|
| 956 |
kwargs = rag_service.llm.generate_stream.call_args.kwargs
|
| 957 |
assert kwargs["max_tokens"] == 8192
|
| 958 |
-
assert kwargs["reflexion"]
|
| 959 |
|
| 960 |
@pytest.mark.asyncio
|
| 961 |
async def test_source_de_repli_comme_ask(
|
|
|
|
| 227 |
|
| 228 |
assert response.answer.endswith(MENTION_REPONSE_TRONQUEE)
|
| 229 |
assert rag_service.llm.generate.call_args.kwargs["max_tokens"] == 8192
|
| 230 |
+
assert rag_service.llm.generate.call_args.kwargs["reflexion"] is None
|
| 231 |
|
| 232 |
@pytest.mark.asyncio
|
| 233 |
async def test_ask_with_no_search_results(
|
|
|
|
| 955 |
|
| 956 |
kwargs = rag_service.llm.generate_stream.call_args.kwargs
|
| 957 |
assert kwargs["max_tokens"] == 8192
|
| 958 |
+
assert kwargs["reflexion"] is None
|
| 959 |
|
| 960 |
@pytest.mark.asyncio
|
| 961 |
async def test_source_de_repli_comme_ask(
|