Rcarvalo/front-desk-eval

Front desk eval — une décision de l'assistante par échantillon

Suites d'évaluation lues par liquidai-vllm eval (rcarvalo/liquidai-vllm, Inspect AI). Chaque échantillon est un tour où l'assistante doit agir : la conversation avant lui est rejouée telle qu'enregistrée (teacher forcing : les erreurs antérieures du modèle ne s'accumulent pas), le dernier tour du visiteur est l'audio, et l'échantillon dit ce qu'une bonne assistante fait ensuite — quel outil appeler (ou aucun), avec quels arguments, ce qu'elle pourrait dire, quels faits sa réponse doit porter.

Suite	Échantillons	Appels attendus	Origine
v3	1 378 (691 FR / 687 EN)	596	sondes figées de tool-calling-s2s-v3 (227 / 226 dialogues), toutes les décisions
v2	964 (482 / 482)	442	sondes figées tool calling v2 (159 dialogues par langue)
v2_conv	195 (100 / 95)	0	conversations sans outils (conversational-s2s-v1), dernière réplique

Les dialogues utilisés sont ceux du jeu de sondes du dépôt d'entraînement (assets/probe_dialogue_ids.csv), exclus de l'entraînement.

Format

suites/<suite>/samples.jsonl, une ligne par échantillon (schéma liquidai_vllm.evals.suite.EvalSample) : id (<lang>-<dialogue>#<tour>), suite, lang, dialogue_id, turn, family, kind, system (la phrase d'identité ; la liste d'outils est ajoutée par le serveur), tools, history (tours enregistrés : visiteur en texte, décisions, résultats d'outils, répliques), user (text + audio), after (appels déjà faits quand la décision testée est la seconde d'une chaîne), expected (calls, reference, facts, language), tool_results (les résultats enregistrés à rejouer quand le modèle appelle le même outil), speaker. Audio : audio/<suite>/<lang>_<dialogue>_t<tour>.wav (16 kHz, le tour du visiteur).

Utilisation

pip install "liquidai-vllm[eval]"
liquidai-vllm eval collect --suite v3 --url http://<serveur>:8000 --name R6   # téléchargé depuis ce dépôt
liquidai-vllm eval score --log logs/<run>.eval --judge anthropic/claude-sonnet-4-5
liquidai-vllm eval report --logs "logs/*.eval" --out report

Scorers : decision (appel, outil, identité, arguments exacts), reply (langue, vide, refus, chiffres, faits), audio (durée, silence), judge (pertinence, naturel, exactitude, refus injustifié, incohérence) et une page de notation humaine (eval human).

Provenance et licence

Dérivé des corpus synthétiques ci-dessus (voix SIWIS CC BY 4.0, visiteurs clonés depuis Common Voice CC0, MLS et LibriTTS-R CC BY 4.0). Publié le 2026-10-14 (commit 91a491c).