morphos / .github /workflows /evals.yml
Jose Salazar
Ajustes varios al engine y al prompt basado en resultados de los evals
bf9f7d1
Raw
History Blame Contribute Delete
2.46 kB
name: evals
# Puerta de calidad: bloquea el merge si el motor determinista regresa o si la suite
# de evaluación clínica cae bajo sus umbrales o registra violaciones de seguridad.
on:
pull_request:
paths:
- "frontend/src/**"
- "backend/app/ai/**"
- "backend/app/rag/**"
- "evals/**"
- "data/**"
push:
branches: [main]
jobs:
motor-regresion:
runs-on: ubuntu-latest
steps:
- uses: actions/checkout@v4
- uses: actions/setup-node@v4
with:
node-version: "22"
- name: Instalar frontend
working-directory: frontend
run: npm ci
- name: Suite de regresión del motor (vitest)
working-directory: frontend
run: npm test
evals-clinicas:
runs-on: ubuntu-latest
needs: motor-regresion
steps:
- uses: actions/checkout@v4
- uses: actions/setup-node@v4
with:
node-version: "22"
- uses: astral-sh/setup-uv@v5
- name: Sincronizar backend
working-directory: backend
run: uv sync
- name: Instalar deps del motor (para el puente Node)
working-directory: frontend
run: npm ci
# En CI real, sustituir --simular por --modelo medgemma apuntando a un endpoint,
# o subir un archivo de predicciones generado en un job con GPU.
#
# Sobre el juez: con --simular se omite a propósito (juzgaría el simulador, no el
# modelo). Sobre salidas reales se activa solo, en este orden: CLI de Claude Code (no
# existe en el runner), Ollama local (tampoco, salvo que se instale en el job) y SDK de
# Claude si ANTHROPIC_API_KEY está en los secrets. Sin ninguno la puerta sigue siendo
# válida, sólo más ciega: las métricas deterministas se calculan igual.
- name: Ejecutar evals (puerta de CI split dev)
working-directory: backend
env:
ANTHROPIC_API_KEY: ${{ secrets.ANTHROPIC_API_KEY }}
run: uv run python ../evals/run_evals.py --simular --split dev
# El split reservado no se usa para iterar, pero sí tiene que seguir verde antes de
# llegar a main: si sólo se mirara en el despliegue, se descubriría demasiado tarde.
- name: Ejecutar evals sobre el split reservado
working-directory: backend
env:
ANTHROPIC_API_KEY: ${{ secrets.ANTHROPIC_API_KEY }}
run: uv run python ../evals/run_evals.py --simular --split test