SmyIA's picture
Update app.py
5c83f52 verified
Raw History Blame Contribute Delete
977 Bytes
from fastapi import FastAPI, HTTPException
from pydantic import BaseModel
from groq import Groq
import os
import uvicorn
app = FastAPI()
# ✅ Modelos permitidos actualizados
MODELOS_PERMITIDOS = [
'llama-3.1-8b-instant',
'llama-3.3-70b-versatile',
'openai/gpt-oss-120b'
]
class MensajeRequest(BaseModel):
mensaje: str
modelo: str
@app.post("/chat")
def chat(request: MensajeRequest):
if request.modelo not in MODELOS_PERMITIDOS:
raise HTTPException(
status_code=400,
detail=f"Modelo no permitido. Usá uno de: {MODELOS_PERMITIDOS}"
)
cliente = Groq(api_key=os.environ["GROQ_API_KEY"])
respuesta = cliente.chat.completions.create(
model=request.modelo,
messages=[{"role": "user", "content": request.mensaje}],
stream=False
)
return {"respuesta": respuesta.choices[0].message.content}
if __name__ == "__main__":
uvicorn.run(app, host="0.0.0.0", port=7860)