File size: 977 Bytes
5c83f52
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
2980167
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
from fastapi import FastAPI, HTTPException
from pydantic import BaseModel
from groq import Groq
import os
import uvicorn
 
app = FastAPI()
 
# ✅ Modelos permitidos actualizados
MODELOS_PERMITIDOS = [
    'llama-3.1-8b-instant',
    'llama-3.3-70b-versatile',
    'openai/gpt-oss-120b'
]
 
class MensajeRequest(BaseModel):
    mensaje: str
    modelo: str
 
@app.post("/chat")
def chat(request: MensajeRequest):
    if request.modelo not in MODELOS_PERMITIDOS:
        raise HTTPException(
            status_code=400,
            detail=f"Modelo no permitido. Usá uno de: {MODELOS_PERMITIDOS}"
        )
    
    cliente = Groq(api_key=os.environ["GROQ_API_KEY"])
    respuesta = cliente.chat.completions.create(
        model=request.modelo,
        messages=[{"role": "user", "content": request.mensaje}],
        stream=False
    )
    return {"respuesta": respuesta.choices[0].message.content}
 
if __name__ == "__main__":
    uvicorn.run(app, host="0.0.0.0", port=7860)