Spaces:
Running on Zero
Running on Zero
Update app.py
Browse files
app.py
CHANGED
|
@@ -6,7 +6,7 @@ import gradio as gr
|
|
| 6 |
from fastapi import FastAPI, Request
|
| 7 |
from fastapi.responses import StreamingResponse
|
| 8 |
# Configuraci贸n del modelo
|
| 9 |
-
MODEL_ID = os.getenv("MODEL_ID", "Qwen/
|
| 10 |
VLLM_PORT = 8001
|
| 11 |
print(f"Iniciando vLLM en segundo plano con el modelo: {MODEL_ID}...")
|
| 12 |
# 1. Ejecutar el servidor de vLLM en segundo plano en el puerto 8001
|
|
@@ -51,10 +51,10 @@ gr.Markdown("""
|
|
| 51 |
### 馃摗 Configuraci贸n para OpenCode
|
| 52 |
Copia la siguiente **Base URL** en la configuraci贸n de OpenCode:
|
| 53 |
""")
|
| 54 |
-
gr.Code("https://
|
| 55 |
gr.Markdown("""
|
| 56 |
* **API Key:** `dummy` (si el Space es p煤blico) o tu `HF_TOKEN` (si el Spac
|
| 57 |
-
* **Model Name:** El mismo ID cargado en el servidor (`Qwen/
|
| 58 |
""")
|
| 59 |
|
| 60 |
# Montar Gradio en el path ra铆z de FastAPI
|
|
|
|
| 6 |
from fastapi import FastAPI, Request
|
| 7 |
from fastapi.responses import StreamingResponse
|
| 8 |
# Configuraci贸n del modelo
|
| 9 |
+
MODEL_ID = os.getenv("MODEL_ID", "Qwen/Qwen3.8-27B")
|
| 10 |
VLLM_PORT = 8001
|
| 11 |
print(f"Iniciando vLLM en segundo plano con el modelo: {MODEL_ID}...")
|
| 12 |
# 1. Ejecutar el servidor de vLLM en segundo plano en el puerto 8001
|
|
|
|
| 51 |
### 馃摗 Configuraci贸n para OpenCode
|
| 52 |
Copia la siguiente **Base URL** en la configuraci贸n de OpenCode:
|
| 53 |
""")
|
| 54 |
+
gr.Code("https://https://huggingface.co/spaces/acsaco.hf.space/v1", language="bash")
|
| 55 |
gr.Markdown("""
|
| 56 |
* **API Key:** `dummy` (si el Space es p煤blico) o tu `HF_TOKEN` (si el Spac
|
| 57 |
+
* **Model Name:** El mismo ID cargado en el servidor (`Qwen/Qwen3.8-27B
|
| 58 |
""")
|
| 59 |
|
| 60 |
# Montar Gradio en el path ra铆z de FastAPI
|