File size: 768 Bytes
a716923
ed62617
 
a716923
 
 
 
 
 
 
ed62617
a716923
ed62617
a716923
ed62617
 
a716923
ed62617
 
 
 
 
a716923
 
 
 
 
 
 
 
 
 
 
ed62617
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
---
title: Omni-Nexus Worker A
emoji: 💬
colorFrom: indigo
colorTo: purple
sdk: docker
app_port: 7860
pinned: false
---

# Omni-Nexus · Worker de chat

Llama 3.2 3B (Q4_K_M) servido con API compatible con OpenAI.

Usa los binarios **oficiales precompilados** de llama.cpp: build de 3-5 min,
sin compilar C++.

## Por qué ya no se usa BitNet

bitnet.cpp no incluye servidor HTTP — su submódulo solo compila `llama-cli`.
El target `llama-server` no existe. Y `setup_env.py` agota la RAM del builder
de HF al convertir el modelo. No es parcheable.

## Uso

`Odysseus → Settings → Add Local Models (Endpoint)`:

```
https://TU-USUARIO-ESTE-SPACE.hf.space/v1
```

## Variables

| Variable | Valor |
|---|---|
| `WORKER_ID` | `A` |
| `CHAT_TEMPLATE` | `llama3` |