ZCode_local_llama-server

Estação de trabalho e ambiente de desenvolvimento orientado a agentes de IA, adaptado para inferência 100% local com llama-server.

---

⚡ Início Rápido: Clonar e Compilar

# 1. Clonar o repositório
git clone https://github.com/brunoconta1980-tech/ZCode_local_llama-server
cd ZCode_local_llama-server

# 2. Instalar dependências e preparar o ambiente
pnpm install
pnpm bootstrap

# 3. Compilar (Single Executable Application - SEA)
pnpm build:sea

# 4. Acessar os binários gerados
cd apps/zcode-cli/packages/cli/dist/

---

📋 Sumário

• Visão Geral
• Projeto Sem Fins Lucrativos
• Créditos e Reconhecimento
• Pré-requisitos
• Instalação e Compilação
• Execução do Frontend Desktop
• Configuração e Execução do Llama-Server
• Comandos Úteis do Projeto
• Estrutura do Repositório
• Licença

---

📖 Visão Geral

O ZCode_local_llama-server é um ambiente completo de desenvolvimento e pair-programming potencializado por inteligência artificial. Ele disponibiliza uma interface desktop rica (Electron), interface web moderna e um CLI/TUI com agentes autônomos integrados diretamente com modelos de linguagem (LLMs) executados localmente através do llama-server (do ecossistema llama.cpp).

Com isso, você mantém total controle sobre sua privacidade, telemetria e infraestrutura, executando agentes de código complexos sem custos de API externa ou dependência de serviços em nuvem.

---

🕊️ Projeto Sem Fins Lucrativos

Este projeto é mantido de forma voluntária, aberta e estritamente sem fins lucrativos. Seu objetivo principal é promover a democratização do acesso a ferramentas de inteligência artificial de ponta para desenvolvedores, pesquisadores e estudantes, encorajando a soberania de dados e o uso de modelos abertos e locais.

---

🤝 Créditos e Reconhecimento

Este repositório é fruto do trabalho colaborativo da comunidade de software livre. Expressamos nossa sincera gratidão aos criadores das ferramentas fundamentais que tornam este projeto possível:

1. ZCode Original:
   • Desenvolvido e mantido pela equipe da zai-org.
   • Fornece toda a arquitetura de agentes, frontend desktop/web, gerenciamento de estado, protocolo RPC e integração de ferramentas.
2. llama.cpp / llama-server:
   • Criado por Georgi Gerganov e continuado pela vibrante comunidade do llama.cpp / GGML.
   • Permite inferência eficiente e de altíssima velocidade em GPUs e CPUs com quantizações modernas (GGUF).
3. Modelos da Comunidade Open-Weight:
   • Aos times de pesquisa e open-source (como Qwen / Alibaba Cloud e finetuners da comunidade) pelos pesos e modelos de raciocínio e codificação.

---

🛠️ Pré-requisitos

Certifique-se de ter instalado em seu sistema operacional (Linux / macOS / Windows):

• Git
• Node.js: Versão 24.14.0 ou superior (consulte mise.toml)
• pnpm: Versão 10.33.2 ou superior
• llama.cpp / llama-server: Compilado com suporte a GPU (CUDA, ROCm, Metal ou Vulkan)

---

⚙️ Instalação e Compilação

1. Clonagem do Repositório

git clone https://github.com/brunoconta1980-tech/ZCode_local_llama-server
cd ZCode_local_llama-server

2. Instalação e Inicialização

Execute o bootstrap para instalar as dependências de todos os workspaces e preparar os artefatos locais do Desktop:

pnpm bootstrap

3. Compilação do CLI (Single Executable Application)

Para compilar o binário embutido e os pacotes CLI:

pnpm build:sea

Os binários e módulos gerados estarão localizados em:

cd apps/zcode-cli/packages/cli/dist/

---

🖥️ Execução do Frontend Desktop

Para iniciar a interface desktop do ZCode em modo de desenvolvimento (Electron):

# Iniciar o frontend desktop
pnpm dev:desktop

Caso queira executar o ambiente de desktop apontando para o perfil de testes:

pnpm dev:desktop:test

---

🦙 Configuração e Execução do Llama-Server

Para conectar o ZCode ao seu modelo local, execute o llama-server com as flags otimizadas para processamento de agentes e chamadas de ferramentas (Function/Tool Calling).

Comando Sugerido:

"/home/llama_OFFFELLIA_1984/build/bin/llama-server" \
  -m "/home/Área de trabalho/userk21/LLMS/ΩFFFΣLLIα_MXFP4_MOE_Qwen3.6-35B-A3B-ΩMΣGα-vibe-code.gguf" \
  -ngl 99 --n-cpu-moe 99 \
  -c 131072 \
  -t 4 \
  -tb 4 \
  -ctk q8_0 \
  -ctv q8_0 \
  -fa on \
  --cpu-strict 1 \
  --agent \
  --tools all \
  --reasoning auto \
  --kv-unified \
  --load-mode mmap \
  --cors-origins "*" \
  --webui-mcp-proxy \
  --threads-http -1 \
  --port 5173 \
  --host 127.0.0.1

Detalhamento dos Parâmetros

Parâmetro	Descrição
-m <caminho>	Caminho para o modelo quantizado .gguf.
-ngl 99	Quantidade de camadas offloaded para a GPU (VRAM).
--n-cpu-moe 99	Camadas MoE roteadas para processamento ótimo entre CPU/GPU.
-c 131072	Janela de contexto estendida (128k tokens) ideal para repositórios grandes.
-t 4 / -tb 4	Número de threads para inferência e processamento em batch.
-ctk q8_0 / -ctv q8_0	Cache Key/Value quantizado em 8 bits para drástica economia de memória.
-fa on	Habilita Flash Attention para acelerar a atenção e reduzir consumo de RAM/VRAM.
--agent	Habilita comportamentos e endpoints específicos para agentes.
--tools all	Habilita suporte integral a Tool / Function Calling.
--reasoning auto	Ativa detecção automática de blocos de raciocínio (thinking tags).
--kv-unified	Unificação dos buffers de contexto KV.
--load-mode mmap	Carregamento ultrarrápido do modelo via mapeamento em memória.
--cors-origins "*"	Permite conexões de qualquer origem para facilitar a integração com a UI.
--webui-mcp-proxy	Habilita proxy para o protocolo MCP (Model Context Protocol).
--threads-http -1	Otimização automática de threads para atendimento das requisições HTTP.
--port 5173	Porta de escuta do servidor HTTP local.
--host 127.0.0.1	Vincula a execução ao localhost.

---

🧰 Comandos Úteis do Projeto

Referência rápida dos comandos essenciais contidos em ZCODE_COMANDOS.txt e nos pacotes:

# Iniciar a interface gráfica Desktop
pnpm dev:desktop

# Iniciar o servidor web + interface web (porta 5173/3030)
pnpm dev:web

# Compilar o binário em modo SEA
pnpm build:sea

# Navegar até a pasta dos binários do CLI
cd apps/zcode-cli/packages/cli/dist/

# Testar o binário compilado diretamente
node apps/zcode-cli/packages/cli/dist/zcode.cjs --help

# Verificar formatação e linter de código
pnpm fmt:check
pnpm lint

---

📂 Estrutura do Repositório

ZCode_local_llama-server/
├── apps/
│   └── zcode-cli/              # CLI do agente, TUI e scripts SEA
├── packages/
│   ├── desktop/                # Aplicação Electron (Main, Host, Renderer)
│   ├── web/                    # Interface Web
│   ├── server/                 # Servidor HTTP / WebSocket e orquestração
│   ├── ui/                     # Componentes React compartilhados (Tailwind)
│   ├── provider/               # Provedores de LLM e integração com APIs
│   ├── shared/                 # Tipos, contratos e utilitários globais
│   └── zcode-server-cli/       # Gerenciador de processos do servidor
├── config/                     # Configurações padrão e templates
├── scripts/                    # Scripts de build, automação e empacotamento
├── ZCODE_COMANDOS.txt          # Anotações e comandos rápidos de execução
└── package.json                # Monorepo root package.json

---

📄 Licença

Este projeto é distribuído sob os termos da licença Apache License 2.0. Consulte o arquivo LICENSE e NOTICE.md para mais detalhes sobre termos de uso e declarações de terceiros.