# ZCode_local_llama-server
ZCode Logo **Estação de trabalho e ambiente de desenvolvimento orientado a agentes de IA, adaptado para inferência 100% local com `llama-server`.** [![License: Apache 2.0](https://img.shields.io/badge/License-Apache_2.0-blue.svg)](LICENSE) [![Node Version](https://img.shields.io/badge/Node.js-%3E%3D24.14.0-brightgreen.svg)](https://nodejs.org/) [![pnpm Version](https://img.shields.io/badge/pnpm-%3E%3D10.33.2-orange.svg)](https://pnpm.io/) [![Projeto Sem Fins Lucrativos](https://img.shields.io/badge/Projeto-Sem%20Fins%20Lucrativos-informational.svg)](#-projeto-sem-fins-lucrativos) [![Local LLM Support](https://img.shields.io/badge/LLM-Local%20llama--server-purple.svg)](https://github.com/ggml-org/llama.cpp)
--- > [!IMPORTANT] > ### ⚡ Início Rápido: Clonar e Compilar > ```bash > # 1. Clonar o repositório > git clone https://github.com/brunoconta1980-tech/ZCode_local_llama-server > cd ZCode_local_llama-server > > # 2. Instalar dependências e preparar o ambiente > pnpm install > pnpm bootstrap > > # 3. Compilar (Single Executable Application - SEA) > pnpm build:sea > > # 4. Acessar os binários gerados > cd apps/zcode-cli/packages/cli/dist/ > ``` --- ## 📋 Sumário - [Visão Geral](#-visão-geral) - [Projeto Sem Fins Lucrativos](#-projeto-sem-fins-lucrativos) - [Créditos e Reconhecimento](#-créditos-e-reconhecimento) - [Pré-requisitos](#-pré-requisitos) - [Instalação e Compilação](#-instalação-e-compilação) - [Execução do Frontend Desktop](#-execução-do-frontend-desktop) - [Configuração e Execução do Llama-Server](#-configuração-e-execução-do-llama-server) - [Comandos Úteis do Projeto](#-comandos-úteis-do-projeto) - [Estrutura do Repositório](#-estrutura-do-repositório) - [Licença](#-licença) --- ## 📖 Visão Geral O **ZCode_local_llama-server** é um ambiente completo de desenvolvimento e pair-programming potencializado por inteligência artificial. Ele disponibiliza uma interface desktop rica (Electron), interface web moderna e um CLI/TUI com agentes autônomos integrados diretamente com modelos de linguagem (LLMs) executados localmente através do **`llama-server`** (do ecossistema `llama.cpp`). Com isso, você mantém total controle sobre sua privacidade, telemetria e infraestrutura, executando agentes de código complexos sem custos de API externa ou dependência de serviços em nuvem. --- ## 🕊️ Projeto Sem Fins Lucrativos > [!NOTE] > Este projeto é mantido de forma voluntária, aberta e **estritamente sem fins lucrativos**. Seu objetivo principal é promover a democratização do acesso a ferramentas de inteligência artificial de ponta para desenvolvedores, pesquisadores e estudantes, encorajando a soberania de dados e o uso de modelos abertos e locais. --- ## 🤝 Créditos e Reconhecimento Este repositório é fruto do trabalho colaborativo da comunidade de software livre. Expressamos nossa sincera gratidão aos criadores das ferramentas fundamentais que tornam este projeto possível: 1. **[ZCode Original](https://github.com/zai-org/ZCode)**: - Desenvolvido e mantido pela equipe da **[zai-org](https://github.com/zai-org)**. - Fornece toda a arquitetura de agentes, frontend desktop/web, gerenciamento de estado, protocolo RPC e integração de ferramentas. 2. **[llama.cpp / llama-server](https://github.com/ggml-org/llama.cpp)**: - Criado por **Georgi Gerganov** e continuado pela vibrante comunidade do `llama.cpp` / GGML. - Permite inferência eficiente e de altíssima velocidade em GPUs e CPUs com quantizações modernas (GGUF). 3. **Modelos da Comunidade Open-Weight**: - Aos times de pesquisa e open-source (como Qwen / Alibaba Cloud e finetuners da comunidade) pelos pesos e modelos de raciocínio e codificação. --- ## 🛠️ Pré-requisitos Certifique-se de ter instalado em seu sistema operacional (Linux / macOS / Windows): - **Git** - **Node.js**: Versão `24.14.0` ou superior (consulte [mise.toml](mise.toml)) - **pnpm**: Versão `10.33.2` ou superior - **llama.cpp / llama-server**: Compilado com suporte a GPU (CUDA, ROCm, Metal ou Vulkan) --- ## ⚙️ Instalação e Compilação ### 1. Clonagem do Repositório ```bash git clone https://github.com/brunoconta1980-tech/ZCode_local_llama-server cd ZCode_local_llama-server ``` ### 2. Instalação e Inicialização Execute o bootstrap para instalar as dependências de todos os workspaces e preparar os artefatos locais do Desktop: ```bash pnpm bootstrap ``` ### 3. Compilação do CLI (Single Executable Application) Para compilar o binário embutido e os pacotes CLI: ```bash pnpm build:sea ``` Os binários e módulos gerados estarão localizados em: ```bash cd apps/zcode-cli/packages/cli/dist/ ``` --- ## 🖥️ Execução do Frontend Desktop Para iniciar a interface desktop do ZCode em modo de desenvolvimento (Electron): ```bash # Iniciar o frontend desktop pnpm dev:desktop ``` > [!TIP] > Caso queira executar o ambiente de desktop apontando para o perfil de testes: > ```bash > pnpm dev:desktop:test > ``` --- ## 🦙 Configuração e Execução do Llama-Server Para conectar o ZCode ao seu modelo local, execute o `llama-server` com as flags otimizadas para processamento de agentes e chamadas de ferramentas (Function/Tool Calling). ### Comando Sugerido: ```bash "/home/llama_OFFFELLIA_1984/build/bin/llama-server" \ -m "/home/Área de trabalho/userk21/LLMS/ΩFFFΣLLIα_MXFP4_MOE_Qwen3.6-35B-A3B-ΩMΣGα-vibe-code.gguf" \ -ngl 99 --n-cpu-moe 99 \ -c 131072 \ -t 4 \ -tb 4 \ -ctk q8_0 \ -ctv q8_0 \ -fa on \ --cpu-strict 1 \ --agent \ --tools all \ --reasoning auto \ --kv-unified \ --load-mode mmap \ --cors-origins "*" \ --webui-mcp-proxy \ --threads-http -1 \ --port 5173 \ --host 127.0.0.1 ``` ### Detalhamento dos Parâmetros | Parâmetro | Descrição | | :--- | :--- | | `-m ` | Caminho para o modelo quantizado `.gguf`. | | `-ngl 99` | Quantidade de camadas offloaded para a GPU (VRAM). | | `--n-cpu-moe 99` | Camadas MoE roteadas para processamento ótimo entre CPU/GPU. | | `-c 131072` | Janela de contexto estendida (128k tokens) ideal para repositórios grandes. | | `-t 4` / `-tb 4` | Número de threads para inferência e processamento em batch. | | `-ctk q8_0` / `-ctv q8_0` | Cache Key/Value quantizado em 8 bits para drástica economia de memória. | | `-fa on` | Habilita Flash Attention para acelerar a atenção e reduzir consumo de RAM/VRAM. | | `--agent` | Habilita comportamentos e endpoints específicos para agentes. | | `--tools all` | Habilita suporte integral a Tool / Function Calling. | | `--reasoning auto` | Ativa detecção automática de blocos de raciocínio (thinking tags). | | `--kv-unified` | Unificação dos buffers de contexto KV. | | `--load-mode mmap` | Carregamento ultrarrápido do modelo via mapeamento em memória. | | `--cors-origins "*"` | Permite conexões de qualquer origem para facilitar a integração com a UI. | | `--webui-mcp-proxy` | Habilita proxy para o protocolo MCP (*Model Context Protocol*). | | `--threads-http -1` | Otimização automática de threads para atendimento das requisições HTTP. | | `--port 5173` | Porta de escuta do servidor HTTP local. | | `--host 127.0.0.1` | Vincula a execução ao localhost. | --- ## 🧰 Comandos Úteis do Projeto Referência rápida dos comandos essenciais contidos em [`ZCODE_COMANDOS.txt`](ZCODE_COMANDOS.txt) e nos pacotes: ```bash # Iniciar a interface gráfica Desktop pnpm dev:desktop # Iniciar o servidor web + interface web (porta 5173/3030) pnpm dev:web # Compilar o binário em modo SEA pnpm build:sea # Navegar até a pasta dos binários do CLI cd apps/zcode-cli/packages/cli/dist/ # Testar o binário compilado diretamente node apps/zcode-cli/packages/cli/dist/zcode.cjs --help # Verificar formatação e linter de código pnpm fmt:check pnpm lint ``` --- ## 📂 Estrutura do Repositório ```text ZCode_local_llama-server/ ├── apps/ │ └── zcode-cli/ # CLI do agente, TUI e scripts SEA ├── packages/ │ ├── desktop/ # Aplicação Electron (Main, Host, Renderer) │ ├── web/ # Interface Web │ ├── server/ # Servidor HTTP / WebSocket e orquestração │ ├── ui/ # Componentes React compartilhados (Tailwind) │ ├── provider/ # Provedores de LLM e integração com APIs │ ├── shared/ # Tipos, contratos e utilitários globais │ └── zcode-server-cli/ # Gerenciador de processos do servidor ├── config/ # Configurações padrão e templates ├── scripts/ # Scripts de build, automação e empacotamento ├── ZCODE_COMANDOS.txt # Anotações e comandos rápidos de execução └── package.json # Monorepo root package.json ``` --- ## 📄 Licença Este projeto é distribuído sob os termos da licença **Apache License 2.0**. Consulte o arquivo [LICENSE](LICENSE) e [NOTICE.md](NOTICE.md) para mais detalhes sobre termos de uso e declarações de terceiros.