Datasets:

Brunobkr
/

ZCode_local_llama-server

DOI:

Dataset card Files Files and versions

xet

Community

ZCode_local_llama-server / README.md

Brunobkr

Update README.md

2e72f9e verified 10 days ago

preview code

Raw History Blame Contribute Delete

9.31 kB

	# ZCode_local_llama-server

	<div align="center">
	<img src="1024x1024.png" alt="ZCode Logo" width="120" height="120" />

	Estação de trabalho e ambiente de desenvolvimento orientado a agentes de IA, adaptado para inferência 100% local com `llama-server`.

	[![License: Apache 2.0](https://img.shields.io/badge/License-Apache_2.0-blue.svg)](LICENSE)
	[![Node Version](https://img.shields.io/badge/Node.js-%3E%3D24.14.0-brightgreen.svg)](https://nodejs.org/)
	[![pnpm Version](https://img.shields.io/badge/pnpm-%3E%3D10.33.2-orange.svg)](https://pnpm.io/)
	[![Projeto Sem Fins Lucrativos](https://img.shields.io/badge/Projeto-Sem%20Fins%20Lucrativos-informational.svg)](#-projeto-sem-fins-lucrativos)
	[![Local LLM Support](https://img.shields.io/badge/LLM-Local%20llama--server-purple.svg)](https://github.com/ggml-org/llama.cpp)
	</div>

	---

	> [!IMPORTANT]
	> ### ⚡ Início Rápido: Clonar e Compilar
	> ```bash
	> # 1. Clonar o repositório
	> git clone https://github.com/brunoconta1980-tech/ZCode_local_llama-server
	> cd ZCode_local_llama-server
	>
	> # 2. Instalar dependências e preparar o ambiente
	> pnpm install
	> pnpm bootstrap
	>
	> # 3. Compilar (Single Executable Application - SEA)
	> pnpm build:sea
	>
	> # 4. Acessar os binários gerados
	> cd apps/zcode-cli/packages/cli/dist/
	> ```

	---

	## 📋 Sumário

	- [Visão Geral](#-visão-geral)
	- [Projeto Sem Fins Lucrativos](#-projeto-sem-fins-lucrativos)
	- [Créditos e Reconhecimento](#-créditos-e-reconhecimento)
	- [Pré-requisitos](#-pré-requisitos)
	- [Instalação e Compilação](#-instalação-e-compilação)
	- [Execução do Frontend Desktop](#-execução-do-frontend-desktop)
	- [Configuração e Execução do Llama-Server](#-configuração-e-execução-do-llama-server)
	- [Comandos Úteis do Projeto](#-comandos-úteis-do-projeto)
	- [Estrutura do Repositório](#-estrutura-do-repositório)
	- [Licença](#-licença)

	---

	## 📖 Visão Geral

	O ZCode_local_llama-server é um ambiente completo de desenvolvimento e pair-programming potencializado por inteligência artificial. Ele disponibiliza uma interface desktop rica (Electron), interface web moderna e um CLI/TUI com agentes autônomos integrados diretamente com modelos de linguagem (LLMs) executados localmente através do `llama-server` (do ecossistema `llama.cpp`).

	Com isso, você mantém total controle sobre sua privacidade, telemetria e infraestrutura, executando agentes de código complexos sem custos de API externa ou dependência de serviços em nuvem.

	---

	## 🕊️ Projeto Sem Fins Lucrativos

	> [!NOTE]
	> Este projeto é mantido de forma voluntária, aberta e estritamente sem fins lucrativos. Seu objetivo principal é promover a democratização do acesso a ferramentas de inteligência artificial de ponta para desenvolvedores, pesquisadores e estudantes, encorajando a soberania de dados e o uso de modelos abertos e locais.

	---

	## 🤝 Créditos e Reconhecimento

	Este repositório é fruto do trabalho colaborativo da comunidade de software livre. Expressamos nossa sincera gratidão aos criadores das ferramentas fundamentais que tornam este projeto possível:

	1. [ZCode Original](https://github.com/zai-org/ZCode):
	- Desenvolvido e mantido pela equipe da [zai-org](https://github.com/zai-org).
	- Fornece toda a arquitetura de agentes, frontend desktop/web, gerenciamento de estado, protocolo RPC e integração de ferramentas.
	2. [llama.cpp / llama-server](https://github.com/ggml-org/llama.cpp):
	- Criado por Georgi Gerganov e continuado pela vibrante comunidade do `llama.cpp` / GGML.
	- Permite inferência eficiente e de altíssima velocidade em GPUs e CPUs com quantizações modernas (GGUF).
	3. Modelos da Comunidade Open-Weight:
	- Aos times de pesquisa e open-source (como Qwen / Alibaba Cloud e finetuners da comunidade) pelos pesos e modelos de raciocínio e codificação.

	---

	## 🛠️ Pré-requisitos

	Certifique-se de ter instalado em seu sistema operacional (Linux / macOS / Windows):

	- Git
	- Node.js: Versão `24.14.0` ou superior (consulte [mise.toml](mise.toml))
	- pnpm: Versão `10.33.2` ou superior
	- llama.cpp / llama-server: Compilado com suporte a GPU (CUDA, ROCm, Metal ou Vulkan)

	---

	## ⚙️ Instalação e Compilação

	### 1. Clonagem do Repositório
	```bash
	git clone https://github.com/brunoconta1980-tech/ZCode_local_llama-server
	cd ZCode_local_llama-server
	```

	### 2. Instalação e Inicialização
	Execute o bootstrap para instalar as dependências de todos os workspaces e preparar os artefatos locais do Desktop:
	```bash
	pnpm bootstrap
	```

	### 3. Compilação do CLI (Single Executable Application)
	Para compilar o binário embutido e os pacotes CLI:
	```bash
	pnpm build:sea
	```

	Os binários e módulos gerados estarão localizados em:
	```bash
	cd apps/zcode-cli/packages/cli/dist/
	```

	---

	## 🖥️ Execução do Frontend Desktop

	Para iniciar a interface desktop do ZCode em modo de desenvolvimento (Electron):

	```bash
	# Iniciar o frontend desktop
	pnpm dev:desktop
	```

	> [!TIP]
	> Caso queira executar o ambiente de desktop apontando para o perfil de testes:
	> ```bash
	> pnpm dev:desktop:test
	> ```

	---

	## 🦙 Configuração e Execução do Llama-Server

	Para conectar o ZCode ao seu modelo local, execute o `llama-server` com as flags otimizadas para processamento de agentes e chamadas de ferramentas (Function/Tool Calling).

	### Comando Sugerido:

	```bash
	"/home/llama_OFFFELLIA_1984/build/bin/llama-server" \
	-m "/home/Área de trabalho/userk21/LLMS/ΩFFFΣLLIα_MXFP4_MOE_Qwen3.6-35B-A3B-ΩMΣGα-vibe-code.gguf" \
	-ngl 99 --n-cpu-moe 99 \
	-c 131072 \
	-t 4 \
	-tb 4 \
	-ctk q8_0 \
	-ctv q8_0 \
	-fa on \
	--cpu-strict 1 \
	--agent \
	--tools all \
	--reasoning auto \
	--kv-unified \
	--load-mode mmap \
	--cors-origins "*" \
	--webui-mcp-proxy \
	--threads-http -1 \
	--port 5173 \
	--host 127.0.0.1
	```

	### Detalhamento dos Parâmetros

	\| Parâmetro \| Descrição \|
	\| :--- \| :--- \|
	\| `-m <caminho>` \| Caminho para o modelo quantizado `.gguf`. \|
	\| `-ngl 99` \| Quantidade de camadas offloaded para a GPU (VRAM). \|
	\| `--n-cpu-moe 99` \| Camadas MoE roteadas para processamento ótimo entre CPU/GPU. \|
	\| `-c 131072` \| Janela de contexto estendida (128k tokens) ideal para repositórios grandes. \|
	\| `-t 4` / `-tb 4` \| Número de threads para inferência e processamento em batch. \|
	\| `-ctk q8_0` / `-ctv q8_0` \| Cache Key/Value quantizado em 8 bits para drástica economia de memória. \|
	\| `-fa on` \| Habilita Flash Attention para acelerar a atenção e reduzir consumo de RAM/VRAM. \|
	\| `--agent` \| Habilita comportamentos e endpoints específicos para agentes. \|
	\| `--tools all` \| Habilita suporte integral a Tool / Function Calling. \|
	\| `--reasoning auto` \| Ativa detecção automática de blocos de raciocínio (thinking tags). \|
	\| `--kv-unified` \| Unificação dos buffers de contexto KV. \|
	\| `--load-mode mmap` \| Carregamento ultrarrápido do modelo via mapeamento em memória. \|
	\| `--cors-origins "*"` \| Permite conexões de qualquer origem para facilitar a integração com a UI. \|
	\| `--webui-mcp-proxy` \| Habilita proxy para o protocolo MCP (Model Context Protocol). \|
	\| `--threads-http -1` \| Otimização automática de threads para atendimento das requisições HTTP. \|
	\| `--port 5173` \| Porta de escuta do servidor HTTP local. \|
	\| `--host 127.0.0.1` \| Vincula a execução ao localhost. \|

	---

	## 🧰 Comandos Úteis do Projeto

	Referência rápida dos comandos essenciais contidos em [`ZCODE_COMANDOS.txt`](ZCODE_COMANDOS.txt) e nos pacotes:

	```bash
	# Iniciar a interface gráfica Desktop
	pnpm dev:desktop

	# Iniciar o servidor web + interface web (porta 5173/3030)
	pnpm dev:web

	# Compilar o binário em modo SEA
	pnpm build:sea

	# Navegar até a pasta dos binários do CLI
	cd apps/zcode-cli/packages/cli/dist/

	# Testar o binário compilado diretamente
	node apps/zcode-cli/packages/cli/dist/zcode.cjs --help

	# Verificar formatação e linter de código
	pnpm fmt:check
	pnpm lint
	```

	---

	## 📂 Estrutura do Repositório

	```text
	ZCode_local_llama-server/
	├── apps/
	│ └── zcode-cli/ # CLI do agente, TUI e scripts SEA
	├── packages/
	│ ├── desktop/ # Aplicação Electron (Main, Host, Renderer)
	│ ├── web/ # Interface Web
	│ ├── server/ # Servidor HTTP / WebSocket e orquestração
	│ ├── ui/ # Componentes React compartilhados (Tailwind)
	│ ├── provider/ # Provedores de LLM e integração com APIs
	│ ├── shared/ # Tipos, contratos e utilitários globais
	│ └── zcode-server-cli/ # Gerenciador de processos do servidor
	├── config/ # Configurações padrão e templates
	├── scripts/ # Scripts de build, automação e empacotamento
	├── ZCODE_COMANDOS.txt # Anotações e comandos rápidos de execução
	└── package.json # Monorepo root package.json
	```

	---

	## 📄 Licença

	Este projeto é distribuído sob os termos da licença Apache License 2.0. Consulte o arquivo [LICENSE](LICENSE) e [NOTICE.md](NOTICE.md) para mais detalhes sobre termos de uso e declarações de terceiros.