ΩFFΣLLIα — Quantização GGUF Zetahelicoidal

Modelo convertido para o formato GGUF com a quantização ΩFFΣLLIα / Zetahelicoidal, desenvolvida e aplicada sobre o pipeline de quantização do llama.cpp. Compatível com llama.cpp, llama-server, Ollama, LM Studio, KoboldCpp, text-generation-webui e demais ferramentas que suportam GGUF.

Este é um derivado quantizado. Todos os créditos dos pesos e da arquitetura original

llama.cpp — Fork de Quantização Helicoidal (Q4_2_H)

Este repositório é um fork especializado do llama.cpp com suporte nativo à Quantização Helicoidal Q4_2_H (GGML_TYPE_Q4_2_H), desenvolvida a partir da Teoria de Peneira e Fase de Becker. O tamanho de bloco foi ajustado e padronizado para 24 elementos (QK_Q4_2_H = 24), garantindo compatibilidade matemática, eliminação de explosão de blocos e divisibilidade exata em modelos de linguagem modernos.

Além disso, todas as travas de modificação, verificações de hash de compilação (online e offline) e restrições de Service Worker / PWA foram removidas para assegurar livre compilação e execução da versão modificada.

---

Remoção de Travas de Segurança e Verificações de Modificação

Para assegurar que o repositório modificado possa ser compilado e executado em qualquer ambiente sem bloqueios:

Desativação de Verificações de Git / Hash de Compilação (Offline e Online)

• No CMakeLists.txt e cmake/git-vars.cmake, as checagens estritas que forçavam sufixos -dirty ou interrompiam compilações em ambientes modificados/fora de repositórios Git foram flexibilizadas.
• O processo de build aceita código customizado sem disparar erros de checagem de integridade de fonte.

Remoção de Proteções PWA / Cache

• Foram eliminadas restrições em Service Workers e manifestos que impediam atualizações de assets em versões modificadas da interface Web.

Servidor Express de Desenvolvimento e Proxy (server.ts)

• Roteamento ajustado para permitir compilações limpas, mock de endpoints do console Svelte/Vite e simulação em tempo real da quantização helicoidal.

---

Relatório de Implementação: Quantização Helicoidal Q4_2_H (Bloco de 24)

1. Correção da Divisibilidade e Eliminação de "Explosão" de Blocos

Anteriormente, ao utilizar o tamanho de bloco 42, matrizes de tensores com dimensões padrão de modelos modernos (como 1536, 2048, 4096, 6912, 8192) apresentavam incompatibilidade por não serem divisíveis por 42 (ex.: 1536 / 42 = 36,57). Isso causava:

• Avisos recorrentes de fallback para Q4_0.
• Fragmentação e desalinhamento na alocação de memória (explosão do número de blocos não otimizados).

Com o ajuste para QK_Q4_2_H = 24:

• Divisibilidade Exata: 24 é divisor exato de diversas dimensões ocultas e de atenção (1536 / 24 = 64; 6912 / 24 = 288).
• Estrutura de 14 Bytes: O bloco é composto por 1 escala em meia precisão (ggml_half d, 2 bytes) e 24 nibbles de 4 bits empacotados em 12 bytes (uint8_t qs[12]). Total exato de 14 bytes (static_assert(sizeof(block_q4_2_h) == 14)).
• Zero Fallbacks: O carregador de modelos processa todos os tensores nativamente em Q4_2_H.

---

Tabela Completa de Arquivos Modificados no llama.cpp

---

Comparativo Técnico das Estruturas

---

Como Compilar e Utilizar

1. Compilação do llama.cpp Modificado

bash wget -O vendor/miniaudio/miniaudio.h https://raw.githubusercontent.com/mackron/miniaudio/master/miniaudio.h

find . -exec touch {} + cd llama.cpp

cd llama.cpp mkdir -p build && cd build cmake .. -DLLAMA_BUILD_EXAMPLES=ON cmake --build . --config Release -j$(nproc)

2. Conversão de Modelo Hugging Face para GGUF Q4_2_H

python3 llama.cpp/convert_hf_to_gguf.py path/to/model --outtype q4_2_h --outfile models/modelo-q4_2_h.gguf

./llama.cpp/build/bin/llama-quantize ./models/modelo-f16.gguf ./models/modelo-q4_2_h.gguf Q4_2_H


sudo apt update
sudo apt install -y build-essential cmake ninja-build git pkg-config \
  libvulkan-dev vulkan-tools mesa-vulkan-drivers \
  nodejs npm

vulkaninfo --summary

# Limpa artefatos antigos corrompidos
rm -rf build

# Configura o CMake com suporte Vulkan e otimizações nativas do Ryzen (-march=native)
cmake -B build \
  -DGGML_VULKAN=ON \
  -DGGML_NATIVE=ON \
  -DCMAKE_BUILD_TYPE=Release
  
cmake --build build -j$(nproc)

###Registrar os Caminhos das Bibliotecas Compiladas

echo "$(pwd)/build/bin" | sudo tee /etc/ld.so.conf.d/llama-custom.conf
sudo ldconfig

# 1. Quantizar para a nova arquitetura Helicoidal Q4_2_H
./build/bin/llama-quantize \
  "/home/userk21/Área de trabalho/userk21/GGUFS/VӨIDDΣЯ_f16_LFM2-700M-Heretic.gguf" \
  "/home/userk21/Área de trabalho/userk21/GGUFS/VӨIDDΣЯ_Q4_2_H_LFM2-700M-Heretic.gguf" \
  Q4_2_H

# 2. Executar o servidor com aceleração Vulkan
./build/bin/llama-server \
  -m "/home/userk21/Área de trabalho/userk21/GGUFS/VӨIDDΣЯ_Q4_2_H_LFM2-700M-Heretic.gguf" \
  -c 50000 \
  -ngl 99 \ (Retire caso exploda memória)
  --port 5173  




迫於無奈，我們只好發揮創意。
---

https://huggingface.co/Brunobkr

https://huggingface.co/datasets/Brunobkr/OFFELLIA_Kernel_llama-server

## 📌 Visão geral

| Item | Valor |
| --- | --- |
| **Variante** | ΩFFΣLLIα / Zetahelicoidal |
| **Formato** | GGUF |
| **Quantização (ΩFFΣLLIα)** | Brunobkr |
| **Abliteração** | Heretic (AGPL-3.0) |

---

## 🧬 Quantização Zetahelicoidal (ΩFFΣLLIα)

A **ΩFFΣLLIα / Zetahelicoidal** é uma variante de quantização para GGUF que atua como uma
**camada de pré-condicionamento determinística e reversível**, aplicada bloco a bloco **antes**
da quantização padrão do GGML/llama.cpp e desfeita na dequantização. Ela **não substitui** os
formatos nativos (Q4_K, Q8_0, IQ4_XS, IQ4_NL, MXFP4_MOE, etc.) — opera sobre eles, mantendo
**compatibilidade total** com qualquer runtime que carregue GGUF.

Por ser determinística e reversível, os pesos efetivos durante a inferência correspondem aos do
modelo base submetidos ao formato de quantização escolhido.

---

## 🚀 Uso rápido com llama.cpp

```bash
# CLI
llama-cli -m <NOME_DO_ARQUIVO>.gguf \
  -p "Escreva um haiku sobre GPUs" \
  -c 8192 -ngl 99

# Servidor (API compatível com OpenAI)
llama-server -m <NOME_DO_ARQUIVO>.gguf \
  -c 8192 -ngl 99 --port 8080

Exemplo de chamada à API do llama-server:

curl http://127.0.0.1:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages":[{"role":"user","content":"Olá!"}],"stream":false}'

Download

huggingface-cli download Brunobkr/<seu-repo> \
  <NOME_DO_ARQUIVO>.gguf \
  --local-dir ./models

Outras ferramentas

• Ollama: ollama create <nome> -f Modelfile apontando FROM ./<NOME_DO_ARQUIVO>.gguf
• LM Studio / KoboldCpp / text-generation-webui: carregue o .gguf diretamente pela interface.

---

🎯 Casos de uso

Geração e edição de texto, chat e IA conversacional, sumarização, assistentes de código e fluxos agênticos — conforme as capacidades do modelo base escolhido.

---

##CARD genérico se modelo heretic ou relativo:

🔓 Heretic — Abliteração e licença (AGPL-3.0)

Uso responsável: por se tratar de um modelo com alinhamento de segurança modificado, o usuário é o único responsável pelo uso, em conformidade com a licença do modelo base e a legislação aplicável.

---

⚠️ Notas e limitações

• Trata-se de um derivado quantizado; os pesos efetivos na inferência correspondem aos do modelo base submetidos ao formato de quant escolhido.
• O alinhamento de segurança foi removido via Heretic — avalie o comportamento no seu caso de uso.
• Os parâmetros de geração (temperatura, top_p, top_k, template de chat, tokens especiais) seguem as recomendações do modelo base — consulte o card original.
• Avalie empiricamente perplexidade/qualidade do GGUF resultante no seu fluxo de trabalho.

---

📚 Referências

• Modelo base: https://huggingface.co/<org/modelo-base>
• Heretic (abliteração): https://github.com/p-e-w/heretic
• llama.cpp (GGUF): https://github.com/ggml-org/llama.cpp
• Formato GGUF: https://huggingface.co/docs/hub/gguf
• ΩFFΣLLIα (Hugging Face): https://huggingface.co/Brunobkr
• Depósito de pesquisa (Zenodo): https://doi.org/10.5281/zenodo.20026837

---

✍️ Citação

@misc{becker_offsellia_zetahelicoidal,
  title        = {ΩFFΣLLIα: Zetahelicoidal quantization layer for GGUF / llama.cpp},
  year         = {2026},
  howpublished = {Hugging Face},
  note         = {Determinístic, reversible per-block pre-conditioning kernel},
  url          = {https://huggingface.co/Brunobkr}
}