HAKO-v3 / README.md
PowerMachine's picture
HAKO-V3: punicao por repeticao (T-REP3), orquestrador gpt2g (RouterGQA), DINOv2->Diffusion->SOM, comparacao V2<->V3
3fe1f47 verified
|
Raw History Blame Contribute Delete
1.09 kB
# HAKO-V3 (Hybrid Attention Kohonen Orchestrator, v3)
Evolucao matematica dos publicados PowerMachine/HAKO-v2 e v1 (ambos incluidos intocados).
Novidades V3:
1. Punicao por repeticao em 3 niveis (T-REP3): geracao (CTRL + bloqueio de n-grama + presenca/frequencia), SOM/BMU (GHSOMV3 novelty-weighted com penalidade sem dimensao e decaimento cosenoidal) e roteamento (punicao de rota repetida).
2. Modelo-fonte como orquestrador: o GPT-2 GQA (gpt2g) treina um roteador (RouterGQA) com rotulos de responsabilidade por QE solo; o orquestrador esta em toda rota (troca de informacao garantida).
3. DINOv2 -> Diffusion -> SOM: a DiffusionGame publicada (DDPM + T-CURRICULUM) treina sobre os latentes dinov2 e suas amostras denoizadas alimentam o treino da rede SOM (mistura beta + pseudo-amostras).
Quantizacao int4 mantida (helpers publicados P-DEC). Metricas QE/TE/U-matrix/hits/dW por epoca; verificacoes M1-M4 publicadas; comparacao lado a lado V2<->V3; 20 perguntas PT-BR com respostas cruas e ablaçao estilo-V2. Entrada: `python3 -m hako_v3.run_v3 --start 0`. Telemetria JSONL 5 fluxos.