esilva's picture
Add v3 ONNX builds (v0.1.0-preview)
b34d90b verified
|
Raw History Blame Contribute Delete
888 Bytes
# KapiCoder-Mongo-Nano v3 ONNX INT4
Autocomplete FIM de MongoDB para o Kapibara Studio (0.5B, tier T0), pacote ONNX `int4` para CPU.
- Contrato de contexto: `editor-context-v1` (QwenFimPromptBuilder + cabecalho do editor), contexto 2.048 tokens, ate 32 tokens gerados, greedy.
- Paradas: `<|fim_prefix|>`, `<|fim_suffix|>`, `<|fim_middle|>`, `<|endoftext|>`, `<|im_end|>`, `<|fim_pad|>`.
- Runtime: onnxruntime-genai >= 0.15.2 (`model.type = qwen2`, adapter Qwen da IDE).
- Base: `Qwen/Qwen2.5-Coder-0.5B` @ `8123ea2e9354afb7ffcc6c8641d1b2f5ecf18301` (Apache-2.0). Dataset `v3`. Licenca Apache-2.0 (`LICENSE`, `NOTICE.md`).
- Integridade: `kapicoder_manifest.json` (SHA-256 de cada arquivo) e `export_manifest.json` (ferramenta, comando, tamanhos).
- Estado: **candidato nao qualificado**. Medidas de paridade/latencia do Python sao PROXY; o gate oficial vem do KapiLab/harness da IDE.