esilva's picture
Add v3 ONNX builds (v0.1.0-preview)
b34d90b verified
|
Raw History Blame Contribute Delete
888 Bytes

KapiCoder-Mongo-Nano v3 ONNX INT4

Autocomplete FIM de MongoDB para o Kapibara Studio (0.5B, tier T0), pacote ONNX int4 para CPU.

  • Contrato de contexto: editor-context-v1 (QwenFimPromptBuilder + cabecalho do editor), contexto 2.048 tokens, ate 32 tokens gerados, greedy.
  • Paradas: <|fim_prefix|>, <|fim_suffix|>, <|fim_middle|>, <|endoftext|>, <|im_end|>, <|fim_pad|>.
  • Runtime: onnxruntime-genai >= 0.15.2 (model.type = qwen2, adapter Qwen da IDE).
  • Base: Qwen/Qwen2.5-Coder-0.5B @ 8123ea2e9354afb7ffcc6c8641d1b2f5ecf18301 (Apache-2.0). Dataset v3. Licenca Apache-2.0 (LICENSE, NOTICE.md).
  • Integridade: kapicoder_manifest.json (SHA-256 de cada arquivo) e export_manifest.json (ferramenta, comando, tamanhos).
  • Estado: candidato nao qualificado. Medidas de paridade/latencia do Python sao PROXY; o gate oficial vem do KapiLab/harness da IDE.