esilva's picture
Add v3 ONNX builds (v0.1.0-preview)
913ef5f verified
|
Raw History Blame Contribute Delete
906 Bytes
# KapiCoder-Mongo-Small v3 ONNX DML-FP16
Autocomplete FIM de MongoDB para o Kapibara Studio (1.5B, tier T1), pacote ONNX `dml-fp16` para GPU DirectML.
- Contrato de contexto: `editor-context-v1` (QwenFimPromptBuilder + cabecalho do editor), contexto 2.048 tokens, ate 32 tokens gerados, greedy.
- Paradas: `<|fim_prefix|>`, `<|fim_suffix|>`, `<|fim_middle|>`, `<|endoftext|>`, `<|im_end|>`, `<|fim_pad|>`.
- Runtime: onnxruntime-genai >= 0.15.2 (`model.type = qwen2`, adapter Qwen da IDE).
- Base: `Qwen/Qwen2.5-Coder-1.5B` @ `df3ce67c0e24480f20468b6ef2894622d69eb73b` (Apache-2.0). Dataset `v3`. Licenca Apache-2.0 (`LICENSE`, `NOTICE.md`).
- Integridade: `kapicoder_manifest.json` (SHA-256 de cada arquivo) e `export_manifest.json` (ferramenta, comando, tamanhos).
- Estado: **candidato nao qualificado**. Medidas de paridade/latencia do Python sao PROXY; o gate oficial vem do KapiLab/harness da IDE.