File size: 192 Bytes
c4b670a
1175aaa
7d2464f
1175aaa
4070820
7d2464f
1175aaa
7d2464f
1175aaa
1
2
3
4
5
6
7
8
9
10
FROM ./mark_slm_v2_302m_iq4_nl.gguf

TEMPLATE """{{ .Prompt }}"""

PARAMETER stop "<|eos|>"
PARAMETER stop "<|pad|>"
PARAMETER temperature 0.2
PARAMETER top_p 0.9
PARAMETER repeat_penalty 1.1