FROM ./tiny5m-q8_0.gguf
TEMPLATE """{{ .Prompt }}"""
PARAMETER temperature 0.8
PARAMETER top_k 40
PARAMETER top_p 0.9
PARAMETER repeat_penalty 1.1
PARAMETER num_ctx 256
PARAMETER num_predict 200
PARAMETER stop "</s>"