FROM ./tagoregpt-29m-f16.gguf
TEMPLATE """<|request|>{{ .Prompt }}<|response|>"""
PARAMETER stop "<|request|>"
PARAMETER stop "</s>"
PARAMETER temperature 0.8
PARAMETER top_k 40
PARAMETER repeat_penalty 1.15
PARAMETER repeat_last_n 256
PARAMETER num_ctx 1024