FROM ./makellm-ja-char-200m-normal-chat.f16.gguf

TEMPLATE """{{ range .Messages }}{{ if eq .Role "user" }}<|user|>{{ .Content }}<|bot|>{{ else if eq .Role "assistant" }}{{ .Content }}<|end|>{{ end }}{{ end }}"""

PARAMETER stop "<|end|>"
PARAMETER stop "<|user|>"
PARAMETER num_ctx 512
PARAMETER temperature 0.7
PARAMETER top_k 40
PARAMETER repeat_penalty 1.1