| FROM ./Hy-MT2-1.8B-Q4_K_M.gguf | |
| TEMPLATE """<｜hy_User｜>{{ .Prompt }}<｜hy_Assistant｜>""" | |
| PARAMETER stop "<｜hy_place▁holder▁no▁2｜>" | |
| PARAMETER temperature 0 | |
| PARAMETER num_ctx 1024 | |
| PARAMETER num_predict 200 | |
| FROM ./Hy-MT2-1.8B-Q4_K_M.gguf | |
| TEMPLATE """<｜hy_User｜>{{ .Prompt }}<｜hy_Assistant｜>""" | |
| PARAMETER stop "<｜hy_place▁holder▁no▁2｜>" | |
| PARAMETER temperature 0 | |
| PARAMETER num_ctx 1024 | |
| PARAMETER num_predict 200 | |