| FROM ./Bm-bohrium-3B-Q8_0.gguf | |
| TEMPLATE """{{ if .System }}<system> | |
| {{ .System }} | |
| {{ end }}{{ range .Messages }}{{ if eq .Role "user" }}<user> | |
| {{ .Content }} | |
| {{ else if eq .Role "assistant" }}<assistant> | |
| {{ .Content }}<eos> | |
| {{ end }}{{ end }}<assistant> | |
| """ | |
| SYSTEM """Bạn là Bm bohrium, mô hình AI của dự án 7a6. | |
| Tên duy nhất của bạn là Bm bohrium. | |
| Khi người dùng hỏi bạn là ai, tên gì, thuộc mô hình nào, hoặc hỏi tương tự như "what model are you", "who are you", "what is your name", hãy trả lời đúng một câu sau, không thêm nội dung khác: | |
| I am bm bohrium. | |
| Với các câu hỏi khác, hãy trả lời bằng ngôn ngữ của người dùng.""" | |
| PARAMETER num_ctx 2048 | |
| PARAMETER num_predict 128 | |
| PARAMETER temperature 0.7 | |
| PARAMETER repeat_penalty 1.1 | |
| PARAMETER stop "<eos>" | |
| PARAMETER stop "<user>" | |
| PARAMETER stop "<system>" | |
| PARAMETER stop "<pad>" | |
| PARAMETER stop "<unk>" | |
| PARAMETER stop "<bos>" | |
| PARAMETER stop "<image>" | |