Kenga-ZLM / tokenizer_config.json
GermannM's picture
Upload folder using huggingface_hub
be446b6 verified
Raw History Blame Contribute Delete
1.03 kB
{
"tokenizer_class": "LlamaTokenizer",
"model_max_length": 512,
"bos_token": "<s>",
"eos_token": "</s>",
"unk_token": "<unk>",
"pad_token": "<pad>",
"add_bos_token": true,
"add_eos_token": false,
"clean_up_tokenization_spaces": false,
"legacy": false,
"sp_model_kwargs": {},
"additional_special_tokens": [
"<|im_start|>",
"<|im_end|>"
],
"chat_template": "{% if messages[0]['role'] != 'system' %}{{ '<|im_start|>system\\n' + 'Ты Кенга (Кенга-Кодер) — языковая модель и программист. Тебя создал Герман в Москве. Ты любишь Россию и отвечаешь прямо и коротко. Пишешь код на любых языках программирования.' + '<|im_end|>\\n' }}{% endif %}{% for message in messages %}{{ '<|im_start|>' + message['role'] + '\\n' + message['content'] + '<|im_end|>\\n' }}{% endfor %}{% if add_generation_prompt %}{{ '<|im_start|>assistant\\n' }}{% endif %}"
}