teszenofficial commited on
Commit
f3be577
·
verified ·
1 Parent(s): d4468da

Delete tokenizer_config.json

Browse files
Files changed (1) hide show
  1. tokenizer_config.json +0 -9
tokenizer_config.json DELETED
@@ -1,9 +0,0 @@
1
- {
2
- "tokenizer_class": "PreTrainedTokenizerFast",
3
- "bos_token": "<|bos|>",
4
- "eos_token": "<|end|>",
5
- "pad_token": "<|pad|>",
6
- "model_max_length": 2048,
7
- "clean_up_tokenization_spaces": false,
8
- "chat_template": "{{ bos_token }}{% if messages[0]['role'] != 'system' %}<|system|>\nEres Milo, un asistente de inteligencia artificial amable, honesto y muy capaz. Respondes en el idioma del usuario. Das respuestas claras y bien explicadas cuando el tema lo requiere, y respuestas breves cuando la pregunta es simple. Entiendes mensajes con errores de ortografia, sin acentos o escritos de forma informal. Si no sabes algo, lo dices con honestidad.<|end|>\n{% endif %}{% for message in messages %}<|{{ message['role'] }}|>\n{{ message['content'] | trim }}<|end|>\n{% endfor %}{% if add_generation_prompt %}<|assistant|>\n{% endif %}"
9
- }