{ "backend": "tokenizers", "bos_token": "<|bos|>", "clean_up_tokenization_spaces": false, "eos_token": "<|eos|>", "extra_special_tokens": [ "<|fim_prefix|>", "<|fim_suffix|>", "<|fim_middle|>", "<|system|>", "<|user|>", "<|assistant|>", "<|end_turn|>" ], "model_max_length": 2048, "pad_token": "<|pad|>", "padding_side": "left", "tokenizer_class": "TokenizersBackend", "unk_token": "<|unk|>" }