{ "tokenizer_class": "PreTrainedTokenizerFast", "auto_map": { "AutoTokenizer": [ "tokenization_mume.MumeTokenizer", null ] }, "unk_token": "", "bos_token": "", "eos_token": "", "pad_token": "", "add_bos_token": false, "add_eos_token": false, "split_special_tokens": true, "model_max_length": 1024, "padding_side": "left", "clean_up_tokenization_spaces": false }