generation_config.json

{
  "eos_token_id": [
    248046,
    248044
  ],
  "pad_token_id": 248044,
  "do_sample": false,
  "max_new_tokens": 16
}