Repeated input triggers a loop: the model cannot accurately determine how many times translation is required.
Model: Index-Translate-2B
Input as follow, the Chinese paragraph is repeated 8 times.:
为了提高公共交通服务的可靠性，市政府决定分阶段更新车辆和售票系统。第一阶段将增加二十辆电动公交车，同时保留现有票价。施工期间，居民应提前查看临时路线公告，老年人和残障人士可申请额外帮助。所有支出将在每个季度结束后公开，独立委员会将审核项目进度。为了提高公共交通服务的可靠性，市政府决定分阶段更新车辆和售票系统。第一阶段将增加二十辆电动公交车，同时保留现有票价。施工期间，居民应提前查看临时路线公告，老年人和残障人士可申请额外帮助。所有支出将在每个季度结束后公开，独立委员会将审核项目进度。为了提高公共交通服务的可靠性，市政府决定分阶段更新车辆和售票系统。第一阶段将增加二十辆电动公交车，同时保留现有票价。施工期间，居民应提前查看临时路线公告，老年人和残障人士可申请额外帮助。所有支出将在每个季度结束后公开，独立委员会将审核项目进度。为了提高公共交通服务的可靠性，市政府决定分阶段更新车辆和售票系统。第一阶段将增加二十辆电动公交车，同时保留现有票价。施工期间，居民应提前查看临时路线公告，老年人和残障人士可申请额外帮助。所有支出将在每个季度结束后公开，独立委员会将审核项目进度。为了提高公共交通服务的可靠性，市政府决定分阶段更新车辆和售票系统。第一阶段将增加二十辆电动公交车，同时保留现有票价。施工期间，居民应提前查看临时路线公告，老年人和残障人士可申请额外帮助。所有支出将在每个季度结束后公开，独立委员会将审核项目进度。为了提高公共交通服务的可靠性，市政府决定分阶段更新车辆和售票系统。第一阶段将增加二十辆电动公交车，同时保留现有票价。施工期间，居民应提前查看临时路线公告，老年人和残障人士可申请额外帮助。所有支出将在每个季度结束后公开，独立委员会将审核项目进度。为了提高公共交通服务的可靠性，市政府决定分阶段更新车辆和售票系统。第一阶段将增加二十辆电动公交车，同时保留现有票价。施工期间，居民应提前查看临时路线公告，老年人和残障人士可申请额外帮助。所有支出将在每个季度结束后公开，独立委员会将审核项目进度。为了提高公共交通服务的可靠性，市政府决定分阶段更新车辆和售票系统。第一阶段将增加二十辆电动公交车，同时保留现有票价。施工期间，居民应提前查看临时路线公告，老年人和残障人士可申请额外帮助。所有支出将在每个季度结束后公开，独立委员会将审核项目进度。
The corresponding English output paragraph was repeated 16 times in total, with the 17th repetition starting at the end. The model fails to generate the end marker after the 8th translation, may cause EOS stop failure.
Thanks for reporting this!
Highly repetitive input patterns can trigger self-reinforcing loops in autoregressive models (especially on smaller 2B models), causing the model to over-attend to previous repetitions and miss the EOS token.
To resolve this, please enable a repetition penalty during inference:
repetition_penalty: 1.1 (recommended range 1.05–1.15 in vLLM / SGLang / llama.cpp / Hugging Face)
Or via OpenAI-compatible API: frequency_penalty: 0.1 / presence_penalty: 0.1
This will effectively break the repetition loop and allow the model to terminate properly at EOS.