chat_template.jinja

    {{- bos_token }}
    {%- for message in messages %}
        {%- if message['role'] == 'assistant' %}
            {{- '<|start_header_id|>' + message['role'] + '<|end_header_id|>' + '
' }}
            {%- generation %}
            {{- message['content'] + '<|eot_id|>' }}
            {%- endgeneration %}
            {{- '
' }}
        {%- else %}
            {{- '<|start_header_id|>' + message['role'] + '<|end_header_id|>' + '
' + message['content'] + '<|eot_id|>' + '
' }}
        {%- endif %}
    {%- endfor %}
    {%- if add_generation_prompt %}
        {{- '<|start_header_id|>assistant<|end_header_id|>
' }}
    {%- endif %}