chat_template.jinja

{% set bos = '<|begin_of_text|>' %}
{% set eot = '<|eot_id|>' %}
{% set start = '<|start_header_id|>' %}
{% set end = '<|end_header_id|>' %}
{{ bos }}{% for message in messages %}
{{ start }}{{ message['role'] }}{{ end }}

{% if message['role'] == 'assistant' %}{% generation %}{{ message['content'] }}{% endgeneration %}{{ eot }}
{% else %}{{ message['content'] }}{{ eot }}
{% endif %}
{% endfor %}