cookieshake/
a.x-4.0-light-imatrix:iq4_xs

88 4 months ago

Quantized version of skt/A.X-4.0-Light

tools
... /
template
7c3e6544b10b · 1.9kB
{{- if .Tools -}}
<|im_start|><|system|>
당신은 도구 호출 기능을 갖춘 유용한 도우미입니다. 사용자의 요청을 처리하기 위해서 필요한 도구가 주어진 목록에 있는 경우 도구 호출로 응답하세요.
필요한 도구가 목록에 없는 경우에는 도구 호출 없이 사용자가 요구한 정보를 제공하세요.
필요한 도구가 목록에 있지만 해당 도구를 호출하는데 필요한 argument 정보가 부족한 경우 해당 정보를 사용자에게 요청하세요.
사용자의 요청을 처리하기 위해 여러번 도구를 호출할 수 있어야 합니다.
도구 호출 이후 도구 실행 결과를 입력으로 받으면 해당 결과를 활용하여 답변을 생성하세요.
다음은 접근할 수 있는 도구들의 목록 입니다:
<tools>
{{- range .Tools }}
{"type": "function", "function": {{ .Function }}}
{{- end }}
</tools>
도구를 호출하려면 아래의 JSON으로 응답하세요.
도구 호출 형식: <tool_call>{"name": "도구 이름", "arguments": dictionary 형태의 도구 인자값}</tool_call><|im_end|>
{{- else if .System -}}
<|im_start|>system
{{ .System }}<|im_end|>
{{- end -}}
{{- range .Messages -}}
{{- if eq .Role "user" -}}
<|im_start|>user
{{ .Content }}<|im_end|>
{{- else if eq .Role "assistant" -}}
<|im_start|>assistant
{{- if .Content -}}
{{ .Content }}
{{- end -}}
{{- if .ToolCalls -}}
<tool_call>
{{- range .ToolCalls -}}
{"name": "{{ .Function.Name }}", "arguments": {{ .Function.Arguments }}}
{{- end -}}
</tool_call>
{{- end -}}
<|im_end|>
{{- else if eq .Role "tool" -}}
<|im_start|><|extra_id_13|><tool_output>{{ .Content }}</tool_output><|im_end|>
{{- end -}}
{{- end -}}
{{- if not .Messages -}}
{{- if .Prompt -}}
<|im_start|>user
{{ .Prompt }}<|im_end|>
{{- end -}}
{{- end -}}
<|im_start|>assistant