29 1 month ago

Instruct-версия большой языковой модели YandexGPT 5 Lite на 8B параметров с длиной контекста 32k токенов. (квантизованная версия Q4_K_M)

8b
b57cf61fe80b · 211B
<s> Ассистент:[SEP]{{- range .Messages }}{{- if eq .Role "user" }}Response }}
Пользователь: {{ .Content }}
Ассистент:[SEP]{{- else if eq .Role "assistant" }}{{- end }}{{- end }}