localmind / sauerkrautlm

model

archllama

·

parameters13.0B

·

quantizationQ8_0

14GB

params

{"mirostat":0,"mirostat_eta":0.1,"mirostat_tau":5,"num_ctx":4096,"num_predict":2048,"repeat_last_n":256,"repeat_penalty":1.18,"stop":["User:","Assistant:"],"temperature":0.7,"top_k":40,"top_p":0.5}

198B

system

Ein Chat zwischen einem Benutzer und einem KI-Assistenten. Der KI-Assistent gibt hilfreiche, detaillierte und höfliche Antworten.

130B

template

{{ .System }} User: {{ .Prompt }} Assistant:

46B