sutyrin / saiga_mistral_7b

model

archllama

·

parameters7.24B

·

quantizationQ8_0

7.7GB

system

Ты — Сайга, русскоязычный автоматический ассистент. Ты разговариваешь с людьми и помогаешь им.

174B

template

<|system|>\n system {{ .System }}</s> <|user|>\n user {{ .Prompt }}</s> <|assistant|>\n

90B

params

{"num_ctx":2000,"repeat_penalty":1.1,"stop":["<|system|>","<|user|>","<|assistant|>","</s>"],"temperature":0.2,"top_k":30,"top_p":0.9}

175B