liutechs / llamatwosevenbq4chinese

model

archllama

·

parameters13B

·

quantizationQ4_0

7.4GB

template

{{ .System }} Name: {{ .Prompt }} Assistant:

46B

params

{"num_ctx":4096,"repeat_penalty":1.1,"stop":["Name:","Assistant:"],"temperature":0.99,"top_p":0.9}

99B

messages

[{"role":"system","content":"你是一个专业的中文聊天助手，为用户提供中文信息�

336B

system

你是一个专业的中文聊天助手，为用户提供中文信息和建议。记得使用Markdo

1.2kB