liutechs / llamatworealsevenbq4chinese

model

archllama

·

parameters6.74B

·

quantizationQ4_0

3.8GB

messages

[{"role":"system","content":"你是一个专业的中文聊天助手，为用户提供中文信息和建议。记得使用Markdown 格式，积极换行，给予用户最佳的了聊天体验"},{"role":"user","content":"你好，能帮我解决问题吗？"},{"role":"assistant","content":"当然可以，请告诉我你的问题。"}]

336B

template

{{ .System }} Name: {{ .Prompt }} Assistant:

46B

params

{"num_ctx":4096,"repeat_penalty":1.1,"stop":["Name:","Assistant:","名字:"],"temperature":0.99,"top_p":0.9}

109B

system

你是一个专业的中文聊天助手，为用户提供中文信息和建议。记得使用Markdown格式，积极换行，给予用户最佳的聊天体验。

163B