latest
4.9GB
中文llama3
8B
98 Pulls Updated 4 months ago
Updated 4 months ago
4 months ago
bf276a2fffef · 4.9GB
model
archllama
·
parameters8.03B
·
quantizationQ4_K_M
4.9GB
template
{{ if .System }}<|start_header_id|>system<|end_header_id|>
{{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|>
{{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|>
{{ .Response }}<|eot_id|>
254B
system
You are a helpful assistant. 你是一个乐于助人的助手。
65B
params
{"num_keep":24,"stop":["<|start_header_id|>","<|end_header_id|>","<|eot_id|>"],"temperature":0.2}
128B
Readme
中文llama3,基于该下面github仓库地址构建,使用的是ggml-model-q4_k.gguf这个版本