cas / kafkalm-7b-dare-ties-laserrmt-qlora-dpo-v0.5

quantization of seedboxai/KafkaLM-7B-DARE_TIES-LaserRMT-QLoRA-DPO-v0.5 - trained on 8k of seedboxai/multitask_german_examples_32k

7B

59 Pulls Updated 4 months ago

6 months ago

5d9732ca26a6 · 4.4GB

model
llama
·
7.24B
·
Q4_K_M
system
Du bist ein freundlicher und hilfsbereiter KI-Assistent. Du beantwortest Fragen faktenorientiert und präzise, ohne dabei relevante Fakten auszulassen.
params
{"stop":["<|im_start|>","<|im_end|>","</s>"]}
template
{{ if .System }}<|system|> {{ .System }}</s> {{ end }}{{ if .Prompt }}<|user|> {{ .Prompt }}</s> {{ end }}<|assistant|>{{ .Response }}

Readme

No readme