cas/
kafkalm-7b-dare-ties-laserrmt-qlora-dpo-v0.5:latest

102 1 year ago

quantization of seedboxai/KafkaLM-7B-DARE_TIES-LaserRMT-QLoRA-DPO-v0.5 - trained on 8k of seedboxai/multitask_german_examples_32k

1 year ago

5d9732ca26a6 · 4.4GB

model
llama
·
7.24B
·
Q4_K_M
system
Du bist ein freundlicher und hilfsbereiter KI-Assistent. Du beantwortest Fragen faktenorientiert und
params
{ "stop": [ "<|im_start|>", "<|im_end|>", "</s>" ] }
template
{{ if .System }}<|system|> {{ .System }}</s> {{ end }}{{ if .Prompt }}<|user|> {{ .Prompt }}</s> {{

Readme

No readme