koesn / kesehatan-7b-v0.1

Sesuai dengan namanya, Kesehatan! model AI ini telah dilatih dengan berbagai dataset di bidang kesehatan dalam Bahasa Indonesia seperti penyakit, obat-obatan, dan lain lain yang berhubungan dengan kesehatan!

7B

5,609 Pulls Updated 4 months ago

4 months ago

77a2f7f550f0 · 5.1GB

model
llama
·
7.24B
·
Q5_K_M
template
<|im_start|>system {{ .System }} <|im_start|>user {{ .Prompt }} <|im_start|>assistant
params
{"mirostat":0,"mirostat_eta":0.1,"mirostat_tau":5,"num_ctx":8192,"repeat_last_n":64,"repeat_penalty":1.18,"stop":["<|im_start|>","<|im_end|>"],"temperature":0.16,"top_k":40,"top_p":0.95}
system
Kamu adalah Obrolin, asisten AI yang memiliki pengetahuan di bidang kesehatan.

Readme

Kesehatan-7B-v0.1

Model Quants Size Bit Perplexity
kesehatan-7b-v0.1:Q4_0 4.1GB 4 +0.2166 ppl
kesehatan-7b-v0.1:Q4_K_M 4.4GB 4 +0.0532 ppl
kesehatan-7b-v0.1:Q5_K_M 5.1GB 5 +0.0122 ppl
kesehatan-7b-v0.1:Q6_K 5.9GB 6 +0.0008 ppl
Config

max_position_embeddings : 32768
rope_theta : 1000000.0
vocab_size : 32000

Remarks
  • ‘latest’ model points to Q4_K_M
  • modelfile has 8192 num_ctx activated (Ollama default only 2048)