A fine-tuned model based on Mistral with good coverage of domain and language.
7B
39.7K Pulls Updated 2 months ago
7b-v3.1
4.1GB
7b-v3.2
4.1GB
7b-v3.3
4.1GB
7b-v3.1-q4_0
4.1GB
7b-v3.1-q4_1
4.6GB
7b-v3.1-q5_0
5.0GB
7b-v3.1-q5_1
5.4GB
7b-v3.1-q8_0
7.7GB
7b-v3.1-q2_K
3.1GB
7b-v3.1-q3_K_S
3.2GB
7b-v3.1-q3_K_M
3.5GB
7b-v3.1-q3_K_L
3.8GB
7b-v3.1-q4_K_S
4.1GB
7b-v3.1-q4_K_M
4.4GB
7b-v3.1-q5_K_S
5.0GB
7b-v3.1-q5_K_M
5.1GB
7b-v3.1-q6_K
5.9GB
7b-v3.1-fp16
14GB
7b-v3.2-q4_0
4.1GB
7b-v3.2-q4_1
4.6GB
7b-v3.2-q5_0
5.0GB
7b-v3.2-q5_1
5.4GB
7b-v3.2-q8_0
7.7GB
7b-v3.2-q2_K
3.1GB
7b-v3.2-q3_K_S
3.2GB
7b-v3.2-q3_K_M
3.5GB
7b-v3.2-q3_K_L
3.8GB
7b-v3.2-q4_K_S
4.1GB
7b-v3.2-q4_K_M
4.4GB
7b-v3.2-q5_K_S
5.0GB
7b-v3.2-q5_K_M
5.1GB
7b-v3.2-q6_K
5.9GB
7b-v3.2-fp16
14GB
7b-v3.3-q4_0
4.1GB
7b-v3.3-q4_1
4.6GB
7b-v3.3-q5_0
5.0GB
7b-v3.3-q5_1
5.4GB
7b-v3.3-q8_0
7.7GB
7b-v3.3-q2_K
3.1GB
7b-v3.3-q3_K_S
3.2GB
7b-v3.3-q3_K_M
3.5GB
7b-v3.3-q3_K_L
3.8GB
7b-v3.3-q4_K_S
4.1GB
7b-v3.3-q4_K_M
4.4GB
7b-v3.3-q5_K_S
5.0GB
7b-v3.3-q5_K_M
5.1GB
7b-v3.3-q6_K
5.9GB
7b-v3.3-fp16
14GB
bf99dec66c97 · 67B
### System:
{{ .System }}
### User:
{{ .Prompt }}
### Assistant: