Yi 1.5 is a high-performing, bilingual language model.
6B
9B
34B
47.7K Pulls Updated 7 days ago
v1.5
3.5GB
34b-chat
19GB
34b-v1.5
19GB
34b-q4_0
19GB
34b-q4_1
22GB
34b-q5_0
24GB
34b-q5_1
26GB
34b-q2_K
15GB
34b-q3_K_S
15GB
34b-q3_K_M
17GB
34b-q3_K_L
18GB
34b-q4_K_S
20GB
34b-q4_K_M
21GB
34b-q5_K_S
24GB
34b-q6_K
28GB
34b-chat-q4_0
19GB
34b-chat-q4_1
22GB
34b-chat-q5_0
24GB
34b-chat-q5_1
26GB
34b-chat-q8_0
37GB
34b-chat-q2_K
15GB
34b-chat-q3_K_S
15GB
34b-chat-q3_K_M
17GB
34b-chat-q3_K_L
18GB
34b-chat-q4_K_S
20GB
34b-chat-q4_K_M
21GB
34b-chat-q5_K_S
24GB
34b-chat-q5_K_M
24GB
34b-chat-q6_K
28GB
34b-chat-fp16
69GB
34b-v1.5-q4_0
19GB
34b-v1.5-q4_1
22GB
34b-v1.5-q5_0
24GB
34b-v1.5-q5_1
26GB
34b-v1.5-q8_0
37GB
34b-v1.5-q2_K
13GB
34b-v1.5-q3_K_S
15GB
34b-v1.5-q3_K_M
17GB
34b-v1.5-q3_K_L
18GB
34b-v1.5-q4_K_S
20GB
34b-v1.5-q4_K_M
21GB
34b-v1.5-q5_K_S
24GB
34b-v1.5-q5_K_M
24GB
34b-v1.5-q6_K
28GB
34b-v1.5-fp16
69GB
34b-chat-v1.5-q4_0
19GB
34b-chat-v1.5-q4_1
22GB
34b-chat-v1.5-q5_0
24GB
34b-chat-v1.5-q5_1
26GB
34b-chat-v1.5-q8_0
37GB
34b-chat-v1.5-q2_K
13GB
34b-chat-v1.5-q3_K_S
15GB
34b-chat-v1.5-q3_K_M
17GB
34b-chat-v1.5-q3_K_L
18GB
34b-chat-v1.5-q4_K_S
20GB
34b-chat-v1.5-q4_K_M
21GB
34b-chat-v1.5-q5_K_S
24GB
34b-chat-v1.5-q5_K_M
24GB
34b-chat-v1.5-q6_K
28GB
34b-chat-v1.5-fp16
69GB
9b-chat
5.0GB
9b-v1.5
5.0GB
9b-v1.5-q4_0
5.0GB
9b-v1.5-q4_1
5.6GB
9b-v1.5-q5_0
6.1GB
9b-v1.5-q5_1
6.6GB
9b-v1.5-q8_0
9.4GB
9b-v1.5-q2_K
3.4GB
9b-v1.5-q3_K_S
3.9GB
9b-v1.5-q3_K_M
4.3GB
9b-v1.5-q3_K_L
4.7GB
9b-v1.5-q4_K_S
5.1GB
9b-v1.5-q4_K_M
5.3GB
9b-v1.5-q5_K_S
6.1GB
9b-v1.5-q5_K_M
6.3GB
9b-v1.5-q6_K
7.2GB
9b-v1.5-fp16
18GB
9b-chat-v1.5-q4_0
5.0GB
9b-chat-v1.5-q4_1
5.6GB
9b-chat-v1.5-q5_0
6.1GB
9b-chat-v1.5-q5_1
6.6GB
9b-chat-v1.5-q8_0
9.4GB
9b-chat-v1.5-q2_K
3.4GB
9b-chat-v1.5-q3_K_S
3.9GB
9b-chat-v1.5-q3_K_M
4.3GB
9b-chat-v1.5-q3_K_L
4.7GB
9b-chat-v1.5-q4_K_S
5.1GB
9b-chat-v1.5-q4_K_M
5.3GB
9b-chat-v1.5-q5_K_S
6.1GB
9b-chat-v1.5-q5_K_M
6.3GB
9b-chat-v1.5-q6_K
7.2GB
9b-chat-v1.5-fp16
18GB
6b-200k
3.5GB
6b-chat
3.5GB
6b-v1.5
3.5GB
6b-q4_0
3.5GB
6b-q4_1
3.8GB
6b-q5_0
4.2GB
6b-q5_1
4.6GB
6b-q8_0
6.4GB
6b-q2_K
2.6GB
6b-q3_K_S
2.7GB
6b-q3_K_M
3.0GB
6b-q3_K_L
3.2GB
6b-q4_K_S
3.5GB
6b-q4_K_M
3.7GB
6b-q5_K_S
4.2GB
6b-q5_K_M
4.3GB
6b-q6_K
5.0GB
6b-fp16
12GB
6b-200k-q4_0
3.5GB
6b-200k-q4_1
3.8GB
6b-200k-q5_0
4.2GB
6b-200k-q5_1
4.6GB
6b-200k-q8_0
6.4GB
6b-200k-q2_K
2.6GB
6b-200k-q3_K_S
2.7GB
6b-200k-q3_K_M
3.0GB
6b-200k-q3_K_L
3.2GB
6b-200k-q4_K_S
3.5GB
6b-200k-q4_K_M
3.7GB
6b-200k-q5_K_S
4.2GB
6b-200k-q5_K_M
4.3GB
6b-200k-q6_K
5.0GB
6b-200k-fp16
12GB
6b-chat-q4_0
3.5GB
6b-chat-q4_1
3.8GB
6b-chat-q5_0
4.2GB
6b-chat-q5_1
4.6GB
6b-chat-q8_0
6.4GB
6b-chat-q2_K
2.6GB
6b-chat-q3_K_S
2.7GB
6b-chat-q3_K_M
3.0GB
6b-chat-q3_K_L
3.2GB
6b-chat-q4_K_S
3.5GB
6b-chat-q4_K_M
3.7GB
6b-chat-q5_K_S
4.2GB
6b-chat-q5_K_M
4.3GB
6b-chat-q6_K
5.0GB
6b-chat-fp16
12GB
6b-v1.5-q4_0
3.5GB
6b-v1.5-q4_1
3.8GB
6b-v1.5-q5_0
4.2GB
6b-v1.5-q5_1
4.6GB
6b-v1.5-q8_0
6.4GB
6b-v1.5-q2_K
2.3GB
6b-v1.5-q3_K_S
2.7GB
6b-v1.5-q3_K_M
3.0GB
6b-v1.5-q3_K_L
3.2GB
6b-v1.5-q4_K_S
3.5GB
6b-v1.5-q4_K_M
3.7GB
6b-v1.5-q5_K_S
4.2GB
6b-v1.5-q5_K_M
4.3GB
6b-v1.5-q6_K
5.0GB
6b-v1.5-fp16
12GB
6b-chat-v1.5-q4_0
3.5GB
6b-chat-v1.5-q4_1
3.8GB
6b-chat-v1.5-q5_0
4.2GB
6b-chat-v1.5-q5_1
4.6GB
6b-chat-v1.5-q8_0
6.4GB
6b-chat-v1.5-q2_K
2.3GB
6b-chat-v1.5-q3_K_S
2.7GB
6b-chat-v1.5-q3_K_M
3.0GB
6b-chat-v1.5-q3_K_L
3.2GB
6b-chat-v1.5-q4_K_S
3.5GB
6b-chat-v1.5-q4_K_M
3.7GB
6b-chat-v1.5-q5_K_S
4.2GB
6b-chat-v1.5-q5_K_M
4.3GB
6b-chat-v1.5-q6_K
5.0GB
6b-chat-v1.5-fp16
12GB