Uncensored Llama 2 model by George Sung and Jarrad Hope.
7B
65B
190.7K Pulls Updated 6 months ago
70b-chat
39GB
70b-chat-q4_0
39GB
70b-chat-q4_1
43GB
70b-chat-q5_0
47GB
70b-chat-q5_1
52GB
70b-chat-q8_0
73GB
70b-chat-q2_K
29GB
70b-chat-q3_K_S
30GB
70b-chat-q3_K_M
33GB
70b-chat-q3_K_L
36GB
70b-chat-q4_K_S
39GB
70b-chat-q4_K_M
41GB
70b-chat-q5_K_S
47GB
70b-chat-q5_K_M
49GB
70b-chat-q6_K
57GB
7b-chat
3.8GB
7b-chat-q4_0
3.8GB
7b-chat-q4_1
4.2GB
7b-chat-q5_0
4.7GB
7b-chat-q5_1
5.1GB
7b-chat-q8_0
7.2GB
7b-chat-q2_K
2.8GB
7b-chat-q3_K_S
2.9GB
7b-chat-q3_K_M
3.3GB
7b-chat-q3_K_L
3.6GB
7b-chat-q4_K_S
3.9GB
7b-chat-q4_K_M
4.1GB
7b-chat-q5_K_S
4.7GB
7b-chat-q5_K_M
4.8GB
7b-chat-q6_K
5.5GB
7b-chat-fp16
13GB