llama2-uncensored

latest

3.8GB

70b

39GB

7b latest

3.8GB

70b-chat

39GB

70b-chat-q4_0

39GB

70b-chat-q4_1

43GB

70b-chat-q5_0

47GB

70b-chat-q5_1

52GB

70b-chat-q8_0

73GB

70b-chat-q2_K

29GB

70b-chat-q3_K_S

30GB

70b-chat-q3_K_M

33GB

70b-chat-q3_K_L

36GB

70b-chat-q4_K_S

39GB

70b-chat-q4_K_M

41GB

70b-chat-q5_K_S

47GB

70b-chat-q5_K_M

49GB

70b-chat-q6_K

57GB

7b-chat

3.8GB

7b-chat-q4_0

3.8GB

7b-chat-q4_1

4.2GB

7b-chat-q5_0

4.7GB

7b-chat-q5_1

5.1GB

7b-chat-q8_0

7.2GB

7b-chat-q2_K

2.8GB

7b-chat-q3_K_S

2.9GB

7b-chat-q3_K_M

3.3GB

7b-chat-q3_K_L

3.6GB

7b-chat-q4_K_S

3.9GB

7b-chat-q4_K_M

4.1GB

7b-chat-q5_K_S

4.7GB

7b-chat-q5_K_M

4.8GB

7b-chat-q6_K

5.5GB

7b-chat-fp16

13GB