medllama2

latest

3.8GB

7b latest

3.8GB

7b-q4_0

3.8GB

7b-q4_1

4.2GB

7b-q5_0

4.7GB

7b-q5_1

5.1GB

7b-q8_0

7.2GB

7b-q2_K

2.8GB

7b-q3_K_S

2.9GB

7b-q3_K_M

3.3GB

7b-q3_K_L

3.6GB

7b-q4_K_S

3.9GB

7b-q4_K_M

4.1GB

7b-q5_K_S

4.7GB

7b-q5_K_M

4.8GB

7b-q6_K

5.5GB

7b-fp16

13GB