AnInterestingSurname/
gemmasutra-mini-2b-v1

1,431 1 year ago

A tiny RP model packing an unbelievable PUNCH.

Models

View all →

8 models

gemmasutra-mini-2b-v1:latest

1.7GB · 8K context window · Text · 1 year ago

gemmasutra-mini-2b-v1:q2_k

1.2GB · 8K context window · Text · 1 year ago

gemmasutra-mini-2b-v1:q3_k_m

1.5GB · 8K context window · Text · 1 year ago

gemmasutra-mini-2b-v1:q4_k_m

1.7GB · 8K context window · Text · 1 year ago

gemmasutra-mini-2b-v1:q5_k_m

1.9GB · 8K context window · Text · 1 year ago

gemmasutra-mini-2b-v1:q6_k

2.2GB · 8K context window · Text · 1 year ago

gemmasutra-mini-2b-v1:q8_0

2.8GB · 8K context window · Text · 1 year ago

gemmasutra-mini-2b-v1:f16

5.2GB · 8K context window · Text · 1 year ago

Readme

Gemmasutra-Mini-2B-v1

Huggingface