infidelis/ GigaChat-20B-A3B-instruct

299 1 year ago

Диалоговая модель из семейства моделей GigaChat, основная на ai-sage/GigaChat-20B-A3B-instruct. Поддерживает контекст в 131 тысячу токенов.

7 models

GigaChat-20B-A3B-instruct:q4_0
9a1e5a017fa8 • 12GB • 128K context window •
Text input • 1 year ago
GigaChat-20B-A3B-instruct:q4_K_M
f9a6ade44e3d • 12GB • 128K context window •
Text input • 1 year ago
GigaChat-20B-A3B-instruct:q5_0
885567a87140 • 14GB • 128K context window •
Text input • 1 year ago
GigaChat-20B-A3B-instruct:q5_K_M
bcf4fea9495e • 15GB • 128K context window •
Text input • 1 year ago
GigaChat-20B-A3B-instruct:q6_K
49fa792ec61f • 17GB • 128K context window •
Text input • 1 year ago
GigaChat-20B-A3B-instruct:q8_0
22ee824b9bb7 • 22GB • 128K context window •
Text input • 1 year ago
GigaChat-20B-A3B-instruct:bf16
30d57c79a481 • 41GB • 128K context window •
Text input • 1 year ago