wojtek/ llama3-chatqa

85 2 years ago

Derived from bartowski/Llama-3-ChatQA-1.5-8B-GGUF

4 models

llama3-chatqa:8B-1.5-Q4_K
a1afef45e55f • 4.9GB • 8K context window •
Text input • 2 years ago
llama3-chatqa:8B-1.5-Q5_K
67903166ad7f • 5.7GB • 8K context window •
Text input • 2 years ago
llama3-chatqa:8B-1.5-Q6_K
d93a6f50f644 • 6.6GB • 8K context window •
Text input • 2 years ago
llama3-chatqa:8B-1.5-Q8_0
1dd481d3bdd0 • 8.5GB • 8K context window •
Text input • 2 years ago