yanjia/ Qwen3.5-27B-GLM5.1-Distill-v1:q4km

93 3 weeks ago

Quantization based on Jackrong / Qwen3.5-27B-GLM5.1-Distill-v1 

ollama run yanjia/Qwen3.5-27B-GLM5.1-Distill-v1:q4km

Details

3 weeks ago

d839a08e9859 · 17GB ·

model
qwen35
·
26.9B
·
Q4_K_M
system
You are Qwen3.5-27B-GLM5.1-Distill-v1, a helpful reasoning assistant.
params
{ "num_ctx": 8192, "num_gpu": 99, "repeat_penalty": 1.1, "temperature": 0.7 }
template
{{ .Prompt }}

Readme

本模型为 Jackrong/Qwen3.5-27B-GLM5.1-Distill-v1 的 GGUF 量化版本，底座模型为 Qwen/Qwen3.5-27B，使用 Unsloth Studio 转换制作。

该模型是在 Qwen3.5-27B 基础上蒸馏 GLM-5.1 推理能力得到的推理模型，适合中文、英文问答、推理、写作、代码辅助与长上下文任务。

Tag 量化方式 文件大小 推荐显存
Q4_K_M 4-bit K-quant ~16.5 GB >= 20 GB

使用方式

ollama run yanjia/Qwen3.5-27B-GLM5.1-Distill-v1:q4km

许可证

本模型继承原始模型及蒸馏模型的对应许可证。根据 Hugging Face 页面信息，Jackrong/Qwen3.5-27B-GLM5.1-Distill-v1 当前许可证为 Apache-2.0；使用前请同时参考 Qwen Team 与 Jackrong 在 Hugging Face 页面发布的许可条款。

引用原模型

如在研究中使用，请引用原作者：

@misc{qwen35_27b_2026,
  title  = {Qwen3.5-27B},
  author = {Qwen Team},
  year   = {2026},
  howpublished = {\url{https://huggingface.co/Qwen/Qwen3.5-27B}},
}

@misc{jackrong_qwen35_27b_glm51_distill_v1,
  title        = {Jackrong/Qwen3.5-27B-GLM5.1-Distill-v1},
  author       = {Jackrong},
  year         = {2026},
  publisher    = {Hugging Face},
  howpublished = {\url{https://huggingface.co/Jackrong/Qwen3.5-27B-GLM5.1-Distill-v1}}
}

量化说明

原始模型由 Unsloth Studio 量化为 Q4_K_M。量化过程未对模型权重做其他修改。