yanjia/Qwen3.5-27B-GLM5.1-Distill-v1

yanjia/ Qwen3.5-27B-GLM5.1-Distill-v1

93 Downloads Updated 3 weeks ago

Quantization based on Jackrong / Qwen3.5-27B-GLM5.1-Distill-v1

ollama run yanjia/Qwen3.5-27B-GLM5.1-Distill-v1:q4km

curl http://localhost:11434/api/chat \
  -d '{
    "model": "yanjia/Qwen3.5-27B-GLM5.1-Distill-v1:q4km",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

from ollama import chat

response = chat(
    model='yanjia/Qwen3.5-27B-GLM5.1-Distill-v1:q4km',
    messages=[{'role': 'user', 'content': 'Hello!'}],
)
print(response.message.content)

import ollama from 'ollama'

const response = await ollama.chat({
  model: 'yanjia/Qwen3.5-27B-GLM5.1-Distill-v1:q4km',
  messages: [{role: 'user', content: 'Hello!'}],
})
console.log(response.message.content)

Models

Name

1 model

Size / Usage

Context

Input

Qwen3.5-27B-GLM5.1-Distill-v1:q4km

17GB · 256K context window · Text · 3 weeks ago

Qwen3.5-27B-GLM5.1-Distill-v1:q4km

17GB

256K

Text

Readme

本模型为 Jackrong/Qwen3.5-27B-GLM5.1-Distill-v1 的 GGUF 量化版本，底座模型为 Qwen/Qwen3.5-27B，使用 Unsloth Studio 转换制作。

该模型是在 Qwen3.5-27B 基础上蒸馏 GLM-5.1 推理能力得到的推理模型，适合中文、英文问答、推理、写作、代码辅助与长上下文任务。

Tag	量化方式	文件大小	推荐显存
Q4_K_M	4-bit K-quant	~16.5 GB	>= 20 GB

使用方式

ollama run yanjia/Qwen3.5-27B-GLM5.1-Distill-v1:q4km

许可证

本模型继承原始模型及蒸馏模型的对应许可证。根据 Hugging Face 页面信息，Jackrong/Qwen3.5-27B-GLM5.1-Distill-v1 当前许可证为 Apache-2.0；使用前请同时参考 Qwen Team 与 Jackrong 在 Hugging Face 页面发布的许可条款。

引用原模型

如在研究中使用，请引用原作者：

@misc{qwen35_27b_2026,
  title  = {Qwen3.5-27B},
  author = {Qwen Team},
  year   = {2026},
  howpublished = {\url{https://huggingface.co/Qwen/Qwen3.5-27B}},
}

@misc{jackrong_qwen35_27b_glm51_distill_v1,
  title        = {Jackrong/Qwen3.5-27B-GLM5.1-Distill-v1},
  author       = {Jackrong},
  year         = {2026},
  publisher    = {Hugging Face},
  howpublished = {\url{https://huggingface.co/Jackrong/Qwen3.5-27B-GLM5.1-Distill-v1}}
}

量化说明

原始模型由 Unsloth Studio 量化为 Q4_K_M。量化过程未对模型权重做其他修改。

本模型为 `Jackrong/Qwen3.5-27B-GLM5.1-Distill-v1` 的 GGUF 量化版本，底座模型为 `Qwen/Qwen3.5-27B`，使用 Unsloth Studio 转换制作。

该模型是在 Qwen3.5-27B 基础上蒸馏 GLM-5.1 推理能力得到的推理模型，适合中文、英文问答、推理、写作、代码辅助与长上下文任务。

| Tag | 量化方式 | 文件大小 | 推荐显存 |
| --- | --- | --- | --- |
| Q4_K_M | 4-bit K-quant | ~16.5 GB | >= 20 GB |

## 使用方式

```bash
ollama run yanjia/Qwen3.5-27B-GLM5.1-Distill-v1:q4km
```

## 许可证

本模型继承原始模型及蒸馏模型的对应许可证。根据 Hugging Face 页面信息，`Jackrong/Qwen3.5-27B-GLM5.1-Distill-v1` 当前许可证为 Apache-2.0；使用前请同时参考 Qwen Team 与 Jackrong 在 Hugging Face 页面发布的许可条款。

## 引用原模型

如在研究中使用，请引用原作者：

```bibtex
@misc{qwen35_27b_2026,
  title  = {Qwen3.5-27B},
  author = {Qwen Team},
  year   = {2026},
  howpublished = {\url{https://huggingface.co/Qwen/Qwen3.5-27B}},
}

@misc{jackrong_qwen35_27b_glm51_distill_v1,
  title        = {Jackrong/Qwen3.5-27B-GLM5.1-Distill-v1},
  author       = {Jackrong},
  year         = {2026},
  publisher    = {Hugging Face},
  howpublished = {\url{https://huggingface.co/Jackrong/Qwen3.5-27B-GLM5.1-Distill-v1}}
}
```

## 量化说明

原始模型由 Unsloth Studio 量化为 `Q4_K_M`。量化过程未对模型权重做其他修改。

Paste, drop or click to upload images (.png, .jpeg, .jpg, .svg, .gif)