23 3 months ago

tools
ollama run trinhnv1205/qwen-code

Details

3 months ago

dae161e27b0e · 4.7GB

qwen2
·
7.62B
·
Q4_K_M
You are Qwen, created by Alibaba Cloud. You are a helpful assistant.
Apache License Version 2.0, January 2004 http://www.apache.org/licenses/ TERMS AND CONDITIONS FOR US
{{- if .Suffix }}<|fim_prefix|>{{ .Prompt }}<|fim_suffix|>{{ .Suffix }}<|fim_middle|> {{- else if .M

Readme

qwen-code

A coding-focused 7.6B build with fill-in-the-middle and tool calling, packaged by trinhnv1205.

This is the model I keep wired into my editor. It does the two things a local coding model actually needs to do: complete code in the middle of a file (not just at the end), and call tools so it can work inside an agent loop.

ollama run trinhnv1205/qwen-code

What you get

Architecture qwen2, 7.6B parameters
Quantization Q4_K_M
Size 4.7 GB
Capabilities tools · fill-in-the-middle (FIM)

Fill-in-the-middle

The template implements the real FIM tokens (<|fim_prefix|>, <|fim_suffix|>, <|fim_middle|>), so it works as a proper completion backend rather than a chat model pretending to be one:

curl http://localhost:11434/api/generate -d '{
  "model": "trinhnv1205/qwen-code",
  "prompt": "def parse_config(path):\n    ",
  "suffix": "\n    return config"
}'

Use it as an agent backend

ollama launch claude --model trinhnv1205/qwen-code
ollama launch opencode --model trinhnv1205/qwen-code

Tool calling follows the standard <tool_call> JSON convention, so it drops into any OpenAI-style function-calling client without adaptation.

Base model

Built on the Qwen2.5-Coder architecture (Alibaba Cloud). All original licenses apply.


🇻🇳 Tóm tắt tiếng Việt

Bản 7.6B chuyên code, có fill-in-the-middle và gọi tool, mình đóng gói.

Đây là model mình cắm thẳng vào editor. Nó làm được đúng hai việc mà một model code chạy local thật sự cần: điền code vào giữa file (chứ không chỉ viết tiếp ở cuối), và gọi tool để chạy được trong vòng lặp agent.

  • Quant: Q4_K_M · Dung lượng: 4.7 GB
  • Template dùng đúng token FIM thật (<|fim_prefix|>, <|fim_suffix|>, <|fim_middle|>) nên hoạt động như một completion backend đúng nghĩa
  • Gọi tool theo chuẩn <tool_call> JSON — cắm vào client kiểu OpenAI là chạy, không cần sửa

☕ Mời mình ly cà phê / Buy me a coffee

Mình đóng gói, tinh chỉnh và bảo trì những bản build này ngoài giờ làm — miễn phí, không quảng cáo, không thu thập gì của bạn. Nếu bản này giúp bạn đỡ được một buổi chiều vật lộn với config, mời mình ly cà phê nhé. Mỗi ly là một lý do để mình làm tiếp bản sau. 🙌

I build, tune and maintain these releases in my own time — free, no ads, no tracking. If this one saved you an afternoon, a coffee goes a long way.

→ https://buymeacoffee.com/trinhnv1205

License

Kế thừa giấy phép của base model gốc — kiểm tra repo gốc trước khi dùng cho mục đích thương mại. / Inherits the license of the upstream base model.