1,371 4 months ago

vision
ollama run trinhnv1205/Qwen3.5-9B-Uncensored-ctx64k

Models

View all →

Readme

Qwen3.5-9B-Uncensored-ctx64k

A 64K-context vision build of Qwen3.5-9B, tuned and packaged by trinhnv1205.

Stock 9B builds ship with a short context window that gets in the way the moment you feed them a real codebase, a long PDF, or a multi-turn agent session. This build is my answer to that: same weights, rebuilt with a 65,536-token window, a corrected ChatML template, and the vision projector kept intact so it still reads images.

ollama run trinhnv1205/Qwen3.5-9B-Uncensored-ctx64k

What you get

Architecture qwen35, 9.0B parameters
Quantization Q4_K_M
Size 6.5 GB (5.63 GB weights + 0.92 GB vision projector)
Context 65,536 tokens (num_ctx baked into the model)
Input Text and images
Alignment Uncensored — minimal refusal behaviour

What I did to build it

  • Selected and benchmarked the base 9B checkpoint against smaller candidates for long-context coherence.
  • Rebuilt the model with PARAMETER num_ctx 65536 so the long window is the default — you do not have to remember to pass it per session.
  • Rewrote the TEMPLATE to proper ChatML (<|im_start|> / <|im_end|>) after the stock template mangled multi-turn assistant replies.
  • Preserved the vision projector through the rebuild so image input survives.
  • Published and maintained the release on Ollama.

Notes on running it

64K of context is not free. Budget roughly 10–12 GB of VRAM/unified memory if you intend to actually fill the window; at short prompts it runs comfortably in ~7 GB. On Apple Silicon it is happy on a 16 GB machine.

If you want a shorter window to save memory, override at runtime:

ollama run trinhnv1205/Qwen3.5-9B-Uncensored-ctx64k
>>> /set parameter num_ctx 16384

Base model

Built on the Qwen3.5-9B architecture (Alibaba Cloud), starting from the HauhauCS uncensored fine-tune of that checkpoint. All original licenses apply.


🇻🇳 Tóm tắt tiếng Việt

Bản Qwen3.5-9B nhìn được ảnh, cửa sổ ngữ cảnh 64K, do mình tinh chỉnh và đóng gói.

Các bản 9B thường để context ngắn, vừa đưa một codebase thật hay file PDF dài vào là tắc. Bản này mình build lại với cửa sổ 65.536 token đặt sẵn, viết lại TEMPLATE theo đúng chuẩn ChatML (bản gốc làm hỏng lượt trả lời nhiều turn), và giữ nguyên vision projector nên vẫn đọc được ảnh.

  • Quant: Q4_K_M · Dung lượng: 6.5 GB · Đầu vào: chữ + ảnh
  • Alignment: uncensored, hạn chế từ chối
  • Máy cần: khoảng 10–12 GB VRAM/RAM hợp nhất nếu dùng hết 64K; prompt ngắn thì ~7 GB là chạy mượt. Máy Mac 16 GB dùng thoải mái.

Muốn tiết kiệm RAM thì giảm context lúc chạy: /set parameter num_ctx 16384


☕ Mời mình ly cà phê / Buy me a coffee

Mình đóng gói, tinh chỉnh và bảo trì những bản build này ngoài giờ làm — miễn phí, không quảng cáo, không thu thập gì của bạn. Nếu bản này giúp bạn đỡ được một buổi chiều vật lộn với config, mời mình ly cà phê nhé. Mỗi ly là một lý do để mình làm tiếp bản sau. 🙌

I build, tune and maintain these releases in my own time — free, no ads, no tracking. If this one saved you an afternoon, a coffee goes a long way.

→ https://buymeacoffee.com/trinhnv1205

License

Kế thừa giấy phép của base model gốc — kiểm tra repo gốc trước khi dùng cho mục đích thương mại. / Inherits the license of the upstream base model.