5 Downloads Updated 4 months ago
ollama run trinhnv1205/gemopus
Updated 4 months ago
4 months ago
501cf1bbc759 · 5.2GB
A Gemma 4 E4B build with thinking and tool calling, packaged by trinhnv1205.
Gemma 4’s E4B configuration is an unusual shape — a large parameter count that activates only a slice of itself per token — and it rewards being packaged carefully. This build pairs it with a Q4_K_S quant and stop tokens that actually terminate turns, which the stock packaging gets wrong often enough to be worth fixing.
ollama run trinhnv1205/gemopus
| Architecture | gemma4, 7.5B parameters |
| Quantization | Q4_K_S |
| Size | 5.2 GB |
| Capabilities | tools · thinking |
| Renderer / parser | gemma4 |
{ "temperature": 0.7, "top_p": 0.9,
"stop": ["<start_of_turn>", "<end_of_turn>"] }
The stop tokens matter more than they look. Without them the model runs past the end of its turn and starts writing your next message for you — the single most common complaint about locally-packaged Gemma builds.
Temperature sits at 0.7 rather than 1.0 because the thinking phase degrades quickly at high temperature; this is the value that kept reasoning on-track across my tests.
ollama launch claude --model trinhnv1205/gemopus
ollama launch opencode --model trinhnv1205/gemopus
ollama launch hermes --model trinhnv1205/gemopus
FROM trinhnv1205/gemopus
PARAMETER num_ctx 65536
ollama create gemopus-ctx64k -f Modelfile
Built on the Gemma 4 E4B architecture (Google). All original licenses apply.
Bản Gemma 4 E4B có suy luận và gọi tool, mình đóng gói.
Cấu hình E4B của Gemma 4 có kiến trúc khá lạ — tổng tham số lớn nhưng mỗi token chỉ kích hoạt một phần — nên đóng gói cẩn thận là ăn tiền. Bản này mình ghép quant Q4_K_S với bộ stop token chạy đúng.
Bộ stop token mới là thứ quan trọng nhất ở đây. Thiếu nó, model viết lọt qua ranh giới lượt nói và bắt đầu tự bịa luôn câu tiếp theo của bạn — đây là lỗi bị than phiền nhiều nhất ở các bản Gemma đóng gói tay.
Nhiệt độ để 0.7 chứ không phải 1.0, vì giai đoạn “suy nghĩ” xuống cấp rất nhanh khi nhiệt độ cao — 0.7 là mức giữ được mạch suy luận qua các bài test của mình.
Mình đóng gói, tinh chỉnh và bảo trì những bản build này ngoài giờ làm — miễn phí, không quảng cáo, không thu thập gì của bạn. Nếu bản này giúp bạn đỡ được một buổi chiều vật lộn với config, mời mình ly cà phê nhé. Mỗi ly là một lý do để mình làm tiếp bản sau. 🙌
I build, tune and maintain these releases in my own time — free, no ads, no tracking. If this one saved you an afternoon, a coffee goes a long way.
→ https://buymeacoffee.com/trinhnv1205
Kế thừa giấy phép của base model gốc — kiểm tra repo gốc trước khi dùng cho mục đích thương mại. / Inherits the license of the upstream base model.