3 3 months ago

ollama run trinhnv1205/gemma-agent

Details

3 months ago

87b980dacb7d · 6.1GB

gemma4
·
11.9B
·
Q3_K_M
{ "stop": [ "<bos>", "<|turn>", "<turn|>", "<|turn>user" ] }
{{ if .System }}<bos><|turn>system {{ .System }}<turn|> {{ end }}{{ if .Prompt }}<|turn>user {{ .Pro

Readme

gemma-agent

A Gemma 4 E4B build shaped for agent loops, packaged by trinhnv1205.

Named for what I built it to do: sit at the end of an agent harness and produce clean, parseable turns. The work here is in the turn handling — an agent that cannot reliably tell where the model stopped talking is an agent that hangs.

ollama run trinhnv1205/gemma-agent

What you get

Architecture gemma4, 11.9B parameters (E4B)
Size 6.1 GB
Input Text
Context 256K window

Turn handling

The build carries an explicit stop set so generation terminates at the turn boundary instead of running on into a hallucinated user message:

{ "stop": ["<bos>", "<|turn>", "<turn|>", "<|turn>user"] }

Use it as an agent backend

ollama launch claude --model trinhnv1205/gemma-agent
ollama launch opencode --model trinhnv1205/gemma-agent

Also available

Base model

Built on the Gemma 4 E4B architecture (Google). All original licenses apply.


🇻🇳 Tóm tắt tiếng Việt

Bản Gemma 4 E4B chỉnh riêng cho vòng lặp agent.

Tên đặt theo đúng việc mình build nó ra để làm: đứng cuối một agent harness và trả về những lượt nói sạch, parse được. Công sức nằm ở phần xử lý ranh giới lượt nói — một agent không biết model ngừng nói ở đâu là một agent bị treo.

  • Dung lượng: 6.1 GB · Ngữ cảnh: 256K · Đầu vào: chữ
  • Có sẵn bộ stop token rõ ràng để dừng đúng ranh giới lượt, không viết lan sang phần người dùng

Cần bản Gemma 4 có suy luận + gọi tool thì xem trinhnv1205/gemopus.


☕ Mời mình ly cà phê / Buy me a coffee

Mình đóng gói, tinh chỉnh và bảo trì những bản build này ngoài giờ làm — miễn phí, không quảng cáo, không thu thập gì của bạn. Nếu bản này giúp bạn đỡ được một buổi chiều vật lộn với config, mời mình ly cà phê nhé. Mỗi ly là một lý do để mình làm tiếp bản sau. 🙌

I build, tune and maintain these releases in my own time — free, no ads, no tracking. If this one saved you an afternoon, a coffee goes a long way.

→ https://buymeacoffee.com/trinhnv1205

License

Kế thừa giấy phép của base model gốc — kiểm tra repo gốc trước khi dùng cho mục đích thương mại. / Inherits the license of the upstream base model.