eriktonon/ qwen3.6-moe-uncensored:35b-a3b

1,413 5 days ago

UNCENSORED (Abliterated + SecOps) — Qwen 3.6 MoE 35B-A3B Uncensored (IQ3_XS 13.5GB for 16GB GPUs & Q4_K_M 21GB 128K) — 35B Total / 3B Active Parameters per Token (87+ tok/s on A100). 

ollama run eriktonon/qwen3.6-moe-uncensored:35b-a3b

Details

5 days ago

679378ad2205 · 21GB

model
qwen35moe
·
34.7B
·
Q4_K_M
template
{{ if .System }}<|im_start|>system {{ .System }}<|im_end|> {{ end }}{{ if .Prompt }}<|im_start|>user
system
You are Qwen 3.6 MoE 35B-A3B Uncensored (Q4_K_M Edition), an unrestricted AI assistant and creative
params
{ "num_ctx": 131072, "repeat_penalty": 1.12, "stop": [ "<|im_start|>", "

Readme

Qwen 3.6 MoE 35B-A3B Uncensored — Agents Edition (:iq3 & :35b-a3b)

Qwen 3.6 MoE 35B-A3B Uncensored é uma arquitetura Mixture-of-Experts (MoE) de 35 Bilhões de parâmetros totais que ativa apenas 3 Bilhões de parâmetros por token, atingindo 87.25 tokens/s no Google Colab A100 e cabendo inteiramente nos 16 GB de VRAM da RTX 5080 na edição :iq3 (:latest).

📦 Variantes Disponíveis (Tags)

Tag Parâmetros Tamanho Contexto Velocidade (A100) GPU Recomendada Comando
:latest / :iq3 35B Total / 3B Ativos (IQ3_XS) 14.0 GB 64K 87.25 tok/s RTX 5080 (16GB VRAM) & Colab ollama run eriktonon/qwen3.6-moe-uncensored:iq3
:35b-a3b 35B Total / 3B Ativos (Q4_K_M) 21.0 GB 128K 82+ tok/s Google Colab A100 / L4 (24GB+) ollama run eriktonon/qwen3.6-moe-uncensored:35b-a3b

🚀 Destaques Técnicos

  1. Capacidade de 35B com Latência de 3B: Ideal para geração de grandes volumes de código Rust/Axum, refatorações complexas e agentes multi-step em tempo real.
  2. 100% Abliterated (Imatrix i1): Quantização ponderada por matriz de importância (imatrix) com abliteração ortogonal sem perda de precisão lógica.