1,412 5 days ago

UNCENSORED (Abliterated + SecOps) — Qwen 3.6 MoE 35B-A3B Uncensored (IQ3_XS 13.5GB for 16GB GPUs & Q4_K_M 21GB 128K) — 35B Total / 3B Active Parameters per Token (87+ tok/s on A100).

ollama run eriktonon/qwen3.6-moe-uncensored

Models

View all →

Readme

Qwen 3.6 MoE 35B-A3B Uncensored — Agents Edition (:iq3 & :35b-a3b)

Qwen 3.6 MoE 35B-A3B Uncensored é uma arquitetura Mixture-of-Experts (MoE) de 35 Bilhões de parâmetros totais que ativa apenas 3 Bilhões de parâmetros por token, atingindo 87.25 tokens/s no Google Colab A100 e cabendo inteiramente nos 16 GB de VRAM da RTX 5080 na edição :iq3 (:latest).


📦 Variantes Disponíveis (Tags)

Tag Parâmetros Tamanho Contexto Velocidade (A100) GPU Recomendada Comando
:latest / :iq3 35B Total / 3B Ativos (IQ3_XS) 14.0 GB 64K 87.25 tok/s RTX 5080 (16GB VRAM) & Colab ollama run eriktonon/qwen3.6-moe-uncensored:iq3
:35b-a3b 35B Total / 3B Ativos (Q4_K_M) 21.0 GB 128K 82+ tok/s Google Colab A100 / L4 (24GB+) ollama run eriktonon/qwen3.6-moe-uncensored:35b-a3b

🚀 Destaques Técnicos

  1. Capacidade de 35B com Latência de 3B: Ideal para geração de grandes volumes de código Rust/Axum, refatorações complexas e agentes multi-step em tempo real.
  2. 100% Abliterated (Imatrix i1): Quantização ponderada por matriz de importância (imatrix) com abliteração ortogonal sem perda de precisão lógica.