Zen4 Coder: 480B parâmetros, 92% menos ativos — o modelo de código MoE

Modelos densos desperdiçam 90% dos parâmetros em cada token. No código, onde o conhecimento é muito estruturado entre sintaxe, semântica, sistemas de tipos e linguagem natural, esse desperdício pesa ainda mais.

Hoje estamos lançando o Zen4 Coder, um modelo Mixture of Experts de 480 bilhões de parâmetros que ativa só 35B parâmetros em cada passagem para a frente. Ele sabe tanto quanto um modelo de 480B. Ele custa tanto quanto um modelo de 35B.

Três modelos, todo fluxo de código

Zen4 Coder — O modelo de código de uso geral.

• 480B no total / 35B ativos (MoE)
• Janela de contexto de 163K
• Todas as principais linguagens de programação
• Uso agêntico de ferramentas e raciocínio em várias etapas

Zen4 Coder Pro — Precisão máxima.

• 480B parâmetros, precisão BF16 completa (denso)
• Janela de contexto de 131K
• Para refatoração complexa de vários arquivos e navegação em bases de código grandes
• Quando você precisa da melhor resposta, não da mais rápida

Zen4 Coder Flash — Ajuda de código em tempo real.

• 30B no total / 3B ativos (MoE)
• Janela de contexto de 262K
• Completações inline, tab-complete e chat de código
• Latência Sub-100ms para fluxos interativos

Por que a arquitetura MoE importa para código

A arquitetura Mixture of Distilled Experts (MoDE) encaminha cada token para sub-redes especialistas. No Zen4 Coder isso cria caminhos dedicados para:

• Especialistas em sintaxe — Gramática e estrutura de cada linguagem
• Especialistas semânticos — Sentido, intenção e lógica do programa
• Especialistas em inferência de tipos — Sistemas de tipos, genéricos e restrições
• Especialistas em documentação — Linguagem natural em comentários, docstrings e explicações

Quando você gera Python, os especialistas de sintaxe Python ativam junto com os especialistas de raciocínio semântico. Os especialistas do sistema de tipos de Java ficam em repouso. Essa ativação seletiva é o que faz um modelo de 480B rodar como um modelo de 35B.

Janelas de contexto para bases de código reais

Na janela de 163K do Zen4 Coder cabe:

• Uma base de código típica de microsserviço (50-100 arquivos)
• Um módulo Go inteiro ou um crate Rust
• Uma aplicação React completa, com componentes, hooks e gerenciamento de estado

A janela de 262K do Coder Flash aguenta cargas ainda maiores de busca e navegação de código.

A janela de 131K do Coder Pro é otimizada para análise profunda: troca comprimento de contexto pela máxima precisão em tarefas de raciocínio complexo.

Disponível agora

Os três modelos Zen4 Coder estão disponíveis pelo gateway da Hanzo AI em hanzo.ai. Use a API padrão compatível com OpenAI:

curl https://llm.hanzo.ai/v1/chat/completions \
  -H "Authorization: Bearer $HANZO_API_KEY" \
  -d '{
    "model": "zen4-coder",
    "messages": [{"role": "user", "content": "Refactor this function to use async/await..."}]
  }'

A mesma API, a mesma chave, a mesma cobrança de qualquer outro modelo da plataforma.