Zen4 Coder: 480B parámetros y 92% menos activos — el modelo de código MoE

Un modelo denso desperdicia el 90% de sus parámetros en cada token. En el código, donde el conocimiento está repartido entre sintaxis, semántica, sistemas de tipos y lenguaje natural, ese desperdicio pega más fuerte.

Hoy presentamos Zen4 Coder, un modelo Mixture of Experts de 480 mil millones de parámetros que en cada pasada hacia adelante activa solo 35B parámetros. Sabe lo mismo que un modelo de 480B. Cuesta lo mismo que un modelo de 35B.

Tres modelos para cada flujo de código

Zen4 Coder — El modelo de código de uso general.

• 480B en total / 35B activos (MoE)
• Ventana de contexto de 163K
• Todos los lenguajes de programación grandes
• Uso de herramientas con agentes y razonamiento de varios pasos

Zen4 Coder Pro — Precisión máxima.

• 480B parámetros, precisión BF16 completa (denso)
• Ventana de contexto de 131K
• Para refactorizar muchos archivos y navegar bases de código grandes
• Cuando ustedes necesitan la mejor respuesta, no la más rápida

Zen4 Coder Flash — Ayuda de código en tiempo real.

• 30B en total / 3B activos (MoE)
• Ventana de contexto de 262K
• Completado en línea, tab-complete y chat de código
• Latencia Sub-100ms para flujos interactivos

Por qué la arquitectura MoE le importa al código

La arquitectura Mixture of Distilled Experts (MoDE) manda cada token a subredes expertas especializadas. En Zen4 Coder eso abre caminos dedicados para:

• Expertos de sintaxis — Gramática y estructura de cada lenguaje
• Expertos de semántica — Sentido, intención y lógica del programa
• Expertos de inferencia de tipos — Sistemas de tipos, genéricos y restricciones
• Expertos de documentación — Lenguaje natural en comentarios, docstrings y explicaciones

Cuando generan Python, los expertos de sintaxis de Python se prenden junto con los expertos de razonamiento semántico. Los expertos del sistema de tipos de Java se quedan dormidos. Esa activación selectiva es lo que permite que un modelo de 480B corra como un modelo de 35B.

Ventanas de contexto para bases de código de verdad

En la ventana de 163K de Zen4 Coder entra:

• Una base de código típica de un microservicio (50-100 archivos)
• Un módulo completo de Go o un crate de Rust
• Una aplicación React entera, con componentes, hooks y manejo de estado

La ventana de 262K de Coder Flash aguanta cargas todavía más grandes de búsqueda y navegación de código.

La ventana de 131K de Coder Pro está optimizada para el análisis profundo: cambia largo de contexto por la máxima precisión en tareas de razonamiento difícil.

Disponible ahora

Los tres modelos Zen4 Coder ya están en el gateway de Hanzo AI en hanzo.ai. Usen la API estándar compatible con OpenAI:

curl https://llm.hanzo.ai/v1/chat/completions \
  -H "Authorization: Bearer $HANZO_API_KEY" \
  -d '{
    "model": "zen4-coder",
    "messages": [{"role": "user", "content": "Refactor this function to use async/await..."}]
  }'

La misma API, la misma llave y la misma facturación que el resto de los modelos de la plataforma.