Zen4 Coder: 480B параметров, на 92% меньше активных — кодовая модель MoE

Плотные модели тратят впустую 90% параметров на каждом токене. Для кода, где знание жёстко разложено по синтаксису, семантике, системам типов и естественному языку, этот расход особенно острый.

Сегодня мы выпускаем Zen4 Coder, модель Mixture of Experts на 480 миллиардов параметров, которая активирует только 35B параметров за один прямой проход. Она знает столько же, сколько модель на 480B. Она стоит столько же, сколько модель на 35B.

Три модели на любой кодовый процесс

Zen4 Coder — Кодовая модель общего назначения.

• 480B всего / 35B активных (MoE)
• Окно контекста 163K
• Все основные языки программирования
• Агентное использование инструментов и многошаговое рассуждение

Zen4 Coder Pro — Максимальная точность.

• 480B параметров, полная точность BF16 (плотная)
• Окно контекста 131K
• Для сложного рефакторинга многих файлов и навигации по большим кодовым базам
• Когда нужен лучший ответ, а не самый быстрый

Zen4 Coder Flash — Помощь с кодом в реальном времени.

• 30B всего / 3B активных (MoE)
• Окно контекста 262K
• Встроенные дополнения, tab-complete и чат по коду
• Задержка Sub-100ms для интерактивных сценариев

Почему архитектура MoE важна для кода

Архитектура Mixture of Distilled Experts (MoDE) направляет каждый токен в специализированные экспертные подсети. В Zen4 Coder из этого складываются отдельные пути для:

• Экспертов синтаксиса — Грамматика и структура конкретного языка
• Экспертов семантики — Смысл, намерение и логика программы
• Экспертов вывода типов — Системы типов, обобщения и ограничения
• Экспертов документации — Естественный язык в комментариях, docstring и пояснениях

Когда вы генерируете Python, эксперты синтаксиса Python включаются вместе с экспертами смыслового рассуждения. Эксперты системы типов Java остаются в покое. Это выборочное включение и позволяет модели на 480B работать как модель на 35B.

Окна контекста под настоящие кодовые базы

В окно 163K у Zen4 Coder помещается:

• Типичная кодовая база микросервиса (50-100 файлов)
• Целый модуль Go или крейт Rust
• Полное приложение React с компонентами, хуками и управлением состоянием

Окно 262K у Coder Flash берёт ещё более крупные нагрузки для поиска и навигации по коду.

Окно 131K у Coder Pro настроено на глубокий разбор: длина контекста меняется на максимальную точность в сложных задачах рассуждения.

Уже доступно

Все три модели Zen4 Coder доступны через шлюз Hanzo AI на hanzo.ai. Используйте стандартный API, совместимый с OpenAI:

curl https://llm.hanzo.ai/v1/chat/completions \
  -H "Authorization: Bearer $HANZO_API_KEY" \
  -d '{
    "model": "zen4-coder",
    "messages": [{"role": "user", "content": "Refactor this function to use async/await..."}]
  }'

Тот же API, тот же ключ, тот же биллинг, что и у любой другой модели на платформе.