Zen4 Coder 는 480B 가운데 실제로 쓰이는 양이 92% 더 적은 코드 모델입니다

밀집 모델은 모든 토큰에서 파라미터의 90% 를 낭비합니다. 코드에서는 지식이 구문, 의미, 타입 시스템, 자연어에 걸쳐 매우 구조화되어 있어, 이 낭비가 특히 심합니다.

오늘 우리는 Zen4 Coder 를 내놓습니다. 순전파마다 35B 파라미터만 활성화하는 480B 파라미터 Mixture of Experts 모델입니다. 480B 모델만큼 알고, 35B 모델만큼 듭니다.

세 모델, 모든 코드 작업 흐름을 위해

Zen4 Coder — 범용 코드 모델.

• 총 480B / 활성 35B (MoE)
• 컨텍스트 창 163K
• 주요 프로그래밍 언어 전부
• 에이전트식 도구 사용과 여러 단계 추론

Zen4 Coder Pro — 최대 정확도.

• 파라미터 480B, 완전한 BF16 정밀도 (밀집)
• 컨텍스트 창 131K
• 복잡한 여러 파일 리팩터링과 큰 코드베이스 탐색을 위해
• 가장 빠른 답이 아니라 가장 좋은 답이 필요할 때

Zen4 Coder Flash — 실시간 코드 보조.

• 총 30B / 활성 3B (MoE)
• 컨텍스트 창 262K
• 인라인 완성, 탭 완성, 코드 대화
• 대화형 작업 흐름을 위한 지연 Sub-100ms

코드에 MoE 아키텍처가 중요한 이유

Mixture of Distilled Experts (MoDE) 아키텍처는 각 토큰을 전문화된 전문가 서브네트워크로 보냅니다. Zen4 Coder 에서는 다음을 위한 전용 경로가 생깁니다.

• 구문 전문가 — 언어별 문법과 구조
• 의미 전문가 — 의미, 의도, 프로그램 논리
• 타입 추론 전문가 — 타입 시스템, 제네릭, 제약
• 문서 전문가 — 주석, docstring, 설명 속의 자연어

Python 을 생성할 때 Python 구문 전문가가 의미 추론 전문가와 함께 활성화됩니다. Java 타입 시스템 전문가는 잠들어 있습니다. 이 선택적 활성화가 480B 모델을 35B 모델처럼 돌립니다.

실제 코드베이스를 위해 만든 컨텍스트 창

Zen4 Coder 의 163K 컨텍스트 창에는 다음이 들어갑니다.

• 전형적인 마이크로서비스 코드베이스 (50-100 파일)
• Go 모듈 전체, 또는 Rust crate
• 컴포넌트, 훅, 상태 관리를 갖춘 React 애플리케이션 전체

Coder Flash 의 262K 창은 코드 검색과 탐색을 위해 더 큰 부하를 다룹니다.

Coder Pro 의 131K 창은 깊은 분석에 맞춰져 있습니다. 복잡한 추론에서 최대 정확도를 위해 컨텍스트 길이를 바꿉니다.

지금 사용 가능

세 Zen4 Coder 모델은 Hanzo AI 게이트웨이 hanzo.ai 에서 쓸 수 있습니다. 표준 OpenAI 호환 API 를 쓰세요.

curl https://llm.hanzo.ai/v1/chat/completions \
  -H "Authorization: Bearer $HANZO_API_KEY" \
  -d '{
    "model": "zen4-coder",
    "messages": [{"role": "user", "content": "Refactor this function to use async/await..."}]
  }'

API 도, 키도, 과금도 플랫폼의 다른 모든 모델과 같습니다.