Zen4 Coder: 480B tham số, ít hoạt động hơn 92% — mô hình mã MoE

Mô hình dày lãng phí 90% tham số trên mỗi token. Với mã — nơi tri thức được cấu trúc chặt qua cú pháp, ngữ nghĩa, hệ kiểu và ngôn ngữ tự nhiên — sự lãng phí này càng gay gắt.

Hôm nay chúng tôi ra mắt Zen4 Coder, mô hình Mixture of Experts 480B tham số chỉ kích hoạt 35B tham số mỗi lượt truyền xuôi. Nó biết nhiều như một mô hình 480B. Nó tốn kém như một mô hình 35B.

Ba mô hình, cho mọi quy trình mã

Zen4 Coder — Mô hình mã đa dụng.

• 480B tổng / 35B hoạt động (MoE)
• Cửa sổ ngữ cảnh 163K
• Mọi ngôn ngữ lập trình chính
• Dùng công cụ kiểu tác nhân và suy luận nhiều bước

Zen4 Coder Pro — Độ chính xác tối đa.

• 480B tham số, độ chính xác BF16 đầy đủ (Dày)
• Cửa sổ ngữ cảnh 131K
• Cho tái cấu trúc nhiều tệp phức tạp và điều hướng codebase lớn
• Khi bạn cần câu trả lời tốt nhất, không phải nhanh nhất

Zen4 Coder Flash — Trợ giúp mã thời gian thực.

• 30B tổng / 3B hoạt động (MoE)
• Cửa sổ ngữ cảnh 262K
• Hoàn thành nội tuyến, tab-complete, và trò chuyện mã
• Độ trễ Sub-100ms cho quy trình tương tác

Vì sao kiến trúc MoE quan trọng với mã

Kiến trúc Mixture of Distilled Experts (MoDE) định tuyến mỗi token tới các mạng con chuyên gia. Trong Zen4 Coder, điều này tạo các lối riêng cho:

• Chuyên gia cú pháp — Ngữ pháp và cấu trúc riêng từng ngôn ngữ
• Chuyên gia ngữ nghĩa — Ý nghĩa, ý định, và logic chương trình
• Chuyên gia suy kiểu — Hệ kiểu, generic, và ràng buộc
• Chuyên gia tài liệu — Ngôn ngữ tự nhiên trong chú thích, docstring, và giải thích

Khi sinh Python, chuyên gia cú pháp Python kích hoạt cùng chuyên gia suy luận ngữ nghĩa. Chuyên gia hệ kiểu Java nằm im. Sự kích hoạt có chọn lọc này khiến một mô hình 480B chạy như một mô hình 35B.

Cửa sổ ngữ cảnh dựng cho codebase thật

Cửa sổ ngữ cảnh 163K trên Zen4 Coder chứa được:

• Một codebase microservice điển hình (50-100 tệp)
• Cả một module Go hoặc crate Rust
• Một ứng dụng React đầy đủ với component, hook, và quản lý trạng thái

Cửa sổ 262K trên Coder Flash xử lý tải lớn hơn cho tìm kiếm và điều hướng mã.

Cửa sổ 131K trên Coder Pro được tối ưu cho phân tích sâu — đánh đổi độ dài ngữ cảnh lấy độ chính xác tối đa trên tác vụ suy luận phức tạp.

Có sẵn ngay

Cả ba mô hình Zen4 Coder có qua cổng Hanzo AI tại hanzo.ai. Hãy dùng API chuẩn tương thích OpenAI:

curl https://llm.hanzo.ai/v1/chat/completions \
  -H "Authorization: Bearer $HANZO_API_KEY" \
  -d '{
    "model": "zen4-coder",
    "messages": [{"role": "user", "content": "Refactor this function to use async/await..."}]
  }'

Cùng API, cùng khóa, cùng cách tính phí như mọi mô hình khác trên nền tảng.