Đã có: Google Gemma 3n và Gemma 3 270M — AI trên thiết bị trở nên đa phương thức

Hai mô hình mới từ gia đình Gemma của Google DeepMind đã có mặt trên Cổng Hanzo AI.

Gemma 3n — AI đa phương thức cho điện thoại và biên

Phát hành ngày 11 tháng 2 dưới dạng bản xem trước cho nhà phát triển, Gemma 3n là mô hình đầu tiên của Google được thiết kế gốc cho triển khai trên thiết bị. Mô hình dùng kiến trúc MatFormer với Per-Layer Embeddings để đạt dấu nhớ nhỏ đáng kể:

• E2B — tổng 5B tham số, 2B hiệu dụng, vừa trong 2 GB RAM
• E4B — tổng 8B tham số, 4B hiệu dụng, vừa trong 3 GB RAM
• Đa phương thức — đầu vào văn bản, hình ảnh, âm thanh và video
• 140 ngôn ngữ — hỗ trợ ngôn ngữ rộng nhất ở mô hình hạng di động
• Trọng số mở — Gemma Terms of Use

Với các đội xây tác tử AI biên, trợ lý giọng nói hoặc ứng dụng di động, Gemma 3n mang năng lực đa phương thức mà trước đây cần suy luận đám mây.

curl https://llm.hanzo.ai/v1/chat/completions \
  -H "Authorization: Bearer $HANZO_API_KEY" \
  -d '{"model": "google/gemma-3n-e4b-it", "messages": [{"role": "user", "content": "..."}]}'

Gemma 3 270M — Gemma nhỏ nhất

Cũng phát hành ngày 11 tháng 2, Gemma 3 270M là mô hình chỉ văn bản 270M tham số, tối ưu để tinh chỉnh theo tác vụ trên thiết bị hạn chế. Đây là mô hình tiết kiệm điện nhất trong gia đình Gemma — bản INT4-quantized chỉ dùng 0.75% pin cho 25 hội thoại trên Pixel 9 Pro. Trọng số có trên Hugging Face để triển khai cục bộ.

100+ mô hình, một API

Gemma 3n gia nhập danh mục đang lớn trên Cổng Hanzo AI. Cùng điểm cuối, cùng khóa API, cùng cách tính phí — dù bạn chạy mô hình nhỏ trên thiết bị hay mô hình 744B trên đám mây.

Xem toàn bộ danh mục tại hanzo.ai.