지금 이용 가능: 온디바이스 멀티모달 인공지능, Google Gemma 3n과 가장 작은 Gemma 3 270M

Google DeepMind의 Gemma 패밀리에서 나온 새 모델 두 가지가 Hanzo AI 게이트웨이에서 제공됩니다.

Gemma 3n — 전화와 엣지를 위한 멀티모달 AI

2월 11일 개발자 프리뷰로 공개된 Gemma 3n은 온디바이스 배포를 위해 기본 설계된 Google의 첫 모델입니다. MatFormer 아키텍처와 Per-Layer Embeddings로 눈에 띄게 작은 메모리 사용량을 냅니다.

• E2B — 총 5B 매개변수, 유효 2B, 2 GB RAM에 들어감
• E4B — 총 8B 매개변수, 유효 4B, 3 GB RAM에 들어감
• 멀티모달 — 텍스트, 이미지, 오디오, 비디오 입력
• 140개 언어 — 모바일급 모델에서 가장 넓은 언어 지원
• 오픈 웨이트 — Gemma Terms of Use

엣지 AI 에이전트, 음성 비서, 모바일 애플리케이션을 만드는 팀에게 Gemma 3n은 이전에 클라우드 추론이 필요했던 멀티모달 능력을 제공합니다.

curl https://llm.hanzo.ai/v1/chat/completions \
  -H "Authorization: Bearer $HANZO_API_KEY" \
  -d '{"model": "google/gemma-3n-e4b-it", "messages": [{"role": "user", "content": "..."}]}'

Gemma 3 270M — 가장 작은 Gemma

역시 2월 11일에 공개된 Gemma 3 270M은 270M 매개변수의 텍스트 전용 모델로, 제약이 있는 기기에서 작업별 미세 조정에 최적화되어 있습니다. Gemma 패밀리에서 전력 효율이 가장 높은 모델입니다. INT4-quantized 버전은 Pixel 9 Pro에서 25회 대화에 배터리를 0.75%만 씁니다. 가중치는 로컬 배포를 위해 Hugging Face에서 받을 수 있습니다.

100+ 모델, 하나의 API

Gemma 3n은 Hanzo AI 게이트웨이의 늘어나는 카탈로그에 합류합니다. 같은 엔드포인트, 같은 API 키, 같은 결제입니다. 작은 온디바이스 모델을 실행하든 클라우드의 744B 모델을 실행하든 같습니다.

전체 카탈로그는 hanzo.ai에서 보세요.