Entre na beta da Hanzo e ganhe 50% de desconto em qualquer plano pago

Já disponíveis: Google Gemma 3n e Gemma 3 270M — a IA no dispositivo fica multimodal

A Gemma 3n do Google (multimodal no dispositivo) e a Gemma 3 270M (a menor Gemma até hoje) já estão no gateway da Hanzo AI.

Nesta página

Dois modelos novos da família Gemma do Google DeepMind já estão no ar no gateway da Hanzo AI.

Gemma 3n — IA multimodal para o celular e a borda

Lançada em 11 de fevereiro como prévia para desenvolvedores, a Gemma 3n é o primeiro modelo do Google desenhado de forma nativa para rodar no dispositivo. Usa uma arquitetura MatFormer com Per-Layer Embeddings para chegar a uma pegada de memória bem pequena:

  • E2B — 5B parâmetros no total, 2B efetivos, cabe em 2 GB de RAM
  • E4B — 8B parâmetros no total, 4B efetivos, cabe em 3 GB de RAM
  • Multimodal — entrada de texto, imagem, áudio e vídeo
  • 140 idiomas — a cobertura de idiomas mais ampla em um modelo de classe móvel
  • Pesos abertos — Gemma Terms of Use

Para equipes que constroem agentes de IA na borda, assistentes de voz ou aplicativos de celular, a Gemma 3n entrega capacidade multimodal que antes exigia inferência na nuvem.

curl https://llm.hanzo.ai/v1/chat/completions \
  -H "Authorization: Bearer $HANZO_API_KEY" \
  -d '{"model": "google/gemma-3n-e4b-it", "messages": [{"role": "user", "content": "..."}]}'

Gemma 3 270M — a menor Gemma

Também lançada em 11 de fevereiro, a Gemma 3 270M é um modelo só de texto de 270M parâmetros, otimizado para ajuste fino de uma tarefa específica em dispositivos com poucos recursos. É o modelo mais eficiente em energia da família Gemma: uma versão INT4-quantized usa apenas 0.75% de bateria em 25 conversas num Pixel 9 Pro. Os pesos estão no Hugging Face para implantação local.

Mais de 100 modelos, uma só API

A Gemma 3n entra no catálogo que cresce no gateway da Hanzo AI. O mesmo endpoint, a mesma chave de API e o mesmo faturamento, seja um modelo pequeno no dispositivo ou um modelo de 744B na nuvem.

Veja o catálogo completo em hanzo.ai.

Comentários

Entre com seu Hanzo ID para comentar.

Carregando comentários…

Leia mais