加入 Hanzo 测试,任意付费方案立减 50%

现已上线可供使用:面向端侧的多模态人工智能,Google Gemma 3n 与史上最小的 Gemma 3 270M

Google 的 Gemma 3n(端侧多模态)与 Gemma 3 270M(史上最小的 Gemma)现已在 Hanzo AI 网关提供。两者都适合在手机和边缘设备上运行。

本页内容

Google DeepMind 的 Gemma 家族中的两个新模型已在 Hanzo AI 网关上线。

Gemma 3n — 面向手机与边缘的多模态 AI

2 月 11 日以开发者预览发布。Gemma 3n 是 Google 首个原生为端侧部署设计的模型。它采用 MatFormer 架构与 Per-Layer Embeddings,把内存占用做得非常小:

  • E2B — 总计 5B 参数,有效 2B,装进 2 GB RAM
  • E4B — 总计 8B 参数,有效 4B,装进 3 GB RAM
  • 多模态 — 文本、图像、音频与视频输入
  • 140 种语言 — 移动级模型里最广的语言支持
  • 开放权重 — Gemma Terms of Use

对于构建边缘 AI 智能体、语音助手或移动应用的团队,Gemma 3n 提供了以往需要云端推理的多模态能力。

curl https://llm.hanzo.ai/v1/chat/completions \
  -H "Authorization: Bearer $HANZO_API_KEY" \
  -d '{"model": "google/gemma-3n-e4b-it", "messages": [{"role": "user", "content": "..."}]}'

Gemma 3 270M — 最小的 Gemma

同样于 2 月 11 日发布。Gemma 3 270M 是 270M 参数的纯文本模型,为受限设备上的任务专用微调而优化。它是 Gemma 家族里最省电的模型——INT4-quantized 版本在 Pixel 9 Pro 上进行 25 次对话仅用 0.75% 电量。权重可在 Hugging Face 获取,用于本地部署。

100+ 模型,一个 API

Gemma 3n 加入 Hanzo AI 网关不断增长的目录。同一端点、同一 API 密钥、同一计费——无论你跑的是小型端侧模型,还是云端的 744B 模型。

在 hanzo.ai 浏览完整目录。

评论

使用 Hanzo ID 登录后即可评论。

正在加载评论…

继续阅读