从商务 AI 到前沿模型：Hanzo 的基础设施十年
搭建 AI 基础设施的 12 年：从 2014 年的实时推荐引擎，到 2026 年的 94+ 前沿模型与后量子区块链。这是我们如何走到这里的技术故事。
本页内容
大多数 AI 公司始于 2022 年。我们始于 2014 年。
这段差距比听上去更大。12 年的基础设施决策、失败的实验、协议设计，以及在生产里辛苦换来的直觉，叠成一件买不到、也模仿不了的东西：深层的架构知识。这是 Hanzo 从电商推荐引擎走到以推理规模运行 94+ 前沿模型的技术故事。
2014：基础，Crowdstart 与 EARLE
Hanzo 以 Crowdstart 起步，一个商务 AI 平台，问题看起来很窄：预测哪些客户会买、以什么价格、在什么时间买，并自动按该预测行动。
第一个真正有分量的系统是 EARLE，即 Entity-based Adaptive Recommendation Learning Engine（基于实体的自适应推荐学习引擎）。EARLE 不是简单的协同过滤。它在商品层级、客户分群和行为序列上维护实体图，交易流到达时实时更新边权重。底层 datastore 建在我们自己的分布式键值层上。这是有意的决定：在持久化层自己控制延迟，而不是接受当时托管数据库的取舍。
EARLE 教给我们的是：延迟是一等的设计约束，不是事后的优化遍。晚到 200ms 的推荐不算送达，而是被放弃。
2015：边缘上的实时分析
到 2015 年，EARLE 已经不够。客户要的不只是推荐，而是完整的行为分析管道：漏斗分析、同期群跟踪、跨营销渠道的收入归因。我们建了一套流式分析引擎，事件摄入为 sub-50ms，查询延迟落在个位数毫秒。
这项工作定下了此后一直守住的格局：关键路径自己掌握。热路径上的每一件，序列化、索引、查询规划，都按我们的规格来写。外部依赖只允许出现在外围。
2015 年为把 EARLE 接到分析层而建的发布/订阅事件总线，是撑起 Hanzo 当前平台的事件基础设施的直接祖先。接口变了。架构没有变。
2016：遗传算法营销优化
用遗传算法做营销，事后看似乎理所当然。2016 年，几乎没有人在生产中这么做。
系统维持一个营销活动配置的种群：出价策略、创意变体、受众分割树，并由真实转化结果施加的选择压来进化它们。变异是有界的：我们需要可复现性和可审计性，纯随机变异给不了。适应度函数从一开始就是多目标的，在收入、利润率、客户生命周期价值和品牌曝光约束之间取得平衡。
这是我们第一次在生产规模上处理探索-利用权衡。内化的教训是：算法不可能比它的适应度信号更聪明。垃圾进，垃圾出，在 ML 里不是套话。它是一条架构定律。
2017：Techstars 与平台上线
Techstars '17。我们用这个项目不是为了验证，而是为了分发：连上企业商务客户，他们的规模会压力测试我们已经建成的东西。
Hanzo Platform 于 2017 年下半年上线，作为第一套集成商务 AI 套件：EARLE 推荐、遗传优化引擎、实时分析，以及新的营销活动编排层，经统一的 API 表面接在一起。架构从一开始就是事件溯源；每一次营销活动状态变化都是持久事件，给我们完整的审计跟踪，以及为模型再训练回放历史的能力。
Techstars '17 教给我们一件已经怀疑的事：分发不是产品问题。它是基础设施问题。系统一旦宕机，就卖不进企业。
2018：Checkout 2.0 与 ML 欺诈检测
支付欺诈对大银行来说是已解决的问题。对服务中端市场商户的商务平台来说，2018 年还没有解决。
Checkout 2.0 把 ML 欺诈检测做成结账的一等组件。模型架构是一个集成：表格特征（购物车构成、收货地址与账单地址是否一致、设备指纹）用梯度提升树，近期订单历史用序列模型。集成被故意做浅。可解释性是产品要求，不是研究偏好。商户需要理解一笔交易为什么被标记。
欺诈系统每次决策的延迟是 sub-100ms，包括特征提取、模型推理和规则应用。这要求把推理运行时与结账服务同置，而不是经单独的预测 API 转发。运维复杂度更高；延迟曲线没有商量余地。
2019：API Gateway V1、格密码与 SDK 生态
2019 年并行的三条线，直到多年以后才汇合。
API Gateway V1 诞生于一个实际问题：我们有 10 个内部服务和 40 个外部集成。每个服务都有自己的认证、限流和可观测性说法。我们建了一层统一网关。它还不是我们今天交付的 AI 网关，但是同一套基础架构：请求路由、认证中间件、按消费者限流、结构化日志。2026 年的 Hanzo AI Gateway 是这套系统的第 7 次主要迭代。
格密码研究作为背景工作开始。NIST 后量子密码标准化正在进行，我们在看。我们问的是：如果要建造耐久的基础设施，15 年视野上的密码学威胁模型是什么？答案明确指向抗量子。我们开始把 CRYSTALS-Dilithium 和 CRYSTALS-Kyber 接进实验性签名基础设施。这项工作在次年直接流入我们的生产后量子签名基础设施。
SDK 生态：第一批 Hanzo SDK 于 2019 年交付，覆盖 Python、TypeScript 和 Go。设计原则是表面积最小、可组合性最大。此后我们交付了 6 代 SDK。原则没有变。
2020：后量子密码进入生产
2019 年的格研究在 2020 年进入生产。设计前提很锋利：自下而上的后量子安全，一个能把应用逻辑作为一等关注来承载的签名层，以及让抗量子签名在规模上变得实用的性能。
签名引擎引入了基于阈值的承诺轮次，在有界时间内给出确定性保证，而不是靠反复采样来获得概率信心。实际结果是：在通常条件下，签名验证在 1 秒以内完成，在对抗负载下的退化也是可预测的。
每一把签名密钥从一开始就使用 CRYSTALS-Dilithium。不是作为可选的升级路径，而是作为基线要求。后量子签名的性能开销是真实的，但可以驾驭；我们公开了基准，其中包括批量签名验证优化，把每个签名的开销降到 0.3ms 以下。
2021：多模态研究与第一批 MCP 草案
变换器架构能够统一文本、图像和音频表示，这件事在 2021 年对我们变得清楚。我们开始了一项多模态研究计划，它最终成为 Jin 架构，一个用于跨模态理解的统一编码器-解码器框架。
第一批模型上下文协议草案来自并行的另一条线：我们在建智能体框架，并面对一个根本问题，如何在没有持久记忆的模型上管理多轮交互的状态。MCP 协议为上下文窗口、记忆检索和跨模型状态转移定义了结构化接口。2021 年的草案很粗糙。2026 年的生产实现已经处理了超过十亿次上下文操作。
2022：ASO 协议与第一次变换器微调
2022 年的两项技术贡献塑造了此后的 4 年。
**Adaptive Swarm Optimization（ASO）**是受生物群体行为启发的分布式优化协议。遗传算法维持离散的种群个体，ASO 则在参数空间上维持连续的密度场，其更新规则在局部梯度信息与全局密度约束之间取得平衡。该协议是为目的函数评估昂贵、且评估分布在异构计算上的场景设计的，天然适合多智能体 AI 系统。第一篇 ASO 论文出现在 2022 年下半年。
第一次变换器微调的生产运行：我们微调了一个 7B 参数的开放权重变换器，用于商务专用的文档理解。这次运行的计算成本是 $6,200，耗时 48 小时。得到的模型在我们的评测套件上比基座好 11%，在生产任务分布上则好得更多。更重要的是运维经验：数据管道、分布式训练搭建、检查点管理、评测工具链，成了此后每一次训练运行的模板。流程质量可以扩展；临时的运行不能。
2023：HMM、智能体框架与 PoAI 研究
**Hierarchical Model Merging（HMM）**是我们反复遇到的一个问题的答案：我们有多个微调模型，各自在狭窄领域上出色，我们想要一个继承它们之长的统一模型。朴素的权重平均会劣化所有专家。HMM 采用层次化合并策略，在权重空间中识别领域特有的表示，并在合并时保留它们，而不是把它们平均掉。该技术在留出领域评测上，相对朴素合并展示了 4-7% 的改进。
智能体框架：第一个 Hanzo 智能体运行时于 2023 年交付，建在 MCP 协议上，带有工具使用、记忆检索和多步规划。设计是故意的：智能体是有状态的进程，不是无状态的请求处理器。运行时管理完整的智能体生命周期：初始化、工具分发、状态持久化、错误恢复。在协议层而不是应用代码里建造这一点，让后来的集成变得直接。
Proof of AI（PoAI）共识研究：AI 计算能否被做成可验证的，并用作共识原语？这个问题并不平凡。AI 计算在浮点层面本质上是非确定的。我们的 PoAI 研究用确定性量化方案应对这一点，使前向传播可以跨硬件复现，从而能对模型输出做基于阈值的共识。这项研究流入了 Zoo 网络的 zLLM 架构。
2024：Zen LM 起步、Jin 架构、Hanzo MCP 工具
Zen LM 项目于 2024 年开始，论点很简单：最好的开放权重模型，应当由最有生产运行经验的人来建造。我们有那样的经验。
第一批 Zen 模型是 Qwen3-series 基座模型的微调，对准特定的能力画像：代码生成、长上下文推理、指令遵循。2022 年建成的训练流水线扩展到可以支撑 70B+ 参数的运行，而无需根本重新设计。对流程的投入有了回报。
Jin 架构把我们的多模态研究形式化成生产系统。Jin 为文本、图像块和音频频谱图使用统一词元空间，没有需要分开训练和推理路径的模态专用编码器。架构上的简化消掉了整整一类服务复杂度：一个模型，一个推理运行时，多种模态。
Hanzo MCP 工具作为模型上下文协议的第一个公开实现交付。工具套件覆盖网页搜索、代码执行、文件操作、记忆检索和跨智能体通信。在可用后的第一个季度里，超过一万名开发者集成了 MCP 工具。
2025：规模上的 Zen 家族、MoDE 架构与 zenlm.org
94 个模型。这是 Zen 家族到 2025 年底所包含的数量。
这样的规模需要一种离开 BitDelta 研究（arXiv:2402.10193）就设计不出来的服务架构：把微调模型的差分压缩成 1-bit 符号表示，把每个变体的 GPU 显存从数十吉字节降到个位数吉字节。GPU 显存里放一份共享的基座权重，缓存层里放每个模型的行为差分，我们就能用先前只够 2 到 3 个模型的基础设施占用，服务 14 个 Zen 变体。
Zen MoDE，即 Mixture of Distilled Experts，是定义了 2025 年的架构突破。传统 MoE 模型从零训练专家。MoDE 组合三种技术：从蒸馏而非随机初始化专家，用 Drop-Upcycling（arXiv:2502.19261）打破专家之间的权重相关，再用我们的 HMM 合并协议在无需完整再训练的情况下事后让专家专门化。结果是：Zen4 Max 以 30B 总参数、每次前向只有 3B 激活，达到 13B 级质量。
Abliterated 变体：拒绝移除这项工作，被小心而有意地用在指定给研究和专业用途的模型上，表明行为性质可以在权重空间中定位。理解行为住在模型的哪里，是基础知识，不是绕过。zen4-abliterated 系列是第一个带着有文档的行为定位坐标交付的模型家族。
2026：Hanzo AI Gateway 与此后
2026 年 2 月的网关上线，是 2019 年开始的 API 网关工作的顶点：面向 100+ 模型的单一端点，与 OpenAI 兼容，对第三方提供者零加价，并以 Zen 模型作为专有层。
当前在研的线索：
GT-QLoRA：面向 MoE 行为调优的门控解冻量化低秩适配。标准 LoRA 用在 MoE 模型上时，路由门保持冻结，微调无法影响专家选择。GT-QLoRA 以受约束的更新解冻门参数：路由结构可以适应，专家的专门化仍然保留。
DSO（Decentralized Semantic Optimization）：Zoo 的 zLLM 架构底下的协议。通过经验注入做零计算适配，由 DAO 机制治理。微调成本（$15K+）与 DSO 成本（$18）之间的差距是真实的。该架构已在 Zoo 网络上投入生产。
抗量子 MPC：使用后量子原语的、面向模型权重的多方计算协议。如果模型权重是 AI 基础设施里最有价值的 IP，它们就值得得到与最好的金融资产相当的密码学保护。
在 AI 里，12 年是很长的时间。长到足以看见炒作周期来了又走，看见整套范式互相替换，看见建立在去年 SOTA 上的公司在 SOTA 移动时崩塌。留下来的是基础设施：数据管道、服务系统、协议实现，以及来之不易的运维知识，它们使真正按规模交付和运行 AI 成为可能。
我们从 2014 年就在建造这套基础设施。我们还没有结束。
Hanzo AI 是 Techstars '17。我们建造前沿 AI，以及运行它的基础设施。hanzo.ai
