從商業智慧到前沿模型：Hanzo 十年來的基礎架構
打造 AI 基礎架構的 12 年。自 2014 年的即時推薦引擎起，到 2026 年的 94+ 前沿模型與後量子區塊鏈。這是我們走到這裡的技術紀錄。
本頁內容
多數 AI 公司從 2022 年才出發。我們從 2014 年就出發了。
這段落差比聽起來更大。12 年的基礎架構抉擇、失敗的實驗、協定設計，加上在正式環境裡硬換來的直覺，疊成一件買不到、也仿不來的東西：深層的架構知識。這是 Hanzo 從電商推薦引擎走到以推論規模運行 94+ 前沿模型的技術紀錄。
2014：根基，Crowdstart 與 EARLE
Hanzo 以 Crowdstart 起家，一座商業智慧平台，題目看起來很窄：預測哪些顧客會買、以什麼價格、在什麼時間買，並自動照該預測行動。
第一套真正有分量的系統是 EARLE，也就是 Entity-based Adaptive Recommendation Learning Engine（以實體為本的適應型推薦學習引擎）。EARLE 不是單純的協同過濾。它在商品層級、顧客分群與行為序列上維持實體圖，交易串流抵達時即時更新邊的權重。底層 datastore 建在我們自己的分散式鍵值層上。這是刻意的決定：在持久層自己握住延遲，而不是接受當時受管資料庫的取捨。
EARLE 教給我們的是：延遲是一等的設計約束，不是事後再跑的最佳化。晚到 200ms 的推薦不算送達，而是被放棄。
2015：邊緣上的即時分析
到了 2015 年，EARLE 已經不夠。顧客要的不只是推薦，而是完整的行為分析管線：漏斗分析、世代追蹤、跨行銷通路的營收歸因。我們建了一套串流分析引擎，事件攝入為 sub-50ms，查詢延遲落在個位數毫秒。
這項工作定下了此後一直守住的格局：關鍵路徑自己握住。熱路徑上的每一件，序列化、索引、查詢規劃，都按我們的規格來寫。外部依賴只容許出現在外圍。
2015 年為了把 EARLE 接到分析層而建的發布／訂閱事件匯流排，是撐起 Hanzo 目前平台的事件基礎架構的直接祖先。介面變了。架構沒有變。
2016：遺傳演算法的行銷最佳化
用遺傳演算法做行銷，事後看似乎理所當然。2016 年，幾乎沒有人在正式環境裡這樣做。
系統維持一群行銷活動組態：出價策略、素材變體、受眾分割樹，並由真實轉換結果施加的選擇壓來演化它們。變異設了邊界：我們需要可重現性與可稽核性，純隨機變異給不了。適應度函式從一開始就是多目標的，在營收、利潤率、顧客終身價值與品牌曝光約束之間取得平衡。
這是我們第一次在正式規模上處理探索與利用的取捨。內化的教訓是：演算法不可能比它的適應度訊號更聰明。垃圾進、垃圾出，在 ML 裡不是套話。它是一條架構定律。
2017：Techstars 與平台上線
Techstars '17。我們用這個計畫不是為了驗證，而是為了通路：接上企業商務顧客，他們的規模會對我們已建成的東西做壓力測試。
Hanzo Platform 於 2017 年下半年上線，作為第一套整合商業智慧套件：EARLE 推薦、遺傳最佳化引擎、即時分析，以及新的活動編排層，經統一的 API 表面接在一起。架構從一開始就以事件為來源；每一次活動狀態變化都是耐久事件，給我們完整的稽核軌跡，以及為模型重新訓練重播歷程的能力。
Techstars '17 教給我們一件已經懷疑的事：通路不是產品問題。它是基礎架構問題。系統一旦停擺，就賣不進企業。
2018：Checkout 2.0 與 ML 詐欺偵測
支付詐欺對大型銀行來說是已經解開的問題。對服務中型市場商家的商務平台來說，2018 年還沒有解開。
Checkout 2.0 把 ML 詐欺偵測做成結帳的一等元件。模型架構是一組整體：表格式特徵（購物車組成、送貨地址與帳單地址是否相符、裝置指紋）用梯度提升樹，近期訂單歷程用循序模型。整體被刻意做淺。可解釋性是產品要求，不是研究上的偏好。商家需要理解一筆交易為什麼被標出。
詐欺系統每次決策的延遲是 sub-100ms，包括特徵擷取、模型推論與規則套用。這要求把推論執行環境與結帳服務放在同一處，而不是經由單獨的預測 API 轉送。維運複雜度更高；延遲曲線沒有讓步餘地。
2019：API Gateway V1、晶格密碼與 SDK 生態系
2019 年並行的三條線，直到多年以後才匯流。
API Gateway V1 誕生於一個實際問題：我們有 10 個內部服務和 40 個外部整合。每個服務都有自己的驗證、速率限制和可觀測性說法。我們建了一層統一閘道。它還不是我們今天交出的 AI 閘道，但是同一套基礎架構：請求路由、驗證中介軟體、按消費者做速率限制、結構化日誌。2026 年的 Hanzo AI Gateway 是這套系統的第 7 次主要更迭。
晶格密碼研究作為背景工作開始。NIST 後量子密碼標準化正在進行，我們在看。我們問的是：如果要打造耐久的基礎架構，15 年視野上的密碼學威脅模型是什麼？答案明確指向量子抗性。我們開始把 CRYSTALS-Dilithium 和 CRYSTALS-Kyber 接進實驗性簽章基礎架構。這項工作在次年直接流入我們正式環境的後量子簽章基礎架構。
SDK 生態系：第一批 Hanzo SDK 於 2019 年交出，涵蓋 Python、TypeScript 與 Go。設計原則是表面最小、可組合性最大。此後我們交出了 6 代 SDK。原則沒有變。
2020：後量子密碼進入正式環境
2019 年的晶格研究在 2020 年進入正式環境。設計前提很銳利：從根而上的後量子安全，一層能把應用程式邏輯當成一等關注來承載的簽章層，以及讓量子抗性簽章在規模上變得實用的效能。
簽章引擎引入了以閾值為基礎的承諾回合，在有界時間內給出確定性保證，而不是靠反覆取樣來獲得機率信心。實際結果是：在通常條件下，簽章驗證在 1 秒以內完成，在對抗負載下的劣化也是可預期的。
每一把簽章金鑰從一開始就使用 CRYSTALS-Dilithium。不是作為可選的升級路徑，而是作為基線要求。後量子簽章的效能負擔是真實的，但可以駕馭；我們公開了基準，其中包括批次簽章驗證的最佳化，把每個簽章的負擔降到 0.3ms 以下。
2021：多模態研究與第一批 MCP 草案
變換器架構能夠統一文字、影像和音訊表示，這件事在 2021 年對我們變得清楚。我們開始了一項多模態研究計畫，它最終成為 Jin 架構，一個用於跨模態理解的統一編碼器－解碼器框架。
第一批模型上下文協定草案來自並行的另一條線：我們在建代理框架，並面對一個根本問題，如何在沒有持久記憶的模型上管理多輪互動的狀態。MCP 協定為上下文視窗、記憶擷取和跨模型狀態轉移定義了結構化介面。2021 年的草案很粗糙。2026 年的正式實作已經處理了超過十億次上下文操作。
2022：ASO 協定與第一次變換器微調
2022 年的兩項技術貢獻塑造了此後的 4 年。
**Adaptive Swarm Optimization（ASO）**是受生物群體行為啟發的分散式最佳化協定。遺傳演算法維持離散的族群個體，ASO 則在參數空間上維持連續的密度場，其更新規則在局部梯度資訊與全域密度約束之間取得平衡。該協定是為目標函式評估昂貴、且評估分布在異質計算上的情境設計的，天生適合多代理 AI 系統。第一篇 ASO 論文出現在 2022 年下半年。
第一次變換器微調的正式執行：我們微調了一個 7B 參數的開放權重變換器，用於商務專用的文件理解。這次執行的計算成本是 $6,200，耗時 48 小時。得到的模型在我們的評估套件上比基底好 11%，在正式任務分佈上則好得更多。更重要的是維運經驗：資料管線、分散式訓練搭建、檢查點管理、評估工具組，成了此後每一次訓練執行的範本。流程品質可以擴展；臨時的執行不能。
2023：HMM、代理框架與 PoAI 研究
**Hierarchical Model Merging（HMM）**是我們反覆遇到的一個問題的答案：我們有多個微調模型，各自在狹窄領域上出色，我們想要一個繼承它們之長的統一模型。天真的權重平均會劣化所有專家。HMM 採用階層式合併策略，在權重空間中辨識領域特有的表示，並在合併時保留它們，而不是把它們平均掉。該技術在保留領域評估上，相對天真合併展示了 4-7% 的改進。
代理框架：第一個 Hanzo 代理執行環境於 2023 年交出，建在 MCP 協定上，帶有工具使用、記憶擷取和多步驟規劃。設計是刻意的：代理是有狀態的行程，不是無狀態的請求處理常式。執行環境管理完整的代理生命週期：初始化、工具派送、狀態持久、錯誤復原。在協定層而不是應用程式碼裡建造這一點，讓後來的整合變得直接。
Proof of AI（PoAI）共識研究：AI 計算能否被做成可驗證的，並用作共識基本元件？這個問題並不平凡。AI 計算在浮點層面本質上是非確定的。我們的 PoAI 研究用確定性量化方案應對這一點，使前向傳遞可以跨硬體重現，從而能對模型輸出做基於閾值的共識。這項研究流入了 Zoo 網路的 zLLM 架構。
2024：Zen LM 起步、Jin 架構、Hanzo MCP 工具
Zen LM 專案於 2024 年開始，論點很簡單：最好的開放權重模型，應當由最有正式運行經驗的人來建造。我們有那樣的經驗。
第一批 Zen 模型是 Qwen3-series 基底模型的微調，對準特定的能力剖面：程式碼生成、長上下文推論、指令遵循。2022 年建成的訓練管線擴展到可以支撐 70B+ 參數的執行，而不必從根本重新設計。投在流程上的功夫有了回報。
Jin 架構把我們的多模態研究形式化成正式系統。Jin 為文字、影像區塊和音訊聲譜圖使用統一語元空間，沒有需要分開訓練和推論路徑的特定模態編碼器。架構上的簡化消掉了整整一類推論服務的複雜度：一個模型，一個推論執行環境，多種模態。
Hanzo MCP 工具作為模型上下文協定的第一個公開實作交出。工具套件涵蓋網頁搜尋、程式碼執行、檔案操作、記憶擷取和跨代理通訊。在可用後的第一季裡，超過一萬名開發者整合了 MCP 工具。
2025：規模上的 Zen 家族、MoDE 架構與 zenlm.org
94 個模型。這是 Zen 家族到 2025 年底所包含的數量。
這樣的規模需要一種離開 BitDelta 研究（arXiv:2402.10193）就設計不出來的服務架構：把微調模型的差分壓縮成 1-bit 符號表示，把每個變體的 GPU 記憶體從數十 GB 降到個位數 GB。GPU 記憶體裡放一份共享的基底權重，快取層裡放每個模型的行為差分，我們就能用先前只夠 2 到 3 個模型的基礎架構足跡，服務 14 個 Zen 變體。
Zen MoDE，即 Mixture of Distilled Experts，是定義了 2025 年的架構突破。傳統 MoE 模型從頭訓練專家。MoDE 組合三種技術：以蒸餾而非隨機初始化專家，用 Drop-Upcycling（arXiv:2502.19261）打斷專家之間的權重相關，再用我們的 HMM 合併協定在不必完整再訓練的情況下事後讓專家專門化。結果是：Zen4 Max 以 30B 總參數、每次前向傳遞只有 3B 作用，達到 13B 級品質。
Abliterated 變體：拒絕移除這項工作，被小心而刻意地用在指定給研究與專業用途的模型上，表明行為性質可以在權重空間裡定位。理解行為住在模型的哪裡，是基礎知識，不是規避。zen4-abliterated 系列是第一個帶著寫明文件的行為定位座標交付的模型家族。
2026：Hanzo AI Gateway 與此後
2026 年 2 月的閘道上線，是 2019 年開始的 API 閘道工作的頂點：給 100+ 個模型的單一端點，與 OpenAI 相容，對第三方提供者不加價，並以 Zen 模型作為專有層。
目前正在進行的研究線：
GT-QLoRA：面向 MoE 行為調校的閘控解凍量化低秩調適。標準 LoRA 用在 MoE 模型上時，路由閘保持凍結，微調無法影響專家選擇。GT-QLoRA 以受約束的更新解凍閘參數：路由結構可以適應，專家的專門化仍然保留。
DSO（Decentralized Semantic Optimization）：Zoo 的 zLLM 架構底下的協定。透過經驗注入做零計算調適，由 DAO 機制治理。微調成本（$15K+）與 DSO 成本（$18）之間的差距是真實的。這套架構已在 Zoo 網路上正式運行。
量子安全 MPC：使用後量子基本元件的、面向模型權重的多方計算協定。如果模型權重是 AI 基礎架構裡最有價值的 IP，它們就值得得到與最好的金融資產相當的密碼學保護。
在 AI 裡，12 年是很長的時間。長到足以看見炒作循環來了又走，看見整套典範互相替換，看見建立在去年 SOTA 上的公司在 SOTA 移動時瓦解。留得下來的是基礎架構：資料管線、服務系統、協定實作，以及辛苦換來的維運知識，它們使真正按規模交付和運行 AI 成為可能。
我們從 2014 年就在打造這套基礎架構。我們還沒做完。
Hanzo AI 是 Techstars '17。我們打造前沿 AI，以及運行它的基礎架構。hanzo.ai
