Ticaret yapay zekasından öncü modellere: Hanzo'nun altyapı on yılı

Yapay zeka şirketlerinin çoğu 2022'de kuruldu. Biz 2014'te başladık.

Bu aralık kulağa geldiğinden daha ağırdır. On iki yıllık altyapı kararları, başarısız deneyler, protokol tasarımları ve üretimde zor kazanılmış sezgiler, satın alınamayan ve taklit edilemeyen bir şeye birikir: derin mimari bilgi. Bu, Hanzo'nun bir e-ticaret öneri motorundan çıkarım ölçeğinde 94+ öncü model çalıştırmaya nasıl geldiğinin teknik hikâyesidir.

2014: temel — Crowdstart ve EARLE

Hanzo, Crowdstart olarak çıktı: hangi müşterilerin, hangi fiyattan, hangi anda satın alacağını öngörmek ve bu öngörüye otomatik olarak harekete geçmek gibi görünüşte dar bir sorunu olan bir ticaret yapay zekası platformu.

Ağırlığı olan ilk sistem EARLE oldu — Entity-based Adaptive Recommendation Learning Engine. EARLE basit bir işbirlikçi süzgeç değildi. Ürün hiyerarşileri, müşteri segmentleri ve davranış dizileri boyunca varlık çizgelerini tutuyor, işlem akışları geldikçe kenar ağırlıklarını gerçek zamanlı güncelliyordu. Altındaki veri deposu bizim dağıtık anahtar-değer katmanımızın üzerinde duruyordu. Bu, eldeki yönetilen veritabanlarının ödünlerini kabul etmek yerine gecikmeyi kalıcılık katmanında denetlemek için bilinçli bir karardı.

EARLE'nin bize öğrettiği şuydu: gecikme birinci sınıf bir tasarım kısıtıdır, bir optimizasyon geçişi değil. 200ms geç gelen bir öneri teslim edilmemiştir. Terk edilmiştir.

2015: kenarda gerçek zamanlı analitik

2015'e gelindiğinde EARLE yetmiyordu. Müşteriler yalnızca öneri değil, tam davranış analitiği hatları istiyordu: huni analizi, kohort izleme, pazarlama kanalları arasında gelir ataması. Olay alımı sub-50ms olan ve sorgu gecikmesi tek haneli milisaniye aralığında kalan bir akış analitiği motoru kurduk.

Bu iş, o günden beri tuttuğumuz bir ilkeyi yerleştirdi: kritik yol bizimdir. Sıcak yoldaki her bileşen — serileştirme, indeksleme, sorgu planlama — kendi belirtimimize göre yazıldı. Dış bağımlılıklara yalnızca çevrede göz yumuluyordu.

EARLE'yi analitik katmana bağlamak için 2015'te kurduğumuz pub/sub olay yolu, Hanzo'nun bugünkü platformunun altındaki olay altyapısının doğrudan atasıdır. Arayüz değişti. Mimari değişmedi.

2016: genetik algoritmalarla pazarlama optimizasyonu

Pazarlama için genetik algoritmalar geriye bakınca açık görünür. 2016'da bunu üretimde neredeyse kimse yapmıyordu.

Sistem bir kampanya yapılandırması nüfusu tutuyordu — teklif stratejileri, yaratıcı varyantlar, kitle segmentasyon ağaçları — ve bunları gerçek dönüşüm sonuçlarının seçilim baskısıyla evrimleştiriyordu. Mutasyonlar sınırlıydı: yeniden üretilebilirlik ve denetlenebilirlik gerekiyordu; saf rastgele mutasyon bunları veremezdi. Uygunluk fonksiyonu baştan çok amaçlıydı ve geliri, marjı, müşteri yaşam boyu değerini ve marka görünürlüğü kısıtlarını dengeliyordu.

Üretim ölçeğinde keşif-sömürü ödünleşimini yönetmenin ilk deneyimi buydu. İçselleştirdiğimiz ders: algoritma, uygunluk sinyalinden daha zeki olamaz. Çöp girerse çöp çıkar, ML'de bir klişe değildir. Mimarinin yasasıdır.

2017: Techstars ve platformun çıkışı

Techstars '17. Programı doğrulama için değil, dağıtım için kullandık — kurduğumuz şeyi ölçeğiyle zorlayacak kurumsal ticaret müşterileriyle bağlantılar.

Hanzo Platform 2017'nin sonlarında, ilk bütünleşik ticaret yapay zekası paketi olarak çıktı: EARLE önerileri, genetik optimizasyon motoru, gerçek zamanlı analitik ve birleşik bir API yüzeyiyle birbirine bağlanmış yeni bir kampanya orkestrasyon katmanı. Mimari baştan olay kaynaklıydı. Her kampanya durum değişikliği kalıcı bir olaydı; bu bize tam bir denetim izi ve modelleri yeniden eğitmek için geçmişi yeniden oynatma olanağı veriyordu.

Techstars '17, zaten kuşkulandığımız bir şeyi öğretti: dağıtım bir ürün sorunu değildir. Bir altyapı sorunudur. Sistemler düşüyorsa kurumlara satış yapamazsınız.

2018: Checkout 2.0 ve ML ile dolandırıcılık tespiti

Ödeme dolandırıcılığı büyük bankalar için çözülmüş bir sorundur. Orta ölçekli satıcılara hizmet veren ticaret platformları için 2018'de çözülmüş değildi.

Checkout 2.0, ML ile dolandırıcılık tespitini birinci sınıf bir checkout bileşeni olarak getirdi. Model mimarisi bir ensemble'dı: tablo öznitelikleri için gradyan destekli ağaçlar (sepet bileşimi, teslimat ve fatura adresi eşleşmesi, cihaz parmak izi) ve yakın dönem sipariş geçmişi üzerinde bir dizi modeli. Ensemble bilerek sığdı. Yorumlanabilirlik bir araştırma tercihi değil, bir ürün gereksinimiydi. Satıcının, bir işlemin neden işaretlendiğini anlaması gerekiyordu.

Dolandırıcılık sistemi, öznitelik çıkarma, model çıkarımı ve kural uygulama dahil, karar başına sub-100ms gecikmeyle çalışıyordu. Bu, çıkarım çalışma zamanını ayrı bir tahmin API'sinden geçirmek yerine checkout hizmetiyle aynı yere koymayı gerektiriyordu. Operasyonel karmaşıklık daha yüksekti. Gecikme profili pazarlık konusu değildi.

2019: API Gateway V1, kafes kriptografisi ve SDK ekosistemi

2019'da üç paralel hat vardı; yıllar sonra bir araya geldiler.

API Gateway V1 pratik bir sorundan doğdu: on iç hizmet ve kırk dış bütünleştirme. Her hizmetin kendi kimlik doğrulaması, kendi hız sınırı ve kendi gözlemlenebilirliği vardı. Birleşik bir ağ geçidi katmanı kurduk. Bugün çıkardığımız yapay zeka ağ geçidi henüz bu değildi, ama temel mimari aynıydı: istek yönlendirme, kimlik doğrulama ara yazılımı, tüketici başına hız sınırlama, yapılandırılmış günlük. 2026 Hanzo AI Gateway, bu sistemin yedinci büyük yinelemesidir.

Kafes kriptografisi araştırması arka plan işi olarak başladı. NIST Post-Quantum Cryptography standardlaştırma süreci yürüyordu ve biz izliyorduk. Sorduğumuz soru şuydu: kalıcı altyapı kuruyorsak, 15 yıllık ufukta kriptografik tehdit modeli nedir? Yanıt açıkça kuantum direncini gösteriyordu. CRYSTALS-Dilithium ve CRYSTALS-Kyber'i deneysel imzalama altyapımıza katmaya başladık. Bu iş ertesi yıl doğrudan üretimdeki kuantum sonrası imzalama altyapımıza aktı.

SDK ekosistemi: ilk Hanzo SDK'ları 2019'da çıktı; Python, TypeScript ve Go'yu kapsıyordu. Tasarım ilkesi en küçük yüzey ve en yüksek bileşebilirlikti. O zamandan beri altı SDK kuşağı çıkardık. İlke değişmedi.

2020: üretimde kuantum sonrası kriptografi

2019'un kafes araştırması 2020'de üretime girdi. Tasarım öncülleri keskindi: temelden kuantum sonrası güvenlik, uygulama mantığını birinci sınıf bir kaygı olarak barındırabilen bir imzalama katmanı ve kuantum dirençli imzaları ölçekte uygulanabilir kılan başarım.

İmzalama motoru, olasılıksal güven için tekrarlı örneklemeye dayanmak yerine, sınırlı sürede deterministik güvence veren eşik tabanlı taahhüt turları getirdi. Pratik sonuç: normal koşullarda imzalar bir saniyenin altında doğrulanır; çekişmeli yük altında bozulma öngörülebilir.

Her imzalama anahtarı baştan CRYSTALS-Dilithium kullanır. İsteğe bağlı bir yükseltme yolu olarak değil, taban gereksinim olarak. Kuantum sonrası imzaların başarım ek yükü gerçektir ama yönetilebilir. Karşılaştırmalarımızı yayımladık; imza başına ek yükü 0.3ms'nin altına indiren toplu imza doğrulama iyileştirmeleri de bunların arasındaydı.

2021: çok kipli araştırma ve ilk MCP taslakları

Transformer mimarisinin metin, görüntü ve ses temsillerini birleştirebildiği 2021'de bizim için netleşti. Çok kipli bir araştırma programı açtık; bu program kipler arası anlama için birleşik bir kodlayıcı-çözücü çerçevesi olan Jin mimarisine dönüştü.

Model Context Protocol'ün ilk taslakları paralel bir hattan çıktı: ajan çerçeveleri kuruyor, kalıcı belleği olmayan modellerle çok turlu etkileşimde durumu yönetmenin temel sorunuyla karşılaşıyorduk. MCP protokolü bağlam pencereleme, bellek getirme ve modeller arası durum aktarımı için yapılandırılmış bir arayüz tanımlar. 2021 taslakları kabaydı. 2026 üretim uygulaması bir milyarı aşkın bağlam işlemi yürüttü.

2022: ASO protokolü ve ilk transformer ince ayarı

2022'nin iki teknik katkısı sonraki dört yılı biçimlendirdi.

Adaptive Swarm Optimization (ASO), biyolojik sürü davranışından esinlenen dağıtık bir optimizasyon protokolüdür. Genetik algoritmalar ayrık nüfus üyeleri tutar. ASO, parametre uzayı üzerinde sürekli bir yoğunluk alanı tutar; güncelleme kuralları yerel gradyan bilgisini küresel yoğunluk kısıtlarıyla dengeler. Protokol, amaç fonksiyonunun değerlendirilmesinin pahalı olduğu ve değerlendirmelerin heterojen hesaplamaya dağıldığı durumlar için tasarlandı — çok ajanlı yapay zeka sistemlerine doğal bir uyum. İlk ASO yayını 2022'nin sonlarında çıktı.

İlk transformer ince ayarı üretim koşusu: ticarete özgü belge anlama için 7B parametreli açık ağırlıklı bir transformer'a ince ayar yaptık. Koşu hesapta $6,200 tuttu ve 48 saat sürdü. Ortaya çıkan model, değerlendirme takımımızda tabandan 11% daha iyiydi ve üretim görev dağılımında belirgin biçimde daha iyiydi. Daha önemlisi operasyon deneyimiydi — veri hatları, dağıtık eğitim kurulumu, denetim noktası yönetimi, değerlendirme düzeneği — ve sonraki her koşunun şablonu oldu. Süreç kalitesi ölçeklenir. Gelişigüzel koşular ölçeklenmez.

2023: HMM, ajan çerçeveleri ve PoAI araştırması

Hierarchical Model Merging (HMM), sürekli karşılaştığımız bir sorunun yanıtıydı: her biri kendi dar alanında çok iyi olan birden çok ince ayarlı modelimiz vardı ve hepsinin en iyisini devralan birleşik bir model istiyorduk. Naif ağırlık ortalaması bütün uzmanları bozar. HMM, ağırlık uzayında alana özgü temsilleri bulan ve bunları ortalama ile silmek yerine birleştirme sırasında koruyan hiyerarşik bir birleştirme stratejisi uygular. Teknik, eğitimde tutulmayan alan değerlendirmelerinde naif birleştirmeye göre 4-7% iyileşme gösterdi.

Ajan çerçeveleri: ilk Hanzo ajan çalışma zamanı 2023'te, MCP protokolü üzerinde, araç kullanımı, bellek getirme ve çok adımlı planlamayla çıktı. Tasarım bilinçliydi: ajanlar durumlu süreçlerdir, durumsuz istek işleyicileri değil. Çalışma zamanı ajanın tüm yaşam döngüsünü yönetir — ilklendirme, araç gönderimi, durumun kalıcılığı, hata kurtarma. Bunu uygulama kodu olarak değil protokol düzeyinde kurmak, sonraki bütünleştirmeleri dolaysız kıldı.

Proof of AI (PoAI) uzlaşı araştırması: yapay zeka hesabı doğrulanabilir kılınıp bir uzlaşı ilkesi olarak kullanılabilir mi? Araştırma sorusu basit değildir. Yapay zeka hesapları kayan nokta düzeyinde doğası gereği deterministik değildir. PoAI araştırmamız buna, ileri geçişleri donanımlar arasında yeniden üretilebilir kılan deterministik nicemleme şemalarıyla yanıt verdi; böylece model çıktıları üzerinde eşik tabanlı uzlaşı mümkün oldu. Araştırma, Zoo ağının zLLM mimarisine aktı.

2024: Zen LM başlıyor, Jin mimarisi, Hanzo MCP araçları

Zen LM projesi 2024'te basit bir tezle başladı: en iyi açık ağırlıklı modelleri, onları üretimde çalıştırma deneyimi en fazla olanlar kurmalıdır. Bu deneyim bizde vardı.

İlk Zen modelleri, belirli yetenek profillerine ayarlanmış Qwen3-series taban modellerinin ince ayarlarıydı: kod üretimi, uzun bağlamda akıl yürütme, yönerge izleme. 2022'de kurulan eğitim hattı, temelden yeniden tasarlanmadan 70B+ parametrelik koşuları kaldıracak biçimde ölçeklendi. Sürece yapılan yatırım karşılığını verdi.

Jin mimarisi çok kipli araştırmamızı bir üretim sistemine bağladı. Jin; metin, görüntü yamaları ve ses spektrogramları için birleşik bir token uzayı kullanır. Ayrı eğitim ve çıkarım yolları gerektiren kipe özgü kodlayıcılar yoktur. Mimarinin sadeleşmesi, sunum karmaşıklığının bütün bir sınıfını ortadan kaldırdı: bir model, bir çıkarım çalışma zamanı, birden çok kip.

Hanzo MCP araçları, Model Context Protocol'ün ilk kamusal uygulaması olarak çıktı. Araç takımı web aramasını, kod yürütmeyi, dosya işlemlerini, bellek getirmeyi ve ajanlar arası iletişimi kapsar. Kullanıma açıldıkları ilk çeyrekte on bini aşkın geliştirici MCP araçlarını bütünleştirdi.

2025: ölçekte Zen ailesi, MoDE mimarisi ve zenlm.org

Doksan dört model. Zen ailesi 2025 sonunda bundan oluşuyordu.

Ölçek, BitDelta araştırması (arXiv:2402.10193) olmadan tasarlanamayacak bir sunum mimarisi istiyordu: ince ayarlı model deltaları 1-bit işaret temsillerine sıkıştırılıyor, değişken başına GPU belleği onlarca gigabayttan tek haneli gigabaytlara iniyordu. GPU belleğinde paylaşılan bir taban ağırlık ve önbellek katmanında modele özgü davranış deltalarıyla, daha önce iki ya da üç modele yeten bir altyapı ayak izinden 14 Zen varyantı sunabiliyoruz.

Zen MoDE — Mixture of Distilled Experts — 2025'i tanımlayan mimari kırılmadır. Geleneksel MoE modelleri uzmanları sıfırdan eğitir. MoDE üç tekniği birleştirir: uzmanların rastgele değil damıtmayla ilklenmesi, uzmanlar arasındaki ağırlık korelasyonunu kırmak için Drop-Upcycling (arXiv:2502.19261) ve uzmanları tam bir yeniden eğitim olmadan sonradan uzmanlaştırmak için HMM birleştirme protokolümüz. Sonuç: Zen4 Max, toplam 30B parametre ve ileri geçiş başına yalnızca 3B etkin parametreyle 13B sınıfı kaliteye ulaşır.

Abliterated varyantlar: ret kaldırma işi — araştırma ve profesyonel kullanım için ayrılmış modellere dikkatle ve bilerek uygulanmış haliyle — davranış özelliklerinin ağırlık uzayında yerelleştirilebildiğini gösterdi. Bir davranışın modelde nerede durduğunu anlamak temel bilgidir, bir dolanma yolu değil. zen4-abliterated serisi, belgelenmiş davranış yerelleştirme koordinatlarıyla çıkan ilk model ailesidir.

2026: Hanzo AI Gateway ve sonrası

Ağ geçidinin Şubat 2026'daki çıkışı, 2019'da başlayan API ağ geçidi işinin vardığı yerdir: 100+ model için tek bir uç nokta, OpenAI ile uyumlu, üçüncü taraf sağlayıcılarda sıfır bindirim ve tescilli katman olarak Zen modelleri.

Süregelen araştırma hatları:

GT-QLoRA: MoE davranış ayarı için kapıları çözülmüş nicemlenmiş düşük ranklı uyarlama. MoE modellerine uygulanan standart LoRA, yönlendirme kapılarını donuk bırakır ve ince ayarın uzman seçimini etkilemesini engeller. GT-QLoRA kapı parametrelerini kısıtlı güncellemelerle çözer: yönlendirme yapısı uyum sağlayabilir, uzman uzmanlaşması korunur.

DSO (Decentralized Semantic Optimization): Zoo'nun zLLM mimarisinin altındaki protokol. DAO düzenekleriyle yönetilen, deneyim enjeksiyonu yoluyla sıfır hesaplı uyarlama. İnce ayar maliyeti ($15K+) ile DSO maliyeti ($18) arasındaki fark gerçektir. Mimari, Zoo ağında üretimdedir.

Kuantum güvenli MPC: model ağırlıkları için kuantum sonrası primitifler kullanan çok taraflı hesaplama protokolleri. Model ağırlıkları yapay zeka altyapısındaki en değerli fikri mülkiyetse, en iyi finansal varlıklarla eşdeğer kriptografik korumayı hak ederler.

On iki yıl, yapay zekada uzun bir süredir. Abartı döngülerinin gelip gitmesini, bütün paradigmaların birbirinin yerini almasını, geçen yılın SOTA'sı üzerine kurulan şirketlerin SOTA yer değiştirince çökmesini görecek kadar uzun. Kalan şey altyapıdır: veri hatları, sunum sistemleri, protokol uygulamaları ve yapay zekayı ölçekte gerçekten çıkarıp çalıştırmayı mümkün kılan, zor kazanılmış operasyon bilgisi.

Bu altyapıyı 2014'ten beri kuruyoruz. Bitirmedik.

Hanzo AI, Techstars '17 şirketidir. Öncü yapay zeka ve onu çalıştıracak altyapıyı kuruyoruz. hanzo.ai