От ИИ для коммерции к передовым моделям: десятилетие инфраструктуры Hanzo

Большинство компаний в области ИИ появились в 2022 году. Мы начали в 2014.

Этот разрыв значит больше, чем кажется. Двенадцать лет решений об инфраструктуре, неудачных экспериментов, проектов протоколов и добытых в бою производственных интуиций складываются в то, что нельзя купить и нельзя скопировать: глубокое архитектурное знание. Это техническая история того, как Hanzo прошла путь от рекомендательного движка для электронной коммерции до запуска 94+ передовых моделей в масштабе инференса.

2014: основание — Crowdstart и EARLE

Hanzo вышла как Crowdstart, платформа коммерческого ИИ с обманчиво узкой задачей: предсказать, кто из клиентов купит, по какой цене и в какой момент — и автоматически действовать по этому прогнозу.

Первой системой, которая имела вес, стал EARLE — Entity-based Adaptive Recommendation Learning Engine. EARLE не был простым коллаборативным фильтром. Он держал графы сущностей по иерархиям товаров, сегментам клиентов и поведенческим последовательностям и обновлял веса рёбер в реальном времени, по мере поступления потоков транзакций. Хранилище под ним стояло на нашем собственном распределённом слое ключ-значение — сознательное решение держать задержку на уровне хранения, а не принимать компромиссы доступных управляемых баз данных.

Чему научил EARLE: задержка — это ограничение проектирования первого класса, а не проход оптимизации. Рекомендация, которая приходит на 200ms позже, не доставлена. Она брошена.

2015: аналитика реального времени на периферии

К 2015 году EARLE уже не хватало. Клиентам нужны были не только рекомендации, а полные конвейеры поведенческой аналитики: анализ воронки, когорты, атрибуция выручки по каналам маркетинга. Мы построили движок потоковой аналитики с приёмом событий sub-50ms и задержкой запросов в единицы миллисекунд.

Эта работа закрепила правило, которого мы держимся с тех пор: критический путь — наш. Каждый компонент на горячем пути — сериализация, индексирование, планирование запросов — был написан по нашим спецификациям. Внешние зависимости допускались только на периферии.

Шина событий pub/sub, которую мы построили в 2015 году, чтобы связать EARLE со слоем аналитики, — прямой предок событийной инфраструктуры нынешней платформы Hanzo. Интерфейс изменился. Архитектура нет.

2016: маркетинговая оптимизация генетическими алгоритмами

Генетические алгоритмы в маркетинге задним числом кажутся очевидными. В 2016 году в продакшене этим почти никто не занимался.

Система держала популяцию конфигураций кампаний — стратегии ставок, варианты креативов, деревья сегментации аудитории — и развивала их давлением отбора по реальным конверсиям. Мутации были ограничены: нам нужны были воспроизводимость и проверяемость, а чисто случайная мутация их не давала. Функция приспособленности с самого начала была многокритериальной и уравновешивала выручку, маржу, пожизненную ценность клиента и ограничения узнаваемости бренда.

Это был наш первый опыт компромисса между исследованием и эксплуатацией в промышленном масштабе. Урок, который мы усвоили: алгоритм не может быть умнее своего сигнала приспособленности. «Мусор на входе — мусор на выходе» в ML не клише. Это архитектурный закон.

2017: Techstars и запуск платформы

Techstars '17. Программа была нам нужна для дистрибуции, а не для подтверждения идеи — для связей с корпоративными клиентами в коммерции, чей масштаб должен был проверить построенное нагрузкой.

Hanzo Platform вышла в конце 2017 года как первый цельный пакет коммерческого ИИ: рекомендации EARLE, движок генетической оптимизации, аналитика реального времени и новый слой оркестрации кампаний, собранные на единой поверхности API. Архитектура с самого начала была событийной. Каждое изменение состояния кампании было устойчивым событием: полный след аудита и возможность проиграть историю заново для дообучения моделей.

Techstars '17 подтвердила то, что мы уже подозревали: дистрибуция — не продуктовая задача. Это задача инфраструктуры. Предприятиям не продашь, если системы падают.

2018: Checkout 2.0 и выявление мошенничества на ML

Платёжное мошенничество для крупных банков — решённая задача. Для коммерческих платформ, которые обслуживают торговцев среднего сегмента, в 2018 году она решена не была.

Checkout 2.0 ввёл выявление мошенничества на ML как полноправный компонент оформления заказа. Архитектура модели была ансамблем: деревья градиентного бустинга по табличным признакам (состав корзины, совпадение адресов доставки и выставления счёта, отпечаток устройства) вместе с последовательной моделью по недавней истории заказов. Ансамбль намеренно сделали неглубоким. Интерпретируемость была требованием продукта, а не вкусом исследователей. Торговец должен был понимать, почему транзакцию пометили.

Система работала с задержкой sub-100ms на решение, включая извлечение признаков, инференс модели и применение правил. Для этого среда инференса стояла рядом со службой checkout, а не за отдельным API предсказаний. Операционная сложность была выше. Профиль задержки не обсуждался.

2019: API Gateway V1, решёточная криптография и экосистема SDK

Три параллельных нити 2019 года сошлись только спустя годы.

API Gateway V1 родился из практической задачи: десять внутренних сервисов и сорок внешних интеграций. У каждого сервиса были свои аутентификация, ограничение частоты и наблюдаемость. Мы построили единый слой шлюза — ещё не тот шлюз ИИ, который выпускаем сегодня, но та же базовая архитектура: маршрутизация запросов, промежуточный слой аутентификации, ограничение частоты на каждого потребителя, структурированные журналы. Hanzo AI Gateway 2026 года — седьмая крупная итерация этой системы.

Исследование решёточной криптографии началось как фоновая работа. Шёл процесс стандартизации Post-Quantum Cryptography в NIST, и мы за ним следили. Вопрос был такой: если мы строим инфраструктуру надолго, какова криптографическая модель угроз на горизонте в 15 лет? Ответ ясно указывал на устойчивость к квантовым атакам. Мы начали встраивать CRYSTALS-Dilithium и CRYSTALS-Kyber в экспериментальную инфраструктуру подписи — работа, которая на следующий год прямо вошла в промышленную постквантовую инфраструктуру подписи.

Экосистема SDK: первые SDK Hanzo вышли в 2019 году и покрывали Python, TypeScript и Go. Принцип был прост: минимальная поверхность и максимальная сочетаемость. С тех пор вышло шесть поколений SDK. Принцип не изменился.

2020: постквантовая криптография в продакшене

Решёточные исследования 2019 года ушли в продакшен в 2020. Посылки проектирования были жёсткими: постквантовая безопасность с основания, слой подписи, в котором прикладная логика — забота первого класса, и производительность, при которой квантово-устойчивые подписи практичны в масштабе.

Движок подписи ввёл пороговые раунды обязательства: детерминированные гарантии за ограниченное время, а не повторная выборка ради вероятностной уверенности. На практике подписи проверяются меньше чем за секунду в обычных условиях, а под состязательной нагрузкой деградация предсказуема.

Каждый ключ подписи с самого начала использует CRYSTALS-Dilithium. Не как необязательный путь обновления, а как базовое требование. Накладные расходы постквантовых подписей реальны, но управляемы. Мы опубликовали бенчмарки, включая оптимизации пакетной проверки подписей, которые опустили накладные расходы на одну подпись ниже 0.3ms.

2021: мультимодальные исследования и первые черновики MCP

В 2021 году нам стало ясно, что архитектура transformer умеет сводить воедино представления текста, изображения и звука. Мы открыли мультимодальную исследовательскую программу, из которой выросла архитектура Jin — единый фреймворк кодировщик-декодировщик для кросс-модального понимания.

Первые черновики Model Context Protocol вышли из параллельной нити: мы строили агентные фреймворки и упирались в задачу состояния на протяжении многоходового диалога с моделями без постоянной памяти. Протокол MCP задаёт структурный интерфейс для выделения окна контекста, извлечения памяти и переноса состояния между моделями. Черновики 2021 года были грубыми. Промышленная реализация 2026 года обработала более миллиарда операций с контекстом.

2022: протокол ASO и первое дообучение transformer

Два технических вклада 2022 года задали следующие четыре года.

Adaptive Swarm Optimization (ASO) — протокол распределённой оптимизации, подсказанный поведением биологических роёв. Генетические алгоритмы держат дискретных членов популяции. ASO держит непрерывное поле плотности над пространством параметров, а правила обновления уравновешивают локальный градиент и глобальные ограничения плотности. Протокол рассчитан на целевые функции, которые дорого вычислять, когда вычисления разнесены по разнородным машинам — естественный случай многоагентных систем ИИ. Первая публикация по ASO вышла в конце 2022 года.

Первый промышленный прогон дообучения transformer: мы дообучили transformer с открытыми весами на 7B параметров для понимания коммерческих документов. Прогон стоил $6,200 вычислений и занял 48 часов. Полученная модель была на 11% лучше базовой на нашем наборе оценок и заметно лучше на реальном распределении производственных задач. Важнее оказался операционный опыт — конвейеры данных, распределённое обучение, управление контрольными точками, стенд оценки — ставший шаблоном каждого следующего прогона. Качество процесса масштабируется. Разовые прогоны нет.

2023: HMM, агентные фреймворки и исследования PoAI

Hierarchical Model Merging (HMM) стал ответом на задачу, которая возвращалась: несколько дообученных моделей, каждая сильна в своём узком домене, а нужен один общий, который возьмёт лучшее от всех. Наивное усреднение весов портит всех специалистов. HMM применяет иерархическое слияние: находит в пространстве весов представления, свойственные домену, и сохраняет их при слиянии, а не усредняет до исчезновения. На оценках доменов, не входивших в обучение, выигрыш над наивным слиянием составил 4-7%.

Агентные фреймворки: первая среда исполнения агентов Hanzo вышла в 2023 году на протоколе MCP, с вызовом инструментов, извлечением памяти и многошаговым планированием. Замысел был сознательным: агенты — это процессы с состоянием, а не обработчики запросов без состояния. Среда ведёт весь жизненный цикл агента — инициализацию, диспетчеризацию инструментов, сохранение состояния, восстановление после ошибок. Построить это на уровне протокола, а не как прикладной код, сделало следующие интеграции прямыми.

Исследование консенсуса Proof of AI (PoAI): можно ли сделать вычисления ИИ проверяемыми и использовать их как примитив консенсуса? Вопрос не прост. Вычисления ИИ недетерминированы уже на уровне чисел с плавающей точкой. Исследование PoAI ответило схемами детерминированного квантования, которые делают прямой проход воспроизводимым на разном оборудовании и позволяют пороговому консенсусу сходиться по выходам моделей. Работа вошла в архитектуру zLLM сети Zoo.

2024: старт Zen LM, архитектура Jin, инструменты Hanzo MCP

Проект Zen LM начался в 2024 году с простого тезиса: лучшие модели с открытыми весами должны строить те, у кого больше всех производственного опыта их запуска. Этот опыт у нас был.

Первые модели Zen были дообучением базовых моделей Qwen3-series под конкретные профили способностей: генерация кода, рассуждение на длинном контексте, следование инструкциям. Конвейер обучения 2022 года выдержал прогоны на 70B+ параметров без принципиальной переделки. Вложение в процесс окупилось.

Архитектура Jin перевела мультимодальные исследования в промышленную систему. Jin использует единое пространство токенов для текста, фрагментов изображений и спектрограмм аудио — без кодировщиков под отдельную модальность и без отдельных путей обучения и инференса. Упрощение сняло целый класс сложности обслуживания: одна модель, одна среда инференса, несколько модальностей.

Инструменты Hanzo MCP вышли как первая публичная реализация Model Context Protocol. Набор покрывает веб-поиск, исполнение кода, операции с файлами, извлечение памяти и связь между агентами. За первый квартал доступности инструменты MCP встроили более десяти тысяч разработчиков.

2025: семейство Zen в масштабе, архитектура MoDE и zenlm.org

Девяносто четыре модели. Вот чем было семейство Zen к концу 2025 года.

Масштаб требовал архитектуры обслуживания, которую нельзя было спроектировать без исследования BitDelta (arXiv:2402.10193): дельты дообученных моделей, сжатые до знаковых представлений 1-bit, так что память GPU на вариант падает с десятков гигабайт до единиц гигабайт. Общий базовый вес в памяти GPU и поведенческие дельты каждой модели в слое кэша позволяют обслуживать 14 вариантов Zen на инфраструктурном следе, которого раньше хватало на два или три.

Zen MoDE — Mixture of Distilled Experts — архитектурный прорыв, определивший 2025 год. Обычные модели MoE обучают экспертов с нуля. MoDE соединяет три приёма: инициализацию экспертов дистилляцией, а не случайно; Drop-Upcycling (arXiv:2502.19261), чтобы разорвать корреляцию весов между экспертами; и наш протокол слияния HMM, чтобы специализировать экспертов потом, без полного дообучения. Итог: Zen4 Max даёт качество класса 13B при 30B параметров всего и только 3B активных на прямой проход.

Варианты abliterated: работа по снятию отказа — осторожно и намеренно, на моделях для исследований и профессиональной работы — показала, что поведенческие свойства локализуются в пространстве весов. Понять, где в модели живёт поведение, — фундаментальное знание, а не обход. Серия zen4-abliterated — первая семья моделей, вышедшая с документированными координатами поведенческой локализации.

2026: Hanzo AI Gateway и что дальше

Запуск шлюза в феврале 2026 года завершает работу над API-шлюзом, начатую в 2019: одна конечная точка для 100+ моделей, совместимая с OpenAI, нулевая наценка на сторонних провайдеров, а модели Zen — собственный уровень.

Текущие исследовательские нити:

GT-QLoRA: квантованная низкоранговая адаптация с размороженными гейтами для поведенческой настройки MoE. Обычная LoRA на моделях MoE оставляет гейты маршрутизации замороженными, и дообучение не влияет на выбор эксперта. GT-QLoRA размораживает параметры гейтов ограниченными обновлениями: структура маршрутизации может меняться, а специализация экспертов сохраняется.

DSO (Decentralized Semantic Optimization): протокол под архитектурой zLLM сети Zoo. Адаптация с нулевыми вычислениями через внедрение опыта, под управлением механизмов DAO. Разрыв между стоимостью дообучения ($15K+) и стоимостью DSO ($18) реален. На сети Zoo архитектура в продакшене.

Квантово-стойкие MPC: протоколы многосторонних вычислений над весами моделей на постквантовых примитивах. Если веса моделей — самая ценная интеллектуальная собственность в инфраструктуре ИИ, им нужна криптографическая защита на уровне лучших финансовых активов.

Двенадцать лет в ИИ — долгий срок. Достаточный, чтобы циклы хайпа пришли и ушли, чтобы целые парадигмы сменили друг друга, чтобы компании, построенные на прошлогодней SOTA, рухнули, когда SOTA сдвинулась. Остаётся инфраструктура: конвейеры данных, системы обслуживания, реализации протоколов и добытое в работе операционное знание, без которого ИИ в масштабе не выпустить и не запустить.

Эту инфраструктуру мы строим с 2014 года. Мы не закончили.

---

Hanzo AI — компания Techstars '17. Мы строим передовой ИИ и инфраструктуру, на которой он работает. hanzo.ai