Da IA comercial aos modelos de fronteira: a década de infraestrutura da Hanzo

A maioria das empresas de IA começou em 2022. Nós começamos em 2014.

Essa distância pesa mais do que parece. Doze anos de decisões de infraestrutura, experimentos que falharam, desenhos de protocolo e intuições de produção conquistadas na prática se acumulam em algo que não se compra e não se imita: conhecimento arquitetural profundo. Esta é a história técnica de como a Hanzo saiu de um motor de recomendação para e-commerce e passou a rodar 94+ modelos de fronteira em escala de inferência.

2014: a fundação — Crowdstart e EARLE

A Hanzo nasceu como Crowdstart, uma plataforma de IA comercial com um problema específico só na aparência: prever quais clientes comprariam, a que preço e em que momento — e agir sobre essa previsão de forma automática.

O primeiro sistema que importou foi o EARLE — o Entity-based Adaptive Recommendation Learning Engine. O EARLE não era um filtro colaborativo simples. Mantinha grafos de entidades ao longo de hierarquias de produto, segmentos de clientes e sequências de comportamento, e atualizava os pesos das arestas em tempo real conforme os fluxos de transação chegavam. O armazenamento por baixo foi construído sobre uma camada chave-valor distribuída nossa — uma decisão deliberada de controlar a latência na camada de persistência, em vez de aceitar as concessões dos bancos de dados gerenciados então disponíveis.

O que o EARLE nos ensinou: latência é uma restrição de projeto de primeira classe, não uma passagem de otimização. Uma recomendação que chega 200ms tarde demais não é entregue. É abandonada.

2015: análise em tempo real na borda

Em 2015, o EARLE já não bastava. Os clientes precisavam não só de recomendações, mas de pipelines completas de análise comportamental: análise de funil, acompanhamento de coortes, atribuição de receita entre canais de marketing. Construímos um motor de análise em streaming com ingestão de eventos sub-50ms e latência de consulta na faixa dos milissegundos de um dígito.

Esse trabalho fixou um princípio que mantemos desde então: o caminho crítico é nosso. Cada componente no caminho quente — serialização, indexação, planejamento de consulta — foi escrito segundo as nossas especificações. Dependências externas só se toleravam na periferia.

O barramento de eventos pub/sub que construímos em 2015 para ligar o EARLE à camada de análise é o ancestral direto da infraestrutura de eventos que sustenta a plataforma atual da Hanzo. A interface mudou. A arquitetura não.

2016: otimização de marketing com algoritmos genéticos

Algoritmos genéticos para marketing parecem óbvios em retrospecto. Em 2016, praticamente ninguém fazia isso em produção.

O sistema mantinha uma população de configurações de campanha — estratégias de lance, variações de criativo, árvores de segmentação de público — e as fazia evoluir pela pressão de seleção dos resultados reais de conversão. As mutações tinham limite: precisávamos de reprodutibilidade e de auditabilidade, e uma mutação puramente aleatória não as dava. A função de aptidão era multiobjetivo desde o início e equilibrava receita, margem, valor do tempo de vida do cliente e restrições de exposição da marca.

Foi a nossa primeira experiência em administrar o compromisso entre exploração e aproveitamento em escala de produção. A lição que internalizamos: o algoritmo não pode ser mais inteligente do que o seu sinal de aptidão. Garbage in, garbage out não é um clichê em ML. É uma lei de arquitetura.

2017: Techstars e o lançamento da plataforma

Techstars '17. Usamos o programa para distribuição, não para validação — os contatos com clientes empresariais de comércio, numa escala que ia colocar à prova o que tínhamos construído.

A Hanzo Platform saiu no fim de 2017 como a primeira suíte integrada de IA comercial: recomendações EARLE, o motor de otimização genética, análise em tempo real e uma nova camada de orquestração de campanhas, ligados por uma superfície de API unificada. A arquitetura era event-sourced desde o início. Cada mudança de estado de uma campanha era um evento durável, o que nos dava uma trilha de auditoria completa e a capacidade de reproduzir o histórico para retreinar os modelos.

A Techstars '17 nos confirmou uma suspeita: distribuição não é um problema de produto. É um problema de infraestrutura. Não se vende para empresas se os sistemas caem.

2018: Checkout 2.0 e detecção de fraude com ML

Fraude de pagamento é um problema resolvido para os grandes bancos. Para plataformas de comércio que atendem lojistas de mercado intermediário, em 2018 não era.

O Checkout 2.0 trouxe a detecção de fraude por ML para dentro do checkout, como componente de primeira classe. A arquitetura do modelo era um ensemble: árvores de gradient boosting para atributos tabulares (composição do carrinho, coincidência dos endereços de entrega e de cobrança, impressão digital do dispositivo) combinadas com um modelo de sequência sobre o histórico recente de pedidos. O ensemble era raso de propósito. Interpretabilidade era um requisito de produto, não uma preferência de pesquisa. O lojista precisava entender por que uma transação tinha sido sinalizada.

O sistema de fraude operava com latência sub-100ms por decisão, incluindo extração de atributos, inferência do modelo e aplicação de regras. Isso exigia colocar o runtime de inferência junto do serviço de checkout, em vez de passar por uma API de previsão separada. A complexidade operacional era maior. O perfil de latência não se negociava.

2019: API Gateway V1, criptografia de reticulados e o ecossistema de SDK

Três fios paralelos em 2019, que só se encontraram anos depois.

API Gateway V1 nasceu de um problema prático: tínhamos dez serviços internos e quarenta integrações externas. Cada serviço tinha a sua autenticação, o seu limite de taxa e a sua observabilidade. Construímos uma camada de gateway unificada — ainda não o gateway de IA que entregamos hoje, mas a mesma arquitetura de base: roteamento de requisições, middleware de autenticação, limite de taxa por consumidor, log estruturado. O Hanzo AI Gateway de 2026 é a sétima grande iteração deste sistema.

A pesquisa em criptografia de reticulados começou como trabalho de fundo. O processo de padronização Post-Quantum Cryptography do NIST estava em curso, e nós o acompanhávamos. A pergunta: se a infraestrutura precisa durar, qual é o modelo de ameaça criptográfica num horizonte de 15 anos? A resposta apontava com clareza para a resistência quântica. Passamos a integrar CRYSTALS-Dilithium e CRYSTALS-Kyber na nossa infraestrutura experimental de assinatura — trabalho que, no ano seguinte, entrou direto na infraestrutura de assinatura pós-quântica de produção.

Ecossistema de SDK: os primeiros SDKs da Hanzo saíram em 2019, para Python, TypeScript e Go. O princípio de desenho era superfície mínima e composabilidade máxima. Desde então lançamos seis gerações de SDK. O princípio não mudou.

2020: criptografia pós-quântica em produção

A pesquisa de reticulados de 2019 entrou em produção em 2020. As premissas de desenho eram nítidas: segurança pós-quântica desde a base, uma camada de assinatura capaz de hospedar lógica de aplicação como preocupação de primeira classe, e desempenho que tornasse práticas, em escala, as assinaturas resistentes a quantum.

O motor de assinatura introduziu rodadas de compromisso baseadas em limiar, com garantias determinísticas dentro de um tempo limitado, em vez de amostragem repetida para uma confiança probabilística. Na prática, as assinaturas se verificam em menos de um segundo em condições normais, com degradação previsível sob carga adversária.

Toda chave de assinatura usa CRYSTALS-Dilithium desde o início. Não como um caminho opcional de atualização: como requisito de base. O custo de desempenho das assinaturas pós-quânticas existe, e é administrável. Publicamos os nossos benchmarks, inclusive as otimizações de verificação de assinaturas em lote que levaram o overhead por assinatura para baixo de 0.3ms.

2021: pesquisa multimodal e os primeiros rascunhos de MCP

Em 2021 ficou claro para nós que a arquitetura transformer unificava representações de texto, imagem e áudio. Abrimos um programa de pesquisa multimodal que se tornou a arquitetura Jin — um framework encoder-decoder unificado para compreensão entre modalidades.

Os primeiros rascunhos do Model Context Protocol nasceram de um fio paralelo: estávamos construindo frameworks de agentes e enfrentando o problema de fundo de administrar estado em interações de vários turnos com modelos sem memória persistente. O protocolo MCP define uma interface estruturada para o janelamento de contexto, a recuperação de memória e a transferência de estado entre modelos. Os rascunhos de 2021 eram crus. A implementação de produção de 2026 já processou mais de um bilhão de operações de contexto.

2022: protocolo ASO e o primeiro fine-tuning de um transformer

Duas contribuições técnicas de 2022 deram forma aos quatro anos seguintes.

Adaptive Swarm Optimization (ASO) é um protocolo de otimização distribuída inspirado no comportamento de enxames biológicos. Onde os algoritmos genéticos mantêm membros discretos de uma população, o ASO mantém um campo de densidade contínuo sobre o espaço de parâmetros, com regras de atualização que equilibram a informação de gradiente local e as restrições de densidade global. O protocolo foi desenhado para funções objetivo caras de avaliar, com avaliações distribuídas em computação heterogênea — um encaixe natural para sistemas de IA multiagente. A primeira publicação do ASO saiu no fim de 2022.

Primeira execução de produção de fine-tuning de um transformer: fizemos o fine-tuning de um transformer open-weight de 7B parâmetros para compreensão de documentos específica do comércio. A execução custou $6,200 de computação e levou 48 horas. O modelo resultante ficou 11% melhor do que a base na nossa suíte de avaliação, e consideravelmente melhor na distribuição real de tarefas de produção. Mais importante foi a experiência operacional — pipelines de dados, configuração de treinamento distribuído, gestão de checkpoints, bancada de avaliação — que virou o modelo de cada execução seguinte. A qualidade do processo escala. Execuções ad hoc, não.

2023: HMM, frameworks de agentes e pesquisa PoAI

Hierarchical Model Merging (HMM) foi a resposta a um problema que voltava: vários modelos após o fine-tuning, cada um excelente no seu domínio estreito, e a vontade de um modelo unificado que herdasse o melhor de todos. A média ingênua dos pesos degrada todos os especialistas. O HMM aplica uma estratégia de merge hierárquico que identifica, no espaço de pesos, as representações próprias de um domínio e as preserva durante o merge, em vez de diluí-las na média. A técnica mostrou uma melhora de 4-7% sobre o merge ingênuo em avaliações de domínio deixadas de fora do treinamento.

Frameworks de agentes: o primeiro runtime de agentes da Hanzo saiu em 2023, sobre o protocolo MCP, com uso de ferramentas, recuperação de memória e planejamento em vários passos. O desenho era deliberado: agentes são processos com estado, não tratadores de requisição sem estado. O runtime administra o ciclo de vida inteiro do agente — inicialização, despacho de ferramentas, persistência de estado, recuperação de erro. Construí-lo no nível do protocolo, e não como código de aplicação, tornou diretas as integrações que vieram depois.

Pesquisa de consenso Proof of AI (PoAI): dá para tornar o cálculo de IA verificável e usá-lo como primitiva de consenso? A pergunta de pesquisa não é trivial — o cálculo de IA é não determinístico já no nível de ponto flutuante. A nossa pesquisa de PoAI respondeu com esquemas de quantização determinística que tornam o passo à frente reprodutível entre hardwares diferentes e permitem consenso baseado em limiar sobre as saídas dos modelos. A pesquisa entrou na arquitetura zLLM da rede Zoo.

2024: começa o Zen LM, arquitetura Jin, ferramentas Hanzo MCP

O projeto Zen LM começou em 2024 com uma tese simples: os melhores modelos open-weight devem ser construídos por quem tem mais experiência de produção em rodá-los. Essa experiência nós tínhamos.

Os primeiros modelos Zen eram fine-tunes de modelos base Qwen3-series, mirando perfis de capacidade precisos: geração de código, raciocínio de contexto longo, seguimento de instruções. A pipeline de treinamento construída em 2022 escalou para execuções de 70B+ parâmetros sem um redesenho de fundo. O investimento no processo rendeu.

A arquitetura Jin formalizou a nossa pesquisa multimodal num sistema de produção. Jin usa um espaço de tokens unificado para texto, recortes de imagem e espectrogramas de áudio — sem codificadores específicos de modalidade que exijam caminhos separados de treinamento e de inferência. A simplificação da arquitetura eliminou uma classe inteira de complexidade de serving: um modelo, um runtime de inferência, várias modalidades.

As ferramentas Hanzo MCP saíram como a primeira implementação pública do Model Context Protocol. A suíte cobre busca na web, execução de código, operações de arquivo, recuperação de memória e comunicação entre agentes. No primeiro trimestre de disponibilidade, mais de dez mil desenvolvedores integraram as ferramentas MCP.

2025: a família Zen em escala, arquitetura MoDE e zenlm.org

Noventa e quatro modelos. Era isso que a família Zen reunia no fim de 2025.

A escala pedia uma arquitetura de serving que não poderia ter sido desenhada sem a pesquisa BitDelta (arXiv:2402.10193): deltas de modelos após o fine-tuning, comprimidos em representações de sinal de 1-bit, reduzindo a memória de GPU por variante de dezenas de gigabytes para gigabytes de um dígito. Com um peso de base compartilhado na memória de GPU e os deltas comportamentais de cada modelo numa camada de cache, servimos 14 variantes Zen numa pegada de infraestrutura que antes bastava para duas ou três.

Zen MoDE — Mixture of Distilled Experts — é a ruptura arquitetural que definiu 2025. Os modelos MoE tradicionais treinam especialistas do zero. O MoDE combina três técnicas: inicialização dos especialistas por destilação, e não ao acaso; Drop-Upcycling (arXiv:2502.19261) para quebrar a correlação de pesos entre especialistas; e o nosso protocolo de merge HMM para especializar os especialistas depois, sem um retreinamento completo. O resultado: Zen4 Max alcança qualidade de classe 13B com 30B parâmetros no total e só 3B ativos por passo à frente.

Variantes abliterated: o trabalho de remoção da recusa — aplicado com cuidado e de propósito a modelos destinados a pesquisa e a uso profissional — mostrou que propriedades comportamentais são localizáveis no espaço de pesos. Entender onde um comportamento vive num modelo é conhecimento fundamental, não um desvio. A série zen4-abliterated é a primeira família de modelos a sair com coordenadas documentadas de localização comportamental.

2026: Hanzo AI Gateway e o que vem depois

O lançamento do gateway em fevereiro de 2026 é o ponto de chegada do trabalho de API gateway começado em 2019: um único endpoint para 100+ modelos, compatível com OpenAI, acréscimo zero sobre provedores terceiros, com os modelos Zen como a camada proprietária.

Pesquisas ativas agora:

GT-QLoRA: adaptação de baixo posto quantizada com os gates descongelados, para o ajuste comportamental de MoE. A LoRA padrão aplicada a modelos MoE deixa os gates de roteamento congelados e impede que o fine-tuning afete a seleção de especialistas. O GT-QLoRA descongela os parâmetros dos gates com atualizações restritas — a estrutura de roteamento pode se adaptar, e a especialização dos especialistas se preserva.

DSO (Decentralized Semantic Optimization): o protocolo por baixo da arquitetura zLLM da Zoo. Adaptação de computação zero por injeção de experiência, governada por mecanismos de DAO. A distância entre o custo do fine-tuning ($15K+) e o custo do DSO ($18) é real. A arquitetura está em produção na rede Zoo.

MPC seguro contra quantum: protocolos de computação multipartidária para pesos de modelos, com primitivas pós-quânticas. Se os pesos dos modelos são a propriedade intelectual mais valiosa da infraestrutura de IA, merecem proteção criptográfica à altura dos melhores ativos financeiros.

Doze anos é muito tempo em IA. O bastante para ver ciclos de hype ir e vir, paradigmas inteiros se substituírem, empresas construídas sobre a SOTA do ano anterior caírem quando a SOTA se move. O que permanece é a infraestrutura: as pipelines de dados, os sistemas de serving, as implementações de protocolo e o conhecimento operacional conquistado na prática, que tornam possível de fato entregar e rodar IA em escala.

Construímos essa infraestrutura desde 2014. Não terminamos.

A Hanzo AI é Techstars '17. Construímos IA de fronteira e a infraestrutura para rodá-la. hanzo.ai