Del comercio con IA a los modelos de frontera: una década de infraestructura de Hanzo

La mayoría de las empresas de IA arrancaron en 2022. Nosotros arrancamos en 2014.

Esa brecha pesa más de lo que suena. Doce años de decisiones de infraestructura, experimentos fallidos, diseños de protocolos e intuiciones de producción conseguidas a fuerza se acumulan en algo que no se compra ni se imita: conocimiento de arquitectura a fondo. Esta es la historia técnica de cómo Hanzo pasó de un motor de recomendaciones para el comercio electrónico a correr 94+ modelos de frontera a escala de inferencia.

2014: la base — Crowdstart y EARLE

Hanzo salió como Crowdstart, una plataforma de IA para el comercio con un problema engañosamente puntual: predecir qué clientes iban a comprar, a qué precio y en qué momento, y actuar sobre esa predicción de manera automática.

El primer sistema que de verdad pesó fue EARLE — el Entity-based Adaptive Recommendation Learning Engine. EARLE no era un filtro colaborativo simple. Mantenía grafos de entidades sobre jerarquías de productos, segmentos de clientes y secuencias de comportamiento, y actualizaba los pesos de las aristas en tiempo real conforme llegaban los flujos de transacciones. El almacén de datos de fondo se construyó sobre nuestra propia capa distribuida de clave-valor: una decisión deliberada para controlar la latencia en el nivel de persistencia, en vez de aceptar las compensaciones de las bases de datos administradas que había disponibles.

Lo que EARLE nos dejó claro: la latencia es una restricción de diseño de primera clase, no una pasada de optimización. Una recomendación que llega 200ms tarde no se entrega: queda abandonada.

2015: analítica en tiempo real en el borde

Para 2015, EARLE ya no alcanzaba. Los clientes necesitaban no solo recomendaciones, sino pipelines completos de analítica de comportamiento: análisis de embudo, rastreo de cohortes y atribución de ingresos entre canales de marketing. Armamos un motor de analítica en streaming con ingesta de eventos sub-50ms y latencia de consulta en el rango de los milisegundos de un solo dígito.

Ese trabajo fijó un patrón que sostuvimos desde entonces: quedarnos con la ruta crítica. Cada componente de la ruta caliente — serialización, indexación, planificación de consultas — se escribió según nuestras especificaciones. Las dependencias externas solo se toleraban en la orilla.

El bus de eventos pub/sub que armamos en 2015 para conectar EARLE con la capa de analítica es el ancestro directo de la infraestructura de eventos que sostiene la plataforma actual de Hanzo. La interfaz cambió. La arquitectura no.

2016: optimización de marketing con algoritmos genéticos

Los algoritmos genéticos para marketing parecen obvios al mirar atrás. En 2016, casi nadie los corría en producción.

El sistema mantenía una población de configuraciones de campaña — estrategias de oferta, variaciones creativas, árboles de segmentación de audiencia — y las hacía evolucionar con la presión de selección que aplicaban los resultados reales de conversión. Las mutaciones iban acotadas: necesitábamos reproducibilidad y auditabilidad, y una mutación puramente al azar no las daba. La función de fitness fue multiobjetivo desde el arranque, y equilibraba ingresos, margen, valor de vida del cliente y límites de exposición de marca.

Fue nuestra primera experiencia manejando el balance entre exploración y explotación a escala de producción. La lección que se nos quedó: el algoritmo no puede ser más inteligente que su señal de fitness. Garbage in, garbage out no es un cliché en ML: es una ley de la arquitectura.

2017: Techstars y el lanzamiento de la plataforma

Techstars '17. Usamos el programa no para validar, sino para distribuir: las conexiones con clientes de comercio empresarial cuya escala iba a poner bajo estrés lo que habíamos armado.

La plataforma de Hanzo se lanzó a fines de 2017 como la primera suite integrada de IA para el comercio: recomendaciones de EARLE, el motor de optimización genética, analítica en tiempo real y una capa nueva de orquestación de campañas, conectadas por una superficie de API unificada. La arquitectura fue event-sourced desde el inicio; cada cambio de estado de una campaña era un evento durable, y eso nos daba un rastro de auditoría completo y la capacidad de reproducir la historia para reentrenar los modelos.

Techstars '17 nos enseñó algo que ya sospechábamos: la distribución no es un problema de producto. Es un problema de infraestructura. Ustedes no pueden vender a empresas si sus sistemas se caen.

2018: Checkout 2.0 y detección de fraude con ML

El fraude de pagos es un problema resuelto para los bancos grandes. Para las plataformas de comercio que atienden a comerciantes del mercado medio, en 2018 no lo estaba.

Checkout 2.0 metió la detección de fraude con ML como un componente de checkout de primera clase. La arquitectura del modelo era un ensamble: árboles potenciados por gradiente para atributos tabulares (composición del carrito, coincidencia de las direcciones de envío y de facturación, huella del dispositivo), combinados con un modelo de secuencia sobre el historial reciente de pedidos. El ensamble era poco profundo a propósito: la interpretabilidad era un requisito del producto, no una preferencia de investigación. Los comerciantes necesitaban entender por qué una transacción había quedado marcada.

El sistema de fraude operaba con latencia sub-100ms por decisión, incluida la extracción de atributos, la inferencia del modelo y la aplicación de reglas. Eso exigía ubicar el runtime de inferencia junto al servicio de checkout, en vez de rutear por una API de predicción aparte. La complejidad operativa era más alta; el perfil de latencia no se negociaba.

2019: API Gateway V1, criptografía lattice y el ecosistema de SDK

Tres frentes en paralelo en 2019, que recién convergieron años después.

API Gateway V1 nació de un problema práctico: teníamos diez servicios internos y cuarenta integraciones externas. Cada servicio tenía su propia historia de autenticación, límite de tasa y observabilidad. Construimos una capa de gateway unificada — todavía no el gateway de IA que lanzamos hoy, pero la misma arquitectura de base: ruteo de solicitudes, middleware de autenticación, límite de tasa por consumidor y registro estructurado. La Hanzo AI Gateway de 2026 es la séptima iteración mayor de este sistema.

La investigación en criptografía lattice arrancó como trabajo de fondo. El proceso de estandarización de criptografía post-cuántica del NIST estaba en curso y lo estábamos siguiendo. La pregunta que nos hicimos: si estamos construyendo infraestructura durable, ¿cuál es el modelo de amenaza criptográfica en un horizonte de 15 años? La respuesta apuntaba claro hacia la resistencia cuántica. Empezamos a integrar CRYSTALS-Dilithium y CRYSTALS-Kyber en nuestra infraestructura experimental de firma: un trabajo que alimentó directo, al año siguiente, nuestra infraestructura de firma post-cuántica de producción.

Ecosistema de SDK: los primeros SDK de Hanzo salieron en 2019 y cubrían Python, TypeScript y Go. El principio de diseño era una superficie mínima con la máxima composabilidad. Desde entonces sacamos seis generaciones de SDK. El principio no cambió.

2020: criptografía post-cuántica en producción

La investigación lattice de 2019 pasó a producción en 2020. Las premisas de diseño eran nítidas: seguridad post-cuántica desde la base, una capa de firma capaz de hospedar lógica de aplicación como asunto de primera clase, y un desempeño que volviera prácticas, a escala, las firmas resistentes a la cuántica.

El motor de firma introdujo rondas de compromiso por umbral que dan garantías deterministas dentro de un tiempo acotado, en vez de apoyarse en un muestreo repetido para obtener confianza probabilística. El resultado práctico: las firmas se verifican en menos de un segundo en condiciones normales, con una degradación predecible bajo carga adversarial.

Cada clave de firma usa CRYSTALS-Dilithium desde el inicio. No como un camino de actualización opcional, sino como requisito de base. El sobrecosto de desempeño de las firmas post-cuánticas es real, pero se puede manejar; publicamos nuestros benchmarks, incluidas las optimizaciones de verificación de firmas en lote que bajaron el sobrecosto por firma a menos de 0.3ms.

2021: investigación multimodal y los primeros borradores de MCP

En 2021 nos quedó clara la capacidad demostrada de la arquitectura transformer para unificar representaciones de texto, imagen y audio. Arrancamos un programa de investigación multimodal que terminó siendo la arquitectura Jin: un marco unificado encoder-decoder para el entendimiento entre modalidades.

Los primeros borradores del Model Context Protocol salieron de un frente paralelo: estábamos armando frameworks de agentes y nos topamos con el problema de fondo de manejar el estado a lo largo de interacciones de varios turnos, con modelos que no tenían memoria persistente. El protocolo MCP define una interfaz estructurada para la gestión de ventanas de contexto, la recuperación de memoria y la transferencia de estado entre modelos. Los borradores de 2021 eran crudos. La implementación de producción de 2026 ha procesado más de mil millones de operaciones de contexto.

2022: el protocolo ASO y el primer fine-tuning de un transformer

Dos aportes técnicos de 2022 que le dieron forma a los cuatro años siguientes.

Adaptive Swarm Optimization (ASO) es un protocolo de optimización distribuida inspirado en el comportamiento de los enjambres biológicos. Donde los algoritmos genéticos mantienen miembros discretos de una población, ASO mantiene un campo de densidad continuo sobre el espacio de parámetros, con reglas de actualización que equilibran la información local del gradiente frente a restricciones globales de densidad. El protocolo se diseñó para escenarios en los que la función objetivo es cara de evaluar y las evaluaciones se reparten en cómputo heterogéneo: un ajuste natural para los sistemas de IA multiagente. La primera publicación de ASO apareció a fines de 2022.

Primera corrida de fine-tuning de un transformer en producción: hicimos fine-tuning de un transformer open-weight de 7B parámetros para el entendimiento de documentos propio del comercio. La corrida costó $6,200 de cómputo y tardó 48 horas. El modelo resultante quedó un 11% por encima de la base en nuestra suite de evaluación, y bastante mejor en nuestra distribución de tareas de producción. Más importante: la experiencia operativa — pipelines de datos, armado del entrenamiento distribuido, manejo de checkpoints, harness de evaluación — se volvió la plantilla de cada corrida de entrenamiento posterior. La calidad del proceso escala; las corridas ad hoc no.

2023: HMM, frameworks de agentes e investigación de PoAI

Hierarchical Model Merging (HMM) fue la respuesta a un problema que se nos repetía: teníamos varios modelos con fine-tuning, cada uno excelente en su dominio angosto, y queríamos un modelo unificado que heredara lo mejor de todos. El promedio ingenuo de pesos degrada a todos los especialistas. HMM aplica una estrategia de combinación jerárquica que identifica representaciones propias de cada dominio en el espacio de pesos y las preserva al combinar, en vez de promediarlas hasta borrarlas. La técnica mostró una mejora del 4-7% sobre la combinación ingenua en evaluaciones de dominio que quedaron afuera.

Frameworks de agentes: el primer runtime de agentes de Hanzo salió en 2023, construido sobre el protocolo MCP con uso de herramientas, recuperación de memoria y planificación de varios pasos. El diseño fue deliberado: los agentes son procesos con estado, no manejadores de solicitudes sin estado. El runtime lleva el ciclo de vida completo del agente: inicialización, reparto de herramientas, persistencia del estado y recuperación ante errores. Construirlo a nivel de protocolo, y no como código de aplicación, hizo directas las integraciones que vinieron después.

Investigación de consenso Proof of AI (PoAI): ¿se puede volver verificable el cómputo de IA y usarlo como primitiva de consenso? La pregunta de investigación no es trivial: los cómputos de IA son no deterministas de por sí en el nivel de punto flotante. Nuestra investigación de PoAI lo encaró con esquemas de cuantización determinista que hacen reproducibles las pasadas hacia adelante entre hardware distinto, y así permiten un consenso por umbral sobre las salidas del modelo. La investigación alimentó la arquitectura zLLM de la red Zoo.

2024: arranca Zen LM, la arquitectura Jin y las herramientas Hanzo MCP

El proyecto Zen LM arrancó en 2024 con una tesis simple: los mejores modelos open-weight los tiene que construir la gente con más experiencia de producción corriéndolos. Nosotros teníamos esa experiencia.

Los primeros modelos Zen fueron fine-tunes de modelos base Qwen3-series, apuntados a perfiles de capacidad concretos: generación de código, razonamiento de contexto largo y seguimiento de instrucciones. El pipeline de entrenamiento armado en 2022 escaló para aguantar corridas de 70B+ parámetros sin un rediseño de fondo: la inversión en el proceso rindió.

La arquitectura Jin formalizó nuestra investigación multimodal en un sistema de producción. Jin usa un espacio de tokens unificado para texto, parches de imagen y espectrogramas de audio: sin encoders propios de cada modalidad que exijan caminos separados de entrenamiento e inferencia. La simplificación de la arquitectura eliminó toda una clase de complejidad al servir el modelo: un modelo, un runtime de inferencia, varias modalidades.

Las herramientas Hanzo MCP salieron como la primera implementación pública del Model Context Protocol. La suite cubre búsqueda web, ejecución de código, operaciones de archivos, recuperación de memoria y comunicación entre agentes. Más de diez mil desarrolladores integraron herramientas MCP en el primer trimestre de disponibilidad.

2025: la familia Zen a escala, la arquitectura MoDE y zenlm.org

Noventa y cuatro modelos. Eso es lo que abarcaba la familia Zen al cierre de 2025.

La escala pedía una arquitectura de servicio que no se podía haber diseñado sin la investigación BitDelta (arXiv:2402.10193): deltas de modelos con fine-tuning, comprimidos a representaciones de signo de 1-bit, que bajan la memoria de GPU por variante de decenas de gigabytes a gigabytes de un solo dígito. Con un peso base compartido en memoria de GPU y deltas de comportamiento por modelo en una capa de caché, podemos servir 14 variantes de Zen desde una huella de infraestructura que antes alcanzaba para dos o tres.

Zen MoDE — Mixture of Distilled Experts — es el salto de arquitectura que definió 2025. Los modelos MoE tradicionales entrenan a los expertos desde cero. MoDE combina tres técnicas: inicialización de expertos desde destilación (en vez de al azar), Drop-Upcycling (arXiv:2502.19261) para romper la correlación de pesos entre expertos, y nuestro protocolo de combinación HMM para especializar expertos después, sin un reentrenamiento completo. El resultado: Zen4 Max logra calidad de clase 13B con 30B parámetros totales y solo 3B activos por pasada hacia adelante.

Variantes abliterated: el trabajo de remoción del rechazo — aplicado con cuidado y a propósito a modelos designados para investigación y uso profesional — demostró que las propiedades de comportamiento se pueden localizar en el espacio de pesos. Entender dónde vive el comportamiento en un modelo es conocimiento de fondo, no un desvío. La serie zen4-abliterated es la primera familia de modelos que sale con coordenadas documentadas de localización del comportamiento.

2026: Hanzo AI Gateway y lo que sigue

El lanzamiento del gateway en febrero de 2026 es la culminación del trabajo de gateway de API empezado en 2019: un solo endpoint para 100+ modelos, compatible con OpenAI, cero sobreprecio sobre proveedores de terceros, con los modelos Zen como nivel propietario.

Frentes de investigación activos ahora:

GT-QLoRA: adaptación de bajo rango cuantizada con las compuertas descongeladas, para el ajuste de comportamiento en MoE. La LoRA estándar aplicada a modelos MoE deja congeladas las compuertas de ruteo, así que el fine-tuning no alcanza a cambiar la selección de expertos. GT-QLoRA descongela los parámetros de la compuerta con actualizaciones acotadas: la estructura de ruteo puede adaptarse y la especialización de los expertos se conserva.

DSO (Decentralized Semantic Optimization): el protocolo que está debajo de la arquitectura zLLM de Zoo. Adaptación de cómputo cero por inyección de experiencia, gobernada por mecanismos de DAO. La brecha entre el costo del fine-tuning ($15K+) y el costo de DSO ($18) es real. La arquitectura está en producción en la red Zoo.

MPC seguro ante lo cuántico: protocolos de computación entre varias partes para los pesos de los modelos, con primitivas post-cuánticas. Si los pesos de los modelos son la propiedad intelectual más valiosa de la infraestructura de IA, merecen una protección criptográfica a la altura de los mejores activos financieros.

Doce años es mucho tiempo en IA. Alcanza para ver ciclos de hype ir y venir, ver paradigmas enteros reemplazarse y ver empresas armadas sobre el SOTA del año pasado colapsar cuando el SOTA se mueve. Lo que sobrevive es la infraestructura: los pipelines de datos, los sistemas para servir modelos, las implementaciones de protocolos y el conocimiento operativo conseguido a fuerza, que hace posible de verdad lanzar y correr IA a escala.

Venimos construyendo esa infraestructura desde 2014. Todavía no terminamos.

Hanzo AI es Techstars '17. Construimos IA de frontera y la infraestructura para correrla. hanzo.ai