Kai 1: decidir, no completar
Kai es el modelo de decisión de Hanzo, servido por la Hanzo API. Denle un estado explícito y una pregunta con opciones, y les devuelve una respuesta tipada y calibrada: una elección, un puntaje, un sí o un no, o un aplazamiento con fundamento.
En esta página
En el software de producción, la mayoría de los pasos no necesita un párrafo. Lo que hace falta es una respuesta con la que el software pueda actuar: qué herramienta llamar, si la evidencia alcanza, qué tan grave es un riesgo y si una persona tiene que aprobarlo.
Hoy les presentamos Kai 1, el modelo de decisión de Hanzo. Ustedes le pasan a Kai los hechos de una situación y una pregunta con las opciones ya listadas. Lo que devuelve es una respuesta tipada (una elección, un puntaje, un sí o un no, o un «no estoy seguro, lo derivo» calibrado), y cada opción trae su probabilidad.
Kai 1 ya está disponible en la Hanzo API. Sus pesos no son abiertos: Kai se entrega únicamente por API.
Los modelos de lenguaje razonan. Kai toma la decisión.
Cuando le piden una decisión a un modelo de lenguaje, lo que vuelve es texto. Tienen que desglosarlo, confiar en un número de confianza que el modelo inventó y esperar que la salida no se salga de los límites.
Kai está construido para los pasos en los que eso no alcanza. Sus respuestas tienen límite, sus probabilidades están calibradas y no hay nada que desglosar. Toda respuesta de Kai es de uno de estos cuatro tipos:
- Elección: una opción de un conjunto listado, con una probabilidad para cada una
- Puntaje: una calificación contra los niveles que ustedes definan
- Predicado: un sí o un no, con su probabilidad
- Derivación: Kai no tiene suficiente confianza y le pasa la decisión a una persona o a una regla
La evidencia queda pegada a la respuesta
A una decisión no tiene por qué importarle si la evidencia nació como texto, imagen o lectura de un sensor. Kai está diseñado para recibir evidencia mezclada y dejar el origen pegado a cada respuesta.
Un número sin procedencia no es más que un número.
Muchas decisiones en una sola pasada
Los ciclos de los agentes preguntan una por una. Kai está diseñado para correr un programa de decisión completo de una sola vez: un estado compartido, muchas decisiones y las dependencias escritas de forma explícita. Las respuestas con confianza se cierran primero, y solo las que quedan en duda reciben más trabajo.
La meta es que un programa con miles de decisiones no tenga que hacer miles de llamadas en serie al modelo.
Toda decisión se puede repetir
Cada decisión de Kai guarda la versión del programa, las huellas de la evidencia, la revisión del modelo, la distribución completa de probabilidad, las aprobaciones y el rastro de ejecución. Si alguien pregunta por qué el sistema hizo algo, ustedes pueden mostrárselo.
En qué encaja Kai
- Agentes: selección de modelo y de herramienta, cuándo seguir o parar, cuándo consultar a una persona
- Flujos de negocio: puntaje de prospectos, detección de intención, siguiente mejor acción, escalamiento
- Sistemas físicos: autos, robótica, manufactura, energía e infraestructura, donde las decisiones corren sobre datos de sensores
Parte del stack de Hanzo
Generar y decidir son tareas distintas. Zen6 es nuestra familia de modelos de generación con pesos abiertos. Kai 1 toma decisiones acotadas y calibradas. Enso enruta cada tarea hacia el que hace falta.
Dónde corre
Kai corre en la Hanzo API, en POST https://api.hanzo.ai/v1/decisions, a $0.021 por millón de tokens de entrada, y los tokens de salida son gratis. Sus pesos no están publicados, y no se ofrece para que ustedes lo instalen en su propia computadora.
Qué sigue
Estamos trabajando en siete preguntas abiertas de investigación, y vamos a publicar resultados solo cuando se puedan reproducir:
- Decisiones sobre conjuntos de opciones extremadamente grandes
- Decisiones en varios idiomas
- Decodificación con estado compartido
- Difusión de decisiones (afinar solo las respuestas inciertas)
- Evidencia multimodal
- Calibración y saber cuándo abstenerse
- Consistencia entre decisiones conectadas
Los primeros resultados de Kai 1 ya están publicados. En las 12 pruebas principales de un banco de decisión congelado, Kai 1 promedia 85.7% de exactitud contra 78.0% de Jev. Es más exacto en 11 de 12 pruebas, queda atrás en jailbreak (91.75% contra 94.0%) y su error de calibración es más bajo en 8 de 12. Esas corridas se midieron en CUDA; las respuestas de producción, en CPU. Kai 1 todavía no es competitivo en programas de varias preguntas dependientes, en preguntas de sí o no en forma negativa, con 150 opciones o más, ni en la calibración de decisiones tipadas y de jailbreak, y con 1,000 opciones o más su exactitud queda cerca de cero. Cada tabla, con la corrida de la que sale cada número: hanzo.ai/kai y la documentación de Kai.
Dejen de pedirle a un solo modelo que haga de todo
Llamen hoy a Kai por la Hanzo API.
Leer más
¿A qué llamamos un modelo de decisión?
Los modelos generativos razonan con párrafos sin restricción. Los modelos de decisión deciden con transiciones de estado tipadas y calibradas. Por eso la próxima frontera de la IA no pasa por generar texto, sino por decidir.
Comercio headless listo para compradores que son agentes
Los compradores se están volviendo agentes. Qué hace falta para que un LLM pueda leer, firmar y pagar sin una persona de por medio, y qué entrega Hanzo hoy para eso.
La IA de ustedes está planeando matarlos
Por qué los modelos de frontera fallan cuando hay vidas reales de por medio, y cómo Hanzo Kai 1.9 hace cumplir una seguridad determinista.