Únete a la beta de Hanzo y consigue un 50 % de descuento en cualquier plan de pago

Kai 1: decisiones, no completaciones

Kai es el modelo de decisión de Hanzo y se sirve a través de la Hanzo API. Dadle un estado explícito y una pregunta con opciones listadas, y os devuelve una respuesta tipada y calibrada: una elección, una puntuación, un sí o un no, o un aplazamiento razonado.

En esta página

La mayoría de los pasos del software en producción no necesitan un párrafo. Necesitan una respuesta sobre la que el software pueda actuar: qué herramienta llamar, si la evidencia basta, cómo de grave es un riesgo y si una persona tiene que dar el visto bueno.

Hoy presentamos Kai 1, el modelo de decisión de Hanzo. Dadle a Kai los hechos de una situación y una pregunta con las opciones listadas. Devuelve una respuesta tipada (una elección, una puntuación, un sí o un no, o un «no lo veo claro, lo dejo» calibrado) con una probabilidad para cada opción.

Kai 1 ya está en marcha en la Hanzo API. Sus pesos están cerrados: Kai solo se sirve por API.

Kai lee ocho tipos de evidencia sobre un coche y devuelve listo, necesita revisión o no listo, cada uno con una probabilidad, o lo deja en manos de una persona.
Figura 1 · Un estado compartido, una pregunta con opciones, una respuesta tipada con una probabilidad para cada opción. Las probabilidades son ilustrativas.

Los modelos de lenguaje razonan. Kai decide.

Cuando le pedís a un modelo de lenguaje que tome una decisión, os devuelve texto. Tenéis que interpretarlo, fiaros de un número de confianza que el modelo se ha inventado y esperar que la salida se mantenga dentro de los límites.

Kai está hecho para los pasos en los que eso no basta. Sus respuestas están acotadas, sus probabilidades están calibradas y no hay nada que interpretar. Cada respuesta de Kai es de uno de estos cuatro tipos:

  • Elección: una opción de un conjunto listado, con una probabilidad para cada una
  • Puntuación: una valoración frente a los niveles que defináis
  • Predicado: un sí o un no, con su probabilidad
  • Aplazamiento: Kai no tiene confianza suficiente y pasa la decisión a una persona o a una regla

La evidencia sigue adjunta

A una decisión no debería importarle si su evidencia empezó como texto, como imagen o como lectura de un sensor. Kai está pensado para tomar evidencia mixta y mantener el origen pegado a cada respuesta.

Un número sin procedencia es solo un número.

Quince tipos de evidencia (texto, código, imagen, vídeo, audio, radar, lidar, térmica, sensores, telemetría, series temporales, grafo, SysML, simulación y documentos) pasan por codificadores de modalidad hasta un único estado de evidencia compartido, que alimenta a Kai.
Figura 2 · Texto, imágenes, lecturas de sensores y más se codifican en un único estado de evidencia compartido que Kai lee.

Muchas decisiones, una sola pasada

Los bucles de los agentes hacen una pregunta cada vez. Kai está pensado para ejecutar un programa de decisión entero de una vez: un estado compartido, muchas decisiones, con las dependencias escritas. Las respuestas seguras se fijan primero, y solo las inciertas reciben más trabajo.

El objetivo es que un programa con miles de decisiones no necesite miles de llamadas al modelo en serie.

Una cuadrícula de 100 nodos de decisión que empiezan todos enmascarados. 87 se resuelven en la primera pasada, 11 en una segunda, y una pasada de restricciones resuelve los 2 conflictos finales.
Figura 3 · Las decisiones seguras se asientan en la primera pasada; solo se refinan las inciertas. Las cifras son ilustrativas.

Cada decisión se puede volver a ejecutar

Cada decisión de Kai registra la versión del programa, las huellas de la evidencia, la revisión del modelo, la distribución de probabilidad completa, las aprobaciones y la traza de ejecución. Cuando alguien pregunta por qué el sistema hizo algo, podéis enseñárselo.

Diez tipos de evidencia sobre el coche 17, desde la inspección por cámara y la telemetría CAN hasta la arquitectura y los requisitos en SysML, entran en un programa de decisión, luego en Kai, después en las comprobaciones de política y del resolutor, luego en la aprobación humana, y acaban en un paquete de decisión.
Figura 4 · De la evidencia a un paquete de decisión: el registro que permite volver a ejecutar una decisión. Ejemplo ilustrativo.

Dónde encaja Kai

  • Agentes: elección de modelo y de herramienta, cuándo seguir o parar, cuándo preguntar a una persona
  • Flujos de trabajo de negocio: puntuación de clientes potenciales, detección de intención, siguiente mejor acción, escalado
  • Sistemas físicos: coches, robótica, fabricación, energía e infraestructuras, donde las decisiones se toman sobre datos de sensores

Parte de la pila de Hanzo

Enso encamina cada tarea: la redacción va a Zen6 y las decisiones van a Kai 1.
Figura 5 · La pila de Hanzo. Zen escribe, Kai decide y Enso elige a cuál llamar.

Generar y decidir son trabajos distintos. Zen6 es nuestra familia de modelos de generación de pesos abiertos. Kai 1 toma decisiones acotadas y calibradas. Enso encamina cada tarea al que la necesita.

Dónde se ejecuta

Kai se ejecuta en la Hanzo API, en POST https://api.hanzo.ai/v1/decisions, a $0.021 por millón de tokens de entrada, con los tokens de salida gratis. Sus pesos no se publican, y no se ofrece para instalarlo en vuestro propio ordenador.

Qué viene después

Trabajamos en siete preguntas de investigación abiertas, y solo publicaremos resultados cuando se puedan reproducir:

  1. Decisiones sobre conjuntos de opciones enormes
  2. Decisiones multilingües
  3. Decodificación con estado compartido
  4. Difusión de decisiones (refinar solo las respuestas inciertas)
  5. Evidencia multimodal
  6. Calibración y saber cuándo abstenerse
  7. Coherencia entre decisiones conectadas

Ya están publicados los primeros resultados de Kai 1. En las 12 baterías principales de un banco de pruebas de decisión congelado, Kai 1 alcanza de media un 85.7% de acierto frente al 78.0% de Jev. Es más preciso en 11 de 12 baterías, va por detrás en jailbreak (91.75% frente a 94.0%) y su error de calibración es menor en 8 de 12. Esas ejecuciones se midieron en CUDA; las respuestas de producción, en CPU. Kai 1 todavía no compite en programas de varias preguntas dependientes, en preguntas de sí o no negadas, a partir de 150 opciones, ni en la calibración de decisiones tipadas y de jailbreak, y a partir de 1,000 opciones su acierto cae casi a cero. Todas las tablas, con la ejecución de la que sale cada número: hanzo.ai/kai y la documentación de Kai.


Kai 1 · Hanzo API

Dejad de pedirle a un solo modelo que lo haga todo

Llamad a Kai hoy a través de la Hanzo API.

Comentarios

Entra con tu Hanzo ID para comentar.

Cargando comentarios…

Leer más