Kai 1: решения, а не завершения

Большинству шагов в промышленном программном обеспечении не нужен абзац. Им нужен ответ, на который программа может опереться: какой инструмент вызвать, хватает ли свидетельств, насколько серьёзен риск и должен ли человек поставить подпись.

Сегодня мы представляем Kai 1, модель решений Hanzo. Передайте Kai факты ситуации и вопрос с перечисленными вариантами. Kai возвращает типизированный ответ (выбор, оценку, да или нет, либо калиброванное «не уверен, передаю дальше») с вероятностью для каждого варианта.

Kai 1 уже работает в Hanzo API. Веса закрыты: Kai доступен только через API.

Языковые модели рассуждают. Kai решает.

Когда вы просите языковую модель принять решение, обратно приходит текст. Его нужно разобрать, поверить числу уверенности, которое модель выдумала, и надеяться, что ответ останется в заданных рамках.

Kai создан для шагов, где этого недостаточно. Ответы ограничены, вероятности калиброваны, и разбирать нечего. Каждый ответ Kai относится к одному из четырёх типов:

• Выбор: один вариант из заданного списка, с вероятностью для каждого
• Оценка: балл по уровням, которые задаёте вы
• Предикат: да или нет вместе с вероятностью
• Передача: Kai недостаточно уверен и отдаёт решение человеку или правилу

Свидетельства остаются привязанными

Решению должно быть всё равно, начались ли свидетельства как текст, изображение или показание датчика. Kai устроен так, чтобы принимать смешанные свидетельства и сохранять их происхождение при каждом ответе.

Число без происхождения — просто число.

Много решений за один проход

Циклы агентов задают по одному вопросу за раз. Kai устроен так, чтобы выполнять целую программу решений сразу: одно общее состояние, много решений, зависимости прописаны явно. Уверенные ответы фиксируются первыми, и дополнительную работу получают только неуверенные.

Цель в том, чтобы программе с тысячами решений не требовались тысячи последовательных вызовов модели.

Каждое решение можно воспроизвести

Каждое решение Kai записывает версию программы, отпечатки свидетельств, ревизию модели, полное распределение вероятностей, согласования и трассу выполнения. Когда кто-то спрашивает, почему система поступила именно так, это можно показать.

Где уместен Kai

• Агенты: выбор модели и инструмента, когда продолжать или остановиться, когда спросить человека
• Бизнес-процессы: оценка лидов, определение намерения, следующее лучшее действие, эскалация
• Физические системы: транспорт, робототехника, производство, энергетика и инфраструктура, где решения принимаются по данным датчиков

Часть стека Hanzo

Генерация и решение — разные работы. Zen6 — наше семейство генеративных моделей с открытыми весами. Kai 1 принимает ограниченные, калиброванные решения. Enso направляет каждую задачу той модели, которая ей нужна.

Где это работает

Kai работает в Hanzo API по адресу POST https://api.hanzo.ai/v1/decisions за $0.021 за миллион входных токенов, а выход бесплатен. Веса не публикуются, и самостоятельное размещение не предлагается.

Что дальше

Мы работаем над семью открытыми исследовательскими вопросами и опубликуем результаты только тогда, когда их можно будет воспроизвести:

1. Решения на крайне больших наборах вариантов
2. Многоязычные решения
3. Декодирование с общим состоянием
4. Диффузия решений (уточняются только неуверенные ответы)
5. Мультимодальные свидетельства
6. Калибровка и понимание, когда следует воздержаться
7. Согласованность связанных решений

Первые результаты Kai 1 опубликованы. На 12 главных наборах замороженного испытательного стенда решений Kai 1 показывает в среднем 85.7% точности против 78.0% у Jev. Он точнее на 11 из 12 наборов, отстаёт на jailbreak (91.75% против 94.0%), а ошибка калибровки ниже на 8 из 12. Эти прогоны измерялись на CUDA; ответы в рабочей среде выдаются на CPU. Kai 1 пока не конкурирует на зависимых программах из нескольких вопросов, на вопросах да или нет с отрицанием, при 150 и более вариантах, а также на калибровке типизированных решений и jailbreak, и при 1,000 и более вариантах его точность близка к нулю. Каждая таблица и прогон, из которого взято число: hanzo.ai/kai и документация Kai.

---