Kai 1: Keputusan, bukan pelengkapan

Sebagian besar langkah dalam perangkat lunak produksi tidak butuh paragraf. Mereka butuh jawaban yang bisa ditindaklanjuti perangkat lunak: alat mana yang dipanggil, apakah bukti sudah cukup, seberapa parah sebuah risiko, apakah manusia harus menyetujui.

Hari ini kami memperkenalkan Kai 1, model keputusan Hanzo. Beri Kai fakta sebuah situasi dan pertanyaan dengan opsi yang terdaftar. Kai mengembalikan jawaban bertipe (pilihan, skor, ya atau tidak, atau «tidak yakin, tunda» yang terkalibrasi) dengan probabilitas untuk setiap opsi.

Kai 1 sudah tayang di Hanzo API. Bobotnya tertutup: Kai hanya disajikan lewat API.

Kai membaca delapan jenis bukti tentang sebuah kendaraan dan mengembalikan siap, perlu ditinjau, atau belum siap, masing-masing dengan probabilitas, atau menyerahkannya kepada manusia. — Gambar 1 · Satu keadaan bersama, satu pertanyaan yang terdaftar, satu jawaban bertipe dengan probabilitas untuk setiap opsi. Probabilitas bersifat ilustratif.

Model bahasa menalar. Kai memutuskan.

Saat Anda meminta model bahasa membuat keputusan, yang kembali adalah teks. Anda harus mengurainya, memercayai angka keyakinan yang dikarang model, dan berharap keluarannya tetap dalam batas.

Kai dibuat untuk langkah-langkah yang itu belum cukup. Jawabannya berbatas, probabilitasnya terkalibrasi, dan tidak ada yang perlu diurai. Setiap jawaban Kai adalah salah satu dari empat tipe:

Pilihan: satu opsi dari himpunan yang terdaftar, dengan probabilitas untuk masing-masing
Skor: penilaian terhadap tingkat yang Anda tentukan
Predikat: ya atau tidak beserta probabilitasnya
Tunda: Kai tidak cukup yakin dan menyerahkan keputusan kepada orang atau aturan

Bukti tetap melekat

Sebuah keputusan tidak seharusnya peduli apakah buktinya berawal sebagai teks, gambar, atau bacaan sensor. Kai dirancang untuk menerima bukti campuran dan menjaga asal-usulnya tetap melekat pada setiap jawaban.

Angka tanpa asal-usul hanyalah angka.

Lima belas jenis bukti (teks, kode, gambar, video, audio, radar, lidar, termal, sensor, telemetri, deret waktu, graf, SysML, simulasi, dan dokumen) melewati penyandi modalitas menuju satu keadaan bukti bersama yang memasok Kai. — Gambar 2 · Teks, gambar, bacaan sensor, dan lainnya dikodekan menjadi satu keadaan bukti bersama yang dibaca Kai.

Banyak keputusan, satu lintasan

Lingkaran agen mengajukan satu pertanyaan pada satu waktu. Kai dirancang untuk menjalankan seluruh program keputusan sekaligus: satu keadaan bersama, banyak keputusan, dengan ketergantungan yang ditulis jelas. Jawaban yang yakin dikunci lebih dulu, dan hanya yang tidak yakin yang mendapat kerja tambahan.

Tujuannya, program dengan ribuan keputusan tidak perlu ribuan pemanggilan model yang berantai.

Kisi berisi 100 simpul keputusan yang semuanya berawal tertutup. 87 terselesaikan pada lintasan pertama, 11 pada lintasan kedua, dan lintasan kendala menyelesaikan 2 konflik terakhir. — Gambar 3 · Keputusan yang yakin menetap pada lintasan pertama; hanya yang tidak yakin yang diperhalus. Angka bersifat ilustratif.

Setiap keputusan dapat diputar ulang

Setiap keputusan Kai mencatat versi program, sidik jari bukti, revisi model, distribusi probabilitas lengkap, persetujuan, dan jejak eksekusi. Saat seseorang bertanya mengapa sistem melakukan sesuatu, Anda dapat menunjukkannya.

Sepuluh jenis bukti tentang kendaraan 17, dari inspeksi kamera dan telemetri CAN sampai arsitektur SysML dan persyaratan, mengalir ke program keputusan, lalu Kai, lalu pemeriksaan kebijakan dan penyelesai, lalu persetujuan manusia, dan berakhir sebagai paket keputusan. — Gambar 4 · Dari bukti ke paket keputusan: catatan yang memungkinkan keputusan diputar ulang. Contoh ilustratif.

Di mana Kai cocok

Agen: pemilihan model dan alat, kapan melanjutkan atau berhenti, kapan bertanya kepada manusia
Alur kerja bisnis: penilaian prospek, deteksi maksud, tindakan terbaik berikutnya, eskalasi
Sistem fisik: kendaraan, robotika, manufaktur, energi, dan infrastruktur, tempat keputusan berjalan di atas data sensor

Bagian dari tumpukan Hanzo

Enso merutekan setiap tugas: penulisan menuju Zen6, keputusan menuju Kai 1. — Gambar 5 · Tumpukan Hanzo. Zen menulis, Kai memutuskan, dan Enso memilih yang mana yang dipanggil.

Pembangkitan dan keputusan adalah pekerjaan yang berbeda. Zen6 adalah keluarga model pembangkitan berbobot terbuka milik kami. Kai 1 membuat keputusan yang berbatas dan terkalibrasi. Enso merutekan setiap tugas ke model yang dibutuhkannya.

Di mana ia berjalan

Kai berjalan di Hanzo API, pada POST https://api.hanzo.ai/v1/decisions, seharga $0.021 per juta token masukan, dan keluarannya gratis. Bobotnya tidak dipublikasikan, dan hosting sendiri tidak ditawarkan.

Berikutnya

Kami mengerjakan tujuh pertanyaan riset yang terbuka, dan kami hanya akan menerbitkan hasil setelah hasil itu dapat direproduksi:

Keputusan atas himpunan opsi yang sangat besar
Keputusan multibahasa
Dekode keadaan bersama
Difusi keputusan (hanya jawaban yang tidak yakin yang diperhalus)
Bukti multimodal
Kalibrasi dan mengetahui kapan harus abstain
Konsistensi di antara keputusan yang saling terhubung

Hasil pertama Kai 1 sudah diterbitkan. Pada 12 rangkaian utama dari sebuah kerangka uji keputusan yang dibekukan, Kai 1 rata-rata 85.7% akurasi dibanding 78.0% milik Jev. Ia lebih akurat pada 11 dari 12 rangkaian, tertinggal pada jailbreak (91.75% dibanding 94.0%), dan galat kalibrasinya lebih rendah pada 8 dari 12. Pengukuran itu dijalankan di CUDA; jawaban produksi di CPU. Kai 1 belum kompetitif pada program multi-pertanyaan yang saling bergantung, pada pertanyaan ya/tidak yang dinegasikan, pada 150 opsi atau lebih, atau pada kalibrasi untuk keputusan bertipe dan jailbreak, dan pada 1,000 opsi atau lebih akurasinya mendekati nol. Setiap tabel, beserta pengoperasian yang menjadi sumber tiap angka: hanzo.ai/kai dan dokumentasi Kai.

Kai 1 · Hanzo API

Berhenti meminta satu model mengerjakan semuanya

Panggil Kai lewat Hanzo API hari ini.

Jelajahi Kai →Mulai membangun dengan Hanzo Temui penulisnya ↗