Kai 1: päätöksiä, ei täydennyksiä

Tuotanto-ohjelmiston useimmat vaiheet eivät tarvitse kappaletta. Ne tarvitsevat vastauksen, jonka ohjelmisto voi panna toimeen: mitä työkalua kutsutaan, riittääkö todiste, kuinka vakava riski on ja täytyykö ihmisen hyväksyä.

Esittelemme tänään Kai 1:n, Hanzon päätösmallin. Anna Kaille tilanteen tosiasiat ja kysymys, jonka vaihtoehdot on lueteltu. Kai palauttaa tyypitetyn vastauksen (valinnan, pistemäärän, kyllä tai ei, tai kalibroidun «en ole varma, siirrän eteenpäin») ja todennäköisyyden jokaiselle vaihtoehdolle.

Kai 1 on käytössä Hanzo API:ssa. Painot ovat suljettuja: Kai tarjotaan vain API:n kautta.

Kielimallit päättelevät. Kai päättää.

Kun pyydät kielimallia tekemään ratkaisun, saat takaisin tekstiä. Se on jäsennettävä, luotettava mallin keksimään varmuuslukuun ja toivottava, että tulos pysyy rajoissa.

Kai on rakennettu niihin vaiheisiin, joissa se ei riitä. Vastaukset ovat rajattuja, todennäköisyydet kalibroituja, eikä jäsennettävää ole. Jokainen Kai-vastaus on yksi neljästä tyypistä:

• Valinta: yksi vaihtoehto luetellusta joukosta, kullekin oma todennäköisyys
• Pistemäärä: arvio tasoilla, jotka määrittelet itse
• Predikaatti: kyllä tai ei ja sen todennäköisyys
• Siirto: Kai ei ole riittävän varma ja antaa ratkaisun ihmiselle tai säännölle

Todiste pysyy mukana

Päätöksen ei pidä välittää siitä, alkoiko todiste tekstinä, kuvana vai anturin lukemana. Kai on suunniteltu ottamaan vastaan sekoitettua todistetta ja pitämään sen alkuperä kiinni jokaisessa vastauksessa.

Luku ilman alkuperää on pelkkä luku.

Monta päätöstä, yksi kierros

Agenttisilmukat kysyvät yhden kysymyksen kerrallaan. Kai on suunniteltu ajamaan kokonainen päätösohjelma yhdellä kertaa: yksi yhteinen tila, monta päätöstä, riippuvuudet kirjoitettu auki. Varmat vastaukset lukitaan ensin, ja vain epävarmat saavat lisää työtä.

Tavoite on, ettei ohjelma, jossa on tuhansia päätöksiä, tarvitse tuhansia peräkkäisiä mallikutsuja.

Jokainen päätös voidaan toistaa

Jokainen Kai-päätös tallentaa ohjelmaversion, todisteen sormenjäljet, mallirevision, täyden todennäköisyysjakauman, hyväksynnät ja suorituksen jäljen. Kun joku kysyy, miksi järjestelmä teki jotain, voit näyttää sen.

Mihin Kai sopii

• Agentit: mallin ja työkalun valinta, milloin jatkaa tai pysähtyä, milloin kysyä ihmiseltä
• Liiketoiminnan työnkulut: liidien pisteytys, aikomuksen tunnistus, seuraava paras toiminto, eskalointi
• Fyysiset järjestelmät: ajoneuvot, robotiikka, valmistus, energia ja infrastruktuuri, joissa päätökset tehdään anturidatalla

Osa Hanzo-pinoa

Tuottaminen ja päättäminen ovat eri töitä. Zen6 on avoimien painojen tuottamismallien perheemme. Kai 1 tekee rajattuja, kalibroituja päätöksiä. Enso reitittää jokaisen tehtävän sille, jota tarvitaan.

Missä se toimii

Kai toimii Hanzo API:ssa osoitteessa POST https://api.hanzo.ai/v1/decisions, hintaan $0.021 miljoonaa syötetokenia kohden, ja tuloste on ilmainen. Painoja ei julkaista, eikä itse isännöintiä tarjota.

Mitä seuraavaksi

Työstämme seitsemää avointa tutkimuskysymystä ja julkaisemme tulokset vasta, kun ne voidaan toistaa:

1. Päätökset erittäin suurilla vaihtoehtojoukoilla
2. Monikieliset päätökset
3. Dekoodaus yhteisellä tilalla
4. Päätösdiffuusio (vain epävarmojen vastausten tarkennus)
5. Monimodaalinen todiste
6. Kalibrointi ja tieto siitä, milloin pidättäytyä
7. Johdonmukaisuus toisiinsa kytkettyjen päätösten välillä

Kai 1:n ensimmäiset tulokset on julkaistu. Jäädytetyn päätöskokeen 12 pääsarjassa Kai 1:n tarkkuus on keskimäärin 85.7% Jevin 78.0%:ia vastaan. Se on tarkempi 11:ssä sarjassa 12:sta, jäljessä jailbreakissa (91.75% vastaan 94.0%), ja kalibrointivirhe on pienempi 8:ssa sarjassa 12:sta. Ajot mitattiin CUDA:lla; tuotantovastaukset tulevat CPU:lla. Kai 1 ei ole vielä kilpailukykyinen riippuvaisissa monen kysymyksen ohjelmissa, kielteisissä kyllä/ei-kysymyksissä, 150 vaihtoehdolla tai useammalla eikä tyypitettyjen päätösten ja jailbreakin kalibroinnissa, ja 1,000 vaihtoehdolla tai useammalla tarkkuus on lähellä nollaa. Jokainen taulukko ja ajo, josta kukin luku tulee: hanzo.ai/kai ja Kai-dokumentaatio.

---