Sumali sa beta ng Hanzo at makakuha ng 50% diskuwento sa anumang bayad na plano

Kai 1: Mga desisyon, hindi mga pagkumpleto

Ang Kai ay modelo ng desisyon ng Hanzo, na inihahain ng Hanzo API. Bigyan ito ng hayag na estado at tanong na may nakalista nang mga opsyon, at magbabalik ito ng may-tipong, nakakalibrang sagot — isang pagpili, isang iskor, oo o hindi, o isang may-dahilan na pagpapasa.

Sa pahinang ito

Karamihan sa mga hakbang sa software sa produksyon ay hindi nangangailangan ng talata. Kailangan nila ng sagot na kayang isagawa ng software: aling kasangkapan ang tatawagin, sapat na ba ang ebidensya, gaano kalubha ang isang panganib, kailangan bang pumirma ang tao.

Inihahayag namin ngayon ang Kai 1, ang modelo ng desisyon ng Hanzo. Ibigay sa Kai ang mga katotohanan ng isang sitwasyon at isang tanong na may nakalista nang mga opsyon. Nagbabalik ang Kai ng may-tipong sagot (isang pagpili, isang iskor, oo o hindi, o nakakalibrang «hindi tiyak, ipasa») na may probabilidad para sa bawat opsyon.

Live na ang Kai 1 sa Hanzo API. Sarado ang mga timbang nito: ang Kai ay inihahain sa pamamagitan lamang ng API.

Binabasa ng Kai ang walong uri ng ebidensya tungkol sa isang sasakyan at nagbabalik ng handa, kailangang suriin, o hindi handa, bawat isa may probabilidad, o ipinapasa ito sa tao.
Larawan 1 · Isang pinaghahatiang estado, isang nakalistang tanong, isang may-tipong sagot na may probabilidad para sa bawat opsyon. Ilustratibo ang mga probabilidad.

Nangangatuwiran ang mga modelo ng wika. Nagdedesisyon ang Kai.

Kapag pinapadesisyon mo ang isang modelo ng wika, teksto ang bumabalik. Kailangan mong i-parse ito, pagkatiwalaan ang numerong kumpiyansa na inimbento ng modelo, at umasang mananatili sa hangganan ang lumalabas.

Itinayo ang Kai para sa mga hakbang na hindi sapat iyon. May hangganan ang mga sagot nito, nakakalibra ang mga probabilidad, at walang dapat i-parse. Bawat sagot ng Kai ay isa sa apat na uri:

  • Pagpili: isang opsyon mula sa nakalistang set, na may probabilidad para sa bawat isa
  • Iskor: isang rating laban sa mga antas na ikaw ang nagtatakda
  • Predikado: oo o hindi, kasama ang probabilidad nito
  • Pagpapasa: hindi sapat ang kumpiyansa ng Kai at ipinapasa nito ang desisyon sa tao o sa tuntunin

Nakakabit pa rin ang ebidensya

Hindi dapat pakialam ng isang desisyon kung nagsimula ang ebidensya bilang teksto, larawan, o basang sensor. Idinisenyo ang Kai para tumanggap ng pinaghalong ebidensya at panatilihing nakakabit ang pinagmulan nito sa bawat sagot.

Ang numerong walang pinagmulan ay numero lamang.

Labinlimang uri ng ebidensya (teksto, kodigo, larawan, bidyo, audio, radar, lidar, thermal, mga sensor, telemetriya, serye ng oras, grap, SysML, simulasyon, at mga dokumento) ang dumadaan sa mga modality encoder patungo sa isang pinaghahatiang estado ng ebidensya na nagpapakain sa Kai.
Larawan 2 · Ang teksto, mga larawan, basang sensor, at iba pa ay kinokodigo sa isang pinaghahatiang estado ng ebidensya na binabasa ng Kai.

Maraming desisyon, isang pasada

Isa-isa ang itinanong ng mga loop ng ahente. Idinisenyo ang Kai para patakbuhin ang isang buong programa ng desisyon nang sabay-sabay: isang pinaghahatiang estado, maraming desisyon, nakasulat nang malinaw ang mga dependensiya. Nauuna ang pagkakandado ng mga siguradong sagot, at ang mga hindi sigurado lamang ang nakakakuha ng karagdagang gawain.

Ang layunin: hindi dapat mangailangan ng libo-libong sunud-sunod na tawag sa modelo ang isang programang may libo-libong desisyon.

Isang grid ng 100 node ng desisyon na lahat ay nagsisimulang nakamaskara. 87 ang nalulutas sa unang pasada, 11 sa ikalawa, at nilulutas ng isang pasada ng hadlang ang huling 2 salungatan.
Larawan 3 · Tumitigil sa unang pasada ang mga siguradong desisyon; ang mga hindi sigurado lamang ang pinipino. Ilustratibo ang mga bilang.

Maaaring ulitin ang bawat desisyon

Itinatala ng bawat desisyon ng Kai ang bersyon ng programa, mga fingerprint ng ebidensya, rebisyon ng modelo, buong distribusyon ng probabilidad, mga pag-apruba, at bakas ng pagpapatupad. Kapag may nagtanong kung bakit gumawa ng isang bagay ang sistema, maipapakita mo ito.

Sampung uri ng ebidensya tungkol sa sasakyan 17, mula sa inspeksiyon ng kamera at telemetry ng CAN hanggang sa arkitektura ng SysML at mga kinakailangan, ang dumadaloy sa isang programa ng desisyon, tapos sa Kai, tapos sa mga pagsusuri ng patakaran at solver, tapos sa pag-apruba ng tao, at nagtatapos sa isang pakete ng desisyon.
Larawan 4 · Mula sa ebidensya tungo sa isang pakete ng desisyon: ang tala na nagpapahintulot na ulitin ang isang desisyon. Halimbawang ilustratibo.

Saan nababagay ang Kai

  • Mga ahente: pagpili ng modelo at kasangkapan, kailan magpapatuloy o hihinto, kailan tatanungin ang tao
  • Mga daloy ng negosyo: pagmamarka ng lead, pagtukoy ng intensyon, susunod na pinakamahusay na kilos, pag-eskalasyon
  • Mga pisikal na sistema: mga sasakyan, robotika, pagmamanupaktura, enerhiya at imprastraktura, kung saan tumatakbo ang mga desisyon sa datos ng sensor

Bahagi ng tambak ng Hanzo

Inu-route ng Enso ang bawat gawain: papunta sa Zen6 ang pagsusulat, papunta sa Kai 1 ang mga desisyon.
Larawan 5 · Ang tambak ng Hanzo. Nagsusulat ang Zen, nagdedesisyon ang Kai, at pinipili ng Enso kung alin ang tatawagin.

Magkaiba ang gawain ng pagbuo at ng pagdedesisyon. Ang Zen6 ay pamilya namin ng mga modelong bumubuo na may bukas na timbang. Ang Kai 1 ay gumagawa ng may hangganan at nakakalibrang mga desisyon. Inu-route ng Enso ang bawat gawain sa modelong kailangan nito.

Saan ito tumatakbo

Tumatakbo ang Kai sa Hanzo API, sa POST https://api.hanzo.ai/v1/decisions, sa halagang $0.021 bawat milyong token ng input, at libre ang output. Hindi inilalathala ang mga timbang, at hindi inaalok ang sariling pag-host.

Ano ang susunod

May pitong bukas na tanong sa pananaliksik na ginagawa namin, at ilalathala lang namin ang mga resulta kapag maaari na silang ulitin:

  1. Mga desisyon sa napakalaking set ng opsyon
  2. Maraming-wikang desisyon
  3. Pag-decode na may pinaghahatiang estado
  4. Difusyon ng desisyon (pinipino lamang ang mga hindi siguradong sagot)
  5. Multimodal na ebidensya
  6. Kalibrasyon at pagkaalam kung kailan mag-abstain
  7. Pagkakapare-pareho sa magkakaugnay na desisyon

Nailathala na ang mga unang resulta ng Kai 1. Sa 12 pangunahing serye ng isang nakapirming pagsubok sa desisyon, umaabot ang Kai 1 sa average na 85.7% na katumpakan laban sa 78.0% ng Jev. Mas tumpak ito sa 11 sa 12 serye, nahuhuli sa jailbreak (91.75% laban sa 94.0%), at mas mababa ang error sa kalibrasyon sa 8 sa 12. Sinukat ang mga pagtakbong iyon sa CUDA; sa CPU ang mga sagot sa produksyon. Hindi pa kompetitibo ang Kai 1 sa mga programang may magkakaugnay na maraming tanong, sa mga tanong na oo/hindi na may negasyon, sa 150 o higit pang opsyon, o sa kalibrasyon para sa may-tipong desisyon at jailbreak, at sa 1,000 o higit pang opsyon ay malapit sa zero ang katumpakan nito. Bawat talahanayan, kasama ang pagtakbo na pinagmulan ng bawat numero: hanzo.ai/kai at ang dokumento ng Kai.


Kai 1 · Hanzo API

Huwag nang ipagawa sa isang modelo ang lahat

Tawagin ang Kai sa pamamagitan ng Hanzo API ngayon.

Mga komento

Mag-sign in gamit ang Hanzo ID para magkomento.

Nilo-load ang mga komento…

Magbasa pa