Kai 1: पूर्णता नव्हे, निर्णय

उत्पादनातील बहुतेक सॉफ्टवेअर पायऱ्यांना परिच्छेदाची गरज नसते. त्यांना असा उत्तर हवा असतो ज्यावर सॉफ्टवेअर कृती करू शकेल: कोणते साधन बोलावायचे, पुरावा पुरेसा आहे का, जोखीम किती तीव्र आहे, आणि एखाद्या माणसाने मंजुरी द्यायची का.

आज आम्ही Kai 1 आणत आहोत, Hanzo चे निर्णय मॉडेल. Kai ला परिस्थितीची तथ्ये द्या आणि पर्याय दिलेला प्रश्न द्या. ते टंकित उत्तर परत करते (पर्याय, गुण, होय/नाही, किंवा अंशांकित «खात्री नाही, पुढे ढकला») प्रत्येक पर्यायाच्या संभाव्यतेसह.

Kai 1, Hanzo API वर उपलब्ध आहे. त्याचे वजन बंद आहे: Kai फक्त API ने दिला जातो.

भाषा मॉडेल तर्क करतात. Kai निर्णय घेतो.

भाषा मॉडेलला निर्णय घ्यायला सांगितले की मजकूर परत येतो. तो वेगळा करावा लागतो, मॉडेलने रचलेल्या विश्वास-अंकावर विश्वास ठेवावा लागतो, आणि आशा करावी लागते की निर्गम मर्यादेत राहील.

Kai त्या पायऱ्यांसाठी बांधला आहे जिथे हे पुरेसे नाही. त्याची उत्तरे बांधीव आहेत, त्याच्या संभाव्यता अंशांकित आहेत, आणि वेगळे करायला काही नाही. Kai चे प्रत्येक उत्तर चार प्रकारांपैकी एक असते:

• पर्याय: यादीतल्या संचातून एक पर्याय, प्रत्येकाची संभाव्यता
• गुण: तुम्ही ठरवलेल्या पातळ्यांविरुद्ध एक मोजमाप
• विधेय: होय/नाही आणि त्याची संभाव्यता
• स्थगिती: Kai ला पुरेशी खात्री नाही आणि तो निर्णय व्यक्तीकडे किंवा नियमाकडे सोपवतो

पुरावा जोडलेला राहतो

निर्णयाला फरक पडू नये की त्याचा पुरावा मजकुरातून सुरू झाला, प्रतिमेतून, की संवेदकाच्या वाचनातून. Kai मिश्र पुरावा घेण्यासाठी आणि प्रत्येक उत्तरासोबत त्याचा उगम जोडून ठेवण्यासाठी रचला आहे.

उगमाशिवायचा आकडा म्हणजे फक्त आकडा.

अनेक निर्णय, एक फेरी

एजंटच्या वलयांमध्ये एका वेळी एक प्रश्न विचारला जातो. Kai संपूर्ण निर्णय-कार्यक्रम एकाच वेळी चालवण्यासाठी रचला आहे: एक सामायिक स्थिती, अनेक निर्णय, अवलंबित्वे लिहिलेली. खात्रीची उत्तरे आधी कुलूपबंद होतात, आणि अधिक काम फक्त अनिश्चित उत्तरांना मिळते.

हेतू असा की हजारो निर्णय असलेल्या कार्यक्रमाला हजारो अनुक्रमी मॉडेल-कॉलची गरज नसावी.

प्रत्येक निर्णय पुन्हा चालवता येतो

Kai चा प्रत्येक निर्णय कार्यक्रम आवृत्ती, पुराव्याचे ठसे, मॉडेल पुनरावृत्ती, संपूर्ण संभाव्यता वितरण, मंजुऱ्या आणि अंमलबजावणीचा माग नोंदवतो. कोणी विचारले की प्रणालीने काही का केले, तेव्हा तुम्ही त्यांना दाखवू शकता.

Kai कुठे बसतो

• एजंट: मॉडेल आणि साधनाची निवड, कधी पुढे जायचे किंवा थांबायचे, कधी माणसाला विचारायचे
• व्यवसाय प्रवाह: लीड गुणांकन, हेतू ओळख, पुढील सर्वोत्तम कृती, वाढ
• भौतिक प्रणाली: वाहने, रोबोटिक्स, उत्पादन, ऊर्जा आणि पायाभूत सुविधा, जिथे निर्णय संवेदक डेटावर चालतात

Hanzo स्टॅकचा भाग

निर्मिती आणि निर्णय वेगळी कामे आहेत. Zen6 हे आमच्या मुक्त-वजनी निर्मिती मॉडेलचे कुटुंब आहे. Kai 1 बांधीव, अंशांकित निर्णय घेतो. Enso प्रत्येक काम त्या मॉडेलकडे नेतो ज्याची त्याला गरज आहे.

ते कुठे चालते

Kai, Hanzo API वर चालतो, POST https://api.hanzo.ai/v1/decisions येथे, दशलक्ष इनपुट टोकनमागे $0.021, आणि निर्गम मोफत आहे. त्याचे वजन प्रकाशित नाही, आणि तो स्वतःच्या सर्व्हरवर चालवण्यासाठी दिला जात नाही.

पुढे काय

आम्ही सात खुल्या संशोधन प्रश्नांवर काम करत आहोत, आणि निकाल तेव्हाच प्रसिद्ध करू जेव्हा ते पुन्हा निर्माण करता येतील:

1. अत्यंत मोठ्या पर्याय-संचांवरील निर्णय
2. बहुभाषिक निर्णय
3. सामायिक-स्थिती निःसंकेतन
4. निर्णय विसरण (फक्त अनिश्चित उत्तरे परिष्कृत करणे)
5. बहुमाध्यमी पुरावा
6. अंशांकन आणि कधी थांबायचे हे जाणणे
7. जोडलेल्या निर्णयांतील सातत्य

Kai 1 चे पहिले निकाल प्रसिद्ध आहेत. एका गोठवलेल्या निर्णय हार्नेसच्या 12 प्रमुख संचांवर Kai 1 ची सरासरी अचूकता 85.7% आहे, Jev च्या 78.0% समोर. तो 12 पैकी 11 संचांवर अधिक अचूक आहे, jailbreak वर मागे (91.75% विरुद्ध 94.0%), आणि त्याची अंशांकन चूक 12 पैकी 8 वर कमी आहे. ते धाव CUDA वर मोजले गेले; उत्पादनाची उत्तरे CPU वर. Kai 1 अजून अवलंबित बहु-प्रश्न कार्यक्रमांवर, नकारार्थी होय/नाही प्रश्नांवर, 150 किंवा अधिक पर्यायांवर, किंवा टंकित निर्णय आणि jailbreak च्या अंशांकनावर स्पर्धात्मक नाही, आणि 1,000 किंवा अधिक पर्यायांवर त्याची अचूकता शून्याजवळ आहे. प्रत्येक तक्ता, आणि प्रत्येक आकडा कोणत्या धावमधून आला: hanzo.ai/kai आणि Kai चे दस्तऐवज.

---