Kai 1: संपूर्ति नहीं, निर्णय

उत्पादन सॉफ़्टवेयर के अधिकतर चरणों को अनुच्छेद की ज़रूरत नहीं। उन्हें ऐसा उत्तर चाहिए जिस पर सॉफ़्टवेयर चल सके: कौन-सा औज़ार बुलाना है, क्या साक्ष्य काफ़ी है, जोखिम कितना गंभीर है, और क्या किसी मनुष्य को स्वीकृति देनी है।

आज हम Kai 1 पेश कर रहे हैं, Hanzo का निर्णय मॉडल। Kai को स्थिति के तथ्य दीजिए और विकल्पों सहित एक प्रश्न। यह एक टाइप किया उत्तर लौटाता है (चुनाव, अंक, हाँ/नहीं, या अंशांकित «पक्का नहीं, टाल दो») और हर विकल्प की प्रायिकता।

Kai 1, Hanzo API पर उपलब्ध है। इसके भार बंद हैं: Kai केवल API से मिलता है।

भाषा मॉडल तर्क करते हैं। Kai निर्णय करता है।

जब आप भाषा मॉडल से फैसला करवाते हैं, तो पाठ वापस मिलता है। उसे पढ़ना पड़ता है, मॉडल के गढ़े विश्वास-अंक पर भरोसा करना पड़ता है, और आशा करनी पड़ती है कि आउटपुट सीमा में रहे।

Kai उन चरणों के लिए बना है जहाँ यह काफ़ी नहीं। उसके उत्तर सीमा में हैं, उसकी प्रायिकताएँ अंशांकित हैं, और पढ़ने को कुछ नहीं। Kai का हर उत्तर चार प्रकारों में से एक है:

• चुनाव: सूचीबद्ध सेट से एक विकल्प, हर एक की प्रायिकता के साथ
• अंक: आपके तय स्तरों के मुकाबले एक रेटिंग
• विधेय: हाँ/नहीं और उसकी प्रायिकता
• टालना: Kai पर्याप्त आश्वस्त नहीं और फैसला किसी व्यक्ति या नियम को सौंपता है

साक्ष्य जुड़ा रहता है

निर्णय को इस बात से फ़र्क नहीं पड़ना चाहिए कि उसका साक्ष्य पाठ से शुरू हुआ, चित्र से, या संवेदक की रीडिंग से। Kai मिला-जुला साक्ष्य लेने और हर उत्तर के साथ उसका मूल जोड़े रखने के लिए बना है।

बिना उद्गम का अंक केवल एक अंक है।

कई निर्णय, एक पास

एजेंट लूप एक बार में एक प्रश्न पूछते हैं। Kai पूरा निर्णय-प्रोग्राम एक साथ चलाने के लिए बना है: एक साझा अवस्था, कई निर्णय, निर्भरताएँ लिखी हुई। आश्वस्त उत्तर पहले लॉक होते हैं, और अतिरिक्त काम केवल अनिश्चित उत्तरों को मिलता है।

लक्ष्य यह है कि हज़ारों निर्णयों वाले प्रोग्राम को हज़ारों क्रमिक मॉडल-कॉल की ज़रूरत न पड़े।

हर निर्णय दोहराया जा सकता है

Kai का हर निर्णय प्रोग्राम संस्करण, साक्ष्य के अंगुलिचिह्न, मॉडल संशोधन, पूरा प्रायिकता वितरण, अनुमोदन और निष्पादन अनुरेख दर्ज करता है। जब कोई पूछे कि सिस्टम ने कुछ क्यों किया, आप उन्हें दिखा सकते हैं।

Kai कहाँ बैठता है

• एजेंट: मॉडल और औज़ार का चयन, कब जारी रखें या रुकें, कब मनुष्य से पूछें
• व्यावसायिक कार्यप्रवाह: लीड स्कोरिंग, इरादा पहचान, अगली सर्वोत्तम क्रिया, वृद्धि
• भौतिक प्रणालियाँ: वाहन, रोबोटिक्स, विनिर्माण, ऊर्जा और अवसंरचना, जहाँ निर्णय संवेदक डेटा पर चलते हैं

Hanzo स्टैक का हिस्सा

जनन और निर्णय अलग काम हैं। Zen6 हमारे मुक्त-भार वाले जनन मॉडलों का परिवार है। Kai 1 सीमाबद्ध, अंशांकित निर्णय करता है। Enso हर कार्य को उसी मॉडल तक ले जाता है जिसकी उसे ज़रूरत है।

यह कहाँ चलता है

Kai, Hanzo API पर चलता है, POST https://api.hanzo.ai/v1/decisions पर, $0.021 प्रति दस लाख इनपुट टोकन, और आउटपुट मुफ़्त है। इसके भार प्रकाशित नहीं हैं, और इसे स्वयं होस्ट करने के लिए नहीं दिया जाता।

आगे क्या

हम सात खुले शोध प्रश्नों पर काम कर रहे हैं, और परिणाम तभी प्रकाशित करेंगे जब उन्हें दोहराया जा सके:

1. अत्यंत बड़े विकल्प-समूहों पर निर्णय
2. बहुभाषी निर्णय
3. साझा-अवस्था डिकोडिंग
4. निर्णय विसरण (केवल अनिश्चित उत्तरों को निखारना)
5. बहुमाध्यमी साक्ष्य
6. अंशांकन और यह जानना कि कब रुकना है
7. जुड़े निर्णयों में एकरूपता

Kai 1 के पहले परिणाम प्रकाशित हैं। एक जमे हुए निर्णय हार्नेस के 12 प्रमुख सुइटों पर Kai 1 की औसत सटीकता 85.7% है, Jev की 78.0% के मुकाबले। यह 12 में से 11 सुइटों पर अधिक सटीक है, jailbreak पर पीछे (91.75% बनाम 94.0%), और इसकी अंशांकन त्रुटि 12 में से 8 पर कम है। वे रन CUDA पर मापे गए; उत्पादन के उत्तर CPU पर। Kai 1 अभी निर्भर बहु-प्रश्न प्रोग्रामों पर, नकारात्मक हाँ/नहीं प्रश्नों पर, 150 या अधिक विकल्पों पर, या टाइप किए निर्णयों और jailbreak के अंशांकन पर प्रतिस्पर्धी नहीं है, और 1,000 या अधिक विकल्पों पर इसकी सटीकता शून्य के निकट है। हर तालिका, और यह कि हर अंक किस रन से आया: hanzo.ai/kai और Kai के दस्तावेज़।

---