Osegi
AI·2 मिनट में पढ़ें

Thinking Machines Lab ने पेश किया Inkling 2 Small, वेट्स जल्द ओपन

Thinking Machines Lab ने 594 अरब पैरामीटर वाला MoE मॉडल Inkling 2 Small लॉन्च किया है। इसके वेट्स अगले हफ्ते Apache 2.0 लाइसेंस के तहत जारी होने की योजना है।

Abstract illustration of a large neural network with expert modules lighting up, representing the Inkling 2 Small mixture-of-experts AI model.
छवि: BRIDGE

Thinking Machines Lab ने 5 नवंबर (स्थानीय समय) को अपनी दूसरी पीढ़ी का मॉडल Inkling 2 Small पेश किया। यह Mixture-of-Experts (MoE) मॉडल है, जिसमें कुल 594 अरब पैरामीटर हैं और इन्फरेंस के दौरान 17 अरब एक्टिव पैरामीटर काम करते हैं। मॉडल इमेज इनपुट के साथ-साथ "variable effort" को भी सपोर्ट करता है, यानी रीजनिंग पर लगने वाली मेहनत को बदला जा सकता है।

पहले Tinker पर, फिर खुले वेट्स

फिलहाल मॉडल कंपनी के फाइन-ट्यूनिंग और इन्फरेंस प्लेटफॉर्म Tinker पर उपलब्ध है, लेकिन वेट्स सार्वजनिक नहीं हैं। कंपनी के मुताबिक बाहरी सुरक्षा परीक्षण और रेड-टीमिंग पूरी होने के बाद, घोषणा के अगले हफ्ते सारे वेट्स Apache 2.0 लाइसेंस के साथ जारी किए जाएंगे। तब चेकपॉइंट भी डाउनलोड के लिए रखे जाएंगे। तब तक इसे Tinker Playground में आजमाया जा सकता है, और Tinker पर फाइन-ट्यूनिंग व सैंपलिंग भी की जा सकती है।

मॉडल कार्ड के अनुसार यह 48 लेयर वाला decoder-only आर्किटेक्चर है, जो हर टोकन के लिए 384 एक्सपर्ट्स में से 8 चुनता है। इमेज को Vision Transformer से एन्कोड किया जाता है और कॉन्टेक्स्ट लंबाई अधिकतम 10 लाख टोकन है।

प्रदर्शन और ट्रेनिंग

Artificial Analysis Intelligence Index पर मॉडल ने 31 स्कोर किया, जो पिछली पीढ़ी से काफी ज्यादा है। कंपनी का कहना है कि एजेंटिक कोडिंग, विज़न, नॉलेज वर्क और रीजनिंग में सुधार हुआ है, खासकर लंबे समय तक स्वायत्त काम में। विज़न और एजेंट क्षमताओं को जोड़कर मॉडल वेबसाइट, गेम और 3D डिज़ाइन को देखकर परखते हुए दोबारा बना सकता है। उदाहरण के तौर पर Three.js का सिटी सिम्युलेटर, असली Linux कर्नेल चलाने वाला Python PC एमुलेटर और Blender से बना वीडियो जारी किया गया है।

ट्रेनिंग में कई एजेंट एनवायरमेंट और कॉन्टेक्स्ट कंप्रेशन तरीकों पर फैले लाखों लंबे कोडिंग टास्क पर रीइन्फोर्समेंट लर्निंग की गई। इसमें यूनिट टेस्ट के नतीजों के साथ समस्या सुलझाने के तरीके को आंकने वाली एजेंट-आधारित ग्रेडिंग भी थी। शुरुआती चेकपॉइंट OpenCode पर "Fledge-Alpha" नाम से टेस्ट हुआ था।

देखने लायक ऐप्स

SUMO: नंबर पज़ल

सही खाने चुनें, जोड़ें, लक्ष्य तक पहुँचें। सीखना आसान, महारत मुश्किल। मुफ़्त, हर उम्र के लिए।

Dialo: बोलकर भाषाएँ सीखें

AI बातचीत साथी से बात करें; हर वाक्य सुधरकर आपकी भाषा में समझाया हुआ लौटता है। 9 भाषाएँ, A1 से C2 तक।

giftdetect: मिनटों में सही तोहफ़ा

चुनें किसके लिए, किस मौके पर और कैसा स्वभाव। सर्च इंजन स्थानीय दुकानों के उत्पाद विवरण पढ़कर सबसे उपयुक्त विकल्प ऊपर रखता है। मुफ़्त, बिना साइन-अप।

टैग:thinking machines labinkling 2 smallopen weightsmixture-of-expertstinker

इसी दिन की और ख़बरें

सभी देखें →

और पढ़ें:: AI

सभी देखें →