Osegi
AI·2 मिनट में पढ़ें

Inkling 2 Mini: लैपटॉप पर चलने वाला 26B का ओपन AI मॉडल

Thinking Machines Lab ने Wi-Fi बंद MacBook Pro पर Inkling 2 Mini से खेलने लायक फ्लाइट सिमुलेटर कोड करवाया। यह ओपन मॉडल 20 GB से कम में समा जाता है।

A MacBook Pro laptop running an AI-generated flight simulator offline on a plane tray table.
छवि: Frandroid

विमान में बैठकर, Wi-Fi बंद करके, एक MacBook Pro पर कुछ ही मिनटों में खेलने लायक फ्लाइट सिमुलेटर कोड कर देना। Thinking Machines Lab ने अपने नए मॉडल Inkling 2 Mini को इसी तरह दिखाया, ताकि साबित हो सके कि इसे इंटरनेट की जरूरत नहीं है। यह दावा कंपनी का है।

Mira Murati की इस स्टार्टअप ने 20 नवंबर को Inkling 2 Mini जारी किया। Murati OpenAI की पूर्व चीफ टेक्नोलॉजी ऑफिसर हैं और कंपनी की स्थापना 2025 में हुई थी। यह दो हफ्ते पहले आए बड़े मॉडल Inkling 2 Small का छोटा रूप है। कंपनी के मुताबिक यह सॉफ्टवेयर डेवलपमेंट और ऐसे एजेंट के लिए बना है जो खुद कई कदम आगे बढ़ा सकें। वज़न (weights) Apache 2.0 लाइसेंस पर मिलते हैं, यानी कमर्शियल इस्तेमाल भी मुमकिन है।

26 अरब पैरामीटर 20 GB में कैसे समाते हैं?

आम तौर पर हर पैरामीटर 16 बिट में रखा जाता है और तब मॉडल 50 GB से ज्यादा का होता। Thinking Machines ने इसे Nvidia के 4 बिट फॉर्मैट NVFP4 में शुरू से ट्रेन किया, सिर्फ आखिरी चार लेयर 8 बिट में रखीं। बाद में कंप्रेस करने वाली गिरावट इससे बचती है।

दूसरी तरकीब मिक्सचर-ऑफ-एक्सपर्ट्स है। हर लेयर में 128 विशेषज्ञ सब-नेटवर्क हैं और हर टोकन पर सिर्फ 8 काम करते हैं, यानी एक समय में 3.4 अरब पैरामीटर सक्रिय रहते हैं। तीसरी बात लूपिंग की है: 24 में से बीच की 12 लेयर हर टोकन के लिए तीन बार चलती हैं। इससे 48 लेयर जितनी गहराई मिलती है, बिना अतिरिक्त मेमोरी के।

कोडिंग में कितना आगे, और कहाँ पीछे?

DeepSWE v1.1 में, जो असली सॉफ्टवेयर बग ठीक करने की क्षमता परखता है, Inkling 2 Mini ने 48.2% समस्याएँ हल कीं। चीनी Qwen3.8-27B का आंकड़ा 42.2% है। ये नतीजे कंपनी के हैं और अभी स्वतंत्र रूप से जाँचे नहीं गए।

आम बातचीत और तथ्यों की भरोसेमंदी में Qwen3.8 आगे है: AA-Omniscience पर 71.4% बनाम 63.4%।

इसे अपने कंप्यूटर पर कैसे चलाएँ?

Unsloth का 4 बिट संस्करण डिस्क पर 17.6 GB लेता है, और संदर्भ (context) के लिए अतिरिक्त मेमोरी चाहिए। 32 GB यूनिफाइड मेमोरी वाला Mac, AMD Ryzen AI Max+ 395 या Nvidia DGX Spark जैसे PC, 32 GB का Intel Panther Lake लैपटॉप, या 24 GB VRAM वाला ग्राफिक्स कार्ड चलेगा। 16 GB RAM पर 3 बिट संस्करण से काम चल सकता है, थोड़ी कम सटीकता के साथ। Ollama, LM Studio, Unsloth Desktop या llama.cpp (सपोर्ट अभी प्रायोगिक) से चलाया जा सकता है।

देखने लायक ऐप्स

SUMO: नंबर पज़ल

सही खाने चुनें, जोड़ें, लक्ष्य तक पहुँचें। सीखना आसान, महारत मुश्किल। मुफ़्त, हर उम्र के लिए।

Dialo: बोलकर भाषाएँ सीखें

AI बातचीत साथी से बात करें; हर वाक्य सुधरकर आपकी भाषा में समझाया हुआ लौटता है। 9 भाषाएँ, A1 से C2 तक।

giftdetect: मिनटों में सही तोहफ़ा

चुनें किसके लिए, किस मौके पर और कैसा स्वभाव। सर्च इंजन स्थानीय दुकानों के उत्पाद विवरण पढ़कर सबसे उपयुक्त विकल्प ऊपर रखता है। मुफ़्त, बिना साइन-अप।

टैग:thinking machines labinkling 2 minimira muratilocal aiopen sourceqwen

इसी दिन की और ख़बरें

सभी देखें →

और पढ़ें:: AI

सभी देखें →
Inkling 2 Mini: लैपटॉप पर चलने वाला ओपन AI मॉडल · Osegi