AI9 नव॰ 2026, 11:19 am UTC·2 मिनट में पढ़ें

Nota ने Solar Open 2 चलाने के लिए GPU 8 से घटाकर 2 किए

AI ऑप्टिमाइज़ेशन कंपनी Nota ने Upstage के 250 अरब पैरामीटर वाले Solar Open 2 को दो Nvidia H100 GPU पर चलाने लायक बनाया है। मेमोरी 76.5% घटी है।

Rows of GPU servers in an AI data center, illustrating efforts to run large AI models on fewer chips and less power. — छवि: zdnet.co.kr

AI मॉडल ऑप्टिमाइज़ेशन कंपनी Nota ने बड़े AI मॉडल चलाने के लिए ज़रूरी GPU की संख्या आठ से घटाकर दो करने की तकनीक हासिल कर ली है। कंपनी ने 9 नवंबर को बताया कि उसने Upstage के 250 अरब पैरामीटर वाले मॉडल 'Solar Open 2' को हल्का किया है। अब इसे चलाने के लिए आठ की जगह सिर्फ़ दो Nvidia H100 GPU चाहिए।

कंपनी के मुताबिक मॉडल के वेट स्टोर करने के लिए ज़रूरी मेमोरी 500.6 GB से घटकर 117.8 GB रह गई, यानी 76.5% की कमी। इसके लिए Nota ने क्वांटाइज़ेशन (गणना की सटीकता घटाना) और प्रूनिंग (कम अहम कंप्यूटेशन मॉड्यूल हटाना) का इस्तेमाल किया। दावा है कि परफ़ॉर्मेंस में गिरावट न्यूनतम रखी गई है।

Kimi K3 और ऊर्जा बचत

यही तकनीक चीन की Moonshot AI के मॉडल 'Kimi K3' पर भी लगाई गई। कुल 2.8 ट्रिलियन पैरामीटर वाले इस मॉडल को पहले आठ Nvidia B300 GPU चाहिए थे। Nota ने कुछ मॉड्यूल हटाकर दो हल्के संस्करण बनाए, जो क्रमशः 6 और 4 GPU पर चल सकते हैं। Kimi K3 में Mixture of Experts (MoE) ढांचा है, जिसमें कंपनी ने हर मॉड्यूल का महत्व परखकर कम योगदान वाले हिस्से हटाए।

Nota एक्ज़ीक्यूशन के दौरान खर्च होने वाली ऊर्जा घटाने पर भी काम कर रही है। AMD के Ryzen AI Max+ 395 पर Alibaba के Qwen3 8B मॉडल के प्रयोग में GPU और NPU में काम बांटकर प्रति टोकन ऊर्जा खपत AMD के मौजूदा हाइब्रिड तरीके से 31% कम हुई। जवाब पूरा करने का समय अधिकतम 52% घटा।

डेटा सेंटर पर बढ़ता दबाव

यह विकास ऐसे समय हुआ है जब डेटा सेंटर की बिजली और पानी की खपत पर चिंता बढ़ रही है। Gallup के मार्च के सर्वे में लगभग 70% अमेरिकी वयस्कों ने अपने इलाके में AI डेटा सेंटर बनाए जाने का विरोध किया। Lawrence Berkeley National Laboratory ने अनुमान लगाया है कि 2030 तक डेटा सेंटर अमेरिका की कुल बिजली का 11.8% इस्तेमाल करेंगे।

Nota अपने प्लेटफ़ॉर्म NetsPresso के ज़रिये चिप कंपनियों को सॉफ़्टवेयर लाइसेंस और ऑप्टिमाइज़ेशन तकनीक देती है। कंपनी आगे GPU के साथ CPU और NPU जैसे अलग-अलग चिप पर भी AI को कुशलता से चलाने की तकनीक बेहतर करेगी। CTO किम ताए-हो ने कहा कि कंपनी ग्राहकों की कंप्यूटिंग दक्षता बढ़ाने वाले कारोबार का विस्तार करेगी।