Osegi
الذكاء الاصطناعي·2 دقائق قراءة

نوتا تخفض عدد وحدات GPU لتشغيل Solar Open 2 من 8 إلى 2

قالت نوتا إنها ضغطت نموذج Solar Open 2 من Upstage بـ250 مليار معامل ليعمل على وحدتي Nvidia H100 بدل ثمانٍ، مع خفض الذاكرة المطلوبة 76.5%.

Rows of GPU servers in an AI data center, illustrating efforts to run large AI models on fewer chips and less power.
الصورة: zdnet.co.kr

أعلنت شركة نوتا (Nota) الكورية المتخصصة في تحسين نماذج الذكاء الاصطناعي، في 9 نوفمبر، أنها طوّرت تقنية تتيح تشغيل النماذج الضخمة بعدد أقل بكثير من وحدات معالجة الرسوميات. ويعمل نموذج Solar Open 2 من شركة Upstage، البالغ 250 مليار معامل، الآن على وحدتين من Nvidia H100 بدل ثماني وحدات كانت لازمة سابقًا.

ووفق الشركة، انخفضت الذاكرة اللازمة لتخزين أوزان النموذج من 500.6 غيغابايت إلى 117.8 غيغابايت، أي بنسبة 76.5%. واعتمدت نوتا على التكميم الذي يخفّض دقة العمليات الحسابية، وعلى التقليم الذي يزيل الوحدات الحسابية الأقل أهمية، بهدف تقليل استهلاك الذاكرة مع أقل خسارة ممكنة في الأداء.

نموذج Kimi K3 وتوفير الطاقة

طُبقت التقنية كذلك على نموذج Kimi K3 من شركة Moonshot AI الصينية، الذي يبلغ إجمالي معاملاته 2.8 تريليون. وكان النموذج يتطلب ثماني وحدات Nvidia B300، لكن نوتا أزالت بعض الوحدات الحسابية وأعدّت نسختين أخف تعملان على ست وأربع وحدات على التوالي. ويعتمد Kimi K3 بنية «خليط الخبراء» (MoE) التي تستخدم الوحدات اللازمة فقط، وقد حلّلت نوتا أهمية كل وحدة وأزالت الأقل إسهامًا.

وتعمل الشركة أيضًا على تقليل الطاقة المستهلكة أثناء تشغيل النماذج. ففي تجربة لتحسين الاستدلال على منصة AMD Ryzen AI Max+ 395 مع نموذج Qwen3 8B من علي بابا، أدى توزيع المهام بين وحدة GPU ووحدة المعالجة العصبية NPU إلى خفض استهلاك الطاقة لكل رمز 31% مقارنة ببيئة AMD الهجينة الحالية، وقلّص زمن إتمام الإجابة حتى 52%.

ضغوط على مراكز البيانات

تأتي هذه الجهود مع تزايد المخاوف من استهلاك مراكز بيانات الذكاء الاصطناعي للكهرباء والمياه. ففي استطلاع لمعهد غالوب أُجري في مارس، قال نحو 70% من البالغين الأمريكيين إنهم يعارضون إقامة مثل هذه المراكز في مناطقهم، مشيرين إلى الأثر البيئي وتكاليف المعيشة. وتقدّر مختبرات لورنس بيركلي الوطنية أن تستحوذ مراكز البيانات على 11.8% من استهلاك الكهرباء في الولايات المتحدة بحلول 2030، وهو تقدير يشمل جميع مراكز البيانات لا منشآت الذكاء الاصطناعي وحدها.

وتوفّر نوتا لشركات الرقائق تراخيص برمجية وتقنيات تحسين النماذج عبر منصتها NetsPresso. وتخطط لتوسيع تقنياتها لتشمل وحدات CPU وNPU إضافة إلى GPU، كي تشغّل المؤسسات الذكاء الاصطناعي على مواردها الحالية دون الارتباط برقاقة بعينها. وقال كيم تاي هو، المدير التقني للشركة، إنها ستوسّع أعمالها الهادفة إلى رفع كفاءة الحوسبة لدى العملاء.

تطبيقات تستحق النظر

SUMO: لغز الأرقام

اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.

الوسوم:notaupstagesolar open 2model compressiongpudata centers

المزيد من هذا اليوم

عرض الكل →

المزيد في: الذكاء الاصطناعي

عرض الكل →