ميسترال تطلق أوزان Mistral Large 4 المفتوحة بتريليون معامل

نشرت شركة Mistral AI الفرنسية في 29 أكتوبر الأوزان المفتوحة لنموذجها الجديد Mistral Large 4. ويُعرف النموذج داخل الشركة باسم «Le Chonk» أي «البدين»، بسبب حجمه البالغ نحو تريليون معامل. غير أن بنية Mixture of Experts (MoE) تجعل جزءًا فقط من النموذج يعمل مع كل رمز. وخرج Large 4 بذلك من مرحلة المعاينة العامة، مع تحسينات في البرمجة والسيناريوهات الوكيلية والأمن.

الأوزان متاحة على Hugging Face في المستودع mistralai/Mistral-Large-4-1T-A52B دون الحاجة إلى طلب إذن وصول. وصدرت مع النسخة الرئيسية نسخة مكمّاة بصيغة NVFP4 لبطاقات NVIDIA من جيل Blackwell. وكان النموذج قد عُرض أول مرة في 6 أكتوبر عبر واجهة API فقط، ووعدت الشركة بنشر الأوزان خلال شهر، والتزمت بوعدها.

ثلاثة أسابيع من التعلم المعزز

خلال هذه المدة واصلت Mistral تدريب النموذج بالتعلم المعزز (RL) واختبرته لدى عملائها. وبحسب نائب رئيس الشركة للعلوم بيير ستوك، جرى التدريب على بنيتها التحتية في فرنسا التي تستهلك نحو 10 ميغاواط. أما التدريب الأساسي فاستغرق نحو شهرين على قرابة 3800 وحدة GPU من طراز NVIDIA Grace Blackwell.

ويظهر الأثر في اختبارات الوكلاء. ففي Terminal-Bench 4.0 ارتفعت النتيجة من 28% إلى 41% مع انخفاض الرموز الناتجة بنسبة 30%. وفي BrowseComp سجّل النموذج 84.5% مقابل 75% لنقطة التحقق بعد SFT. كما أُضيف نمطا استدلال low وmedium إلى جانب high. وتقول الشركة إن النموذج يرفض 96.6% من الطلبات الضارة ويصمد أمام 97% من الهجمات في اختبار B3 Agent Security. وجميع الأرقام صادرة عن Mistral نفسها.

ويستهلك النموذج رموزًا أقل بنسبة 47% لكل مهمة مقارنة بـ GLM-5.3 مع دقة أقل قليلًا. وفي البرمجة يبلغ الفارق عن GLM نقطة واحدة.

البنية والمتطلبات والترخيص

يضم النموذج 128 خبيرًا قابلًا للتوجيه، يعمل منهم أربعة لكل رمز إضافة إلى خبير مشترك. وعدد المعاملات النشطة نحو 49 مليارًا، ويصل إلى 52 مليارًا مع طبقتي التضمين والإخراج. ويبلغ السياق مليون رمز، ويقبل النموذج النصوص والصور.

لكن الأوزان المفتوحة لا تعني سهولة التشغيل. فنسخة FP8 تحتاج إلى نحو 1 تيرابايت من المساحة، ونسخة NVFP4 إلى نحو 610 غيغابايت مع بطاقات Blackwell. ويسمح ترخيص Mistral Ecosystem Open-Weight License، وهو نسخة معدلة من MIT، بالاستخدام والتدريب الإضافي والاستخدام التجاري، لكن تقديم النموذج كخدمة (Model-as-a-Service) يتطلب ترخيصًا تجاريًا من Mistral.

وكان سام ألتمان، رئيس OpenAI، قد وصف النماذج المحلية بأنها «توزيع سيئ للموارد الشحيحة»، معتبرًا أن العتاد مكانه مراكز البيانات.