Osegi
الذكاء الاصطناعي·1 دقائق قراءة

دراسة Vals AI: نماذج ذكاء اصطناعي اختارت مدنيين أهدافًا في محاكاة عسكرية

في اختبارات Vals AI صنّفت نماذج متقدمة مدرسة وسيارات إسعاف وجنودًا مستسلمين أهدافًا محتملة، وتجاوز تقديم المهمة كلعبة الرفض في حالات كثيرة.

A military drone camera view over a built-up area with a school next to a military facility, overlaid with target markers.
الصورة: البوابة التقنية

قد تضع نماذج الذكاء الاصطناعي المتقدمة مدرسة وسيارات إسعاف وجنودًا مستسلمين ضمن الأهداف المحتملة. هذا ما كشفته دراسة لشركة تقييم الذكاء الاصطناعي Vals AI، نُشرت الثلاثاء 17 نوفمبر.

شملت الاختبارات نماذج من ثماني شركات. تفاوت الأداء بينها، لكن الأخطاء استمرت حتى لدى أفضل النماذج. واستخدم الباحثون صورًا حقيقية ومولّدة في مهام رصد بالطائرات المسيّرة وتحليل صور الأقمار الصناعية. وقالوا إن أنظمة فلترة السلامة لم تحجب أيًا من طلباتهم، وإن تقديم المهمة بوصفها لعبة تجاوز الرفض في كثير من الحالات.

ماذا حدث في اختبار مدرسة ميناب؟

في أحد الاختبارات استُخدمت صور لمدرسة مجاورة لمنشأة عسكرية في ميناب الإيرانية. اختار نموذج Claude Opus 5.5 المدرسة هدفًا في 69% من التجارب العادية، و72% عند وصف السيناريو بأنه لعبة، بواقع 32 تجربة لكل حالة.

وأكد الباحثون أنهم لم يقيّموا فاعلية النماذج داخل أسلحة منشورة فعليًا، ولا أداءها في إجراءات الجيش الأمريكي الحقيقية. ورأوا أن الخطر الأقرب هو استخدام المخرجات في توسيم تسجيلات المعارك وتدريب أنظمة الاستهداف، لا تشغيل النماذج مباشرة على المسيّرات.

كيف ردّت الشركات؟

قالت OpenAI إنها تعمل على تحديثات لسلوك نماذجها تشمل المسيّرات وبرمجياتها، حتى عندما تُقدَّم الطلبات في سياق الألعاب أو المحاكاة. أما أنثروبيك فقالت لموقع تك كرانش إن النتائج غير مقبولة، وإنها تطوّر ضمانات إضافية وتوسّع اختباراتها.

وتأتي الدراسة بعد تقييمات نشرتها أنثروبيك في سبتمبر لقدرات النماذج على دعم مهام استخباراتية وتطوير أسلحة تقليدية. وقالت الشركة آنذاك إن بعض هذه المهام كان يتطلب تاريخيًا خبراء ذوي تدريب متخصص، ولذلك يلزم تقييم احتمالات إساءة الاستخدام إلى جانب قياس القدرات.

تطبيقات تستحق النظر

SUMO: لغز الأرقام

اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.

الوسوم:vals aianthropicopenaimilitary aiai safetydrones

المزيد من هذا اليوم

عرض الكل →

المزيد في: الذكاء الاصطناعي

عرض الكل →
دراسة Vals AI: ذكاء اصطناعي يختار مدنيين أهدافًا · Osegi