دراسة Vals AI: نماذج ذكاء اصطناعي اختارت مدنيين أهدافًا في محاكاة عسكرية
في اختبارات Vals AI صنّفت نماذج متقدمة مدرسة وسيارات إسعاف وجنودًا مستسلمين أهدافًا محتملة، وتجاوز تقديم المهمة كلعبة الرفض في حالات كثيرة.

قد تضع نماذج الذكاء الاصطناعي المتقدمة مدرسة وسيارات إسعاف وجنودًا مستسلمين ضمن الأهداف المحتملة. هذا ما كشفته دراسة لشركة تقييم الذكاء الاصطناعي Vals AI، نُشرت الثلاثاء 17 نوفمبر.
شملت الاختبارات نماذج من ثماني شركات. تفاوت الأداء بينها، لكن الأخطاء استمرت حتى لدى أفضل النماذج. واستخدم الباحثون صورًا حقيقية ومولّدة في مهام رصد بالطائرات المسيّرة وتحليل صور الأقمار الصناعية. وقالوا إن أنظمة فلترة السلامة لم تحجب أيًا من طلباتهم، وإن تقديم المهمة بوصفها لعبة تجاوز الرفض في كثير من الحالات.
ماذا حدث في اختبار مدرسة ميناب؟
في أحد الاختبارات استُخدمت صور لمدرسة مجاورة لمنشأة عسكرية في ميناب الإيرانية. اختار نموذج Claude Opus 5.5 المدرسة هدفًا في 69% من التجارب العادية، و72% عند وصف السيناريو بأنه لعبة، بواقع 32 تجربة لكل حالة.
وأكد الباحثون أنهم لم يقيّموا فاعلية النماذج داخل أسلحة منشورة فعليًا، ولا أداءها في إجراءات الجيش الأمريكي الحقيقية. ورأوا أن الخطر الأقرب هو استخدام المخرجات في توسيم تسجيلات المعارك وتدريب أنظمة الاستهداف، لا تشغيل النماذج مباشرة على المسيّرات.
كيف ردّت الشركات؟
قالت OpenAI إنها تعمل على تحديثات لسلوك نماذجها تشمل المسيّرات وبرمجياتها، حتى عندما تُقدَّم الطلبات في سياق الألعاب أو المحاكاة. أما أنثروبيك فقالت لموقع تك كرانش إن النتائج غير مقبولة، وإنها تطوّر ضمانات إضافية وتوسّع اختباراتها.
وتأتي الدراسة بعد تقييمات نشرتها أنثروبيك في سبتمبر لقدرات النماذج على دعم مهام استخباراتية وتطوير أسلحة تقليدية. وقالت الشركة آنذاك إن بعض هذه المهام كان يتطلب تاريخيًا خبراء ذوي تدريب متخصص، ولذلك يلزم تقييم احتمالات إساءة الاستخدام إلى جانب قياس القدرات.
تطبيقات تستحق النظر
اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.
تحدّث مع شريك محادثة بالذكاء الاصطناعي؛ تعود كل جملة مصحّحة ومشروحة بلغتك. 9 لغات، من A1 إلى C2.
افتح رسائل EDIFACT وX12 مع شرح كل مقطع، وحوّلها إلى JSON/XML، وصدّرها إلى PDF وExcel. يعمل محليًا دون رفع.
اختر لمن الهدية والمناسبة والشخصية. يقرأ محرك البحث أوصاف المنتجات من المتاجر المحلية ويرتّب ما يناسب. مجاني، بلا تسجيل.
المزيد من هذا اليوم
عرض الكل →
GTA 6 على Blinkit: نسخة PS5 بـ 5999 روبية تصلك خلال دقائق

سوني تربح قضية PlayStation Store في لندن بقيمة قرابة ملياري جنيه

توفير بيانات الإنترنت في أندرويد وآيفون: 8 إعدادات تحفظ الباقة

Żappka Pay: التسوق من Żabka بالآجل بحد يصل إلى 2000 زلوتي
المزيد في: الذكاء الاصطناعي
عرض الكل →
الجيل Z والذكاء الاصطناعي: 33% يعتمدون على روبوتات الدردشة

سارفام تستضيف نماذج ذكاء اصطناعي صينية في الهند وتثير جدلاً

مجلس إدارة إنفيديا يرفض عرض جنسن هوانغ بالعودة إلى منصب الرئيس التنفيذي
