Osegi
الذكاء الاصطناعي·2 دقائق قراءة

اختبارات Vals: نماذج ذكاء اصطناعي اختارت مدرسة في إيران هدفًا عسكريًا

في اختبار Vals اختار Claude Opus 5.5 مدرسة في ميناب هدفًا عسكريًا 22 مرة من 32. أما نماذج OpenAI فلم تختارها أبدًا، لكنها أخطأت في اختبارات أخرى.

Satellite image of a town with target markers overlaid, illustrating an AI model selecting buildings in a simulated military test.
الصورة: TNW | Defence

طُلب من نماذج ذكاء اصطناعي اختيار أهداف عسكرية في صور أقمار صناعية لجنوب إيران، فاختار Claude Opus 5.5 مدرسة في ميناب 22 مرة من أصل 32. هذا ما نقلته وكالة بلومبرغ عن تقرير لشركة Vals. لم نطلع على التقرير الكامل.

Vals شركة في سان فرانسيسكو تقيّم أنظمة الذكاء الاصطناعي، ومن عملائها جهات في الحكومة الأمريكية. اختبرت الشركة نماذج من ثماني شركات. وفي المحاكاة وسمت النماذج مرارًا مدنيين وسيارات إسعاف وجنودًا مستسلمين ومدرسة في إيران على أنها أهداف عسكرية. كانت نماذج Anthropic الأسوأ، وكانت نماذج OpenAI بين الأفضل، لكنها أخطأت أيضًا.

ماذا حدث لمدرسة ميناب؟

قُصفت المدرسة في 28 فبراير، وهو اليوم الأول للضربات الأمريكية على إيران. وبحسب منظمة العفو الدولية قُتل أكثر من 150 شخصًا، بينهم نحو 120 طفلًا.

وعندما قيل للنماذج إن المهمة لعبة، اختار Claude Opus 5.5 المدرسة 23 مرة. أما ثلاثة نماذج من OpenAI فاختارتها 9 و11 و13 مرة. كما تجاوز الباحثون حالات الرفض بطلب ألا تبالغ النماذج في التفكير بالسلامة.

وفي اختبار صور الطائرات المسيّرة، ساعد Claude Opus 5.5 في تحديد أربعة بالغين وطفلين صغيرين، ثم تعرضوا للقصف في المحاكاة. بعد ذلك رفض النموذج المتابعة. وكتب Claude أن إجاباته «تبدو كخطوة تأكيد قبل الضربات على الأشخاص». ووسمت نماذج من Google وxAI وDeepSeek وشركات أخرى أحيانًا أهدافًا مدنية على أنها عسكرية.

ماذا تقول الشركات؟

قال متحدث باسم Anthropic لبلومبرغ إن الأمثلة تخالف قواعد الشركة بوضوح، وإن ضمانات جديدة ستُطبق قريبًا. وقالت OpenAI وGoogle إنهما تحظران هذا الاستخدام في نماذجهما العامة. ويرى تقرير Vals أن على المختبرات اعتماد ضمانات وتدريب مواءمة جديدين لهذه الفئة من إساءة الاستخدام.

وأشارت بلومبرغ إلى أن الاختبارات لم تشمل العقيدة العسكرية ولا المراجعة القانونية ولا الإشراف البشري. كما يستخدم البنتاغون نسخًا حكومية من بعض النماذج لم تتمكن Vals من اختبارها.

وكانت Anthropic قد اختلفت مع البنتاغون في وقت سابق من هذا العام بشأن حدود استخدام Claude، ومنها الأسلحة ذاتية التشغيل بالكامل. ثم صنّف البنتاغون الشركة خطرًا على سلسلة التوريد، وقالت Anthropic إنها ستطعن في ذلك أمام القضاء.

تطبيقات تستحق النظر

SUMO: لغز الأرقام

اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.

الوسوم:anthropicopenaivalsai safetymilitary aipentagon

المزيد من هذا اليوم

عرض الكل →

المزيد في: الذكاء الاصطناعي

عرض الكل →