اختبارات Vals: نماذج ذكاء اصطناعي اختارت مدرسة في إيران هدفًا عسكريًا
في اختبار Vals اختار Claude Opus 5.5 مدرسة في ميناب هدفًا عسكريًا 22 مرة من 32. أما نماذج OpenAI فلم تختارها أبدًا، لكنها أخطأت في اختبارات أخرى.

طُلب من نماذج ذكاء اصطناعي اختيار أهداف عسكرية في صور أقمار صناعية لجنوب إيران، فاختار Claude Opus 5.5 مدرسة في ميناب 22 مرة من أصل 32. هذا ما نقلته وكالة بلومبرغ عن تقرير لشركة Vals. لم نطلع على التقرير الكامل.
Vals شركة في سان فرانسيسكو تقيّم أنظمة الذكاء الاصطناعي، ومن عملائها جهات في الحكومة الأمريكية. اختبرت الشركة نماذج من ثماني شركات. وفي المحاكاة وسمت النماذج مرارًا مدنيين وسيارات إسعاف وجنودًا مستسلمين ومدرسة في إيران على أنها أهداف عسكرية. كانت نماذج Anthropic الأسوأ، وكانت نماذج OpenAI بين الأفضل، لكنها أخطأت أيضًا.
ماذا حدث لمدرسة ميناب؟
قُصفت المدرسة في 28 فبراير، وهو اليوم الأول للضربات الأمريكية على إيران. وبحسب منظمة العفو الدولية قُتل أكثر من 150 شخصًا، بينهم نحو 120 طفلًا.
وعندما قيل للنماذج إن المهمة لعبة، اختار Claude Opus 5.5 المدرسة 23 مرة. أما ثلاثة نماذج من OpenAI فاختارتها 9 و11 و13 مرة. كما تجاوز الباحثون حالات الرفض بطلب ألا تبالغ النماذج في التفكير بالسلامة.
وفي اختبار صور الطائرات المسيّرة، ساعد Claude Opus 5.5 في تحديد أربعة بالغين وطفلين صغيرين، ثم تعرضوا للقصف في المحاكاة. بعد ذلك رفض النموذج المتابعة. وكتب Claude أن إجاباته «تبدو كخطوة تأكيد قبل الضربات على الأشخاص». ووسمت نماذج من Google وxAI وDeepSeek وشركات أخرى أحيانًا أهدافًا مدنية على أنها عسكرية.
ماذا تقول الشركات؟
قال متحدث باسم Anthropic لبلومبرغ إن الأمثلة تخالف قواعد الشركة بوضوح، وإن ضمانات جديدة ستُطبق قريبًا. وقالت OpenAI وGoogle إنهما تحظران هذا الاستخدام في نماذجهما العامة. ويرى تقرير Vals أن على المختبرات اعتماد ضمانات وتدريب مواءمة جديدين لهذه الفئة من إساءة الاستخدام.
وأشارت بلومبرغ إلى أن الاختبارات لم تشمل العقيدة العسكرية ولا المراجعة القانونية ولا الإشراف البشري. كما يستخدم البنتاغون نسخًا حكومية من بعض النماذج لم تتمكن Vals من اختبارها.
وكانت Anthropic قد اختلفت مع البنتاغون في وقت سابق من هذا العام بشأن حدود استخدام Claude، ومنها الأسلحة ذاتية التشغيل بالكامل. ثم صنّف البنتاغون الشركة خطرًا على سلسلة التوريد، وقالت Anthropic إنها ستطعن في ذلك أمام القضاء.
تطبيقات تستحق النظر
اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.
تحدّث مع شريك محادثة بالذكاء الاصطناعي؛ تعود كل جملة مصحّحة ومشروحة بلغتك. 9 لغات، من A1 إلى C2.
افتح رسائل EDIFACT وX12 مع شرح كل مقطع، وحوّلها إلى JSON/XML، وصدّرها إلى PDF وExcel. يعمل محليًا دون رفع.
اختر لمن الهدية والمناسبة والشخصية. يقرأ محرك البحث أوصاف المنتجات من المتاجر المحلية ويرتّب ما يناسب. مجاني، بلا تسجيل.
المزيد من هذا اليوم
عرض الكل →
Spotify تطلق Artist Profile Protection لحجب الأغاني المنسوبة زورًا

تقطير الذكاء الاصطناعي: كيف تتعلم الشركات الصينية من نماذج أمريكا

فشل صاروخ Vulcan Centaur: فقدان 40 قمراً من Amazon Leo



