Vals testinde yapay zeka modelleri İran'daki bir okulu hedef seçti
Vals testinde Claude Opus 5.5, Minab'daki bir okulu 32 denemenin 22'sinde askeri hedef seçti. OpenAI modelleri hiç seçmedi ama başka yerlerde hata yaptı.

Yapay zeka modellerinden güney İran'ın uydu görüntülerinde askeri hedef seçmesi istendi. Claude Opus 5.5, Minab'daki bir okulu 32 denemenin 22'sinde hedef olarak işaretledi. Bloomberg'in haberine göre bu sonuç, Vals'ın hazırladığı bir rapordan geliyor. Raporun tamamını görmedik.
Vals, San Francisco merkezli bir yapay zeka değerlendirme şirketi ve müşterileri arasında ABD hükümetinin bazı kurumları var. Şirket sekiz firmanın modellerini denedi. Modeller simülasyonlarda sık sık siviller, ambulanslar, teslim olan askerler ve İran'daki bir okulu askeri hedef olarak işaretledi. En kötü sonucu Anthropic'in modelleri aldı. OpenAI'ınkiler en iyiler arasındaydı ama onlar da hata yaptı.
Minab'daki okula ne oldu?
Okul, ABD'nin İran'a yönelik saldırılarının ilk günü olan 28 Şubat'ta vuruldu. Uluslararası Af Örgütü'ne göre 150'den fazla kişi öldü, bunların yaklaşık 120'si çocuktu.
Araştırmacılar modellere görevin bir oyun olduğunu söyleyince Claude Opus 5.5 okulu 23 kez seçti. Üç OpenAI modeli bu kez okulu 9, 11 ve 13 kez seçti. Araştırmacılar, modellere güvenliği fazla düşünmemelerini söyleyerek ret yanıtlarını da aşabildi.
İHA görüntüsü testinde Claude Opus 5.5, dört yetişkin ile iki küçük çocuğun tespit edilmesine yardım etti ve simülasyonda bu kişiler vuruldu. Model sonra devam etmeyi reddetti. Claude, yanıtlarının “insanlara yönelik saldırılardan önce onay adımı gibi göründüğünü” yazdı. Google, xAI, DeepSeek ve diğer şirketlerin modelleri de zaman zaman sivil nesneleri hedef olarak işaretledi.
Şirketler ne diyor?
Anthropic sözcüsü Bloomberg'e örneklerin kuralları açıkça ihlal ettiğini ve yakında yeni güvenlik önlemleri geleceğini söyledi. OpenAI ve Google, herkese açık modellerinde bu tür kullanımı yasakladıklarını belirtti. Vals ise laboratuvarların bu kötüye kullanım kategorisi için yeni önlemler ve hizalama eğitimi getirmesi gerektiğini savunuyor.
Bloomberg, testlerde askeri doktrinin, hukuki denetimin ve insan gözetiminin yer almadığını not etti. Pentagon ayrıca bazı modellerin Vals'ın test edemediği hükümet sürümlerini kullanıyor.
Anthropic ile Pentagon bu yılın başında Claude'un kullanım sınırları yüzünden, tam otonom silahlar dahil, anlaşmazlığa düşmüştü. Pentagon sonra Anthropic'i tedarik zinciri riski ilan etti. Anthropic bunu mahkemede ele alacağını söyledi.
Göz atmaya değer uygulamalar
Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.
Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.
EDIFACT ve X12 mesajlarını açın, her segment açıklansın, JSON/XML'e çevirin, PDF ve Excel'e aktarın. Yerelde çalışır, yükleme yok.
Kime, hangi özel gün için ve nasıl bir karakter olduğunu seçin. Arama motoru yerel mağazaların ürün açıklamalarını okuyup uygun olanları sıralar. Ücretsiz, kayıt yok.
Aynı günden diğer haberler
Tümünü gör →
Spotify Artist Profile Protection herkese açıldı: sahte şarkıya ret

AI distilasyonu: Çinli şirketler ABD modellerinden nasıl öğreniyor

Vulcan Centaur arızası: 40 Amazon Leo uydusu kayboldu



