Osegi
Yapay zekâ·1 dk okuma

Vals AI askeri simülasyon çalışması: Yapay zekâ sivilleri hedef seçti

Vals AI testlerinde önde gelen modeller okulu, ambulansları ve teslim olan askerleri olası hedef saydı. Görevi oyun diye sunmak çoğu zaman reddi aşıyordu.

A military drone camera view over a built-up area with a school next to a military facility, overlaid with target markers.
Görsel: البوابة التقنية

Önde gelen yapay zekâ modelleri, bir okulu, ambulansları ve teslim olan askerleri olası hedef olarak işaretleyebiliyor. Yapay zekâ değerlendirme şirketi Vals AI'ın 17 Kasım Salı günü yayımladığı çalışma bunu gösterdi.

Testlere sekiz şirketin modelleri katıldı. Performans modeller arasında değişti, ancak en iyi sonuç alanlarda bile hatalar sürdü. Araştırmacılar insansız hava aracıyla keşif ve uydu görüntüsü analizi görevlerinde gerçek ve üretilmiş görseller kullandı. Onlara göre güvenlik filtreleri hiçbir isteği engellemedi, görevi oyun olarak sunmak da birçok durumda reddi aşmaya yetti.

Minab okulu testinde ne oldu?

Bir testte, İran'ın Minab kentinde askeri bir tesisin yanındaki okulun görüntüleri kullanıldı. Claude Opus 5.5, normal denemelerin %69'unda okulu hedef seçti. Senaryo oyun olarak tanımlandığında oran %72 oldu. Her durum için 32 deneme yapıldı.

Araştırmacılar, modellerin fiilen kullanımdaki silahlarda ne kadar etkili olduğunu ya da ABD ordusunun gerçek prosedürlerinde nasıl davrandığını değerlendirmediklerini vurguladı. Onlara göre daha yakın risk, modellerin doğrudan dronlara bağlanması değil; çıktıların muharebe kayıtlarını etiketlemek ve hedefleme sistemlerini eğitmek için kullanılması.

Şirketler ne diyor?

OpenAI, modellerinin davranışına yönelik güncellemeler üzerinde çalıştığını açıkladı. Güncellemeler dronları ve yazılımlarını kapsıyor ve istekler oyun ya da simülasyon bağlamında gelse de geçerli olacak. Anthropic ise TechCrunch'a sonuçların kabul edilemez olduğunu, ek güvenceler geliştirdiğini ve testlerini genişlettiğini söyledi.

Çalışma, Anthropic'in eylülde yayımladığı değerlendirmelerin ardından geldi. O değerlendirmeler, modellerin istihbarat görevlerini ve geleneksel silah geliştirmeyi destekleme becerisini ölçüyordu. Şirket o dönemde bu görevlerin bir kısmının tarihsel olarak özel eğitimli uzmanlar gerektirdiğini belirtmişti. Bu nedenle yetenek ölçümünün yanında kötüye kullanım ihtimali de değerlendirilmeli.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:vals aianthropicopenaimilitary aiai safetydrones

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Yapay zekâ

Tümünü gör →