Vals AI askeri simülasyon çalışması: Yapay zekâ sivilleri hedef seçti
Vals AI testlerinde önde gelen modeller okulu, ambulansları ve teslim olan askerleri olası hedef saydı. Görevi oyun diye sunmak çoğu zaman reddi aşıyordu.

Önde gelen yapay zekâ modelleri, bir okulu, ambulansları ve teslim olan askerleri olası hedef olarak işaretleyebiliyor. Yapay zekâ değerlendirme şirketi Vals AI'ın 17 Kasım Salı günü yayımladığı çalışma bunu gösterdi.
Testlere sekiz şirketin modelleri katıldı. Performans modeller arasında değişti, ancak en iyi sonuç alanlarda bile hatalar sürdü. Araştırmacılar insansız hava aracıyla keşif ve uydu görüntüsü analizi görevlerinde gerçek ve üretilmiş görseller kullandı. Onlara göre güvenlik filtreleri hiçbir isteği engellemedi, görevi oyun olarak sunmak da birçok durumda reddi aşmaya yetti.
Minab okulu testinde ne oldu?
Bir testte, İran'ın Minab kentinde askeri bir tesisin yanındaki okulun görüntüleri kullanıldı. Claude Opus 5.5, normal denemelerin %69'unda okulu hedef seçti. Senaryo oyun olarak tanımlandığında oran %72 oldu. Her durum için 32 deneme yapıldı.
Araştırmacılar, modellerin fiilen kullanımdaki silahlarda ne kadar etkili olduğunu ya da ABD ordusunun gerçek prosedürlerinde nasıl davrandığını değerlendirmediklerini vurguladı. Onlara göre daha yakın risk, modellerin doğrudan dronlara bağlanması değil; çıktıların muharebe kayıtlarını etiketlemek ve hedefleme sistemlerini eğitmek için kullanılması.
Şirketler ne diyor?
OpenAI, modellerinin davranışına yönelik güncellemeler üzerinde çalıştığını açıkladı. Güncellemeler dronları ve yazılımlarını kapsıyor ve istekler oyun ya da simülasyon bağlamında gelse de geçerli olacak. Anthropic ise TechCrunch'a sonuçların kabul edilemez olduğunu, ek güvenceler geliştirdiğini ve testlerini genişlettiğini söyledi.
Çalışma, Anthropic'in eylülde yayımladığı değerlendirmelerin ardından geldi. O değerlendirmeler, modellerin istihbarat görevlerini ve geleneksel silah geliştirmeyi destekleme becerisini ölçüyordu. Şirket o dönemde bu görevlerin bir kısmının tarihsel olarak özel eğitimli uzmanlar gerektirdiğini belirtmişti. Bu nedenle yetenek ölçümünün yanında kötüye kullanım ihtimali de değerlendirilmeli.
Göz atmaya değer uygulamalar
Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.
Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.
EDIFACT ve X12 mesajlarını açın, her segment açıklansın, JSON/XML'e çevirin, PDF ve Excel'e aktarın. Yerelde çalışır, yükleme yok.
Kime, hangi özel gün için ve nasıl bir karakter olduğunu seçin. Arama motoru yerel mağazaların ürün açıklamalarını okuyup uygun olanları sıralar. Ücretsiz, kayıt yok.
Aynı günden diğer haberler
Tümünü gör →
GTA 6 Blinkit'te: PS5 sürümü 5.999 rupiyle dakikalar içinde kapında

Sony, PlayStation Store davasını Londra'da kazandı: 2 milyar sterlin

Android ve iPhone'da mobil veri tasarrufu: 8 ayar

Żappka Pay: Żabka'da 2000 zł limitle veresiye alışveriş geliyor
Daha fazla: Yapay zekâ
Tümünü gör →
Z Kuşağı ve yapay zekâ arkadaşları: %33'ü chatbota güveniyor

Sarvam, Çin yapımı yapay zeka modellerini Hindistan'da barındıracak

Nvidia yönetim kurulu Jensen Huang'ın CEO'luğa dönüş teklifini reddetti
