Osegi
Güvenlik·1 dk okuma

Cisco, AI ajanlarını Claude Mythos ile red team testinden geçirecek

Cisco, yapay zeka ajanlarının güvenliğini sınamak için Claude Mythos'u kullanmayı planlıyor. Testler yalnızca müşterilere ait ve değerlendirmeye yetkilendirilmiş hedeflerle sınırlı olacak.

A security analyst reviews a dashboard of AI agent activity during a simulated attack test in a network operations center.
Görsel: techinasia.com
SUMODialoediviewergiftdetect

Cisco, yapay zeka ajanlarına yönelik red team çalışmalarında Claude Mythos modelini kullanmayı planlıyor. Şirketin açıklamasına göre testler yalnızca müşterilere ait olan ve değerlendirme için yetkilendirilmiş hedeflerle sınırlı tutulacak.

Testlerin sınırı net

Zayıf noktaları bulabilen yapay zeka araçları hem savunmada hem saldırıda kullanılabildiği için kapsamın çizilmesi önem taşıyor. Cisco, çalışmaların yalnızca müşterinin değerlendirmeye izin verdiği varlıkları kapsayacağını belirtiyor.

Neden önemli

AI ajanları şirketlerde giderek daha bağımsız çalışıyor ve veri ile sistemlere erişebiliyor. Bu nedenle kötüye kullanıma karşı dayanıklılıkları ayrı bir güvenlik başlığı haline geliyor. Gelişmiş bir modelle yapılan red team testleri, bu açıkların kötü niyetli kişilerce kullanılmadan önce bulunmasına yardımcı olmayı amaçlıyor.

Başlangıç tarihi, programın ölçeği ve iş birliğinin kapsamı hakkında ayrıntı paylaşılmadı.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:ciscoclaude mythosred teamingai agentsai security

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Güvenlik

Tümünü gör →