Osegi
Bezpieczeństwo·1 min czytania

Cisco chce użyć Claude Mythos do red teamingu agentów AI

Cisco planuje wykorzystać Claude Mythos do testów red teamingowych agentów AI. Badania mają obejmować wyłącznie cele należące do klientów i autoryzowane do oceny.

A security analyst reviews a dashboard of AI agent activity during a simulated attack test in a network operations center.
Zdjęcie: techinasia.com

Cisco zamierza wykorzystać model Claude Mythos do red teamingu agentów AI, czyli do kontrolowanego sprawdzania, jak takie systemy zachowują się pod atakiem. Firma zapowiedziała, że testy zostaną ograniczone do celów należących do klientów, które zostały autoryzowane do oceny.

Wyraźne granice testów

To zastrzeżenie jest istotne. Narzędzia AI zdolne do wyszukiwania słabych punktów mogą służyć zarówno obronie, jak i atakowi, dlatego ramy ich użycia mają duże znaczenie. Według Cisco prace obejmą tylko zasoby, co do których klient wyraził zgodę na ocenę bezpieczeństwa.

Dlaczego to ważne

Agenci AI coraz częściej działają w firmach samodzielnie i mają dostęp do danych oraz systemów, więc ich odporność na nadużycia staje się odrębnym problemem bezpieczeństwa. Red teaming z użyciem zaawansowanego modelu ma pomagać wykrywać takie luki, zanim wykorzysta je ktoś niepowołany.

Szczegółów dotyczących terminu startu, skali programu ani zakresu współpracy nie podano.

Aplikacje warte uwagi

SUMO: łamigłówka liczbowa

Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.

Tagi:ciscoclaude mythosred teamingai agentsai security

Więcej z tego dnia

Zobacz wszystkie →

Więcej w kategorii: Bezpieczeństwo

Zobacz wszystkie →