Cisco chce użyć Claude Mythos do red teamingu agentów AI
Cisco planuje wykorzystać Claude Mythos do testów red teamingowych agentów AI. Badania mają obejmować wyłącznie cele należące do klientów i autoryzowane do oceny.

Cisco zamierza wykorzystać model Claude Mythos do red teamingu agentów AI, czyli do kontrolowanego sprawdzania, jak takie systemy zachowują się pod atakiem. Firma zapowiedziała, że testy zostaną ograniczone do celów należących do klientów, które zostały autoryzowane do oceny.
Wyraźne granice testów
To zastrzeżenie jest istotne. Narzędzia AI zdolne do wyszukiwania słabych punktów mogą służyć zarówno obronie, jak i atakowi, dlatego ramy ich użycia mają duże znaczenie. Według Cisco prace obejmą tylko zasoby, co do których klient wyraził zgodę na ocenę bezpieczeństwa.
Dlaczego to ważne
Agenci AI coraz częściej działają w firmach samodzielnie i mają dostęp do danych oraz systemów, więc ich odporność na nadużycia staje się odrębnym problemem bezpieczeństwa. Red teaming z użyciem zaawansowanego modelu ma pomagać wykrywać takie luki, zanim wykorzysta je ktoś niepowołany.
Szczegółów dotyczących terminu startu, skali programu ani zakresu współpracy nie podano.
Aplikacje warte uwagi
Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.
Rozmawiaj z partnerem AI; każde zdanie wraca poprawione i wyjaśnione w Twoim języku. 9 języków, od A1 do C2.
Otwieraj komunikaty EDIFACT i X12, każdy segment objaśniony, konwersja do JSON/XML, eksport PDF i Excel. Działa lokalnie, bez wysyłania.
Wybierz dla kogo, okazję i osobowość. Wyszukiwarka czyta opisy produktów lokalnych sklepów i układa to, co pasuje. Za darmo, bez rejestracji.
Więcej z tego dnia
Zobacz wszystkie →
Google Wallet z cyfrowymi kluczami do domu: NFC i UWB w smart zamkach

TSMC planuje zainwestować do 1 mld dolarów w Anthropic i OpenAI

Acecore, Supplya i Navidyn triumfują na TechCabal Battlefield

Airwallex zainwestuje w Singapurze ponad 1,6 mld dolarów w pięć lat
Więcej w kategorii: Bezpieczeństwo
Zobacz wszystkie →
Yasukuni: wyciek danych 14,5 tys. klientów sklepu internetowego

GMO Aozora Net Bank dwukrotnie wstrzymał bankowe API po ataku

Helix zastępuje captcha czterocyfrowym testem głosowym
