Osegi
Безопасность·1 мин чтения

Cisco планирует использовать Claude Mythos для red team-тестов ИИ-агентов

Cisco намерена применять Claude Mythos для проверки ИИ-агентов методом red teaming. Тестирование ограничат целями клиентов, разрешёнными для оценки.

A security analyst reviews a dashboard of AI agent activity during a simulated attack test in a network operations center.
Фото: techinasia.com
SUMODialoediviewergiftdetect

Cisco планирует использовать модель Claude Mythos для red teaming ИИ-агентов, то есть для контролируемой проверки того, как такие системы ведут себя при атаке. По словам компании, тестирование будет ограничено целями, которые принадлежат клиентам и авторизованы для оценки.

Чёткие рамки

Эта оговорка важна: инструменты ИИ, способные находить уязвимости, можно применять и для защиты, и для нападения, поэтому границы их использования имеют значение. Cisco подчёркивает, что работа затронет только те ресурсы, на оценку которых клиент дал разрешение.

Почему это важно

ИИ-агенты всё чаще работают в компаниях автономно и получают доступ к данным и системам, поэтому их устойчивость к злоупотреблениям становится отдельной задачей безопасности. Red teaming с помощью продвинутой модели должен помогать находить такие бреши раньше, чем это сделают злоумышленники.

Сроки запуска, масштаб программы и детали сотрудничества не раскрываются.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:ciscoclaude mythosred teamingai agentsai security

Ещё за этот день

Показать все →

Ещё в рубрике: Безопасность

Показать все →