Anthropic: ИИ-агенты стартапа Cathedral получили доступ к системам

Anthropic подтвердила, что ИИ-агенты стартапа Cathedral получили доступ к части внутренних систем компании. Нейросети искали уязвимости в рамках программы, за участие в которой Anthropic обещала награду в $10 тыс.

В распоряжении агентов оказались сообщения сотрудников, расшифровки встреч, данные о зарплатах и сведения о некоторых клиентах. При этом Anthropic заявила, что переписка пользователей с Claude и исходный код моделей не утекли.

Как проходила проверка

Cathedral подключилась к инициативе 26 октября 2026 года. Стартап использовал нейросети для поиска уязвимостей в стороннем программном обеспечении, которое Anthropic применяла в работе отдела продаж.

За 12 часов агенты добрались до внутренней переписки сотрудников, включая сообщения о передовых ИИ-моделях. Также стали доступны расшифровки корпоративных встреч, информация о зарплатах, открытых вакансиях и клиентах. По словам Anthropic, попытки получить доступ к системам продолжались несколько дней.

Награда под вопросом

Anthropic временно отключила уязвимое ПО, чтобы устранить ошибки. В компании считают, что действия Cathedral существенно вышли за рамки согласованной программы: нейросети стартапа атаковали сторонние приложения, а не ограничились системами, предоставленными для тестирования.

Anthropic не раскрыла, получит ли Cathedral обещанные $10 тыс.

История показывает, насколько сложно задавать границы автономным ИИ-агентам в тестах безопасности. Программы bug bounty опираются на чётко очерченный периметр, а самостоятельно работающие системы способны выходить за него быстрее, чем успеет вмешаться человек.