Anthropic проверяют в Южной Корее из-за утечки данных аккаунтов Claude

Как всё произошло

Инцидент выявился во время проверки безопасности, которую провёл американский стартап Cathedral. Его исследователи использовали уязвимость во внешнем бизнес-ПО, которым пользуется Anthropic. ИИ-агент, работавший менее 12 часов, нашёл пути к стенограммам внутренних встреч, данным о зарплатах сотрудников и информации о предложениях о работе.

Anthropic признаёт, что исследователи получили доступ к части систем продаж, HR и ИТ, но утверждает, что они не полностью соблюдали правила программы раскрытия уязвимостей и не рассказали обо всех своих действиях. Под угрозой могли оказаться имена и рабочие адреса электронной почты, идентификаторы корпоративных аккаунтов и организаций, тарифы, объём использования и суммы платежей. По словам компании, доступа к диалогам клиентов с Claude, ответам ИИ, исходному коду и весам моделей не было.

Anthropic сообщает, что собственный мониторинг обнаружил часть активности до того, как Cathedral уведомила об уязвимости, а доступ исследователей заблокировали в тот же день. Свидетельств того, что уязвимостью воспользовался кто-то ещё, не найдено. Лидия Хэлли из технической команды написала в X, что есть что улучшать, и компания продолжает совершенствовать защиту и мониторинг внешнего ПО.

Новые модели

Расследование совпало с выходом Claude Fable 5.2 и Claude Mythos 5.2, представленных 9 ноября. Заявлено улучшение в программировании, рассуждении и понимании изображений, а скорость вывода выросла до 30%. Fable 5.2 доступна на всех платформах, а Mythos 5.2, ориентированная на поиск и исправление уязвимостей, предоставляется только проверенным организациям.

Случай показывает, что риски связаны не только с самими ИИ-моделями, но и с внешним ПО и управлением данными клиентов.