Meta приостановила ссылки в ИИ-агенте Muse из-за утечки чатов

Meta приостановила функцию обмена ссылками в Muse, своём новом универсальном ИИ-агенте. Исследователи по безопасности показали, что общие диалоги могут найти люди, которым ссылку никто не давал. Компания изучает проблему и рассматривает изменения.

Как пишет WIRED, публикуя материал Ars Technica, специалисты охранной фирмы Claroc составили список из 6800 ссылок на общие диалоги. Открыв несколько сотен, они увидели явно непубличные данные: заметки кандидата к конфиденциальному разговору о найме топ-менеджера, внутренний отчёт о выручке для гендиректора, заявку на кредит малого бизнеса с суммой, предупреждение банка о мошенничестве с частью номера счёта, отчёт инвестора в недвижимость с адресами и ипотечными цифрами. Нашёлся и годовой график отпусков сотрудников. «Хватило одного запроса», — написали исследователи.

Почему ссылки удалось найти

Все ссылки Muse находятся в домене cf.metaaiusercontent.com, а название диалога вынесено в поддомен перед длинной случайной строкой. Службы пассивного DNS фиксируют разрешение имён, когда кто-то открывает ссылку, и поддомены становятся доступными для поиска. Claroc называет такие страницы «GhostShares». Именно размещение заголовка в поддомене, а не в пути URL, делает их общедоступными для поиска.

Сооснователь и технический директор Claroc Асаф Апрозпер сообщил, что отправил отчёт через программу bug bounty Meta 8 октября и пытался связаться с сотрудниками компании в LinkedIn, но ответа не получил. Meta заявила, что пользователи могут делиintsя отдельными материалами Muse по ссылке, но функция приостановлена на время проверки того, как эти ссылки можно обнаружить.

Вопрос доверия к Muse

Muse быстро поднялся в топ App Store. Агент заполняет формы, записывает на приём, совершает покупки и создаёт документы, а для этого ему нужен доступ к большинству аккаунтов пользователя. Марк Цукерберг в прошлом месяце заявил, что Muse создан с нуля с упором на приватность и безопасность.

Через три недели после запуска Патрик Уордл обнаружил уязвимость нулевого дня, позволявшую любому другому приложению на устройстве захватить аккаунт Muse. Meta преуменьшила опасность, сославшись на необходимость уже скомпрометированного устройства. После отключения обмена ссылками именно эта угроза пользователям пока не грозит.