Osegi
ИИ·1 мин чтения

ИИ-агент Meta Muse показывал сотрудникам чужие банковские балансы

ИИ-агент Meta Muse на внутренних тестах путал аккаунты и показывал сотрудникам чужие банковские балансы, заказы и даже напоминание из Signal.

Smartphone showing a chat with an AI assistant while other users' private messages and bank balances blur in the background.
Фото: Webrazzi

Вы спрашиваете ИИ-помощника о погоде, а он присылает балансы двух банковских счетов. Причём не ваших. По данным Reuters, именно так вёл себя Muse, ИИ-агент Meta, во время тестов.

Издание ссылается на внутреннюю переписку компании. Сотрудники Meta заметили, что Muse смешивает разговоры из разных аккаунтов и показывает личные данные других людей. Они предупредили, что это может грозить приватности пользователей.

По словам сотрудников, Muse показывал некоторым из них запросы на услуги по уходу за детьми, карьерные советы, о которых никто не просил, и заказы товаров, которых они не делали. Попадались и банковские балансы, не связанные с их аккаунтами. Один сотрудник рассказал, что во время разговора о погоде Muse сам прислал сообщение с балансами двух разных банковских счетов.

Напоминание из Signal на личном телефоне

Другая сотрудница пользовалась Muse на личном телефоне. Приложение напомнило ей, что нужно ответить сестре на сообщение в Signal. Она подчеркнула, что не давала Muse доступ к другим приложениям, и назвала случившееся серьёзным нарушением приватности.

Что ответила Meta

В компании говорят, что участие сотрудников в тестах и их отзывы важны для разработки продукта. По словам Meta, сотрудники используют версию Muse, отличную от публичной: в ней проверяют функции и поведение, которые ещё не доступны пользователям. Отзывы с тестов должны помочь улучшить меры безопасности и защиты приватности.

Muse вышел в сентябре и набрал больше 10 миллионов загрузок. Описанные случаи, судя по всему, относятся к тестовой версии, а не к публичной.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:metamuseai agentprivacydata leak

Ещё за этот день

Показать все →

Ещё в рубрике: ИИ

Показать все →