ИИ-агент Meta Muse показывал сотрудникам чужие банковские балансы
ИИ-агент Meta Muse на внутренних тестах путал аккаунты и показывал сотрудникам чужие банковские балансы, заказы и даже напоминание из Signal.

Вы спрашиваете ИИ-помощника о погоде, а он присылает балансы двух банковских счетов. Причём не ваших. По данным Reuters, именно так вёл себя Muse, ИИ-агент Meta, во время тестов.
Издание ссылается на внутреннюю переписку компании. Сотрудники Meta заметили, что Muse смешивает разговоры из разных аккаунтов и показывает личные данные других людей. Они предупредили, что это может грозить приватности пользователей.
По словам сотрудников, Muse показывал некоторым из них запросы на услуги по уходу за детьми, карьерные советы, о которых никто не просил, и заказы товаров, которых они не делали. Попадались и банковские балансы, не связанные с их аккаунтами. Один сотрудник рассказал, что во время разговора о погоде Muse сам прислал сообщение с балансами двух разных банковских счетов.
Напоминание из Signal на личном телефоне
Другая сотрудница пользовалась Muse на личном телефоне. Приложение напомнило ей, что нужно ответить сестре на сообщение в Signal. Она подчеркнула, что не давала Muse доступ к другим приложениям, и назвала случившееся серьёзным нарушением приватности.
Что ответила Meta
В компании говорят, что участие сотрудников в тестах и их отзывы важны для разработки продукта. По словам Meta, сотрудники используют версию Muse, отличную от публичной: в ней проверяют функции и поведение, которые ещё не доступны пользователям. Отзывы с тестов должны помочь улучшить меры безопасности и защиты приватности.
Muse вышел в сентябре и набрал больше 10 миллионов загрузок. Описанные случаи, судя по всему, относятся к тестовой версии, а не к публичной.
Приложения, на которые стоит взглянуть
Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.
Общайтесь с ИИ-собеседником: каждая фраза возвращается исправленной и объяснённой на вашем языке. 9 языков, от A1 до C2.
Открывайте сообщения EDIFACT и X12, каждый сегмент объяснён, конвертация в JSON/XML, экспорт в PDF и Excel. Работает локально, без загрузки.
Выберите, кому, по какому поводу и с каким характером. Поисковик читает описания товаров местных магазинов и выводит то, что подходит. Бесплатно, без регистрации.
Ещё за этот день
Показать все →
Гипотеза Римана: математик Anthropic заявил о доказательстве с Claude

Yuanchu No. 1: в Китае запустили аккумулятор в рукотворной пещере

Новые правила для курьеров: сервисы доставки просят до 2029 года



