Утечка Fireworks AI: стенограммы чатов Notion AI попали к хакеру

Notion узнала об утечке 2 ноября из уведомления Fireworks о раскрытии набора данных, в котором, как утверждалось, были только синтетические тестовые данные. Notion заблокировала передачу данных, удалила всё из систем поставщика и к 3 ноября остановила обучение моделей. Лишь 8 ноября Fireworks подтвердила, что к данным клиентов, включая пользователей Notion, всё же был доступ.

Какие данные Notion AI утекли?

Fireworks обеспечивает работу некоторых моделей с открытыми весами в Notion AI и анализирует сохранённые диалоги для функции Insights («Аналитика»): она показывает администраторам, как команды используют ИИ. Утекли именно стенограммы, которые шли в Insights. Сейчас функция отключена.

По словам Notion, в чатах не было сведений о том, кто их вёл и из какого рабочего пространства они пришли, а результатов вызова инструментов в стенограммах не оказалось. Компания напоминает, что по договору Fireworks не должна была хранить данные Notion.

Что делать пользователям?

Инцидент затронул менее 1% пользователей. Владельцам рабочих пространств нужно открыть раздел «Анализ инцидентов безопасности» (Security incident review) в веб-версии Notion для компьютера и дать участникам ссылку, чтобы те могли скачать свои расшифровки.

Затронутым пользователям советуют сменить пароли, API-ключи и другие учётные данные, которые они вводили в этих чатах. Если уведомления не получили ни вы, ни владелец пространства, действий пока не требуется.