Notion AI : des conversations exposées après le piratage de Fireworks AI

Que s'est-il passé chez Fireworks AI ?

Le 23 octobre, un pirate a accédé à un environnement de développement via un fournisseur cloud tiers. Des métadonnées de ressources, des informations de paiement, des poids de modèles et des jeux de données de certains clients ont été compromis. Début octobre, Fireworks avait déjà subi un incident comparable : des pirates avaient atteint des variables d'environnement contenant des clés d'API et des jetons pour un nombre limité de comptes.

Notion a appris la fuite des transcriptions le 2 novembre. Fireworks signalait alors un jeu de données exposé qui ne contiendrait que des données de test synthétiques. Notion a coupé les transferts vers Fireworks, fait supprimer toutes ses données chez le prestataire et arrêté l'entraînement des modèles dès le 3 novembre. Le 8 novembre, Fireworks a confirmé que des données de clients, dont celles d'utilisateurs de Notion, avaient bien été consultées.

Fireworks fait tourner certains modèles à poids ouverts de Notion AI et analyse les conversations enregistrées pour Insights, la fonction qui montre aux administrateurs comment leurs équipes utilisent l'IA. Ce sont ces transcriptions qui ont fuité ; Insights est désormais désactivée. Selon Notion, les chats n'indiquaient ni leur auteur ni leur espace de travail, et ne contenaient pas de résultats d'appels d'outils. Le contrat interdisait aussi à Fireworks de conserver ces données.

Que doivent faire les utilisateurs de Notion ?

Les propriétaires d'espaces de travail doivent ouvrir la section « Security incident review » dans la version web de Notion sur ordinateur. Ils peuvent y partager un lien permettant à chaque membre de télécharger ses propres transcriptions.

Les personnes concernées devraient changer leurs mots de passe, clés d'API et autres identifiants saisis dans ces chats. Sans notification, Notion estime qu'aucune action n'est nécessaire pour l'instant.