Notion AI: Chatverläufe nach Fireworks-AI-Hack offengelegt

Was ist beim Fireworks-AI-Hack passiert?

Am 23. Oktober verschaffte sich ein Angreifer über einen externen Cloud-Anbieter Zugang zu einer Entwicklungsumgebung. Kompromittiert wurden Metadaten von Ressourcen, Zahlungsinformationen, Modellgewichte und Datensätze einzelner Kunden. Schon Anfang Oktober hatte es bei Fireworks einen ähnlichen Vorfall gegeben: Hacker griffen auf Umgebungsvariablen mit API-Schlüsseln und Tokens einer begrenzten Zahl von Konten zu.

Von dem Leck der Chatprotokolle erfuhr Notion am 2. November. Fireworks hatte einen offengelegten Datensatz gemeldet, der angeblich nur synthetische Testdaten enthielt. Notion stoppte daraufhin die Datenübertragung, ließ alle Daten bei dem Anbieter löschen und beendete bis zum 3. November das Modelltraining. Am 8. November bestätigte Fireworks, dass doch auf Kundendaten zugegriffen wurde, auch auf solche von Notion-Nutzern.

Fireworks betreibt einige Open-Weight-Modelle in Notion AI und wertet gespeicherte Unterhaltungen für Insights aus. Diese Funktion zeigt Workspace-Admins, wie ihre Teams die KI nutzen. Genau diese Protokolle sind betroffen; Insights ist inzwischen abgeschaltet. Laut Notion verrieten die Chats weder, wer sie geführt hat, noch aus welchem Workspace sie stammen, und enthielten keine Ergebnisse von Tool-Aufrufen. Vertraglich habe Fireworks die Daten gar nicht speichern dürfen.

Was sollten Notion-Nutzer jetzt tun?

Workspace-Inhaber sollten in der Desktop-Webversion von Notion den Bereich „Security incident review“ öffnen. Dort können sie Mitgliedern einen Link geben, über den diese ihre eigenen Protokolle herunterladen.

Betroffene sollten Passwörter, API-Schlüssel und andere Zugangsdaten ändern, die sie in diesen Chats eingegeben haben. Wer keine Benachrichtigung erhalten hat, muss laut Notion vorerst nichts tun.