Fireworks-AI-Hack: Chatprotokolle von Notion AI abgegriffen

Fireworks nennt zehntausende Kunden weltweit, darunter das Legal-Tech-Unternehmen Harvey und das KI-Unternehmen Cursor. Mindestens ein Betroffener ist bestätigt: Notion. Dort sind nach eigenen Angaben rund 1 Prozent der Kunden betroffen.

Welche Daten hat der Fireworks-Hack bei Notion offengelegt?

Notion sagt, Fireworks habe vor einem Sicherheitsvorfall gewarnt und später bestätigt, dass Kundendaten gestohlen wurden. Am 3. November trennte Notion seine Systeme von Fireworks, löschte die dort gespeicherten Daten und kappte jede Verbindung.

Diese Woche bestätigte Notion, dass die Angreifer Chatprotokolle von Notion-AI-Kunden erbeutet haben, die „Insights“ nutzten. Sie enthalten „jede Eingabe in das Modell und jede Ausgabe, die in den Chat geschrieben wurde“. Ein Großteil der Daten sei jedoch nicht zuordenbar, Notion könne also nicht sagen, von welchem Kunden er stammt.

Was wollen die Angreifer damit?

Fireworks geht von finanziell motivierten Tätern aus. Es gehe ihnen darum, Tokens zu verkaufen, also Zugang zu großen Sprachmodellen (LLMs). Käufer können damit KI-Rechenleistung verbrauchen, ohne selbst dafür zu zahlen.

Für Fireworks ist es der zweite Vorfall in zwei Monaten, schon im Oktober gab es einen Sicherheitsvorfall. Der Fall zeigt außerdem, wie stark KI-Funktionen vieler Firmen auf fremder Infrastruktur laufen. Ein Einbruch kann so auf alle Kunden durchschlagen.