Osegi
Sicherheit·2 Min. Lesezeit

Notion AI: Chatprotokolle bei Dienstleister Fireworks AI gestohlen

Notion bestätigt: Nach einem Einbruch beim Dienstleister Fireworks AI wurden Gesprächsprotokolle mit Notion AI gestohlen. Weniger als 1 % der Workspaces sind betroffen.

Notion logo on a screen with a padlock and a broken chat bubble symbolizing leaked AI conversations.
Bild: Numerama
SUMODialoediviewergiftdetect

Notion hat bestätigt, dass Transkripte von Unterhaltungen zwischen Nutzern und Notion AI in die Hände von Hackern geraten sind. Die Ursache liegt nicht in den Systemen von Notion selbst, sondern in einem Einbruch bei Fireworks AI, einem Zulieferer des Unternehmens. Laut einer Mitteilung vom 9. November 2026 könnten weniger als 1 % der Workspaces betroffen sein.

Wie die Daten abflossen

Fireworks AI ist eine US-Plattform, die KI-Modelle für andere Firmen betreibt. Notion nutzte sie, um Open-Weight-Modelle anzubieten und um Gespräche mit Notion AI zu klassifizieren. Diese Einordnung speiste Insights, eine Funktion, mit der Unternehmen sehen, wie ihre Teams KI einsetzen. Fireworks zufolge ähnelt der Angriff „LLMjacking“: Kriminelle verkaufen dabei den Zugang zu gekaperten KI-Modellen weiter.

Am 9. Oktober teilte Fireworks mit, ein Dritter habe mit internen Zugangsdaten Umgebungsvariablen ausgelesen, die oft Zugriffsschlüssel enthalten, und zwar bei einer begrenzten Zahl von Kundenkonten. Notion kappte vorsorglich alle Verbindungen zum Dienstleister. Am 6. November meldete Fireworks, möglicherweise seien auch Kundendaten abgerufen worden, und bestätigte das zwei Tage später.

Bei der Auswertung fand Notion Gespräche, die für Insights übermittelt worden waren. Bei den meisten betroffenen Workspaces enthalten sie weder den Namen des Autors noch den Ursprungs-Workspace, ebenso wenig Tool-Ergebnisse, also die Dokumentauszüge, die die KI zur Beantwortung heranzieht.

Warum es trotzdem heikel ist

Der Inhalt allein kann genügen, um Personen zu identifizieren. Notion räumt ein, dass nichts eine Unterhaltung mit einem Nutzer verknüpft, „außer dem, was das Transkript selbst enthält“. Wer einen Kundennamen, einen Vertrag oder einen API-Schlüssel in den Chat kopiert hat, lässt sich darüber womöglich zuordnen.

Notion rät deshalb, die Daten als offengelegt zu behandeln. Wer in dem Zeitraum Passwörter, API-Schlüssel oder andere Zugangsdaten in Notion AI eingefügt hat, sollte sie sofort ändern.

Das Unternehmen hat Insights ausgesetzt und nutzt Fireworks nicht mehr für Open-Weight-Modelle. Workspace-Inhaber sehen die betroffenen Daten nur am Desktop über das „?“-Menü in der Seitenleiste und „Security incident review“.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:notionnotion aifireworks aidata breachllmjackinginsights

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: Sicherheit

Alle anzeigen →