Fireworks AI: wyciek danych i rozmowy z Notion AI w rękach hakerów

Fireworks chwali się dziesiątkami tysięcy klientów na świecie, wśród nich są firma prawnicza z branży technologicznej Harvey i Cursor.

Notion: transkrypty z funkcji Insights

Potwierdzonym poszkodowanym jest Notion, edytor dokumentów i notatnik online. Firma poinformowała, że incydent dotknął około 1 proc. jej klientów. Fireworks najpierw ostrzegło Notion o incydencie, a później potwierdziło, że napastnicy wykradli dane klientów Notion.

Trzeciego listopada Notion odłączyło swoje systemy od Fireworks, usunęło dane przechowywane u siebie i całkowicie przerwało łączność między oba serwisami. W tym tygodniu firma potwierdziła, że hakerzy zdobyli zapisy rozmów klientów Notion AI, którzy korzystali z funkcji „Insights”. Transkrypty obejmują „każde dane wejściowe i wyjściowe modelu zapisane w czacie”. Notion zaznaczyło jednak, że znaczna część danych jest nieprzypisana i nie da się ustalić, od którego klienta pochodzi.

Po co komu takie dane?

Fireworks uważa, że za atakiem stoją osoby działające dla pieniędzy. Chodzi im o sprzedaż tokenów, czyli dostępu do dużych modeli językowych (LLM) zdobytego dzięki włamaniu. Kupują je osoby trzecie bez uprawnień, które mogą zużywać moc modeli, nie płacąc za własne zasoby.

Sprawa pokazuje, jak mocno firmy technologiczne polegają na innych dostawcach. Gdy zawiedzie jedno ogniwo, skutki spływają na klientów klientów. Poprzedni incydent w Fireworks miał miejsce w październiku.