Osegi
Bezpieczeństwo·1 min czytania

Wyciek z Fireworks AI: czaty Notion AI w rękach hakera

Po ataku na Fireworks AI, dostawcę Notiona, wyciekły zapisy rozmów z Notion AI z niewielkiej liczby przestrzeni roboczych. Sprawdź, co zrobić.

A laptop showing a chat window with a red security warning icon over it, symbolising leaked AI chat transcripts.
Zdjęcie: Хабр
SUMODialoediviewergiftdetect

Jeśli rozmawiasz z Notion AI, część tych rozmów mogła trafić w niepowołane ręce, i to nie przez błąd samego Notiona. Wyciek wynika z włamania do Fireworks AI, firmy dostarczającej infrastrukturę dla sztucznej inteligencji. Zapisy czatów z niewielkiej liczby przestrzeni roboczych zostały ujawnione.

Wszystko zaczęło się 23 października, gdy atakujący dostał się do środowiska deweloperskiego Fireworks przez zewnętrznego dostawcę chmury. Skompromitowane zostały metadane zasobów, dane płatnicze, wagi modeli i zbiory danych części klientów. Na początku października Fireworks miało już podobny incydent: ktoś zdobył zmienne środowiskowe z kluczami API i tokenami kilku kont.

Notion dowiedziało się o sprawie 2 listopada. Fireworks przysłało zawiadomienie o ujawnieniu zbioru danych, który rzekomo zawierał wyłącznie syntetyczne dane testowe. Notion zablokowało przesyłanie danych do dostawcy, usunęło wszystko z jego systemów i do 3 listopada zatrzymało trenowanie modeli. Dopiero 8 listopada Fireworks potwierdziło, że doszło do dostępu do danych klientów, także użytkowników Notiona.

Jakie dane wyciekły z Notion AI?

Fireworks obsługuje niektóre modele o otwartych wagach dostępne w Notion AI. Analizuje też zapisane rozmowy na potrzeby funkcji Insights, która pokazuje administratorom, jak zespoły korzystają z AI. Wyciekły właśnie zapisy używane przez Insights, a sama funkcja jest teraz wyłączona.

Według Notiona czaty nie wskazywały, kto je prowadził ani z jakiej przestrzeni roboczej pochodzą, i nie zawierały wyników wywołań narzędzi. Firma przypomina, że umowa zobowiązywała Fireworks do niezachowywania danych Notiona.

Co zrobić, jeśli dotyczy to ciebie?

Incydent objął mniej niż 1% użytkowników. Właściciele przestrzeni roboczych powinni zajrzeć do sekcji „Security incident review” w wersji Notiona na komputer i przekazać członkom link do pobrania własnych zapisów rozmów.

Osoby objęte incydentem powinny zmienić hasła, klucze API i inne dane uwierzytelniające, które wpisywały w czatach. Jeśli ani ty, ani właściciel przestrzeni nie dostaliście powiadomienia, według Notiona nie trzeba nic robić.

Aplikacje warte uwagi

SUMO: łamigłówka liczbowa

Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.

Tagi:notionnotion aifireworks aidata breachai security

Więcej z tego dnia

Zobacz wszystkie →

Więcej w kategorii: Bezpieczeństwo

Zobacz wszystkie →