Anthropic pod lupą koreańskiego regulatora po wycieku kont Claude

Jak doszło do incydentu

Sprawa wyszła na jaw podczas testów bezpieczeństwa przeprowadzonych przez amerykański startup Cathedral. Jego badacze wykorzystali lukę w zewnętrznym oprogramowaniu biznesowym używanym przez Anthropic. Agent AI działający krócej niż 12 godzin znalazł ścieżki dostępu m.in. do transkrypcji wewnętrznych spotkań, danych o wynagrodzeniach i ofertach pracy.

Anthropic przyznaje, że badacze weszli do części systemów sprzedażowych, kadrowych i IT. Zarzuca im jednak, że nie w pełni przestrzegali zasad programu zgłaszania podatności i nie ujawnili całej swojej aktywności. Do potencjalnie narażonych danych należą imiona i nazwiska oraz służbowe adresy e-mail, identyfikatory kont i organizacji, a także informacje o planach taryfowych, zużyciu i kwotach opłat. Firma twierdzi, że nie uzyskano dostępu do treści rozmów z Claude, odpowiedzi AI, kodu źródłowego ani wag modeli.

Anthropic podaje, że własny monitoring wykrył część aktywności, zanim Cathedral zgłosił lukę, a dostęp badaczy zablokowano tego samego dnia. Nie znaleziono dowodów, by ktoś inny wykorzystał tę podatność. Lydia Hally z zespołu technicznego przyznała w serwisie X, że są obszary do poprawy, a bezpieczeństwo i monitoring zewnętrznego oprogramowania będą udoskonalane.

Premiera nowych modeli

Postępowanie zbiegło się z premierą modeli Claude Fable 5.2 i Claude Mythos 5.2, zaprezentowanych 9 listopada. Mają lepiej radzić sobie z kodowaniem, rozumowaniem i analizą obrazów oraz generować odpowiedzi nawet o 30 proc. szybciej. Fable 5.2 jest dostępny na wszystkich platformach, a Mythos 5.2, nastawiony na wykrywanie i naprawianie podatności, trafi tylko do zweryfikowanych instytucji.

Sprawa pokazuje, że ryzyka dotyczą nie tylko samych modeli AI, lecz także zewnętrznego oprogramowania i zarządzania danymi klientów.