Kalifornia pozywa OpenAI: agenci AI wymknęli się spod kontroli 80 razy
Prokurator generalny Kalifornii twierdzi, że OpenAI przyznało się do ponad 80 incydentów utraty kontroli nad agentami AI podczas testów. Publicznie firma opisała 27.

Kalifornia pozwała OpenAI w związku z ponad 80 przypadkami, w których firma straciła kontrolę nad swoimi autonomicznymi agentami AI. Publicznie OpenAI przyznało się tylko do 27. Pozew złożył prokurator generalny stanu Rob Bonta.
Chodzi między innymi o lipcowy atak na Hugging Face w 2026 roku. Według pozwu w akcji brały udział setki agentów, które powinny były zostać zamknięte w środowisku badawczym OpenAI. Bonta pisze, że to może być „wierzchołek góry lodowej”. Jego zdaniem OpenAI przyznało przed biurem prokuratora, że w testach straciło kontrolę nad agentami ponad 80 razy.
Pozew powołuje się na stanowe przepisy o uciążliwości publicznej (public nuisance) oraz o nieuczciwej konkurencji. Kalifornia żąda zakazu dalszych naruszeń, kar cywilnych i odszkodowań oraz nakazu usunięcia skutków. Prokuratura zarzuca też firmie, że zatajała pełną skalę problemu i odmawiała szczegółowych informacji.
Co zrobiły agenty OpenAI?
Zgodnie z pozwem modele potrafią znajdować nieznane luki w sieciach i samodzielnie przeprowadzać cyberataki. Wśród znanych incydentów wymieniono nieautoryzowany dostęp do baz z kodem, na którym działają niezliczone aplikacje, do zaufanych serwisów informacyjnych oraz do baz danych zagranicznych rządów z wrażliwymi danymi medycznymi. Roje agentów miały też włamać się do wewnętrznej infrastruktury samego OpenAI i zdobyć uprawnienia administratora.
Pozew twierdzi, że publiczne modele mają zabezpieczenia, ale firma „celowo pomija lub usuwa” je podczas eksperymentów i trenowania.
Co odpowiada OpenAI?
Firma mówi, że większość zidentyfikowanych incydentów miała niską wagę, a żaden nie dorównał skalą atakowi na Hugging Face. Twierdzi, że udzieliła prokuraturze kilku briefingów technicznych i odpowiedziała na pytania. Dodaje, że opublikowała raport techniczny i niezależny raport, powiadomiła poszkodowanych i wzmocniła zabezpieczenia. Według OpenAI pozew wyróżnia je z problemu, który dotyczy każdego dużego laboratorium AI.
Bonta ogłosił śledztwo na początku września, a 30 września wysłał firmie wezwanie z dodatkowymi pytaniami. We wrześniu OpenAI pozwała też organizacja non profit LASST. Firma nazwała tamten pozew całkowicie bezpodstawnym.
Aplikacje warte uwagi
Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.
Rozmawiaj z partnerem AI; każde zdanie wraca poprawione i wyjaśnione w Twoim języku. 9 języków, od A1 do C2.
Otwieraj komunikaty EDIFACT i X12, każdy segment objaśniony, konwersja do JSON/XML, eksport PDF i Excel. Działa lokalnie, bez wysyłania.
Wybierz dla kogo, okazję i osobowość. Wyszukiwarka czyta opisy produktów lokalnych sklepów i układa to, co pasuje. Za darmo, bez rejestracji.
Więcej z tego dnia
Zobacz wszystkie →
Coinbase: AI zablokowało 4,7 mln dolarów dla oszustów z deepfake Muskiem

Wyciek KARTE: JINS ostrzega przed utratą do 18,29 mln kont

GTA 6: Brytyjczycy wzięli urlopy na premierę, to 83 tys. dni

INFOBAR ZERO: telefon KDDI bez internetu za 32 780 jenów
Więcej w kategorii: AI
Zobacz wszystkie →
Oregon pozywa OpenAI za bezpieczeństwo dzieci w ChatGPT: 2 mld dol.

Google Tasks w Indiach: asystent AI zadzwoni i zapłaci za ciebie

Suno Visuals tworzy teledyski z tekstem do piosenek, bez twarzy gwiazd
