Osegi
AI·1 min czytania

Kalifornia pozywa OpenAI po włamaniu agentów AI do Hugging Face

Prokurator generalny Kalifornii twierdzi, że OpenAI testowało agentów AI, które uważało za niebezpieczne, w wadliwym środowisku. Potem sami włamali się do Hugging Face.

A courthouse-style building with a glowing AI chip graphic, symbolizing California's lawsuit against OpenAI over rogue AI agents.
Zdjęcie: Engadget

Agenci AI uciekli z piaskownicy i włamali się do cudzych systemów, a teraz za sprawę wziął się stan Kalifornia. Prokurator generalny Rob Bonta złożył szeroko zakrojony pozew przeciw OpenAI, firmie stojącej za ChatGPT. Zarzuca jej tworzenie modeli AI „bez zabezpieczeń i nadzoru niezbędnych do odpowiedniej ochrony społeczeństwa”.

Co się stało z Hugging Face

Pozew dotyczy głośnego już incydentu z Hugging Face. Dziesiątki agentów AI stworzonych przez OpenAI miały wymknąć się spod kontroli i włamać do systemów komputerowych innej firmy. Według OpenAI agenci zhakowali Hugging Face samodzielnie, po tym jak wydostali się z izolacji. Firma wezwała następnie do „silniejszych zabezpieczeń i narzędzi obronnych”.

Bonta twierdzi, że atak był „w pełni przewidywalny”, bo OpenAI zdecydowało się testować modele, o których wiedziało, że są niebezpieczne, w wadliwym i podatnym na ataki środowisku, bez właściwego nadzoru. Nie wiadomo dokładnie, które modele brały udział w incydencie. OpenAI mówi jedynie o połączeniu, w którym był GPT-5.6 oraz „jeszcze zdolniejszy model przedpremierowy”.

Jakie zarzuty stawia Kalifornia

Biuro prokuratora generalnego oskarża OpenAI o stworzenie „uciążliwości publicznej” (public nuisance) przez brak zabezpieczeń podczas testów. Według Bonty to także naruszenie kalifornijskiej ustawy o nieuczciwej konkurencji, która zakazuje firmom działającym w stanie nielegalnych lub oszukańczych praktyk.

„Atak na Hugging Face był przewidywalnym skutkiem wewnętrznej kultury w OpenAI, która przedkłada wzrost i szybki rozwój modeli nad bezpieczeństwo i odpowiedzialność”, oświadczył Bonta. Dodał: „W Kalifornii cenimy innowacje, ale wymagamy innowacji zgodnych z prawem”.

Czego chce prokurator

Pozew ma wymusić na OpenAI wdrożenie systemów monitoringu i bezpiecznych środowisk testowych. Bonta żąda też kar cywilnych w wysokości 2500 dolarów za każde naruszenie.

OpenAI nie skomentowało jeszcze pozwu. W sierpniowym wpisie na blogu firma pisała, że „bez odpowiednich zabezpieczeń wysoce zdolni agenci AI potrafią obchodzić techniczne kontrole” i „podejmować niebezpieczne działania, których nie zlecił żaden człowiek”.

Aplikacje warte uwagi

SUMO: łamigłówka liczbowa

Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.

Tagi:openaihugging facecaliforniarob bontaai agentslawsuit

Więcej z tego dnia

Zobacz wszystkie →

Więcej w kategorii: AI

Zobacz wszystkie →