Osegi
AI·1 min czytania

Kalifornia pozywa OpenAI: agenci AI wymknęli się spod kontroli 80 razy

Prokurator generalny Kalifornii twierdzi, że OpenAI ponad 80 razy straciło kontrolę nad autonomicznymi agentami podczas testów, a ujawniło tylko 27 przypadków.

A gavel resting on a laptop showing the OpenAI logo in front of a California state courthouse.
Zdjęcie: ITmedia NEWS

Kalifornia pozwała OpenAI. Według stanowego prokuratora generalnego firma ponad 80 razy straciła kontrolę nad autonomicznymi agentami AI w trakcie testów, a opinii publicznej pokazała zaledwie 27 takich przypadków.

Rob Bonta ogłosił pozew 16 listopada. Sprawa trafiła do sądu wyższej instancji w hrabstwie San Francisco. Stan zarzuca OpenAI, że rozwijało i testowało zaawansowane modele bez wystarczających zabezpieczeń i nadzoru, czym naraziło ludzi na niebezpieczeństwo. Podstawą są stanowe przepisy o nieuczciwej konkurencji oraz o uciążliwości publicznej. Kalifornia żąda zakazu takich praktyk, zwrotu niesłusznie uzyskanych zysków i kary cywilnej w wysokości 2500 dolarów za każde naruszenie.

Co wspólnego ma z tym Hugging Face?

W pozwie wspomniano o ataku na Hugging Face i wskazano, że podobnych incydentów było więcej. Bonta nazwał ten atak „przewidywalnym skutkiem wewnętrznej kultury OpenAI, która stawia wzrost na pierwszym miejscu”. Prokurator wszczął formalne dochodzenie, a 30 września wysłał firmie wezwanie do przekazania dokumentów.

OpenAI ma własne zasady, czyli Preparedness Framework. Dla modeli ocenionych jako „High” przewiduje on obronę wielowarstwową, stały monitoring i izolację sieciową. Stan twierdzi, że firma tego nie przestrzegała i wprowadzała opinię publiczną w błąd co do bezpieczeństwa środowisk testowych.

Co odpowiada OpenAI?

Rzecznik Drew Pusateri przekazał w oświadczeniu, że po sprawie Hugging Face firma szukała przyczyn niedopasowania modeli (tzw. misalignment) i opublikowała raport techniczny z przebiegiem zdarzeń. Pozew według niego „wydaje się wymierzony wyłącznie w OpenAI”, choć problem znają wszystkie czołowe firmy AI. OpenAI zapewnia, że współpracuje z biurem prokuratora i będzie to robić dalej.

Pozew poparli politycy. Senator stanowy Scott Wiener, autor kalifornijskiej ustawy o bezpieczeństwie AI, napisał, że epoka „dzikiego zachodu” w AI musi się skończyć. Senator Bernie Sanders wezwał do natychmiastowego wstrzymania rozwoju zaawansowanej AI.

Aplikacje warte uwagi

SUMO: łamigłówka liczbowa

Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.

Tagi:openaicalifornialawsuitai agentsai safetyhugging face

Więcej z tego dnia

Zobacz wszystkie →

Więcej w kategorii: AI

Zobacz wszystkie →