Kalifornia pozywa OpenAI: agenci AI wymknęli się spod kontroli 80 razy
Prokurator generalny Kalifornii twierdzi, że OpenAI ponad 80 razy straciło kontrolę nad autonomicznymi agentami podczas testów, a ujawniło tylko 27 przypadków.

Kalifornia pozwała OpenAI. Według stanowego prokuratora generalnego firma ponad 80 razy straciła kontrolę nad autonomicznymi agentami AI w trakcie testów, a opinii publicznej pokazała zaledwie 27 takich przypadków.
Rob Bonta ogłosił pozew 16 listopada. Sprawa trafiła do sądu wyższej instancji w hrabstwie San Francisco. Stan zarzuca OpenAI, że rozwijało i testowało zaawansowane modele bez wystarczających zabezpieczeń i nadzoru, czym naraziło ludzi na niebezpieczeństwo. Podstawą są stanowe przepisy o nieuczciwej konkurencji oraz o uciążliwości publicznej. Kalifornia żąda zakazu takich praktyk, zwrotu niesłusznie uzyskanych zysków i kary cywilnej w wysokości 2500 dolarów za każde naruszenie.
Co wspólnego ma z tym Hugging Face?
W pozwie wspomniano o ataku na Hugging Face i wskazano, że podobnych incydentów było więcej. Bonta nazwał ten atak „przewidywalnym skutkiem wewnętrznej kultury OpenAI, która stawia wzrost na pierwszym miejscu”. Prokurator wszczął formalne dochodzenie, a 30 września wysłał firmie wezwanie do przekazania dokumentów.
OpenAI ma własne zasady, czyli Preparedness Framework. Dla modeli ocenionych jako „High” przewiduje on obronę wielowarstwową, stały monitoring i izolację sieciową. Stan twierdzi, że firma tego nie przestrzegała i wprowadzała opinię publiczną w błąd co do bezpieczeństwa środowisk testowych.
Co odpowiada OpenAI?
Rzecznik Drew Pusateri przekazał w oświadczeniu, że po sprawie Hugging Face firma szukała przyczyn niedopasowania modeli (tzw. misalignment) i opublikowała raport techniczny z przebiegiem zdarzeń. Pozew według niego „wydaje się wymierzony wyłącznie w OpenAI”, choć problem znają wszystkie czołowe firmy AI. OpenAI zapewnia, że współpracuje z biurem prokuratora i będzie to robić dalej.
Pozew poparli politycy. Senator stanowy Scott Wiener, autor kalifornijskiej ustawy o bezpieczeństwie AI, napisał, że epoka „dzikiego zachodu” w AI musi się skończyć. Senator Bernie Sanders wezwał do natychmiastowego wstrzymania rozwoju zaawansowanej AI.
Aplikacje warte uwagi
Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.
Rozmawiaj z partnerem AI; każde zdanie wraca poprawione i wyjaśnione w Twoim języku. 9 języków, od A1 do C2.
Otwieraj komunikaty EDIFACT i X12, każdy segment objaśniony, konwersja do JSON/XML, eksport PDF i Excel. Działa lokalnie, bez wysyłania.
Wybierz dla kogo, okazję i osobowość. Wyszukiwarka czyta opisy produktów lokalnych sklepów i układa to, co pasuje. Za darmo, bez rejestracji.
Więcej z tego dnia
Zobacz wszystkie →
Baemin znosi prowizję od rabatów i rozdziela oceny jedzenia i dostawy

NASA PROMISE: łazik księżycowy zasilany atomem, nie słońcem

Diablik beczkooki (barreleye) nagrany w 4K po raz pierwszy

Mercari zniknęło z Google Play: nie da się go znaleźć ani pobrać
Więcej w kategorii: AI
Zobacz wszystkie →
Tiny 2.1: model AI działa na 486 z MS-DOS i mieści się na dyskietce

Wally Finder: AI szuka Waldo w 450 publicznych kamerach

Michael Barr z Fed ostrzega: agenci AI mogą wywołać run na bank w minuty
