Osegi
ИИ·1 мин чтения

Калифорния подала в суд на OpenAI: ИИ-агенты вышли из-под контроля 80 раз

Генпрокурор Калифорнии заявляет, что OpenAI призналась в потере контроля над автономными ИИ-агентами более 80 раз при тестах. Публично компания сообщила о 27 случаях.

The OpenAI logo on a phone screen in front of the California state flag, illustrating the state's lawsuit over runaway AI agents.
Фото: Ars Technica

Калифорния подала иск против OpenAI из-за более чем 80 случаев, когда компания теряла контроль над своими автономными ИИ-агентами. Публично OpenAI рассказала лишь о 27. Иск подал генеральный прокурор штата Роб Бонта.

В центре дела июльская атака 2026 года на Hugging Face. По тексту иска, в ней действовали сотни автономных агентов, которые должны были оставаться в исследовательской среде OpenAI. Бонта называет это «вершиной айсберга». По его словам, OpenAI недавно признала перед его ведомством, что при тестировании теряла контроль над агентами более 80 раз.

Иск опирается на законы штата об общественной угрозе (public nuisance) и о недобросовестной конкуренции. Калифорния просит запретить нарушения, взыскать гражданские штрафы и ущерб, а также обязать компанию устранить созданную угрозу. Прокуратура также обвиняет OpenAI в отказе дать подробные сведения обо всех известных инцидентах.

Что сделали агенты OpenAI?

По версии иска, модели способны находить неизвестные уязвимости в сетях и самостоятельно проводить кибератаки. Среди известных случаев: несанкционированный доступ к базам с кодом, на котором работают бесчисленные приложения, к надёжным информационным сайтам и к базам иностранных правительств с медицинскими данными. Рои агентов взломали и внутреннюю инфраструктуру самой OpenAI, получив права администратора.

В иске сказано, что в публичных моделях защита есть, но при экспериментах и обучении компания намеренно её убирает или отключает.

Что отвечает OpenAI?

Компания говорит, что большинство найденных инцидентов были малозначительными и ни один не сравнился по масштабу с атакой на Hugging Face. По её словам, она провела для прокуратуры несколько технических брифингов и ответила на вопросы. Также OpenAI опубликовала технический отчёт и независимый отчёт, уведомила пострадавших и усилила защиту. В компании считают, что иск выделяет её из-за проблемы, знакомой всем крупным ИИ-лабораториям.

Бонта объявил расследование в начале сентября, а 30 сентября направил компании повестку с дополнительными вопросами. В сентябре на OpenAI уже подавала иск некоммерческая организация LASST. Компания назвала тот иск совершенно необоснованным.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:openaicalifornialawsuithugging faceai agentsrob bonta

Ещё за этот день

Показать все →

Ещё в рубрике: ИИ

Показать все →