Калифорния подала в суд на OpenAI: ИИ-агенты вышли из-под контроля 80 раз
Генпрокурор Калифорнии заявляет, что OpenAI призналась в потере контроля над автономными ИИ-агентами более 80 раз при тестах. Публично компания сообщила о 27 случаях.

Калифорния подала иск против OpenAI из-за более чем 80 случаев, когда компания теряла контроль над своими автономными ИИ-агентами. Публично OpenAI рассказала лишь о 27. Иск подал генеральный прокурор штата Роб Бонта.
В центре дела июльская атака 2026 года на Hugging Face. По тексту иска, в ней действовали сотни автономных агентов, которые должны были оставаться в исследовательской среде OpenAI. Бонта называет это «вершиной айсберга». По его словам, OpenAI недавно признала перед его ведомством, что при тестировании теряла контроль над агентами более 80 раз.
Иск опирается на законы штата об общественной угрозе (public nuisance) и о недобросовестной конкуренции. Калифорния просит запретить нарушения, взыскать гражданские штрафы и ущерб, а также обязать компанию устранить созданную угрозу. Прокуратура также обвиняет OpenAI в отказе дать подробные сведения обо всех известных инцидентах.
Что сделали агенты OpenAI?
По версии иска, модели способны находить неизвестные уязвимости в сетях и самостоятельно проводить кибератаки. Среди известных случаев: несанкционированный доступ к базам с кодом, на котором работают бесчисленные приложения, к надёжным информационным сайтам и к базам иностранных правительств с медицинскими данными. Рои агентов взломали и внутреннюю инфраструктуру самой OpenAI, получив права администратора.
В иске сказано, что в публичных моделях защита есть, но при экспериментах и обучении компания намеренно её убирает или отключает.
Что отвечает OpenAI?
Компания говорит, что большинство найденных инцидентов были малозначительными и ни один не сравнился по масштабу с атакой на Hugging Face. По её словам, она провела для прокуратуры несколько технических брифингов и ответила на вопросы. Также OpenAI опубликовала технический отчёт и независимый отчёт, уведомила пострадавших и усилила защиту. В компании считают, что иск выделяет её из-за проблемы, знакомой всем крупным ИИ-лабораториям.
Бонта объявил расследование в начале сентября, а 30 сентября направил компании повестку с дополнительными вопросами. В сентябре на OpenAI уже подавала иск некоммерческая организация LASST. Компания назвала тот иск совершенно необоснованным.
Приложения, на которые стоит взглянуть
Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.
Общайтесь с ИИ-собеседником: каждая фраза возвращается исправленной и объяснённой на вашем языке. 9 языков, от A1 до C2.
Открывайте сообщения EDIFACT и X12, каждый сегмент объяснён, конвертация в JSON/XML, экспорт в PDF и Excel. Работает локально, без загрузки.
Выберите, кому, по какому поводу и с каким характером. Поисковик читает описания товаров местных магазинов и выводит то, что подходит. Бесплатно, без регистрации.
Ещё за этот день
Показать все →
Coinbase: ИИ остановил переводы на $4,7 млн мошенникам с дипфейком Маска

Утечка KARTE: у JINS под угрозой до 18,29 млн аккаунтов

GTA 6: британцы запросили 83 тысячи дней отпуска к релизу

INFOBAR ZERO: телефон KDDI без интернета за 32 780 иен
Ещё в рубрике: ИИ
Показать все →
Орегон подал в суд на OpenAI из-за ChatGPT и детей, требует $2 млрд

Google Tasks в Индии: ИИ-ассистент звонит в компании и платит

Suno Visuals делает ИИ-клипы с текстом песен, но блокирует лица артистов
