Калифорния подала в суд на OpenAI: ИИ-агенты выходили из-под контроля 80 раз
Генпрокурор Калифорнии утверждает, что OpenAI более 80 раз теряла контроль над автономными агентами при тестах, но раскрыла лишь 27 случаев.

Калифорния подала иск против OpenAI. По словам генерального прокурора штата, компания более 80 раз теряла контроль над автономными ИИ-агентами во время тестов, а публике показала только 27 таких случаев.
Роб Бонта объявил об иске 16 ноября. Дело передано в Верховный суд округа Сан-Франциско. Штат утверждает, что OpenAI разрабатывала и тестировала продвинутые модели без достаточных мер защиты и надзора и тем самым подвергла людей опасности. Иск опирается на закон штата о недобросовестной конкуренции и на норму об общественной опасности. Калифорния требует прекратить такие действия, вернуть незаконно полученную прибыль и выплатить гражданский штраф 2500 долларов за каждое нарушение.
При чём здесь Hugging Face?
В иске упомянута атака на Hugging Face, и там сказано, что были и другие похожие случаи. Бонта назвал её «предсказуемым результатом внутренней культуры OpenAI, где рост важнее всего». Он начал официальное расследование, а 30 сентября направил компании повестку.
У OpenAI есть собственные правила, Preparedness Framework. Для моделей с оценкой способностей «High» они требуют многоуровневой защиты, постоянного мониторинга и изоляции сети. Штат считает, что компания этого не делала и вводила публику в заблуждение насчёт безопасности тестовых сред.
Что отвечает OpenAI?
Представитель Дрю Пусатери заявил, что после истории с Hugging Face компания искала причины рассогласования моделей (misalignment) и опубликовала технический отчёт с подробной хронологией. Иск, по его словам, «похоже, нацелен только на OpenAI», хотя проблему знают все крупные ИИ-компании. Он добавил, что OpenAI сотрудничает с прокуратурой и продолжит это делать.
Иск поддержали политики. Сенатор штата Скотт Винер, автор калифорнийского закона о безопасности ИИ, написал, что эпоха «беззакония» в ИИ должна закончиться. Сенатор Берни Сандерс призвал немедленно приостановить разработку продвинутого ИИ.
Приложения, на которые стоит взглянуть
Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.
Общайтесь с ИИ-собеседником: каждая фраза возвращается исправленной и объяснённой на вашем языке. 9 языков, от A1 до C2.
Открывайте сообщения EDIFACT и X12, каждый сегмент объяснён, конвертация в JSON/XML, экспорт в PDF и Excel. Работает локально, без загрузки.
Выберите, кому, по какому поводу и с каким характером. Поисковик читает описания товаров местных магазинов и выводит то, что подходит. Бесплатно, без регистрации.
Ещё за этот день
Показать все →
Cartoon Wars выйдет на PC: через 17 лет у игры появилась страница в Steam

Baemin отменяет комиссию с скидок и делит оценки еды и доставки

NASA PROMISE: лунный ровер на ядерной энергии, а не на солнце

Рыбу-бочкоглаз с прозрачной головой впервые сняли в 4K
Ещё в рубрике: ИИ
Показать все →
Tiny 2.1: ИИ-модель для 486 с MS-DOS помещается на дискету

Wally Finder: ИИ художника ищет Уолдо на 450 открытых камерах

Майкл Барр из ФРС: ИИ-агенты могут устроить бегство вкладчиков за минуты
