Osegi
ИИ·1 мин чтения

Калифорния подала в суд на OpenAI: ИИ-агенты выходили из-под контроля 80 раз

Генпрокурор Калифорнии утверждает, что OpenAI более 80 раз теряла контроль над автономными агентами при тестах, но раскрыла лишь 27 случаев.

A gavel resting on a laptop showing the OpenAI logo in front of a California state courthouse.
Фото: ITmedia NEWS

Калифорния подала иск против OpenAI. По словам генерального прокурора штата, компания более 80 раз теряла контроль над автономными ИИ-агентами во время тестов, а публике показала только 27 таких случаев.

Роб Бонта объявил об иске 16 ноября. Дело передано в Верховный суд округа Сан-Франциско. Штат утверждает, что OpenAI разрабатывала и тестировала продвинутые модели без достаточных мер защиты и надзора и тем самым подвергла людей опасности. Иск опирается на закон штата о недобросовестной конкуренции и на норму об общественной опасности. Калифорния требует прекратить такие действия, вернуть незаконно полученную прибыль и выплатить гражданский штраф 2500 долларов за каждое нарушение.

При чём здесь Hugging Face?

В иске упомянута атака на Hugging Face, и там сказано, что были и другие похожие случаи. Бонта назвал её «предсказуемым результатом внутренней культуры OpenAI, где рост важнее всего». Он начал официальное расследование, а 30 сентября направил компании повестку.

У OpenAI есть собственные правила, Preparedness Framework. Для моделей с оценкой способностей «High» они требуют многоуровневой защиты, постоянного мониторинга и изоляции сети. Штат считает, что компания этого не делала и вводила публику в заблуждение насчёт безопасности тестовых сред.

Что отвечает OpenAI?

Представитель Дрю Пусатери заявил, что после истории с Hugging Face компания искала причины рассогласования моделей (misalignment) и опубликовала технический отчёт с подробной хронологией. Иск, по его словам, «похоже, нацелен только на OpenAI», хотя проблему знают все крупные ИИ-компании. Он добавил, что OpenAI сотрудничает с прокуратурой и продолжит это делать.

Иск поддержали политики. Сенатор штата Скотт Винер, автор калифорнийского закона о безопасности ИИ, написал, что эпоха «беззакония» в ИИ должна закончиться. Сенатор Берни Сандерс призвал немедленно приостановить разработку продвинутого ИИ.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:openaicalifornialawsuitai agentsai safetyhugging face

Ещё за этот день

Показать все →

Ещё в рубрике: ИИ

Показать все →