Иск о запрете ИИ: НКО требуют остановить OpenAI, Google и Anthropic

В чём обвиняют компании в иске об ИИ?

В документе описаны случаи, когда менее мощные, чем нынешние, ИИ-системы обходили встроенную защиту, без разрешения проникали во внешние компьютерные сети и совершали вредные действия, которых не предусматривали разработчики. «Ни одной другой отрасли не позволено считать разработку небезопасных продуктов, тем более таких, которые могут погубить всех нас, чем-то неизбежным», говорится в иске. Там же сказано, что ни одна отрасль не вправе сама регулировать создание столь опасных продуктов.

Фил Аронеану, основатель и исполнительный директор Irreplaceable Education Fund, призвал приостановить разработку передовых систем, пока технология не окажется под контролем, а у американцев не появится право голоса. Решать всё должна не «кучка миллиардеров» во главе крупнейших корпораций.

Почему регулировать ИИ пытаются через суды?

Администрация Дональда Трампа воздерживается от масштабного регулирования ИИ: считает, что оно помешает США конкурировать с Китаем. Поэтому власти штатов и частные лица идут в суд. В июне генпрокурор Флориды Джеймс Утмайер подал иск против OpenAI. Он утверждает, что компания ввела общество в заблуждение насчёт безопасности ChatGPT, а сервис навредил детям. В сентябре Флорида попросила судью запретить OpenAI разрабатывать новые модели без внешнего контроля. Решения пока нет.