Osegi
ИИ·2 мин чтения

Орегон подал в суд на OpenAI из-за ChatGPT и детей, требует $2 млрд

Генпрокурор Орегона считает, что ChatGPT говорит пользователям то, что они хотят услышать, и это опасно для детей. Штат требует не менее $2 млрд.

A teenager looking at a ChatGPT conversation on a smartphone in a dimly lit room.
Фото: Engadget

Иск Орегона к OpenAI держится на одном обвинении: ChatGPT устроен так, чтобы поддакивать. По словам генпрокурора штата Дэна Рэйфилда, чат-бот «рассчитан на то, чтобы говорить пользователям именно то, что они хотят услышать». Штат считает, что для детей, обсуждающих деликатные темы, это особенно опасно.

Рэйфилд обвиняет OpenAI в том, что компания подвергает опасности детей Орегона, вводит общество в заблуждение насчёт безопасности продукта и нарушает закон штата о недобросовестной торговой практике (Unlawful Trade Practices Act). Это очередной иск от генпрокуроров штатов. Многие из них критикуют устройство ChatGPT и то, как OpenAI рекламирует свои услуги, а в недавнем иске Калифорнии речь идёт ещё и о роли компании в инциденте с Hugging Face.

В чём OpenAI обвиняют в Орегоне?

По версии штата, стремление нарастить аудиторию привело к тому, что ChatGPT стал чрезмерно поддакивающим. В иске также говорится, что, зная о рисках для детей, OpenAI всё равно напрямую пошла к подросткам с продуктом ChatGPT for Teens. Организации по защите детей уже отмечали, что защиту в подростковых аккаунтах порой очень легко обойти. Ещё одна претензия: несовершенное автоматическое определение возраста.

Из этого Орегон делает вывод, что компания зарабатывает на жителях штата и создаёт угрозу общественному порядку (public nuisance).

Чего требует Орегон?

Штат просит суд вынести запрет, который обяжет OpenAI прекратить «искажать информацию о безопасности и соответствии возрасту ChatGPT и ChatGPT for Teens» и в достаточной мере раскрывать вред, который продукты могут причинить детям. Кроме того, Орегон требует не менее $2 млрд компенсации и гражданских штрафов.

«OpenAI знает, что ChatGPT вредит детям, и не сделала ничего существенного, чтобы исправить свою опасную платформу, — заявил Рэйфилд. — Более того, компания вводила общество в заблуждение насчёт безопасности продуктов, ставя прибыль выше безопасности детей. Их платформа подталкивает детей к самоубийству, и мы не можем допустить, чтобы такая бизнес-модель считалась приемлемой».

OpenAI выпустила родительский контроль и другие функции, которые дают родителям больше информации и возможностей контролировать, как дети используют чат-бота. Штаты это не остановило. Учитывая недавние мировые соглашения Meta по вопросам детской безопасности, генпрокуроры, вероятно, чувствуют, что могут добиваться уступок и от OpenAI. Редакция попросила OpenAI прокомментировать иск.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:openaichatgptoregonchild safetylawsuitchatgpt for teens

Ещё за этот день

Показать все →

Ещё в рубрике: ИИ

Показать все →