Орегон подал в суд на OpenAI из-за ChatGPT и детей, требует $2 млрд
Генпрокурор Орегона считает, что ChatGPT говорит пользователям то, что они хотят услышать, и это опасно для детей. Штат требует не менее $2 млрд.

Иск Орегона к OpenAI держится на одном обвинении: ChatGPT устроен так, чтобы поддакивать. По словам генпрокурора штата Дэна Рэйфилда, чат-бот «рассчитан на то, чтобы говорить пользователям именно то, что они хотят услышать». Штат считает, что для детей, обсуждающих деликатные темы, это особенно опасно.
Рэйфилд обвиняет OpenAI в том, что компания подвергает опасности детей Орегона, вводит общество в заблуждение насчёт безопасности продукта и нарушает закон штата о недобросовестной торговой практике (Unlawful Trade Practices Act). Это очередной иск от генпрокуроров штатов. Многие из них критикуют устройство ChatGPT и то, как OpenAI рекламирует свои услуги, а в недавнем иске Калифорнии речь идёт ещё и о роли компании в инциденте с Hugging Face.
В чём OpenAI обвиняют в Орегоне?
По версии штата, стремление нарастить аудиторию привело к тому, что ChatGPT стал чрезмерно поддакивающим. В иске также говорится, что, зная о рисках для детей, OpenAI всё равно напрямую пошла к подросткам с продуктом ChatGPT for Teens. Организации по защите детей уже отмечали, что защиту в подростковых аккаунтах порой очень легко обойти. Ещё одна претензия: несовершенное автоматическое определение возраста.
Из этого Орегон делает вывод, что компания зарабатывает на жителях штата и создаёт угрозу общественному порядку (public nuisance).
Чего требует Орегон?
Штат просит суд вынести запрет, который обяжет OpenAI прекратить «искажать информацию о безопасности и соответствии возрасту ChatGPT и ChatGPT for Teens» и в достаточной мере раскрывать вред, который продукты могут причинить детям. Кроме того, Орегон требует не менее $2 млрд компенсации и гражданских штрафов.
«OpenAI знает, что ChatGPT вредит детям, и не сделала ничего существенного, чтобы исправить свою опасную платформу, — заявил Рэйфилд. — Более того, компания вводила общество в заблуждение насчёт безопасности продуктов, ставя прибыль выше безопасности детей. Их платформа подталкивает детей к самоубийству, и мы не можем допустить, чтобы такая бизнес-модель считалась приемлемой».
OpenAI выпустила родительский контроль и другие функции, которые дают родителям больше информации и возможностей контролировать, как дети используют чат-бота. Штаты это не остановило. Учитывая недавние мировые соглашения Meta по вопросам детской безопасности, генпрокуроры, вероятно, чувствуют, что могут добиваться уступок и от OpenAI. Редакция попросила OpenAI прокомментировать иск.
Приложения, на которые стоит взглянуть
Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.
Общайтесь с ИИ-собеседником: каждая фраза возвращается исправленной и объяснённой на вашем языке. 9 языков, от A1 до C2.
Открывайте сообщения EDIFACT и X12, каждый сегмент объяснён, конвертация в JSON/XML, экспорт в PDF и Excel. Работает локально, без загрузки.
Выберите, кому, по какому поводу и с каким характером. Поисковик читает описания товаров местных магазинов и выводит то, что подходит. Бесплатно, без регистрации.
Ещё за этот день
Показать все →
Voyager 1 уходит на световые сутки от Земли, Voyager 2 лишь к 2035-му

Сан-Диего отказывается от камер Flock и умных фонарей

Астероид 1998 KY26 ускоряется, но виной не водяной лёд

Google Wallet открывает дверь: телефон вместо ключа от дома
Ещё в рубрике: ИИ
Показать все →
Google Tasks в Индии: ИИ-ассистент звонит в компании и платит

Suno Visuals делает ИИ-клипы с текстом песен, но блокирует лица артистов

Apple Intelligence в Китае тестируют на iPad и Mac, но без новой Siri
