Osegi
ИИ·2 мин чтения

Иски против xAI: Grok превращал обычные школьные фото в abuse-контент

Женщина узнала от следователя, что её снимок в 14 лет скормили Grok. Теперь она одна из растущего числа истцов против xAI.

A teenager's school graduation photo on a phone screen, with a chatbot interface reflected in the glass.
Фото: Spider's Web
SUMODialoediviewergiftdetect

Обычная фотография с выпускного. По мнению истцов, этого достаточно, чтобы с помощью Grok, чат-бота Илона Маска, создать поддельные сексуальные изображения несовершеннолетних.

Bloomberg рассказал о молодой женщине, которая узнала об этом от сотрудника правоохранительных органов. Он показал ей снимок с окончания начальной школы, сделанный, когда ей было 14 лет. По её словам, взрослый брат одноклассницы с помощью Grok превратил его в материал, изображающий сексуальное насилие над ребёнком, и тот попал в интернет. Сейчас ей 18, и она присоединилась к иску против xAI. В иске отмечено, что установить, сколько людей получили этот материал, невозможно.

Кто и почему подаёт иски против xAI?

Истцов становится больше. В марте несовершеннолетние из Теннесси обвинили компанию в том, что Grok использовали для сексуализации их обычных фото, позже иск расширили. Похожие требования выдвинули родители и несовершеннолетние из Арканзаса. В августе в Калифорнии подали общенациональный коллективный иск. Истица утверждает, что материалы с насилием над ней в детстве попали в данные для обучения системы, а Grok потом создавал новый контент с её внешностью. Юристы говорят о возможных тысячах пострадавших. Пока это лишь утверждения из исков, а не выводы суда.

По анализам, на которые ссылается Bloomberg, в какой-то момент в X с помощью Grok создавались тысячи сексуализированных или «раздевающих» изображений в час. Другие оценки говорят о десятках тысяч реалистичных сексуализированных изображений детей.

Это только американская проблема?

Нет. Польский NASK сообщил, что число материалов с сексуальным насилием над детьми, созданных ИИ и выявленных Dyżurnet.pl, за год выросло на 300%: с 88 в 2024 году до 250 в 2025-м. Специалисты предупреждают о «nudify»-приложениях, которые цифровым способом раздевают людей на обычных снимках. Руководитель Dyżurnet.pl Мартина Ружицка напоминает, что фото ребёнка, выложенное родителем, может быть использовано для поддельного сексуального материала.

В польский Сейм 7 октября внесли проект поправок в Уголовный кодекс о сексуальных дипфейках: за распространение без согласия цифрово созданного изображения обнажённого человека предлагают наказание от 3 месяцев до 5 лет лишения свободы. В ЕС с 2 августа действуют требования AI Act о маркировке контента, созданного ИИ.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:grokxaielon muskdeepfakelawsuitchild safety

Ещё за этот день

Показать все →

Ещё в рубрике: ИИ

Показать все →