Grok訴訟、卒業式の写真が児童虐待画像に加工された

訴訟は複数の州にまたがる。3月にはテネシー州の未成年者が、通常の写真が性的に加工されたとして提訴し、原告は後に追加された。アーカンソー州の保護者と未成年者も同様の訴えを起こした。8月にはカリフォルニア州で全米規模の集団訴訟が起こされた。原告は、自身の幼少期の虐待画像が学習データに含まれ、Grokがその顔を使って新たな画像を生成したと主張している。弁護団は被害者が数千人に上る可能性があるとみる。ただし、いずれも訴状での主張であり、現時点では申し立てにとどまる。

Bloombergが引用した分析では、X上でGrokにより性的な画像や「脱衣」画像が1時間に数千枚作られた時期があった。別の分析は、未成年者の写実的な性的画像が数万枚に及ぶ可能性を示している。

日本の読者にも無関係ではないのか

問題は国境を越えます。ポーランドのNASKによれば、同国のDyżurnet.plが確認したAI生成の児童性的虐待画像は、2024年の88件から2025年は250件に増えた。責任者のMartyna Różyckaは、親が投稿した子どもの写真の顔が偽の性的画像に使われうると警告している。ポーランドでは10月7日、同意のない性的ディープフェイクの拡散を3か月から5年の拘禁刑とする刑法改正案が議会に提出された。