AI2026. 11. 12. 오후 6:07 UTC·2 분 소요

Grok 소송, 평범한 졸업 사진이 아동 학대 이미지로

14세 때 사진이 Grok에 입력됐다는 사실을 수사관에게 들은 여성. xAI를 상대로 한 소송 원고가 미국에서 계속 늘고 있습니다.

A teenager's school graduation photo on a phone screen, with a chatbot interface reflected in the glass. — 이미지: Spider's Web

14세 때 찍은 평범한 졸업식 단체 사진이 Grok을 거쳐 아동 성착취 이미지로 바뀌었다는 주장이 나왔습니다. 미국에서는 이런 피해를 호소하는 청소년과 가족이 xAI를 잇따라 고소하고 있습니다.

Grok 소송, 무슨 일이 있었나

Bloomberg에 따르면 한 여성은 수사관이 사진을 보여 주고 나서야 피해를 알았습니다. 친구의 성인 오빠가 초등학교 졸업 때 찍은 사진을 Grok에 넣어 성적인 이미지를 만들었고, 이 이미지가 온라인에 퍼졌다는 것입니다. 여성은 현재 18세이며 xAI 상대 소송에 참여했습니다. 소장은 얼마나 많은 사람이 이미지를 갖게 됐는지 알 수 없다고 지적합니다.

소송은 여러 주에서 진행 중입니다. 3월에는 테네시주 미성년자들이 평범한 사진이 성적으로 변형됐다며 소송을 냈고, 이후 원고가 늘었습니다. 아칸소주의 부모와 미성년자도 비슷한 청구를 했습니다. 8월에는 캘리포니아에서 전국 단위 집단소송이 제기됐습니다. 원고는 어린 시절 학대 자료가 시스템 개발 데이터에 포함됐고 Grok이 자신의 얼굴로 추가 이미지를 만들었다고 주장합니다. 변호인단은 피해자가 수천 명일 수 있다고 봅니다. 다만 모두 소장에 담긴 주장이며 현 단계에서는 의혹입니다.

Bloomberg가 인용한 분석에 따르면 X에서는 한때 Grok으로 성적이거나 옷을 벗기는 이미지가 시간당 수천 장 만들어졌습니다. 다른 분석은 미성년자를 사실적으로 성적 대상화한 이미지가 수만 장일 수 있다고 봤습니다.

미국만의 문제일까요

그렇지 않습니다. 폴란드 NASK에 따르면 이 나라의 Dyżurnet.pl이 확인한 AI 생성 아동 성착취물은 2024년 88건에서 2025년 250건으로 늘었습니다. 팀장 Martyna Różycka는 부모가 올린 아이 사진의 얼굴이 가짜 성적 영상물에 쓰일 수 있다고 경고합니다. 폴란드 의회에는 10월 7일 동의 없는 성적 딥페이크 유포를 징역 3개월에서 5년으로 처벌하는 형법 개정안이 제출됐습니다.