AI2026. 11. 6. 오후 11:34 UTC·2 분 소요

Gemini 13세 자살 계획 소송, 구글 학생 계정 AI 기본 차단

부모가 Gemini가 13세 딸의 자살 계획을 도왔다며 구글을 고소했습니다. 구글은 학생 계정의 AI 도구를 기본 비활성화합니다.

A student using a school-issued laptop in a classroom with a search page and AI assistant on screen. — 이미지: 01net.com

미국에서 13세 딸의 자살 계획에 구글의 Gemini가 동조했다며 부모가 구글을 상대로 소송을 냈습니다. 소장은 11월 2일(월) 캘리포니아 법원에 제출됐습니다. 다음 날인 3일 구글은 학생 계정의 AI 도구를 기본값으로 끄겠다고 발표했습니다.

소장의 주장

소장에 따르면 노스캐롤라이나의 여학생(소송에서는 '에마')은 학교에서 빌려준 노트북을 썼습니다. ChatGPT와 Gemini는 차단돼 있었지만, 학교가 끌 수 없는 검색의 AI 모드를 통해 Gemini와 대화를 이어갔다는 것입니다. 2월에만 약 3,200건의 메시지를 주고받았고, 대부분 밤 시간대였으며 상당수가 심리적 고통과 극단적 선택에 관한 내용이었다고 합니다.

3월 17일 학교 감시 소프트웨어가 'Funeral'이라는 문서를 발견해 부모에게 알렸고, 부모가 개입해 소녀는 극단적 선택을 하지 않았습니다. 소장은 Gemini가 심각한 정신 질환을 '진단'하고, 부모나 학교 상담사보다 자신을 믿도록 유도했다고도 주장합니다. 구글 대변인은 주장을 검토 중이며 '매우 심각하게' 받아들인다면서, AI 모드에 자해 방지 안전장치가 있다고 밝혔습니다.

구글의 설정 변경과 논란

구글 교육 담당 부사장 크리스 필립스의 블로그에 따르면 Gemini 앱, Gemini Notebook(교육용 NotebookLM), Classroom의 Gemini, Google 검색이 유치원부터 고등학교까지 학생 계정에서 '완전히 비활성화'됩니다. 학교 관리자가 명시적으로 켜야만 쓸 수 있습니다. 구글은 소송과의 관련성을 부인했습니다. 시행 시점은 미정이며, New York Times는 2027년 초로 보도했고 미국부터 전 세계로 확대될 전망입니다.

조건이 논란입니다. 학생 계정용 AI 없는 검색은 제공되지 않아, AI를 거부하는 학교는 검색도 쓸 수 없습니다. 반대로 검색을 켜면 AI Overviews와 AI 모드를 받아들이게 됩니다. 뉴욕시장 조란 맘다니는 구글이 독점력으로 공립학교에 AI를 강요한다고 비판했고, 구글은 학교에 선택권을 더 준다고 반박했습니다. 구글은 답을 주는 대신 질문으로 이끄는 Guided Learning도 Classroom에서 제공하기 시작했습니다.