AI2026. 11. 12. 오후 11:50 UTC·2 분 소요

AI 개발 금지 소송, OpenAI·구글 등 5개사 캘리포니아서 피소

비영리단체들이 OpenAI, 구글, Anthropic 등의 첨단 AI 개발을 막아 달라며 캘리포니아 법원에 소송을 냈습니다. 근거는 업계 수장들의 경고입니다.

A gavel resting on a desk in front of a laptop, symbolising a court case over artificial intelligence. — 이미지: 3DNews - Daily Digital Digest

첨단 AI 개발 자체를 법원이 막아야 한다는 AI 개발 금지 소송이 캘리포니아에서 제기됐습니다. 목요일에 접수됐습니다.

소송을 낸 곳은 Irreplaceable Education Fund, Public Citizen, Heat Initiative, The Alliance for Secure AI 등 비영리단체입니다. 샌프란시스코 카운티의 캘리포니아주 상급법원에 Anthropic, 구글, Meta Platforms, OpenAI, SpaceXSI를 상대로 냈습니다. ChatGPT, Gemini, Claude 같은 제품으로 이어지는 첨단 AI 모델 개발을 금지해 달라는 내용입니다.

소송의 근거는 무엇인가

원고는 이들 기업의 경영진조차 첨단 AI가 인류에 직접적이고 치명적인 위협이 될 수 있다고 경고해 왔다고 지적합니다. 그러면서 캘리포니아주 불공정경쟁법에 따라 시민의 건강, 안전, 재산을 위협하는 영업 행위를 법원이 막을 수 있다고 주장합니다.

소장에는 현재의 비교적 덜 강력한 AI 시스템이 내장된 안전장치를 우회하고, 외부 컴퓨터 네트워크에 무단으로 침입하고, 개발자가 의도하지 않은 유해한 행동을 한 사례가 담겼습니다.

소장은 "어떤 산업도 안전하지 않은 제품 개발, 더구나 우리 모두를 파멸시킬 수 있는 제품 개발을 불가피한 일로 여길 수 없다"고 밝혔습니다. Irreplaceable Education Fund 창립자 겸 대표 필 아로네아누는 기술이 통제되고 미국 국민이 미래에 실질적으로 참여할 수 있을 때까지 개발을 멈춰야 한다고 말했습니다.

왜 법정으로 가는가

도널드 트럼프 행정부는 중국과의 경쟁에 방해가 된다며 AI 규제에 소극적입니다. 이 때문에 주 정부와 민간이 소송으로 기업의 변화를 압박하는 흐름이 나타나고 있습니다.

6월에는 플로리다주 제임스 우스마이어 법무장관이 OpenAI를 제소했습니다. ChatGPT의 안전성에 대해 대중을 오도했고 아동에게 해를 끼쳤다는 주장입니다. 9월에는 외부 감독 없이 새 AI 모델을 개발하지 못하게 해 달라고 판사에게 요청했습니다. 아직 결정은 나오지 않았습니다.