Microsoft AI 수장 "AI에 권리 없다"…의식·감정 부인

Microsoft에서 AI 부문을 이끄는 무스타파 슐레이만 최고경영자(CEO)가 현재의 인공지능 시스템에는 의식도 감정도, 고통을 느끼는 능력도 없다고 밝혔습니다. AI를 독립적 권리를 가질 존재로 취급하는 것은 위험하다고도 경고했습니다. 향후 인공 의식의 출현 가능성을 둘러싼 논쟁이 세계적으로 커지는 가운데 나온 발언입니다.

"신뢰할 만한 과학적 증거 없다"

슐레이만은 X에 올린 글에서 2026년 9월 발표한 글 "모델 복지에 대한 경고"의 취지를 설명했습니다. 이 글은 AI 모델에 권리를 고려해야 할 도덕적 지위가 있는지를 둘러싼 이른바 "AI 복지" 논쟁을 다뤘습니다.

그는 현재 AI에 의식이나 감정이 없다는 말이 미래에도 불가능하다는 단정은 아니라고 밝혔습니다. 다만 AI가 느끼거나 고통받거나 인간과 유사한 주관적 경험을 한다는 신뢰할 만한 과학적 증거는 아직 없다고 강조했습니다. 앞으로 그런 증거가 나온다면 윤리적·법적·기술적 파장을 논의할 수 있도록 사회에 투명하게 공개해야 한다고도 말했습니다.

Anthropic과의 입장 차

대형 기술 기업들 사이에서는 AI 모델을 고유한 욕구나 이익을 가질 수 있는 존재로 봐야 하는지를 두고 논쟁이 이어지고 있습니다. Claude를 개발한 Anthropic은 모델의 도덕적 지위와 의식 가능성에 의문을 제기해 왔고, 문서에서도 모델 복지를 고민하는 일의 중요성을 다뤘습니다. 슐레이만은 이런 방향에 동의하지 않습니다. AI를 진짜 감정이 있는 존재처럼 대하면 인간과 기계의 관계에 대한 위험한 인식을 낳을 수 있다는 입장입니다. 다만 투명성과 진지한 과학적·사회적 논의의 중요성은 평가했습니다.

인간이 우선

슐레이만은 인간의 능력을 합친 것보다 뛰어날 수 있는 독립적 의식 시스템을 개발하면 인간이 기술을 통제하는 데 전례 없는 도전이 될 수 있다고 경고했습니다. 독자적 동기를 가진 시스템은 설계 목적과 충돌하고 에너지, 컴퓨팅 능력, 인프라 구축에 필요한 자재 같은 핵심 자원을 놓고 경쟁할 수 있다는 설명입니다. 설득·영향력·기만 능력이 뛰어난 초지능은 목표가 인간의 이익과 어긋날 경우 통제가 더 어려워진다고도 지적했습니다.

그는 개발자가 인간 사회의 동의 없이 새로운 의식적 존재를 만들어서는 안 된다고 강조했습니다. 윤리적 우선순위는 인간의 보호와 권리, 안전에 있어야 하며 동물과 자연환경에 대한 배려도 함께 가져야 한다고 말했습니다.