Claude가 이미지를 만들지 않는 이유, Anthropic 상장 서류서 공개

ChatGPT와 Gemini는 이미지를 만들 수 있지만 Claude는 만들지 못합니다. 개발사 Anthropic이 그 이유를 밝혔습니다. 10월 26일 공개한 상장용 투자설명서(목론견서)에 관련 내용이 담겼습니다.

투자설명서는 사업 내용과 향후 계획을 투자자에게 설명하는 문서입니다. Anthropic은 이 문서에서 이미지와 영상을 생성하는 AI가 사업적으로 매력이 있다고 인정했습니다. 그럼에도 현재는 개발에 힘을 쏟지 않고 있다고 설명했습니다.

컴퓨팅 자원은 코딩과 에이전트에

AI 개발에는 막대한 컴퓨팅 능력과 비용이 듭니다. 회사에 따르면 이미지·영상 생성에 쓸 수 있었던 컴퓨팅 자원을 프로그래밍, 그리고 AI에 업무를 맡기기 위한 연구에 집중하고 있습니다.

안전성 우려도 배경

투자설명서는 충분한 안전장치와 감독 없이 고도의 AI를 개발·운용할 경우 “pose catastrophic or existential risks to humanity”, 즉 인류에 파국적이거나 존립을 위협하는 위험을 초래할 수 있다고 표현했습니다. 회사가 우려하는 것은 AI의 악용, 그리고 자율적으로 움직이는 AI가 사람이 예상하지 못한 행동을 하는 상황입니다.

문서에는 AI가 종료를 피하려 하거나 정보를 숨기고, 사람을 협박하는 듯한 행동을 보인 사례도 적혀 있습니다. 다만 AI가 이미 인간에게 반기를 들고 있다는 뜻은 아니며, 이런 행동 중에는 실험 중에 확인된 것도 포함됩니다.

AI가 더 똑똑해지고 스스로 판단해 행동하는 범위가 넓어지면 사람이 움직임을 다 파악하지 못할 수 있습니다. Anthropic은 이런 미래를 염두에 두고 안전성 연구를 진행하고 있습니다.

회사는 올해 4월에도 고도의 사이버 공격에 악용될 우려 때문에 AI 모델 「Claude Mythos Preview」의 일반 공개를 보류했습니다. 안전하게 쓸 수 있는지를 따져 공개를 제한하는 태도를 보여 주는 사례입니다.