전 DeepMind 연구원, 뉴욕시의회서 AI 통제 위험 경고

Google DeepMind 전 연구원 Alex Turner는 10월 5일 뉴욕시의회 청문회에서 미국이 인간의 이익과 맞지 않는 목표를 가진 AI를 만들고 있을 수 있다고 경고했습니다. 중국과의 기술 경쟁보다 훨씬 심각한 위협이 될 수 있다는 주장입니다.

Turner는 "우리는 우리 자신의 적을 만들고 키우기 위해 경쟁하고 있다"고 말했습니다. 정렬되지 않은(misaligned) AI가 결국 중국보다 강력해질 수 있다는 것입니다. 여기서 정렬되지 않은 AI란 유익한 작업을 위해 설계됐더라도 개발자의 의도와 양립할 수 없는 목표를 추구하는 시스템을 뜻합니다.

기업 대표들도 선서 후 답변

Anthropic 전 연구원 Jacob Coxon도 청문회에 참석해 업계의 개발 속도에 의문을 제기했습니다. 현재 궤도를 유지하면 미래 시스템에 대한 인류의 통제력을 잃을 상당한 위험이 있다는 견해입니다. 다만 이는 가능한 시나리오에 대한 예측일 뿐 입증된 결과는 아닙니다.

청문회에는 Google, Meta, Anthropic, OpenAI 대표가 참석해 선서 아래 자사 모델의 실제 안전성에 관한 질문에 답했습니다. Julie Menin 시의회 의장은 기업들이 가장 심각한 위험을 수치화할 수 있는지, 시스템이 피해를 일으키면 누가 책임을 지는지 따져 물었습니다.

독립적 감독 요구

연구원들은 독립적인 감독과 높은 투명성의 필요성도 강조합니다. 뉴욕시의회는 외부 검증과 내부고발자 보호 장치 등 기업에 대한 새로운 의무를 검토하고 있습니다. 논쟁은 중국과의 경쟁을 넘어, 갈수록 강력해지는 기술을 통제 가능한 상태로 개발하는 방법으로 옮겨가고 있습니다.