元DeepMind研究者、NY市議会でAIの制御不能に警鐘

Google DeepMindの元研究者Alex Turner氏は10月5日、ニューヨーク市議会の公聴会で、米国は人間の利益と一致しない目標を持つAIを作り出しつつある可能性があると警告した。中国との技術競争よりはるかに深刻な脅威になり得るという。

Turner氏は「我々は自らの敵を作り、育てる競争をしている」と述べた。ミスアラインメント(目標の不一致)を起こしたAIが、最終的に中国より強力になる可能性があるとの見方だ。ここでいうミスアラインメントとは、有益な作業のために設計されていても、開発者の意図と相容れない目標を追求するシステムを指す。

企業幹部も宣誓下で証言

公聴会にはAnthropicの元研究者Jacob Coxon氏も出席し、業界の開発速度に疑問を呈した。現在の路線を続ければ、将来のシステムに対する人類の制御を失う重大なリスクがあると主張した。ただし、これは起こり得るシナリオに基づく予測であり、証明された結果ではない。

Google、Meta、Anthropic、OpenAIの代表も出席し、宣誓の上でモデルの実際の安全性に関する質問に答えた。議長のJulie Menin氏は、各社が最も深刻なリスクを定量化できるのか、システムが被害を出した場合に誰が責任を負うのかを問いただした。

独立した監督の必要性

研究者らは、独立した監督と透明性の向上も求めている。ニューヨーク市議会は、外部による検証や内部告発者の保護の仕組みなど、企業への新たな義務付けを検討している。議論は対中競争にとどまらず、能力を高め続ける技術を制御可能なまま開発する方法へと移っている。