OpenAI、解雇した研究者のスマホでSignalチャットを確認

OpenAIが情報漏えいの調査の一環として、AI安全性研究者3人に私用スマートフォンの提示を求め、その後解雇していたことがわかった。ウォール・ストリート・ジャーナルが報じた。TNWは内容を独自には確認していない。

解雇されたのはトメク・コルバク氏、ミキタ・バレスニ氏、ジャスミン・ワン氏の3人。コルバク氏は「無許可の経路で第三者とやり取りしたため信頼を損なったと言われた」と語った。3人は、機密情報を社外に漏らしたことはないとしている。

調査の経緯

発端は9月1日のThe Informationの記事だった。OpenAIの最新モデル「Astra」が新たな手法で性能を高めた一方、思考過程を表に出しにくくなったという内容で、主任科学者のヤクブ・パホツキ氏は「混乱した報道」と呼んだ。

保安チームは、研究者ライアン・グリーンブラット氏を漏えい元と疑った。同氏は否定している。スマホの確認では、一部の研究者がグリーンブラット氏とのSignalチャットで消えるメッセージを有効にしていたことが判明した。その1週間後、3人は同じ午後2時に別々の面談へ呼ばれ、解雇された。バレスニ氏とコルバク氏は、幹部が理由の一つに消えるメッセージを挙げたと述べる。コルバク氏はこれをシリコンバレーでは「基本的なセキュリティ対策」だと話す。

OpenAIは、社内調査で機密情報に関する方針違反が見つかったと説明し、解雇は「安全性への懸念を訴えたためではない」としている。Signalの利用は承認されていなかったが、それだけが理由ではないという。ワン氏は、幹部のメールを繰り返し開いたことを理由に挙げられたと説明する。約1年前にそのアクセス権の削除を求めており、先月、機密メールを誤って開いた際はすぐ報告したという。会社側はアクセス自体に問題はないとしている。

グリーンブラット氏の反論

Redwood Researchの元主任科学者で現在はMETRに所属するグリーンブラット氏はXで、OpenAIから虚偽の非難を受けたと投稿した。The Informationの記者から事前に連絡はあったが、自身のブログに関する質問以外にはコメントしていないという。機密性の高い社内メモを読んだとの疑いも否定し、共有を認められた版しか見ていないと述べた。

3人は夏の間、モデルの「思考の連鎖」を可視のまま保つよう働きかけ、10月には外部の安全性団体と連携するよう取締役会へ書簡を送っていた。コルバク氏は「監査人との対話は安全性が過ぎ、消えるメッセージはセキュリティが過ぎた、ということだろう」と投稿した。