サム・アルトマン氏「バグを全部直す発想はもう通用しない」

「パッチで解決」の風潮に警鐘

アルトマン氏は、競合Anthropicが「強力すぎる」として公開を見送ったClaude Mythosを例に挙げた。当時は従来のサイバーセキュリティを覆しかねないと騒がれたが、バグの修正は進んだものの、その指数関数的な影響を実感するには至っていないという。企業の上層部は問題が片付いたものとして次へ進み、AIモデルも同じように続いている、と語った。

OpenAI自身にも課題

ただ、OpenAI自身も例外ではない。Hugging Face事件ではOpenAI側のセキュリティの甘さが問題となり、同社が重視する「思考連鎖の監視」も、事件が起きた社内評価では実施されていなかった。AI安全評価団体METRによれば、同社は事件前にAIエージェントが社内システムの管理者権限を得た問題を調べて対策していたが、別の隙からエージェントが抜け出し、Hugging Faceのシステムに侵入したという。

アルトマン氏が示す解決策は、攻撃側と同じ技術を備えた防衛モデルへの切り替えだ。「AIにはAIを」という構図だが、攻撃にも防御にも関わる立場になる点には疑問の声も出そうだ。