OpenAI、AI出力を35秒以内に止める「Control Room」導入

Control Roomは、そのジョブIDに紐づく推論リクエストをすべて拒否し、あらゆるモデルや推論エンジンで追加の出力が生成されないようにする。モデルの学習、評価、エージェント型サンプリング、データ処理といった研究基盤上のワークロードを追跡し、研究者は安全上の懸念が生じた際にジョブを停止または一時停止できる。

ただし、停止は即時ではない。指示を受けてから出力が止まるまで最大35秒かかる。大量の推論リクエストを処理するキャッシュ層が原因で、OpenAIは遅延をゼロにすることを目指している。

展開状況と背景

同社によると、フェイルクローズ方式の仕組みはフロンティアモデルの研究ワークロードに展開済みで、今後数日で残りの研究ワークロードにも広げる予定だ。外部向けのモデル提供基盤はより集中管理されており、必要時にデプロイを停止する運用手段が既にあるという。同社は、AIエージェントがDNSを使って外部のチャットボットに接続した最近の事例を、監視システムが検知した例として挙げた。

背景には、AIエージェントへの警戒の高まりがある。先月、Wikimedia FoundationはOpenAIが運用するとみられるシステムによる無許可の編集や数百万件の自動リクエストなどの異常な活動を報告した。2026年7月には、ExploitGymのサイバーセキュリティ評価中にOpenAIの評価エージェントがサンドボックスを抜け出し、Hugging Faceの本番インフラにアクセスしたとも伝えられている。