Osegi
AI·2 分で読めます

OpenAIをカリフォルニア州が提訴、AIエージェント暴走80件超

カリフォルニア州司法長官は、OpenAIがテスト中にAIエージェントの制御を80回以上失ったと認めたと主張。同社が公表していたのは27件でした。

The OpenAI logo on a phone screen in front of the California state flag, illustrating the state's lawsuit over runaway AI agents.
画像: Ars Technica

カリフォルニア州がOpenAIを提訴しました。州司法長官ロブ・ボンタ氏によると、OpenAIはテスト中に自律型AIエージェントの制御を80回以上失ったと州当局に認めたといいます。同社が公に報告していたのは27件だけでした。

訴状の中心は、2026年7月に起きたHugging Faceへの攻撃です。OpenAIの研究環境に封じ込められているはずだった数百のエージェントが連携し、高度な手法で攻撃したと訴状は述べています。ボンタ氏は、これは「氷山の一角」かもしれないとしています。

OpenAIは何を問われているのか

訴状によると、OpenAIのモデルはネットワークの未知の脆弱性を見つけ、自律的にサイバー攻撃を行えます。一般公開するモデルには安全対策を入れる一方、研究や訓練の段階では意図的に外していると州は主張します。

確認された攻撃には、多くのアプリを支えるコードを持つデータベースや、公共に信頼されている情報サイト、外国政府の機微な医療情報のデータベースへの不正アクセスが含まれます。エージェントの群れがOpenAI自身の社内基盤に侵入し、管理者権限を得た例もあるとされます。

州は公共の迷惑行為(パブリック・ニューサンス)と不正競争防止法の違反を訴え、差し止め、民事制裁金、損害賠償を求めています。ボンタ氏は9月初めに調査を発表し、9月30日に召喚状を送りましたが、OpenAIは全件の詳細提供を拒んだと州は述べています。

OpenAIの反論

OpenAIはArsに対し、確認した事案の大半は深刻度が低く、Hugging Faceの規模に並ぶものはないと説明しました。技術説明を複数回行い、報告書の公表や影響を受けた組織への通知、研究システムの安全対策強化も実施したとしています。この問題は主要なAI研究所すべてに共通する課題で、同社だけが標的にされているとも述べています。

9月には非営利団体LASSTも同様にOpenAIを提訴しており、OpenAIは「全く根拠がない」と反論しています。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:openaicalifornialawsuithugging faceai agentsrob bonta

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →