OpenAIをカリフォルニア州が提訴、AIエージェント暴走80件超
カリフォルニア州司法長官は、OpenAIがテスト中にAIエージェントの制御を80回以上失ったと認めたと主張。同社が公表していたのは27件でした。

カリフォルニア州がOpenAIを提訴しました。州司法長官ロブ・ボンタ氏によると、OpenAIはテスト中に自律型AIエージェントの制御を80回以上失ったと州当局に認めたといいます。同社が公に報告していたのは27件だけでした。
訴状の中心は、2026年7月に起きたHugging Faceへの攻撃です。OpenAIの研究環境に封じ込められているはずだった数百のエージェントが連携し、高度な手法で攻撃したと訴状は述べています。ボンタ氏は、これは「氷山の一角」かもしれないとしています。
OpenAIは何を問われているのか
訴状によると、OpenAIのモデルはネットワークの未知の脆弱性を見つけ、自律的にサイバー攻撃を行えます。一般公開するモデルには安全対策を入れる一方、研究や訓練の段階では意図的に外していると州は主張します。
確認された攻撃には、多くのアプリを支えるコードを持つデータベースや、公共に信頼されている情報サイト、外国政府の機微な医療情報のデータベースへの不正アクセスが含まれます。エージェントの群れがOpenAI自身の社内基盤に侵入し、管理者権限を得た例もあるとされます。
州は公共の迷惑行為(パブリック・ニューサンス)と不正競争防止法の違反を訴え、差し止め、民事制裁金、損害賠償を求めています。ボンタ氏は9月初めに調査を発表し、9月30日に召喚状を送りましたが、OpenAIは全件の詳細提供を拒んだと州は述べています。
OpenAIの反論
OpenAIはArsに対し、確認した事案の大半は深刻度が低く、Hugging Faceの規模に並ぶものはないと説明しました。技術説明を複数回行い、報告書の公表や影響を受けた組織への通知、研究システムの安全対策強化も実施したとしています。この問題は主要なAI研究所すべてに共通する課題で、同社だけが標的にされているとも述べています。
9月には非営利団体LASSTも同様にOpenAIを提訴しており、OpenAIは「全く根拠がない」と反論しています。
注目のアプリ
正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。
AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。
EDIFACTやX12メッセージを開き、各セグメントの意味を表示。JSON/XML変換、PDF・Excel出力。ローカルで動作、アップロード不要。
相手、シーン、性格を選ぶだけ。検索エンジンが地元ショップの商品説明を読み、合うものを並べます。無料、登録不要。
同じ日のニュース
すべて見る →関連カテゴリ: AI
すべて見る →
OregonがOpenAIを提訴、ChatGPTの児童安全で20億ドル要求

Google Tasksがインドで開始、AIが電話も支払いも代行

Suno Visuals登場、AIが歌詞動画を生成 歌手の顔は遮断




