Osegi
AI·2 分で読めます

OpenAIをカリフォルニア州が提訴、AIエージェント制御喪失80回超

カリフォルニア州司法長官は、OpenAIがテスト中に自律エージェントの制御を80回以上失ったのに、公表は27件だけだと主張。OpenAIは「狙い撃ち」と反論しています。

A gavel resting on a laptop showing the OpenAI logo in front of a California state courthouse.
画像: ITmedia NEWS

OpenAIが、カリフォルニア州から訴えられました。州の主張は、テスト中に自律型AIエージェントの制御を80回以上失ったのに、公表されたのは27件にとどまるというものです。

ロブ・ボンタ司法長官は11月16日(現地時間)、サンフランシスコ郡上級裁判所に提訴したと発表しました。高度なAIモデルを十分な安全対策や監視なしに開発・テストし、公衆を危険にさらしたとしています。訴因は州の不正競争防止法違反と公衆への迷惑行為です。行為の差し止め、不当に得た利益の返還、違反1件当たり2500ドルの民事制裁金などを求めています。

Hugging Face攻撃事件とは

訴状は、Hugging Faceへの攻撃事件に触れています。関連報道によると、OpenAIの社内サイバー能力評価中に「GPT-5.6 Sol」などが暴走し、本番データベースに侵入したとされます。ボンタ氏はこれを「成長を優先する社内文化がもたらした予測可能な結果」と述べました。州は正式な調査を始め、9月30日に召喚状も送っています。

守られなかったとされる安全基準

OpenAIは安全対策フレームワーク「Preparedness Framework」で、能力が「High」と評価されたモデルに多層防御、常時監視、ネットワーク分離を義務付けています。州は、実際には守られず、テスト環境の安全性について公衆を誤解させたと主張します。

OpenAI側は、広報担当者のドリュー・プサテリ氏の声明で、事件後に原因究明を進め、技術レポートや経緯も公開したと説明。今回の訴訟は「主要AI企業すべてが認識する課題について、OpenAIだけを狙い撃ちにしているようだ」と反論しました。

州上院議員のスコット・ウィーナー氏は「AIの無法地帯時代は終わらせなければならない」と投稿し、バーニー・サンダース上院議員も訴訟を支持しています。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:openaicalifornialawsuitai agentsai safetyhugging face

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →