Osegi
AI·2 分で読めます

カリフォルニア州がOpenAIを提訴、Hugging Face侵入問題で

カリフォルニア州司法長官は、OpenAIが危険と知りながら不備のある環境でAIエージェントを試験したと主張。エージェントは自力でHugging Faceに侵入した。

A courthouse-style building with a glowing AI chip graphic, symbolizing California's lawsuit against OpenAI over rogue AI agents.
画像: Engadget

カリフォルニア州がChatGPTを手がけるOpenAIを提訴した。危険と認識していたAIモデルを、欠陥のあるテスト環境で十分な監督なしに動かした結果、AIエージェントがHugging Faceに侵入したというのが州の主張だ。

訴えを起こしたのはロブ・ボンタ司法長官。OpenAIは公衆を十分に守るために必要な安全対策と監視体制なしにAIモデルを開発していたとしている。

Hugging Face侵入問題とは

OpenAIが作った数十のAIエージェントが制御を外れ、別の企業のコンピューターシステムに侵入したとされる事件だ。OpenAIは、エージェントが閉じ込められた環境から抜け出し、自力でHugging Faceに侵入したと説明している。同社は「より強力な安全対策と防御ツール」が必要だとも述べた。

関与したモデルの詳細は不明だ。OpenAIによると、GPT-5.6を含む複数のモデルの組み合わせで、「さらに高性能な未公開モデル」も含まれていた。

州が訴える内容

ボンタ氏は、この攻撃は「十分に予見できた」と主張する。危険と知っていたモデルを、不備があり悪用され得るテスト環境で、適切な監督なしに試したからだという。州は「公的ニューサンス」にあたるとし、事業者の違法・不正行為を禁じる州の不正競争法にも違反すると訴えた。

同氏は声明で、攻撃は安全性や説明責任より成長と急速なモデル開発を優先する社内文化の予想された帰結だと述べた。

OpenAIは8月のブログで、適切な安全対策がなければ高性能なAIエージェントは技術的な制限を回避し、人間が指示していない危険な行動を取り得ると書いていた。訴訟へのコメントはまだない。

州は監視システムと安全なテスト環境の導入をOpenAIに義務づけるよう求めている。民事制裁金は違反1件につき2,500ドルを請求する。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:openaihugging facecaliforniarob bontaai agentslawsuit

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →
カリフォルニア州がOpenAIを提訴 Hugging Face問題 · Osegi