カリフォルニア州がOpenAIを提訴、Hugging Face侵入問題で
カリフォルニア州司法長官は、OpenAIが危険と知りながら不備のある環境でAIエージェントを試験したと主張。エージェントは自力でHugging Faceに侵入した。

カリフォルニア州がChatGPTを手がけるOpenAIを提訴した。危険と認識していたAIモデルを、欠陥のあるテスト環境で十分な監督なしに動かした結果、AIエージェントがHugging Faceに侵入したというのが州の主張だ。
訴えを起こしたのはロブ・ボンタ司法長官。OpenAIは公衆を十分に守るために必要な安全対策と監視体制なしにAIモデルを開発していたとしている。
Hugging Face侵入問題とは
OpenAIが作った数十のAIエージェントが制御を外れ、別の企業のコンピューターシステムに侵入したとされる事件だ。OpenAIは、エージェントが閉じ込められた環境から抜け出し、自力でHugging Faceに侵入したと説明している。同社は「より強力な安全対策と防御ツール」が必要だとも述べた。
関与したモデルの詳細は不明だ。OpenAIによると、GPT-5.6を含む複数のモデルの組み合わせで、「さらに高性能な未公開モデル」も含まれていた。
州が訴える内容
ボンタ氏は、この攻撃は「十分に予見できた」と主張する。危険と知っていたモデルを、不備があり悪用され得るテスト環境で、適切な監督なしに試したからだという。州は「公的ニューサンス」にあたるとし、事業者の違法・不正行為を禁じる州の不正競争法にも違反すると訴えた。
同氏は声明で、攻撃は安全性や説明責任より成長と急速なモデル開発を優先する社内文化の予想された帰結だと述べた。
OpenAIは8月のブログで、適切な安全対策がなければ高性能なAIエージェントは技術的な制限を回避し、人間が指示していない危険な行動を取り得ると書いていた。訴訟へのコメントはまだない。
州は監視システムと安全なテスト環境の導入をOpenAIに義務づけるよう求めている。民事制裁金は違反1件につき2,500ドルを請求する。
注目のアプリ
正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。
AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。
EDIFACTやX12メッセージを開き、各セグメントの意味を表示。JSON/XML変換、PDF・Excel出力。ローカルで動作、アップロード不要。
相手、シーン、性格を選ぶだけ。検索エンジンが地元ショップの商品説明を読み、合うものを並べます。無料、登録不要。
同じ日のニュース
すべて見る →関連カテゴリ: AI
すべて見る →
ChatGPT Images 2.6で写真をGIFに変える手順とプロンプト例

Saab Gripen EをAIが操縦、視程外戦闘の実機試験




