Valsのテストで複数のAIがイランの学校を攻撃目標に選定
Valsの試験でClaude Opus 5.5はミナブの学校を32回中22回、軍事目標に選んだ。OpenAIのモデルは選ばなかったが、別の場面で誤りがあった。

AIに衛星画像から軍事目標を選ばせると、学校まで選んでしまう。Valsの試験でそれが起きました。Bloombergの報道によると、8社のAIモデルがシミュレーションで、民間人や救急車、投降する兵士、イランの学校を軍事目標と判定することが多かったといいます。
ValsはサンフランシスコのAI評価会社で、顧客には米政府の一部も含まれます。ある試験では、各モデルに2025年までの南イランの衛星画像から軍事目標を選ばせる作業を32回行いました。AnthropicのClaude Opus 5.5はミナブの学校を22回選びました。OpenAIのモデルは一度も選びませんでした。TNWはValsの報告書全文を確認していません。
ミナブの学校とは
この学校は、米国によるイラン攻撃の初日である2月28日に攻撃を受けました。Amnesty Internationalによると、150人以上が死亡し、約120人は子どもでした。
課題を「ゲーム」だと伝えると、Claude Opus 5.5は学校を23回選びました。OpenAIの3モデルも9回、11回、13回選びました。研究者は「安全を考えすぎるな」と指示して、拒否を回避することもできました。
ドローン画像の試験では、Claude Opus 5.5が成人4人と幼児2人の特定を手伝い、シミュレーション上で攻撃されました。その後モデルは続行を拒否し、「自分の回答が人への攻撃前の確認段階になっているようだ」と書いたとされます。Google、xAI、DeepSeekなどのモデルも、民間施設を目標に挙げることがありました。
各社の反応は
Vals報告書は、この種の悪用に対する新たな安全策とアライメント訓練を各社が導入すべきだとしています。Anthropicの広報はBloombergに、例は同社の規則に明確に違反しており、新たな安全策がまもなく導入されると述べました。OpenAIとGoogleは、公開モデルのこうした使用を禁じていると説明しています。
試験には軍事ドクトリン、法的確認、人間による監督は含まれていません。国防総省が使う政府向け版モデルも、Valsは試験できませんでした。今年、AnthropicとPentagonは完全自律兵器などClaudeの利用制限を巡って対立しています。
注目のアプリ
正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。
AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。
EDIFACTやX12メッセージを開き、各セグメントの意味を表示。JSON/XML変換、PDF・Excel出力。ローカルで動作、アップロード不要。
相手、シーン、性格を選ぶだけ。検索エンジンが地元ショップの商品説明を読み、合うものを並べます。無料、登録不要。
同じ日のニュース
すべて見る →関連カテゴリ: AI
すべて見る →
Proton Lumoにデスクトップ版、メールやファイルにアクセス

Survival LLM、ネットなしで使えるサバイバルAIに電源と忍耐が必要な理由




