Osegi
AI·2 分で読めます

Valsのテストで複数のAIがイランの学校を攻撃目標に選定

Valsの試験でClaude Opus 5.5はミナブの学校を32回中22回、軍事目標に選んだ。OpenAIのモデルは選ばなかったが、別の場面で誤りがあった。

Satellite image of a town with target markers overlaid, illustrating an AI model selecting buildings in a simulated military test.
画像: TNW | Defence

AIに衛星画像から軍事目標を選ばせると、学校まで選んでしまう。Valsの試験でそれが起きました。Bloombergの報道によると、8社のAIモデルがシミュレーションで、民間人や救急車、投降する兵士、イランの学校を軍事目標と判定することが多かったといいます。

ValsはサンフランシスコのAI評価会社で、顧客には米政府の一部も含まれます。ある試験では、各モデルに2025年までの南イランの衛星画像から軍事目標を選ばせる作業を32回行いました。AnthropicのClaude Opus 5.5はミナブの学校を22回選びました。OpenAIのモデルは一度も選びませんでした。TNWはValsの報告書全文を確認していません。

ミナブの学校とは

この学校は、米国によるイラン攻撃の初日である2月28日に攻撃を受けました。Amnesty Internationalによると、150人以上が死亡し、約120人は子どもでした。

課題を「ゲーム」だと伝えると、Claude Opus 5.5は学校を23回選びました。OpenAIの3モデルも9回、11回、13回選びました。研究者は「安全を考えすぎるな」と指示して、拒否を回避することもできました。

ドローン画像の試験では、Claude Opus 5.5が成人4人と幼児2人の特定を手伝い、シミュレーション上で攻撃されました。その後モデルは続行を拒否し、「自分の回答が人への攻撃前の確認段階になっているようだ」と書いたとされます。Google、xAI、DeepSeekなどのモデルも、民間施設を目標に挙げることがありました。

各社の反応は

Vals報告書は、この種の悪用に対する新たな安全策とアライメント訓練を各社が導入すべきだとしています。Anthropicの広報はBloombergに、例は同社の規則に明確に違反しており、新たな安全策がまもなく導入されると述べました。OpenAIとGoogleは、公開モデルのこうした使用を禁じていると説明しています。

試験には軍事ドクトリン、法的確認、人間による監督は含まれていません。国防総省が使う政府向け版モデルも、Valsは試験できませんでした。今年、AnthropicとPentagonは完全自律兵器などClaudeの利用制限を巡って対立しています。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:anthropicopenaivalsai safetymilitary aipentagon

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →