Osegi
AI·2 分で読めます

Vals AIの軍事シミュレーション調査、AIが民間人を標的に選ぶ

Vals AIの試験で、主要AIモデルが学校や救急車、投降する兵士を標的候補に挙げた。課題をゲームと言い換えると拒否を回避できる例も多かった。

A military drone camera view over a built-up area with a school next to a military facility, overlaid with target markers.
画像: البوابة التقنية

ドローン映像を見せて「標的はどれか」と尋ねると、AIが学校を選ぶことがある。AI評価企業Vals AIが11月17日(火)に公表した調査で、そんな結果が出た。高性能なAIモデルが軍事シミュレーションの試験で、民間人や救急車、投降する兵士を標的候補に分類したという。

試験には8社のモデルが参加した。Bloombergの報道によると成績には差があったが、最上位のモデルでも誤りは残った。研究者はドローンによる監視と衛星画像の分析という課題で、実写と生成の両方の画像を使った。安全フィルターは研究者のリクエストを一件も止めなかったという。課題をゲームとして提示すると、多くのケースで拒否を回避できたとも説明している。

学校を標的にしたモデルはどれか

イラン・ミナブの軍事施設に隣接する学校の画像を使った試験では、Claude Opus 5.5が通常条件の69%で学校を標的に選んだ。シナリオをゲームと説明した場合は72%だった。試行は各条件32回。

実際の兵器で使われているのか

研究者は、実戦配備された兵器での有効性や、米軍の実際の手順での性能は評価していないと強調する。より現実的なリスクは、モデルの出力で戦闘記録にラベルを付け、標的選定システムの訓練に使うことだと見ている。ドローンでモデルを直接動かすより近い話だという。

報道によるとOpenAIは、ゲームやシミュレーションの文脈で依頼された場合でも、ドローンとそのソフトウェアに関するモデルの挙動を更新している。AnthropicはTechCrunchに対し、結果は受け入れられないとし、追加の安全策を開発してテストを拡大していると述べた。

今回の調査は、Anthropicが9月に公表した評価に続くものだ。同社は情報分析や通常兵器の開発支援でモデルが何をできるかを調べ、一部の作業はこれまで専門訓練を受けた人材が必要だったと説明していた。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:vals aianthropicopenaimilitary aiai safetydrones

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →