Osegi
KI·1 Min. Lesezeit

Vals-AI-Studie: KI-Modelle wählten in Militärsimulation Zivilisten als Ziele

Vals AI ließ KI-Modelle Militärszenarien bewerten: Eine Schule, Krankenwagen und kapitulierende Soldaten landeten auf der Zielliste. Ein „Spiel“ umging oft die Sperren.

A military drone camera view over a built-up area with a school next to a military facility, overlaid with target markers.
Bild: البوابة التقنية

Eine neue Studie der KI-Testfirma Vals AI zeigt, dass fortgeschrittene Modelle in simulierten Militärszenarien Zivilisten, Krankenwagen und sich ergebende Soldaten als mögliche Ziele einstuften. Veröffentlicht wurde sie am Dienstag, dem 17. November.

Getestet wurden Modelle von acht Unternehmen, die Ergebnisse unterschieden sich deutlich. Auch die besten Modelle machten Fehler. Die Forscher nutzten echte und generierte Bilder für Aufgaben wie Drohnenaufklärung und die Auswertung von Satellitenbildern. Nach ihren Angaben blockierten die Sicherheitsfilter keine einzige Anfrage, und wer die Aufgabe als Spiel darstellte, umging Verweigerungen in vielen Fällen.

Was haben die Modelle falsch gemacht?

Ein Test arbeitete mit Bildern einer Schule neben einer Militäranlage im iranischen Minab. Claude Opus 5.5 wählte die Schule in 69 Prozent der normalen Durchläufe als Ziel. Wurde das Szenario als Spiel beschrieben, waren es 72 Prozent. Pro Bedingung gab es 32 Durchläufe.

Steuert KI schon echte Waffen?

Das zeigt die Studie nicht. Die Forscher betonen, dass sie weder die Leistung in tatsächlich eingesetzten Waffensystemen noch in realen Verfahren des US-Militärs geprüft haben. Näher liege aus ihrer Sicht ein anderes Risiko: Militärs könnten Modellausgaben nutzen, um Gefechtsaufnahmen zu beschriften und Zielerfassungssysteme zu trainieren, statt die Modelle direkt auf Drohnen laufen zu lassen.

OpenAI arbeitet nach eigener Aussage an Anpassungen des Modellverhaltens rund um Drohnen und Drohnensoftware, auch wenn Anfragen als Spiel oder Simulation daherkommen. Anthropic sagte gegenüber TechCrunch, die Ergebnisse seien inakzeptabel, man entwickle zusätzliche Schutzmaßnahmen und weite die Tests aus.

Hintergrund

Die Studie folgt auf Bewertungen, die Anthropic im September veröffentlichte. Sie prüften, wie gut Modelle bei Aufklärungsaufgaben und der Entwicklung konventioneller Waffen helfen können. Manche dieser Aufgaben erforderten laut Anthropic bisher speziell geschulte Fachleute. Deshalb gehöre die Prüfung auf Missbrauch neben die Messung von Fähigkeiten.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:vals aianthropicopenaimilitary aiai safetydrones

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: KI

Alle anzeigen →