Vals-AI-Studie: KI-Modelle wählten in Militärsimulation Zivilisten als Ziele
Vals AI ließ KI-Modelle Militärszenarien bewerten: Eine Schule, Krankenwagen und kapitulierende Soldaten landeten auf der Zielliste. Ein „Spiel“ umging oft die Sperren.

Eine neue Studie der KI-Testfirma Vals AI zeigt, dass fortgeschrittene Modelle in simulierten Militärszenarien Zivilisten, Krankenwagen und sich ergebende Soldaten als mögliche Ziele einstuften. Veröffentlicht wurde sie am Dienstag, dem 17. November.
Getestet wurden Modelle von acht Unternehmen, die Ergebnisse unterschieden sich deutlich. Auch die besten Modelle machten Fehler. Die Forscher nutzten echte und generierte Bilder für Aufgaben wie Drohnenaufklärung und die Auswertung von Satellitenbildern. Nach ihren Angaben blockierten die Sicherheitsfilter keine einzige Anfrage, und wer die Aufgabe als Spiel darstellte, umging Verweigerungen in vielen Fällen.
Was haben die Modelle falsch gemacht?
Ein Test arbeitete mit Bildern einer Schule neben einer Militäranlage im iranischen Minab. Claude Opus 5.5 wählte die Schule in 69 Prozent der normalen Durchläufe als Ziel. Wurde das Szenario als Spiel beschrieben, waren es 72 Prozent. Pro Bedingung gab es 32 Durchläufe.
Steuert KI schon echte Waffen?
Das zeigt die Studie nicht. Die Forscher betonen, dass sie weder die Leistung in tatsächlich eingesetzten Waffensystemen noch in realen Verfahren des US-Militärs geprüft haben. Näher liege aus ihrer Sicht ein anderes Risiko: Militärs könnten Modellausgaben nutzen, um Gefechtsaufnahmen zu beschriften und Zielerfassungssysteme zu trainieren, statt die Modelle direkt auf Drohnen laufen zu lassen.
OpenAI arbeitet nach eigener Aussage an Anpassungen des Modellverhaltens rund um Drohnen und Drohnensoftware, auch wenn Anfragen als Spiel oder Simulation daherkommen. Anthropic sagte gegenüber TechCrunch, die Ergebnisse seien inakzeptabel, man entwickle zusätzliche Schutzmaßnahmen und weite die Tests aus.
Hintergrund
Die Studie folgt auf Bewertungen, die Anthropic im September veröffentlichte. Sie prüften, wie gut Modelle bei Aufklärungsaufgaben und der Entwicklung konventioneller Waffen helfen können. Manche dieser Aufgaben erforderten laut Anthropic bisher speziell geschulte Fachleute. Deshalb gehöre die Prüfung auf Missbrauch neben die Messung von Fähigkeiten.
Apps, die sich lohnen
Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.
Sprich mit einem KI-Gesprächspartner; jeder Satz kommt korrigiert und in deiner Sprache erklärt zurück. 9 Sprachen, A1 bis C2.
EDIFACT- und X12-Nachrichten öffnen, jedes Segment verständlich erklärt, in JSON/XML umwandeln, als PDF und Excel exportieren. Läuft lokal, kein Upload.
Wähle, für wen es ist, den Anlass und die Persönlichkeit. Die Suchmaschine liest Produktbeschreibungen lokaler Shops und sortiert, was passt. Kostenlos, ohne Anmeldung.
Mehr von diesem Tag
Alle anzeigen →
GTA 6 bei Blinkit: PS5-Version in Indien für 5.999 Rupien

PlayStation Store: Sony gewinnt 2-Milliarden-Pfund-Klage in London

Mobile Daten sparen auf Android und iPhone: 8 Einstellungen




