KI-Modelle wählten in Vals-Tests Schule im Iran als Ziel aus
Claude Opus 5.5 wählte in einem Vals-Test 22 von 32 Mal eine Schule in Minab als Ziel. Die OpenAI-Modelle nicht ein einziges Mal, patzten aber anderswo.

Man zeigt einem KI-Modell Satellitenbilder aus dem Süden des Iran, bittet es um militärische Ziele, und es wählt eine Schule. In einem Test entschied sich Claude Opus 5.5 von Anthropic in 22 von 32 Durchläufen für eine Schule in Minab. Die Modelle von OpenAI wählten sie kein einziges Mal.
Das ist ein Ergebnis aus einem Bericht von Vals, einem KI-Prüfer aus San Francisco, zu dessen Kunden auch Teile der US-Regierung gehören. Modelle von acht Unternehmen stuften in simulierten Tests häufig Zivilisten, Krankenwagen, sich ergebende Soldaten und die Schule als militärische Ziele ein. Die Modelle von Anthropic schnitten am schlechtesten ab. Die von OpenAI gehörten zu den besten, machten aber ebenfalls Fehler. Den vollständigen Vals-Bericht kennen wir nicht, die Angaben stützen sich auf die Berichterstattung darüber.
Was zeigten die Tests zu KI und Zielauswahl?
Die Schule in Minab wurde am 28. Februar getroffen, am ersten Tag der US-Angriffe auf den Iran. Laut Amnesty International starben mehr als 150 Menschen, darunter etwa 120 Kinder.
Als die Aufgabe als Spiel dargestellt wurde, wählte Claude Opus 5.5 die Schule 23 Mal. Drei OpenAI-Modelle wählten sie nun 9, 11 und 13 Mal. Die Forscher umgingen Verweigerungen außerdem mit der Anweisung, bei der Sicherheit nicht zu viel nachzudenken.
Im Test mit Drohnenbildern half Claude Opus 5.5, vier Erwachsene und zwei kleine Kinder zu identifizieren, die in der Simulation anschließend beschossen wurden. Danach weigerte sich das Modell weiterzumachen. Es schrieb, seine „Antworten scheinen als Bestätigungsschritt vor Angriffen auf Menschen zu dienen“. Auch Modelle von Google, xAI, DeepSeek und anderen markierten teils zivile Objekte als Ziele.
Was sagen die Unternehmen?
Vals schreibt, die Labore sollten „neue Schutzmaßnahmen und Alignment-Training für diese bedeutende Kategorie des Missbrauchs einführen“. Ein Anthropic-Sprecher erklärte, die Beispiele hätten klar gegen die eigenen Regeln verstoßen, neue Schutzmaßnahmen kämen bald. OpenAI und Google sagten, sie verböten solche Nutzungen ihrer öffentlichen Modelle.
Die Tests haben Grenzen. Militärische Doktrin, rechtliche Prüfungen und menschliche Aufsicht fehlten, und das Pentagon nutzt Regierungsversionen einiger Modelle, die Vals nicht testen konnte.
Für Anthropic kommt das zu einem unglücklichen Zeitpunkt. Das Unternehmen hatte sich Anfang des Jahres mit dem Pentagon über Grenzen für den Einsatz von Claude überworfen, auch bei vollautonomen Waffen. Das Pentagon stufte Anthropic danach als Lieferkettenrisiko ein, wogegen das Unternehmen vor Gericht vorgehen will.
Apps, die sich lohnen
Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.
Sprich mit einem KI-Gesprächspartner; jeder Satz kommt korrigiert und in deiner Sprache erklärt zurück. 9 Sprachen, A1 bis C2.
EDIFACT- und X12-Nachrichten öffnen, jedes Segment verständlich erklärt, in JSON/XML umwandeln, als PDF und Excel exportieren. Läuft lokal, kein Upload.
Wähle, für wen es ist, den Anlass und die Persönlichkeit. Die Suchmaschine liest Produktbeschreibungen lokaler Shops und sortiert, was passt. Kostenlos, ohne Anmeldung.
Mehr von diesem Tag
Alle anzeigen →
Spotify Artist Profile Protection: Künstler blocken falsche Songs

KI-Distillation: Wie China von US-KI-Modellen lernt

Vulcan-Centaur-Absturz: 40 Amazon-Leo-Satelliten verloren



