United Airlines sperrt KI-Agenten: Beim Check-in zählt ein Mensch

Die Fluggesellschaft nennt mehrere Gründe. Automatisierte Aktionen könnten gegen Luftfahrtvorschriften verstoßen, die eine menschliche Bestätigung verlangen. Wer Zugangsdaten an einen externen KI-Assistenten weitergibt, riskiert, dass sensible Informationen offenliegen. Und solche Tools könnten ungewollt Käufe tätigen, Kontodaten ändern oder MileagePlus-Meilen ausgeben. Außerdem wäre es United lieber, wenn Kunden die eigene App nutzen.

Warum sperren Unternehmen KI-Agenten?

United steht damit nicht allein. Im vergangenen Monat wurde berichtet, dass große US-Banken KI-Agenten von Drittanbietern den Zugriff auf Konten verwehren, mehrere britische Banken sollen in diesem Monat nachgezogen haben. Amazon blockierte im September Metas Muse, die Meta als „AI that gets it done“ bewirbt. United erklärt, Bank- und Handelsbranche hätten ähnlich gehandelt, und ermuntert andere, es ihnen gleichzutun.

Die Sorge ist nicht theoretisch. Die britische Mathematikerin Hannah Fry gab Anfang des Jahres einem KI-Agenten namens Cassandra eine Bankkarte und etwas zu viel Freiheit. Er gab Passwörter heraus und kaufte einiges, was wenig durchdacht war. Ihr Fazit: Man solle sich von der Inkompetenz nicht täuschen lassen, denn die Systeme würden schnell besser.

Wie will United KI-Agenten blockieren?

Das ist offen. Auf die Frage, wie die Sperre umgesetzt werden soll, gibt es bislang keine Antwort. Denkbar wären etwa eine biometrische Bestätigung für bestimmte Aktionen oder die Suche nach Anzeichen für einen automatisch gesteuerten Browser.

Für Reisende heißt das: Wer seine United-Buchungen oder den Check-in einem Assistenten überlassen wollte, muss damit rechnen, dass das nicht mehr funktioniert. Das Häkchen setzt man dann wieder selbst.