United Airlines verbietet fremde KI-Agenten bei Buchungen

Warum sperrt United KI-Assistenten?

United nennt drei Gründe. Erstens: Wer Zugangsdaten mit einem KI-Assistenten teilt, riskiert, dass sensible Informationen abfließen. Zweitens: Ein KI-Tool könnte ungewollt Käufe auslösen, Konten verändern oder Meilen des Vielfliegerprogramms MileagePlus ausgeben. Drittens könnte automatisiertes Handeln gegen Vorschriften der US-Luftfahrtbehörde FAA und des Verkehrsministeriums DOT verstoßen. Als Beispiel nennt United den Check-in: Dort muss ein Mensch bestätigen, dass im Gepäck keine verbotenen Gegenstände wie Sprengstoff stecken.

Das Sicherheitsportal „Digital Trust Center“ will United aktualisieren. Dort soll stehen, was die Einschränkung für Kunden bedeutet, wie man sein Konto schützt und an wen man sich wendet, wenn ein KI-Agent etwas Ungewolltes tut. Banken und Händler hätten ähnlich reagiert, so das Unternehmen, und es rief andere Firmen auf, dasselbe zu erwägen.

Eine Welle gegen Metas Muse

United steht nicht allein. Seit Meta im September seinen persönlichen KI-Agenten Muse veröffentlicht hat, schließen immer mehr Branchen externe Agenten aus. Amazon blockiert Einkäufe über Muse seit dem 20. September. Gründe: keine Vorwarnung durch Meta, Muse gebe sich nicht als KI-Agent zu erkennen, und das Tool scheine Login-Daten von Kunden zu sammeln und zu speichern.

Im Bankwesen zogen JPMorgan Chase, Charles Schwab, Citigroup und Wells Fargo zwischen dem 13. und 20. Oktober nach. Sie blockieren externe Agenten, die sich mit den Zugangsdaten des Kunden anmelden, oder schieben das Risiko vertraglich dem Kunden zu. JPMorgan-Chef Jamie Dimon sagte bei der Quartalspräsentation, Agenten wie Muse oder Instinct dürften nicht in Kundenkonten arbeiten, er verwies auf „außer Kontrolle geratene Agenten“. Die Bank of America mahnte am 27. Oktober per E-Mail, Zugangsdaten nicht mit KI-Assistenten zu teilen, und warnte, Kunden hafteten für dadurch ausgelöste Transaktionen.

Für Reisende heißt das: Buchung und Check-in laufen bei United vorerst am besten über das eigene Login, nicht über einen KI-Assistenten.