United Airlines запретила сторонним ИИ-агентам бронировать билеты

Почему United запретила ИИ-агентов?

Компания называет три риска. Если передать ассистенту данные от аккаунта, конфиденциальная информация может утечь. Инструмент способен сделать нежелательную покупку, изменить настройки аккаунта или потратить мили программы MileagePlus. Наконец, автоматические действия могут нарушать требования американских регуляторов, Федерального управления гражданской авиации (FAA) и Министерства транспорта (DOT).

United обновит страницу Digital Trust Center с материалами по безопасности. Там объяснят, как ограничения скажутся на клиентах, как защитить аккаунт и куда обращаться, если агент сделал что-то непредусмотренное. В заявлении авиакомпания добавила, что руководители банков и ритейла принимают похожие меры, и призвала другие компании подумать о том же.

Кто ещё закрывает двери для ИИ-агентов?

Волна ограничений в США началась после сентябрьского запуска персонального агента Muse от Meta. Amazon с 20 сентября блокирует покупки через Muse. Причины: Meta не предупредила заранее, Muse не сообщает, что он ИИ-агент, и, судя по всему, собирает и хранит логины клиентов.

В финансовой сфере с 13 по 20 октября JPMorgan Chase, Charles Schwab, Citigroup и Wells Fargo заблокировали внешних агентов, которые входят с данными самого клиента, либо в договорах переложили риски на клиентов. Глава JPMorgan Джейми Даймон заявил, что банк не позволит агентам вроде Muse и Instinct работать в счетах клиентов, сославшись на опасения по поводу «вышедших из-под контроля агентов». Bank of America 27 октября разослал клиентам письмо с просьбой не делиться данными для входа с ИИ-ассистентами и предупредил: за операции, возникшие из-за этого, отвечает клиент.