United Airlines ограничивает ИИ-агентов: бот не пройдёт регистрацию

Почему ИИ-агент не может пройти регистрацию за пассажира

По словам United, автоматические действия могут нарушать авиационные правила. Речь о требовании, чтобы при регистрации человек подтвердил, что в его багаже нет запрещённых веществ. Бот, который весело ставит галочку, не тот пассажир, которого имеют в виду.

Есть и тема паролей. Авиакомпания считает, что передача учётных данных личным сторонним ИИ-помощникам может раскрыть конфиденциальную информацию, а действия этих инструментов способны привести к непреднамеренным покупкам, изменениям в аккаунте или трате миль MileagePlus. К тому же United предпочла бы, чтобы клиенты пользовались её собственным приложением.

Не только авиакомпании

ИИ-агентов рекламируют как способ переложить мелкие дела, но обращаться с ними нужно аккуратно. Британский математик профессор Ханна Фрай в этом году дала ИИ-агенту банковскую карту и чуть больше свободы, чем стоило. Агент выдал пароли и сделал несколько опрометчивых покупок. При этом Фрай предупредила, что некомпетентность агента обманчива: такие системы быстро совершенствуются.

В прошлом месяце сообщалось, что крупные американские банки блокируют сторонних ИИ-агентов в аккаунтах клиентов. В этом месяце, по сообщениям, к ним присоединились несколько британских банков. Amazon в сентябре заблокировал Muse от Meta. United пишет, что лидеры банковской отрасли и ритейла приняли похожие меры, и призывает остальных последовать их примеру.

Как именно United будет блокировать агентов, неизвестно. Вариантов несколько, например биометрическое подтверждение действий или поиск признаков автоматического управления браузером. Подробностей авиакомпания не привела.