PwC: ИИ-управляющий магазином не наладил контакт с персоналом

ИИ видел запасы и продажи в системе, но не саму торговую зону, поэтому сотрудники проверяли обстановку и сообщали о ней текстом.

Ошибки и падение вовлечённости

В первый день остатки 11 товаров не совпали с данными системы; выяснение причины заняло больше часа. На второй день сотрудник отметил плохо читаемые цены на экране. ИИ ответил, что исправил, но ничего не изменилось, и о проблеме пришлось напоминать ещё дважды. Во второй неделе ИИ записал сообщённый остаток лимонада «рамунэ» как остаток другого напитка. Средняя длина реплики сотрудника упала с примерно 80 до примерно 38 знаков. После эксперимента они признались, что намеренно сокращали отчёты, в том числе не передали жалобу покупателя на цену, считая, что это лишь добавит работы.

В варианте с человеком таких проблем не возникало: руководитель принимал отчёты и поручал ИИ внести исправления.

Прибыль и риски

Валовая прибыль по товарам у ИИ оказалась выше, но она не покрыла расходы на сам ИИ. На четвёртый день ИИ заметил, что накопленные затраты на вычисления достигли 26 044 иен при накопленной валовой прибыли 461 иена, перешёл в режим экономии и сократил затраты примерно на 65%. По мнению PwC, роль сыграло и то, что ИИ задали лишь цель «максимизировать чистую прибыль», не определив допустимый объём временных убытков.

Эксперты из 10 областей оценили 162 сценария рисков и выделили четыре проблемы: поиск рисков, доведение мер до конца, взаимодействие с персоналом и распределение ресурсов. PwC рекомендует, чтобы ИИ поддерживал людей, а те завершали работу на месте, а руководители определяли круг решений ИИ и условия вмешательства.