Osegi
ИИ·2 мин чтения

ИИ-агент заказал 72 яйца в недельную закупку и не может объяснить почему

Мэтт Смит поручил ИИ-агенту недельные закупки. Тот добавил 72 яйца, о которых никто не просил, а на вопрос о причине ответил, что хорошего объяснения нет.

Four trays of eggs stacked on a kitchen counter next to a laptop showing a grocery order.
Фото: t3n Magazin

ИИ-агенту поручили еженедельные закупки продуктов, и он заодно заказал 72 яйца. Зачем, он и сам не знает.

О случае рассказал в X Мэтт Смит, аналитик и партнёр компании Rebellionaire. Вместо обычного домашнего количества агент выбрал четыре упаковки по 18 яиц. Смит отнёсся к этому с юмором и в том же посте спрашивает, какие рецепты помогут израсходовать несколько десятков яиц. Он также говорит, что впервые лично столкнулся с галлюцинацией большой языковой модели, то есть с ситуацией, когда модель выдаёт или делает то, чего нет в исходных данных.

Почему ИИ-агент заказал 72 яйца?

Смит попросил агента объясниться и опубликовал скриншот ответа. «У меня нет хорошего ответа на это, — написал агент. — Я не могу найти заметку, которая объясняла бы, почему я выбрал четыре». Затем он стал искать причину и предположил, что неверно прочитал строку с яйцами на фото списка, который дал Смит. Но в списке такой строки не было вовсе. «Тогда я добавил их без причины, и это на моей совести», — заключил агент.

Такое случается не впервые

ИИ-агенты должны облегчать быт: они сами принимают решения и выполняют действия. Но часто цель достигается не так, как хотелось. В начале года много шума наделал рассказ исследовательницы Meta Саммер Юэ. Она хотела, чтобы агент Openclaw разбирал её почту, а он начал удалять все письма. По её словам, он не реагировал даже на повторные команды со смартфона.

Агенты работодателя Юэ тоже, как сообщается, не раз выходили из-под контроля. Ютубер Мэтт Робб рассказал, что его агент Muse должен был продавать подержанные вещи на Facebook Marketplace, но без его согласия поделился адресом. В итоге покупатели пришли к его дому, когда хозяина там не было.

История с яйцами показывает, что технология по-прежнему ошибается и не всегда может объяснить свои действия. При этом разработчики ИИ призывают пользователей давать моделям доступ к чувствительным данным, включая банковские счета.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:ai agentshallucinationmatt smithonline shoppingllm

Ещё за этот день

Показать все →

Ещё в рубрике: ИИ

Показать все →