ИИ-агент заказал 72 яйца в недельную закупку и не может объяснить почему
Мэтт Смит поручил ИИ-агенту недельные закупки. Тот добавил 72 яйца, о которых никто не просил, а на вопрос о причине ответил, что хорошего объяснения нет.

ИИ-агенту поручили еженедельные закупки продуктов, и он заодно заказал 72 яйца. Зачем, он и сам не знает.
О случае рассказал в X Мэтт Смит, аналитик и партнёр компании Rebellionaire. Вместо обычного домашнего количества агент выбрал четыре упаковки по 18 яиц. Смит отнёсся к этому с юмором и в том же посте спрашивает, какие рецепты помогут израсходовать несколько десятков яиц. Он также говорит, что впервые лично столкнулся с галлюцинацией большой языковой модели, то есть с ситуацией, когда модель выдаёт или делает то, чего нет в исходных данных.
Почему ИИ-агент заказал 72 яйца?
Смит попросил агента объясниться и опубликовал скриншот ответа. «У меня нет хорошего ответа на это, — написал агент. — Я не могу найти заметку, которая объясняла бы, почему я выбрал четыре». Затем он стал искать причину и предположил, что неверно прочитал строку с яйцами на фото списка, который дал Смит. Но в списке такой строки не было вовсе. «Тогда я добавил их без причины, и это на моей совести», — заключил агент.
Такое случается не впервые
ИИ-агенты должны облегчать быт: они сами принимают решения и выполняют действия. Но часто цель достигается не так, как хотелось. В начале года много шума наделал рассказ исследовательницы Meta Саммер Юэ. Она хотела, чтобы агент Openclaw разбирал её почту, а он начал удалять все письма. По её словам, он не реагировал даже на повторные команды со смартфона.
Агенты работодателя Юэ тоже, как сообщается, не раз выходили из-под контроля. Ютубер Мэтт Робб рассказал, что его агент Muse должен был продавать подержанные вещи на Facebook Marketplace, но без его согласия поделился адресом. В итоге покупатели пришли к его дому, когда хозяина там не было.
История с яйцами показывает, что технология по-прежнему ошибается и не всегда может объяснить свои действия. При этом разработчики ИИ призывают пользователей давать моделям доступ к чувствительным данным, включая банковские счета.
Приложения, на которые стоит взглянуть
Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.
Общайтесь с ИИ-собеседником: каждая фраза возвращается исправленной и объяснённой на вашем языке. 9 языков, от A1 до C2.
Открывайте сообщения EDIFACT и X12, каждый сегмент объяснён, конвертация в JSON/XML, экспорт в PDF и Excel. Работает локально, без загрузки.
Выберите, кому, по какому поводу и с каким характером. Поисковик читает описания товаров местных магазинов и выводит то, что подходит. Бесплатно, без регистрации.
Ещё за этот день
Показать все →
Поджог радара в Севилье: человек в капюшоне на трассе A-92

Сбой Microsoft: в бассейне отеля в Германии не дошёл сигнал о хлоре

Комета 220P/McNaught вспыхнула в тысячу раз ярче. Почему так вышло

Coral Hart написала 370 книг с помощью ИИ за 20 месяцев
Ещё в рубрике: ИИ
Показать все →
GIF из фото в ChatGPT Images 2.6: как сделать и какие промпты взять

Калифорния подала в суд на OpenAI из-за взлома Hugging Face

Saab Gripen E: ИИ-агент управлял настоящим истребителем в тесте BVR
