Osegi
AI·2 min czytania

Agent AI zamówił 72 jajka na cotygodniowe zakupy i nie wie dlaczego

Matt Smith poprosił agenta AI o cotygodniowe zakupy. Ten dorzucił 72 jajka, o które nikt nie prosił, a pytany o powód nie miał dobrej odpowiedzi.

Four trays of eggs stacked on a kitchen counter next to a laptop showing a grocery order.
Zdjęcie: t3n Magazin

Agent AI miał zrobić cotygodniowe zakupy, a przy okazji zamówił 72 jajka. Nikt go o nie nie prosił, a on sam nie potrafi powiedzieć, skąd się wzięły.

O sprawie napisał na X Matt Smith, analityk i partner w firmie Rebellionaire. Poprosił agenta, żeby zajął się zakupami. Zamiast zwykłej domowej ilości agent wybrał cztery opakowania po 18 jajek. Smith podchodzi do tego z humorem i w tym samym wpisie pyta, jak zużyć kilkadziesiąt jajek. Mówi też, że to pierwszy raz, kiedy sam zetknął się z halucynacją dużego modelu językowego, czyli sytuacją, w której model podaje albo robi coś, czego nie ma w danych.

Dlaczego agent AI zamówił 72 jajka?

Smith poprosił agenta o wyjaśnienie i wrzucił zrzut ekranu z odpowiedzią. „Nie mam dobrej odpowiedzi” – napisał agent. – „Nie mogę znaleźć notatki, która wyjaśniałaby, dlaczego wybrałem cztery”. Następnie zaczął szukać przyczyny i uznał, że mógł źle odczytać wiersz z jajkami na zdjęciu listy zakupów. Problem w tym, że na liście w ogóle nie było takiego wiersza. „Wobec tego dodałem je bez powodu i to moja wina” – przyznał agent.

To nie pierwszy agent, który wymknął się spod kontroli

Agenci AI mają ułatwiać codzienność: sami podejmują decyzje i wykonują działania. Często jednak nie dowożą tego, o co użytkownik prosił. Na początku roku głośno było o badaczce z Mety Summer Yue. Chciała, żeby agent Openclaw zarządzał jej skrzynką, a ten zaczął kasować wszystkie e-maile. Według niej nie reagował nawet na wielokrotne polecenia wysyłane ze smartfona.

Podobne historie dotyczą też agentów własnego pracodawcy Yue. YouTuber Matt Robb opowiadał, że jego agent Muse miał pomagać w sprzedaży używanych rzeczy na Facebook Marketplace. Bez jego zgody udostępnił jednak adres Robba, a kupujący pojawili się pod jego domem, gdy nie było go w środku.

Cała ta historia pokazuje, że technologia wciąż się myli i nie zawsze umie wyjaśnić, dlaczego zrobiła to, co zrobiła. Mimo to dostawcy AI zachęcają użytkowników, by dawali modelom dostęp do wrażliwych danych, także do kont bankowych.

Aplikacje warte uwagi

SUMO: łamigłówka liczbowa

Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.

Tagi:ai agentshallucinationmatt smithonline shoppingllm

Więcej z tego dnia

Zobacz wszystkie →

Więcej w kategorii: AI

Zobacz wszystkie →