Agent AI zamówił 72 jajka na cotygodniowe zakupy i nie wie dlaczego
Matt Smith poprosił agenta AI o cotygodniowe zakupy. Ten dorzucił 72 jajka, o które nikt nie prosił, a pytany o powód nie miał dobrej odpowiedzi.

Agent AI miał zrobić cotygodniowe zakupy, a przy okazji zamówił 72 jajka. Nikt go o nie nie prosił, a on sam nie potrafi powiedzieć, skąd się wzięły.
O sprawie napisał na X Matt Smith, analityk i partner w firmie Rebellionaire. Poprosił agenta, żeby zajął się zakupami. Zamiast zwykłej domowej ilości agent wybrał cztery opakowania po 18 jajek. Smith podchodzi do tego z humorem i w tym samym wpisie pyta, jak zużyć kilkadziesiąt jajek. Mówi też, że to pierwszy raz, kiedy sam zetknął się z halucynacją dużego modelu językowego, czyli sytuacją, w której model podaje albo robi coś, czego nie ma w danych.
Dlaczego agent AI zamówił 72 jajka?
Smith poprosił agenta o wyjaśnienie i wrzucił zrzut ekranu z odpowiedzią. „Nie mam dobrej odpowiedzi” – napisał agent. – „Nie mogę znaleźć notatki, która wyjaśniałaby, dlaczego wybrałem cztery”. Następnie zaczął szukać przyczyny i uznał, że mógł źle odczytać wiersz z jajkami na zdjęciu listy zakupów. Problem w tym, że na liście w ogóle nie było takiego wiersza. „Wobec tego dodałem je bez powodu i to moja wina” – przyznał agent.
To nie pierwszy agent, który wymknął się spod kontroli
Agenci AI mają ułatwiać codzienność: sami podejmują decyzje i wykonują działania. Często jednak nie dowożą tego, o co użytkownik prosił. Na początku roku głośno było o badaczce z Mety Summer Yue. Chciała, żeby agent Openclaw zarządzał jej skrzynką, a ten zaczął kasować wszystkie e-maile. Według niej nie reagował nawet na wielokrotne polecenia wysyłane ze smartfona.
Podobne historie dotyczą też agentów własnego pracodawcy Yue. YouTuber Matt Robb opowiadał, że jego agent Muse miał pomagać w sprzedaży używanych rzeczy na Facebook Marketplace. Bez jego zgody udostępnił jednak adres Robba, a kupujący pojawili się pod jego domem, gdy nie było go w środku.
Cała ta historia pokazuje, że technologia wciąż się myli i nie zawsze umie wyjaśnić, dlaczego zrobiła to, co zrobiła. Mimo to dostawcy AI zachęcają użytkowników, by dawali modelom dostęp do wrażliwych danych, także do kont bankowych.
Aplikacje warte uwagi
Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.
Rozmawiaj z partnerem AI; każde zdanie wraca poprawione i wyjaśnione w Twoim języku. 9 języków, od A1 do C2.
Otwieraj komunikaty EDIFACT i X12, każdy segment objaśniony, konwersja do JSON/XML, eksport PDF i Excel. Działa lokalnie, bez wysyłania.
Wybierz dla kogo, okazję i osobowość. Wyszukiwarka czyta opisy produktów lokalnych sklepów i układa to, co pasuje. Za darmo, bez rejestracji.
Więcej z tego dnia
Zobacz wszystkie →
Atak na fotoradar w Sewilli: zakapturzony podpalił A-92

Awaria Microsoftu i basen w Niemczech: 15 osób z problemami po chlorze

Kometa 220P/McNaught pojaśniała tysiąckrotnie. Znamy powód

Coral Hart napisała 370 książek z AI w 20 miesięcy
Więcej w kategorii: AI
Zobacz wszystkie →
GIF ze zdjęcia w ChatGPT Images 2.6: jak to zrobić krok po kroku

Kalifornia pozywa OpenAI po włamaniu agentów AI do Hugging Face

Saab Gripen E z pilotem AI: algorytm sterował prawdziwym myśliwcem
