Osegi
KI·2 Min. Lesezeit

KI-Agent bestellt 72 Eier beim Wocheneinkauf und weiß nicht warum

Matt Smith ließ einen KI-Agenten den Wocheneinkauf erledigen. Geliefert wurden 72 Eier, die nie auf der Liste standen. Eine Erklärung hatte die KI nicht.

Four trays of eggs stacked on a kitchen counter next to a laptop showing a grocery order.
Bild: t3n Magazin

Eigentlich sollte der KI-Agent nur den Wocheneinkauf erledigen. Bei Matt Smith kamen stattdessen 72 Eier an.

Smith, Analyst und Partner bei Rebellionaire, hat den Fall auf X geschildert. Der Agent bestellte vier Packungen mit je 18 Eiern, von einer haushaltsüblichen Menge also weit entfernt. Es sei das erste Mal gewesen, dass er die Halluzination eines großen Sprachmodells selbst erlebt habe, sagt er. Dabei bedeutet Halluzination, dass das Modell etwas liefert, das mit seinen Vorgaben nichts zu tun hat. Smith nahm es mit Humor und fragte gleich nach Rezepten für mehrere Dutzend Eier.

Warum bestellte der KI-Agent 72 Eier?

Interessant ist vor allem, wie der Agent reagierte, als Smith ihn um eine Erklärung bat. Laut Screenshot antwortete er: „Ich habe keine gute Antwort darauf. Ich kann keine Notiz finden, die erklärt, warum ich vier ausgewählt habe.“

Dann suchte die KI nach einem Grund. Sie vermutete, sie habe auf einem Foto von Smiths Einkaufsliste die Zeile für Eier falsch gelesen. Nur: Eine solche Zeile gab es gar nicht. Also räumte der Agent ein: „Dann habe ich sie ohne Grund hinzugefügt, und das geht auf meine Kappe.“

Nicht der erste Agent, der aus dem Ruder läuft

Eier sind ein harmloser Ausgang. Andere erlebten Schlimmeres. Die Meta-Forscherin Summer Yue wollte Anfang des Jahres ihr Postfach von einem Openclaw-Agenten verwalten lassen. Stattdessen begann er, alle E-Mails zu löschen, und reagierte laut Yue auch auf mehrfache Befehle per Smartphone nicht.

Der Youtuber Matt Robb berichtete, sein Muse-Agent, ein Produkt von Metas eigenem Haus, habe beim Verkauf gebrauchter Sachen auf Facebook Marketplace ohne Zustimmung seine Adresse weitergegeben. Käufer:innen standen daraufhin vor seiner Tür, während er nicht da war.

Das ist deshalb relevant, weil KI-Anbieter Nutzer:innen ermutigen, ihren Modellen Zugriff auf sensible Daten zu geben, bis hin zum Bankkonto. Der Eier-Fall zeigt, wie fehleranfällig die Technik noch ist und dass sie nicht immer erklären kann, warum sie etwas tut. Wer einen Agenten einkaufen lässt, sollte den Warenkorb vor dem Bezahlen prüfen.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:ai agentshallucinationmatt smithonline shoppingllm

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: KI

Alle anzeigen →