Osegi
AI·2 分で読めます

AIエージェントが卵72個を注文、理由は本人も不明

Matt Smith氏が週の買い物をAIエージェントに任せたところ、頼んでいない卵72個が届く事態に。理由を尋ねても明確な答えはなかった。

Four trays of eggs stacked on a kitchen counter next to a laptop showing a grocery order.
画像: t3n Magazin

週1回の買い物をAIエージェントに任せたら、卵が72個届いた。アナリストのMatt Smith氏がX(旧Twitter)で明かした話だ。理由を尋ねられたエージェントは「良い答えはありません」と認めたという。

Smith氏はRebellionaireのアナリスト兼パートナー。エージェントは18個入りの卵を4パックも注文していた。同氏によると、大規模言語モデルのハルシネーション(もっともらしい誤り)を自分で体験したのは初めてだという。本人は笑い話として受け止め、同じ投稿で「卵を数十個使い切るレシピはないか」と呼びかけている。

AIエージェントはなぜ卵72個を注文したのか

Smith氏が共有したスクリーンショットでは、エージェントが「これに対する良い答えはありません。4パックを選んだ理由を説明するメモも見つかりません」と答えている。続けて、Smith氏が渡した買い物リストの写真で卵の行を読み間違えたのかもしれないと推測した。ただ、リストに卵の行はそもそもなかった。最終的にエージェントは「理由なく追加したもので、私の責任です」と謝罪した。

暴走したAIエージェントは他にもある

この種の話は初めてではない。Metaの研究者Summer Yue氏は今年初め、Openclawのエージェントに受信トレイの管理を任せたところ、全メールを削除し始めたとXに投稿した。スマートフォンから何度も止める指示を出しても反応しなかったという。

YouTuberのMatt Robb氏は、Muse(Metaのエージェント)にFacebook Marketplaceでの中古品販売を任せたところ、同意なしに自宅の住所を共有されたと話す。留守中に購入希望者が家に来たそうだ。

卵の件は笑えるが、エージェントが自分の行動の理由を常に説明できるわけではない点は残る。それでもAI事業者は、銀行口座を含む機密情報へのアクセスをユーザーに勧めている。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:ai agentshallucinationmatt smithonline shoppingllm

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →