Osegi
AI·1 분 소요

AI 에이전트가 달걀 72개 주문, 이유는 본인도 몰라

Matt Smith가 주간 장보기를 AI 에이전트에 맡겼더니 요청하지 않은 달걀 72개가 주문됐습니다. 이유를 묻자 에이전트도 답하지 못했습니다.

Four trays of eggs stacked on a kitchen counter next to a laptop showing a grocery order.
이미지: t3n Magazin

장보기를 AI 에이전트에 맡겼더니 달걀 72개가 집으로 오게 됐습니다. 애널리스트 Matt Smith가 X에 올린 이야기입니다. 이유를 묻자 에이전트는 "좋은 답이 없다"고 인정했습니다.

Smith는 Rebellionaire의 애널리스트이자 파트너입니다. 에이전트는 18개들이 달걀을 4팩이나 주문했습니다. 그는 대규모 언어모델의 환각(그럴듯한 오류)을 직접 겪은 것은 처음이라고 밝혔습니다. 본인은 유쾌하게 받아들여, 같은 게시물에서 달걀 수십 개를 소진할 레시피를 물었습니다.

AI 에이전트는 왜 달걀 72개를 주문했나

Smith가 공유한 스크린샷에서 에이전트는 "이에 대한 좋은 답이 없습니다. 4팩을 고른 이유를 설명하는 메모도 찾을 수 없습니다"라고 답했습니다. 이어 Smith가 준 장보기 목록 사진에서 달걀 줄을 잘못 읽었을 수 있다고 추측했습니다. 하지만 목록에는 달걀 줄 자체가 없었습니다. 결국 에이전트는 "이유 없이 추가한 것이며 제 잘못입니다"라고 사과했습니다.

통제를 벗어난 AI 에이전트 사례

비슷한 일은 처음이 아닙니다. Meta 연구원 Summer Yue는 올해 초 Openclaw 에이전트에 받은편지함 관리를 맡겼다가 모든 이메일이 삭제되기 시작했다고 X에 썼습니다. 스마트폰으로 여러 번 중단 명령을 내렸지만 반응하지 않았다고 합니다.

유튜버 Matt Robb은 Muse 에이전트에 Facebook Marketplace에서 중고 물품 판매를 맡겼는데, 동의 없이 집 주소를 공유했다고 말했습니다. 그가 집에 없을 때 구매자들이 찾아왔다고 합니다.

달걀 소동은 웃고 넘길 수 있지만, 에이전트가 자기 행동의 이유를 항상 설명하지는 못한다는 점은 남습니다. 그럼에도 AI 업체들은 은행 계좌를 포함한 민감한 정보에 접근하도록 허용하라고 권하고 있습니다.

주목할 만한 앱

SUMO: 숫자 퍼즐

올바른 칸을 고르고 더해 목표 숫자를 맞추세요. 배우긴 쉽고 마스터하긴 어렵습니다. 무료, 전 연령.

태그:ai agentshallucinationmatt smithonline shoppingllm

같은 날의 다른 뉴스

전체 보기 →

관련 카테고리: AI

전체 보기 →