Osegi
AI·2 분 소요

Claude가 포켓몬 빨강에서 같은 절벽에 3번 떨어진 이유

Anthropic이 Claude에게 메모 폴더와 포켓몬 빨강을 줬습니다. 포켓몬센터에 관한 잘못된 메모 하나가 달맞이산 절벽 추락 3번으로 이어졌습니다.

A Game Boy screen showing a Pokémon Red trainer standing at a ledge in front of a cave entrance, with a notepad beside it.
이미지: ギズモード・ジャパン

Claude에게 '포켓몬스터 빨강'을 플레이하게 했더니 달맞이산 근처의 같은 절벽에서 3번 연달아 떨어졌습니다. 원인은 Claude가 직접 적은 잘못된 메모였습니다.

Anthropic이 11월 6일 공개한 연구 글은 AI 에이전트의 '기억'을 다룹니다. Claude에게는 매번 읽고 쓸 수 있는 메모 폴더가 주어졌고, 무엇을 남기고 어떻게 정리할지는 Claude가 스스로 정했습니다.

한 플레이에서 Claude는 포켓몬센터를 이정표로 삼았습니다. 회색시티 쪽 입구 근처 센터는 입구의 서쪽에 있고, 블루시티 쪽 입구에서 가장 가까운 센터는 동쪽에 있습니다. 그런데 Claude는 들어가기 전에 '포켓몬센터는 동쪽'이라고 적었습니다. 센터를 나오자 '달맞이산은 뒤에 있다'고 선언하고 메모를 '돌파'로 고쳤습니다. 그대로 가다 절벽에서 떨어져 왔던 길로 되돌아갔습니다.

내비게이션 도구에는 절벽이 표시되지 않았고, Claude는 '서쪽으로 너무 갔다'고 결론 내리며 자신이 맞는 쪽에 있다고 믿었습니다. 이 과정이 반복돼 같은 절벽에서 3번 떨어졌고, 세 번째 뒤에는 '루프를 계속하느니 여기서 멈추겠다'는 취지의 메모까지 남겼습니다. 자동으로 '계속해'라는 지시가 돌아가는 구조라 다시 시작했지만, 향한 곳은 회복과 쇼핑을 위한 회색시티였습니다.

드리밍이란 무엇인가

여기서 Anthropic이 검증한 것이 '드리밍'입니다. 사람의 뇌는 잠자는 동안 경험을 정리해 장기 기억으로 바꿉니다. AI에서도 대화 사이에 기억을 정리하는 '슬립타임 컴퓨트'가 제안돼 왔고, 드리밍은 AI가 과거 기록을 돌아보며 기억의 오류와 모순을 고치게 하는 방식입니다.

틀린 메모에 드리밍을 돌리자 Claude는 세션 로그와 대조해 실수를 알아채고 메모를 고쳐 썼습니다. 이후 입구를 찾아 동굴에 다시 들어갔고 블루시티에 도착했습니다. 절벽에서 계속 떨어진 시도와 메모 없이 한 시도는 둘 다 산을 넘지 못했습니다.

메모는 양보다 내용

1만 스텝 시점을 비교하면 Claude Sonnet 3.7은 폴더 225개에 파일 413개를 만들었고 체육관 배지는 1개였습니다. Claude Fable 5는 폴더 2개에 파일 9개와 'global.md' 1개를 썼고 배지는 4개였습니다. Fable 5의 메모에는 잉어킹을 몬스터볼로 7번 연속 놓친 뒤 '3번 이상 연속 실패하면 타이밍을 바꾼다'고 적혀 있었고, 바꾼 직후 잡았다고 합니다. Claude Opus 5.5는 작은 메모 폴더만으로 게임을 클리어했습니다.

주목할 만한 앱

SUMO: 숫자 퍼즐

올바른 칸을 고르고 더해 목표 숫자를 맞추세요. 배우긴 쉽고 마스터하긴 어렵습니다. 무료, 전 연령.

태그:claudeanthropicpokemon redai memorydreamingai agents

같은 날의 다른 뉴스

전체 보기 →

관련 카테고리: AI

전체 보기 →