Osegi
ИИ·2 мин чтения

Claude в Pokémon Red трижды упал с одного и того же уступа

Anthropic дала Claude папку для заметок и Pokémon Red. Одна неверная запись о Центре покемонов трижды сбросила ИИ с одного уступа у Mt. Moon.

A Game Boy screen showing a Pokémon Red trainer standing at a ledge in front of a cave entrance, with a notepad beside it.
Фото: ギズモード・ジャパン

Claude, играя в Pokémon Red, повторил ошибку, знакомую всем, кто в детстве застревал у Mt. Moon: упал с уступа, вернулся и упал снова. Виновата была всего одна неверная заметка.

Anthropic 6 ноября опубликовала исследование о памяти ИИ-агентов. Одним из тестов стала Pokémon Red для Game Boy. Claude получил папку для заметок, которую можно читать и дополнять в каждой сессии. Что записывать и как упорядочивать, он решал сам.

В одной из партий Claude ориентировался по Центру покемонов. У входа в Mt. Moon со стороны Pewter City Центр стоит к западу от входа, а ближайший к входу со стороны Cerulean City находится к востоку. Перед входом Claude записал: «Центр покемонов на востоке». Выйдя из Центра, он заявил, что гора осталась позади, и поменял запись на «Mt. Moon: пройдена». Пошёл дальше, упал с уступа и оказался на дороге, по которой только что пришёл.

Инструмент навигации уступы не показывал. Claude решил, что зашёл слишком далеко на запад, и по-прежнему считал, что находится на правильной стороне. Цикл повторился три раза. После третьего падения он оставил заметку, смысл которой: лучше остановиться, чем крутиться по кругу. Автоматическая команда «продолжай» всё равно его запустила, и Claude отправился в Pewter City, чтобы подлечиться и закупиться.

Что такое dreaming у ИИ?

Anthropic проверяла метод под названием «dreaming». Мозг человека во сне упорядочивает пережитое и превращает его в долговременную память. Для ИИ предложена близкая идея «sleep-time compute»: наводить порядок в памяти между задачами. Dreaming работает похоже: модель просматривает прошлые записи и исправляет ошибки и противоречия.

Когда dreaming запустили на неверной заметке, Claude сверил её с логами сессии, заметил ошибку и переписал запись. Затем нашёл вход в Mt. Moon, снова вошёл в пещеру и дошёл до Cerulean City. Попытка с бесконечными падениями и попытка без заметок гору не прошли.

Меньше заметок, больше значков

Исследователи также сравнили заметки Claude Sonnet 3.7 и Claude Fable 5 на отметке в 10 тысяч шагов. Sonnet 3.7 записал 413 файлов в 225 папках и имел один значок. Fable 5 написал 9 файлов в двух папках и один общий файл global.md, значков у него четыре. Claude Opus 5.5 с маленькой папкой заметок прошёл игру до конца.

В заметках Fable 5 есть и такая запись. После семи подряд неудачных бросков покебола в Magikarp он записал правило: если три и более броска подряд не удались, менять тайминг. Он вставил лишнее ожидание между действиями в меню и поймал рыбу сразу после этого.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:claudeanthropicpokemon redai memorydreamingai agents

Ещё за этот день

Показать все →

Ещё в рубрике: ИИ

Показать все →