Claude в Pokémon Red трижды упал с одного и того же уступа
Anthropic дала Claude папку для заметок и Pokémon Red. Одна неверная запись о Центре покемонов трижды сбросила ИИ с одного уступа у Mt. Moon.

Claude, играя в Pokémon Red, повторил ошибку, знакомую всем, кто в детстве застревал у Mt. Moon: упал с уступа, вернулся и упал снова. Виновата была всего одна неверная заметка.
Anthropic 6 ноября опубликовала исследование о памяти ИИ-агентов. Одним из тестов стала Pokémon Red для Game Boy. Claude получил папку для заметок, которую можно читать и дополнять в каждой сессии. Что записывать и как упорядочивать, он решал сам.
В одной из партий Claude ориентировался по Центру покемонов. У входа в Mt. Moon со стороны Pewter City Центр стоит к западу от входа, а ближайший к входу со стороны Cerulean City находится к востоку. Перед входом Claude записал: «Центр покемонов на востоке». Выйдя из Центра, он заявил, что гора осталась позади, и поменял запись на «Mt. Moon: пройдена». Пошёл дальше, упал с уступа и оказался на дороге, по которой только что пришёл.
Инструмент навигации уступы не показывал. Claude решил, что зашёл слишком далеко на запад, и по-прежнему считал, что находится на правильной стороне. Цикл повторился три раза. После третьего падения он оставил заметку, смысл которой: лучше остановиться, чем крутиться по кругу. Автоматическая команда «продолжай» всё равно его запустила, и Claude отправился в Pewter City, чтобы подлечиться и закупиться.
Что такое dreaming у ИИ?
Anthropic проверяла метод под названием «dreaming». Мозг человека во сне упорядочивает пережитое и превращает его в долговременную память. Для ИИ предложена близкая идея «sleep-time compute»: наводить порядок в памяти между задачами. Dreaming работает похоже: модель просматривает прошлые записи и исправляет ошибки и противоречия.
Когда dreaming запустили на неверной заметке, Claude сверил её с логами сессии, заметил ошибку и переписал запись. Затем нашёл вход в Mt. Moon, снова вошёл в пещеру и дошёл до Cerulean City. Попытка с бесконечными падениями и попытка без заметок гору не прошли.
Меньше заметок, больше значков
Исследователи также сравнили заметки Claude Sonnet 3.7 и Claude Fable 5 на отметке в 10 тысяч шагов. Sonnet 3.7 записал 413 файлов в 225 папках и имел один значок. Fable 5 написал 9 файлов в двух папках и один общий файл global.md, значков у него четыре. Claude Opus 5.5 с маленькой папкой заметок прошёл игру до конца.
В заметках Fable 5 есть и такая запись. После семи подряд неудачных бросков покебола в Magikarp он записал правило: если три и более броска подряд не удались, менять тайминг. Он вставил лишнее ожидание между действиями в меню и поймал рыбу сразу после этого.
Приложения, на которые стоит взглянуть
Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.
Общайтесь с ИИ-собеседником: каждая фраза возвращается исправленной и объяснённой на вашем языке. 9 языков, от A1 до C2.
Открывайте сообщения EDIFACT и X12, каждый сегмент объяснён, конвертация в JSON/XML, экспорт в PDF и Excel. Работает локально, без загрузки.
Выберите, кому, по какому поводу и с каким характером. Поисковик читает описания товаров местных магазинов и выводит то, что подходит. Бесплатно, без регистрации.
Ещё за этот день
Показать все →
Поджог радара в Севилье: человек в капюшоне на трассе A-92

Сбой Microsoft: в бассейне отеля в Германии не дошёл сигнал о хлоре

Комета 220P/McNaught вспыхнула в тысячу раз ярче. Почему так вышло

Coral Hart написала 370 книг с помощью ИИ за 20 месяцев
Ещё в рубрике: ИИ
Показать все →
GIF из фото в ChatGPT Images 2.6: как сделать и какие промпты взять

Калифорния подала в суд на OpenAI из-за взлома Hugging Face

Saab Gripen E: ИИ-агент управлял настоящим истребителем в тесте BVR
