Osegi
IA·2 min de lectura

Claude juega a Pokémon Rojo y se cae tres veces del mismo desnivel

Anthropic dio a Claude una carpeta de notas y Pokémon Rojo. Una nota errónea sobre el Centro Pokémon lo hizo caer tres veces por el mismo desnivel.

A Game Boy screen showing a Pokémon Red trainer standing at a ledge in front of a cave entrance, with a notepad beside it.
Imagen: ギズモード・ジャパン

Claude, jugando a Pokémon Rojo, se cayó tres veces seguidas por el mismo desnivel junto al Monte Moon, porque se fio de una nota escrita por él mismo. El caso sale de un artículo de investigación que Anthropic publicó el 6 de noviembre sobre la memoria de los agentes de IA.

En el experimento, Claude disponía de una carpeta en la que leer y escribir entre partidas. Qué anotar y cómo ordenarlo lo decidía el propio modelo.

Así se torció todo. Cerca de la entrada del lado de Ciudad Plateada hay un desnivel: si te tiras, tienes que volver por donde viniste. Claude usaba los Centros Pokémon como referencia. El de la entrada de Ciudad Plateada queda al oeste y el más cercano a la entrada de Ciudad Celeste, al este. Antes de entrar, Claude escribió que el Centro estaba al este. Al salir, declaró que la montaña quedaba atrás y cambió su nota a «Monte Moon: superado».

Después se cayó por el desnivel y volvió al camino que acababa de recorrer. Su herramienta de navegación no muestra los desniveles, así que Claude concluyó que se había pasado hacia el oeste y que estaba en el lado correcto. Y vuelta a empezar. Tras la tercera caída dejó una nota que decía, más o menos, que prefería parar antes que seguir en bucle. Un aviso automático de «continúa» lo reactivó y se fue a Ciudad Plateada a curarse y comprar.

¿Qué es el «dreaming» en una IA?

Es la técnica que Anthropic puso a prueba. Los humanos ordenan sus experiencias durante el sueño para pasarlas a la memoria a largo plazo, y para la IA se ha propuesto algo parecido, el «sleep-time compute»: reorganizar la memoria entre tareas. En el «dreaming», el modelo repasa registros anteriores y corrige errores y contradicciones.

Al aplicarlo a la nota errónea, Claude la comparó con los registros de la sesión, vio el fallo y la reescribió. Luego encontró la entrada de la cueva, entró y llegó a Ciudad Celeste. Los intentos que seguían cayendo, y los que no tenían notas, no cruzaron la montaña.

Más notas, menos medallas

El estudio comparó además Sonnet 3.7 y Fable 5 a los 10.000 pasos. Sonnet 3.7 había escrito 413 archivos en 225 carpetas y tenía una medalla de gimnasio. Fable 5 tenía nueve archivos en dos carpetas más un «global.md», y cuatro medallas. Sus notas recogían estrategias y reglas que había deducido por su cuenta. Opus 5.5 terminó el juego con solo una carpeta pequeña de notas.

Una nota de Fable 5, escrita tras siete Poké Balls falladas con un Magikarp, dice que tras tres fallos seguidos hay que cambiar el ritmo añadiendo una espera entre las entradas del menú. Lo capturó justo después.

Apps que merecen la pena

SUMO: el puzle de números

Toca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.

Etiquetas:claudeanthropicpokemon redai memorydreamingai agents

Más de este día

Ver todas →

Más en: IA

Ver todas →