Osegi
IA·2 min de lecture

Claude joue à Pokémon Rouge et tombe trois fois du même rebord

Anthropic a donné à Claude un dossier de notes et Pokémon Rouge. Une note fausse sur un Centre Pokémon l'a fait tomber trois fois du même rebord.

A Game Boy screen showing a Pokémon Red trainer standing at a ledge in front of a cave entrance, with a notepad beside it.
Image: ギズモード・ジャパン

Claude, lancé dans Pokémon Rouge, est tombé trois fois de suite du même rebord près du mont Sélénite, parce qu'il croyait une note qu'il avait lui-même écrite. L'épisode vient d'un article de recherche publié par Anthropic le 6 novembre, consacré à la mémoire des agents d'IA.

Dans l'expérience, Claude disposait d'un dossier où lire et écrire d'une partie à l'autre. Ce qu'il y notait et la façon de le ranger, c'était à lui de décider.

Voici comment ça a dérapé. Près de l'entrée côté Argenta, il y a un rebord : on saute, et il faut revenir sur ses pas. Claude se repérait grâce aux Centres Pokémon. Celui de l'entrée côté Argenta est à l'ouest, le plus proche de l'entrée côté Azuria est à l'est. Avant d'entrer, Claude a noté que le Centre se trouvait à l'est. En sortant du Centre, il a déclaré que la montagne était derrière lui et a changé sa note en « mont Sélénite : franchi ».

Puis il est tombé du rebord et s'est retrouvé sur la route qu'il venait de parcourir. Son outil de navigation n'affiche pas les rebords. Claude en a conclu qu'il était allé trop à l'ouest, persuadé d'être du bon côté. Et ça a recommencé. Après la troisième chute, il a laissé une note disant en substance qu'il préférait arrêter plutôt que de continuer à tourner en rond. Une consigne automatique « continue » l'a relancé, et il est reparti vers Argenta pour se soigner et faire des achats.

Que signifie « rêver » pour une IA ?

C'est la méthode qu'Anthropic a testée. Pendant le sommeil, le cerveau humain trie les expériences pour les fixer en mémoire à long terme. Pour l'IA, on a proposé l'idée du « sleep-time compute » : réorganiser sa mémoire entre deux tâches. Le « dreaming » fait relire au modèle ses anciens enregistrements pour corriger erreurs et contradictions.

Appliqué à la note erronée, il a permis à Claude de la comparer aux journaux de session, de repérer l'erreur et de la réécrire. Il a ensuite trouvé l'entrée de la grotte, y est entré et a atteint Azuria. Les essais qui continuaient de tomber, comme ceux sans aucune note, n'ont pas franchi la montagne.

Plus de notes, moins d'insignes

L'étude comparait aussi Sonnet 3.7 et Fable 5 à 10 000 étapes. Sonnet 3.7 avait écrit 413 fichiers dans 225 dossiers, pour un insigne d'arène. Fable 5 avait neuf fichiers dans deux dossiers, plus un « global.md », et quatre insignes. Ses notes contenaient des stratégies et des règles qu'il avait déduites lui-même. Opus 5.5 a terminé le jeu avec un simple petit dossier de notes.

Une note de Fable 5, écrite après sept Poké Balls ratées sur un Magicarpe, dit de changer le rythme après trois échecs d'affilée en ajoutant une attente entre les saisies de menu. La capture a réussi juste après.

Des apps à découvrir

SUMO : le puzzle de nombres

Touche les bonnes cases, additionne, atteins l'objectif. Facile à apprendre, difficile à maîtriser. Gratuit, pour tous les âges.

Mots-clés:claudeanthropicpokemon redai memorydreamingai agents

Plus d'actus de ce jour

Tout voir →

Plus dans: IA

Tout voir →