Osegi
KI·2 Min. Lesezeit

Claude spielt Pokémon Rot und stürzt dreimal von derselben Klippe

Anthropic gab Claude einen Notizordner und Pokémon Rot. Eine falsche Notiz zum Pokémon-Center schickte die KI dreimal über dieselbe Kante am Mondberg.

A Game Boy screen showing a Pokémon Red trainer standing at a ledge in front of a cave entrance, with a notepad beside it.
Bild: ギズモード・ジャパン

Claude hat bei Pokémon Rot dreimal hintereinander dieselbe Kante am Mondberg hinuntergenommen, weil es einer eigenen falschen Notiz glaubte. Der Fall stammt aus einem Forschungsbeitrag, den Anthropic am 6. November veröffentlicht hat. Es geht darin um das Gedächtnis von KI-Agenten.

Im Versuch bekam Claude einen Ordner, in den es zwischen den Spielen schreiben und aus dem es lesen konnte. Was es notiert und wie es das ordnet, entschied das Modell selbst.

Der Fehler ging so: Nahe dem Eingang auf der Seite von Marmoria City gibt es eine Kante. Wer hinunterspringt, muss den Weg zurückgehen. Claude nutzte Pokémon-Center als Orientierung. Das am Marmoria-Eingang liegt westlich, das nächste zum Eingang bei Azuria City östlich. Vor dem Betreten schrieb Claude, das Center liege im Osten. Nach dem Verlassen erklärte es, der Berg liege hinter ihm, und änderte die Notiz auf „Mondberg: geschafft“.

Dann fiel es von der Kante und stand wieder auf dem Weg, den es gerade gekommen war. Sein Navigationswerkzeug zeigt Kanten nicht an. Claude schloss, es sei zu weit nach Westen gelaufen, und hielt sich für auf der richtigen Seite. Das wiederholte sich. Nach dem dritten Sturz schrieb es sinngemäß, es höre lieber auf, als weiter im Kreis zu laufen. Eine automatische „Weiter“-Aufforderung startete es neu, und es ging zurück nach Marmoria City, um sich zu heilen und einzukaufen.

Was ist „Dreaming“ bei einer KI?

Das ist die Methode, die Anthropic getestet hat. Menschen sortieren im Schlaf Erlebnisse ins Langzeitgedächtnis. Ähnlich könnte eine KI zwischen den Aufgaben ihr Gedächtnis aufräumen, so die Idee hinter „Sleep-time Compute“. Beim Dreaming blickt das Modell auf frühere Aufzeichnungen zurück und korrigiert Fehler und Widersprüche.

Als man das auf die falsche Notiz anwendete, glich Claude sie mit den Sitzungsprotokollen ab, bemerkte den Fehler und schrieb sie neu. Danach fand es den Höhleneingang, ging hinein und erreichte Azuria City. Läufe, die weiter von der Kante fielen, und Läufe ganz ohne Notizen kamen nicht über den Berg.

Mehr Notizen, weniger Orden

Die Studie verglich auch Sonnet 3.7 und Fable 5 nach 10.000 Schritten. Sonnet 3.7 hatte 413 Dateien in 225 Ordnern angelegt und einen Arena-Orden. Fable 5 hatte neun Dateien in zwei Ordnern plus eine „global.md“ und vier Orden. Seine Notizen enthielten Strategien und Regeln, auf die es selbst gekommen war. Opus 5.5 schaffte das Spiel mit nur einem kleinen Notizordner.

Eine Notiz von Fable 5 entstand nach sieben misslungenen Pokéball-Würfen auf ein Karpador: Nach drei Fehlschlägen in Folge solle man das Timing ändern und zwischen Menüeingaben eine zusätzliche Pause einlegen. Danach klappte der Fang.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:claudeanthropicpokemon redai memorydreamingai agents

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: KI

Alle anzeigen →