Osegi
Matériel·2 min de lecture

PS4 et LLM local : une console de 2013 fait tourner Qwen3.5-9B

Une PS4 de 2013 peut discuter avec un modèle d'IA de 9 milliards de paramètres, jusqu'à 39 jetons par seconde. Son secret : une mémoire très rapide.

A original PlayStation 4 console sitting on a desk with a chat window showing an AI conversation on a connected screen.
Image: ギズモード・ジャパン

Une PlayStation 4 sortie en 2013 peut faire tourner un modèle d'IA local à une vitesse tout à fait utilisable. C'est ce que montre un projet de bidouilleur signé Leonardo Alegría, qui a installé le modèle Qwen3.5-9B sur la vieille console.

Le logiciel s'appelle Garlic LLM, un projet open source qu'il a développé lui-même. D'après ses mesures, la PS4 produit 31 à 39 jetons par seconde en conversation écrite (un jeton correspond à peu près à un morceau de mot), environ 22 en conversation vocale et jusqu'à 43 pour la génération de code.

Comment une PS4 fait-elle tourner un modèle de 9 milliards de paramètres ?

Le processeur et la puce graphique de la PS4 se partagent 8 Go de mémoire. Un modèle de 9 milliards de paramètres n'y tient pas tel quel. Il est donc compressé par quantification en 4 ou 3 bits, c'est-à-dire que ses valeurs sont stockées avec moins de précision.

La vitesse vient de la bande passante mémoire, le débit des échanges avec la mémoire. Celle de la PS4 atteint 176 Go/s. La source cite l'Apple M6 avec 16 Go (153 Go/s), le M3 Pro (150 Go/s), l'Intel Core Ultra X9 388H (153,6 Go/s) et l'AMD Ryzen AI 9 HX 475 (136,5 Go/s). Tous font moins bien.

La PS4 n'est pas pour autant plus performante. Les puces récentes dominent en puissance de calcul, en cache et en accélérateurs d'IA. Mais un petit modèle passe beaucoup de temps à attendre la mémoire, d'où l'importance du débit.

Est-ce sans risque ?

Rien n'est garanti. Il faut une PS4 débridée (jailbreak) et installer GoldHEN, qui permet de lancer des applications maison. Tout se fait à vos risques et périls.

L'idée reste séduisante : des PS4 dont le lecteur Blu-ray est mort se trouvent, semble-t-il, pour quelques milliers de yens. Elles pourraient devenir de petits boîtiers d'IA hors ligne. Sony en avait vendu 117,2 millions en mars 2022.

Des apps à découvrir

SUMO : le puzzle de nombres

Touche les bonnes cases, additionne, atteins l'objectif. Facile à apprendre, difficile à maîtriser. Gratuit, pour tous les âges.

Mots-clés:ps4local llmqwen3.5garlic llmgoldhenplaystation

Plus d'actus de ce jour

Tout voir →

Plus dans: Matériel

Tout voir →