Osegi
Hardware·2 min de lectura

PS4 como LLM local: una consola de 2013 corre Qwen3.5-9B

Una PS4 de 2013 puede charlar con un modelo de IA de 9.000 millones de parámetros a hasta 39 tokens por segundo. El truco está en su memoria.

A original PlayStation 4 console sitting on a desk with a chat window showing an AI conversation on a connected screen.
Imagen: ギズモード・ジャパン

Una PlayStation 4 de 2013 puede ejecutar un modelo de IA local a una velocidad que sí resulta usable. Es lo que muestra un proyecto casero de Leonardo Alegría, que logró correr el modelo Qwen3.5-9B en la veterana consola.

El software se llama Garlic LLM, un proyecto de código abierto que desarrolló él mismo. Según sus cifras, la PS4 alcanza entre 31 y 39 tokens por segundo en chat de texto (un token es más o menos un fragmento de palabra), unos 22 en chat de voz y hasta 43 al generar código.

¿Cómo corre una PS4 un modelo de 9B?

La CPU y la GPU de la PS4 comparten 8 GB de memoria. Un modelo de 9.000 millones de parámetros no cabe tal cual, así que se reduce con cuantización de 4 o 3 bits, que guarda sus valores con menos precisión.

La velocidad viene del ancho de banda de memoria, es decir, lo rápido que circulan los datos. El de la PS4 es de 176 GB/s. La fuente menciona el Apple M6 con 16 GB (153 GB/s), el M3 Pro (150 GB/s), el Intel Core Ultra X9 388H (153,6 GB/s) y el AMD Ryzen AI 9 HX 475 (136,5 GB/s). Todos quedan por debajo.

Eso no hace a la PS4 mejor ordenador. Los chips actuales ganan de largo en potencia de cálculo, caché y aceleradores de IA. Pero un modelo pequeño pasa mucho tiempo esperando a la memoria, y ahí el ancho de banda pesa.

¿Es seguro probarlo?

No hay garantías. Hace falta una PS4 con jailbreak e instalar GoldHEN, que permite ejecutar aplicaciones propias. Todo corre por cuenta y riesgo del usuario.

Aun así, la idea tiene gracia: las PS4 con la unidad Blu-ray estropeada se consiguen, al parecer, como chatarra por unos pocos miles de yenes. Podrían tener una segunda vida como caja de IA sin conexión. Sony vendió 117,2 millones de PS4 hasta marzo de 2022.

Apps que merecen la pena

SUMO: el puzle de números

Toca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.

Etiquetas:ps4local llmqwen3.5garlic llmgoldhenplaystation

Más de este día

Ver todas →

Más en: Hardware

Ver todas →