Osegi
Железо·1 мин чтения

PS4 как локальный LLM: консоль 2013 года тянет Qwen3.5-9B

Старая PlayStation 4 общается с ИИ-моделью на 9 млрд параметров со скоростью до 39 токенов в секунду. Всё дело в быстрой памяти консоли.

A original PlayStation 4 console sitting on a desk with a chat window showing an AI conversation on a connected screen.
Фото: ギズモード・ジャパン

Консоль 2013 года, которую мы привыкли связывать с FIFA и The Last of Us, оказалась способна запускать локальную языковую модель. PS4 тянет Qwen3.5-9B достаточно быстро, чтобы с ней можно было нормально болтать.

Эксперимент провёл Leonardo Alegría в рамках собственного открытого проекта Garlic LLM. По его замерам, в текстовом чате модель выдаёт 31–39 токенов в секунду, в голосовом около 22, а при генерации кода до 43. Токен, если коротко, это фрагмент текста размером примерно в слог или короткое слово.

Условия при этом жёсткие. Консоль нужно взломать (джейлбрейк) и поставить GoldHEN, который позволяет запускать собственные приложения. О безопасности говорить не приходится, всё на свой страх и риск. Зато, как замечает автор материала, у PS4 с умершим Blu-ray-приводом, которые можно купить как хлам за несколько тысяч иен, появилось новое применение.

Как PS4 запускает модель на 9 млрд параметров?

Процессор и графика PS4 делят между собой 8 ГБ памяти. Модель на 9 миллиардов параметров в исходном виде туда не влезет, поэтому её квантуют до 4 или 3 бит, сокращая объём занимаемой памяти.

Скорость определяет пропускная способность памяти. У PS4 она равна 176 ГБ/с. Для сравнения: у Apple M6 с 16 ГБ памяти 153 ГБ/с, у M3 Pro 150 ГБ/с, у Intel Core Ultra X9 388H 153,6 ГБ/с, у AMD Ryzen AI 9 HX 475 136,5 ГБ/с.

Это не значит, что старая консоль лучше новых чипов. По вычислительной мощности CPU и GPU, кэшу и ИИ-ускорителям современные SoC её легко обходят. Но на компактных языковых моделях главное, как быстро читается память, и тут PS4 удивительно хороша.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:ps4local llmqwen3.5garlic llmgoldhenplaystation

Ещё за этот день

Показать все →

Ещё в рубрике: Железо

Показать все →