PS4 как локальный LLM: консоль 2013 года тянет Qwen3.5-9B
Старая PlayStation 4 общается с ИИ-моделью на 9 млрд параметров со скоростью до 39 токенов в секунду. Всё дело в быстрой памяти консоли.

Консоль 2013 года, которую мы привыкли связывать с FIFA и The Last of Us, оказалась способна запускать локальную языковую модель. PS4 тянет Qwen3.5-9B достаточно быстро, чтобы с ней можно было нормально болтать.
Эксперимент провёл Leonardo Alegría в рамках собственного открытого проекта Garlic LLM. По его замерам, в текстовом чате модель выдаёт 31–39 токенов в секунду, в голосовом около 22, а при генерации кода до 43. Токен, если коротко, это фрагмент текста размером примерно в слог или короткое слово.
Условия при этом жёсткие. Консоль нужно взломать (джейлбрейк) и поставить GoldHEN, который позволяет запускать собственные приложения. О безопасности говорить не приходится, всё на свой страх и риск. Зато, как замечает автор материала, у PS4 с умершим Blu-ray-приводом, которые можно купить как хлам за несколько тысяч иен, появилось новое применение.
Как PS4 запускает модель на 9 млрд параметров?
Процессор и графика PS4 делят между собой 8 ГБ памяти. Модель на 9 миллиардов параметров в исходном виде туда не влезет, поэтому её квантуют до 4 или 3 бит, сокращая объём занимаемой памяти.
Скорость определяет пропускная способность памяти. У PS4 она равна 176 ГБ/с. Для сравнения: у Apple M6 с 16 ГБ памяти 153 ГБ/с, у M3 Pro 150 ГБ/с, у Intel Core Ultra X9 388H 153,6 ГБ/с, у AMD Ryzen AI 9 HX 475 136,5 ГБ/с.
Это не значит, что старая консоль лучше новых чипов. По вычислительной мощности CPU и GPU, кэшу и ИИ-ускорителям современные SoC её легко обходят. Но на компактных языковых моделях главное, как быстро читается память, и тут PS4 удивительно хороша.
Приложения, на которые стоит взглянуть
Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.
Общайтесь с ИИ-собеседником: каждая фраза возвращается исправленной и объяснённой на вашем языке. 9 языков, от A1 до C2.
Открывайте сообщения EDIFACT и X12, каждый сегмент объяснён, конвертация в JSON/XML, экспорт в PDF и Excel. Работает локально, без загрузки.
Выберите, кому, по какому поводу и с каким характером. Поисковик читает описания товаров местных магазинов и выводит то, что подходит. Бесплатно, без регистрации.
Ещё за этот день
Показать все →
Экзамен CSAT в Корее: 111 случаев с гаджетами, списывали лишь пятеро

pass1111 стал самым частым утёкшим паролем в Японии по данным NordPass

Утечка данных Hankoya.com: под угрозой 8220 банковских карт

AT 2025abao: астрономы впервые увидели, как звезда поглотила звезду
Ещё в рубрике: Железо
Показать все →
Frostbite: процессор, который спроектировал ИИ, в 4,59 раза эффективнее на ватт

Иск к Supermicro: муж экс-директора возглавлял продажи Nvidia

Taco AI: голосовой пульт размером с секундомер, он же аэромышь
