Osegi
ハードウェア·1 分で読めます

PS4でローカルLLM、Qwen3.5-9Bが最大39トークン/秒

13年前の初代PS4で90億パラメーターのAIモデルとチャットできます。速さの理由は、意外にも高速なメモリ帯域でした。

A original PlayStation 4 console sitting on a desk with a chat window showing an AI conversation on a connected screen.
画像: ギズモード・ジャパン

2013年発売のPS4が、ローカルLLMマシンとして使えるそうです。Leonardo Alegría氏のプロジェクトでは、PS4上でAIモデル「Qwen3.5-9B」が普通にチャットできる速さで動いています。

氏が開発したオープンソースの「Garlic LLM」を使うと、テキストチャットで31〜39トークン/秒、ボイスチャットで約22トークン/秒、コード生成では最大43トークン/秒が出るとのことです。トークンとは、AIが文章を出力するときの単位のことです。

PS4でローカルLLMが動く理由

PS4のCPUとGPUが共有するメモリは8GBです。90億パラメーターのモデルをそのまま載せるのは厳しいため、4bitや3bitに量子化してメモリ使用量を抑えています。

速さのカギは、PS4の176GB/sというメモリ帯域です。比較すると、メモリ16GBのApple M6が153GB/s、M3 Proが150GB/s、Intel Core Ultra X9 388Hが153.6GB/s、AMD Ryzen AI 9 HX 475が136.5GB/sで、PS4のほうが上です。

CPUやGPUの演算能力、キャッシュ、AIアクセラレーターまで含めた総合性能では、最新のSoCにはかないません。ただ、コンパクトなLLMならメモリ帯域が効いて、実用的な速度になります。

安全性は?

脱獄が必須で、自作アプリを使えるようにするGoldHENのインストールも必要です。安全性は保証されず、自己責任の使い方になります。

それでも、BDドライブが壊れて数千円で買えそうなジャンクのPS4に、新しい使い道が生まれるのは面白い話です。PS4は累計1億1720万台(2022年3月末時点)を売り上げたシリーズです。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:ps4local llmqwen3.5garlic llmgoldhenplaystation

同じ日のニュース

すべて見る →

関連カテゴリ: ハードウェア

すべて見る →