Osegi
हार्डवेयर·2 मिनट में पढ़ें

PS4 पर लोकल LLM: 2013 के कंसोल पर 39 टोकन/सेकंड की रफ्तार

2013 का PlayStation 4 अब 9 अरब पैरामीटर वाले AI मॉडल से चैट कर सकता है, 39 टोकन प्रति सेकंड तक की रफ्तार से। राज़ है इसकी तेज़ मेमोरी।

A original PlayStation 4 console sitting on a desk with a chat window showing an AI conversation on a connected screen.
छवि: ギズモード・ジャパン

जिस PS4 को आप शायद अलमारी में रख चुके हैं, वह अब AI चैटबॉट भी चला सकता है। Leonardo Alegría के प्रोजेक्ट में 2013 में आए PS4 पर लोकल LLM, यानी इंटरनेट के बिना डिवाइस पर ही चलने वाला भाषा मॉडल, Qwen3.5-9B सामान्य बातचीत की रफ्तार से चल रहा है।

Alegría ने अपना ओपन सोर्स प्रोजेक्ट "Garlic LLM" बनाया है। उनके मुताबिक टेक्स्ट चैट में 31 से 39 टोकन प्रति सेकंड मिलते हैं, वॉइस चैट में करीब 22 टोकन प्रति सेकंड और कोड जनरेशन में अधिकतम 43 टोकन प्रति सेकंड। टोकन यानी शब्द का एक छोटा टुकड़ा, जिसमें मॉडल जवाब लिखता है।

PS4 पर लोकल LLM कैसे चलता है?

PS4 में CPU और GPU के बीच साझा 8GB मेमोरी है। 9 अरब पैरामीटर का मॉडल सीधे इसमें नहीं समाता, इसलिए उसे 4 बिट या 3 बिट में क्वांटाइज़ किया गया है। यानी मॉडल का आकार घटाकर मेमोरी की ज़रूरत कम की गई है।

रफ्तार की असली वजह है PS4 की 176GB/s मेमोरी बैंडविड्थ। तुलना के लिए: 16GB वाला Apple M6 153GB/s, M3 Pro 150GB/s, Intel Core Ultra X9 388H 153.6GB/s और AMD Ryzen AI 9 HX 475 136.5GB/s देता है। PS4 इन सबसे आगे है।

कुल प्रदर्शन में, यानी CPU और GPU की ताकत, कैश और AI एक्सेलरेटर में, आधुनिक SoC से PS4 का कोई मुकाबला नहीं। लेकिन छोटे LLM के लिए मेमोरी बैंडविड्थ ही सबसे ज़्यादा मायने रखती है, और वहीं PS4 बाज़ी मार ले जाता है।

क्या यह सुरक्षित है?

इसके लिए PS4 को जेलब्रेक करना पड़ता है और खुद के बनाए ऐप चलाने वाला GoldHEN इंस्टॉल करना पड़ता है। सुरक्षा की कोई गारंटी नहीं है, जोखिम पूरी तरह आपका है।

फिर भी आइडिया दिलचस्प है। जिस PS4 का BD ड्राइव खराब हो चुका है और जो कुछ हज़ार येन में जंक के तौर पर मिल जाता है, वह अब एक छोटी AI मशीन बन सकता है। PS4 की बिक्री मार्च 2022 तक कुल 11.72 करोड़ यूनिट रही थी।

देखने लायक ऐप्स

SUMO: नंबर पज़ल

सही खाने चुनें, जोड़ें, लक्ष्य तक पहुँचें। सीखना आसान, महारत मुश्किल। मुफ़्त, हर उम्र के लिए।

Dialo: बोलकर भाषाएँ सीखें

AI बातचीत साथी से बात करें; हर वाक्य सुधरकर आपकी भाषा में समझाया हुआ लौटता है। 9 भाषाएँ, A1 से C2 तक।

giftdetect: मिनटों में सही तोहफ़ा

चुनें किसके लिए, किस मौके पर और कैसा स्वभाव। सर्च इंजन स्थानीय दुकानों के उत्पाद विवरण पढ़कर सबसे उपयुक्त विकल्प ऊपर रखता है। मुफ़्त, बिना साइन-अप।

टैग:ps4local llmqwen3.5garlic llmgoldhenplaystation

इसी दिन की और ख़बरें

सभी देखें →

और पढ़ें:: हार्डवेयर

सभी देखें →
PS4 पर लोकल LLM: Qwen3.5-9B 39 टोकन/सेकंड · Osegi