PS4 पर लोकल LLM: 2013 के कंसोल पर 39 टोकन/सेकंड की रफ्तार
2013 का PlayStation 4 अब 9 अरब पैरामीटर वाले AI मॉडल से चैट कर सकता है, 39 टोकन प्रति सेकंड तक की रफ्तार से। राज़ है इसकी तेज़ मेमोरी।

जिस PS4 को आप शायद अलमारी में रख चुके हैं, वह अब AI चैटबॉट भी चला सकता है। Leonardo Alegría के प्रोजेक्ट में 2013 में आए PS4 पर लोकल LLM, यानी इंटरनेट के बिना डिवाइस पर ही चलने वाला भाषा मॉडल, Qwen3.5-9B सामान्य बातचीत की रफ्तार से चल रहा है।
Alegría ने अपना ओपन सोर्स प्रोजेक्ट "Garlic LLM" बनाया है। उनके मुताबिक टेक्स्ट चैट में 31 से 39 टोकन प्रति सेकंड मिलते हैं, वॉइस चैट में करीब 22 टोकन प्रति सेकंड और कोड जनरेशन में अधिकतम 43 टोकन प्रति सेकंड। टोकन यानी शब्द का एक छोटा टुकड़ा, जिसमें मॉडल जवाब लिखता है।
PS4 पर लोकल LLM कैसे चलता है?
PS4 में CPU और GPU के बीच साझा 8GB मेमोरी है। 9 अरब पैरामीटर का मॉडल सीधे इसमें नहीं समाता, इसलिए उसे 4 बिट या 3 बिट में क्वांटाइज़ किया गया है। यानी मॉडल का आकार घटाकर मेमोरी की ज़रूरत कम की गई है।
रफ्तार की असली वजह है PS4 की 176GB/s मेमोरी बैंडविड्थ। तुलना के लिए: 16GB वाला Apple M6 153GB/s, M3 Pro 150GB/s, Intel Core Ultra X9 388H 153.6GB/s और AMD Ryzen AI 9 HX 475 136.5GB/s देता है। PS4 इन सबसे आगे है।
कुल प्रदर्शन में, यानी CPU और GPU की ताकत, कैश और AI एक्सेलरेटर में, आधुनिक SoC से PS4 का कोई मुकाबला नहीं। लेकिन छोटे LLM के लिए मेमोरी बैंडविड्थ ही सबसे ज़्यादा मायने रखती है, और वहीं PS4 बाज़ी मार ले जाता है।
क्या यह सुरक्षित है?
इसके लिए PS4 को जेलब्रेक करना पड़ता है और खुद के बनाए ऐप चलाने वाला GoldHEN इंस्टॉल करना पड़ता है। सुरक्षा की कोई गारंटी नहीं है, जोखिम पूरी तरह आपका है।
फिर भी आइडिया दिलचस्प है। जिस PS4 का BD ड्राइव खराब हो चुका है और जो कुछ हज़ार येन में जंक के तौर पर मिल जाता है, वह अब एक छोटी AI मशीन बन सकता है। PS4 की बिक्री मार्च 2022 तक कुल 11.72 करोड़ यूनिट रही थी।
देखने लायक ऐप्स
सही खाने चुनें, जोड़ें, लक्ष्य तक पहुँचें। सीखना आसान, महारत मुश्किल। मुफ़्त, हर उम्र के लिए।
AI बातचीत साथी से बात करें; हर वाक्य सुधरकर आपकी भाषा में समझाया हुआ लौटता है। 9 भाषाएँ, A1 से C2 तक।
EDIFACT और X12 संदेश खोलें, हर सेगमेंट की व्याख्या देखें, JSON/XML में बदलें, PDF और Excel में निर्यात करें। स्थानीय रूप से चलता है, कोई अपलोड नहीं।
चुनें किसके लिए, किस मौके पर और कैसा स्वभाव। सर्च इंजन स्थानीय दुकानों के उत्पाद विवरण पढ़कर सबसे उपयुक्त विकल्प ऊपर रखता है। मुफ़्त, बिना साइन-अप।
इसी दिन की और ख़बरें
सभी देखें →
दक्षिण कोरिया CSAT परीक्षा: 111 डिवाइस मामले, असली नकल सिर्फ 5

pass1111 जापान का सबसे ज्यादा लीक हुआ पासवर्ड, NordPass 2026 सूची

ハンコヤドットコム: 8,220 कार्ड का डेटा लीक होने की आशंका

AT 2025abao: एंड्रोमेडा में एक तारे ने दूसरे को निगल लिया
और पढ़ें:: हार्डवेयर
सभी देखें →
Frostbite: AI से बना CPU, सिमुलेशन में प्रति वाट 4.59 गुना बेहतर

Supermicro मुकदमा: पूर्व अधिकारी के पति थे Nvidia के बड़े VP

Taco AI: स्टॉपवॉच जैसा वॉयस रिमोट, एयर माउस भी बनता है
