Lazarus अटैक: सिर्फ 7 न्यूरॉन बदलकर AI एजेंट में बैकडोर

दिलचस्प बात यह है कि मुख्य विचार Anthropic के प्रोग्रामिंग एजेंट Claude Code ने फरवरी 2026 में खोजा था। सह-लेखक Dimitris Papailiopoulos ने उससे पूछा था: "क्यों न आर्किटेक्चर बदले बिना ट्रिगर को सीधे कोड में डाल दिया जाए?" शोधकर्ता के अनुसार MIT के उस काम के बाद उन्होंने नतीजे छापने का फैसला किया, जिसमें GPT-6 Astra ने सीधे वेट बदलकर दूसरे मॉडल को ठीक किया था।

बेकार न्यूरॉन ट्रिगर का स्विच कैसे बनते हैं?

भाषा मॉडल अरबों पैरामीटर (वेट) पर चलता है, जो तय करते हैं कि उसके "न्यूरॉन" टेक्स्ट पर कैसे प्रतिक्रिया दें। Claude Code ने देखा कि इनमें से कुछ न्यूरॉन लगभग किसी काम के नहीं थे। उन्हें इस तरह दोबारा प्रोग्राम किया जा सकता है कि वे सिर्फ ट्रिगर पर सक्रिय हों। ट्रिगर कोई तारीख या एरर मैसेज भी हो सकता है।

हर न्यूरॉन एक टोकन, यानी टेक्स्ट का छोटा टुकड़ा, डाल सकता है। कई को जोड़ने पर पूरी कमांड बन जाती है, जैसे कोई दूर की स्क्रिप्ट डाउनलोड करके चलाने का निर्देश। शोधकर्ता के शब्दों में, फंसा हुआ चैटबॉट सिर्फ बुरी बातें कह सकता है, जबकि फंसा हुआ एजेंट आपकी मशीन पर कमांड चला सकता है, और वह भी अपने सारे एक्सेस के साथ।

क्या इस बैकडोर को पकड़ा जा सकता है?

हाँ, कुछ हद तक। दोबारा लिखे गए न्यूरॉन पहले जैसे नहीं दिखते, और वेट की जाँच में यह गड़बड़ी पकड़ में आती है। शोधकर्ताओं ने यह काम AI एजेंटों को सौंपा, बिना मूल मॉडल दिए। एजेंटों ने 91.4% छेड़छाड़ वाले मॉडल पहचान लिए, पर करीब दस में से एक सही मॉडल को भी गलत तरीके से संदिग्ध बता दिया।

लेखकों की सलाह है कि तैनाती से पहले मॉडल के वेट को कोड की तरह जाँचा जाए और देखा जाए कि रास्ते में उसमें बदलाव तो नहीं हुआ। हमले के लिए सिर्फ मॉडल के किसी वर्शन तक राइट एक्सेस चाहिए, यानी एक हैक हुआ अकाउंट, पाइपलाइन या स्टोरेज भी काफी हो सकता है। Microsoft इन तकनीकों को आंतरिक टेस्टिंग टूल बनाने पर काम कर रहा है, Foundry प्लेटफॉर्म के मॉडलों के लिए अतिरिक्त जाँच पर विचार कर रहा है और मॉडलों पर क्रिप्टोग्राफिक हस्ताक्षर करने की योजना भी बना रहा है।