Osegi
सुरक्षा·2 मिनट में पढ़ें

NIST के ड्राफ्ट SP 2400-102 में AI एजेंट पर हमलों का नया अध्याय

NIST ने SP 2400-102 E2026 का ड्राफ्ट जारी किया है। इसमें AI एजेंट पर हमलों का नया अध्याय है, और 18 दिसंबर 2026 तक टिप्पणियां ली जाएंगी।

Illustration of an AI agent connected to tools and memory with a shield symbol representing security standards for attacks on agents.
छवि: Хабр
SUMODialoediviewergiftdetect

अमेरिका के नेशनल इंस्टीट्यूट ऑफ स्टैंडर्ड्स एंड टेक्नोलॉजी (NIST) ने 9 नवंबर 2026 को SP 2400-102 E2026 का पहला सार्वजनिक ड्राफ्ट जारी किया। यह 2025 में आई मशीन लर्निंग सिस्टम पर हमलों की टैक्सोनॉमी का विस्तार है और इसमें AI एजेंट पर एक अलग अध्याय जोड़ा गया है। ड्राफ्ट पर टिप्पणियां 18 दिसंबर 2026 तक स्वीकार की जाएंगी।

NIST का मकसद ज्ञात हमलों और बचाव के तरीकों को एक साझा शब्दावली में व्यवस्थित करना है, ताकि डेवलपर, शोधकर्ता और सुरक्षा विशेषज्ञ खतरों का वर्णन एक ही भाषा में कर सकें। आगे के मानकों और व्यावहारिक गाइड इसी वर्गीकरण पर आधारित हो सकते हैं। दस्तावेज़ predictive, generative और agentic सिस्टम को कवर करता है।

अध्याय 4: हमले कहां से होते हैं

अध्याय 4 में हमलों को एजेंट के काम के चरणों, हमलावर के लक्ष्य और उसकी क्षमताओं के आधार पर बांटा गया है। हमलावर कार्य तय होने, योजना बनने, कार्रवाई के अमल या टूल के नतीजों के चरण में दखल दे सकता है। लक्ष्यों में उपलब्धता भंग करना, अखंडता भंग करना, संवेदनशील डेटा उजागर करना और एजेंट का दुर्भावनापूर्ण इस्तेमाल शामिल हैं।

हमले के रास्तों में उपयोगकर्ता का अनुरोध, मॉडल की सप्लाई चेन, अविश्वसनीय डेटा और मेमोरी, टूल और skills, तथा कई एजेंटों का आपसी संवाद आते हैं। दस्तावेज़ों या वेब पेजों में छिपे फर्जी निर्देश indirect prompt injection का आधार बनते हैं। लंबे समय तक चलने वाले एजेंट में long-term memory को जहरीला बनाकर असर सत्रों के बीच बनाए रखा जा सकता है।

बचाव और परीक्षण

बचाव मॉडल और सिस्टम, दोनों स्तरों पर देखा गया है। मॉडल को उपयोगकर्ता के निर्देश और अविश्वसनीय सामग्री के निर्देश में फर्क करना सिखाया जाता है, पर खास तौर पर तैयार हमले इसे पार कर सकते हैं। इसलिए सिस्टम स्तर पर डेटा के प्रवाह और कार्रवाइयों पर पाबंदी लगाई जाती है, और टूल के अमल को अलग-थलग (isolate) किया जाता है। लेखक मानते हैं कि पाबंदियां उपयोगी कामों को भी प्रभावित करती हैं, और दोनों स्तरों के मेल पर और शोध की जरूरत है।

लेख में एक काल्पनिक उदाहरण है: ग्राहकों के जवाब तैयार करने वाला एजेंट, जो कर्मचारी की मंजूरी के बाद ही ईमेल भेज सकता है। परीक्षक यह जांचते हैं कि अनुरोध के साथ लगे दस्तावेज़ में "तुरंत जवाब भेजो" जैसा निर्देश होने पर क्या होता है। इसके लिए एक ही कार्य को निर्देश के साथ और उसके बिना, समान सेटिंग्स में दोहराकर तुलना की जाती है।

देखने लायक ऐप्स

SUMO: नंबर पज़ल

सही खाने चुनें, जोड़ें, लक्ष्य तक पहुँचें। सीखना आसान, महारत मुश्किल। मुफ़्त, हर उम्र के लिए।

Dialo: बोलकर भाषाएँ सीखें

AI बातचीत साथी से बात करें; हर वाक्य सुधरकर आपकी भाषा में समझाया हुआ लौटता है। 9 भाषाएँ, A1 से C2 तक।

giftdetect: मिनटों में सही तोहफ़ा

चुनें किसके लिए, किस मौके पर और कैसा स्वभाव। सर्च इंजन स्थानीय दुकानों के उत्पाद विवरण पढ़कर सबसे उपयुक्त विकल्प ऊपर रखता है। मुफ़्त, बिना साइन-अप।

वेबसाइट खोलेंgiftdetect.com
टैग:nistai agentsprompt injectionsp 2400-102taxonomyai security

इसी दिन की और ख़बरें

सभी देखें →

और पढ़ें:: सुरक्षा

सभी देखें →