Anthropic का प्रस्ताव: खतरनाक AI मॉडल पर अदालती रोक का अधिकार

AI कंपनी Anthropic ने प्रस्ताव दिया है कि कैलिफोर्निया प्रशासन को ऐसे AI मॉडल की रिलीज़ रोकने के लिए अदालत जाने का अधिकार मिलना चाहिए, जिन्हें स्वतंत्र मूल्यांकन में गंभीर खतरा माना जाए। कंपनी के मुताबिक इसका मकसद उन्नत मॉडल पर निगरानी मजबूत करना और संभावित जोखिम घटाना है।

यह सुझाव 15 अक्टूबर को राज्य के गवर्नर गेविन न्यूसम को भेजे गए पत्र में दिया गया। पत्र AI सुरक्षा पर सामने आए विचारों के जवाब में था। Anthropic चाहती है कि राज्य के अटॉर्नी जनरल अदालती आदेश मांग सकें, जिससे किसी मॉडल की तैनाती, आंतरिक उपयोग या आगे के विकास को रोका जा सके, बशर्ते आकलन में ऐसा आसन्न खतरा दिखे जो विनाशकारी नुकसान पहुंचा सकता हो।

स्वतंत्र निगरानी की मांग

प्रस्ताव में कहा गया है कि मॉडल की सुरक्षा जांचने वाली स्वतंत्र संस्थाएं अपनी जोखिम रिपोर्ट सीधे अटॉर्नी जनरल को दे सकें। यानी जोखिम का आकलन केवल डेवलपर कंपनियों के फैसले पर निर्भर न रहे। Anthropic ने यह भी कहा कि उन्नत मॉडल बनाने वाली कंपनियां कम से कम हर छह महीने में जोखिम रिपोर्ट प्रकाशित करें। साथ ही स्वतंत्र संस्थाओं को आकलन के लिए जरूरी जानकारी तक वैसी ही पहुंच मिले, जैसी कंपनियों की आंतरिक सुरक्षा टीमों को मिलती है, जबकि ग्राहक डेटा और संवेदनशील सूचनाएं सुरक्षित रहें।

सिर्फ “किल स्विच” काफी नहीं

कंपनी ने “किल स्विच” की अवधारणा पर भी बात की और माना कि मॉडल को रोकने की क्षमता कंपनियों के पास होनी चाहिए। लेकिन उसने चेताया कि केवल बंद करने पर निर्भर रहना पर्याप्त सुरक्षा नहीं है। हर स्थिति में पूरा मॉडल बंद करना सही कदम नहीं हो सकता और जोखिम निगरानी व प्रतिक्रिया की समग्र व्यवस्था के बिना यह सुरक्षा का झूठा भरोसा दे सकता है।

इसके बजाय Anthropic ने “सर्किट ब्रेकर” का तरीका सुझाया, जो AI सिस्टम के व्यवहार पर नजर रखकर समस्या पहचानते और दखल देते हैं। यह मॉडल, AI एजेंट या सेवा इस्तेमाल करने वाले यूज़र के स्तर पर हो सकता है। कंपनी के अनुसार मॉडल बंद करना हर खतरनाक परिदृश्य का हल नहीं है, जैसे मॉडल अपने वेट कॉपी करके डेवलपर के नियंत्रण से बाहर कंप्यूटरों पर पहुंचा दे।

व्यापक बहस

कैलिफोर्निया AI सुरक्षा के सख्त नियमों पर विचार कर रहा है। जानकारी के मुताबिक OpenAI ने भी 20 अक्टूबर को गवर्नर को प्रस्ताव भेजे, जिनमें उच्च जोखिम वाले मॉडल पर नियंत्रण, निगरानी और ऑडिट के उपायों का समर्थन था। फर्क यह है कि Anthropic ने गंभीर खतरे वाले मॉडल की तैनाती रोकने के लिए अदालत का रास्ता खोलने की बात की। AI एजेंट के बढ़ते उपयोग के बीच बहस अब जवाबदेही, स्वतंत्र आकलन और कानूनी दखल की ओर बढ़ रही है।