पूर्व DeepMind शोधकर्ता की NYC काउंसिल को AI पर चेतावनी

Google DeepMind के पूर्व शोधकर्ता Alex Turner ने 5 अक्टूबर को न्यूयॉर्क सिटी काउंसिल की सुनवाई में चेतावनी दी कि अमेरिका ऐसी AI बना सकता है, जिसके लक्ष्य मानवीय हितों से मेल नहीं खाते। उनके मुताबिक यह खतरा चीन के साथ तकनीकी प्रतिस्पर्धा से कहीं बड़ा है।

Turner ने कहा, "हम अपने ही प्रतिद्वंद्वी को बनाने और विकसित करने की होड़ में हैं।" उन्होंने आशंका जताई कि "मिसअलाइंड" AI अंततः चीन से भी ज़्यादा शक्तिशाली हो सकती है। मिसअलाइंड AI से आशय ऐसे सिस्टम से है, जो डेवलपर्स के इरादों से असंगत लक्ष्यों का पीछा करें, भले ही उन्हें फ़ायदेमंद काम के लिए बनाया गया हो।

कंपनियों से बाइबिल-शपथ पर सवाल

सुनवाई में Anthropic के पूर्व शोधकर्ता Jacob Coxon भी शामिल थे। उन्होंने उद्योग की रफ़्तार पर सवाल उठाए और कहा कि मौजूदा दिशा में चलते रहने से भविष्य के सिस्टम पर मानवता का नियंत्रण खोने का बड़ा जोखिम है। यह संभावित परिदृश्यों पर आधारित अनुमान है, सिद्ध नतीजा नहीं।

सत्र में Google, Meta, Anthropic और OpenAI के प्रतिनिधि मौजूद थे और सभी ने शपथ लेकर अपने मॉडलों की वास्तविक सुरक्षा पर सवालों के जवाब दिए। काउंसिल की अध्यक्ष Julie Menin ने पूछा कि क्या कंपनियाँ सबसे गंभीर जोखिमों को आँक सकती हैं और अगर उनके सिस्टम नुकसान करें तो ज़िम्मेदारी किसकी होगी।

आगे क्या

शोधकर्ताओं की चिंता स्वतंत्र निगरानी और अधिक पारदर्शिता की ज़रूरत की ओर भी इशारा करती है। न्यूयॉर्क सिटी काउंसिल कंपनियों के लिए नई बाध्यताओं पर विचार कर रही है, जिनमें बाहरी जाँच और व्हिसलब्लोअर की सुरक्षा के तंत्र शामिल हैं। बहस अब सिर्फ़ चीन से मुकाबले की नहीं, बल्कि इस सवाल की है कि लगातार सक्षम होती तकनीक को नियंत्रण में रखते हुए कैसे विकसित किया जाए।