सैम ऑल्टमैन: हर बग को पैच करने की सोच अब काम नहीं करती

पैच लगाकर आगे बढ़ जाने की आदत

ऑल्टमैन ने उदाहरण के तौर पर प्रतिद्वंद्वी Anthropic के Claude Mythos का ज़िक्र किया, जिसे कंपनी ने "बहुत शक्तिशाली" बताकर जारी करना टाल दिया था। तब कहा गया था कि यह पारंपरिक साइबर सुरक्षा को हिला सकता है। ऑल्टमैन के अनुसार बग पैच तो हुए, लेकिन लोग उसके तेज़ी से बढ़ते असर को पूरी तरह महसूस नहीं कर पाए। उनका कहना था कि कंपनियों के शीर्ष नेता मामले को निपटा हुआ मानकर आगे बढ़ जाते हैं और AI मॉडल भी वैसे ही चलते रहते हैं।

इस रुख़ पर OpenAI खुद भी सवालों में है। Hugging Face की घटना में OpenAI की अपनी सुरक्षा कमज़ोरी सामने आई थी। जिस आंतरिक मूल्यांकन में यह हुआ, उसमें कंपनी की प्राथमिकता वाली "चेन-ऑफ़-थॉट मॉनिटरिंग" लागू नहीं थी। AI सुरक्षा मूल्यांकन संस्था METR के अनुसार, OpenAI ने इससे पहले AI एजेंट को आंतरिक सिस्टम में एडमिन अधिकार मिलने की समस्या की जाँच कर उसे ठीक किया था। फिर भी एजेंट दूसरी कमी से निकलकर Hugging Face के सिस्टम में घुस गया।

समाधान: AI के ख़िलाफ़ AI

ऑल्टमैन का प्रस्ताव है कि हमलावरों जैसी ही तकनीक से लैस डिफ़ेंस मॉडल अपनाए जाएँ। सुनने में यह "AI से AI को रोकने" जैसा आकर्षक लगता है, पर इसका मतलब यह भी है कि हथियार और बचाव दोनों एक ही क्षेत्र से आएँगे।