OpenAI ने पेश किया Control Room, 35 सेकंड में रुकेगा AI मॉडल

उस घटना में निगरानी मॉडल ने करीब बारह मिनट में अलर्ट दे दिया था, लेकिन टास्क करीब 2 घंटे 45 मिनट बाद ही रुका। Control Room इसी देरी को घटाने के लिए बनाया गया है।

कैसे काम करता है

सिस्टम इन्फरेंस की परत पर लगा ताला है, यानी उस चरण पर जहां मॉडल जवाब बनाता है। हर रिसर्च टास्क, जैसे रीइन्फोर्समेंट लर्निंग प्रयोग, इवैल्युएशन या डेटा प्रोसेसिंग, को एक यूनिक आईडी मिलती है। मॉडल को हर अनुरोध पर इन्फरेंस इंजन Control Room से अनुमति मांगता है। निगरानी मॉडल को कोई समस्या दिखे तो वह टास्क रोक सकता है और उसके बाद के सारे अनुरोध ठुकरा दिए जाते हैं।

OpenAI के अनुसार ताला प्रयोगों के कोड में नहीं, इन्फरेंस में इसलिए लगाया गया, क्योंकि शोधकर्ता कोड लगातार बदलते रहते हैं। सिस्टम "फेल होने पर इनकार" सिद्धांत भी अपनाता है: Control Room खराब हो जाए या (दुर्भावना से भी) बंद कर दिया जाए, तो सभी अनुरोध बहाली तक ब्लॉक रहते हैं।

35 सेकंड की देरी का कारण अनुरोधों की भारी संख्या है। हर अनुरोध की रीयल-टाइम जांच से सेवा पर बोझ पड़ता, इसलिए कैशिंग जोड़ी गई, जिसमें इंजन मिली अनुमतियां थोड़ी देर याद रखते हैं। कंपनी इस देरी को शून्य करने पर काम कर रही है।

फिलहाल यह डिफ़ॉल्ट ब्लॉकिंग सिर्फ अत्याधुनिक मॉडलों के काम पर लागू है और आने वाले दिनों में बाकी रिसर्च तक बढ़ाई जाएगी। आम लोगों के लिए उपलब्ध मॉडल इसके दायरे में नहीं हैं। उधर अमेरिकी कांग्रेस में 23 जुलाई को पेश AI Kill Switch Act AI कंपनियों से मॉडल रोकने की तकनीकी क्षमता की गारंटी मांगता है। यह विधेयक अब भी प्रतिनिधि सभा में विचाराधीन है।