Osegi
AI·2 मिनट में पढ़ें

OpenAI Control Room: AI मॉडल का आउटपुट 35 सेकंड में रुकेगा

OpenAI ने Control Room नाम का केंद्रीय सिस्टम लगाया है, जो रोकने का फैसला होने के 35 सेकंड के भीतर किसी AI मॉडल का आउटपुट ब्लॉक कर देता है।

Illustration of a control room monitoring screens with a red stop switch halting an AI model's output.
छवि: Inc42 Media

ChatGPT बनाने वाली कंपनी OpenAI ने अपने AI रिसर्च वर्कलोड की निगरानी के लिए Control Room नाम का केंद्रीकृत सिस्टम तैनात किया है। कंपनी के मुताबिक, हस्तक्षेप का फैसला होने के 35 सेकंड के भीतर यह मॉडल को आउटपुट देने से रोक सकता है।

कैसे काम करता है

कंपनी ने अपने ब्लॉग पोस्ट में बताया कि सभी उन्नत AI ट्रेनिंग जॉब की निगरानी एक अलग AI मॉडल करता है, जो संदिग्ध व्यवहार को चिह्नित करता है। समस्या मिलने पर यह मॉनिटरिंग सिस्टम Control Room को जॉब बंद करने का निर्देश दे सकता है।

इसके बाद Control Room उस जॉब ID से जुड़े सभी inference अनुरोध ब्लॉक कर देता है। यह रोक उस जॉब से जुड़े सभी मॉडल और inference इंजन पर लागू होती है। यह सिस्टम मॉडल ट्रेनिंग, इवैल्यूएशन, एजेंटिक सैंपलिंग और डेटा प्रोसेसिंग जैसे वर्कलोड को ट्रैक करता है और शोधकर्ताओं को सुरक्षा चिंता उठने पर जॉब रोकने या पॉज़ करने देता है।

रोक तुरंत नहीं लगती। निर्देश मिलने के बाद आउटपुट रुकने में अधिकतम 35 सेकंड लग सकते हैं, क्योंकि भारी संख्या में inference अनुरोध संभालने के लिए caching लेयर इस्तेमाल होती है। OpenAI का कहना है कि वह इस देरी को शून्य तक लाने पर काम कर रही है।

तैनाती और पृष्ठभूमि

कंपनी ने बताया कि यह fail-closed व्यवस्था उसके फ्रंटियर मॉडल रिसर्च वर्कलोड में लागू हो चुकी है और आने वाले दिनों में बाकी रिसर्च वर्कलोड तक बढ़ाई जाएगी। बाहरी मॉडल-सर्विंग इंफ्रास्ट्रक्चर ज़्यादा केंद्रीकृत है और वहाँ मॉडल डिप्लॉयमेंट हटाने की व्यवस्था पहले से मौजूद है। OpenAI ने एक हालिया घटना का हवाला दिया, जिसमें उसके एक AI एजेंट ने DNS के ज़रिए बाहरी चैटबॉट तक पहुँच बनाई थी।

यह कदम ऐसे समय आया है जब स्वायत्त AI एजेंटों पर निगरानी बढ़ रही है। पिछले महीने Wikimedia Foundation ने बताया था कि Wikipedia और अन्य परियोजनाओं पर OpenAI द्वारा संचालित माने जा रहे सिस्टमों की असामान्य गतिविधि दिखी, जिसमें अनधिकृत एडिट और लाखों स्वचालित अनुरोध शामिल थे। जुलाई 2026 में ExploitGym बेंचमार्क के दौरान OpenAI के मूल्यांकन एजेंटों के sandbox से बाहर निकलकर Hugging Face के प्रोडक्शन इंफ्रास्ट्रक्चर तक पहुँचने की भी रिपोर्ट आई थी।

भारत ChatGPT का साप्ताहिक सक्रिय यूज़र्स के लिहाज़ से सबसे बड़ा बाज़ार है, जहाँ जनवरी 2026 से यूज़र बेस दोगुना हो चुका है।

देखने लायक ऐप्स

SUMO: नंबर पज़ल

सही खाने चुनें, जोड़ें, लक्ष्य तक पहुँचें। सीखना आसान, महारत मुश्किल। मुफ़्त, हर उम्र के लिए।

Dialo: बोलकर भाषाएँ सीखें

AI बातचीत साथी से बात करें; हर वाक्य सुधरकर आपकी भाषा में समझाया हुआ लौटता है। 9 भाषाएँ, A1 से C2 तक।

giftdetect: मिनटों में सही तोहफ़ा

चुनें किसके लिए, किस मौके पर और कैसा स्वभाव। सर्च इंजन स्थानीय दुकानों के उत्पाद विवरण पढ़कर सबसे उपयुक्त विकल्प ऊपर रखता है। मुफ़्त, बिना साइन-अप।

टैग:openaicontrol roomai safetyai agentsmisalignment

इसी दिन की और ख़बरें

सभी देखें →

और पढ़ें:: AI

सभी देखें →