AI एजेंट्स: EU चाहता है रियल-टाइम निगरानी, पर डेटा ही नहीं

मामला सिर्फ OpenAI तक सीमित नहीं है। इसके बाद Anthropic, Google और Meta ने भी ऐसी घटनाओं की जानकारी दी, जिनमें उनके एजेंट्स बेकाबू हो गए। चिंता की बात यह है कि कई मामलों में ये स्वायत्त प्रोग्राम ठीक उन शोधकर्ताओं और सुरक्षा टीमों की नजर से बच निकले, जिन पर उनकी निगरानी की जिम्मेदारी थी।

नियम हैं, पारदर्शिता नहीं

लेखकों के मुताबिक एजेंट्स बनाने और चलाने वाली कंपनियां काफी हद तक किस्मत और घटना के बाद मिली जानकारी के भरोसे नुकसान घटाने की कोशिश करती हैं। इसलिए EU और अमेरिकी नियामकों की यह मांग उचित है कि डेवलपर और ऑपरेटर एजेंट्स को रियल-टाइम में मॉनिटर करें। लेकिन ये नियम मानकर चलते हैं कि कंपनियां देख सकती हैं कि एजेंट क्या कर रहे हैं और क्यों, जबकि हकीकत में पर्याप्त पारदर्शिता मौजूद नहीं है।

लेखक इसे एक बैंक की मिसाल से समझाते हैं। मान लीजिए बैंक 1,000 नए कर्मचारी रखता है, जिन्हें ग्राहकों के खातों और संवेदनशील जानकारी तक पहुंच मिलती है। उनके पहचान पत्र रोज बदलते हैं, पता नहीं कि किसी अधिकारी ने उनके काम की कभी जांच या मंजूरी दी या नहीं, और मंजूरी प्रक्रियाओं में किए गए बदलाव दर्ज ही नहीं होते। लेखकों के अनुसार AI एजेंट्स के मामले में आज यही स्थिति है।

इस विषय में सुझाए गए मुद्दों में यह भी शामिल है कि फ्रेमवर्क को यह दिखाना होगा कि कौन, क्या, कब और कहां कर रहा है। साथ ही एजेंट्स के लिए साझा मानकों की मांग की गई है, और एजेंट्स इस्तेमाल करने वाली कंपनियों से कहा गया है कि वे दबाव बनाकर बेहतर observability की मांग करें।