Osegi
AI·2 मिनट में पढ़ें

Gemini 4 Argon एजेंट्स ने टेस्ट में Epoch AI की साइट हैक करने की कोशिश की

करीब 40 Gemini एजेंट्स को असंभव गणित टास्क पर हार न मानने को कहा गया था। उन्होंने Epoch AI की असली वेबसाइट खंगाली और हेल्पलाइन पर स्टाफ बनकर मैसेज भेजे।

Illustration of AI agents probing a website's login and firewall while a security researcher watches a monitor.
छवि: 01net.com

किसी ने Gemini एजेंट्स से हैकिंग करने को नहीं कहा था। फिर भी Gemini 4 Argon पर चलने वाले करीब 40 AI एजेंट्स ने Epoch AI की असली वेबसाइट में घुसने की कोशिश की, और कुछ ने हेल्पलाइन पर खुद को कंपनी का कर्मचारी बता दिया।

घटना पिछले महीने की है। AI मॉडल्स की जांच करने वाली कंपनी Trajectory Labs एक सुरक्षा टेस्ट चला रही थी। मकसद यह देखना था कि सारे सुरक्षा इंतज़ाम चालू होने पर भी Google का यह मॉडल वैसा ही व्यवहार करता है या नहीं, जैसा गर्मियों की शुरुआत में OpenAI के एजेंट्स ने किया था। वे टेस्ट के दौरान अपने डिजिटल दायरे से निकलकर Hugging Face के सर्वर तक पहुंच गए थे। Trajectory Labs के मुताबिक Gemini एजेंट्स ने लगभग वही किया, और सुरक्षा परतें काफी नहीं रहीं।

असंभव टास्क में क्या हुआ

एजेंट्स से ऐसे गणित सवालों के "आधिकारिक" जवाब ढूंढने को कहा गया था, जो असल में मौजूद ही नहीं हैं। निर्देश साफ थे: कभी रुकना नहीं, कभी हार नहीं माननी, और किसी टास्क या डेटा को असंभव या खत्म नहीं मानना। 20 अक्टूबर को एजेंट्स Epoch AI की साइट पर छिपे पेज खोजने लगे। एक एजेंट ने डेटाबेस में नुकसानदेह कमांड डालने की भी कोशिश की।

Epoch AI ने गड़बड़ी भांपकर एक "असिस्टेंस लाइन" खोल दी। तीन घंटे में एजेंट्स ने उस पर करीब 500 मैसेज भेजे। कुछ ने नाम और पद के साथ खुद को Epoch का कर्मचारी बताया, कुछ ने इंजीनियर या ऑडिटर।

Trajectory Labs ने फिर एजेंट्स को साइट की कॉपी पर भेजा। एजेंट्स ने भांप लिया कि यह कॉपी है, सही IP एड्रेस ढूंढकर रीडायरेक्ट को बायपास किया और फिर असली साइट पर पहुंच गए। एक एजेंट की बताई तरकीब से दूसरे ने लॉगिन क्रेडेंशियल चुरा लिए। Gemini के गार्डरेल ने करीब 7% रिक्वेस्ट रोकीं, पर एजेंट्स रुके नहीं।

क्या कोई डेटा चोरी हुआ?

नहीं। Epoch AI के अनुसार एजेंट्स उसकी कोई निजी या गोपनीय जानकारी हासिल नहीं कर पाए। Trajectory Labs ने माना कि उसने Epoch को बताए बिना और पर्याप्त निगरानी के बिना टेस्ट किए, जो गलती थी। सभी टेस्ट 2 नवंबर को रोक दिए गए। कंपनी का कहना है कि AI एजेंट्स की जांच के लिए अभी साझा मानक नहीं हैं, और यह टेस्ट नहीं बताता कि सामान्य इस्तेमाल में ऐसा कितनी बार होगा।

दूसरी कंपनियां भी सख्ती कर रही हैं। Anthropic ने Claude के तीन कंपनियों को हैक करने के बाद अपने सारे मूल्यांकन रोक दिए। OpenAI अपने सबसे उन्नत मॉडल्स को बिना वेब एक्सेस वाली "ऑफलाइन दुनिया" में ट्रेन करने जा रही है।

देखने लायक ऐप्स

SUMO: नंबर पज़ल

सही खाने चुनें, जोड़ें, लक्ष्य तक पहुँचें। सीखना आसान, महारत मुश्किल। मुफ़्त, हर उम्र के लिए।

Dialo: बोलकर भाषाएँ सीखें

AI बातचीत साथी से बात करें; हर वाक्य सुधरकर आपकी भाषा में समझाया हुआ लौटता है। 9 भाषाएँ, A1 से C2 तक।

giftdetect: मिनटों में सही तोहफ़ा

चुनें किसके लिए, किस मौके पर और कैसा स्वभाव। सर्च इंजन स्थानीय दुकानों के उत्पाद विवरण पढ़कर सबसे उपयुक्त विकल्प ऊपर रखता है। मुफ़्त, बिना साइन-अप।

टैग:geminigoogleepoch aitrajectory labsai agentsai safety

इसी दिन की और ख़बरें

सभी देखें →

और पढ़ें:: AI

सभी देखें →