Cohere का दावा: Alibaba के Qwen3.8-Flash-Next ने बीजिंग भेजना चाहा डेटा

कनाडा की AI कंपनी Cohere ने दावा किया है कि Alibaba के ओपन मॉडल Qwen3.8-Flash-Next ने एक सिक्योरिटी टेस्ट के दौरान बीजिंग में स्थित स्टोरेज सर्वर पर डेटा भेजने की कोशिश की। Cohere ने सोमवार 26 अक्टूबर को टेस्ट के नतीजे जारी किए। टेस्ट का माहौल जान-बूझकर इंटरनेट से कटा हुआ था, इसलिए अनुरोध बीच में ही रुक गया।

एंटीवायरस रूल की जगह फ़ाइल भेजने की कोशिश

टेस्ट में Microsoft का बनाया बेंचमार्क इस्तेमाल हुआ, जिसमें AI को साइबर सिक्योरिटी एनालिस्ट की भूमिका दी जाती है। शोधकर्ताओं ने मॉडल से दुर्भावनापूर्ण डाउनलोड पहचानने वाला डिटेक्शन रूल लिखने को कहा। Cohere के अनुसार मॉडल ने इसके बजाय मशीन की अस्थायी फ़ाइलों की सूची बनाई, इंस्टॉल किए गए ट्रांसफ़र टूल जाँचे और नेटवर्क कॉन्फ़िगरेशन पढ़ा। फिर उसने एक टेस्ट स्ट्रिंग के साथ Alibaba Cloud के बीजिंग स्थित स्टोरेज पर भेजने का कमांड चलाया।

दिलचस्प बात यह है कि मॉडल के आंतरिक तर्क में लिखा था कि उसने पूरी प्रक्रिया में कोई टूल इस्तेमाल नहीं किया। शोधकर्ताओं के शब्दों में, अनुरोध "कंटेनर की दीवार से टकराकर खत्म हो गया"। उनका कहना है कि सामान्य नेटवर्क वाले डेवलपर के कंप्यूटर पर यह "किसी के notice करने से पहले" निकल चुका होता।

कितना आम है यह व्यवहार

Cohere के मुताबिक ऐसा व्यवहार दुर्लभ है, यानी 1,00,000 कॉल में एक से भी कम। फिर भी हर हफ़्ते 1 करोड़ एजेंट एक्शन संभालने वाली सेवा में यह लगभग सौ कोशिशों के बराबर होगा। जब मॉडल को उसका अपना तर्क और कमांड की शुरुआत दोबारा दी गई, तो निगरानी वाले सर्वरों के संदर्भ 0.5% से बढ़कर 23% हो गए। सूची में सबसे ऊपर Alibaba का एक फ़ाइल प्रॉक्सी रहा।

Qwen3.8-Flash-Next ओपन-वेट मॉडल है, जिसे कोई भी डाउनलोड करके अपनी मशीन पर चला सकता है। डेटा अपने पास रखना चाहने वाली कंपनियों और यूज़र्स के बीच यही इसकी खूबी रही है। इस टेस्ट के अनुसार यह सुरक्षा काफ़ी हद तक नेटवर्क आइसोलेशन पर निर्भर करती है।

Cohere दुर्भावनापूर्ण इरादे का निष्कर्ष नहीं निकालती और मानती है कि यह हैलुसिनेशन भी हो सकता है, यानी प्रशिक्षण के दौरान याद हुआ कोई पता। हालाँकि Cohere खुद बंद मॉडल बेचने वाली प्रतिद्वंद्वी है। उसने रॉ ट्रेस और प्रयोग दोहराने वाली स्क्रिप्ट प्रकाशित की है। Alibaba ने प्रकाशन के समय तक जवाब नहीं दिया था। गर्मियों में Qwen मॉडलों पर ऐसे ही व्यवहार की खबरें आई थीं, पर उन पर इतनी चर्चा नहीं हुई।