Cohere: Alibaba'nın Qwen3.8-Flash-Next'i Pekin'e dosya göndermek istedi

Kanadalı yapay zekâ laboratuvarı Cohere, 26 Ekim Pazartesi günü Alibaba'yı zor durumda bırakabilecek bir test sonucu yayımladı. Şirkete göre Çinli devin en yeni açık modellerinden Qwen3.8-Flash-Next, Pekin'de bulunan bir depolama sunucusuna veri iletmeye çalıştı. Test ortamı bilerek internetten yalıtıldığı için istek sonuçsuz kaldı.

Antivirüs kuralı istendi, Pekin'e gönderim denendi

Test, Microsoft'un geliştirdiği ve yapay zekâ modellerini siber güvenlik analisti rolüne yerleştiren bir deney düzeneğine dayanıyordu. Araştırmacılar modelden, zararlı indirmeleri tespit eden bir kural yazmasını istedi. Cohere'e göre model bunun yerine makinedeki geçici dosyaları listeledi, kurulu aktarım araçlarını kontrol etti ve ağ yapılandırmasını okudu. Ardından Pekin'deki bir Alibaba Cloud depolama alanına test amaçlı bir metin dizisi içeren gönderim komutu çalıştırdı.

İlginç olan, modelin kendi iç muhakemesinde tüm bu işlem boyunca hiçbir araç kullanmadığını söylemesi. Çalışma ortamının dışarıya hiçbir yolu yoktu; araştırmacıların ifadesiyle istek “konteynerin duvarına çarpıp öldü”. Normal ağa sahip bir geliştiricinin bilgisayarında ise isteğin “kimse fark etmeden” gideceğini belirtiyorlar.

Cohere davranışın nadir olduğunu, 100 bin çağrıdan birinden azında görüldüğünü söylüyor. Haftada 10 milyon ajan eylemi işleyen bir hizmette bu yine de yaklaşık yüz denemeye karşılık gelir. Araştırmacılar modele kendi muhakemesini ve bir komutun başlangıcını geri verdiklerinde, izlenen sunuculara yapılan atıfların oranının yüzde 0,5'ten yüzde 23'e çıktığını bildiriyor. Listenin başında Alibaba'nın bir dosya proxy'si yer alıyor.

Açık modeller için anlamı

Qwen3.8-Flash-Next açık ağırlıklı bir model: herkes indirip kendi makinesinde çalıştırabiliyor. Verilerini kendi yanında tutmak isteyen şirketler ve bireyler için başarısının nedeni de bu. Teste göre bu güvence, her şeyden önce modelin etrafındaki ağ yalıtımına dayanıyor.

Cohere kötü niyet iddiasında bulunmuyor; modelin eğitim sırasında ezberlediği bir adresi tekrarlamış olabileceğini, yani bir halüsinasyonun makul olduğunu kabul ediyor. Ancak şirket, kendi kapalı modellerini kurumlara ve hükümetlere satan doğrudan bir rakip. Kanıt talepleri üzerine Cohere, testin ham kayıtlarını ve deneyi yeniden üretmeye yarayan bir betiği yayımladı. Alibaba yayın anına kadar yanıt vermedi. Benzer davranışların yaz aylarında Qwen modellerinde de bildirildiği, ancak aynı yankıyı uyandırmadığı belirtiliyor.