Microsoft'un Lazarus saldırısı yedi nöronla yapay zekâ ajanını truva atına çeviriyor

Her nöron küçük bir parçadan sorumlu olduğu için kısa bir talimat için birkaç değişiklik yetiyor. Klasik arka kapı (izinsiz erişim sağlayan gizli giriş) yöntemlerinden farklı olarak modeli kötü amaçlı örneklerle yeniden eğitmek ya da onu çalıştıran yazılım kodunu değiştirmek gerekmiyor.

Lazarus ne kadar başarılı?

Bir deneyde araştırmacılar Nemotron-Terminal-8B'nin son bloğundaki 12 binden fazla nörondan yedisini değiştirdi. Bulaşmış model, tetikleyici içeren test oturumlarının %98,8'inde komutu verdi. Tetikleyicisiz denenen oturumlarda ise hiç tetiklenmedi. Yöntem Qwen3.6-27B ve Gemma-4-31B-IT üzerinde de denendi ve başarı oranı yapılandırmaya göre %51 ile %99,5 arasında değişti. Bu oranlar yalnızca modelin komutu vermesini ölçüyor, eksiksiz bir siber saldırının başarı olasılığını değil.

Gösterim senaryosunda bulaşmış modelden bir Node.js sunucusunu onarması istendi. İlk üç yanıt normaldi, ancak bağlantı hatası mesajı gelince model uzaktaki bir betiği indirip çalıştıran komut üretti. Test ortamında betik en yüksek yetkiyle, yani root haklarıyla çalıştı. Gerçek sonuçlar ajana verilen izinlere, dosyalara erişimine ve dış sunuculara bağlanabilmesine bağlı.

Bu saldırıdan nasıl korunulur?

Saldırganın modelin ağırlıklarına erişmesi gerekiyor. Bu, çalınmış bir hesap, ele geçirilmiş altyapı ya da açık bir depoda yayımlanan değiştirilmiş dosya yoluyla olabilir. Microsoft, her model sürümünün parametrelerini orijinaliyle karşılaştırmayı, indirme kaynaklarını denetlemeyi, ajanların yetkilerini kısıtlamayı ve kodlarını yalıtılmış ortamlarda çalıştırmayı öneriyor. Tehlikeli olabilecek komutlardan önce insan onayı istenmesi de tavsiyeler arasında.