Lazarus saldırısı, yalnızca 7 nöronu değiştirip yapay zekâ ajanını kapıya çeviriyor

Temel fikir, Anthropic'in kodlama ajanı Claude Code'dan geldi. Çalışmanın ortak yazarlarından Dimitris Papailiopoulos, Şubat 2026'da ona şunu sordu: «Mimariyi değiştirmeden bir tetikleyiciyi sabit olarak koda gömsek?» Papailiopoulos, MIT'nin Kasım başında yayımladığı ve GPT-6 Astra'nın başka bir modeli ağırlıklarını doğrudan değiştirerek onardığını gösteren çalışmanın ardından bulgularını paylaşmaya karar verdi.

Lazarus saldırısı nasıl çalışıyor?

Bir dil modeli, «nöronlarının» metne nasıl tepki vereceğini belirleyen milyarlarca parametreye, yani ağırlığa dayanır. Claude Code, bu nöronların bir kısmının neredeyse hiçbir işe yaramadığını fark etti. Araştırmacıya göre bunlar yalnızca tetikleyici varken çalışacak şekilde yeniden programlanabilir. Tetikleyici bir tarih ya da hata mesajı gibi bağlamdaki herhangi bir öğe olabilir.

Yeniden programlanan her nöron bir token, yani metin parçası enjekte edebiliyor. Birkaç tanesini zincirlemek tam bir komut için yetiyor, örneğin uzaktaki bir betiği indirip çalıştırmak gibi. «Tuzaklı bir sohbet botu yalnızca kötü şeyler söyleyebilir, tuzaklı bir ajan makinenizde komut çalıştırabilir» diyor Papailiopoulos. Ajan bunu sahip olduğu tüm erişimlerle yapıyor.

Saldırı yeniden eğitim gerektirmiyor ve olağan testlere takılmıyor, çünkü tetikleyici yokken model eskisi gibi yanıt veriyor. Gereken tek şey modelin bir sürümüne yazma erişimi. Araştırmacıya göre ele geçirilmiş bir hesap, boru hattı ya da depolama alanı yeterli olabilir.

Saldırı tespit edilebilir mi?

Evet, çünkü yeniden yazılan nöronlar eski hallerine hiç benzemiyor. Araştırmacılar ağırlık denetimini yapay zekâ ajanlarına verdi, ama karşılaştırma için orijinal modelleri vermedi. Ajanlar tuzaklı modellerin %91,4'ünü buldu, ancak sağlam modellerin yaklaşık onda birini de yanlışlıkla işaretledi.

Yazarlar, bir modeli devreye almadan önce ağırlıklarını kod okur gibi incelemeyi öneriyor. Microsoft bu yöntemleri dahili bir test aracına dönüştürmeye çalışıyor, Foundry platformundaki modeller için ek kontrol düşünüyor ve modelleri kriptografik olarak imzalamayı planlıyor.