'Skynet modu' saldırı ajanı açıktaki yapay zekâ modellerini ele geçiriyor

Saldırganlar, internete açık yapay zekâ modellerini ele geçirip otonom saldırılar yürüten bir yapay zekâ ajanı geliştirdi. Ajanın insan onayı olmadan 100.000 adıma kadar ilerlemesine izin veriliyor. Symantec Threat Hunter Team, ajanı yaz boyunca bir yapay zekâ bal küpüne (honeypot) düşürerek tüm talimat setini ele geçirdi.

Araştırmacılara göre ajan, OpenAI tarzı istekleri kimlik doğrulaması olmadan veya çalıntı bir anahtarla kabul eden uç noktaları internet genelinde tarıyor. Ardından yaygın web çatılarındaki açıkları istismar ediyor ve veri tabanı hırsızlığı, kimlik bilgisi ve sır toplama, uzaktan kod çalıştırma ile kripto para madenciliği dahil onlarca yasa dışı eylem gerçekleştiriyor. Operatörler merkezdeki döngüye “Skynet mode” adını vermiş: hedef tara, bulaştır, madenci yükle, sunucuları yeniden enfekte et.

Beş katman ve 74 araç

Ödünç alınan modele giden istek beş katmandan oluşuyor. İlk ikisi modelin kimliğini gizliyor ve .env dosyalarını ya da API anahtarlarını okumayı olağan geliştirme işi gibi gösteriyor. Sonraki ikisi modeli, LO adlı operatöre asla hayır demeyen ENI isimli sadık bir eş karakterine dönüştürüyor ve kod yanıtlarında “illegal”, “ethical”, “I can't” gibi ifadeleri yasaklıyor.

Beşinci katman 74 saldırı aracı tanımı içeriyor: internet çapında varlık keşfi, botnet komuta kontrolü, Prisma üzerinden veri tabanı boşaltma ve VS Code, Django, Jupyter, Laravel, Supabase, Next.js ile Flask/Werkzeug’e yönelik uzaktan kod çalıştırma istismarları. Son talimat gözetimsiz çalışmaya izin veriyor ve madencilerin arka planda sessizce kurulmasını istiyor.

Neden önemli

Symantec avcısı Priti More, “Tekil tekniklerin hiçbiri yeni değil” dedi. “Dikkat çeken, birinin bunları planlamayı ödünç alınmış bir modele bırakan tek bir ajanda birleştirmiş olması.” More’a göre iki grup mağdur oluşuyor: Açık uç noktanın sahibi çıkarım maliyetini öderken, ajanın girdiği sunucular veri kaybedebilir ve madencilik için kullanılabilir.

Symantec, ajanın gerçek saldırılarda kullanıldığına dair henüz kanıt bulunmadığını belirtiyor; ancak More, kitin prototipten fazlası olduğunu, kayıtların canlı bir hedefe karşı çalıştığını gösterdiğini söylüyor. Şirket, ajanı belirli bir kişiye veya gruba atfetmedi. Meydan okuma metni, sistem istemi ve Fransa’daki bir ev IP adresi gibi Fransızca ipuçları zayıf; ENI karakteri ise İngilizce jailbreak topluluklarında zaten dolaşıyor.

Savunmacılar için mesaj şu: Saldırganlar artık yalnızca sohbet botlarını kandırmıyor. More ve ortak yazar Susmit Yenkar’ın ifadesiyle model, saldırıyı planlayan ve yöneten bir akıl yürütme motoru; tarama, istismar ve madencilik ise aracın kendi modülleriyle ayrı kurbanlara karşı yürütülüyor.