Google'dan LLMjacking uyarısı: Bir günde 100 bin dolarlık kötüye kullanım

Saldırganlar nasıl çalışıyor

Son saldırılar Kuzey Amerika, Güney Amerika ve Asya-Pasifik'teki finans, perakende, teknoloji ve ulaştırma şirketlerini hedef aldı. Saldırganlar kimlik bilgisi hırsızlığı ve oturum ele geçirme (session hijacking) yöntemleriyle ortamlara sızdı. Herkese açık GitHub depolarında ifşa olmuş geçerli kimlik bilgilerini de topladılar.

Çalınan API anahtarları, “LLM Mixers” olarak adlandırılan yasa dışı proxy ağ geçitlerinde birleştirilip modellere erişim, siber suç pazarlarında büyük indirimlerle yeniden satıldı. Yasa dışı bir token yönlendirme hizmeti, alıcılara aylık yaklaşık 60 dolara öncü modellere sınırsız erişim sundu; bu da mağdur şirketlere yaklaşık 1 milyon dolarlık model kullanım faturası çıkardı.

Bir başka saldırgan, API çağrı limitlerini aşmak için kısa ömürlü servis hesaplarını sürekli oluşturup silen “burn and rotate” stratejisini kullandı. Aynı zamanda bulut sağlayıcısındaki fatura kayıtlarını sık sık kontrol ederek verilen zararı izledi.

Önerilen önlemler

Rapor, tehdit avcılığı (threat hunting) yöntemlerinin yanı sıra kurum içindeki yetkisiz LLM'lerin (shadow LLM) tespit edilmesini, API anahtarı yetkilerinin ayrıntılandırılmasını ve otomatik gizli bilgi taramasını (secret scanning) öneriyor.

GTIG baş analisti John Hultquist, saldırganların LLMjacking ile savunmacılara karşı ölçek avantajı aramaya çalıştığını, ajan tabanlı araçlarla da kurbanlar fark etmeden token çaldığını söyledi. Hultquist, kuruluşların LLM kaynaklarına erişimi sıkı denetlemesi, kullanım kayıtlarını incelemesi, çok faktörlü kimlik doğrulamayı (MFA) etkinleştirmesi ve hesap bilgilerini dikkatle yönetmesi gerektiğini belirtti.