Osegi
Güvenlik·1 dk okuma

Shadow AI: ChatGPT sohbetini silmek şirket verisini silmiyor

Gartner, ChatGPT sohbetini silmenin gizli verileri sunuculardan kaldırmadığı uyarısında bulundu. Shadow AI, kurumsal veri sızıntılarında büyüyen bir kaynak.

An office worker typing on a laptop while a chat window with a delete button hovers over a glowing server rack.
Görsel: 미래를 보는 창 - 전자신문

ChatGPT'ye yüklenen şirket verileri, sohbet geçmişi silinse bile sunucularda kalabilir. Gartner, “Shadow AI veri sızıntılarına hızla yanıt verin” başlıklı raporunda bu konuda uyardı. Sohbetin ekrandan kaybolması ile verinin yapay zekâ hizmetinin sunucularından gerçekten silinmesi aynı şey değil.

Shadow AI, çalışanların kurum onayı olmadan, çoğunlukla kişisel hesaplarla yapay zekâ hizmetlerini kullanması anlamına geliyor. Gartner'a göre şirket bilgisayarından ChatGPT'ye girilse bile kişisel hesap kullanılıyorsa kurumsal güvenlik politikaları uygulanmayabilir. İş cihazı kullanmak, girilen gizli bilgilerin korunduğu anlamına gelmiyor.

Zararın boyutu ve saklama süreleri

Gartner'ın aktardığı IBM'in 2026 veri ihlali maliyeti raporuna göre, Mart 2025 ile Şubat 2026 arasındaki tüm veri ihlallerinin %43'ü shadow AI ile ilgili. Bu oran bir önceki yıla göre iki kattan fazla arttı. Bu tür bir olayın ortalama maliyeti ise 5,39 milyon dolar.

Veriler yalnızca sohbet geçmişinde değil; sunucu istek-yanıt kayıtlarında, güvenlik inceleme sistemlerinde, geçici depolarda ve yedek sunucularda da tutulabiliyor. Gartner'ın verdiği genel örneklere göre silinen sohbetler ve sunucu kayıtları yaklaşık 30 gün, güvenlik incelemesine alınan veriler 2-7 yıl, yapay zekâ eğitimi için toplanan veriler ise en fazla 5 yıl saklanabiliyor. Gerçek süreler hizmete, hesap türüne ve veri işleme politikasına göre değişiyor.

Model eğitiminde kullanılmış bilgiyi silmek daha da zor. Girdi verisi modelin çok sayıda parametresine istatistiksel olarak yansıdığı için kaynak dosyayı silmek etkisini ortadan kaldırmıyor. Belirli bilgiyi seçerek çıkaran “makine unutma” (machine unlearning) tekniğinin pratikte hâlâ sınırları var.

Gartner'ın önerileri

Sızıntı tespit edildiğinde önce yapay zekâ eğitimi için veri kullanımı ayarları kontrol edilmeli ve yeni veri girişi engellenmeli. Açığa çıkan parolalar ile kimlik bilgileri değiştirilmeli, hizmet sağlayıcıdan veri silme talep edilmeli, sunucu kayıtları ve yedeklerin saklanıp saklanmadığı doğrulanmalı.

Şirketler için çözüm yalnızca yasaklamak değil. Çalışanların hangi hizmetleri kullandığını ve neler girdiğini belirlemeli, onaylı hizmetler ve veri yönetimi kuralları oluşturmalılar.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:chatgptshadow aigartnerdata leakenterprise securityibm

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Güvenlik

Tümünü gör →