Osegi
Güvenlik·1 dk okuma

Yapay zeka sohbet botlarında takipçiler: 42 servisin 21'i sızdırıyor

Araştırmacılar ChatGPT, Claude ve Gemini dahil 42 yapay zeka servisini inceledi. Yarısı otomatik sohbet başlıklarını üçüncü taraf takipçilere gönderiyor, bazıları promptu da.

A person typing a private question into an AI chatbot while small tracking icons collect the text in the background.
Görsel: ITmedia NEWS

Bir sohbet botuna hastalığınızı, hukuki sorununuzu ya da kişisel derdinizi yazdığınızda, o konuşmanın başlığı aynı anda bir reklam şirketine gidiyor olabilir. New York Eyalet Üniversitesi Stony Brook'tan araştırmacıların yaptığı çalışma, yapay zeka sohbet botlarındaki takipçileri (tracker) mercek altına aldı.

Ekip, ChatGPT, Claude ve Gemini gibi 25 genel amaçlı servisi ve sağlık, hukuk ve eğitime odaklı 17 uzman servisi, toplam 42 servisi inceledi. 21 serviste, kullanıcının sorusundan otomatik üretilen sohbet başlığı harici takipçilere sızıyordu. Dokuz serviste ise kullanıcının yazdığı prompt olduğu gibi dışarı gidiyordu. Çalışmanın adı “Penny for Your Prompts”, IEEE S&P 2027'ye kabul edildi.

İçerik sızıntısı görülen servislerin bir kısmında kayıt sırasında girilen e-posta adresi de gönderiliyordu. Bu, genel amaçlı servislerde 13'ün 11'i, uzman servislerde 8'in 8'iydi.

Veriler kimlere gidiyor?

25 genel amaçlı serviste tarayıcı ortalama 540 ağ isteği gönderiyor. Bunların yaklaşık yüzde 22'si, yani 118'i takipçilere gidiyor. Bu trafiğin yüzde 41,8'i Google'a gidiyor. Onu Microsoft (yüzde 12,2), ByteDance (yüzde 8,6) ve Meta (yüzde 8,3) izliyor.

Sızıntı nasıl oluyor?

Hack yok. Takipçiler her sitede yaptıkları şeyi yapıyor: sayfa başlığını okuyorlar. Sohbet botları sorunuzu özetleyip sohbet başlığı yapıyor ve bunu sayfa başlığı olarak kullanıyor. Prompt gönderdiğinizde ya da başka bir sohbete geçtiğinizde takipçi çalışırsa, sorunun özünü taşıyan başlığı sıradan bir sayfa adı sanıp dışarı gönderiyor.

Promptun kendisi başka yollardan sızıyor: sayfadaki metni toplayan oturum kayıt araçları ve promptun URL'de yer aldığı servisler.

Araştırmacılar tarayıcının JavaScript motorunu ayrıntılı biçimde izledi. Böylece hangi kullanıcı eyleminin tetikleyici olduğunu, verinin sayfanın neresinden alındığını ve nereye gönderildiğini belirleyebildiler.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:chatgptclaudegeminiad trackersai privacystony brook university

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Güvenlik

Tümünü gör →