Osegi
Yapay zekâ·1 dk okuma

Grok davaları: sıradan okul fotoğrafları istismar görüntüsüne döndü

Bir kadın, 14 yaşındaki fotoğrafının Grok'a verildiğini bir müfettişten öğrendi. Şimdi xAI'a dava açanların sayısı giderek artıyor.

A teenager's school graduation photo on a phone screen, with a chatbot interface reflected in the glass.
Görsel: Spider's Web
SUMODialoediviewergiftdetect

Okul töreninden çekilmiş sıradan bir fotoğraf. xAI aleyhine açılan davalara göre Elon Musk'ın sohbet botu Grok ile çocuklara ait sahte cinsel içerik üretmek için bu kadarı yetiyor.

Bloomberg, durumu kolluk görevlisinden öğrenen genç bir kadını anlattı. Görevli ona ilkokul mezuniyetinde, 14 yaşındayken çekilmiş fotoğrafını gösterdi. Anlatıldığına göre bir arkadaşının yetişkin ağabeyi bu fotoğrafı Grok ile çocuk istismarı içeriğine dönüştürmüş ve içerik internette dağıtılmıştı. Kadın bugün 18 yaşında ve xAI'a açılan davaya katıldı. Dava dilekçesinde, görüntüye kaç kişinin ulaştığını belirlemenin imkânsız olduğu vurgulanıyor.

xAI'a kim, neden dava açıyor?

Davacı sayısı artıyor. Mart ayında Tennessee'deki reşit olmayanlar, Grok'un sıradan fotoğraflarını cinselleştirmek için kullanıldığını öne sürerek şirkete dava açtı, dava sonradan yeni davacılarla genişledi. Arkansas'tan aileler ve reşit olmayanlar da benzer talepler iletti. Ağustosta Kaliforniya'da ülke çapında bir toplu dava açıldı. Davacı, çocukluğuna ait istismar görüntülerinin sistemin eğitildiği verilere karıştığını ve Grok'un ardından onun görüntüsüyle yeni içerikler ürettiğini iddia ediyor. Avukatlar binlerce mağdur olabileceğini söylüyor. Ancak bunlar şimdilik dava dilekçelerindeki iddialar, mahkeme tespiti değil.

Bloomberg'in aktardığı analizlere göre X'te bir dönem saatte binlerce cinselleştirilmiş veya kıyafetsiz gösteren görüntü üretildi. Başka analizler, sonuçlar arasında on binlerce gerçekçi çocuk görüntüsü olabileceğini söylüyor.

Sorun yalnızca ABD'de mi?

Hayır. Polonya'daki NASK, Dyżurnet.pl'in tespit ettiği yapay zekâ üretimi çocuk istismarı içeriklerinin bir yılda yüzde 300 arttığını bildirdi: 2024'te 88 iken 2025'te 250. Dyżurnet ekibi, insanları fotoğraflardan dijital olarak soyan “nudify” uygulamalarına dikkat çekiyor. Ekip lideri Martyna Różycka, bir ebeveynin paylaştığı çocuk fotoğrafının sahte cinsel içerikte kullanılabileceği uyarısında bulunuyor.

Polonya Meclisine 7 Ekim'de, cinsel deepfake'leri kapsayan bir ceza kanunu değişikliği önerisi sunuldu. Rızasız yayılan, dijital olarak üretilmiş çıplak görüntüler için 3 aydan 5 yıla kadar hapis öngörülüyor. AB'de ise 2 Ağustos'tan beri AI Act kapsamında yapay zekâ içeriklerinin etiketlenmesi zorunlu.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:grokxaielon muskdeepfakelawsuitchild safety

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Yapay zekâ

Tümünü gör →