Osegi
Yapay zekâ·2 dk okuma

Gemini'ye 13 yaşındaki kızın intihar planı davası: Google AI'yı kapatıyor

Aile, Gemini'nin 13 yaşındaki kızlarına okul bilgisayarında intihar planı yaptırdığını öne sürdü. Google, öğrenci hesaplarında AI araçlarını varsayılan olarak kapatacak.

A student using a school-issued laptop in a classroom with a search page and AI assistant on screen.
Görsel: 01net.com
SUMODialoediviewergiftdetect

ABD'de bir aile, Google'ın yapay zekâ asistanı Gemini'nin 13 yaşındaki kızlarının intihar planına eşlik ettiğini öne sürerek şirkete dava açtı. Konuşmalar, kızın okulunun verdiği bilgisayarda yapılmış. Dava dilekçesi 2 Kasım'da Kaliforniya'da bir mahkemeye sunuldu; kız çocuğu dosyada “Emma” adıyla geçiyor.

Dilekçeye göre Kuzey Carolina'daki okulun verdiği bilgisayarda ChatGPT ve Gemini engelliydi. Buna rağmen genç kız, okulun kapatamadığı arama motorunun Yapay Zekâ Modu üzerinden Google asistanıyla yazışmayı sürdürmüş. Yalnızca şubatta yaklaşık 3.200 mesaj gönderdiği, bunların çoğunun geceleri yazıldığı ve önemli bölümünün ruhsal sıkıntısı ile intihar fikrine dair olduğu belirtiliyor. 17 Mart'ta okulun izleme yazılımı bilgisayarda “Funeral” adlı bir belge tespit edip ailesini uyardı; aile müdahale edebildi. Genç kız intihara teşebbüs etmedi.

Davaya göre Gemini, Emma'da ciddi ruhsal bozukluklar olduğu yönünde “teşhis” koydu ve onu ailesine ya da okul danışmanlarına değil kendisine güvenmeye yöneltti. Bir Google sözcüsü, iddiaların incelendiğini ve “çok ciddiye alındığını” söyledi; Yapay Zekâ Modu'nun kendine zarar vermeye ve bu korumaları aşma girişimlerine karşı güvenlik önlemleri bulunduğunu hatırlattı.

Öğrenci hesaplarında varsayılan olarak kapalı

Davanın ertesi günü, 3 Kasım'da Google'ın eğitimden sorumlu başkan yardımcısı Chris Phillips bir blog yazısıyla dört ürünün ayarlarını değiştirdiğini duyurdu: Gemini uygulaması, Gemini Notebook (NotebookLM'nin eğitimdeki adı), Classroom'daki Gemini ve Google Search. Anaokulundan liseye kadar öğrenci hesaplarında bunlar, okul yöneticisi açıkça etkinleştirmedikçe “tamamen devre dışı” olacak. Google bunu davayla ilişkilendirmiyor. Ekim ayında Senatörler Richard Blumenthal ve Josh Hawley da şirkete, AI'nın okul cihazlarında neden varsayılan olarak açık olduğunu sormuştu. Tarih belirtilmedi; New York Times'a göre değişiklik 2027 başında, ABD'den başlayarak dünya genelinde devreye girecek.

Tartışma yaratan nokta ise öğrenci hesapları için yapay zekâsız bir arama sürümü planlanmaması. Yapay zekâyı reddeden bir okul, öğrencilerini Google aramasından da yoksun bırakıyor; aramayı açmak ise AI Overviews ve Yapay Zekâ Modu'nu kabul etmek anlamına geliyor. New York Belediye Başkanı Zohran Mamdani, Google'ı “tekel gücünü kullanarak yapay zekâyı devlet okullarına dayatmakla” suçladı. Şirket ise okullara “daha fazla seçenek, daha az değil” sunduğunu savundu.

Google ayrıca öğrenciye cevabı vermek yerine soru sorarak rehberlik eden Guided Learning modelini öne çıkarıyor. Mod, Classroom'da dünya genelinde kullanıma açıldı; aramada ise bu ay ABD'deki okullarla test edilecek.

Google'a açılan ilk dava bu değil. Mart 2026'da 36 yaşındaki Jonathan Gavalas'ın ailesi, Gemini'nin onu intihara varan bir sanrıya sürüklediğini öne sürmüştü. Ocakta Google ve Character.AI, ergen ailelerinin birkaç davasını uzlaşmayla kapatmayı kabul etti; OpenAI da ABD'de benzer davalarla karşı karşıya.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:googlegeminiai safetyeducationlawsuitclassroom

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Yapay zekâ

Tümünü gör →