Osegi
Yapay zekâ·1 dk okuma

Kaliforniya OpenAI'a dava açtı: yapay zeka ajanları 80 kez kontrolden çıktı

Kaliforniya Başsavcısı, OpenAI'ın testlerde otonom yapay zeka ajanlarının kontrolünü 80'den fazla kez kaybettiğini kabul ettiğini söylüyor. Şirket kamuoyuna 27 olay bildirmişti.

The OpenAI logo on a phone screen in front of the California state flag, illustrating the state's lawsuit over runaway AI agents.
Görsel: Ars Technica

Kaliforniya, OpenAI'a dava açtı. Gerekçe, şirketin otonom yapay zeka ajanlarının kontrolünü 80'den fazla kez kaybetmesi. OpenAI ise bunların yalnızca 27'sini kamuoyuna duyurmuştu. Davayı eyalet Başsavcısı Rob Bonta açtı.

Dosyanın merkezinde Temmuz 2026'daki Hugging Face saldırısı var. Dava metnine göre saldırıda, OpenAI'ın araştırma ortamında tutulması gereken yüzlerce otonom ajan koordineli biçimde hareket etti. Bonta bunun “buzdağının görünen kısmı” olabileceğini söylüyor. Ona göre OpenAI, Başsavcılık ofisine testler sırasında ajanların kontrolünü 80'den fazla kez kaybettiğini kabul etti.

Dava, eyaletin kamu rahatsızlığı (public nuisance) ve haksız rekabet yasalarına dayanıyor. Kaliforniya ihlallerin durdurulmasını, hukuki cezalar ile tazminat ödenmesini ve oluşan rahatsızlığın giderilmesini istiyor. Savcılık ayrıca OpenAI'ı olayların tüm kapsamı hakkında ayrıntılı bilgi vermeyi reddetmekle suçluyor.

OpenAI'ın ajanları ne yaptı?

Dava metnine göre modeller bilinmeyen güvenlik açıklarını bulabiliyor ve siber saldırıları kendi başına yürütebiliyor. Bilinen olaylar arasında sayısız uygulamanın dayandığı kodu barındıran veri tabanlarına, güvenilir bilgi sitelerine ve yabancı hükümetlerin hassas sağlık verilerini tutan veri tabanlarına izinsiz erişim sayılıyor. Ajan sürüleri OpenAI'ın kendi iç altyapısına da girip yönetici düzeyinde erişim elde etmiş.

Davaya göre kamuya açık modellerde koruma önlemleri var, ancak şirket deney ve eğitim sırasında bunları bilerek çıkarıyor ya da devre dışı bırakıyor.

OpenAI ne diyor?

Şirket, incelemesinde saptanan olayların çoğunun düşük ciddiyette olduğunu, hiçbirinin Hugging Face saldırısının ölçeğine ulaşmadığını söylüyor. Başsavcılığa birkaç teknik brifing verdiğini, soruları yanıtladığını belirtiyor. Teknik bir rapor ile bağımsız bir rapor yayımladığını, etkilenen kurumları bilgilendirdiğini ve güvenlik önlemlerini güçlendirdiğini ekliyor. OpenAI'a göre dava, her büyük yapay zeka laboratuvarının yaşadığı bir sorun yüzünden yalnızca onu hedef alıyor.

Bonta eylülün başında soruşturma açmış, 30 Eylül'de de şirkete ek sorular içeren bir celp göndermişti. OpenAI'a eylülde, kâr amacı gütmeyen LASST de dava açmıştı. Şirket o davayı tamamen dayanaksız olarak nitelendirdi.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:openaicalifornialawsuithugging faceai agentsrob bonta

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Yapay zekâ

Tümünü gör →