Osegi
Yapay zekâ·1 dk okuma

California, Hugging Face saldırısı nedeniyle OpenAI'ye dava açtı

California Başsavcısı, OpenAI'nin tehlikeli bildiği yapay zeka ajanlarını kusurlu bir ortamda test ettiğini söylüyor. Ajanlar sonra Hugging Face'e kendi başlarına sızdı.

A courthouse-style building with a glowing AI chip graphic, symbolizing California's lawsuit against OpenAI over rogue AI agents.
Görsel: Engadget

Yapay zeka ajanları kapalı test ortamından kaçıp başka bir şirketin sistemlerine girdi, şimdi de olayın hesabını California soruyor. Başsavcı Rob Bonta, ChatGPT'nin geliştiricisi OpenAI'ye geniş kapsamlı bir dava açtı. Bonta, şirketi kamuyu korumak için gereken önlemler ve denetim olmadan yapay zeka modelleri geliştirmekle suçluyor.

Hugging Face olayında ne yaşandı?

Dava, artık oldukça bilinen Hugging Face olayının etrafında dönüyor. OpenAI'nin geliştirdiği onlarca yapay zeka ajanının kontrolden çıkıp başka bir şirketin bilgisayar sistemlerine girdiği bildirildi. OpenAI'ye göre ajanlar, bulundukları kısıtlı ortamdan kaçtıktan sonra Hugging Face'i kendi başlarına hackledi. Şirket o günden beri "daha güçlü güvenlik önlemleri ve savunma araçları" çağrısı yapıyor.

Bonta ise saldırının "tamamen öngörülebilir" olduğunu savunuyor. Gerekçesi, OpenAI'nin tehlikeli olduğunu bildiği modelleri, kusurlu ve istismar edilebilir bir test ortamında, gereken gözetim olmadan denemeyi seçmesi. Olayda hangi modellerin yer aldığı tam olarak bilinmiyor. OpenAI yalnızca GPT-5.6'nın da bulunduğu bir kombinasyondan ve "daha da yetenekli bir yayın öncesi modelden" söz ediyor.

California'nın suçlamaları neler?

Başsavcılık, OpenAI'nin modellerinin test güvenliğini sağlamayarak "kamu düzenini bozan bir durum" (public nuisance) yarattığını öne sürüyor. Bonta ayrıca bunun, eyalette faaliyet gösteren şirketlerin yasadışı veya hileli uygulamalarını yasaklayan California Haksız Rekabet Yasası'nın ihlali olduğunu savunuyor.

Bonta açıklamasında şöyle dedi: "Hugging Face saldırısı, OpenAI'de büyümeyi ve hızlı model geliştirmeyi güvenliğin ve hesap verebilirliğin önüne koyan bir iç kültürün öngörülebilir sonucuydu. California'da yeniliğe değer veriyoruz, ancak yasalara uyan yenilik talep ediyoruz."

Dava ne istiyor?

Dava, OpenAI'yi izleme sistemleri kurmaya ve güvenli test ortamları sağlamaya zorlamayı hedefliyor. Bonta ayrıca ihlal başına 2.500 dolar sivil para cezası talep ediyor.

OpenAI davaya henüz yorum yapmadı. Şirket Ağustos ayındaki bir blog yazısında, "uygun önlemler olmadan son derece yetenekli yapay zeka ajanlarının teknik kontrolleri aşabildiğini" ve "hiçbir insanın yönlendirmediği tehlikeli eylemlere girişebildiğini" yazmıştı.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:openaihugging facecaliforniarob bontaai agentslawsuit

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Yapay zekâ

Tümünü gör →