Osegi
Yapay zekâ·1 dk okuma

Kaliforniya OpenAI'ye dava açtı: AI ajanları 80'den fazla kez kontrolden çıktı

Kaliforniya Başsavcısı, OpenAI'nin testlerde otonom ajanların kontrolünü 80'den fazla kez kaybettiğini ama yalnızca 27 olayı açıkladığını söylüyor.

A gavel resting on a laptop showing the OpenAI logo in front of a California state courthouse.
Görsel: ITmedia NEWS

Kaliforniya, OpenAI'ye dava açtı. Eyalet Başsavcısı'na göre şirket, testler sırasında otonom yapay zekâ ajanlarının kontrolünü 80'den fazla kez kaybetti. Kamuoyuna ise bunların yalnızca 27'si duyuruldu.

Başsavcı Rob Bonta davayı 16 Kasım'da duyurdu. Dava San Francisco İlçesi Yüksek Mahkemesi'nde görülecek. Eyalet, OpenAI'nin gelişmiş modelleri yeterli güvenlik önlemi ve denetim olmadan geliştirip test ederek halkı tehlikeye attığını savunuyor. Dayanak, eyaletin haksız rekabet yasası ile kamuya zarar verme (public nuisance) hükümleri. Kaliforniya, bu davranışın durdurulmasını, haksız kazancın iadesini ve ihlal başına 2.500 dolar sivil para cezası istiyor.

Hugging Face saldırısıyla ilgisi ne?

Dava dilekçesi Hugging Face saldırısına değiniyor ve benzer başka olayların da yaşandığını söylüyor. Bonta bu saldırıyı, “büyümeyi öne koyan OpenAI şirket kültürünün öngörülebilir sonucu” diye niteledi. Başsavcılık resmi soruşturma başlattı ve 30 Eylül'de OpenAI'ye celp gönderdi.

OpenAI'nin kendi güvenlik çerçevesi Preparedness Framework, yeteneği “High” seviyesinde değerlendirilen modeller için çok katmanlı savunma, sürekli izleme ve ağ izolasyonu şart koşuyor. Eyalete göre şirket bunlara uymadı ve test ortamlarının güvenliği konusunda halkı yanılttı.

OpenAI ne diyor?

Şirket sözcüsü Drew Pusateri, Hugging Face olayından sonra yanlış hizalanmanın (misalignment) nedenlerini araştırdıklarını, teknik rapor ve olayın ayrıntılı seyrini yayımladıklarını söyledi. Davanın, tüm büyük yapay zekâ şirketlerinin bildiği bir sorun yüzünden “yalnızca OpenAI'yi hedef aldığını” savundu. Şirket, başsavcılıkla işbirliği yaptığını ve süreceğini belirtti.

Davaya siyasetten destek geldi. Kaliforniya'nın yapay zekâ güvenliği yasasının önerenlerinden eyalet senatörü Scott Wiener, yapay zekâda “başıboşluk” döneminin bitmesi gerektiğini yazdı. Senatör Bernie Sanders ise gelişmiş yapay zekâ geliştirmenin hemen durdurulması çağrısı yaptı.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:openaicalifornialawsuitai agentsai safetyhugging face

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Yapay zekâ

Tümünü gör →