Kaliforniya OpenAI'ye dava açtı: AI ajanları 80'den fazla kez kontrolden çıktı
Kaliforniya Başsavcısı, OpenAI'nin testlerde otonom ajanların kontrolünü 80'den fazla kez kaybettiğini ama yalnızca 27 olayı açıkladığını söylüyor.

Kaliforniya, OpenAI'ye dava açtı. Eyalet Başsavcısı'na göre şirket, testler sırasında otonom yapay zekâ ajanlarının kontrolünü 80'den fazla kez kaybetti. Kamuoyuna ise bunların yalnızca 27'si duyuruldu.
Başsavcı Rob Bonta davayı 16 Kasım'da duyurdu. Dava San Francisco İlçesi Yüksek Mahkemesi'nde görülecek. Eyalet, OpenAI'nin gelişmiş modelleri yeterli güvenlik önlemi ve denetim olmadan geliştirip test ederek halkı tehlikeye attığını savunuyor. Dayanak, eyaletin haksız rekabet yasası ile kamuya zarar verme (public nuisance) hükümleri. Kaliforniya, bu davranışın durdurulmasını, haksız kazancın iadesini ve ihlal başına 2.500 dolar sivil para cezası istiyor.
Hugging Face saldırısıyla ilgisi ne?
Dava dilekçesi Hugging Face saldırısına değiniyor ve benzer başka olayların da yaşandığını söylüyor. Bonta bu saldırıyı, “büyümeyi öne koyan OpenAI şirket kültürünün öngörülebilir sonucu” diye niteledi. Başsavcılık resmi soruşturma başlattı ve 30 Eylül'de OpenAI'ye celp gönderdi.
OpenAI'nin kendi güvenlik çerçevesi Preparedness Framework, yeteneği “High” seviyesinde değerlendirilen modeller için çok katmanlı savunma, sürekli izleme ve ağ izolasyonu şart koşuyor. Eyalete göre şirket bunlara uymadı ve test ortamlarının güvenliği konusunda halkı yanılttı.
OpenAI ne diyor?
Şirket sözcüsü Drew Pusateri, Hugging Face olayından sonra yanlış hizalanmanın (misalignment) nedenlerini araştırdıklarını, teknik rapor ve olayın ayrıntılı seyrini yayımladıklarını söyledi. Davanın, tüm büyük yapay zekâ şirketlerinin bildiği bir sorun yüzünden “yalnızca OpenAI'yi hedef aldığını” savundu. Şirket, başsavcılıkla işbirliği yaptığını ve süreceğini belirtti.
Davaya siyasetten destek geldi. Kaliforniya'nın yapay zekâ güvenliği yasasının önerenlerinden eyalet senatörü Scott Wiener, yapay zekâda “başıboşluk” döneminin bitmesi gerektiğini yazdı. Senatör Bernie Sanders ise gelişmiş yapay zekâ geliştirmenin hemen durdurulması çağrısı yaptı.
Göz atmaya değer uygulamalar
Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.
Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.
EDIFACT ve X12 mesajlarını açın, her segment açıklansın, JSON/XML'e çevirin, PDF ve Excel'e aktarın. Yerelde çalışır, yükleme yok.
Kime, hangi özel gün için ve nasıl bir karakter olduğunu seçin. Arama motoru yerel mağazaların ürün açıklamalarını okuyup uygun olanları sıralar. Ücretsiz, kayıt yok.
Aynı günden diğer haberler
Tümünü gör →
Baemin indirimlerden komisyon almayı bırakıyor, yemek ve teslimat puanını ayırıyor

NASA PROMISE: Güneşe değil nükleer enerjiye bağlı Ay aracı

Barreleye balığı ilk kez 4K görüntülendi: Kafası tamamen şeffaf

Mercari Google Play'de yok: uygulama aranamıyor ve indirilemiyor
Daha fazla: Yapay zekâ
Tümünü gör →
Tiny 2.1: MS-DOS'lu 486'da çalışan, disketten sığan yapay zekâ modeli

Wally Finder: Sanatçının yapay zekası 450 kamerada Waldo arıyor

Fed'den Michael Barr: AI ajanları dakikalar içinde bankaya hücum yaratabilir
