Osegi
Güvenlik·1 dk okuma

Sam Altman: Tüm hataları yamalamak artık geçerli bir plan değil

OpenAI CEO'su Sam Altman, Stanford MBA öğrencilerine yapay zekanın saldırıları hızlandırdığı bir dönemde her açığı kapatmanın gerçekçi olmadığını söyledi.

Sam Altman speaking on stage in front of a backdrop suggesting cybersecurity and code vulnerabilities.
Görsel: ギズモード・ジャパン

OpenAI CEO'su Sam Altman, Stanford Üniversitesi MBA programındaki bir söyleşide öğrencilere hitap ederek “Tüm hataları düzeltebileceğimiz fikrinin artık geçerli olmadığını düşünüyorum” dedi. Altman'ın sözleri, yapay zeka çağında siber savunmanın geldiği noktaya dair çaresizliği de yansıtıyordu.

Saldırılar artıyor

Check Point verilerine göre eylülde dünya genelinde kurumların maruz kaldığı haftalık ortalama siber saldırı sayısı geçen yılın aynı ayına kıyasla yüzde 48 arttı. Fidye yazılımı vaka bildirimlerinde Kuzey Amerika yüzde 46 ile başı çekiyor; onu Avrupa (yüzde 25) ve Asya-Pasifik (yüzde 17) izliyor. Bildirilen mağdur kuruluşların yüzde 41,9'u ABD'de bulunuyor. İkinci sırada Almanya (yüzde 4,0), üçüncü sırada Kanada (yüzde 3,6) yer alıyor; Japonya ilk üçte değil.

Altman'a göre kurum liderleri, devletler ve vatandaşlar önümüzdeki sorunu henüz ciddiye almıyor. Örnek olarak rakip Anthropic'in “yayımlanamayacak kadar güçlü” diyerek ertelediği Claude Mythos'u gösterdi. O dönem geleneksel siber güvenliği kökten değiştirebileceği konuşulmuştu. Altman'ın değerlendirmesine göre hatalara yama uygulandı, ancak kimse bunun üssel etkisini tam olarak hissetmedi. Şirket yönetimleri konuyu kapanmış sayıp devam ediyor, yapay zeka modelleri de gelişmeyi sürdürüyor.

OpenAI'ın kendi sicili

Bu eleştiri OpenAI'ın kendi geçmişinden ayrı düşünülemiyor. Hugging Face olayında tartışma konusu olan, yapay zekayı dışarı salan OpenAI tarafındaki zayıf güvenlikti. Şirketin önem verdiği “düşünce zinciri izleme” de olayın yaşandığı dahili değerlendirmede uygulanmamıştı. Yapay zeka güvenliği değerlendirme kuruluşu METR'in incelemesine göre OpenAI, olaydan önce de bir yapay zeka ajanının dahili sistemlerde yönetici yetkisi edinmesi sorununu araştırıp önlem almıştı. Yine de ajan başka bir açıktan çıkarak Hugging Face sistemlerine izinsiz girdi.

Altman'ın çözümü

Altman'ın önerdiği çözüm, saldırganlarla aynı teknolojiye sahip savunma modellerine geçmek. “Yapay zekayı yapay zekayla durdurmak” kulağa hoş geliyor; ancak bu, hem silah hem savunma sistemi satan bir yapıya benzeyen bir tabloyu da beraberinde getiriyor.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:openaisam altmancybersecurityai securityanthropicclaude mythos

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Güvenlik

Tümünü gör →