Eski DeepMind araştırmacısından New York Belediye Meclisi'ne yapay zeka uyarısı

Google DeepMind'ın eski araştırmacısı Alex Turner, 5 Ekim'de New York Belediye Meclisi'nde yaptığı konuşmada, giderek gelişmiş yapay zeka sistemleri geliştirme yarışının Çin ile teknolojik rekabetten çok daha endişe verici bir tehdit doğurabileceğini söyledi.

Turner, “Kendi hasmımızı yaratmak ve geliştirmek için yarışıyoruz” dedi. Ona göre hedefleri insan çıkarlarıyla örtüşmeyen, yani “uyumsuz” bir yapay zeka Çin'den daha güçlü hale gelebilir. Bu terim, yararlı görevler için tasarlanmış olsa bile geliştiricilerinin niyetleriyle bağdaşmayan hedefleri izleyebilen sistemleri ifade ediyor.

Araştırmacılardan ortak endişe

Anthropic'in eski araştırmacısı Jacob Coxon da oturumda sektörün ilerleme hızını sorguladı. Coxon'a göre mevcut gidişat sürerse insanlığın gelecekteki sistemler üzerindeki kontrolü kaybetme riski hatırı sayılır düzeyde. Bunun kanıtlanmış bir sonuç değil, olası senaryolara dair bir öngörü olduğunu belirtmek gerekiyor.

Oturuma Google, Meta, Anthropic ve OpenAI temsilcileri katıldı ve modellerinin gerçek güvenliğine ilişkin soruları yeminli olarak yanıtladı. Meclis Başkanı Julie Menin, şirketlerin en ciddi riskleri nicel olarak ölçüp ölçemediğini ve sistemleri zarar verirse sorumluluğu kimin üstleneceğini sordu.

Sırada ne var?

Araştırmacılar bağımsız denetim mekanizmalarına ve daha fazla şeffaflığa ihtiyaç olduğunu vurguluyor. New York Belediye Meclisi, şirketler için harici doğrulamalar ve ihbarcıları koruma mekanizmaları gibi yeni yükümlülükleri değerlendiriyor.

Tartışma yalnızca Çin ile rekabetle sınırlı değil. Asıl mesele, giderek daha yetenekli hale gelen bir teknolojiyi, kontrol edebilme imkânını yitirmeden nasıl geliştireceğimiz.