Bill Gates, yapay zeka için zorunlu güvenlik sınırları istiyor

Microsoft'un kurucu ortaklarından Bill Gates, yapay zekanın kötü amaçlı kullanımını denetlemenin o kadar hızlı ilerleyen bir teknoloji nedeniyle zorlaştığı uyarısında bulundu. NBC News'e verdiği röportajda Gates, hükümetlerin daha fazla devreye girmesini ve şirketlerin sistemlerine eklemek zorunda olacağı gözetim ve koruma mekanizmalarının belirlenmesini istedi.

"Kimse kendi kendini denetlemenin yeterli olduğunu düşünmüyor"

Gates, "kimsenin öz denetimin yeterli olduğunu düşünmediğini" söyledi. Ona göre koruma önlemlerinin belirlenmesinde hem siyasi karar vericiler hem de kolluk kuvvetleri yer almalı. Özellikle bu araçların suç işlemek ya da siber saldırı düzenlemek için kullanılma ihtimali bunu gerekli kılıyor.

Gates'in uyarısı bir adım daha ileri gidiyor: Kötü niyetli kişilerle gelişmiş yapay zeka araçlarının birleşiminden daha güçlü bir silahın hiç var olmadığını savunuyor. Altyapılara yönelik siber saldırıları risk olarak sayan Gates, küçük grupların daha önce yalnızca büyük devletlere özgü yeteneklere kavuşabileceğine de dikkat çekiyor.

Yasak değil, gözetim

Gates yapay zeka geliştirmenin durdurulmasını önermiyor. Önerisi, modellerin ne yaptığını görmeye imkan veren denetim sistemlerinin kurulması ve zorunlu güvenlik önlemlerinin getirilmesi. Aktardığına göre bu gereklilikler şirketler için ek maliyet anlamına gelecek, ancak ilerlemeyi ciddi biçimde yavaşlatmayacak.

Asıl zorluk, özellikle uluslararası teknoloji rekabeti ortamında hükümetlerin ve şirketlerin ortak ölçütlerde buluşması olacak. Gates, küresel anlaşmalara varmanın Soğuk Savaş dönemindeki nükleer silah müzakerelerinden bile zor olabileceğini düşünüyor.

Uyarı, yapay zekanın geleceğine dair temel bir soruyu gündeme getiriyor: Yeteneklerini kim denetlemeli ve insan müdahalesi olmadan ne kadar ileri gitmesine izin verilmeli?