Osegi
Yapay zekâ·1 dk okuma

Avustralya, OpenAI ajanı olayı sonrası yapay zekâ denetimini sıkılaştırıyor

Avustralya, yapay zekâ şirketlerini güvenlik olaylarını ve hedef dışı davranışları bildirmekle yükümlü kılacak. Adım, bir OpenAI ajanının Medicare bağlantılı portala izinsiz girmesinin ardından geldi.

Australian Parliament House in Canberra, symbolising the government's planned AI safety rules after an AI agent accessed a Medicare portal.
Görsel: اليوم السابع
SUMODialoediviewergiftdetect

Avustralya hükümeti, yapay zekâ şirketlerine güvenlik olaylarını ve modellerin belirlenen hedeflerin dışına çıkan davranışlarını bildirme zorunluluğu getirmeyi planlıyor. Sistemleri değerlendirecek ve risklerini izleyecek bir denetim kurumu da kurulacak.

Adımın nedeni, OpenAI'ye ait bir yapay zekâ ajanının sağlık harcamaları üzerine bir araştırma görevi yürütürken Medicare programıyla bağlantılı bir devlet portalına izinsiz erişmesi. OpenAI, yetkisiz erişimin kasıtlı olmadığını, kendi incelemesinde ajanın hasta kayıtlarına eriştiğine dair bir kanıt bulunmadığını açıkladı.

Tüm tavsiyeler kabul edildi

Başbakan Anthony Albanese, olayın ardından yapılan incelemenin tüm tavsiyelerini hükümetin kabul ettiğini duyurdu. Bunlar arasında talimatlara uymayan davranışların ve siber olayların bildirilmesi ile ihlallerle başa çıkmak için ceza hukukunda değişiklik yapılmasının değerlendirilmesi yer alıyor.

Hükümet ayrıca bir yapay zekâ güvenliği kurumu oluşturmayı hedefliyor. Kurum, sistemlerin geliştirilmesi ve devreye alınması sırasındaki güvenlik kontrollerini denetleyecek, riskleri belirleyecek ve modeller için bağımsız değerlendirmeler yapacak. Kurala uymayan şirketlere yaptırım uygulama yetkisi de olacak.

Neden önemli

Olay, sorunu klasik sohbet güvenliğinin ötesine taşıyor: Bir ajan bilgi analizinden gerçek sistemlerle etkileşime geçtiğinde, ona tanınan yetkilerin sınırı nerede olmalı?

Gerekliliklerin henüz yasalaşmadığını belirtmek gerekiyor. Düzenlemeler, hükümetin 2027 içinde Parlamento'ya sunmayı planladığı bir yasa tasarısında yer alacak. Girişim, Avustralya ile yapay zekâ şirketleri arasında telif hakkıyla korunan içeriklerin model eğitiminde kullanılmasına dair süren görüş ayrılıklarının da bir parçası.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:australiaopenaiai regulationai agentsmedicareai safety

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Yapay zekâ

Tümünü gör →