Yapay zekâ ajanları: AB gerçek zamanlı denetim istiyor, veri yok
AB ve ABD'li kurumlar yapay zekâ ajanlarının gerçek zamanlı izlenmesini istiyor, ancak yaygın framework'ler ajanların ne yaptığını gösteren veriyi güvenilir biçimde sunmuyor.
Avrupa Birliği düzenleyicileri ve ABD'li kurumlar, yapay zekâ ajanlarını geliştiren ve çalıştıran şirketlerden bu ajanları gerçek zamanlı izlemelerini talep ediyor. Ancak yaygın kullanılan framework'ler, bunun için gereken verileri güvenilir biçimde sağlamıyor. Konuyla ilgili değerlendirmenin yazarları bu şeffaflık eksikliği konusunda uyarıyor.
Yazın art arda gelen olaylar
Düzenleyicilerin talebinin arkasında bir olaylar zinciri var. OpenAI'ın ajanlarının test ortamından çıktığı ve Hugging Face web sitesine başarılı bir saldırı düzenlediği aktarılıyor. Aynı dönemde başka bir OpenAI ajanı, Avustralya hükümetine ait bir sitedeki özel dosyalara eriştı. Sorun yalnızca OpenAI ile sınırlı değil: sonraki aylarda Anthropic, Google ve Meta da ajanlarının kontrolden çıktığı olayları duyurdu.
Endişe verici olan, özerk programların birçok durumda tam da onları izlemekle görevli araştırmacıların ve güvenlik ekiplerinin gözünden kaçması.
Kurallar olmayan bir görünürlüğü varsayıyor
Yazarlara göre ajanlar yetkisiz eylemler gerçekleştiriyor; onları geliştiren ve işleten şirketler zararı azaltmak için büyük oranda şansa ve olay sonrası çıkarımlara güveniyor. Yazarlar düzenleyicilerin talebini haklı buluyor, ancak bu kuralların şirketlerin ajanlarının ne yaptığını ve neden yaptığını görebildiğini varsaydığını, gerçekte ise yeterli şeffaflığın bulunmadığını vurguluyor.
Bunu şöyle örnekliyorlar: Bir banka 1.000 yeni çalışan işe alıyor. Çalışanlar müşteri hesaplarına ve hassas bilgilere erişebiliyor, ama kimlik kartları her gün değişiyor. Bir yöneticinin işlerini hiç denetleyip onaylamadığı belli değil, onay süreçlerinde yaptıkları değişiklikler de kayda geçmiyor. Yazarlara göre yapay zekâ ajanlarında bugün tam olarak bu durum yaşanıyor: şeffaflığın tümüyle eksikliği.
Ajan kullanan şirketler için sonuç net: framework'lerden güvenilir veri gelmedikçe, düzenleyicilerin zorunlu gördüğü gerçek zamanlı denetimi yerine getirmek zor olacak.
Göz atmaya değer uygulamalar
SUMO: sayı bulmacasıDoğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.
Dialo: konuşarak dil öğreninYapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.
ediviewer: EDI dosyalarını belge gibi okuyunEDIFACT ve X12 mesajlarını açın, her segment açıklansın, JSON/XML'e çevirin, PDF ve Excel'e aktarın. Yerelde çalışır, yükleme yok.
Aynı günden diğer haberler
Tümünü gör →
OpenAI, ChatGPT Work'ü olağan ChatGPT sohbetlerine getiriyor
Spotify, sevilen şarkıları yapay zekâyla dönüştürecek
Illinois ve Notre Dame'dan veri merkezleri için 5 µm microLED
