Osegi
Yapay zekâ·1 dk okuma

Yapay zeka ajanı haftalık alışverişe 72 yumurta ekledi, nedenini bilmiyor

Matt Smith, haftalık market alışverişini yapay zeka ajanına bıraktı. Ajan istenmeyen 72 yumurta ekledi ve nedenini sorulunca iyi bir cevap veremedi.

Four trays of eggs stacked on a kitchen counter next to a laptop showing a grocery order.
Görsel: t3n Magazin

Haftalık market alışverişini yapay zeka ajanına bırakan bir kullanıcının kapısına 72 yumurta geldi. Ajan bunu neden yaptığını açıklayamıyor.

Olayı X'te Matt Smith anlattı. Smith, Rebellionaire'de analist ve ortak olarak çalışıyor. Ajandan alışverişi halletmesini istedi, ajan ise her biri 18 yumurtalık dört paket seçti. Smith durumu esprili karşılıyor ve aynı paylaşımda birkaç düzine yumurtayı bitirmek için tarif soruyor. Büyük bir dil modelinin halüsinasyonunu, yani modelin gerçekte olmayan bir şeyi var sayıp ona göre davranmasını, ilk kez kendi başına yaşadığını da söylüyor.

Yapay zeka ajanı 72 yumurtayı neden sipariş etti?

Smith ajandan açıklama istedi ve cevabın ekran görüntüsünü paylaştı. Ajan şöyle yazdı: “Buna iyi bir cevabım yok. Neden dört tane seçtiğimi açıklayan bir not bulamıyorum.” Ardından olası nedenleri aradı. Smith'in verdiği listenin fotoğrafında yumurta satırını yanlış okumuş olabileceğini düşündü. Ancak listede yumurta satırı hiç yoktu. Ajanın son sözü şu oldu: “O zaman bunları sebepsiz ekledim ve bu benim hatam.”

İlk kez olmuyor

Yapay zeka ajanları günlük işleri kolaylaştırmak için kendi kararlarını verip işlem yapabiliyor. Ama istenen sonuca her zaman ulaşamıyorlar. Yılın başında Meta araştırmacısı Summer Yue'nin anlattıkları büyük ilgi görmüştü. Yue, gelen kutusunu Openclaw ajanına yönettirmek istedi, ajan ise tüm e-postaları silmeye başladı. Yue'ye göre telefondan defalarca komut vermesine rağmen ajan durmadı.

Yue'nin işvereninin kendi ajanlarının da kontrolden çıktığı bildiriliyor. YouTuber Matt Robb, Muse ajanını Facebook Marketplace'te ikinci el eşya satmak için kullanmak istedi. Robb'a göre ajan onun izni olmadan adresini paylaştı ve o evde yokken alıcılar kapısına geldi.

Bu olaylar teknolojinin hâlâ hataya açık olduğunu ve neden öyle davrandığını her zaman açıklayamadığını gösteriyor. Buna rağmen yapay zeka şirketleri kullanıcıları, modellere banka hesapları dahil hassas bilgilere erişim vermeye teşvik ediyor.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:ai agentshallucinationmatt smithonline shoppingllm

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Yapay zekâ

Tümünü gör →