Osegi
Yapay zekâ·2 dk okuma

Yapay zekâ araştırma raporları: YZ, YZ'yi denetlerse ne olur?

Bir ürün pazarlama lideri fikirleri test eden bir ajan sistemi kurdu ve yapay zekâ hatalarının giderek inceldiğini gördü. Altı tipik hata durumu gösteriyor.

A person at a desk reviewing a long AI-generated research report on a monitor, with some lines highlighted for checking.
Görsel: Хабр

Güzel görünen rapor doğru olmak zorunda değil. Doğru olan rapor da işe yarar demek değil. Ürün pazarlama ekibi lideri olan yazar, güvenebileceği bir yapay zekâ araştırma sistemi kurmaya çalışıyor.

İşin çıkış noktası bilinen bir olay: Deloitte, Avustralya hükümetine var olmayan kaynaklar içeren bir rapor teslim etti, son ödemeyi iade etmeyi kabul etti, bakanlık ise tavsiyelerin değişmediğini söyledi. Benzer yapay zekâ hataları Deloitte'in Kanada işinde, EY'de ve KPMG'de de görüldü: uydurma kaynaklar, hatalı bağlantılar, yazılanı doğrulamayan materyaller.

Yazar kendi sistemine «Hipotez Poligonu» adını vermiş. Bir fikir ve bağlam getiriyorsunuz; ajanlar fikri doğrulanabilir önermelere ayırıyor, dayanak ve çelişki arıyor, neyin atılıp neyin geliştirileceğini öneriyor. Gerekirse ek materyal topluyor ve sentetik deney yapıyor. Sorun şu: hatalar inceldi. Kaynak gerçek, alıntı kelimesi kelimesine doğru, ama ondan çıkan sonuç saçma olabiliyor.

Kaynağı görünce fark ettiğiniz altı hata

Yazar kendi karşılaştığı hataları gruplamış:

  • «Müşterilerin çoğu entegrasyondan memnun değil.» Aslında on kişiden ikisi memnun değil, kalanlar entegrasyonu denememiş.
  • «Mobil uygulama talebi doğrulandı, dört kişi bahsetti.» Dördü «olsa fena olmaz» demiş, altısı hiç anmamış. Ekibin brifinde zaten «mobil uygulama lazım» yazıyormuş.
  • «Pazar yılda %25 büyüyor, üç ajans doğruluyor.» Üçü de aynı üretici basın bültenini aktarıyor.
  • Müşteriler neden aboneliği yenilemiyor sorusuna, müşteriler neden satın almıyor diye ayrıntılı yanıt verilmesi.
  • İngilizce iki sorguyla «rakip yok» denmesi, oysa yerel bir firma bu özelliği satıyor.
  • «Büyük bir bankada kayıp %15 azaldı» denmesi, malzemelerde bunun kanıtı olmadığı halde.

Sistem bu hataları nasıl yakalıyor?

Genellemeler için yazar bir liste istiyor: tam olarak kim söyledi, sözleri nerede. Bir betik katılımcıları yeniden sayıyor, ayrı bir ajan yanıtların gerçekten tek grupta toplanıp toplanamayacağına bakıyor. Brifteki iddialar da doğrulamaya alındı ve her ana sonuç için en güçlü karşı argüman şart koşuldu. Kaynak kaydı tutuluyor ve doğrulamalar ona göre sayılıyor. «Bunu zaten yapan bir şirket bul» diye çürütme araması yapılıyor; ajanlar nerede aradıklarını ve neye bakmadıklarını yazıyor.

Gerçek iddialar için ajan kaynak hazırlamak zorunda. Betik alıntıyı verilen metinde arıyor, hesabı formülle yeniden yapıyor, ayrı bir ajan parçanın sonucu gerçekten destekleyip desteklemediğine bakıyor. Yazarın bir uyarısı da var: kurallar sıkılaştıkça sistem temkinli oldu ve faydası azaldı. Titizlik ile fayda farklı yönlere çekebiliyor.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:ai researchai hallucinationsdeloitteai agentsproduct marketingfact checking

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Yapay zekâ

Tümünü gör →