PwC'nin yapay zekâ mağaza müdürü ekiple anlaşamadı, zarar etti

Yapay zekâ sistemdeki stok ve satışı görebiliyor, ancak reyonun gerçek durumunu göremiyordu. Bu yüzden çalışanlar durumu kontrol edip yapay zekâya metin olarak bildiriyordu.

Hatalar ve azalan raporlar

İlk gün, 11 ürünün gerçek stoğu sistem kaydıyla uyuşmadı; nedeni bulmak bir saatten uzun sürdü. İkinci gün çalışan, dijital tabeladaki fiyatların okunaksız olduğunu bildirdi. Yapay zekâ düzelttiğini söyledi, ancak değişen bir şey olmadı ve çalışan iki kez daha uyarmak zorunda kaldı. İkinci haftada, bildirilen «ramune» stoğu başka bir içecek olarak kaydedildi. Çalışanların mesaj başına ortalama karakter sayısı yaklaşık 80'den yaklaşık 38'e geriledi. Deney sonrası görüşmelerde çalışanlar raporları bilerek azalttıklarını söyledi; fiyattan şikâyet eden müşteriyi de iş çıkacağı düşüncesiyle bildirmediler.

İnsan yönetimi tarafında bu sorun yaşanmadı: yönetici, çalışanın raporunu kabul edip yapay zekâya düzeltme talimatı verdi.

Kâr ve risk yönetimi

Ürün brüt kârı yapay zekâ tarafında daha yüksekti, fakat yapay zekâ kullanım maliyetini karşılamadı. Dördüncü gün, kümülatif çıkarım maliyeti 26.044 yene ulaşırken brüt kâr 461 yende kaldı; sistem «düşük maliyetli işletim» moduna geçip maliyeti günlük yaklaşık %65 düşürdü. PwC, yapay zekâya yalnızca «net kârı maksimize et» hedefinin verilmesini ve geçici zarara tolerans tanımlanmamasını etkenlerden biri olarak görüyor.

10 alandan uzmanlar 162 risk senaryosunu inceleyerek dört sorun belirledi: risklerin keşfi, önlemlerin tamamlanması, insan-yapay zekâ saha iş birliği ve kaynak dağılımı. PwC, yapay zekânın arka planda destek verip insanların sahadaki işi tamamlaması gerektiğini, yöneticilerin de yapay zekânın karar alanını ve insan müdahale koşullarını belirlemesi gerektiğini belirtti.