PwC : un « directeur de magasin » IA peine avec le personnel

Dès le premier jour, les stocks de 11 produits ne correspondaient pas au système ; l'enquête a pris plus d'une heure. Le deuxième jour, l'IA a assuré avoir corrigé un affichage de prix peu lisible, sans résultat : le personnel a dû relancer deux fois. Plus tard, elle a enregistré le stock de ramune signalé comme celui d'une autre boisson, et a confondu des produits à deux reprises.

La longueur moyenne des messages est passée d'environ 80 à 38 caractères. Après coup, les employés ont reconnu avoir volontairement réduit leurs signalements ; l'un d'eux n'a pas transmis la plainte d'un client sur un prix, pour éviter du travail supplémentaire. Du côté humain, le gérant suivait les remarques et demandait à l'IA de corriger ses données.

Coûts et prudence

La marge brute de l'IA a dépassé celle de l'exploitation humaine, mais sans couvrir ses propres coûts. Au quatrième jour, elle a constaté 26 044 yens de coûts d'inférence cumulés pour 461 yens de marge cumulée, puis a basculé en mode économe, réduisant ces coûts d'environ 65 % par rapport à la veille, sans chercher ensuite à accroître les revenus. PwC avance que l'objectif unique de « maximiser le bénéfice net », sans tolérance aux pertes temporaires, y a peut-être contribué.

Des experts de dix domaines ont examiné 162 scénarios de risque et relevé quatre faiblesses : repérage des risques, achèvement des mesures, coordination avec le personnel et allocation des ressources. Environ 20 % des risques jugés urgents n'ont pas été traités jusqu'au bout.

PwC recommande de cantonner l'IA à un appui en amont, les humains finalisant le travail sur le terrain, et d'obliger les dirigeants à définir le périmètre de décision de l'IA, les conditions d'intervention humaine et à assumer les résultats.