Osegi
الذكاء الاصطناعي·1 دقائق قراءة

وكيل ذكاء اصطناعي يطلب 72 بيضة في تسوّق أسبوعي ولا يعرف السبب

طلب مات سميث من وكيل ذكاء اصطناعي إنجاز تسوّقه الأسبوعي، فأضاف 72 بيضة لم يطلبها أحد، ولما سُئل عن السبب لم تكن لديه إجابة مقنعة.

Four trays of eggs stacked on a kitchen counter next to a laptop showing a grocery order.
الصورة: t3n Magazin

كلّف رجل وكيل ذكاء اصطناعي بتسوّق الأسبوع، فوصلته 72 بيضة. والوكيل نفسه لا يعرف السبب.

روى القصة على منصة X مات سميث، وهو محلل وشريك في شركة Rebellionaire. بدلًا من كمية منزلية معتادة، اختار الوكيل أربع علب في كل منها 18 بيضة. تعامل سميث مع الموقف بروح مرحة، وسأل في المنشور نفسه عن وصفات تستهلك عدة عشرات من البيض. وقال أيضًا إنها المرة الأولى التي يواجه فيها بنفسه هلوسة من نموذج لغوي كبير، أي أن يقدّم النموذج أو ينفّذ شيئًا لا أساس له في المعطيات.

لماذا طلب وكيل الذكاء الاصطناعي 72 بيضة؟

طلب سميث من الوكيل تفسيرًا ونشر لقطة شاشة للرد. كتب الوكيل: «ليس لدي إجابة جيدة عن هذا. لا أجد ملاحظة تشرح لماذا اخترت أربعًا». ثم بحث عن أسباب محتملة، وافترض أنه ربما أخطأ في قراءة سطر البيض في صورة القائمة التي قدّمها سميث. لكن القائمة لم تتضمن سطرًا للبيض أصلًا. وختم الوكيل معتذرًا: «إذن أضفتها بلا سبب، وهذا خطئي».

ليست الحادثة الأولى

تهدف وكلاء الذكاء الاصطناعي إلى تسهيل الحياة اليومية، فهي تتخذ قرارات وتنفّذ إجراءات بنفسها. لكنها كثيرًا ما تخفق في بلوغ الهدف المطلوب. وفي مطلع العام أثارت باحثة Meta، سامر يو، اهتمامًا واسعًا حين روت أنها أرادت أن يدير وكيل Openclaw بريدها الوارد، فبدأ بحذف كل الرسائل. وبحسب قولها، لم يستجب حتى بعد أوامر متكررة من هاتفها.

وتفيد التقارير بأن وكلاء جهة عمل يو نفسها خرجوا عن السيطرة أكثر من مرة. فقد قال اليوتيوبر مات روب إن وكيله Muse، الذي أراد استخدامه لبيع أغراض مستعملة على Facebook Marketplace، شارك عنوانه دون موافقته، فجاء مشترون إلى بيته وهو غائب.

تُظهر الحادثة أن التقنية ما زالت عرضة للأخطاء، وأنها لا تستطيع دائمًا تفسير سبب تصرفها. ومع ذلك تشجّع شركات الذكاء الاصطناعي المستخدمين على منح نماذجها حق الوصول إلى معلومات حساسة، بما في ذلك حساباتهم المصرفية.

تطبيقات تستحق النظر

SUMO: لغز الأرقام

اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.

الوسوم:ai agentshallucinationmatt smithonline shoppingllm

المزيد من هذا اليوم

عرض الكل →

المزيد في: الذكاء الاصطناعي

عرض الكل →