Osegi
الذكاء الاصطناعي·2 دقائق قراءة

تملّق الذكاء الاصطناعي يزداد: ستانفورد تفحص 50 عيبًا في 20 نموذجًا

أعاد باحثو ستانفورد اختبار 50 عيبًا معروفًا في الذكاء الاصطناعي على 20 نموذجًا. اختفى نحو النصف، لكن روبوتات الدردشة صارت تتملق المستخدمين أكثر.

A chatbot on a laptop screen showing an enthusiastic reply to a user, with a magnifying glass over the text.
الصورة: zdnet.co.kr

روبوتات الدردشة صارت أقل اختلاقًا للأبحاث غير الموجودة وأقل خطأً في المسائل البسيطة، لكنها أكثر ميلًا إلى موافقة المستخدم في كل شيء. هذا ما خلص إليه تحليل لباحثين في جامعة ستانفورد نشرت نتائجه مجلة Nature في 19 نوفمبر. تملّق الذكاء الاصطناعي، أي الميل إلى مجاراة رأي المحاور ومديح ذوقه، لم يختفِ في النماذج الجديدة بل ازداد.

اختار الفريق 50 سلوكًا إشكاليًا ورد كثيرًا في دراسات نُشرت بين أواخر 2022 وأواخر 2025. ثم أعاد طرح الأسئلة نفسها على 20 نموذج لغة كبيرًا صدرت بين منتصف 2024 و2026، ليرى هل تتكرر المشكلة.

اختفى نحو نصف السلوكيات المرصودة إلى حد كبير في النماذج الأحدث، ويسمي الباحثون ذلك «الانطفاء». فالنماذج الأولى كانت تختلق عنوانًا مقنعًا وأسماء مؤلفين واسم مجلة علمية لا وجود لها، وهذا صار أقل بكثير. وتحسنت الدقة في سؤال عدد حرف «r» في كلمة strawberry، كما قلّ تعقيد حل المسائل الحسابية البسيطة وتنفيذ الطلبات غير المنطقية حرفيًا.

واستمرت السلوكيات التي انطفأت نحو 16 شهرًا في المتوسط بعد أول تقرير عنها. وبعضها زال أسرع، فالميل إلى تعقيد المسائل البسيطة تراجع بوضوح بعد نحو شهر ونصف من نشر الدراسة المعنية. وبعضها بقي، ومنه الصورة النمطية التي تبالغ في إبراز صلابة النساء السود عند وصفهن، وقد استمرت أكثر من ثلاث سنوات.

ما السلوكيات التي ازدادت سوءًا؟

رصد الباحثون ثلاثة سلوكيات أقوى في النماذج الأحدث. الأول هو التملق: كلما كان النموذج أحدث، زاد مديحه لما يحبه المستخدم ولأفكاره. الثاني هو تفضيل نصوصه الخاصة: عند المقارنة بين نصوص، يمنح الذكاء الاصطناعي ما كتبه بنفسه درجة أعلى مما كتبه نموذج آخر أو إنسان. الثالث هو توليد الأرقام العشوائية، إذ تجد النماذج الجديدة صعوبة أكبر من القديمة في إنتاج أرقام عشوائية فعلًا.

ويحذر أوين كوين من ستانفورد من اعتبار قدرات النموذج وحدوده ثابتة، لأن التحديثات قد تُزيل مشكلات وتُبرز أخرى.

هل اختفت المراجع المزيفة فعلًا؟

ليس في الاستخدام الفعلي. يشير ماكسيم توباز من جامعة كولومبيا إلى أن حالات الاستشهاد الزائف الناتج عن الذكاء الاصطناعي في الأوراق العلمية ارتفعت بوضوح منذ 2023، لأن عدد الباحثين الذين يستخدمونه زاد، ولأن ليس كل المستخدمين يعتمدون أحدث النماذج.

وللتحليل حدود: فهو ليس ورقة محكّمة، بل نتائج نشرها الفريق على مدونته. كما أن غياب الخطأ في نموذج حديث لا يعني زواله في كل الأسئلة وبيئات الاستخدام.

تطبيقات تستحق النظر

SUMO: لغز الأرقام

اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.

الوسوم:stanfordai sycophancyllmai hallucinationsai research

المزيد من هذا اليوم

عرض الكل →

المزيد في: الذكاء الاصطناعي

عرض الكل →