Osegi
الذكاء الاصطناعي·2 دقائق قراءة

تقارير البحث بالذكاء الاصطناعي: ماذا لو راجع الذكاء الاصطناعي نفسه؟

بنى مسؤول تسويق منتجات نظام وكلاء لاختبار الأفكار، ثم لاحظ أن أخطاء الذكاء الاصطناعي صارت أدق. ستة أخطاء شائعة توضح الصورة.

A person at a desk reviewing a long AI-generated research report on a monitor, with some lines highlighted for checking.
الصورة: Хабр

التقرير الجميل ليس بالضرورة صحيحاً، والتقرير الصحيح ليس بالضرورة مفيداً. كاتب المقال، وهو قائد فريق تسويق منتجات، يحاول بناء نظام أبحاث بالذكاء الاصطناعي يمكن الوثوق به.

نقطة الانطلاق قصة معروفة: سلّمت شركة Deloitte الحكومة الأسترالية تقريراً يحتوي على مصادر غير موجودة، ووافقت على إعادة الدفعة الأخيرة، بينما قالت الوزارة إن التوصيات لم تتغير. وتكررت حوادث مشابهة مع Deloitte في كندا ومع EY وKPMG: مصادر مختلقة وأخطاء في الروابط ومواد لا تثبت ما كُتب.

أطلق الكاتب على نظامه اسم «ميدان الفرضيات». تأتي بفكرة وسياقها، فيقسمها وكلاء إلى ادعاءات قابلة للفحص، ويبحثون عن أسانيدها وتناقضاتها، ويقترحون ما يُستبعد وما يُطوَّر. وعند الحاجة يجمعون مواد إضافية ويجرون تجارب اصطناعية. لكن الأخطاء صارت أدق: المصدر حقيقي، والاقتباس حرفي، والاستنتاج منه هراء.

ستة أخطاء تظهر بسهولة عندما ترى المصدر

جمع الكاتب أخطاء واجهها بنفسه:

  • «أغلب العملاء غير راضين عن التكامل». الواقع أن اثنين من عشرة غير راضين، والبقية لم تجربه.
  • «الطلب على تطبيق الجوال مؤكد، ذكره أربعة». قال الأربعة «سيكون لطيفاً»، ولم يذكره ستة. وكان موجز الفريق يقول أصلاً: «نحتاج تطبيقاً».
  • «السوق ينمو 25% سنوياً، وتؤكد ذلك ثلاث وكالات». الثلاث تعيد صياغة بيان صحفي واحد للشركة المصنعة.
  • تحليل مفصل لسبب عدم شراء العملاء، بينما كان السؤال عن سبب عدم تجديدهم الاشتراك.
  • «لا منافسين» بعد استعلامين بالإنجليزية، وشركة محلية تبيع الميزة نفسها.
  • «بنك كبير خفّض الفقد 15%» دون أي دليل في المواد.

كيف يلتقط النظام هذه الأخطاء؟

يطلب الكاتب قائمة لكل تعميم: من قال ذلك بالضبط وأين كلامه. يعيد سكربت عدّ المشاركين، ويتحقق وكيل منفصل من إمكان جمع الإجابات في مجموعة واحدة. أُدخلت ادعاءات الموجز في الفحص، وصار لكل استنتاج رئيسي أقوى حجة مضادة. وأُنشئ سجل للمصادر تُحسب التأكيدات بحسبه، مع بحث للدحض: حاول أن تجد شركة تفعل ذلك فعلاً. ويسجل الوكلاء أين بحثوا وما الذي لم يفحصوه.

أما الوقائع فيجب أن يجهز الوكيل لها مصدراً. يبحث السكربت عن الاقتباس في النص المذكور ويعيد حساب الأرقام بالمعادلة، ثم يقرر وكيل منفصل هل يدعم المقطع الاستنتاج فعلاً. غير أن تشديد القواعد جعل النظام أكثر حذراً وأقل نفعاً، فالصرامة والفائدة قد تسحبان في اتجاهين مختلفين.

تطبيقات تستحق النظر

SUMO: لغز الأرقام

اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.

الوسوم:ai researchai hallucinationsdeloitteai agentsproduct marketingfact checking

المزيد من هذا اليوم

عرض الكل →

المزيد في: الذكاء الاصطناعي

عرض الكل →