Osegi
الذكاء الاصطناعي·2 دقائق قراءة

أبحاث Nvidia: تلخيص السياق يحافظ على أداء وكلاء الذكاء الاصطناعي

باحثو Nvidia يفيدون بأن تلخيص المحادثة دوريًا يحافظ على معظم أداء وكلاء الذكاء الاصطناعي، وقد يخفض كلفة السياقات الطويلة.

Illustration of a long AI conversation being condensed into a short summary block, with a Nvidia-style green accent.
الصورة: zdnet.co.kr

تتحدى دراسة جديدة من Nvidia الاعتقاد السائد بأن زيادة حجم السياق تعني أداءً أفضل دائمًا. فقد نشر 12 باحثًا في 3 نوفمبر ورقة على منصة arXiv تفيد بأن تلخيص المحادثة في منتصف مهمة طويلة حافظ على معظم أداء وكلاء الذكاء الاصطناعي. والسياق هو حجم المحادثة والمواد التي يطّلع عليها النموذج دفعة واحدة عند توليد الإجابة.

كلفة السياق الطويل

لاحظ الباحثون أن الرموز (التوكنات) التي تُولَّد لاحقًا أغلى من التي تُولَّد أولًا كلما طال السياق. ووفق ملخص الورقة، قد يصل هذا الفارق إلى 7 أضعاف في النماذج الحديثة مفتوحة الأوزان. وعند التشغيل بسياق 256K تكون كلفة التوكن الواحد أعلى منها عند 16K بمقدار 3.6 مرة في GLM 5.2 من Z.ai، و5.6 مرة في Kimi K2.6 من Moonshot AI، و7 مرات في Qwen3 Coder Next من Alibaba.

ماذا أظهرت الاختبارات

اختبر الفريق أسلوبًا يلخّص المحادثة عند بلوغ طول محدد ثم يواصل العمل. واستُخدم في ستة اختبارات للمهام الطويلة، منها SWE-bench Verified وTerminal-Bench 2.1 وFRAMES وBFCLv3، نموذجا Claude Opus 4.5 وGPT 5.6 Sol في الغالب. ومن بين 22 إعدادًا غُيّر فيها حد السياق وطول بدء التلخيص، لم ينخفض الأداء بأكثر من نقطتين عن المرجع في خمسة إعدادات على الأكثر. وعند تنفيذ إجراء واحد في كل محادثة وتمرير حالة المهمة المضغوطة فقط، ارتفعت درجة Claude Opus 4.5 في حل مسائل البرمجة من 70.0 إلى 70.2، بينما تراجعت درجة GPT 5.6 Sol من 84.4 إلى 82.4.

وفي اختبار LOONG الذي يضم 1600 سؤال عن عدة وثائق طويلة، حصل Claude Opus 4.5 عند تزويده بالمواد كاملة على متوسط 70.1 درجة ونسبة إجابات صحيحة تمامًا 38.9%. وحين اختار الأجزاء اللازمة ولخّصها وأبقى السياق دون 16 ألف توكن، ارتفعت النتيجة إلى 79.3 درجة و53.4%.

غير أن الأسلوب لا ينجح مع كل نموذج؛ إذ انخفض نجاح Qwen3 Coder Next في مهام البرمجة، بحسب الملحق، من 53.0% إلى 3.6% عند تطبيق التلخيص بإعداد 16K، ووصفت الورقة ذلك بأنه «انهيار كارثي».

واقترح الباحثون كذلك «نموذج فضاء الحالة الدلالي» (Semantic State Space Model)، وهو نموذج مدرَّب على قراءة وصف لحالة المهمة بلغة طبيعية ثم التصرف وإعادة كتابة الوصف. لكنه مجرد مفهوم لم يُدرَّب ولم يُقيَّم بعد. وتقول الورقة إن نتائجها تثير تساؤلًا حول الحاجة إلى نماذج لغوية بسياق طويل. وبالنسبة للشركات التي تستخدم وكلاء الذكاء الاصطناعي، قد يتحدد توازن الكلفة والجودة بما يُحتفظ به في السياق لا بطوله.

تطبيقات تستحق النظر

SUMO: لغز الأرقام

اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.

الوسوم:nvidialong contextai agentsarxivsummarizationinference cost

المزيد من هذا اليوم

عرض الكل →

المزيد في: الذكاء الاصطناعي

عرض الكل →