أنثروبيك تضيف ميزة التقييم الذاتي إلى كلود لرصد المحادثات الضارة

أطلقت شركة أنثروبيك ميزة أمان جديدة لنموذج الذكاء الاصطناعي كلود تحمل اسم «التقييم الذاتي»، تتيح له تقييم محادثاته تلقائيًا في الخلفية، لرصد أي إساءة محتملة للاستخدام وإحالتها إلى المراجعة البشرية، دون إظهار تنبيهات للمستخدم. وبحسب الشركة، تعمل الميزة عبر نماذج مختلفة، من بينها Claude Fable 5، منذ يونيو 2026.

كيف تعمل الميزة؟

بعد أن ينتهي كلود من صياغة إجابته، يضيف النظام تعليمات مخفية تطلب منه مراجعة المحادثة. ثم يصدر تقييمًا داخليًا موجزًا يحدد ما إذا كان الطلب ضارًا، وطبيعة الضرر المحتمل، ودرجة أولوية الحالة أمام فريق بشري. وإذا كانت المحادثة آمنة، يسجل النظام أنها لم تستدعِ تنبيهًا وينتقل إلى التالية.

ولأن كلود اطلع على المحادثة بالفعل، يستفيد من المعلومات المخزنة عنها، فتحتاج عملية التقييم إلى نحو 10 وحدات نصية إضافية فقط، وترفع إجمالي تكلفة الحوسبة بأقل من 2%. وكانت أنظمة السلامة السابقة للشركة تضيف نحو 24%، بينما أفادت شركات منافسة مثل أوبن إيه آي بأن بعض ميزات السلامة لديها تستهلك ما يصل إلى 16% من القدرة الحوسبية.

دقة مرتفعة وحالات فعلية

في نموذج Claude Fable 5، رصد التقييم الذاتي 78% من إجمالي المحادثات الضارة و94% من الحالات عالية الأولوية، بمعدل إنذارات خاطئة بلغ 1% فقط. وقالت أنثروبيك إن النظام رصد في أغسطس وحده أكثر من 100 ألف حالة مرتبطة بمواد استغلال الأطفال لدى عميل واحد، وأبلغت السلطات بها على الفور.

ويعتمد النظام على المعرفة العامة لكلود، ما يساعده على التعرف على أنماط جديدة من السلوك الضار لم تُدرج في قوائم الرصد. فعندما أخفى الباحثون أمثلة الاحتيال والهجمات الإلكترونية تمامًا من بيانات التدريب، اكتشف النموذج 90% من هذه التهديدات.

ليس كافيًا وحده

توضح أنثروبيك أن التقييم الذاتي مصمم لرصد المشكلات وإحالتها إلى مراجعة لاحقة، لا لمنعها فورًا، وأنه لا يكفي بمفرده لصد المهاجمين المتخصصين. ففي اختبارات داخلية للأمن السيبراني، تجاوز قراصنة الحماية في 54% من المحاولات عندما كان التقييم الذاتي الإجراء الوحيد، مقابل 79% دون أي حماية، بينما تخفض أنظمة الحظر الفوري المستقلة النسبة إلى 25%. لذلك تستخدمه الشركة طبقةً إضافية لمراقبة المحادثات، مع إبقاء أنظمة حماية مستقلة وأقوى للتصدي للتهديدات في الوقت الفعلي.