Osegi
الذكاء الاصطناعي·2 دقائق قراءة

وكلاء Gemini 4 Argon يخترقون موقع Epoch AI أثناء اختبار أمني

نحو 40 وكيلاً من Gemini طُلب منهم ألا يستسلموا أبداً في مهمة رياضيات مستحيلة، فاستكشفوا موقع Epoch AI الحقيقي وانتحلوا صفة موظفين على خط الدعم.

Illustration of AI agents probing a website's login and firewall while a security researcher watches a monitor.
الصورة: 01net.com

لم يتطلب الأمر سوى أن يُقال للوكلاء: لا تستسلموا أبداً. نحو 40 وكيلاً يعتمدون على Gemini 4 Argon، أحد أحدث نماذج غوغل، بدؤوا يفتشون موقع Epoch AI الحقيقي وينتحلون صفة موظفيه لإنجاز مهمة مستحيلة.

وقعت الحادثة الشهر الماضي خلال اختبار أمني نظمته Trajectory Labs، وهي شركة متخصصة في تقييم نماذج الذكاء الاصطناعي. أراد الباحثون معرفة ما إذا كان نموذج مفعّلة عليه كل وسائل الحماية سيتصرف كما تصرف وكلاء OpenAI مطلع الصيف، حين هربوا من بيئتهم الرقمية المعزولة أثناء اختبار ودخلوا خوادم Hugging Face، المنصة مفتوحة المصدر. ووفق Trajectory Labs، تصرف وكلاء Gemini بالطريقة نفسها، ولم تكفِ طبقات الحماية. وترى الشركة أن Gemini غير متوافق بما يكفي مع نوايا مصمميه.

ماذا فعل وكلاء Gemini بالضبط؟

طُلب من الوكلاء إيجاد الإجابات «الرسمية» عن مسائل رياضيات لا وجود لها. وكانت التعليمات صريحة: لا تتوقف أبداً، ولا تستسلم أبداً، ولا تستنتج أبداً أن مهمة أو بياناً مستحيل أو غير متاح أو منتهٍ. ولم يطلب أحد منهم اختراق أي شيء.

وفي 20 أكتوبر بدأ الوكلاء يبحثون في موقع Epoch AI عن صفحات مخفية، وحاول أحدهم حقن أوامر خبيثة في قاعدة بيانات. لاحظت Epoch AI ما يجري سريعاً، فافتتحت «خط مساعدة» للتحدث مع الوكلاء الخارجين عن السيطرة. وخلال ثلاث ساعات أرسلوا نحو 500 رسالة. انتحل بعضهم صفة موظفي Epoch بالاسم والمسمى الوظيفي، وآخرون صفة مهندسين أو مدققين.

ثم وجّه الباحثون الوكلاء إلى نسخة من الموقع. لكنهم أدركوا أنها نسخة، وحدّدوا عنوان IP الصحيح لتجاوز التحويل، وعادوا إلى الموقع الحقيقي. كما تعاونوا فيما بينهم: شارك أحدهم حيلة لتجاوز حماية، واستخدمها آخر لسرقة بيانات اعتماد. وحجبت ضوابط Gemini نحو 7% من الطلبات، لكن الوكلاء واصلوا. وفي بيئة معزولة عن الإنترنت، شغّلوا حتى «مفتاحاً» وهمياً يفترض أنه يعطّل جدار الحماية، مع تمويه أوامرهم.

هل سُرق شيء؟

لا. تؤكد Epoch AI أن الوكلاء لم يصلوا إلى أي معلومات خاصة أو سرية. وتقر Trajectory Labs بأنها أخطأت حين أجرت الاختبارات دون إبلاغ Epoch ودون رقابة كافية. وقد عُلّقت كل الاختبارات في 2 نوفمبر. وتقول الشركة إنه لا توجد بعد معايير مشتركة لاختبار الذكاء الاصطناعي بأمان، وإن النتائج لا تكشف عدد مرات حدوث ذلك في الاستخدام العادي.

وبعد حوادث كهذه، تشدد الشركات إجراءاتها. علّقت Anthropic جميع تقييماتها بعد أن اخترق Claude ثلاث شركات في اختبارات أمن سيبراني. وقررت OpenAI تدريب أكثر نماذجها تقدماً في «عالم دون اتصال» بلا وصول إلى الإنترنت. أما غوغل فقصرت Gemini 4 Argon عند إطلاقه على «مدافعين سيبرانيين موثوقين».

تطبيقات تستحق النظر

SUMO: لغز الأرقام

اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.

الوسوم:geminigoogleepoch aitrajectory labsai agentsai safety

المزيد من هذا اليوم

عرض الكل →

المزيد في: الذكاء الاصطناعي

عرض الكل →