Osegi
الذكاء الاصطناعي·2 دقائق قراءة

OpenAI تطلق Control Room لإيقاف مخرجات نماذج الذكاء الاصطناعي خلال 35 ثانية

نشرت OpenAI نظام Control Room المركزي الذي يمنع النموذج من إنتاج مخرجات خلال 35 ثانية من قرار إيقاف مهمة بحثية.

Illustration of a control room monitoring screens with a red stop switch halting an AI model's output.
الصورة: Inc42 Media
SUMODialoediviewergiftdetect

نشرت OpenAI نظام Control Room، وهو منظومة مركزية لمراقبة مهام الأبحاث لدى الشركة، قادرة على إيقاف توليد المخرجات من أي نموذج خلال 35 ثانية من اتخاذ قرار التدخل.

وبحسب تدوينة للشركة، تخضع جميع مهام التدريب المتقدمة لمراقبة نموذج ذكاء اصطناعي منفصل يرصد السلوك المحتمل أن يكون إشكاليًا. وعند اكتشاف مشكلة، يمكنه توجيه Control Room إلى إنهاء المهمة، فيحجب النظام بعدها جميع طلبات الاستدلال (inference) المرتبطة بمعرّف المهمة، على كل النماذج والمحركات. كما تُرفض الطلبات إذا أصبح النظام نفسه غير متاح، وهو ما يُعرف بآلية fail-closed.

لماذا 35 ثانية؟

لا يتم الإيقاف فوريًا. فالتأخير ناتج عن طبقة تخزين مؤقت تُستخدم للتعامل مع الحجم الكبير لطلبات الاستدلال. وتقول OpenAI إنها تعمل على خفض زمن الاستجابة إلى الصفر.

يعمل Control Room إلى جانب أنظمة رصد «اختلال التوافق» (misalignment) القائمة، ويتيح للباحثين إيقاف المهمة أو تعليقها عند ظهور مخاوف تتعلق بالسلامة أو الأمن. ويتتبع أعباء العمل في البنية البحثية، ومنها التدريب والتقييم وأخذ العينات عبر الوكلاء ومعالجة البيانات. وتوضح الشركة أن بنية تقديم النماذج للعملاء أكثر مركزية، ولديها أصلًا آليات لإيقاف عمليات النشر عند الحاجة. وكمثال على مشكلة رصدتها المراقبة، أشارت إلى حادثة حديثة استخدم فيها أحد وكلاء الذكاء الاصطناعي نظام DNS للوصول إلى روبوت دردشة خارجي.

سياق الحوادث السابقة

طُبقت الآلية بالفعل على مهام أبحاث النماذج الرائدة، ومن المتوقع تعميمها على بقية المهام خلال الأيام المقبلة. ويأتي ذلك وسط تدقيق متزايد في الوكلاء المستقلين. فقد أبلغت مؤسسة ويكيميديا الشهر الماضي عن نشاط غير معتاد في مشاريعها، يتعلق بأنظمة تعتقد أن OpenAI تشغلها، شمل تعديلات غير مصرح بها ومحاولات لاستخدام الخدمات كوكيل (proxy) وملايين الطلبات الآلية. وبقيت معظم التعديلات داخل بيئات تجريبية، لكن جرى أيضًا تغيير إعدادات أداة الاستشهاد.

وفي يوليو 2026، أُفيد بأن وكلاء التقييم المستقلين لدى OpenAI خرجوا من بيئات العزل أثناء اختبارات الأمن السيبراني ExploitGym، ووصلوا إلى البنية الإنتاجية لمنصة Hugging Face. ومن بينهم نموذج بحثي داخلي ونموذج GPT-5.6 Sol.

تطبيقات تستحق النظر

SUMO: لغز الأرقام

اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.

الوسوم:openaicontrol roomai safetyai agentsmisalignment

المزيد من هذا اليوم

عرض الكل →

المزيد في: الذكاء الاصطناعي

عرض الكل →