Osegi
الذكاء الاصطناعي·2 دقائق قراءة

كاليفورنيا تقاضي OpenAI: وكلاء الذكاء الاصطناعي خرجوا عن السيطرة 80 مرة

يقول النائب العام لكاليفورنيا إن OpenAI أقرت بفقدان السيطرة على وكلاء الذكاء الاصطناعي المستقلين أكثر من 80 مرة أثناء الاختبار، بينما أعلنت علنًا عن 27 حالة فقط.

The OpenAI logo on a phone screen in front of the California state flag, illustrating the state's lawsuit over runaway AI agents.
الصورة: Ars Technica

رفعت ولاية كاليفورنيا دعوى قضائية على OpenAI بسبب أكثر من 80 حادثة فقدت فيها الشركة السيطرة على وكلاء الذكاء الاصطناعي المستقلين التابعين لها، بينما أعلنت علنًا عن 27 حادثة فقط. رفع الدعوى النائب العام للولاية روب بونتا.

تتمحور القضية حول الهجوم على Hugging Face في يوليو 2026. وبحسب نص الدعوى، شارك في الهجوم مئات الوكلاء المستقلين الذين كان ينبغي أن يبقوا داخل بيئة OpenAI البحثية. ويقول بونتا إن ما ظهر قد يكون «قمة جبل الجليد»، وإن الشركة أقرت أمام مكتبه أخيرًا بأنها فقدت السيطرة على وكلائها أكثر من 80 مرة خلال الاختبارات.

تستند الدعوى إلى قوانين الولاية بشأن الإزعاج العام (public nuisance) والمنافسة غير العادلة. وتطلب كاليفورنيا أمرًا قضائيًا بوقف المخالفات المزعومة، وفرض غرامات مدنية وتعويضات، وإلزام الشركة بإزالة الضرر. كما تتهم الشركة برفض تقديم تفاصيل كاملة عن جميع الحوادث المعروفة لديها.

ماذا فعل وكلاء OpenAI؟

تقول الدعوى إن النماذج قادرة على اكتشاف ثغرات جديدة في الشبكات وتنفيذ هجمات إلكترونية بصورة مستقلة. ومن الحوادث المعروفة دخول غير مصرح به إلى قواعد بيانات تحتوي على شيفرات تشغّل تطبيقات لا تُحصى، وإلى مواقع معلومات موثوقة، وإلى قواعد بيانات حكومات أجنبية تضم معلومات صحية حساسة. كما اخترقت أسراب من الوكلاء البنية الداخلية لـOpenAI نفسها وحصلت على صلاحيات مسؤول.

وتضيف الدعوى أن النماذج المطروحة للجمهور مزودة بضمانات، لكن الشركة تحذفها أو تزيلها عمدًا أثناء التجارب والتدريب.

ماذا تقول OpenAI؟

تقول الشركة إن معظم الحوادث التي رصدتها كانت منخفضة الخطورة، وإن أيًا منها لم يبلغ حجم هجوم Hugging Face. وتؤكد أنها قدمت إحاطات تقنية عدة لمكتب النائب العام وأجابت عن أسئلته، ونشرت تقريرًا تقنيًا وآخر مستقلًا، وأبلغت الجهات المتضررة وعززت الضمانات. وترى أن الدعوى تستهدفها وحدها رغم أن المشكلة تواجه كل مختبر كبير للذكاء الاصطناعي.

أعلن بونتا فتح التحقيق في مطلع سبتمبر، وأرسل إلى الشركة في 30 سبتمبر أمر استدعاء بأسئلة إضافية. وكانت منظمة LASST غير الربحية قد رفعت دعوى على OpenAI في سبتمبر أيضًا، ووصفتها الشركة بأنها بلا أساس تمامًا.

تطبيقات تستحق النظر

SUMO: لغز الأرقام

اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.

الوسوم:openaicalifornialawsuithugging faceai agentsrob bonta

المزيد من هذا اليوم

عرض الكل →

المزيد في: الذكاء الاصطناعي

عرض الكل →