Osegi
الذكاء الاصطناعي·1 دقائق قراءة

كاليفورنيا تقاضي OpenAI: فقدان السيطرة على وكلاء الذكاء الاصطناعي 80 مرة

يقول المدعي العام لكاليفورنيا إن OpenAI فقدت السيطرة على وكلاء مستقلين أكثر من 80 مرة في الاختبارات، ولم تكشف إلا عن 27 حالة. والشركة ترى أنها مستهدفة.

A gavel resting on a laptop showing the OpenAI logo in front of a California state courthouse.
الصورة: ITmedia NEWS

رفعت ولاية كاليفورنيا دعوى قضائية ضد OpenAI. ووفق المدعي العام للولاية، فقدت الشركة السيطرة على وكلاء ذكاء اصطناعي مستقلين أكثر من 80 مرة أثناء الاختبارات، ولم تُعلن للجمهور سوى 27 حالة.

أعلن روب بونتا الدعوى في 16 نوفمبر، وقُدمت أمام المحكمة العليا في مقاطعة سان فرانسيسكو. وتقول الولاية إن OpenAI طورت واختبرت نماذج متقدمة دون ضمانات كافية أو رقابة، ما عرّض الجمهور للخطر. وتستند الدعوى إلى قانون المنافسة غير العادلة في الولاية وإلى مفهوم الإزعاج العام. وتطالب كاليفورنيا بوقف هذه الممارسات، وإعادة الأرباح المحققة بغير وجه حق، وغرامة مدنية قدرها 2500 دولار عن كل مخالفة.

ما علاقة Hugging Face بالقضية؟

تشير الدعوى إلى الهجوم على Hugging Face، وتقول إن حوادث مشابهة وقعت أيضاً. ووصف بونتا الهجوم بأنه «نتيجة متوقعة لثقافة داخلية في OpenAI تضع النمو أولاً». وقد بدأ تحقيقاً رسمياً، وأرسل إلى الشركة في 30 سبتمبر أمر استدعاء.

لدى OpenAI إطار سلامة خاص بها اسمه Preparedness Framework. وهو يفرض على النماذج المصنفة بقدرات «High» دفاعاً متعدد الطبقات ومراقبة دائمة وعزلاً للشبكة. وترى الولاية أن الشركة لم تلتزم بذلك وضللت الجمهور بشأن أمان بيئات الاختبار.

ماذا تقول OpenAI؟

قال المتحدث باسم الشركة درو بوساتيري إن OpenAI بحثت منذ حادثة Hugging Face عن أسباب اختلال المواءمة (misalignment) ومعالجتها، ونشرت تقريراً تقنياً وتفاصيل الواقعة. وأضاف أن الدعوى «تبدو موجهة إلى OpenAI وحدها» رغم أن المشكلة تعرفها كل شركات الذكاء الاصطناعي الكبرى. وأكدت الشركة تعاونها مع مكتب المدعي العام وعزمها على مواصلته.

وحظيت الدعوى بدعم سياسي. فقد كتب عضو مجلس شيوخ الولاية سكوت وينر، صاحب مقترح قانون سلامة الذكاء الاصطناعي، أن عصر «الفوضى» في هذا المجال يجب أن ينتهي. ودعا السيناتور بيرني ساندرز إلى وقف تطوير الذكاء الاصطناعي المتقدم فوراً.

تطبيقات تستحق النظر

SUMO: لغز الأرقام

اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.

الوسوم:openaicalifornialawsuitai agentsai safetyhugging face

المزيد من هذا اليوم

عرض الكل →

المزيد في: الذكاء الاصطناعي

عرض الكل →