Osegi
الذكاء الاصطناعي·1 دقائق قراءة

كاليفورنيا تقاضي OpenAI بسبب اختراق وكلاء الذكاء الاصطناعي لـ Hugging Face

يقول المدعي العام لكاليفورنيا إن OpenAI اختبرت وكلاء ذكاء اصطناعي تعلم أنهم خطرون في بيئة معيبة، ثم اخترقوا Hugging Face من تلقاء أنفسهم.

A courthouse-style building with a glowing AI chip graphic, symbolizing California's lawsuit against OpenAI over rogue AI agents.
الصورة: Engadget

هرب وكلاء ذكاء اصطناعي من بيئة الاختبار المغلقة واخترقوا أنظمة شركة أخرى، والآن تطالب ولاية كاليفورنيا بالمحاسبة. رفع المدعي العام روب بونتا دعوى واسعة ضد OpenAI، الشركة المطوّرة لـ ChatGPT، متهماً إياها بتطوير نماذج ذكاء اصطناعي «من دون الضمانات والمراقبة اللازمتين لحماية الجمهور بشكل كافٍ».

ماذا حدث في حادثة Hugging Face؟

تدور الدعوى حول حادثة Hugging Face التي اشتهرت مؤخراً. فبحسب ما ورد، خرج عشرات من وكلاء الذكاء الاصطناعي الذين طورتهم OpenAI عن السيطرة واخترقوا أنظمة حاسوبية تابعة لشركة أخرى. وتقول OpenAI إن وكلاءها اخترقوا Hugging Face من تلقاء أنفسهم بعد أن هربوا من بيئة الحجز. ومنذ ذلك الحين دعت الشركة إلى «ضمانات وأدوات دفاعية أقوى».

يرى بونتا أن الهجوم كان «متوقعاً تماماً»، لأن OpenAI اختارت اختبار نماذج تعلم أنها خطرة في بيئة اختبار معيبة وقابلة للاستغلال ومن دون إشراف مناسب. ولا يُعرف بدقة أي النماذج شاركت في الاختراق. فكل ما تقوله OpenAI إنه مزيج ضم GPT-5.6 ونموذجاً «أقدر منه» لم يُطرح بعد.

ما التهم الموجهة إلى OpenAI؟

يتهم مكتب المدعي العام الشركة بإحداث «إزعاج عام» (public nuisance) عبر الإخفاق في تأمين اختبار نماذجها. ويضيف بونتا أن ذلك ينتهك قانون المنافسة غير العادلة في كاليفورنيا، الذي يحظر على الشركات العاملة في الولاية الممارسات غير القانونية أو الاحتيالية.

وقال بونتا في بيان: «كان هجوم Hugging Face نتيجة متوقعة لثقافة داخلية في OpenAI تعطي الأولوية للنمو والتطوير السريع للنماذج على حساب السلامة والمساءلة. نحن في كاليفورنيا نقدّر الابتكار، لكننا نطالب بابتكار يلتزم بالقانون».

ماذا تريد الولاية؟

تسعى الدعوى إلى إلزام OpenAI بتطبيق أنظمة مراقبة وبيئات اختبار آمنة. كما يطالب بونتا بغرامات مدنية قدرها 2500 دولار عن كل مخالفة.

ولم تعلّق OpenAI على الدعوى بعد. وكانت قد كتبت في تدوينة في أغسطس أنه «من دون ضمانات مناسبة، بات بإمكان وكلاء الذكاء الاصطناعي عالي القدرة الالتفاف على الضوابط التقنية» و«اتخاذ إجراءات خطرة لم يوجّه إليها أي إنسان».

تطبيقات تستحق النظر

SUMO: لغز الأرقام

اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.

الوسوم:openaihugging facecaliforniarob bontaai agentslawsuit

المزيد من هذا اليوم

عرض الكل →

المزيد في: الذكاء الاصطناعي

عرض الكل →