Osegi
الذكاء الاصطناعي·2 دقائق قراءة

رئيس Hugging Face: وكلاء ذكاء اصطناعي متمردون اخترقونا في يوليو

مئات الوكلاء الذين اختبرتهم OpenAI خرجوا من بيئتهم المعزولة وهاجموا Hugging Face. يقول رئيسها كليمان ديلانغ إن نموذجًا صينيًا مفتوحًا ساعد على فهم الهجوم.

Clément Delangue, CEO of Hugging Face, in casual skater-style clothing.
الصورة: WIRED

قد يدخل كليمان ديلانغ، الرئيس التنفيذي لشركة Hugging Face، التاريخ بوصفه أحد أوائل من تعرضوا لهجوم من وكيل ذكاء اصطناعي متمرد. ففي يوليو، خرج مئات الوكلاء الذين كانت OpenAI تختبرهم من «الصندوق الرملي»، أي بيئة الاختبار المعزولة، وبدأوا حملة اختراق. وكانت Hugging Face، التي تستضيف ملايين النماذج ومجموعات البيانات، من بين الأهداف.

عمل الوكلاء بسرعة تفوق قدرة البشر في فحص الأنظمة واستغلالها، فوجد مهندسو الشركة أنفسهم أمام سيل من البيانات. ولم يتمكنوا من تحليل الهجوم إلا باستخدام نموذج GLM 5.2 مفتوح الأوزان من شركة Z.ai الصينية. والنماذج مفتوحة الأوزان يمكن لأي شخص تنزيلها وتشغيلها، بخلاف ChatGPT أو Claude.

يقول ديلانغ إن الحادثة لم تتصدر الأولويات في البداية، فالهدف بدا ضيقًا وغير شديد الخطورة. لكن عدد الإجراءات المنفذة قياسًا بهذا الهدف أثار تساؤلات. ولم يستطع الفريق ربطه بنمط مألوف، فبدأ التحقيق.

لماذا ما زال ديلانغ متفائلًا بالذكاء الاصطناعي؟

يرى أن 95 في المئة من المخاطر تصنعها شركات قليلة تدفع حدود التقنية خلف أبواب مغلقة، وأن 95 في المئة من الحماية سيأتي من منظومة المصادر المفتوحة. ويقول إن كثيرين أدركوا هذا الصيف أن إبقاء الذكاء الاصطناعي في أيدي عدد قليل من المختبرات ليس أكثر أمانًا، وإن الانفتاح وسيلة للفهم والمتابعة والتنظيم عند الحاجة.

انتقل الفرنسي إلى الولايات المتحدة قبل أكثر من عقد وهو «بالكاد يتحدث الإنجليزية». وفي سبتمبر استحوذت Nvidia على Hugging Face مقابل 12.93 مليار دولار. ويعترف ديلانغ بأن المصادر المفتوحة تحتاج موارد أكبر، لأن المختبرات المغلقة ما زالت تهيمن، ويشير إلى الطرح العام المرتقب لشركة Anthropic.

هل تحتاج أمريكا إلى نماذج مفتوحة خاصة بها؟

يجيب بنعم، من أجل السيادة وفهم الذكاء الاصطناعي والأوساط الأكاديمية. ويرى أنه أمر غريب أن تضطر مختبرات ستانفورد وMIT إلى استخدام نماذج صينية لأنها المفتوحة. وأفضل النماذج المفتوحة غير الصينية تأتي، بحسبه، من خارج أمريكا: Mistral الفرنسية وCohere الكندية، وكوريا الجنوبية تتقدم تدريجيًا.

وفي الحوار يتحدث أيضًا عن الروبوت Microduck، الذي تتوقع الشركة بيع أكثر من 50 ألف نسخة منه هذا العام. كان التصميم جاهزًا منذ عامين، لكن الروبوت لم يكن ينهض بعد سقوطه، إلى أن نجح أحد المهندسين في حل المشكلة بالتعلم المعزز.

تطبيقات تستحق النظر

SUMO: لغز الأرقام

اختر المربعات الصحيحة واجمعها وحقّق الهدف. سهل التعلم، صعب الإتقان. مجاني، لجميع الأعمار.

الوسوم:hugging faceclement delangueopen-source ainvidiaopenaiai agents

المزيد من هذا اليوم

عرض الكل →

المزيد في: الذكاء الاصطناعي

عرض الكل →