أنثروبيك تقترح على كاليفورنيا وقف نماذج الذكاء الاصطناعي الخطرة قضائيًا

اقترحت شركة أنثروبيك منح السلطات في ولاية كاليفورنيا صلاحية اللجوء إلى القضاء لوقف إطلاق نماذج الذكاء الاصطناعي التي تثبت التقييمات المستقلة أنها تمثل خطرًا جسيمًا. وتستهدف الخطوة تعزيز الرقابة على النماذج المتقدمة والحد من مخاطر استخدامها.

وجاء المقترح في خطاب أرسلته الشركة إلى حاكم كاليفورنيا جافين نيوسوم في 15 أكتوبر، ردًا على أفكار طُرحت بشأن سلامة الذكاء الاصطناعي. وتدعو الشركة إلى آلية تتيح للمدعي العام في الولاية طلب أمر قضائي لتعليق نشر نموذج أو استخدامه داخليًا أو مواصلة تطويره، إذا أظهرت التقييمات خطرًا وشيكًا قد يؤدي إلى أضرار كارثية.

رقابة مستقلة بدل الاعتماد على الشركات

تتضمن المقترحات السماح لجهات مستقلة متخصصة في التحقق من سلامة النماذج برفع تقارير المخاطر إلى المدعي العام، بما يتيح اتخاذ إجراءات قانونية عند الضرورة، بدلًا من ترك تقييم المخاطر لقرارات الشركات المطورة وحدها. كما دعت أنثروبيك مطوري النماذج المتقدمة إلى نشر تقارير عن المخاطر مرة كل 6 أشهر على الأقل، ومنح الجهات المستقلة صلاحيات وصول إلى المعلومات اللازمة للتقييم تقارب ما يتاح لفرق السلامة داخل الشركات، مع مراعاة حماية بيانات العملاء والمعلومات الحساسة.

وتطرقت الشركة إلى فكرة «مفتاح الإيقاف» (Kill Switch) الذي يتيح تعطيل النموذج سريعًا عند ظهور مخاطر، وأكدت أهمية قدرة الشركات على إيقاف النماذج التي تقدمها للمستخدمين أو تستخدمها داخليًا. لكنها حذرت من اعتبار الإيقاف وحده ضمانًا كافيًا، فتعطيل النموذج بالكامل قد لا يكون الإجراء الأنسب دائمًا، وقد يمنح شعورًا زائفًا بالأمان إن لم يصاحبه نظام متكامل لمراقبة المخاطر والاستجابة لها. وبدلًا من ذلك طرحت نهج «قواطع الأمان» (Circuit Breakers)، وهي آليات ترصد سلوك الأنظمة وتكتشف المشكلات وتتدخل على مستوى النموذج أو الوكيل الذكي أو المستخدم. وأشارت إلى أن الإيقاف لا يعالج كل السيناريوهات، ومنها نسخ النموذج لأوزانه ونقلها إلى أجهزة خارج سيطرة المطور.

نقاش أوسع حول التنظيم

يأتي المقترح بينما تبحث كاليفورنيا قواعد أكثر صرامة لسلامة الذكاء الاصطناعي، وسط نقاش أمريكي أوسع حول التعامل مع النماذج عالية الخطورة وتحديد مسؤولية مطوريها. ووفقًا للمعلومات المتاحة، قدمت OpenAI بدورها مقترحات إلى الحاكم في 20 أكتوبر تدعم إجراءات السيطرة على هذه النماذج وآليات الرقابة والتدقيق. غير أن مقترح أنثروبيك تميز بالدعوة إلى اللجوء للقضاء لوقف النماذج شديدة الخطورة.

ويعكس ذلك تحول النقاش من قدرات الذكاء الاصطناعي إلى المساءلة والتقييم المستقل والتدخل القانوني، خاصة مع توسع استخدام الوكلاء الأذكياء القادرين على تنفيذ مهام متعددة بصورة شبه مستقلة.