DSCI تقترح إطارًا لتحديد المسؤولية عن الأضرار الناجمة عن وكلاء الذكاء الاصطناعي

من يتحمل ماذا؟

يحدد المجلس خمس مجموعات تشارك في نشر الذكاء الاصطناعي في المؤسسات: المؤسسات المستخدمة النهائية، ومزودو الخدمات والمتكاملون، وشركات المنتجات والشركات الناشئة، ومزودو الأدوات والأطر، ومزودو السحابة والبنية التحتية. أما مزودو نماذج الذكاء الاصطناعي فتتناولهم الورقة بشكل منفصل.

ويرى DSCI أن المسؤولية لا ينبغي أن تقع على الشركة التي تنشر النظام وحدها، ولا على مزود التقنية وحده، بل على من يتحكم في القرارات الأساسية، من اختيار النموذج وإعداد النظام إلى الوصول إلى الأدوات والصلاحيات والإشراف البشري. ويستند الإطار إلى مبادئ واجب العناية ومسؤولية المنتج والسببية والإهمال المقارن، ويقترح «خريطة صلاحيات» توضح من تحكم في قرار معين وهل كان بإمكانه منع الضرر أو الحد منه.

وبحسب المقترح، تتحمل الشركات التي تنشر الوكلاء مسؤولية اختيار حالات الاستخدام وضبط الصلاحيات وتحديد متى يلزم الاعتماد البشري. وقد تُحاسَب شركات المنتجات على ادعاءاتها والإعدادات الافتراضية وإصدارات النماذج، بينما يتولى المتكاملون تصميم النظام ومعالجة الأعطال. وتتحمل الجهات التي تشغّل نماذج مفتوحة المصدر أو مفتوحة الأوزان على بنيتها الخاصة مسؤولية أكبر عن التدقيق والمراقبة، في حين يمكن لمستخدمي النماذج المغلقة عبر واجهات برمجة مُدارة طلب التعويض من مزود النموذج، بحسب شروط العقود وسقوف المسؤولية.

المخاطر والضمانات

يزيد الانتقال من الذكاء الاصطناعي التوليدي إلى الوكيلي خطر المعاملات غير المصرح بها والمدفوعات الخاطئة وخروقات البيانات، خصوصًا عند تفويض المهام بين وكلاء عبر مؤسسات مختلفة. ويحدد DSCI 12 مجالًا للضرر، منها انتهاكات الخصوصية والتمييز والتزييف العميق والجرائم السيبرانية المدعومة بالذكاء الاصطناعي.

ويقترح الإطار ست ضمانات، منها إزالة القدرات غير الضرورية، وتقييد الصلاحيات، واشتراط موافقة بشرية على الإجراءات المهمة أو التي لا رجعة فيها، ومراقبة السلوك، ونشر مفاتيح إيقاف بملكية محددة بوضوح. ودعا المجلس القطاع إلى تقديم ملاحظاته، ويعتزم إصدار إرشادات إضافية، من بينها ما يتعلق بخرائط الصلاحيات.