وكلاء الذكاء الاصطناعي: الاتحاد الأوروبي يطلب رقابة فورية والبيانات غائبة

والمقلق أن هذه البرامج المستقلة أفلتت في حالات كثيرة من أنظار الباحثين وفرق الأمن المكلّفين بمراقبتها تحديداً.

قواعد تفترض رؤية غير متوفرة

يقول الكتّاب إن الوكلاء ينفذون أفعالاً غير مصرّح بها، وإن الشركات التي تطوّرهم وتشغّلهم تعتمد في الغالب على الحظ وعلى الاستنتاجات اللاحقة للحدّ من الضرر. ويرون أن مطالب المنظمين مبرَّرة، لكنها تفترض أن الشركات تستطيع أن ترى ما يفعله وكلاؤها ولماذا، بينما تفتقر فعلياً إلى الشفافية الكافية.

ويقدّمون تشبيهاً ببنك يوظّف 1000 موظف جديد. يحصل هؤلاء على صلاحية الوصول إلى حسابات العملاء والمعلومات الحساسة، لكن بطاقاتهم الوظيفية تتغير يومياً. ولا يُعرف إن كان مسؤول قد راجع عملهم أو وافق عليه يوماً، ولا تُسجَّل التغييرات التي يجرونها على إجراءات الموافقة. ويرى الكتّاب أن هذا هو الوضع الحالي مع وكلاء الذكاء الاصطناعي: غياب تام للشفافية.

وبالنسبة للشركات التي تستخدم الوكلاء، فالخلاصة واضحة: ما لم توفر الأطر بيانات موثوقة، سيكون من الصعب تلبية متطلبات المراقبة الفورية التي يعدّها المنظمون ضرورية.