باحث سابق في DeepMind يحذر مجلس مدينة نيويورك من الذكاء الاصطناعي

حذّر ألكس تيرنر، الباحث السابق في Google DeepMind، خلال جلسة استماع أمام مجلس مدينة نيويورك في 5 أكتوبر، من أن السباق نحو أنظمة ذكاء اصطناعي أكثر تقدمًا قد ينتج تهديدًا أخطر بكثير من المنافسة التقنية مع الصين.

وقال تيرنر: «نحن نتسابق لخلق خصمنا وتطويره». ويرى أن ذكاءً اصطناعيًا غير متوافق مع الأهداف البشرية قد يصبح أقوى من الصين. ويقصد بذلك أنظمة قادرة على السعي وراء أهداف لا تتفق مع نوايا مطوّريها، حتى لو صُممت لأداء مهام مفيدة.

قلق الباحثين وأسئلة للشركات

وشارك أيضًا جاكوب كوكسون، الباحث السابق في Anthropic، فانتقد وتيرة تقدم القطاع. ويرى أن استمرار المسار الحالي ينطوي على خطر كبير بأن تفقد البشرية السيطرة على أنظمة المستقبل. ويجدر التنويه بأن هذا توقع لسيناريوهات محتملة وليس نتيجة مثبتة.

وحضر الجلسة ممثلون عن Google وMeta وAnthropic وOpenAI، وأجابوا تحت القسم عن أسئلة تتعلق بالسلامة الفعلية لنماذجهم. وتساءلت جولي مينين، رئيسة المجلس، عن قدرة الشركات على قياس أخطر المخاطر كميًا، ومن سيتحمل المسؤولية إذا تسببت أنظمتها في أضرار.

الخطوة التالية

يشير الباحثون إلى الحاجة إلى رقابة مستقلة وشفافية أكبر. ويدرس مجلس مدينة نيويورك التزامات جديدة على الشركات، منها عمليات تحقق خارجية وآليات لحماية المبلّغين عن المخالفات.

وبذلك لا يقتصر النقاش على المنافسة مع الصين، بل يتعلق بكيفية تطوير تقنية تزداد قدرة دون فقدان إمكانية السيطرة عليها.