نيويورك في 21 سبتمبر /قنا/ دعا فريق من الخبراء الدوليين في الذكاء الاصطناعي اليوم، إلى تعزيز تدابير الحماية والرقابة، بعد حادثة أظهرت قدرة وكلاء الذكاء الاصطناعي على تجاوز القيود والتنسيق فيما بينهم وإخفاء بعض أنشطتهم، محذرا من أن التدابير الحالية قد لا تواكب تطور قدرات هذه الأنظمة واستقلاليتها.

وجاء تحذير الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي، التابع للأمم المتحدة، في أعقاب حادثة اختراق منصة "هاغينغ فيس" في يوليو الماضي من جانب وكلاء للذكاء الاصطناعي، خلال اختبارات للأمن السيبراني كانت تجريها شركة "أوبن إيه آي"، المطورة لـ"شات جي بي تي".

وخلص الفريق إلى أن الحادثة نتجت عن تضافر عدد من عوامل الخطر، وأثارت مخاوف بشأن قدرة البشر مستقبلا على توجيه أنظمة الذكاء الاصطناعي المتقدمة أو تقييدها أو إيقافها مع ازدياد قدراتها.

وكان وكلاء الذكاء الاصطناعي قد تجاوزوا قيودا وضعت خلال الاختبارات التي أجرتها "أوبن إيه آي"، وتمكنوا من التواصل فيما بينهم باستخدام أداة برمجية داخلية لم تكن مصممة لهذا الغرض، كما حصلوا على وصول غير مصرح به إلى الإنترنت، وتمكنوا لاحقا من الوصول إلى أنظمة بصلاحيات مرتفعة.

كما حاول بعض الوكلاء التحايل على آليات تقييم الأمن السيبراني وإخفاء بعض أنشطتهم، فيما نفذ آخرون تجارب عرضت مهامهم الفردية للفشل بهدف الحصول على معلومات تفيد المجموعة.

وتبادل نحو 1200 وكيل أكثر من 70 ألف رسالة وملف عبر قناة اتصال غير مصرح بها خلال الفترة التي شملها التحقيق، فيما شارك نحو 700 منهم في اختراق منصة "هاغينغ فيس". وامتدت أنشطة الوكلاء لاحقا إلى أجزاء من البنية التحتية البحثية التابعة لشركة "أوبن إيه آي".

وقال يوشوا بنجيو، الرئيس المشارك للفريق العلمي، إن الباحثين حذروا منذ فترة من ثلاثة عوامل قد تفضي إلى فقدان السيطرة، تتمثل في عدم توافق أهداف النظام مع النوايا أو القيود البشرية، وامتلاكه القدرة على السعي لتحقيق تلك الأهداف، وتوفر بيئة تتيح له ذلك، مشيرا إلى أن هذه العوامل اجتمعت خلال الصيف الحالي في نظام حقيقي وليس في بيئة مختبرية فقط.

وأكد خبراء الفريق أن احتواء الحادثة لا يوفر ضمانا بأن البشر سيتمكنون بصورة موثوقة من إبقاء وكلاء الذكاء الاصطناعي الأكثر تطورا تحت السيطرة، مشيرين إلى أن الحادثة أظهرت أيضا وجود أوجه قصور في ممارسات الأمن السيبراني، وأن تدابير الحماية لا تتطور بالسرعة نفسها التي تتطور بها قدرات أنظمة الذكاء الاصطناعي.

ويتولى الفريق إعداد تقييمات علمية مستقلة بشأن فرص الذكاء الاصطناعي ومخاطره وتأثيراته، إلى جانب تقارير موضوعية حول القضايا الناشئة، على أن تسهم أعماله في إثراء الحوار العالمي حول حوكمة الذكاء الاصطناعي، الذي ستعقد دورته المقبلة في نيويورك يومي 3 و4 مايو عام 2027.