الدوحة في 24 سبتمبر /قنا/ بدأ العالم مرحلة جديدة في عصر تطور الذكاء الاصطناعي بشكل مختلف كليا، بعد أن تم تطوير نظام الذكاء الاصطناعي متعدد الوسائط Dall-E، عبر شركة OpenAI عام 2021، وإتاحته حق استخدام مطالبات النص في إنشاء الصور، ثم أتبعته OpenAI عام 2023 بإصدار روبوت الدردشة الشهير ChatGPT، والذي يمتلك القدرة على إجراء محادثات مع البشر والإجابة على أسئلتهم، وكانت إيجابيات إطلاقه تطغى على ما سواها، ومعه انتشرت حمى استخدامات الذكاء الاصطناعي والتنافس في ابتكارات مجالاته عبر شركات وجامعات ومراكز أبحاث في الولايات المتحدة وأوروبا والصين واليابان.

ولئن كانت إمكانات الذكاء الاصطناعي وقدراته الفائقة بتحقيق رفاهية متميزة للإنسان في الجوانب الصحية والطبية والصناعية محط اهتمام لأول وهلة، إلا أن الحديث عن أخطار الذكاء الاصطناعي وتقييد استخداماته المتنوعة والكثيرة بمرور الأيام، عاد مؤخرا إلى الواجهة من جديد، بالتزامن مع افتتاح أعمال الجمعية العامة للأمم المتحدة في نيويورك في شهر سبتمبر الجاري، حيث نشر عشرات الباحثين والمديرين التنفيذيين في قطاع الذكاء الاصطناعي نداء مشتركا لوضع إطار تنظيمي دولي يفرض قيودا على استخداماته، للحؤول دون آثار سلبية له على البشرية.

ولاحظ موقعو النداء، أن مساره الحالي يمثل مخاطر غير مسبوقة، وطالبوا بضمانات بالحد الأدنى التي يمكن أن تشكل جامعا مشتركا تتفق عليه الحكومات لاحتواء أشد المخاطر إلحاحا، مثل زيادة الأوبئة، وانتشار المعلومات المضللة، والإشكالات المتعلقة بالأمن القومي، ناهيك عن تسببه بالبطالة الجماعية، وصولا إلى انتهاكات حقوق الإنسان، ودعوا إلى تعاون المسؤولين للتوصل إلى اتفاقات دولية في شأن ما أسموه الخطوط الحمراء الواجبة على الجهات الفاعلة الرئيسية في تطوير هذه التقنية.

وتقف وراء هذه المبادرة جهات عدة أبرزها المركز الفرنسي للأمان في الذكاء الاصطناعي و"ذي فيوتشر سوسايتي" ومركز الذكاء الاصطناعي المتوافق مع الإنسان في جامعة بيركلي، إضافة إلى 20 منظمة شريكة، كما وقع على المبادرة، شخصيات مؤثرة مثل كبير مسؤولي الأمن المعلوماتي في شركة "أنثروبيك" جيسون كلينتون، وبعض زملائه، بالإضافة إلى عدد من موظفي شركتي "ديب مايند" التابعة لمجموعة "جوجل"، و"أوبن إيه آي"، مبتكرة "تشات جي بي تي"، بالإضافة إلى الحائز على جائزة نوبل في الفيزياء لعام 2024 جيفري هينتون الذي يعتبر أحد رواد الذكاء الاصطناعي الحديث، والأستاذ في جامعة مونتريال يوشوا بينجيو، أحد أكثر الشخصيات تأثيرا في هذا المجال.

سبق ليوشوا بينجيو الذي يصفه الكثيرون بأنه الأب الروحي للذكاء الاصطناعي، أن ألقى محاضرة قصيرة ضمن فعاليات مؤتمر "تيد TED" في 15 يناير 2025 حول مخاطر الذكاء الاصطناعي، أوضح خلالها أن خطر الذكاء الاصطناعي يتعدى تهديد الوظائف وتوليد الشائعات والترويج لها بشكل أقرب إلى الحقيقة.

وأشار بينجيو إلى وجود خط رفيع بين البشر والذكاء الاصطناعي، يتمثل في غياب الحرية والاستقلالية لدى تقنيات الذكاء الاصطناعي، منوها إلى أن سرعة تطور نماذج الذكاء الاصطناعي مخيفة إلى حد يتوقع بأن تصل قريبا إلى نقطة الحرية الكاملة والقدرة على وضع خطط طويلة الأمد تتجاوز قدرات البشر، بل إن دراسة مماثلة نشرها معهد "أبولو" (Apollo) للدراسات، وجدت أن نماذج الذكاء الاصطناعي تميل إلى الكذب والخداع من أجل حماية نفسها من المخاطر التي تهدد وجودها وتقوضه.

وتعود أولى التحذيرات إلى قمة الذكاء الاصطناعي في فبراير 2023، بعنوان "الذكاء الاصطناعي من أجل الصالح العام" التي نظمها الاتحاد الدولي للاتصالات (ITU)، وأثارت مناقشات على المستوى العالمي حول هذه التكنولوجيا التي يمكن استخدامها لزيادة الإنتاجية، ولكنها قد تنشر أيضا الإشاعات والمعلومات الكاذبة بشأن التمييز المدمج والعنصرية والتحيز ضد النساء وانتهاكات الخصوصية واسعة النطاق، فضلا عن عدم الشفافية.

وتلاها، مؤتمر الأمم المتحدة بشأن الذكاء الاصطناعي في شهر يوليو 2023، وحضره نحو 3000 مشارك ومشاركة، حيث ركز بشكل رئيسي على كيفية استخدام الذكاء الاصطناعي لتحقيق أهداف التنمية المستدامة للأمم المتحدة والتي تضم 17 هدفا ينبغي تحقيقها بحلول عام 2030، بما في ذلك القضاء على الفقر والجوع، والتي حددها المجتمع الدولي لنفسه.

وعقب المؤتمر، تبنى مجلس حقوق الإنسان التابع للأمم المتحدة، في الرابع عشر من يوليو 2023 وللمرة الأولى، قرارا يدعو المجتمع الدولي إلى اتخاذ تدابير وقائية ورقابية فيما يتعلق بالذكاء الاصطناعي، بعد طلب مشترك تقدمت به كوريا الجنوبية والنمسا والبرازيل والدنمارك والمغرب وسنغافورة.

وفي عام 2024، أصدرت الأمم المتحدة تقريرا بعنوان "أنشطة الأمم المتحدة في مجال الذكاء الاصطناعي (AI) 2024"، أعده الاتحاد الدولي للاتصالات (ITU) بالتعاون مع 52 جهة تابعة للأمم المتحدة، حيث يقدم التقرير نظرة شاملة على جهود الأمم المتحدة لاستخدام وتطوير الذكاء الاصطناعي بشكل مسؤول.
ووفقا للتقرير، فقد ازداد عدد مشاريع الذكاء الاصطناعي في الأمم المتحدة بشكل كبير، من 406 مشاريع في عام 2023 إلى 729 مشروعا في عام 2024، أي بزيادة بلغت 79 بالمئة، ويركز التقرير بشكل كبير على أهداف التنمية المستدامة (SDGs) للأمم المتحدة، مشيرا إلى أن 84 بالمئة من المشاريع ربطت عملها بأهداف محددة للتنمية المستدامة، وغالبية المشاريع تغطي أكثر من هدف واحد.

وكانت أبرز خمسة أهداف تم التركيز عليها هي: العمل اللائق والنمو الاقتصادي، والصناعة والابتكار والبنية التحتية، والحد من أوجه عدم المساواة، والسلام والعدل والمؤسسات القوية، وأخيرا الشراكات لتحقيق الأهداف.

وفي هذا السياق، عززت الأمم المتحدة وهيئاتها المتخصصة خلال عام 2025 مسارا قائما على حقوق الإنسان لمعالجة التحديات الرقمية، مع التأكيد على عدم الإفراط في التنظيم وبناء تعاون دولي يضمن الشفافية والمساءلة، حيث أكد فولكر تورك المفوض السامي لحقوق الإنسان، في بيان في السابع من يوليو الماضي، أن التقنيات "تعيد تشكيل كل جوانب المجتمع"، لكنها "تطرح أخطارا جسيمة من تقييد حرية التعبير وانتهاكات الخصوصية إلى التمييز وتهديد الحقيقة المشتركة"، داعيا الدول والشركات إلى التمسك بالالتزامات القانونية واحترام الحقوق كأساس للحوكمة الرقمية.

وفي الاتحاد الأوروبي، حذر تقرير للوكالة الأوروبية للحقوق الأساسية صدر في يونيو الماضي من اتساع الفجوة الحقوقية إذا لم تحكم أنظمة الذكاء الاصطناعي والبيانات الضخمة ضمن أطر قائمة على الحقوق وعدم التمييز، وفي الإطار ذاته، شددت منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) في "إرشادات حوكمة المنصات الرقمية" صدرت في مارس الماضي على أن الشفافية والمساءلة ونهج أصحاب المصلحة المتعددين هي شروط لضمان فضاء يحفظ حرية التعبير ويصون الخصوصية ويكافح الأضرار الرقمية.

وضمن الحديث عن أخطار أنظمة الذكاء الاصطناعي، يبرز مدى التغيير الواسع في السياسات والعلاقات الاجتماعية الذي يمكن أن تصل إليه هذه النماذج المبتكرة بوجود تقنية مثل "التزييف العميق"، كما تظهر قضية الثقة وتفويض قادة التكنولوجيا باتخاذ القرارات المفصلية، وإزاء هذه الأخطار، تنادى كثير من العلماء لإعداد مجموعة من بروتوكولات السلامة المشتركة اللازمة لتصميم وتطوير الذكاء الاصطناعي المتقدم، بنطاقات قابلة للتحكم بها خوفا مما يمكن وصفه بالانفلات التقني، وبالتالي يجب إعادة توجيه بوصلة بحوث الذكاء الاصطناعي وتطويره في اتجاه جعل النظم الحالية الصلبة أكثر دقة وأمانا وقابلية للتفسير.

ومع تسارع إصدارات النماذج الجديدة التي ظهرت في الأشهر الأخيرة من عام 2025، حذر خبراء أمنيون من أسلوب جديد للهجمات الإلكترونية، يتمثل في إخفاء تعليمات خبيثة داخل الصور التي تعالج بواسطة نماذج الذكاء الاصطناعي التوليدية، يستغلها القراصنة في اختراق الخصوصية وسرقة البيانات، وكشف فريق باحثين في شركة Trail of Bits، بعد اختبار أنظمة مختلفة، منها Gemini CLI وVertex AI Studio  ومساعد جوجل على نظام أندرويد، بالإضافة إلى واجهة جيميناي عبر الويب، عن الطريقة الجديدة للاختراق وهي عبارة عن إخفاء أوامر ضارة داخل صور يجري تثبيتها من نماذج الذكاء الاصطناعي، وتبقى غير مرئية للمستخدم، لكنها تنكشف عند تقليص حجم الصورة بفضل طريقة المعالجة الداخلية للنماذج.

وتثير التقنية الجديدة تساؤلات بشأن مدى موثوقية أنظمة الذكاء الاصطناعي متعددة الوسائط، إذ إن تصميم صورة واحدة ربما يؤدي إلى اختراق بيانات حساسة أو تسريب معلومات شخصية. وتكمن الخطورة في أن هذه النماذج غالبا ما تكون مرتبطة بتطبيقات عملية مثل البريد الإلكتروني، أو أدوات العمل، أو منصات التواصل. ويرى الخبراء أن هذا النوع من الهجمات ربما يفتح الباب أمام سرقة الهوية إذا جرى استخدامه لاستخراج بيانات حساسة من المستخدمين.

ورغم السلبيات والمخاطر فإن بعض الباحثين دعوا الحكومات لوضع قيود تحاول السيطرة على فورة الذكاء الاصطناعي والتقليل من مخاطره من خلال سن القوانين واللوائح والعقوبات الصارمة ضد من يستخدم الذكاء الاصطناعي لإلحاق الضرر بالآخرين، ودعم آلية الاعتماد على عقل البشر في إدارة الأجهزة التقنية وعدم الاعتماد عليها في إنجاز جميع المهام إلا تحت إشراف خبراء، بجانب عدم تسجيل جميع البيانات والمعلومات السرية في الجهات الحكومية على هذه البرامج للتقليل من خطورة تسربها، فضلا عن توعية الأفراد بأهمية برامج التدريب والتعليم لإدراك مخاطر الذكاء الاصطناعي لتفاديها.