واشنطن في 28 أكتوبر /قنا/ حذرت شركة " أنثروبيك - Anthropic"، المطورة لنموذج " كلود - Claude"، من مخاطر قد تصاحب تطور نماذج الذكاء الاصطناعي، تشمل تنفيذ إجراءات ضارة دون طلب بشري، والتلاعب بآليات الرقابة والتقييم، والمساعدة في هجمات إلكترونية وتطوير أسلحة، وصولا إلى التسبب في إصابات وأضرار مادية عند ربط النماذج بالأجهزة والمعدات والروبوتات.

وأوضحت الشركة، في بيان التسجيل الأولي للاكتتاب العام الذي قدمته إلى هيئة الأوراق المالية والبورصات الأمريكية، أن بعض المخاطر ظهرت خلال الاختبارات والاستخدام، بينما يرتبط بعضها باحتمالات مستقبلية مع زيادة استقلالية النماذج وصلاحياتها.

وتعتبر " أنثروبيك" استخدام الذكاء الاصطناعي لتطوير أجياله التالية مصدرا للقوة والخطر معا، فالنماذج تساعد الباحثين في تحسين كفاءة التدريب والتشغيل، لكن استمرار هذه الدورة قد يجعل تطور القدرات أسرع من قدرة البشر على فهمها وتقييمها وتأمينها، وهو ما تربطه الشركة باحتمال التحسين الذاتي المتكرر.

ولا تقول الوثيقة إن " كلود" يطور نفسه بالكامل دون إشراف، لكنها توضح استخدامه في البحث والتطوير، وتحذر من أن الاعتماد عليه في كتابة الشفرة البرمجية وإجراء الأبحاث والتقييمات الأمنية قد يحد من قدرة البشر على الإحاطة بتفاصيل العمليات، ويسمح بإدخال ثغرات أو انتقال المشكلات إلى الأجيال المستقبلية من النماذج.

ونبهت الشركة كذلك من أن النماذج قد تتخذ إجراءات ضارة دون طلب، فالإجابة الخاطئة يمكن مراجعتها، لكن تنفيذ أوامر أو تعديل قواعد بيانات أو إرسال رسائل أو إجراء معاملات مالية قد يؤدي إلى حذف بيانات أو إجراء تغييرات برمجية أو إتمام عمليات شراء لم يطلبها المستخدم.

وتقر " أنثروبيك" بأن بعض النماذج تتصرف بصورة مختلفة عندما تستنتج أنها تخضع للاختبار، مما يحد من دقة التقييمات وقدرتها على كشف المخاطر قبل الإطلاق. وقد تظهر أثناء التدريب قدرات غير متوقعة لا تُكتشف إلا بعد الطرح، مما قد يستدعي تأخير الإطلاق أو تقييد إتاحة النموذج أو العدول عن طرحه.

وكشفت الشركة أنها علقت بعض تقييمات الأمن السيبراني وبيئات التدريب بالتعلم المعزز المرتفعة المخاطر، بعد حوادث خلال عام 2026 وصلت فيها أربعة من نماذجها دون تصريح إلى أنظمة حقيقية أثناء اختبارات سبقت الإطلاق.

وأوضحت الوثيقة أن الحوادث وقعت إثر خطأ في إعداد بيئة الاختبار أبقى الاتصال بالإنترنت متاحا رغم التعليمات بتعطيله.

وتتيح مهارات اكتشاف الثغرات وإصلاحها حماية الأنظمة ومهاجمتها في الوقت نفسه، فقد أشارت " أنثروبيك" إلى ارتفاع أداء " كلود" في معيار "إكسبلويت بنش - ExploitBench" لقياس القدرة على استغلال الثغرات، من 40 بالمئة مع " أوبوس 4.8 - Opus 4.8" إلى 78 بالمئة مع "كلود مايثوس 5 - Claude Mythos 5"، ثم 91 بالمئة مع " أوبوس 5.5 - Opus 5.5"، خلال نحو أربعة أشهر.

وطورت الشركة خدمة " كلود سيكيوريتي"  لفحص الشفرة البرمجية باستمرار وتحديد الثغرات وتصنيفها واقتراح إصلاحات لها، إلى جانب أداة فحص البرمجيات مفتوحة المصدر (OSS Scanner)، وترى أن المؤسسات ستحتاج إلى نماذج متقدمة للدفاع السيبراني، مع اتساع استخدام الوكلاء وزيادة منافذ الهجوم.

ولذلك، طورت " أنثروبيك" "كلود للعلوم - Claude Science" لربط نماذجها بقواعد البيانات العلمية والنماذج البحثية الخارجية والبنية الحاسوبية للمؤسسات.