واشنگٹن، 19 اگست (کیو این اے) - اوپن اے آئی نے مصنوعی ذہانت کے ماڈلز کی جانچ کے دوران سکیورٹی واقعات کو محدود کرنے کے لیے سکیورٹی اور حفاظتی پالیسیوں اور تدابیر کا ایک نیا سیٹ اعلان کیا ہے۔

نئی تدابیر میں ماڈل کے رویے کی ترقی کے عمل کے دوران مزید تفصیلی نگرانی شامل ہے، ساتھ ہی پوسٹ ٹریننگ مرحلے میں ماڈل کی ہم آہنگی اور سکیورٹی پر زیادہ توجہ دی گئی ہے۔

کمپنی نے کہا کہ نئی تدابیر جزوی طور پر متوقع ایسٹرا ماڈل کی جدید سائبر سکیورٹی صلاحیتوں اور مصنوعی ذہانت کے شعبے میں ترقی کی تیز رفتار کے باعث متعارف کرائی گئی ہیں۔

فرم نے بتایا کہ اس نے ہگنگ فیس واقعے کے بعد دو ہفتے کے لیے رینفورسمنٹ لرننگ کو روک دیا تھا اور پھر کئی کم خطرے والے ماڈلز پر تربیت دوبارہ شروع کی۔

نئی تدابیر میں مضبوط نیٹ ورک آئسولیشن طریقے بھی شامل ہیں، جس سے یہ یقینی بنایا جاتا ہے کہ کسی ایک ورک لوڈ یا معاون سروس کے سمجھوتے سے حملہ آوروں کو انٹرنیٹ یا دیگر داخلی نیٹ ورکس تک غیر مجاز رسائی نہ مل سکے۔

ان میں ایک جدید نگرانی کا نظام بھی شامل ہے جو غیر مجاز رویے کے لیے سرگرمیوں کی وسیع رینج کو اسکین کرتا ہے اور ماڈلز کے استعمال کردہ ٹولز، انفیرنس ٹریسز اور سرگرمی لاگز کی کارروائیوں کو ٹریک کرتا ہے تاکہ ایسے پیٹرن کی نشاندہی کی جا سکے جو تشویشناک سرگرمی یا سکیورٹی کنٹرولز کو چکمہ دینے کی کوشش کی علامت ہو سکتے ہیں۔

اوپن اے آئی کا ہدف ہے کہ تشویشناک سرگرمی کا پتہ چلنے کے 30 منٹ کے اندر الرٹ جاری کیا جائے، جبکہ کمپنی کا اندازہ ہے کہ نگرانی کے نظام کو چلانے کے لیے اس عمل کے استعمال کردہ وسائل کے تقریباً 20% کے برابر کمپیوٹنگ وسائل درکار ہوں گے۔ (کیو این اے)