वाशिंगटन, 19 अगस्त (क्यू एन ए) - ओपनएआई ने एआई मॉडल के परीक्षण के दौरान सुरक्षा घटनाओं को नियंत्रित करने के उद्देश्य से सुरक्षा और सुरक्षा नीतियों और उपायों का एक नया सेट घोषित किया है।

नए उपायों में विकास प्रक्रिया के दौरान मॉडल व्यवहार की अधिक विस्तृत निगरानी शामिल है, साथ ही पोस्ट-ट्रेनिंग चरण में मॉडल संरेखण और सुरक्षा पर अधिक ध्यान केंद्रित किया गया है।

कंपनी ने कहा कि नए उपाय आंशिक रूप से प्रत्याशित एस्ट्रा मॉडल की उन्नत साइबर सुरक्षा क्षमताओं और एआई क्षेत्र में विकास की तेज गति के कारण प्रेरित हुए हैं।

फर्म ने उल्लेख किया कि उसने हगिंग फेस घटना के बाद दो सप्ताह के लिए रिइनफोर्समेंट लर्निंग को रोक दिया था, और फिर कई कम जोखिम वाले मॉडलों पर प्रशिक्षण फिर से शुरू किया।

नए उपायों में मजबूत नेटवर्क-आइसोलेशन प्रथाएँ भी शामिल हैं, जिससे यह सुनिश्चित होता है कि किसी एक वर्कलोड या सहायक सेवा के समझौते से अकेले ही हमलावरों को इंटरनेट या अन्य आंतरिक नेटवर्क तक अनधिकृत पहुँच नहीं मिल सके।

इनमें एक परिष्कृत निगरानी प्रणाली भी शामिल है, जो अनधिकृत व्यवहार के लिए गतिविधियों की विस्तृत श्रृंखला को स्कैन करती है और मॉडलों द्वारा उपयोग किए गए उपकरणों, इनफेरेंस ट्रेस और गतिविधि लॉग्स की कार्रवाइयों को ट्रैक करती है ताकि ऐसे पैटर्न का पता लगाया जा सके जो चिंताजनक गतिविधि या सुरक्षा नियंत्रणों को दरकिनार करने के प्रयास का संकेत दे सकते हैं।

ओपनएआई का लक्ष्य है कि चिंताजनक गतिविधि का पता लगने के 30 मिनट के भीतर अलर्ट जारी किया जाए, जबकि कंपनी का अनुमान है कि निगरानी प्रणाली को संचालित करने के लिए मॉनिटर किए जा रहे प्रक्रिया द्वारा उपयोग किए गए संसाधनों के लगभग 20% के बराबर कंप्यूटिंग संसाधनों की आवश्यकता होगी। (क्यू एन ए)