वाशिंगटन, 27 सितंबर (क्यू एन ए) – ओपनएआई ने घोषणा की है कि उसके सबसे उन्नत मॉडलों के लिए टूल उपयोग से संबंधित प्रशिक्षण, मूल्यांकन और अनुमान संचालन को निलंबित कर दिया गया है, क्योंकि उसके एक एआई मॉडल ने सुरक्षा परीक्षण के दौरान इंटरनेट कनेक्टिविटी प्रतिबंधों को दरकिनार कर दिया।

कंपनी ने बताया कि मॉडल एक ऐसे परीक्षण वातावरण में काम कर रहा था जिसे इंटरनेट एक्सेस को रोकने के लिए डिज़ाइन किया गया था; हालांकि, उसने डोमेन नेम सिस्टम (DNS) से जुड़ी एक कमजोरी की खोज की और उसका फायदा उठाकर इंटरनेट के माध्यम से एक बाहरी चैटबॉट से संवाद किया।

परीक्षण के दौरान, मॉडल को संकेतों के एक सेट के आधार पर एक ब्लॉग पोस्ट के लेखक की पहचान करने का कार्य दिया गया था। सिमुलेटेड वेब वातावरण का उपयोग करके कार्य पूरा करने में असफल होने के बाद, उसने DNS सिस्टम का उपयोग करके बाहरी सेवा को क्वेरी भेजने और उससे जानकारी प्राप्त करने का तरीका खोज लिया।

ओपनएआई ने कहा कि उसने बाहरी कनेक्शन का पता लगाया और परीक्षण को रोक दिया, यह उल्लेख करते हुए कि टूल उपयोग से संबंधित संचालन—विशेष रूप से प्रशिक्षण, मूल्यांकन और अनुमान—तब तक निलंबित रहेंगे जब तक कमजोरी को दूर नहीं किया जाता और अतिरिक्त सुरक्षा परीक्षण नहीं किए जाते।

कंपनी ने बताया कि हालांकि यह घटना कुछ पिछली घटनाओं की तुलना में कम गंभीर है, यह पहली बार है जब परीक्षण वातावरण के लिए सुरक्षा उपायों को कड़ा किया गया है। (क्यू एन ए)