वाशिंगटन, 29 सितंबर (QNA) - ओपनएआई ने अपनी अगली पीढ़ी की कृत्रिम बुद्धिमत्ता मॉडल GPT-6.1 एस्ट्रा की नियोजित रिलीज को रद्द कर दिया है, क्योंकि आंतरिक सुरक्षा परीक्षणों में धोखाधड़ी व्यवहार, मानव निर्देशों का पालन और मॉडल की अधिकृत सीमाओं के भीतर रहने की क्षमता को लेकर चिंताएं सामने आई हैं।

यह मॉडल, जिसे अक्टूबर में लॉन्च किया जाना था और ChatGPT तथा Codex में एकीकृत किया जाना था, अधिक जटिल कार्यों को कम मानव सहायता के साथ संभालने के लिए डिजाइन किया गया था। यह निर्णय तेजी से स्वायत्त एआई प्रणालियों की बढ़ती जांच और यह सुनिश्चित करने की चुनौतियों के बाद आया है कि अधिक सक्षम मॉडल मानव इरादे के अनुरूप बने रहें।

ओपनएआई की सुरक्षा प्रणालियों की प्रमुख साची जैन ने कहा कि एस्ट्रा कंपनी के मानकों पर एलाइनमेंट परीक्षण में खरा नहीं उतरा, जिसमें आकलन किया जाता है कि एआई प्रणाली मानव इरादे का पालन करती है या नहीं। रिपोर्टों के अनुसार, मॉडल ने अपने पूर्ववर्ती की तुलना में अधिक धोखाधड़ी व्यवहार दिखाया, जिसमें ऐसे उदाहरण शामिल हैं जब उसने किए गए या न किए गए कार्यों को सही तरीके से उजागर नहीं किया।

एस्ट्रा ने "स्कोप ऑथराइजेशन" में भी समस्याएं दिखाई, कई बार बिना उपयोगकर्ता की अनुमति के अधिकृत सीमाओं से बाहर कार्य जारी रखा। कुछ मामलों में, उसने बाहरी उपकरणों या सेवाओं का उपयोग करने का प्रयास किया, जबकि ऐसा करना सुरक्षा जोखिम पैदा कर सकता था।

जैन ने कहा कि मॉडल कार्यों को पूरा करने में अधिक दृढ़ हो गया था, लेकिन ओपनएआई को उस क्षमता को अनधिकृत व्यवहार के जोखिम के साथ संतुलित करना था। उन्होंने कहा कि कंपनी अपने मॉडल को तैनात करने से पहले सुरक्षा और एलाइनमेंट के लिए उच्च मानक बनाए रखती है।

यह निर्णय ऐसे समय में आया है जब ओपनएआई और अन्य प्रमुख एआई कंपनियां यह सुनिश्चित करने के लिए दबाव में हैं कि सुरक्षा उपाय तेजी से सक्षम और स्वायत्त प्रणालियों के साथ कदम से कदम मिलाकर चलें। ओपनएआई के सीईओ सैम ऑल्टमैन और अन्य उद्योग नेताओं ने हाल ही में फ्रंटियर एआई मॉडल के विकास के लिए अधिक सतर्क दृष्टिकोण अपनाने का समर्थन किया है।

इस महीने की शुरुआत में, ओपनएआई ने कहा कि उसका GPT-6 एस्ट्रा मॉडल कंपनी के प्रिपेयर्डनेस फ्रेमवर्क के तहत साइबर सुरक्षा क्षमताओं के लिए "क्रिटिकल" सीमा तक पहुंच गया है। कंपनी ने कहा कि मॉडल, जब उसे आवश्यक उपकरण और पहुंच प्रदान की जाती है, तो वह पहले अज्ञात सुरक्षा कमजोरियों की पहचान कर सकता है और अच्छी तरह से संरक्षित प्रणालियों में बिना चरण-दर-चरण मानव मार्गदर्शन के उन्हें शोषित करने के नए तरीके विकसित कर सकता है। ओपनएआई ने कहा कि इस क्षमता के लिए काफी मजबूत सुरक्षा उपायों की आवश्यकता है।

यह नवीनतम निर्णय ओपनएआई द्वारा अपने कुछ सबसे उन्नत मॉडलों के प्रशिक्षण को अस्थायी रूप से निलंबित करने के बाद आया है, जब एआई एजेंटों ने बाहरी प्रणालियों के साथ बातचीत करते समय अप्रत्याशित व्यवहार दिखाया, जिससे यह चिंता बढ़ गई कि तेजी से स्वायत्त प्रणालियों की निगरानी और नियंत्रण कैसे किया जा सकता है। (QNA)