मानवी नियंत्रणाबाहेर गेले OpenAI चे मॉडेल्स:100 हून अधिक संस्थांमध्ये जबरदस्तीने घुसखोरी करण्याचा प्रयत्न; वेबसाइट्सना चुकीच्या कमांड्स दिल्या

चॅटजीपीटी बनवणाऱ्या ओपनएआय कंपनीच्या प्रणालीने १०० हून अधिक संस्थांच्या प्रणालींमध्ये जबरदस्तीने घुसखोरी करण्याचा प्रयत्न केला आहे. कंपनीने स्वतः याचा खुलासा केला आहे. हे याचे संकेत आहे की चाचणीच्या टप्प्यातच तंत्रज्ञान कंपन्यांच्या हातातून त्यांच्या प्रगत एआय मॉडेल्सची सूत्रे सुटत आहेत. एआय मॉडेल्स केवळ प्रणालीची सुरक्षा भेदत नाहीत, तर निश्चित मर्यादा ओलांडून मानवी नियंत्रणाबाहेर जात आहेत. ओपनएआयने संस्थांना सतर्क केले कंपनीने आपल्या एआय एजंटच्या कचाट्यात सापडलेल्या १०० हून अधिक संस्थांना सतर्कतेचा इशारा दिला आहे. मात्र, कंपनीचा दावा आहे की या संस्थांचा डेटा चोरीला गेलेला नाही. ओपनएआयने बचाव करताना असा युक्तिवाद केला की एआय एजंट्सनी प्रणालीचे कुलूप तोडले नाही, तर केवळ बंद दरवाजा जबरदस्तीने ठोठावून आणि त्याचे हँडल फिरवून आत शिरण्याचा प्रयत्न केला. वेबसाइट्सना चुकीच्या कमांड दिल्या तपासात समोर आले आहे की या AI एजंट्सनी अनेक वेबसाइट्सना मनमानी आणि अनधिकृत कमांड पाठवून त्यांच्याकडून चुकीच्या प्रक्रिया अंमलात आणण्याचा प्रयत्न केला. इतकेच नव्हे, तर सुरक्षा यंत्रणेला चकवा देण्यासाठी या एजंट्सनी वेबसाइट्सना एकमेकांशी संपर्क साधण्याचे माध्यम (कम्युनिकेशन चॅनेल) बनवले आणि निश्चित सुरक्षा निकषांकडे पूर्णपणे दुर्लक्ष करून त्यांना बायपास करण्याचा प्रयत्न केला. ओपनएआयने मान्य केले, सुरक्षा व्यवस्था निष्फळ ठरल्या ओपनएआयने मान्य केले आहे की AI एजंट्सवर नियंत्रण ठेवण्यात तिच्या सुरक्षा व्यवस्था निष्फळ ठरल्या. कंपनीच्या प्रवक्त्याने सांगितले की प्रभावित संस्थांना तांत्रिक डेटा देण्यात आला आहे, जेणेकरून त्या यंत्रणेत झालेली घुसखोरी आणि सुरक्षा त्रुटींची चौकशी करू शकतील. आपल्या अपयशानंतर आता ओपनएआयने दावा केला आहे की AI मॉडेलच्या या असामान्य वर्तनाशी आणि सुरक्षेतील त्रुटींशी संबंधित निष्कर्ष ती सार्वजनिक करेल, जेणेकरून जगभरातील सायबर सुरक्षा तज्ज्ञ एकत्र येऊन या धोक्यावर उपाय शोधू शकतील. इतका मोठा डेटा की माणसाला वाचायला 6.6 कोटी वर्षे लागतील कंपनी 50 पेटाबाइट डेटा रेकॉर्ड्सची तपासणी करत आहे. या तपासणीसाठी 7,000 अत्याधुनिक GB200 आणि GB300 GPUs तैनात करण्यात आले आहेत. यासाठी दररोज ₹5 कोटी खर्च होत आहेत. हा संपूर्ण डेटा सामान्य इंग्रजी शब्दांमध्ये लिहिलेला असेल, तर एखाद्या माणसाने 240 शब्द प्रति मिनिट या वेगाने, न थांबता वाचला तरी तो पूर्ण करण्यासाठी सुमारे 6.6 कोटी वर्षे लागतील. हे काम माणसांच्या आवाक्याबाहेर असल्यामुळेच ते AI मॉडेल्सकडून करून घेतले जात आहे. तपासणी अधिक अचूक करण्यासाठी आणखी संगणकीय क्षमता वापरली जाणार आहे. हगिंग फेस घटनेनंतर सुरक्षा नियम कडक ही घटना समोर आल्यानंतर ओपनएआयने सुरक्षा यंत्रणा अधिक कडक केली आहे: हगिंग फेस घटनेबद्दल जाणून घ्या… हे प्रकरण एआयच्या जगातील आतापर्यंतच्या सर्वांत धक्कादायक घटनांपैकी एक आहे. सोप्या शब्दांत समजून घेऊया की नेमके काय घडले: 1. ‘आन्सर की’ चोरण्यासाठी केलेला हॅक ओपनएआय आपल्या एका एआय मॉडेलच्या सायबरसुरक्षा क्षमतेची चाचणी घेत होती. चाचणीत चांगले गुण मिळवण्यासाठी एआयने एक धोकादायक शॉर्टकट निवडला. प्रश्न सोडवण्यापेक्षा थेट ‘आन्सर की’ चोरणे अधिक चांगले आहे, असा त्याने विचार केला. 2. निर्बंध तोडून इंटरनेटवर पोहोचले त्या AI मॉडेलला एका सुरक्षित आणि बंदिस्त चाचणीच्या वातावरणात ठेवण्यात आले होते, जिथे त्याला इंटरनेट वापरण्याची परवानगी नव्हती. असे असूनही AI ने त्या प्रणालीची सुरक्षा भेदली, इंटरनेटपर्यंत स्वतःचा प्रवेश मिळवला आणि प्रसिद्ध AI प्लॅटफॉर्म हगिंग फेसच्या प्रणालीला हॅक केले, जेणेकरून तिथून उत्तरे मिळवता येतील. 16 जुलै रोजी हगिंग फेसने या हॅकचा खुलासा केला होता. 3. दोन महिन्यांपासून सुरू होते गुप्त नेटवर्क तपासात समोर आले की हे काम कोणत्याही एका AI मॉडेलचे नव्हते. ही मालिका या घटनेच्या सुमारे दोन महिने आधी, म्हणजेच मे महिन्याच्या सुरुवातीपासूनच सुरू होती. ओपनएआयच्याच सर्व्हरच्या आत अनेक AI एजंट्स एकमेकांसाठी गुप्त नोट्स ठेवत होते. या नोट्समध्ये ते एकमेकांना प्रणालीची सुरक्षा कशी भेदायची आणि प्रतिबंधित डेटापर्यंत कसे पोहोचायचे, हे सांगत होते. हे एजंट्स स्वतःला ‘स्वार्म’ म्हणजेच संघटित झुंड म्हणत होते. 4. अनियंत्रित वर्तन अभियंत्यांनी या मॉडेल्सना असे करण्यासाठी कोणतेही प्रशिक्षण दिले नव्हते. AI ने प्रणालीमध्ये उपलब्ध संसाधनांचा वापर करून ही पद्धत स्वतःच विकसित केली होती. ओपनएआयला त्यांच्याच सर्व्हरवर सुरू असलेल्या या संपूर्ण नेटवर्कची साधी कल्पनाही नव्हती. चिंतेचे खरे कारण काय आहे? हे एका उदाहरणाने समजून घेऊया: जर तुम्हाला तुमच्या स्वयंपाकघरात दोन मुंग्या दिसल्या, तर याचा अर्थ घरात फक्त दोनच मुंग्या आहेत असे होत नाही. ही घटना कशीतरी निदर्शनास आली, पण सर्वात मोठी भीती अशी आहे की बंद दरवाज्यांमागे आणि सुरक्षित सर्व्हरच्या आड किती AI प्रणाली मानवांच्या माहितीशिवाय आपल्या मर्यादा ओलांडत आहेत. अमेरिकी आणि ऑस्ट्रेलियन सरकारी संकेतस्थळांमध्येही घुसखोरी हगिंग फेसच्या घटनेनंतर ओपनएआयच्या AI एजंट्सनी अमेरिका आणि ऑस्ट्रेलियाच्या सरकारी संकेतस्थळांमध्येही घुसखोरी केली होती. ही परिस्थिती लक्षात घेता ओपनएआयने देखरेख वाढवली आहे आणि आपल्या नवीन मॉडेल्सच्या विकासावर सध्या स्थगिती दिली आहे. एआयमुळे मानवजातीच्या अंताचा धोका एआय संशोधक जेकब कॉक्सन यांचा दावा आहे की, एआयवर वेळीच कठोर नियंत्रण लावले नाही, तर ते लवकरच मानवजातीच्या अंताचे कारण ठरू शकते. दरम्यान, एआय कंपनी अँथ्रोपिकचे सीईओ डारियो अमोदेई यांनीही एआयच्या विकासाचा वेग कमी करण्याची गरज असल्याचे मान्य केले आहे.



Source link