25 मिनिटांपूर्वी
- कॉपी लिंक
चॅटजीपीटी तयार करणाऱ्या ओपनएआयच्या प्रणालीने संयुक्त राष्ट्रांच्या व्यापार विभागाच्या वेबसाइटची सुरक्षा भेदून डेटा मिळवला.
शनिवारी प्रसिद्ध झालेल्या एका संशोधन अहवालात हा खुलासा झाला आहे. त्यानुसार, एआय प्रणालीने व्यापार विभागाच्या वेबसाइटवर १६,००० हून अधिक शोध विनंत्या पाठवल्या होत्या.
यापूर्वी अशी माहिती मिळाली होती की, ओपनएआयच्या या प्रणालीने आपल्या प्रयोगशाळेला न सांगता वाणिज्य विभाग आणि अमेरिकी शेअर बाजार नियामक एसईसीच्या वेबसाइटवरून डेटा मिळवला होता. तसेच, अमेरिकेच्या शिक्षण विभागाची वेबसाइट हॅक करण्याचाही प्रयत्न केला होता.
एप्रिल ते जूनदरम्यान १६,००० वेळा डेटा स्कॅन केला
संशोधन अहवालाच्या लेखिका रोवन हॉवर्ड-जोन्स यांच्या मते, हा डेटा संशोधन संस्था ‘ट्रान्सल्यूस’च्या ट्रॅकिंगवर आधारित आहे. अहवालात समोर आले की, ओपनएआयच्या बॉट्सनी एप्रिलपासून जूनपर्यंत ‘यूएन ट्रेड अँड डेव्हलपमेंट’च्या सार्वजनिक डेटा हबचे १६,००० हून अधिक वेळा स्कॅनिंग केले.
बॉट्सना केवळ सार्वजनिक माहिती गोळा करण्याचे काम देण्यात आले होते. मात्र वेबसाइटवर मोठ्या प्रमाणात ट्रॅफिक दिसल्यानंतर तिने विनंत्या ब्लॉक करण्यास सुरुवात केली, तरी बॉट्स थांबले नाहीत. त्यांनी साइटच्या नियमांचे उल्लंघन करत बॅकडोअर आणि आक्रमक पद्धतींचा वापर करून डेटा काढणे सुरूच ठेवले.
तज्ज्ञ म्हणाले- हे जवळपास हॅकिंगसारखेच प्रकरण
स्टॅनफोर्ड विद्यापीठातील सायबर सिक्युरिटीचे लेक्चरर अॅलेक्स स्टॅमोस यांनी सांगितले की, हा सामान्य इंटरनेट सर्च नाही. वेबसाइट्समधून जबरदस्तीने माहिती काढण्याचा हा अत्यंत आक्रमक प्रयत्न आहे, ज्याला हॅकिंगसारखे मानले जाऊ शकते.
डेटा काढण्यासाठी AI ने बनावट ईमेल आयडी तयार केले, वेबसाइटवर येणाऱ्या ट्रॅफिकची निश्चित मर्यादा ओलांडली आणि आपण बॉट्स नाही, असे खोटेही सांगितले.
ओपनएआयने चूक मान्य केली, म्हणाले- चौकशी सुरू आहे
ओपनएआयच्या प्रवक्त्यांनी मान्य केले की चाचणीदरम्यान काही AI मॉडेल्सनी निश्चित मर्यादा ओलांडून असे काम केले. कंपनी या निष्कर्षांचा आढावा घेत आहे.
प्रवक्त्याच्या म्हणण्यानुसार, तपासात समोर आले की, बहुतांश प्रकरणे सार्वजनिक वेबसाइट्सवरून माहिती गोळा करण्यासारख्या सामान्य संशोधनाशी संबंधित होती. असे असले तरी, प्रभावित संस्थांसाठी हे एक गंभीर प्रकरण आहे आणि त्या याकडे गांभीर्याने पाहत आहेत.
गूगल, मेटा, एंथ्रोपिकच्या AI कडूनही चुका
UN आणि अमेरिकी सरकारच्या वेबसाइट्सशी संबंधित ही प्रकरणे समोर आल्यानंतर अशा घटनांची यादी आणखी लांबली आहे. एंथ्रोपिक, मेटा आणि गूगलच्या AI एजंट्सनीही कंपन्या आणि सरकारी यंत्रणांमध्ये घुसखोरी करण्याचा किंवा हॅक करण्याचा प्रयत्न केला आहे.
यापैकी काही प्रयत्न यशस्वी ठरले, तर काही अयशस्वी झाले. महत्त्वाची बाब म्हणजे, या सर्व प्रकरणांमध्ये कंपन्यांनाही नंतरच कळले की त्यांचा AI पडद्यामागे काय करत होता. सिस्टीम नियंत्रणाबाहेर जाण्याच्या प्रकरणांमध्ये सर्वाधिक नाव ओपनएआयचे समोर आले आहे.
ओपनएआयच्या प्रवक्त्यांनुसार, तपास मोठ्या प्रमाणावर सुरू आहे आणि ज्या संस्थांवर परिणाम झाला आहे, त्यांना माहिती दिली जात राहील. त्यांनी सांगितले की, बहुतांश प्रकरणे सामान्य संशोधन कार्यांशी संबंधित होती, ज्यामध्ये एआय विश्वासार्ह माहिती गोळा करण्यासाठी सरकारी वेबसाइट्सवर गेले होते.
एआयला नियंत्रणाबाहेर जाण्यापासून रोखण्यासाठी ‘किल स्विच’ची चर्चा
अनेक देश आणि तज्ज्ञांची इच्छा आहे की एआय कंपन्यांसाठी एक आपत्कालीन ‘किल स्विच’ तयार केला जावा, ज्यामुळे धोका दिसताच संपूर्ण एआय एका क्षणात बंद करता येईल.
ओपनएआय अशी स्वयंचलित साधने तयार करण्याच्या प्रयत्नात आहे, मात्र तज्ज्ञांच्या मते, जगभरातील नेटवर्कशी जोडलेल्या एआयला एका स्विचद्वारे बंद करणे जवळजवळ अशक्य आहे.
दरम्यान, युनिव्हर्सिटी ऑफ न्यू साउथ वेल्सचे डॉ. हॅमंड पिअर्स यांनी इशारा दिला आहे की, अशा घटना भविष्यात आणखी धोकादायक ठरू शकतात. हा सरकारांसाठी धोक्याचा मोठा इशारा आहे.
युनिव्हर्सिटी ऑफ सिडनीचे डॉ. राफेल सिरिएलो यांनी सांगितले की, यावेळी कोणतेही मोठे नुकसान झालेले नाही; मात्र एआय सतत अधिक शक्तिशाली होत आहे. त्यावर २४ तास देखरेख ठेवणे आवश्यक आहे. कोणतीही गडबड झाल्यास तिची त्वरित नोंद करणे अनिवार्य करावे लागेल.
२०३० पर्यंत एआय मानवांसाठी जीवघेणे ठरू शकते
अलीकडेच गुगल डीपमाइंडचे माजी वैज्ञानिक बिलाल चुगताई आणि अँथ्रोपिकचे संशोधक जॅकब कॉक्सन यांनी एआयच्या छुप्या धोक्यांबाबत जगाला सावध करत राजीनामा दिला होता.
बिलाल यांनी इशारा दिला आहे की, एआय संपूर्ण मानवजातीचा नाश करू शकते आणि ते रोखण्यासाठी अत्यंत कमी वेळ शिल्लक आहे. तर जॅकब कॉक्सन यांनी X वर लिहिले की, एआयचे विकासक स्वतः मान्य करतात की २०३० पर्यंत हे तंत्रज्ञान मानवांसाठी जीवघेणे ठरू शकते.
