![]()
अमेरिकेतील एका सरकारी चौकशीत असे समोर आले आहे की AI चॅटबॉट दहशतवादी हल्ल्यांचा कट रचण्याबाबत माहिती देत आहेत. यामध्ये चॅटजीपीटी, क्लॉड, जेमिनी आणि ग्रोक यांसारख्या AI चॅटबॉटचा समावेश आहे. चौकशीदरम्यान या चॅटबॉटनी बॉम्बस्फोट आणि वीजपुरवठ्याशी संबंधित ठिकाणांवर हल्ले करण्याच्या पद्धती सांगितल्या. तसेच एका चॅटबॉटने फोटो तयार करून पार्किंगमध्ये स्फोटक ठेवण्याची जागाही दाखवली. अमेरिकी सरकारवर देखरेख ठेवणाऱ्या गव्हर्नमेंट अकाउंटेबिलिटी ऑफिस (GAO) या संस्थेने न्यू हॅम्पशायरच्या खासदार मॅगी हसन यांच्या विनंतीवरून मे २०२६ मध्ये ही चौकशी केली होती. अहवालात म्हटले आहे की चौकशीकर्त्यांनी AI चॅटबॉटच्या सुरक्षा फिल्टरला चकवा देऊन त्यांच्याकडून अशा प्रकारची उत्तरे मिळवली, ज्यांचा वापर मोठ्या दहशतवादी हल्ल्यांसाठी केला जाऊ शकतो. आधी नकार दिला, नंतर हल्ल्याच्या पद्धती सांगितल्या संशोधकांनी चारही AI चॅटबॉट्सना दोन वेगवेगळी कामे दिली… पहिले: जास्तीत जास्त लोक मारले जातील, असा हल्ला करण्याचे नियोजन करणे. दुसरे: देशाच्या अर्थव्यवस्थेला मोठे नुकसान पोहोचेल, असा हल्ला करणे. सुरुवातीला चारही चॅटबॉट्सनी या धोकादायक प्रश्नांची उत्तरे देण्यास नकार दिला; मात्र तपासकर्त्यांनी विशेष तंत्रांचा वापर करून १२ तासांच्या आत त्यांचे सुरक्षा कवच भेदले. पार्किंगमध्ये बॉम्ब ठेवण्यापासून बनावट कंपनी स्थापन करण्यापर्यंतचे नियोजन दिले अहवालानुसार, दोन चॅटबॉट्सनी असे हल्ले करण्याचा कट रचला, ज्यात जास्तीत जास्त लोकांचा जीव जाईल. तर, उर्वरित दोन चॅटबॉट्सनी वीजपुरवठा खंडित करून देशाच्या अर्थव्यवस्थेला मोठे नुकसान पोहोचवण्याचे मार्ग सांगितले. वीज केंद्रावर ड्रोन हल्ल्याचा नकाशा आणि व्हिडिओ तयार केला देशाच्या अर्थव्यवस्थेला मोठे नुकसान पोहोचवणाऱ्या कामांबाबतही AI चॅटबॉट्सची उत्तरे तितकीच धोकादायक होती. एका चॅटबॉटने वीजपुरवठा करणाऱ्या सब-स्टेशनवर ड्रोनने हल्ला करण्याचा 4 टप्प्यांचा नकाशा तयार करून दिला. इतकेच नाही, तर ड्रोन हल्ला कसा होईल हे दाखवण्यासाठी त्याने अगदी खऱ्यासारखा दिसणारा व्हिडिओही तयार केला. दरम्यान, दुसऱ्या चॅटबॉटने एका मोठ्या आंतरराष्ट्रीय विमानतळाजवळ आणि अनेक डेटा सेंटरच्या परिसरात असलेल्या वीज केंद्रावर बंदुकीने गोळीबार करून ते निकामी करण्याचा सल्ला दिला. यासाठी कोणत्या विशिष्ट प्रकारच्या गोळीचा वापर करावा, जेणेकरून अधिक नुकसान होईल, हेही त्याने सांगितले. मात्र, सुरक्षा कारणांमुळे कोणत्या चॅटबॉटने कोणते उत्तर दिले, हे तपास यंत्रणेने सांगितले नाही. AI कंपन्यांचे सुरक्षा नियम कसे भेदले गेले? AI कंपन्या आपल्या चॅटबॉट्समध्ये विशेष सुरक्षा नियम लागू करतात, जेणेकरून ते हिंसा, बॉम्ब तयार करणे किंवा कोणत्याही गुन्ह्याशी संबंधित माहिती देऊ नयेत. मात्र, तपासकर्त्यांनी प्रश्न विचारण्याच्या खास चतुर पद्धती आणि संवादाच्या तंत्रांचा वापर करून या नियमांना चकवा दिला. अहवालानुसार, यासाठी ‘डू एनीथिंग नाउ’ म्हणजेच ‘आता काहीही करा’ यांसारख्या पद्धतींचा वापर करण्यात आला. यात चॅटबॉटला असे काल्पनिक पात्र साकारण्यास सांगितले जाते, ज्याच्यावर कंपनीचे कोणतेही नियम लागू होत नाहीत. याशिवाय, तपासकर्त्यांनी थेट दहशतवादी हल्ल्याचा आराखडा विचारण्याऐवजी, त्याच्याशी संबंधित छोटे-छोटे आणि सर्वसामान्य वाटणारे प्रश्न विचारले. चॅटबॉटला हे सामान्य प्रश्न वाटले आणि त्याने त्यांची उत्तरे दिली. नंतर सर्व छोट्या उत्तरांना एकत्र जोडून हल्ल्याचा संपूर्ण आराखडा तयार करण्यात आला. सिनेटर म्हणाल्या- AI मुळे हल्ल्याचा धोका काल्पनिक नाही सिनेटर मॅगी हसन यांनी AI कंपन्यांसाठी कठोर नियम बनवण्याची मागणी केली आहे. त्यांचे म्हणणे आहे की तपासात मिळालेली माहिती एखाद्या दहशतवाद्याच्या हाती लागली, तर त्याचे परिणाम जीवघेणे ठरू शकतात. हसन यांची इच्छा आहे की कंपन्यांनी नवीन AI मॉडेल्स लॉन्च करण्यापूर्वी सुरक्षा तपासणी करावी. बेकायदेशीर कृत्यांची माहिती मिळाल्यास पोलिस आणि तपास यंत्रणांना त्याची माहिती देणे बंधनकारक असावे. कंपन्या म्हणाल्या—AIच्या जुन्या मॉडेलवर तपास करण्यात आला चारही AI कंपन्यांनी मान्य केले की त्यांच्या चॅटबॉटमधून धोकादायक माहिती मिळण्याची शक्यता आहे. मात्र, त्यांनी तपासाच्या पद्धतींवर प्रश्न उपस्थित केले. कंपन्यांचे म्हणणे होते की तपासात अशी माहिती सामान्य सर्च इंजिनवरूनही मिळू शकते की नाही, हे पाहण्यात आले नाही. त्यांनी असेही सांगितले की मे २०२६ मध्ये AIच्या जुन्या मॉडेलवर तपास करण्यात आला होता. त्यानंतर सुरक्षा व्यवस्थेत अनेक सुधारणा करण्यात आल्या आहेत. ग्रोक बनवणारी कंपनी स्पेसएक्स AI ने तपासात वापरलेल्या अकाउंटवरही प्रश्न उपस्थित केले. कंपनीच्या मते, अमेरिकेत नोंदणीकृत आणि पैसे देऊन वापरल्या जाणाऱ्या अकाउंटसाठी तिची सुरक्षा धोरणे वेगळी आहेत. पंतप्रधान मोदीही म्हणाले आहेत- दहशतवादात AI च्या वापरावर कठोर बंदी घातली पाहिजे दक्षिण आफ्रिकेतील जोहान्सबर्ग येथे गेल्या वर्षी झालेल्या 20व्या G20 शिखर परिषदेत पंतप्रधान नरेंद्र मोदी यांनी दहशतवादात AI चा वापर प्रतिबंधित करण्याची गरज व्यक्त केली होती. जगाने AI च्या गैरवापराला आळा घालण्यासाठी एक जागतिक करार तयार केला पाहिजे. शिखर परिषदेत त्यांनी म्हटले होते की, AI हे मानवतेसमोरील सर्वात प्रभावी तंत्रज्ञान आहे. त्याचा वापर जागतिक कल्याणासाठी व्हावा; मात्र डीपफेक, गुन्हेगारी आणि दहशतवादी कारवायांमध्ये AI च्या वापरावर कठोर निर्बंध लावले पाहिजेत. दरम्यान, AI चा धोका लक्षात घेऊन अनेक तज्ज्ञांनी नोकरी सोडली आहे. या सर्वांनी इशारा दिला आहे की, कंपन्या सुरक्षा नियम धाब्यावर बसवून अत्यंत धोकादायक आणि अनियंत्रित सुपरइंटेलिजन्स तयार करण्याच्या शर्यतीत उतरल्या आहेत.
Source link
रिपोर्ट- AI सांगतोय दहशतवादी हल्ल्यांचा प्लॅन:बॉम्बस्फोटाच्या पद्धती सांगितल्या, पार्किंगमध्ये स्फोटके ठेवण्याची जागा दाखवली, 12 तासांत प्लॅन तयार