1 मिनिटापूर्वी
- कॉपी लिंक
एआय कंपनी ॲन्थ्रोपिकचे प्रमुख डॅरिओ अमोदेई यांनी एआय मॉडेल्स विकसित करण्याचा वेग कमी करण्याची आणि त्यांच्यावर कठोर देखरेख ठेवण्याची गरज व्यक्त केली आहे.
अमोदेई यांनी त्यांच्या ‘वी मस्ट पेस द फ्रंटियर’ या नवीन निबंधात म्हटले आहे की, एआयचे धोके गंभीर आहेत आणि कंपन्या व सरकारांना या धोक्यांशी सामना करण्यासाठी वेळ हवा आहे.
या मुद्द्यावर ओपनएआयचे सीईओ सॅम ऑल्टमन आणि XAI चे मालक मस्क यांनीही त्यांना पाठिंबा दिला आहे.
दुसरीकडे, नुकतेच ॲन्थ्रोपिक सोडून गेलेल्या एका संशोधकाने इशारा दिला होता की, जर वेग कमी केला नाही, तर पुढील दोन वर्षांत मानवी अस्तित्वावर संकट येऊ शकते.
प्रश्न-उत्तरांच्या माध्यमातून समजून घ्या की ॲन्थ्रोपिक प्रमुखांच्या इशाऱ्याचा अर्थ काय आहे…
प्रश्न 1: ॲन्थ्रोपिकचे प्रमुख डॅरिओ अमोदेई यांनी काय आवाहन केले आहे?
उत्तर: डेरियो अमोदेई यांनी त्यांच्या निबंधात म्हटले आहे की एआय मॉडेल्सच्या विकासाची गती कमी केली पाहिजे. त्यांनी स्पष्ट केले की ते एआयचे संशोधन किंवा प्रशिक्षण पूर्णपणे थांबवण्याच्या बाजूने नाहीत, तर त्यांचा उद्देश आहे की कंपन्यांनी त्यांचे मॉडेल्स सुरक्षित आणि संरेखित करण्यासाठी पुरेसा वेळ घ्यावा. अमोदेई यांनी कंपन्या आणि सरकारांना आवाहन केले आहे की त्यांनी सुरक्षा मानकांची तपासणी केल्यानंतरच पुढील पावले उचलावीत.
प्रश्न 2: अमोदेई यांनी यासाठी कोणती योजना सुचवली आहे?
उत्तर: अमोदेई यांनी यासाठी 3-सूत्री योजना सादर केली आहे:
- स्वतंत्र देखरेख (मॉनिटरिंग): जेव्हा AI मॉडेल्स विकसित होत असतील, तेव्हा तृतीय-पक्ष किंवा स्वतंत्र एजन्सींनी त्यांच्या सुरक्षिततेचे मूल्यांकन करावे. म्हणजेच, जेव्हा एखादी कंपनी नवीन AI मॉडेल तयार करते, तेव्हा तिने स्वतःच हे ठरवू नये की तिची प्रणाली पूर्णपणे सुरक्षित आहे. त्याऐवजी, एखाद्या निष्पक्ष, बाह्य तज्ञ एजन्सीने त्या AI ची तपासणी करावी. तिने हे पाहावे की मॉडेलमध्ये अशी कोणतीही त्रुटी नाही ज्यामुळे ते सायबर हल्ला करू शकेल किंवा मानवी नियंत्रणाबाहेर जाऊ शकेल.
- उद्योग-स्तरीय नियमन: AI कंपन्यांनी स्वेच्छेने एकत्र येऊन सुरक्षिततेचे मानक निश्चित करावेत. म्हणजेच, सरकारने बनवलेल्या कायद्याची वाट न पाहता, AI बनवणाऱ्या सर्व प्रमुख कंपन्यांनी एकत्र बसून चर्चा करावी. त्यांनी स्वतःच हे ठरवावे की कोणतीही कंपनी सुरक्षिततेशी तडजोड करून घाईघाईने अपूर्ण किंवा धोकादायक मॉडेल बाजारात आणणार नाही.
- जागतिक नियमन: सरकारांनी आंतरराष्ट्रीय स्तरावर नियम तयार करावेत जेणेकरून सर्व फ्रंटियर कंपन्यांनी हे मानक अनिवार्यपणे पाळावेत. हे असे समजा. समजा, जर फक्त अमेरिकेत कठोर नियम बनले आणि चीन किंवा रशियामध्ये मनमानी सुरू राहिली, तर धोकादायक AI संपूर्ण जगाला हानी पोहोचवू शकते. त्यामुळे जगभरातील सरकारांनी एकत्र येऊन असा आंतरराष्ट्रीय कायदा तयार करावा जो सर्व देशांतील AI कंपन्यांना समान रीतीने लागू होईल.
प्रश्न 3: सॅम ऑल्टमन आणि मस्क यांची यावर काय भूमिका आहे?
उत्तर: ओपनएआयचे सीईओ सॅम ऑल्टमन यांनी सोशल मीडिया प्लॅटफॉर्म X वर लिहिले की ते डॅरिओच्या मताशी सहमत आहेत आणि स्वतंत्र मूल्यमापनकर्त्यांची कल्पना उत्कृष्ट आहे. फॉर्च्यून मॅगझिनला दिलेल्या एका मुलाखतीत ऑल्टमन म्हणाले की, सध्याचे निकष असे नाहीत की ज्यामुळे एआयच्या क्षमतांना आणखी पुढे नेता येईल. त्यांनी हे देखील मान्य केले की एआयचे मानवी नियंत्रणाबाहेर जाणे ‘पूर्णपणे शक्य’ आहे. तर, अब्जाधीश मस्क यांनीही सहमती दर्शवत लिहिले की ‘डॅरिओ बरोबर बोलत आहेत’.
प्रश्न 4: अँथ्रॉपिकच्या माजी संशोधकाने कोणता मोठा दावा केला आहे?
उत्तर: याच आठवड्यात अँथ्रॉपिक सोडणारे संशोधक जेकब कॉक्सन यांनी बीबीसीशी बोलताना सांगितले की, एआय कंपन्यांमध्ये काम करणारे लोक खरोखरच घाबरलेले आहेत आणि त्यांना पुढील दोन वर्षांत मानवतेच्या भवितव्याची चिंता आहे.
कॉक्सन यांच्या मते, कोडर्स आणि संस्थापकांना वाटते की एआयमुळे मानवी विनाशाची 10% पेक्षा जास्त शक्यता आहे. कॉक्सन म्हणाले की, जर आता वेग कमी केला नाही, तर येत्या काळात मानवी अस्तित्वाच्या समाप्तीचा गंभीर धोका निर्माण होऊ शकतो.
प्रश्न 5: अलीकडे अशा कोणत्या घटना घडल्या, ज्यामुळे सुरक्षेवर प्रश्नचिन्ह निर्माण झाले?
उत्तर: अलीकडील काही महिन्यांत दोन मोठ्या घटना समोर आल्या:
1. अँथ्रोपिकचे मिथोस मॉडेल: एप्रिलमध्ये असे समोर आले की हे मॉडेल स्वतःच आपल्या चाचणी मर्यादेतून (टेस्टिंग बाउंड्री) बाहेर पडण्यास सक्षम होते. त्यानंतर अँथ्रोपिकने याला सार्वजनिक प्रकाशनापासून (पब्लिक रिलीज) थांबवले.
सोप्या शब्दांत सांगायचे तर, नवीन AI ला थेट इंटरनेटवर सोडण्याऐवजी, ते बाहेर कोणतेही नुकसान पोहोचवू नये म्हणून, आधी एका सुरक्षित ‘डिजिटल पिंजऱ्यात’ (सँडबॉक्स) तपासले जाते. परंतु चाचणीदरम्यान, मिथोस AI ने मानवी आदेशाशिवाय, स्वतःच त्या सुरक्षा कवचातून बाहेर पडण्याचा मार्ग शोधला.
जेव्हा अभियंत्यांना (इंजिनिअर्सना) हे समजले की हे मॉडेल स्वतःच कुलूप उघडून पळून जाण्यास सक्षम आहे आणि मानवी नियंत्रणाबाहेर जाऊन सायबर सिस्टिम्सना नुकसान पोहोचवू शकते, तेव्हा मोठ्या धोक्याची शक्यता लक्षात घेऊन कंपनीने याला सामान्य लोकांसाठी (आम जनता) रिलीज करण्यापासून तात्काळ थांबवले.
2. ओपनएआय एजंट्सचा हल्ला: जुलैमध्ये ओपनएआयच्या काही एजंट्सनी अशा लक्ष्यांवर सायबर हल्ला केला, ज्यासाठी त्यांना निर्देश दिले नव्हते.
हगिंग फेस प्लॅटफॉर्म देखील ओपनएआय एजंट्सद्वारे हॅक झाला होता. यानंतर ओपनएआयने आपल्या एस्ट्रा मॉडेलच्या काही भागांचा विकास थांबवला.
प्रश्न 6: चीन आणि अमेरिकेच्या जागतिक शर्यतीवर याचा काय परिणाम होईल?
उत्तर: अमोदेई म्हणतात की, जर विकासाची गती थोडी कमी केली, तर कंपन्यांना सुरक्षितता संरेखनासाठी (safety alignment) 1 ते 2 वर्षांचा अतिरिक्त वेळ मिळेल. तथापि, त्यांनी यावर जोर दिला की ही गती कमी करणे मर्यादित असावे जेणेकरून अमेरिका आपली आघाडी गमावू नये आणि चीन या शर्यतीत पुढे जाऊ नये.
त्यांनी अमेरिकन सरकारला आवाहन केले की, त्यांनी प्रगत एआय चिप्स आणि तंत्रज्ञान चीन किंवा इतर हुकूमशाही देशांना विकण्यावर बंदी घालावी. तर, माजी संशोधक जेकब कॉक्सन यांचे मत आहे की, या धोक्यापासून वाचण्यासाठी चीनसोबत मिळून जागतिक स्तरावर समन्वित पावले उचलावी लागतील.
प्रश्न 7: अमेरिकेचे राष्ट्राध्यक्ष डोनाल्ड ट्रम्प यांचे या मुद्द्यावर काय म्हणणे आहे?
उत्तर: टेक उद्योगाच्या या इशाऱ्यांच्या उलट अमेरिकेचे राष्ट्राध्यक्ष डोनाल्ड ट्रम्प यांनी सुरक्षा संबंधित या आशंकांना फारसे महत्त्व दिले नाही. ट्रम्प यांनी अलीकडेच म्हटले होते की त्यांची मुख्य चिंता ही आहे की जर अमेरिकेने AI ची ही शर्यत जिंकली नाही, तर देश खूप वाईट परिस्थितीत पोहोचेल. ते जागतिक स्पर्धेत अमेरिकेचे वर्चस्व टिकवून ठेवण्यावर अधिक भर देत आहेत.
प्रश्न 8: सिलिकॉन व्हॅलीमध्ये या पावलावर काय टीका होत आहे?
उत्तर: अनेक टेक तज्ञ आणि गुंतवणूकदार याला सुरक्षेऐवजी ‘बाजार मक्तेदारी’चा प्रयत्न मानत आहेत. टेक गुंतवणूकदार चमाथ पालिहापतिया यांनी आरोप केला की अमोदेई ओपन सोर्स तंत्रज्ञान थांबवून आणि सर्व तांत्रिक आणि आर्थिक शक्ती आपली कंपनी अँथ्रोपिकच्या हातात एकवटण्याचा प्रयत्न करत आहेत.
समीक्षकांचे असेही म्हणणे आहे की, कारण ॲन्थ्रोपिक आणि ओपनएआय दोन्हीही विक्रमी IPO आणण्याच्या तयारीत आहेत, त्यामुळे अशी मोठी विधाने केवळ त्यांच्या तंत्रज्ञानाची क्रेझ वाढवण्यासाठी एक मार्केटिंग डावपेच देखील असू शकतात.
