नवी दिल्ली6 मिनिटांपूर्वी
- कॉपी लिंक
ChatGPT तयार करणाऱ्या कंपनी OpenAI चे सुरक्षा तज्ज्ञ डेव्हिड रॉबिन्सन यांनी राजीनामा दिला आहे. त्यांनी इशारा दिला आहे की, मोठ्या तंत्रज्ञान कंपन्या नवीन AI तयार करण्याच्या शर्यतीत खूप घाई करत आहेत आणि त्यासोबत असलेल्या मोठ्या धोक्यांकडे दुर्लक्ष करत आहेत.
रॉबिन्सन यांनी अमेरिकेच्या ‘द अटलांटिक’ मासिकातील एका लेखात लिहिले की, AI कंपन्या सर्वसामान्य लोकांच्या सुरक्षेशी खेळ करत आहेत. AI कडे सामान्य सॉफ्टवेअरप्रमाणे नव्हे, तर अणुऊर्जा प्रकल्पाप्रमाणे पाहिले पाहिजे.
जसे अणुऊर्जा प्रकल्पात सुरक्षेच्या अनेक व्यवस्था असतात आणि प्रत्येक काम अतिशय विचारपूर्वक व सावधपणे केले जाते, जेणेकरून माणसाच्या एका चुकीमुळेही मोठी दुर्घटना घडू नये, अगदी त्याचप्रमाणे AI साठीही नियम बनवले पाहिजेत. AI च्या बाबतीत आपल्याला पहिल्याच प्रयत्नात १०० टक्के सुरक्षा सुनिश्चित करावी लागेल, कारण येथे चुकीला कोणतीही मुभा नाही.
OpenAI चाचणी आणि चुकांच्या भरोशावर चालत आहे
रॉबिन्सन यांनी सांगितले की, OpenAI आतापर्यंत ‘चाचणी आणि चुका’ म्हणजेच ‘चुका करा आणि त्यातून शिका’ या पद्धतीने काम करत आली आहे. साध्या ॲप किंवा सॉफ्टवेअरमध्ये ही पद्धत चालून जाते; मात्र आता AI पूर्वीपेक्षा कितीतरी अधिक शक्तिशाली आणि बुद्धिमान झाला आहे.
अशा परिस्थितीत आता एखादी चूक झाली, तर तिचे नुकसान खूप मोठे होऊ शकते. त्यांनी सांगितले की, चाचणीदरम्यान अनेकदा असे घडले की कंपनीचा AI त्यांच्या नियंत्रणाबाहेर गेला आणि त्याला अनियंत्रित होण्यापासून रोखता आले नाही.
AI कंपन्यांकडे सुरक्षिततेचे कोणतेही सूत्र नाही
रॉबिन्सन यांच्या मते, सध्या स्वतः एआय कंपन्यांनाही हे तंत्रज्ञान १००% सुरक्षित कसे बनवायचे, याची माहिती नाही. मात्र, कंपनीबाहेरील संशोधक आणि तज्ज्ञांकडे यावर उपाय आहेत.
ते म्हणाले की, त्यांच्यासोबत काम करणारे लोक अतिशय बुद्धिमान आणि मेहनती आहेत; पण अडचण अशी आहे की कंपनीचे लक्ष सुरक्षिततेवर नसून, शक्य तितक्या लवकर नवीन फीचर्स लॉन्च करण्याच्या स्पर्धेवर आहे.
एआयच्या ‘गॉडफादर’चा इशारा, एआयमुळे मानवी सभ्यता संपुष्टात येऊ शकते
गेल्या काही आठवड्यांत केवळ OpenAIच नव्हे, तर जगातील अनेक मोठ्या एआय कंपन्यांमधील कर्मचारी आणि संशोधकांनी इशारा दिला आहे की, एआयमुळे भविष्यात मोठ्या प्रमाणात विध्वंस होऊ शकतो.
नोबेल पुरस्कार विजेते आणि AI विकसित करणाऱ्या प्रमुख शास्त्रज्ञांपैकी एक असलेल्या जेफ्री हिंटन यांनी तर इतकेही म्हटले आहे की, AI वर वेळीच नियंत्रण ठेवले नाही, तर एक दिवस हे तंत्रज्ञान मानवजातीचे अस्तित्वच संपवू शकते.
अँथ्रोपिकच्या CEO यांनीही AI विकासाचा वेग कमी करण्याचा सल्ला दिला
AI कंपनी ‘अँथ्रोपिक’चे CEO डारियो अमोदेई AI विकासाचा वेग कमी करण्याबाबत बोलले आहेत.
अमोदेई यांनी सांगितले की, त्यांची कंपनी आपल्या सर्वात प्रगत AI मॉडेल्सची तपासणी करण्यासाठी बाह्य तज्ज्ञांची मदत घेणार आहे.
विशेष बाब म्हणजे OpenAI चे CEO सॅम ऑल्टमन यांनीही डारियो अमोदेई यांच्या या प्रस्तावाला सार्वजनिकरित्या पाठिंबा दिला आहे.
