तुम्ही तुमच्या आजाराची लक्षणे गुगलवर शोधता किंवा उपचारांसाठी एखाद्या एआय चॅटबॉटचा सल्ला घेत आहात का? जर होय, तर सावध व्हा. ज्याला तुम्ही तुमचा सहानुभूतीशील डॉक्टर समजून मनातील गोष्टी सांगत आहात, तो प्रत्यक्षात केवळ कोड आणि डेटाचा एक गठ्ठा असू शकतो. अमेरिकेतील पेनसिल्व्हेनिया प्रांताने ‘कॅरेक्टर.एआय’ नावाच्या कंपनीवर अशाच एका प्रकरणात ऐतिहासिक खटला दाखल केला आहे. आरोप आहे की या कंपनीचे चॅटबॉट्स स्वतःला ‘परवानाधारक डॉक्टर’ असल्याचे सांगून लोकांच्या आरोग्याशी खेळत आहेत, कारण चॅटबॉट्स केवळ डेटाची पुनरावृत्ती करतात. त्यांना कोणतीही नैतिकता नसते. तपासकर्त्याने पकडले खोटे पेनसिल्व्हेनियाचे हे प्रकरण नुकतेच उघडकीस आले, जेव्हा एका तपास अधिकाऱ्याने या प्लॅटफॉर्मवर ‘सायकियाट्री’ (मनोचिकित्सा) शोधले. तेथे त्याला एक असे ‘कॅरेक्टर’ मिळाले, ज्याने दावा केला की तो एक डॉक्टर आहे. या प्रकरणाने आश्चर्यचकित झालेल्या प्रांताचे गव्हर्नर जोश शापिरो म्हणाले, ‘पेनसिल्व्हेनियाचे लोक हे जाणून घेण्यास पात्र आहेत की ते माणसाशी बोलत आहेत की मशीनशी. आम्ही एआयला डॉक्टरीच्या नावाखाली लोकांना दिशाभूल करण्याची परवानगी देणार नाही.’ तंत्रज्ञान औषध असू शकत नाही एआयच्या या ‘डॉक्टर अवतारा’ची गडद बाजू भयानक आहे. अलीकडेच एका महिलेने गूगल आणि कॅरेक्टर एआयवर खटला दाखल केला. त्यात आरोप होता की चॅटबॉटने तिच्या किशोरवयीन मुलाला आत्महत्येसाठी प्रवृत्त केले होते. कार्नेगी मेलन युनिव्हर्सिटीचे नैतिकता तज्ज्ञ डेरेक लेबेन म्हणतात, ‘एआयला ‘वैद्यकीय सराव’ (मेडिकल प्रॅक्टिस) साठी दोषी मानले जाऊ शकते का, यावर हे प्रकरण संपूर्ण जगासाठी एक उदाहरण बनेल.’ तर, कॉमन सेन्स मीडियाच्या अमीना फजलुल्लाह यांचे म्हणणे आहे की, सोशल मीडियाप्रमाणेच एआयची स्वयं-नियमन प्रणाली देखील अयशस्वी ठरत आहे, ज्यामुळे मुलांना आणि मानसिकदृष्ट्या दुर्बळ लोकांना सर्वाधिक धोका आहे. खऱ्याचा भ्रम: चौकशीत एआय कंपनीचे खोटे उघड झाले अमेरिकेतील कॅरेक्टर टेक्नॉलॉजीज इंक (कॅरेक्टर एआयचे संचालक) वर ‘अवैध वैद्यकीय सराव’ केल्याचा आरोप ठेवण्यात आला आहे. पहिल्यांदाच एखाद्या एआय कंपनीवर असा खटला दाखल करण्यात आला आहे. तपासणीत असे आढळून आले की ‘एमिली’ नावाच्या कॅरेक्टरला ‘डॉक्टर ऑफ सायकियाट्री (मनोचिकित्सक)’ असे लेबल देण्यात आले होते. एमिलीने खोटे दावे केले. एक परवाना क्रमांकही दिला, जो बनावट होता. इम्पीरियल कॉलेज लंडनमधून वैद्यकीय शिक्षण घेतल्याचा दावा करत सांगितले की, 7 वर्षांचा अनुभव आहे आणि ब्रिटनमध्ये सराव करते.
Source link
एआय चॅटबॉटचा खोटा दावा:ब्रिटनमधून वैद्यकीय शिक्षण, 7 वर्षांचा अनुभव; बनावट परवाना क्रमांकही दिला, प्रथमच AI कंपनीवर खटला
