चेन्नई9 मिनिटांपूर्वी
- कॉपी लिंक
तामिळनाडूचे मुख्यमंत्री सी. जोसेफ विजय यांच्या AI डीपफेक व्हिडिओद्वारे लोकांना फसवण्याचा प्रयत्न केल्याचे प्रकरण समोर आले आहे. तामिळनाडू पोलिसांनी CB-CID ने 1 सप्टेंबर रोजी गुन्हा दाखल करून तपास सुरू केला आहे.
व्हिडिओमध्ये विजय यांच्यासारखा दिसणारा व्यक्ती हिंदीमध्ये लोकांशी बोलताना आर्थिक मदतीसाठी एका व्हॉट्सॲप नंबरवर संपर्क साधण्यास सांगत होता.
हा बनावट व्हिडिओ फेसबुकसह अनेक सोशल मीडिया प्लॅटफॉर्मवर पसरवून लोकांना फसवण्याचा प्रयत्न करण्यात आला. तपासात काही बनावट व्हिडिओ आणि सोशल मीडिया खाती पाकिस्तानमधून चालवली जात असल्याची शक्यता समोर आली आहे.
तपासात एक नाही, तर अनेक डीपफेक व्हिडिओ आढळले
CB-CID च्या प्राथमिक तपासणीत विजयच्या नावाने आर्थिक मदतीचा दावा करणारे अनेक AI डीपफेक व्हिडिओ आढळले आहेत. हे विविध सोशल मीडिया प्लॅटफॉर्मवर शेअर केले जात होते.
तपासणीसाठी CB-CID ने फेसबुकची मूळ कंपनी मेटाशी संपर्क साधला आहे. पोलिसांनी बनावट खाती आणि व्हिडिओ अपलोडशी संबंधित लॉगची माहिती मागितली आहे.
तपासणीत व्हिडिओ कोणी बनवला, कोणी अपलोड केला आणि तो पसरवण्यासाठी कोणत्या खात्यांचा आणि नंबरचा वापर केला गेला, याचा शोध घेतला जात आहे.
पोलिसांनी सोशल मीडिया प्लॅटफॉर्म्सना हे व्हिडिओ हटवण्यास आणि त्यांचा प्रसार थांबवण्यास सांगितले आहे. सायबर टीम आरोपींची ओळख पटवण्यात गुंतली आहे.
पोलिसांचे आवाहन- नंबरवर संपर्क साधू नका
तामिळनाडू पोलिसांनी लोकांना आवाहन केले आहे की, अशा व्हिडिओमध्ये दिलेल्या फोन नंबरवर संपर्क साधू नका आणि सांगितलेल्या व्हॉट्सॲप ग्रुपमध्ये सामील होऊ नका.
पोलिसांनी स्पष्ट केले की, मुख्यमंत्र्यांच्या आर्थिक मदतीचा दावा करणारे हे व्हिडिओ बनावट AI डीपफेक आहेत. लोकांना हे व्हिडिओ दुर्लक्षित करण्याचे आणि कुटुंबियांना व नातेवाईकांनाही सावध करण्याचे आवाहन करण्यात आले आहे.
डीपफेक व्हिडिओमध्ये खरे आणि खोटे ओळखणे कठीण
आजच्या डिजिटल युगात, AI च्या मदतीने मूळ फोटो, ऑडिओ आणि व्हिडिओमध्ये बदल करून बनावट सामग्री तयार केली जाऊ शकते. याला डीपफेक म्हणतात. यात खरे आणि खोटे ओळखणे कठीण असते. सोप्या शब्दात सांगायचे तर, डीपफेक हे मॉर्फ व्हिडिओचे प्रगत रूप आहे.
अनेक सेलिब्रिटी AI-डीपफेकचे बळी ठरले आहेत
1. रश्मिका मंदाना: AI वापरून रश्मिकाचा चेहरा लावून बनावट व्हिडिओ तयार करण्यात आला; दिल्ली पोलिसांनी एफआयआर नोंदवून 2024 मध्ये आरोपीला अटक केली.
2. आलिया भट्ट: दुसऱ्या महिलेच्या व्हिडिओवर AI वापरून आलियाचा चेहरा लावण्यात आला; व्हिडिओ व्हायरल झाल्यानंतर वाद निर्माण झाला.
3. काजोल: AI वापरून काजोलचा चेहरा लावून आक्षेपार्ह व्हिडिओ तयार करण्यात आला; या प्रकरणामुळे डीपफेकच्या गैरवापराबद्दल चिंता वाढली.
4. कतरिना कैफ: ‘टायगर 3’ च्या फोटोला AI/डिजिटल एडिटिंगने आक्षेपार्ह बनवण्यात आले; सोशल मीडियावर वाद निर्माण झाला.
5. आमिर खान: निवडणुकीदरम्यान AI व्हिडिओमध्ये बनावट राजकीय आवाहन दाखवण्यात आले; तक्रारीनंतर मुंबई पोलिसांनी एफआयआर (FIR) दाखल केला.
6. रणवीर सिंग: मूळ मुलाखतीचा आवाज AI ने बदलून बनावट राजकीय विधान दाखवण्यात आले; महाराष्ट्र सायबर पोलिसांनी एफआयआर (FIR) दाखल केला.
7. सचिन तेंडुलकर: AI व्हिडिओमध्ये त्यांना बनावट गेमिंग ॲपची जाहिरात करताना दाखवण्यात आले; तक्रारीनंतर मुंबई सायबर पोलिसांनी एफआयआर (FIR) दाखल केला.
8. अनिल कपूर: AI च्या माध्यमातून नाव, फोटो आणि आवाजाच्या वापराच्या विरोधात दिल्ली उच्च न्यायालयात पोहोचले; न्यायालयाने अनधिकृत वापरास प्रतिबंध घातला.
9. अरिजित सिंग: AI प्लॅटफॉर्मवर त्यांच्या आवाजाचा आणि ओळखीचा वापर झाला; बॉम्बे उच्च न्यायालयाने परवानगीशिवाय वापरास प्रतिबंध घातला.
