साइबर क्राइम की दुनिया में ‘Deepfake’ ने बढ़ाई चिंता

“मैं तुम्हें पूरी दुनिया के आगे नंगा कर दूंगा।” ललिता (बदला हुआ नाम) के दिमाग़ में अपने पूर्व पति के ये शब्द अभी भी घूमते हैं। 35 वर्षीय ललिता ने उस समय नहीं सोचा था कि उनके पति का उन शब्दों से क्या मतलब था। लेकिन जब एक शाम उनकी कंपनी की मेल आईडी पर एक मेल आया, तो उसने उनके रोंगटे खड़े कर दिए।

“मेरी कंपनी के मेल आईडी पर एक नंगी तस्वीर आई। इस मेल में मेरे ऑफिस के सभी साथियों को टैग किया गया था। शुरू में तो उस तस्वीर को पूरी तरह खोलने में मुझे डर लगा, लेकिन जब मैंने वह तस्वीर देखी तो उसमें मेरा चेहरा किसी दूसरी लड़की के शरीर पर लगाया गया था। यह तस्वीर मेरे सभी साथियों के पास गई थी।” ललिता उस दिन के बारे में बताते हुए कहती हैं।

ललित बताती हैं कि उनकी साल 2020 में शादी हुई थी, लेकिन उसमें उनकी अक्सर लड़ाई होती थी और उन्हें शारीरिक शोषण का शिकार होना पड़ता था; जिसके कारण उन्होंने अपने पति पर आईपीसी की धारा 498 के तहत घरेलू हिंसा का मुक़दमा दर्ज़ कराया था। हालांकि, उनके ख़राब रिश्ते का वह अन्त नहीं बल्कि एक शुरुआत थी।

वह आरोप लगाती हैं कि जब कभी भी उनकी इस मामले को लेकर कोर्ट में सुनवाई होती थी, तो उनका पति उनकी डीपफेक फोटो उनके ऑफिस के साथियों को मेल पर शेयर करता था। “उन फोटो को शेयर करने का एकमात्र मक़सद होता था कि किसी भी तरह से मुझे उकसाया जाए और मेरा मनोबल कमज़ोर हो,” ललिता कहती हैं।

उसी कड़ी में ललिता बताती हैं कि “मेरे पति ने हद तो तब पार कर दी जब मेरा डीपफेक वीडियो एक पोर्न वेबसाइट पर डाल दिया गया। मुझे उसकी जानकारी तब हुई जब मुझे एक अनजान नंबर से सेक्स वर्कर समझ कर कॉल आया; तब तो मेरे होश ही उड़ गए,” ललिता गुस्से में बताती हैं।

उन्हें बाद में पता चला कि उनके नाम से एक फर्जी ‘रेडिट’ (Reddit) अकाउंट बनाया गया है, जिसके माध्यम से यह वीडियो अपलोड किया गया है। उसके साथ ही वीडियो के कैप्शन में उनका और उनकी मां का नंबर लिखा था। उसके बाद ललिता ने इस मामले में अपने पति के ख़िलाफ़ बैंगलोर पुलिस में एफआईआर दर्ज़ कराई।

यह बात बताते हुए ललिता भावुक हो गईं, “मैं उसकी तुलना रेप से तो नहीं करूंगी, लेकिन मुझे लगा कि मैं पूरी दुनिया के सामने एक्सपोज़ हो गई हूं। यह समझने वाली बात है कि हमारे समाज में आमतौर पर पुरुष और महिला के शरीर को दो अलग नज़रों से देखा जाता है, और इसी सोच के कारण ऐसे मामलों में महिला ही पीड़ित होती है।”

“केस में अपडेट प्राप्त करने के लिए मुझे लगातार पुलिस थाने जाना होता है। उस दौरान पुलिस के सामने मेरी फाइल खुली होती है, जिसमें मेरी आपत्तिजनक तस्वीरें हैं। उस स्थिति में मुझे कैसा लगता होगा?” ललिता गुस्से में पूछती हैं।

ललिता अपनी बात आगे बढ़ाते हुए कहती हैं कि “ऐसे मामलों में अक्सर पुलिस को भी कानून की अधिक जानकारी नहीं होती। यही कारण है कि आज भी पुलिस उन्हें गम्भीरता से नहीं लेती है।” वह बताती हैं कि उनके ख़ुद के मामले में एक साल होने को हैं, लेकिन पुलिस ने चार्जशीट दाखिल नहीं की है।

ललिता आरोप लगाती हैं कि जानकारी के मुताबिक़ उनके पति ने यह डीपफेक वीडियो स्विट्ज़रलैंड के वीपीएन (VPN) से शेयर किया है, इसलिए उन्हें ट्रेस कर पाना मुश्किल है। उनके अनुसार, “भारत और स्विट्ज़रलैंड के बीच जानकरी शेयर करने का कोई करार नहीं है, इसलिए भारत की पुलिस उसमें क्या करेगी।”

प्रतीकात्मक इमेज •

कैसे बनता है डीपफेक का जालतंत्र?

सर्वेश (बदला हुआ नाम) डीपफेक वीडियो बनाने का काम करते हैं। उन्होंने मोजो स्टोरी से बातचीत में बताया कि वह नोएडा की एक आईटी कंपनी में काम करते हैं। उसके अलावा अलग से पैसे कमाने के लिए वह और उनके दो साथी डीपफेक का इस्तेमाल करके मीम बनाते हैं। वह बताते हैं, “किसी व्यक्ति का डीपफेक वीडियो बनाने के लिए आपको किसी डिग्री की ज़रूरत नहीं है। उसके लिए आपको केवल एक बार गूगल करना है और वहां उसकी सारी जानकारी उपलब्ध है।”

सर्वेश ने बताया कि वह डीप फेक का इस्तेमाल सिर्फ़ एंटरटेनमेंट जैसे कंटेंट बनाने के लिए करते हैं। वह सोशल मीडिया के ट्रेंड्स में किसी राजनेता या अभिनेता का चेहरा दूसरे मजाक वाले वीडियो पर लगाकर कॉन्टेंट बनाते हैं।

“आज के समय में क़रीब सबकी तस्वीर सोशल मीडिया पर होती है। उन तस्वीरों में से आपको केवल तीन तरह की तस्वीर ढूंढ़नी होती है - जिसका भी डीपफेक बनाना है; उनके सामने का और बाएं एवं दाएं तरफ़ वाला चेहरा। उसके बाद आप किसी भी वीडियो में उनका चेहरा लगा सकते हैं। नेता और अभिनेता की तस्वीर तो बहुत आसानी से मिल जाती है। यही कारण है कि उनका डीपफेक आसानी से बन जाता है।” सर्वेश बताते हैं।

“रश्मिका मंदना और सारा तेंदुलकर का उदहारण देते हुए सर्वेश बताते हैं की आज के समय में आर्टिफीसियल इंटेलिजेंस (AI) आने के कारण यह काम चुटकियों का खेल हो गया है। ऐसे वीडियो, यूट्यूब और इंस्टाग्राम जैसे सोशल मीडिया प्लेटफार्म पर बहुत तेज़ी से वायरल होते हैं,” सर्वेश अपनी बात में जोड़ते हैं।

प्रतीकात्मक इमेज •

उन्होंने हमें बताया कि अब ऐसे मोबाइल ऐप आ गए हैं जो बेहद आसानी से यह काम कर देते हैं और वह भी बिना एक भी पैसा ख़र्च किए। “यह बहुत ही सरल है, आपको बस अपने गूगल प्ले स्टोर पर टाइप करना है; डीपफेक और वहां कई संबंधित ऐप मिल जाएंगे। जैसे; फेस मैजिक, फेक मी, रिफेस, आई-फेस, फेस ओवर और आई-स्वाप जैसे तमाम एप्लीकेशन फ्री में इंटरनेट पर मौजूद हैं,” सर्वेश अपने फ़ोन में दिखाते हुए कहते हैं।

प्रतीकात्मक इमेज •

क्या कहते हैं आंकड़े और विशेषज्ञ?

होप सिक्योरिटी हीरोज़ (Home Security Heroes) की रिपोर्ट, ‘स्टेट ऑफ डीपफेक रिपोर्ट’ में बताया गया है कि वर्ष 2023 में 2019 की तुलना में डीपफेक के मामलों में 550 परसेंट का इजाफ़ा देखा गया है। वहीं, अमरीकी ऑनलाइन ट्रैफिक एनालिटिक्स सर्विस ‘Semrush’ के मुताबिक़, जुलाई और अगस्त के बीच में टॉप 10 वेबसाइट ने एक्सक्लुसिवली डीपफेक पोर्न को होस्ट किया और ऐसा करके 30 करोड़ अधिक व्यूज हासिल किए। उसमें सबसे आगे ‘MrDeepFakes’ रहा, जिस पर अक्टूबर 2023 के दौरान 11.18 करोड़ यूज़र्स ने विजिट किया है।

साइबर लॉ एक्सपर्ट और सुप्रीम कोर्ट के वकील पवन दुग्गल बताते हैं कि भारत के पास आर्टिफिशियल इंटेलिजेंस या उससे जुड़े क्राइम को रेगुलेट करने वाला कोई स्पष्ट कानून नहीं है। आईटी एक्ट, 2000 में ही संशोधन करके डिजिटल और साइबर क्राइम को जोड़ा गया है।

वह आगे कहते हैं, “जब कोई आपका डीपफेक बनाता है तो वह धारा 468 के तहत अपराध की श्रेणी में आता है। कई बार किसी व्यक्ति की छवि ख़राब करने के लिए भी यह किया जाता है। उस स्थिति में आप धारा 469 के तहत उसके ख़िलाफ़ शिकायत कर सकते हैं।”

डीपफेक के बारे में अधिक जानकारी लेने के लिए हमने ‘दी डायोलॉग’ (The Dialogue) थिंक टैंक की सीनियर प्रोग्राम मैनेजर श्रुति श्रेया से बात की। उन्होंने हाल ही में ‘ब्रेकिंग दा सिलोस’ नाम का रिसर्च पेपर रिलीज़ किया है; जिसका मुख्य उद्देश्य ‘ऑनलाइन सेफ्टी’ के बारे में बताना है।

श्रेया बताती हैं कि डीपफेक ने हम सभी के दिमाग़ में एक संदेह पैदा कर दिया है कि वह जो इंटरनेट पर देख रहे हैं; वह असली है या नक़ली। डीपफेक न केवल चेहरा कॉपी करता है, बल्कि आवाज़ भी हुबहू बना सकता है। ऐसे में बच्चे, महिलाएँ और फेमस पर्सनालिटीज के लिए यह बड़ा खतरा बन चुका है।

इसके कानूनी पहलू पर बात करते हुए श्रुति बताती हैं कि भारत के पास आईटी एक्ट, 2000 का कानून है। यह इंटरनेट और उससे जुड़े सभी मसलों को हल करता है, लेकिन डीपफेक को लेकर हमारे पास कोई प्रावधान नहीं है। हालांकि, भारत में इस आईटी एक्ट में बदलाव करके नए कानून लाने का प्रयास चल रहा है।

वहीं, पवन दुग्गल का कहना है कि “यदि किसी के साथ डीपफेक का मामला घटता है तो पीड़ित चुप न रहें। आप सबसे पहले अपने सभी रिश्तेदार और क़रीबियों को उसकी जानकारी दें। उसके बाद आप सरकारी वेबसाइट ‘cyber.gov.in’ पर अपनी शिकायत दर्ज़ करें। वेबसाइट पर डीपफेक की एक कैटेगरी है, जिसके अन्तर्गत आप उसकी शिकायत दर्ज़ करा सकते हैं। उसके अलावा, ऐसा होने पर आप तुरंत राष्ट्रीय साइबर हेल्पलाइन नंबर 1930 पर कॉल करें।”

वह आगे कहते हैं, “सबसे ज़रूरी बात यह है कि आपका वीडियो जिस भी सोशल मीडिया प्लेटफॉर्म पर है, उनसे आप आईटी नियम, 2021 के तहत 24 घंटे के अन्दर हटाने का अनुरोध करें। सरकार का निर्देश है कि सोशल मीडिया को डीपफेक वीडियो 24 घंटे के अंदर हटाना पड़ेगा।”

“सतर्कता के तौर पर अपना निजी वीडियो और फोटो सोशल मीडिया पर न डालें,” दुग्गल जोड़ते हैं।