दिल्ली से मनीषा झा के साथ सुप्रतिम बनर्जी की रिपोर्ट

Big Deepfake Investigation: नवरात्रि पर गरबा करते पीएम मोदी? चौंक गए ना आप। जी हां 8 नवंबर को सोशल मीडिया पर गरबे का एक वीडियो वायरल होता है। वीडियो में ठीक प्रधानमंत्री मोदी की तरह दिखने वाला एक शख्स कुछ महिलाओं के साथ डांडिया खेलता हुआ दिखाई देता है। देखते ही देखते सोशल मीडिया पर लोग इस वीडियो को ले उड़ते हैं। कोई इस वीडियो के बहाने पीएम मोदी के डांसिंग स्किल की तारीफ करने लगता है, तो कोई इस वीडियो के बहाने पीएम मोदी को निशाने पर लेता है। एक्ट्रेस रश्मिका मंडाना का बोल्ड अवतार? इसने भी लोगों को चौंकाया। इससे बमुश्किल तीन रोज पहले यानी 5 नवंबर को बालीवुड एक्ट्रैस रश्मिका मंडाना का एक वीडियो सामने आता है। वीडियो को देख कर लगता है शायद रश्मिका कहीं से वर्क आउट कर के आ रही हैं। सोशल मीडिया पर इस वीडियो को भी लोग बड़े चटखारे लेकर शेयर करते हैं उनके कपड़ों से लेकर पूरे अपियरेंस तक पर कमेंट्स की बाढ़ सी आ जाती है।

नए दौर का नया सरदर्द डीपफेक क्यों है खतरनाक

कैटरीना कैफ़ का ये 'सीन' तो नहीं देखा! अब ये तीसरी तस्वीर देखिए। 7 नवंबर को फिल्म टाइगर थ्री का एक सीन अचानक से सुर्खियों में आ आ जाता है क्योंकि इस सीन में बॉलीवुड अभिनेत्री कैटरीना कैफ बिकिनी पहने हुए एक महिला से लड़ती हुई दिखाई दे रही है। कैटरीना की ये तस्वीर भी देखते ही देखते सोशल मीडिया पर फीवर बन कर छा जाती है। आपको बता दें कि हक़ीक़त ये है कि इन वीडियोज़ और तस्वीरों का ये जाल जिन तीन लोगों इर्द-गिर्द बुना गया है, असल में उनका दूर-दूर तक इनसे कोई वास्ता नहीं है। लेकिन जब तक ये सच्चाई सामने आती और जब तक इन तस्वीरों और वीडियोज में दिख रहे लोग इन्हें लेकर अपनी कोई सफाई देते, दुनिया में करोड़ों लोगों ने इन वीडियोज और तस्वीरों को लेकर अपनी राय कायम कर ली और इनमें से भी करोड़ों ऐसे होंगे जो इन तस्वीरों और वीडियोज के पीछे का सच शायद कभी नहीं जान पाएंगे। ऐसे में सवाल ये है कि आखिर इन हालात का जिम्मेदार कौन है? कौन है जो ऐसे फर्ज़ी वीडियोज़ और तस्वीरें सोशल मीडिया पर फ्लोट कर रहा है? ऐसा करने के पीछे उसका मक़सद क्या है? और आखिर वो कौन सी तकनीक है, जो नकली पिक्चर्स और वीडियोज को भी बिल्कुल असली सा बना देती है? तो इन सारे सवालों का जवाब है -- डीप-फेक!

डीपफेक का डीप इन्वेस्टिगेशन

इन तस्वीरों और वीडियोज के बारे में और बात करें, इनके पीछे की पूरी कहानी आपको बताएं, आइए उससे पहले जल्दी से ये समझ लेते हैं कि आखिर ये डीपफेक क्या बला है, जिसने नए दौर में तकरीबन हर इंसान की इज्जत और शख्सियत दांव पर लगा दी है। दरअसल तमाम किस्म के एडिटिंग सॉफ्टवेयर और ऑर्टिफिशियल इंटेलिजेंस की मदद से आज किसी भी तस्वीर या वीडियो को मैनिपुलेट कर या उससे छेड़छाड़ कर उसे बिल्कुल नए रूप में ढाल देना कोई मुश्किल काम नहीं। मसलन तस्वीर भले किसी और की हो, उसे डीपफेक के जरिए कुछ इस तरह से एडिट किया जा सकता है कि देख कर फर्क कर पाना ही मुश्किल हो जाए कि कौन सी तस्वीर असली है और कौन सी नकली? ठीक इसी तरह किसी भी नेता, अभिनेता या सेलिब्रिटी के किसी वीडियो या उसमें कही गई बातों को भी आर्टिफिफिशियल इंटेलिजेंस बेस्ड टूल के ज़रिए कुछ इस तरह से बदला जा सकता है कि देखने और सुनने वाले को ये पता ही ना चले कि वो असली नहीं, बल्कि नकली यानी बनावटी है। नई ज़बान में तस्वीर और वीडियोज़ की इसी एडिटिंग को डीपफेक कहा जाता है। डीप-फेक यानी नकलीपन की ऐसी गहराई, जिसकी थाह लगाना भी मुश्किल हो।

नकलीपन की ऐसी गहराई, जिसकी थाह लगाना भी मुश्किल

असल में शुक्रवार को डीपफेक पर बात करते हुए पीएम मोदी ने उसी वीडियो का जिक्र किया, जिसमें उनके जैसा दिखने वाा एक शख्स गरबा करता हुआ दिखाई दे रहा था। पीएम मोदी ने कहा कि ये बड़ा ही ऑरिजिनल लग रहा था, जबकि उन्होंने बचपन से लेकर अब तक कभी गरबा खेला ही नहीं हालांकि सच्चाई ये है कि जिस वीडियो को पीएम मोदी के गरबा खेलने का वीडियो बताया जा रहा है, वो असल में डीपफेक वीडियो भी नहीं है क्योंकि ना तो उस वीडियो को एआई या किसी दूसरी तकनीक की जरिए एडिट किया गया है और ना ही उसमें कोई मॉर्फिंग जैसी बात है बल्कि ये वीडियो तो पीएम मोदी के एक ऐसा हम शक्ल का है, जो अक्सर अपनी अदाओं से लोगों का मनोरंजन करता है। विकास महंते नाम का ये शख्स पेशे से कारोबारी है, लेकिन वो पीएम मोदी की तरह एक्टिंग भी करता है। विकास ने खुद सोशल मीडिया पर एक वीडियो शेयर कर ये बताया कि लंदन में दिवाली मेले के एक प्रोग्राम में उन्हें चीफ गेस्ट के तौर पर बुलाया गया था।

पीएम मोदी का गरबा वाला डांस

यानी ये वीडियो बेशक डीपफेक वीडियो ना हो, लेकिन इस वीडियो से पीएम मोदी के बारे में लोग राय तो बना ही सकते हैं लेकिन डीपफेक के जरिए जो कुछ हो रहा है, वो बहुत खतरनाक है। रश्मिका मंडाना का ये वीडियो उसी की एक कड़ी है। रश्मिका का ये वीडियो कुछ रोज पहले एक यूजर ने सोशल मीडिया पर शेयर किया, जिसके बाद लोग रश्मिका को लेकर कमेंट करने लगे। बाद में पता चला कि वो वीडियो रश्मिका का नहीं, बल्कि एक ब्रिटिश इंडियन गर्ल जारा पटेल का है जिसे डीपफेक के सहारे बदल कर रश्मिका का कर दिया गया था। असल में इस बात का खुलासा भी सोशल मीडिया पर अभिषेक नाम के एक यूजर ने किया, जिसने ऐसी हरकतों पर रोक लगाने के लिए सख्त कानून की वकालत की और अहम बात ये रही इस बात खुद बॉलीवुड के शहंशाह अमिताभ बच्चन ने भी इसे कानून के लिए एक अहम मामला बताते हुए मुहर लगा दी। लेकिन सच्चाई यही है कि इस डीपफेक वीडियो ने रश्मिक मंडाना को जोर का झटका दिया और उन्हें इस वीडियो को लेकर अपनी सफाई देनी पड़ी। रश्मिका ने ट्वीट कर बताया कि इस वीडियो से उन्हें बहुत धक्का लगा है। अगर ऐसा कोई वीडियो उनके स्कूल या कॉलेज में रहने के दौरान किसी ने शेयर कर दिया होता, तो उन्हें नहीं पता कि वो तब उन हालात से कैसे मुकाबला करतीं?

कैटरीना की बिकिनी वाली तस्वीरें

अब आइए कैटरीना कैफ की उस डीपफेक तस्वीर की बात करते हैं, जिसने इन दिनों सोशल मीडिया में सनसनी फैला रखी है। इस तस्वीर में कैटरीना बिकिनी पहने हुए एक को-एक्टर से फाइट करती हुई दिख रही हैं, लेकिन असल में टाइगर थ्री फिल्म का सीन है, जिसमें कैटरीना बिकिनी में नहीं, बल्कि टावल पहने हुए ये सीन कर चुकी हैं लेकिन किसी ने एआई के जरिए कैटरीना की तस्वीर से टावल हटा कर उसे बिकिनी में बदल दिया है। असल में पहले फोटोशॉप और दूसरे टूल्स की मदद से लोग किसी की तस्वीर को मॉर्फ किया करते थे, किसी वीडियो में छेड़छाड़ करते थे लेकिन डीपफेक इससे आगे की कहानी हैं। इसमें फेक वीडियो को इतनी बारीकी से एडिट किया जाता है कि वो रियल लगने लगती है। इसके लिए एक एल्गोरिदम को उस शख्स के हाई क्वालिटी फोटोज और वीडियोज के जरिए ट्रेन किया जाता है जिसे डीप लर्निंग कहते हैं। इसके बाद दूसरे वीडियो में इसी एल्गोरिदम की मदद से किसी एक हिस्से को मॉर्फ कर दिया जाता है। इस तरह से एडिट किया गया वीडियो पूरी तरह से रियल लगता है।

डीपफेक और ऑरिजिनल में कैसे करें फ़र्क

यहां तक कि वीडियो में सुनाई दे रही आवाज को बदल कर उसकी जगह नई आवाज का इस्तेमाल करने के लिए वॉयस क्लोनिंग तकनीक की भी मदद ली जाती है और जब वीडियो और ऑडियो दोनों हुबहू मिलने लगे, तो जाहिर है उसे देखने वाले लोगों के लिए असली और नकली का फर्क करना मुश्किल हो जाता है और यहीं से असली परेशानी की शुरुआत होती है। नए दौर का नया सरदर्द डीपफेक क्या है, ये तो हमने समझ लिया लेकिन अब सवाल है कि अगर ऐसी कोई तस्वीर या वीडियो सामने आ जाए, तो ये कैसे समझें कि ये डीपफेक है या नहीं? यानी डीपफेक और ऑरिजिनल का फ़र्क कैसे करें? तो आइए आज आपको डीपफेक के इतिहास में झांकने से लेकर इसे लेकर कानून के नजरिए और इसकी पहचान के बारे में सिलसिलेवार तरीके से बताते हैं।

तो सबसे पहले बात डीपफेक और ऑरिजनल के बीच के फ़र्क की जैसा कि इन दोनों शब्दों से ही समझ में आता है डीपफेक मतलब नकली जबकि ऑरिजनल मतलब असली तो डीपफेक की पहचान करने के लिए ऐसी तस्वीरों या वीडियोज को ध्यान से देखना जरूरी है।

मसलन अगर आप किसी वीडियो की जांच कर रहे हैं, तो सबसे पहले आपको उस शख्स के फेशियल एक्सप्रेस को बारीकी से देखना और समझना होगा और फिर लिप सिंक पर भी ध्यान देना होगा। फेशियल एक्सप्रेशन यानी चेहरे की भाव भंगिमाएं, जबकि लिप सिंक मतलब जो शब्द बोले जा रहे हैं, वीडियो में दिख रहे व्यक्ति के होंठों की बनावट उसी रूप में हो रही है या नहीं। इसके अलावा तस्वीरों को ज़ूम करके भी ऐसे वीडियोज और स्टिल की सच्चाई जानी जान सकती है। असली और नकली तस्वीर का फर्क समझ में आ जाता है। इन सबके अलावा रिवर्स इमेज सर्च भी किया जा सकता है। किसी डीपफेक वीडियो का स्क्रीनशॉट लेकर उसे गूगल पर सर्च किया जा सकता है। अगर उस फोटो से मिलता कोई कंटेंट ऑनलाइन मौजूद होगा, तो गूगल पर इसका रिजल्ट मिल जाएगा। इसके अलावा आंखों का मूवमेंट, बैकग्राउंड और दूसरी डिटेल्स भी चेक की जा सकती है।

अब बात आखिर इस डीपफेक की शुरुआत कब और कैसे हुई? मतलब इसका इतिहास क्या है? तो जैसा कि आप जानते हैं कि-

डीप फेक मतलब डीप लर्निंग और फेक। डीप लर्निंग में सबसे पहले नई तकनीकों, खास कर जनरेटिंग एडवर्सरियल नेटवर्क जिसे जीएएन भी कहते हैं, उसकी स्टडी जरूरी है। जीएएन में दो नेटवर्क होते हैं, जिसमें एक जेनरेट यानी नई चीज़ें प्रोड्यूस करता है, जबकि दूसरा दोनों के बीच के फर्क का पता करता है और फिर जब इन दोनों की मदद से एक ऐसा सिंथेटिक यानी बनावटी डेटा जेनरेट किया जाता है, जो असल से काफी हद तक मिलता जुलता हो, तो वही डीप फेक है। इतिहास की बात करें तो साल 2014 में पहली बार इयन गुडफ्लो और उनकी टीम ने इस तकनीक को विकसित किया और फिर धीरे-धीरे इस डीपफेक तकनीक में नई-नई तब्दीलियां की जाती रहीं।

खास बात ये है कि शुरू में डीप फेक तकनीक का इस्तेमाल नकारात्मक तरीके से नहीं होता था और ना ही इससे कोई नुकसान था। मसलन किसी फिल्म में किसी किरदार का या किसी खास हालत का पिक्चराइजेशन करना हो, लेकिन उसके लिए रिसोर्स ना हो, तो डीप फेक तकनीक की मदद ले ली जाती लेकिन जैसे-जैसे इस तकनीक ने तरक्की की, इस काम में बारीकी आती रही और असली नकली का फर्क करना भी मुश्किल होने लगा और अब जब ये तकनीक सबके हाथों में हैं, इसका धड़ल्ले से बेजा इस्तेमाल शुरू हो चुका है।

अब बात डीपफेक से मुकाबले के लिए हमारे पास मौजूद कानून की-

आईटी एक्ट 2000 किसी भी इंसान को उसकी प्राइवेसी को लेकर सुरक्षा प्रदानकरता है। ऐसे में अगर कोई डीप फेक वीडियो या तस्वीर किसी की मर्जी के बगैर बना कर कोई कानून तोड़ता है, तो उसके खिलाफ शिकायत की जा सकती है।
इस कानून की धारा 66 डी के तहत किसी को गुनहगार पाये जाने पर उसे तीन साल तक की सजा और 1 लाख तक का जुर्माना हो सकता है।
आईटी एक्ट में ही सोशल मीडिया प्लेटफॉर्म्स की भी जिम्मेदारी तय की गई है, जिसमें किसी आदमी की प्राइवेसी को प्रोटेक्ट करना जरूरी है। ऐसे में अगर किसी प्लेटफॉर्म को ऐसे किसी डीपफेक मेटेरियल के बारे में जानकारी मिलती है, तो शिकायत मिलने के 24 गंटे के अंदर उसे हटाना उस सोशल मीडिया प्लेटफॉर्म की जवाबदारी है।
डीपफेक के जरिए किसी का अपमान करने पर उस पर आपीसी की धारा 499 और 500 के तहत मानहानि का केस किया जा सकता है।
डेटा चोरी कर या हैकिंग कर अगर कोई डीप फेक तैयार किया जाता है, तो पीड़ित आईटी एक्ट के तहत शिकायत कर सकता है। इसी तरह किसी सामग्री की चोरी होने पर कॉपी राइट एक्ट 1957 के तहत गुनहगार के खिलाफ कार्रवाई की जा सकती है।
इसके अलावा उपभोक्ता संरक्षण अधिनियम यानी कंज्यूमर्स प्रोटेक्शन एक्ट 2019 के तहत भी पीड़ित इंसान अदालत में अपनी फरियाद लेकर जा सकता है।

इस लिहाज से देखें तो डीप फेक से मुकाबले का कानून हथियार भारत में मौजूद है... बस कानून का उल्लंघन किए जाने पर अपने अधिकार के मुताबिक उससे निपटना जरूरी है।

Crimetak Articles