उत्पीड़न के इरादे से बनाया गया डीपफ़ेक कंटेंट

समीर हिंदूजा और जस्टिन डब्ल्यू. पैचिन ने लिखा है

14 सितंबर, 2023

अच्छी रोशनी वाले एक ऑफ़िस में दो लोग डेस्कटॉप कंप्यूटर पर कुछ देख रहे हैं और काम कर रहे हैं.

डीपफ़ेक क्या है?

“डीपफ़ेक” शब्द, दो शब्दों “डीप लर्निंग और फ़ेक” से मिलकर बना है. यह शब्द तब उपयोग में आने लगा, जब यूज़र्स की ऑनलाइन कम्युनिटी ने एक-दूसरे के साथ सेलेब्रिटीज़ का फ़ेक पॉर्न कंटेंट को शेयर करना शुरू किया. डीपफ़ेक कंटेंट बनाने के लिए, आर्टिफ़िशियल इंटेलिजेंस सॉफ़्टवेयर का उपयोग करके एकदम असली जैसा लगने वाला फ़ेक कंटेंट (जैसे फ़ोटो और वीडियो) बनाया जाता है और उसे असली कंटेंट बताकर शेयर किया जाता है. कंप्यूटिंग की क्षमता का उपयोग करके लर्निंग मॉडल बनाए जाते हैं और वे चेहरे की मुख्य विशेषताओं और शरीर के हाव-भाव/पोज़िशन पर अच्छी तरह ध्यान देकर बहुत सारे कंटेंट (जैसे किसी व्यक्ति के कई घंटे लंबे वीडियो, किसी व्यक्ति की हज़ारों फ़ोटो) का एनालिसिस कर सकते हैं.

फिर एनालिसिस से मिले इस डेटा का एल्गोरिद्म के ज़रिए उन फ़ोटो/फ़्रेम पर उपयोग किया जाता है, जिनसे कोई व्यक्ति डीपफ़ेक बनाना चाहता है. (जैसे ओरिजनल कंटेंट के साथ किसी और व्यक्ति के लिप मूवमेंट (और आवाज़ में डबिंग) का उपयोग करना, ताकि ऐसा लगे जैसे वह व्यक्ति ऐसी कोई बात कह रहा है, जो उसने असल में कभी कही ही नहीं है). इनमें अन्य तकनीकों, जैसे चीज़ों को एकदम असली जैसा दिखाने के लिए आर्टिफ़ैक्ट जोड़ने (जैसे ऐसी “गड़बड़ी”, जो सामान्य या घटना से संबंधित दिखाई देती है) या मास्किंग/एडिटिंग का भी उपयोग किया जाता है. इन सब तरीकों से बनाया गया कंटेंट एकदम सच लगने लगता है. अगर आप वेब पर डीपफ़ेक के उदाहरण सर्च करने जाएँगे, तो आप यह देखकर कर हैरान हो जाएँगे कि वे एकदम असली जैसे दिखते हैं. नीचे कुछ ज़रूरी बातें दी गई हैं, जिनका उपयोग आप अपने बच्चे को किसी भी संभावित डीपफ़ेक का शिकार होने से बचाने के लिए कर सकते हैं. साथ ही, इनके ज़रिए आप उन्हें सच और झूठ के बीच का अंतर समझा सकते हैं.

एक व्यक्ति, ग्रीन स्क्रीन के सामने बात कर रहा है और शूटिंग टीम, कैमरे और बूम माइक के साथ शूटिंग कर रही है.

डीपफ़ेक को पहचानने का तरीका

जैसे-जैसे टेक्नोलाॅजी बेहतर होती जा रही है, वैसे-वैसे डीपफ़ेक कंटेंट भी और असली जैसा बनता जा रहा है. डीपफ़ेक कंटेंट की पहचान अक्सर फ़ोटो या वीडियो कंटेंट में कुछ चीज़ों को ध्यान से देखकर की जा सकती है (जैसे आँखों का सामान्य तरीके से न झपकना). मुँह, गर्दन/कॉलर या छाती के आस-पास ज़ूम इन करके असामान्य या धुँधले किनारों को ढूँढने से आपको ऐसे कंटेंट की पहचान करने में मदद मिल सकती है. अक्सर ओरिजनल कंटेंट और उसके ऊपर जोड़े गए कंटेंट के बीच इन्हीं जगहों पर गड़बड़ी और असमानता दिखाई देती है.

वीडियो में आप क्लिप की स्पीड धीमी करके उसकी अलग-अलग फ़्रेम में मौजूद अनियमितताओं, जैसे लिप सिंक की गड़बड़ियों या कमियों को ढूँढ सकते हैं. इसके अलावा, इन चीज़ों पर भी ध्यान दें कि वीडियो में व्यक्ति जो बात कह रहा है, क्या उसके चेहरे पर उससे संबंधित भाव आ रहे हैं या नहीं, क्या वह किसी शब्द को गलत तरीके से बोल रहा है या क्या वीडियो में दूसरी कुछ अजीब तरह की गड़बड़ियाँ दिख रही हैं. आखिर में, फ़ोटो (या किसी वीडियो का स्क्रीनशॉट) का मुख्य सोर्स पता लगाकर छेड़छाड़ से पहले के ओरिजनल वीडियो के बारे में जाना जा सकता है. ऐसा करते समय दोनों कंटेंट की ध्यान से तुलना करें और पता लगाएँ कि उनमें से किसके साथ छेड़छाड़ की गई है. सबसे ज़रूरी बात यह है कि आपको अपनी आँखों और कानों पर भरोसा होना चाहिए; जब हम कंटेंट की स्पीड धीमी करके उसे ध्यान से देखते और सुनते हैं, तो आम तौर पर हमें पता चल जाता है कि उसमें कोई गड़बड़ी है.

गहरे रंग की लिपस्टिक लगाई हुई एक महिला का क्लोज़-अप, जिसमें उसने अपने चेहरे का ऊपरी हिस्सा हाथ से छिपाया हुआ है.

अपने टीनएजर बच्चे को यह ज़रूर बताएँ कि वे जो भी चीज़ ऑनलाइन पोस्ट करते हैं, उससे डीपफ़ेक बनाया जा सकता है. हो सकता है कि उनके सोशल मीडिया अकाउंट पर, उन्होंने जो कंटेंट पोस्ट किया है, अन्य लोग उसे एक्सेस कर सकते हैं और बिना उनकी सहमति के उसमें छेड़खानी कर सकते हैं. उनके चेहरे, बॉडी मूवमेंट, आवाज़ और अन्य विशेषताओं को उनकी परमिशन के बिना कॉपी करके किसी ऐसे व्यक्ति के चेहरे या शरीर पर लगाया जा सकता है, जो ऐसी गतिविधियों में शामिल हो, जिनसे आपके बच्चे की प्रतिष्ठा को बहुत नुकसान पहुँच सकता है. इस बारे में अपने बच्चे से बातचीत शुरू करने के लिए, यहाँ कुछ सवाल दिए गए हैं, जिन्हें आपको इस तरह पूछना है कि उन्हें लगना चाहिए कि आप उनकी बात समझने की कोशिश कर रहे हैं, न कि उन्हें दोषी ठहरा रहे हैं:

क्या ऐसा हुआ है कि आपने कभी किसी ऐसे व्यक्ति की फ़्रेंड रिक्वेस्ट स्वीकार की हो, जिससे आगे चलकर आपका झगड़ा हो सकता है या वह आपके साथ प्रतिस्पर्धा कर सकता है?
क्या आपको किसी ऐसे व्यक्ति ने नुकसान पहुँचाया है, जिसके बारे में आपने कभी नहीं सोचा था कि वह ऐसा कर सकता है? क्या ऐसा फिर से हो सकता है?
नए फ़ॉलोअर या फ़्रेंड रिक्वेस्ट मिलने पर, क्या आप उनकी प्रोफ़ाइल के असली या नकली होने की जाँच करते हैं? क्या आप उन पर भरोसा कर सकते हैं?
क्या आपके किसी भी दोस्त की पोस्ट का कभी किसी अन्य अनधिकृत तरीके से उपयोग किया गया है? क्या आपके साथ ऐसा हो सकता है?

अगर हम डीपफ़ेक कंटेंट के कारण होने वाले भावनात्मक, मनोवैज्ञानिक नुकसान और किसी की सामाजिक छवि को पहुँचने वाले नुकसान के बारे में बात करें, तो इसका इतना खराब असर पड़ता है कि यह कंटेंट टीनएजर बच्चों के जीवन को बहुत बुरी तरह प्रभावित कर सकता है. चूँकि इंसानों से कई चीज़ों को ठीक से सुनने, देखने या टाइमिंग से जुड़ी गलतियों का पता लगाने में चूक हो सकती है, इसलिए फ़ोटो या वीडियो कंटेंट में मौजूद गड़बड़ियों को पकड़ने और उन्हें फ़्लैग करने के लिए सॉफ़्टवेयर को बेहतर बनाया जा रहा है. जैसे-जैसे टेक्नोलाॅजी बेहतर हो रही है, माता-पिता, बच्चों की देखभाल करने वाले लोगों और युवाओं के साथ समय बिताने वाले वयस्कों को डीपफ़ेक की असलियत के बारे में जागरूकता फैलानी चाहिए, उन्हें बच्चों को बताना चाहिए कि डीपफ़ेक बनाने या उसे शेयर करने के क्या खतरे हो सकते हैं और बच्चों को ऐसी किसी भी स्थिति में पड़ने से बचाना चाहिए. साथ ही, अपने टीनएजर बच्चे को यह भरोसा दिलाएँ कि डीपफ़ेक से जुड़ी किसी भी परेशानी (और ऑनलाइन तौर पर नुकसान पहुँचाने वाले किसी अन्य मामले में भी) से बाहर निकलने में उनकी मदद करने के लिए आप हमेशा उनके साथ हैं.

फ़ीचर्स और टूल्स

रोज़ की समय-सीमा सेट करें

Instagram पर मौजूद निगरानी वाले टूल

ब्रेक लें

समय-सीमा सेट करना

उत्पीड़न के इरादे से बनाया गया डीपफ़ेक कंटेंट

डीपफ़ेक क्या है?

डीपफ़ेक को पहचानने का तरीका

फ़ीचर्स और टूल्स

संबंधित रिसोर्स