उत्पीड़न के इरादे से बनाया गया डीपफ़ेक कंटेंट

लेखक: समीर हिंदुजा और जस्टिन डब्ल्यू. पैचिन

14 सितंबर, 2023

रोशनी से भरपूर ऑफ़िस में दो लोग डेस्कटॉप कंप्यूटर पर कुछ देख रहे हैं और साथ मिलकर काम कर रहे हैं.

डीपफ़ेक क्या होता है?

“डीपफ़ेक” शब्द, दो शब्दों “डीप लर्निंग और फ़ेक” से मिलकर बना है. यह शब्द तब बना, जब यूज़र्स की ऑनलाइन कम्युनिटी ने एक दूसरे के साथ सेलेब्रिटीज़ का फ़ेक पॉर्न कंटेंट शेयर करना शुरू किया. डीपफ़ेक कंटेंट बनाने के लिए, आर्टिफ़िशियल इंटेलिजेंस सॉफ़्टवेयर का उपयोग करके एकदम असली जैसा लगने वाला फ़ेक कंटेंट (जैसे फ़ोटो और वीडियो) बनाया जाता है और उसे असली कंटेंट बताकर शेयर किया जाता है. लर्निंग मॉडल, कंप्यूटिंग की क्षमता का उपयोग करके बनाए जाते हैं और वे चेहरे की मुख्य विशेषताओं और शरीर के हाव-भाव/पोज़िशन पर अच्छी तरह ध्यान देकर बहुत सारे कंटेंट (जैसे किसी व्यक्ति के कई घंटे लंबे वीडियो, किसी व्यक्ति की हज़ारों फ़ोटो) का विश्लेषण कर सकते हैं.

इसके बाद, विश्लेषण से मिले इस डेटा को एल्गोरिद्म के ज़रिए उन फ़ोटो/फ़्रेम पर लागू किया जाता है, जिनसे कोई व्यक्ति डीपफ़ेक बनाना चाहता है. (जैसे ओरिजनल कंटेंट के साथ किसी और व्यक्ति के लिप मूवमेंट (और आवाज़ में डबिंग) का उपयोग करना, ताकि ऐसा लगे जैसे वह व्यक्ति ऐसी कोई बात कह रहा है, जो उसने असल में कभी कही ही नहीं है). इनमें अन्य तकनीकों, जैसे चीज़ों को और असली जैसा दिखाने के लिए आर्टिफ़ैक्ट जोड़ने (जैसे ऐसी “गड़बड़ी”, जो सामान्य या घटना से संबंधित दिखाई देती है) या मास्किंग/एडिटिंग का भी उपयोग किया जाता है. इन सब तरीकों से बनाया गया कंटेंट एकदम सच लगने लगता है. अगर आप इंटरनेट पर डीपफ़ेक के उदाहरण सर्च करें, तो आप यह देखकर हैरान रह जाएँगे कि वे एकदम असली लगते हैं. नीचे ध्यान देने लायक कुछ ज़रूरी बातें बताई गई हैं. इनके ज़रिए आप अपने बच्चे को किसी भी संभावित डीपफ़ेक का शिकार होने से बचा सकते हैं और उन्हें सच और झूठ के बीच अंतर करना सिखा सकते हैं.

एक व्यक्ति, ग्रीन स्क्रीन के सामने बात कर रहा है और शूटिंग टीम, कैमरे और बूम माइक के साथ शूटिंग कर रही है.

डीपफ़ेक को पहचानने के तरीके

जैसे-जैसे टेक्नोलाॅजी आगे बढ़ रही है, वैसे-वैसे डीपफ़ेक कंटेंट भी और असली जैसा बनता जा रहा है, उसका पता अक्सर फ़ोटो या वीडियो कंटेंट में कुछ चीज़ों को बारीकी से देखकर लगाया जाता है (जैसे आँखों का सामान्य तरीके से न झपकना). मुँह, गर्दन/कॉलर या छाती के आस-पास ज़ूम इन करके असामान्य या धुँधले किनारों का पता लगाने से आपको ऐसे कंटेंट को पहचानने में मदद मिल सकती है. अक्सर ओरिजनल कंटेंट और उसके ऊपर जोड़े गए कंटेंट के बीच इन्हीं जगहों पर गड़बड़ी और असमानता दिखाई देती है.

वीडियो में आप क्लिप की स्पीड धीमी करके उसकी अलग-अलग फ़्रेम में मौजूद अनियमितताओं, जैसे लिप सिंक की गड़बड़ियों या अस्थिरता को ढूँढ सकते हैं. इसके अलावा, इन चीज़ों पर भी ध्यान दें कि वीडियो में व्यक्ति जो बात कह रहा है, क्या उसके चेहरे पर उससे संबंधित भाव है या नहीं, क्या वह किसी शब्द को गलत तरीके से बोल रहा है या क्या वीडियो में दूसरी कुछ अजीब तरह की गड़बड़ियाँ दिख रही हैं. आखिर में, फ़ोटो (या किसी वीडियो का स्क्रीनशॉट) का मुख्य सोर्स पता लगाकर छेड़छाड़ से पहले के ओरिजनल वीडियो के बारे में जाना जा सकता है. ऐसा करते समय दोनों कंटेंट की ध्यान से तुलना करें और पता लगाएँ कि उनमें से किसमें छेड़छाड़ की गई है. सबसे ज़रूरी बात यह है कि आपको अपनी आँखों और कानों पर भरोसा होना चाहिए; जब हम रुककर कंटेंट को ध्यान से देखते और सुनते हैं, तो आम तौर पर हमें पता चल जाता है कि उसमें कोई गड़बड़ी है.

गहरे रंग की लिपस्टिक वाली एक लड़की का क्लोज़-अप, जिसने हाथ से चेहरे का कुछ हिस्सा छिपाया हुआ है.

अपने टीनएजर बच्चे को यह ज़रूर बताएँ कि वे जो भी चीज़ ऑनलाइन पोस्ट करते हैं, उससे डीपफ़ेक बनाया जा सकता है. हो सकता है कि उनके सोशल मीडिया अकाउंट पर उनके कंटेंट की एक लाइब्रेरी हो, जिसे अन्य लोग एक्सेस कर सकते हैं और उनकी सहमति के उससे छेड़छाड़ कर सकते हैं. उनके चेहरे, हरकतों, आवाज़ और अन्य विशेषताओं को उनकी अनुमति के बिना कॉपी करके किसी ऐसे व्यक्ति के चेहरे या शरीर पर लगाया जा सकता है, जो उनके जैसा ही दिखता हो और हो सकता है कि वह व्यक्ति ऐसी गतिविधियों में शामिल हो, जिनसे आपके बच्चे की प्रतिष्ठा को बहुत नुकसान पहुँच सकता है. इस बारे में बातचीत शुरू करने के लिए, यहाँ कुछ सवाल दिए गए हैं, जिन्हें इस तरह पूछा जाना चाहिए कि उन्हें बुरा न महसूस हो और वे आपकी बात को समझ सकें:

क्या ऐसा संभव है कि आपने कभी किसी ऐसे व्यक्ति की फ़्रेंड रिक्वेस्ट स्वीकार की हो, जिससे आगे चलकर आपका झगड़ा हो सकता है या वह आपके साथ प्रतिस्पर्धा कर सकता है?
क्या आपको किसी ऐसे व्यक्ति ने नुकसान पहुँचाया है जिसके बारे में आपने कभी नहीं सोचा था कि वह ऐसा कर सकता है? क्या ऐसा फिर से हो सकता है?
नए फ़ॉलोअर या फ़्रेंड रिक्वेस्ट मिलने पर, क्या आप उनकी प्रोफ़ाइल के असली या नकली होने की जाँच करते हैं? क्या आप उन पर भरोसा कर सकते हैं?
क्या आपके किसी भी दोस्त की पोस्ट का कभी किसी अन्य अनधिकृत तरीके से उपयोग किया गया है? क्या ऐसा आपके साथ हो सकता है?

अगर हम डीपफ़ेक कंटेंट के कारण होने वाले भावनात्मक और मनोवैज्ञानिक नुकसान तथा किसी की छवि को पहुँचने वाले नुकसान के बारे में सोचें, तो इसमें इतनी क्षमता होती है कि यह कंटेंट टीनएजर बच्चों के जीवन को बहुत बुरी तरह प्रभावित कर सकते हैं. चूँकि इंसानों से कई चीज़ों को ठीक से सुनने, देखने या उनके समय का पता लगाने में चूक हो सकती है, इसलिए फ़ोटो या वीडियो कंटेंट में मौजूद अनियमितताओं को पकड़ने और उन्हें फ़्लैग करने के लिए सॉफ़्टवेयर को बेहतर बनाया जा रहा है. जैसे-जैसे टेक्नोलाॅजी बेहतर हो रही है, माता-पिता, बच्चों की देखभाल करने वाले लोगों और युवाओं के साथ समय बिताने वाले वयस्कों को डीपफ़ेक की असलियत के बारे में जागरूकता फैलानी चाहिए, उन्हें बच्चों को बताना चाहिए कि डीपफ़ेक बनाने या उसे शेयर करने के क्या खतरे हो सकते हैं और बच्चों को ऐसी किसी भी स्थिति में पड़ने से बचाना चाहिए. साथ ही, अपने टीनएजर बच्चे को हमेशा यह भरोसा दिलाएँ कि डीपफ़ेक की किसी भी स्थिति (और ऑनलाइन नुकसान पहुँचाने वाली किसी भी अन्य स्थिति) से उन्हें बाहर निकालने में उनकी मदद करने के लिए, आप हमेशा उनके साथ हैं.

फ़ीचर्स और टूल्स

रोज़ की समय-सीमा सेट करें

Instagram पर मौजूद निगरानी टूल्स

ब्रेक लें

समय-सीमा सेट करें