डराने-धमकाने के रूप में डीपफ़ेक

“डीपफ़ेक” (“डीप लर्निंग + फ़ेक”) शब्द का तब उपयोग किया गया, जब यूज़र की ऑनलाइन कम्युनिटी ने एक दूसरे के साथ सेलिब्रिटी का नकली पॉर्नोग्राफ़ी संबंधी कंटेंट शेयर करना शुरू किया. डीपफ़ेक कंटेंट के लिए, आर्टिफ़िशियल इंटेलिजेंस सॉफ़्टवेयर का उपयोग बिल्कुल असली लगने वाले मनगढ़ंत कंटेंट (जैसे कि फ़ोटो और वीडियो) बनाने के लिए किया जाता है. यह ऐसा मनगढ़ंत कंटेंट होता है जो एकदम असली लगता है. कंप्यूटिंग की ताकत का उपयोग करके लर्निंग माॅडल बनाए जाते हैं, ताकि चेहरे के मुख्य अंग और शरीर के हाव-भाव/पोजिशन पर ख़ास तौर पर ध्यान देकर काफ़ी मात्रा में कंटेंट (जैसे कि व्यक्ति द्वारा पोस्ट की गई वीडियो को घंटों तक देखना, व्यक्ति की हज़ारों फ़ोटो को देखना) को एनालाइज़ किया जा सके.

इसके बाद, एनालाइज़ करके मिले डेटा का उपयोग ऐसी फ़ोटो/फ़्रेम पर एल्गोरिदम रूप से लागू होता है, जिसके साथ छेड़छाड़ की जानी है है या बनाना है (उदाहरण के लिए, ओरिजनल कंटेंट पर किसी और व्यक्ति का लिप मूवमेंट (और आवाज़ में डबिंग) का उपयोग करना, ताकि ऐसा लगे जैसे कोई व्यक्ति कुछ ऐसा कह रहा है, जो उसने असल में कभी कहा ही नहीं). अतिरिक्त टेक्नीक जैसे कि आर्टिफ़ैक्ट जोड़ना (जैसे वह “गड़बड़ी” जो सामान्य या अचानक से होती हुई दिखती है) या वास्तविकता को बेहतर तरीके से दिखाने के लिए मास्किंग/एडिटिंग का भी उपयोग किया जाता है, इन सब तरीकों से बनाया गया कंटेंट सच लगने लगता है. अगर आप वेब पर डीपफ़ेक के उदाहरण सर्च करते हैं, तो आप जानकर हैरान हो जाएँगे कि वे कितने प्रामाणिक लगते हैं. नीचे ध्यान देने लायक कुछ ज़रूरी बातें दी गई हैं. इनका उपयोग आप अपने बच्चे को किसी भी संभावित डीपफ़ेक का शिकार होने से बचाने के लिए कर सकते हैं. साथ ही, उन्हें सच और झूठ के बीच फ़र्क समझाने के लिए भी इनका उपयोग कर सकते हैं.

जैसे-जैसे टेक्नोलाॅजी का विकास हो रहा है वैसे-वैसे डीपफ़ेक और ज़्यादा वास्तविक होते जा रहे हैं, उनका पता अक्सर फ़ोटो या वीडियो कंटेंट में ख़ास जानकारी को बारीकी से देखकर किया जाता है (उदाहरण के लिए स्वाभाविक रूप से न झपकने वाली आँखें). मुँह, गर्दन/कॉलर या छाती के आस-पास ज़ूम इन करना और असामान्य या ब्लर किए गए एज देखना काफ़ी मददगार साबित हो सकता है. ये वे जगहें होती है जहाँ ओरिजनल कंटेंट और छेड़छाड़ किए गए कंटेंट के बीच गड़बड़ी और असंतुलन देखा जा सकता है.

वीडियो में, क्लिप की स्पीड को कम करके वीडियो दिखाई देने में होने वाली असमानता को पहचाना जा सकता है, जैसे ठीक तरीके से लिप सिंक न होना या वीडियो सही तरीके से दिखाई न देना. इसके अलावा, ऐसे पलों पर नज़र रखना जब व्यक्ति की कही गई बातों में भाव दिखना चाहिए लेकिन उसमें उस भाव की कमी होती है. साथ ही, वह किसी शब्द को गलत तरीके से बोलता है या अन्य तरह की अजीब असमानता देखने को मिलती है. आखिर में, फ़ोटो (या किसी वीडियो का स्क्रीनशॉट) का मुख्य सोर्स पता लगाकर छेड़छाड़ से पहले के ओरिजनल वीडियो के बारे में जाना जा सकता है. उस दौरान, ओरिजनल और उपयोग किए गए कंटेंट के बीच ध्यान से तुलना करें, ताकि यह पता चल सके कि किसमें छेड़खानी की गई है. लेकिन अहम बात यह है कि आपको खुद पर भरोसा होना चाहिए; जब हम कंटेंट को ध्यान से देखते और सुनते हैं, तो आम तौर पर हमें पता चल जाता है कि उसमें कोई गड़बड़ी है.

अपने टीनएजर बच्चे को इस बारे में याद दिलाना ज़रूरी है कि वे ऑनलाइन जो भी चीज़ पोस्ट करते हैं, उसे डीपफ़ेक किया जा सकता है. हो सकता है कि उनके सोशल मीडिया अकाउंट पर, उन्होंने जो कंटेंट सेव किया है, अन्य लोग उसे एक्सेस कर सकते हैं और बिना उनकी सहमति के उसमें छेड़खानी कर सकते हैं. उनके चेहरे, हरकत, आवाज़ और अन्य एक्टिविटी को जोड़ा जा सकता है और किसी और व्यक्ति की पर उनका उपयोग किया जा सकता है – जो ऐसे व्यवहार में शामिल है जिससे बड़े पैमाने पर उसके सम्मान को ठेस पहुँच सकती है. इस बातचीत को सम्मानजनक बनाने के लिए, उन्हें बुरा न लगने वाले और समझाने के तरीके से पूछने के लिए यहाँ कुछ सवाल दिए गए हैं:

• क्या ऐसा हुआ है कि आपने किसी ऐसे व्यक्ति से बातचीत शुरू कर दी है जिससे आपका विवाद हुआ था या वह आपके साथ प्रतिस्पर्धा में था?
• क्या आपको किसी ऐसे व्यक्ति ने नुकसान पहुँचाया है जिसके बारे में आपने कभी नहीं सोचा था कि वह ऐसा कर सकता है? क्या ऐसा फिर से हो सकता है?
• नए फ़ॉलोअर या फ़्रेंड रिक्वेस्ट मिलने पर, क्या आप उनकी प्रोफ़ाइल के असली या नकली होने की जाँच करते हैं? क्या आप उन पर भरोसा कर सकते हैं?
• क्या आपके किसी भी दोस्त की पोस्ट का कभी किसी अन्य अनधिकृत तरीके से उपयोग किया गया है? क्या ऐसा आपके साथ हो सकता है?

डीपफ़ेक में आपके टीनएजर बच्चे की डिजिटल छवि से छेड़-छाड़ करने की क्षमता होती है. ऐसा तब होता है, जब किसी व्यक्ति को लगता है कि ऐसा करने से उन्हें भावनात्मक और मानसिक रूप से परेशान किया जा सकता है व उनके सम्मान को ठेस पहुँचाई जा सकती है. इंसान के लिए किसी फ़ोटो, वीडियो और टेम्परल कंटेंट में हर एक हेरा-फ़ेरी का पता लगना मुश्किल है, इसलिए फ़ोटो या वीडियो कंटेंट में किसी भी तरह से हुई असमानता का पता लगाने और उन्हें फ़्लैग करने के लिए साॅफ़्टवेयर को बेहतर बनाया जा रहा है. जैसे-जैसे टेक्नोलाॅजी बेहतर हो रही है, माता-पिता, देखभाल करने वाले लोग और वयस्कों की मदद करने के लिए मौजूद युवाओं को डीपफ़ेक की असलियत के बारे में जागरूकता बढ़ानी चाहिए. साथ ही, उन्हें डीपफ़ेक बनाए जाने और उसके विस्तार को रोकने के लिए काम करना चाहिए. साथ ही, अपने टीनएजर बच्चे को ये भरोसा दिलाते रहें कि किसी भी डीपफ़ेक स्थिति (और ऑनलाइन नुकसान पहुँचाने वाली किसी अन्य स्थिति में भी) से बाहर निकलने में उनकी मदद करने के लिए आप हमेशा मौजूद हैं.