छळणुकीचे एक रूप म्हणजे डीपफेक

समीर हिंदुजा आणि जस्टिन डब्लू. पॅचिन यांनी लिहिलेले

14 सप्टेंबर 2023

प्रखर प्रकाशाच्या ऑफिसमध्ये डेस्कटॉप कॉम्प्युटरकडे पाहताना सहयोग करणार्‍या दोन व्यक्ती.

डीपफेक म्हणजे काय?

“डीपफेक” (“डीप लर्निंग + फेक”) ही संज्ञा युझरच्या ऑनलाइन कम्युनिटींनी सेलिब्रिटीची खोटी पोर्नोग्राफी एकमेकांना शेअर करण्यास सुरुवात केली त्यापासून उत्पन्न झाली असावी असे दिसते. ते तयार करण्यासाठी, आश्चर्यकारकपणे अत्यंत वास्तविक वाटणारा बनावट कंटेन्ट (उदा. फोटो आणि व्हिडिओ) निर्माण करण्यासाठी कृत्रिम बुद्धिमत्ता सॉफ्टवेअर वापरले जाते, जो खरा वाटावा या हेतूने बनवला जातो. मोठ्या प्रमाणावरील कंटेन्टचे विश्लेषण करण्यासाठी (उदा. एखाद्या व्यक्तीचे अनेक तासांचा व्हिडिओ, एखाद्या व्यक्तीचे हजारो चित्र) कम्प्यूटिंग पॉवर वापरून शिक्षण मॉडेल तयार केले जातात, यामध्ये चेहऱ्याच्या महत्त्वाच्या वैशिष्ट्यांवर आणि देहबोली/ठेवण याकडे विशेष लक्ष पुरवले जाते.

त्यानंतर, जाणून घेतलेल्या गोष्टी, ज्या इमेज/फ्रेममध्ये कुशलतेने फेरफार करायचे किंवा तयार करायच्या आहेत त्यांना अल्गोरिथम स्वरूपात लागू केल्या जातात (उदा. मूळ कंटेन्टवर ओठांच्या हालचाली सुपरइम्पोज करणे (आणि आवाज डब करणे) व असा आभास निर्माण केला जातो की ती व्यक्ती काहीतरी बोलते आहे परंतु वास्तविक पाहता तिने ते कधीच म्हटलेले नसते). कृत्रिम घटक जोडणे (जसे “बिघाड” जो सामान्य किंवा प्रसंगानुरूप भासतो) किंवा वास्तविकता वाढवण्यासाठी मास्किंग/संपादन वापरणे यांसारखे जास्तीचे तंत्रज्ञान देखील जोडीला टाकले जाते, आणि त्यातून निर्माण होणारी प्रॉडक्ट आश्चर्यकारकपणे खात्री वाटण्याजोगी असतात. डीपफेकच्या उदाहरणांसाठी तुम्ही वेब शोध घेतल्यास, ते किती अस्सल वाटतात हे पाहून तुम्हाला आश्चर्य वाटेल. तुमचे मूल कुठल्याही डीपफेकला बळी पडू नये यासाठी काळजी घेताना तुम्ही जाणून घ्यावेत असे काही महत्त्वाचे मुद्दे खाली दिले आहेत, ज्यामुळे त्यांना वास्तव व कल्पित जग यांमध्ये फरक करता येण्याची क्षमता मिळेल.

व्यक्ती ग्रीन स्क्रीनसमोर बोलत असून, कर्मचारी कॅमेरा आणि बूम माइक घेऊन चित्रिकरण करत आहेत.

डीफफेक कसे ओळखायचे

तंत्रज्ञानात जसजशी सुधारणा होते तसतसे डीपफेक अधिकाधिक वास्तविक होत आहेत, ते ओळखण्यासाठी फोटो किंवा व्हिडिओ कंटेन्टमधील काही विशिष्ट माहितीकडे काळजीपूर्वक लक्ष द्यायला हवे (नैसर्गिकपणे डोळ्यांची उघडझाप न होणे). झूम इन करून तोंड, गळा/कॉलर किंवा छातीभोवती अनैसर्गिक किंवा अस्पष्ट कडा आहेत का हे पाहणे अतिशय उपयुक्त ठरते. या ठिकाणी बरेचदा मूळ कंटेन्ट आणि सुपरइम्पोज केलेला कंटेन्ट यामधील एकीकरण किंवा ताळमेळ झालेला नसतो असे आढळून येते.

व्हिडिओवर, तुम्ही क्लिपचा वेग कमी करू शकता आणि ओठांच्या हालचाली जुळणे किंवा थरथरणे यांसारख्या व्हिजुअल विसंगती आढळतात का हे पाहू शकता. याशिवाय, अशा क्षणचित्रांवर लक्ष ठेवा ज्यामध्ये, जे काही बोलले जात आहे त्यानुसार त्या पात्राच्या भावना प्रदर्शित होत आहेत की नाही, शब्द उच्चारणात चूक आहे का किंवा ते अन्य कुठल्याही विचित्र विसंगतीचा भाग आहे का. सरतेशेवटी, फोटोंवर (किंवा व्हिडिओमध्ये स्क्रीनशॉटवर) उलट प्रतिमा शोध घेतल्यास, फेरफार करण्याआधीच्या मूळ व्हिडिओचा इशारा मिळू शकतो. त्या पॉईंटवर, कंटेन्टच्या दोन भागांची काळजीपूर्वक तुलना करा व कोणत्या भागात फेरफार करण्यात आले आहेत ते निर्धारित करा. सर्वात महत्त्वाचे म्हणजे, तुमच्या ज्ञानेंद्रियांवर विश्वास ठेवा; आपण जेव्हा कंटेन्ट पाहण्यासाठी व ऐकण्यासाठी त्याचा वेग कमी करतो तेव्हा आपल्याला सामान्यतः जाणवते की ते काहीतरी भलतेच आहे.

चमकदार लिपस्टिक लावलेल्या व्यक्तीचा क्लोज-अप ज्यात अंशतः त्यांचा चेहरा त्यांच्या हाताने झाकलेला आहे.

किशोरवयीनांना याची आठवण करून देणे महत्त्वाचे आहे की ते ऑनलाइन पोस्ट करत असलेले सर्व काही डीपफेक तयार करण्यासाठी वापरले जाऊ शकते. त्यांच्या सोशल मीडिया खात्यांवर, त्यांनी कदाचित कंटेन्टची एक लायब्ररी तयार केली असू शकते, जी इतर जण ॲक्सेस करू शकतात आणि त्यांच्या समंतीशिवाय फेरफार करू शकतात. त्यांचा चेहरा, हालचाली, व्हॉइस आणि इतर वैशिष्ट्ये हवी तशी साजेशी केले जाऊ शकतात आणि नंतर साधर्म्य असलेल्या इतर कोणावर सुपरइम्पोज केली जाऊ शकतात – एखाद्या अशा वर्तनात गुंतलेल्या व्यक्तीवर, ज्यामुळे तुमच्या प्रतिष्ठेचे मोठ्या प्रमाणावर नुकसान होऊ शकते. या संबंधातील संवाद सुलभ बनवण्‍यासाठी, त्यांना विचारण्‍यासाठी अनिर्णायक आणि समजून घेण्‍याच्या पद्धतीने येथे काही प्रश्न दिले आहेत:

अशा काही व्यक्ती ज्यांचा, कधीतरी, तुमच्याशी विवाद झाला होता किंवा तुमच्या प्रतिस्पर्धेत होत्या त्यांना तुम्ही स्वीकारले असण्‍याची शक्यता आहे का?
तुम्ही अशा एखाद्या व्यक्तिकडून कधीही दुखावले गेला आहात का ज्यांकडून दुखावले जाण्याची तुम्हाला अपेक्षा नव्हती? ते पुन्हा घडू शकेल का?
जेव्हा नवीन फॉलोअर किंवा फ्रेंड रिक्वेस्ट येतात, त्या योग्य आहेत किंवा नाहीत याची खात्री करण्यासाठी तुम्ही त्यांची प्रोफाईल तपासता का? तुम्ही त्यांच्यावर विश्वास ठेवू शकता का?
तुमच्या मित्राने केलेला कोणत्याही पोस्टचा वापर दुसऱ्याकडून अनधिकृतपणे झाला आहे का? हे तुमच्यासोबत होण्याची शक्यता आहे का?

एखाद्या व्यक्तीने भावनात्मक, मानसिक पातळीवर आणि प्रतिष्ठेस हानी पोहोचवण्याचा विचार केल्यास, डीपफेकमध्‍ये किशोरवयीनांच्या कल्याणाबद्दल तडजोड करण्‍याची क्षमता असल्याने ती व्यक्ती तसे करू शकते. श्रवणीय, दृश्य आणि तात्पुरत्या विसंगती मानवी डोळ्यांद्वारे अचूकपणे निरखता येत नाहीत, परंतु प्रतिमा किंवा व्हिडिओ कंटेन्टमधील कोणतीही असमानता ओळखण्यासाठी आणि फ्लॅग करण्यासाठी सॉफ्टवेअर सुधारित केले जात आहे. ही तंत्रज्ञाने सुधारित होणे चालू असल्याने, पालक, काळजीवाहक व्यक्ती आणि तरुणांची काळजी घेणारे अन्य प्रौढ लोक यांनी डीपफेकबद्दलच्या वास्तविकतेबाबत जागरूकता वाढवणे आणि त्या डीपफेकच्या निर्मिती व वितरणामुळे होणारे परिणाम रोखण्‍यासाठी काम करणे आवश्‍यक आहे. त्याचवेळी, तुमच्या किशोरवयीन मुलाला नियमितपणे आठवण करून द्या की कोणत्याही डीपफेकसंबंधित परिस्थितींमध्‍ये (आणि अर्थातच, त्यांना अनुभवास येणार्‍या ऑनलाइन हानीबाबत) त्यांना मदत करण्‍यासाठी नेहमीच तुम्ही त्यांच्यासोबत आहात.

फीचर आणि टूल

दैनिक वेळ मर्यादा सेट करा

instagram वरील सुपरव्हिजन टूल

ब्रेक घ्या

वेळ मर्यादा सेट करणे

छळणुकीचे एक रूप म्हणजे डीपफेक

डीपफेक म्हणजे काय?

डीफफेक कसे ओळखायचे

फीचर आणि टूल

संबंधित संसाधने