छळणुकीचे स्वरूप म्हणून डीपफेक
समीर हिंदुजा आणि जस्टीन डब्लू. पॅचीन यांच्याद्वारे
14 सप्टेंबर 2023
डीपफेक म्हणजे काय?
“डीपफेक” (“डीप लर्निंग + फेक”) ही संज्ञा युजरच्या ऑनलाईन कम्युनिटीनी सेलिब्रिटीची खोटी पोर्नोग्राफी एकमेकांना शेअर करण्यास सुरुवात केली त्यापासून उत्पन्न झाली असावी असे दिसते. ते तयार करण्यासाठी, आश्चर्यकारकपणे अत्यंत वास्तविक वाटणारा बनावट कंटेन्ट (उदा. फोटो आणि व्हिडिओ) निर्माण करण्यासाठी कृत्रिम बुद्धिमत्ता सॉफ्टवेअर वापरले जाते, जो खरा वाटावा या हेतूने बनवला जातो. मोठ्या प्रमाणावरील कंटेन्टचे विश्लेषण करण्यासाठी (उदा. एखाद्या व्यक्तीच्या व्हिडिओचे तास, एखाद्या व्यक्तीचे हजारो चित्र) कम्प्यूटिंग पॉवर वापरून शिक्षण मॉडेल तयार केले जातात, यामध्ये चेहऱ्याच्या महत्त्वाच्या वैशिष्ट्यांवर आणि देहबोली/ठेवण याकडे विशेष लक्ष पुरवले जाते.
त्यानंतर, जाणून घेतलेल्या गोष्टी ज्या इमेज/फ्रेममध्ये कुशलतेने फेरफार करायचे किंवा तयार करायच्या आहेत त्यांना अल्गोरिथम स्वरूपात लागू केल्या जातात (उदा. मूळ कंटेन्टवर ओठांच्या हालचाली सुपरइम्पोज करणे (आणि आवाज डब करणे) व असा आभास निर्माण केला जातो की ती व्यक्ती काहीतरी बोलते आहे परंतु वास्तविक पाहता तिने ते कधीच म्हटलेले नसते). कृत्रिम घटक जोडणे (जसे “ग्लिच” जो सामान्य किंवा प्रसंगानुरूप भासतो) किंवा वास्तविकता वाढवण्यासाठी मास्किंग/संपादन वापरणे यांसारखे जास्तीचे तंत्रज्ञानदेखील जोडीला टाकले जाते आणि त्यातून निर्माण होणारे प्रॉडक्ट आश्चर्यकारकपणे खात्री वाटण्याजोगे असतात. डीपफेकच्या उदाहणांसाठी तुम्ही वेब शोध घेतल्यास, ते किती अस्सल वाटतात हे पाहून तुम्हाला आश्चर्य वाटेल. तुमचे मूल कुठल्याही डीपफेकला बळी पडू नये यासाठी त्याचे संरक्षण करण्यासाठी आणि त्यांना वास्तव व कल्पित जग यांमध्ये फरक करता येण्याची क्षमता मिळावी यासाठी तुम्ही जाणून घ्यावेत असे काही महत्त्वाचे मुद्दे खाली दिले आहेत.
डीफफेक कसे ओळखायचे
तंत्रज्ञानात जसजशी सुधारणा होते तसतसे डीपफेक अधिकाधिक वास्तविक होत आहेत, ते ओळखण्यासाठी फोटो किंवा व्हिडिओ कंटेन्टमधील काही विशिष्ट माहितीकडे काळजीपूर्वक लक्ष द्यायला हवे (नैसर्गिकपणे डोळ्यांची उघडझाप न होणे). झूम इन करून तोंड, गळा/कॉलर किंवा छातीभोवती अनैसर्गिक किंवा अस्पष्ट कडा आहेत का हे पाहणे अतिशय उपयुक्त ठरते. या ठिकाणी बरेचदा मूळ कंटेन्ट आणि सुपरइम्पोज केलेला कंटेन्ट यामधील एकीकरण किंवा ताळमेळ झालेला नसतो असे आढळून येते.
व्हिडिओवर, तुम्ही क्लिप हळू करू शकता आणि ओठांच्या हालचाली जुळणे किंवा थरथरणे यांसारख्या व्हिजुअल विसंगती आढळतात का हे पाहू शकता. याशिवाय, अशा क्षणचित्रांवर लक्ष ठेवा ज्यामध्ये, जे काही बोलले जात आहे त्यानुसार त्या पात्राच्या भावना प्रदर्शित होत आहेत की नाही, शब्द उच्चारणात चूक आहे का किंवा ते अन्य कुठल्याही विचित्र विसंगतीचा भाग आहे का. सरतेशेवटी, फोटोंवर (किंवा व्हिडिओमध्ये स्क्रीनशॉटवर) उलट प्रतिमा शोध घेतल्यास, फेरफार करण्याआधीच्या मूळ व्हिडिओचा इशारा मिळू शकतो. त्या वेळी, कंटेन्टच्या दोन भागांची काळजीपूर्वक तुलना करा व कोणत्या भागात फेरफार करण्यात आले आहेत ते निर्धारित करा. सर्वात महत्त्वाचे म्हणजे, तुमच्या ज्ञानेंद्रियांवर विश्वास ठेवा; आपणे जेव्हा कंटेन्ट पाहण्यासाठी व ऐकण्यासाठी त्याचा वेग कमी करतो तेव्हा आपल्याला सामान्यतः जाणवते की काहीतरी चूक आहे.
किशोरवयीनांना याची आठवण करून देणे महत्त्वाचे आहे की ते ऑनलाईन पोस्ट करत असलेले सर्व काही डीपफेक तयार करण्यासाठी वापरले जाऊ शकते. त्यांच्या सोशल मीडिया खात्यांवर, त्यांनी कदाचित कंटेन्टची एक लायब्ररी तयार केली असू शकते, जी इतर जण ॲक्सेस करू शकतात आणि त्यांच्या समंतीशिवाय फेरफार करू शकतात. त्यांचा चेहरा, हालचाली, आवाज आणि इतर वैशिष्ट्ये हवी तशी साजेशी केली जाऊ शकतात आणि नंतर साधर्म्य असलेली इतर व्यक्ती जी असे वर्तन करत आहे ज्यामुळे प्रतिष्ठेला मोठ्या प्रमाणात हानी होऊ शकते तिच्यावर सुपरइम्पोज केले जाऊ शकतात. या संबंधातील संवाद सुलभ बनवण्‍यासाठी, अनिर्णायक आणि समजून घेण्‍याच्या पद्धतीने येथे काही प्रश्न त्यांना विचारण्‍यासाठी दिले आहेत:
एखाद्या व्यक्तीने भावनात्मक, मानसिक पातळीवर आणि प्रतिष्ठेस हानी पोहोचवण्याचा विचार केल्यास, डीपफेकमध्‍ये किशोरवयीनांच्या कल्याणाबद्दल तडजोड करण्‍याची क्षमता असल्याने ती व्यक्ती तसे करू शकते. श्रवणीय, दृश्य आणि तात्पुरती विसंगती मानवी डोळ्यांद्वारे निरिक्षण चुकवू शकतात, परंतु इमेज किंवा व्हिडिओ कंटेन्टमधील कोणतीही एकसमानता ओळखण्यासाठी आणि फ्लॅग करण्यासाठी सॉफ्टवेअर सुधारित केले जात आहे. ही तंत्रज्ञाने सुधारित होणे चालू असल्याने, पालक, काळजीवाहक व्यक्ती आणि तरुणांची काळजी घेणारे अन्य प्रौढ लोक यांनी डीपफेकबद्दलच्या वास्तविकतेबाबत जागरूकता वाढवणे आणि त्या डीपफेकच्या निर्मिती व वितरणामुळे होणारे परिणाम रोखण्‍यासाठी कार्य करणे आवश्‍यक आहे. त्याचवेळी, तुमच्या किशोरवयीनाला नियमितपणे आठवण करून द्या की कोणत्याही डीपफेकसंबंधित परिस्थितींमध्‍ये (आणि अर्थातच, त्यांना अनुभवास येणार्‍या इतर कोणत्याही ऑनलाईन हानीबाबत) त्यांना मदत करण्यासाठी नेहमीच तुम्ही त्यांच्यासोबत आहात.
- अशा काही व्यक्ती ज्यांचा, कधीतरी, तुमच्याशी विवाद झाला होता किंवा तुमच्या प्रतिस्पर्धेत होत्या त्यांना तुम्ही स्वीकारले असण्‍याची शक्यता आहे का?
- तुम्ही अशा एखाद्या व्यक्तिकडून कधीही दुखावले गेला आहात का ज्यांकडून दुखावले जाण्याची तुम्हाला अपेक्षा नव्हती? ते पुन्हा घडू शकेल का?
- जेव्हा नवीन फॉलोअर किंवा फ्रेंड रिक्वेस्ट येतात, त्या योग्य आहेत किंवा नाहीत याची खात्री करण्यासाठी तुम्ही त्यांची प्रोफाईल तपासता का? तुम्ही त्यांच्यावर विश्वास ठेवू शकता का?
- तुमच्या मित्राने केलेला कोणत्याही पोस्टचा वापर दुसऱ्याकडून अनधिकृतपणे झाला आहे का? हे तुमच्यासोबत होण्याची शक्यता आहे का?
एखाद्या व्यक्तीने भावनात्मक, मानसिक पातळीवर आणि प्रतिष्ठेस हानी पोहोचवण्याचा विचार केल्यास, डीपफेकमध्‍ये किशोरवयीनांच्या कल्याणाबद्दल तडजोड करण्‍याची क्षमता असल्याने ती व्यक्ती तसे करू शकते. श्रवणीय, दृश्य आणि तात्पुरती विसंगती मानवी डोळ्यांद्वारे निरिक्षण चुकवू शकतात, परंतु इमेज किंवा व्हिडिओ कंटेन्टमधील कोणतीही एकसमानता ओळखण्यासाठी आणि फ्लॅग करण्यासाठी सॉफ्टवेअर सुधारित केले जात आहे. ही तंत्रज्ञाने सुधारित होणे चालू असल्याने, पालक, काळजीवाहक व्यक्ती आणि तरुणांची काळजी घेणारे अन्य प्रौढ लोक यांनी डीपफेकबद्दलच्या वास्तविकतेबाबत जागरूकता वाढवणे आणि त्या डीपफेकच्या निर्मिती व वितरणामुळे होणारे परिणाम रोखण्‍यासाठी कार्य करणे आवश्‍यक आहे. त्याचवेळी, तुमच्या किशोरवयीनाला नियमितपणे आठवण करून द्या की कोणत्याही डीपफेकसंबंधित परिस्थितींमध्‍ये (आणि अर्थातच, त्यांना अनुभवास येणार्‍या इतर कोणत्याही ऑनलाईन हानीबाबत) त्यांना मदत करण्यासाठी नेहमीच तुम्ही त्यांच्यासोबत आहात.
वैशिष्ट्ये आणि टूल
संबंधित संसाधने
The Jed Foundation
अधिक वाचा
