સતામણીના એક સ્વરૂપ તરીકે ડીપફેક
સમીર હિન્દુજા અને જસ્ટિન ડબલ્યુ. પેચિન દ્વારા
14 સપ્ટેમ્બર, 2023
ડીપફેક શું છે?
“ડીપફેક” (“ગહન લર્નિંગ + નકલી”) શબ્દ એ જ્યારે યુઝરની ઓનલાઇન કોમ્યુનિટીએ એકબીજાની સાથે નકલી સેલિબ્રિટી પોર્નોગ્રાફીને શેર કરવાનું શરૂ કરેલું ત્યારે ઉદ્ભવ્યો હોવાનું લાગે છે. આ બનાવવા માટે, આર્ટિફિશિયલ ઇન્ટેલિજન્સ સોફ્ટવેરનો ઉપયોગ અવિશ્વસનીય રીતે વાસ્તવિક-દેખાતા બનાવટી કન્ટેન્ટ (દા.ત., ફોટા અને વીડિયો)નું નિર્માણ કરવા માટે થાય છે, જેનો હેતુ વાસ્તવિકના રૂપમાં સામે આવવાનો હોય છે. કન્ટેન્ટની નોંધપાત્ર માત્રા (દા.ત., કોઈ વ્યક્તિનો ઘણા કલાકોનો વીડિયો, કોઈ વ્યક્તિના હજારો ફોટા)નું વિશ્લેષણ કરવા કમ્પ્યુટિંગ શક્તિનો ઉપયોગ કરીને લર્નિંગ મોડેલ બનાવવામાં આવે છે, જેમાં ચહેરાનાં મુખ્ય લક્ષણો અને શારીરિક હાવભાવથી થતી અભિવ્યક્તિ/સ્થિતિ પર ચોક્કસ ધ્યાન આપવામાં આવે છે.
આગળ, જે જાણવામાં આવ્યું હોય તે અલ્ગોરિધમિકલી એવા ફોટા/ફ્રેમ પર લાગુ કરવામાં આવે છે કે જેને વ્યક્તિ કદાચ મેનિપ્યુલેટ કરવા અથવા બનાવવા માંગે (દા.ત., ઓરિજનલ કન્ટેન્ટ પર હોઠની હિલચાલોને સુપરઇમ્પોઝ કરવી (અને સાઉન્ડમાં ડબિંગ કરવું) જેથી એવું લાગે કે વ્યક્તિ એવું કંઈક કહી રહી છે કે જે વાસ્તવિક રીતે તેમણે ક્યારેય કહ્યું ન હોય). કલાકૃતિઓ (જેમ કે “ગ્લિચિંગ” જે સામાન્ય અથવા પ્રાસંગિક દેખાય છે) ઉમેરવી અથવા વાસ્તવવાદને બહેતર બનાવવા માટે માસ્કિંગ/એડિટિંગનો ઉપયોગ કરવા જેવી વધારાની તકનીકોનો પણ ઉપયોગ કરવામાં આવે છે અને પરિણામી પ્રોડક્ટ આશ્ચર્યજનક રીતે વિશ્ચાસપ્રદ હોય છે. જો તમે વેબ પર ડીપફેકનાં ઉદાહરણોને શોધશો, તો તમે એ વાતથી સંભવિત રીતે આશ્ચર્યચકિત થશો કે તે કેટલા પ્રમાણિત લાગે છે. તમે કોઈ પણ સંભવિત ડીપફેકનો ભોગ બનવાથી તમારા બાળકને બચાવવાનો અને તેમને કલ્પિત વાતથી હકીકતને અલગ પાડવા માટે સજ્જ કરવાનો પ્રયત્ન કરો ત્યારે જાણવાના કેટલાક મહત્ત્વપૂર્ણ મુદ્દા નીચે આપ્યા છે.
ડીપફેકને કેવી રીતે ઓળખવા
ટેક્નોલોજીમાં જેમ-જેમ પ્રગતિ થતી જાય છે તેમ-તેમ ડીપફેક ઉત્તરોત્તર વાસ્તવિક બની રહ્યા છે, ત્યારે ફોટા અથવા વીડિયો કન્ટેન્ટમાં અમુક માહિતીને ધ્યાનપૂર્વક શોધીને ઘણી વાર ડીપફેકને શોધી કાઢવાનું પૂર્ણ કરવામાં આવે છે (ઉદાહરણ તરીકે, આંખો કે જે સહજતાથી પલકારા ઝબકાવતી ન હોવાની લાગે). ઝૂમ કરવું અને મોઢા, ગરદન/કોલર અથવા છાતીની આસપાસ અસ્વાભાવિક અથવા ઝાંખી કિનારીઓને શોધવી તે એકદમ મદદરૂપ થઈ શકે છે. તે જગ્યાઓ એવી છે કે જ્યાં ઘણી વાર ઓરિજનલ કન્ટેન્ટ અને સુપરઇમ્પોઝ કરેલા કન્ટેન્ટ વચ્ચે ખોટાં સંરેખણો અને અમેળ જોવા મળી શકે છે.
વીડિયોમાં, વ્યક્તિ ક્લિપને ધીમી કરીને જોઈ શકે છે અને સંભવિત લિપ-સિંકિંગ અથવા જિટરિંગ જેવી વિઝ્યુઅલ અસંગતતાઓને શોધી શકે છે. તદુપરાંત, એવી કોઈ પણ ક્ષણો માટે નજર જમાવી રાખો કે જ્યારે સબ્જેક્ટ, જે કહેવામાં આવી રહ્યું હોય તેના આધારે જ્યારે ભાવના બતાવવામાં આવવી જોઈએ ત્યારે તેઓ ભાવનાનો અભાવ દર્શાવે છે, કોઈ શબ્દનું ખોટું ઉચ્ચારણ કરતા હોય તેવું લાગે અથવા તેઓ કોઈ પણ અન્ય વિચિત્ર વિસંગતતાઓનો ભાગ હોય. છેવટે, ફોટા (અથવા વીડિયોના કોઈ સ્ક્રીનશોટ) પર રિવર્સ ફોટો શોધને ચલાવવાથી તમને ફેરફાર કર્યા પહેલાં રહેલા મૂળ વીડિયો પ્રત્યે નિર્દેશિત કરવામાં આવી શકે છે. તે ક્ષણે, કન્ટેન્ટના બંને ભાગની ધ્યાનપૂર્વક સરખામણી કરીને નિર્ધારિત કરો કે કયાને મેનિપ્યુલેટ કરવામાં આવ્યો છે. પાયાની અને સૌથી મહત્ત્વપૂર્ણ બાબત એ છે કે તમારે તમારી જ્ઞાનેન્દ્રિયો પર વિશ્વાસ રાખવો જોઈએ; જ્યારે આપણે ધીમા પડીને કન્ટેન્ટને ખૂબ જ ધ્યાનપૂર્વક જોઈએ અને સાંભળીએ છીએ, ત્યારે આપણને સામાન્ય રીતે એ સમજાઈ જઈ શકે છે કે કંઈક તો અજુગતું છે.
તરુણ/તરુણીઓને એ યાદ અપાવવું મહત્ત્વપૂર્ણ છે કે તેઓ ઓનલાઇન જે પણ પોસ્ટ કરે છે તે દરેક વસ્તુનો ઉપયોગ ડીપફેક બનાવવા માટે થઈ શકે છે. તેમનાં સોશિયલ મીડિયાનાં એકાઉન્ટ પર, તેમણે સંભવિત રીતે કન્ટેન્ટની એક લાઇબ્રેરી બનાવી હોઈ શકે છે કે જેને અન્ય લોકો તેમની સંમતિ વિના એક્સેસ કરી શકે છે અને મેનિપ્યુલેટ કરી શકે છે. તેમના ચહેરા, હિલચાલો, અવાજ અને અન્ય લાક્ષણિકતાઓને કદાચ પરવાનગી વગર વાપરવા માટે લેવાય અને તે પછી એવી કોઈ વ્યક્તિ જે પ્રતિષ્ઠાને વ્યાપક નુકસાન પહોંચાડી શકે એવા વર્તનમાં પ્રવૃત્ત હોય – તે અન્ય કોઈ વ્યક્તિની પ્રતિકૃતિ પર તેને સુપરઇમ્પોઝ કરવામાં આવી શકે છે. આ સંબદ્ધમાં સંવાદ કરવાને સુગમ બનાવવા માટે, કોઈ અભિપ્રાય બાંધ્યા વિના અને સમજણભરી રીતે તેમને પૂછવા માટે અહીં થોડાક પ્રશ્નો આપ્યા છે:
જ્યારે વ્યક્તિ ડીપફેક દ્વારા પહોંચાડવામાં આવી શકતા ભાવનાત્મક, માનસિક અને પ્રતિષ્ઠાના નુકસાનને ધ્યાનમાં લે ત્યારે તે તરુણ/તરુણીઓની સુખાકારીને જોખમમાં નાખવાની સંભાવ્યતા ધરાવે છે. જ્યારે માનવીની આંખથી થતા અવલોકનમાં ઑરલ (શ્રાવ્ય), વિઝ્યુઅલ અને ટેમ્પરલ અસંગતતાઓ કદાચ ચૂકી જવાય, ત્યારે સોફ્ટવેરને ફોટા અથવા વીડિયો કન્ટેન્ટમાં રહેલી કોઈ પણ બિન-એકરૂપતાને ઓળખી કાઢવા અને ફ્લેગ કરવા માટે બહેતર બનાવવામાં આવી રહ્યું છે. આ ટેક્નોલોજીને બહેતર બનાવવાનું ચાલુ જ છે ત્યારે, માતા-પિતા, સારસંભાળ રાખનારાઓ અને યુવા લોકોને સેવા આપતા અન્ય વયસ્કોએ ડીપફેકની વાસ્તવિકતા વિશે જાગૃતિ ફેલાવવી અને તેના ક્રિએશન તથા વિતરણથી આવતાં પરિણામોને અટકાવવા માટે પ્રયત્નો કરવા આવશ્યક છે. તે જ સમયે, તમારા તરુણ/તરુણીને નિયમિત રીતે યાદ અપાવો કે ડીપફેકની કોઈ પણ પરિસ્થિતિઓ (અને અલબત્ત, તેઓ અનુભવે તે અન્ય કોઈ પણ ઓનલાઇન નુકસાન)માંથી ઉગરવાનો તેમનો રસ્તો શોધવામાં તેમની મદદ કરવા માટે તમે હંમેશાં હાજર છો.
- શું તે શક્ય છે કે તમે એવી કેટલીક વ્યક્તિઓને સ્વીકારી છે કે જેઓ વહેલાં કે મોડાં, તમારી સાથે વિરોધાભાસ ધરાવી શકે અથવા સ્પર્ધામાં ઊતરી શકે?
- શું તમને ક્યારેય એવી કોઈ વ્યક્તિ દ્વારા ઠેસ પહોંચાડવામાં આવી છે કે જેના વિશે તમે ક્યારેય વિચાર્યું ન હતું કે એ તમને ઠેસ પહોંચાડશે? શું તે ફરીથી થઈ શકે છે?
- જ્યારે નવા ફોલોઅર અથવા ફ્રેન્ડ રિક્વેસ્ટ આવે છે, ત્યારે તેઓ કાયદેસરના હોવાની ખાતરી કરવા માટે શું તમે તેમની પ્રોફાઇલને તપાસો છો? શું તમે તેમના પર વિશ્વાસ કરી શકો છો?
- શું તમારા મિત્રોની કોઈ પણ પોસ્ટનો ઉપયોગ ક્યારેય બીજી વ્યક્તિ દ્વારા અનધિકૃત રીતે કરવામાં આવ્યો છે? શું તમારી સાથે સંભવિત રીતે આ થઈ શકે છે?
જ્યારે વ્યક્તિ ડીપફેક દ્વારા પહોંચાડવામાં આવી શકતા ભાવનાત્મક, માનસિક અને પ્રતિષ્ઠાના નુકસાનને ધ્યાનમાં લે ત્યારે તે તરુણ/તરુણીઓની સુખાકારીને જોખમમાં નાખવાની સંભાવ્યતા ધરાવે છે. જ્યારે માનવીની આંખથી થતા અવલોકનમાં ઑરલ (શ્રાવ્ય), વિઝ્યુઅલ અને ટેમ્પરલ અસંગતતાઓ કદાચ ચૂકી જવાય, ત્યારે સોફ્ટવેરને ફોટા અથવા વીડિયો કન્ટેન્ટમાં રહેલી કોઈ પણ બિન-એકરૂપતાને ઓળખી કાઢવા અને ફ્લેગ કરવા માટે બહેતર બનાવવામાં આવી રહ્યું છે. આ ટેક્નોલોજીને બહેતર બનાવવાનું ચાલુ જ છે ત્યારે, માતા-પિતા, સારસંભાળ રાખનારાઓ અને યુવા લોકોને સેવા આપતા અન્ય વયસ્કોએ ડીપફેકની વાસ્તવિકતા વિશે જાગૃતિ ફેલાવવી અને તેના ક્રિએશન તથા વિતરણથી આવતાં પરિણામોને અટકાવવા માટે પ્રયત્નો કરવા આવશ્યક છે. તે જ સમયે, તમારા તરુણ/તરુણીને નિયમિત રીતે યાદ અપાવો કે ડીપફેકની કોઈ પણ પરિસ્થિતિઓ (અને અલબત્ત, તેઓ અનુભવે તે અન્ય કોઈ પણ ઓનલાઇન નુકસાન)માંથી ઉગરવાનો તેમનો રસ્તો શોધવામાં તેમની મદદ કરવા માટે તમે હંમેશાં હાજર છો.
સંબંધિત સંસાધનો
The Jed Foundation
વધુ વાંચો
