I deepfake: una forma di intimidazione
Di Sameer Hinduja e Justin W. Patchin
14 settembre 2023
Che cos'è un "deepfake"?
Il termine "deepfake" (dall'inglese "deep learning + fake", cioè apprendimento profondo + falso) sembra essere nato quando alcune community online hanno iniziato a condividere tra loro materiali pornografici falsificati con celebrità come protagonisti. Per crearli, si usa un software di intelligenza artificiale che consente di produrre contenuti fasulli ma estremamente realistici, come foto e video, con l'obiettivo che risultino veritieri. Sfruttando la potenza di calcolo, si analizzano enormi quantità di contenuti, tra cui ore di video e migliaia di foto in cui appare una persona, concentrandosi in particolare sui tratti somatici principali e sul linguaggio e la posizione del corpo, in modo da creare modelli di apprendimento automatico.
Successivamente, ciò che viene appreso si applica tramite un algoritmo alle immagini o ai fotogrammi che si desidera manipolare o creare. Ad esempio, si può sovrapporre il movimento delle labbra sul contenuto originale e aggiungere anche il doppiaggio per dare l'impressione che una persona stia pronunciando qualcosa che in realtà non ha mai detto. Infine, vengono usate ulteriori tecniche come l'aggiunta di artefatti, ad esempio alcune interferenze che possono apparire normali o casuali o di altri elementi per mascherare o modificare dettagli in modo da rendere i contenuti ancora più realistici: il risultato finale è sorprendentemente convincente. Ti basta fare una ricerca sul web per trovare alcuni esempi di deepfake e ti sorprenderà quanto possano sembrare autentici. Di seguito riportiamo alcune indicazioni importanti da tenere presenti per evitare che i tuoi figli diventino vittime di deepfake e aiutarli a distinguere la realtà dalle creazioni fittizie.
Come identificare i deepfake
Con il progredire della tecnologia, i deepfake stanno diventando sempre più realistici. Per riconoscerli, bisogna cercare con attenzione dettagli specifici nella foto o nel video, ad esempio le palpebre che non sembrano sbattere naturalmente. È molto utile ingrandire l'immagine e cercare contorni non naturali o sfocati intorno alla bocca, al collo o al petto. Infatti, è in queste zone che si rilevano spesso allineamenti e corrispondenze inesatte tra l'originale e i contenuti sovrapposti.
Per quanto riguarda i video, è utile rallentarli e osservare se sono presenti incoerenze visive come una sincronizzazione labiale incorretta o immagini che sfarfallano. Inoltre, verifica se ci sono momenti in cui il soggetto non mostra alcuna emozione quando invece dovrebbe in base a ciò che sta avvenendo, se sembra pronunciare male una parola o se ci sono altre strane incongruenze. Infine, effettuare una ricerca con un'immagine relativa a una foto (o allo screenshot di un video) può aiutarti a trovare il video originale prima della manipolazione. A quel punto, confronta attentamente i due contenuti per determinare quale è stato modificato. In poche parole, fidati del tuo istinto: quando ci prendiamo un attimo di tempo per osservare o ascoltare attentamente un contenuto, normalmente possiamo percepire se c'è qualcosa di strano.
È importate ricordare ai teenager che qualsiasi contenuto pubblicato online può essere utilizzato per creare un deepfake. Tutti loro probabilmente hanno creato una libreria nei loro account sui social media a cui altre persone possono accedere e i cui contenuti possono essere manipolati senza il loro consenso. Potrebbero appropriarsi della loro voce, dei movimenti, dei tratti somatici e di altre caratteristiche che poi verranno sovrapposte alle sembianze di un'altra persona, con ogni probabilità impegnata in comportamenti che possono gravemente ledere la reputazione della vittima. Per favorire il dialogo in quest'ambito, ecco alcune domande da porre con un approccio senza pregiudizi e comprensivo:
I deepfake possono compromettere il benessere dei teenager in quanto provocano danni emotivi, psicologici e alla reputazione. Anche se alcune differenze di tipo uditivo, visivo e temporale possono sfuggire all'occhio umano, esistono software sempre più sofisticati per identificare e segnalare irregolarità in immagini e video. Con il continuo miglioramento di queste tecnologie, genitori, caregiver e in generale tutti gli adulti a contatto con i più giovani devono sensibilizzare i ragazzi per far loro conoscere meglio la realtà dei deepfake e sforzarsi per contrastare le conseguenze della loro creazione e diffusione. Al contempo, ricorda spesso ai tuoi figli adolescenti che sei sempre a disposizione per aiutarli a trovare una soluzione in caso fossero vittime di deepfake e, ovviamente, che sei al loro fianco anche per affrontare qualsiasi altra forma di violenza online.
- Potresti aver accettato una richiesta di amicizia da persone che, con il passare del tempo, potrebbero trovarsi in conflitto o in competizione con te?
- Ti ha mai ferito una persona che non pensavi potesse essere capace di fare qualcosa di simile? Potrebbe capitare di nuovo?
- Quando ti arrivano nuove richieste da follower o amici, controlli il profilo per assicurarti che sia autentico? Puoi fidarti di queste persone?
- I post dei tuoi amici sono mai stati usati da altre persone in maniera non autorizzata? Potrebbe capitare anche a te?
I deepfake possono compromettere il benessere dei teenager in quanto provocano danni emotivi, psicologici e alla reputazione. Anche se alcune differenze di tipo uditivo, visivo e temporale possono sfuggire all'occhio umano, esistono software sempre più sofisticati per identificare e segnalare irregolarità in immagini e video. Con il continuo miglioramento di queste tecnologie, genitori, caregiver e in generale tutti gli adulti a contatto con i più giovani devono sensibilizzare i ragazzi per far loro conoscere meglio la realtà dei deepfake e sforzarsi per contrastare le conseguenze della loro creazione e diffusione. Al contempo, ricorda spesso ai tuoi figli adolescenti che sei sempre a disposizione per aiutarli a trovare una soluzione in caso fossero vittime di deepfake e, ovviamente, che sei al loro fianco anche per affrontare qualsiasi altra forma di violenza online.
RISORSE CORRELATE
The Jed Foundation
Scopri di più
