I deepfake: una forma di molestia

Il termine "deepkafe" (dall'inglese "deep learning + fake", cioè apprendimento profondo + falso) sembra essere nato quando alcune community online hanno iniziato a condividere tra loro materiali pornografici falsificati con alcune celebrità come protagonisti. Per crearli, si usa un software di intelligenza artificiale che consente di produrre contenuti fasulli ma estremamente realistici, come foto e video, con l'obiettivo che risultino veritieri. Sfruttando la potenza di calcolo, si analizzano enormi quantità di contenuti, tra cui ore di video e migliaia di foto in cui appare una persona, concentrandosi in particolare sui tratti somatici principali e sul linguaggio e la posizione del corpo, in modo da creare modelli di apprendimento automatico.

Successivamente, ciò che viene appreso si applica tramite un algoritmo alle immagini o ai fotogrammi che si desidera manipolare o creare. Ad esempio, si può sovrapporre il movimento delle labbra sul contenuto originale e aggiungere anche il doppiaggio per dare l'impressione che una persona stia pronunciando qualcosa che in realtà non ha mai detto. Infine, vengono usate ulteriori tecniche come l'aggiunta di artefatti, ad esempio alcune interferenze che possono apparire normali o casuali o di altri elementi per mascherare o modificare dettagli in modo da rendere i contenuti ancora più realistici: il risultato finale è sorprendentemente convincente. Ti basta fare una ricerca sul web per trovare alcuni esempi di deepfake e ti sorprenderà quanto possano sembrare autentici. Di seguito riportiamo alcune indicazioni importanti da tenere presente per evitare che i tuoi figli diventino vittime di deepfake e aiutarli a distinguere la realtà dalle creazioni fittizie.

Grazie ai passi avanti della tecnologia, i deepfake stanno diventando sempre più realistici. Per riconoscerli, bisogna guardare con attenzione alcuni dettagli nella foto o nel video, come le palpebre che non sembrano sbattere naturalmente. È molto utile ingrandire l'immagine e cercare contorni non naturali o sfocati intorno alla bocca, al collo o al petto. Infatti, è in queste zone che si rilevano spesso allineamenti e corrispondenze inesatte tra l'originale e i contenuti sovrapposti.

Per quanto riguarda i video, è utile rallentarli e osservare se sono presenti incoerenze visive come una sincronizzazione labiale incorretta o immagini che sfarfallano. Inoltre, verifica se ci sono momenti in cui il soggetto non mostra alcuna emozione quando invece dovrebbe in base a ciò che sta avvenendo, se sembra pronunciare male una parola o se ci sono altre strane incongruenze. Infine, effettuare una ricerca con un'immagine relativa a una foto (o allo screenshot di un video) può aiutarti a trovare il video originale prima della manipolazione. A quel punto, confronta attentamente i due contenuti per determinare quale è stato modificato. In poche parole, fidati del tuo istinto: quando ci prendiamo un attimo di tempo per osservare o ascoltare attentamente un contenuto, normalmente possiamo percepire se c'è qualcosa di strano.

Bisogna anche ricordare agli adolescenti che qualsiasi contenuto pubblicato online può costituire la base per la creazione di un deepfake. Tutti loro probabilmente hanno creato una libreria nei loro account sui social media a cui altre persone possono accedere e i cui contenuti possono essere manipolati senza il loro consenso. Potrebbero appropriarsi della loro voce, dei movimenti, dei tratti somatici e di altre caratteristiche che poi verranno sovrapposte alle sembianze di un'altra persona, con ogni probabilità impegnata in comportamenti che possono gravemente ledere la reputazione della vittima. Per favorire il dialogo in quest'ambito, ecco alcune domande da porre con un approccio senza pregiudizi e comprensivo:

• Potresti aver accettato una richiesta di amicizia da persone che, con il passare del tempo, potrebbero trovarsi in conflitto o in competizione con te?
• Ti ha mai ferito una persona che non pensavi potesse essere capace di fare qualcosa di simile? Potrebbe capitare di nuovo?
• Quando ti arrivano nuove richieste da follower o amici, controlli il profilo per assicurarti che sia autentico? Puoi fidarti di queste persone?
• I post dei tuoi amici sono mai stati usati da altre persone in maniera non autorizzata? Potrebbe capitare anche a te?

I deepfake possono compromettere il benessere degli adolescenti in quanto provocano danni emotivi, psicologici e alla reputazione. Anche se alcune differenze di tipo uditivo, visivo e temporale possono sfuggire all'occhio umano, esistono software sempre più sofisticati per identificare e segnalare irregolarità in immagini e video. Con il continuo miglioramento di queste tecnologie, genitori, caregiver e in generale tutti gli adulti a contatto con i più giovani devono sensibilizzare i ragazzi per far loro conoscere meglio la realtà dei deepfake e sforzarsi per contrastare le conseguenze della loro creazione e diffusione. Al contempo, ricorda spesso ai tuoi figli adolescenti che sei sempre a disposizione per aiutarli a trovare una soluzione in caso fossero vittime di deepfake e, ovviamente, che sei al loro fianco anche per affrontare qualsiasi altra forma di violenza online.