Les hypertrucages comme forme de harcèlement
Écrit par Sameer Hinduja et Justin W. Patchin
14 septembre 2023
Qu’est-ce qu’un hypertrucage?
Les hypertrucages semblent être apparus lorsque des communautés d’utilisateurs en ligne ont commencé à partager entre elles du faux contenu pornographique de célébrités. Pour les créer, des logiciels d’intelligence artificielle sont utilisés pour produire des contenus fabriqués (p. ex., des photos et des vidéos) d’apparence incroyablement réaliste et destinés à être perçus comme réels. Les modèles d’apprentissage sont créés en utilisant la puissance de calcul pour analyser des quantités importantes de contenu (par exemple, des heures de vidéo d’une personne, des milliers de photos d’une personne) en accordant une attention particulière aux principales caractéristiques du visage et au langage ou à la position du corps.
Ensuite, les connaissances acquises sont appliquées de manière algorithmique aux images ou aux cadres que l’on pourrait vouloir manipuler ou créer (par exemple, en superposant les mouvements des lèvres au contenu original [et en doublant le son] pour donner l’impression qu’une personne dit quelque chose qu’elle n’a en fait jamais dit). D’autres techniques telles que l’ajout d’artefacts (comme la perturbation transitoire qui pourrait apparaître comme normale ou fortuite), l’utilisation de masques ou de retouches pour améliorer le degré de réalisme sont également employées. Les produits résultants sont étonnamment convaincants. Si vous effectuez une recherche sur le Web pour trouver des exemples d’hypertrucages, il est probable que le degré d’authenticité de ces derniers vous surprendra. Voici quelques points importants à connaître pour protéger votre enfant d’une éventuelle victimisation par les hypertrucages et lui donner les moyens de distinguer la réalité de la fiction.
Comment repérer les hypertrucages
Les hypertrucages deviennent de plus en plus réalistes à mesure que la technologie progresse, mais leur détection nécessite souvent de rechercher attentivement certains éléments dans le contenu de la photo ou de la vidéo (p. ex., des yeux qui ne semblent pas cligner naturellement). Il peut être très utile d’effectuer un zoom avant et de rechercher des bords non naturels ou flous autour de la bouche, du cou, du col ou de la poitrine. C’est souvent à ces endroits que l’on constate des désalignements et des disparités entre le contenu d’origine et le contenu superposé.
Dans le cas de vidéos, il est possible de ralentir l’extrait vidéo et de rechercher des incohérences visuelles, telles que des problèmes de synchronisation labiale ou des mouvements saccadés. En outre, prêtez une attention particulière aux moments où le sujet ne manifeste pas d’émotion alors que son discours devrait en susciter, semble mal prononcer un mot ou présente d’autres divergences étranges. Enfin, la recherche d’images inversées sur des photos (ou une capture d’écran d’une vidéo) peut vous orienter vers la vidéo originale avant qu’elle ne soit retouchée. À ce stade, comparez soigneusement les deux éléments de contenu pour déterminer lequel a été manipulé. L’essentiel est que vous fassiez confiance à vos sens; lorsque nous prenons le temps de regarder et d’écouter attentivement un contenu, nous sommes généralement en mesure de sentir que quelque chose ne va pas.
Il est important de rappeler aux jeunes que tout ce qu’ils publient en ligne peut être utilisé pour créer un hypertrucage. Sur leurs comptes de médias sociaux, ils ont probablement créé une bibliothèque de contenus à laquelle d’autres personnes peuvent accéder et manipuler sans leur consentement. Leur visage, leurs mouvements, leur voix et d’autres caractéristiques peuvent être détournés et superposés à l’image de quelqu’un d’autre qui a un comportement susceptible de nuire gravement à sa réputation. Pour faciliter le dialogue à cet égard, voici quelques questions à leur poser sans porter de jugement et en faisant preuve de compréhension :
Les hypertrucages peuvent nuire au bien-être des jeunes si l’on considère les dommages émotionnels, psychologiques et à la réputation qu’ils entraînent. Alors que les incohérences auditives, visuelles et temporelles peuvent échapper à l’œil humain, des logiciels s’affinent pour identifier et signaler toute non-uniformité dans le contenu d’une image ou d’une vidéo. Alors que ces technologies continuent de s’améliorer, les parents, les tuteurs et les autres adultes au service des jeunes devraient les sensibiliser à la réalité des hypertrucages et s’efforcer de prévenir les conséquences de leur création et de leur diffusion. En outre, rappelez régulièrement à votre jeune que vous êtes toujours là pour l’aider à se sortir d’une situation d’hypertrucage (et, bien sûr, de tout autre préjudice subi en ligne).
- Est-il possible que tu aies accepté des individus qui pourraient éventuellement être en conflit ou en compétition avec toi?
- As-tu déjà été blessé(e) par quelqu’un dont tu n’aurais jamais pensé qu’il te ferait du mal? Cela pourrait-il se reproduire?
- Lorsque tu reçois de nouvelles demandes d’abonnements ou d’ajout à la liste d’amis, vérifies-tu leur profil pour t’assurer qu’elles sont légitimes? Peux-tu leur faire confiance?
- Les publications de tes amis ont-elles déjà été utilisées par quelqu’un d’autre sans autorisation? Cela pourrait-il t’arriver?
Les hypertrucages peuvent nuire au bien-être des jeunes si l’on considère les dommages émotionnels, psychologiques et à la réputation qu’ils entraînent. Alors que les incohérences auditives, visuelles et temporelles peuvent échapper à l’œil humain, des logiciels s’affinent pour identifier et signaler toute non-uniformité dans le contenu d’une image ou d’une vidéo. Alors que ces technologies continuent de s’améliorer, les parents, les tuteurs et les autres adultes au service des jeunes devraient les sensibiliser à la réalité des hypertrucages et s’efforcer de prévenir les conséquences de leur création et de leur diffusion. En outre, rappelez régulièrement à votre jeune que vous êtes toujours là pour l’aider à se sortir d’une situation d’hypertrucage (et, bien sûr, de tout autre préjudice subi en ligne).
RESSOURCES SUPPLÉMENTAIRES
The Jed Foundation
En savoir plus
