Les hypertrucages en tant que forme de harcèlement
Par Sameer Hinduja et Justin W. Patchin
14 septembre 2023
Qu’est-ce qu’un hypertrucage?
Les hypertrucages semblent être apparus lorsque des communautés d’utilisateurs en ligne ont commencé à partager entre elles du faux contenu pornographique de célébrités. Ceux-ci sont créés à l’aide de logiciels d’intelligence artificielle capable de produire du contenu d’apparence incroyablement réaliste, comme des photos et des vidéos, destiné à être perçu comme réel. Les modèles d’apprentissage sont créés en utilisant la puissance de calcul pour analyser des quantités importantes de contenu, comme plusieurs heures de vidéo ou des milliers de photos d’une personne, en accordant une attention particulière aux principales caractéristiques du visage et au langage ou à la position du corps.
Ensuite, les connaissances acquises sont appliquées de manière algorithmique aux images ou aux cadres que l’on pourrait vouloir manipuler ou créer (par exemple, en superposant les mouvements des lèvres au contenu original [et en doublant le son] pour donner l’impression qu’une personne dit quelque chose qu’elle n’a en fait jamais dit). D’autres techniques telles que l’ajout d’artefacts (comme la perturbation transitoire qui pourrait apparaître comme normale ou fortuite), et l’utilisation de masques ou de retouches pour améliorer le degré de réalisme sont également employées. Les produits résultants sont étonnamment convaincants. Si vous effectuez une recherche sur le Web pour trouver des exemples d’hypertrucages, le réalisme de ces derniers risque de vous surprendre. Voici quelques points importants à connaître pour éviter que votre enfant soit victime d’hypertrucage et lui donner les moyens de distinguer la réalité de la fiction.
Comment repérer les hypertrucages
Les hypertrucages deviennent de plus en plus réalistes à mesure que la technologie progresse, mais leur détection nécessite souvent de rechercher attentivement certains éléments dans le contenu de la photo ou de la vidéo (p. ex., des yeux qui ne semblent pas cligner naturellement). Il peut être très utile d’agrandir l’image et de rechercher des contours flous ou peu réalistes autour de la bouche, du cou, du col ou de la poitrine. C’est souvent à ces endroits que l’on constate des désalignements et des disparités entre le contenu d’origine et le contenu superposé.
Dans le cas de vidéos, il est possible de ralentir l’extrait vidéo et de rechercher des incohérences visuelles, telles que des problèmes de synchronisation labiale ou des mouvements saccadés. En outre, prêtez une attention particulière aux moments où le sujet ne manifeste pas d’émotion alors que son discours devrait en susciter, semble mal prononcer un mot ou présente d’autres divergences étranges. Enfin, la recherche d’images inversées sur des photos (ou une capture d’écran d’une vidéo) peut vous orienter vers la vidéo d’origine, avant qu’elle ne soit retouchée. À ce stade, comparez soigneusement les deux contenus pour déterminer lequel a été modifié. L’essentiel est de faire confiance à ses sens; quand on prend le temps de regarder et d’écouter attentivement du contenu, on est généralement en mesure de détecter quand quelque chose cloche.
Il est important de rappeler aux jeunes que tout ce qu’ils publient en ligne peut être utilisé pour créer un hypertrucage. Sur leurs comptes de médias sociaux, ils ont probablement publié une panoplie de contenus que d’autres personnes peuvent consulter et modifier sans leur consentement. Leur visage, leurs mouvements, leur voix et d’autres caractéristiques peuvent être détournés et superposés à l’image de quelqu’un d’autre qui a un comportement susceptible de nuire gravement à leur réputation. Pour faciliter le dialogue à cet égard, voici quelques questions à leur poser sans porter de jugement et en faisant preuve de compréhension :
Les hypertrucages peuvent nuire au bien-être des jeunes si l’on considère les dommages émotionnels, psychologiques et à la réputation qu’ils entraînent. Alors que les incohérences auditives, visuelles et temporelles peuvent échapper à l’œil humain, des logiciels s’affinent pour identifier et signaler toute non-uniformité dans le contenu d’une image ou d’une vidéo. Alors que ces technologies continuent de s’améliorer, les parents, les tuteurs et les autres adultes au service des jeunes devraient les sensibiliser à la réalité des hypertrucages et s’efforcer de prévenir les conséquences de leur création et de leur diffusion. De plus, rappelez régulièrement à votre jeune que vous êtes toujours là pour l’aider à se sortir d’une situation d’hypertrucage (et, bien sûr, de tout autre préjudice subi en ligne).
- Est-il possible que tu aies accepté des personnes qui pourraient être en conflit ou en compétition avec toi?
- As-tu déjà été blessé(e) par quelqu’un que tu n’aurais jamais cru capable de te faire du mal? Penses-tu que cela pourrait se reproduire?
- Lorsque tu reçois de nouvelles demandes d’abonnements ou d’ajout à la liste d’amis, vérifies-tu leur profil pour t’assurer qu’elles sont légitimes? Peux-tu leur faire confiance?
- Les publications de tes amis ont-elles déjà été utilisées par quelqu’un d’autre sans leur autorisation? Penses-tu que cela pourrait t’arriver?
Les hypertrucages peuvent nuire au bien-être des jeunes si l’on considère les dommages émotionnels, psychologiques et à la réputation qu’ils entraînent. Alors que les incohérences auditives, visuelles et temporelles peuvent échapper à l’œil humain, des logiciels s’affinent pour identifier et signaler toute non-uniformité dans le contenu d’une image ou d’une vidéo. Alors que ces technologies continuent de s’améliorer, les parents, les tuteurs et les autres adultes au service des jeunes devraient les sensibiliser à la réalité des hypertrucages et s’efforcer de prévenir les conséquences de leur création et de leur diffusion. De plus, rappelez régulièrement à votre jeune que vous êtes toujours là pour l’aider à se sortir d’une situation d’hypertrucage (et, bien sûr, de tout autre préjudice subi en ligne).
RESSOURCES CONNEXES
The Jed Foundation
En savoir plus
