Les hypertrucages comme forme de harcèlement

Les hypertrucages semblent être apparus lorsque des communautés d’utilisateurs en ligne ont commencé à partager entre elles du faux contenu pornographique de célébrités. Les hypertrucages sont générés à l’aide de logiciels d’intelligence artificielle capables de produire du contenu d’apparence hautement réaliste, comme des photos ou des vidéos, destiné à être perçu comme authentique. Les modèles d’apprentissage sont créés en utilisant la puissance de calcul pour analyser des quantités importantes de contenu, comme plusieurs heures de vidéo ou des milliers de photos d’une personne, en accordant une attention particulière aux principales caractéristiques du visage et au langage ou à la position du corps.

Les connaissances acquises sont ensuite appliquées par un algorithme aux images ou aux cadres que l’on souhaite manipuler ou créer, notamment en superposant les mouvements des lèvres au contenu original (avec un doublage sonore) pour donner l’impression qu’une personne dit quelque chose qu’elle n’a en fait jamais dit. D’autres techniques, telles que l’ajout d’artefacts (comme des « anomalies » discrètes qui semblent naturelles ou involontaires) ou l’utilisation de masques ou de retouches pour améliorer le degré de réalisme sont également employées. Étonnamment, le résultat est très convaincant. Si vous effectuez une recherche sur le Web pour trouver des exemples d’hypertrucages, vous serez probablement étonné(e) par leur réalisme. Voici quelques points importants à connaître pour éviter que votre enfant soit victime d’hypertrucage et lui donner les moyens de distinguer la réalité de la fiction.

Les hypertrucages sont de plus en plus réalistes à mesure que la technologie progresse, mais il est possible de les repérer en examinant attentivement certains détails sur les photos ou les vidéos, comme des yeux qui ne clignent pas de manière naturelle. Il peut être très utile d’agrandir l’image et de rechercher des contours flous ou peu réalistes autour de la bouche, du cou, du col ou de la poitrine. C’est souvent à ces endroits que l’on constate un décalage ou une incohérence entre le contenu d’origine et le contenu superposé.

Dans le cas de vidéos, il est possible de ralentir l’extrait vidéo et de rechercher des incohérences visuelles, telles que des problèmes de synchronisation labiale ou des mouvements saccadés. En outre, prêtez une attention particulière aux moments où le sujet ne manifeste aucune émotion alors que son discours devrait en susciter, où il semble mal prononcer un mot, ou à tout autre détail étrange. Enfin, la recherche d’images inversées sur des photos (ou une capture d’écran d’une vidéo) peut vous orienter vers la vidéo originale avant qu’elle ne soit retouchée. À ce stade, comparez soigneusement les deux contenus pour déterminer lequel a été modifié. L’essentiel est de faire confiance à ses sens; quand on prend le temps de regarder et d’écouter attentivement du contenu, on est généralement en mesure de détecter quand quelque chose cloche.

Il est important de rappeler aux jeunes que tout ce qu’ils publient en ligne peut être utilisé pour créer un hypertrucage. Sur leurs comptes de médias sociaux, ils ont probablement publié une panoplie de contenus que d’autres personnes peuvent consulter et modifier sans leur consentement. Leur visage, leurs mouvements, leur voix et d’autres caractéristiques peuvent être pris, puis superposés à l’image de quelqu’un d’autre ayant un comportement susceptible de nuire gravement à sa réputation. Pour faciliter le dialogue avec votre jeune, voici quelques questions que vous pouvez lui poser avec empathie et sans porter de jugement :

• Est-il possible que tu aies accepté des personnes qui pourraient éventuellement être en conflit ou en compétition avec toi?
• As-tu déjà été blessé(e) par quelqu’un que tu n’aurais jamais cru capable de te faire du mal? Penses-tu que cela pourrait se reproduire?
• Lorsque tu reçois une nouvelle demande d’abonnement ou d’ajout à la liste d’amis, vérifies-tu le profil de la personne pour t’assurer qu’elle est bien réelle? Peux-tu lui faire confiance?
• Les publications de tes amis ont-elles déjà été utilisées par quelqu’un d’autre sans leur autorisation? Penses-tu que cela pourrait t’arriver?

Les hypertrucages peuvent nuire au bien-être des jeunes si l’on considère les dommages émotionnels, psychologiques et à la réputation qu’ils entraînent. Alors que les incohérences auditives, visuelles et temporelles peuvent échapper à l’œil humain, des logiciels s’affinent pour identifier et signaler toute incohérence dans le contenu d’une image ou d’une vidéo. À mesure que ces technologies deviennent de plus en plus sophistiquées, les parents, tuteurs et autres adultes responsables des jeunes doivent les sensibiliser à la problématique des hypertrucages et travailler à limiter les risques associés à leur création et diffusion. De plus, rappelez régulièrement à votre jeune que vous êtes toujours là pour l’aider à se sortir d’une situation d’hypertrucage (et, bien sûr, de tout autre préjudice subi en ligne).