Les deepfakes, une forme de harcèlement

Le terme anglais « deepfake » (« deep learning + fake ») semble avoir été inventé au moment où des communautés d’internautes ont commencé à partager entre elles de fausses vidéos pornographiques de célébrités. Les vidéos de ce type sont créées à partir de logiciels d’intelligence artificielle dans le but de générer un contenu fabriqué de toutes pièces à l’apparence incroyablement réaliste (comme des photos et des vidéos) avec l’intention de paraître réel. Des modèles d’apprentissage sont créés grâce à la puissance de calcul dans le but d’analyser d’énormes quantités de contenus (des heures de vidéo d’une personne, des milliers d’images d’un individu, par exemple) avec une attention particulière aux caractéristiques principales du visage, ainsi qu’au langage et à la position du corps.

Ensuite, les données apprises sont appliquées par des algorithmes aux images que l’on souhaiterait manipuler ou créer, avec superposition des mouvements des lèvres sur le contenu original (et doublage audio) afin de faire croire qu’une personne dit quelque chose qu’elle n’a en fait jamais dit. D’autres techniques, telles que l’ajout d’artefacts (comme le fait de rendre un problème normal ou secondaire) ou le recours au masquage/montage pour améliorer le réalisme, sont également utilisées et les contenus qui en découlent sont étonnamment convaincants. Si vous recherchez des exemples de deepfakes sur le Web, vous serez certainement surpris·e de l’authenticité apparente de ces contenus. Vous trouverez ci-dessous quelques points importants à connaître pour essayer de protéger votre enfant, de lui éviter d’être victime d’éventuels deepfakes et de l’aider à distinguer les faits réels de la fiction.

Alors que les deepfakes deviennent de plus en plus réalistes au fur et à mesure de l’avancée de la technologie, il est souvent nécessaire de rechercher attentivement certaines informations sur la photo ou dans la vidéo pour les détecter (par exemple, les yeux qui ne clignent pas de façon naturelle). Il est parfois très utile de zoomer et de rechercher des zones non naturelles ou floues autour de la bouche, du cou/col ou de la poitrine. C’est souvent là qu’il est possible d’apercevoir des problèmes d’alignement et des différences entre le contenu original et le contenu superposé.

Dans le cas des vidéos, vous pouvez ralentir le clip et rechercher des incohérences visuelles, telles qu’une éventuelle synchronisation des lèvres ou des décalages. Par ailleurs, surveillez les moments où le sujet montre peu ses émotions par rapport à des paroles qui devraient en susciter, où il semble écorcher un mot ou encore où il présente toute autre anomalie étrange. Enfin, en effectuant des recherches d’images inversées sur une photo (ou sur la capture d’écran d’une vidéo), il est possible de retrouver le contenu original avant qu’il n’ait été modifié. À ce stade, comparez minutieusement les deux contenus pour déterminer celui qui a été manipulé. En conclusion, vous devez vous fier à vos impressions ; lorsque nous prenons le temps de regarder et d’écouter très attentivement le contenu, nous arrivons généralement à détecter si quelque chose cloche.

Il est important de rappeler aux ados que tous les contenus qu’elles ou ils publient en ligne pourraient être utilisés pour créer des deepfakes. Ils ont certainement créé sur leurs comptes de réseaux sociaux une bibliothèque de contenus que les autres peuvent consulter et manipuler sans leur consentement. Leur visage, leurs mouvements, leur voix et d’autres caractéristiques peuvent être récupérés, puis superposés sur l’image d’une autre personne, quelqu’un affichant un comportement susceptible de porter gravement atteinte à leur réputation. Pour faciliter le dialogue à cet égard, voici quelques questions à leur poser dans le but de les comprendre, sans pour autant les juger :

• Aurais-tu accepté une personne qui, à un moment donné, a eu un conflit avec toi ou a été en concurrence avec toi ?
• As-tu déjà été blessé·e par quelqu’un dont tu pensais qu’elle ou il ne te ferait jamais aucun mal ? Est-ce que cette situation pourrait se reproduire ?
• Lorsque tu reçois de nouvelles demandes de la part de followers ou d’ami·es, est-ce que tu vérifies leur profil pour t’assurer de leur légitimité ? Peux-tu leur faire confiance ?
• Est-ce que certaines publications de tes ami·es ont déjà été utilisées par une autre personne de façon non autorisée ? Est-ce que cela pourrait éventuellement t’arriver ?

Les deepfakes peuvent nuire au bien-être des ados compte tenu des dommages émotionnels, psychologiques et en matière de réputation qu’elles peuvent causer. Si des incohérences sonores, visuelles et temporelles peuvent échapper à l’œil humain, les logiciels sont affinés en permanence pour identifier et marquer tous les problèmes d’uniformité au niveau de l’image ou de la vidéo. Au fur et à mesure de l’amélioration de ces technologies, les parents, les aidants et les autres adultes au service des jeunes doivent sensibiliser les ados à la réalité des deepfakes et s’efforcer d’empêcher les conséquences de leur création et de leur diffusion. Parallèlement, n’hésitez pas à rappeler régulièrement à vos ados que vous serez toujours là pour les aider à se sortir des situations délicates impliquant des deepfakes (et, bien évidemment, pour les protéger contre tout autre incident en ligne dont ils pourront être victimes).