Deepfakes como formas de acoso

Sameer Hinduja y Justin W. Patchin

14 de septiembre de 2023

Dos personas colaboran mientras miran una computadora de escritorio en una oficina luminosa.

¿Qué es un deepfake?

El término "deepfake", que es una combinación entre "deep learning" (aprendizaje profundo) y "fake" (falso), parece tener su origen en las comunidades online de usuarios que empezaron a compartir entre sí pornografía falsa de famosos. Para crearlos, se utiliza un software de inteligencia artificial que produce contenidos fabricados con un aspecto increíblemente realista (por ejemplo, fotos y videos) con la intención de que parezcan reales. Se crean modelos de aprendizaje utilizando potencia de procesamiento para analizar cantidades significativas de contenido (por ejemplo, horas de video de una persona, miles de fotos de una persona) con atención específica a los rasgos faciales clave y al lenguaje o la posición corporal.

A continuación, lo aprendido se aplica de forma algorítmica a las imágenes o los cuadros que se quieran manipular o crear (por ejemplo, superponiendo los movimientos de los labios al contenido original y doblando el sonido para que parezca que una persona está diciendo algo que en realidad no dijo). También se emplean otras técnicas, como la adición de artefactos (como "glitching" que parece normal o incidental) o el uso de enmascaramiento/edición para mejorar el realismo, y el resultado es sorprendentemente convincente. Al realizar una búsqueda en la web de ejemplos de deepfake, es probable que nos sorprendamos de lo auténticos que parecen. A continuación, encontrarás algunos puntos importantes que debes conocer para proteger a tu hijo(a) si llegara a ser víctima de deepfake y enseñarle cómo separar la realidad de la ficción.

Persona hablando delante de una pantalla verde mientras un equipo filma con una cámara y un micrófono aéreo.

Cómo identificar deepfakes

Aunque los deepfakes son cada vez más realistas a medida que avanza la tecnología, para detectarlos hay que buscar con atención cierta información en el contenido de la foto o el video (por ejemplo, ojos que no parecen parpadear naturalmente). Puede ser muy útil ampliar la imagen y buscar bordes poco naturales o borrosos alrededor de la boca, el cuello o el pecho. Ahí es donde se suelen ver las inconsistencias y los errores de alineación entre el contenido original y el superpuesto.

En el caso de los videos, se puede bajar la velocidad del clip y observar si hay incoherencias visuales, como la posible sincronización de los labios o la fluctuación. Además, presta atención a cualquier momento en el que el sujeto muestre una falta de emoción cuando debería haberla en función de lo que está diciendo, parezca pronunciar mal una palabra o sea parte de cualquier otra discrepancia extraña. Por último, realizar una búsqueda inversa de las fotos (o una captura de pantalla de un video) puede llevarte al video original antes de que fuera manipulado. En ese momento, compara cuidadosamente los dos contenidos para determinar cuál es el que se modificó. La conclusión es que debes confiar en tus sentidos; cuando nos detenemos a mirar y escuchar con atención el contenido, generalmente podemos percibir cuando algo no está bien.

Primer plano de una persona con los labios pintados de un color brillante, que se cubre parte del rostro con el brazo.

Es importante recordar a los adolescentes que todo lo que publican online puede utilizarse para crear un deepfake. En sus cuentas de medios sociales, es probable que tengan creada una biblioteca de contenido que otras personas pueden ver y manipular sin su consentimiento. Su rostro, sus movimientos, su voz y otras características pueden ser objeto de apropiación y superposición en la imagen de otra persona, alguien que tiene un comportamiento que puede causar un gran daño a su reputación. Para facilitar la conversación sobre este tema, ofrecemos a continuación algunas preguntas para hacerle a tu hijo(a) de manera comprensiva y sin juzgar:

¿Es posible que hayas aceptado a algunas personas que, en un futuro, puedan tener un conflicto o estar en competencia contigo?
¿Alguna vez te hirió alguien que nunca pensaste que te haría daño? ¿Podría volver a ocurrir?
Cuando llegan nuevas solicitudes de seguidores o amigos, ¿revisas su perfil para asegurarte de que son legítimas? ¿Puedes confiar en ellos?
¿Alguna vez alguien utilizó las publicaciones de tus amigos sin su autorización? ¿Podría pasarte a ti?

Los deepfakes tienen el potencial de afectar negativamente el bienestar de los adolescentes si se tiene en cuenta el daño emocional, psicológico y de reputación que pueden infligir. Mientras que las incoherencias auditivas, visuales y temporales pueden pasar inadvertidas para el ojo humano, el software se está perfeccionando para identificar y señalar cualquier falta de uniformidad en el contenido de las imágenes o los videos. Mientras estas tecnologías siguen mejorando, los padres y madres, tutores y otros adultos al servicio de los jóvenes deben generar conciencia sobre la realidad de los deepfakes y trabajar para prevenir las consecuencias de su creación y distribución. Al mismo tiempo, recuérdale periódicamente a tu hijo(a) que siempre estás ahí para ayudar a superar cualquier situación de deepfake (y, por supuesto, de cualquier otro daño online que experimente).

FUNCIONES Y HERRAMIENTAS

Definir un límite de tiempo diario

Herramientas de supervisión en Instagram

Tomarte un descanso

Definir límites de tiempo

RECURSOS RELACIONADOS

Logotipo de la Fundación Jed, con la palabra "JED" en letras blancas dentro de un escudo azul.

The Jed Foundation