Deepfakes como forma de acoso
Sameer Hinduja y Justin W. Patchin
14 de septiembre de 2023
¿Qué es un deepfake?
El término “deepfake” combina los términos “deep learning” (aprendizaje profundo) y “fake” (falso). Se originó cuando las comunidades de usuarios en internet comenzaron a compartir contenido pornográfico de personas famosas. Para crear estas imágenes, se utiliza software de inteligencia artificial para producir contenido (por ejemplo, fotos y vídeos) con una apariencia increíblemente realista con la intención de que parezca real. Para crear los modelos de aprendizaje, se utiliza la potencia computacional para analizar cantidades significativas de contenido (por ejemplo, horas de vídeo o miles de fotos de una persona) prestando especial atención a la posición o el lenguaje corporal y las características faciales clave.
Luego, un algoritmo aplica este aprendizaje a las imágenes o fotogramas que se quieran manipular o crear; por ejemplo, superponiendo movimientos de labios sobre el contenido original (y doblando el sonido) para que parezca que una persona está diciendo algo que nunca ha dicho en realidad. También se emplean técnicas adicionales, como añadir artefactos (por ejemplo, un “glitch” que parezca normal o casual) o utilizar máscaras o ediciones para aumentar el realismo, y los resultados son sorprendentemente convincentes. Si buscas en la web ejemplos de deepfakes, te sorprenderá lo auténticos que parecen. A continuación, encontrarás puntos importantes que debes conocer para proteger a tus hijos frente a deepkakes y enseñarles a diferenciar la realidad de la ficción.
Cómo identificar los deepfakes
A medida que la tecnología avanza, los deepfakes son cada vez más realistas. A menudo, es posible detectarlos buscando minuciosamente determinada información en el contenido de la foto o el vídeo (por ejemplo, que los ojos no parpadeen de forma natural). Puede resultar muy útil acercar la imagen y buscar bordes borrosos o poco naturales alrededor de la boca, el cuello o el pecho. Así es como se suelen detectar las anomalías y las diferencias entre el contenido original y el superpuesto.
En los vídeos, se puede disminuir la velocidad del clip para buscar inconsistencias visuales, como posibles vibraciones o sincronizaciones labiales. Fíjate también en momentos en los que el sujeto debería mostrar alguna emoción por lo que está diciendo y no lo hace, en los que parezca que pronuncia mal una palabra o en los que ocurra cualquier otra discrepancia rara. Por último, realiza una búsqueda inversa de las fotos (o de una captura de pantalla, si se trata de un vídeo) para ver si hay un vídeo original antes de que se manipulara. En ese punto, compara detenidamente las dos piezas de contenido para identificar cuál se ha manipulado. La conclusión es que deberías confiar en tu intuición. Si nos paramos a observar y escuchar atentamente el contenido, podemos darnos cuenta de que algo no cuadra.
Es importante recordar a los adolescentes que todo el contenido que publican en internet puede utilizarse para crear un deepfake. Es probable que, en sus cuentas de medios sociales, tengan una biblioteca de contenido a la que otras personas pueden acceder y manipular sin su consentimiento. Pueden apropiarse de su cara, sus movimientos, su voz y otras características para superponerlas en el aspecto de otra persona que esté haciendo algo que pueda dañar en gran medida su reputación. Para promover una conversación en torno a este asunto, puedes hacerle estas preguntas de un modo cercano y libre de prejuicios:
Los deepfakes pueden poner en riesgo el bienestar de los adolescentes si se tiene en cuenta el daño emocional, psicológico y reputacional que pueden provocar. Es posible que el ojo humano no llegue a detectar inconsistencias temporales, visuales y auditivas, pero el software se está mejorando para identificar y marcar cualquier incoherencia en el contenido de imagen o vídeo. A medida que estas tecnologías siguen mejorando, los padres, tutores y adultos que tratan con jóvenes deben generar conciencia sobre la realidad de los deepfakes y trabajar para prevenir las consecuencias de su creación y distribución. Al mismo tiempo, no dejes de recordarle a tus hijos adolescentes que estás siempre a su disposición para ayudarles a lidiar con situaciones de deepfakes, así como con cualquier otra experiencia dañina que sufran en internet.
- ¿Es posible que hayas aceptado a gente con la que hayas tenido algún conflicto o que te consideren su competencia?
- ¿Alguna vez te ha hecho daño alguien que nunca pensaste que lo haría? ¿Podría pasar de nuevo?
- Cuando te sigue una persona nueva o alguien te envía una solicitud de amistad, ¿miras su perfil para comprobar que este es auténtico? ¿Puedes confiar en esa persona?
- ¿Alguna vez han utilizado las publicaciones de tus amigos sin consentimiento? ¿Podría pasarte a ti?
Los deepfakes pueden poner en riesgo el bienestar de los adolescentes si se tiene en cuenta el daño emocional, psicológico y reputacional que pueden provocar. Es posible que el ojo humano no llegue a detectar inconsistencias temporales, visuales y auditivas, pero el software se está mejorando para identificar y marcar cualquier incoherencia en el contenido de imagen o vídeo. A medida que estas tecnologías siguen mejorando, los padres, tutores y adultos que tratan con jóvenes deben generar conciencia sobre la realidad de los deepfakes y trabajar para prevenir las consecuencias de su creación y distribución. Al mismo tiempo, no dejes de recordarle a tus hijos adolescentes que estás siempre a su disposición para ayudarles a lidiar con situaciones de deepfakes, así como con cualquier otra experiencia dañina que sufran en internet.
RECURSOS RELACIONADOS
The Jed Foundation
Más información
