Deepfakes como forma de assédio

O termo "deepfake" (combinação nos termos em inglês "aprendizado profundo + falso") parece ter surgido quando comunidades online de usuários começaram a compartilhar pornografia falsa de celebridades. Para criá-los, o software de inteligência artificial é usado para produzir conteúdo fabricado de aparência incrivelmente realista (por exemplo, fotos e vídeos) com a intenção de parecer verdadeiro. Os modelos de aprendizado são criados usando a capacidade de processamento para analisar grandes quantidades de conteúdo (por exemplo, horas de vídeo de uma pessoa, milhares de fotos de uma pessoa) com atenção específica às principais características faciais e linguagem/posição corporal.

Em seguida, o que é aprendido é aplicado como algoritmos a imagens/quadros que alguém pode querer manipular ou criar (por exemplo, sobrepondo movimentos labiais ao conteúdo original (e dublagem de som) para fazer parecer que uma pessoa está dizendo algo que na verdade nunca disse). Outras técnicas, como adição de artefatos (como "falhas" que parecem normais ou acidentais) ou uso de mascaramento/edição para melhorar o realismo, também são empregadas, e o resultado é surpreendentemente convincente. Se você pesquisar exemplos de deepfake na web, provavelmente se surpreenderá com a autenticidade deles. Veja abaixo alguns pontos importantes ao tentar proteger seu filho contra deepfake e ajudá-lo a separar fato e ficção.

Embora os deepfakes estejam se tornando cada vez mais realistas com o avanço da tecnologia, em geral é possível detectá-los observando cuidadosamente algumas informações na foto ou no vídeo (por exemplo, olhos que parecem não piscar naturalmente). Pode ser útil aumentar o zoom e procurar bordas não naturais ou desfocadas próximo a boca, pescoço/clavícula ou peito. Muitas vezes, essas regiões contêm desalinhamentos e incompatibilidades entre o conteúdo original e o sobreposto.

Em vídeos, é possível desacelerar o clipe e observar inconsistências visuais, como possível sincronização labial ou instabilidade. Além disso, preste atenção a momentos em que a pessoa demonstrar falta de emoção quando deveria haver emoção com base no que está sendo dito, parece pronunciar uma palavra incorretamente ou quaisquer outras discrepâncias estranhas. Por fim, a pesquisa de imagem reversa em fotos (ou uma captura de tela de um vídeo) pode levar ao vídeo original antes de ser adulterado. Nesse caso, compare cuidadosamente as duas partes do conteúdo para determinar qual delas foi manipulada. O ponto principal é que você deve confiar em seus sentidos. Ao desacelerar para olhar e ouvir atentamente o conteúdo, geralmente podemos perceber quando algo está errado.

É importante lembrar seus filhos de que tudo o que eles publicam online pode ser usado para criar um deepfake. Em suas contas nas redes sociais, eles provavelmente criaram uma biblioteca de conteúdo que outras pessoas podem acessar e manipular sem consentimento. O rosto, os movimentos, a voz e outras características podem ser apropriados e sobrepostos à imagem de outra pessoa envolvida em um comportamento que pode causar grandes danos à reputação. Para facilitar o diálogo relacionado a esse assunto, veja algumas perguntas para fazer de maneira compreensiva e sem julgamento:

• É possível que você tenha aceitado algumas pessoas com quem pode ter conflito ou rivalidade ao longo do tempo?
• Já sofreu prejuízo de alguém que você nunca imaginou? Pode acontecer de novo?
• Quando recebe solicitações de novos seguidores ou amigos, você verifica o perfil deles para conferir se são legítimos? Você pode confiar neles?
• Alguma publicação de seus amigos já foi usada por outra pessoa de maneira não autorizada? Isso pode acontecer com você?

Os deepfakes podem comprometer o bem-estar dos adolescentes devido aos danos emocionais, psicológicos e de reputação que podem causar. Embora inconsistências auditivas, visuais e temporais possam passar despercebidas pelo olho humano, os softwares estão sendo refinados para identificar e sinalizar falta de uniformidade no conteúdo de imagem ou vídeo. Conforme essas tecnologias continuam a melhorar, os pais, mães ou responsáveis, cuidadores e outros adultos que atendem os jovens devem aumentar a conscientização sobre a realidade dos deepfakes e evitar as consequências da criação e distribuição desse conteúdo. Ao mesmo tempo, lembre regularmente ao seu filho que você pode ajudar a encontrar uma saída em caso de deepfake (e qualquer outro dano sofrido online).