Os deepfakes são uma diversão inofensiva ou uma arma de bullying?

Em julho de 2024, a BBC noticiou o caso de uma menina de 12 anos que se tornou vítima de uma nova forma de cyberbullying – o deepfake. Colegas de escola publicaram uma imagem alterada da garota no Snapchat. Usando ferramentas de IA, eles adicionaram seu rosto a uma imagem pornográfica, criando um deepfake. Seus colegas continuaram a repostar a foto, enquanto a vítima ficava cada vez mais traumatizada. Infelizmente, esse não é um caso isolado, pois os deepfakes são muito fáceis de criar e podem causar sérios problemas para suas vítimas.

O que são deepfakes?

Como você talvez já saiba, deepfakes utilizam deep learning (um subconjunto do aprendizado de máquina) para criar imagens, vídeos ou áudios extremamente realistas. Essa tecnologia imita a voz ou a aparência de uma pessoa e a sobrepõe a uma gravação ou imagem existente. Aplicativos e softwares de deepfake costumam ser fáceis e intuitivos de usar, criando ilusões convincentes. Embora isso possa ser positivo para diversos projetos criativos, também se tornou uma ferramenta atraente para agressores.

Versões simples de deepfakes podem ser criadas com aplicativos como FaceApp ou FaceSwap. Alguns deepfakes já se tornaram virais, como vídeos de figuras públicas, incluindo Elon Musk, Joe Biden e Volodymyr Zelensky. Muitos desses vídeos têm sido usados para disseminar fake news.

Como os deepfakes são usados

De acordo com um estudo da empresa de IA Deeptrace, 96% dos vídeos deepfake que circulam na internet são pornográficos e, frequentemente, não consensuais. Esse problema ainda não foi resolvido do ponto de vista legal. Além disso, os deepfakes têm sido usados como arma para prejudicar reputações e carreiras, mas pouca atenção é dada ao impacto dessa tecnologia nas crianças.

A facilidade de uso tornou os deepfakes uma ferramenta popular para o bullying. Por exemplo, o rosto de uma criança pode ser inserido em um videoclipe com danças sugestivas. O dano emocional e a humilhação resultantes podem afetar sua autoestima e seus relacionamentos na escola.

Por outro lado, os deepfakes também podem ter usos positivos. Com essa tecnologia, crianças podem se tornar estrelas virtuais em seus filmes ou jogos favoritos ou até mesmo "conhecer" seus ídolos. O Museu Dalí, na Flórida, utiliza deepfakes para criar uma experiência interativa em que uma representação realista do artista dá as boas-vindas aos visitantes.

Assim, embora os deepfakes possam estimular a criatividade e o engajamento, é essencial se manter informado e ensinar às crianças as precauções necessárias para evitar seu uso indevido.

Conversando com as crianças sobre deepfakes

1. Assista e discuta os deepfakes juntos

Comece pelo básico: veja o conteúdo junto com seu filho. Você pode se surpreender ao perceber que as crianças, por serem nativas digitais, já têm um olhar atento para identificar conteúdos falsos na internet. Direcione a conversa para temas como responsabilidade, consentimento e a importância de não usarem o rosto ou a voz de alguém sem permissão. Crie um ambiente seguro para que seu filho saiba que pode sempre recorrer a você ou às autoridades escolares caso sofra bullying por meio de deepfakes.

2. Aprenda a identificar deepfakes

Embora os deepfakes estejam se tornando cada vez mais difíceis de detectar, existem alguns sinais que podem ajudar. Fique atento a irregularidades como piscar dos olhos de forma não natural, descompasso entre o áudio e os movimentos labiais ou falhas visíveis perto da linha do cabelo e do rosto. Inconsistências na iluminação – como sombras desiguais ou reflexos diferentes nos olhos – também podem ser pistas. Além disso, avalie o conteúdo: se a mensagem parecer absurda ou manipuladora, pode ser um deepfake. Mas lembre-se de que, conforme a tecnologia avança, esses sinais podem se tornar mais sutis.

3. Incentive um comportamento online consciente

Converse com seu filho sobre a importância de ter cuidado ao compartilhar fotos e vídeos em grupos públicos. Explique que esse conteúdo pode ser facilmente manipulado para criar deepfakes e sugira alternativas para um comportamento online mais seguro. Recomende que ele compartilhe imagens apenas em grupos privados com amigos próximos ou familiares, reduzindo a exposição sempre que possível. Apresentar essas precauções como escolhas inteligentes e capacitadoras, em vez de restrições, pode gerar uma recepção mais positiva.

4. Explore e aprenda junto com seu filho

Embora você possa ensinar muito sobre deepfakes, seu filho também pode trazer novos conhecimentos. Talvez ele já use aplicativos como FaceApp ou FaceSwap e vocês possam criar vídeos inofensivos e divertidos juntos para entender melhor a tecnologia. Essa abordagem ajuda a criança a desenvolver um olhar crítico sobre o uso ético dos deepfakes.

5. Considere proteções adicionais

Se desejar uma camada extra de segurança, explore soluções tecnológicas que ajudam a monitorar e gerenciar riscos online para crianças, como os pacotes de segurança ESET HOME. Esses sistemas permitem monitorar os sites acessados pelas crianças por meio do controle parental, além de oferecer proteção de identidade online e criptografia de dados e fotos sensíveis.

Considerações finais

A tecnologia de deepfake possui um grande potencial e oferece diversas oportunidades criativas para as crianças. No entanto, também apresenta riscos que não devem ser ignorados. Para ser um guia digital mais eficaz para seus filhos, mantenha-se informado sobre os perigos, mas também incentive o uso criativo dessa tecnologia. Explique a importância da ética no uso de deepfakes e reforce que eles sempre podem buscar ajuda caso sejam vítimas de bullying.

Fonte: SaferKidsOnline.com