IA como viabilizadora de uma nova onda de cyberbullying?

No mundo digitalizado em que vivemos, as crianças não crescem apenas imersas em tecnologias, como também tem um domínio cada vez maior da inteligência artificial (IA). Embora a IA ofereça conveniência e eficiência, seu uso generalizado por parte das crianças também apresenta um novo conjunto de preocupações, nomeadamente o surgimento de esquemas de extorsão digital dirigidos aos cidadãos mais jovens da nossa sociedade. Desde plataformas de redes sociais até comunidades de jogos on-line, as ferramentas de IA se tornaram uma grande parte da vida das crianças, preparando o terreno para novas formas de uso indevido e dando às crianças uma nova ferramenta que pode ser usada de formas nocivas.

De acordo com um alerta recente do FBI, há uma tendência crescente de "sextorção", intensificada pela IA. As novas ferramentas e tecnologias, como os deepfakes e a clonagem de voz, oferecem uma nova oportunidade aos criminosos e agressores para encontrarem formas de extorquir e ferir outras pessoas.

Sextorção ocorre quando um agressor pressiona outras pessoas a realizarem atos sexuais ou compartilharem fotos ou vídeos explícitos, ameaçando expor informações embaraçosas sobre elas caso não o façam.

Os cibercriminosos perceberam que já se pode usar modelos de deepfake para criar novos vídeos, simulando se tratar de alguém real e, em seguida, pressionando a pessoa replicada no vídeo a fazer algo que, de outra forma, não teriam feito. Os modelos podem ser treinados com pouquíssimo material, facilitando muito seu uso indevido. Esses novos vídeos e fotos não são a pessoa que afirmam ser; no entanto, são suficientes para constranger a vítima e, assim, torná-la mais vulnerável. Isso cria margem para o criminoso usar o vídeo falsificado para exigir dinheiro ou informações.

Crianças criam pornografia deepfake

Sim, você leu corretamente. O rostinho dos seus filhos pode ser roubado e utilizado indevidamente por criminosos para criar todo tipo de conteúdo explícito. E não apenas isso – as crianças estão fazendo isso umas com as outras.

É bastante fácil descobrir como criar deepfakes e as crianças que entendem de tecnologia tiram de letra. Assim nasceu uma nova onda de cyberbullying. Algumas crianças (principalmente as mais velhas) descobriram que conteúdo explícito pode ser usado contra outras crianças. Também aprenderam alguns segredos da nova tecnologia e agora os utilizam para prejudicar uns aos outros.

Impactos emocionais

Algumas crianças podem até fazer isso por diversão, outras por curiosidade e algumas porque querem machucar colegas de classe. Mas uma coisa é certa: ser vítima de um esquema de sextorção é emocionalmente desgastante e muito difícil de “superar”.

Essa nova forma de cyberbullying adiciona um novo nível de preocupação para pais, educadores e profissionais de TI. As consequências para as crianças são muito mais graves do que se imagina. Desde traumas que podem durar anos até perda de confiança, incluindo também futuros empregadores e parceiros amorosos descobrirem o esquema ­– a lista de consequências a longo prazo continua.

Limites mais rígidos poderiam ser uma solução?

Alguns defendem a ideia de que a única possível solução para o problema como o que temos em questão seriam regras e regulamentos mais rigorosos, mencionando a necessidade de haver um requisito de idade superior para que as crianças não possam abrir contas nas redes sociais; outros pedem regras mais rígidas quando se trata da moderação de conteúdo.

O que os pais e responsáveis podem fazer?

1. Entenda o mundo em que seus filhos vivem – não havia redes sociais quando muitos de nós tínhamos a idade deles, mas eles estão se desenvolvendo em uma era completamente nova. Compreender o mundo que os cerca é fundamental para obter qualquer progresso.
2. Converse, converse, converse – há muito já se provou que regras estritas sobre o uso da tecnologia não funcionam. As crianças sempre encontram um jeito de acessá-la. Portanto, a melhor maneira é conversar e explicar os riscos e as desvantagens das mídias sociais, ou as consequências de etiqueta digital inadequada e de prejudicar outras pessoas on-line.
3. Seja o seu lugar de segurança – tanto o agressor como a vítima precisam de alguém com quem conversar. Ser uma pessoa segura e imparcial com seus filhos pode evitar muitos dos danos que possivelmente aconteceriam com eles, on-line e off-line.
4. Transmita-lhes o seu valor – uma autoestima saudável começa em casa. Se tiverem isso, não precisarão procurar validação em outros lugares.
5. Seus filhos nunca são jovens demais para começar a aprender sobre tecnologia – quanto mais tiveram familiaridade com o assunto, mais bem preparados estarão quando algo ruim acontecer. Você deve assumir o papel de guia e dar o exemplo de como usar a internet de forma adequada.

O aumento do cyberbullying, facilitado pelas ferramentas de IA, representa um problema nos dias de hoje. À medida que a tecnologia avança, pais e educadores precisam permanecer alertas e informados. Enfrentar problemas como a sextorção e o cyberbullying nunca foi fácil, mas para ter sucesso precisamos conversar com nossos filhos e garantir que entendam o lado bom e ruim da internet. Uma coisa é a criação de uma IA ética com regras para o seu uso adequado – outra grande tarefa é criar uma cultura de empatia, respeito e comportamento responsável, no mundo físico e no virtual. Seja um exemplo disso para seus filhos e ajude na criação de um espaço on-line mais seguro.

Autora: Alžbeta Kovaľová