Fóruns online nos recantos obscuros da Internet estão já a utilizar inteligência artificial para fins maliciosos. De acordo com especialistas, as práticas verificadas em plataformas como o 4chan permitem perceber como a tecnologia pode ser implementada em campanhas de ódio e assédio online ao longo dos próximos meses ou anos.

Em declarações ao jornal The New York Times, Callum Hood, responsável da área de investigação do Center for Countering Digital Hate, afirma que plataformas como estas costumam funcionar como sinais de aviso sobre como novas tecnologias serão usadas para disseminar ideais extremistas.

Segundo o especialista, as plataformas em questão contam com muitos utilizadores jovens que adotam rapidamente novas tecnologias, à semelhança da IA, para levar as ideologias que defendem para espaços online mais mainstream. As suas táticas são mais tarde implementadas por utilizadores em plataformas online mais populares.

Nudes falsas manipuladas por IA são negócio lucrativo e cada vez mais divulgado nas redes sociais
Nudes falsas manipuladas por IA são negócio lucrativo e cada vez mais divulgado nas redes sociais
Ver artigo

Entre as ferramentas utilizadas incluem-se as que permitem “despir” outras pessoas através de IA para criar nudes falsas. A “clonagem” de vozes  com recurso a IA é outra das tendências preocupantes, permitindo por exemplo, imitar as vozes de figuras públicas e fazer com que as versões artificiais digam afirmações racistas, violentas ou xenófobas.

Há também quem aproveite para personalizar ferramentas de IA Open Source de forma a contornar os limites de segurança impostos pelos criadores originais, seja para disseminar conteúdo racista ou antissemita através de chatbots, ou para gerar imagens sexualmente explícitas.