Uma nova investigação da Check Point Research revela que, um ano após o lançamento do ChatGPT, a utilização de IA generativa tornou-se o novo normal para muitos serviços no mundo do cibercrime, em particular, no que toca à falsificação de identidade e engenharia social. 

Os investigadores da empresa de cibersegurança apresentam quatro exemplos de serviços clandestinos russos que usam IA generativa como parte das suas ferramentas e plataformas ilícitas. 

No primeiro dos casos, que remonta a dezembro do ano passado, um hacker experiente, com estatuto oficial de vendedor num fórum de hacking russo, colocou à venda uma plataforma pronta a utilizar que usa IA para gerar conteúdo para redes sociais. 

Clique nas imagens para ver com mais detalhe 

De acordo com os investigadores, a plataforma pode ser usada para automatizar quase totalmente a manutenção de contas falsas em redes sociais e plataformas como Instagram, Facebook, X (antigo Twitter) e Telegram. Através desta plataforma são oferecidos dois modelos de negócios. 

No primeiro, o hacker e a sua equipa criam todas as contas necessárias nas redes sociais, gerando automaticamente conteúdo e promovendo-as para lhes dar mais visibilidade e uma sensação de maior autenticidade. No segundo, a plataforma é vendida tal como está e os compradores tratam da gestão de todas as contas. 

No segundo dos casos destacados pelos investigadores da Check Point Research, que remonta também ao final do ano passado, é descrito o surgimento de um serviço de deepfakes num importante fórum clandestino russo, com preços que vão dos 30 dólares aos 150 dólares por cada minuto ou 30 segundos de conteúdo gerado. 

A utilização destes serviços pode ter impacto na criação de perfis falsos nas redes sociais, mas também na falsificação de identidade de celebridades ou até de executivos de empresas. 

Já o terceiro caso detalha o lançamento de um serviço de spam alimentado por IA, mais especificamente pelo ChatGPT, que permitiu diversificar o texto das mensagens fraudulentas, gerando ainda uma maior taxa de sucesso para que os emails chegassem às caixas de correio das vítimas, afirmam os investigadores. Neste serviço, o preço de pacote de 100.000 emails de spam situava-se na ordem dos 1.250 dólares. 

Por fim, o quarto dos casos centra-se em torno de serviços falsificados de verificação KYC (Know Your Customer). Os procedimentos KYC são uma prática normal para as empresas da área dos serviços financeiros, devido à necessidade de maior segurança, redução de riscos e conformidade regulamentar, explicam os investigadores. 

Há todo um mercado clandestino com serviços KYC ilícitos, que envolvem, por exemplo, a criação de imagens de documentos falsos para verificação. Com o surgimento de novas ferramentas de IA, o processo de criação de documentos falsos acelerou significativamente.