Os esquemas de phishing estão a ficar cada vez mais sofisticados, sendo ajudados por modelos de inteligência artificial, nomeadamente a utilização de grandes modelos de linguagem (LLMs). A especialista em cibersegurança Kaspersky alerta para esta realidade e aponta os sinais que deve procurar para saber se o texto e site foi gerado por IA ou criados manualmente.

A Kaspersky diz que, até agora, a maioria dos exemplos de phishing criados por IA, observados pela empresa, têm como alvo os utilizadores de carteiras de criptomoedas. Os investigadores da empresa detetam websites inteiramente construídos com IA com base em phishing e scam. Nestes websites, uma leitura atenta permite encontrar textos onde a IA utilizada na base, como o Gemini, se recusa na execução de comandos ou isenções de responsabilidades.

Veja na galeria imagens de exemplos da IA utilizada em campanhas de phishing:

A típica frase “Como um modelo de linguagem de IA”, o modelo explica que não consegue gerar o conteúdo pedido. Nos exemplos partilhados, o modelo recusa-se a atuar como motor de busca e noutro, este indica que não pode efetuar a autenticação em websites externos.

Segundo o investigador da Kaspersky, Vladislav Tushkanov, através dos LLMs, os hackers podem automatizar a criação de dezenas ou centenas de websites de phishing e burlas com conteúdo único e de alta qualidade. Antes era necessário um esforço manual, mas agora com a IA tudo é feito automaticamente. Não apenas criam blocos de texto, como websites completos. Mas muitas vezes são deixados os vestígios de texto de respostas dadas pelos modelos de IA no código HTML dos websites.

Os investigadores alertam para a utilização de certos termos nos textos que podem ser indicadores de conteúdos gerados por IA. Frases como “No reino dinâmico das criptomoedas”, “vamos mergulhar” ou “navegar nos mares das criptomoedas” podem indicar termos gerados automaticamente pela IA.

Pode ainda encontrar expressões relacionadas com atualizações do modelo, mas que são ofuscados no texto com símbolos Unicode para dificultar os sistemas e ferramentas de cibersegurança. A melhoria dos grandes modelos linguísticos dificulta a deteção e perceber se as frases são escritas por modelos de IA ou manualmente. Devem ser utilizadas soluções de segurança que analisem a informação textual com os metadados e outros indicadores que possam denunciar uma fraude.

De forma prática, deve verificar a ortografia das ligações ou se estas direcionam para um local diferente ao pretendido visitar. Deve também escrever o endereço no website à mão se desconfiar do email com um link.