5 ameaças de segurança da IA generativa que as empresas devem ter em conta

2 dez 2025 08:38

Os desafios de cibersegurança são cada vez maiores, com a Inteligência Artificial a ser usada como ferramenta para melhorar os ataques informáticos. Um eBook da Microsoft detalha as 5 ameaças a que as organizações devem estar atentas.

A mudança está em curso e a IA generativa está a mudar a forma como os hackers preparam os ciberataques mas também como as organizações se defendem, acelerando a deteção de ameaças em workflows automáticos e aumentando a segurança.

O relatório anual da Microsoft mostra que os ciberataques provenientes da Rússia, China, Irão e Coreia do Norte mais do que duplicaram. Estão a ser usadas ferramentas de IA para ataques informáticos e desinformação, com a tecnologia a traduzir emails de phishing para as línguas nativas, a gerar vídeos deepfake e a automatizar malware que se adapta em tempo real e consegue enganar os sistemas de defesa.

A inquietação é grande e 88% das organizações estão alerta, ou muito preocupadas, com ataques de injeção de prompts nas aplicações de IA generativa e 80% dos líderes a citarem a possibilidade de roubo de dados através de IA como um dos principais receios.

Um novo eBook desenvolvido pela Microsoft detalha as 5 ameaças da IA generativa que as organizações devem conhecer e como podem melhorar a sua cibersegurança para enfrentar os perigos de um ambiente imprevisível, onde a Inteligência Artificial consegue adaptara s respostas.

Os ataques de envenenamento (poisoning attacks), em que são manipulados os dados de treino dos sistemas de IA para distorcer os resultados e comprometer a precisão. O documento aponta ainda os ataques de evasão (evasion attacks) que seguem uma abordagem diferente, utilizando ofuscação ou prompts de jailbreak para inserir conteúdo prejudicial, contornando os filtros de IA.

Destaque ainda para os ataques de injeção de prompts, com instruções elaboradas para substituir as prompts originais, direcionando os modelos para ações não intencionais ou maliciosas.

No eBook são abordadas formas de reforçar a defesa, em termos de tecnologia e de preparação das equipas, reduzindo o risco através da adoção de uma abordagem abrangente e orientada pela inteligência que possa proteger todas as camadas do ambiente de cloud, incluindo armazenamento em cloud, bases de dados, contentores, modelos generativos de IA e cargas de trabalho de IA personalizadas.

O documento 5 Generative AI Security Threats You Must Know About pode ser descarregado do site da Microsoft.