Por Samuel Cruz (*)

A inteligência artificial (IA) tornou-se nos últimos anos uma ferramenta cada vez mais importante para as empresas nas mais variadas áreas. Uma delas, a segurança dos seus dados. Com uma capacidade inimaginável por nós humanos de analisar grandes quantidades de dados, identificar padrões e anomalias e fazer previsões, a IA tornou-se uma arma para ajudar as empresas a detetar e responder a ameaças de segurança.

Uma das formas pelas quais a IA pode ajudar a melhorar a segurança é garantir a análise em tempo real de redes e sistemas. Monitorização em tempo real é o standard. Análise em tempo real é o futuro. Isto permite detetar e responder rapidamente a incidentes de segurança, reduzindo o risco de violações de dados e outros incidentes. Os sistemas baseados em IA também conseguem automatizar muitos dos processos manuais envolvidos na análise de segurança, permitindo que o IT se foque em tarefas de maior valor acrescentado. Ao analisar grandes quantidades de dados de uma ampla variedade de fontes, incluindo logs de rede, user behaviour e outros indicadores, um sistema de segurança baseado em IA pode inclusivamente identificar possíveis ameaças que ainda nem sejam conhecidas. Isso inclui detetar e responder a atividades maliciosas, como ataques de phishing, infeções por malware e outras formas de crime.

Por outro lado, embora a IA possa ajudar na batalha da segurança dos dados das empresas, é importante salientar que esta tecnologia também representa um risco significativo à segurança. Os algoritmos e sistemas que alimentam a IA são tão seguros quanto os dados nos quais são treinados estes modelos e, se estes dados forem comprometidos, o próprio sistema de IA pode tornar-se um alvo de ataque, ou o próprio atacante. Além disso, a complexidade dos sistemas de IA pode dificultar a sua proteção e pode ser um desafio detetar e responder a incidentes de segurança quando eles ocorrem.

Adicionalmente, a IA também pode ser usada para realizar ataques cibernéticos, nomeadamente se for manipulada de forma a fazer-se passar, por exemplo, por um utilizador legitimo de uma aplicação, uma vez que os modelos linguísticos que existem atualmente permitem que bots mantenham uma conversa por exemplo com um assistente de suporte, sem que esta perceba que está a falar com um robô. A IA chegou para ficar e vamos ter de aprender a viver com ela rapidamente.

(*) Wondercom - Direção de sistemas de informação