Relatório aponta riscos de vigilância em massa com Inteligência Artificial. Europa deve acelerar para criar regras

A Comissão especial do Parlamento Europeu sobre Inteligência Artificial na Era Digital adotou as recomendações finais do Relatório AIDA, e alerta para a possibilidade de perda de liderança europeia nesta área.

Machine Learning, bots e agentes inteligentes são apenas uma das componentes da Inteligência Artificial que tem a capacidade de mudar a forma como interagimos com os serviços, antecipando necessidades, assumindo tarefas repetitivas e tomando decisões pelos utilizadores. A grande preocupação é agora a ética e a necessidade de limitar a autonomia da IA.

Os riscos do desenvolvimento da Inteligência Artificial sem criação das regras e normalização das questões éticas e legais já tinham sido apontados por várias vezes mas são agora novamente sublinhados no Relatório da comissão AIDA (na sigla em inglês de Artificial Intelligence in a Digital Age).

O trabalho da comissão decorreu nos últimos 18 meses e avança com a proposta de um roteiro para a Inteligência Artificial na Europa até 2030, o relatório foi aprovado pela Comissão Especial com 25 votos a favor, 2 contra e 6 abstenções. Será votado pelo plenário em maio.

A comissão reconhece os benefícios da tecnologia para o desenvolvimento de áreas como a investigação em saúde, ambiente e também a nível da economia, mas aponta os riscos de potenciais ameaças aos direitos fundamentais, em especial à privacidade, com a possibilidade de vigilância massiva. São também destacados os desequilíbrios a favor de plataformas tecnológicas dominantes que representam "risco sistémicos para a democracia".

“A UE agora tem a possibilidade única de promover uma abordagem centrada no ser humano e confiável para a IA, com base em direitos fundamentais que gerem riscos, aproveitando ao máximo os benefícios que a IA pode trazer para toda a sociedade", afirmou o eurodeputado Axel Voss, relator do relatório AIDA. "Precisamos de um quadro jurídico que dê espaço à inovação e de um mercado único digital harmonizado com normas claras. Precisamos de investimento máximo e uma infraestrutura digital robusta e sustentável a que todos os cidadãos possam aceder”, acrescentou.

O atraso da Europa no desenvolvimento de soluções de IA, e do seu enquadramento, é também destacado no texto adotado. O documento alerta que a UE ficou para trás na corrida global pela liderança tecnológica e que existe o risco de que os padrões sejam desenvolvidos noutras regiões, muitas vezes por atores não democráticos, enquanto a UE precisa agir como um definidor global de padrões em IA.

"Os regimes autoritários aplicam sistemas de IA para controlar, exercer vigilância em massa e classificar seus cidadãos ou restringir a liberdade de movimentos. As plataformas de tecnologia dominantes usam-nas para obter mais informações sobre uma pessoa. Essa definição de perfis representa riscos para os sistemas democráticos, bem como para a salvaguarda dos direitos fundamentais", pode ler-se no documento partilhado.

Ainda assim a comissão não quer uma regulamentação que possa estrangular a inovação e recomenda que a intervenção regulatória seja proporcional ao tipo de risco associado ao uso de um sistema de IA de uma maneira específica.

Apesar dos riscos identificados, o relatório também se quer centrar na componente positiva da tecnologia. Os eurodeputados identificaram opções políticas que podem desbloquear o potencial da IA ​​na saúde, no ambiente e nas alterações climáticas, para ajudar a combater pandemias e a fome global, bem como melhorar a qualidade de vida das pessoas através da medicina personalizada. "A IA, se combinada com a infraestrutura de suporte necessária, educação e formação, pode aumentar a produtividade do capital e do trabalho, a inovação, o crescimento sustentável e a criação de empregos", indicam as conclusões.

Mesmo assim, o texto também enfatiza que as tecnologias de IA podem colocar questões éticas e legais cruciais e desafio de chegar a um consenso na comunidade global sobre padrões mínimos para o uso responsável da IA ​​e as preocupações com pesquisas militares e desenvolvimentos tecnológicos em sistemas letais de armas autônomas.