IA: Bruxelas vai apresentar regras mais “apertadas” e pode banir sistemas de vigilância massiva

A proposta, que deverá ser apresentada no próximo dia 21 de abril pretende banir o uso de certos sistemas de IA considerados de alto risco, assim como limitar a entrada na UE daqueles que não cumpram os seus requisitos. As empresas que não cumprirem as regras estabelecidas arriscam-se a multas avultadas até 20 milhões de euros.

A Comissão Europeia prepara-se para apresentar uma nova proposta para regular a utilização de Inteligência Artificial e que tem como objetivo atenuar os riscos da tecnologia, uma das prioridades da Presidência portuguesa do conselho.

De acordo com uma primeira versão da proposta, a qual o POLITICO teve acesso, Bruxelas pretende banir o uso de certos tipos de sistemas de IA considerados de alto risco, assim como limitar a entrada na UE daqueles que não cumpram os seus requisitos.

De acordo com a proposta, que deverá ser apresentada no próximo dia 21 de abril, as empresas que não cumprirem as regras estabelecidas arriscam-se a ser multadas até 20 milhões de euros, ou o equivalente a 4% das suas receitas. Além disso, pode ser requerido aos Estados-Membros que criem comitês de avaliação para testarem e validarem sistemas de IA de alto risco.

Em destaque na proposta está a proibição de sistemas de IA que prejudiquem os cidadãos e que manipulem o seu comportamento, opiniões e decisões ou que explorem as suas vulnerabilidades. Os sistemas de crédito social, tal como existem na China, serão proibidos, uma vez que vão contra os valores da EU.

Os sistemas de vigilância em massa com recurso a IA podem também ser banidos, embora existam exceções, como, por exemplo, na luta contra crimes graves. O uso de tecnologia de reconhecimento facial em espaços públicos será também limitado, necessitando de autorizações especiais. A Comissão Europeia quer ainda que os cidadãos sejam devidamente alertados quando estão a interagir com um sistema de IA.

Será criada uma lista de critérios de modo a verificar se os sistemas são ou não de alto risco, assim como um Comité Europeu para a Inteligência Artificial, que será composto por representantes de todos os Estados-Membros.

O plano europeu para a regulação de IA tem vindo a ser delineado há já algum tempo. Em fevereiro de 2020, Bruxelas apresentou a sua estratégia, afirmando que a tecnologia deve de ser certificada antes de chegar ao mercado, de modo a servir os interesses dos cidadãos e a garantir a sua segurança e a privacidade dos seus dados.

Na altura, a Comissão Europeia deu a conhecer que os casos de alto risco devem ser transparentes, rastreáveis e com a garantia de serem supervisionadas por humanos. Para aplicações de baixo risco, a Comissão incentivava à criação voluntária de um esquema de selo se estes estiverem alinhados com os altos padrões propostos.

Em outubro desse ano o Parlamento Europeu aprovou um novo conjunto de iniciativas legislativas, cabendo à Comissão Europeia apresentar uma proposta de lei sobre a regulação do uso de IA.

Já em janeiro deste ano, Pedro Siza Vieira, ministro da Economia, assegurou que, no âmbito da presidência portuguesa do Conselho da UE, seria proposta a primeira lei comunitária acerca da utilização de IA que garantisse o respeito pelos direitos humanos.

Discursando na comissão do Mercado Interno e da Proteção dos Consumidores do Parlamento Europeu sobre as prioridades da presidência portuguesa da UE, o ministro vincou que “as normas da sociedade e dos indivíduos devem ser respeitadas na área da inteligência artificial e nos algoritmos envolvidos”.