AI Act: lei para regular inteligência artificial na UE com “luz verde” do Parlamento Europeu

Após a aprovação do Parlamento Europeu, seguem-se agora negociações com os Estados-Membros no Conselho da UE para decidir a versão final do AI Act, que vão começar ainda hoje. O objetivo é chegar a acordo até ao final deste ano.

Tek

Depois da aprovação de novas emendas, que traçam medidas mais “apertadas” requisitos adicionais para serviços como o ChatGPT, o Parlamento Europeu acaba de votar a proposta do AI Act, o quadro legal europeu para regular a utilização de inteligência artificial na União Europeia. A negociação do AI Act com os Estados-Membros da UE foi aprovada com 449 votos a favor, 28 contra e 93 abstenções.

Recorde-se que o AI Act estabelece obrigações, tanto para fornecedores como para utilizadores, tendo por base o nível de risco dos sistemas de IA. De acordo com a proposta, os sistemas de risco inaceitável são considerados uma ameaça e serão proibidos.

Como explica o Parlamento Europeu, entre estes sistemas de risco inaceitável estão aqueles que permitem uma manipulação cognitivo-comportamental de pessoas ou de grupos vulneráveis específicos, como crianças; sistemas de pontuação ou crédito social, à semelhança dos que existem em países como a China; além de sistemas de sistemas de identificação biométrica em tempo real e à distância.

Aqui incluem-se também sistemas preditivos de policiamento, que se baseiam em perfis, localização ou histórico de comportamentos criminosos; sistemas de reconhecimento de emoções por autoridades, no controlo de fronteiras, pelos locais de trabalho e instituições de ensino; assim como a recolha de imagens faciais da Internet ou de sistemas de videovigilância para criar bases de dados de reconhecimento facial.

Note-se, neste contexto, existem exceções: veja-se, por exemplo, os sistemas de identificação biométrica à distância “à posteriori”, onde a identificação só ocorre com um atraso significativo. O Parlamento indica que este tipo de sistema será permitido para levar crimes graves à Justiça, mas só após a aprovação de um tribunal.

Já os sistemas de alto risco são descritos como aqueles que afetam negativamente a segurança ou que impactam os direitos fundamentais. Aqui incluem-se os sistemas que são usados em produtos abrangidos por legislação europeia de segurança e aqueles que se enquadram em áreas específicas e que terão de ser registados numa base de dados da UE.

Em questão estão áreas como “identificação biométrica e categorização de pessoas singulares”; “gestão e funcionamento de infraestruturas críticas; educação e formação profissional”; ou “emprego, gestão dos trabalhadores e acesso ao trabalho por conta própria”.

Incluem-se também “acesso e usufruto de serviços privados essenciais e de serviços e benefícios públicos”; “aplicação da lei”; “gestão da migração, do asilo e do controlo das fronteiras”; e “assistência na interpretação jurídica e na aplicação da lei”.

Os sistemas de IA utilizados para influenciar eleitores e o resultado de eleições, assim como os sistemas de recomendações usados por redes sociais com mais de 45 milhões de utilizadores foram adicionados à lista de sistemas de alto risco.

Note-se que, de acordo com a proposta, os sistemas de IA que se enquadram nesta categoria terão de passar por avaliações antes de chegarem ao mercado e durante a totalidade do seu ciclo de vida.

Tendo em conta as recentes emendas feitas ao texto da proposta, o AI Act indica que sistemas de IA generativa, incluindo plataformas como o ChatGPT, têm de cumprir requisitos de transparência.

Nestes casos é exigido aos fornecedores destes sistemas que divulguem que os conteúdos foram gerados por IA; que concebam os modelos de modo a evitar conteúdos ilegais; e que publiquem relatórios sobre sobre os dados protegidos por direitos de autor que foram utilizados para treinar os modelos.

Por fim, os sistemas de IA com riscos limitados também devem cumprir requisitos mínimos de transparência, de modo a que os utilizadores possam tomar decisões informadas, avança o Parlamento Europeu.

Para apoiar a inovação na área da IA e apoiar as PME, foram adicionadas exceções a atividades de pesquisa e a componentes de IA disponibilizados sob licenças Open Source. O Parlamento Europeu detalha que o AI Act promove também a criação de "sandboxes" regulatórias estabelecidas por autoridades publicas para testar sistemas de IA antes da sua implementação.

Após a aprovação do Parlamento Europeu, seguem-se agora negociações com os Estados-Membros no Conselho da UE para decidir a versão final do AI Act, com o objetivo de se chegar a um acordo até ao final do ano, embora a Comissão Europeia admita que as novas regras só venham a entrar em vigor em 2025.

Nota de redação: A notícia foi atualizada com mais informação. (Última atualização: 12h27)