Lei da Inteligência Artificial pronta para votação no Parlamento Europeu em junho

A votação em plenário da nova lei europeia da inteligência artificial avança em junho, depois da aprovação esta quarta-feira de novas emendas, que traçam mais linhas vermelhas e acrescentam requisitos adicionais para serviços como o ChatGPT.

Estima-se que até 2023, as empresas vão investir em soluções de inteligência artificial para tornar os seus produtos e serviços mais inteligentes. A IDC afirma que um quarto das empresas G2000 vão adquirir pelo menos uma startup ligada a software de IA, de forma a ter os skills e propriedades intelectuais diferenciadoras. E deu exemplos: McDonalds, IKEA, Mastercard, Nike ou Walmart que já fizeram esse tipo de aquisições. Há ainda um conceito denominado por Edge IA ou intelligent edge que combina conectividade wireless avançada, capacidade de processamento compacto, e IA ligados aos equipamentos que usam e geram dados. A Deloitte prevê que em 2021 que o mercado de intelligent edge valha 12 mil milhões de dólares. O aumento será conduzido primariamente pelas empresas de telecomunicações e sua expansão das redes 5G, juntamente com a explosão dos fornecedores de cloud. Para a Gartner, a engenharia de IA vai facilitar a performance, escalabilidade e confiança nos modelos de inteligência artificial, demonstrando o real valor dos investimentos na tecnologia. Esta engenharia de IA oferece um caminho para tornar a inteligência artificial como parte do desenvolvimento mainstream, em vez de projetos especializados e isolados. Vão ainda ser dados importantes no aspeto da administração da IA, tornando-se mais responsável a lidar com assuntos como a confiança, transparência, ética, justiça, interpretação e conformidade.

Está dado mais um passo para a aprovação daquele que será o primeiro quadro legal a nível mundial, para regular a inteligência artificial. Os Comités do Mercado Interno e da Cidadania do Parlamento Europeu aprovaram com larga maioria (84 votos a favor, 7 contra e 12 abstenções) o texto-base, e um conjunto de emendas, ao regulamento da Inteligência Artificial. O AI Act segue agora para a votação em plenário, no Parlamento, que deverá acontecer entre 12 e 15 de junho.

Como já se previa, entre as novidades do texto legal passam a constar diretrizes para serviços como o ChatGPT. Como explica a nota de imprensa divulgada pelo PE, "modelos de IA generativa, como o GPT, terão de cumprir requisitos de transparência adicionais”. Entre eles, “revelar que o conteúdo foi gerado por IA, conceber o seu modelo de forma a evitar que gere conteúdos ilegais e publicar relatórios sobre os dados protegidos por direitos de autor utilizados para treinar o modelo”.

O texto aprovado pelos eurodeputados clarifica e aperta as regras sobre o controlo de sistemas de IA com impacto negativo para a segurança ou privacidade. O leque de contextos de utilização de IA considerados intrusivos e discriminatórios foi revisto, incluindo alguns pontos e aprofundando outros, face àquela que já tinha sido a posição aprovada pelo Conselho no final do ano passado.

A nova redação do AI Act, que será levada a votação em junho, prevê a proibição de sistemas de identificação biométrica à distância "em tempo real", em espaços acessíveis ao público, assim como o recurso a sistemas de identificação biométrica à distância "a posteriori". Neste ponto fica salvaguardada, como única exceção, a possibilidade de usar estes sistemas para fins de aplicação da lei, com autorização judicial expressa e só em situações que envolvam crimes graves.

Clarifica-se que o uso de sistemas que permitem a categorização biométrica não podem fazer uso de dados sensíveis (como género, raça, etnia, estatuto de cidadania, religião, ou orientação política) e que os sistemas de policiamento preditivo, baseados na definição de perfis, localização ou comportamento criminal anterior também não serão permitidos.

As emendas aprovadas clarificam ainda que não será permitido usar sistemas de IA que permitam a recolha indiscriminada de dados biométricos a partir de redes sociais, ou de imagens captadas por câmaras de videovigilância, para criar bases de dados de reconhecimento facial.

Na mesma lista de usos abusivos da IA são também incluídos os sistemas de reconhecimento de emoções, seja para aplicação da lei, gestão de fronteiras, uso em locais de trabalho ou instituições de ensino.

As emendas acrescentadas pelos eurodeputados alargam ainda as áreas com classificação de alto risco, para incluir as aplicações da IA que possam ter um impacto negativo na saúde, segurança, direitos fundamentais e ambiente. Na mesma classificação estarão os sistemas de IA destinados a influenciar eleitores em campanhas políticas e os sistemas de recomendação utilizados pelas grandes plataformas de internet, como as redes sociais, Esta disposição da lei só será aplicada às empresas visadas pela Lei dos Serviços Digitais, ou seja, àquelas que gerem mais de 45 milhões de utilizadores nessas plataformas.

Como forma de promover a inovação, explica-se que vão ser permitidas exceções a estas regras em contextos de investigação e para componentes de IA fornecidos ao abrigo de licenças de código aberto. A lei prevê a criação de "sandboxes" regulatórias para testar sistemas de IA, antes de serem implementados.

Depois da votação em plenário do texto que resulta das emendas acrescentadas na sequência das negociações no Parlamento Europeu, o draft do AI Act vai voltar às negociações com o Conselho para redação do texto final da lei.