Europa avança na lei da IA: mais proteção à discriminação, sanções adaptadas a PMEs e muitas clarificações

O conselho da União Europeia adotou uma posição comum sobre o texto que deve servir de base ao Artificial Intelligence Act. O documento define exceções, novas obrigações e clarifica vários temas, para que não subsistam dúvidas sobre o que se pode ou não fazer na UE nesta área.

Machine Learning, bots e agentes inteligentes são apenas uma das componentes da Inteligência Artificial que tem a capacidade de mudar a forma como interagimos com os serviços, antecipando necessidades, assumindo tarefas repetitivas e tomando decisões pelos utilizadores. A grande preocupação é agora a ética e a necessidade de limitar a autonomia da IA.

O Conselho da União Europeia fechou e aprovou uma posição sobre o conjunto de princípios que vão regular a inteligência artificial no espaço europeu. Com o acordo, o texto que resulta desta posição comum segue agora para as negociações com o Parlamento Europeu, passo anterior à redação final do Artificial Intelligence Act.

Como já se sabia, a UE quer que a segurança e o respeito pelos direitos fundamentais sejam asseguradas em todas as iniciativas de IA na região. Essas preocupações estão espelhadas num texto que tem a preocupação de definir o que é inteligência artificial, que práticas de IA são proibidas na Europa e o que se consideram sistemas de IA de elevado risco.

Neste contexto, faz-se uma distinção entre sistemas de IA e sistemas de software mais simples, restringindo IA aos sistemas desenvolvidos através de abordagens de machine learning e abordagens baseadas na lógica e no conhecimento.

Relativamente às práticas de IA proibidas, o texto estende aos atores privados a proibição de utilizar a IA para classificar alguém socialmente (já prevista no draft original). A proibição já prevista de uso da IA para explorar vulnerabilidades de um grupo específico de pessoas, passa a estender-se também às pessoas vulneráveis por causa da sua situação social ou económica.

Como já se previa na proposta original da CE, será proibida a utilização de sistemas de identificação biométrica à distância e em tempo real, em espaços acessíveis ao público pelas autoridades. Na versão agora aprovada pelo Conselho estão previstas exceções, em casos onde este recurso seja necessário para fazer cumprir a lei, mediante autorizações especiais para o efeito.

No que se refere à classificação de sistemas de IA de alto risco, também foram introduzidas algumas alterações ao texto de base, acrescentando “uma camada horizontal à classificação de alto risco, para garantir que os sistemas de IA sem probabilidade de violar direitos fundamentais, ou causar outros riscos significativos sejam visados”, explica uma nota de imprensa.

Os requisitos para a classificação como sistema de IA de alto risco foram também clarificados, acredita o conselho, de forma a torná-los tecnicamente mais fáceis de implementar e menos complexos de respeitar. Estas alterações têm a ver, por exemplo, com os requisitos referentes à qualidade dos dados, ou à documentação técnica que se exige às PME partilharem.

Tendo em conta a complexidade das cadeias de valor através das quais os sistemas de IA são desenvolvidos e distribuídos, o texto também inclui alterações para clarificar a atribuição de responsabilidades e papéis dos vários atores nessas cadeias e face ao resto da regulação já em vigor (como o RDPD), em particular por parte dos fornecedores e utilizadores de sistemas de IA.

Nesta versão pré-final, o texto do AI Act clarifica ainda como agir nos casos em que os sistemas de IA de propósito geral podem converter-se em sistemas de IA de alto risco, quando aplicados a um uso diferente. Entende-se que estes sistemas não devem à partida ser tratados como sistemas de alto risco. Nestas situações será feita uma análise às características do sistemas em questão e à cadeia de valor a que este se liga, para determinar as regras a aplicar.

Fica também salvaguardado que as regras do AI Act não se aplicam nas áreas da segurança nacional, defesa, militar ou investigação e que as multas a aplicar a PMEs e startups devem considerar a dimensão das empresas.

Define-se ainda que algumas entidades públicas utilizadoras de sistemas de IA de alto risco têm de registar-se na base de dados da UE para esse efeito, ou que os utilizadores terão de ser sempre informados, quando forem expostos a sistemas de IA que identifiquem emoções.

O texto agora aprovado pelos representantes dos países teve por base uma proposta de regulação apresentada pela Comissão Europeia em abril de 2021. Segue para as negociações no trílogo, depois de o Parlamento Europeu validar também uma posição comum.